定義
スケーリング則とは、モデルサイズ・データ量・計算量を増やすほどAIの性能が予測可能な形で向上するという経験則のこと。
スケーリング則 (Scaling Laws)とは(詳しく解説)
スケーリング則とは、大規模言語モデル(LLM)において、パラメータ数・学習データ量・計算コスト(FLOPs)の3要素を増大させると、損失関数がべき乗則的に改善されるという実証的な法則。2020年にOpenAIが発表した「Scaling Laws for Neural Language Models」で定式化され、GPT-4やGemini Ultra等の超大規模モデル開発の理論的根拠となった。 2026年現在の実運用での落とし穴として、「スケールすれば必ず賢くなる」という思い込みがある。実際には推論能力・コード生成・数学的推論はスケールで改善しやすい一方、ハルシネーション抑制・最新知識の反映・特定ドメイン精度はスケールだけでは解決しない。現場ではむしろfine-tuningやRAGの組み合わせが費用対効果で勝るケースが多い。 コスト面では、モデルを10倍スケールすると学習コストは約100倍に膨れ上がる。AI PICKSが調査した2026年の相場感では、GPT-4o相当の推論コストは1年前比で約1/5に下がったが、最大規模モデルの学習費用は1回あたり数十億円規模。スタートアップが自前でスケールを追うより、既存APIを活用する判断が現場では主流になっている。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「スケーリング則 (Scaling Laws)とは」 https://aipicks.jp/glossary/scaling-laws
スケーリング則 (Scaling Laws)の使用例
- GPT-3から4への移行で推論精度が大幅改善したのはスケーリング則の典型例。パラメータ数が約10倍になり、複雑な指示への追従率も劇的に向上した。
- 自社LLM構築を検討中のスタートアップがスケーリング則を誤解し、小モデルをfine-tuningする代わりに大規模学習に投資して数千万円を無駄にした事例がある。