定義
推論原価とは、AIモデルが応答を1回生成するたびに発生するトークン処理・GPU利用料等の計算コストを指す、AIサービスの原価管理指標のこと。
推論原価 (AI原価率・COGS)とは（詳しく解説）
推論原価とは、LLM APIやセルフホスト環境でAIモデルが1リクエストを処理する際にかかるコストの総称で、入出力トークン数×単価、GPU/インスタンス稼働時間、キャッシュ有無などで決まるとされる。SaaSの粗利率（COGS）を左右する重要指標であり、月額固定料金のプランでも裏側では従量課金のAPIコストが発生するため、利用が急増すると原価率が想定以上に膨らむ落とし穴がある。2026年時点の実運用では、高性能モデルから廉価モデルへの使い分け、プロンプトのトークン圧縮、キャッシュ活用、バッチ処理による単価低減が現場でのコスト最適化の定石とされ、モデル選定時の相場感を把握しておくことが重要とされる。精度とコストのトレードオフを見極め、ユースケースごとに最適なモデルサイズを使い分ける運用が広く採用されている。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「推論原価 (AI原価率・COGS)とは」 https://aipicks.jp/glossary/ai-cogs
推論原価 (AI原価率・COGS)の使用例
- 月間想定トラフィック×トークン単価で月次AI原価を試算し、SaaS価格設計や無料枠の上限設定に反映する使い方が一般的とされる。
- プロンプト例:「この機能の月間呼び出し回数とトークン数から、推論原価と粗利率を概算して」
