Best-of-N サンプリング読み: べすとおぶえぬさんぷりんぐ

Best-of-N サンプリングとは（詳しく解説）

Best-of-Nサンプリングは、推論時スケーリング手法の一つで、同じプロンプトに対してLLMが温度パラメータなどを変えながらN個の候補回答を並行生成し、報酬モデルや自己評価、多数決などの基準で最良の1件を選び出す。学習を追加せずに出力品質を底上げできる手法として広く採用されているとされる。ただし2026年時点の実運用では、Nを増やすほど推論コストがN倍近くまで積み上がる点が落とし穴になりやすい。API課金モデルのサービスではトークン単価×N回分のコストが直接効いてくるため、現場ではNを4〜8程度に抑えつつ、報酬モデルの精度とのバランスで打ち切るケースが多いとされる。相場感としては、精度が要求される要約・コード生成・数式推論タスクほどNを厚めに取り、チャット応答のようなレイテンシ重視の用途では採用を見送る選び方が現実的とされる。選定基準やコスト設計を誤ると、精度向上分よりAPI費用の増加が上回るため、タスクごとの費用対効果検証が欠かせない。

Best-of-N サンプリングの使用例

• コード生成タスクで同じプロンプトから5個の候補を生成し、テストの通過率が最も高いコードを自動選択する。
• 要約タスクでN=8の候補を生成し、報酬モデルのスコアが最上位だった1件を最終出力として採用する。

Best-of-N サンプリングに関連するAIツール