定義
推論トークンとは、大規模言語モデルが最終回答を出す前に内部で組み立てる思考過程(チェーン・オブ・ソート)に消費されるトークンのことで、出力トークンとして課金対象になる。
推論トークン (Reasoning Tokens)とは(詳しく解説)
推論トークンは、OpenAIのoシリーズやClaudeの拡張思考(extended thinking)、Geminiのthinkingモデルなどが、最終的な回答を生成する前に内部で組み立てる思考過程で消費されるトークンを指す。ユーザー画面には要約のみが表示され詳細な思考過程が見えないことも多いが、課金上は出力トークンとして扱われるため、想定より会話コストが膨らみやすい点が実運用での落とし穴とされる。2026年時点では各社ともreasoning_effortや思考予算(thinking budget)といったパラメータで推論の深さを調整できるようにしており、現場ではタスクの難度に応じてこの設定を絞り、コストと精度のバランスを取る運用が広がっているとされる。単純な作業に高い推論強度を割り当てると、相場感として費用だけが増えて応答品質の向上は限定的になりやすい点も、モデルや設定を選ぶ際の注意点とされる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「推論トークン (Reasoning Tokens)とは」 https://aipicks.jp/glossary/reasoning-tokens
推論トークン (Reasoning Tokens)の使用例
- 複雑な数学証明や多段階の推論が必要なタスクでは、推論トークンの消費量が増え応答時間もコストも伸びやすいとされる。
- APIのreasoning_effortパラメータを「low」に設定すると、推論トークンを抑えて応答速度とコストを優先できる。