定義
アクティブパラメータとは、モデル全体のパラメータのうち推論の1回の計算で実際に使われる部分のことで、MoE型LLMの計算コストを測る指標である。
アクティブパラメータ (Active Parameters)とは(詳しく解説)
アクティブパラメータは、Mixture of Experts(MoE)型のLLMにおいて、総パラメータ数のうち1トークンの推論時に実際に計算へ使われる部分を指す。DeepSeekのような大規模MoEモデルは総パラメータが数千億規模でも、アクティブパラメータは数百億程度に抑えられており、これが低コストな推論を可能にする設計上の要になっている。2026年時点の実運用では、総パラメータ数だけを見て性能やコストを判断すると見誤りやすく、現場でモデルを選ぶ際はアクティブパラメータ数とVRAMやAPI課金の相場感を併せて確認することが重要とされる。特にオンプレ運用ではアクティブパラメータ数がGPUメモリ帯域の負荷に直結するため、コスト最適化の観点で総パラメータ数以上に重視されつつある指標である。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「アクティブパラメータ (Active Parameters)とは」 https://aipicks.jp/glossary/active-parameters
アクティブパラメータ (Active Parameters)の使用例
- 「DeepSeekのアクティブパラメータは全体の何%か」のように、MoEモデルの効率性を比較する際に使うプロンプト例。
- 「アクティブパラメータ数が近いモデル同士でAPI料金を比較して」と依頼し、コスト重視のモデル選定に使う例。