定義
パラメータ数とは、LLMなどのニューラルネットワークが学習によって獲得する重み(weight)の総数のことで、モデルの規模や性能の目安として使われる代表的な指標である。
パラメータ数 (Parameter Count)とは(詳しく解説)
パラメータ数とは、ニューラルネットワークの重み(weight)とバイアスの総数を指し、モデルの学習容量や表現力を測る代表的な指標として長らく使われてきた。数億から数兆規模まで幅があり、一般に数値が大きいほど複雑なパターンを学習できるとされるが、比例して推論に必要な計算資源とコストも増大する。2026年時点の実運用では、パラメータ数だけでモデルの実力を判断するのは危険だとされる。同程度のパラメータ数でも学習データの質やアーキテクチャの違いで性能差が大きく開くうえ、MoE(専門家混合)構成では総パラメータ数と実際の計算に使われるアクティブパラメータ数が異なるため、見かけの数値がそのままコストに直結しない。現場での選び方としては、公開ベンチマークのスコアやトークン単価などの相場感、レイテンシ要件を踏まえて用途ごとに使い分けるのが一般的とされる。小型モデルを自社データでファインチューニングし、コストと精度のバランスを取る運用も広がっている。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「パラメータ数 (Parameter Count)とは」 https://aipicks.jp/glossary/parameter-count
パラメータ数 (Parameter Count)の使用例
- 「130億パラメータのモデルと700億パラメータのモデル、精度とコストどちらを優先すべきか」という選定相談で使われる表現。
- 料金表に記載される「パラメータ数」表記を根拠に、モデルの推論コストや処理速度を見積もる際の指標として参照される。