インフラ・学習

あーるえるえいちえふ

RLHFとは、人間の評価・フィードバックを報酬信号として活用し、LLMの出力を人間の意図に沿わせる強化学習手法のこと。

あーるえるえーあいえふ

RLAIFとはAIモデルが別のAIに評価・フィードバックを与え、強化学習でモデル品質を向上させる学習手法のこと。人間ラベラーを介さずスケーラブルにモデルを改善できる点が最大の特徴。

あてんしょん

入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。

えーあいあらいめんと

AIアライメントとは、 AI の出力や振る舞いを 人間の意図・価値観・安全基準に一致させる技術と設計プロセスのこと。

えーあいふぁくとりー

AIファクトリーとは、数万〜数十万基規模のGPUを集積し、大規模言語モデルの学習・推論に特化して設計された超大規模データセンターのことである。

えすじーらんぐ

SGLangとは、大規模言語モデル(LLM)の推論処理を高速化するために設計されたオープンソースの推論サーバフレームワークのこと。

えふぴーえいと

FP8とは8ビットの浮動小数点形式でAIモデルの数値を表現する量子化技術のこと。従来のFP32・BF16より演算速度と省メモリを両立し、大規模モデルの学習・推論コストを大幅に削減する。

えむえっくすえふぴーふぉー

MXFP4とは、4ビットの浮動小数点値をブロック単位の共有スケール係数と組み合わせて表現する軽量な数値量子化フォーマットのこと。

えむおーいー

MoE（混合エキスパート）とは、複数の専門サブネットワーク（エキスパート）を持ち、入力トークンごとに一部だけを活性化させるスパース型ニューラルネットワーク設計手法のこと。

えるえるえむおぷす

LLMOpsとはLLM（大規模言語モデル）の開発・評価・デプロイ・監視を一貫して管理するための運用基盤とプロセスの総称のこと。

おんでばいすえーあい

オンデバイスAIとは、クラウドサーバーへ送信せずデバイス本体（スマートフォン・PC・IoT機器など）上でAIモデルを直接推論・実行する技術のこと。

かがくしゅう

過学習とは、モデルが訓練データに適合しすぎて未知データへの汎化性能が著しく低下する現象のこと。

きかいがくしゅう

データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。

きゅーろーら

QLoRAとは、大規模言語モデルを4bit量子化した状態でLoRA(低ランク適応)を適用し、少ないGPUメモリでファインチューニングする軽量学習手法のこと。

きょうかがくしゅう

強化学習とは、エージェントが環境との試行錯誤を通じて報酬を最大化する行動を自律的に習得する機械学習手法のこと。ChatGPT・ClaudeのRLHFチューニングにも使われる基盤技術。

ぐるーぷそうたいほうさくさいてきか

GRPOとはグループ相対方策最適化のことで、強化学習を使ってLLMをファインチューニングする手法。複数の出力をグループ化し相対的な報酬で学習するため、従来のPPOより計算コストが低い。

ぐろっきんぐ

グロッキングとは、ニューラルネットワークが訓練データを暗記した状態のまま学習を続けた末に、ある時点で汎化性能が急激に向上する現象のこと。

けーぶいきゃっしゅ

KVキャッシュとは、LMの推論時に自己注意機構のキー（K）・バリュー（V）行列を再計算せずメモリ上に保持する高速化技術のこと。

けんぽうえーあい

憲法AIとは、AIモデルに「守るべき原則リスト（憲法）」を与えて自己批判と修正を繰り返させ、安全かつ倫理的な応答を引き出す訓練手法のこと。

ごうせいでーた

合成データとは、実データの統計的特性を模倣してAIが人工的に生成したデータのこと。個人情報保護や収集コストの削減を目的に、モデル学習・テスト用途で広く活用される。

じーきゅーえー

GQA（グループ化クエリ注意）とは、複数のクエリヘッドでKeyとValueをグループ単位で共有し、推論時のメモリ使用量と計算コストを抑える注意機構の一種のこと。

じごがくしゅう

事後学習 (Post-training) とは、 事前学習を終えた LLM に SFT や RLHF などを追加適用し、 対話性・指示追従性・安全性を高める仕上げ工程のこと。

じぜんがくしゅう

事前学習とは、大規模言語モデルをインターネット上の膨大なテキストデータで学習させ、汎用的な言語理解・生成能力を獲得させる訓練フェーズのこと。

じょうりゅう

蒸留とは、大規模な「教師モデル」の知識を小規模な「生徒モデル」に転移させ、軽量化・高速化を図る機械学習の手法のこと。

すけーりんぐそく

スケーリング則とは、モデルサイズ・データ量・計算量を増やすほどAIの性能が予測可能な形で向上するという経験則のこと。

でぃーぴーおー（ちょくせつせんこうさいてきか）

DPO（直接選好最適化）とは、報酬モデルを使わずに人間の選好データから直接LLMを最適化するファインチューニング手法のこと。

てぃーぴーゆー（てんそるしょりゆにっと）

TPUとはGoogleが開発したAI・機械学習専用のカスタムチップのこと。行列演算を高速化し、GPU比で数倍〜数十倍のスループットを実現する。

でぃーぷらーにんぐ

ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。

てんそるへいれつ

テンソル並列とは、巨大なニューラルネットワークの1層内の行列演算を複数のGPUに分割し、同時並行で計算させる並列化手法のこと。

とうきてきでこーでぃんぐ

投機的デコーディングとは、小さなドラフトモデルが先読みしたトークン列を大型モデルが並列検証することで推論速度を2〜4倍に高めるLLM高速化手法のこと。

とらんすふぉーまー

Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。

ふぁいんちゅーにんぐ

既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。

ぶいえるえるえむ（すいろんさーば）

vLLMとはオープンソースのLLM推論フレームワークのこと。独自のPagedAttentionアルゴリズムで高スループットを実現し、自社GPUサーバ上にOpenAI互換APIを構築できる。

ぶらっくうぇる

Blackwellとは、NVIDIAが2024年に発表した次世代GPUアーキテクチャの名称で、Hopper世代の後継として大規模AI学習・推論向けに設計された半導体基盤のこと。

ふらっしゅあてんしょん

FlashAttentionとはTransformerの注意機構をGPUメモリ階層を活かして高速・省メモリで実行するアルゴリズムのこと。長文脈処理の計算コストを大幅に削減する。

ぺふと

PEFTとは、大規模言語モデルの全パラメータを更新せず、LoRAなど少数パラメータのみを調整することで、低コスト・短時間でモデルを特定タスクに適応させる微調整手法群のこと。

ほうしゅうもでる

報酬モデルとは、人間のフィードバックを学習し、AIの出力がどれだけ望ましいかをスコアリングするモデルのこと。

めいれいちゅーにんぐ

命令チューニングとは、事前学習済みの大規模言語モデルに対して「指示→理想回答」形式のデータで追加学習を行い、ユーザーの指示に従う能力を後付けする手法のこと。

もでるまーじ

モデルマージとは、複数の学習済みAIモデルのパラメーター（重み）を数学的に統合し、追加学習のコストをかけずに異なる能力を一つのモデルへ合成する技術のこと。

もでるるーてぃんぐ

モデルルーティングとは、入力されたタスクの内容や難易度に応じて、複数のAIモデルの中から最適なモデルへ自動的に振り分ける仕組みのこと。

りょうしか

量子化とはAIモデルの重みパラメータを低ビット精度に圧縮し、推論速度の向上・メモリ使用量の削減を実現する技術のこと。

れんごうがくしゅう

連合学習とは、データを一箇所に集めずに各端末や組織のローカル環境でモデルを学習させ、更新した重みだけを共有してグローバルモデルを改善するプライバシー保護型の機械学習手法のこと。

れんぞくばっちんぐ

連続バッチングとは、LLM推論サーバーが個々のリクエストの完了を待たずに新規リクエストをトークン単位で随時差し込みながら処理する方式のこと。

ろーぷ（かいてんいちうめこみ）

RoPEとは、Transformer系のLLMでトークンの位置情報を回転行列によってQuery・Keyベクトルに埋め込む位置エンコーディング手法のこと。

ろーら

LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。