定義
セマンティックエントロピーとは、 同一の問いに対する LLM の複数回答を意味単位でクラスタリングし、 そのばらつきの大きさからハルシネーションの可能性を検知する指標のこと。
セマンティックエントロピー (幻覚検知指標)とは（詳しく解説）
セマンティックエントロピーは、 2024 年に Nature 誌で発表されたハルシネーション検知の指標で、 同じ質問に対して LLM から複数回答をサンプリングし、 回答同士が意味的に同じ主張かどうかを自然言語推論でクラスタリングした上で、 クラスタの分布からエントロピー (ばらつき) を算出する。 クラスタが割れる (エントロピーが高い) ほど、 モデルが 「でっち上げ」 (confabulation) をしている可能性が高いと判断できるとされる。 表層的な言い回しの違いに惑わされず意味の一貫性を測れる点が、 単純な自己一貫性チェックより優れるとされる。 一方、 2026 年時点の実運用では 1 回の応答に対し 5〜10 回の追加生成 + NLI 分類が必要でレイテンシとコストが重く、 リアルタイム応答への組み込みは難しいという落とし穴がある。 現場では全リクエストへの適用でなくバッチ品質監査や高リスク領域限定のガードレールとして採用されることが多く、 相場感としては RAG による裏付け確認と併用する構成が主流とされる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「セマンティックエントロピー (幻覚検知指標)とは」 https://aipicks.jp/glossary/semantic-entropy
セマンティックエントロピー (幻覚検知指標)の使用例
- 同じ質問を temperature を上げて 5〜10 回生成し、 NLI で意味クラスタ化してエントロピーを算出する実装が一般的。
- 医療 / 法律など高リスク領域の QA システムで、 回答前のガードレール判定として使われることがある。
