定義
ガードモデルとは、LLMへの入力や出力を監視し、有害なプロンプトや不適切な回答を検知・ブロックする専用の小型AIモデルのこと。
ガードモデル (Guard Model)とは（詳しく解説）
ガードモデルは、大規模言語モデル(LLM)を用いたシステムにおいて、プロンプトインジェクションや有害コンテンツ生成、個人情報の漏洩といったリスクを軽減するために、メインのLLMとは別に入力・出力をチェックする補助的なモデルを指す。Llama GuardやNeMo Guardrailsのような分類器型のモデルが代表例で、ルールベースのフィルタリングよりも文脈を踏まえた判定ができる点が特徴とされる。2026年時点の実運用では、ガードモデル自体の誤検知(false positive)によって正当な質問まで弾かれ、ユーザー体験を損なうケースが課題として指摘されている。また、メインモデルへの問い合わせに加えてガードモデルの呼び出しが発生するため、レイテンシとAPIコストが二重にかかる点も現場での悩みどころだ。選定にあたっては、自社のリスク許容度に応じて、汎用の商用ガードレールサービスを使うか、自社データでファインチューニングした軽量モデルを内製するかを、精度とコストのバランスを見ながら判断する必要があるとされる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「ガードモデル (Guard Model)とは」 https://aipicks.jp/glossary/guard-model
ガードモデル (Guard Model)の使用例
- チャットボットへの入力にガードモデルを通し、個人情報を含む質問や攻撃的なプロンプトを事前にブロックする構成が一般的とされる。
- 生成AIの出力をガードモデルで再チェックし、差別的表現や誤情報が含まれていないか確認してから配信する運用が広がっているとされる。
