定義
Constitutional Classifiersとは、あらかじめ定めた「憲法」的ルールに沿って入出力を分類し、有害なプロンプトやジェイルブレイクを検知してブロックする防御用分類器のこと。
Constitutional Classifiers (憲法分類器)とは（詳しく解説）
Constitutional Classifiersは、モデルの入出力を「許容される/されない」の基準（憲法）に沿って学習した分類器でフィルタリングし、脱獄（ジェイルブレイク）プロンプトや有害生成を防ぐ仕組みとされる。入力側と出力側の双方に分類器を配置し、通常のリクエストは通しつつ攻撃パターンのみを検知するのが標準的な構成とされる。2026年時点の実運用では、誤検知（過剰ブロック）によって正当な利用まで弾かれるケースや、分類器自体の追加推論がレイテンシとコストを押し上げる点が課題として挙げられている。現場での選定では、既存のガードレールやモデレーションAPIとの重複を避け、自社のリスク許容度に応じて検知閾値を調整できるか、誤検知時のログ確認・チューニング体制を用意できるかが判断基準になるとされる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「Constitutional Classifiers (憲法分類器)とは」 https://aipicks.jp/glossary/constitutional-classifiers
Constitutional Classifiers (憲法分類器)の使用例
- 入力分類器: 明らかに有害な指示を含むプロンプトを検知し、モデルへの到達前にブロックする。
- 出力分類器: 生成された回答に有害情報が紛れていないかをリアルタイムで検査し遮断する。
