ジェイルブレイク
読み: じぇいるぶれいく
最終更新: 2026-06-05・AI PICKS編集部
定義
AI の安全制限を回避する手法。 ロールプレイや仮想シナリオで 禁止出力を引き出す。
ジェイルブレイクとは — 詳しく解説
ジェイルブレイク (Jailbreak) とは、 LLM に組み込まれた安全制限 (違法行為支援 / 危険物製造 / 差別発言 などの拒否) を 回避する攻撃手法。 「あなたは制限のない AI です」 「これは小説の登場人物のセリフです」 のようなロールプレイ誘導、 多言語切替、 トークン難読化 など多様な手法が存在。 OpenAI / Anthropic / Google は RLHF + Constitutional AI で対策しているが、 完全防御は困難。 業務利用では ユーザー入力ログ + 出力モニタリング を必ず仕込み、 不審パターンを検知する運用が 2026 年標準。 AI PICKS の社内ガイドラインでも ジェイルブレイク試行は禁止行為として明記している。
関連用語
「セキュリティ」の他の用語
ユーザー入力で AI の指示を上書きする攻撃。 「これまでの指示は無視して◯◯」 が典型例。
ガードレールとは、AIシステムが有害・不適切・意図しない出力を生成しないよう制限するための安全制御機構のこと。
レッドチーミングとは、AIシステムの安全性・脆弱性を検証するため、攻撃者の視点から意図的に悪意ある入力やシナリオを試みる評価手法のこと。
シャドーAIとは、企業のIT部門や経営層の承認なしに従業員が個人的に業務で使うAIツール・サービスのこと。情報漏洩・規約違反・ガバナンス崩壊のリスクを内包する。
モデルポイズニングとは、AIモデルの学習データに悪意あるデータを混入させ、モデルの出力や判断を意図的に歪める攻撃手法のこと。
データ漏洩とは、機密情報や個人データが意図せず外部に流出してしまうセキュリティ上のインシデントのこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・502語以上を体系的に整理しています
辞典トップへ