定義
自動ジェイルブレイク生成（GCG）とは、勾配情報を使ってLLMの安全制限を回避するプロンプトを自動探索する攻撃手法のこと。
自動ジェイルブレイク生成 (GCG)とは（詳しく解説）
自動ジェイルブレイク生成（GCG: Greedy Coordinate Gradient）とは、LLMの出力層に対する勾配情報を使い、安全性チューニングを回避する接尾辞（アドバーサリアルサフィックス）を自動的に探索する攻撃手法。2023年に発表された研究が起点とされ、内部構造にアクセスできるオープンウェイトモデルで生成した攻撃文字列が、構造の異なる商用APIモデルにも一定確率で転用（転移）できる点が脅威とされる。2026年時点の実運用では、RLHFや入力フィルタなど防御側の対策も強化されており、突破可能な攻撃文字列を探索する計算コストは以前より増大しているとされる。現場でのAI安全対策の選び方としては、単一の防御に頼らず、入力フィルタリング・出力モニタリング・レッドチーム演習を組み合わせた多層防御が標準とされ、GCG系攻撃への耐性テストをセキュリティ監査項目に含める例が相場感として広がっているとされる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「自動ジェイルブレイク生成 (GCG)とは」 https://aipicks.jp/glossary/gcg-attack
自動ジェイルブレイク生成 (GCG)の使用例
- 研究論文で示された手法は、通常なら拒否応答となるはずのプロンプト末尾に、一見無意味な文字列を付加して出力を誘導するというもの。
- オープンウェイトモデルで探索した攻撃文字列を、構造の異なる商用チャットAIにそのまま転用する「転移攻撃」も報告されている。
