定義
学習データ抽出攻撃とは、巧妙なプロンプトでLLMに訓練データの断片を再現させ、含まれる個人情報や機密情報を抜き出す攻撃手法のこと。
学習データ抽出攻撃 (Training Data Extraction)とは（詳しく解説）
学習データ抽出攻撃は、モデルに繰り返しプロンプトを与えることで、訓練データに含まれていた文章やコード、個人情報を逐語的に再現させ復元する手法で、大規模言語モデルの記憶（メモリゼーション）現象を悪用する点が業界標準の定義とされる。2026年時点の実運用では、社内文書をRAGやファインチューニングで取り込んだ独自LLMほどこのリスクが高く、現場では出力フィルタリングや差分プライバシー、アクセスログ監査といった多層防御の組み合わせが求められる。対策コストは一律ではなく、既存モデルにガードレールを追加する程度なら低コストで済む一方、差分プライバシー学習を最初から設計に組み込む場合は再学習コストが跳ね上がるため、扱うデータの機密度に応じて防御レベルを選ぶのが現場の相場感だ。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「学習データ抽出攻撃 (Training Data Extraction)とは」 https://aipicks.jp/glossary/training-data-extraction
学習データ抽出攻撃 (Training Data Extraction)の使用例
- 同じ単語を何百回も繰り返すよう指示し、モデルが学習データの一部をそのまま出力してしまう挙動を誘発する手法。
- 文章の冒頭だけ与えて「続きを教えて」と促し、学習データに含まれる原文を逐語的に補完させようとする手法。
