定義
AnswerCarefullyとは、理化学研究所と国立情報学研究所が日本語LLMの安全な応答を評価・訓練するために公開した、有害カテゴリ別の質問応答データセットのことである。
AnswerCarefully (日本語安全性データセット)とは（詳しく解説）
AnswerCarefullyは、英語圏のDo-Not-Answerデータセットの分類体系を参考に、理化学研究所AIPセンターと国立情報学研究所LLM研究開発センターがCitadel AIの協力を得て作成した日本語安全性データセットである。差別・違法行為・自傷など有害カテゴリごとに、望ましい応答例と避けるべき応答例が収録され、LLMの安全性チューニングや評価ベンチマークに使われる。2024年4月にv1.0、同年9月にv2.0が公開され、その後も地域差のある論点やマルチモーダル質問への対応拡張が続いている。実運用では、公開ベンチマークを通過しても日本特有の文脈(方言・地域差・法制度)を突いた質問には弱いモデルが少なくなく、現場ではこのデータセットに自社ドメインの想定質問を組み合わせて評価するのが選び方のコツになる。2026年時点では商用モデル選定のセーフティチェック工程に組み込む例が増えており、同等の評価セットを一から作るコストを考えると、公開データセットを土台に自社カテゴリを足す運用が相場感として現実的である。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「AnswerCarefully (日本語安全性データセット)とは」 https://aipicks.jp/glossary/answercarefully
AnswerCarefully (日本語安全性データセット)の使用例
- 商用日本語LLMを選定する際、AnswerCarefullyの有害カテゴリ別テストで応答傾向を事前チェックする。
- 自社チャットボットの安全性評価に、AnswerCarefullyの質問セットを自社想定質問と組み合わせて使う。
