説明可能なAI（XAI）とは、AIが出した判断や予測の根拠を人間が理解できる形で提示する技術・手法の総称のこと。金融・医療・法務など高リスク分野での信頼性確保や規制対応に不可欠。
説明可能なAI (XAI)とは（詳しく解説）
説明可能なAI（XAI：eXplainable Artificial Intelligence）とは、AIシステムが下した判断・予測・推薦の根拠を、人間が理解・検証できる形で出力する技術および設計指針の総称。SHAP値、LIME、アテンションマップなどの手法が代表的で、ブラックボックス化しやすいディープラーニングモデルに対して「なぜこの判断をしたか」を後付けで説明する事後説明型と、解釈しやすいモデル構造そのものを使う内因型に大別される。 2026年時点の実運用では、EU AI Act（2024年施行）が高リスクAIシステムに説明責任を義務付けたことで、金融・医療・HR領域での導入コストが急増している。現場での落とし穴として、SHAP/LIMEは局所的近似であり「説明と実際の判断ロジックが一致しない」ケースが相次いで報告されており、XAIの出力を鵜呑みにした誤判断リスクが問題化している。相場感としては、既存システムへのXAI後付け実装で100〜500万円、エンタープライズ向けXAIプラットフォーム導入は年300万〜1000万円超が一般的。AI PICKSでの調査では、2026年現在、LLMの説明可能性は構造化データ系モデルより実装難易度が高く、チェーン・オブ・ソート（CoT）出力をXAIの代替として活用する現場も増加中。選び方のポイントは「規制対応目的か内部品質改善目的か」を先に確定させ、手法を分けること。
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「説明可能なAI (XAI)とは」 https://aipicks.jp/glossary/explainable-ai
説明可能なAI (XAI)の使用例
- この与信モデルがローン審査を否決した理由を、申込者に説明できる形でSHAP値を使って可視化してください。
- 医療AIの診断補助システム導入にあたり、EU AI Actの説明責任要件を満たすXAIレポートの設計方針を教えて。
