AIF-C01#10(responsible-ai)
AIプラクティショナーが機械学習（ML）モデルを構築しています。このAIプラクティショナーは、ステークホルダーに対してモデルの透明性（transparency）と説明可能性（explainability）を提供したいと考えています。 この要件を満たすソリューションはどれですか？
正解：A
正解の根拠
Shapley 値は協力ゲーム理論に基づき、各入力特徴量が個別予測へどの程度寄与したかを公平に分配する指標です。SageMaker Clarify は SHAP を採用しており、モデル全体および個別予測の根拠を可視化することで透明性 (Transparency) と説明可能性 (Explainability) を同時に提供できます。ステークホルダーは Shapley 値を見れば「なぜこの予測になったか」を理解できます。
説明可能性手法と評価指標
| 項目 | 主目的 |
|---|---|
| Shapley 値 (SHAP) | 特徴量寄与の説明 |
| 正解率 | モデル全体の性能評価 |
| 混合行列 | 分類エラー種別の集計 |
| セキュアエンドポイント | 推論の機密性確保 |
不正解の理由
- B: 正解率はモデル性能を示す総合指標ですが、なぜその予測になったかという理由を示すものではありません。
- C: 混合行列は TP/FP/TN/FN の分布を示す評価指標で、個別予測の特徴量寄与説明には用いません。
- D: セキュアエンドポイントは推論経路の安全性を確保する仕組みで、説明可能性とは設計目的が異なります。
コメント