AIF-C01#47(fundamentals-ai-ml)
ある金融会社が、新規顧客の利用限度額（クレジットライン）を決定するために生成AIモデルを使用しています。この会社は、モデルの意思決定プロセスを顧客に対してより透明（transparent）なものにしたいと考えています。 この要件を満たすソリューションはどれですか？
正解：B
正解の根拠
説明可能 AI (XAI) は、モデル決定にどの特徴量がどの程度寄与したかを可視化する技術群で、SHAP や Partial Dependence Plot が代表的です。SageMaker Clarify が訓練・推論時の説明性レポートを提供しており、与信判断のような責任ある AI の透明性要件に直接対応できます。
透明性アプローチ比較
| 手段 | 効果 |
|---|---|
| XAI (SHAP 等) | 判断要因を顧客に可視化 |
| ルールベース | 柔軟性低く生成 AI の長所喪失 |
| UI 改善のみ | 判断根拠の説明を提供しない |
| 精度向上 | 透明性そのものは増加しない |
不正解の理由
- A: ルールベースへの完全置換はモデル能力を失わせ、ML/生成 AI の利点を捨てる過剰な対応です。
- C: UI を作っても判断根拠の特徴量寄与を示さなければ透明性向上には繋がりません。
- D: 精度向上はモデルの正答率の問題で、判断根拠を顧客へ説明する透明性とは別概念です。
コメント