AIF-C01#22(responsible-ai)
あるローン会社が、特定のビジネス基準に基づいて新規申請者に割引を提供する生成AIベースのソリューションを構築しています。同社は、一部の顧客に対してネガティブな影響を与える可能性があるバイアスを最小限に抑え、責任あるAIモデルの構築と使用を目指しています。 この要件を満たすために企業が取るべき行動はどれですか？（2つ選択してください）
（2つ選択）
正解：A, C
正解の根拠
責任ある AI を実現するには、まず訓練データの不均衡や格差を SageMaker Clarify の CI/DPL などで早期検出し、特定グループへの不利な影響を抑制する必要があります。さらにモデルの動作を SHAP 等で評価し、Model Cards でステークホルダーに透明性を提供することで、説明責任とバイアス低減を両立できます。この 2 つは責任ある AI の基本対策です。
責任ある AI の対策
| 対策 | 役割 |
|---|---|
| データ不均衡検出 | 偏りの早期発見 |
| モデル動作評価 | 説明性と透明性 |
| 頻繁な実行 | 運用回数の話で公平性とは無関係 |
| ROUGE | 要約品質評価指標 |
不正解の理由
- B: モデル実行頻度は運用上の話題で、責任ある AI のバイアス軽減対策としての効果は直接ありません。
- D: ROUGE は要約タスクの品質指標で、100% 正確性の保証手段ではなく、バイアス軽減の指標でもありません。
- E: 推論時間は性能/コスト指標で、公平性確保や責任ある AI の文脈での主要対策には該当しません。
コメント