AIF-C01#53(fundamentals-ai-ml)
ある金融会社が、ローンの承認を決定するための生成AIアプリケーションを開発しています。同社は、アプリケーションの出力が責任あるものであり、公平（fair）であることを必要としています。 この要件を満たすソリューションはどれですか？
正解：A
正解の根拠
公平性 (Fairness) を確保する基本は、訓練データのバイアス監査と、各デモグラフィック層の代表性確保です。SageMaker Clarify がバイアス指標 (DPL, DI 等) を計算し、不足層を補うデータ収集と組み合わせることで、ローン承認モデルの差別的影響を低減できます。
責任ある AI 実践
| 実践 | 効果 |
|---|---|
| バイアス監査+代表性確保 | 公平性向上 |
| 深層 NN 多層化 | 表現力向上、公平性とは無関係 |
| 意思決定の秘匿 | 説明責任低下 |
| 静的データ監視のみ | ドリフト未検出 |
不正解の理由
- B: ディープラーニングの層数は表現力に影響しますが、データのバイアス除去や公平性を直接保証しません。
- C: 意思決定プロセスを秘匿することは透明性と説明責任に反し、責任ある AI の方針と逆行します。
- D: 静的データセットでの監視のみでは時間経過によるドリフトを把握できず、継続的公平性を担保できません。
コメント