AIF-C01#11(fundamentals-ai-ml)
ある大手小売銀行が、異なる人口統計グループに対する融資配分をリスク管理チームが決定する際に役立つMLシステムを開発したいと考えています。 公平なMLモデルを開発するために銀行が行うべきことは何ですか？
正解：D
正解の根拠
融資配分のような社会的影響の大きい用途で公平性を確保するには、まず訓練データのクラス不均衡 (人口統計グループ間の偏り) を測定し、サンプリングや重み付け、しきい値調整などで訓練プロセスを補正する必要があります。SageMaker Clarify は学習前後でバイアス指標を算出し、是正策の効果を可視化できます。
公平性確保の主な手法
| 手法 | 目的 |
|---|---|
| クラス不均衡測定 | 偏りの定量把握 |
| 再サンプリング | 少数派強化 |
| SageMaker Clarify | バイアス計測/説明 |
| 後処理しきい値調整 | 群間公平性確保 |
不正解の理由
- A: データセットを縮小するとサンプル不足や少数派の過少代表が悪化し、公平性は改善しません。
- B: 過去結果との一致のみを目的にすると、過去の差別的パターンを再生産する恐れがあり公平性に反します。
- C: グループごとにモデルを分けるとモデル管理が複雑化し、群間整合性も保証されず公平性の根本対策にはなりません。
コメント