AI901-Concept#3
ある企業が採用候補者のスクリーニング AI を Azure AI Foundry で構築しています。過去 10 年の採用データで訓練したところ、特定の属性グループに対して採用率が著しく低い結果が出ました。原因として最も可能性が高いものはどれですか?
解説
【正解: C】の理由
機械学習モデルは訓練データから統計的パターンを学習するため、過去の人事判断に含まれる歴史的バイアスをそのまま再現してしまいます。これはデータ起源のバイアスと呼ばれ、Fairness で最も注意すべきリスクです。代表性のあるデータ収集 / 属性間性能評価 / Fairlearn 等での緩和が必要となります。
【他選択肢が違う理由】
機械学習モデルは訓練データから統計的パターンを学習するため、過去の人事判断に含まれる歴史的バイアスをそのまま再現してしまいます。これはデータ起源のバイアスと呼ばれ、Fairness で最も注意すべきリスクです。代表性のあるデータ収集 / 属性間性能評価 / Fairlearn 等での緩和が必要となります。
【他選択肢が違う理由】
- A: デプロイ設定の誤りは可用性問題で、特定グループへの偏向結果は生じません。
- B: レイテンシは速度の問題で、判定結果のバイアスとは無関係です。
- D: クォータ制限は処理停止を起こすだけで、バイアスは生まれません。
- E: 認証エラーであり、バイアスとは無関係です。

コメント