AI901-Concept#6-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある銀行が、住宅ローン審査を支援する AI モデルを Azure AI Foundry で開発しています。過去 5 年分の審査履歴で訓練しましたが、地域別および年齢層別に承認率の偏りがある可能性が指摘されました。Fairness 原則に沿って、デプロイ前にバイアスを評価・緩和する必要があります。
解決策
訓練データから「地域」「年齢」のセンシティブ属性カラムを単純に削除して再訓練することで、モデルがそれらの属性に依存しないようにします。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
センシティブ属性カラムを削除しても、郵便番号 / 勤務先 / 取引履歴などの代替変数 (プロキシ変数) を通じてモデルが同じ偏向を学習してしまうため、バイアスは解消されません。これは「fairness through unawareness」と呼ばれる古典的な誤った緩和策で、Microsoft Responsible AI 公式ガイダンスでも非推奨とされています。正しいアプローチは、属性を保持して disparity を計測したうえで Fairlearn 等の緩和アルゴリズムや事後しきい値調整を組み合わせる方法です。
【「はい」が違う理由】
センシティブ属性の削除だけではプロキシ変数経由のバイアスを止められず、結果として地域や年齢層による不均衡が温存されます。むしろ削除により監査時にグループ別性能を再評価できなくなり、Accountability の観点でも不利になります。「目的を満たす」と判定するのは Fairness 評価・緩和の本質を見誤っており、「はい」は適切ではありません。
センシティブ属性カラムを削除しても、郵便番号 / 勤務先 / 取引履歴などの代替変数 (プロキシ変数) を通じてモデルが同じ偏向を学習してしまうため、バイアスは解消されません。これは「fairness through unawareness」と呼ばれる古典的な誤った緩和策で、Microsoft Responsible AI 公式ガイダンスでも非推奨とされています。正しいアプローチは、属性を保持して disparity を計測したうえで Fairlearn 等の緩和アルゴリズムや事後しきい値調整を組み合わせる方法です。
【「はい」が違う理由】
センシティブ属性の削除だけではプロキシ変数経由のバイアスを止められず、結果として地域や年齢層による不均衡が温存されます。むしろ削除により監査時にグループ別性能を再評価できなくなり、Accountability の観点でも不利になります。「目的を満たす」と判定するのは Fairness 評価・緩和の本質を見誤っており、「はい」は適切ではありません。

コメント