AI901-Concept#6-3
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある銀行が、住宅ローン審査を支援する AI モデルを Azure AI Foundry で開発しています。過去 5 年分の審査履歴で訓練しましたが、地域別および年齢層別に承認率の偏りがある可能性が指摘されました。Fairness 原則に沿って、デプロイ前にバイアスを評価・緩和する必要があります。
解決策
デプロイ後も Responsible AI scorecard を定期的に生成し、本番データのドリフトに伴う disparity の変化を継続的に監視して、しきい値を超えた場合に再評価と緩和を実施します。
この解決策は目的を満たしますか?
解説
【判定: はい】の理由
Fairness はデプロイ前の評価だけで終わらず、本番運用中もデータ分布のドリフトに伴って disparity が変化するため、継続的な監視が必須です。Responsible AI scorecard は Azure AI Foundry のプロジェクトから生成でき、グループ別性能 / 公平性指標 / 説明可能性などを定期的にスナップショットとして残せます。しきい値超過時の再評価フローを組み込むことで、長期にわたって Fairness を保証する運用が実現します。
【「いいえ」が違う理由】
継続監視と再評価ループは Microsoft Responsible AI Standard が推奨するベスト プラクティスで、本番運用中の品質維持に直結します。一度の事前評価だけでは新規申込者の属性分布変化や外的要因によるドリフトを捕捉できず、Fairness 保証の不完全さを生むため、「いいえ」と判断する根拠はありません。
Fairness はデプロイ前の評価だけで終わらず、本番運用中もデータ分布のドリフトに伴って disparity が変化するため、継続的な監視が必須です。Responsible AI scorecard は Azure AI Foundry のプロジェクトから生成でき、グループ別性能 / 公平性指標 / 説明可能性などを定期的にスナップショットとして残せます。しきい値超過時の再評価フローを組み込むことで、長期にわたって Fairness を保証する運用が実現します。
【「いいえ」が違う理由】
継続監視と再評価ループは Microsoft Responsible AI Standard が推奨するベスト プラクティスで、本番運用中の品質維持に直結します。一度の事前評価だけでは新規申込者の属性分布変化や外的要因によるドリフトを捕捉できず、Fairness 保証の不完全さを生むため、「いいえ」と判断する根拠はありません。
コメント