AI901-Concept#15-3
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある総合病院が、救急受付の患者トリアージを支援する AI システムを Azure AI Foundry で開発・運用しています。誤判定は患者の安全に直結するため、本番運用中の品質と信頼性を継続的に担保する必要があります。
解決策
AI モデルの confidence スコアが既定のしきい値を下回った場合、または Content Safety フィルタが発動した場合は、自動的に人間レビュー キューへエスカレートして看護師が最終判断を行うフローを構築します。
この解決策は目的を満たしますか?
解説
【判定: はい】の理由
high-stakes な医療領域では human-in-the-loop が Microsoft Responsible AI Standard により強く推奨されます。confidence しきい値による自動エスカレーションは、AI 単独では確信を持って判定できない症例を人間の専門家に引き継ぐ標準的な安全装置で、AI の自動化メリットを享受しつつ患者安全を保証します。Content Safety フィルタとの併用により、有害コンテンツや異常入力時にも安全側にフォールバックでき、Reliability and safety を実運用レベルで担保します。
【「いいえ」が違う理由】
人間によるオーバーライド経路は安全クリティカル領域のベスト プラクティスで、本ソリューションは Microsoft の公式ガイダンスに沿った設計です。「目的を満たさない」と判定する根拠はありません。
high-stakes な医療領域では human-in-the-loop が Microsoft Responsible AI Standard により強く推奨されます。confidence しきい値による自動エスカレーションは、AI 単独では確信を持って判定できない症例を人間の専門家に引き継ぐ標準的な安全装置で、AI の自動化メリットを享受しつつ患者安全を保証します。Content Safety フィルタとの併用により、有害コンテンツや異常入力時にも安全側にフォールバックでき、Reliability and safety を実運用レベルで担保します。
【「いいえ」が違う理由】
人間によるオーバーライド経路は安全クリティカル領域のベスト プラクティスで、本ソリューションは Microsoft の公式ガイダンスに沿った設計です。「目的を満たさない」と判定する根拠はありません。
コメント