AI901-Concept#10
医療現場のトリアージを支援する AI を Azure AI Foundry で運用する場合、Reliability and safety の観点から最も重要な設計要素はどれですか?
解説
【正解: B】の理由
医療のような high-stakes な領域では、AI の自動判定だけでなく人間の専門家による最終確認・オーバーライドが不可欠です。confidence しきい値を設けて低自信の判定を人間レビュー キューへエスカレートすることで、AI 単独では検出しにくい例外ケースを安全に処理できます。Microsoft Responsible AI Standard でも human-in-the-loop が推奨されます。
【他選択肢が違う理由】
医療のような high-stakes な領域では、AI の自動判定だけでなく人間の専門家による最終確認・オーバーライドが不可欠です。confidence しきい値を設けて低自信の判定を人間レビュー キューへエスカレートすることで、AI 単独では検出しにくい例外ケースを安全に処理できます。Microsoft Responsible AI Standard でも human-in-the-loop が推奨されます。
【他選択肢が違う理由】
- A: 安価さを優先しても安全性は確保されず、医療領域では本末転倒です。
- C: 全社員アクセスは権限管理の悪化を招き、安全性に逆行します。
- D: 頻繁な入れ替えは検証不足の版を本番投入するリスクを高めます。
コメント