【正解: C】の理由

信頼性と安全性は、正常系の精度を高めるだけでは確保できません。想定される誤用・異常入力・エッジ ケースまで洗い出してテストし、失敗が避けられない状況でも被害を最小化する fail-safe (安全側に倒す) 設計と、人間による監督 (oversight) を組み込むことが核心です。高リスク システムでは『うまくいくとき』より『うまくいかないとき』の振る舞いを設計し、運用後も継続的に検証することが求められます。誤動作が人の安全に直結する場面ほど、こうした事前の備えが被害の抑止につながります。さらに red teaming で想定外の入力を事前に洗い出し、運用中の監視で本番環境の異常を早期に検知する取り組みも安全性の確保に有効です。

【他選択肢が違う理由】

• A: 利用者側にも評価・テストの責任があり、ベンダー任せは説明責任の放棄です。
• B: データ ドリフトで本番品質は劣化するため、リリース後の監視は必須です。
• D: 障害時挙動を未定義にすると被害が拡大し、fail-safe の事前設計が必要です。

【参考】

Microsoft Learn: 生成 AI の評価と監視