AIF-C01#14(responsible-ai)
ある病院が、患者にパーソナライズされた治療計画を推奨するAIシステムを開発しました。このAIシステムは、推奨の背後にある根拠（ロジック）を提示し、医師や患者がそのインサイトを理解できるようにしなければなりません。 このシナリオが示している、人間中心設計（Human-Centered Design）の原則はどれですか？
正解：A
正解の根拠
説明可能性 (Explainability) は人間中心設計の中核原則であり、AI が下した推奨や判断の根拠を関係者が理解可能な形で提示することを求めます。医療領域ではどの臨床指標がパーソナライズ治療計画の根拠となったかを医師と患者へ示すことが必須で、SageMaker Clarify などで SHAP 値を用いて特徴量寄与を提示すれば、本シナリオの要件を満たせます。
責任ある AI の主要原則
| 原則 | 内容 |
|---|---|
| Explainability | 判断根拠の説明 |
| Fairness | 差別的影響の回避 |
| Privacy/Security | 個人情報保護と安全性 |
| Data Governance | データの統制と品質管理 |
不正解の理由
- B: プライバシーとセキュリティは個人情報保護を扱う原則で、推奨理由の提示という説明可能性とは焦点が異なります。
- C: 公平性は機微属性によるバイアス排除を目指す原則で、判断ロジックの可視化を主目的としていません。
- D: データガバナンスはデータライフサイクル管理に関する原則で、個別推奨の根拠提示を直接担うものではありません。
コメント