AI901-Concept#31-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある教育機関が、視覚障害のある生徒も含む多様な学習者向けに、Azure AI Foundry を使った教科書読解支援チャット ボットを構築します。画像入りの教材も扱い、世界各国の学習者が母語で利用できることを目指します。Inclusiveness と Transparency 原則に沿った設計が求められます。
解決策
チャット ボットの応答ではモデルの内部 confidence、根拠とした教科書の章節、不確実な箇所はすべて表示せず、簡潔な結論文だけを返す UI に統一します。これにより学習者を混乱させないようにします。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
根拠出典 / 確信度 / 不確実性の不開示は Transparency 原則の根本に反します。学習支援文脈では、AI が「どの章を参照して回答したか」「どの程度確信があるか」を開示することで、学習者は AI 出力を批判的に評価でき、知識の自己構築を促進できます。簡潔さを理由にこれらを隠蔽するのは Transparency 違反で、誤情報を信じてしまうリスクも高めます。Microsoft Responsible AI Standard は不確実性とソース引用の提示を強く推奨しています。
【「はい」が違う理由】
結論のみの簡潔な回答は UX としては好まれますが、AI システムの説明責任とユーザーの理解支援という Transparency の本質を放棄しています。教育文脈で根拠隠蔽は学習効果を阻害するため、「目的を満たす」と判定するのは適切ではなく、設計目標に反する選択肢となります。
根拠出典 / 確信度 / 不確実性の不開示は Transparency 原則の根本に反します。学習支援文脈では、AI が「どの章を参照して回答したか」「どの程度確信があるか」を開示することで、学習者は AI 出力を批判的に評価でき、知識の自己構築を促進できます。簡潔さを理由にこれらを隠蔽するのは Transparency 違反で、誤情報を信じてしまうリスクも高めます。Microsoft Responsible AI Standard は不確実性とソース引用の提示を強く推奨しています。
【「はい」が違う理由】
結論のみの簡潔な回答は UX としては好まれますが、AI システムの説明責任とユーザーの理解支援という Transparency の本質を放棄しています。教育文脈で根拠隠蔽は学習効果を阻害するため、「目的を満たす」と判定するのは適切ではなく、設計目標に反する選択肢となります。
コメント