AI901-Concept#103-1
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある製造業企業が、技術文書 (約 8 万件) を参照する技術問い合わせ AI を Azure AI Foundry で構築・運用しています。ユーザーから「ときどき存在しない型番を回答する」という幻覚に関する苦情が増えています。設計と運用の改善が必要です。
解決策
Azure AI Content Safety の groundedness detection を本番パイプラインに組み込み、低スコア応答は「該当する技術文書が見つかりません。担当部署にお問い合わせください」のフォールバック文に置き換えるガードを実装します。
この解決策は目的を満たしますか?
解説
【判定: はい】の理由
groundedness detection は RAG の幻覚対策で最も効果的な仕組みのひとつです。応答が grounding source (技術文書) に根ざしているかをスコア化し、しきい値を下回る場合に「答えられない」と明示してフォールバックすることで、誤情報の本番流出を防げます。Foundry の Content Safety と evaluation framework は標準でこの機能を提供し、Foundry SDK から数行で組み込めます。Reliability and safety / Transparency の両原則に貢献する Microsoft 公式の推奨パターンで、製造業のような正確性が重要な領域で特に有効です。
【「いいえ」が違う理由】
本ソリューションは幻覚緩和の正攻法で、ユーザー体験 (誤答 → 正直なフォールバック) と Responsible AI 双方を改善します。「目的を満たさない」と判断する根拠はありません。
groundedness detection は RAG の幻覚対策で最も効果的な仕組みのひとつです。応答が grounding source (技術文書) に根ざしているかをスコア化し、しきい値を下回る場合に「答えられない」と明示してフォールバックすることで、誤情報の本番流出を防げます。Foundry の Content Safety と evaluation framework は標準でこの機能を提供し、Foundry SDK から数行で組み込めます。Reliability and safety / Transparency の両原則に貢献する Microsoft 公式の推奨パターンで、製造業のような正確性が重要な領域で特に有効です。
【「いいえ」が違う理由】
本ソリューションは幻覚緩和の正攻法で、ユーザー体験 (誤答 → 正直なフォールバック) と Responsible AI 双方を改善します。「目的を満たさない」と判断する根拠はありません。
コメント