AI901-Foundry#62-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
あるコンサル企業が、自社知識ベース (PDF レポート約 5,000 件) と外部 SaaS (Salesforce / Slack / Microsoft 365) を統合する社内アシスタント agent を Foundry single-agent で構築します。アシスタントは顧客情報検索 / 過去レポート参照 / 社内チャット投稿 / Outlook 予定登録の各タスクを横断的に実行する必要があります。
解決策
tool は一切登録せず、agent には system message として「Salesforce のデータベース内容を頭の中で想像して答えてください」と指示します。file search tool / function tool は使用しません。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
本提案は agent の本質を完全に無視しています。tool 不在では agent は外部システム (Salesforce / Slack / Microsoft 365) と通信できず、要件「顧客情報検索 / 予定登録 / チャット投稿」を一切実行できません。さらに「想像して答える」プロンプトは LLM の幻覚 (hallucination) を意図的に誘発し、存在しないデータや誤った推測を確信を持って返す結果になります。Microsoft Responsible AI Standard は Reliability and safety / Transparency / Accountability すべての観点で hallucination の抑止を求めており、本提案は完全な原則違反です。コンサル業務のように事実情報の正確性が必須の領域では、無根拠な応答が顧客トラブルや誤った業務判断を招き、致命的な品質問題に直結します。
【「はい」が違う理由】
ツール不在による機能停止と意図的な hallucination 誘発の両面で、「目的を満たす」と判断する根拠は皆無です。
本提案は agent の本質を完全に無視しています。tool 不在では agent は外部システム (Salesforce / Slack / Microsoft 365) と通信できず、要件「顧客情報検索 / 予定登録 / チャット投稿」を一切実行できません。さらに「想像して答える」プロンプトは LLM の幻覚 (hallucination) を意図的に誘発し、存在しないデータや誤った推測を確信を持って返す結果になります。Microsoft Responsible AI Standard は Reliability and safety / Transparency / Accountability すべての観点で hallucination の抑止を求めており、本提案は完全な原則違反です。コンサル業務のように事実情報の正確性が必須の領域では、無根拠な応答が顧客トラブルや誤った業務判断を招き、致命的な品質問題に直結します。
【「はい」が違う理由】
ツール不在による機能停止と意図的な hallucination 誘発の両面で、「目的を満たす」と判断する根拠は皆無です。
コメント