AI901-Foundry#7-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
あるカスタマー サポート企業が、Azure AI Foundry の GPT-4o で多言語サポート ボットを構築しています。応答は丁寧な敬語で簡潔、社内の禁止トピック (競合他社の話題 / 過剰な約束 / 法的助言) を含まず、必要に応じて人間オペレーターへエスカレートする必要があります。
解決策
system message を空にしてモデルに完全な自由を与え、ユーザー プロンプトの末尾に「敬語で答えて」とだけ付け加えます。禁止トピックの指示やエスカレーション ルールは記載しません。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
本提案は要件のほぼ全てを満たせません。system message が空だとモデルの役割 / 制約 / 形式が定義されず、応答品質が大きく揺らぎます。user message 末尾への「敬語で答えて」だけでは禁止トピック (競合他社 / 過剰な約束 / 法的助言) を制御できず、エスカレーション ルールも不在のため、不適切な応答が本番に流出します。Microsoft Responsible AI Standard は本番アプリで system message による制約明示を推奨しており、規制業界やカスタマー サポートのような信頼が重視される領域では特に必須です。コスト削減や設計の手間を理由に system message を省略するのは、本番品質と Responsible AI の両方を犠牲にする誤った判断です。
【「はい」が違う理由】
要件 (敬語 / 簡潔 / 禁止トピック / エスカレーション) のうち、敬語の片鱗が残るのみで他のすべてに違反するため、「目的を満たす」と判定する根拠はありません。
本提案は要件のほぼ全てを満たせません。system message が空だとモデルの役割 / 制約 / 形式が定義されず、応答品質が大きく揺らぎます。user message 末尾への「敬語で答えて」だけでは禁止トピック (競合他社 / 過剰な約束 / 法的助言) を制御できず、エスカレーション ルールも不在のため、不適切な応答が本番に流出します。Microsoft Responsible AI Standard は本番アプリで system message による制約明示を推奨しており、規制業界やカスタマー サポートのような信頼が重視される領域では特に必須です。コスト削減や設計の手間を理由に system message を省略するのは、本番品質と Responsible AI の両方を犠牲にする誤った判断です。
【「はい」が違う理由】
要件 (敬語 / 簡潔 / 禁止トピック / エスカレーション) のうち、敬語の片鱗が残るのみで他のすべてに違反するため、「目的を満たす」と判定する根拠はありません。

コメント