AI901-Concept#87-3
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある金融機関が、顧客 FAQ への定型応答ボットを Azure AI Foundry で本番運用します。回答は事実ベースで再現性が高く、長すぎず、銀行業務の敬語フォーマットに従う必要があります。複数のユーザーから同じ質問が来た場合、毎回同等の回答が返ることが求められます。
解決策
stop sequence に "\n\nUser:" を指定し、想定外の続き生成を防ぐとともに、応答が銀行業務のテンプレートを超えて拡張する余地を抑制します。
この解決策は目的を満たしますか?
解説
【判定: はい】の理由
stop sequence の指定は事実応答ボットでの過剰生成を防ぐ標準テクニックです。"\n\nUser:" のような区切り文字列を指定することで、モデルが自発的に続きの対話を生成してしまう問題を抑え、応答テンプレートの境界を明確にできます。これにより応答が予測可能な範囲に収まり、コスト管理と簡潔さの両立に貢献します。temperature / max_tokens / system message と組み合わせることで、本番 FAQ ボットのガードレールが多層化され、Responsible AI Standard の Reliability and safety にも貢献する設計です。
【「いいえ」が違う理由】
stop sequence は本シナリオに適した制御パラメータで、過剰生成の防止という目的に直接対応します。「目的を満たさない」と判定する根拠はありません。
stop sequence の指定は事実応答ボットでの過剰生成を防ぐ標準テクニックです。"\n\nUser:" のような区切り文字列を指定することで、モデルが自発的に続きの対話を生成してしまう問題を抑え、応答テンプレートの境界を明確にできます。これにより応答が予測可能な範囲に収まり、コスト管理と簡潔さの両立に貢献します。temperature / max_tokens / system message と組み合わせることで、本番 FAQ ボットのガードレールが多層化され、Responsible AI Standard の Reliability and safety にも貢献する設計です。
【「いいえ」が違う理由】
stop sequence は本シナリオに適した制御パラメータで、過剰生成の防止という目的に直接対応します。「目的を満たさない」と判定する根拠はありません。

コメント