AI901-Concept#86
「事実応答での再現性とコスト管理を重視した本番運用」を実現するための推論パラメータ設定として、適切なものを 2 つ選択してください。
2 つ選択してください
解説
【正解: A, C】の理由
A は事実応答の再現性を高める標準対策で、temperature を低く保つと同入力に対する出力ばらつきを抑えられます。C はコスト管理の必須対策で、max_tokens 設定により請求と応答時間を予測可能にします。両者は本番運用の鉄則です。
【他選択肢が違う理由】
A は事実応答の再現性を高める標準対策で、temperature を低く保つと同入力に対する出力ばらつきを抑えられます。C はコスト管理の必須対策で、max_tokens 設定により請求と応答時間を予測可能にします。両者は本番運用の鉄則です。
【他選択肢が違う理由】
- B: 上限なしはコスト超過のリスクを生みます。
- D: system message なしは制御性を失います。
- E: top_p は通常 0〜1 範囲 (Azure OpenAI でも 0〜1) で、1.5 は仕様外です。

コメント