AI901-Concept#82
Azure OpenAI 推論の max_tokens パラメータが指定する内容として、最も適切なものはどれですか?
解説
【正解: A】の理由
max_tokens は生成される出力トークンの上限を指定し、コスト管理と切り上げ防止の両方の役割を持ちます。設定が小さすぎると応答が途中で打ち切られ、大きすぎるとコスト超過のリスクが上がります。入力 + 出力の合計が context window を超えないよう留意して設計します。
【他選択肢が違う理由】
max_tokens は生成される出力トークンの上限を指定し、コスト管理と切り上げ防止の両方の役割を持ちます。設定が小さすぎると応答が途中で打ち切られ、大きすぎるとコスト超過のリスクが上がります。入力 + 出力の合計が context window を超えないよう留意して設計します。
【他選択肢が違う理由】
- B: 入力長下限は指定しません。
- C: クォータは別の購入制限です。
- D: UI 行数は別概念です。
- E: 認証セッションとは無関係です。

コメント