AI901-Concept#85
Azure OpenAI の推論パラメータに関する記述として正しいものを 2 つ選択してください。
2 つ選択してください
解説
【正解: A, B】の理由
A は stop sequence の正しい役割で、構造化応答の終端制御や不要な続き生成防止に用いる prompt engineering の精緻化手段です。B は top_p (nucleus sampling) の定義そのもので、累積確率の閾値で次トークン候補をフィルタしてサンプリングします。両者は推論パラメータの基本知識です。
【他選択肢が違う理由】
A は stop sequence の正しい役割で、構造化応答の終端制御や不要な続き生成防止に用いる prompt engineering の精緻化手段です。B は top_p (nucleus sampling) の定義そのもので、累積確率の閾値で次トークン候補をフィルタしてサンプリングします。両者は推論パラメータの基本知識です。
【他選択肢が違う理由】
- C: max_tokens は出力トークンの上限で、入力下限ではありません。
- D: temperature とレイテンシは無関係です。
- E: system message は通常ユーザー プロンプトより優先度が高く、ガードレールとして機能します。

コメント