AIF-C01#63(fundamentals-generative-ai)
ある企業が、大規模言語モデル（LLM）を統合することで、自社のアプリケーションに生成AI機能を追加したいと考えています。LLMからの回答は、可能な限り決定論的（deterministic）かつ安定（stable）である必要があります。 この要件を満たすソリューションはどれですか？
正解：A
正解の根拠
Temperature は LLM の確率分布の鋭さを制御するパラメータで、0 に近づけるほど最も確率の高いトークンが選ばれやすくなり、出力が決定論的かつ安定します。逆に 1 に近づけると分布が平坦になり多様性 (creativity) が増します。Bedrock や SageMaker でも共通仕様で、同一プロンプトに対する再現性を最大化したい用途では Temperature=0 が定石です。
Temperature の効果
| 値 | 挙動 |
|---|---|
| 0 | 最高確率トークン優先、決定論的 |
| 0.3〜0.7 | バランス型 (要約・QA 向き) |
| 1.0 | 多様性重視 (創作向き) |
不正解の理由
- B: プロンプト末尾に文言を追加してもモデルのサンプリング挙動は変わらず、決定性は保証されません。
- C: 冒頭追加も同様で、自然言語の指示は確率的サンプリングを技術的に固定する仕組みではありません。
- D: Temperature=1 は多様性最大化の設定で、要件の決定論的応答とは正反対です。
コメント