AIF-C01#109(fundamentals-generative-ai)
ある企業は、事前トレーニング済みの大規模言語モデル（LLM）を使用して、製品推薦用のチャットボットを構築しています。同社は、LLMの出力を短くし、特定の言語で記述する必要があります。 LLMの応答品質を企業の期待に合わせるには、どのソリューションを使用すべきですか？
正解：A
正解の根拠
事前学習済み LLM の応答長や言語を指定したい場合、プロンプトに「100 字以内で日本語で回答」など明示的な制約条件を含めるプロンプトエンジニアリングが最も簡便で効果的です。再学習やパラメータ変更なしに即座に出力を制御でき、Bedrock 上の各モデルでも共通して有効です。
制御手段の比較
| 手段 | 効果 |
|---|---|
| プロンプト調整 | 長さ・言語・形式の制御 |
| モデルサイズ変更 | 性能や費用の変化 |
| Temperature | ランダム性のみ調整 |
| Top K | 候補トークン数の制限 |
不正解の理由
- B: モデルサイズの変更は性能や費用に影響しますが、出力長や使用言語を直接コントロールする手段ではありません。
- C: 温度を上げると出力の多様性が増す一方で、応答長や言語指定など制約遵守の精度はむしろ低下します。
- D: Top K はサンプリング時の候補数を制御するパラメータで、応答の長さや言語選択を制約する効果はありません。
コメント