AIF-C01#88(fundamentals-generative-ai)
ある企業の大規模言語モデル（LLM）がハルシネーションを引き起こしています。 企業はどのようにしてハルシネーションを減らすことができますか？
正解：C
正解の根拠
Temperature を下げる (例 0〜0.2) と確率分布が鋭くなり、最も確率の高いトークンが優先選択されるため、出力の創造性とランダム性が抑えられます。これによりモデルが訓練データから外れた推測を行いにくくなり、ハルシネーション (もっともらしい誤情報の生成) を一定程度減らせます。RAG や Guardrails と併用するとさらに効果的です。
ハルシネーション緩和策
| 手法 | 効果 |
|---|---|
| Temperature 低下 | ランダム性抑制 |
| RAG | 事実に基づく回答 |
| Grounding | 知識ソース明示 |
| Guardrails | 禁止トピック制御 |
不正解の理由
- A: Bedrock Agents の用途は API 連携や多段推論で、訓練監視機能ではありません。
- B: Bedrock の FM は事前学習済モデルで利用者がデータ前処理する対象ではなく、ハルシネーション削減策にはなりません。
- D: ハルシネーションを完全に起こさない FM は存在せず、選択肢として現実的ではありません。
コメント