AI901-Concept#97
生成 AI が事実と異なる内容を自信を持って出力する 幻覚 (hallucination) の主な原因として、最も適切なものはどれですか?
解説
【正解: A】の理由
幻覚は LLM の確率的生成特性から生じる問題で、訓練データに存在しない事実や、与えられたソースから根拠を引けない内容を自信を持って出力します。RAG / groundedness detection / 出力検証ループで緩和でき、Foundry の Content Safety や Responsible AI evaluation framework が標準対策を提供します。
【他選択肢が違う理由】
幻覚は LLM の確率的生成特性から生じる問題で、訓練データに存在しない事実や、与えられたソースから根拠を引けない内容を自信を持って出力します。RAG / groundedness detection / 出力検証ループで緩和でき、Foundry の Content Safety や Responsible AI evaluation framework が標準対策を提供します。
【他選択肢が違う理由】
- B: 料金問題は API 停止を起こすだけです。
- C: メモリ不足は別の障害症状です。
- D: 認証エラーは応答自体を返さない問題です。

コメント