AIF-C01#23(fundamentals-generative-ai)
ある企業が大規模言語モデル（LLM）を使用して、生成AIアシスタントを作成しています。この企業は、AIアシスタントが「事実に基づいた最も正確な回答」を生成できるように、AI技術を選択する必要があります。その結果、企業は「RAG（検索拡張生成）」技術を選択しました。 この企業は、LLMのどのような制限（欠点）を軽減しようとしていますか？
正解：A
正解の根拠
RAG (検索拡張生成) は、ベクトル検索で取得した外部の信頼できる知識を LLM のコンテキストに注入することで、最新かつ事実に基づく回答を生成させる技法です。これにより LLM が学習データにない事実をでっち上げる「ハルシネーション」を大幅に低減できます。Bedrock Knowledge Bases や OpenSearch を組み合わせて実装するのが一般的です。
LLM の主な制約と対策
| 制約 | 主な対策 |
|---|---|
| ハルシネーション | RAG / グラウンディング |
| 非決定性 | Temperature を 0 に |
| 解釈可能性 | 説明手法 / Clarify |
| セキュリティ | Guardrails / IAM |
不正解の理由
- B: セキュリティは権限管理や入力検証の領域で、RAG が直接解決する制約ではなく Guardrails 等が担う領域です。
- C: 非決定性は同一入力でも応答が変わる現象で、Temperature や Top-p 制御で対処するもので RAG の主目的ではありません。
- D: 解釈可能性はモデル判断の説明性に関する課題で、RAG は出典提示で補助はしますが本来の対象は事実精度です。
コメント