AIF-C01#97(fundamentals-generative-ai)
ある企業が、Amazon Bedrock を使用して大規模言語モデル（LLMs）を活用し、自社製品マニュアルのためのチャットインターフェースを開発したいと考えています。マニュアルは PDF ファイルとして保存されています。 この要件を最もコスト効率よく満たすソリューションはどれですか？
正解：D
正解の根拠
Knowledge Bases for Amazon Bedrock は、PDF などのドキュメントを取り込み、自動でチャンク分割と埋め込み生成を行ってベクトルストアに格納します。ユーザープロンプト送信時に関連箇所だけを検索して LLM に渡すため、すべての PDF をプロンプトに含める方式と比較してトークン消費が大幅に削減でき、コスト効率良く RAG を実現できます。
アプローチ別コスト比較
| アプローチ | コスト特性 |
|---|---|
| Knowledge Bases (RAG) | 関連箇所のみ取得、低コスト |
| 全 PDF をプロンプト連結 | トークン超過、高コスト |
| Fine-tuning | 訓練費用大、知識更新困難 |
| 単一 PDF プロンプト | 網羅性に欠け要件不一致 |
不正解の理由
- A: 1 つの PDF のみをコンテキスト化する方式では、複数マニュアルにまたがる質問に対応できず要件を満たしません。
- B: すべての PDF をプロンプトに含めるとコンテキストウィンドウを超過し、トークン課金が膨大になりコスト効率が悪化します。
- C: ファインチューニングは訓練費用と運用負荷が大きく、マニュアル更新のたびに再学習が必要で運用コストが高くなります。
コメント