AIF-C01#87(fundamentals-generative-ai)
ある企業が Amazon Bedrock 上の大規模言語モデル（LLM）を使用して、カスタマーサポート用のチャットボットを構築しています。顧客とチャットボットは、リクエストを解決するために複数回のやりとりを行う必要があります。 LLM が過去の顧客メッセージの内容を利用できるようにするには、どのソリューションを使用すべきでしょうか？
正解：B
正解の根拠
LLM はステートレスで会話履歴を内部に保持しないため、過去発話を活用するにはアプリケーション側で履歴を蓄積し、毎回プロンプトに含めて送信する必要があります。Bedrock の Converse API はこのパターンを標準化し、messages 配列に過去のやり取りを順次追加することで多ターン会話を実現します。DynamoDB 等にセッションを保存して再構成するのが一般的です。
会話履歴管理の方式
| 方式 | 役割 |
|---|---|
| Prompt 履歴注入 | 標準的な多ターン会話 |
| Converse API | 履歴管理を簡略化 |
| セッションストア | DynamoDB で永続化 |
| Memory 抽象化 | LangChain 等で要約 |
不正解の理由
- A: 呼出ログは監査用で、推論時に履歴をモデルに渡す機構ではありません。
- C: Personalize はレコメンデーション専用で、会話履歴の保存・参照機構を提供しません。
- D: Provisioned Throughput はスループット予約機能で、履歴利用とは別目的です。
コメント