AIF-C01#104(fundamentals-generative-ai)
ある企業が、Amazon Bedrock を使用して生成AIアプリケーションを構築したいと考えています。同社は、1つのプロンプトにどれだけの情報を収めることができるかを知る必要があります。 この決定を左右する要因はどれですか？
正解：B
正解の根拠
コンテキストウィンドウ (Context Window) は、モデルが 1 回の推論で処理できる入力＋出力トークン数の上限であり、プロンプトに収められる情報量を直接決定する要素です。Bedrock 上のモデルは Claude 200K、Titan 32K など固有のコンテキストウィンドウを持ち、長いドキュメントや会話履歴を扱う際の制約となります。
主要パラメータの役割
| パラメータ | 役割 |
|---|---|
| Context Window | 入出力トークン数上限 |
| Temperature | 出力のランダム性制御 |
| Batch Size | 同時処理数 (訓練/推論) |
| Model Size | パラメータ数、性能要因 |
不正解の理由
- A: 温度はサンプリング時のランダム性を制御するパラメータで、プロンプトに含められる情報量とは無関係です。
- C: バッチサイズは同時処理リクエスト数を表し、1 プロンプトあたりの容量を決定する要素ではありません。
- D: モデルサイズはパラメータ数で性能に影響しますが、コンテキスト容量は別途モデルごとに定義されています。
コメント