AIF-C01#24(fundamentals-generative-ai)
AIプラクティショナーが、Amazon Bedrockの大規模言語モデル（LLM）向けのプロンプトを開発しています。このプロンプトが、すべてのAmazon Bedrock LLMで動作するようにしなければなりません。 モデル（LLM）ごとに異なる可能性がある特性はどれですか？
正解：A
正解の根拠
Bedrock 上の各 LLM はモデルアーキテクチャごとにコンテキストウィンドウが異なり、最大入力/出力トークン数の上限はモデル固有の値です。Claude、Titan、Llama などモデルにより数千〜数十万トークンと幅があるため、汎用プロンプトを設計する際は最も短い上限を前提に組む必要があります。
Bedrock LLM の特性
| 特性 | モデル間の違い |
|---|---|
| 最大トークン数 | 大きく異なる |
| Temperature 等 | 共通でサポート |
| オンデマンド推論 | 共通でサポート |
| Guardrails 互換 | Bedrock 全 LLM 対応 |
不正解の理由
- B: オンデマンド推論パラメータは Bedrock の標準呼出方式で、対応 LLM ではほぼ共通にサポートされています。
- C: Temperature や Top-p によるランダム性制御は Bedrock LLM 全般で共通のパラメータとして提供されます。
- D: Guardrails は Bedrock の横断機能として全主要モデルと連携でき、モデル固有の差異要素ではありません。
コメント