AIF-C01#11(foundation-models)
ある企業が、Amazon Bedrock にホストされているベースモデルでフューショットプロンプティングを使用しています。このモデルは現在、プロンプト内に10個の例を使用しており、1日1回呼び出されています。モデルは良好なパフォーマンスを発揮していますが、同社は月間コストを削減したいと考えています。 この要件を満たすソリューションはどれですか？
正解：B
正解の根拠
Bedrock の従量課金は入力/出力トークン数に基づきます。フューショットプロンプトで毎回 10 例を送信する設計はトークン消費が大きいため、例の数を絞る/簡潔化するなどでプロンプトのトークン数を削減すれば、性能を大きく損なわずに月間コストを直接低減できます。最も実装が容易でコスト効率の良いアプローチです。
Bedrock コスト最適化手法
| 手法 | 効果 |
|---|---|
| トークン削減 | 低工数で直接コスト減 |
| ファインチューニング | 例不要だが訓練コスト発生 |
| プロビジョンドスループット | 高頻度呼出向け定額 |
| モデル変更 | 料金単価の見直し |
不正解の理由
- A: ファインチューニングは追加コストとカスタムモデルのプロビジョニング料金が発生し、1 日 1 回の呼出規模では費用回収が困難です。
- C: プロンプトのトークン数を増やせば 1 回当たりの料金がさらに増加し、コスト削減という要件に逆行します。
- D: プロビジョンドスループットは時間単位定額で、1 日 1 回の利用では未使用時間が大半となり費用効率が極めて悪化します。
コメント