AI901-Concept#75
Azure OpenAI / Foundry のデプロイ オプションで、安定した低レイテンシと予測可能なコストが必要な大規模本番ワークロードに最適なものはどれですか?
解説
【正解: A】の理由
PTU は容量を予約購入し、専有リソースで一定スループットとレイテンシを保証するモデルです。Azure OpenAI で大規模本番ワークロードを運用する場合に推奨され、月額コストが事前に確定するため予算管理も容易です。Foundry portal から PTU 容量と従量を混在するハイブリッド構成も可能です。
【他選択肢が違う理由】
PTU は容量を予約購入し、専有リソースで一定スループットとレイテンシを保証するモデルです。Azure OpenAI で大規模本番ワークロードを運用する場合に推奨され、月額コストが事前に確定するため予算管理も容易です。Foundry portal から PTU 容量と従量を混在するハイブリッド構成も可能です。
【他選択肢が違う理由】
- B: 従量課金は安定性とレイテンシ保証がなく、大規模本番では不利です。
- C: ローカル運用は foundation model のクラウド前提と矛盾します。
- D: メール添付は呼び出し手段ではありません。

コメント