AI901-Concept#78-3
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある EC 企業が、商品検索チャット ボットを Azure AI Foundry にデプロイし、ピーク時 (年末セール) は通常時の 10 倍のトラフィックを処理する必要があります。安定したレイテンシと予算予測可能性を両立する必要があります。
解決策
endpoint 認証を Microsoft Entra ID 連携に統一し、Private Endpoint 経由のみ受信、Azure Monitor で TPM / RPM / レイテンシ / エラー率を継続監視するセキュリティ + 観測性レイヤーを併設します。
この解決策は目的を満たしますか?
ディスカッション 0

コメント

コメントする

目次