AI901-Foundry#131
Azure AI Foundry の text & speech ソリューションでコスト最適化を行う際、Microsoft Learn が推奨する基本原則として、最も適切なものはどれですか?
解説
【正解: B】の理由
Microsoft Learn のコスト最適化ガイドは「Right tool for the right job」を中核原則とし、定型 NLP (sentiment / NER / 翻訳 / STT) は専用 API、自由応答 / 要約 / 対話 / 多段推論は LLM のように使い分けることで、token 単価 / レイテンシ / 運用負荷の三軸でバランスが取れた本番運用を実現できると案内します。専用 API は事前学習済みで呼び出し単価が安く、LLM は柔軟性が高いが単価が高いため、ハイブリッド構成が最適です。Foundry hub の connection 機能はまさにこの使い分けを支援するために設計されています。
【他選択肢が違う理由】
Microsoft Learn のコスト最適化ガイドは「Right tool for the right job」を中核原則とし、定型 NLP (sentiment / NER / 翻訳 / STT) は専用 API、自由応答 / 要約 / 対話 / 多段推論は LLM のように使い分けることで、token 単価 / レイテンシ / 運用負荷の三軸でバランスが取れた本番運用を実現できると案内します。専用 API は事前学習済みで呼び出し単価が安く、LLM は柔軟性が高いが単価が高いため、ハイブリッド構成が最適です。Foundry hub の connection 機能はまさにこの使い分けを支援するために設計されています。
【他選択肢が違う理由】
- A: GPT-4o は単価が高く、定型 NLP に使うとコストが膨張します。
- C: OSS の自前運用はマネージド SaaS の利点 (運用負荷 / SLA / セキュリティ) を失います。
- D: 単価のみで判断すると品質要件・運用負荷とトレードオフが生じます。
コメント