AI901-Foundry#86-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある B2C EC サイトが、商品レビュー (1 日 50,000 件、多言語) から「ネガティブ評価の主要原因」と「言及される商品名・ブランド名」を自動抽出するパイプラインを Azure AI Foundry で構築します。リアルタイム性は 5 分以内の遅延で十分、コスト最適化と運用負荷の低さが重視されます。
解決策
レビューごとに GPT-4o を呼び出し、長文プロンプトで「sentiment 判定 + 商品名抽出 + 多言語処理」をすべて 1 つの自然言語指示で行い、結果を JSON で受け取って Data Lake へ書き込みます。Azure AI Language は使用しません。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
このソリューションは技術的に動作はするものの、要件のうち「コスト最適化」と「運用負荷の低さ」を満たせません。GPT-4o の token 単価は専用 NLP API より 1〜2 桁高く、1 日 50,000 件 × 数百 token の処理を継続するとコストが膨張します。さらに自由応答の LLM は出力フォーマットの揺らぎが生じやすく、JSON Schema 強制やリトライ・パース処理を独自実装する運用負荷が発生します。Microsoft Learn は「定型分類・抽出は Azure AI Language、自由応答や対話は LLM」と明確に使い分けを推奨しており、本シナリオのような大量バッチで再現性が必要な定型 NLP タスクで LLM を選ぶのはコスト / 信頼性の両面で誤った設計です。sentiment や NER のような事前学習済み機能をわざわざ LLM で再実装する必然性もありません。
【「はい」が違う理由】
要件のうち sentiment / NER 機能は満たせますが、コスト最適化と運用負荷低減を満たせない以上、ビジネス要件を完全に満たすとは言えません。専用 API のほうが本シナリオには適切です。
このソリューションは技術的に動作はするものの、要件のうち「コスト最適化」と「運用負荷の低さ」を満たせません。GPT-4o の token 単価は専用 NLP API より 1〜2 桁高く、1 日 50,000 件 × 数百 token の処理を継続するとコストが膨張します。さらに自由応答の LLM は出力フォーマットの揺らぎが生じやすく、JSON Schema 強制やリトライ・パース処理を独自実装する運用負荷が発生します。Microsoft Learn は「定型分類・抽出は Azure AI Language、自由応答や対話は LLM」と明確に使い分けを推奨しており、本シナリオのような大量バッチで再現性が必要な定型 NLP タスクで LLM を選ぶのはコスト / 信頼性の両面で誤った設計です。sentiment や NER のような事前学習済み機能をわざわざ LLM で再実装する必然性もありません。
【「はい」が違う理由】
要件のうち sentiment / NER 機能は満たせますが、コスト最適化と運用負荷低減を満たせない以上、ビジネス要件を完全に満たすとは言えません。専用 API のほうが本シナリオには適切です。
コメント