AI901-Foundry#180-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
あるグローバル EC が、出品者がアップロードする商品画像 (1 日 100,000 件) に対し「アダルト / 暴力 / 著名人の顔再現 / 著作権侵害ロゴ」を統合スクリーニングし、本番品質を継続評価したいと考えています。要件はリアルタイム判定 (10 秒以内)、Responsible AI 配慮、運用負荷低減、継続的な評価ループ構築です。
解決策
Azure AI Content Safety を無効化し、すべての判定を運営チーム 10 名が目視で行います。Custom Vision や Azure AI Vision も使わず、画像は Blob に保存するだけで運営チームが順次確認する運用です。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
本提案は要件のほぼ全てを満たせません。1 日 100,000 件の画像を運営チーム 10 名で目視確認するのは現実的に不可能で、10 秒 SLA は到達できません。Content Safety を無効化することにより、有害コンテンツ / 著名人再現 / 著作権侵害ロゴ等の検知が体系的に行えなくなり、Microsoft Responsible AI Standard の Reliability and safety / Privacy and security / Fairness の各原則を完全に放棄する設計です。さらに目視チェックは個人差・疲労・主観バイアスにより精度が安定せず、Inclusiveness の観点でも望ましい運用ではありません。継続評価ループも構築できず、品質改善のための定量的フィードバックも蓄積できません。Microsoft Learn の content moderation ベスト プラクティスは「機械的なガードレール (Content Safety) と Human-in-the-loop レビューの組み合わせ」を推奨しており、機械的なガードレールを完全放棄して人力に置き換えるのは AI Foundry の価値提案を否定する設計です。コスト・スループット・精度・Responsible AI のいずれの観点でも要件を達成できません。
【「はい」が違う理由】
リアルタイム性 / Responsible AI / 運用負荷 / 継続評価のいずれも要件を満たせず、設計として失敗です。
本提案は要件のほぼ全てを満たせません。1 日 100,000 件の画像を運営チーム 10 名で目視確認するのは現実的に不可能で、10 秒 SLA は到達できません。Content Safety を無効化することにより、有害コンテンツ / 著名人再現 / 著作権侵害ロゴ等の検知が体系的に行えなくなり、Microsoft Responsible AI Standard の Reliability and safety / Privacy and security / Fairness の各原則を完全に放棄する設計です。さらに目視チェックは個人差・疲労・主観バイアスにより精度が安定せず、Inclusiveness の観点でも望ましい運用ではありません。継続評価ループも構築できず、品質改善のための定量的フィードバックも蓄積できません。Microsoft Learn の content moderation ベスト プラクティスは「機械的なガードレール (Content Safety) と Human-in-the-loop レビューの組み合わせ」を推奨しており、機械的なガードレールを完全放棄して人力に置き換えるのは AI Foundry の価値提案を否定する設計です。コスト・スループット・精度・Responsible AI のいずれの観点でも要件を達成できません。
【「はい」が違う理由】
リアルタイム性 / Responsible AI / 運用負荷 / 継続評価のいずれも要件を満たせず、設計として失敗です。
コメント