AIF-C01#93(fundamentals-ai-ml)
ある企業が、自然言語の質問に対して画像で応答できるチャットボットを構築しました。同社は、このチャットボットが不適切または不要な画像を返さないようにしたいと考えています。 この要件を満たすソリューションはどれですか？
正解：A
正解の根拠
モデレーション API は不適切コンテンツを自動検出するための専用サービスで、AWS では Bedrock Guardrails、Rekognition Content Moderation、Comprehend Toxicity Detection などが該当します。これらをチャットボットの出力フィルタとして組み込むことで、不適切・不要な画像の応答を抑止できます。
モデレーション関連機能
| 機能 | 役割 |
|---|---|
| Bedrock Guardrails | LLM 出力の安全性制御 |
| Rekognition Moderation | 画像/動画の不適切検出 |
| Comprehend Toxicity | テキスト毒性検出 |
| モデル検証 | 性能評価 (リリース前) |
不正解の理由
- B: 公開データ再学習はバイアス増幅や安全性低下のリスクがあり、不適切応答の防止策として直接的・効率的ではありません。
- C: モデル検証はリリース前の品質評価工程で、本番運用中の応答フィルタリング機能を提供しません。
- D: ユーザーフィードバック自動統合は長期的改善向けで、即時的な不適切画像のブロックには適合しません。
コメント