AIF-C01#43(foundation-models)
あるソーシャルメディア企業が、自社のアプリケーションにユーザーが差別的なコンテンツを投稿することを防ぎたいと考えています。同社はその解決策の一部として Amazon Bedrock を使用したいと考えています。 この要件を満たすために、Amazon Bedrock をどのように使用すればよいですか？
正解：B
正解の根拠
Guardrails for Amazon Bedrock を使うと、ヘイト、侮辱、性的、暴力、誤情報など望ましくないトピックを定義し、ユーザー入力とモデル応答の双方をブロック・マスクできます。差別的コンテンツの投稿防止という用途では、禁止トピックや拒否ワードを設定することで、あらかじめ定義した範囲のインタラクションを自動遮断するのが正解です。
Bedrock Guardrails の主な機能
| 機能 | 用途 |
|---|---|
| Denied topics | 禁止トピックのブロック |
| Content filters | ヘイト/暴力等の閾値制御 |
| Word filters | NG ワード遮断 |
| Sensitive info | PII マスク |
不正解の理由
- A: ユーザー嗜好に基づく自由対話の提供は、差別コンテンツ防止という安全要件とは方向性が逆で、ブロック制御の役割を果たしません。
- C: 会話を限定トピックに閉じ込める設計は別目的で、差別的入力そのものを検出して遮断する Guardrails の安全機能とは異なります。
- D: 多様な回答候補の提示は UX 機能であり、ヘイト・差別といった有害コンテンツのフィルタ要件には直接寄与しません。
コメント