Question#47(AI-102)
Azure OpenAI リソース（AI1）を含む Azure サブスクリプションがあります。 AI1 を使用して、特定の質問に対して生成的な回答を提供するチャットボットを構築します。 チャットボットがすべての入力と出力をチェックし、不適切なコンテンツ（objectionable content）がないか確認するようにする必要があります。 最初にどのタイプのライソースを作成すべきですか？
正解：B
Azure OpenAI には標準のコンテンツフィルタリング機能が含まれていますが、より高度で包括的なチェック（入力・出力の両方に対する多角的な評価）を独立して、あるいは追加で行うための専用サービスが Azure AI Content Safety です。 1. Azure AI Content Safety (B) が最適な理由 専用の検知エンジン: ヘイト、暴力、自傷、性的表現の 4 つのカテゴリに加え、脱獄（Jailbreak）攻撃の検知や、保護されたコンテンツ（著作権物）の検出など、生成 AI 特有のリスクに特化したリソースです。 独立したチェック: ボットのアプリケーション層において、ユーザーの入力（Prompt）がモデルに届く前や、モデルの回答（Completion）がユーザーに届く前に、API 経由でコンテンツの安全性をスコアリングできます。 一元管理: Azure AI Studio を通じて、複数の AI アプリケーションで共通の安全基準を適用するのに適しています。
コメント