AI901-Concept#12
Azure AI Content Safety の prompt shields 機能が主に対処するリスクとして最も適切なものはどれですか?
解説
【正解: C】の理由
prompt shields は、ユーザーが直接入力する jailbreak プロンプトと、RAG 等で読み込ませた外部ドキュメントに混入した indirect prompt injection の両方を検出する Azure AI Content Safety の機能です。検出された場合はリクエストを遮断するか、リスク スコアを返してアプリ側で判断できます。LLM ベースのチャット ボットの Reliability and safety を担保する主要メカニズムです。
【他選択肢が違う理由】
prompt shields は、ユーザーが直接入力する jailbreak プロンプトと、RAG 等で読み込ませた外部ドキュメントに混入した indirect prompt injection の両方を検出する Azure AI Content Safety の機能です。検出された場合はリクエストを遮断するか、リスク スコアを返してアプリ側で判断できます。LLM ベースのチャット ボットの Reliability and safety を担保する主要メカニズムです。
【他選択肢が違う理由】
- A: レイテンシはパフォーマンスの話で、prompt shields の対象ではありません。
- B: ストレージは Azure Storage の領域で、prompt shields とは無関係です。
- D: 料金管理は Cost Management の役割です。

コメント