AI901-Concept#16
以下の各ステートメントについて、Azure AI Content Safety / Foundry の Reliability and safety 関連機能の説明として正しい場合は「はい」を、正しくない場合は「いいえ」を選択してください。
注: 正解 1 つにつき 1 点が与えられます。
| ステートメント | はい | いいえ |
|---|---|---|
prompt shields は、ユーザー入力に含まれる jailbreak と、外部ドキュメント経由の indirect prompt injection の両方を検出する機能を提供する。 prompt shields は jailbreak (直接攻撃) と indirect prompt injection (RAG 等で読み込んだ外部コンテンツに埋め込まれた指示) の両方をカバーする、Azure AI Content Safety の標準機能です。 | ||
groundedness detection は、モデルの推論レイテンシを自動的に最適化し応答時間を短縮する機能である。 groundedness detection は応答が grounding source に根ざしているかを評価する機能で、レイテンシ最適化とは無関係です。レイテンシ管理は Azure Monitor / スケーリング設定の領域です。 | ||
Azure AI Content Safety は、テキストと画像の両方について暴力 / 性的 / 憎悪 / 自傷の 4 カテゴリで重大度を返す API を提供する。 Content Safety は text moderation と image moderation の両 API で 4 カテゴリの重大度 (0/2/4/6 等) を返します。アプリ側でしきい値に応じて遮断や警告を実装します。 |
解説
【正解一覧】
| ステートメント | 正解 |
|---|---|
| prompt shields は、ユーザー入力に含まれる jailbreak と、外部ドキュメント経由の indirect prompt… | はい |
| groundedness detection は、モデルの推論レイテンシを自動的に最適化し応答時間を短縮する機能である。 | いいえ |
| Azure AI Content Safety は、テキストと画像の両方について暴力 / 性的 / 憎悪 / 自傷の 4 カテゴリで重大… | はい |
【各判定の詳細】
- 「prompt shields は、ユーザー入力に含まれる jailbreak と、外部ドキュメン…」→ はい: prompt shields は jailbreak (直接攻撃) と indirect prompt injection (RAG 等で読み込んだ外部コンテンツに埋め込まれた指示) の両方をカバーする、Azure AI Content Safety の標準機能です。
- 「groundedness detection は、モデルの推論レイテンシを自動的に最適化し応答時…」→ いいえ: groundedness detection は応答が grounding source に根ざしているかを評価する機能で、レイテンシ最適化とは無関係です。レイテンシ管理は Azure Monitor / スケーリング設定の領域です。
- 「Azure AI Content Safety は、テキストと画像の両方について暴力 / 性的 …」→ はい: Content Safety は text moderation と image moderation の両 API で 4 カテゴリの重大度 (0/2/4/6 等) を返します。アプリ側でしきい値に応じて遮断や警告を実装します。
コメント