AIF-C01#71(fundamentals-generative-ai)
生成 AI モデルの文脈において、プロンプトエンジニアリングの潜在的なリスクと制限を説明するシナリオはどれですか？
正解：B
正解の根拠
プロンプトエンジニアリングはユーザー入力をモデルに渡す設計プロセスのため、悪意ある入力により本来のシステム指示を上書きするプロンプトインジェクション攻撃にさらされやすいという固有のリスクを抱えます。OWASP Top 10 for LLM でも最上位の脅威として挙げられ、Bedrock Guardrails や入力検証で緩和する必要があります。
プロンプトエンジニアリングのリスク
| リスク | 説明 |
|---|---|
| Prompt Injection | 悪意入力でシステム指示を上書き |
| Jailbreak | 安全制約の回避 |
| Data Leakage | 機密情報の漏えい誘発 |
| Hallucination | 誤った確信ある回答 |
不正解の理由
- A: 一貫性の保証は別の課題で、本問の主題である脆弱性の例として最も核心的なのは B です。
- C: データポイズニングは訓練データへの攻撃で、プロンプトエンジニアリング固有のリスクではありません。
- D: 一貫した出力の保証問題は信頼性課題ですが、本問が問う代表的脆弱性 (脅威) は B が最適です。
コメント