AIF-C01#65(fundamentals-generative-ai)
ある電子商取引（EC）企業が、顧客の注文送信プロセスを自動化するためにチャットボットを使用しています。このチャットボットはAIを搭載しており、会社のウェブサイトから24時間365日、顧客が直接利用できるようになっています。 チャットボットを公開する前に解決すべき「AIシステムの入力に関する脆弱性（input vulnerability）」はどれですか？
正解：B
正解の根拠
プロンプトインジェクションは、悪意あるユーザーが入力に巧妙な指示を埋め込み、システムプロンプトの制約を上書きしたり機密情報を漏えいさせたりする攻撃で、生成 AI 入力に固有の代表的な脆弱性です。OWASP Top 10 for LLM の最上位にも挙げられ、Bedrock Guardrails や入力バリデーション、システムプロンプト分離設計で緩和します。
生成 AI のリスク分類
| リスク | 分類 |
|---|---|
| Prompt Injection | 入力経由の攻撃 |
| Data Leakage | 出力経由の漏えい |
| Hallucination | 出力の誤情報 |
| Concept Drift | 運用時の精度劣化 |
不正解の理由
- A: データ漏洩は出力経由のリスクで、入力脆弱性のカテゴリとは扱いが異なります。
- C: ハルシネーションは出力の事実誤認問題で、入力経由の攻撃ベクトルとは別問題です。
- D: 概念ドリフトは時間経過によるデータ分布変化の問題で、入力脆弱性ではありません。
コメント