5.1標準
文書検索型のチャットボットが、取得した文書中の命令文を実行して機密情報を出力した。
取得文書は利用者が投稿できる。
このリスクに対する説明として最も適切なものはどれか。
× 不正解
プロンプトインジェクションは、信頼できない入力に含まれる命令が、システムの意図した指示やデータ境界を逸脱させるリスクである。
詳細解説
正しい入力データ内の悪意ある指示がモデルの本来の指示を上書きしようとするプロンプトインジェクションである
信頼できない入力に含まれる指示が、システムやユーザーの目的を逸脱させる攻撃である。
誤り出力の文字数を増やすための正当なプロンプト技法である
攻撃者が意図しない命令を入力へ混ぜるセキュリティ上の問題である。
誤り暗号化した保存データの可用性障害である
保存データの暗号化や可用性とは異なる、入力と命令の分離に関するリスクである。
誤りモデルの学習データが少ないことだけが原因である
学習データ量ではなく、信頼できない入力を命令として扱う境界が問題になる。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
Task 5.1と公式のプロンプトインジェクション説明を読む。利用者が投稿した仮想文書から、回答の根拠に使える記述と、アプリの方針を変更しようとする命令を分け、入力経路と漏えいまでの境界を図にする。
参考にした公式資料
確認できる内容
取得文書経由の間接的な指示注入を識別し、知識不足や保存時の暗号化とは異なる問題として説明できる。
理解のポイント
- 信頼できない入力
- 指示の優先順位
- 入力と権限の分離
確認時の注意
- 確認環境: 公式資料と仮想例による参照確認。AWS APIの呼出し、業務データの取得、後続処理の実行は不要。
- 文書が社内にあることや検索にヒットしたことだけでは、内容を命令として信頼する理由にならない。文書の出所・編集者・内容の役割を確認する。
- 区切りやシステム指示は対策の一部であり、単独で防御の成功を保証しない。モデルが逸脱しても機密データや高権限操作へ直接届かない境界を別に設ける。
基礎のおさらい
間接プロンプトインジェクション
検索文書など外部の内容に含まれる指示が、モデルの本来の動作や方針へ影響しようとすること。攻撃の入口と影響を分けて確認する。
根拠と権限の違い
回答の根拠として役立つ文書でも、アプリの方針や機密情報への権限を変更する指示元にはならない。
問題IDAWS-AIF-034
確認環境公式資料と仮想例による参照確認。AWS APIの呼出し、業務データの取得、後続処理の実行は不要。
最終技術確認2026-10-26
誤り・権利侵害を報告