2.3標準
利用者が自由入力した問い合わせを、社内FAQの要約プロンプトへ埋め込む。
入力中の命令文でシステム指示が変更されないようにする。
設計上の対策として適切なものを2つ選べ。
× 不正解
ユーザー入力は信頼できないデータとして扱い、信頼された指示・権限・入力検証・出力検証を分離する。
詳細解説
正しいシステム指示とユーザー入力を別の役割・境界として扱う
信頼する指示と外部入力を分け、入力を命令として無条件に実行しない。
信頼する指示と外部入力を分け、入力を命令として無条件に実行しない。
問題の要件では、システム指示とユーザー入力を別の役割・境界として扱うが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい入力長・文字種・禁止内容を検証し、必要なら拒否する
入力検証とポリシーで攻撃的な内容や想定外形式を抑える。
入力検証とポリシーで攻撃的な内容や想定外形式を抑える。
問題の要件では、入力長・文字種・禁止内容を検証し、必要なら拒否するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤りユーザー入力へ管理者権限を付与する
入力は権限を持たず、操作は別の認可で制御すべきである。
入力は権限を持たず、操作は別の認可で制御すべきである。
問題の要件では、ユーザー入力へ管理者権限を付与するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤りモデルの出力を認可判断の唯一の根拠にする
生成出力は信頼できない入力としてサーバー側で検証する。
生成出力は信頼できない入力としてサーバー側で検証する。
問題の要件では、モデルの出力を認可判断の唯一の根拠にするが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
Amazon Bedrock公式のGuardrails・Prompt management・セキュリティ設計を確認する。期待される結果
入力とシステム指示の分離、検証、権限分離をプロンプトインジェクション対策として説明できる。理解のポイント
- 信頼境界
- 入力検証
- 権限分離
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
信頼境界
外部入力と信頼された指示・処理を分け、相互作用を検証する境界。
入力検証
サイズ、形式、内容、許可範囲を確認し、想定外の入力を拒否・隔離する処理。
問題IDAWS-AIF-076
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告