2.3標準
問い合わせ文をシステムプロンプトへ埋め込む。
ユーザー文が安全ルールや役割を変更しないようにする。
実装として適切なものを2つ選べ。
× 不正解
プロンプトインジェクション対策では、信頼された指示・未信頼入力・ツール権限を分離し、認可をモデルから切り離す。
詳細解説
誤り指示を隠せば入力検証は不要になる
隠蔽だけでは悪意ある入力や出力を防げない。
正しい認可や危険操作の判定をモデルの文章だけに委ねない
信頼境界の外にある出力をサーバー側の制御で検証する。
誤りユーザー入力へ管理者権限を付ける
入力テキストに権限はなく、権限付与は別の認証・認可で行う。
正しい信頼された指示と未信頼入力を別の役割・境界として扱う
ユーザー入力がシステム方針を上書きする可能性を下げられる。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
AWS公式生成AIセキュリティとAIF-C01 Domain 2.3のプロンプトインジェクション対策を確認する。
参考にした公式資料
確認できる内容
役割分離とサーバー側認可の必要性を説明できる。
理解のポイント
- 信頼境界
- 役割分離
- 認可分離
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
信頼境界
信頼できる命令や制御と、利用者・外部データのような未信頼入力を分ける境界。
プロンプトインジェクション
入力へ埋め込まれた指示で、モデルへ意図しない振る舞いをさせようとする攻撃。
問題IDAWS-AIF-117
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告