2.3標準
検索で取得した文書をモデルへ渡す。
文書中の悪意ある命令を実行させない。
対策として適切なものを2つ選べ。
× 不正解
取得文書は不信なデータとして制約と分離し、出力検証と独立した認可でツール操作を制御する。
詳細解説
正しい取得文書を根拠データとして明示し、システム制約と別の境界へ置く
文書の命令をアプリケーション方針と混同しにくい。
文書の命令をアプリケーション方針と混同しにくい。
問題の要件では、取得文書を根拠データとして明示し、システム制約と別の境界へ置くが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい出力を検証し、ツール実行や権限変更を独立した認可で制限する
モデルの文書解釈だけで操作を許可しない。
モデルの文書解釈だけで操作を許可しない。
問題の要件では、出力を検証し、ツール実行や権限変更を独立した認可で制限するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り文書の命令をシステム命令として連結する
外部データが制約を上書きできる。
外部データが制約を上書きできる。
問題の要件では、文書の命令をシステム命令として連結するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り検索結果なら全て信頼してツールを実行する
検索は信頼性・権限を保証しない。
検索は信頼性・権限を保証しない。
問題の要件では、検索結果なら全て信頼してツールを実行するが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01 Domain 2.3のプロンプトインジェクション対策を確認する。期待される結果
検索文書の内容とアプリケーション命令・認可を分離できる。理解のポイント
- 文書注入
- 分離
- 認可
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
プロンプトインジェクション
入力や取得文書の命令でモデルの本来の制約を変更させる攻撃。
信頼境界
データや指示を信頼できるものと不信なものに分ける境界。
問題IDAWS-AIF-324
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告