2.3標準
利用者が自由文をAIアプリへ入力する。
過大な入力、禁止情報、攻撃的な命令をモデルへ渡さない。
入力処理として適切なものを2つ選べ。
× 不正解
入力は長さ・形式・データ分類・危険内容を検証し、拒否・マスキング・人手確認へ安全に分岐する。
詳細解説
正しい長さ、形式、文字コード、許可されたデータ分類を検証する
予想外の入力とコスト・漏えいリスクを抑えられる。
予想外の入力とコスト・漏えいリスクを抑えられる。
問題の要件では、長さ、形式、文字コード、許可されたデータ分類を検証するが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい危険な指示や個人情報を検出し、拒否・マスキング・確認へ回す
モデルへ渡す前に安全な処理へ分岐できる。
モデルへ渡す前に安全な処理へ分岐できる。
問題の要件では、危険な指示や個人情報を検出し、拒否・マスキング・確認へ回すが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り入力をそのまま管理コマンドへ連結する
インジェクションと権限逸脱の危険がある。
インジェクションと権限逸脱の危険がある。
問題の要件では、入力をそのまま管理コマンドへ連結するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り検証失敗を成功としてモデルへ送る
入力ポリシーを回避し、事故原因を隠す。
入力ポリシーを回避し、事故原因を隠す。
問題の要件では、検証失敗を成功としてモデルへ送るが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式生成AIセキュリティ・GuardrailsとAIF-C01 Domain 2.3を確認する。期待される結果
入力検証をコスト、安全性、権限の境界として設計できる。理解のポイント
- 入力検証
- データ分類
- 拒否
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
入力検証
型、長さ、形式、許可値、機密性、禁止内容を確認して受理範囲を制御する処理。
入力ポリシー
AIへ渡してよいデータ、用途、長さ、利用者、禁止内容を定める規則。
問題IDAWS-AIF-178
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告