5.1標準
有害な入力と危険な出力を抑える。
一つのフィルターに依存しない。
設計として適切なものを2つ選べ。
× 不正解
AI安全対策は入力・プロンプト・検索認可・出力・人手確認の多層で実施し、誤検知・すり抜け・言語差・利用者影響を評価する。
詳細解説
正しい入力検査、プロンプト制約、検索認可、出力検査、人手確認を組み合わせる
異なる段階でリスクを止められる。
正しい誤検知・すり抜け・言語差・遅延・利用者影響を評価し、例外処理を定義する
ガードレールの副作用を管理できる。
誤りガードレールの誤検知を記録せず無条件に厳しくする
正当利用を損なう。
誤り出力フィルター一つだけで全ての攻撃を防げる
層をまたぐリスクがある。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
AWS公式AIF-C01 Domain 4・5.2のガードレール、入力出力検査、人的監督を確認する。
参考にした公式資料
確認できる内容
安全対策を一つの分類器に依存せず、段階ごとに評価・改善できる。
理解のポイント
- ガードレール
- 多層防御
- 誤検知
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
ガードレール
危険な入力・出力・行動を検出し制限する制御群。
多層防御
異なる段階の複数の対策で単一障害を補う考え方。
問題IDAWS-AIF-460
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告