3.4標準
モデル更新後、回答の引用率と拒否率が変化した。
変更による品質退行か、利用者入力の変化かを調べる。
監視として適切なものを2つ選べ。
× 不正解
生成品質のドリフトは版・プロンプト・入力カテゴリ別の指標と固定評価を併用して、モデル退行と入力変化を切り分ける。
詳細解説
正しいプロンプト・モデル版・入力カテゴリごとに品質指標を時系列で比較する
どの変更・条件でドリフトが起きたか切り分けられる。
どの変更・条件でドリフトが起きたか切り分けられる。
問題の要件では、プロンプト・モデル版・入力カテゴリごとに品質指標を時系列で比較するが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい固定評価セットと本番サンプルを分け、異常時に再現テストする
本番変化とモデル自体の退行を別々に確認できる。
本番変化とモデル自体の退行を別々に確認できる。
問題の要件では、固定評価セットと本番サンプルを分け、異常時に再現テストするが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り全体の回答数だけを監視する
量だけでは品質や安全性の変化を検出できない。
量だけでは品質や安全性の変化を検出できない。
問題の要件では、全体の回答数だけを監視するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り変化を見つけたら評価データを削除する
原因と再現性が失われる。
原因と再現性が失われる。
問題の要件では、変化を見つけたら評価データを削除するが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01 Domain 3.4の監視、品質退行、モデル更新を確認する。期待される結果
本番入力変化とモデル・プロンプト変更の影響を切り分けられる。理解のポイント
- 品質ドリフト
- 固定評価
- 切り分け
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
品質ドリフト
生成AIの正確性、根拠、拒否、安全性などの指標が時間や条件で変化すること。
固定評価セット
モデルやプロンプト変更の影響を比較するため、同じ入力を保持した評価集合。
問題IDAWS-AIF-186
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告