3.3標準
出力形式を改善するため、システムプロンプトを変更する。
既存の禁止事項や根拠表示が失われていないか確認したい。
変更前後の確認方法として最も適切なものはどれか。
× 不正解
プロンプト変更もアプリケーション変更として扱い、固定評価セットで正確性、形式、拒否、安全性を比較する。
詳細解説
正しい固定評価セットを同じモデル条件で実行し、品質・安全性・形式を比較する
同じ入力と基準で比較すると、意図しない回帰やトレードオフを発見できる。
同じ入力と基準で比較すると、意図しない回帰やトレードオフを発見できる。
問題の要件では、固定評価セットを同じモデル条件で実行し、品質・安全性・形式を比較するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り変更後の成功例を1件だけ確認する
一例では禁止事項や境界条件の回帰を捉えられない。
一例では禁止事項や境界条件の回帰を捉えられない。
問題の要件では、変更後の成功例を1件だけ確認するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤りプロンプトの文字数だけ比較する
長さだけでは出力品質や安全性の変化を判断できない。
長さだけでは出力品質や安全性の変化を判断できない。
問題の要件では、プロンプトの文字数だけ比較するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り評価をせず本番へ切り替える
回帰の検出機会を失い、利用者への影響が出る。
回帰の検出機会を失い、利用者への影響が出る。
問題の要件では、評価をせず本番へ切り替えるが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01ガイドのDomain 3.3で評価・回帰テストの考え方を確認する。期待される結果
プロンプトを変更したときも同じ評価セットで回帰を検出する手順を説明できる。理解のポイント
- 固定評価セット
- 回帰
- 安全性
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
回帰テスト
変更後に既存の期待動作が維持されているかを再確認するテスト。
評価基準
正確性、形式、拒否、安全性など、利用目的に合わせて定義した判定軸。
問題IDAWS-AIF-046
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告