2.1基礎
生成AIを社内業務へ導入する。
利用者へ過信させない説明を用意する。
生成AIの一般的な限界として適切なものを2つ選べ。
× 不正解
生成AIにはハルシネーション、偏り、再現性、最新情報不足などの限界があり、用途に応じて評価・監督・根拠付けが必要である。
詳細解説
正しいもっともらしいが事実でない内容を生成する場合がある
生成モデルは常に事実性を保証するわけではない。
生成モデルは常に事実性を保証するわけではない。
問題の要件では、もっともらしいが事実でない内容を生成する場合があるが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しい学習・入力データの偏りが出力へ影響する場合がある
データの代表性や偏りは出力の品質・公平性に影響する。
データの代表性や偏りは出力の品質・公平性に影響する。
問題の要件では、学習・入力データの偏りが出力へ影響する場合があるが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り人間の確認は一切不要になる
重要な判断では人の監督や検証が必要である。
重要な判断では人の監督や検証が必要である。
問題の要件では、人間の確認は一切不要になるが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤り出力は必ず同じで、設定に依存しない
推論設定や確率性、入力の違いで出力は変わり得る。
推論設定や確率性、入力の違いで出力は変わり得る。
問題の要件では、出力は必ず同じで、設定に依存しないが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01ガイドDomain 2.1の生成AIの限界と責任ある利用を確認する。期待される結果
事実性と偏りの限界を挙げ、検証や人間の監督が必要だと説明できる。理解のポイント
- ハルシネーション
- 偏り
- 人間の確認
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
ハルシネーション
事実でない内容を、自然で確信のある表現として生成する現象。
出力の偏り
学習・入力データや設計の偏りが、特定の集団や条件に不均衡な影響を与えること。
問題IDAWS-AIF-073
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告