2.1標準
長い文章の中で、ある単語と関係する文脈をモデルが処理する。
Transformerの基本的な考え方を説明する。
説明として正しいものを2つ選べ。
× 不正解
Attentionはトークン間の関係を重み付けして文脈表現を作る。Transformerや基盤モデルで利用されるが、知識の正確さや入力上限を保証しない。
詳細解説
正しいAttentionは入力中の他のトークンとの関係を重み付けして表現する
文脈に応じた情報の組み合わせを学べる。
文脈に応じた情報の組み合わせを学べる。
問題の要件では、Attentionは入力中の他のトークンとの関係を重み付けして表現するが解決する範囲と、別の工程が担う範囲を分けて判断する。
正しいTransformerは系列全体の関係を並列に扱いやすく、基盤モデルの構成に使われる
大規模な事前学習と相性がよい。
大規模な事前学習と相性がよい。
問題の要件では、Transformerは系列全体の関係を並列に扱いやすく、基盤モデルの構成に使われるが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤りAttentionはモデルが事実を必ず記憶していることを保証する
表現処理と知識の正確さは別問題である。
表現処理と知識の正確さは別問題である。
問題の要件では、Attentionはモデルが事実を必ず記憶していることを保証するが解決する範囲と、別の工程が担う範囲を分けて判断する。
誤りAttentionを使えばコンテキスト上限がなくなる
入力長や計算量の制約は残る。
入力長や計算量の制約は残る。
問題の要件では、Attentionを使えばコンテキスト上限がなくなるが解決する範囲と、別の工程が担う範囲を分けて判断する。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01 Domain 2.1の基盤モデル、Transformer、Attentionを確認する。期待される結果
Attentionの役割と、能力・知識・上限を混同しない説明ができる。理解のポイント
- Attention
- Transformer
- 文脈
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
Attention
入力要素間の関係へ重みを付け、文脈に応じた表現を作る機構。
Transformer
Attentionを中心に系列データを処理するニューラルネットワーク構造。
問題IDAWS-AIF-237
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告