2.1標準
長い文章の中で、ある語と関係の強い語をモデルが参照する仕組みを説明する。
Transformerの主要概念を整理する。
説明として正しいものを2つ選べ。
× 不正解
Transformerは注意機構でトークン間の関係を重み付けし、系列全体を並列に処理しやすい。注意重みだけを完全な説明とみなしてはいけない。
詳細解説
正しいTransformerは再帰だけに依存せず、並列処理しやすい構造を持つ
自己注意を使う構造により、系列全体を扱いやすい。
誤り注意重みは常に人間が読める根拠そのものである
重みの可視化だけで完全な説明や因果を保証できない。
誤りTransformerは画像や音声には利用できない
モダリティに応じた埋め込みなどを使って利用できる。
正しい注意機構は入力中の位置や語の関係に重みを付けて参照する
全てのトークンを同じ重みで扱わず、文脈上の関連性を計算する。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
AWS公式AIF-C01試験ガイドDomain 2.1のTransformer・attentionの説明を確認する。
参考にした公式資料
確認できる内容
注意機構と並列処理の特徴、説明可能性の限界を説明できる。
理解のポイント
- 自己注意
- 文脈
- 並列処理
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
注意機構
入力要素間の関係を計算し、重要度に応じて情報を集約する仕組み。
Transformer
自己注意を中心に系列データを処理するニューラルネットワークアーキテクチャ。
問題IDAWS-AIF-097
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告