2.2標準
長い社内規程を一度にモデルへ渡して要約したい。
入力がモデルのコンテキスト長を超える場合の対策を検討する。
コンテキスト長に関する説明として適切なものはどれか。
× 不正解
基盤モデルはトークン単位で入力と出力を扱い、モデルごとにコンテキスト長の上限がある。長文は分割や検索拡張などで扱う。
詳細解説
誤り文字数が少なければ必ずトークン数も同じになる
トークンは文字と一対一ではなく、言語や記号によって分割のされ方が異なる。
正しい入力と出力を含むトークン数には上限があり、長文は分割や要約が必要になる場合がある
モデルごとに扱えるコンテキスト量に上限があり、超過時は分割、検索、段階的要約などを設計する。
誤りコンテキスト長はIAMポリシーのサイズで決まる
コンテキスト長はモデルの入力・出力能力に関する上限で、IAMポリシーとは別の概念である。
誤りコンテキスト長を超えた入力は自動的に永続保存される
上限超過の入力が自動的に保存・再利用されるとは限らない。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
Amazon Bedrock公式モデル情報で、対象モデルの入力・出力トークン上限を確認する。
参考にした公式資料
確認できる内容
トークン、コンテキスト長、長文分割の関係を説明できる。
理解のポイント
- トークン
- コンテキスト長
- 長文処理
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
トークン
モデルが入力や出力を処理するための分割単位。文字と一対一とは限らない。
コンテキスト
生成時にモデルが参照できる入力、会話履歴、出力の範囲。
問題IDAWS-AIF-029
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告