3.1標準
顧客向けチャットで、短い回答を毎秒大量に返す必要がある。
複雑な長文推論より、応答時間とコストを重視する。
モデル選択で優先して比較する項目を2つ選べ。
× 不正解
モデルは品質だけでなく、代表的な入力でのレイテンシ、スループット、トークン単価、コンテキスト長など要件に合わせて比較する。
詳細解説
誤り訓練データのファイル名だけ
ファイル名だけではモデルの能力やサービス条件を判断できない。
正しい1リクエストあたりの推論コスト
大量利用では単価とトークン量が運用コストへ直結する。
正しい想定入力・出力に対するレイテンシとスループット
対話の応答時間と同時実行数を満たすか、実際の代表プロンプトで測定する。
誤りモデル名の文字列の長さ
名称の長さは性能、料金、レイテンシの判断材料にならない。
公式資料で確認する
以下の項目を公式資料の記述と照合して確認します。
Amazon Bedrock公式のモデル・推論料金・サービスクォータ情報を確認し、代表プロンプトで測定する。
参考にした公式資料
確認できる内容
レイテンシ・スループット・コストをモデル選択の要件として比較できる。
理解のポイント
- レイテンシ
- スループット
- 推論コスト
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントで、対象サービスが提供する機能と前提条件を確認する。
- モデル、データ、アプリケーション、利用者の責任分界を混同しない。
基礎のおさらい
レイテンシ
リクエストを受けてから応答を返すまでの時間。
スループット
一定時間に処理できるリクエストやトークンの量。
問題IDAWS-AIF-035
確認環境AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
最終技術確認2026-08-20
誤り・権利侵害を報告