顧客離反予測モデルを本番へ導入する。
データ準備、訓練、評価、デプロイの関係を整理する。
一般的な機械学習ライフサイクルの説明として適切なものはどれか。
ML開発は目的定義、データ準備、訓練、評価、デプロイ、監視を繰り返す。評価データの分離と本番後の監視が重要である。
詳細解説
モデル開発は一度で終わらず、評価と運用監視を含む反復的なライフサイクルになる。
モデル開発は一度で終わらず、評価と運用監視を含む反復的なライフサイクルになる。
問題の条件では、目的とデータを定義し、準備・訓練・評価を経てデプロイし、運用中も監視するが担う対象と、ほかの選択肢が担う対象を分けて考える。
目的と評価指標は開発前に決め、結果を判断できるようにする。
目的と評価指標は開発前に決め、結果を判断できるようにする。
問題の条件では、本番デプロイ後に初めて目的と評価指標を決めるが担う対象と、ほかの選択肢が担う対象を分けて考える。
評価データを混ぜるとデータリークが起こり、汎化性能を正しく測れない。
評価データを混ぜるとデータリークが起こり、汎化性能を正しく測れない。
問題の条件では、評価データを訓練データへ混ぜれば、未知データへの性能を測定できるが担う対象と、ほかの選択肢が担う対象を分けて考える。
本番データの変化やモデルドリフトを継続的に確認する必要がある。
本番データの変化やモデルドリフトを継続的に確認する必要がある。
問題の条件では、デプロイすればデータ分布の変化を監視する必要はないが担う対象と、ほかの選択肢が担う対象を分けて考える。
実際に確かめる
一時的な検証環境で実行できる例です。
AWS公式AIF-C01ガイドのDomain 1.3で、AI/ML開発ライフサイクルの各段階を確認する。期待される結果
開発前の目的定義から本番後の監視までを一連のライフサイクルとして説明できる。理解のポイント
- データ準備
- 評価データの分離
- 本番監視
確認時の注意
- 確認環境: AWS公式AIF-C01試験ガイドとAWS公式ドキュメントの確認
- AWS公式ドキュメントの対象サービス・機能の説明と、AIF-C01の対応Taskを確認する。
- サービスの提供範囲と、利用者が設計・設定する範囲を混同しない。
基礎のおさらい
データリーク
評価用の情報が訓練に混ざると、未知データへの性能を過大評価する。
モデルドリフト
本番の入力分布や関係性が変わると、以前の評価結果どおりの性能を維持できない場合がある。