データ資格 模擬試験

DS検定 模擬試験 第6回 問78・データエンジニアリング(AIシステムの運用(MLOps))

推論の応答時間の短縮

I社は画像分類モデルをAPIとして公開し、スマートフォンアプリから呼び出している。精度は要件を満たしているが、1回の推論に時間がかかり、要件の「200ミリ秒以内の応答」を超えている。応答時間を短くする対策として適切なものを2つ選べ。

  1. A

    モデルの重みを32ビットから8ビットなどの少ないビット数で表す量子化を行う。

  2. B

    交差検証の分割数を増やし、ハイパーパラメータの探索を細かくやり直す。

  3. C

    学習データをさらに集めてモデルを再学習し、分類の精度を高めておく。

  4. D

    今のモデルを教師にして、より小さなモデルに学習させる知識蒸留を行う。

正解と解説を見る

正解:A・D

推論の遅さには、量子化、知識蒸留、枝刈りなどでモデルを軽くする対策が効く。学習データの追加や評価方法の変更は、学習側の工夫であり推論時間は変わらない。

学習のポイント:学習時の工夫と推論時の工夫を区別する。応答時間を縮めるには、推論1回あたりの計算を減らす。

この問題を演習で解く →

DS検定のトップへ 問題一覧へ

このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。