推論の応答時間の短縮
I社は画像分類モデルをAPIとして公開し、スマートフォンアプリから呼び出している。精度は要件を満たしているが、1回の推論に時間がかかり、要件の「200ミリ秒以内の応答」を超えている。応答時間を短くする対策として適切なものを2つ選べ。
- A
モデルの重みを32ビットから8ビットなどの少ないビット数で表す量子化を行う。
- B
交差検証の分割数を増やし、ハイパーパラメータの探索を細かくやり直す。
- C
学習データをさらに集めてモデルを再学習し、分類の精度を高めておく。
- D
今のモデルを教師にして、より小さなモデルに学習させる知識蒸留を行う。
正解と解説を見る
正解:A・D
推論の遅さには、量子化、知識蒸留、枝刈りなどでモデルを軽くする対策が効く。学習データの追加や評価方法の変更は、学習側の工夫であり推論時間は変わらない。
- A
正しい。量子化で計算量とメモリ使用量が減り、精度の低下を小さく抑えながら推論を速くできる。
- B
誤り。交差検証は学習時の評価方法で、分割数を増やすと学習時間が延びるだけである。推論の速さには関係しない。
- C
誤り。データを増やすことは精度の改善策である。モデルの大きさは変わらないので、推論時間は短くならない。
- D
正しい。知識蒸留で、元のモデルに近い精度をもつ軽いモデルを作れるため、推論が速くなる。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。