データ資格 模擬試験

DS検定 模擬試験 第6回 問39・データサイエンス(生成AIの基礎と活用)

量子化後のメモリ量

A社は社内チャット用に、パラメータ数70億の言語モデルを自社サーバで動かしたい。重みは1個あたり16ビットで保存されている。これを4ビットに量子化したとき、重みの保存に必要なメモリ量として最も近いものを1つ選べ。1バイト = 8ビット、1GB = 10の9乗バイトとし、重み以外のメモリは考えない。

  1. A

    約14GB

  2. B

    約7GB

  3. C

    約28GB

  4. D

    約3.5GB

正解と解説を見る

正解:D

量子化は重みのビット数を減らしてメモリと計算量を削る手法で、16ビットから4ビットにすると重みの容量は4分の1(14GB → 3.5GB)になる。そのかわり、精度がいくらか下がることがある。

学習のポイント:メモリ量 = パラメータ数 × ビット数 ÷ 8 で、ビットとバイトの換算を忘れない。

この問題を演習で解く →

DS検定のトップへ 問題一覧へ

このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。