データ資格 模擬試験

DS検定 模擬試験 第4回 問83・データエンジニアリング(生成AIの実装と運用)

会話履歴とコンテキスト長

AD社の問い合わせ用チャットボットは、大規模言語モデルのAPIに、それまでの会話履歴をすべて付けて送る作りになっている。会話が長く続くと、最初に利用者が伝えた注文番号や条件を無視した回答が出るようになった。原因と対策の組合せとして、最も適切なものを1つ選べ。

  1. A

    一度に入力できるトークン数の上限を超えて古い履歴が切り捨てられているので、重要な情報を要約して毎回渡す。

  2. B

    モデルが会話のたびに再学習されて以前の内容を忘れるので、再学習を止める設定をAPIで指定する。

  3. C

    モデルの学習データが古く最近の情報を知らないので、より新しい時期まで学習したモデルに切り替える。

  4. D

    温度パラメータが高く出力がばらついているので、温度を0に近づけて毎回同じ回答が出るようにする。

正解と解説を見る

正解:A

大規模言語モデルは、一度に扱える入力の長さ(コンテキスト長)の範囲しか参照できない。長い会話では、履歴の要約や重要な情報の保持などの工夫が必要になる。

学習のポイント:モデルが「覚えている」のは送った入力の中身だけで、会話によって学習しているわけではない。

この問題を演習で解く →

DS検定のトップへ 問題一覧へ

このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。