温度パラメータの設定
CC社は、社内規程についての質問に大規模言語モデルで回答するチャットボットを作っている。同じ質問をしても回答の言い回しや内容が毎回大きく変わり、利用者が混乱するという声が出た。回答のばらつきを抑えるための設定の変更として、最も適切なものを1つ選べ。
- A
温度(temperature)の値を上げ、さまざまな語が選ばれやすくする。
- B
出力できる最大トークン数を増やし、長い回答も生成できるようにする。
- C
温度(temperature)の値を下げ、確率の高い語が選ばれやすくする。
- D
過去の会話をより多く入力に含め、参照できる文脈の量を増やしておく。
正解と解説を見る
正解:C
温度は、次に出す語を選ぶときのランダムさを調整する設定。正確さや一貫性が重要な業務では低め、アイデア出しなど多様さが欲しい用途では高めにする。
- A
誤り。温度を上げると多様な語が選ばれやすくなり、回答のばらつきはむしろ大きくなる。
- B
誤り。最大トークン数は出力の長さの上限を決める設定で、回答のばらつきは抑えられない。
- C
正しい。温度を下げると出力の確率分布が鋭くなり、同じ入力に対する回答のばらつきが小さくなる。
- D
誤り。文脈が増えると回答が会話ごとに変わりやすくなることもあり、ばらつきを直接抑える設定ではない。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。