例示を入れたプロンプト
家電メーカーのL社は、問い合わせメールを「故障」「使い方」「返品」に分類するため、LLMのAPIを利用している。プロンプトの中に、メール文とその分類の例を3件ずつ入れて指示する方法(few-shot)を使い始めた。この方法についての説明として最も適切なものを1つ選べ。
- A
例に挙げる分類の比率が偏っていても、モデルが自動で補正するので出力には影響しない
- B
モデルの重みは変わらず、その回の入力に含まれる例を手がかりに、出力の形式や判断を合わせる
- C
例は指示文として扱われるので入力トークン数に含まれず、費用や応答時間には影響しない
- D
例を入れた時点でモデルが追加学習され、次の呼び出しからは例がなくても同じように分類できる
正解と解説を見る
正解:B
few-shotは、プロンプトに例を入れて出力を合わせる方法で、モデルの重みは更新しない。例もトークンとして数えられ、例の偏りは出力に影響する。
- A
誤り。例の分類の比率や並び順は出力に影響しやすい。偏りがあると、多く例示した分類が選ばれやすくなることがある。
- B
正しい。few-shotは文脈内学習とも呼ばれ、モデルのパラメータを更新しない。効果があるのは、例を入れたその入力の中だけである。
- C
誤り。例もすべて入力トークンとして数えられる。例を増やすと、費用や応答時間、コンテキスト長の消費が増える。
- D
誤り。重みを更新するファインチューニングと取り違えている。few-shotの効果を得るには、呼び出しのたびに例を入れる必要がある。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。