バギングとブースティング
F銀行は、ローン延滞の予測に決定木を組み合わせたアンサンブル学習を使う。候補はランダムフォレストと勾配ブースティングである。両手法の説明として正しいものを2つ選べ。
- A
ランダムフォレストは、復元抽出した複数の標本ごとに木を作り、予測を平均や多数決でまとめる
- B
ランダムフォレストは、前の木が誤った事例の重みを上げながら、木を順番に作っていく
- C
勾配ブースティングは、それまでの木の予測誤差を補うように、新しい木を順番に追加していく
- D
勾配ブースティングは、木を互いに独立に作るため、木を増やしても過学習しにくい
正解と解説を見る
正解:A・C
バギング(ランダムフォレスト)は独立に作った木を平均してばらつきを抑え、ブースティングは誤差を補う木を順に加えて偏りを減らす。木を増やしすぎると過学習しやすいのは、ブースティングのほう。
- A
正しい。バギングの一種で、使う特徴量もランダムに選ぶことで木どうしの相関を下げ、ばらつきを抑える。
- B
誤り。誤った事例の重みを上げて順に学習するのは、AdaBoost などのブースティングの説明。
- C
正しい。前の段階の残差(損失の勾配)に合わせて木を逐次的に学習させるのがブースティングの考え方。
- D
誤り。木を独立に作るのはバギングの特徴。勾配ブースティングは木を増やしすぎると過学習しやすく、学習率の調整や早期終了が必要になる。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。