勾配ブースティングの仕組み
保険会社のA社の分析チームが、解約予測に勾配ブースティング決定木を使うことにした。勾配ブースティングの仕組みの説明として正しいものを1つ選べ。
- A
復元抽出した標本ごとに木を独立に作り、それらの予測を平均や多数決でまとめる
- B
特徴量を主成分に変換し、寄与率の高い成分だけを使って決定木を1本作る
- C
前の木までで残った誤差を補うように、新しい木を1本ずつ順に加えていく
- D
1本の深い決定木を作ってから、検証データを使って枝刈りして精度を高める
正解と解説を見る
正解:C
ブースティングは前のモデルの誤りを補うように学習器を順に加え、バギングは独立に作ったモデルの結果を平均する。どちらも決定木のアンサンブルだが、木の作り方が違う。
- A
誤り。バギング(ランダムフォレストなど)の説明。木を並列に独立して作る点がブースティングと異なる。
- B
誤り。次元圧縮と単一の木の組合せで、木を順に加えていくブースティングとは別物。
- C
正しい。ブースティングは弱い学習器を逐次的に加え、それまでの予測の誤りを修正していく手法。
- D
誤り。単一の決定木の過学習を抑える方法で、複数の木を組み合わせるアンサンブルではない。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。