係数を0にする正則化
G社は会員の購入有無を予測するロジスティック回帰モデルを作っている。特徴量が200個あり、学習データでは精度が高いのに検証データでは大きく下がる。過学習を抑えつつ、効く特徴量だけを残してモデルを解釈しやすくしたい。最も適切な対応を1つ選べ。
- A
正則化の強さを0に近づけ、係数の自由度を高くする
- B
L2正則化を加え、不要な特徴量の係数をちょうど0にする
- C
学習データの正解率が最大になるまで特徴量を追加する
- D
L1正則化を加え、不要な特徴量の係数をちょうど0にする
正解と解説を見る
正解:D
L1正則化は係数をちょうど0にして特徴量を絞り込み、L2正則化は係数を全体的に小さくする。どちらも過学習を抑えるが、変数を選べるのはL1。
- A
誤り。正則化を弱めると係数の制約がなくなり、過学習がさらに進む。未学習と取り違えた対応。
- B
誤り。L2正則化(Ridge)は係数を全体的に小さくするが、ちょうど0にはなりにくい。200個の特徴量がほぼすべて残る。
- C
誤り。学習データへの当てはまりだけを上げると、過学習が悪化する。特徴量の選択は検証データや交差検証で判断する。
- D
正しい。L1正則化(Lasso)は係数の絶対値の和に罰則をかけるので、多くの係数がちょうど0になる。過学習の抑制と特徴量の選択を同時にできる。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。