最小二乗法の残差の性質
切片を含む単回帰モデル「y = a + b × x」を、最小二乗法でデータに当てはめた。残差は「観測値 − 予測値」とする。このときの記述として正しいものを1つ選べ。
- A
傾きと切片は、残差の合計が最も小さくなるように決められている。
- B
残差の合計は0になり、残差と予測値の相関係数は1になる。
- C
残差の合計は0になり、残差と説明変数xの共分散は0になる。
- D
回帰直線は点(xの平均, yの平均)を通るとは限らず、通るのは切片が0のときである。
正解と解説を見る
正解:C
切片を含む最小二乗法では、残差の合計 = 0、残差とxの共分散 = 0(無相関)、回帰直線は平均の点を通る、の3つが成り立つ。
- A
誤り。最小にするのは残差の2乗の合計(残差平方和)である。残差の合計は、正と負が打ち消し合って0になる。
- B
誤り。予測値はxの一次式なので、残差と予測値の共分散は0になり、相関が1になることはない。
- C
正しい。最小二乗法の条件(切片と傾きで偏微分して0とおく式)から、残差の合計 = 0 と、残差とxの積の合計 = 0 が導かれる。したがって残差とxの共分散は0になる(残差がすべて0でないときは相関係数も0)。
- D
誤り。切片を含むモデルでは、a = yの平均 − b × xの平均 となるため、回帰直線は切片の値に関係なく点(xの平均, yの平均)を通る。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。