勾配降下法での重みの更新
A社の需要予測モデルでは、損失関数 L(w) = (w − 3)^2 を勾配降下法で小さくしている。現在の重みは w = 1、学習率は 0.1 である。更新式は「新しい w = 現在の w − 学習率 × (現在の w における L の導関数の値)」とし、L の導関数は 2 × (w − 3) とする。1回更新した後の w として正しいものを1つ選べ。
- A
1.2
- B
5.0
- C
1.4
- D
0.6
正解と解説を見る
正解:C
勾配降下法では、導関数の値(傾き)と反対の向きに、学習率を掛けた幅だけ重みを動かす。傾きは −4 なので、w は 1 − 0.1 × (−4) = 1.4 になる。
- A
誤り。導関数を (w − 3) = −2 とし、2倍を落としている。正しい導関数の値は −4。
- B
誤り。学習率 0.1 を掛け忘れ、1 − (−4) = 5 としている。学習率を掛けないと更新幅が大きすぎて最小点を飛び越える。
- C
正しい。w = 1 での導関数の値は 2 × (1 − 3) = −4。新しい w = 1 − 0.1 × (−4) = 1 + 0.4 = 1.4 となり、最小点の w = 3 に近づく。
- D
誤り。1 − 0.4 と計算しており、導関数の値が負であることを見落としている。符号を取り違えると最小点から遠ざかる。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。