検証損失で学習を止める
D社は製品画像の良否を判定するニューラルネットワークを学習させている。学習の途中で、エポック(学習データを一巡する回数)ごとに学習データと検証データの損失を記録した結果が下の表である。この結果を踏まえた判断として、最も適切なものを1つ選べ。
- A
学習損失が最小のエポック20のモデルが、未知の画像にも最も高い精度を示すと判断する
- B
エポック10以降は過学習が進んでいるため、検証損失が最小の10付近のモデルを採用する
- C
学習損失と検証損失の差が最も小さいエポック5のモデルを、最もよいモデルとして採用する
- D
検証損失が上がっているのは未学習のためなので、エポック数をさらに増やして学習を続ける
正解と解説を見る
正解:B
学習損失が下がり続ける一方で検証損失が上昇に転じたら過学習のサインであり、検証損失が最小の時点で学習を止める早期終了が有効である。
| エポック | 学習データの損失 | 検証データの損失 |
|---|---|---|
| 5 | 0.60 | 0.65 |
| 10 | 0.40 | 0.48 |
| 15 | 0.25 | 0.52 |
| 20 | 0.12 | 0.70 |
- A
誤り。学習損失が小さいのは学習データへの当てはまりがよいことを示すだけで、未知データでの性能は検証損失で判断する。
- B
正しい。学習損失は下がり続けているが、検証損失はエポック10を境に上昇しており、過学習の典型的な形である。検証損失が最小の時点で止める(早期終了)のが適切。
- C
誤り。差が小さくても、エポック5は両方の損失が高く、まだ学習が足りない状態である。検証損失そのものが最小の時点を選ぶ。
- D
誤り。未学習なら学習損失も高いまま下がりにくい。学習損失だけが下がり検証損失が上がる形は過学習で、学習を続けると悪化しやすい。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。