【深度學習】Resnet詳細筆記！！

Resnet 一、爲什麼會有Resnet 神經網絡越深，訓練效果一定就越好？答案是否定的。因爲不斷加深網絡層次，模型會發生退化現象。 那麼，爲什麼會出現退化？ 1、不是過擬合 在吳恩達機器學習課中，提到過由於模型過於複雜（次數過高）導致了高方差。 過擬合是：高方差，低偏差（測試誤差大而訓練誤差小）。而CNN退化表現爲測試誤差和訓練誤差都很大。因此不是過擬合導致。 2、不是梯度爆炸/消失 這是前向傳

>>阅读原文<<