深度學習《殘差網絡簡單學習》

一：殘差網絡 VGG網絡將網絡達到了19層的深度，GoogleNet的深度是22層，一般而言，深度越深，月面臨如下問題： 1：計算量增大 2：過擬合 3：梯度消失和梯度爆炸 4：網絡退化 第一個問題呢可以用GPU集羣並行計算來解決。 第二個問題和第三個問題，可以用（Early stop，Data expading，正則化，dropout，BatchNorm，Gradient clapping）等多

>>阅读原文<<