【深度學習】殘差網絡Resnet重點問題解讀

1.殘差網絡解決的問題： 可以加深網絡層數，避免了由於層數過多反而導致錯誤率上升的問題（並不是由過擬合造成的，而是由於梯度消失或者梯度爆炸、退化問題） 使用BatchNormalization加速訓練（丟棄了傳統的dropout) 2.殘差塊中的虛線shortcut： 實線與虛線的不同在於，虛線部分的x(shortcut)和y(主分支)的維度不同。 我們拿34-layers的Resnet來說： 在

>>阅读原文<<