深度殘差網絡ResNet

paper https://arxiv.org/pdf/1512.03385.pdf 提出動機 ResNet是爲了解決深度神經網絡中由於層數過多帶來的模型退化問題（degradation）。 一般情況下，模型退化主要有以下幾種原因： 過擬合，層數越多，參數越複雜，泛化能力弱 梯度消失/梯度爆炸，層數過多，梯度反向傳播時由於鏈式求導連乘使得梯度過大或者過小，使得梯度出現消失/爆炸，對於這種情況，可以

>>阅读原文<<