2020-10-8

resnet的好處 ResNet引入了殘差單元，很好的解決了這個問題。 引入殘差單元，簡化學習目標和難度，加快訓練速度，模型加深時，不會產生退化問題 引入殘差單元，能夠有效解決訓練過程中梯度消失和梯度爆炸問題 ResNet_v2與v1的最大區別就是v2的BN和ReLU是在卷積之前使用的，好處： 反向傳播基本符合假設，信息傳遞無阻礙； BN層作爲pre-activation，起到了正則化的作用； 殘

>>阅读原文<<