Resnet論文總結

1.問題引入 通過分析很多網絡結構，作者發現網絡深度是一個影響網絡性能的因素，因此提出：是否網絡越深，神經網絡的學習效果越好？ 解決這個問題之前，一個有關深度神經網絡的明顯問題就是梯度消失。我們知道，在深層神經網絡當中，經常會遇到梯度消失的問題，這可以通過標準初始化和中間層初始化來解決，這使得數十層的網絡在通過SGD訓練即可達到收斂。 在解決了梯度消失問題之後，網絡越深，是否性能就越好呢？作者通過

>>阅读原文<<