《ResNet-Deep Residual Learning for Image Recognition》論文筆記

1. 論文思想 文章指出在識別和分類問題中將深度學習網絡加深可以顯著提升網絡的精度，這也是最能夠直觀理解的，因爲網絡越深，後面對原始信息的表達更抽象和涵蓋，因而更容易區分。但是依據會出現如下的問題： （1）隨着網絡層數的增加，隨之而來的風險便是梯度消失或是爆炸問題。對於這個問題，目前使用白化輸入以及BN+Scale能夠解決大部分的問題。但是網絡越深，梯度回傳也就越弱。 （2）網絡退化（degrad

>>阅读原文<<