對resnet densenet的理解

resnet 1 最重要的是殘差網絡的使用，在神經網絡深度比較深的時候，按理說越深的網絡，特徵提取和擬合能力越強，但是時機訓練的過程中發現，較深的網絡會出現退化的問題，即準確率還不如淺層的網絡。作者想到，能不能在至少不差於淺層網絡的基礎上，提升深層網絡的準確率，下圖的這種殘差模塊實現了這種想法 加入殘差模塊之後，我們基本上可以放心地增加深度，因爲雖然我們並不知道網絡具體什麼深度纔是最合適的，但是通

>>阅读原文<<