深度學習之殘差網絡原理深度刨析

爲什麼要加深網絡? 深度卷積網絡自然的整合了低中高不同層次的特徵,特徵的層次可以靠加深網絡的層次來豐富。 從而,在構建卷積網絡時,網絡的深度越高,可抽取的特徵層次就越豐富。 所以一般我們會傾向於使用更深層次的網絡結構,以便取得更高層次的特徵。 但是在使用深層次的網絡結構時我們會遇到兩個問題,梯度消失,梯度爆炸問題和網絡退化的問題。 也就是我們需要不斷加深網絡,因爲網絡越深,那麼特徵的層次也就越高,
相關文章
相關標籤/搜索