深度殘差(ResNet)網絡理解

問題描述: 通俗來說,對於Loss Function的解集,較淺的網絡應該是越深的網絡的子集合,但實際中卻發現網絡層數越多反而沒有更好的效果,這時就出現了網絡退化的問題: 解決問題的思路 從本質上來說,我們在搭建深度網絡時並不能很好的確定網絡的深度,我們期望在網絡會有一個最優層,而在最優層之外則是冗餘層,我們期望冗餘層能做到輸入與輸出對應,即恆等映射 解決問題的方法 傳統CNN網絡與殘差網絡簡化
相關文章
相關標籤/搜索