我理解的殘差網絡

這裏引用了很多篇博客或者知乎上的內容~ 首先，殘差和誤差的區別： 誤差是衡量觀測值和真實值之間的差距，殘差是指預測值和觀測值之間的差距。 瞭解殘差網絡結構： h()是直接映射，f()是激活函數，F（）是經過weight、BN的那一部分。 如果f()也是直接映射，則變成如下形式： 對於一個更深的層L，其與l層的關係可以表示爲: 這個公式反應了殘差網絡的兩個屬性： 殘差網絡解決梯度問題的原理 通過分析

>>阅读原文<<