殘差網絡模型

1、原始殘差網絡 最基本的殘差塊。中間的兩層神經網絡學習輸入輸出之間的殘差，而旁邊的鏈接就像一個高速公路，使得反向傳播算法中的殘差能通過這條路傳到前邊去。當網絡變深時可以使得中間的輸出爲0，那麼網絡就能自適應的變成一個淺一點的網絡。 左邊basic block  這個模塊就只有兩層，是最基本的殘差模塊。在res18中就使用這種。 右邊的叫做Bottleneck block，其像一個瓶子一樣會有瓶頸

>>阅读原文<<