殘差連接(skip connect)/(residual connections)

原文微信公衆號《與有三學AI》:【模型解讀】resnet中的殘差連接,你確定真的看懂了? 1、殘差連接 想必做深度學習的都知道skip connect,也就是殘差連接,那什麼是skip connect呢?如下圖 上面是來自於resnet【1】的skip block的示意圖。我們可以使用一個非線性變化函數來描述一個網絡的輸入輸出,即輸入爲X,輸出爲F(x),F通常包括了卷積,激活等操作。   當我們
相關文章
相關標籤/搜索