深度學習:rasidual blocks(殘差塊)

文章目錄 一、什麼是殘差塊? 二、殘差塊原理 一、什麼是殘差塊? 所謂的殘差網絡其實就是由若干殘差塊(residual block)組成的網絡 如上圖所示,現在考慮第l、l+1、l+2層。 a[l]是第l層的輸出,在普通的神經網絡中,要經過l+1層的計算和放大,纔會進入到l+2層。 而在殘差塊中,除了上面的正常的計算,還會把a[l]直接傳輸到l+2層,使得a[l+2]=g(z[l+2]+a[l])
相關文章
相關標籤/搜索