轉載:如何對池化層進行反向梯度傳播?

原文傳送門 Pooling池化操作的反向梯度傳播 CNN網絡中另外一個不可導的環節就是Pooling池化操作,因爲Pooling操作使得feature map的尺寸變化,假如做2×2的池化,假設那麼第l+1層的feature map有16個梯度,那麼第l層就會有64個梯度,這使得梯度無法對位的進行傳播下去。其實解決這個問題的思想也很簡單,就是把1個像素的梯度傳遞給4個像素,但是需要保證傳遞的los
相關文章
相關標籤/搜索