卷積池化的反向傳播

  個人理解:池化層的梯度可以類似於relu函數的梯度;雖然不是處處可導,但不影響對w求導;對w的導數是每個樣本的梯度之和 ; 比如說:y=w*x1+w*x2+w*x3; w的導數爲x1樣本的梯度加上x2樣本的梯度加上x3樣本的梯度;所以反向求導是對單一樣本導數之和,這樣更好的來理解;
相關文章
相關標籤/搜索