批標準化(Batch Normalization, BN)

文章目錄 批標準化(Batch Normalization, BN) 推斷過程 反向傳播過程 CNN中的批標準化 批標準化(Batch Normalization, BN)   咱們知道在深層神經網絡訓練時，會產生梯度消失問題，梯度消失的一個主要來源就是激活函數，以sigmoid函數爲例，自變量在0附近導數較大，自變量越大或者越小都會形成導數縮小，若是數據分佈在太小或者過大區域，太小的導數就極可能

>>阅读原文<<