Batch Normalization(BN)的簡單介紹

Batch Normalization(BN)介紹 BN目的： 令一批（batch）數據對應的feature map的每一個維度（每一個channel）滿足均值爲0，方差爲1的分佈規律，通過該方法能夠加速網絡的收斂並提升準確率。 BN算法的步驟以及參數求解 μ,σ 是在正向傳播過程中統計得到 γ,β 是在反向傳播過程中訓練得到 使用BN算法應該注意的問題： 1. 訓練時要將traning參數設置爲

>>阅读原文<<