乾貨 | 這可能全網最好的BatchNorm詳解

其實關於BN層，我在之前的文章「梯度爆炸」那一篇中已經涉及到了，但是鑑於面試經歷中多次問道這個，這裏再做一個更加全面的講解。 Internal Covariate Shift（ICS） Batch Normalization的原論文作者給了Internal Covariate Shift一個較規範的定義：在深層網絡訓練的過程中，由於網絡中參數變化而引起內部結點數據分佈發生變化的這一過程被稱作Int

>>阅读原文<<