CNN中的小tips（2）---batch normalization

問題： Internal Covariate Shift： 1）描述： 普遍理解：Internal Covariate Shift（內部協方差偏移）：隨着網絡的進行，網絡中的參數也隨着梯度不停更新。一方面，當底層網絡中的參數發生微弱變化時，由於每一層中的線性變換和非線性**映射，這些微弱的變化隨着網絡層數的加深而被逐級放大（類似蝴蝶效應）；另一方面，參數的變化導致每一層的輸入分佈會發生改變， 進而

>>阅读原文<<