How does batch normalization help optimization,Bacth Normalization的原理

Bacth Normalization出現背景 深度神經網絡的「深」意味着性能強，但同時也意味着訓練難：「梯度消失」，「梯度爆炸」等問題難以解決。人們把這種問題的出現歸咎於internal covariate shift（內部協變量變化）。爲了解決這個所謂的ICS，2015年穀歌的Sergey Ioffe，Christian Szegedy（Batch Normalization: Acceler

>>阅读原文<<