3.6 BatchNorm 爲什麼起作用-深度學習第二課《改善深層神經網絡》-Stanford吳恩達教授

BatchNorm 爲什麼起作用？ (Why does Batch Norm work?) 爲什麼Batch歸一化會起作用呢？ 一個原因是，你已經看到如何歸一化輸入特徵值 x x x ，使其均值爲0，方差1，它又是怎樣加速學習的，有一些從0到1而不是從1到1000的特徵值，通過歸一化所有的輸入特徵值 x x x ，以獲得類似範圍的值，可以加速學習。所以Batch歸一化起的作用的原因，直觀的一點就是

>>阅读原文<<