批量歸一化 Batch Normalization

批量歸一化 Batch Normalization x^(k)=x(k)−E[x(k)]Var[x(k)]−−−−−−−√ x ^ ( k ) = x ( k ) − E [ x ( k ) ] V a r [ x ( k ) ] 想要單位高斯激活，那麼進行批量歸一化，用均值和方差來進行歸一化。訓練開始時才設置這個值，而不是在權重初始化的時候，以便我們能夠在每一層都有很好的單位高斯分佈，希望在訓練

>>阅读原文<<