batch-norm

當下在訓練神經網絡以及二值化神經網絡的時候，爲了不影響數據分佈，獲得更好的性能。通常會在cnn之間加入batch-norm. 那麼batch-norm究竟是怎麼影響性能的呢？ 【深度學習】批歸一化（Batch Normalization） BN是由Google於2015年提出，這是一個深度神經網絡訓練的技巧，它不僅可以加快了模型的收斂速度，而且更重要的是在一定程度緩解了深層網絡中「梯度彌散」的問題

>>阅读原文<<