BatchNorm和Pool使用

1. BatchNorm 主要具有以下特性： 更快的訓練速度：由於 BatchNorm 的權重分佈差異很小（論文中稱爲 internal covariate shift），我們可以使用更高的學習率來訓練網絡，讓我們朝向損失函數最小的方向前進。 改進網絡正則化（Regularization）：通過 BatchNorm 可以使網絡在訓練的時候，每個 batch 裏的數據規範化都是不一樣的，有助於減少網

>>阅读原文<<