深度學習之BatchNormalization

首先關於BN的文章是這一篇,大家可以下載下來看一下。 《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》 貌似是兩位google的大佬寫的。 總結一下BN的好處: 加速訓練收斂速度; 可以使用較大的學習率; 允許在深層網絡中使用sigmoid這種易導致梯度消失的
相關文章
相關標籤/搜索