深度學習之Batch Normalization

轉載自http://www.javashuo.com/article/p-bzmrwcap-v.html Batch Normalization(批量標準化,簡稱BN)是近些年來深度學習優化中一個重要的手段。BN能帶來如下優點: 加速訓練過程; 可以使用較大的學習率; 允許在深層網絡中使用sigmoid這種易導致梯度消失的激活函數; 具有輕微地正則化效果,以此可以降低dropout的使用。   但
相關文章
相關標籤/搜索