優化篇-【歸一化】

#【歸一化】 1.歸一化的概率和作用 1.1 什麼是歸一化 1.2.歸一化的作用 除去量綱的干擾 去均值與歸一化,加速梯度下降的求解速度 重新調整數據分佈 深度網絡中數據分佈如果在某一層開始有明顯的偏移,會使接下來這一問題加劇 2.常用的歸一化 2.1. Batch Normalization 2.2.Batch Normalization的好處 1-減輕了對參數初始化的依賴 2-訓練更快,可以使
相關文章
相關標籤/搜索