深度學習正則化方法總結

       機器學習模型爲了提高模型的泛化性能、減少過擬合,通常都會採用一些正則化方法來控制模型的複雜度。深度學習模型比普通的機器學習模型更復雜,更容易過擬合,因此更需要進行正則化處理,本文總結下深度學習常用的14種正則化方法,提供一些參考。 1、對權重參數增加L1、L2正則項    L1正則化主要是對損失函數增加權重參數w的絕對值項,權重服從Laplace分佈,得到的參數通常比較稀疏,常用於特
相關文章
相關標籤/搜索