神經網絡與深度學習-網絡正則化

正則化( Regularization) 是一類通過限制模型複雜度, 從而避免過擬合, 提高泛化能力的方法, 比如引入約束、增加先驗、提前停止等,正則化能有效提升模型的範化能力。 在傳統的機器學習中, 提高泛化能力的方法主要是限制模型複雜度, 比如 採用 ℓ1 和 ℓ2 正則化等方式. 而在訓練深度神經網絡時, 特別是在過度參數化( Over-Parameterization) 時, ℓ1 和ℓ2
相關文章
相關標籤/搜索