深度學習(DL)--DNN的正則化詳解

DNN的正則化     和普通的機器學習算法一樣,DNN也會遇到過擬合的問題,需要考慮泛化,這裏我們就對DNN的正則化方法做一個總結。 (1)DNN的L1&L2正則化     L1正則化和L2正則化原理類似,這裏重點講述DNN的L2正則化。而DNN的L2正則化通常的做法是隻針對與線性係數矩陣W,而不針對偏倚係數b。利用機器學習的知識,很容易可以寫出DNN的L2正則化的損失函數。     假如我們的
相關文章
相關標籤/搜索