爲什麼正則化後,權重小的損失的更多,而權重大的則損失的少?

黑:過擬合怎麼辦? 白:加入正則項防止過擬合白:加入正則項防止過擬合 黑:什麼是正則項? 白:就是在原來的損失函數加入懲罰項 比如原損失函數: 加入懲罰項之後損失函數: 黑:還是不明白爲什麼加入這個正則項後就會防止過擬合了呢?原理是啥呢? 白:引入正則項後,會使權重小的特徵的權重損失的更多的,而對權重大的特徵的權重相對來說損失的就少很多。 黑:數學不好的我怎麼也看不出來權重小的損失的多啊?不應該權
相關文章
相關標籤/搜索