L2正則化推導

在機器學習中,無論是分類還是迴歸,都可能存在由於特徵過多而導致的過擬合問題。當然解決的辦法有     (1)減少特徵,留取最重要的特徵。   (2)懲罰不重要的特徵的權重。   但是通常情況下,我們不知道應該懲罰哪些特徵的權重取值。通過正則化方法可以防止過擬合,提高泛化能力。   先來看看L2正則化方法。對於之前梯度下降講到的損失函數來說,在代價函數後面加上一個正則化項,得到          注
相關文章
相關標籤/搜索