L2正則化推導

在機器學習中，無論是分類還是迴歸，都可能存在由於特徵過多而導致的過擬合問題。當然解決的辦法有     （1）減少特徵，留取最重要的特徵。   （2）懲罰不重要的特徵的權重。   但是通常情況下，我們不知道應該懲罰哪些特徵的權重取值。通過正則化方法可以防止過擬合，提高泛化能力。   先來看看L2正則化方法。對於之前梯度下降講到的損失函數來說，在代價函數後面加上一個正則化項，得到          注

>>阅读原文<<