【備忘】加入L2範數正則化後的正規方程求解參數推導過程

正則化的引入是爲了解決線性迴歸中過擬合的問題,過擬合直觀解釋即訓練出來的模型複雜度過高,對於當前用於訓練的數據集而言預測非常精準,而對於未知數據樣本的預測準確率逐漸走低,因此在目標函數中除了Loss Function以外引入了一個懲罰項。 其中懲罰項還可以進一步分爲L1範數與L2範數,其中L1範數是趨向於使得一部分參數值w爲0,也叫Lasso;L2範數是削弱某些權重的值來糾正,L2相比L1更常用一
相關文章
相關標籤/搜索