L1 L2正則化及貝葉斯解釋

1 L1正則化和L2正則化區別 L1得到的是稀疏權值,可以用於特徵選擇,假設參數服從Laplace分佈(貝葉斯角度理解) L2得到的是平滑權值,因爲所有權值都趨於最小,假設參數服從Gauss分佈,(並趨於一致,因爲一致時平方和,最小) 2 L1正則化稀疏解理解 2.1問題轉化 2.2圖形化解釋   2.3其他理解 2.4 L1求導 求導方法:近端梯度下降   參考: [1]機器學習中的範數規則化之
相關文章
相關標籤/搜索