爲什麼L1稀疏,L2平滑?

問題 爲什麼L1正則化較容易產生稀疏解,而L2正則化較平緩穩定   介紹L1和L2   L1和L2正則常被用來解決過擬合問題。而L1正則也常被用來進行特徵選擇,主要原因在於L1正則化會使得較多的參數爲0,從而產生稀疏解。我們可以將0對應的特徵遺棄,進而用來選擇特徵。 角度一 ——從代價函數上來看 但爲什麼L1正則會產生稀疏解呢?這裏利用公式進行解釋。 假設只有一個參數爲w,損失函數爲L(w),分別
相關文章
相關標籤/搜索