L1正則化的理解

在論文中看到L1正則化，可以實現降維，加大稀疏程度，菜鳥不太懂來直觀理解學習一下。 在工程優化中也學習過懲罰函數這部分的內容，具體給忘記了。而正則化正是在損失函數後面加一個額外的懲罰項，一般就是L1正則化和L2正則化。之所以叫懲罰項就是爲了對損失函數（也就是工程優化裏面的目標函數）的某個或些參數進行限制，從而減少計算量。 L1正則化的損失函數是是不光滑的， L2正則化的損失函數是光滑的。 從下圖理

>>阅读原文<<