Laplace(拉普拉斯)先驗與L1正則化

在之前的一篇博客中L1正則化及其推導推導證明了L1正則化是如何使參數稀疏化人,並且提到過L1正則化如果從貝葉斯的觀點看來是Laplace先驗,事實上如果從貝葉斯的觀點,所有的正則化都是來自於對參數分佈的先驗。現在來看一下爲什麼Laplace先驗會導出L1正則化,也順便證明Gauss(高斯)先驗會導出L2正則化。 最大似然估計 很多人對最大似然估計不明白,用最簡單的線性迴歸的例子來說:如果有數據集(
相關文章
相關標籤/搜索