機器學習中L1正則化和L2正則化的區別

L1正則假設參數的先驗分佈是Laplace分佈,可以保證模型的稀疏性,也就是某些參數等於0; L2正則假設參數的先驗分佈是Gaussian分佈,可以保證模型的穩定性,也就是參數的值不會太大或太小 在實際使用中,如果特徵是高維稀疏的,則使用L1正則;如果特徵是低維稠密的,則使用L2正則。 最後,附一張示意圖。 右側是L1正則,最優解位於座標軸上,意味着某些參數是0。 
相關文章
相關標籤/搜索