L0,L1,L2正則化

在機器學習的概念中,我們經常聽到L0,L1,L2正則化,本文對這幾種正則化做簡單總結。 1、概念 L0正則化的值是模型參數中非零參數的個數。 L1正則化表示各個參數絕對值之和。 L2正則化標識各個參數的平方的和的開方值。 2、先討論幾個問題: 1)實現參數的稀疏有什麼好處嗎? 一個好處是可以簡化模型,避免過擬合。因爲一個模型中真正重要的參數可能並不多,如果考慮所有的參數起作用,那麼可以對訓練數據可
相關文章
相關標籤/搜索