淺談15--------- L0、L1、L2正則化區別

1、概念    L0正則化的值是模型參數中非零參數的個數。   L1正則化表示各個參數絕對值之和。   L2正則化標識各個參數的平方的和的開方值。 2、問題    1)實現參數的稀疏有什麼好處嗎?   一個好處是可以簡化模型,避免過擬合。因爲一個模型中真正重要的參數可能並不多,如果考慮所有的參數起作用,那麼對訓練數據可以預測的很好,但是對測試數據就只能呵呵了。另一個好處是參數變少可以使整個模型獲得
相關文章
相關標籤/搜索