L1正則和L2正則

L1和L2正則化: 我們所說的正則化,就是在原來的loss function的基礎上,加上了一些正則化項或者稱爲模型複雜度懲罰項。 結構風險最小化: 在經驗風險最小化的基礎上(也就是訓練誤差最小化),儘可能採用簡單的模型,以此提高泛化預測精度。 那現在我們就看看加了L1正則化和L2正則化之後,目標函數求解的時候,最終解有什麼變化。 圖像解釋(假設X爲一個二維樣本,那麼要求解參數 [公式] 也是二維
相關文章
相關標籤/搜索