機器學習筆記(七)機器學習(L1,L2正則化----處理過擬合問題)

主要來源:視頻學習網站Google機器學習教程 L₂ 正則化 請查看以下泛化曲線,該曲線顯示的是訓練集和驗證集相對於訓練迭代次數的損失。 上圖顯示的是某個模型的訓練損失逐漸減少,但驗證損失最終增加。換言之,該泛化曲線顯示該模型與訓練集中的數據過擬合。 根據奧卡姆剃刀定律,或許我們可以通過降低複雜模型的複雜度來防止過擬合,這種原則稱爲正則化。 也就是說,並非只是以最小化損失(經驗風險最小化)爲目標:
相關文章
相關標籤/搜索