理解正則化項l1和l2的區別

防止過擬合的思路 防止過擬合的思路就是讓模型別那麼複雜，簡單點。 那麼怎麼能讓模型簡單點呢？有兩個思路： 減少參數的數量 可想而知，參數越少模型越簡單。 減小參數的絕對值 參數數量越少模型越簡單，爲什麼參數絕對值越小模型越簡單呢？ 一個複雜的、容易過擬合的模型相比一個簡單的、泛化能力更好的模型，往往表現爲坑坑窪窪，沒有後者平滑；平滑的模型，其導數絕對值（坡度）往往較小，而坑坑窪窪的模型，相對來說存

>>阅读原文<<