L1正則化和L2正則化

一、 奧卡姆剃刀(Occam's razor)原理：          在所有可能選擇的模型中，我們應選擇能夠很好的解釋數據，並且十分簡單的模型。從貝葉斯的角度來看，正則項對應於模型的先驗概率。可以假設複雜模型有較小的先驗概率，簡單模型有較大的先驗概率。    二、正則化項      2.1、什麼是正則化？       正則化是結構風險最小化策略的實現，在經驗風險上加一個正則項或罰項，正則項一共有

>>阅读原文<<