機器學習學習筆記—正則化的理解

這幾天在學習李航的統計學習方法，來談談我對於機器學習中正則化的理解： 什麼是正則化 如何理解正則化 正則化的作用 第一個問題，什麼是正則化？ 正則化就是在損失函數後加上一個正則化項（懲罰項），其實就是常說的結構風險最小化策略，即經驗風險（損失函數）加上正則化。一般模型越複雜，正則化值越大。 正則化項是用來對模型中某些參數進行約束 正則化的一般形式： 其中，第一項是損失函數（經驗風險），第二項是正則

>>阅读原文<<