統計學習：正則化與交叉驗證

1. 正則化       模型選擇的經典方法是正則化（regularization）。正規化是結構風險最小化策略的實現，是在經驗風險上加一個正則化項（regularizer）或罰項（penalty term）。正則化一般是模型複雜度的單調遞增函數，模型越複雜，正則化值就越大。比如，正則化項可以是模型參數向量的範數。 正則化一般具有如下形式  minfϵΓ1N∑i=1NL(yi,f(xi))+ΛJ(

>>阅读原文<<