迴歸分析—嶺迴歸(Ridge Regression)正則化

1.過擬合 當樣本特徵很多,樣本數相對較少時,模型容易陷入過擬合。爲了緩解過擬合問題,有兩種方法: 方法一:減少特徵數量(人工選擇重要特徵來保留,會丟棄部分信息)。 方法二:正則化(減少特徵參數w ^的數量級)。 2.正則化(Regularization) 正則化是結構風險(損失函數+正則化項)最小化策略的體現,是在經驗風險(平均損失函數)上加一個正則化項。正則化的作用就是選擇經驗風險和模型複雜度
相關文章
相關標籤/搜索