正則化

正則化（解決過擬合） 1. 過擬合問題 eg1：線性迴歸 很明顯的圖一爲欠擬合，高偏差。 圖三爲過擬合，高方差，低偏差。一般過擬合對訓練數據有很好的擬和能力，但對與新樣本的泛化能力卻很差。 eg2：邏輯迴歸 圖一爲欠擬合，高偏差。 圖三爲過擬合，高方差，低偏差。 如果們的模型複雜度較高，而訓練樣本過少，通常會出現過擬合問題。 解決方法 1. 減少變量的數量，降低模型的複雜度 2. 正則化：保留所有

>>阅读原文<<