嶺迴歸

收縮方法： 通過選擇自變量的一個子集產生新的線性模型，這個模型是可以解釋的並且可能具有比完整模型更低的誤差，然而由於它是一個離散過程（變量或者保留或者丟棄），使得子集選擇方法常常表現出高方差，因此不能降低整個模型的預測誤差，收縮方法更加連續，並且不會因爲變量多而降低性能。 嶺迴歸： 嶺迴歸主要解決迴歸中的兩大問題：排除多重共線性和進行變量的選擇。 思想是在原先的最小二乘估計中加入一個小擾動，也叫懲

>>阅读原文<<