機器學習中特徵選擇、正則化的統計學淵源

機器學習中特徵選擇、正則化的統計學淵源 多元線性迴歸與最小二乘估計 有多元線性迴歸方程： Y=Xβ Y = X β 其最小二乘估計（無偏估計）爲： β^=(X′X)−1X′Y β ^ = ( X ′ X ) − 1 X ′ Y 其中X必須爲列滿秩矩陣，否則 XTX X T X 的逆不存在。 最小二乘估計的缺點 （1）估計精度問題：最小二乘法雖然是無偏估計，但是在解釋變量【注1：統計學中，自變量常被

>>阅读原文<<