線性迴歸與非線性迴歸:1.8嶺迴歸 及實戰

嶺迴歸  如果數據的特徵比樣本點還多,數據特徵 ,樣本個數 ,即 ,則計算  時會出錯。因爲  不是滿秩矩陣,行列式爲0,所以不可逆。 爲了解決這個問題,統計學家引入了嶺迴歸的概念。   嶺迴歸最早是用來處理多於樣本的情況,現在也用於在估計中加入偏差,從而得到最好的估計。同樣也可以解決多重共線性問題。嶺迴歸是一種有偏估計。 嶺迴歸的代價函數: 線性迴歸標準方程法: 嶺迴歸的求解:  爲嶺係數, 爲
相關文章
相關標籤/搜索