嶺迴歸

【轉】迴歸（三）：嶺迴歸 概念 在 迴歸（一）中提到用最小二乘法求解迴歸係數的過程中需要考慮特徵矩陣是否可逆的問題，事實上當特徵數量比樣本數量多的時候（樣本數米大於特徵數N，X不是滿秩矩陣）就會遇到這個問題，這個時候標準線性迴歸顯然就無從下手了 引入嶺迴歸就是爲了解決這個問題，它是最先用來處理特徵數多餘樣本數的算法。該算法的基本思想是在X  Ť X加上上一個λ 我使得矩陣非奇異，從而能夠對 X 

>>阅读原文<<