多重共線性的產生及其解決方法(嶺迴歸和Lasso迴歸)

1.最小二乘法求解多元線性迴歸 多元線性迴歸表達式: 可以寫成: 我們的目標就是求解w,如何求解w,就要用到損失函數,線性迴歸的損失函數爲: 即預測值和真實值之間的差異,我們希望越小越好。 我們往往稱上述式子爲RSS(Residual Sum of Squares 殘差平方和)或者SSE(Sum of Sqaured Error,誤差平方和),如何求解w就用到最小二乘法: 這個時候我們要求w,就要
相關文章
相關標籤/搜索