最小二乘法與嶺迴歸的介紹與對比

一 線性迴歸(最小二乘法) 假設我們有n個樣本數據,每個數據有p個特徵值,然後p個特徵值是線性關係。 即對應的線性模型 寫成矩陣的形式即是Y=XA 由於樣本與模型不一定百分百符合,存在一些噪聲,即誤差,用B表示,B也是一個向量 即B=Y-XA Y爲樣本值,XA爲模型的計算值,即期望值 誤差的平方的計算公式 Xi爲行向量,A爲列向量。 最小二乘法的目標就是取得最小的e對應的A,由於方差的計算是一個二
相關文章
相關標籤/搜索