(多變量線性迴歸)正規方程求解特徵參數的推導過程

多變量線性迴歸代價函數爲: 其中: 正規方程是通過求解下面的方程來找出使得代價函數最小的參數: 設有m個訓練實例,每個實例有n個特徵,則訓練實例集爲: 其中表示第i個實例第j個特徵。 特徵參數爲: 輸出變量爲: 故代價函數爲: 進行求導,等價於如下的形式: 其中第一項: 第二項: 該矩陣求導爲分母佈局下的標量/向量形式: 故有, 第三項: 該矩陣求導爲分母佈局下的標量/向量形式: 故有: 第四項:
相關文章
相關標籤/搜索