1.線性迴歸的推導--梯度下降法

1.在線性迴歸問題中，我們通常使用下面公式來擬合訓練集： 其中,爲特徵向量的個數； 2.如圖假設x是二維的，則有 3.  我們可以將損失函數表示爲： 4.  我們將目標函數轉成求損失函的最小值，該問題已經轉換成了最小二乘問題，因此我們可以使用梯度下降法對求最小值。       1） 首先,爲了簡化問題，我們假設只有一組樣本,即m=1，對求偏導有： 2).其梯度下降的迭代公式可表示爲： 其中，a表示

>>阅读原文<<