線性迴歸公式推導總結

1.預測函數： 2.代價函數： 假設每一個對象的預測值與真實值的誤差爲ε，即： 則由中心極限定理可知： 當樣本數量很多時，可假設誤差ε的分佈符合均值μ=0，方差爲σ^2的高斯分佈，即： 現在的任務是在所有可能的θ中，尋找一個最適合的θ，使得誤差ε呈高斯分佈的可能性最大，則由似然函數有： 對等式兩邊同時取對數求極大似然，即： 綜上，代價函數爲： 三、梯度下降： 先給出梯度下降的結論： 如果能求出虛線

>>阅读原文<<