機器學習系列3：梯度下降

梯度下降（Gradient descent）是一個用來求代價函數最小值的算法。梯度下降算法的思想就是首先先從一組參數值（θ0, θ1）開始，不斷地去嘗試各種（θ0, θ1），直到使得代價函數 J(θ0, θ1) 最小爲止。以下圖代價函數爲例，從不同起始點開始，到達的局部最優位置不同，也就是局部最優解不同。 那麼如何求得局部最優解呢？可以把這個代價函數看成一座座小山，你從一個點出發，每次邁出一小步，

>>阅读原文<<