機器學習3：使用梯度下降和退火算法得到全局最小值

機器學習筆記三 詳細闡述使用Gradient descent梯度下降的方法，求得評價模型好壞的函數L(θ)的全局最小值。 基本步驟爲：首先從一個初始點θ0 開始，計算在該點下的偏導數，然後向偏導數爲負的方向移動，一直重複這個步驟，直到偏導數爲零的點。   但是這裏有對於每次移動的距離，我們需要精心的設定。因爲如果每次移動的距離過大，可能會導致梯度下降跳過了最小值的點，如果每次移動的距離無限小，可能

>>阅读原文<<