梯度降低法Vs牛頓降低法

Author: Frank算法 在機器學習領域中，梯度降低法和牛頓降低法是兩個很是有份量的方法。二者在本質上都是爲了尋找極值點的位置，可是牛頓降低法的收斂速度更快。下面以單變量函數爲例來進行基本的解釋。app 牛頓降低法的遞推公式：  機器學習 梯度降低算法的遞推公式：  函數 xn+1=xn−μ∗f′(xn) 方法比較： 通常稱 梯度降低法用平面去擬合當前的局部曲面，牛頓法用二次曲面來擬合。下圖

>>阅读原文<<