【非線性最小二乘】梯度下降法，牛頓法、高斯-牛頓迭代法

---------------------梯度下降法------------------- 梯度的一般解釋： f(x)在x0的梯度：就是f(x)變化最快的方向。梯度下降法是一個最優化算法，通常也稱爲最速下降法。 假設f(x)是一座山，站在半山腰，往x方向走1米，高度上升0.4米，也就是說x方向上的偏導是 0.4；往y方向走1米，高度上升0.3米，也就是說y方向上的偏導是 0.3；這樣梯度方向就是

>>阅读原文<<