梯度下降法——得到的結果可能是局部最優值，如果凸函數則可保證梯度下降得到的是全局最優值...

摘自：http://www.wengweitao.com/ti-du-xia-jiang-fa.html 梯度下降法（Gradient Descent）是一種常見的最優化算法，用於求解函數的最大值或者最小值。 梯度下降 在高數中，我們求解一個函數的最小值時，最常用的方法就是求出它的導數爲0的那個點，進而判斷這個點是否能夠取最小值。但是，在實際很多情況，我們很難求解出使函數的導數爲0的方程，這個時候

>>阅读原文<<