機器學習入門|梯度下降

梯度：梯度的本意是一個向量（矢量），表示某一函數在該點處的方向導數沿着該方向取得最大值，即函數在該點處沿着該方向（此梯度的方向）變化最快，變化率最大（爲該梯度的模）。————百度百科 梯度下降算法本質上就是沿着負梯度方向尋找函數最小值的求解方法 梯度下降法是迭代法的一種，以逐漸逼近解爲目的求出解的精確值。牛頓方法也是一種迭代法。 上圖是梯度下降的一個直觀圖像，從某一點開始，沿着下降最快的方向一步一

>>阅读原文<<