梯度下降法中梯度的概念

梯度的概念是從方向導數推倒出來的，沿着梯度的方向，方向導數最大，方向導數的計算方法： 爲 ，在點（x，y），沿某個方向的方向導數最大，這個方向就是梯度， 梯度的計算方法： = = 梯度下降法中對於參數的更新公式：                    一次更新完所有參數後，參數改變量的向量相加，即爲梯度的方向，參數按照梯度的方向移動，到達局部最優解下降的最快。

>>阅读原文<<