梯度反方向是函數值局部下降最快的方向

很多機器學習的訓練算法都是利用梯度下降，朝着梯度的反方向變動，函數值下降最快。 導數 導數可以表示函數曲線上的切線斜率。 除了切線的斜率，導數還表示函數在該點的變化率。 導數代表了在自變量變化趨於無窮小的時候，函數值的變化與自變量變化的比值代表了導數，幾何意義有該點的切線。物理意義有該時刻的（瞬時）變化率。 在一元函數中，只有一個自變量變動，也就是說只存在一個方向的變化率，這也就是爲什麼一元函數沒

>>阅读原文<<