爲什麼梯度的負方向是梯度下降最快的方向

文章目錄 梯度與導數的關係 梯度下降算法 梯度方向是上升方向 一階泰勒展開式與負梯度 梯度與導數的關係 梯度方向指向數值增長最快的方向，大小爲變化率。通過這個性質也說明梯度是有方向和大小的矢量。通過梯度的定義我們發現，梯度的求解其實就是求函數偏導的問題，而我們高中所學的導數在非嚴格意義上來說也就是一元的「偏導」。通過這一點我們自然而然地想到梯度應該是導數向更高維數的推廣。換句話說，梯度是矢量,而某

>>阅读原文<<