梯度上升算法和梯度下降算法

轉載自：https://www.cnblogs.com/HongjianChen/p/8718988.html 梯度下降算法： w=w-α∇wf(w) 梯度上升算法：w=w+α∇wf(w) 梯度上升算法用來求函數的最大值， 梯度下降算法用來求函數的最小值。 方向導數 當討論函數沿任意方向的變化率時，也就引出了方向導數的定義，即：某一點在某一趨近方向上的導數值。 導數和偏導數的定義中，均是沿座標軸正

>>阅读原文<<