機器學習-梯度(gradient)與梯度下降(gradient discent)

梯度(gradient)是機器學習中一個重要概念,梯度下降(gradient descent)也是機器學習常用的最優化算法。 一,梯度 我們從導數講起: 定義: 我們從上面可以直觀看出,對於一元函數,導數反映的是函數y=f(x)在某一點處沿x軸正方向的變化率。 然後來看偏導: 定義: 從上面可以看出,偏導數是導數的多元情況。偏導反映的是函數在某一點沿某一座標軸正方向的變化率。 方向導數: 定義:
相關文章
相關標籤/搜索