梯度上升法和梯度下降法中的梯度是什麼

在一元一次函數中，函數的斜率可以代表函數在y方向上的變化率，如下圖，函數的斜率爲0.5，當 變化1，那麼變化0.5. 換一種方式來想，當前這條線和x軸的夾角爲β，斜率其實是，其實可以理解爲當  發生變化時變化的方向  便是 乘以一個角度 β 的 tan 值。 另外，斜率其實就是我們對函數  中的 求導。    基於以上，我們假設係數向量 ，最終激活函數的輸入 ，我們要採取最優化方法來對係數進行確定

>>阅读原文<<