[026] 深度學習--學習筆記(4)Back-propagation反向傳播鏈式法則理論推導

1、梯度下降(Gradients Descent) 概念:構建Loss(預測值與實際值之間的偏差)與相關權值變量θ(0)和θ(1)的函數關係J(θ(0), θ(1)),在函數圖像上隨機取初值點,然後求初值點的導數(也就是梯度),並沿着導數最傾斜的方向按照一定的步長更新J點,以及類推總能找到J(min)的局部最優解,也就是預測值與實際值偏差最小的狀態。 2、常用函數的求導公式 3、單層感知機(Per
相關文章
相關標籤/搜索