CS231n學習記錄Lec5 Backpropagation and Neural Networks反向傳播與神經網絡

Lec5 Backpropagation and Neural Networks反向傳播與神經網絡 1. 反向傳播Backpropagation 解析梯度與數值梯度 用計算圖表示函數,注意節點。有時候表達式過於複雜以致於不想用微積分計算出表達式型的梯度,將複雜的表達式分解成一些節點計算,這樣就可以使用一些很簡單的值計算出梯度。 反向傳播 使用鏈式法則,將上游梯度和本地梯度相乘,計算節點的梯度。 接
相關文章
相關標籤/搜索