反向傳播圖示理解

兩層感知器理解反向傳播 如上面所展示,對於每個結點處的前面的權重更新,其梯度等於本地梯度*上游傳回來的梯度gi . 而且,反向傳播傳回的梯度只需要計算到倒數第二層(假如輸入也算一層的話),如上圖所示,只需要計算到g5,g4即可。
相關文章
相關標籤/搜索