RNN中的的反向傳播推導(通俗版)

反向傳播其實就是鏈式求導法則的重複使用,鏈式法則其實就是先計算外層函數的導數,再計算內層函數的導數,一直重複。誤差反向傳播的過程,就是層層求導的過程。在看RNN的反向傳播之前,先看看簡單網絡的反向傳播。 1、反向傳播,鏈式求導 看一個小例子,如下圖所示,其中f函數由x,y,z三種變量的組合來決定,x和y並不是直接和f相連。假設,x+y用q來表示,作爲中間結果q=x+y。首先來看一下前向傳播過程,就
相關文章
相關標籤/搜索