RNN的bp

RNN的bp 來源:https://zybuluo.com/hanbingtao/note/581764 RNN的權重向下層輸出的同時,會將權重返回到本層的輸入處,和下一次的輸入加和 RNN只用了一個權重保存節點的狀態,LSTM用了兩個權重來保存,新加的狀態稱爲單元狀態(cell stat) 對長程記憶和短程記憶的控制,可以參考LSTM單元來了解: LSTM用三個門來控制數據的流動:f,i,o
相關文章
相關標籤/搜索