RNN之LSTM

參考 長短期記憶(Long short-term memory, LSTM)是一種特殊的RNN,主要是爲了解決長序列訓練過程中的梯度消失和梯度爆炸問題。 LSTM的基本輸入輸出 如圖所示,不同於普通的RNN,LSTM有兩個傳遞狀態,分別爲 c t 和 h t c^t和h^t ct和ht,其中c變化緩慢,而h變化可以很大。 z i , z f , z o , z 四 個 狀 態 z^i,z^f,z^
相關文章
相關標籤/搜索