pytorch 學習 | 使用pytorch動手實現LSTM模塊

LSTM 簡介 LSTM是RNN中一個較爲流行的網絡模塊。主要包括輸入,輸入門,輸出門,遺忘門,激活函數,全連接層(Cell)和輸出。其結構如下: 上述公式不做解釋,我們只要大概記得以下幾個點就可以了: 當前時刻LSTM模塊的輸入有來自當前時刻的輸入值,上一時刻的輸出值,輸入值和隱含層輸出值,就是一共有四個輸入值,這意味着一個LSTM模塊的輸入量是原來普通全連接層的四倍左右,計算量多了許多。 所謂
相關文章
相關標籤/搜索