Pytorch實現LSTM和GRU

爲了解決傳統RNN沒法長時依賴問題，RNN的兩個變體LSTM和GRU被引入。html LSTM Long Short Term Memory，稱爲長短時間記憶網絡，意思就是長的短時記憶，其解決的仍然是短時記憶問題，這種短時記憶比較長，能必定程度上解決長時依賴。 上圖爲LSTM的抽象結構，LSTM由3個門來控制，分別是輸入門、遺忘門和輸出門。輸入門控制網絡的輸入，遺忘門控制着記憶單元，輸出門控制着網

>>阅读原文<<