LSTM學習筆記

1.   原理：描述一下細胞狀態和三個門。 LSTM的公式推導詳解    簡單理解LSTM LSTM（長效短期記憶神經網絡）是一種特殊的RNN，它能夠學習到長的依賴關係。 細胞狀態和三個門結構，遺忘門，輸入輸出門。 第一步是決定從細胞狀態中丟棄什麼信息（圖一），由「忘記門」的Sigmoid層實現（0代表不通過任何信息，1代表全部通過）。 下一步決定我們要在細胞狀態中存儲什麼信息。具體操作分爲兩部分

>>阅读原文<<