LSTM (Long Short-Term Memory)

LSTM (Long Short-Term Memory) LSTM的產生 LSTM產生的原因： 第一代RNN在處理長序列時，該記住的信息沒記住，可能不該記住的信息卻記得很牢。 而LSTM通過引入巧妙的可控自循環，能產生讓梯度能夠得以長時間可持續流動的路徑。 標準的RNN結構如下，這個重複的結構模塊只有一個非常簡單的結構，例如一個tanh層。 LSTM 同樣是這樣的結構，但是重複的模塊擁有一個不同

>>阅读原文<<