LSTM (Long Short-Term Memory)

LSTM (Long Short-Term Memory) LSTM的產生 LSTM產生的原因: 第一代RNN在處理長序列時,該記住的信息沒記住,可能不該記住的信息卻記得很牢。 而LSTM通過引入巧妙的可控自循環,能產生讓梯度能夠得以長時間可持續流動的路徑。 標準的RNN結構如下,這個重複的結構模塊只有一個非常簡單的結構,例如一個tanh層。 LSTM 同樣是這樣的結構,但是重複的模塊擁有一個不同
相關文章
相關標籤/搜索