循環神經網絡學習筆記

RNN是爲了處理序列數據而生，能夠順序獲取序列之間的關係，但是也存在處理過長序列會引起梯度消失、梯度爆炸，信息丟失問題。 爲了解決RNN的問題，LSTM就誕生了，LSTM主要是通過遺忘門，輸入門，輸出門來解決這些問題。 遺忘門主要是來控制記住什麼信息，忘記什麼信息。比如我今天下午去游泳，對於泳字來說只有遊字是重要的，前面的幾個字不重要，這時遺忘門就要告知泳字前面幾個字是不重要的。 輸入門主要是用來

>>阅读原文<<