[深度學習]循環神經網絡：RNN，LSTM，GRU，Attention機制，沿時間的截斷反向傳導算法

RNN(Recurrent Neural Network，循環神經網絡)   每個RNN都有一個循環核心單元。它把x作爲輸入，將其傳入RNN。RNN有一個內部隱藏態(internal hidden state)。這個隱藏態會在RNN每次讀取新的輸入時更新，然後隱藏態會將結果返回至模型。 ht = fw (ht-1, xt) 其中，xt爲t時刻的輸入，ht爲t時刻的內部隱藏態。 RNN相當於把許多循

>>阅读原文<<