【文本識別】RNN和和LSTMs介紹

循環神經網絡（Recurrent Neural Networks） 循環神經網絡：圖中A是一組神經網絡（可以理解爲一個網絡的自循環），它的工作是不停的接收xt並且輸出ht .從圖中可以看出A允許將信息不停的在內部循環，這樣使得它可以保證每一步的計算都保存以前的信息。 長依賴存在的問題 1）信息較近時：相關信息與需要該信息的位置距離較近時，RNNs能夠學習利用以前的信息來對當前任務進行相應的操作。

>>阅读原文<<