小白的LSTM學習筆記(1)---基本理解

爲了解決非線性問題,人們模擬了生物大腦的結構與神經元的傳遞,用來進行非線性系統的實驗操做,也就是人工神經網絡(ANN),但傳統神經網絡因爲層與層之間全爲全鏈接層,隱藏層上無節點鏈接,因此沒法經過先前推斷後續,因而循環神經網絡(RNN)出現了,這種節點成環定向鏈接的人工神經網絡,在所需推斷和信息間隔較近的時候,能夠完成由先前到後續的過程,可是間隔一大,這種應用記憶信息的能力就削弱了,也就是梯度彌散。
相關文章
相關標籤/搜索