【深度學習】RNN（循環神經網絡）之LSTM（長短時記憶）

1 循環神經網絡（RNN）概念 循環神經網絡，是一種線性序列結構，前一個神經元的結果會傳遞給後一個神經元。 遞歸神經網絡，是一種層次結構，前一個神經元會影響後一個神經元，後一個神經元一樣也會影響前一個神經元。循環神經網絡是遞歸神經網絡中的一種特殊狀況，由於線性結構是層次結構的一種特例。web 2 RNN結構 2.1 偏差傳播爲何容易消失或放大 1）若是採用線性激活函數，偏差會被放大； 2）若是採用

>>阅读原文<<