深度學習入門（二）

1. RNN之所以叫做循環神經網絡是因爲一個序列當前的輸出與前面的輸出也有關。 2. LSTM可以在更長的時間範圍來分析時序數據。 3. LSTM關鍵在於神經細胞狀態，LSTM通過門結構來去除或增加信息到細胞狀態的能力（Sigmoid）。 4. 雙向循環網絡的基本思想是，提出每一個訓練序列向前和向後分別是兩個循環神經網絡，而且這兩個都連接着一個輸出層。這個結構提供給輸出層輸入序列中每一個點的完整的

>>阅读原文<<