循環神經網絡RNN模型和長短時記憶系統LSTM

傳統DNN或者CNN無法對時間序列上的變化進行建模，即當前的預測只跟當前的輸入樣本相關，無法建立在時間或者先後順序上出現在當前樣本之前或者之後的樣本之間的聯繫。實際的很多場景中，樣本出現的時間順序非常重要，例如自然語言處理、語音識別、手寫體識別等應用。 循環神經網絡RNN包含循環的網絡，可以記錄信息的持久化信息，特別適合應用在跟時間序列相關的場合。   RNN之父Jürgen Schmidhube

>>阅读原文<<