RNN-LSTM-GRU學習筆記

摘要： 本文用於總結整個RNN的學習過程以及學習資料。 RNN 1.下文是rnn利用Bptt的訓練的推導過程。 RNN與bptt推導過程 2.rnn一些基本概念以及問題分析 參考文章-1 RNN中爲什麼要採用tanh而不是ReLu作爲激活函數？ 常見問題： 1.RNN是什麼？ RNN是循環神經網絡的簡稱。常用來對時間序列建模，具體來說就是一個序列當前的輸出和前面的輸出也有關，應用場景主要有自然語言

>>阅读原文<<