深度學習——循環神經網絡RNN（一）_反向傳播算法

RNN網絡結構 Elman神經網絡是最早的循環神經網絡，由Elman於1990年提出，又稱爲SRN（Simple Recurrent Network, 簡單循環網絡）。RNN考慮了時序信息，當前時刻的輸出不僅和當前時刻的輸入有關，還和前面所有時刻的輸入有關。 RNN的結構圖（引用[2]中的圖）如下： xt 表示t時刻的輸入向量； ht 表示t時刻的隱藏層向量： 隱層計算公式爲 ht=f(Whhht

>>阅读原文<<