LSTM網絡結構

1.介紹 假設詞向量長度爲128，隱含層神經元個數爲256。LSTM中引入3個門，即輸入門、遺忘門、輸出門；及其他組件：候選記憶細胞、記憶細胞。 2.時間t時候：各個組件（3個門+候選記憶細胞、記憶細胞） 如上圖所示，對於每個組件有： (1) 輸入門： I t I_t It​ I t = σ ( X t W i h I + H t − 1 W h h I + b i h I ) I_t = \si

>>阅读原文<<