LSTM如何解決梯度消失與梯度爆炸

  這是一張經典的LSTM示意圖，LSTM依靠  f t f_t ft​、 i t i_t it​、 o t o_t ot​來控制輸入輸出， f t = σ ( W f ⋅ [ h t − 1 , x t ] + b f ) f_{t}=\sigma\left(W_{f} \cdot\left[h_{t-1}, x_{t}\right]+b_{f}\right) ft​=σ(Wf​⋅[ht−1​,

>>阅读原文<<