LSTM(長短期記憶網絡)結構分析理解

1、LSTM結構圖如下: 2、分塊理解: ① 在我們 LSTM 中的第一步是決定我們會從細胞狀態中丟棄什麼信息。這個決定通過一個稱爲忘記門層完成。該門會讀取 h_{t-1} 和 x_t,輸出一個在 0 到 1 之間的數值給每個在細胞狀態 C_{t-1} 中的數字。1 表示「完全保留」,0 表示「完全捨棄」。 讓我們回到語言模型的例子中來基於已經看到的預測下一個詞。在這個問題中,細胞狀態可能包含當前
相關文章
相關標籤/搜索