LSTM 前向 & 後向公式推導

參考博客:LSTM的公式推導詳解 下面貼出一些關鍵的推導圖片: Forward Pass : 其中涉及三個Gate和中間Cell的計算,需要注意的是三個Gate使用的激活函數是f,而Input的激活函數是g、Cell輸出的激活函數是h       反向傳播中需要更新的 —> 所有梯度:   Backpass 第一下,從外部輸出到  Cell Output的梯度    最後一步 彙總:  
相關文章
相關標籤/搜索