深度學習筆記(31):LSTM一點簡要理解

前言 RNN提供了捕捉序列特性的一種方案,然而由於梯度爆炸或者梯度消失問題,對於句子中距離較長的詞彙,RNN由於訓練時反向傳播的修改從句子末尾到句子開始時已經變得很微弱,以至於難以建立較大的聯繫,因而RNN在捕捉中長距離句型關係時效果較差。很多研究者就提出了很多種方案在一定程度上良好的解決了這種問題,其中最知名的就是LSTM(1997)和GRM(2014). LSTM 個人認爲,要想理解LSTM,
相關文章
相關標籤/搜索