長短期記憶神經網絡lstm理論講解

一、應用背景 循環神經網絡RNN的侷限性,RNN工作原理如圖: ​ RNN利用了神經網絡的「內部循環」來保留時間序列的上下文信息,可以使用過去的信號數據來推測對當前信號的理解,這是非常重要的進步,並且理論上RNN可以保留過去任意時刻的信息。但實際使用RNN時往往遇到問題,請看下面這個例子。 假如我們構造了一個語言模型,可以通過當前這一句話的意思來預測下一個詞語。現在有這樣一句話:「我是一箇中國人,
相關文章
相關標籤/搜索