RNN詳解

RNN介紹 在傳統神經網絡中我們假設所有的輸入和輸出都是相互獨立的，但對於很多任務這樣的假設並不合適。如果你想預測一個句子的下一個單詞，則需要知道之前的words包括哪些。 RNN被稱爲循環因爲它們對句子的每個元素都執行相同的任務，輸出依賴於之前的計算；另一個理解RNN的方法是假設他們用記憶能夠獲取之前計算過的信息。理論上RNN能夠利用任意長的句子，但是實踐中通常會回溯固定長度。 上圖顯示了一個R

>>阅读原文<<