吳恩達深度學習筆記（deeplearning.ai）之循環神經網絡（RNN）（三）

1. 導讀 本節內容介紹普通RNN的弊端，從而引入各種變體RNN，主要講述GRU與LSTM的工作原理。 事先聲明，本人採用ng在課堂上所使用的符號系統，與某些學術文獻上的命名有所不同，不過核心思想都是相同的。 2. 普通RNN的弊端 在NLP中，句子內部以及句子之間可能存在很長的依賴關係（long-term dependecies），最前邊的單詞對句子後面的單詞產生影響。但是普通RNN不擅長捕獲這

>>阅读原文<<