元學習系列（五）：GRU模型

之前提到的孿生網絡那類模型，簡單來說他們都是把訓練集作爲先驗知識進行建模，而像LSTM、GRU、神經圖靈機這一類模型則提供了另一個新思路，那就是引入外部記憶，在訓練過程中通過訓練集對外部記憶進行修改，從而在測試的時候利用外部記憶作爲先驗知識。 LSTM和RNN相比，引入了長期記憶和門結構，緩解了長期依賴問題。所謂的門結構，就是sigmoid函數，通過sigmoid函數分析應該遺忘什麼、記憶什麼和輸

>>阅读原文<<