LSTM簡介以及數學推導(FULL BPTT)

前段時間看了一些關於LSTM方面的論文，一直準備記錄一下學習過程的，由於其餘事兒，一直拖到了如今，記憶又快模糊了。如今趕忙補上，本文的組織安排是這樣的：先介紹rnn的BPTT所存在的問題，而後介紹最初的LSTM結構，在介紹加了遺忘控制門的，而後是加了peephole connections結構的LSTM，都是按照真實提出的時間順序來寫的。本文至關於把各個論文核心部分簡要聚集一下而作的筆記，已提供快

>>阅读原文<<