LSTM簡介以及數學推導(FULL BPTT)

前段時間看了一些關於LSTM方面的論文，一直準備記錄一下學習過程的，因爲其他事兒，一直拖到了現在，記憶又快模糊了。現在趕緊補上，本文的組織安排是這樣的：先介紹rnn的BPTT所存在的問題，然後介紹最初的LSTM結構，在介紹加了遺忘控制門的，然後是加了peephole connections結構的LSTM，都是按照真實提出的時間順序來寫的。本文相當於把各個論文核心部分簡要彙集一下而做的筆記，已提供快

>>阅读原文<<