論文筆記:LSTM, GRU, Highway and a Bit of Attention: An Empirical Overview for Language Modeling in Speec

感想 本文主要比較了LSTM,GRU,Highway,attention模型在語音識別上的語言模型的優劣,總體而言LSTM還是佔優勢的,attention雖然新穎,但是實驗結果不是很好,但是在以後的研究中還是值得借鑑的,本文公式比較複雜,需要有一定RNN基礎才能理解。 1、 介紹 語言模型是自動語音識別中的一個關鍵組件,這其中包括出現的端到端的系統,結合兩種互補的方法,基於統計的n-fram和基於
相關文章
相關標籤/搜索