AWD-LSTM爲什麼這麼棒？

AWD-LSTM是目前最優秀的語言模型之一。在衆多的頂會論文中，對字級模型的研究都採用了AWD-LSTMs，並且它在字符級模型中的表現也同樣出色。 本文回顧了論文——Regularizing and Optimizing LSTM Language Models ，在介紹AWD-LSTM模型的同時並解釋其中所涉及的各項策略。該論文提出了一系列基於詞的語言模型的正則化和優化策略。這些策略不僅行之有效

>>阅读原文<<