語言模型（三）—— 循環神經網絡語言模型（RNNLM）與語言模型評價指標

之前我們已經瞭解過n-gram語言模型和前饋神經網絡語言(NNLM)，今天我們簡單地看一下循環神經網絡語言模型。那麼首先看一下爲什麼要把RNN用到語言模型中呢？ 首先循環神經網絡語言模型（RNNLM）是想要解決前饋神經網絡模型窗口固定的問題。其次，前饋神經網絡模型假設每個輸入都是獨立的，但是這個假設並不合理。循環神經網絡的結構能利用文字的這種上下文序列關係，更好地對語句之間的關係進行建模。在某種程

>>阅读原文<<