斯坦福CS224n NLP課程【八】——RNN (循環神經網絡)和語言模式

語言模型 語言模型計算一串句子的概率 傳統的語言模型：通常我們會以一個突破點爲基礎條件在嘗試預測一個詞之前 我們會嘗試僅僅根據它前面的n個詞語預測下一個詞 這是使用傳統的機器學習模型必要的 但卻是錯誤的  但是佔用的內存較大 效率不好  解決辦法：RNN 從理論層面上來講 我們可以根據所有前序字組來進行預測 如此一來 內存需求只會取決於字詞的數量規模而不受我們想依據的序列長度的影響  RNN語言模

>>阅读原文<<