自然語言處理(四)神經網絡語言模型及詞向量

神經網絡語言模型 用句子 S S S的概率 p ( S ) p(S) p(S)來定量刻畫句子。 統計語言模型是利用概率統計方法來學習參數 p ( w i ∣ w 1 … w i − 1 ) p(w_i|w_1\dots w_{i-1}) p(wi​∣w1​…wi−1​)，神經網絡語言模型則通過神經網絡學習參數. 統計語言模型的缺點 平滑技術錯綜複雜且需要回退至低階，使得該模型無法面向更大的n元文法

>>阅读原文<<