語言模型與詞向量

自然語言處理中一個很核心的基本任務就是語言模型與詞向量，這一篇文章我主要回顧了一下自然語言處理中語言模型與詞向量的發展歷程，總結一下這一條線的一些經典的idea。 一. 語言模型 什麼叫做語言模型？語言模型其實就是對一種語言打分的方法。自然語言處理中經常把語言的「得分」通過概率來體現，這就叫做概率語言模型(PLM)，或者叫做統計語言模型(SLM)。 具體來說，概率語言模型計算的是一個序列作爲一句話

>>阅读原文<<