CBOW 與 skip-gram

skip-gram結構是利用中間詞預測鄰近詞 cbow模型是利用上下文詞預測中間詞 一、CBOW 1、 CBOW之所以叫連續詞袋模型，是因爲在每個窗口內它也不考慮詞序信息，因爲它是直接把上下文的詞向量相加了，自然就損失了詞序信息。CBOW拋棄了詞序信息，指的就是在每個窗口內部上下文直接相加而沒有考慮詞序。 2、CBOW過程 簡單介紹如下（實際算法會用到哈夫曼編碼等降維技巧，這裏僅以理解爲目的簡介基

>>阅读原文<<