GloVe

GloVe 背景介紹 GloVe模型講解 原理 GloVe模型 GloVe模型細節 損失函數細節 代碼 背景介紹 word2vec最大的問題是基於局部窗口而訓練出來的詞向量是沒有全局性的(一定程度上)，還有一種利用全局矩陣分解形式訓練的詞向量，但這種方法在詞對推理任務上表現不是很好。 GloVe採用了詞頻共現的模型來訓練詞向量，即基於全局詞彙共現的統計信息來學習詞向量，從而將統計信息和局部上下文窗

>>阅读原文<<