word2vec簡要教程

一、 Word2Vec Tutorial 1.discrete representation(one-hot)的缺點 one-hot vector 不能夠表示詞之間的相似性，例子如下，motel和hotel是意思相近的兩個詞，可是兩個詞的one-hot vector卻是正交的。 所以我們考慮使用一種維度較低並且有遞推關係的向量來表示詞，相似的詞具有相似的向量。比如語料庫有1W個詞，如果用one-h

>>阅读原文<<