Word2Vec

Lecture 1: Introduction and Word Vectors One-hot 主要思想：means one 1, the rest 0s. 缺點：①如果想表示合理大小詞彙，向量維度太大； ②兩個不同詞對應的向量是正交的，數學上無法描述他們的相似性。 Word2Vec Idea ①有一個很大的文本語料庫； ②每個詞在固定詞典中由一個向量表示，我們隨機初始化向量； ③遍歷文本中的每

>>阅读原文<<