詞向量Word Vectors學習筆記--word2vec

Word Vectors 將單詞編碼成向量，將其表示成在詞空間中的某一點。每一維都可看作是某些語義信息的編碼。 one-hot vector: 最簡單的詞向量,將每個單詞表示成一個 |V|*1維的向量。|V|是詞表大小，其在詞表中的索引位置值爲1，其餘爲0。 但由於詞表中單詞巨多，所以one-hot vector維度過高；此外，任意兩個vector點乘值爲零，所以詞向量之間彼此獨立，不能寓含詞間的

>>阅读原文<<