Stanford 深度自然語言處理 學習筆記（二）

1、one-hot缺點：無法表示詞之間的近似含義（相似性）。 究其根本你會發現，是你開了一個極高維度的空間，然後每個詞語都會佔據一個維度，因此沒有辦法在空間中關聯起來。因此我們可能可以把詞向量的維度降低一些，在這樣一個子空間中，可能原本沒有關聯的詞就關聯起來了。(寒小陽的博客) 2、distributional similarity represent a word by means of its

>>阅读原文<<