自用防忘：cs224n 筆記：第二講詞向量表示

獨熱向量編碼 只有一個1，其餘都是0 *問題：*體現不出來兩個向量的內在相似性，因兩向量的點積爲0，得不出詞彙與模型之間的關聯 *目的：*探索一種直接的方法，可以直接閱讀一個單詞編碼表示的含義，進而看出來單詞間的相似性。 所以我們要做的就是構造這些向量，然後做一種類似求解點積的操作，這樣就可以讓我們瞭解詞彙之間有多少相似性。 分佈相似性：通過觀察其出現的上下文並對這些上下文做一些處理可以得到大量表

>>阅读原文<<