【RNN】理解循環神經網絡中的 Skip-Gram

在處理文字模型的時候，將文字轉化成可以放進模型的數字，最簡單方法是用 one-hot 編碼。但是這種方法有弊端，轉化後的每個詞之間在數字上都是相互獨立的，任何一對詞的one-hot向量的餘弦相似度都爲0，任何詞之間都沒有關係。 Google團隊發表的 word2vec 工具。word2vec工具主要包含兩個模型：跳字模型（skip-gram）和連續詞袋模型（continuous bag of wo

>>阅读原文<<