Task2-GloVe原理介紹

Task2-Word Vectors and Word Senses 1.skipgram、cbow回顧 使用skipgram和cbow兩種模型進行詞向量預訓練,我們會發現Word2Vec模型是一個超級大的神經網絡(權重矩陣規模非常大)。舉個栗子,我們擁有10000個單詞的詞彙表,我們如果想嵌入200維的詞向量,那麼我們的輸入-隱層權重矩陣和隱層-輸出層的權重矩陣都會有 10000 x 200 =
相關文章
相關標籤/搜索