Word2vec skip-gram模型

Skip-gram使用了一個機器學習的trick。我們訓練一個簡單的只有一個隱藏層的模型來完成某個任務,但我們的最終目的並不是完成這個任務,而是學習隱藏層中的參數。後面你會看到這些參數就是我們要找的word vectors 我們先來說說用這個網絡要完成的「假任務」,然後再說這如何間接的使我們得到想要的word vector 基本模型 訓練數據與模型輸出 對於原文本中的每個詞(作爲input),我們
相關文章
相關標籤/搜索