Word2vec skip-gram模型

Skip-gram使用了一個機器學習的trick。我們訓練一個簡單的只有一個隱藏層的模型來完成某個任務，但我們的最終目的並不是完成這個任務，而是學習隱藏層中的參數。後面你會看到這些參數就是我們要找的word vectors 我們先來說說用這個網絡要完成的「假任務」，然後再說這如何間接的使我們得到想要的word vector 基本模型 訓練數據與模型輸出 對於原文本中的每個詞（作爲input），我們

>>阅读原文<<