A Neural Probabilistic Language Model 論文閱讀及實戰

1.詞向量介紹 在NLP任務中,第一步首先將自然語言轉化成數學符號表示。一般常用的詞彙表示方法:one-hot表示,這種方法是將每個單詞表示爲一個很長的向量,這個向量的長度是詞彙表的大小,其中絕大數元素是0,只有一個元素是1,如「男人」表示爲:[0 0 0 1 0 0 0 0 0 0…],「男孩」表示爲:[0 1 0 0 0 0 0 0 0 0…]。one-hot方法採用稀疏的方式進行單詞的表示,
相關文章
相關標籤/搜索