NLP-contextualized representations-task04

基於上下文的詞嵌入方法 1 Word2Vec,Glove & Fastext 2 一詞多義 2.1 ELMO 2.2 BERT 2.3 GPT 3 小結 1 Word2Vec,Glove & Fastext 回顧以前內容,對於詞如何轉爲數學表示,最基礎的是詞的編碼,即one-hot編碼,這樣能夠將詞轉爲計算機能夠處理的對象,但缺點是徹底丟失了詞自己的語意信息,只達到了區分效果,每一個詞之間互不相關
本站公眾號
   歡迎關注本站公眾號,獲取更多信息