讀ELMO文章

      全稱是Embeddings from Language Models,從語言模型中學習到詞向量。word2vec訓練出的詞向量有一個問題,一個詞只有一個embbeding,實際上一個詞會有多個含義,例如 蘋果,可以代表水果,也可以代表手機,那麼具體表示哪個可以根據上下文的語義來推測,這也是ELMO模型要解決的關鍵問題。   模型: 1.雙向語言模型 雙向體現在,使用雙向的LSTM模型
相關文章
相關標籤/搜索