ELMO模型

概述         ELMO是在2018年的論文《Deep contextualized word representations》中提出的。ELMo是一種新型深度語境化詞表徵,可對詞進行復雜特徵(如句法和語義)和詞在語言語境中的變化進行建模(即對多義詞進行建模)。我們的詞向量是深度雙向語言模型(biLM)內部狀態的函數,在一個大型文本語料庫中預訓練而成。說到詞向量,我們一定會聯想到word2v
相關文章
相關標籤/搜索