NLP12：預訓練模型之ELMO

公衆號：數據挖掘與機器學習筆記 1.簡介 ELMO是一種深層的上下文單詞表示模型，它可以同時建模： (1) 單詞使用的複雜特徵（例如語法和語義），也就是能夠學習到詞彙用法的複雜性 (2)這些用法如何在語言上下文之間變化（即建模多義性） 詞向量是深度雙向語言模型(deep bidirectional language model,BILM)內部狀態的可學習函數，這些雙向語言模型在大型文本語料庫上進行

>>阅读原文<<