NLP小白學習路線(4)——Contextual Word Embeddings

上一篇我們介紹了Subword Models 模型 這一篇將介紹ELMO,GPT &BERT Subword Models 模型是爲了解決單詞不存在於詞彙庫中的情況OOV(out-of-vocabulary)。並且對於單詞的變換,比如副詞,加-ed,-ing這種單詞的變形(morphology)處理的問題。 並在Word embedding最小單位爲單詞的基礎上,進一步縮小粒度爲Character
相關文章
相關標籤/搜索