NLP史上最全預訓練模型彙總

目錄 一、不同視角下的預訓練語言模型對比 二、預訓練語言模型的基礎：特徵抽取機制+語言模型的分類 三、單向模型回顧+內核機制探究 四、BERT內核機制探究 五、BERT系列模型進展介紹 六、XLNet的內核機制探究 參考文獻 前言 在小夕之前寫過的《NLP的遊戲規則從此改寫？從word2vec, ELMo到BERT》一文中，介紹了從word2vec到ELMo再到BERT的發展路徑。而在BERT出現

>>阅读原文<<