後BERT時代：15個預訓練模型對比分析與關鍵點探索（附連接）

來源：知乎面試 做者：JayLou緩存 本文約7800字，建議閱讀10分鐘。網絡 本文對ELMo以來的15個表明性的預訓練語言模型進行了多維度的對比和分析。框架 前言svg 在以前寫過的《NLP的遊戲規則今後改寫？從word2vec, ELMo到BERT》一文中，介紹了從word2vec到ELMo再到BERT的發展路徑。而在BERT出現以後的這大半年的時間裏，模型預訓練的方法又被Google、Fa

>>阅读原文<<