[預訓練語言模型系列專題] 風起雲涌

前言 歡迎大家來到我們預訓練語言模型的專題系列分享，本篇推送是該專題的第二篇！預訓練語言模型已經成爲了NLP研究中一個非常火熱的話題，優秀的模型包括BERT，GPT2等都在學術研究、工業領域、算法比賽中大放光彩。 在專題上一期推送【萌芽時代】裏，我們介紹了預訓練語言模型思想的萌芽。今天我們推出的這篇推送， 將繼續爲大家介紹預訓練語言模型是如何進一步發展和演進的。在此感謝清華大學自然語言處理實驗室關

>>阅读原文<<