[預訓練語言模型專題] MT-DNN(KD) : 預訓練、多任務、知識蒸餾的結合

本文爲預訓練語言模型專題系列第八篇 快速傳送門    1-4：[萌芽時代]、[風起雲涌]、[文本分類通用技巧] 、 [GPT家族] 5-7：[BERT來臨]、[淺析BERT代碼]、[ERNIE合集]   感謝清華大學自然語言處理實驗室對預訓練語言模型架構的梳理，我們將沿此脈絡前行，探索預訓練語言模型的前沿技術，紅框中爲已介紹的文章，綠框中爲本期介紹的文章，歡迎大家留言討論交流。   Multi-T

>>阅读原文<<