NLP入門（5）— NLP經典預訓練模型

前言 上一期介紹了近年來大火的Transformer，因爲其強大的功能，到現在爲止各大熱門的預訓練模型都是以它爲基礎結構的。本篇博客就來介紹一些NLP領域使用的經典預訓練模型。 預訓練模型 首先了解一下預訓練模型的概念。我們知道，在深度學習領域，尤其是在自然語言處理領域，神經網絡的深度通常無法想象。深度學習龐大的參數量對運行設備的性能也提出了很高的要求，有時即使有着最頂級性能的設備，一個深度模型也

>>阅读原文<<