漫話GPT：原理篇

【前言】 GPT是OpenAI在2018年發表的一篇論文《Improving Language Understanding by Generative Pre-Training》中提出的框架，據說在提出之後沒有得到太大的關注，但是幾個月後Google發佈的關係密切的BERT卻成爲了現在NLP的通用結構。 預訓練語言模型在衆多語言任務上取得了突破。因此，預訓練語言模型的知識將在一段時間內成爲NLP工

>>阅读原文<<