GPT 原理解析

本文首發於我的個人博客 Sui Xin’s Blog 原文:https://suixinblog.cn/2019/09/gpt.html 作者:Sui Xin GPT(Generative Pre-Training)是一個典型的兩階段式模型:無監督預訓練+監督下游任務微調。而在 NLP 任務中,上游的無監督預訓練任務多半採用語言模型來實現,下游的監督任務直接對上游的模型進行簡單改造即可使用。 GP
相關文章
相關標籤/搜索