GPT-3 Finetune

一隻小狐狸帶你解鎖煉丹術&NLP祕籍 2018年10月推出的BERT一直有着劃NLP時代的意義，然而還有一個讓人不能忽略的全程陪跑模型——OpenAI GPT（Generative Pre-Training）在以它的方式堅持着，向更通用的終極目標進發。 最初的GPT只是一個12層單向的Transformer，通過預訓練+精調的方式進行訓練，BERT一出來就被比下去了。之後2019年初的GPT-2提

>>阅读原文<<