【PTM】GPT-2：四隻角的獨角獸

今天閱讀的是 OpenAI 的同學於 2019 年發表的論文《Language Models are Unsupervised Multitask Learners》，目前具有 300 多引用量。 在有了之前論文的基礎後讀這篇論文就比較簡單了，論文介紹的是 OpenAI 對 GPT 的一個改進模型 GPT-2，其模型結構與 GPT 相比幾乎沒有什麼變化，只是讓模型變得更大更寬，並且取消了 Fine

>>阅读原文<<