【NLP】OpenAI GPT算法理解

論文《Improving Language Understanding by Generative Pre-Training》 Pytorch代碼實現： huggingface/pytorch-openai-transformer-lm 一、論文原理 GPT的核心思想是先通過無標籤的文本去訓練生成語言模型，再根據具體的NLP任務（如文本蘊涵、QA、文本分類等），來通過有標籤的數據對模型進行fine

>>阅读原文<<