NLP模型應用之一：基礎知識

引入 2018年底發佈的BERT模型和2019年初發布的GPT-2模型，開始挑戰人類的語言處理能力。二者都基於之前介紹過的Transformer基礎模型。 對模型的研究有幾個層次：研究基礎模型、擴展模型、應用模型 研究基礎模型 我們熟知的卷積神經網絡CNN，循環神經網絡RNN，Transformer模型，殘差網絡ResNet等等，都是底層模型，它們是神經網絡應用的基礎。 擴展模型 基礎模型需要經過

>>阅读原文<<