一起讀論文 | 爲什麼BERT會在許多NLP任務中表現得很好？

導讀：今天給大家解讀一篇關於BERT模型研究的綜述類論文《A Primer in BERTology: What we know about how BERT works》。基於Transformer的模型已經被證實可以有效地處理從序列標記到問題解答等不同類型的NLP任務，其中一種稱爲BERT的衍生模型得到了廣泛使用。但是，我們對其內部運作知之甚少。這篇論文把圍繞BERT進行的相關研究工作定義爲B

>>阅读原文<<