當BERT遇上知識圖譜

寫在前面 上篇博客理了一下一些知識表示學習模型，那今天我們來看目前最流行的BERT模型加上外部知識這個buff後到底會有怎麼樣的發展。其實這個思路在之前就有出現過比較有意思且高效的工作，像百度的ERNIE和ERNIE2.0 以及清華的ERNIE，這些工作的介紹可以參考站在BERT肩膀上的NLP新秀們（PART I）。 √ KG-BERT from NWU √ K-BERT from PKU √ K

>>阅读原文<<