XLNet:運行機制及和Bert的異同比較

  這兩天,XLNet貌似也引起了NLP圈的極大關注,從實驗數據看,在某些場景下,確實XLNet相對Bert有很大幅度的提升。就像我們之前說的,感覺Bert打開兩階段模式的魔法盒開關後,在這條路上,會有越來越多的同行者,而XLNet就是其中比較引人注目的一位。當然,我估計很快我們會看到更多的這個模式下的新工作。未來兩年,在兩階段新模式(預訓練+Finetuning)下,應該會有更多的好工作涌現出來
相關文章
相關標籤/搜索