xlnet中文文本分類任務

xlnet中文版本預訓練模型終於出來了，見地址https://github.com/ymcui/Chinese-PreTrained-XLNet ，出來以後嘗試了下中文文本分類模型，xlnet模型相比bert有不少東西作了改變，模型層面的很少說，目前放出來的中文文本分類模型是採用24層的網絡結果，和中文版的bert12層的網絡大了兩倍，以前論文出來時候有不少，主要是中文數據處理的問題，模型採用的s

>>阅读原文<<