bert模型相關(二)

模型微調 模型用了bert的中文預訓練模型,直接在runclassify.py上做的修改 修改後的模型示意圖: 1. 去除segment層 因爲直接採用了字符作文輸入,不再需要segment層。 2. 去掉了[CLS] 和[SEP] 因爲考慮到在預測的時候可能在句中出現[CLS]和[SEP]的label,但是這種標記不屬於標點符號。 3. 替換bert分詞器 對於作文中可能出現的英文單詞還要考慮子
相關文章
相關標籤/搜索