廣告行業中那些趣事系列16:NLPer一定要知道的BERT文本分類優化策略及原理

本篇一共7100個字 摘要:本篇主要分享了項目實踐中的BERT文本分類優化策略和原理。首先是背景介紹及優化方向,其中優化方向主要分成從數據層面優化和模型層面優化;然後通過實驗的方式重點分析了分類器優化策略和原理,主要從優化BERT預訓練權重和分類器模型內部優化策略優化分類器效果;最後分享了一些關於BERT優化的思考和總結,包括分類層是否應該複雜化、長文本處理、增加新知識和災難性遺忘問題的處理。優化
相關文章
相關標籤/搜索