廣告行業中那些趣事系列16：NLPer一定要知道的BERT文本分類優化策略及原理

本篇一共7100個字 摘要：本篇主要分享了項目實踐中的BERT文本分類優化策略和原理。首先是背景介紹及優化方向，其中優化方向主要分成從數據層面優化和模型層面優化；然後通過實驗的方式重點分析了分類器優化策略和原理，主要從優化BERT預訓練權重和分類器模型內部優化策略優化分類器效果；最後分享了一些關於BERT優化的思考和總結，包括分類層是否應該複雜化、長文本處理、增加新知識和災難性遺忘問題的處理。優化

>>阅读原文<<