廣告行業中那些趣事系列6:BERT線上化ALBERT優化原理及項目實踐(附github)

微信公衆號:數據拾光者。願結交更多的小夥伴,一同走人生路。 摘要:BERT因爲效果好和適用範圍廣兩大優點,所以在NLP領域具有里程碑意義。實際項目中主要使用BERT來做文本分類任務,其實就是給文本打標籤。因爲原生態BERT預訓練模型動輒幾百兆甚至上千兆的大小,模型訓練速度非常慢,對於BERT模型線上化非常不友好。本篇研究目前比較火的BERT最新派生產品ALBERT來完成BERT線上化服務。ALBE
相關文章
相關標籤/搜索