騰訊開源項目破百:NLP領域新突破,推理加速工具 TurboTransformers開源

項目背景 以BERT爲代表的Transformer神經網絡是近年來NLP領域最重要的模型創新,很多NLP任務,如閱讀理解、文章摘要、語義分類、同義改寫等,都通過採用BERT獲得了顯著的效果提升。但是,如下圖所示,Transformer帶來更高的模型精度的同時也引入了更多的計算量,使用Transformer的線上NLP服務的高效部署面臨着巨大挑戰。鑑於BERT在各大互聯網公司的廣泛應用,非常必要實現
相關文章
相關標籤/搜索