騰訊開源項目破百：NLP領域新突破，推理加速工具 TurboTransformers開源

項目背景 以BERT爲代表的Transformer神經網絡是近年來NLP領域最重要的模型創新，很多NLP任務，如閱讀理解、文章摘要、語義分類、同義改寫等，都通過採用BERT獲得了顯著的效果提升。但是，如下圖所示，Transformer帶來更高的模型精度的同時也引入了更多的計算量，使用Transformer的線上NLP服務的高效部署面臨着巨大挑戰。鑑於BERT在各大互聯網公司的廣泛應用，非常必要實現

>>阅读原文<<