微信開源推理加速工具 TurboTransformers，性能超越 PyTorch/TensorFlow 與主流優化引擎

騰訊宣佈開源 Transformer 推理加速工具 TurboTransformers。該工具面向自然語言處理領域中 Transformers 相關模型豐富的線上預測場景，據介紹，其在微信、騰訊雲、QQ 看點等產品的線上服務中已經廣泛應用，這也是騰訊對外開源的第 100 個項目。 在自然語言處理領域中，以 BERT 爲代表的 Transformers 相關神經網絡模型是近年來最重要的模型創新，可以

>>阅读原文<<