如何讓手機快速運行AI應用?這有份TVM優化教程

原作:鄭憐憫(上海交大) 允中 摘錄編譯 量子位 出品 | 公衆號 QbitAI 在移動設備上部署深度神經網絡的需求正在快速增加。 和桌面平臺類似,GPU也能在移動平臺加速推理速度、降低能耗。但問題是,大多數現有深度學習框架並不能很好的支持移動GPU。 爲什麼會這樣?因爲移動GPU和桌面GPU在架構上存在差異。 所以想要利用移動GPU,還得進行專門的優化。這種額外的工作,最終導致的結果就是大多數深
相關文章
相關標籤/搜索