如何讓手機快速運行AI應用?這有份TVM優化教程

本文來自AI新媒體量子位(QbitAI) 在移動設備上部署深度神經網絡的需求正在快速增加。 和桌面平臺類似,GPU也能在移動平臺加速推理速度、降低能耗。但問題是,大多數現有深度學習框架並不能很好的支持移動GPU。 爲什麼會這樣?因爲移動GPU和桌面GPU在架構上存在差異。 所以想要利用移動GPU,還得進行專門的優化。這種額外的工作,最終導致的結果就是大多數深度學習框架都對移動GPU的支持不足。 T
相關文章
相關標籤/搜索