Tengine支持GPU / CPU異構調度丨OPEN AI LAB

隨着深度學習的快速發展,把深度學習算法部署到嵌入式設備的需求也日益增加。 目前開源的嵌入式推理框架中,有支持ARM CPU加速推理的,也有支持GPU加速的,但這些移動端推理框架中,還沒有一個框架能夠進行CPU / GPU異構調度。 如今,Tengine作爲ARM人工智能平臺的軟件框架,首次發佈支持CPU / GPU異構調度。 Tengine的GPU / CPU異構調度的原理是: 根據算子對計算圖(
相關文章
相關標籤/搜索