滴滴開源AoE:一種快速集成AI的終端運行環境SDK

桔妹導讀:隨着人工智能技術快速發展,這兩年涌現出了許多運行在終端的推理框架,給開發者帶來更多選擇,但也同時增長了將 AI 佈署到終端的成本。除了要作推理框架選型,還須要關注數據預/後處理邏輯的穩定性,模型分發使用時的包大小、數據安全等問題。本文將帶着這些常見的AI終端側落地的問題,講解AoE背後的設計初衷和思路。javascript 1. 背景 ▍AoE是什麼 AoE (AI on Edge) 是
相關文章
相關標籤/搜索