使用Kubernetes容器服務在雲上搭建AI推理環境

場景描述 本方案適用於使用GPU進行AI在線推理的場景。在推理之前,模型已經訓練完成。例如,刷臉支付中,我們在刷臉的時候,就是推理的一個過程。再比如圖像分類,目標檢測,語音識別,語義分析等返回結果的過程。 解決問題 使用GPU雲服務器搭建推理環境 使用容器服務Kubernetes版構建推理環境 使用NAS存儲模型數據 使用飛天AI加速推理工具加速推理 產品列表 GPU雲服務器 容器服務Kubern
相關文章
相關標籤/搜索