阿里雲Kubernetes 1.9上利用Helm玩轉TensorFlow模型預測

TensorFlow Serving是由Google開源的機器學習模型預測系統,能夠簡化並加速從模型到生產應用的過程。它可以將訓練好的機器學習模型部署到線上,使用 gRPC 作爲接口接受外部調用。更給人驚喜後的是,它還提供了不宕機的模型更新和版本管理。這大大降低了模型提供商在線上管理的複雜性,可以將注意力都放在模型優化上。 TensorFlow Serving本質上也是一個在線服務,我們需要考慮它
相關文章
相關標籤/搜索