TensorFlow Serving Architecture

Serving Framework Train:訓練模型的過程 exporter:負責將訓練好的模型導出 Sever:負責存儲操作,例如將對象存儲到磁盤 Server:提供grpc server,組織request調用Module,將結果response client ModuleManager:負責加載訓練好的模型 Scheduler:負責請求的調度,例如BatchScheduler(buffe
相關文章
相關標籤/搜索