tensorflow tf-serving 進行warmup設置

最近發現模型在更新的一瞬間容易產生超時的問題,因而就瞭解了一下 tf-serving 中有個warmup主要是經過模型啓動時加載${model}/${version}/assets.extra/tf_serving_warmup_requests達到熱啓動的目的,使得模型更新時不易產生超時的問題python 首先根據本身的模型字段進行編寫造成tf_serving_warmup_requests文件
相關文章
相關標籤/搜索