關於深度學習模型部署

關於深度學習模型部署 問題分析 首先是模型的使用場景,根據使用場景就可以獲取到對應的性能等要求。舉個例子來說,如果是要上線給用戶使用的,哦吼,恭喜你,這塊最起碼速度要求就很高,畢竟用戶可不像自己人,沒有多少耐心一直等你的加載圈轉呀轉,具體的指標根據場景和應用而定,不過一般會在數毫秒 最多可以到數十毫秒每條的樣子。此外,如果是基於網絡調用那還好說,機器在自己手上,土豪就可以各顯神通了,如果是離線的手
相關文章
相關標籤/搜索