深度學習-在線推斷（Inference）技術

    深度學習通常分爲訓練和在線推斷兩個部分，你們平時常常關注的多爲訓練階段，也就是搜索和求解模型最優參數的階段。而當模型參數已經求解出來，如何使用模型，以及在在線環境中部署模型，也是很是重要的。html     通常會比較關注其中的一些技術點： 服務器     訪問延遲     吞吐量     模型版本管理     DevOps    大公司較爲傾向本身造輪子，而小公司更傾向於用開源方案。ap

>>阅读原文<<