上線視頻推理服務 使AI應用更高效

寫在前面 在愛奇藝視頻圖像增強項目中上線視頻推理服務，通過優化將處理速率提升了10倍，GPU利用率穩定在90%以上。本文通過分享視頻推理服務解決方案，幫助爲解決利用率低的問題相關從業者提供一些思路。 背 景 和業內專家交流過程中，我們發現視頻推理是一個共同的熱點需求和難點需求，普遍反應是深度模型推廣速度快，優化工作跟不上模型上線的要求，表現出來是集羣的整體利用率不盡如人意。在愛奇藝AI推理服務中，

>>阅读原文<<