獨家揭祕:微博深度學習平臺如何支撐4億用戶愉快吃瓜?

隨着深度學習在微博業務場景中的廣泛使用,深度學習平臺也遇到一些挑戰:在離線訓練方面,各業務方需求豐富多樣,任務管理紛繁複雜,大數據與大模型帶來訓練時長的壓力;在線推理方面,基於模型服務的特殊性,如何在滿足微博大流量高性能的在線業務需求同時,保證服務的高可用與穩定性。新浪微博基於K8s構建了分佈式離線與在線方案,解決了上述兩個維度遇到的挑戰。 新浪微博機器學習研發架構師於翔老師在ArchSummit
相關文章
相關標籤/搜索