萬億維線上預估系統,支持毫秒級恢復,第四範式如何實現每秒億級KV查詢?

線上預估服務是AI在企業應用落地的關鍵環節,企業通常會採用分佈式計算架構在內存中完成實時數據處理和高達萬億維的模型特徵存儲,並通過多集羣副本解決傳統純內存(DRAM)天生的易"失"性隱患,以達到線上實時服務質量(Quality of Service)效果。然而,隨着企業AI應用模型大小和數量的增長,線上預估服務所需要的硬件資源也呈幾何倍數增加。 爲進一步滿足企業線上預估需求,第四範式定製開發了基於
相關文章
相關標籤/搜索