還怕GPU資源不夠用?多實例GPU MIG助攻資源利用難題

2020 年 5 月 14 日,NVIDIA 發佈了最新的 GPU 架構 -- 安培。全新的安培架構提供了一系列新性能,而其中最值得一提的無疑是 MIG(多實例 GPU)。 MIG 打破了 GPU 虛擬化中資源分配的瓶頸,能夠將基於安培架構的 GPU 服務器 A100 切分成 7 個 GPU 實例,並且可以使每一個 GPU 實例都能夠擁有各自的 SMs 和內存系統,讓每個實例之間的內存空間訪問互不
相關文章
相關標籤/搜索