提升12倍！香港浸會大學與MassGrid發佈低帶寬高效AI訓練新算法

提升12倍！香港浸會大學與MassGrid發佈低帶寬高效AI訓練新算法 隨着訓練數據量的增加和深度神經網絡（DNN）的日益複雜，分佈式計算環境（如GPU集羣）被廣泛採用，以加速DNN的訓練。分佈式計算網絡在機器學習方面的瓶頸在於節點之間的數據傳輸效率，那如何在這一網絡下高效地進行AI訓練？ 2018年，香港浸會大學異構計算實驗室與MassGrid合作，通過研究提出一種可用於低帶寬網絡的全局Top-

>>阅读原文<<