GradientFlow:90秒訓練ImageNet/AlexNet的分佈式通訊庫

來自商湯和南洋理工的研究人員,實現了僅用1.5分鐘訓練ImageNet/AlexNet。儘管多種物體識別方法在ImageNet上已經達到了很高的準確率,但模型訓練過程仍然非常耗時,縮短模型訓練時間是AI研究人員必須面臨的工程挑戰。爲減少訓練時間,作者開發了用於分佈式數據通訊後端GradientFlow,輔以一系列的網絡通訊優化技巧實現驚人的效率提升。 論文地址: https://arxiv.org
相關文章
相關標籤/搜索