百度硅谷人工智能實驗室開源高性能計算代碼

美國時間2月22日，百度硅谷人工智能實驗室(SVAIL)宣佈向深度學習領域開源了 Ring Allreduce算法庫，以實現在多個GPU之上更快速地訓練神經網絡模型。 Ring Allreduce是高性能計算領域的著名算法，但在深度學習領域應用不足。該技術可以實現近乎線性的加速，以及幾十個甚至上百個GPU的擴展。比如，運用Ring Allreduce算法，百度硅谷人工智能實驗室將神經網絡的訓練擴展

>>阅读原文<<