pytorch 多GPU並行計算

並行計算分爲兩類： https://baijiahao.baidu.com/s?id=1632494497660364845&wfr=spider&for=pc 模型並行：將模型的多個層放到不同的機器上， 數據並行（常用）：將數據分發的不同機器上 基於pytorch的並行計算 1.單機多gpu ：https://www.jianshu.com/p/b366cad90a6c pytorch實現單機多

>>阅读原文<<