深度學習的多gpu並行嘗試——qjzcy的博客

深度學習的多gpu並行嘗試——工做學習中的一點體會python 目錄 1、 深度學習並行經常使用方法 2、 代碼解析 3、 實驗結果 4、 一些細節web （一）並行經常使用方法： 通常有兩種方法，一種是模型並行，另外一種是數據並行。 模型並行： 因爲bp網絡的過程是個串行的過程，因此模型並行主要用在一個gpu的顯存不能把全部的圖結構都保存下來，因而咱們把一個完整的網絡切分紅不一樣塊放在不一樣gp

>>阅读原文<<