tensorflow 多GPU編程 徹底指南

目前已有不少介紹tensorflow使用多GPU的文章，但大多凌亂不堪，更有相互借鑑之嫌。筆者鑽研很多天，總算理清裏面的脈絡，特成此文以饗讀者。python 緣起 tensorflow使用GPU時默認佔滿全部可用GPU的顯存，但只在第一個GPU上進行計算。下圖展現了一個典型的使用GPU訓練的例子，雖然機器上有兩塊GPU，但卻只有一塊真正在工做，若是不加以利用，另外一塊GPU就白白浪費了。咱們知道，

>>阅读原文<<