tensorflow 多GPU訓練時， Memory-Usage佔滿而GPU-Util爲0%的問題

      由於剛開始接觸多gup訓練，按照網上的帖子改寫代碼後，發現訓練程序依舊很慢（用的是4gpu），用nvidia-smi檢查GPU運行情況，發現Memory-Usage佔滿而GPU-Util爲0%。       上網一搜還真有不少人遇到同樣的問題，還以爲是自己哪裏沒設置好。畫了一天左右時間在網上找解決方法，網上的方法都沒用。       後來用watch nvidia-smi命令，實時觀察

>>阅读原文<<