如何實現Tensorflow多機並行線性加速？

在上一家公司就開始實踐打磨一個深度優化的深度學習系統，當時從消除網絡瓶頸，非凸優化，以及具體的深度學習算法等方面基於PaddlePaddle做了許多工作。目前公司主要深度學習算法都是跑在Tensorflow上，使用配置了GeForce GTX 1080的單機訓練，一次完整的訓練至少需要一週的時間，所以決定從優化Tensorflow多機並行方面提高算力。 爲什麼要優化Tensorflow多機並行 更

>>阅读原文<<