【翻譯】Sklearn與TensorFlow機器學習實用指南 ——第12章 設備和服務器上的分佈式TensorFlow（下）...

並行運行 當 TensorFlow 運行圖時，它首先找出需要求值的節點列表，然後計算每個節點有多少依賴關係。 然後 TensorFlow 開始求值具有零依賴關係的節點（即源節點）。 如果這些節點被放置在不同的設備上，它們顯然會被並行求值。 如果它們放在同一個設備上，它們將在不同的線程中進行求值，因此它們也可以並行運行（在單獨的 GPU 線程或 CPU 內核中）。 TensorFlow 管理每個設備

>>阅读原文<<