組裝一臺本身的深度學習計算機

做者：Chris Fotache

翻譯：瘋狂的技術宅

原文：https://towardsdatascience.co...

未經容許嚴禁轉載

在與 Microsoft Azure GPU VM 奮鬥了幾年以後，據說亞馬遜的 AWS 並無更好的表現，我以爲應該擁有本身的本地深度學習機器了。

一個主要的緣由是雲虛擬主機沒有顯示，因此你沒法進行任何可視化操做。這沒什麼大不了的，只要你在那裏訓練而後在本地計算機上運行模型就好了，可是若是你須要處理基於仿真的機器人項目，那麼這些項目根本不會在虛擬環境中運行。

後來我發現，組裝一臺幾乎最早進的計算機在大約 4 個月內便可收回成本，並且它比雲服務器快得多（主要是本地數據傳輸速度快，由於全部東西都在一個盒子裏的同一個總線上），雲服務則可能會把計算單元和存儲放在不一樣的機架中——所以，即便 GPU 速度更快，它也沒法足夠快地獲取數據。

個人系統最終花費不到 3千美圓（從 AWS 或 Azure 購買入門級雲 GPU ，大約是 800 美圓/月）。我組裝時是在 2019 年 5 月，價格與如今相差很大，如今能夠將價格下降 10％。另外在你閱讀本文時，該技術可能已經獲得了發展。你可能會問，爲何要本身動手組裝計算機而不是購買預裝的計算機。這是由於現成的深度學習系統很是昂貴。 LambdaLabs 的起價超過 6,000 美圓。其餘的甚至會更多。這使從頭開始組裝計算機並匹配正確的組件看上去彷佛很難。

全部用到的零件

爲了確保全部功能都能正常工做，我建議你使用 PC Part Picker。它既會向你顯示每一個零件的最低價格，也能確保你沒有選擇不兼容的零件。至於放在一塊兒，按照 YouTube 的規則。只需輸入零件的名稱，就會找到一些說明如何安裝它的視頻。如今，讓咱們看一下所需的零件：

CPU

你必須作出重大選擇：AMD 仍是 Intel。我一直是 Intel 的粉絲，可是對於這臺機器，CPU 並非最重要的部分，GPU 纔是。並且 Intel CPU 的價格是 AMD 的兩倍。 AMD 的新 Ryzen 系列有着很好的評價，我不須要超頻，由於我不玩電子遊戲。所以我選擇了 12 核 24 線程的 AMD Threadripper 1920x，它足以知足個人須要。並且價格合理，大約爲 350 美圓，不過價格一直在降低。另外一種選擇是價格超過 900 美圓的 10 核 Intel i9-7900。

AMD 銳龍 Threadripper CPU

CPU散熱器

AMD CPU 運行時熱量很大（這就是它們不那麼可靠的主要緣由之一）。所以你絕對須要液冷散熱器。我選擇了帶有 2 個風扇的 Fractal S24，售價約爲 115 美圓。替代品是 Corsair H100i。

安裝在CPU上方的液冷散熱器

主板

關於主板主要是選擇芯片組。簡單的規則是：對於 AMD Threadripper，請使用 X399。對於 Intel 7900，請使用X299。

根據評論，我選擇了 MSI X399 Gaming Pro Carbon AC，它支持深度學習所須要的一切。你會發現它的價格剛剛超過 300 美圓。其餘不錯的選擇是華碩 ROG，技嘉 Aorus 和華擎 Taichi（只需確保它至少有 40 條 PCIe 通道）。你必須確保板子設計適應 GPU 的大小，並可以添加多個 GPU。 MSI 有足夠的空間，而且全部位置都很合理。

主板準備好了

GPU

這是你的深度學習系統中最重要的部分。你必須用 Nvidia GPU，推薦的最低配置是 GTX 1080 Ti。不幸的是，當時以大約 800 美圓的正常價格是買不到的（怪異的遊戲玩家？比特幣礦工？）。因此我不得不換了一個更高級的，即 RTX 2080 Ti，這也不容易找到，可是我很幸運的以 1,187 美圓的價格買到了 EVGA 的產品。 RTX 是新一代產品，是 2019 年初消費類 GPU 中性能最好的產品之一。我很高興本身被「強迫」作出了選擇。若是仔細去找，也許仍能找到 1200 美圓左右的優惠價。我認爲 EVGA 和技嘉是頂級製造商，而你要作的選擇是關於冷卻系統的。 EVGA RTX 2080 Ti XC Ultra 具備雙空氣冷卻器，到目前爲止已經足夠了，它從未遇到嚴重的過熱問題。

最重要的組件-Nvidia RTX 2080 TI GPU

最重要的組件-Nvidia RTX 2080 TI GPU

內存

對於上述配置，DDR4 是最佳選擇。Corsair 多是主要的製造商。在 2019 年你須要 64Gb 的內存。因此我最終用了 4x16Gb Corsair Vengeance LPX DDR4。花了我 399 美圓，如今價格已經遠遠低於 300 美圓了。

硬盤

SSD 如今是舊技術了。最早進的是 M.2 標準，這種硬盤能夠直接插入主板的 PCIe 插槽中。以主總線速度運行，這基本上是一種高容量、持久的存儲芯片。我真的很喜歡 1Tb Samsung EVO SSD M.2。我花了 241 美圓，但如今價格也跌到了 200 美圓。若是你須要更多存儲空間，則能夠再加一個價格不到 100 美圓的普通 SSD 。

內存芯片和 M.2 硬盤驅動器到位

電源供應

PCPartPicker 將確保你選擇足夠大的電源來安裝系統。也有其餘在線功率計算器。使用一個 GPU 可能不會接近1,000W，可是若是你計劃添加第二個 GPU，則須要 1,200W 才能安全。 EVGA 是一家可靠的製造商，我選擇了 EVGA SuperNOVA P2 Platinum 1200，價格約爲 250 美圓。

機箱

這裏有不少選擇，取決於我的喜愛和設計，但重要的是要確保它足夠大，可以裝下全部零件而不會侷促，而且空氣流通性良好。我以 114 美圓的價格購買了 Lian-Li PC-O11AIR ，由於它符合這些要求。很是寬敞，全部東西都能放進去，而且散熱良好。

額外冷卻設備

組裝完成後，你可能須要添加其餘風扇來改善空氣流通。個人機箱內部有幾個風扇，同時還有幾個額外的風扇，可幾乎能夠裝滿每一個安裝位置。在可以加速卷積網絡的 GPU 機器中，溫度永遠不會過高。我機箱的背部有一個 80mm Noctua，還有一個普通的 120mm Corsair。是的，我搞了一個 RGB。我並不在乎機箱是否流光溢彩（由於它老是在桌子底下），但最後我仍是屈服了，買了一個很酷的風扇。

Assembly
部件

就像我說的那樣，在 YouTube 上搜索的每一個零件，你必定可以找到有關安裝的詳細示範。例如，如下是我遵循的一些示例：相似於個人版本，MSI X399主板演練， Threadripper 安裝。閱讀手冊中的全部安裝說明。例如，請注意內存條的插槽位置。

基本上，操做順序是這樣的：

首先，準備機箱，安裝電源並拉出電源電纜。而後準備主板，安裝 CPU，而後安裝 M.2 硬盤驅動器。將主板裝到機箱中，而後添加 CPU 散熱器。以後添加其餘風扇，並鏈接電源線和按鈕及燈線。最後安裝內存模塊和 GPU。

將 CPU 插入插槽 1

將 CPU 插入插槽 2

將 CPU 插入插槽 3

完成並啓動系統電源後，完成電纜管理並優化散熱。例如我最終去除了覆蓋風扇的大多數灰塵過濾器。我制定了一個繁重的GPU繁重的測試協議（訓練了 Yolo 模型），並不斷移動風扇，直到溫度降至最低。

軟件安裝

這纔是真正的樂趣開始的地方，但不是故事的重點。在 2019 年的春季你可能會用 Ubuntu 18.04，適用於你的 GPU 版本的 Nvidia 驅動程序（執行速度如此之快，可是顯示效果會很糟糕），CUDA 10，還有你要用的任何框架（PyTorch，Tensorflow 等） 。並且，它的速度要比你曾經試過的任何雲 GPU 都要快，並且你投入的資金會在幾個月內得到回報。

運行！

零件清單

這是個人零件清單，包含 2019 年 4 月的價格。你還能夠在個人 PCPartPicker 清單 上查看更新的價格。

CPU: AMD Threadripper 1920x 12-core ($356)
GPU: EVGA RTX 2080 Ti XC Ultra ($1,187)
CPU Cooler: Fractal S24 ($114)
Motherboard: MSI X399 Gaming Pro Carbon AC ($305)
Memory: Corsair Vengeance LPX DDR4 4x16Gb ($399)
Hard-drive: Samsung 1TB Evo SSD M.2 PCIe ($241)
Power: EVGA SuperNOVA P2 Platinum 1200W ($249)
Case: Lian-Li PC-O11AIR ($114)

這是對我有所啓發的一些替代版本： Jeff Chen 的, Colin Shaw 的 和 Wayde Gilliam 的.

本文首發微信公衆號：硬核智能