似懂非懂Google TPU 2.0

前面剛學習了Google的第一代TPU，寫了篇《似懂非懂Google TPU》，不少朋友一塊兒討論，紛紛議論說好像也不是很牛逼？怎麼可能，Google在技術上仍是頗有追求的。

這還沒過幾個月，Google CEO Sundar Pichai 在 5月18日I/O 大會上正式公佈了第二代 TPU，又稱 Cloud TPU 或 TPU 2.0，繼續來看下TPU 2.0有什麼神奇之處。

第一代 TPU 它被作爲一種特定目的芯片而專爲機器學習設計，並用在 AlphaGo 的人工智能系統上，是其預測和決策等技術的基礎。隨後，Google 還將這一芯片用在了其服務的各方面，好比每一次搜索都有用到 TPU 的計算能力，最近還用在了 Google 翻譯、相冊等軟件背後的機器學習模型中。

Google 宣佈第二代的 TPU 系統已經全面投入使用，而且已經部署在 Google Compute Engine 平臺上。它可用於圖像和語音辨識、機器翻譯和機器人等領域。

新的 TPU 包括了 4 個芯片，每秒可處理 180 萬億次浮點運算。Google 還找到一種方法，使用新的電腦網絡將 64 個 TPU 組合到一塊兒，升級爲所謂的TPU Pods，可提供大約 11,500 萬億次浮點運算能力。

 

強大的運算能力爲 Google 提供了優於競爭對手的速度，和作實驗的自由度。Google 表示，公司新的大型翻譯模型若是在 32 塊性能最好的 GPU 上訓練，須要一成天的時間，而八分之一個 TPU Pod 就能在 6 個小時內完成一樣的任務。之因此開發新芯片，部分也是由於 Google 的機器翻譯模型太大，沒法如想要的那麼快進行訓練。

除了速度，第二代 TPU 最大的特點，是相比初代 TPU 它既能夠用於訓練神經網絡，又能夠用於推理。初代的 TPU 只能作推理，要依靠 Google 雲來即時收集資料併產生結果，而訓練過程還須要額外的資源。

機器學習的能力已經逐漸在消費級產品中體現出來，好比 Google 翻譯幾乎能夠即時將英語句子變成中文，AlphaGo 能以超人的熟練度玩圍棋。全部這一切都要靠訓練神經網絡來完成，而這又須要計算能力。因此硬件越強大，獲得的結果就越快。若是將每一個實驗的時間從幾周縮短到幾天或幾個小時，就能夠提升每一個機器學習者快速反覆運算，並進行更多實驗的能力。因爲新一代 TPU 能夠同時進行推理和訓練，研究人員能比之前更快地部署 AI 實驗。

 

 

總結起來，Google TPU 2.0已經不侷限於推理，還進入到了訓練場景，挑戰這個領域的壟斷者 Nvidia 的 GPU 。

具體細節，Google尚未公佈，同窗們還能夠再等等Google公佈論文細節，總的來講，Google是決心在AI分一杯羹的，以Google的技術實力，仍是很是值得期待的。