谷歌I/O開發者大會推出 Cloud TPU：兼顧訓練和推理

美國當地時間 2017 年 5 月 17 日，2017 Google I/O 開發者大會在加州山景城舉行，會上谷歌宣布推出了第二代 TPU——Cloud TPU，其被認為比 CPU 、甚至是 GPU 更加高效。需要說明的是，此次發布的 Cloud TPU 晶元是去年穀歌在 I/O 大會上發布的初代 TPU 的升級版（初代版本官方介紹地址：https://goo.gl/R6UkfJ）。事實證明，它們的確名副其實。谷歌表示，一塊 Cloud TPU 上有 4 塊晶元，每塊 TPU 的處理性能最高可達每秒 180 teraflops（每秒萬億次浮點運算）。Cloud TPU 還可以輕鬆實現集成組合，你可以將 64 塊 TPU 組合成一個「超級計算機」，即一個 pod，每個 pod 的速度可達 11.5 petaflops（每秒千萬億次浮點運算）；另外，Pichai 還宣布將 Cloud TPU 應用到了 Google Compute Engine 中。

4 塊晶元的 Cloud TPU

雖然至於這一代 TPU 的平均處理性能如何還有待觀察，但是較之於單純加速的功能而言，這一代在其它方面確實更進一步。第一代 TPU 僅能夠處理推理任務，然而這次推出的新一代 TPU 還可以用於機器學習模型的訓練，這個機器學習過程中重要的一部分完全可在單塊、強大的晶元上進行。

這意味著，你可以建立這樣的機器學習模型，比如，它可以分辨一張照片中的物體到底是一棵樹、一輛車或者是一隻貓。機器學習中的推理指的是機器結論之為正確的統計學可能性，比如基於模型，你或許可以有 85% 的自信認為這實際上是一棵樹而不是一堆西蘭花。

那麼，第二代 TPU 晶元到底多塊？谷歌在一份申明中說：「我們新的大規模翻譯模型需要在 32 塊目前全世界最好的 GPU 上訓練一整天才行，然而 1/8 塊第二代 TPU 可以在一個下午之內完成上述工作。」

谷歌第二代Tensor Flow晶元組

雖然我們通常很難知道這些對比在實踐中有何用處，但是它至少給了人們一個與 GPU 之間速度差異的直觀比較，要知道 GPU 是今天機器學習運算使用的最強大的晶元類型。

谷歌還將這些晶元的能力打包作為一項服務在谷歌雲平台（Google Cloud Platform）上發布，這從根本上降低了獲取機器學習技術的門檻。同時它也允許用戶在其競爭對手如英特爾 Skylake 處理器或英偉達 Volta GPU 上先建立自己的模型，然後再將其轉移到谷歌 TPU Cloud 來進行最後的處理。

為了進一步推進開源機器學習研究的發展，谷歌還推出了 TensorFlow Research Cloud（TFRC），一個由 1000 塊 Cloud TPU 組成的集群，其為廣泛領域內急需 Cloud TPU 服務的計算密集型項目提供免費支持。The TensorFlow Research Cloud 將為這些項目的研究者提供以下好處：

• 輕鬆訪問谷歌全新的 Cloud TPU，同時提升訓練與推理

• 每塊 Cloud TPU 的性能高達 180 teraflops

• 每塊 Cloud TPU 具備 64 GB 的超高寬頻內存

• 熟悉的 TensorFlow 編程介面

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！