谷歌宣布開放TPU按時收費 英偉達迎來最強勁的對手

【AI智科技】谷歌宣布開放TPU服務。按時計費，每小時6.5美元。英偉達迎來最強勁的對手。

谷歌在官方博客中稱，在新發布的Cloud TPU幫助下，不到一天的時間，你就可以在ImageNet上把ResNet-50模型訓練到75%的程度，成本不足200美元。

此前，TPU已經開放給部分客戶使用。例如，美國出行服務公司Lyft在去年底開始參與了谷歌新型晶元的測試。

Lyft的軟體總監AnanthaKancherla表示，「自從使用Google Cloud TPU以來，對其速度印象非常深刻，以前通常需要幾天，而現在可能需要幾個小時。深度學習正成為使自動駕駛車輛得以運行的軟體的中堅力量。」

晶元提供的是人工智慧三要素中的計算力，TPU的全面開放，可為中小AI公司在2018年的商業化應用落地提供硬體上的強大支撐。

TPU集推理和速度一身

TPU究竟是誰？擊敗圍棋大師李世石的DeepMindAlphaGo中，Google TPU是重要的核心部件。

2016年5月，谷歌發布TPU，是一款為機器學習特別定製的AI晶元。之後，TPU逐漸進入到Google旗下的諸多AI服務上。比如每一次搜索都有用到TPU的計算能力，最近還用在了Google翻譯、相冊等軟體背後的機器學習模型中。

據Google Brain團隊負責人、Google Research Group資深院士，Google AI項目的「精神領袖」Jeff Dean透露，Google TPU已經存在於圖像搜索中——Google Photo、Google Translate等。

一年之後，谷歌發布二代TPU，新的TPU包括了四個晶元，每秒可處理180萬億次浮點運算。Google還找到一種方法，使用新的計算機網路將64個TPU組合到一起，升級為TPU Pods，可提供大約11500萬億次浮點運算能力。

除了速度快，第二代TPU最大的特色，是相比初代TPU它既可以用於訓練神經網路，又可以用於推理。

在算力和推理的支持下，Google翻譯幾乎可以實時將英語句子變成中文，AlphaGo能以超人的熟練度玩圍棋。

英偉達迎來巨大挑戰

在機器學習市場，晶元廠商NVidia的GPU過去幾乎主宰了市場。此前，TPU並未向第三方用戶開放，多是用在谷歌自家產品上，對GPU並不構成實質性威脅。

另外，TPU與GPU還有幾大優勢。

1、速度和效率提升。TPU與同期的CPU和GPU相比，可以提供15-30倍的性能提升，以及30-80倍的效率（性能/瓦特）提升。

2、與CPU和GPU相比，單用途的TPU就是一個單線程晶元，不需要考慮緩存、分支預測、多道處理等問題。

3、CPU和GPU相比，TPU的控制單元更小，更容易設計，面積只佔了整個沖模的2%，給片上存儲器和運算單元留下了更大的空間。而且，TPU的大小只有其他晶元的一半。矽片越小，成本越低，良品率也越高。

4、確定性方面，TPU單用途帶來的另一個優勢。CPU和GPU需要考慮各種任務上的性能優化，因此會有越來越複雜的機制，帶來的副作用就是這些處理器的行為非常難以預測。

而TPU，能輕易預測運行一個神經網路、得出預測，需要多長時間，這樣，能讓晶元以吞吐量接近峰值的狀態運行，同時嚴格控制延遲。

面對TPU的強大算力和速度，和開放模式，GPU需要認真思考對策。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！