英特爾：GPU已out，Nvidia的人工智慧之路會越來越難

雷鋒網按：近日，Google首次透露TPU細節：其執行谷歌常規機器學習工作負載的處理速度比GPU/CPU快15-30倍。這一消息表明隨著人工智慧的發展，以往的GPU/CPU架構已經相對落後，在這一領域除了Google，Intel也在進行相關的研發，以下則是近期ZDNet對Intel AIPG首席技術官 Amir Khosrowshahi 的一篇採訪，雷鋒網編譯如下：

剛剛上任的英特爾人工智慧事業部（AIPG）首席技術官 Amir Khosrowshahi 表示，目前所使用GPU太低級了，半導體行業需要構建全新的神經網路架構。

在出任這個新職位之前，Khosrowshahi 是 Nervana System 的聯合創始人兼首席技術官，於去年 8 月份被英特爾收購，但並未對外披露具體的收購金額。Nervana System利用最先進的技術來使用 GPU，而且還自行研發替代了標準的 Nvidia 彙編程序，從而讓 Nervana 能夠生成「次優」的架構體系。在英特爾大力部署人工智慧戰略的大背景下，該公司所能提供的技術迅速成為了發展的核心力量。

Khosrowshahi 本周四向 ZDNet 透露：「早在 Nervana 成立之初我們就著手研發自己的彙編程序，當時只是為了我們自己的研發需求，不過後來我們發現它要比 Nvidia 官方的庫快兩到三倍，所以我們就將其開源了。」

Nervana 並不僅僅在軟體方面發力，而且還創建了自己的硅靶向神經網路訓練。

他說道：「神經網路是預先設定好操作的系列整合。它並不像人類和系統之間的交互，而是被描述為數據流圖的系列指令集。」

Khosrowshahi 表示，在執行圖形渲染過程中輔助圖形處理單元的部分功能是沒有必要的，比如大容量緩存，頂點處理，渲染和紋理等等。他表示：「GPU 中的大部分電路在部署機器學習之後是沒有必要的... 這些東西會隨著時間的推移而不斷積累，最終產生了非常多無用的東西。」

他進一步解釋道：「對你來說並不需要的電路在 GPU 晶元中不僅佔據了很大一片空間，而且從能源利用率上考慮也產生了相當高的成本。神經網路則相當簡單，利用小巧的矩陣乘法和非線性就能直接創建半導體來實現 GPU 的功能，而且你所創建的半導體非常忠誠於神經網路架構，顯然這是 GPU 所無法給予的。」（雷鋒網註：在設計思路上，CPU有複雜的控制邏輯和諸多優化電路，相比之下計算能力只是CPU很小的一部分；而GPU採用了數量眾多的計算單元和超長的流水線，但只有非常簡單的控制邏輯並省去了Cache，因而在需要大量計算的機器學習方面表現更好，而TPU則是專為機器學習的矩陣乘法設計和優化，因而在機器學習方面比GPU更勝一籌）

Khosrowshahi 給出的答案：就是目前尚在開發中的 Lake Crest，這是英特爾今年會面向部分客戶提供離散加速器。但伴隨著時間的推移，它將會成為 Xeon 處理器的最佳伴侶。

Khosrowshahi 解釋道：「這是一個張量處理器，能夠處理帶矩陣運算的指令。因此指令集是矩陣 1 和矩陣 2 的相乘，不僅通過查詢表運行而且這些大型的指令都是高級別的。」

「GPU 主要依靠一個個寄存器，當訪問 [或者跳轉到] 某個寄存器，所執行的是元素和元素之間的相乘，這個級別是相當的低了。」

Khosrowshahi 表示最近幾年 Nvidia 已經努力讓他們的 GPU 對神經網路更加友好，但是他們的 AI 晶元依然承擔了大量圖形功能。他表示：「如果只是依靠自己來推動晶元方面的改進，我認為未來 Nvidia 的推進將會變得越來越困難。」

與之對應的，英特爾則通過收購的方式來推進人工智慧。

Khosrowshahi 說道：「晶元行業的挑戰是即將迎來顛覆性的全新架構：而現在英特爾所做的事情就是將其收入麾下。他們想要獲得 FPGAs（現場可編程門陣列），所以他們收購了 Altera。這真的是一個非常酷炫非常神經網路的架構。」

此外 Khosrowshahi 還糾正了很多人對神經網路的錯誤想法，他表示並不是將神經網路蝕刻到半導體上，大部分的功能依然通過軟體方面來形成。

他說道：「神經網路大部分都體現在軟體方面。所以即使是 Lake Crest，指令並不是『神經網路，執行這項任務』，而是通過矩陣和矩陣的相乘。晶元外層部分就是一些我們所熟知的神經網路，在經過培訓之後能夠根據用戶需求來執行各種任務或者搜索某種參數，當你擁有神經網路之後你就能做任何可以完成的事情。」

英特爾的其中一個人工智慧架構將會對抗 Google 的定製 TPU。在本周三搜索巨頭表示， TPU 的平均運轉速度要比標準的 GPU/CPU 組合（比如 Intel 的 Haswell 處理器和 Nvidia 的 K80 GPU）快 15-30 倍。在數據中心計算功耗時，TPU 還提供 30-80 倍的 TeraOps/瓦特（如果未來使用更快的存儲，這一數字可能還會提高）。

同樣在本周三，IBM 和 Nvidia 還宣布 Big Blue 在今年 5 月份開始向特斯拉 P100S 提供 IBM Cloud 服務。

via zdnet