英特爾推出新互聯規範,想讓CPU、GPU和FPGA說「同一種語言」
《舊約》中巴別塔的故事,常被人們用來寓意「語言不通無法成就大業」的觀點。如今絕大部分主流語言都可以互譯,交流的屏障已被打碎。
但在異構計算大行其道的當下,如果計算設備「不說同一種語言」的話,計算的效果無法達到最佳,「巴別塔」的效果仍然存在。
裝過機的朋友可能知道 PCI-e 匯流排,可以理解為如今電腦內部大部分元器件相互溝通的橋樑和語言。而在如今的 AI 時代,在深度神經網路的訓練和機器學習演算法的使用中,往往要用到 GPU、FPGA(現場可編程門陣列,一種定製化計算設備)等不同計算架構的設備。如果他們繼續使用 PCI-e 作為溝通的語言,效能將大打折扣。
在英特爾的技術活動「互聯日」(Interconnect Day) 上,英特爾處理器互聯架構部主任 Stephen Van Doren 指出了現如今 PCI-e 作為互聯技術的瓶頸所在:科技行業正在經歷爆炸式的數據增長,AI 這樣的使用場景促使人們開始讓 GPU、FPGA 等專用硬體和 CPU 一起工作。而 PCI-e 作為一種古老的互聯技術,其內存使用效率、延遲和數據吞吐量已經不能滿足日益增長的數據和計算速度需要。
比如,PCI-e 在不同架構的處理器之間創造了過多孤立的內存池,導致內存使用效率很低。不僅如此,計算行業的最新趨勢是內存解聚,也即讓伺服器不再配備利用率較低的過量內存,在這一趨勢上 PCI-e 也無法滿足。
換言之,在 AI 計算的時代,PCI-e 已經不是 CPU、GPU、FPGA 以及其他 AI 計算設備(比如終端 AI 計算卡)之間溝通的最佳語言。
為了在不顛覆現有處理器的 PCI-e 硬體介面,導致過度創新的基礎上,突破 PCI-e 的這一瓶頸,英特爾在今年3月宣布了 CXL,一項全新的開放互聯技術。
CXL 全稱 Compute Express Link,是英特爾為 CPU 和工作負載加速器(如GPU、FPGA)之間實現高速、低延遲互連而設計的一項新「語言」。
它的好處,首先是處理器之間能夠實現內存一致性,允許資源共享,從而獲得更高的性能、降低軟體堆棧的複雜性,降低系統的總成本;其次,它構建與 PCI-e 邏輯和物理層級之上,更容易被現有支持 PCI-e 埠的處理器(絕大部分的通用 CPU、GPU 和 FPGA)所接納。
CXL 的數據交換層包括三個子協議:CXL.io,負責設備之間的互相發現、連接建立等等;.cache,讓非 CPU 架構的處理器可以直接讀取 CPU 的數據;.memory,讓 CPU 可以直接讀取非 CPU 架構處理器附帶的內存。這套邏輯將使得數據中心伺服器不再需要配備過量、低利用率的內存。
區別於英特爾在自主架構計算產品內部通用的 UPI 協議,CXL 是一個非對稱的協議,使得異構處理器之間的內存調用不再臃腫不堪,數據交換更快。
因為可以存在於 PCI-e 的物理層面上,英特爾將 CXL 視為一種可選的協議,意即 PCI-e 的互聯協議沒有被完全拋棄。不過作為 PCI-e 標準制定組織的董事成員,英特爾已經計劃在第六代 PCI-e 標準上大力推進 CXL 的採用。
數據中心運營者將會是這項技術最直接的獲益者,這也是阿里巴巴、思科、戴爾EMC 、Facebook、Google、HPE、華為和微軟這幾大數據中心和雲計算領域巨頭加盟到 CXL 開放聯盟的原因。
目前,異構計算技術高速進步,讓 AI 計算從幾十年前的另類幻想成為了可能,並且導致了無數新的使用場景、商業機會誕生。而通過推進 CXL,英特爾希望為異構計算賦予一種全新的語言,讓參與者更加高效地進行數據上的「對話」。
※Netflix不再支持AirPlay
※韓國向公眾開放5G,月資費最低325元人民幣
TAG:PingWest品玩 |