微軟使用了新硬體，稱必應搜索AI性能提高10倍

（原標題：Microsoft"s Brainwave makes Bing"s AI over 10 times faster）

網易科技訊 3月27日消息，據VentureBeat報道，微軟今天宣布，通過使用專門為人工智慧（AI）計算開發的硬體，使其機器學習模型的性能提高10倍以上，而這些模型可以為必應（Bing）搜索引擎提供強大支持。

圖：這是英特爾公司的Stratix 10 FPGA，微軟在其數據中心使用的模型之一

微軟的新系統被稱為Brainwave，它的設計目的是接受訓練有素的神經網路，儘可能快地運行它，並使其延遲時間最短。其目標是為應用程序提供大致實時的AI預測，比如新的必應功能。此舉是微軟向其雲客戶提供的又一項支持，讓其雲客戶可以儘快運行他們自己的硬體驅動AI模型。

必應今天還進行了多項功能更新，包括在用戶將滑鼠指針懸停在不太常用單詞上面的時候給出解釋，並給出了如何回答問題的多種方式。這些功能都是由Brainwave額外支持的。

微軟正在使用來自英特爾的現場可編程門陣列(FPGA)來進行AI計算。FPGA基本上就是空白畫布，開發者可以通過發送新的軟體來部署各種不同的電路。這提供了可編程性和性能的有趣組合，因為產生的電路對特定的應用程序(如AI計算)進行了優化，可以在不構建新晶元的情況下進行改進。

這種硬體讓微軟不僅能夠創建更快的模型，而且還可以構建更複雜的AI系統，如果不應用專門的硬體，這些系統將需要大量的計算能力。例如，比為CPU構建的版本相比，必應的Turing Prototype 1模型複雜了10倍，這是由於使用Brainwave帶來的計算能力增加的結果。雖然Brainwave版本更加複雜，但微軟也能以10倍以上的速度從這個模型中獲得結果。

微軟的AI計算方法不同於其他同行，比如谷歌創建了自己的張量處理單元(TPU)晶元來提供類似的功能。與FPGA不同，谷歌的TPU一旦構建就不能重新配置，谷歌通過使其晶元架構儘可能廣泛地處理各種潛在情況來應對這一問題。

微軟公司已經部署的FPGA有專用的數字信號處理器，用於對AI所需的某些特定類型的數學進行優化。通過這種方式，公司能夠獲得與構建特定應用程序的集成電路(ASIC，如TPU)相同的好處。

亞馬遜有「基礎設施即服務」的實例，其中包括通過雲計算的附加FPGA，不過該公司還沒有詳細討論自己對硬體的使用。

Brainwave系統由幾個組件組成，首先是微軟在全球數據中心部署的成千上萬的FPGA。該公司的大多數伺服器都有FPGA板，連接到頂部的網路交換機上。這使得伺服器能夠處理軟體定義的網路操作，但也為微軟提供了硬體加速計算池，而不是每個伺服器都綁定一個FPGA。

舉例來說，Brainwave可以在多個FPGA之間分配一個模型，同時處理少量的CPU來支持它們。如果一個機器學習模型需要使用多個FPGA，那麼微軟的系統就會將它們捆綁到公司所稱的「硬體微服務」中，然後將其傳遞給Brainwave編譯器，以便在可用的硅上分配工作負載。

這個編譯器將採用一個已訓練完成的模型，使用像TensorFlow(源自谷歌)或微軟認知工具包(也稱為CNTK)的AI編程框架創建，並將其轉換為一個中間表示，然後可以通過多個FPGA進行拆分，以獲得最佳性能。

微軟並沒有優化每個在FPGA上執行的模型，而是在其晶元上創建了一個軟處理器，它的設計目的是為機器學習推理提供通用的執行環境。這樣，開發人員就不必花費時間來優化單個陣列，同時也可享受硬體加速計算的好處。

很難將微軟的Brainwave與其他類似系統相比較，因為它的論文僅為專有的神經網路提供了具體的性能指標。這並不是說微軟在這方面是獨一無二的，谷歌的論文也指出其TPU是如何為公司本土演算法提供性能數據的。

微軟並沒有將其Brainwave測試的結果與GPU進行比較，後者已經成為AI計算的熱門選擇。FPGA對這些晶元的好處在於，它們不需要大量使用批量計算。

允許微軟在FPGA上獲得高性能的關鍵創新技術之一是使用新的8到9位浮點數據類型。微軟發現，這些數據類型提供了超過定點數據類型(比如8-16位整數)的性能提升，並且之需要最少的訓練就可以利用這些數據類型。

微軟也開始在它的數據中心部署特殊的設備，其中包括沒有其他伺服器組件的FPGA。這樣，該公司就能更好地處理來自Brainwave的負載，因為它可以增加軟編程硬體的數量，而不用增加更多的伺服器。雖然更複雜的模型通常需要多個CPU，但它們不需要每個FPGA都有一個CPU。

微軟對使用FPGA加速AI計算並不陌生。該公司的必應團隊於2012年開始與硬體團隊合作，此後一直在增加對這些晶元的使用。這一消息也對英特爾有利，英特爾在2015年收購了FPGA製造商Altera，這筆價值167億美元的交易為前者提供了滿足微軟需求的燃料。

現在，微軟正致力於向外界開放Brainwave系統。FPGA已經為其智能API的部分認知服務提供動力，這些API允許人們在沒有AI的情況下將智能功能嵌入到他們的應用程序中。該公司還計劃通過它的必應企業服務，來為企業客戶提供今天所討論的Brainwave驅動的文本理解能力。

沿著這條路走下去，我們很可能會看到通過微軟Azure提供的Brainwave服務，這樣客戶就可以在微軟的FPGA上部署他們自己的模型。 （小小）

本文來自網易科技報道，創業家系授權發布，略經編輯修改，版權歸作者所有，內容僅代表作者獨立觀點。[ 下載創業家APP，讀懂中國最賺錢的7000種生意 ]

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！