撥雲見日—六大雲計算廠商聚首，國內首批GPU雲主機測評權威公布

隨著雲計算、大數據的不斷發展和成熟，人工智慧引發了新一輪的技術變革，成為未來信息技術發展的風向標，計算力作為人工智慧的三要素之一，GPU/FPGA晶元的加速能力也得到業界的廣泛關注和重視。基於此，國內雲服務商開始發力GPU雲主機市場，加大對基礎設施的投入。

由於FPGA與GPU相比，FPGA使用門檻較高，因而GPU應用更為廣泛。目前，GPU雲主機主要用於機器（深度）學習、圖形處理、科學計算、視頻編解碼等場景，為了順應市場發展需求，由中國信息通信研究院主導的可信雲評估體系新增了對GPU主機的評估標準，相對於雲主機，GPU雲主機在服務形態仍有所差異，性能無疑是用戶重點關注的指標之一。

首批評估對象囊括了國內公有雲廠商的第一梯隊， 阿里雲、騰訊雲、華為雲、百度雲、天翼雲、UCloud六大廠商齊聚首，堪稱行業水平實力擔當。為了更好的讓用戶認識和了解GPU雲主機，本次評估重點考察了大家關注的指標和GPU雲主機特有的指標，如服務功能、資源調配能力和性能。 GPU雲主機目前應用於機器（深度）學習佔據了較大比例，今天主要討論基於深度學習的性能評估測試。

GIF

資源選型：

目前主流的GPU型號主要是Nvidia的Tesla K、M和P系列，本次評估的資源選型基於P系列兩個型號進行，6家廠商分為P40和P100兩組，在資源規格上，阿里雲和騰訊雲可同時提供A卡和N卡。GPU性能指標官方數據主要體現在單精度和雙精度，對用戶不具有實際的參考意義， 模擬用戶進行機器學習訓練，直觀反映GPU主機性能，更加貼近用戶需求。

GIF

深度學習模型：

深度學習的訓練主要依靠模型和數據集，國際上比較具有代表性的訓練模型主要有：AlexNet模型、Cifar10模型、MNist模型、ResNet模型，此次評估選擇其中三個機器學習模型，數據集上的選擇，ImageNet數據量相對權威，但是有數據量過大，國內鏡像較少，不適合用於短期的測試驗證。本地評估測試主要基於機器學習模型默認數據集或數據精簡集。以下是常見的深度學習模型：

1

AlexNet模型：

是Alex和Hinton參加ILSVRC2012比賽的卷積網路模型，網路結構是開啟更深CNN的開山之作，其對CNN的一些改進成為以後CNN網路通用的結構。

2

Cifar10模型：

是典型的卷積神經網路結構，包含相應的卷積層，池化層，修正線性單元以及最頂層帶有分類器的歸一化採樣層。數據集為一個使用非常廣泛的物體識別圖像數據集，CIFAR-10數據中包含了60000張32×32的彩色圖像，其中訓練集50000張，測試集10000張。

3

Mnist模型：

MNIST是一個入門級的計算機視覺數據集，它包含各種手寫數字圖片，包含60000行的訓練數據集（mnist.train）和10000行的測試數據集（mnist.test）。

4

ResNet模型：

深度殘差網路。該網路對residual block和shortcut connection的引入，使網路能夠達到更高的層數並且不會發生網路退化現象。ResNet是由KaiMing He在2015年發表，並基於該模型獲得了當年ImageNet detection，ImageNet localization，COCO detection等多個比賽的冠軍。

GIF

測試環節：

在實際測試環節，首先要做的是搭建環境，如GPU驅動、CUDA等必要條件，其中部分廠商已經在操作系統鏡像集成了GPU驅動，減少了安裝的工作量；在配置深度學習庫TensorFlow時，需要正確安裝對應版本的CUDA、cuDNN、Python等環境，也有廠商幫用戶提供好了容器的鏡像文件，細節體現差異，真正做到省時省力；結果處理環節，首先保證足夠多的數據量，將各個模型測試結果保存到本地文件，去除首末端噪點數據，再對數據進行去除壞值，求最大、最小值、平均值、中位數、方差等數據，最終將數據可視化。

GIF

應用案例性能測試：

除了使用經典機器學習模型進行性能測試之外，同期舉辦的雲計算性能創新大賽廣泛徵集了高校優秀案例，對GPU雲主機性能進行了驗證。案例的取材包含了大型模擬、機器學習、科學計算等熱門應用場景，其中來自清華和蘭大的應用案例得到了專家評審的一致高度認可，體現了學術界和產業界的完美結合，成為雲計算助力行業應用的成功典範。

目前首批評估的測試工作即將接近尾聲，結果也將於3月22日的雲計算開源產業大會高性能分論壇公布，如果您關注高性能計算、關注GPU雲服務，一定不要錯過這此盛會。

會議推薦

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！