英偉達全球副總裁沈威：仍然堅信「GPU 天生適合深度學習任務」

9 月 7 日，由中國工程院信息與電子工程學部主辦、浪潮集團承辦的 AICC 中國人工智慧計算大會在北京舉行，海內外數十位知名專家分享了 AI 在互聯網、雲計算、超算等眾多行業的創新實例。在現場，機器之能採訪到英偉達全球副總裁暨中國區企業事業總經理沈威，與其就當前人工智慧晶元市場以及英偉達的底氣展開了探討，沈威表示：「除 GPU 天生適合深度學習這一任務以外，英偉達的 CUDA 計算平台是決勝的關鍵。」

撰文 | 王藝

不可否認，GPU 為深度學習的大規模應用奠定了硬體基礎。然而，隨著人工智慧時代的到來，深度學習技術專用晶元之爭也愈發火熱。晶元巨頭英特爾大量收購人工智慧相關公司，研發人工智慧專用晶元，站台 FPGA，並已與很多垂直領域的企業進行合作；谷歌研製了基於硬體定義編程架構的 TPU；曾是英偉達重要客戶的微軟也開始為自己的數據中心研發基於 FPGA 的可重複編程 AI 晶元。此外，一些專業的人工智慧公司，如科大訊飛等，也在研發適合自身業務的專用晶元。

GPU、FPGA、ASIC 是 AI 晶元市場打得火熱的三種架構，其中 GPU 是當前的主流。與 CPU 相比，GPU 在硬體架構上擁有更多的計算單元，使其成為 AI 晶元的天然選擇；FPGA 即現場可編程門陣列，是一種軟體定義的架構，開發者可以通過編程定義片上單元的功能；ASIC 代指為專門目的而設計的集成電路，將功能燒制到晶元上，適合較為穩定的解決方案，且產品升級難度較大，但功耗較低。目前，FPGA 和 ASIC 還處於試驗階段，有能力使用 FPGA 的人工智慧廠家並不多，絕大部分的 AI 晶元市場依然被英偉達佔領，生態的構建並不容易，FPGA 與 ASIC 的 AI 之路也任重而道遠。

在其他廠家積極開拓新戰場時，英偉達仍然堅信「 GPU 天生適合深度學習任務」。9 月 7 日，英偉達全球副總裁、中國區企業事業總經理沈威在 AICC 上與機器之能就這一話題進行了討論。沈威認為，英偉達 CUDA 運算平台是關鍵，CUDA 讓 GPU 的計算能力得以釋放，讓普通的程序員也能用 JAVA、C++ 等編程語言在 GPU 上工作。

以下為採訪實錄，機器之能做了不改變原意的整理：

人工智慧晶元戰場愈發火熱，不論晶元廠商還是AI領域的垂直公司都在試圖搶佔市場。這是是否英偉達的AI戰略造成影響？現在再提GPU是深度學習晶元的唯一霸主是否不再合適？

從 2012 年穀歌的李飛飛教授開啟 ImageNet 以來，我們很開心看到 GPU 在人工智慧市場的接受度很高，同時我們也看到很多跟隨者。不過我覺得這是一件好事，首先，這意味著這些公司中的任何一家，對人工智慧、深度學習這件事情都非常認同。不過我們在高性能運算、人工智慧領域已經投入了很多年，具有先發優勢。從歷史的發展來看，深度學習為什麼要用英偉達的 GPU？因為深度學習與高性能計算關係非常密切，深度學習任務中涉及到大量的運算，這是英偉達非常擅長的事情。

剛才我們說的是硬體方面，硬體很多半導體廠商都在做。但他們都忽略了一點，就是平台。我們的 CUDA 運算平台從 2006 年開始開放，到現在已經是第 9 代，CUDA 將 GPU 的高性能運算能力開放給一般的程序員。雖然半導體工藝是與時俱進的，但如果沒有好的編程環境，技術人員們還是很難迎接這次深度學習的浪潮。這就間接回答了你的問題。不論哪家公司，可能他們在市場上也已經有很長時間了，但我個人認為，它的編程語言還不能針對數據中心的海量數據進行更便利地編程。大家可能看到，在深度學習時代，英偉達進行了一次面向人工智慧的轉型，但其實我們早已鋪墊好相關能力。

現在GPU、FPGA、ASIC這三種架構都能完成深度學習任務，你對這三種架構的優劣勢作何評價？

深度學習主要分為線下訓練和線上推理，目前在線下訓練用戶無一例外地都在使用 GPU 加速他們的訓練過程。不僅僅是因為 GPU 的運算速度快，更重要是英偉達建立了一個完善的生態系統，我們提供了許多 SDK 來加速所有深度學習框架，並和這些框架深度集成，如 cuDNN、NCCL、cuBLAS 等。在線上推理方向，英偉達目前的方案是 TensroRT 加低功耗的 NVIDIA Tesla P4 GPU 加速器。現在國內各大雲服務提供商都在使用 Tesla P4 做線上推理，包括科大訊飛。

事實上，深度學習遠沒有成熟，每天都在變化演進、迭代，GPU 目前還是最佳選擇。ASIC 是一種專用晶元，它是為了某種特定需求而專門定製的晶元，目前還不能與 GPU 這樣擁有很成熟生態的通用晶元同日而語。FPGA 的生態系統才剛剛開始，道路還很漫長。

英偉達在無人駕駛和智能家居方面推出了自己的專用晶元，是否意味著英偉達看重這兩個應用領域？更廣闊的例如金融、醫療方面為何沒有專用晶元的布局？

GPU 天生解決深度學習問題，人工智慧本身和人腦有很多類似的地方，需要眼睛看，腦子想。英偉達希望在 GPU 最擅長、最深耕的視覺運算上發力，因此英偉達在自動駕駛和嵌入式端布局了兩種產品。其他領域我們也非常地看好，金融、醫療、製造是國內外爆發增長的幾個 GPU 應用點，在這些領域我們有很多的合作夥伴。英偉達處在整個 IT 生態圈中，我們必須要跟不同行業的公司進行合作。

目前英偉達的生態圈中，有哪些比較堅實的合作夥伴？

我們有不同層次的合作夥伴。一種是跟伺服器廠商的合作，因為在硬體層面單單為用戶提供 GPU，用戶是沒有辦法使用的，浪潮，曙光，華為等都是我們的合作夥伴；還有就是行業解決方案層面，在一個整機做好之後，可能會需要針對不同行業，例如醫療、製造業等等進行優化，以適合客戶不同的應用場景，在這個層面科大訊飛、商湯都是我們的合作夥伴，我們叫 Solution Partner。

這些合作夥伴做得都很好，因為深度學習才剛剛開始，很少有人在用過 CUDA 開發環境之後說不喜歡英偉達。因為你不可能自己從零開始寫一些函數庫、優化庫，我倒是很好奇，不用英偉達的人他們要怎麼做。深度學習解決方案提供商們在演算法和數據方面都有自己的努力，但是如果沒有我們 GPU 的加速，他們的更新迭代和開發速度就會大大降低，走向市場的周期也會被拉長，所以我們也是幫助他們更快走向市場的必不可少的要素。

現在有很多中小企業或高校實驗室不能負擔大規模的GPU集群，英偉達是否想要爭取這一部分市場？

其實我們也有關注到這一方面。我們和全世界很多大公司一樣，會和很多高校合作教育、培訓相關的項目，現在非常多高校在他們的計算中心裏面有 GPU 集群，並且我們也有合作開設相關課程。另一方面，我相信大家也注意到了雲計算的發展，現在國內幾家領先的雲服務廠商都已經用到了英偉達非常多 GPU，所以他們也提供非常多基於 GPU 的方案。對於不想自己買設備的廠家來說，我覺得雲服務是一種選擇。雲是一種趨勢，能夠更快捷地惠及新的開發者、新的初創公司。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！