從雲到端，看2018年華為海思如何讓AI真正落地？

2018年，AI將成為各大手機公司的標配需求，手機端龐大的一手數據將會利用起來，而只有終端AI硬體能力普及後，AI應用才有可能百花齊放，AI生態才有可能真正成熟。周晨表示，海思的定位就是平台算力的提供者，同時會提供SDK讓開發者來運行自己的應用和演算法。

從演算法到算力，資本圈熱點轉移

2017年，在資本圈和媒體大V們討論得熱火朝天，在各個AI技術論壇頻頻召開的時候，消費者一頭霧水。

筆者百度了一下「AI」，發現了一部大導演斯皮爾伯格拍的電影，電影里的AI就是一個除了內部構造，跟人沒有任何區別的小男孩。

於是老百姓們恍然大悟，哦！原來AI就是機器人兒啊？

還有一部電影就是《黑客帝國》中的母體Matrix。這部電影里的AI是一個巨大的虛擬世界的大腦，整個物理世界都變成了數據，人類自己也變成了一串串代碼。

這兩部電影其實揭示了AI的兩個表現形態：雲端和終端AI。

2016年，資本圈關注的大多還是專註於雲端演算法的公司，比如商湯、曠視、雲從、依圖四家演算法公司，李開復稱他們為人臉識別的「四個獨角獸」。

2016年，Intel收購了Nervana、Altea，谷歌在I/O大會發布了「TPU」，高通開始研發神經網路晶元，而Nvidia股價因為AI概念而飆升。

2017年，資本圈開始關注地平線、深鑒科技、寒武紀、雲天勵飛四家AI晶元公司。

資本的嗅覺是很靈敏的，AI作為一種技術其實已經有了幾十年的歷史。組成AI的三大要素包括演算法、算力、數據。演算法和數據的積累和演進已經持續了很多年，而終端算力的普及則剛剛開始。從運算髮展的路徑來看，一開始都是靠演算法解決問題，因為那時候計算力有限。所以資本重點關注演算法公司。現在計算力上升，演算法的差異被彌補掉了，於是資本開始關注提供算力的公司。

雖然AlphaGo算力驚人，但這是在使用了上千個CPU和數百個GPU的基礎下實現的，下一盤棋的電費就高達3000美元，相當耗能。

手機是目前最普及的個人移動終端，如何讓低功耗的智能手機能夠和AlphaGo一樣「聰明」？

為何華為海思能率先推出手機AI晶元？

手機行業最先行動的是兩個公司——蘋果和華為。iPhone X的A11中打在了神經網路模塊神經引擎（Neural Engine），而海思的麒麟970則與寒武紀合作搭載了NPU（Neural-network Processing Unit）。憑藉海思的訂單，寒武紀在2016年就已經實現盈利。

華為海思麒麟晶元市場總監周晨

「我們有幸走到了這件事（AI）的前面，我們的麒麟970跟iPhone X的A11是真正在終端側『唯二』的推出產品的公司。」華為海思麒麟晶元市場總監周晨對《電子工程專輯》記者表示。相比蘋果和三星的AI晶元，華為海思是用硬體的方式來加速，「我們對於開放的事情還是有差異的，蘋果把這個能力主要用在FaceID，我們是通過HiAI全面開放給開發者，開發者可以用到手機業界最強的AI推理能力。」周晨說。

作為手機行業的標杆，這兩家公司之所以能夠率先推出AI手機晶元，首先當然是因為各自掌握著晶元設計能力。其次是因為他們的晶元部門或公司只需要服務於一家客戶。

「實際上AI的項目我們2年前就啟動了。因為我們是in house的晶元公司，只需要服務於華為這個品牌。我們可以很清楚的知道終端的需求是什麼，從而針對性的做出產品和規劃設計。」周晨認為，對於公開市場的晶元公司，考慮的邏輯是不一樣的。因為晶元裡面加任何功能都是成本，所以純晶元公司要考慮到自己的客戶對AI的需求會是怎樣，因此會偏保守。未來在新技術的採用上，類似於蘋果、海思這樣的in house會更加激進，這可能是海思能夠在業界率先推出AI手機晶元的重要原因。

此外與寒武紀的合作也是海思能夠迅速推出AI晶元的原因。「在這個時間點上，和寒武紀的合作是最好選擇。我們要確保我們選擇最好的方式，未來有的IP我們會自己做，有的可能尋找更好的合作夥伴，這個都是動態變化中。」

從雲到端，AI晶元迭代如何滿足演算法變化？

當然，如果你認為蘋果和華為在手機晶元中搭載「AI」單元模塊僅僅是為了尋找新的賣點，作為營銷噱頭多賣手機，那你就圖樣了。從雲端到終端確實能帶來真正的好處，比如功耗和成本的降低，效率的提升等。

2018年的CES展印證了AI向終端轉移的趨勢，以前很多基於概念的應用開始真正以產品和服務的形式落地了。從CES展出的各種AI產品來看，大致分為三種：第一類是應用在汽車上的自動駕駛方案，目前主要是Nvidia在該領域布局。第二類是圍繞語音類的助手服務，包括智能音箱等。第三類則是圖像識別類的產品，有大量的初創公司都在進入，開發類似於安防監控、直播、視頻特效等新的應用。

周晨認為在雲端進行AI運算的方式，如增加模型的大小和層數並不是真正的方向。AI開始從雲端往終端遷移會把運算量和網路大小減少100倍，也會減少對網路帶寬的需求。「隨著算力的提升和演算法的優化，最後會形成一個很好的甜蜜點。」周晨表示，在今年CES期後他去矽谷開會，發現業內都在討論On device。開始做AI的公司多如牛毛，光是晶元公司都很多。

「終端的性能現在是瓶頸，大批公司雖然水平參差不齊，但是都在往晶元端走，如何解決兼容性問題，如何讓演算法更流暢，成為大家關注的焦點。」周晨表示，從2017年的數據來看，AI的算力雲端佔了95%，終端只佔5%，這兩點的巨大差距會帶來很大的成長空間。

當然，由於目前的AI演算法更新升級速度很快，如何滿足一定的變化性呢？ 周晨認為，未來比較合適的架構應該是CPU+硬體加速器的做法。對於海思來說，因為是一家硬體平台公司，自然更偏向用硬體的方式來做，提供通用性的加速器，從而滿足大部分的演算法需求。目前跑演算法大概有兩種方式：一種是用CPU跑純軟體，另一種是通過硬體加速器來固定演算法。此外，從AI運算的需求本身來看，大部分是計算密度要求很高的行為，也需要用非常高效的硬體方式去做。周晨認為，從晶元的發展歷史來看，很多演算法一旦穩定成熟下來就會固定用硬體來做。

「我們自己有GPU、DSP資源，把異構這件事做好以後，對於第三方的未知應用都儘可能加速到。因為手機是開放型平台，所以我們必須這樣做。」周晨表示，海思的定位就是平台算力的提供者，同時會提供SDK讓開發者來運行自己的應用和演算法。「再往上可能華為在手機端會提供一些業務級的介面，這些介面不需要開發者自己來做演算法，比如卡路里識別，APP只要直接調用介面就可以了。」

下一代AI晶元怎麼做？

對於海思的下一代AI晶元，周晨沒有透露太具體的規格或參數。但他表示，後面兩代的產品定義經明確，基本上有幾個方向不會變：第一是算力會持續上漲。第二是專註在通用的AI運算平台上，持續將AI運算能力開放給更多開發者。第三是AI晶元的工藝會越來越先進，更新速度可能會比摩爾定律還要快。

「當我們把算力釋放出去以後，可能會有一大票應用能力提升。這會產生正向循環，會有越來越多的開發者做一些新的好的體驗。」周晨表示，AI本身是一種技術，但是未來的價值會體現在有多少開發者來開發出相關的應用。

目前業界有一種觀點，認為AI的深度學習需要數據來餵養，因此擁有越龐大數據量的互聯網公司，如BAT會在未來AI領域佔據核心優勢。對於這個說法，周晨認為海思目前在算力和演算法上其實都具有優勢，至於數據方面也不是問題。

第一個原因是演算法本身在升級，機器學習本身的效率在提升。「深度學習的方式跟人腦的學習方式差別還是很大的，比如小孩看幾張貓的照片就能認識什麼是貓，不需要看十萬張照片來學習。」周晨認為，人腦其實是在做更高一層的演算法，提取更高維度的特徵。因此當演算法升級後，將不再需要那麼海量的數據來做深度學習。

第二個原因是終端已經成為人的計算中心，手機上產生的數據才是真正一手、新鮮的數據，而雲端的數據可能是經過壓縮或精簡的二手數據。

周晨認為，2018年後，AI將成為各大手機公司的標配需求，手機端龐大的一手數據將會利用起來，而只有終端AI硬體能力普及後，AI應用才有可能百花齊放，AI生態才有可能真正成熟。

華為「Hi AI」是什麼?

對於晶元公司來說，如何滿足AI不同演算法應用及生態圈的差異化需求成為難點和重點。「海思還會提供一個Hi AI架構，我們也會有一個定期舉行的Hi AI的公開課，」周晨最後表示，華為日前針對工程師舉行了「華為Hi AI能力開放公開課」 ，將幫助嘗試投身人工智慧領域的企業和開發者，提升技術人員競爭力，促進行業技術的提升，共同推動人工智慧生態的發展。

什麼是華為AI呢？據了解，HiAI移動計算平台開放三層的能力，分別為雲端能力開放（Huawei HiAI Services）、端側應用能力開放（Huawei HiAI Engine）和端側晶元能力開放（Huawei HiAI Accelerator）。

其中，底層Huawei HiAI Accelerator是HiAI晶元能力開放的核心內容，能夠快速轉化和遷移已有模型，藉助NPU的加速獲得最佳性能，主要依靠海思麒麟晶元實現。華為HiAI引擎的目標，通過開放應用層API，使能開發者在不懂AI演算法的情況下也能開發高質量AI應用，完全聚焦在應用的體驗和業務實踐上，而不是聚焦在後端大量的模型訓練和演算法上。

目前在火熱的AI領域，更快速的推出高質量AI應用是搶佔市場先機的最好手段，本次Huawei HiAI Engine就是通過開放和共享華為自有應用層商用級的AI能力API來使能合作夥伴在未來的競爭中贏得先機，使能華為手機上面的應用都能提供業界最佳的AI體驗。因此，Huawei HiAI Engine面向移動終端提供多種AI能力和JAVA應用層介面。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！