麒麟970發布會上提到的NPU是雞肋嗎？

發布會上的華為拳打蘋果腳踹三星，全憑余承東的一張嘴。所以當「華為發布世界首款手機AI晶元」這條新聞出現的時候，我是略帶懷疑的。

在仔細甄別信息後了解到，麒麟970確實集成了獨立NPU（神經網路模塊），「全球首款」也的確屬實。但是「AI晶元」只能說是個噱頭，970本質上只是塊SoC晶元。

麒麟970中集成的這塊NPU也並非華為的研究成果，而是來自中國科學院計算技術研究所的寒武紀公司（Cambricon Technologies）。

去年，寒武紀推出了其具有自主知識產權的『寒武紀1A深度學習處理器』，是全球首個商用深度學習處理器產品。就在上個月，寒武紀已經完成一億美元A輪融資,由國投創業,阿里巴巴創投等聯合投資，儼然成為了AI晶元領域的獨角獸。

在人工智慧晶元領域裡，中外同台競技，能否實現彎道超車，改變我國半導體行業的弱勢呢？

NPU

我們曾經介紹過Hololence中的HPU，這裡HPU是微軟自己取的名字。而神經網路處理器 NPU 已經成為了一個通用名詞，而非某家公司的專用縮寫。

在一代HoloLens里，HPU作為協處理器地位並不很高。而在第二代HoloLens中，很可能要轉正，做更多關於人工智慧方面的運算。

谷歌的TPU也瞄準了人工智慧，英偉達、AMD也在做著針對人工智慧優化的GPU，未來還有更多的[xPU]加入到AI晶元的競爭中來。

AI晶元已經成了種潮流，光是台積電下半年的上產線上，就已經有超過30款「AI晶元」的代工排期了，華為為了搶這個「世界第一」也相當不容易。

TPU

關於為什麼大家都要研發獨立的晶元或者是模塊，而不是直接利用CPU或者GPU，我們在這裡再次複習一下。

人工神經網路是一種對生物神經網路結構的模仿，借鑒了神經元之間傳遞和儲存信息的方式來處理信息。人工神經網路可以不斷自我學習，通過大量的樣本來訓練自己，調整內部參數使得演算法更加有效，在這個過程中需要很大的計算量。

GPU的計算能力很強，常用於深度神經網路的運算，而CPU就不怎麼適合了。

不過即便是GPU，在進行深度神經網路計算的時候仍然顯得效率低下。

通用型處理器不合適，為了更高效地運算，有必要採用專門的硬體神經元，設計高速連接的專門的存儲結構，採用適用於神經網路演算法的專用指令集。

如果把GPU比喻成一把瑞士軍刀，除了用作圖形處理還能挖礦，專門為神經網路設計的晶元就相當於為切菜而生的菜刀。瑞士軍刀全能，但是切菜還是菜刀強。

AlphaGo和李世石對決時，當時的硬體包括1300多個CPU和數280個GPU，下一盤棋電費就高達3000美元。

後來谷歌對AlphaGo進行了改進，只需要4個TPU，減少了大量硬體，AlphaGo的棋力反而增強了。

從TPU的例子就能看出，使用一款專為神經網路而生的晶元，能夠讓相關運算效率更高，能耗更低。

麒麟970作為一款移動設備晶元嵌入NPU尚屬首次，而在軟體方面，蘋果和高通其實已經做過了針對神經網路的優化。

去年5月2日高通發布的Qualcomm驍龍神經處理引擎（NPE），不同於NPU，NPE是由Zeroth機器智能平台支持的SDK，是高通驍龍處理器中多核CPU、Adreno GPU以及Hexagon DSP組成了異構計算「鐵三角」，管理soc的不同配置，選取最高效的方式進行任務處理。

此外，蘋果也有機器學習框架Core ML，使用GPU加速。

高通和蘋果這種通過調動GPU和DSP來加速的異構運算流雖然比不上專門的NPU，但是在目前的手機端上也能完成比如語音識別、面部識別等需要用到深度學習的地方。

甚至從性能上來看，驍龍835的NPE並不一定比NPU差上太多，這也就引發了很多人的質疑，集成NPU是不是多此一舉呢？

NPU還有一些缺陷，比如不支持本地訓練（對大量樣本的訓練），是考慮到移動設備的功耗問題。

NPU到底是不是雞肋呢？

在這裡我想說的是，很多技術創新在推行之初都會讓人覺得似乎沒有也可以。不少人認為人工智慧離我們很遠，但其實無論是AR要用到的SLAM，還是面部識別、手勢識別、語音識別，這些技術到來的速度可能遠遠超過你的想像。

專業的事還是得讓專業的來辦，高通即便開發了NPE，但他們也表示未來會研發硬體NPU應對來勢洶洶的人工智慧需求，畢竟軟體再怎麼優化，還是無法比過NPU的能耗和計算效率。

儘管目前移動AI應用還不多，但是華為承諾打造一個開放的AI環境，開發者可以直接接入華為的NPU功能也可以通過第三方AI框架接入。

集成NPU代表了一種趨勢，華為這麼著急跳出來搶這個「世界第一」也是因為你不做後面人就趕上來了。

我相信即便麒麟970不會給我們帶來什麼驚艷的AI的體驗，但是未來我們會越來越離不開NPU。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！