邊緣側AI興起，NN和DL如何實現更智能的互連世界

原標題：邊緣側AI興起，神經網路和深度學習如何實現一個更智能的互連世界？

從蘋果、華為在其手機中引入專用的神經網路引擎開始，引領了行業採用邊緣處理的潮流，人工智慧從而正式進入智能終端設備，並且迅速成為廠商大力宣傳的賣點。現在，神經網路引擎/加速器成為主流，包括Face ID等應用已能在終端設備上進行處理，不再依賴雲端，且相比傳輸到雲端處理更安全、私密，響應時間更快。

幾乎所有領域的晶元廠商都競相推出了不同類型的AI處理器。智能手機中添加AI功能成為邊緣側AI的一個典型應用，高通、英偉達等晶元企業都已宣布推出用於智能手機和其他移動設備的神經引擎。在CEVA戰略營銷總監Moshe Sheier看來，幾年後，每台帶有攝像頭的設備都將包含具有AI功能的視覺處理和神經網路引擎。

「全球攝像頭的數量預計從2016到2022年期間會增長216%，屆時將會有大約440億設備帶有攝像頭（camera-enabled），這種新的垂直增長趨勢源自於越來越多的不同設備已經開始集成攝像頭。」他指出，「CEVA預測幾年後每個帶有攝像頭的設備都將內置面向人工智慧的視覺處理和神經網路處理器。到2020年，三分之一的智能手機將支持人工智慧。」

邊緣處理的優勢在於減少延遲，全網路覆蓋，增加了隱私和安全性，並減少了與雲端的通信，從而降低了成本。除了智能手機，Moshe Sheier還舉例說明了邊緣側AI的幾大類應用，包括智能安防、汽車等。

在智能安防領域，可以實現已知或未知的人臉檢測、語音生物識別、聲音檢測、動作感應，以及WiFi、藍牙或蜂窩網路等的智能連接。這一切功能都可以進行決策，是否撥打報警電話，通知外出回家的家人順道去收取門口的信件等。

在汽車領域，可以幫助視覺感測器實現駕駛員監視器、前視攝像頭系統、夜視環繞視圖盲點檢測、後/停車檢測等，也可以幫助實現定位、V2X通信及車內互連等功能，從這些功能中獲取的數據經過端側AI處理，可幫助駕駛員進行決策，並根據實際情況採取行動，同時通過深度學習不斷改善，以不斷提升決策的準確性。

在邊緣側AI巨大的市場潛力下，同時也面臨著幾個挑戰——功耗、價格和不斷飆升的性能需求。CEVA從去年開始部署相關技術，成為繼蜂窩網路IP、互連IP、視覺IP和音頻IP之後的一大IP平台。針對邊緣側的深度學習，CEVA在今年上半年推出了NeuPro系列AI處理器，可以應用於安防、運動攝像頭、智能手機、汽車、AR/VR、無人機等應用的便於智能視覺處理，使得每個帶有攝像頭的設備都能實現先進的成像、視覺和深度學習功能。

NeuPro系列的推出完善了CEVA的整體視覺和AI IP工具組合，分別包括：CEVA-XM智能視覺系列晶元平台、NeuPro人工智慧（機器學習）整體解決方案、硬體加速器DeWarp和適用於所有CEVA平台的CDNN（CEVA Deep NN）軟體框架。

NeuPro作為全新的IP系列，它包括專用的引擎處理矩陣乘法、完全連接層、激活層和匯聚層。這種先進的專用AI引擎結合完全可編程工作的NeuPro VPU，可以支持所有其它層類型和神經網路拓撲。這些模塊之間的直接連接允許數據無縫交換，不再需要寫入內存。此外，優化的DDR帶寬和先進的DMA控制器採用動態流水線處理，可以進一步提高速度，同時降低功耗。

Moshe Sheier表示，NeuPro AI系列可以應用於廣泛的目標市場，從輕量型的物聯網和可穿戴設備（2TOPs）到高性能的行業監控和自動駕駛應用（12.5 TOPs），擴展了各種終端市場的性能。目前已有行業領先的客戶獲得授權，並預計在今年第三季度發布其產品。

對於在成像、計算機視覺和神經網路方面均有需求的客戶，則可以選擇CEVA-XM和NeuPro Engine的組合方案。CEVA-XM系列智能視覺處理器和人工智慧協處理器能夠更好地在嵌入式設備中實現基於視覺的機器學習。Moshe Sheier舉例說，在今年6月，無人機晶元領導廠商酷芯成為CEVA-XM4平台眾多客戶之一，AR9X01是酷芯至今設計的最複雜晶元，使用了多個CEVA-XM4內核來分析實時飛行環境，並利用人工智慧完成各種任務，包括物體檢測、分類和跟蹤。

「與基於CPU或GPU的替代方案相比，由於CEVA-XM4平台在運行計算機視覺演算法和深度學習推理時的固有低功耗特性，使得AR9X01允許無人機製造商最大限度增加飛行時間並提高整體無人機性能。」Moshe Sheier強調，「CEVA最新一代圖像和視覺DSP平台不僅可滿足極端處理能力要求，同時降低對於智能手機、監控、AR 和 VR、無人機和自動駕駛汽車等最複雜的機器學習和機器視覺應用的功耗束縛。」

如今，每年集成了基於CEVA IP晶元的終端設備出貨量在10億個以上。而人工智慧仍然是一個新興且快速發展的領域，神經網路的應用場景快速增加，例如目標識別、語音和聲音分析、5G通信等等。去年CEVA營收為8750萬美元，Moshe Sheier預計，市場研究機構指出到2022年，大約50%的AI設備將內置機器學習功能——如果數據正確，這會是一個相當大的數量。在強大的市場驅動下，今年CEVA營收將達到9200萬美元。

Moshe Sheier強調，CEVA早已經不再是一個只提供DSP核的通信公司，現在的我們為不同的領域提供了更為廣泛的技術。我們將繼續致力於投資下一代計算機視覺和神經網路的產品開發，特別是潛力無限的神經網路技術，完善目前產品建立起來的人工智慧生態系統。（校對/叨叨）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！