雲天勵飛李愛軍：視覺AI晶元正在賦能5AIoT整個網路的端、邊、雲 | CCF-GAIR 2019

雷鋒網 按：7 月 12 日-7 月 14 日，2019 第四屆全球人工智慧與機器人峰會（CCF-GAIR 2019）於深圳正式召開。峰會由中國計算機學會（CCF）主辦，雷鋒網、香港中文大學（深圳）承辦，深圳市人工智慧與機器人研究院協辦，得到了深圳市政府的大力指導，是國內人工智慧和機器人學術界、工業界及投資界三大領域的頂級交流博覽盛會，旨在打造國內人工智慧領域極具實力的跨界交流合作平台。

7月13日，雲天勵飛副總裁李愛軍為CCF-GAIR 2019 的「AI 晶元專場」作了題為《芯聯萬物，智創未來》的精彩演講。

IoT時代即將到來，隨著AI和5G技術對IoT的加持，我們獲得數據以及信息溝通交互的方式將更加的便捷和高效。未來，實時數據的增長幅度將大於非實時數據，我們更需要對這些實時數據進行邊緣側、端側的實時處理。然而，傳統的CPU、GPU架構難以滿足快速爆發的AI計算需求，因此我們需要更高效的神經網路處理器的架構設計。

雲天勵飛的晶元覆蓋著端、邊、雲的應用，利用不同的形態和組合，可以實現對於AI落地，特別是視覺AI在端、邊、雲上的應用。

以下為李愛軍的主題演講內容，雷鋒網作了不改變原意的編輯與整理。

我是雲天勵飛的李愛軍，負責公司的AI晶元業務，今天的演講主題是《芯聯萬物，智創未來》。

雲天勵飛是一個人工智慧的創業型企業，我們一直致力於打造演算法、晶元、大數據這三個方面的核心競爭力，從而實現人工智慧大規模產業化的落地。

自從個人電腦出現以後，我們經歷了從計算機時代到互聯網時代、移動互聯網時代的社會變革，人類獲取數據的方式越來越方便、越來越便利。如今，IoT時代即將到來，隨著AI對IoT的加持，以及現在最熱的5G對IoT的加持，我們獲得數據以及信息溝通交互的方式將更加的簡便。

IoT時代，演算法會越來越多地應用到IoT的邊緣側和端側的場景上，同時IoT海量的應用場景，為我們的演算法提供了海量數據，特別是針對場景的數據，這些數據會反過來推動人工智慧演算法不斷地加速迭代，實現它更智能化的目的。

在這樣一個有機的循環和推動下，我們將迎來「5AIoT」(即：5G+AIoT)的時代。

對於晶元來說，到2025年預計總量會比現在增長7倍，特別是邊緣側和端側的晶元，容量會大幅度提升，比雲側晶元會有更大的成長空間。數據統計，到2025年雲側晶元規模將達150億美元，邊緣側和端側晶元市場規模約為516億美元。

我們認為，人類社會現在正在進入整個世界數字化的進程。

• 2018年，全球的數據圈的數據規模大概是33ZB（1個ZB是1萬億位元組），如果把這33萬億位元組的數據刻在光碟上，那麼光碟疊加起來，其厚度可以繞地球222圈；

• 2025年，全球數據圈的數據總量會增加到175ZB，實時數據的增長幅度將大於非實時數據，其中，預計有30%的數據是實時數據。

實時數據需要的是邊緣側、端側的實時處理，這也是推動現在的邊緣側和端側人工智慧技術不斷往前發展的主要動力。

5AIoT場景更複雜，對演算法的需求是多模態、多維的演算法，邊緣側和端側未來將是全新的運算平台，不能只跑某一種演算法，而是在AIoT場景下要能應對用戶各種各樣的需求，包括多場景、多複雜度的需求，同時本地的時延要滿足實時數據的處理要求；

另外，由於受到邊緣和端側設備體積的限制，設備需要有很高的效能；最後是安全性，安全是人工智慧發展不可逾越或者說不可迴避的一個關鍵問題。

如何讓大家享受到人工智慧給我們帶來便利的同時，又讓我們個人的隱私得到有效保護，讓我們覺得安全，我認為這是一個很大的課題，所以我們在5AIoT時代做的晶元要滿足高安全性的需求，保證我們本地的數據既要有安全性，同時又保證用戶的隱私。

5AIoT時代，傳統的CPU、GPU架構難以滿足快速爆發的AI計算需求，例如性能、功耗、成本等方面，所以我們需要更高效的神經網路處理器的架構設計。

目前對於晶元架構的相關探索，從基於傳統的計算機體系架構，包括存儲和計算，數據從外部存儲轉為內部存儲，做完數字計算再釋放出去，這樣的架構下其性能的提升必須通過提高頻率和帶寬，才能夠把AI處理器的性能推到一個新的高度。目前，絕大部分主流的GPU、NPU或者XPU都是類似這樣的架構。

雲天勵飛通過把存儲單元和計算單元變得更為緊密，變成一個近存儲的計算方式。近存儲計算最大的好處在於我們不用把數據從外部導入，而是在計算的邊緣側就可以直接取到數據，從而使得我們計算的效率得到有效的提升，而且它的頻率也不用跑太高；同時在探索存內計算有沒有可能在內存中，在存和取的過程中就把計算做完，這樣獲得的效率會更高，意味著不需要對大量的數據進行搬運，這是我們下一步的目標之一。

• 數字計算靠近存儲（Near Memory）：數據搬運距離短，低頻即可提供高吞吐，消除外部數據搬運，提高能效比；

• 數字/模擬混合計算（Mix Signal Processing）：讀取存儲單元即完成計算，無需數據搬運，極大的提高能效比。

我們第一代的神經網路處理器是基於傳統的架構來做的，第二代神經網路處理器是NNP200，已經是基於早期的近存儲架構來做，所以可以獲得比較高的能效比。

雲天勵飛對AI晶元的理解：AI晶元和計算架構一定是從場景出發、為場景服務，這樣的計算架構才能真正滿足大規模應用。

1. 通過我們的系統在AI系統大規模產業化落地和部署情況下，去了解行業的需求和痛點；

2. 基於對行業的需求和痛點的深刻理解來打造AI的晶元，通過晶元來解決這些場景下的關鍵問題；

3. 通過優質的服務來更多地賦能這個行業。

在場景方面，雲天勵飛做的人臉識別系統已經在中國以及東南亞近百個大中型城市進行了部署，覆蓋領域包括：機場、地鐵、酒店、商場、醫院、社區等。同時，我們也服務了國家的多個重要會議和國家重點工程，包括：杭州G20峰會和博鰲論壇等。除此之外，我們在深圳還打造了一個城市級的AI安防的應用示範區。

雲天勵飛自主設計的DeepEye1000神經網路處理器晶元，是面向以上的應用場景做的設計，我們支持多模態的計算，可以支持一鍵式AI部署，同時針對邊緣側和端側做了優化，滿足場景的需要，是異構的並行架構。

也就是說，這個晶元不是一個純AI算力的晶元，而是滿足邊緣計算的SoC晶元，無論是單位性能，還是單位能效都有著數量級的提升。這個異構架構有著分散式、可重構的特點，同時可以實現實時動態任務的調度，能夠進行智能高效的存儲和調度，在這樣的架構下保證我們的性能能夠相比於其他晶元有大幅度的提升。

例如動態調度帶來的性能提升，在我們用的人臉識別裡面關鍵的幾個演算法，包括人臉檢測、人臉跟蹤和人臉識別，這個演算法平均的性能提升都超過40%，部分可以達到50%以上。我們的神經網路處理器架構是基於ASIP的指令集技術架構，通過面向專用應用的數據抽取實現了演算法高效的支持，同時它是可重構的處理器架構。重構的處理器是PE計算可重構的架構，這個晶元無論是跑大的演算法模型，還是小的演算法模型，都可以獲得非常高的效率。同時，它實現了計算存儲融合架構，也就是剛才我們看到的Memory計算架構，能支持稀疏以及數據壓縮，同時支持多核多線程。

晶元賦能端、邊、雲

雲天勵飛的晶元覆蓋著端、邊、雲的應用，利用不同的形態和組合，可以實現對於AI落地，特別是視覺AI在端、邊、雲上的應用。

• 在前端，我們以單晶元模組的方式實現高性能人臉的處理和視頻結構化的處理；

• 在邊緣端，我們通過晶元組成邊緣智能的計運算元板的方式，可以實現單板單機16路或32路視頻結構化的能力，同時它具有很高的性價比；

• 在雲端加速，通過多晶元的並聯，我們做了計算加速板，可以做到單卡32路、單機8卡256路的視頻結構化能力。

在人臉特徵提取，功耗小於15W的時候支持600張人臉處理能力，能效比比GPU有10倍以上的提升，性價比比GPU高很多。

此外，我們的晶元也在深耕AIoT的各個應用場景，在智慧安防、智慧社區、智慧商業、智能製造以及智慧家居等領域形成了一系列的解決方案，這些解決方案都在有條不紊地進行。

在行業內，圍繞著5AIoT，雲天勵飛希望跟合作夥伴一起打造自主可控的5AIoT生態，圍繞著神經網路可控的處理器打造這樣一個生態，使得人工智慧能夠更快速、更高效地大規模產業化落地。

我們的願景是構建「1+1+N」的AI城市綜合服務體系，致力於打造1張基於5G+AIoT的泛感知的網路，使得AI的觸角能夠深入到城市的各個角落，使我們城市治理相關數據的獲取變得更加方便和便利。同時，我們將打造1個基於AI OS的城市大腦，通過這樣一個城市大腦可以實現海量數據的分析、挖掘和決策。在一個網路和一個城市大腦的基礎之上，我們會構建一個又一個面向城市各個應用場景的垂直解決方案，通過這些解決方案來服務於整個城市的治理，包括公安、衛生等場景。謝謝大家!

在主題演講結束後，李愛軍接受了雷鋒網的採訪，以下是本次採訪的要點內容。

雷鋒網：雲天勵飛將通過構建「1+1+N」的AI城市綜合服務體系，助力自主可控的5AIoT產業生態建設。請問，5G在雲天勵飛的5AIoT生態建設中的重要性如何體現？自研的AI晶元將在其中發揮怎樣的作用？

李愛軍：5G在我們整個的「1+1+N」這樣的一個城市的治理體系下，它是很重要的一環。

未來的城市將會構成一個個泛感知的網路，它需要構建在5G這樣一個基礎之上。AIoT時代的泛感知網路，它的數據的維度比原來要多很多，而且它的廣度也會更廣。只有通過5G這樣的網路，才能夠去實現這些數據的傳遞和交互。因此，我們認為5G網路和AIoT實際上是相輔相成，相互融合的一個技術，共同把整個城市的泛感知網路搭建起來。

雲天勵飛的晶元，將應用於整個網路的端、邊、雲當中。當我們做一個行業應用時，可以在不同的層級、以不同的形態來做。在端側，就用我們的晶元做成了一個小的AI模組，可以用在各種各樣的視覺終端，做實時的視覺的採集和處理；邊緣側實際就是一個區域的中心和大腦，我們可以在邊緣側上處理多路的（原來可以接入16路，甚至32路）視頻，匯聚到邊緣側，然後我們在這個層面做實時處理。

雷鋒網：雲天勵飛的晶元是從場景出發探索一個新型的計算架構，這樣話是否會限制晶元應用的市場？未來AI 是需要專用，還是通用的AI晶元？

李愛軍：如果一個晶元做成通用的，我們認為它的生命力反倒是不強的，沒有競爭力的。

一般來講，我們認為的通用CPU，它也是不完全通用的，比如英特爾x86的CPU，主要是用於電腦上，而手機上主要是用Arm的CPU。因此，某種程度來說，不存在一個完全通用的東西，至少在某些特定應用里他是有局限性的。

對於我們來說，我們做的晶元是面向視覺AI應用的一個神經網路處理器晶元。首先，它確實是對應用場景有自己的定義，對於非視覺AI我們實際上是不擅長的。然而，在視覺AI的應用場景下，我們又是相對比較通用的，因為我們是一個神經網路處理器，我們的AI晶元上面可以執行現在的演算法，也可以執行未來的演算法。

未來的AI，專用的和通用的AI晶元都會存在。在雲側，無論是做雲側的數據訓練，還是大數據的分析處理，它需要的是一個相對比較通用的AI晶元。如果是在邊緣側和端側，更多需要專用的AI晶元，因為它更多的考慮到效率和性價比。

例如智能音箱，智能音箱裡面的AI晶元叫語音識別的AI晶元，這個晶元跟我們用在攝像頭裡面的AI晶元（即視覺AI晶元）是兩個概念。該晶元只處理語音信號，所以它的算力會比較小，可能0.1T或0.2T就夠用了；但是，如果我們對這個視頻、視覺進行處理的話，就需要1個T或2個T，甚至更大，這樣的算力才能滿足對視頻處理的要求。

雷鋒網：邊緣側專用的AI晶元，在各個細分領域差異是否很大？我們如何去應對這些差異性？

李愛軍：邊緣計算所代表的網路層，我們可以稱之為邊緣網路層，該層面細分領域對邊緣計算的要求是不一樣的。也就是說，在不同的領域內，它會有很多的區別，比如說用在工業和安防領域，它本身的這種需求就不一樣，要執行的演算法也不一樣，它的要求也就不一樣。

我們在落地這些邊緣網路層的具體項目時，即使同樣是視覺AI晶元，其解決方案依然會有差別。根據需求的不同，會根據某一個應用場景對AI晶元的要求進行抽取，在落地的時候，再結合用戶的一些特別的需求就可以了。

一般地，會有一個「二八原則」，比如80%，甚至90%以上，這個都是共性的需求；那麼剩下的10%左右的需求，需要額外的滿足客戶。

雷鋒網：雲天勵飛的AI邊緣計算能力如何在各領域體現價值？

李愛軍：在安防領域，原來傳統的攝像頭，它只是具有監控的功能，沒有智能分析的功能，因此傳統的攝像頭需要進行智能化升級。例如從人臉抓拍到軟體識別，以及各種視頻結構化，甚至視頻語義理解；至於門禁，因為我們現在裝門禁基本上都是裝在公司這些地方，所以將數據放在本地使用可以保護用戶的隱私。此外，門禁對於設備的實時性是有要求的，如果把數據的處理放在雲端的話，實時性會難以保證。

新零售領域，它的應用會有多個，實際上新零售可以理解為基於智能攝像頭的一整套系統，在這個裡面的話，我們的邊緣計算晶元可以放在攝像頭裡面，也可以放到智能網關中，構成商超的匯聚節點。

雷鋒網：從AI的商業化程度來看，安防、金融、互聯網服務和企業服務，這些行業是走在前面的，而雲天勵飛選擇的是智慧安防、智慧商業、智慧家居、智慧製造和智慧社區這些垂直的領域進行布局，是基於怎樣的一個考慮？

李愛軍：這個主要還是從我們的定位來看的，因為我們做的是視覺AI的神經網路處理器晶元，所以我們的業務布局是圍繞這一點來進行的。

目前的熱點，安防和金融領域，實際上更多的是用於人臉識別，我們只是布局了其中和自身有關聯的應用而已。安防中的人臉識別，包括視頻結構化，都是和視覺AI相關的技術；金融支付領域的人臉識別和安防的人臉識別差不多，技術是一樣的，所以我們是可以做的。其他方面，比如金融領域的AI應用，也就是涉及到金融本身，比如說數據監管、數據分析這些，這些的話跟我們視覺AI晶元沒有太大關係，所以現在並不涉及。

此外，我們選擇了智慧商業領域，主要參與的是訪客系統、精準營銷這塊，這塊也是跟視覺AI密切相關的；而智能製造領域，我們主要側重於工業檢測，這也是視覺AI方面的應用；在智能家居領域，我們是用於目標檢測，而不是人臉識別；最後是智慧社區，這個主要就是用於門禁方面。

雷鋒網：針對目前AI晶元市場的競爭不夠充分的觀點，您怎麼看？

李愛軍：這個要分開來看，首先我覺得現在的AI晶元相關應用還遠沒有到達爆發的時候。除了手機行業，目前我們看到的幾個熱點，比如安防的攝像頭，這也才剛剛開始而已；智能音箱，相對時間長一點；然後再往下看，就發現好像AI晶元沒有幾個量比較大的應用了。

雖然AI晶元關注度比較高，但它的應用落地並不多，所以說這個市場還沒真正起來。但是目前做AI晶元的公司挺多，在這麼多的AI晶元廠商中，最後能存活下來的是那些掌握了核心競爭力的玩家。目前的AI晶元的競爭，我覺得還沒開始。

雲天勵飛最核心的是神經網路處理器相關的技術，最大的優勢是對於場景的理解，和我們基於場景所做的晶元。我們不是一個通用的AI晶元，也不是基於這種通用的AI演算法晶元裡面，我們是有側重的，我們瞄準的是視頻方面的人臉識別，還有視頻結構化相關的，所以在這類演算法上運行效率非常高。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！