「中星微AI晶元挑戰後摩爾時代」國內首款量產NPU性能16倍提升
【新智元導讀】1月30日，新智元AI+產業生態平台·一月中星微專場論壇成功舉辦。晶元/安防/能源產業巨頭技術負責人就星光智能二號運算能力達到1080P@30fps實時分類檢測的需求，是第一代NPU的16倍等展開熱烈探討。AI頂尖投資機構大咖就技術落地特殊和普通場景的平衡點發表獨家觀點，中關村集成電路設計園、中關村人工智慧產業園負責人在產業生態的機遇與挑戰等層面進行了深入交流。
1月30日，新智元AI+產業生態平台、一月AI晶元閉門論壇在中星微公司所在地世寧大廈舉行。中星微人工智慧晶元技術有限公司董事長張韻東作為東道主首先歡迎大家的到訪並宣布了一件好消息：公司正在開發星光智能2號人工智慧晶元，發布時間為今年4-5月份。
星光智能1號是中國首款量產的人工智慧晶元，星光智能2號是1號的「無縫升級」版。第二代NPU的運算能力可以滿足1080P@30fps實時分類檢測的需求，是第一代NPU的16倍，性能更強大，應用場景更廣。現在已經在9大領域落地開花去的應用成果。同時星光智能1號在2017年獲北京科技進步獎，是神經網路處理器獲得的第一個獎。
「一月中星微閉門論壇」是新智元AI+產業生態平台2018年的首場高品質閉門論壇，由新智元創始人兼CEO楊靜親自主持，邀請來自阿里創投、高瓴、丹華資本等AI頂尖投資、海康威視、大華、新奧集團等晶元/安防/能源企業共同參與，就人工智慧行業未來投資走向、AI晶元落地發展、產業生態的機遇與挑戰等層面的問題進行內部交流，內容精彩，乾貨滿滿。
楊靜女士將新智元的AI+產業生態平台定位為以科技巨頭、龍頭實業企業、人工智慧技術部門為核心對象，同時邀請政界、學界的精英團體和金融市場優秀機構從業人員共同參與的公益性服務性產業平台。
這也是新智元致力於實現中國人工智慧領域技術資源開放共享，搭建運營人工智慧技術分享公共服務平台的首期AI產業生態論壇，由新智元攜手中星微人工智慧晶元技術有限公司聯合舉辦。
星光智能二號：NPU的運算能力可以滿足1080P@30fps實時分類檢測的需求，是第一代NPU的16倍。
2016年，中星微發布首款深度學習晶元星光智能一號，核心技術為內置專為卷積神經網路優化的神經網路處理單元（NPU）。
時隔兩年後，星光智能二號處在問世的階段。
張韻東介紹，第二代NPU的運算能力達到1080P@30fps實時分類檢測的需求，是第一代NPU的16，采用了獨特的網路精簡技術，大幅地降低了數據吞吐量，進一步提升了晶元的能耗比和效率。
此外，第二代NPU大幅度增加了片上SRAM的容量，減少了內存帶寬上的壓力，整體效率比第一代有大幅度的提升，在低功耗性能上有了明顯的改善，通過改變微構架和動態控制內存以及運算單元的方式來降低晶元的整體功耗。
同時，也擴展了更多的神經網路演算法，軟體可以容易地編程並靈活使用。採用了分散式結構和並行計算的方式，可以實現更為靈活的硬體方案。
第二代NPU 採用了分散式結構和並行計算的方式，實現更為靈活的硬體方案。
此款NPU針對CNN演算法特點進行優化設計，採用全新的 「數據驅動」的計算機架構，徹底顛覆了傳統的馮諾依曼架構。
NPU針對神經網路架構進行優化，可以靈活配置網路結構，支持AlexNet、GoogLeNet等各類神經網路。支持CAFFE和TENSORFLOW等主流深度學習軟體開發框架，可以輕鬆將深度學習演算法應用於嵌入式產品。
NPU是數據流（Dataflow）類型的處理器，極大地提升了計算能力與功耗的比例，可以滿足嵌入式架構的要求。
在未來的五年中，中星微國家重點實驗室會持續開展新型「數據驅動」 並行計算架構的研究工作。「數據驅動並行計算」架構下提高性能功耗比的四大關鍵設計技術：1、高效的卷積復用，即輪流復用輸入和參數，達到更高效的數據分解。2、更低的計算和存儲位寬，具體來說就是從32位浮點，到16位定點，到8位定點，甚至到4位定點的位寬。3、存儲器的定製設計，將存儲器設計離計算單元更近有效減少訪問延時。4、稀疏設計的實現，採用稀疏的向量乘實現可以有效地減少功耗。
星光智能系列NPU處理器將通過採用更加接近生物人腦的工作機理的方式，推出更低功耗更高運算性能的下一代神經網路處理器，在摩爾定律的盡頭探索一條繼續提升信息處理效率的前行之路。
Gordon Moore指出：集成電路上可容納的元器件的數目，約每隔2年便會增加一倍。半導體工藝已逼近量子尺度，摩爾定律快要走到盡頭。傳統CPU受限於散熱，其時鐘頻率更早趨於上限。正如業界所言：「隨著逐步逼近香農定理、摩爾定律的極限，面對大流量、低延時的理論還未創造出來」。
除此之外，還有兩條後摩爾時代定律為業界指引方向：More Moore（繼續推進摩爾定律）：繼續在新型材料，工藝製程和器件結構上努力，將摩爾定律再推進一步。More than Moore（超越摩爾定律）：SoC將數字電路、模擬電路、存儲器甚至射頻電路集成在一顆晶元里以實現更多功能；SIP採用多晶元堆疊的方式，將多顆裸晶元封裝在一起。
張韻東認為現在已經進入「後摩爾定律」時代，在這種背景下，雖然物理層面和信號層面都受到物理規律的制約，但在信息層面的技術創新還遠沒有達到極限。如何進一步借鑒人腦智慧機制、研究新型人工智慧計算方法、進一步提升信息處理的性能功耗價格比成為未來競爭的關鍵。
AI晶元場景落地場景落地及難點：理論反推、依賴數據訓練、利用方向工程愚弄機器的隱患
談及現階段人工智慧技術在實際應用中，張韻東認為存在三大問題：1、無法從理論上反向推導，對於需要高可靠性的場合應用，用戶往往會有疑慮。2、依賴大數據訓練使得在一些可靠性要求高及提供大量數據比較困難的場合很難實際應用。3、存在利用反向工程愚弄機器的安全隱患。
可能的解決之道有如下兩個方面可以嘗試：1、結合現有AI演算法上的一些最新進展如對抗網路等解決一部分問題。2、通過讓AI2.0和傳統人工智慧AI1.0的技術快速結合，採取雙引擎的方式，兩者互相補充，互相彌補。
應用案例：智能冰箱
主要基於NPU嵌入式晶元實現智能冰箱的本地智能識別功能相比通過雲端伺服器實現類似功能，具有不依賴網路環境，沒有網路延遲等優勢，極大地優化了用戶體驗。
利用以下核心技術：1、智能語音識別系統，如支持語音喚醒、語音識別控制指令、語音交互。2、智能圖像識別系統：物體識別，比如智能判斷冰箱內物體種類及數量推薦食譜。人臉識別，個性化定製營養菜單。通過物體識別及人臉識別技術，配合雲端伺服器，個性化推送商品信息。
應用案例：智能高清視頻監控
智能監控系統：高清視頻的採集和編碼，基於深度學習的智能化目標識別（人，車輛等），視頻結構化描述，關聯視頻和標籤，接入公安平台保存錄像和索引信息。
刑偵人員接到報案信息，搜索結構化描述標籤，定位到視頻，獲取現場圖像，確認嫌疑人。
應用案例：智能空調
基於NPU嵌入式晶元實現的生物識別技術配合雲端伺服器資料庫及心率測試等感測器實現遠程醫護服務等個性化服務等，將使得智能空調成為居室中的智能中心，而不僅僅是傳統的溫度調節、送風。
智能語音識別系統：支持語音喚醒，語音識別控制指令功能，通過聲場方向判斷人體位置自動調節風向等功能。
智能圖像識別系統：手勢識別， 通過手勢識別進行菜單操作，如調節風速、溫度等。距離識別，通過距離識別實現自動調節風速。體態識別，判斷人體姿態，實現風隨人走，根據實際體態調節送風狀態等智能功能。
投資界、產業大咖探討AI晶元普通與特殊場景落地應用的平衡點
臻雲創投合伙人祝曉成針對張總分享提出兩點問題：第一，從晶元領域的常規問題，普通場景和特殊場景怎麼找到比較好的平衡點？怎麼去設計你系列化的晶元？
第二，針對智能駕駛這塊，這塊比較熱，我們看到各種各樣的方案，這一塊還是很感興趣，想深入聽聽張總的看法。
張韻東給出了詳盡的回答：「我剛才講到雲端晶元和前端晶元，這兩顆晶元是不可替代的，你不能把TPU拿到攝像頭裡面來用，攝像頭晶元放到伺服器上也不足夠。這體現了兩個設計思路。晶元設計必須要軟體演算法能跑起來多了反而浪費功耗。」
「無人駕駛汽車這種應用領域，人工智慧不是最重要的因素，最重要的是瞬時定位，汽車要知道自己在什麼位置，人工智慧是第二重要，通過識別行人、物體還有路標、交通標誌，知道下一步該做什麼東西。」
中星微人工智慧晶元CTO張亦農繼續補充道：「數據和場景是人工智慧應用的兩個關鍵。中星微做安防監控很長時間，這也是人工智慧落地的第一個場景，在這個領域裡，中星微累了大量的數據。
目前為止，我們的晶元所有流行的人工智慧演算法還有底層框架已經在不同的場景試過，做出來的效果非常好。
現在，第二代晶元在第一代晶元裡面已經建立好的基礎上做了很多的演算法層面，讓第二代晶元在功耗減少的情況下達到更好的計算能力。在人工智慧領域，應該來說我們起步比較早，所以扎紮實實做了第二代晶元出來。」
晶元/安防/能源產業巨頭技術負責人展望晶元發展
在談到政府園區與AI企業協同發展的話題時，中關村集成電路設計園、人工智慧科技園董事長苗軍：我們不是房地產開發，運營理念上一直倡導園區的物產升值、運營保值、投資增值。運營保值為了低成本運營或者合理運營，保證高新技術產業發展，而投資的增值是在企業發展過程當中先好企業，與企業共同發展，分享企業紅利。
「晶元公司已經不是十年前的晶元公司了。」藍馳創投合伙人陳維廣首先介紹：「底層技術通過對不同的場景應用，定製不同的方案，讓場景多元化，現在變成產業非常重要的一部分。」
中移創新產業基金執行董事薛冰認為：隨著圖形圖象技術崛起，我們相信人工智慧產業鏈能夠形成，並且能夠獨立形成一個體系，NPU或者人工智慧晶元會有一撥機會。同時，晶元也是全球化競爭，國家也重視，產業環境也在變化，我們希望能夠在此找到一些很優秀的企業，利用我們的資源去扶持，去投資，大家一起成長。
通過北京市政府層面跟大學合作，國家級實驗室和人工智慧技術平台落到我們園區。AI數據很重要，我們會結合企業需求，推動政府相關數據的開放，建立專業的子行業數據，中關村人工智慧科技園副總經理蘇文松談到。
海康威視有幸駛入AI主航道，也得益於安防行業是AI最容易落地的場景，它的硬性需求早已存在。海康威視演算法總監武曉陽繼續介紹：我們也推出了獵鷹、AI Cloud戰略，把邊緣計算和雲計算、中心計算結合在一起。
以能源的物理設施為基礎，通過物聯網和邊緣計算，實現數據的採集、分布處理以及本地策略的控制，把精鍊後的數據上傳到雲平台重構，在此基礎上後面人工智慧登台唱戲，打破傳統的條塊分割的壟斷式能源行業布局，建立全新的能源生態，新奧集團能源管理總監田海亭介紹道。
雲從是做演算法的，另外一塊是計算能力包括晶元，還有就是數據。三個支撐點的場景大家都很清楚，未來這幾年主要的場景在世界範圍內能夠支持中國AI產業發展的就是安防企業。雲從科技高級副總裁合伙人孫慶凱說。
大華技術研發中心副總經理李廣義介紹大華的戰略時說：大華提出「大智在雲，小智在邊」的概念。所有的設備都是智能的設備，根據客戶的需求不同，我們把它分布在不同的最合適的場景和設備上進行計算。我們和中星微在1080P星光智能一號有比較好的合作，星光智能二號本身的編解碼性能、功耗包括ISP也會有很大的提升，再加上人工智慧NPU的處理是非常好的結合，我們一直期待這樣的晶元能夠儘快出來。
TAG:新智元 |