泓觀科技首發非同步AI晶元，賦能IoT終端智慧進階

【獵雲網（微信：ilieyun）北京】1月31日報道（文/都保傑）

新晉創業公司泓觀科技（otureo.ai）日前發布了面向物聯網（IoT）端的超低功耗非同步卷積神經網路晶元。據悉，該款晶元率先採用了獨特的非同步架構，融合了定點化、自動剪枝、多層優化訪存等多項先進技術，可滿足IoT場景下超低功耗的智能化應用需求。目前，首款晶元已由泓觀科技的團隊設計完成並實現流片，如下圖所示，這應是目前已知的媒體報道範圍內，此類晶元的首次問世。

 另闢蹊徑，採用非同步架構實現超低功耗卷積神經網路晶元

泓觀科技官方表示，本次推出的神經網路晶元在構架設計上所採用的非同步（asynchronous）電路技術，與其他廠商已推出的各類人工智慧（AI）晶元有著顯著的區別。後者普遍更偏通用型，遵循著功能與性能優先的設計原則，然而對於海量IoT設備應用場景的單一功能及超低功耗需求而言，這類架構與特點並不適合。

IoT設備在大量的應用場景中，只有在被喚醒時才工作，經常處於休眠狀態，如何在設備休眠狀態下嚴格控制功耗產生，便是重中之重。下圖為非同步（asynchronous）電路架構，與常規的同步（synchronous）電路架構的對比。採用非同步電路技術，能夠實現晶元在設備休眠時產生的功耗顯著降低甚至忽略不計。

 物聯網終端的智能化進階，超低功耗AI晶元成為關鍵點

近年來，隨著各類新興應用（可穿戴設備、智能家居、移動醫療等）的出現，各種IoT設備的數量呈現一種爆髮式的增長態勢。根據來自Cisco的預計，到2020年，全球互聯的IoT設備將達到500億以上，而且這些設備將產生的數據將達到數十甚至上百ZB！

同時，用戶對IoT設備的功能需求，已經逐漸從單純的數據採集上升到一定程度的智能分析，例如人(物)體識別、場景判斷、異常診斷、習慣分析等。為了實現這些AI功能，如果依賴將海量IoT設備採集的數據傳輸到數據中心進行處理，既不現實也不合理。因此，在IoT設備端集成本地化的AI處理能力，就成為亟待解決的剛性需求。

依託IoT設備自身的硬體資源進行智能化計算，勢必會為IoT設備帶來不可忽視的額外功耗。對於絕大多數IoT設備而言，功耗一直都是最為敏感的指標。因此，如何在低功耗甚至超低功耗的條件下實現IoT終端對深度學習的計算承載，成為撬動AI賦能IoT的那個最關鍵的支點。

泓觀科技創始成員介紹到，「在同樣的晶元製程、達到相同性能的情況下，位於晶元active ratio（工作時間佔比）較低的應用區間，相比基於傳統同步電路，非同步電路設計可以顯著減少功耗，而這一區間恰恰是大量的物聯網終端智能化應用場景的分布重心。」下圖呈現了上述二者的功耗對比，可以看到，在物聯端應用重點分布的低active ratio區間，採用非同步架構的AI晶元，可以將功耗降低近一個量級甚至更多。

IC科班出身的團隊，對於AI晶元的思考和態度

泓觀科技創立於2015年，位於中國北京及美國矽谷，是最先將邊緣計算概念和全方位異構加速技術應用於嵌入端人工智慧商業化的一撥創業企業之一。「AI的興起極大的推助和加速了晶元行業的衍生和變革。對於正在興起的通用型AI系統晶元，我們堅定的選擇依託以各大半導體公司為代表的友商，攜手構築產業生態，推動應用部署，尤其在嵌入端，這是我們的過去兩年多一直著重在做的事情。」泓觀科技的創始成員告訴記者。

「從近二十年前我們進入清華大學微電子學專業讀書時算起，雖然後來的職業生涯不斷帶來多元化的知識背景，但畢竟都算是集成電路（IC）行業里多年的從業者了，對於晶元這個龐大產業的自身規律有著清醒的認知。」他們進一步介紹到，「我們決定在AI晶元這裡也做點兒事情，構建第二產品大類。對於技術路線和發力點，做出這樣的選擇，來源於我們對這個行業的理解和積澱、對技術發展和市場定位的思考與判斷。也許這看起來有點卓爾不群甚至超前，但其所對應著的IoT端智能化這個市場，體量巨大同時又有著獨特的應用需求和差異化的生態位置。」

專註的架構，引入與融合了多項先進技術

泓觀科技本次發布的這款非同步AI晶元，在架構上專註於卷積模型所支持的特定操作（如卷積、池化等），並針對識別場景的特點，考慮晶元工藝、面積、片上存儲等因素，對支持的網路架構加入一定的約束。

同時，還有多項先進技術被應用融合這款晶元中：一、採用多層融合的架構技術（如上圖）來減少 I/O 訪存——通過架構和演算法的交互優化，保證演算法層的輸出數據能夠被有效緩存；二、通過定點化處理神經網路，採取自動化搜索不同網路層定點化配置的方法，對權值和輸入/輸出採用不同的策略，有效解決神經網路操作對數據存在的魯棒性；三、設計了一種自動化剪枝演算法，對神經網路的每一層建立單獨的剪枝參數，從而解決了神經網路本身存在的冗餘性。

這款獨特而全新的非同步卷積神經網路晶元，其具體功能專註於物體識別等智能化視覺分析,面向可穿戴設備、智能家居、自供能監控等對超低功耗有剛性需求的IoT終端領域。「就目前已知的媒體報道，我們應該是率先實現非同步卷積神經網路電路方案並實現流片的創業公司，不論在中國還是世界範圍內。」泓觀科技的創始成員告訴獵雲網記者。

推動AI和IoT之間的技術賦能與生態融合

物聯網在未來十年里將迎來一個新的高速發展期。泓觀科技的創始成員這樣評價，「物聯網是一個非常依賴於技術驅動的產業，人工智慧與物聯網這兩個領域之間的連接，依託於邊緣計算的興起而緊密。無數的物聯節點作為邊緣側的前沿，不僅承載著感知、處理、傳輸這些功能，也會逐步把智能化的思考和判斷也囊括進來，進而構建出更加廣泛的、融合的多維度產業生態。」

物聯網的智能化進階，在於如何撬動AI以賦能IoT；其最關鍵的技術支點，在於如何實現IoT終端在低功耗甚至超低功耗的條件下對深度學習的計算承載；該支點的核心物理載體，就是這樣的具備超低功耗下可以實現深度學習在IoT終端部署的晶元。

據獵雲網觀察，泓觀科技在這個領域的探索和積累，到這次首款面向IoT的超低功耗非同步AI晶元的問世，正在構成一個新的開端，推動著物聯網全面邁向人工智慧時代的進階歷程。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！