Imagination發PowerVR NNA神經網路加速器

2017年9月21日 ─ Imagination Technologies 宣布推出完整、獨立式的硬體IP神經網路加速器，通過神經網路(NN)專用的PowerVR架構實現，可提供業界領先的面積效率。為移動、監控、汽車與消費系統開發SoC的公司將能以非常低的功耗，在最小的晶元面積中集成新款 PowerVR Series2NX NNA神經網路加速器，以實現神經網路的高性能運算。/

第一款具備支持從16位到4位高靈活度位寬的專用硬體解決方案

? 帶寬最低的神經網路(NN)解決方案

? 其架構可支持多種操作系統，包括 Linux和 Android

David Harold 市場傳播副總裁

包括卷積神經網路(CNN)、循環神經網路(RNN)和長短期記憶網路(LSTM)在內的神經網路正推動各個產業的爆發性技術進展。NNA是一種基本類型的處理器，預計會跟CPU和GPU一樣重要，而這兩類處理器Imagination均已能供應。NNA的潛在應用不計其數，其中包括AR/VR頭戴設備中的特徵檢測與眼球追蹤;汽車安全系統中的行人檢測與駕駛員警覺性監控;智能監控系統中的臉部辨識與人群行為分析;網路詐欺檢測、內容建議(content advice)、以及預測性UX;虛擬助理應用中的語音識別與回應;以及無人機中的防撞與對象追蹤等。

Chris Longstaff,PowerVR 市場高級總監

根據嵌入式視覺聯盟(https://www.embedded-vision.com)於2017年1月進行的嵌入式視覺開發人員調查顯示，79%的受訪者表示他們已經利用或正計劃利用神經網路來執行其產品或服務中的計算機視覺功能。隨著科技持續的快速進展，更多的公司都將能夠利用神經網路來開發產品與服務。Imagination的客戶已為安全、移動、汽車與機頂盒等多個市場開發與部署基於NN的系統。

神經網路目前已經被眾多市場採用

嵌入式視覺聯盟創始人Jeff Bier表示：「很多系統與應用程序開發人員正採用深度神經網路演算法把新的感知功能帶到他們的產品之中。在許多案例中，主要的挑戰在於能為這些要求嚴苛的演算法提供足夠的處理性能，同時滿足嚴格的產品成本與功耗限制。像PowerVR 2NX NNA 這類的專用處理器，是專為神經網路演算法所設計，將能在許多新應用中推動這些強大演算法的部署。」

卓越性能的展示

隨著神經網路日益普及，2NX NNA 這樣的專用硬體解決方案 —— 與單純的DSP解決方案相比，它可提供8倍的性能密度提升 —— 將能以最低的功耗與成本達到最高的性能。此外，一直以來，神經網路非常耗費帶寬，因此內存的帶寬需求會隨著神經網路模型規模的增長而增加。這會為SoC設計人員和OEM公司在設計系統時，因為要提供NNA所需的帶寬而帶來重大的挑戰。PowerVR 2NX能最小化外部DDR內存的帶寬需求，確保系統的性能不會受到帶寬的限制。PowerVR 2NX NNA專用硬體的普及應用，將能推動各種基於神經網路技術的應用程序進一步發展。

PowerVR 2NX適用的人工智慧場景

物體識別演示

PowerVR 2NX NNA可實現最高效率的解決方案

PowerVR 2NX是從頭開始全新設計的架構，可提供：

? 業界最高的單位毫瓦推理 (inference/mW) IP內核，以提供最低的功耗*

? 業界最高的單位面積推理 (inference/mm2) IP內核，可實現最具成本效益的解決方案*

? 業界最低帶寬的解決方案*——支持權重與數據的高靈活性位寬，包括低至4位的低帶寬模式

? 業界領先的性能，單一內核為每周期2048 MAC，並可採用多核設計進一步提升性能

? 在硬體架構的基礎上提供了最全面的系統級的神經網路解決方案

PowerVR NNA在功耗、性能和面積上領先

Imagination公司 PowerVR 產品與技術營銷資深總監 Chris Longstaff 表示：「神經網路加速的專用硬體將成為未來SoC的標準IP模塊，就如同CPU和GPU一樣。我們很高興率先向市場推出完整的硬體加速器，能完全支持高精準度的靈活方式，使神經網路能以最低的功耗與帶寬運作，並提供優於競爭對手方案的絕對性能與單位面積性能。我們提供的工具將能讓開發人員非常快速地啟用並執行其神經網路，因此能快速增加營收。」

PowerVR NNA--可調精度和低精度  最低4位都能準確識別 帶寬降很多。 從8位減到4位，性能提升至160%，功耗為70%

2NX包括硬體IP、軟體與工具，可為SoC提供完整的神經網路解決方案。它能有效地執行所有常見的神經網路運算層。依據推理任務的運算需求，它能獨立使用 ─ 無須額外的硬體 ─ 或是與CPU和GPU等其它的處理器結合運用。

性能對比華為最新的麒麟970以及蘋果的A11

神經網路無所不在

PowerVR 2NX NNA是專為適應多種市場的推理引擎所設計，其高度可擴展架構適用於未來的更多應用市場。

移動：隨著Tensorflow Lite以及 Android API的即將發布，再加上Caffe2Go架構的快速進展，我們將看到智能手機AI應用程序數量的快速爆發。公司需要高效率的方式來執行包括影像辨識、語音辨識、計算攝影等在內各種的推理任務。PowerVR 2NX是現今唯一的一套IP解決方案，能以低功耗、小面積、MMU和對Android的支持，來滿足移動解決方案部署的所有需求。在GPU不可或缺的移動設備中，公司能把新的 PowerVR Series9XE或 9XM GPU與 2NX NNA在相同的晶元中搭配運用，以作為獨立式GPU。其優異的性能足以和業界的獨立式GPU競爭。

智能監控：家庭與商業場所安裝的監控攝影機數量正大量增加，將推動神經網路視覺處理的需求。基於這些技術的智能型攝影機能被用來根據安全警示、零售分析、人口統計與互動數據來制定決策。考慮帶寬需求、數據機密性與其他因素，攝影機的設計必須加入一定程度的「網路邊緣」(edge) 視頻信息分析處理的能力。由於這些攝影機通常沒有GPU或是僅有非常小的GPU，以及較低性能的CPU，因此它們需要一個高效率、高性能的獨立式神經網路加速器。2NX NNA是理想的選擇，並且具備高度可擴展性，能同時滿足消費性與商用的需求。

汽車：汽車的神經網路應用包括駕駛員警覺性監測、駕駛員視線追蹤、座位使用、路標檢測、駕駛路線分析、道路使用者檢測、駕駛員辨識以及其他。隨著未來幾年自動駕駛汽車與智能型運輸系統的數量將日益增加，這些應用將持續擴展。在汽車系統中，需要2NX NNA 這樣的完整硬體解決方案，才能滿足相關的性能需求。

家庭娛樂：機頂盒和電視將逐漸提供基於神經網路的解決方案，例如能夠適應特定使用者偏好的能力，提供自動的兒童鎖，以及根據使用者行為自動暫停與錄製節目。憑藉這些特性，公司能提升其差異性並增加營收。要在這些設備上構建神經網路的關鍵是高效率的帶寬與低成本，以及支持NN API ─ 這些都是2NX NNA的重要特性。此外，還有許多新興的NNA娛樂應用，包括AR/VR。

睿悅信息Nibiru是一家移動VR與AR的技術與服務供應商，該公司的共同創始人兼副總裁 Tony Chia表示：「來自合作夥伴Imagination的創新技術是確保VR解決方案可為消費者提供高度沉浸式遊戲與視覺體驗的重要關鍵。我們對神經網路在VR/AR的潛在應用感到非常振奮，包括追蹤、控制、姿勢辨識、語音辨識、以及能增加更多的互動體驗。內置 PowerVR 2NX NNA的晶元組可提供所需的處理能力與功耗效率，把VR/AR體驗推升到全新的境界。」

簡化開發人員的工作

Imagination可為開發人員提供所有必要的工具，讓他們能快速、輕鬆地啟用和執行其神經網路，並確保運算帶寬能與準確度完美平衡。PowerVR 2NX的開發資源包括映射 (mapping) 和微調工具、樣本網路、評估工具與文件。完整的 PowerVR NX Mapping Tool 能從業界標準的機器學習框架，包括Caffe 和 Tensorflow，輕鬆進行轉換。高級的網路設計人員將能在2NX NNA 上設計與構建神經網路，以充分發揮其硬體特性。

Imagination也可提供通用的Imagination DNN (深度神經網路) API，能在CPU、GPU與NNA之間輕鬆轉換。此單一的API能夠跨多種SoC配置執行，因此能在現有設備上輕鬆開發原型。

供應情況

編者按：

*根據2017年8月不同來源的市場數據得出

關於 Imagination Technologies 公司

Imagination、PowerVR和 Imagination Technologies 標誌是Imagination Technologies Limited和/或其關係企業在英國和/或其他國家的商標。所有其它的標誌、產品、商標和註冊商標為其個別擁有者的財產。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！