效率達CPU一萬倍、內含800萬神經元:英特爾發布神經形態晶元超算
機器之心報道
作者:澤南
人類大腦由 860 億個互相連接的神經元組成,英特爾最近推出的類腦晶元系統 Pohoiki Beach 向「模擬大腦」這一目標前進了一大步,這是一個擁有 800 萬人工神經元的計算機系統。據英特爾介紹,其組成晶元在 AI 任務中的速度是傳統 CPU 的一千倍,能耗效率是一萬倍。
打開今日頭條,查看更多圖片
英特爾還表示,類腦晶元越擴展效率越高,這是傳統架構無法企及的。
神經形態學工程,也稱神經形態計算,通常是指使用電路系統來模擬生物的神經形態學結構,或許是下一代計算機的發展方向。此前,來自 MIT、普渡大學、斯坦福、IBM、惠普等大學和公司的先驅者們都曾提出自己的全棧系統,但沒有一家能像今天的英特爾這樣如此接近神經形態學研究的終極目標——後者推出了一台超越前人千倍算力的超級計算機。
它就是剛剛在底特律美國國防部高級研究計劃局(DARPA)2019 電子復興峰會上出現的「Pohoiki Beach」系統,這是一款能夠模擬 800 萬神經元的 64 晶元計算機。英特爾實驗室總監 Rich Uhlig 表示,Pohoiki Beach 已經免費向 60 個研究夥伴提供。這些機構正在使用新類型的晶元挑戰最尖端領域的研究,其中包括可擴展 AI 演算法,如冗餘編碼和路徑規劃。
「我們對 Loihi 擴展後構建更強大神經形態系統的結果印象深刻。現在 Pohoiki Beach 已經提供給超過 60 個合作夥伴使用,他們將使用這種專用系統解決複雜、計算密集型問題。」Uhlig 表示。
Pohoiki Beach 包含 64 個 128 核心,14 納米製程的 Loihi 神經形態晶元,這些晶元首次出現在世人面前是在 2017 年 10 月的 Neuro Inspired Computational Elements(NICE)研討會上。它們具有 60 毫米裸片尺寸,每塊包含 20 億個晶體管、13 萬個人工神經元和 1.3 億個突觸,此外還附有三個管理 Lakemont 核心用於任務編排。特別的是,Loihi 擁有可編程微碼學習引擎,可在片上訓練非同步脈衝神經網路(SNN)——這是一種將時間結合進模型操作的特殊 AI 模型,可以讓模型的不同組件不會同時被輸入處理。SNN 被認為可以高效實現自適應修改、基於事件驅動和細粒度平行計算。
Pohoiki Beach 由 64 個較小的 Loihi 晶元組成,可模擬約 830 萬個神經元。這個數字和一些小型嚙齒動物的大腦差不多。
在硬體之上,英特爾還提供了 Loihi 開發工具鏈:包括 Loihi Python API、編譯器和一組用於在 Loihi 上構建和執行 SNN 的執行庫。這些工具提供了自定義構建神經、突觸計算圖的方法,可調整諸如衰減時間、突觸權重、脈衝閾值等變數,也可通過自定義學習規則注入外部脈衝來模擬計算圖。
英特爾稱,與傳統處理器相比,Loihi 處理信息的速度要快上 1000 倍,而效率則要高上 1 萬倍。在處理某些類型的優化問題上,神經形態處理器的速度和能效要比普通 CPU 強三個數量級以上。此外,英特爾還表示 Loihi 在擴展 50 倍時,在保證算力的情形下僅需增加 30% 的能耗——而常規架構的晶元需要 50 倍能耗。在進行同步定位和映射等操作時,新的晶元比常規 CPU 節省 100 倍能耗。
與人腦中的神經元類似,Loihi 擁有數字軸突用於向臨近神經元發送電信號,也有樹突用於接收信號,在兩者之間還有用於連接的突觸。英特爾表示,基於這種晶元的系統已經被用於模擬皮膚的觸覺感應、控制假腿和玩桌上足球等任務。
因為效率頗高,Pohoiki Beach 和 Loihi 有望成為人工智慧演算法發展的新動力。英特爾稱,新形態的晶元可以在圖像識別、自動駕駛和自動化機器人等方面帶來巨大技術提升。
「使用 Loihi,我們可以在運行實時深度學習基準測試時比 GPU 節省 109 倍的能耗,而與專用的物聯網推理硬體相比,神經形態晶元也節約了 5 倍能耗,」Applied Brain Research 聯合首席執行官、滑鐵盧大學教授 Chris Eliasmith 表示,他們的團隊正在使用 Loihi 進行研究。
英特爾表示,今年晚些時候,它將推出一個更大的 Loihi 系統——Pohoki Springs,該系統將擁有超過 1 億神經元、1 萬億個突觸,預計包含 768 顆晶元、1.5 萬億個晶體管。下一代神經形態系統將提供「前所未有的」性能和效率。
此外,Santa Clara 公司將繼續通過英特爾神經形態研究社區(Intel Neuromorphic Research Community)為用戶提供訪問其 Loihi 雲系統和 Kapoho Bay(基於 Loihi 的 USB 形狀因子系統)的許可權。
參考內容:
https://venturebeat.com/2019/07/15/intels-pohoiki-beach-is-a-neuromorphic-computer-capable-of-simulating-8-million-neurons/
https://www.tomshardware.com/news/intel-neuromorphic-loihi-ai-nuerons,39903.html
https://www.pcmag.com/news/369532/intels-latest-chip-mimics-the-way-your-brain-works
※每類13張標註圖就可從頭學分類器,DeepMind新半監督模型超越AlexNet
※MIT Kleitman 教授:這是初學者該了解的微積分
TAG:機器之心 |