盤點ISSCC 2019,晶元界在關心什麼?
上周,半導體晶元領域的頂級會議——國際固態半導體電路會議(ISSCC)——在舊金山落下了帷幕。每年一次的ISSCC不僅是工業界和學術界展示最新研究成果的舞台,更是半導體晶元行業發展的風向標。今年ISSCC的主題是「看見未來」(Envision Future),本文將分析今年ISSCC會議的熱點,供關注行業的朋友們參考。
特邀演講:人工智慧相關應用成為半導體發展的下一代引擎
每年ISSCC的慣例是特邀演講環節(Plenary Session),該環節會邀請一批學術界和工業界的權威人士在ISSCC的第一天給所有聽眾做四個特邀演講,而這四個演講的主題通常是整個半導體行業最關注的主題。今年的特邀演講幾乎都是圍繞著人工智慧以及相關技術展開,可見人工智慧已經成為了半導體行業公認的下一代行業發展引擎。
第一個特邀演講來自於人工智慧三巨頭之一併牽頭Facebook AI研究的Yann LeCun,他的本職工作是數學家,但是因為在人工智慧,尤其是深度學習領域在數十年間做出了卓越的貢獻而被公認為領袖人物。有趣的是,LeCun對於硬體也很感興趣,事實上在深度學習還沒有正式成為主流的2011年,LeCun就帶領研究團隊開發了一款深度學習加速晶元NeuFlow,因此邀請LeCun來ISSCC可謂是合情合理。在主題演講中,LeCun一方面回顧了深度學習的歷史,另一方面肯定了深度學習這一路走來和晶元的關係重大,尤其是沒有GPU提供高通量訓練的能力可以說就不會有今天深度學習的輝煌。
展望未來,LeCun認為深度學習將繼續和晶元關係密切,隨著AI加速晶元的普及,人工智慧將能部署到更多場合;另一方面,隨著人工智慧演算法的演進,也會需要新一代的AI晶元,例如能高效處理動態網路、圖網路、稀疏網路等新架構的晶元,這一方面給晶元領域帶來的挑戰,但是更多的則是帶來了更多機遇。
在LeCun之後的第二位特邀演講嘉賓是來自於韓國高等科學技術學院(KAIST)的Hoi-Jun Yoo教授。Yoo教授是機器學習和人工智慧晶元領域的權威學者。早在21世紀第一個十年,當機器學習和人工智慧還未成為主流的時候,Yoo教授的研究組就已經在深耕機器學習和人工智慧晶元了,而在人工智慧獲得認可之後,Yoo教授的研究組憑藉早年的積累成為了ISSCC的常客,每年在ISSCC上都能發表數篇相關論文,而在今年更是被邀請成為特邀演講嘉賓。
Yoo教授的演講主要是關於AI晶元的,在回顧了之前自己研究組在可配置AI晶元、在線學習加速晶元、增強學習加速晶元領域的先驅性工作後,Yoo認為下一步的AI晶元研究熱點可能會走向類腦計算的方向,因為在傳統馮諾伊曼架構遇到明顯瓶頸之後,類腦計算帶來的高效率可能是下一步AI晶元效率進一步提升的關鍵。目前Yoo教授正在北京清華大學做訪問學者,讓我們期待他與清華大學的頂尖中國學者之間的合作能擦出更多火花。
在Yoo之後,來自埃因霍溫科技大學(TU/e)的Meint Smit為聽眾帶來了關於光器件與硅晶元集成的演講。眾所周知,數據中心是人工智慧時代的重要基礎設施,而數據中心中的高速光互連則是數據中心的主心骨。在過去,光器件往往使用分立元件,這就大大增加了光互連的成本,增加了部署難度,同時也部分降低了性能,最關鍵的是使用分立器件無法享受到半導體行業的摩爾定律高速發展。我們最期待的是能將光器件和基於硅材料的半導體晶元直接集成在一起,從而一舉解決分立器件的幾大問題。
硅光子雖然獲得了不少成功,但是相比InP工藝,其性能較為有限,因此這次Smit的演講中主要介紹的是使用wafer級別的集成工藝將InP光器件和CMOS晶元集成到一起,並實現光-電協同設計,從而實現最優性能,並且為光電行業的發展帶來新的活力。
最後,Intel為我們帶來了關於5G技術的展望。Intel在處理器之外,亟需找到下一個突破點,而在錯失上一波移動設備浪潮之後,Intel把賭注下在了智能化社會上面,而智能化社會則包括了人工智慧、IoT等關鍵概念,其中5G將是智能化社會的重要組成部分,也是Intel的發力方向之一。
隨著5G的到來,海量設備將通過mMTC接入5G網路,對於可靠性和延遲要求很高的行業應用(工業機器人,自動駕駛等)預計將使用URLLC接入5G,而消費類應用則可望通過eMBB來獲得更高的帶寬以提升使用體驗。在這裡,我們發現5G和之前1G-4G的關鍵不同在於,1G-4G的核心用戶是行動電話、簡訊、移動上網等消費類應用,而5G規劃中則是行業應用佔了主要地位。針對這三類5G的應用,Intel相應介紹了其研發動向,包括針對mMTC的超低功耗喚醒接收機,功耗可低至95uW;針對URLLC的高可靠性低延遲射頻SoC,針對sub-6GHz頻帶,其物理層延遲可低至1ms;針對eMBB則有使用毫米波頻段的MIMO陣列晶元,可以提供超高速無線通信。
當然,Intel最終的夢想還是希望能打通通信和處理器兩大市場,最終實現5G+AI的新範式。
AI晶元:進一步提升能效比
今年AI晶元相關的論文佔據ISSCC總論文數接近10%,其熱度可見一斑。在今年ISSCC相關的AI晶元論文中,主要還是面向終端計算,以提升計算效率為主,主流計算效率已經從2016年的0.1TOPS/W,2017年的1TOPS/W進化到了今年的10TOPS/W(清華劉勇攀教授甚至發表了140.3TOPS/W的AI晶元),而計算效率的提升則主要是靠稀疏化處理、混合信號計算以及內存內計算等方法來實現。
有趣的是,由於ISSCC的主要關注點是電路,因此發表的論文往往是電路優化關係較大的終端計算AI晶元;而使用在雲端的強算力AI晶元往往和處理器架構關係較大,因此往往發表在ISCA、MICRO、HPCA等計算機架構領域的會議上。
在今年的AI晶元中,三星發表的使用在移動設備中的NPU值得關注。該NPU在架構上相比之前傳統NPU的最大區別在於對於稀疏網路的支持,可以實現數倍的性能提升。此外,該NPU使用了8nm工藝,核心電壓可以低至0.5V,支持根據計算負載動態調整電源電壓以實現最優能效比。在75%稀疏度的情況下峰值性能可達6.9TOPS,而在處理非稀疏網路時也能實現1.9TOPS的峰值性能。應該說,作為來自工業界的設計,三星這款晶元在新技術的應用上屬於中規中矩,其主要優勢仍然是來自於工程上的高度優化,因此可以實現高達11TOPS/W的能效比。
同時,我們也看到,作為手機應用NPU,其峰值性能提升速度遠小於其能效比提升速度,這從另一個角度似乎也說明手機端的AI應用目前的需求對於AI晶元性能提升的推動力尚不夠強,手機AI的真正爆款應用還沒有真正出現。
另一個值得關注的方向是與新內存器件結合的人工智慧晶元。由於內存性能提升速度低於晶體管性能提升速度,因此在目前主流處理器基於的馮諾伊曼架構中,內存已經成為了整體性能的重要瓶頸。為了改善這個問題,新的內存器件,包括內存內計算,就成了學術界探索的重要方向。而在近幾年,隨著人工智慧主題的火熱,以及人工智慧計算會牽涉到頻繁的內存訪問,因此如何為了人工智慧計算優化內存器件以及整體晶元架構就成了關注的熱點。在本屆ISSCC上,計算-內存協同優化相關的論文共有七篇之多,其中即包括美國密歇根大學、中國東南大學等研究機構分別提出的帶有計算功能的SRAM MACRO,也包括台灣國立清華大學、美國斯坦福大學等提出的基於ReRAM器件的內存內計算。
在這些計算-內存協同優化的論文中,值得關注的是清華大學劉勇攀教授研究組提出的STICKER-T晶元,該晶元結合了多方面的優化。首先,在演算法上,STICKER-T支持CirCNN架構,該演算法架構對於深度學習中的權重矩陣拆分為多個自矩陣,並且通過訓練使得每個子矩陣都是循環矩陣,這樣一來傳統的矩陣相乘計算即可轉化為FFT+元素相乘+IFFT,從而極大地節省了計算量,同時對於分類精度的損失也在可控範圍內。
此外,STICKER-T使用了轉置SRAM (T-SRAM),T-SRAM可以實現按行寫入而按列讀出,從而大大改善了內存訪問效率。在結合演算法、電路和器件三方面的優化後,STICKER-T可以實現130TOPS/W的高能效比。STICKER-T的優越性能也告訴我們,如果能從上至下將多個層面的創新結合在一起,將釋放出非常大的能量,實現極大的性能提升。
醫療與健康:另一個藍海市場
除了AI之外,另一個本屆ISSCC關注的熱點是醫療健康相關的晶元,在ISSCC 2019共有三個相關議程(Diagnostics, Technologies for Human Interaction & Health以及Physiological Monitoring)。
在相關的論文中,我們看到研究者們的努力集中在分子級別診斷以及特定生理信號監控兩方面。分子級別診斷主要是指通過設計專用感測器和晶元,能夠快速讀出血液等生物樣本中是否含有特定成分,從而能快速實現診斷,以及幫助一些疾病的早期篩查。舉例來說,目前診斷細菌感染往往需要用病人的樣本做細菌培養,這樣的診斷需要花數天甚至更多的時間,從而為積極治療帶來了阻礙。而使用生物晶元則可以直接通過判斷血液樣本中是否含有特定細菌的DNA片段來完成快速診斷,從而將診斷時間縮短到了一小時之內。
這類生物晶元往往需要一些特別的生化感測器並且對於信號讀取電路的靈敏度有很高的要求,因此如何將這些生化感測器集成在CMOS晶元中並且設計相應的讀取電路就成了最大的挑戰。在今年的ISSCC,我們看到了來自於美國InSilixa、韓國延世大學、美國UCSD等研究機構帶來的論文,分別描述了用於常規DNA/分子檢測、VEGF標記物檢測和磁性免疫檢測的電路晶元,能大大縮短診斷的時間並降低成本和儀器體積。
另一個健康相關晶元的重要應用領域是生理信號檢測,例如心電信號ECG、生物阻抗信號BioZ和腦電信號EEG。ECG和BioZ檢測主要應用於可穿戴設備以實現心臟以及呼吸信號的連續監控,從而對於心血管和呼吸疾病的管理與監控。在這個領域,我們看到了來自歐洲IMEC、韓國KAIST和中國上海交通大學的相關研究成果,能以非常低的功耗(<1mW)實現高靈敏度的信號檢測和讀出,從而為可穿戴設備的健康檢測功能帶來新的進步。
另一方面,EEG則可以實現腦部信號的實時監控,並結合腦部電刺激對於癲癇等疾病實現閉環控制,我們看到了來自於美國哥倫比亞大學、UCSD和加拿大多倫多大學的相關論文。EEG除了做健康相關監控之外,可望還能實現未來的腦機介面,這也將是一個新機會。
結語
隨著ISSCC 2019落下帷幕,我們看到了過去一年半導體晶元研究的最新進展。今年ISSCC關注的兩大熱點分別是AI和醫療健康,這兩大熱點也分別代表了先進生產力方向以及人類對於美好生活的追求。歸根到底,晶元還是要以人為本。讓我們在新的一年繼續努力,也希望能在新的一年中看到半導體晶元行業更多新成果誕生。
※Adobe也考慮做晶元了?|半導體行業觀察
※知否,RISC-V晶元玩家有多少?|半導體行業觀察
TAG:半導體行業觀察 |