深鑒科技姚頌解讀AI晶元：只看晶元這兩個字，公司會死掉的

深鑒科技CEO姚頌

編輯 | 都保傑

微信 | ai_xingqiu

網址 | 51aistar.com

大家都把我們叫做人工智慧晶元公司，其實這個概括比較粗略。

最近的一個大事情是我們在7月18日宣布公司正式被美國Xilinx(賽靈思)收購，行業內也給了非常多的評價，包括業內另外一家公司寒武紀的陳雲霽老師也說，這可能是中國科技史上比較正面、積極的一個範例。

AI晶元是當前非常非常火的一個話題，火了一年多，又因為今年的一些熱點事件大家也更為關注這個領域。因為這個領域技術細節非常多，大家會經常搞不清楚，感覺隨便來了一個公司，不是AI公司就沒法兒在這個市場上混，又來一個新的AI公司，不做晶元也沒辦法在市場上混了，這裡面的坑確實非常多。

回到最根本的問題上還是要搞清楚一個概念，什麼叫AI？我們今天在談論AI的時候，可能更多講到的是機器學習、深度學習，甚至再往下又有深度強化學習等等，AI實際上是一個非常寬泛，非常虛的一個概念，我們需要更深入地看它到底用哪些機器學習的方法，目前最核心的，效果最好的是深度學習，深度學習又分為推理、應用，我們用大數據去算一個演算法，拿這個演算法做一些實際的應用，演算法有成千上萬種數不清的神經網路，再加上其它的演算法運行框架，又可以搭建不同的運用，AI的範圍實在是太過於廣闊了。

如果從一個做AI晶元的角度，直接看坐標軸，最左邊是最通用，比如常說的CPU，所有的人工智慧演算法都能夠跑。如果在中間，比如只跑機器學習，我也可以說只跑深度學習，深度學習也分兩個階段，一個叫訓練，一個應用，可以只跑訓練，也可以只跑應用，晶元可以跑一種神經網路，也可以跑多種神經網路，所有的這些現在被大家糅雜起來叫做AI晶元。

因此當大家看到這樣一個概念的時候，需要認真的問一問，你支持的是怎樣的功能，你支持的是機器學習，還是應用學習，是多種演算法還是一種演算法，因為它的開發難度、開發周期、實用性應用場景可能會千差萬別。

1

大家經常說這是一個所謂的彎道超車的機會，但實際上做這個東西非常困難，我們公司發展其實分了好幾個階段，這個為什麼比開發傳統的晶元還要更為困難呢？我舉一個例子。

以CPU的公司為例，談到CPU公司的時候，大家想ARM和英特爾公司，ARM會開發處理器的設計，但不會把這個晶元生產出來，它是以一個IP的形式授權給客戶，客戶把它生產出來，它也不會開發操作系統，也不會開發私語言的環境，這些東西交給下游公司去開發，把指令集協議做好，把架構設計好，除此之外不是它必要的。

英特爾更多的往下走了一步，可以把晶元實際生產出來，為什麼它可以做這樣的一個事情呢，因為指令集是一個非常好的介面。CPU要求的是什麼東西都可以跑，當你定義了中間這樣一層東西的時候，只需把握中間核心這一層，CPU的公司就可以專註的做好這件事情。

如果是一個什麼東西都能跑的晶元，可以把晶元的設計和應用區分開。但作為一個小的晶元公司，你不可能有一個像Windows的公司來支持開發，沒有一個wintel聯盟，也沒有開發一個編程的環境自己去開發軟體，也沒有公司說給你開發上層的APP或者軟體，沒有形成像英特爾、ARM這樣的生態系統。

如果我只做IP核，大家想ARM一年的收入是多少，一年賣出幾十個億台設備，最後收購的估值也就300億美金，離英特爾特別大。哪怕一年全球幾十億的設備，總收入也是不高的，為什麼？IP核授權給客戶生產，把IP交付給客戶，也就是說收入產生會很慢，ARM這樣一個公司也是做了好幾十年才慢慢到了現在這樣的地位。

所以我們發現，如果你作為AI晶元公司，你要考慮到底是做哪幾層，如果只做到IP核層面，不把晶元做出來，一個是收入規模嚴重不足，量也很少，每一個晶元收的錢也非常少，收入會非常滯後，把晶元生產出來已經一年以後了，讓生產出來的晶元被系統和解決方案公司用到他們的產品裡面又一年過去了，當你的晶元設計完到實際收入產生可能起碼就兩年了，這時候你需要考慮是不是把晶元做了，把IP做了，把系統也做了。因為你的指令集沒有人開發Windows，都沒有人做這個誰來開發軟體？

你得給客戶看到很漂亮的案例，這時候你說是不是得把演算法庫，找一些應用的案例來做，這是一個非常複雜的問題，你得把晶元、系統、軟體甚至把演算法和解決方案全都給做了。

另外一個事情是，我們要探索怎麼去把商業這個事情做好，從技術到產品、到商品又是另外一個階段的事情。比如我做了一個自己覺得性能特別好的晶元，但它可能不一定是客戶想要的，因此你很多時間要去理解客戶，能夠接觸到客戶真實的需求，才能最終把客戶綁定到產品上。

2

我做了一個產品的分層：第一層是可用的產品，第二層叫好用的產品，第三層叫用戶愛用的產品，第四層是客戶離不開的產品。

用支付寶舉一個例子，比如說支付寶可用，什麼叫可用？滿足一些基本的功能，只要支付寶能夠綁定信用卡、銀行卡來付錢就已經是可用的。什麼叫好用呢？能夠保證支付的環節是安全的，不會有人偷窺到帳號信息、密碼信息，這樣的一個過程是順暢的，不會出現BUG這是一個好用的產品。如何讓用戶有一個非常好的用戶體驗？比如現在掃二維碼，這樣的時候還沒有很強的用戶聯繫，因為支付寶可以掃描，微信支付也可以，隨時就切換了，於是支付寶又做了很多其它的功能。比如芝麻信用，利用這樣一個信用體系可以租房、貸款，可以有很多行業應用，也放了很多理財、買基金等等各種應用，把錢放在上面的時候還會錢生錢，比放在銀行好，這時用戶才會真正離不開它。

對於AI晶元來講也存在這樣一個問題，但一些人只關注了最基本的東西，我的晶元能夠跑人工智慧演算法，而且能夠跑的很不錯，這樣的產品是毫無競爭力的。

首先要讓用戶好用的話，必須要有一個比較好的開發流程。有兩個特別典型的GPU公司對比，一個叫英偉達，一個叫AMD，在人工智慧時期英偉達追著AMD打，AMD要跑人工智慧，所有代碼得手寫，這個流程比英偉達差太遠了，根本沒有一個人性化的開發流程，用戶都不能說這個晶元好用，只是說性價比還可以。

英偉達的GPU有自己的開發流程，買任何一個GPU上面的軟體是不用改的，就像買任何一寬英特爾的CPU一樣，三年前寫的GPU程序也能在現在的GPU上跑的很好，哪怕是一個菜鳥，怎麼用GPU跑一些程序，可能幾周就能用的很熟了，用戶體驗非常棒。

為什麼英偉達在人工智慧晶元領域佔據了99%的份額呢？有一些巧合的因素，也有不斷沉澱的因素。大家看到當時第一個深度學習的神經網路突破，深度學習開發的軟體，一個學生做的現在在Facebook，正因為它好用大家就開始用，在開源網站上進行了無數個開源項目，積累了非常好的經驗，在這樣的條件下，用戶就真的很難離開它了，英偉達在這個行業里也佔據了非常強的競爭力。

我個人的觀點，在很多採訪的時候也說過，不可能做一家公司正面挑戰英偉達，除非用一個壁壘性的東西把它擋在門外，能做的是要找到英偉達的社區，英偉達的壁壘還沒有設立那麼高的垂直特定行業，或者英偉達優勢發揮不出來的特定場景，在這樣的範疇里你才有可能打敗它。

3

用戶到底需要的是什麼，這是一個非常有意思的事情。包括當時我們在談天使輪融資的時候，深鑒科技都是我們原來在清華、斯坦福的一幫人寫了一個BP，我們做了一個技術，這個技術好，可能被用在ABCD等等這樣的環節。

所有做技術創業的，很多人都是從底往上思考，但是如果你真的在行業看的話，最終的這個產品用到哪個環節，這裡面跟你設想提供的產品方案可能差的非常多。

以安防行業為例，最終的用戶是政府和公安，政府和公安需要做一個智慧城市的項目，做一個智慧監控的項目，這樣一個大的系統裡面分很多東西，比如要採購攝像頭的硬體，要採購伺服器，採購視頻管理軟體，中間還有一個東西叫NVR，所有的視頻99%可能是存儲在本地的，如果小區的視頻可能存在小區的保安室，晶元可能是被用在伺服器裡面，可能會被用在NVR裡面，可能會被用在攝像頭裡面，但在那裡面肯定不止AI計算這樣一個功能，肯定還要有降噪，有數據傳輸介面，要提供完整AI模塊，視頻總得傳到晶元上，人臉識別演算法把硬體做好還得有一個軟體，這裡面差了非常多層。

離最終用戶越近一定是收入越多的，當然難度也越高，要做的系統整合工作也越多，如果你離客戶越遠，產品出來到真正大規模收入回來的時期越長，要做到盡量的減少客戶的開發以及能夠儘可能的增加收入。

另外一部分事情，大家會發現晶元開發的過程中會有一個很奇怪的事情。晶元公司是晶元公司，軟體演算法應用公司是軟體演算法應用公司，這就導致我如果要做一個晶元，能被更多的人用起來，好多人會有不一樣的需求和打算，我不知道晶元到底能不能滿足他們，或者又在滿足他們各種要求的情況下，我的晶元不能夠做的特別好。

比如說英特爾一個競爭優勢也是歷史最大的包袱，它的兼容支持過往幾十年的英特爾的架構，變得越來越臃腫，大家說就是在擠牙膏。於是開始有一些公司開發晶元特別的迅猛，比如谷歌開發的TPU晶元，TPU晶元一出來，這個性能這麼好，他們大概2014年做晶元，幾年時間就能跟英偉達打平了，這個趨勢就是因為大家開始考慮我做晶元是不是不用支持所有的東西。

英特爾開發的晶元要考慮各種各樣的應用，谷歌在開發晶元的時候只需要滿足自己應用的東西，限定了範圍。告訴你我只能用哪些演算法，是針對哪些演算法來優化的，包括我們在做的很多事情也是，我們把演算法和晶元放在一起做一個完整優化的呈現，大家發現這樣做出來的效果整體是最好的。

我們公司非常核心的一個技術叫深度壓縮。一個簡單的啟發式的想法，據不同研究，人腦有300億到800億個不等的神經元的數量，但是在人的真正日常思考中，你的大腦只有5%左右的神經元是激活的，其實大腦95%的部分是在休眠的，這個概念也可以被延伸到所謂的深度學習人工神經網路裡面。當你具體應用的時候，你會發現，其實裡面大部分的參數對於實際結果沒有影響的，我們可以把無關的參數刪除，刪除以後就變得不像是晶元日常見到的那種文件格式計算的方式，這個時候再考慮上層的晶元架構再如何設計，這兩個結合在一起可以取得非常好的效果。

4

大家印象中的英偉達公司到底是一個怎樣的公司？是一個GPU公司，還是一個顯卡公司。我們有一個合伙人韓松的導師是英偉達的首席科學家，號稱GPU之父，我自己當面問了這個問題，大家叫你GPU之父這個詞對不對，他說還是不對的，應該叫GPU計算之父。其實，英偉達現在的核心競爭力完全不只是在晶元這一側了。

首先，你去開發AMD，它是沒有一套開發指令集給你隨便寫程序的，英偉達的GPU就有，你可以自己寫程序，任意的在上面加速，但是能做這樣一個開發的人很少，還是需要學很多底層的知識，所以它做了各種各樣的「圖書館」，專門用來做神經網路，當你需要做神經網路比如說某一層的計算，底層只要調一下CUDA（CUDA是由NVIDIA推出的通用並行計算架構，該架構使GPU能夠解決複雜的計算問題）即可。

怎麼樣把它普及到各種小白客戶呢？比如說Caffe 、DL4J等等。這個時候我們可以看到，哪怕高中學過一點計算機編程的，或者大一、大二剛接觸的同學，照他的指導把驅動安裝好，就跑起來了，已經非常非常方便了。包括在自動駕駛領域，硬體感測器都布置好了，把英偉達的東西買過來簡單寫幾行代碼就能跑起來了，所有人都覺得這個非常好用。

大家在想英偉達到底是一個GPU公司還是一個軟體公司還是一個平台公司，這個定義是非常重要的。當時我問Bill Dally（NVIDIA 首席科學家）一個問題，晶元和軟體的比重是幾比幾，他說我不能告訴你。我們跟英偉達的高管們私人關係還很好，當時我判斷英偉達會在兩年內賣一個沒有GPU的晶元，在今年1月份英偉達就公開了基本沒有GPU的晶元，這就是Drive Xavier，它有10個DLA，是一個深度學習加速器，它不是GPU，有1.3個TFLOPS，有20個tensor Core TOPS，整個晶元裡面只有510個CUDA，所有的計算都是針對於AI設計的晶元。你會發現英偉達已經不再是一個GPU公司，已經是一個系統公司，已經是一個軟體公司，從應用需求定義系統架構，這代表了整個行業思路的一種變化。

我們的投資方也是收購方，我們的母公司Xilinx，大家印象中這是一個老牌晶元公司，他們今年1月份做了一個非常大的變動。1月份換了一個CEO叫Victor Peng，八年在Xilinx負責的軟體開發工作，這是一個標誌性的事件。他上台以後大家發現，Xilinx的口號發生變化了，現在主動去做各種各樣的軟體，主動尋找合作方，面向不同行業的解決方案，包括開始做電路板，把整體的板卡都做了。

必須要超脫晶元本身才可能有競爭力，才可能是被用戶真正需要的一個東西。

5

最後想講一個行業的新思維。現在整個行業老是在說AI晶元，大家會產生一個很大的問題，我覺得最根本的問題有兩點。

首先，大家經常誤判晶元的研發難度和研發周期，我覺得這是很多非晶元行業的人來做創業的非常大的問題。

高通開發一款晶元的平均周期是五年，晶元是有一定固有周期的行業，任何一款晶元開發，哪怕不算基礎研發兩年，算上基礎研發是三年、四年，是一個周期很長的行業。由於有了晶元長時間的周期，而在人工智慧這樣一個演算法迭代無比迅速的行業，新的晶元一定做出來就落伍了，這是一個非常大的問題。

這裡面的解決方案，包括我們自己公司原來一直在嘗試的事情，我們必須要認真的走到行業裡面去，走到你的應用層面去，真正看到應用是什麼，要從一個晶元公司變成一個系統公司，變成一個解決方案的公司，這樣你掌握了整條堆棧的時候，你才能確保晶元被產品給用起來。

所以一個正常的做晶元的思路是怎樣的呢？這邊可以給大家舉一個小的例子。像大基金投了一家印表機相關的，耗材還有設備的公司納思達，為什麼集成電路大基金會投列印相關的公司呢？因為這家公司發現一年要用幾千萬顆印表機耗材晶元，任務是比較明確的，自己把這個東西做成晶元不就好了嗎，節約了成本，效果也變得更好，所以真的就把晶元做出來了。

這是一個市場上原來開發晶元更常見的方式，也是人工智慧行業一直存在的問題，大家一直在拿著鎚子找釘子，貌似整個市場也詬病人工智慧行業落地難，收入不足，因為沒有沉到真正的商業邏輯中把產業鏈打通，把產業鏈打通是非常困難的，而且難度在一步一步提升。

其次，大家去想，做的非常好的單一晶元能夠活得很好的公司有哪些？可能只3家公司，ARM、英偉達和英特爾，其它做的特別大的並沒有。大家覺得高通做的非常好，高通的晶元毛利潤非常低，更多的收入來自於授權補貼。大家如果想做系統的公司有哪些？我覺得數量可能會比這個多，比如說IBM等等，整體規模也會比做晶元更大。很多晶元公司確實在嘗試往上走，從一個晶元公司走成一個系統公司，這樣可能活的更長久，收入更高，利潤更高，更有黏性。

對於大家來說，首先晶元的技術難度已經很高了，晶元要做到跟英偉達相比真的有競爭力是相當難的事情，大家不要相信很多PR的新聞稿，不要相信BP裡面寫的那些數字。

要把晶元做好還得把晶元本身做好，把系統做好，把軟體做好，商務還得真找到一個垂直的東西，這是一個非常困難的事情。所有的公司都要做非常充足的準備，包括深鑒，最開始我們從壓縮的演算法，從一些架構開發，也一步一步做到板卡，做硬體，做軟體，最後在客戶那邊拿到了一些訂單，也是這樣一步一步走來的。

當大家說晶元的時候一定不要只看晶元這兩個字，如果只看晶元這兩個字，這個公司會死掉的。

如果你想了解最前沿的AI技術和場景應用

一網打盡AI世界的前瞻科技和深度報道

歡迎關注AI星球，並轉發朋友圈為我們打Call~~

你們的支持是我們創造優質內容的不竭動力

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！