人腦拆機三部曲：為什麼我支持馬斯克，而人類應該畏懼人工智慧

就像所有人類發明的機器一樣，任何一個功能一旦被超越，人類再沒有機會反超回去了

新智元專欄

作者：謝丹

【新智元導讀】不可多得的好文，謝丹老師在這篇觀點鮮明的文章中，從歷史發展的角度闡述了人工智慧的發展。有非常多獨特的思考，比如人腦智能簡單說來還是三個部分：硬體、軟體和大數據，人類智能的發展大致是二十萬年前硬體ready（大腦的基因），2萬年前軟體ready（複雜語言的行成），5千年前開始大數據驅動（文字的形成）。此外，他認為，約束人工智慧大規模布置的原因其實已經基本不是硬體而是成本了。

GIF/38K

「在人工智慧一片叫好的合唱中，總偶爾有兩三個不和諧的聲音。這不和諧的代表在名人界是霍金，在企業界是伊隆·馬斯克。人工智慧圈內對霍金的反駁多是其為外行，不理解人工智慧的最新發展。對伊隆·馬斯克的反駁則溫柔得多，因為其公司特斯拉是人工智慧的大戶與前沿，是業內人士，不能以外行來簡單駁斥。」

這是比特大陸晶元研發總監謝丹向新智元投來的稿件的開頭。彷彿是為了配合這段話，馬斯克在推特上又更新了狀態，這次他說：如果你還沒開始擔心人工智慧的安全問題，那該開始擔心了。人工智慧比朝鮮「更危險」。

照片下面，幾個大字分外鮮明：最終，機器會獲勝。

本文作者謝丹，比特大陸晶元研發總監。美國矽谷8年晶元研發經驗，後擔任某初創企業研發總監，直至其上市。業界稱履歷某地區所有晶元設計企業的CTO；成功Tape-out數款晶元，工藝製程從0.35um至16nm；全定製、單元庫、定製模塊、圖形晶元、交換機晶元等多種設計領域的資深專家。

人腦拆機（上）：硬體、軟體和大數據

在人工智慧一片叫好的合唱中，總偶爾有兩三個不和諧的聲音。這不和諧的代表在名人界是霍金，在企業界是伊隆·馬斯克。人工智慧圈內對霍金的反駁多是其為外行，不理解人工智慧的最新發展。對伊隆·馬斯克的反駁則溫柔得多，因為其公司特斯拉是人工智慧的大戶與前沿，是業內人士，不能以外行來簡單駁斥。

其實，馬斯克和霍金還有個共同點：他們都是學物理的，他們的思維更多是物理學背景的思維。物理學的思維模式和學數學/計算機科學不太一樣，物理學家一貫覺得自己眼界遠些。在我看來，最近馬斯克在推特上被圍攻，真是物理學與CS關係的常見現象。

馬斯克在他的訪談中多次把自己的成功和遠見歸功於物理學思維方式，即第一原理思維。比如他的訪談中提到：我們運用「第一原理思維」而不是「比較思維」去思考問題是非常重要的。我們在生活中總是傾向於比較——別人已經做過了或者正在做這件事情，我們就也去做。這樣的結果是只能產生細小的迭代發展。「第一原理」的思考方式是用物理學的角度看待世界的方法，也就是說一層層剝開事物的表象，看到裡面的本質，然後再從本質一層層往上走。這要消耗大量的腦力。

如何看待人工智慧，在物理學的角度看，我們可以參考自然界的智能：人的智能。我們來拆拆人腦智能這個機器，看看造就它的基本原因是什麼？簡單分析下來，還是三個因素：硬體、軟體和大數據。

區分人以及黑猩猩的基因並不多，而且大多是身體結構上的。黑猩猩屬與人類有最近的共同祖先，研究指出人類和黑猩猩屬有99.4%的基因一模一樣，智商相當於人類5~7歲。這次進化分叉後直立人從大約8百萬年到百萬年間多次走出非洲但多次滅絕，直到20萬年前的一次成功出走。DNA分析現代人類都有著共同祖先，是大約15-20萬年前一男一女的後代，即所謂夏娃和亞當理論。我覺得20萬年前這個時間點可以算做人類的硬體ready的充分點：即從這個點之後，人類大腦硬體有了突破，智能相對其它生物有了強大的生物競爭優勢。

人類學家和生物學家一直想找到這個突破後面的機制，目前尚未找到。但是我們至少看到很強的證據：無論你怎麼培養/教育黑猩猩，甚至在多代的教育下，黑猩猩依然無法超過6-7歲的智力水準。因此，我覺得這個約束來自人類大腦的約束，是硬體的約束。

從20萬年前進入到2萬年前，人類逐漸從強大競爭優勢變成了壓倒性競爭優勢，人更多的戰爭來自人與人之間，而不是人與自然生物之間了。現代人的任何一支分支在某個地理都是處於該區域的生態鏈最高層。這段時間應該有另外一個飛躍，這個飛躍很可能是來自於人類大腦硬體的能力充分發揮。很多人類學家認為，這個因素可能是語言，有人認為是農業、宗教等。我們可以認為，因為複雜語言的出現，人的大腦智能得以快速的提升，可以認為是大腦軟體的成功。

更近的一次人類智能大飛躍，則比較清楚明確了：文字。在5000年前左右，人類開始出現文字，文字不僅可以將思想傳播從父傳到子，而且可以在群體內以及群體間傳播。人類的知識/智能在這之後基本就是一條方向線的發展，這個階段可以算是知識的積累。換句話說：這是個大數據驅動的人類智能的發展。

所以，總結下，人類智能的發展大致是二十萬年前硬體ready（大腦的基因），2萬年前軟體ready（複雜語言的行成），5千年前開始大數據驅動（文字的形成）。

人腦拆機（中）：進擊的人工智慧

我們再來看看人工智慧在最近的飛躍發展，人工智慧到了哪一步？

隨著學術界深度神經網路在圖像和聲音的效果體現以及2016年李世石與阿爾法狗世紀之戰，我們基本可以說，這是硬體和軟體都ready 了。特別是圍棋的突破，它的意義有兩個：第一，它和圖像與聲音這兩個學術界重重研究不同， 這基本是個新功能，它的成功表明了人工智慧的普適性。第二，圍棋是業界公認無法靠硬體突破的，所以它的成功可以標杆是軟體的ready。（因為在人工智慧成功之前，我們不知道到底是硬體限制還是軟體限制）

為什麼這兩點這麼重要？因為半導體有一個摩爾定律：每18個月性能增倍。這個翻譯過來，就是每5年性能提高10倍。

在深度學習之前，電腦圍棋的段位大致在業餘四段，行業內（圍棋界和計算機界）認為要達到世界冠軍水準大約需要20年。但是深度學習引入之後，2016年就戰勝了李世石，軟體提前了二十年的硬體發展。也就是說，這深度學習讓硬體可能提高了差不多一萬倍的效率。

然後在一年之後，新版的阿爾法狗就基本能讓柯潔三子了。（澄清：阿爾法狗和柯潔從未下過讓子棋，但是新版阿爾法狗可以讓舊版三子，柯潔私下說過讓兩子自己會輸，而且柯潔和阿爾法之戰完全無勝機，這是差三子水準的表現）。當然，這次飛躍的原因是阿爾法狗幾千萬局自我對局後的結果，也就是大數據驅動的智能上升。

所以在圍棋這個單一智能的表現上，人工智慧從硬、件軟體和大數據全面體現了其超越性。這其中，軟體和大數據的威力更是超出預期。深度學習軟體使得圍棋能力提高了萬倍的效率，那麼大數據提高了多少呢？圍棋在阿爾法狗之前的十年大約從業餘初段升到業餘四段，這是個相差兩子強三子弱的水平差。在一年之後的新版阿爾法狗能讓一年前版本三子，也就是說大數據一年的提高相當於硬體10年100倍的硬體提升。

在人類圍棋的歷史上，導致圍棋智能上升三子大概有兩次：一次是日本道策採用手割的原理，對圍棋子力的量化分析；一次是吳清源和木谷實提出的新布局理論，從全局地與勢的棋子配合進行局面分析。這兩次本身可能只有兩子的提高，但是之後眾人的完善則能造成3子的進步。從圍棋產生到道策大約是2000年的對局積累，從道策到新布局是近三百多年的對局積累，而阿爾法狗只花了一年。道策之前大約有幾千局對局棋譜，認真分析了大約幾百局；新布局之前大約有十幾萬的對局棋譜，認真分析了的大約幾千局；阿爾法狗通過數千萬的對局，認真分析多少不知。這似乎也表明智能的提升一個等級，數據至少要一百倍以上的差異啊。

三子在圍棋界中有個梗：圍棋之神能讓我三子。意思是任何一個時代最強大的棋手，在被問到與圍棋之神的差距時，都會回答大概三子吧。所以，當谷歌告訴中國棋院和柯潔新版阿爾法狗能讓舊版三子時，柯潔被嚇呆了。可惜，當神來時，中國棋院的選擇是分先下，稱之謂捍衛人類尊嚴。這樣被碾壓，不知道是怎麼捍衛了人類尊嚴。如果真進行了讓兩子和讓三子的比賽，或許真能逼出阿爾法狗的最強手段，讓我們能一窺神的境界吧。阿爾法狗在更多對局下還能再長三子的棋力嗎？因為阿爾法狗不再繼續研究圍棋，我們無法知道了。從大數據上說，估計阿爾法狗至少還需要再100倍以上數十億次對局的棋譜，才有可能。這個成本在目前太大了，估計沒有什麼意義。

在金融、自動駕駛、圖像識別、圍棋、語音識別、語言翻譯、疾病診斷等各個智能領域，現在人工智慧基本都到了這樣的地步：比大多數普通人強，接近專家水準，比頂尖專家差。這可能是因為這些領域中的大數據不可能像圍棋這麼容易快速獲得、遊戲勝負規則不是圍棋這樣能簡單易判斷造成的。但是，假設有更強大的硬體，更簡明規則/更優化的軟體，更長時間積累的大數據，理論上，人工智慧的進化是無限的。

在現在這個點，約束人工智慧大規模布置的原因是什麼？其實已經基本不是硬體而是成本了。要建一套頂尖的人工智慧，目前至少需要投資硬體、軟體、人員等1-10億美元以上。所以最開始被廣泛布置人工智慧的金融、搜索結果優化、自動駕駛等，都是能帶來巨大市場回報的。不過摩爾定律：每10年晶元降低100倍的價格，可以想像下10年20年後人工智慧的領域將會擴展到百倍萬倍更小得多的市場領域，應用場景無限廣泛。

更強大硬體、更優化軟體以及更直接大量的數據，人工智慧在每個方面的進步速度都遠遠地超過我們。就像所有人類發明的機器一樣，任何一個功能一旦被超越，人類再沒有機會反超回去了。

人腦拆機（下）：為什麼我們應該恐懼人工智慧

假設說，人工智慧只是能替代更多的工作，我們對其是不需要恐懼的。AI代替人類工作這種擔憂，就和自動化代替人類工作一樣，會被人類社會通過各種手段逐漸化解。現代科技的機械化和自動化大大地提高人類生活品質，從而導致人類社會文化的大繁榮，人類在現代社會中音樂文學藝術影視等非生產性的從業人數比例是一直上升的。即使少部分人會受到影響，人類社會整體在人工智慧發展中是會收益巨大的。

對於人工智慧把人類變成奴隸的擔憂，也基本不可能出現。因為無論是做為動力的蒸汽機還是做為智能的人工智慧，都有著一樣的弱點：功能極強大但轉化效率極低。單位能耗下的智能不僅與人類相差遙遠，而且估計可能永遠無法超越人類。人工智慧和所有機器一樣存在著能源獲得的約束、易被破壞、功能單一等不可克服的缺點。而且人類做為一個整體，智能是非常睿智的，對於邪惡的人工智慧這種可能，相信人類是能夠找到預防和隔離的辦法的。

其實人工智慧真正的危險應該來自：邪惡個人控制的人工智慧。當20年後，要開發一套新功能的人工智慧只需要幾萬美元，各種調試軟體的辦法更加成熟，數據無比豐富。一個瘋狂科學家（mad scientist）是很可能通過人工智慧對社會帶來強大的破壞性。這本來就是現代科技與現代社會的弱點：毀滅與建設的成本對比是不斷下降的。比如911 恐怖襲擊後，為了防止下一個911，投入的成本與恐怖分子投入的成本比例估計是上萬倍了。

假設瘋狂者把人工智慧應用在設計傳染性更強死亡率更高的病毒、尋求人群密度更高的恐怖襲擊、能自己行走自己尋找目標的人工智慧自殺炸彈、更挑動人群情緒的釣魚謠言、能更有效洗人頭腦的廣告宣傳、散布偏見與仇恨的思想、研發製造原子核武器等等。這種邪惡個人控制下的人工智慧，才是各個政府與社會最頭痛的，我們如何防止最可怕的後果，才是人類社會最大的風險。

人工智慧不能毀滅人類，但是人可能毀滅人類。正是對此後果的畏懼，才使得馬斯克投入大量資金去研發航天火箭。防止某些人毀滅人類，或許隔離才是最有效的措施，人類現在能看到的最嚴密的隔離大概就是星球間的間距吧。（如果是人工智慧毀滅了人類，星球間的間距根本無法阻止人工智慧的進擊）

這是馬斯克的遠見還是他的杞人憂天，我們大多數人有生之年就可能看到結果的。

【號外】新智元正在進行新一輪招聘，飛往智能宇宙的最美飛船，還有N個座位

點擊閱讀原文可查看職位詳情，期待你的加入~

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！