扎克伯格VS馬斯克：關於AI，道不同不相為謀

▼

【網易智能訊 4月2日消息】在公眾眼中，阿米什人（分布於美國、加拿大的基督新教再洗禮派門諾會的信徒分支）以放棄現代科技而聞名。事實上，許多阿米什農場里都能看見機器的身影：牛奶桶、機械攪拌器、柴油發動機等等都出現在了他們的穀倉和作坊里。

亞利桑那州立大學的社會科學研究員詹姆士·維特摩爾介紹說，阿米什人並不是真的反對科技，相反，社區必須投票決定是否使用某一特定的機器。因此，他們必須達成一致意見。

儘管外界可能會認為創新是件好事，直到現實給予人們當頭一棒。阿米什人首先會決定一項新技術是否會侵蝕他們想要保護的社區價值。一個阿米什人牧師告訴研究員維特摩爾：「我們所關心並不是個別技術，而是與應用這項技術相關的整個鏈條。」

這一想法在矽谷引起了共鳴。在矽谷，一場關於技術及其潛在非預期後果的辯論，正在把整個行業分成兩大敵對陣營——每個陣營都有一個大科技公司作為領袖人物。

一大陣營以Facebook的首席執行官馬克?扎克伯格為代表人物，他認為科技在本質上是好的，任何社會或道德問題都可以在剛出現時得到處理（最好在沒有太多監管的情況下）。矽谷也默認了這種理念，它通過烏托邦式的眼鏡看待未來：問題是過去出現的，未來並不會很快到來。

另一陣營以特斯拉和SpaceX的首席執行官埃隆?馬斯克為代表人物，他認為人們在處理人工智慧等技術問題時要謹慎，以免失去對自己產品的控制，並對扎克伯格的在線監控業務模式持保留態度。

他們兩人都不否認技術，事實上，雙方都堅持認為我們的未來取決於技術的快速發展（畢竟，馬斯克正在向星際火箭和新太陽能經濟傾注數十億美元），但是劍橋分析醜聞卻暴露了兩人之間的意識形態分歧，以及他們所代表的技術態度的差異。

諸神之戰

在劍橋分析公司醜聞爆發後的幾天里，馬斯克是Facebook上最引人注目的退出者之一。他選擇刪除了特斯拉和SpaceX兩家公司的Facebook賬戶，兩個賬號總共擁有約500萬名關注者。

他後來在推特上寫到：「我們從來沒有在Facebook上登過廣告。我們只是不喜歡Facebook。它讓我們覺得心驚肉跳。很抱歉。」（不過，他在Facebook旗下的Instagram賬號並沒有關閉，這裡的粉絲總量達700萬。）

這並不是馬斯克和扎克伯格第一次在公開場合互懟。在人工智慧安全問題上，這兩位CEO之間的分歧，如今已成為矽谷最受關注的行內糾紛之一。

馬斯克希望控制人工智慧，他將人工智慧稱為「人類文明存在的根本風險」。扎克伯格駁斥了這種觀點，稱其支持者為「唱反調的人」。在去年7月的Facebook直播中，扎克伯格補充道：「在某些方面，我認為這是相當不負責任的」。馬斯克則在Twitter上迅速發聲反駁：「我已經和馬克談過了，他對這個問題的理解很有限。」

兩人對科技風險和回報的看法都體現在各自的公司運營上。

扎克伯格以「快速行動，打破陳規」這句名言而聞名，Facebook從2004年的一項大學校園實驗迅速發展成為互聯網聚合器，註冊用戶超過20億。Facebook將世界視為一個無限的試驗，一種低風險、高回報的測試，這確實可以產生利潤，雖然並不是一直往前發展。

扎克伯格的主要關注點一直是向儘可能多的人提供數字技術的成果，越快越好。他曾說道：「我對此有非常強烈的看法。我很樂觀。我認為你可以做一些事情，世界也會因此變得更好。」

馬斯克的公司業務涉及電動汽車和太空旅行，在這些領域，即使是小錯誤也會帶來災難性的後果。如果特斯拉的座右銘是「快速前進，打破常規」，那麼沒有人會購買特斯拉汽車。

想想特斯拉發布Autopilot自動駕駛儀測試版的決定，這在某種程度上導致了2016年的那場悲劇。喬舒亞?布朗以每小時70英里的速度將他的特斯拉Model S撞到一輛拖拉機挂車上。這是首次有記錄的與自動駕駛有關的死亡事故。

美國國家運輸安全委員會將事故原因歸咎於駕駛員的失誤和對汽車自動駕駛的過度依賴，但該委員會也明確指出，特斯拉未能確保司機在高速行駛時注意駕駛安全，並且也沒有將Autopilot限制在合適的道路上使用。

2018年3月23日，在另一起致命事故發生後，Autopilot安全問題再次成為新聞焦點。特斯拉稱，在事故發生前，司機的手已經離開了方向盤6秒鐘。特斯拉推出Atutopilot的決定被認為不太成熟，它匆忙地想趕在競爭對手之前將自動駕駛專業技術收集起來。當然，這一決定也可能看成是儘快部署救生技術的真誠努力。

從哲學角度來說，馬斯克的公司是被一種「人類需要逃生艙」的理念所驅動的。這不是巧合，他的公司業務包括氣候變化和星際探索，更不用說人工智慧安全、腦機介面和地下交通了。他認為，人類滅絕的可能性比我們想像得要大得多，無論是因為科技對我們的物種造成的風險（比如溫室氣體排放或是背叛的機器人），還是因為自然災害（比如迷路的小行星）。

一位對兩家公司都很熟悉的矽谷知名投資者表示：「馬克的公司是圍繞快速發生、低價值的事情建立起來的，而埃隆的公司則完全建立在一個災難性事件可能發生的前提之上。反過來，這就是他們的盲點，歸根結底，你想要冒多大的風險，你願意承擔多少意想不到的後果。」

在扎克伯格的陣營中，有谷歌聯合創始人拉里?佩奇、發明家兼作家雷?庫茲韋爾，以及計算機科學家吳恩達。吳恩達是人工智慧領域的知名人物，曾負責百度的人工智慧部門。所有這三個人似乎都認同這樣一種理念：技術進步幾乎總是帶來積極的影響，而阻礙這一進步不僅是糟糕的，而且是有違道德的，因為它剝奪了整個社會的利益。

在另一個陣營中，與比爾?蓋茨、已故物理學家史蒂芬?霍金以及山姆?阿爾特曼和弗雷德?威爾遜等風險投資人並肩，馬斯克並不認為所有的技術進步都絕對是好事，因為這個原因，他們對監管持開放態度。

例如，在特朗普當選後，威爾遜對舊金山的聽眾說，雖然預期的監管回調可能會刺激創新，但這不值得：「我願意支付監管機構對我們行業的良好監管所帶來的稅收。」2017年，馬斯克向政界人士談到了掌管人工智慧的緊迫性，他在一次美國州長會議上對與會者說，「我一直在敲響警鐘，但直到人們看到機器人在街上殺人的時候，他們才會意識到手足無措。」

日益減少的樂觀情緒

矽谷兩大對立觀點的核心在於，最後究竟是誰來統治的問題：是我們統治技術，還是它統治著我們？矽谷的大多數人都和扎克伯格一樣，能在矽谷立足的總是那些相信自己能掌控自己和我們的命運的樂觀主義者。而矽谷也幾乎沒有空間讓人們自我懷疑，亦或是為自己的創造所帶來的負面影響感到擔憂。

這位投資者說：「如果Facebook、微軟、谷歌和蘋果這些公司的創始人不太相信自己能做一些有意義的事情，你就不會看到這些公司的出現。你必須相信，在每個人都認為自己會失敗的情況下，希望依然存在。你建立了一種文化，以及有意地去相信這種文化的公司。」

這一理念正是Facebook成功的動力，也是Facebook未能預見到其監控策略和隱私政策的後果，並且沒有考慮到新技術的風險的核心原因。扎克伯格在自家後院的燒烤派對中說：「相比建立企業或確保我們不會失敗，我確信我們對世界的影響更大，也更有動力推動改變。在我的生活中，我更擔心的是我們不會最大限度地利用機會，而不是把事情搞砸，生意做得不好。」

科技行業的清算

扎克伯格的觀點沒錯。樂觀對於技術進步來說必不可少。但是，伴隨著良好意圖而帶來的意想不到的後果會讓人們在晚上像馬斯克一樣夜不能寐。

今年2月，馬斯克在迪拜舉行的世界政府首腦會議上表示：「有時候，科學家會全神貫注地工作，以至於他們沒有真正意識到自己在做什麼。」今天，計算機科學家正在思考他們的領域是否會出現驚天動地的時刻。1945年，物理學家羅伯特·奧本海默在「三位一體」試驗基地上空觀測蘑菇雲，這是世界上第一次核試驗，他引用了印度史詩《博伽梵歌》中的一句話：「現在我變成了死亡，世界的毀滅者。」

前谷歌安全與隱私工程師約納坦·尊格爾將軟體工程師的力量比作「孩子們在滿是AK-47的玩具店裡」。他寫到：「對於軟體設計來說，現在愈發清楚的是，考慮安全與倫理的選擇而不是一些基礎性的選擇是多麼危險。計算機科學是一個尚未遇到後果的領域」。

我們輕而易舉便能了解下一波科技會如何發展。人類生活的方方面面，我們的食物、我們的工作、親密的互動、甚至是我們的DNA本身——正在、或者很快將被我們所擁抱的技術所調節。

機器現在可以識別語音和文字，圖像將是它的下一個目標。演算法知道你的臉，以及數百萬你同胞的面孔。他們可以更準確地推斷出一個人的收入、心理健康、性別、信譽、性格、感情等方面的信息。一些可能的發明，比如武器化的演算法，已經被比作「核武器，不過是破壞力更強的那種」。在接受《名利場》雜誌採訪時，薩姆·阿爾特曼描述了當時預期的危險，他說：「這是一個激動人心的時刻，因為在未來的幾十年里，我們要麼走向自我毀滅，要麼繼續人類的代代繁衍，最終征服宇宙。」

問題是，人類在預測和減輕新技術的危險方面的表現一直不太理想。當汽車首次被引入時，汽車給人類世界造成了幾十年的混亂，直到有人鼓起勇氣實施規則來管控。上世紀30年代，美國各州終於開始要求司機持駕駛執照方能上路開車，而系統性的聯邦汽車安全措施，比如系安全帶，則是直到20世紀60年代才開始實行。

我們可能沒有那麼多的時間去嘗試和適應新的技術。當機器人還不能打開門、Siri也難以預定餐館的時候，人們很容易嘲笑由人工智慧而產生的恐懼。但是，如果你接受的訓練是思考一個低概率災難所帶來的後果，在災難來臨之後，任何的修復是不可能的，因此，採用一個更黑暗的觀點是有道理的。最好是管控住這些可能造成災難後果的因素，而不是任由你創造的作品沒有任何束縛地進入這個世界。

阿米什人可能在這方面有話可說。研究員維特摩爾拜訪了不同的阿米什人社區，他想知道他們為什麼不買汽車，畢竟，他們已經接受了像柴油發動機這樣的技術。幾個阿米什人家庭在20世紀開始大規模生產時購買了汽車。但是社區很快就投票禁止他們使用汽車。為什麼？一個阿米什人說：「看看這些汽車對你做了什麼。你知道你鄰居的名字嗎？一旦你有了車，就再也不跟你的鄰居說話了。那不是我們想要的社會。」

選自：quartz

編譯：網易智能

參與：Rosie

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！