和《未來簡史》作者聊完AI，我覺得自己會愛上一台冰箱
人們常常擔心機器冷酷無情，但問題可能恰恰相反。
文| 龍真梓
翻譯 |秘叢叢 李勝楠
頭圖來源 |Pixabay
2119年的一天，氪市法院審理了這樣一樁離婚案。原告A，一名65歲的男性，向法院起訴自己的妻子婚內不忠，請求法院判決離婚。然而，導致兩人感情破裂的「罪魁禍首」卻是一台冰箱。
也許生活在2019年的人，會對這個案件感到不可思議。但在《未來簡史》作者尤瓦爾·赫拉利的判斷中，100年後人類夫妻因愛上電子設備而感情破裂，卻可能會成為一個並不罕見的現象。
尤瓦爾·赫拉利，這位來自以色列的作家，因為寫作「簡史三部曲」在全球聲名鵲起。在「三部曲」中，赫拉利從十萬年前地球初現生命跡象開始回溯，一路猜想到人類長生不老之後的生活。作為一名深諳歷史規律的作者，赫拉利對未來的猜想建立在對過去的追問上。然而歷史的隱喻卻讓他對未來——那個人類與AI並行的世界，難以做出徹底樂觀的判斷。
他認為，21世紀的人類智慧仍然參差不齊，倘若此刻AI的巨大能量被共享，將很有可能創造出像晶元一樣運作的人類。這種「晶元人」會缺乏同情心、藝術敏感等細膩的人類情感。換言之，AI的進步很可能會造成人類本身的「降級」而不是「升級」。
另外，一些大型魔幻主義現場也會空降人間。比如，最理解我們的人不再是親人和愛人，而是你的電腦、洗衣機，還有冰箱。想像一下，當飢腸轆轆的你深夜到家，電腦自動播放讓人放鬆的歌曲，洗衣機已經洗好、疊好所有的衣物。冰箱就更貼心了，它早就將你的健康情況和飲食習慣牢記於心，用一碗溫度剛好的晚安粥，代替了並不健康的奶茶。這時，你看到正和機器人一起打遊戲、卻對你不聞不問的丈夫。倘若這樣的生活日復一日，有一天你對冰箱的愛意超過丈夫，也並不是那麼難以想像了。而這只是未來社會魔幻的一角，等到人類和機器共生的那一天到來，機器也許將不再是機器，人類也許也不再是人類。
「相信我們很快就能掌握大規模監控和操縱人類情感的技術。但我們仍然缺乏使用這種技術的智慧，因為我們對人類幸福和苦難的深層來源知之甚少。」這是一個典型的赫拉利式警告。
以下為訪談中的關鍵內容，經36氪編輯略有刪節：
36氪：AI已經離我們的生活越來越近。在你眼中，人類和AI的相處方式應該是怎樣的?
赫拉利：首先我們應該承認，在很多領域人類將無法與AI競爭，很多傳統的人類工作將自動化。在這一點上欺騙自己，是沒有意義的。
其次，我們不應恐慌。AI在很多方面的崛起非常有益，比如它能更安全地駕駛汽車，提供更好的醫療護理，還能幫助人類解決生態危機，這些都是很棒的事情。
第三，我們也不該過於樂觀。人工智慧的崛起確實會給人類帶來很大危機，我們應該對這些危險有清晰的認識，並集中精力尋找解決方法。其中一個危險是，人工智慧可能只會讓一小部分精英變得強大，而大多數人將變得無用。我們必須確保所有國家和不同階層的人民能平等分享AI帶來的巨大利益。
另一個危險是，即使AI的巨大力量能被共享，人類仍會濫用這種力量。AI有智能，但不太可能擁有意識。因此，只有人類的大腦才能最終決定如何使用AI。不過目前人類的思維仍欠發達，不適合控制AI的巨大力量，這就像讓一個孩子開飛機。如果我們繼續在AI研發方面投入過多，而在探索人類思維方面投入過少，那麼複雜的人工智慧可能只會助長人類天生的愚蠢。AI的力量將把人類變成神，一個不滿足也不負責任的神。
36氪：也許沿著現在的發展路徑，人類會變得無用。但如果人類想要改變這種無用的「宿命」，我們可以做些什麼？
赫拉利：為了避免這種結果，我們每投入1美元和1分鐘來研發人工智慧，也應該同時花費1美元和1分鐘研究人類思維。但是，目前我們在人類思維的研究上做得太少。如果我們不夠謹慎，濫用了「升級」的計算機而讓人類「降級」，那麼將給人類以及整個世界造成嚴重破壞。
我們需要明白，在整個人類群體中，可以操縱並理解各種系統的智慧參差不齊。而且不幸的是，操縱比理解容易得多。這就好像在河上修建大壩，修建很簡單，難的是理解它對生態系統的影響。然而人類早在真正理解自身行為的後果之前，就開始操縱事物了。
過去，人類已經學會操縱自身之外的世界，比如控制河流、動物和森林。但由於不了解生態系統的複雜性，人類也濫用了自己的力量：我們使生態系統失衡，現在就面臨著生態崩潰。
36氪：你怎麼看待基因編輯？如果人類開放基因編輯，世界會發生什麼變化?
赫拉利：我認為現階段進行基因編輯還太危險。
遺傳學和AI將讓人類有能力重新設計身體和心靈，並能操縱情緒、思想和感受。但由於我們不了解內部思想系統的複雜性，就很可能會濫用這種能力。
例如，政府和公司可能會鼓勵發展智力和紀律，但卻沒有興趣培育人類的感性思維。這樣造成的結果是人類會變得聰明、紀律嚴明，但同時又缺乏同情心、藝術敏感性和精神高度。最後我們可能會失去很大一部分人類潛能，甚至都沒有意識到自己曾擁有過它們。
36氪：大部分技術誕生的目的都是實踐。我們眼前的問題可能只是在什麼時點去實踐它。你覺得什麼時候才是這個時點？
赫拉利：我建議直到人類對身體和精神有了更好的理解之前，都不要運用像基因編輯這樣的技術。否則，技術本來是為了「升級」人類，卻可能造成「降級」。人類在其他動物身上做的實驗已經證明了這一點。例如，人類培育了產奶量很大並且性格溫順的奶牛，但這些奶牛遠遠不比它們的野生祖先那樣靈活、好奇和機敏。同樣，我們現在正在創造馴服的人類，讓他們像高效的晶元一樣具備處理海量數據的能力，但這些數據很難將人類的潛能最大程度地發揮出來。
事實上，我們不了解人類的全部潛力是因為我們對人腦知之甚少。並且，現在有許多人認為提高網路效率比探索人腦更重要。
36氪：很多人看完《未來簡史》後，對未來充滿絕望，因為在書里他們覺得人類沒有未來。你覺得至少在現在，我們還應該對未來充滿希望嗎？這種希望應該建立在什麼基礎之上?
赫拉利：我們應該記住，技術永遠沒有確定性。在20世紀，一些國家利用電力、火車和無線電的力量創造了像納粹德國這樣的極權主義獨裁政權，而其他國家則使用完全相同的技術創造出了自由、富有同情心的社會。同樣，21世紀的技術也能創造出完全不同的社會，這取決於我們自己的決定。
最糟糕的情況是，人工智慧會把數億人趕出就業市場，這些「無用階層」的人們將失去自己的經濟價值和政治權力。與此同時，AI也會讓另一小部分精英人群升級為「超級人類」。再加上未來每個人的行為、思考都可能被實時監測，因此普通人類也許將無力招架這群「超級人類」。
最好的情況是，新技術不會造成「無用人類」和「超級人類」的區隔，反而將使所有人免於疾病和艱苦的勞動，更有精力去探索自己真正的潛力。在這種情況下，人工智慧雖然還會讓很多工作消失，但由此產生的利潤將會為每個人提供免費的基本服務；最尖端的監控技術也不會用在公民身上，而會用於監視機構以確保沒有腐敗；生物識別感測器也不是警察監視普通人的工具，反而能幫後者更好地了解自己。
36氪：現在看來，哪種情景更可能成為現實？
赫拉利：我們似乎正朝著反烏托邦的方向前進。目前來看，全球合作是有效監管此類顛覆性技術的唯一途徑。不過由於全球緊張局勢日益加劇，導致人類無法在國家層面上規範生物技術和人工智慧。比如，現在大多數國家都在禁止人類嬰兒的基因工程，但只要一個國家開了先河，很快每個國家都會跟風，因為沒有人甘心被落下。
36氪：如果未來人類能夠通過新技術(如放置顱內留電刺激器、植入晶元等)操控情緒，那感情也能被操控嗎? 親情、愛情、友情這些感情將何去何從?
赫拉利：這是我們面臨的最大問題之一。人類很快就會掌握能夠大規模監控和操縱情感的技術，但我們仍然缺乏使用這種技術的智慧。日常生活中的一個具體例子是：一旦機器比家人更了解我們，將會發生什麼？
我們都知道，人類渴望得到理解，常常希望身邊的人（母親、老師、妻子、老闆）可以理解自己的感受。不過在日常生活中大家都專註於自身，所以很多人常常無法理解他人的經歷。相反，機器可以直觸我們的心靈和大腦，同時又不會分心關照自己的情緒，所以它們能敏銳感知人類感受的微小變化。想像一下，當你下班回家壓力很大、脾氣暴躁時，也許你的丈夫沒有注意到你的情緒，但你的冰箱會立刻察覺並提供能舒緩心情的食物。這帶來的後果是，我們會完全習慣機器，同時又對他人極其不寬容。如果這樣的事真的發生了，會對人際關係和人類社會產生什麼影響？
人們通常擔心機器冷酷無情，但問題可能恰恰相反。更重要的是，對這些即將徹底改變政治、經濟和日常生活的事情，我們可能無力招架，因為我們對人類幸福和苦難的深層來源知之甚少。
「少數派的未來猜想」欄目介紹：
「少數派的未來猜想」是36氪一檔關注科技、小趨勢的全新欄目。在這裡，我們會採訪擁有聰明大腦的少數派，深入解讀他們對未來的猜想。雖然少數派們的面孔不一，可能是書籍作者、創業者，也可能是科研領域的行業專家。但相同的是，不論是大數據、雲計算、還是無人駕駛和5G，他們預測未來趨勢的靈感會在這裡閃光。
TAG:36氪 |