美國「炸彈客」預言成真!蓋茨、馬斯克提醒人類警惕人工智慧
在美國科羅拉多州的一所監獄裡,關著一名76歲的看似十分普通的犯人,罪名是殺人,刑期是終身監禁,不得保釋。然而,真實的他過往並不簡單,他從小就有數學天分,16歲就被哈佛大學錄取,20歲就拿到了數學博士,25歲成為美國頂尖大學加州大學伯克利分校史上最年輕的教授。如果按照這樣的人生軌跡走下去,他一定早已成為了美國上流社會中重要的一員。
希爾多·卡辛斯基
然而,在伯克利工作不到兩年,他就選擇了辭職,並從此離群索居,過上了自給自足的日子。在18年間,他一共寄出了16枚自製郵件炸彈,目標主要是大學的理工科教授,其結果是炸死3人,炸傷23人,他因此被稱為「大學炸彈客」,其全名為希爾多·卡辛斯基(Theodore Kaczynski),波蘭移民後裔。
而為了偵破這個案件,美國聯邦調查局花費了大量時間和金錢,他們動用了500多特工,查訪了成千上萬的自稱知情者,接了2萬多個熱線舉報電話,抓錯了200多個嫌疑犯,花費了500多萬美元,但卻一無所獲,因為嫌犯留下的線索太少了,因此該案被視為其歷史上最昂貴的調查之一。
為什麼一個有著如此高智商、且可以過上優越生活的卡辛斯基要選擇這樣的方式殺人呢?而且殺的絕大多數是理工科教授?
1995年,在其寄出兩個郵件炸彈,炸傷了加州林業協會總裁莫里,炸斷耶魯大學計算機教授加勒特的幾根手指的同時,卡辛斯基還向1993年諾貝爾獎獲得者、遺傳學家羅伯茨和夏普發出了警告信,要求他們立即停止基因研究。此外,或許是厭煩了外界對炸彈怪客的揣測,卡辛斯基亦寄出了一篇長達3.5萬字的文章,並承諾如果美國主流媒體一字不改地全文刊發,他就永久停止炸彈襲擊。
在引起輿論一片嘩然後,最終經美國司法部和聯邦調查局的同意,1995年9月19日,《紐約時報》和《華盛頓郵報》發表了這篇文章,題目是《論工業社會及其未來》(Industrial Society and Its Future)。讓人驚嘆的是,昔日卡辛斯基的預言正在當今社會成為現實。
而卡辛斯基在署名「FC」給《紐約時報》的信中則坦白了他實施炸彈襲擊的真實原因。「……一些新聞報道訛傳我們是在攻擊高等院校或者高級知識分子,其實不然。我們所攻擊的那些高校人士均為工業技術領域的專家。我們不希望人們錯誤地以為我們會傷害考古學、歷史學、文學等無害科學的學者。我們的攻擊目標是科學家和工程師,尤其是在計算機和遺傳學方面……。」
以這樣的理由實施犯罪估計卡辛斯基是開了先河。而這篇文章的發表,也使卡辛斯基的身份暴露:他的哥哥給聯邦調查局提供了線索,因為文章的寫作風格和論點與自己的弟弟很相似。1996年4月3日,卡辛斯基被逮捕,並被判終身監禁。
工業文明帶給人類的是災難
在卡辛斯基的這篇文章中,開篇即寫道:「工業文明帶給人類的是極大的災難。」「工業文明極大地增加了發達國家的人口預期壽命,但也破壞了社會的穩定性,令生活空虛無味,剝奪了人類的尊嚴,導致了心理疾病的擴散,還嚴重地破壞了自然界。」
他認為「自由與技術進步不相容,技術越進步,自由越後退」,比如在有了汽車後,城市的布局也發生了很大變化,大多數人的住宅已經不在工作場所、購物區和娛樂區的不行距離之內,他們不得不依賴汽車。也因此,人們不再擁有不使用新技術的自由了。
「在這個世界中,普通人的命運不再掌握在他自己手中,而是掌握在政客、公司主管、技術人員和官僚手中。以遺傳工程為例。很少人會反對消滅某種遺傳病的基因技術,但是大量的基因修改,會使人變成一種人工設計製造的產品,而不是自然的創造物。」
按照卡辛斯基的說法,如果基因技術變得成熟和普及,政府就將不得不對其進行管制,因為其一旦被濫用,後果不堪設想。如此一來,個人就沒有了選擇的自由,只能接受政府管制,其程度是前所未有的。最終,「技術完全控制地球上的一切,人類自由基本上將不復存在,因為個人無法對抗用超級技術武裝起來的大型組織。只有極少數人握有真正的權力,但甚至就連他們的自由也是十分有限的,因為他們的行為也是受到管制的。」
關於人工智慧,彼時卡辛斯基也做了這樣的設想,那就是「大概所有的工作都會由巨大的、高度組織化的機器系統去做,而不再需要任何人類的努力」。如果出現了這樣的情況,人類就不得不面對兩種選擇:一是允許機器在沒有人類監督的情況下作出所有決策;二是人類保留對於機器的控制。
在前一種情況下,人類可能會輕易地讓自己淪落到一個完全依賴機器的位置,淪落到不能做出任何實際選擇,只能接受機器的所有決策的地步。隨著社會及其面臨的問題變得越來越複雜,而機器變得越來越聰明,人們會讓機器替他們做更多的決策。最後,維持體系運行所必需的決策已變得相當複雜,以至於人類已無沒有能力明智地進行決策,關上機器就等於自殺。
在後一種情況下,一般人也許可以控制自己的私人機器,如自己的汽車或計算機,但對於大型機器系統的控制權將落入一小群精英之手,大眾成為了多餘的人。如果精英集團失去了憐憫心,他們完全可以決定滅絕人類。如果他們有些人情味,他們也可以使用宣傳或其他心理學或生物學技術降低出生率,直至人類大眾自行消亡,讓這個世界由精英們獨佔。
卡辛斯基表示,如果前面的假設不成立,人工智慧沒有取得成功,人的工作還是必要的,但是「即使這種情況,機器也將承擔越來越多的簡單工作,而低能力的工人將越來越過剩(正如我們所見,這種事已經發生了。許多人很難或根本找不到工作,因為他們由於智力或心理原因,而不能達到體系所需要的訓練水平)」。可怕的是,在機器接管了大部分具有真正意義的工作以後,留給人類的都是一些相對不那麼重要的工作。「人類如果最終以這樣的方式結局,那對於我們來說也實在是太可憐了,而且我們懷疑有多少人會覺得這樣的無意義的忙碌等同於充實的生活。他們會去尋找危險的其他宣洩途徑,如毒品、犯罪、邪教、仇恨群體等,除非他們經過生物學的設計改造後適應了這種生活方式。」
由此,卡辛斯基得出的結論是:未來要麼人類無法倖存下來,要麼個人空前地依賴大型組織,空前地「社會化」,人類的生理和心理是設計和改造的結果,而不是自然的產物。
他反覆提到,引入新技術一定要慎而又慎,「技術進步給社會帶來新問題的速度,遠比它解決舊問題的速度要快,技術已將人類帶入了一條無法輕易逃脫的死胡同。」「技術會有我們難以預測的長期後果。比如,抗生素的目的是消滅細菌,但是大量使用後卻產生了難以殺死的超級細菌,人們不得不限制抗生素的使用;再比如,醫療技術提高了人類的壽命,但也因此導致了地球的人口激增、社會老齡化、生育率下降等重大的社會變化,這些恐怕都不是技術的發明者能想到的。如果新技術(比如機器人技術、基因工程、納米技術)被恐怖主義組織掌握,後果就更可怕……。」
對於上述問題,卡辛斯基認為唯一的解決辦法就是放棄科學技術,「把這個腐朽的體系整個扔進垃圾堆,並勇敢地承受其後果。」在卡辛斯基看來,這個體系「需要科學家、數學家與工程師,否則就無法正常運作」,因此他才選擇這些人作為襲擊目標。
卡辛斯基文章帶給人們的思考
不知幾十年後的世人讀到卡辛斯基的文章後會作何感想,因為其文章中提到的種種現象已經或者正在成為現實,互聯網和人工智慧的高速發展,基因技術、納米技術等的推進,正在讓人類對於科技無比的著迷。看看當下智能手機的普及,以及「低頭族」的比比皆是,人類正在不知不覺中失去自我,正在加速自我的毀滅。
事實上,就在1995年文章發表的那一年,許多人也被其震撼了,因為他們沒有想到,這竟然是一篇很有說服力的文章。「有些人哭了,少許人欣喜,絕大多數則是默默佇立著一言不發。」不少主流人士承認,文章中的推斷不無道理。Java語言的發明人計算機學家 Bill Joy則說,他對文章預言的未來深感困擾。其後的電影《黑客帝國》等藝術作品都可以看到這篇文章的影子。
而今天,亦有許多業界領袖和學者公開表示擔心人工智慧未來會製造災難,其中包括著名物理學家史蒂芬·霍金、互聯網創新者及企業領袖埃隆·馬斯克和微軟創始人比爾·蓋茨。
霍金2014年曾寫道:「關於人工智慧的短期影響在於人類能否控制機器,而長期影響則在於機器是否能被控制。」馬斯科認為,發展人工智慧是在「召喚魔鬼」,「人工智慧比核技術更危險」,並表示將投資於太空設置,監控人工智慧。
蓋茨則說過:「我屬於對超級人工智慧充滿擔憂的陣營。如果機器能替代人類做事但沒有發展為超級智能,此時只要管理好這些機器,善於利用似乎沒有太大危險。但是,在幾十年的發展之後,人工智慧很可能強大到需要警惕的階段。」
物理學家、企業家、《人工智慧革命》一書作者路易?德爾蒙特(Louis Del Monte)在接受《商業內幕》採訪時表示,目前對機器允許擁有多少智能沒有規範,如果任其這樣下去,將如很多專家預測的那樣,未來最頂級物種不是人類,而是具有人工智慧的機器。他認為,這種現象最早在2040年出現,最晚不會超過2045年。他認為,機器將具有自我保護能力。它們看我們,就像我們以同樣方式看有害的昆蟲。它們認為,人類是一個物種,是不穩定的、造成戰爭、並使用電腦病毒的物種。
正是因為對人工智慧的擔憂,2016年3月,數百名專家曾在一封公開信上聯合簽名,呼籲各政府和國際社會對人工智慧的研究進行合理監管,確保最前沿的研究不會失控,對人類造成毀滅性危害。
※你以為的AI技術,其實是人偽裝的!
※晶元急不來,中美差距還有50年!
TAG:中國大數據 |