人如何與自己創造的技術和睦相處？

科技與人文

猶如人類社會發展的兩個車輪

「科學技術是第一生產力」，這句曾經改革開放之後在中國的大街小巷都能看到的標語，已經得到了中國人的認同。科學技術自從工業革命以來，也確實在不斷地主導著人類發展的主旋律。

然而隨著人類科技發展到了今天的水平，人類本身似乎已經跟不上技術的腳步了。在中國，人們對技術和人之間的關係的研究還很不夠，因為技術突破導致的社會問題和道德討論也不少。

該怎麼辦呢？

技術無善惡，人性有選擇

人類技術的進步，總是伴隨著巨大的爭議而存在。技術本身並沒有什麼善惡，但是因為技術被懷有不同目的人使用了，它就會造成或好或壞的影響。有時，則是因為人類社會對技術的限制框架不完善，導致技術與社會現實不匹配，釀成惡果。

咔嘰~~~~

看看自動駕駛近年來遇到的問題就知道了。這項熱門技術在商業化和技術完整度的道路上快速推進，但人類現有的道德與法律卻出現了空白，難以與技術的突飛猛進相匹配。

今年3月18日，Uber自動駕駛汽車在美國亞利桑那州的一起事故中撞死了49歲的行人伊萊恩·赫茨伯格(Elaine Herzberg)，發生了已知的首例自動駕駛汽車致死事故。當時汽車監管員在看手機視頻，沒有關注路況，而無人汽車也沒有識別出路面上的行人，直接撞了上去。

ABC15 報道截圖

遇到行人的車卻絲毫沒有減速

闊怕

雖然Uber最後通過庭外和解和賠償安撫了死者家屬，沒有把事故鬧大，但只要人們仔細想想就會發現這個問題沒有這麼簡單。如果家屬不要賠償，一定要鬧上法庭，法官又該怎麼裁決呢？Uber公司當然要承擔監管不力的責任，但車內的監管員和無人駕駛系統，以及無人駕駛汽車背後的技術團隊、元器件供應商又該承擔什麼責任呢？

Uber公司及CEO的事後推特內容

無非就是表達一下人道主義關懷

細思極恐是不是？人類現有的法律出現了如此大的空白，與技術嚴重不匹配。

這也不是自動駕駛汽車第一次發生事故了，在各大自動駕駛汽車開發公司的實驗歷史上，都出過一些紕漏。而且有趣的是，這其中因為自動駕駛汽車故障導致的事故並不多。

涉及自動駕駛的絕大部分事故，原因都是人為操作失誤。比如去年11月份一輛法國NAYAVA公司運營的自動巴士和一輛貨車相撞，警方最終判定是人類駕駛的貨車違章行駛。但雖然自動駕駛沒有過失，它的駕駛模式如果不能適應當地的人類駕駛員，事故還是難以避免，技術就難以令人信服。

這就是因為技術的不斷進步，導致了人類社會規則與技術之間脫節造成的後果。很多人就此唱衰技術的未來，也有人因此認為人類需要做出讓步，比如馬斯克曾說，在無人駕駛技術成熟後人類駕駛汽車出街就是違法的。

這時候，無人駕駛如何避免別有用心的黑客、如何設計合理的指揮系統調度汽車、如何防止計算機產生對人類有敵意的自主意識，就又是一個嚴肅的技術問題了。

避開障礙物的技術難題倒是解決了

這些問題有點燒腦，本質卻是一樣的：人類未來的法律法規、社會規範需要隨著技術的進步不斷跟著進步，從而讓人類安全地享受技術爆炸帶來的美好生活。

機器人服務於人類，本該如此。

真實版機器人三大定律

好在並非沒有人關注到這個問題。

從技術正式影響人類生產力之處開始，許多有識之士就開始關注科學倫理的問題，為未來的技術發展做好框架準備。

1942年，阿西莫夫在《我，機器人》的一部短篇中第一次提出了著名的機器人三定律，亦即：機器人不得傷害人類，或坐視人類受到傷害；除非違背第一法則，否則機器人必須服從人類命令；除非違背第一或第二法則，否則機器人必須保護自己。

我，機器人

我，最靚仔

在最為經典的《基地》中，阿西莫夫還給這三大定律加上了發人深省的故事背景：由人類創造出來的機器人丹尼爾，在人類制定的這三大定律的指導下，啟發主角謝頓發明了《基地》系列中的核心線索心理史學。這後來成為了「機械倫理學」的基礎，指導人類去思考如何善待加利用機器人。

屬於未來的男人

科技的預言者

此後接過思考火炬的，是六七十年代的科學哲學家們。以費耶阿本德和托馬斯·庫恩等人為首的科學哲學家，通過對科學本質和技術進步方式的探索，發現了不少科學本身存在的問題。比如科學大行其道，在提高生產力的同時，讓社會變得很單調，越來越背離人性；或者科學本身的發展也出現了慣性，反而會加劇人與人之間的不平等。

隔著幾十年的時光，我們會發現這些智者的憂慮都變成了很現實的問題。

其實在卓別林那個時代

人的幸福感好像就因為技術

下降了

比如，科技讓越來越多的年輕人生活更便利，但這對於那些缺乏適用新科技能力的老人，這是不是一種新的不平等？技術會不會同時帶來因為「數字時代的文盲」導致的技術鴻溝？如影片《頭號玩家》中那樣的終極虛擬世界出現以後，人類還怎麼在真實世界生存？

做美夢都不如去綠洲里當王者

有人已經開始著手解決這些問題了。

比如一群來自喬治亞理工學院的倫理學家應美國政府邀約，做了一系列跨學科研究，給機器人制定道德規範。這些倫理學家為機器人建立了「道德適應器」，讓犯錯的機器人產生罪惡感，並通過聽故事的方式習得符合道德的行為方式。

麻省理工的的學者們，則通過媒體實驗室這個著名的項目，在推進科技的同時，思考人和機器人的關係。例如無人汽車和人類駕駛的汽車如何在過渡期相互適應，避免事故出現；再比如，轉基因食品對環境的潛在危害。

你只關心轉基因食品有沒有毒

人家關心的是轉基因食品生態安全性

境界怎麼差這麼多呢

商業公司也很重視這個關乎人類未來的研究領域。比如谷歌內部最有趣的計劃：亞里士多德項目，聘請統計學家、組織心理學家、社會學家、工程師和研究人員，探尋人類最佳的團隊組合，不僅為公司選擇最合適的人才，也為提升人類的工作效率和幸福程度做著探索。

創造人類未來的神奇公司

其他美國互聯網巨頭，如臉書、推特、亞馬遜等公司內部，也都活躍著人類學家、社會學家、心理學家們。他們的任務，就是研究用戶需求、消費傾向、社會趨勢，並規範互聯網產品的道德性，指導工程師們開發符合人類觀念的產品。

機器人寵溺的大眼睛

科技與人文

猶如人類社會發展的兩個車輪

中國互聯網圈這些年在模式創新和場景創新上可圈可點的地方很多，卻鮮有學術機構和商業公司組織科技與人文的跨學科思考。

阿里巴巴前幾日的一個舉動破了這個局。

6月25日，阿里巴巴倡議成立一個叫「羅漢堂」的研究機構，和全球社會學、經濟學、心理學等全球頂尖學者一起研究「與科技創新伴生的社會經濟形態變化等課題」。當天，羅漢堂首批學術委員會成員在西湖和馬雲坐而論道。

馬雲和「羅漢們」

一個值得注意的細節是，首批學術委員會委員中，有6位學者是諾獎得主，可見這個羅漢堂的規格之高。

就在「羅漢堂」成立大半年前，阿里巴巴還成立了一個叫「達摩院」的機構，投入百億全球招募各領域科學家，推動機器學習、量子計算、自然語言處理等基礎技術的發展。

被達摩院科學家簇擁著的馬雲

被羅漢堂科學家簇擁著的馬雲

露出了同樣的大佬笑容

阿里先設達摩院，後又倡議全球學者成立羅漢堂，正如前文所述阿西莫夫構思的《基地》。他先讓人類創造出機器人丹尼爾，然後設定了機器人三大定律，這也就是給人類社會同時裝上科技和人文兩個車輪，在可控的軌道上朝更好的未來奔去。

達摩院的大佬們

把一個賣貨平台做成了世界級科技巨頭的馬雲，昨天和「羅漢」們論道時說，在當下這個時代，技術帶來了希望，也帶來了不定性，「過去200年，科技讓人類學會探索外部世界，我們相信未來200年，人類將探索內心世界。」

阿里這樣的頂級平台，加上馬雲對未來判斷的格局和視野，怎能不吸引這些全球頂級科技、人文精英相聚達摩院和羅漢堂？正所謂人以類聚。

所謂偉大的事情，正如奇點大學聯合創始人彼得·戴曼迪斯所說，要有探月思維。當人類探索月球時，人們想的是去做能改變世界的事，而不只是做一個圖片APP。夢想的方向，是要解決那些世界上最大的問題，比如如何延長人類的壽命，如何從宇宙中獲取資源等。

我們的目標是星辰和大海！

在非洲大陸上空放了可以鏈接互聯網的熱氣球的谷歌；把汽車射入太空，還要幫助人類移民火星的特斯拉創始人馬斯克，都被公認為是有探月思維的偉大公司和偉大的創始人。而接下來，看來中國也有望為世界、為人類貢獻足以影響和改變世界的「探月」公司。

轉自丨地球知識局

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！