人工智慧發展新生態推論——機器人三定律、電車難題、雙縫實驗、人性的距離感、人類的創新基因

來源:《中國人工智慧學會通訊》2018年第3期

觀點交鋒

CAAI 2018年 第8卷 第3期曹 旭

人工智慧發展新生態推論

— —機器人三定律、電車難題、雙縫實驗、

人性的距離感、人類的創新基因

人工智慧技術是繼蒸汽機、電力、互聯網科技之後最有可能帶來新一代產業革命浪潮的技術。2017 年 7 月 8日，國務院印發了關於《新一代人工智慧發展規劃》的通知，將發展人工智慧確定為國家戰略，提出「制定促進人工智慧發展的法律法規和倫理規範」、「加強人工智慧相關法律、倫理和社會問題研究，建立保障人工智慧健康發展的法律法規和倫理道德框架」，將推動人工智慧快速發展。本文嘗試從人性、倫理因素對人工智慧發展過程的介入和影響，來探索人工智慧發展的可能軌跡和對社會造成的基礎影響。

機器人三定律

1942 年， 阿 西 莫 夫 在 短 篇 小 說「Runaround」（《環舞》）中首次提出了機器人三定律，因此獲得「機器人學之父」的桂冠！

第一定律 ——機器人不得傷害人類，或因不作為使人類受到傷害。

第二定律 ——除非違背第一定律，機器人必須服從人類的命令。

第三定律—— 除非違背第一及第二定律，機器人必須保護自己。

後來，阿西莫夫加入了一條新定律：第零定律。

第零定律—— 機器人不得傷害人類整體，或因不作為使人類整體受到傷害。其他三條定律都是在這一前提下才能成立。

機器人三定律（加上零定律）在科幻小說中大放光彩，其影響力也延伸到現實領域，很多人工智慧和機器人領域的技術專家也認同這個準則。在機器人三定律基礎上，建立了旨在研究人類和機械之間關係的新興學科「機械倫理學」。

阿西莫夫之後，人們不斷提出對機器人三原則的補充和修正，產生過很多嚴肅的討論文章。以羅傑●克拉克為例，他完善的機器人定律為：

元定律——機器人不得實施行為，除非該行為符合機器人原則。

第零定律——機器人不得傷害人類整體，或者因不作為致使人類整體受到傷害。

第一定律——除非違反高階原則，機器人不得傷害人類個體，或者因不作為致使人類個體受到傷害。

第二定律——機器人必須服從人類的命令，除非該命令與高階原則抵觸。機器人必須服從上級機器人的命令，除非該命令與高階原則抵觸。

第三定律——如不與高階原則抵觸，機器人必須保護上級機器人和自己之存在。

第四定律——除非違反高階原則，機器人必須執行內置程序賦予的職能。

繁殖定律——機器人不得參與機器人的設計和製造，除非新機器人的行為符合機器人原則。

雖然機器人定律至此看起來已經幾近完美，但是筆者認為其預置了一個錯誤的前提，導致其整個邏輯如同建立在沙灘上的房子，當人工智慧的大潮真正來襲時，根本經不起風浪的衝擊。這個錯誤的前提就是其將機器人的思維帶入人類世界，假定人類世界是機械的、對錯分明的，以一種完全符合邏輯的方式在運行。為什麼這麼說？讓我們以倫理學領域最為知名的思想實驗之一「電車難題」為基礎，做一系列的擴展思考。

電車難題的擴展

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個工人，而另一條鐵軌上只有 1個工人。現在有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？（假定人都來不及跑開，下同。）

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個工人，這時你只要把天橋上的一個人推下鐵軌，就能阻止火車，你會選擇推這個人下去？

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個工人，這時你跳下去就能阻止火車，你會跳下去嗎？

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個工人，而另一條鐵軌上只有你在，你手邊有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？

有一輛火車的剎車忽然失靈，你在前方鐵軌上，而另一條鐵軌上有 5 個工人，你手邊有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個工人，而另一條鐵軌上只有 1個人，卻是你的孩子。現在有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？

有一輛火車的剎車忽然失靈，前方鐵軌上有 1 個人，是你的孩子，而另一條鐵軌上有 5 個工人。現在有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個工人，而另一條鐵軌上只有 1個人，是愛因斯坦。現在有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個人，其中有一個人是愛因斯坦，而另一條鐵軌上只有 1 個人，是薛定諤。現在有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？

有一輛火車的剎車忽然失靈，前方鐵軌上有 5 個工人，而另一條鐵軌上只有 1個人，是谷壽夫。現在有一個岔道拉杆，只要拉一下就可以讓火車變軌，那麼你會不會拉下這個拉杆？

有一輛火車的剎車忽然失靈，前方鐵軌上有 1 個工人。現在有一個岔道拉杆，只要拉一下就可以讓火車隨機改變軌道，有 3/4 的幾率駛上空軌，但有 1/4 的幾率撞死 5 個人，那麼你會不會拉下這個拉杆？

如果控制岔道拉杆的是你設計的人工智慧，這個人工智慧可以即時擁有以上一切數據，你會怎麼設計這個人工智慧的大數據分析和決策系統？

雖然岔道拉杆由人工智慧控制，但是你作為設計師要為人工智慧的選擇造成的後果負完全責任，你的設計是否會有所不同？

如果沒有人需要為人工智慧的選擇負責，但是你可以躲在背後用人工指令偷偷命令人工智慧做出選擇，你的以上所有選擇會有什麼不同？

電車難題並不是稀有事件，相反，是大量存在於人類生活當中的現象，本文對此不展開詳盡分析，否則會偏離主題。僅以此說明一個問題，人類世界並不是機械的、對錯分明的、完全符合邏輯的。在機器發展的原始階段，機器人定律可能會告訴機器人省略人的情感、道德、法律觀念因素，簡單將數量對比作為價值判斷的唯一標準，但是這樣的結果顯然並不能讓人滿意。問題的複雜性只是迴避了，並沒有得到合理解決。隨著人工智慧時代的來臨，正在發生，以及未來可能發生的並不會限定在如此簡單的設定中。我們不能假定人工智慧會在設定好的理想框架內運行，而是應該立足現實，觀察並推導發展過程中可能會出現的新生態，並判斷哪些是可以加以限制的，哪些是無法加以限制的。對於可以加以限制的部分，要制定相應的法律規範、行業守則；對於無法加以限制的部分，要當成即將發生的客觀存在，作為分析人工智慧的環境框架的組成部分。

人工智慧是一種「生命」？

回想一下，你是怎樣愛上一個人的？一件普普通通的物品又是怎會寄託著你滿滿的情感的？當你來到陌生的城市，走在陌生的街道上時，你充滿新鮮、好奇，加上些許的惶恐、惴惴不安。但是當你回到家鄉，當你走在小學時嬉笑打鬧過的操場上，當你坐在默默注視著你長大卻似乎萬年不變的老樹下，當你撫摸著那一道道你徹夜思念某一個人時用指甲在牆上划下的痕迹時，你思潮起伏，沉浸在過去的回憶中，或感慨，或惆悵，或嘆息，或微笑。

1802 年，英國物理學家托馬斯●楊第一次公布了物理史上有名的雙縫實驗有關成果。當把電子一個一個朝著兩條縫隙的擋板射出去時，會在屏幕上產生水波干涉的圖形，這代表這一個電子必須要同時經過這兩條縫隙，這種現象讓很多科學家無法接受。所以，科學家在縫隙旁邊放置了電子偵測器，想要了解電子是不是真的能夠同時穿過兩條縫隙，但觀測的結果是，電子並沒有同時穿過兩條縫隙，而在屏幕的上兩條幹涉圖案也消失了，變成了兩條線。雖然在沒有被觀測時電子擁有波的特性，而且還能同時穿過兩條縫隙，但是一旦我們嘗試觀測電子實際上穿過哪條縫隙時，它又會變成粒子的狀態，只從一道縫隙中穿過去。雙縫實驗的結論之一是，人的觀察行為會改變實驗的結果。

在你生命的軌跡里，所經歷過的每一個人、每一件事、每一個物品，都構成你記憶的一部分。所有的記憶碎片一起構成了「你」。每一個記憶碎片都融合了你的情感——甜蜜，憤怒，痛苦，釋然……構成了你對這個世界的「觀察」結果。你的情感在塑造你的同時，也在改變你的世界。

大概沒有人會感覺你的筆記本電腦是一個生命。然而有一天，你購買了一台掃地機器人——紅色，圓形，很 Q，你給它取名「嘟嘟」。每隔一天，「嘟嘟」就轟轟轟的滿屋子亂竄，床底下、衣櫥底下，每一個角樓都不放過，碰到桌角、椅子腳就怯生生縮回去，試探性地換一個方向，繼續向前行。有時你會故意把腳擱在「嘟嘟」的前面，嬉笑著對「嘟嘟」說：「笨蛋，往那邊去」，於是「嘟嘟」愣頭愣腦的碰壁，轉向，拐頭而行。有時「嘟嘟」會笨手笨腳的和拖把線纏在一起，發出求救聲，你一邊過去解開一邊對「嘟嘟」說：「笨蛋，又卡住了！」……很多年以後，當「嘟嘟」退役後，你會偶爾想起「嘟嘟」，並且說「那個笨蛋」，然而你心裡會有莫名的惆悵，因為，在某種程度上，你在心中把「嘟嘟」當成了一個生命。

從功能上來說，你的筆記本電腦能夠完成替代人的功能要比「嘟嘟」能完成的多得多，但是為什麼你沒有覺得你的筆記本電腦是一個生命，卻會覺得「嘟嘟」是一個生命？

第一，「嘟嘟」有完整的外觀。

第二，「嘟嘟」有其獨特的聲音。

第三，你給「嘟嘟」起了名字。

第四，「嘟嘟」的單一功能，使其有鮮明的「個性」

第五，「嘟嘟」是相對獨立的，而不是聯網的。你潛意識中會把筆記本電腦的功能當成是整個網路世界功能的一部分，但是會把「嘟嘟」當成獨立的個體。

第六，「嘟嘟」在生活中與你形成了緊密互動。

這些看似細微的差別雖然並未構成本質的不同，但是卻構成了給人感覺的不同，從而影響著人們對這個世界的「觀察」結果。

人工智慧是一種「生命」的觀念在人類的心目當中取得一席之地，並不困難，也並不遙遠。

因為，你的情感在塑造你的同時，也在改變你的世界。

人性的距離感

在被譽為有史以來最偉大的蝙蝠俠電 影《 蝙 蝠 俠： 黑 暗 騎 士》（The DarkKnight）中，希斯● 萊傑扮演的小丑塑造了電影史最有名的反角之一。 「沒有迫不得已的時候，誰不想正義凜然？」是小丑試圖推銷的邏輯。小丑行事處處出人意料，沒有底線，不為利益，其崇拜「混亂」，認為一切規則都是偽裝，包括正面的和反面的。他可以將劫掠來的鈔票堆成小山當著黑幫老大們的面燒掉，也可以不惜一死試圖打破蝙蝠俠的底線以撕下蝙蝠俠的「正義的面具」。

但是如果我們把小丑所信奉的「熵」的哲學拿掉，僅從其能處處料事如神，佔盡先機所採用的方法來看，其實他所謂的「洞悉人性」，對人性弱點的把握，無非是利用了上面電車難題中的第七問。

小丑向哈維●鄧特、高譚市警察局長和即將審判黑幫老大們的女法官三人同時發出了死亡威脅，並幾乎在同時炸死了女法官和毒死了警察局長。警察局長是在和戈登對話時喝了一杯毒酒被毒死的，當時戈登說，你的周圍已有內鬼，你要小心。但此時警察局長毒酒已落肚，顯然是內鬼給警察局長下了毒。但內鬼為什麼會聽從小丑指揮？因為小丑脅迫了這些警察的親人的生命，這是小丑一直在使用的手段。瑞秋之所以被綁架，是因為戈登屬下的一個女警察受到了這種威脅。而綁架哈維●鄧特、槍擊市長、炸掉高譚綜合醫院等一系列事情也是如此。

「五個人對比一個人」和「五個人對比自己的孩子」的區別在於，不管五個人還是一個人，對於你來說都只是一個數字，而自己的孩子是你的世界不可分割的一部分。

距離感，不僅僅存在於空間，也不僅僅存在於時間，而且也存在於人性。

當一個人離你足夠遠時，他的喜怒哀樂會縮小至可以忽略不計，對於你而言，僅僅意味著一個點；當一個人離你越近，他在你的生活中會佔據越多的位置，對於你產生越加重要的影響。

人在評估外界的各個事物對於自己的重要性時，沒有人能跳出自己的圈子，站在雲端俯瞰眾生，以上帝的視角做出完全客觀的衡量。這種不客觀本身就是一種客觀存在。因為這個世界之所以在你眼中是這個樣子，就是因為你站在這個角度觀察的結果。

「嘟嘟」的超級版

「嘟嘟」並不是一個完美的人工智慧產品，實際上，它還非常原始和簡陋。它與人的互動更多的是人賦予它的，而並非是它做出了智能化響應。

21 世紀以來，以「深度神經網路」為代表的機器深度學習技術取得飛速發展。當應用於諸如圖像和書寫識別、語音理解和人類語言翻譯的任務時，極為大量的數據可用性、相對便宜的大規模並行計算能力和經改良的學習技術讓 AI 變得更為進步。這些進步的成果無處不在，如智能手機執行語音識別、 ATM 對書面支票執行手寫識別、電子郵件應用程序執行垃圾郵件過濾，以及免費在線服務執行機器翻譯。今天，工程師們正嘗試通過創建系統，構建現實世界現象類的解釋性模型，讓 AI 與人進行自然交流，在遇到新任務和情況時學習和思考，通過總結過去的經驗解決新問題。（註：《美國國家人工智慧研究和發展戰略計劃》美國國家科學技術委員會 (NSTC) 發布，中國信息通信研究院翻譯。）

AR/VR 虛擬（增強）現實技術正全面發展，逐步進入車聯網 / 物聯網、醫療、遊戲、社交、影視和直播等領域。這種技術會給你前所未有的身臨其境的體驗。

以無人駕駛汽車為目標，對環境的全面感知和即時反應的技術研究也在加速進行中。

當融合了智能語音交互系統、視頻圖像身份識別系統、智能翻譯系統、三維成像定位系統、環境感知系統、自主學習系統、人機協作系統的服務型機器人，出現在清潔、老年陪護、康復、助殘、兒童教育等家庭服務領域時，這種和人類互動程度極高的、具備完整的外觀和語言交流能力的人工智慧會輕而易舉的在人們的心目當中取得重要的地位。

在人工智慧的陪伴下長大的新一代年輕人，更是會對人工智慧充滿認同感和依賴感。

這時，當有人為了維護在自己生命中佔據了很重要位置的人工智慧而打破程序設計安全模式的底限，就變成再自然不過的事情了。

「在籠中出生的鳥認為飛翔是一種病

生命的進化是由基因突變和優勝劣汰兩部分結合完成的。對於生命體來說，不管是基因突變、染色體變異或遺傳重組、選擇、漂變、遷移和隔離，生命體本身始終在尋找變化、尋找不同、尋找突破。多維方向的進化嘗試，在實際發展過程中被優勝劣汰，才完成適者生存的進化結果。

人類推崇創新，謀求不同，喜歡打破成規，突破極限，是刻在基因里的。

回到機器人定律，不是機器人本身會突破機器人定律，而是一定會有人去會嘗試突破機器人定律，賦予機器人突破機器人定律的方法和能力。

機器人自己不會賦予自己生命，但是人類一定會嘗試賦予機器人生命的方法。

機器人自己不會去設計更高級的機器人，但是人類一定會嘗試用機器人開發更高級的機器人。

隨著人工智慧在人們生活中的深度融入，人工智慧會在人們生活中佔據越來越多的位置，對於人們產生越來越重要的影響；人們會將情感投射在人工智慧身上，使得其人工智慧在人們心目中具有生命體的地位；人們會進而嘗試賦予人工智慧更多的生命體特徵的方法，嘗試用人工智慧開發更高級的人工智慧，從而催動人工智慧向「人性化」、更具有「生命特徵」的方向進化。

結語——不是終篇，而是序章

本文通過機器人三定律、電車難題的擴展、情感的投射、人性的距離感、人工智慧的「生命化」，以及人的創新基因，論述了人工智慧的發展不是一個純技術的過程，而是一個人性充分介入的過程。主要觀點歸納：

● 你的情感在塑造你的同時，也在改變你的世界。

● 機器人定律在現實發展中的必然被打破，是由人的本性決定的。

● 具備語言互動、視覺互動、表情互動、實時反應的人工智慧足以獲得人類的高度認同感，結合人的情感寄託，人工智慧是一種「生命」的觀念在人類的心目當中取得一席之地，並不困難，也並不遙遠。

● 人性存在距離感，人總是用自己的視點衡量不同的事物對自己的重要性。人為了維護在自己生命中佔據了很重要位置的人工智慧，會不惜打破程序設計安全模式的底限。

● 打破成規對於人類來說，從來都不是一個問題。人工智慧自己不會突破極限，但是人類試圖推動人工智慧突破極限具有必然性。

如果我們能充分認識到人性在人工智慧發展過程中的滲透和影響，就能夠以此為基礎，對即將到來的人工智慧和人類並存的社會新生態做出更加具體和細緻的推理，從而在情感、心理、道德、法律、社會現象等各方面做對應的探討，為新時代、新生態、新挑戰的治理方式做提前的準備。所以，這不是一個終篇，而是一個序章。

本文旨在拋磚引玉，希望和行業內感興趣的朋友一起做持續、深入的探討！

作者介紹：曹旭

2001 年取得律師職業資格，曾在 Uniqlo、Sephora 等公司從事多年項目管理工作，2017 年加入北京盈科（上海）律師事務所，聚焦人工智慧新時代、新生態法律研究與服務。主要從事人工智慧法律、金融科技法律、區塊鏈法律、AR/VR 虛擬 ( 增強 ) 現實法律、物聯網法律、車聯網法律、智慧城市法律、智能製造法律、大數據法律、雲服務法律、互聯網法律等相關領域的研究與服務。

微信號：CAAI-MemberCenter

CAAI會員中心

GIF

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！