郁喆雋：未來人工智慧會溫柔地「統治」人類
More than books
JIC講堂第四期活動現場
JIC講堂給了城市居民一個良好的契機。在這個講堂里，人們放慢了他們追逐生活的腳步，於是有了更多的時間和心情去仰望思想的星空。
10月30日下午，「JIC講堂」第四期在建投書局·上海浦江店如期開講。本期「JIC講堂」迎來了復旦大學哲學學院郁喆雋副教授，為在場近百位聽眾講述「科技進步——人工智慧的風險及其哲學反思」的相關議題，這一時下最為火熱的人工智慧的話題使得現場人氣異常火爆。
郁喆雋老師一直致力於西方哲學的研究，對於近年來關於人工智慧的熱烈討論也很有自己獨到的心得與見解。在本期JIC講堂，郁老師為大家解讀人工智慧的概念、歷史、當下應用及未來前景。從人文角度來更高屋建瓴地考察人工智慧的種種可能性與風險，對於這一當下流性的議題予以深度地哲學反思，並結合有趣的科幻小說和科幻影視作品，為每一位聽眾帶來一場既生動有趣，又飽含哲思的知識盛宴。
JIC講堂第四期活動現場
觀點一：
「人工智慧的定義本身就存在著問題。」
從哲學角度來思考問題，首先要做的就是對每一件事物做明確的定義，確定要討論對象的邊界與範疇。討論人工智慧也不例外。
郁老師首先舉出了John McCarthy——這個歷史上最早使用「人工智慧」一詞的學者對於人工智慧的定義。什麼是人工智慧？就是設計和研究智能的行動者。緊接著，郁老師指出，這個關於人工智慧最早的定義先天就存在一個循環定義的問題，用「智能」來定義「智能」使得這個定義喪失了解釋上的有效性。
緊接著，郁老師又追溯哲學史，從笛卡爾《談談方法》中提到的「自動機」找到了「人工智慧」最初的源頭。在笛卡爾的二元論世界觀體系下，布谷鳥時鐘、日本的機關木偶、達芬奇機器人、八音盒等一系列最初的「人工智慧」還只能歸屬到機械論的範疇。在笛卡爾看來，雖然將人類解剖之後發現和機器有很大的相似性，甚至可以說人體就是一台有血有肉的「機器」，但是恰恰是因為人有語言，人有學習能力這些屬於心靈或者精神世界的特殊能力，使得人和其他自然界的造物有所不同。而這也正是人之為人的最大驕傲之處。
但人工智慧發展至今，顯然對笛卡爾物質-精神二元論的世界觀形成衝擊與挑戰，並且在郁老師看來，想要解釋人工智慧的發展。就必須觸碰到一個很根本性的哲學問題：「既然身體是屬於物理世界的，人的心靈是屬於精神世界的，那麼這兩個世界裡的東西是如何發生因果關係的？」
觀點二：
「圖靈測試的標準非常低，
但還是很難通過測試」
說到人工智慧，當然不能不說著名的圖靈測試。在郁老師看來，圖靈測試的標準是非常低的，但是想要通過圖靈測試還是很難的一件事。郁老師為聽眾們舉了近年來一起通過圖靈測試的人工智慧案例。而這個人工智慧是以一個13歲的烏克蘭出生的男孩身份通過的測試。一方面他是小孩子身份，另一方面又是母語非英語，這就為通過測試降低了難度。但同時郁老師表示「別看現在一個人工智慧只能以13歲的母語非英語的小男孩身份通過圖靈測試，其實這一個突破非常重要，它預示著人工智慧以成年人身份通過圖靈測試指日可待。」
接著，郁老師又為聽眾講解了和圖靈測試同樣另一個由美國哲學家約翰·塞爾提出來的「中文屋」思想實驗。所謂「中文屋」，就是要求你想像一位只說英語的人身處一個封閉的房間中，他隨身帶著一本中英文互譯的工具書。然後寫著中文的紙片通過小窗口被送入房間中，房間中的人可以使用他的書來翻譯這些文字並用中文回復。雖然他完全不會中文，但通過這個過程，房間里的人可以讓任何房間外的人以為他會說流利的中文。這個實驗可以說對於圖靈測試形成了很大的挑戰；但同樣地，對於「中文屋」思想實驗的質疑與反駁也從未斷絕。比如有人從系統論角度提出屋中人和屋子，以及工具書應該算作一個系統整體，而不應該割裂開來。而當人們把任何屋子視為一個整體系統時，我們是可以說這個系統是懂得中文的。正是在這一次次的討論、質疑、反駁與衝擊中，人們對於人工智慧的認識與理解逐漸清晰且日漸加深了。
此外，郁喆雋老師還提出了一個很有意思的問題。「假設現在已經是圖靈測試已經被打破了，那麼假設真的有強人工智慧甚至未來超級人工智慧出現的時候，有一個智能假裝或者故意不通過圖靈測試，怎麼辦？」這樣的的反向思考角度引起了在場聽眾廣泛的興趣和積極的思索。
觀點三：
阿西莫夫「機器人三定律」
名稱翻譯就有問題
當談到著名科幻小說家艾薩克·阿西莫夫的「機器人三定律」時，郁喆雋老師說到：「這個翻譯並不準確，Law這個單詞在英語里有兩層意思，一層是像牛頓提出的那種定律，另一層是人為的法則，而這裡的Law和牛頓提出的自然界定律完全不一樣，恰當的翻譯應該把它翻譯成『法則』，或者甚至翻譯成『律令』，道德上的律令，像德國哲學家康德所講的道德律令。」
而關於阿西莫夫「機器人三定律」的內容：
第一法則，機器人不得傷害人類，或者坐視人類受到傷害。
第二法則，除非違背第一法則，極其深必須服從人類的命令。
第三法則，在不違背第一及第二法則前提下，機器人必須保護自己。
郁老師將其精要地概括為「第一個不傷害人類，第二服從，第三自保。」 同時郁老師指出，這三條法則雖然聽上去很好，但實際操作起來將有很大問題。比如在軍事領域運用人工智慧就會受到極大限制，因為它直接違反了第一法則——不得傷害人類。按照這個邏輯一路推演下去，不僅是軍事應用，很多其他領域也會受限。比如一個人工智慧護士給你打針，打針是不是對人的傷害？應該是的。但打針是傷害到了局部，卻為了服務於更高的目的，讓你恢復健康。但怎麼讓機器知道這些？這就涉及到了一個如何定義「傷害」的複雜問題。
此外，針對阿西莫夫後來增加的更有優先性的第零法則——機器人必須保護人類的整體利益不受傷害。郁老師也提出了自己的質疑。認為這是一個類似於邊沁功利主義的基本原則。追求人類共同體最大程度上的最大幸福，但什麼叫整體利益不受傷害？從宏觀方面說，地球上有70億人口，我們可不可以為了70億整體人類消滅當中的30億？從微觀方面講，我們可不可以殺死一個健康的人，把他的器官拿出來給那些等待急需器官移植的人，這樣的話死一個人可以拯救七到八個人，這些都是符合所謂「人類的整體利益」的，但顯然是不可以這麼做的，因為除了人類的整體利益之外，人們還有許多需要考量的問題，每個人的個體利益也必須收到尊重和保護。
觀點四：
未來人工智慧可能會溫柔地「統治」人類
最後，郁喆雋老師列舉了很多當今人工智慧投入應用的案例：從機場安檢的人臉識別系統，到現如今具有高度準確性的谷歌翻譯；從特斯拉和谷歌的自動駕駛汽車，到美國軍方現在的制式裝備——X47B無人機。人工智慧以不可阻擋的趨勢，滲透進了我們生活的方方面面。並且在未來，人工智慧還會更深更廣地滲入到人們生活的每一個細節。而這勢必將引起人類社會很多法律與倫理問題，人類對於技術失控的擔憂似乎從未停止。
而對於很多科幻小說與影視劇中所表現的人工智慧最後反客為主統治了全人類。郁老師則提出了自己很有意思的兩個設想：
首先，人工智慧為什麼一定要按照人的形狀出現呢？這裡面隱藏了一個人類自我中心的認識，所以才會一直以人為對象，來類比想像未來的人工智慧。人類之所以長成現在的樣子，是幾千上萬年進化的結果，而人工智慧完全可以以一套非人類的面貌出現；
其次，科幻電影中往往擔心人工智慧發展到某一天會對人類實行暴力統治，但郁喆雋老師則提出另一種可能「這也是人對自己的誤解，因為人對人的統治往往採取的是暴力的方式，很可能機器人統治是以很溫柔的方式。溫柔到讓你覺得這不是一種統治，讓你覺得實在太舒服了，未來往往是出乎意料的。」而這樣別開生面的腦洞，給場下聽眾很大啟發。
JIC講堂第四期現場觀眾提問
JIC講堂繼續前行
建投書局堅持「不止於書」
JIC講堂第四期於黃浦江畔建投書局內再一次圓滿結束，第五期將於11月13日繼續開講，工業4.0研究院院長、首席經濟學家胡權將帶來「全球製造業競爭格局與中國機遇」的議題，和大家探究現代工業革命的挑戰與機遇，以及中國製造業的出路及選擇。
除JIC講堂以外，建投書局·上海浦江店自今年7月開業以來，已經先後主辦或承辦了超過30場活動，其中包括2016年最美書店周閉幕式、上海市海派文化傳承與發展研討會、JIC投資沙龍等大型活動。這裡有可以容納100人以上的主廳及閱覽室空間，可以舉辦包括文化沙龍、讀書會、音樂會、畫展、講座等多種類型的文化活動。建投書局歡迎每個有好奇心、願意付諸思考與實踐的市民與單位報名JIC講堂及建投書局其他活動，具體報名方式詳見建投書局公眾號「JIC書局客（ID:shujuke）」。
還未關注JIC書局客？
希望每一位讀者與觀眾都可以在書局中詩意棲居，在聆聽中預見未來。
建投書局·上海浦江店閱覽室
-More than books -
建投書局
上海 · 浦江店
虹口區公平路18號8棟嘉昱大廈一層
營業時間：
周一~周五：8:00AM-9:00PM
周六~周日：10:00AM-9:00PM
北京·50+店
東城區廣渠門內大街16號環境大廈一層
營業時間：9:00AM-9:00PM
杭州·歐美中心店
西湖區教工路18號歐美中心A座一層
營業時間：8:30AM-9:00PM
無錫·太湖嘉昱珺唐店
馬山環山東路20號嘉昱珺唐酒店一層
營業時間：9:00AM-9:00PM
本文由JIC書局客綜合活動演講資料整理編輯，文章為演講者獨立觀點，不代表JIC書局客立場。如需轉載請聯繫授權。
※萬聖節我們不要糖果，喝杯咖啡吧
※迎接萬聖節的最佳姿勢，莫過於打開他的書或電影了
※《黑鏡》的恐怖預言會應驗嗎？看看這本書怎麼說
※復旦大學郁喆雋：人工智慧真有那麼可怕嗎？
TAG:JIC書局客 |
※人工智慧會統治人類嗎？
※人工智慧統治地球
※將來，人工智慧真的會戰勝人類統治地球嗎？
※霍金預言：未來人工智慧將統治地球人類毀滅
※人類真的會被人工智慧反統治？
※未來發展趨勢：人工智慧要統治地球？
※人工智慧將與人類共存還是統治人類？馬斯克：監管很重要
※王田苗現身少海匯：人工智慧真能統治人類？
※人工智慧會統治世界的說法，你信嗎？
※基特勒：技術到底會不會統治人類？
※又開源？谷歌預統治人工智慧的野心能否成功？
※人工智慧加上強大火力機器人 人類會被機器人統治？
※霍金曾經預言未來機器人將要統治人類，人類最大的敵人會是機器人嗎？
※即使人工智慧統治了世界，也會在今天紀念一位特別的人類
※恐人學說，恐人將統治地球？
※強者統治世界 智者統治心靈
※猜想：若人類消失後，哪種動物會接替人類統治地球？
※沒有人類它們將統治地球 智商最高的十種動物
※動物統治人類，世界會更好嗎？