人腦入侵、人機戀愛、機器的生命權……博鰲論壇做了一份2045年的命題作文

知識 03-26

鈦媒體註：在昨天（3月25日）舉行的博鰲論壇上，舉行了一個關於「未來狂想」的圓桌論壇，包括搜狗公司CEO王小川，博士、研究員山世光，神經科學家、《知識分子》主編魯白，ofo共享單車創始人戴威，作家、雨果獎得主郝景芳在內的多位各行各業的大佬，都站在各自的視角對於未來人工智慧在法律、倫理、功能等方面的問題進行了探討，試圖給出一份未來智能社會的「2045年命題作文」。

未來屬於自動駕駛，開車會成為一個復古運動

山世光認為，自動駕駛終將會實現，因為駕駛行為是非常依賴於經驗，進行學習的一種行為，而機器通過學習成百上千的駕駛行為，一定是可以超越人類的。在他看來，自動駕駛的障礙在於汽車異常、失靈等等異常的問題，因為這些數據收集起來相對比較難。但無論怎樣，自動駕駛的到來，不會熬到2045年。

對於人開車的權利與雲端控制汽車的選擇上，戴威認為汽車最終會演化成為公共的交通工具，以後相當於用中央控制的調度系統。未來大家不會買自己的車，都是用公共的服務，不管是什麼樣的車，你都可以通過平台拿過來，享受它帶給你的便捷服務，我覺得用不了2045年，可能是2030年。

董癢認為路上同時有人開的車和無人駕駛的車會很危險，而且讓人知道自己每分鐘在哪裡，是很不愉快的事情。陳曉楠也認為，這樣多的大數據存在，基本沒有隱私可言。而胡嵩未來不會用雲的方式實現自動駕駛，因為這有點「天網」的感覺，「突然覺得人類這些物種不值得存在怎麼辦」。

人工智慧「創作」是沒有問題的，問題是藝術是什麼

關於人工智慧創作的藝術，郝景芳認為它寫小說、寫詩、畫畫都不難，因為這裡面存在一定的公式和套路，大數據學習和上千萬本小說，確實能寫。但最大的問題在於評選的人，是誰來評這個事情。在審美的問題上是否也存在著套路，人類作為主觀評價者，對人工智慧作品好壞的標準在哪裡？還有就是人工智慧評選是否也會成為一個標準呢？

在魯白看來，不按照大數據，不按照套路來講，這才是一個好的小說，很難想人工智慧真的會「創造」和「想像」。陳罡也不同意郝景芳的觀點，他認為

機器和人創造的東西是人和藝術的兩極。機器和人創造的東西是人和藝術的兩極。技術可以標準化和規模化，藝術大多數是唯一性，不可複製的。梵高畫向日葵的時候是情緒達到頂峰，如果情緒完全可以複製，沒有傳世的珍寶和傳奇。

同時，文學、音樂、美術都是源於生活，並且高於生活的藝術，它要去體驗，摻雜個人情感和經歷，綜合出獨一無二的體會。

Ben Goertzle認為，2045年的人工智慧將會是另一番光景，AR可能獲得雨果獎，因為核心功能在改變，它會是具有想像力和創造力的人工智慧，不僅僅是重複科幻作家的公式。

但是王小川不同意這樣的觀點，他認為做到用語言表達，已經實現了強人工智慧，很多創作在他看來只能說是「計算」。

關於機器人的意識與生命權，理解上存在著分歧

在王小川看來，如果機器人有自我意識和情感，核心就是它有生命，意味著它有自己存在和延續下去的能力，延續下去才能找到我是誰。在機器威脅論的時候，核心的判斷標準是機器是否有生命。

魯白則不同意這種看法，他認為需要給聲明下定義：「生命的定義是兩條，第一條能夠新陳代謝，有生游思，另外一條是它可以有法律保護的權利」，問題焦點在於人工智慧有沒有可能複製。

王小川認為，機器人能夠適應環境變化，在環境面前可以保存自己，像是杯子敲碎了就不能適應環境。他認為人類可以避免賦予了機器生命權，同時他覺得，人類離著創造生命，並理解它還很遙遠，所以這是既沒有能力又沒有動力做的事情。

洪小文認為，人可以造人，又有意識，又有生命。但是製造機器人，為的就是讓他們聽人類的話，並不一定非要有意識和生命權。

在山世光看來，人類不需要考慮生命的問題，「從實現人工智慧的角度，我們想要機器能夠自我迭代和成長，我們不希望它有自我的價值和保護自己」。「從程序設計和編程來講可以給它一個目標函數，讓自己可以生存下去」。

大腦功能可能外延化，但最好不要變成人機混合體

陳罡認為未來會有一種「雲外腦」的產品誕生，它在某一個領域有更加深度和更加豐富的知識理解，同時它會像手機一樣攜帶方便，而且每一個都有很強的個體屬性，會成為人們私人財產很重要的一部分。

在魯白看來，腦子部分的功能外延化，應當是2025年就會實現的技術。把外界的刺激或是信息裝到腦子裡，在不遠的將來就會實現，把腦子裡的事情導出來這個也不是很難。

關於晶元能否需要具備計算能力的問題上，山世光認為在人體里植入機器或者在機器里植入人的意識很可怕，這會生成混合體。董癢認為這樣的做法，會演變成為一種新的軍備競賽。

而Bee認為，如果能將想法直接放入到腦海中的話，計算能力會超過了人類腦子的意識，

每一年機器的力量部分會增加，會成為90%的機器和人，機器的部分超過了人的部分，但這是逐漸增加的，你不會覺得可怕，這是一步步變化的，比如說我現在是一歲，每天會進展一點，最後我會變成99%的機器，10%的人，不插入晶元的人會成為智障。

洪小文則認為2045年不會先進到如此的地步，人類對於大腦的了解還不夠，做做助聽器還是可以的。山世光則認為大家對於現在的腦機介面存在著誤解，

實際上它只是對大腦間接的測量，測量方式在進行腦活動的時候有一個腦電波的活動產生，人們只是測量腦的活動帶來的腦電波的變化，但是並不告訴我們記憶是如何存儲，大腦如何活動，談不上如何去寫腦，談不上記憶如何儲存。

對大腦進行入侵性的刺激，植入某種情緒

魯白認為，情緒控制的情緒環路已經相當的清楚，現在沒有實現的是非入侵性的實驗，比如一個電機進去可以產生某種情緒，一個人被控制了自己都不知道。

山世光也覺得這樣的事情是有可能實現，但是影響人的大腦活動的裝置或是場景會是十分的複雜。陳洲認為，負面刺激並沒有多麼科幻，但是要給大腦發送一些信息，到了2045年也不可能實現，神經學和生物學沒有進展的那麼快。

陳天罡則是持有反面的觀點，他認為這是一個社會化的問題，比如大家通常在洗腦的環境裡面，這個環境還用投票嗎？

在董癢看來，現在大腦接收什麼東西，洗腦的話，還是通過戴的設備，比如說眼睛、耳朵，才會讀到其中。如果有這樣的技術，不經過眼睛或者其他感官來無限影響人類，這個發生了，人類就真的完了，躲都躲不開。

人將成為行走的數據，沒有隱私

在劉江峰看來，未來政府對於人們信息的控制將會越發嚴密，現在的政府在公共區域布很多無線掃頻的設備，手機經過的時候，它知道你在哪裡，未來可能會植入晶元到人腦中。天網基本上快成形了，每個人將沒有任何的自由或任何的隱私。他認為，

做任何的人工智慧或者做任何的技術突破之前，我覺得法律法規或者說人類的倫理的一些邊界一定要劃分好，馬克思說過科學的入口就是地域的入口，我們人類不能走向把自己混滅的道路。

在Ahmed Baladi看來，這個問題的關鍵點在於「程度」上。比如消費者想把晶元放到腦子裡，用手機上的某種解決方案，願意拿出個人數據和這個公司共享，這個是沒有關係的，改變想法的話也可以中斷。對於政府來講，自然是不希望數據放在國土之外。

在山世光看來，未來很多人會出於各種各樣的目的，被迫植入這樣的晶元。如果政府只是一個監控的目的，並不需要植入一個晶元。我們的人臉、氣味、身高、體態，包括你的手機，政府可以時時刻刻的監控你在哪裡。

人機戀愛是否會實現

關於人類和機器成為伴侶的事情，王小川認為很難做到，

人類幾千萬年的進化，對異性的選擇和我們的生命生存繁衍非常接近，並不認為我們做出這樣一個機器，做出賦予生命權的機器很難，不被接受，做出一個有生命，還能發生自我認知，還有情感的機器，從技術上來講也是做不到的事情。

同時我們看這樣一個法律規定，有人說我願意和一個黃瓜結婚怎麼辦？不會有這樣的討論，我覺得機器狗不被富裕生命，這樣一個機器人也不會被富裕生命，不符合法律。

王世光認為，讓人產生情感的話，應該是人機的一個混合體，因為基於傳統的認知，異性的基本特徵一般都要有，不一定是機器狗和和機器貓。而且結婚的對象不可控，它是一個非理性的東西。在他看來，

從技術的角度來講，機器人是否可以讓人產生依賴感，一個方面是可以感知你的情緒，可以知道你的喜怒哀樂，第二個方面是可以不可以表達它的情緒，可以表達它的喜怒哀樂。

魯白認為，什麼事情都可能發生，男人現在可以和男人結婚了，在某些地區法律保護。他認為，人機結婚可能遠遠早於2045年，甚至2025年就發生了。

AI未來與人類的關係

郝景芳認為，聯網的AI是一個不可避免的過程，未來的大數據也應該是雲學習的方式。但如果AI控制全球了之後，與人類是否會進行和平的相處呢？

可能處於節能的目的，AI會摒棄殺人的念頭，反而會用腦晶元這樣的終端控制人類，逼迫人類與它們簽訂合約。

在胡嵩看來，論壇討論的前提是人類還存在，如果超級智能真的出現短短几秒鐘會超越我們整個星球的文明水平，為什麼在地球上這樣玩呢？

Ben Goertze則認為，如果能簽這種契約，已經是讓人類感知好一點了。現實AI根本覺得無所謂，就像問一個兩歲的孩子能不能做某件事情，需要問他嗎？只是出於禮貌而已。也許可以看到這種超級智能，但不是人類和AI之間的勢力是否均衡，只是AI覺得自己聰明一百萬倍，也沒有意願成為獨裁者，人類不要干瘋狂的事情就可以了。

（鈦媒體編輯張霖綜合報道）

以下為圓桌論壇的文字版：

陳曉楠：各位科技界的大咖，企業界的大佬，大家晚上好。非常感謝在今天這樣一個吹著海風的夜晚來到這裡共赴這樣一場非常特殊的聚會，我保證你們有一個非常特殊的夜晚，剛才已經看了異想天開這樣的片子。

各位來博鰲論壇一定是進行了馬不停蹄的探討，大家現在做一個遊戲，這麼一個狂想的片子，配著我們現場的什麼呢？絕對復古的編輯桌，有一個1982年的晚報，現在想把這裡變成人間指南報社，有一個電視劇叫《編輯部的故事》，各位化身編輯部的編輯，為我們出一份未來的日報。

為什麼要談論未來這個話題？不用多解釋，各位嘉賓來了以後，馬不停蹄的談未來，未來實際上這幾年熱度太高了，不談未來基本上不知道我們的生活是什麼樣子，很多人說我們站在了一場無比巨大的變革一端，或許是工業以來最大的變革，或許是人類出現以來巨大的變革。

好多這樣的數字是聳動的，有人說天才的數字是一百，有人說那時候達到一萬，可能我們也分分鐘達到永生，或者一百。有人說30年以後機器人大於人類的總量。更讓我震撼的是一幅圖，比如說這個小人，這個吹著海風的夜晚，前面是很平穩的道路，它告訴我，我們是這樣的一個點，是如此陡峭的陡坡，會把我們引到何處？未來和世界會變成什麼樣子？我們這些科技小白會怎樣呢？

我們接下來穿越到那一天，站在那裡看一看我們的生活畫面是怎樣的，我們想了一個辦法，要出一份未來日報，我們從知乎，從網上搜集了大家的未來狂想，今天請在座的科技前沿的大咖們，你們最有資格告訴我們這些是否可能發生。

不僅是網友給我們提供了他們的想像，今天在座的有四位重量級大咖也為我們提供了他們對未來的狂想。說實話是把我驚著了，他們的文筆，主要是想像的點非常讓人震撼，我不告訴大家是誰寫的，大家可以猜一猜，我都難以形容。

我們來看一看遊戲怎麼玩，我們選了16條新聞，看一看標題，感受一下氣氛，今天沒有那麼多時間全部探討，選其中的八到九條，把它一一探討一下，各位嘉賓每個人手裡有一個投票牌，放了這個新聞以後首先告訴我們你們相信嗎？會發生嗎？作為編委，為我們評選出哪條新聞能夠入選來自未來的空白日報。

今天我們特別有幸請來史上最奢華，含金量最高的編委會。

我們開始玩這個遊戲，我們看一看我們的第一條新聞，開車會成為一個復古運動，其實這是我選擇了一個最溫和的，小川現在就笑了？有可能嗎？

王小川：我笑的是你們說最溫和的，其實已經很燒腦了。

陳曉楠：之前我們設了一個直播間，不知道為什麼這個直播間真的就消失了，沒有找到理由，千真萬確，不久之前才恢復的，今天可能真的是天機不可泄露，這個有可能嗎？

王小川：我覺得確實有可能，無人駕駛在2045年消失，但是並不意味著是深圳市第一個消失，因為它是科技很發達的，應該是落後的城市。我不知道從什麼關鍵點批判它。

陳曉楠：我們的關鍵點是它終將能實現嗎？哪怕成為我們的可能性，我們也要思考。我問一問山先生，您一直從事識別方面，自動駕駛來自於識別技術、深度學習，科技的發展原來是立體火車，現在是高鐵，你們覺得這條是溫和嗎？

山世光：比較溫和，一定會實現。因為實際上駕駛行為是非常依賴於經驗，進行學習的一種行為。目前從人工智慧的發展角度來講，只要是經驗性的事情，經驗被採樣，我們可以讓機器大量的學習人的駕駛行為。

比如說人類的駕駛員開車開了幾千、幾百個小時就很多了，但是機器可以學習成百上千的駕駛行為，一定是可以超越人類的。

陳曉楠：是不是用不了2045年？

山世光：我覺得不需要。

陳曉楠：現在最大的障礙在哪裡？

山世光：我覺得可能是例外，比如說異常、失靈等等的這樣一些問題，在我們採集數據的時候，相對沒有那麼的容易，反而可能會變的稍微有點困難。但是隨著時間的積累，我們也可以慢慢積累出來這樣大量的數據，機器可以從中學習到很多的規律經驗。

王小川：我補充一下，前面車子的輪胎鬆了，搖搖晃晃的，作為人類駕駛員是有經驗的，車子一定要出事。今天所有的公司，現在還沒有處理這些意外的情況，這是山先生講的小概率事件做不到。

山世光：因為現在的深度學習依賴於大量的數據，小數據不容易解決。比如說小川提到的例子，前面車的輪胎歪歪扭扭，應該可以自己感知到，馬上跑到路邊停下。

陳曉楠：比如說我發心臟病了，車子可不可以停下？

魯白：我覺得深圳是有可能的，

陳曉楠：深圳是我們騰訊在的地方。

魯白：其實無人駕駛最難的是人，最早發生的是非洲，非洲很多地方還沒有路，不準人到路上開，當年我們汽車道路不準馬車到路上跑，所有的車都是雲在控制，輪胎可以都知道，人無法預測和無法控制。

陳曉楠：人是非理性的。

魯白：因為你不能剝奪人開車，最後的大城市實現才可以的，非正第一天實現無人開車。因為你全部都是雲在控制。

陳曉楠：直接可以知道你是不是得了心臟病，或者今天心情好可以開快一點。

H：我們的人工智慧就可以從一小部分的樣本中，或者一個樣本中來推導學習，甚至可以預見到那些從來沒有出現過的信息，比人要有推導的能力。我覺得人工智慧會使用新的人工智慧技術，還有更多的感應器，會比人開車要好的多，而且早早的在2045年實現，人會不會被禁止開車呢？這是另外一個問題。

也許在德州，在美國讓人永遠開下去，因為人想開，這是另外一個問題。我們還有人爬山，就是為了開心找樂子，但是坐直升飛機快的多。

陳曉楠：這個車完全是成為公共的交通工具，每個人沒有車庫了，不堵車，不擁有車了，你們開始體會共享的感覺，為我們暢想一下共享汽車的交通工具，大的網路是怎麼服務的？

戴威：這個是一定會發生的，每個人的信息決策很難做正確的，以後相當於用中央控制的調度系統，效率一定是更高的，我搞自行車的，和汽車相比少兩個輪子。但是未來大家不會買自己的車都是用公共的服務，不管是什麼樣的車，你都可以通過平台拿過來，享受它帶給你的便捷服務，我覺得用不了2045年，可能是2030年。

陳曉楠：現在攢錢買車的人不用攢了。

戴威：還能開十年。

董癢：路上有自動開的車和無人開的車就麻煩了，路上至少有騎自行車的，戴威已經做出很多的車，開到小區裡面，人在那裡走路，還是有人，很危險，這是第一點。

如果所有車被人控制了，如果我想去不想讓人知道的地方，但是理論上一定有人知道我每分鐘在哪裡，這是很不愉快的事情。

陳曉楠：你身邊坐了很多做大數據的，以後沒有隱私可言。

胡嵩：我認為未來自動駕駛會實現，但是我不認為用雲的方式實現，這很危險，如果自動駕駛真的實現了，離強人工智慧的邊界很近，這個時候又給人工智慧這麼大的控制全縣，這很可怕，天網就來了，我不說出BUG，但是所有汽車都在被它控制，很可怕，突然覺得人類這些物種不值得存在怎麼辦？

王小川：《速度與激情》第八還是第幾集，無人駕駛車被黑了，造成巨大的事故。

胡嵩：即便我們有能力未來創造自動駕駛的人工智慧，也要廣泛的和物理隔開。

王小川：用雲來控制，但是要有拒絕雲的服務的能力，要想像這樣一個事情。

Ke：聽了大家的想法，穿上服裝就可以飛行了，人工智慧以後，穿著飛行服飛來飛去就可以了，汽車是過去時了，我們可以飛的更瘋狂了。

陳曉楠：各位請舉牌，應該人選我的人間指南的報紙嗎？董癢還挺固執的。我們還有一個棄權的，以絕大多數入選。

王小川：我們的入選標準是覺得可能實現，或者編委會覺得這是一個重大的事情？

陳菊紅：你覺得是選擇的超過的時候哪個重大，我們先選出來，哪個上頭版和頭條。

王小川：否代表什麼？

陳曉楠：就是會實現，我們總編在這裡，直接邀請你入選了。

王小川：還有標題黨，假新聞。

陳曉楠：接下來我們看第二條新，你替蒲松齡號說說獲獎感言。

郝景芳：我覺得人工智慧寫小說不太難，寫詩和畫畫的更多，我看過人工智慧畫畫，就是隨機畫，一秒鐘扔出去生成很多圖案，再做一個程序就畫出來了，很多很容易。

這個問題寫小說很多人總結過有公式和套路，自己問自己幾個問題，設一個主人公，克服幾個困難，要失敗，然後怎麼克服困難，最後成功。如果這樣去做的話，可以套路世界上90%的小說和電影。

其實可以有套路，大數據學習和上千萬本小說，確實能寫。我覺得最大的問題其實不在於人工智慧能不能寫，我覺得最大的問題在於評選的人，是誰來評這個事情。人工智慧可以畫沒有問題，但是人類可以選擇哪個畫的好，哪個畫的不好，畫的怎麼樣等等。從創造角度來講，人工智慧肯定可以創造，大不了寫十本書，反正寫的很快。

最後的問題是人類會不會覺得它好，這是審美的問題。之前人們研究美學的時候是挺奇妙的事情，寫小說能夠總結出規律，大家什麼時候覺得好，哪個美，哪個不美，目前還沒有套路，審美是否能套路。

它寫完了以後，人作為主觀評價者，好壞的標準在哪裡？涉及到了另外一個問題，雨果獎是否是人評，人工智慧去評，也拿一個套路去評的話，按照套路去寫，按照套路去評，毫無疑問就會拿獎。

陳曉楠：你說到關鍵的問題藝術是什麼。

郝景芳：藝術以前是，但是未來不知道是不是。

陳曉楠：你受到威脅了嗎？

郝景芳：其實還好，人可以不按套路出牌，大數據要總結一個總好的套路，人可以不按套路出牌。

陳曉楠：菊紅我們感到威脅了嗎？

陳菊紅：如果人還是做評委的話，對郝景芳他們這些人的調戲，好物都是可以的，每次諾貝爾文學獎出來也有人說怎麼給了這樣的人。大不了我是刺激一下郝景芳我寫一點別的，還可以乾的更好，如果是機器評的，可能性有一半，評委裡面有一些人工智慧，但是都是人工智慧不太可能。

為什麼呢？因為你是說首次，首次這個詞比較關鍵，一幫人工智慧給了獎，這件事情太不刺激。人和機器，或者機器和人玩都要找一些好玩的點比較有趣。所以說我們探索科幻小說是人對前沿的科學探索，加上自己的想像力形成的作品的話，本來我們想要探討其實它對於未知的想像力到底是多少，因為和別的小說不一樣，和寫詩也不一樣，寫詩對大數據來說太容易了。

我想說的不是這個方向，我想說的是人在那個時候還是想調戲一下人，因為你還是一個主動地位，人工智慧還是可控的，所以才會說給它一個獎玩一玩。

陳曉楠：我這裡特別想知道一個事情，創造力和想像力到底是什麼？魯白先生，很多人講現在能寫詩和作曲，是基於數據的演算法，AI都會獲勝，我們大腦中哪些東西不是基於演算法的？

魯白：太多了，我們都是清華出來的，清華有一個傳統是互相打架，我是不同意它的說法，特別不可能發生雨果科幻小說獎。首先，科幻是想像力更大的，人工智慧可以做很多很多的事情，其中一個不能想像的是從創造和想像，不按照大數據，不按照套路來講，這才是一個好的小說。

好的小說首先是作家自己要有想像力，更好的小說是留出一些空間讓讀者愛想像力，這樣的小說才能評上獎，我願意讓我們的郝女士拿獎。

陳罡：關於這一條新聞我也不同意景芳的觀點，機器和人創造的東西是人和藝術的兩極。技術可以標準化和規模化，藝術大多數是唯一性，不可複製的。梵高畫向日葵的時候是情緒達到頂峰，如果情緒完全可以複製，沒有傳世的珍寶和傳奇。

除了文學以外，音樂、美術都是藝術，來源於生活，並且高於生活，它要去體驗，摻雜他的情感和經歷，綜合出獨一無二的體會。AI寫詩、作畫沒有問題，做一個產品說明書、寫書都可以，但是拿文學大獎太荒謬了。

魯白：我覺得你對人工智慧了解的非常透徹，景芳。比如說4乘4的畫，我可以產生所有4乘4的畫，人工智慧可以產生這個，但是不知道什麼好，但是到了2045年的時候，會投一大堆畫。

今天我們人在寫一篇小說映射當年的一些情況，今天人工智慧沒有這些情緒，剛好是蒙對了。英文字、中文字都不是有限的，還可以產生很多的問題。和人不一樣的地方是它不知道產生好的東西，我們了解的畫家，每一張畫都有背後的表達意念，人工智慧沒有辦法做到這些事情。

今天做音樂的人，一定要計算機的幫助，其實可以幫助你做很多的內容。包括將來和現代，但是計算機輔助人去畫畫、寫作、音樂等等發生的，把這些算進去，有更快的時間有人工智慧幫助的作畫。

Ben Goertzle：今天的人工智慧和2045年的人工智慧完全不同，2045年AR可能獲得雨果獎，但是那個時候的核心功能是完全不同的，我們不知道2045年的人工智慧是什麼樣子，可能是具有想像力和創造力的人工智慧，不僅僅是重複科幻作家的公式。

王小川：我不太同意，而且嚴肅的來講我覺得這一條最難，如果做到用語言表達，已經實現了強人工智慧。圖靈測試裡面提到人和機器可以對話，目前對語言的掌握，對知識的掌握，已經使得它達到了圖靈測試的標準。讓它畫畫和寫應約容易一點，一幅畫在評獎裡面是畫家的作品，音樂是上乘的作品，我們是站在生命的角度理解生命，遠遠超過了圖靈了，如果做到這些的話，人類沒有生存的意義，從技術層面講足夠的難。

陳曉楠：需要有主觀的體驗表達。

王小川：對，除了郝女士以外，之前我也讀過一篇小說，和外星人還是超級計算機，就算是猴子也能打出金剛經來，但是那只是計算。如果從不可限量裡面找到這樣一個答案，對智能的要求，對超人工智慧和強人工智慧的要求特別高，我認為在這裡面做不到。

陳曉楠：您所說的這種是真正的人的主觀體驗的表達。

王小川：甚至在垂直領域裡面做創造力有機會，比如說創造一個音樂可以實現，但是能寫作，用文字表達，是通用人工的範疇。

陳曉楠：微妙之處正在於此，是我們人說不清道不明的創造力，藝術是什麼？什麼好和什麼壞我們是沒有辦法量化的。

Ahmed Baladi：我想也許能得，你的新技術上線後消費者和人們能夠選擇，他們會選擇我們想要什麼樣的技術，我們談論藝術和創造力的時候，我覺得消費者不想買一個藝術品或者音樂或者什麼的，由人工智慧搞的藝術品，知識產權呢？我覺得這可能會破壞創造力。

你剛才講到藝術是比較主觀的，但是會不會成功呢？我覺得不一定成功，要寫的出來。

陳曉楠：好的，各位，到了你們出牌的時候，我們有兩個爭鋒相對的觀點，請舉牌。這條不能入選，後面的恐怕要開天窗了，大家還是忠誠於自己的觀點，大家來看第三點。

我們先給這條鼓掌，我覺得太嗨了。是我們在座的一位大咖寫的，看著像誰寫的？王小川先生。我們先看看大家支持不支持，我想先看看大家的投票，請舉牌。

王小川：我覺得大家判斷是對的，在我內心當中我做了一個不可能發生的事情。我們現在討論機器人是否有情感，機器人是否有自我意識。如果它有自我意識和情感，核心就是它有生命，意味著它有自己存在和延續下去的能力，延續下去才能找到我是誰，小的嬰兒是不懂的，見到杯子是自己的一部分，但是大了之後知道我和世界不是一體的，有了生命和情感的概念。

在機器威脅論的時候，核心的判斷標準是機器是否有生命。在我的內心當中人類不會讓它有生命權，但是這條新聞我是故意倒著寫這件事情的。

魯白：我不同意小川的說法，我們要給生命下定義，生命的定義是兩條，第一條能夠新陳代謝，有生游思，另外一條是它可以有法律保護的權利，我剛才舉的是贊成票。我要問人工智慧的專家有沒有可能複製，但是我想不理由它不能複製。

胡嵩：一個精密的機床可以複製自己，但是它有生命嗎？

魯白：生命有兩條，一個是代謝，能夠發育的過程，不利於自己的東西排出去。

胡嵩：如果自己可以換零件呢？

王小川：我是站在複雜性的理論方面做的，但是有一些區別，不是新陳代謝。是它能夠適應環境變化，在環境面前可以存在自己，杯子敲碎了就不能適應環境，比如說精密的機床，一點變化就不行了，如果是一個人流血了可以復原，我對生命的理解是面對環境的存在和存在的更多，是這種複製。這種生命挺可怕的，賦予了機器生命權，有更多的存在就威脅到人類，既有技術難度，也是人類可以避免的。

陳曉楠：我們可以控制自己不賦予它這種可能性嗎？

王小川：我覺得技術做不到，距離今天特別遠。

陳曉楠：有可能嗎？特別遠。

王小川：個我們在去年討論最小的生命，裡面大概有兩百個基因，前面是三百個基因。兩百個基因怎麼做的呢？不是我們用人湊的生命出來，而是找出一種細菌去排解，今天我們創造的生命還是非常原始的，兩百個基因還有40%不知道是幹什麼用的，為什麼能工作呢？我們不知道，離創造生命理解它很遙遠。所以我覺得既沒有能力，又沒有動力干這件事情。

洪小文：我覺得王小川的說法，你用各種東西定義，機器都是這樣的。目前的認知，狗都不一定有意識。有一個很有名的測試是鏡子測試，人或者狗、額頭貼一個東西，狗不會，可能海豚就會，不代表狗一定沒有意識。

從這個角度看很難賦予機器生命，但是這個狗可能屬於某一個人，把某一個人的車子打壞了你要坐牢，這是唯一的可能性，絕對不是裡面描述的。

陳曉楠：可能作為一種財產，有權利，但是不認為將來會有意識。

Ahmed Baladi：我覺得這是一個沒有回答的問題，我覺得一個數碼電腦以後會有像人的生命意識，但是一個人的大腦和一個狗的大腦要達到有意識的話，它是通過某一個量子物理的方式，在現在的電腦里是不存在的。

如果有量子物理存在電腦中，機器狗肯定是有量子物理的東西在腦子裡，怎麼樣回答這些問題呢？物理和生物這些技術如何讓人腦的意識出現呢？我覺得一個量子電腦可以這麼做，需要給予這些機器像人一樣的意識，我們腦子裡是分子和原子，可以複製，分子和原子在一起也會有意識，我不同意上面說的話，人沒有動力，我是有動力創造出機器生命的，很多人也有這種動力。

如果我們造了一個數據狗，腦子裡有一個電腦，如果它沒有意識的話，我們會用量子來製造一個數據狗。

陳曉楠：如果有人做也是可以產生意識和認知，成為一個生命的嗎？

王小川：我覺得難，但是我覺得大家不願意做這件事情，如果願意做是很危險的，機器在未來可能是一萬兩萬，還有生存和自我複製權，人類就可能滅亡了。

陳曉楠：那你們還寫這樣暗黑的文章。

王小川：我是覺得可行性和思考。

魯白：一條是生存，一條是意識，大家又把這些放進去了。我們人是有意識的，老鼠沒有意識，極少數的動物把鏡子放在它面前，不知道裡面的就是它，沒有自我意識，現在有一點意識混淆。

陳曉楠：你覺得可能成為生命，但是沒有意識的。

洪小文：人可以造人，又有意識，又有生命，希望它比我們聰明，還不能控制它，所以有人想要造有意識的生命就多生一點小孩。人可以造克隆羊、克隆狗，也有生命，我非常懷疑造機器就是讓人控制，讓它給我倒咖啡就一定給我倒，我讓我太太倒的話，太太說你有手有腳為什麼自己不去做，我還說對。

所以我們造機器人就是讓他們聽我們的，有意識的話就多生一點小孩。

科幻小說也出現過了，人造出來的叫做什麼呢？我一下子忘記了，不一定意味著有生命權等等的。

郝景芳：剛才說的一個是適應性，一個是繁衍，我覺得對於機器不難。告訴機器哪個零件壞了換哪個，你就給它一個程序，遇到危險的東西要躲開，對它來講太簡單了，複製也很容易，以後的機器自己會學習，自己拿一堆零件組裝一下自己就很難。

對這一條為什麼反對呢？有機器狗的話，控制程序不僅僅限於它的身體裡面，雲端一定有複製備份，蘋果手機摔碎了，新手機還能把原來的數據備份回來，如果一個機器狗把數據都備份出來又是原來的狗，不存在虐殺它了。

陳曉楠：這應該是一個好的科幻小說的開頭。

山世光：從人工智慧的角度發展，我們要的就是可以迭代的，才有可能形成強大的人工智慧。其實我們不需要考慮生命的問題，從實現人工智慧的角度，我們想要機器能夠自我迭代和成長，我們不希望它有自我的價值和保護自己，比如說缺一個零件，像景芳講的自己可以更換，它有自己的慾望。

從程序設計和編程來講可以給它一個目標函數，讓自己可以生存下去，我想找一個伴侶等等，它會有慾望和自私自利的一點，才有可能實現自我的迭代和自我的成長。我覺得這是實現強人工智慧必要的一個手段。

陳曉楠：魯白先生，我想問的是連真正的哲人說到意識都會語文倫次，好像是您說了一句話，大腦在思考我們怎麼運作。

魯白：這是一個悖論，我沒有說不可能，現在我們的科學沒有到這個地步，我們不說意識，我們說的是自我意識還剛剛開始，說不定可以去研究，現在我們沒有到這個地步，但是我們可以不可以先轉移一下花蒂，我們是想要一個新聞，這樣一選就把這一條選掉了，我很喜歡這一條。

陳曉楠：您這是要特權。

魯白：因為我們第一輪是篩選，我們先讓它進。

陳曉楠：我們領導在這裡，問一問菊紅答應不答應。如果開天窗，就把這條特權拉回來。因為我看了你過往的言論，看到這個新聞覺得原來你是這麼想的，但是您還是挖了一個坑，這條暫時還不能入選。

好的，我們再來看一看第四條。

我覺得這條新聞寫的特別厚道，我覺得它會寫盜竊它的是一位失業的媒體人，報社記者，還好寫的是失業的外語翻譯。陳罡自己解釋一下。

陳罡：這是去一個陌生的地方，我們作為一個人來講去到一個陌生的地方，你是想知道它的信息的。30年以後，我們是可以隨身攜帶一個雲外腦，對當地，或者說某一個品類，某一個領域有更加深度和更加豐富的知識理解，不僅是文字、照片、視頻，或者說非常專業的辭彙你都很有可能有。

比如說你去到台北故宮的時候知道每一件珍寶後面的典故，去到大英博物館，會知道它背後的脈絡。如果你的智商達到150、180，也很難存儲各個領域豐富的知識。30年之後我們去到各地旅行，可以隨身攜帶一個外腦，像我們今天的智能手機一樣。

我們今天可以隨時隨地的獲取信息、交互信息和傳遞信息，30年之後，我們這個雲外腦是無所不能的，而且每一個人有很強的個體屬性，也是自己的私人財產很重要的一部分。這位92歲的老人來到北京遺失了電腦，當然有可能是故意的，我們朝陽群眾會沖在前線。

陳曉楠：雲外腦是什麼形態？

陳罡：USB，可能會隨身攜帶，不會插在電腦里，像我們今天的手機，但是裡面存儲了非常多的信息，個人信用卡、賬戶的信息，雲外腦來講，除了存儲簡單的信息以外，還有大量的個人的一些相關的東西，它的價值非常的高。

陳曉楠：我們之前選擇了一位網友的想法，可以插在大腦里的，那條新聞叫糟糕，我的博士腦晶元丟了，我們來相比一下。會不會像U盤一樣隨插隨取，將來是否不用帶收集了？直接插一個晶元。

劉江峰：我覺得在2045年不會發生，可能發生的話是在2025年或者是2020年左右。而且我覺得如果沒有備份的話，這套系統是沒有人敢用的。USB插在腦子裡，我個人認為這種知識在2045年是有可能的。

魯白：先評論一下他剛才講的，特別好。這個不是2045年的新聞，是2025年的新聞，腦子部分的功能外延化，你手機的日曆、通訊錄等等，這個點上來講用不到2045年，所以我們還是要改一下我們的新聞規則，我們要考慮2045年能不能上。

陳曉楠：我們這個博士腦晶元的能成新聞嗎？

魯白：把外界的刺激也好，信息也好裝到你的腦子裡，由於腦的刺激，在不遠的將來就會實現。另外還有一部分的事情把你腦子裡的事情導出來這個也不是很難。但是你要把記憶導出來，我覺得2045年一個是把外面的信息搞進去，另外一個是把裡面的信息搞出來。

山世光：我補充一下，前提是晶元不能有計算能力，有計算能力，會帶來意識，這就回到了前面的話題。更可怕的不是一個人還是一個機器，而是人和機器的混合體，在人體里植入機器或者在機器里植入人的意識，很可怕。

董癢：如果是這樣的話，比如說腎掉了一個恢復一個腎的功能。另外一種是加強型的，非常可怕，使得你的某一個功能強於常人，這是引發軍備競賽的，你插一個晶元，我插兩個晶元，我看你就是傻子了，所以我有錢就會買很多晶元，把自己裝成變形金剛，就是軍備競賽。

王小川：我有一個嚴格的數學邏輯的強迫症，但凡有這種腦機介面，能夠對我們產生這樣一種記憶和語言的能力，不再去遊覽23個國家，在家裡戴VR就可以了，這是兩個事情。如果有這種晶元人類不用做旅遊的事情。

胡嵩：這個我是反對的，晶元做到數理和語言，這是恰恰可能的。

王小川：如果和腦袋接在一塊，加上記憶和語言，像虛擬語言控制你自己。

陳罡：你的觸覺和味覺沒有辦法通過零和一來解決的，這個是完全珍貴的。

Tim Sweeney：已經有非常好的輸入和輸出的迴路，我們可以把信號傳給我們的眼睛和手，我們已經有這樣的頭腦了，你描述的這種頭腦，是的，確實有，我們有些電腦可以和我們的頭腦聯線。

陳曉楠：我們不需要上學了。

Bee：我們可以放入谷歌和計算起，可以把想法直接放入到我們的腦海中，計算能力超過了我們腦子的意識，我們覺得很可怕，可以成為一種混合的物種。

洪小文：我覺得大家講的是科幻小說，要換就整個腦子都換，2045年我不太相信會那麼先進。但是今天所謂的腦科學，我們對腦的了解還不夠，每一個地方到底針對哪個功能還沒有做到，這個最起碼要十年。今天說到晶元，助聽器就是一種晶元，這種東西一定會有，某些功能越做越多，2045年可以多做一些，到那天已經不是晶元了，是整個機器都換了。

回到這裡來我提個拉票，這個是非常有可能的，並沒有說2045年做到，是發生的這個事情，這個人有健忘症，他忘記了，這是非常可能的。而且這裡說到環球旅行，一個東西，AR/VR，自動翻譯，了解世界各地方的語言等等，講起來容易，我們常常高估了三年可以做到的事情，低估了十年可以做到的事情，你可能完全不知道那個地方，可以做到和那個地方的交流，做到環球旅行的經驗，2045年不可能，更不要說這個人還有健忘症。

山世光：大家對於現在的腦機介面有一個誤解，認為它是讀腦，不是這樣的。實際是對大腦間接的測量，測量方式在進行腦活動的時候有一個腦電波的活動產生，我們測量腦的活動帶來的腦電波的變化，但是並不告訴我們記憶是如何存儲，大腦如何活動，談不上如何去寫腦，談不上記憶如何儲存。

陳曉楠：有沒有這種可能性？

山世光：認知神經科學發展到這麼多年，也沒有看到這種可能性。

陳菊紅：我想從新聞的角度為新聞拉票，最主要的不是版面空著，主要的原因作為新聞來說信息要完整。我們大部分討論雲外腦，完整的信息是什麼？就好像隔壁老王幹壞事了，不是說2025年第一次發生就不報了，因為隔壁老王上次在海淀幹壞事，現在到朝陽了。

所以說裡面有任何的信息是新的，我們這條信息就可以複印。

Ahmed Baladi：我覺得這件事情可以發生，放在頭條頭版當中可以增加一個，這個晶元如果被黑了怎麼辦？如果有人把一些壞的意識形態傳播到晶元上，這個人是否變成壞人，當然這個晶元有好處，但是不能保護這個技術，如果不能夠避免惡意的使用這種晶元，我們會面臨著在哪。

我並不是說很悲觀的，但是我認為晶元可以反映出通過晶元來控制人。

魯白：我們看這條新聞怎麼定義，剛才我說的或者作者說的把信息放在手機裡面，放在雲端，這是2025年。但是把晶元插到腦子裡面去，解讀腦的記憶，我覺得2045年也不可能，神經科學還沒有到這個地步。

我說的是在電腦看來非常容易的事情，計算和記憶、儲存，對電腦來講非常容易。但是從腦子裡獲取這個信息解讀成記憶，這個是腦科學裡面一件非常難的事情。

另外一方面又有非常容易的事情，比如說開心也好，欣慰也好，動機也也好，神經環路已經做的非常清楚。這個時候插一個晶元刺激那一個腦部位，一直會幹這種事情。

陳曉楠：已經有這種實驗了嗎？

魯白：動物的實驗很早就有了，只要刺激那個環路就會一直做那件事情，他做的很開心，這樣的事情用晶元來做很容易。

陳曉楠：我們可以選擇永遠開心。

魯白：下一條新聞。

陳曉楠：下一條新聞和這個相關，我們來看一下。先來選一下，同意，我覺得有兩條就可以出了。

我要隆重的說一下，這條新聞也是我們在現場的某位大咖，大家把目光向這裡看，您這個特不靠譜的名字，先解釋一下。

魯白：剛才我其實已經提到了，腦子裡面關於情緒的環路已經搞的非常清楚了，只要你去刺激某個環路，就會讓你產生厭惡、高興等等，已經很清楚了。

現在沒有實現的是非侵入性的，一個電極進去可以產生某種情緒。但是上面說的是納米半導體線圈，或者是用磁，或者是用什麼樣的東西，不要扎進去，戴一個帽子，通過互聯網，雲端產生一個聯想，看到這個人的相片的時候，我就產生厭惡，不會投他的票。

陳曉楠：自己被控制了都不知道。

魯白：對。

陳曉楠：會不會把回憶和經歷加進去，放佛我經歷了一些東西，都是被控制的，但是我沒有經歷過。

魯白：那是不一樣的，比如說可以把視覺和聽覺影像的信號傳入到腦子裡，這個不是特別容易的一件事情。我們現在人類看的很簡單的事情，在大腦里反而是比較難的事情。

情緒控制的情緒環路已經相當的清楚，你就可以知道為了生存有幾種主要的情緒和行為，假如說你去刺激它或者抑制它會造成什麼樣的行為，這個是相當的進步了。

陳曉楠：挺驚悚的，意思是不能告訴我們具體怎麼想，但是會影響我們的情緒好惡，這種簡單的可以實現。

魯白：對。

陳曉楠：有沒有想評論一下，我覺得很恐怖。

山世光：我也看了一些，我覺得有可能實現，但是不是簡單的帽子，可能是這個會場經過了特殊的布置，周圍發射某種信號去刺激在場的每一個人的腦電活動，或者是一種化學的東西，比如說是一種什麼樣的物質，通過呼吸和其他的方式進入到身體裡面，然後去影響他的心理活動，這種可能更現實一點。

魯白：我這裡專門用了一個藍色的帽子，民主黨是藍色共和黨是紅色，發反面的帽子，我在裡面做負面的刺激。

陳曉楠：比如說共享單車，看到紅色的產生喜悅感，看到黃色的很危險，有這個帽子想用嗎？

戴威：不用。

陳曉楠：為什麼呢？

戴威：對產品有信心。

陳曉楠：你們想用意念控制大家嗎？

翟芳：我經常收到投訴小紅書是邪教，經常讓人衝動。我自己挺相信這個的，我們經常服務的是女性消費者的情緒，很容易被調動和影響，不管是發送醜聞，這樣的負面信息。或者說刺激你的情緒，心靈控制可能是比較快的帶來。

但是不知道心靈控制的效果，影響的效率是百分之百，可能只有百分之五十的人被影響了，這條新聞是我存疑的點。

陳曉楠：看魯白先生的帽子做的怎麼樣，紀先生覺得呢？

紀中展：對這件事情我是樂觀的態度，站在今天想未來，而不是站在未來想未來，2045年到底發生什麼？我相信一定超出我們現在所有人的想像。大家都不是造神的，但是都是想去膜拜，但是我不想出現在我這一代，我的小朋友一代可以出現。

陳洲：其實這一條裡面有意思的地方是發送負面信息，如果說這是一種情緒控制是沒有問題的，真要發送給他一些信息，2045年幾乎不可能。不是現在AI、人工智慧方面，更多的是神經學和生物學相關的東西，不應該進展這麼快。負面刺激沒有問題，我們今天就可以做，沒有那麼科幻。

洪小文：魯教授講的很小心，今天要用電的刺激，未來有沒有可能是電磁波等等，距離2045年還有很長一段時間，比如說洗腦，今天都已經在發生了。

比如說中西方不一樣的地方，東方看到紅色是注意，西方是禁止的。比如說鞭打一個小孩的影像，他看到是很害怕的，這種是很有可能的。

陳曉楠：如果我們真的可以隨時隨地的控制自己是不是快樂的話，所有的問題都解決了。

陳天罡：這一點我反對魯教授的觀點，技術上對大腦的迴路有簡單的研究，通過電波可以刺激人的正常應急反應。但是這是一個社會問題，比如說小孩不聽話，要哭鬧，這個時候給他一個外部刺激讓他聽話。

包括讓人保持永遠的快樂可以嗎？上升到一個公司和一個政治，大家不用百花齊放，大家通常在洗腦的環境裡面，這個環境還用投票嗎？完全不用投票了，甚至說我們的好惡，我投反對票。

Ben Goertzle：我們應該把前面的例子和這個例子組合在一起，通過一個帽子不可能注入，一旦有大腦晶元植入腦子，可以學的更快，想的更清楚，俄羅斯的黑客就可以黑你的大腦晶元，可以把記憶和假晶元傳到你的大腦里，有人認為是真的，有人把假新聞移走你還要反擊，認為他是破壞我的記憶。

你的腦子裡計算機的安全是很大的問題，不光是競選的醜聞，如果有人想搶你的女朋友，他們可以在腦子裡植入關於你的壞記憶，你說這不是發生的，是假的記憶，但是她不會相信。

陳罡：接下來30年左右人工智慧會帶來更海量的存儲，更方便的決策，但是只是一個輔助設備。在未來30年，人工智慧發展的非常快，但是始終在我們的掌控之中，不會超越人的創造力。

陳曉楠：現在有很多的問題，我們覺得應該這樣，和事實會不會發生成這樣，未來的不確定性就在這裡，大家請投票，我對這個挺有信心的。只有冷靜的兩票，董癢先生說一說為什麼反對。

董癢：我覺得現在大腦接收什麼東西，洗腦的話，還是通過自己戴的設備，比如說眼睛、耳朵，才會讀到其中。如果有這樣的技術，不經過我的眼睛或者利用我的眼睛無限影響我，相當於有一個病毒，本來通過喝水、親一下才能傳染，未來是空氣傳染，如果這個會發生，人類真的完了，躲都躲不開。

比如說你追求一個女生，本來追不到，你帶她去一棵樹下。

陳曉楠：這是第一個應用，所有的男生看到這裡都這樣想。

Ben Goertzle：有一個特別高明的AI的防病毒軟體才可以。

魯白：一個已經做成的實驗，把一個電極扎到老鼠的身體中心，按一個按鈕，一直會按到它死。剛才他說到女朋友，現在我透露一個信息，中國的一個科學家正在做一個實驗，還沒有發表，對異性腦子裡有一個東西，看到和接觸異性的時候，特殊行為的時候，某一個腦的區域會被極具的激活，如果說把這個激活阻斷了，他會對異性毫無興趣。

如果你不給他看異性，只刺激這個東西，他就會感到非常快樂，像看到了異性一樣。

陳曉楠：我覺得你講這句話的時候有光環，可以造神了，走在腦科學家面前非常恐怖，可以透明的看到我的大腦。好的，您成功了，剛才這條正式入選。

接下來我們看一看下一條，我們剛才說到風險擔憂，要是這樣就糟糕了，這一條也是我們在場的大咖寫的，劉江峰先生。

劉江峰：因為寫的是2045年的命題作文，但是我覺得甚至可能更快，大家都帶著手機，手機現在已經成為人體的體外骨骼，或者人體增強。

現在政府在公共區域布很多無線掃頻的設備，手機經過的時候，它知道你在哪裡。這是植在你的腦子裡而已，天網基本上快成形了，你無可遁形。

包括政府在採用大量的生物指紋，將來和很多信息結合，在這個世界裡，你沒有任何的自由或任何的隱私。我同意剛才陳罡說的，我們做任何的人工智慧或者做任何的技術突破之前，我覺得法律法規或者說人類的倫理的一些邊界一定要劃分好，馬克思說過科學的入口就是地域的入口，我們人類不能走向把自己混滅的道路。

陳曉楠：以後人可能就是行走的數據包，基本上是透明的和您剛才說的問題很像，天眼。

ke（不確定）：我覺得如果政府在做任何形式的植入，街上肯定會爆發遊行，武力的做法是不行的。比如說這個晶元讓你動作更快，想的更聰明，技術上可能是可行的，但是如果是強迫植入的話，我希望這個遊行不只是三四個小時，會繼續下去。

Ahmed Baladi：其實這個不光是隱私，很多人可以這麼做，但是這個問題是出於什麼樣的程度，可以盜竊別人的隱私，這是人們可以制定的，看一看監管可以制定到什麼樣的程度。我們談一談私企公司對私企的信息保護不一樣，如果消費者想把晶元放到腦子裡，用手機上的某種解決方案，願意拿出個人數據和這個公司共享，而且不告訴他做什麼事情，這個是沒有關係的，是很好的合同，改變想法可以中斷。

但是政府來講有國家的保護主義，比如說某個國家不願意不個人數據放到國土之外，現在這樣的事情已經發生了。對於我來說，我覺得這是對隱私的侵犯。

Ben Goertzle：強迫人們植入晶元，比如說微信支付等等手上可以一掃，自動的會去買，可以自動買這種晶元植入，孩子們會求他們的父母給他們植入。政府可能拿到這些數據，有人黑了這些數據，可以發生，現在我們已有的監督並不是實時可以發送的。

洪小文：政府是強迫還是怎樣的？

山世光：很多人出於各種各樣的目的，為了方便或者特殊工作已經植入了，這時候強迫所有人必須植入。或者說進入美國的，全部要植入。

洪小文：我覺得強迫就不可能了，都不能強迫每個人用蘋果手機。

山世光：如果去美國強迫你按十個手指，為什麼要按呢？

Ben Goertzle：政府要求每個孩子進行免疫才能夠安全，孩子的家長也要保證這個孩子得到疫苗的注射。

山世光：如果政府只是一個監控的目的，並不需要植入一個晶元，我自己做人臉識別和生物特徵識別，30年之後不需要植入晶元進行識別。

我們的人臉、氣味、身高、體態，包括你的手機，政府可以時時刻刻的監控你在哪裡。

陳曉楠：至少一個結論大家同意，我們的隱私會越來越少，我們會越來越透明。

洪小文：政府這樣做太陽謀了。

陳曉楠：好的，請投票。

山世光：雖然現在做人臉識別，對海量的人監控的時候晶元最快。

洪小文：太陽謀，政府不會這麼笨。

陳曉楠：接下來是遺忘之葯，魯白教授給我們講一講想忘卻痛苦就可以嗎？

魯白：在記憶的亂路、記憶的神經細胞、記憶的分子，這些東西都已經研究的相當透徹，我們忘情水也好，葯也好，可以增加某種意義。

同樣的道理也可以用一種葯和忘情水使你忘卻某種記憶。

陳曉楠：可以覆蓋新的記憶嗎？

魯白：這個不行，記得很久的時間。

陳曉楠：可以選擇性遺忘嗎？

魯白：應該也可以。

陳曉楠：可以剪輯自己的記憶，只留好的。

魯白：應該可以，知道哪些細胞被激活，選擇性的抑制這些細胞也可以。

陳曉楠：我想問問在場的嘉賓，有想選擇喝點忘情水的嗎？或者說你有一段非常想忘卻的東西嗎？想喝忘情水的請舉牌。即便是有，也不一定會有人買。

我們現在還剩兩條，人機戀的那條，我們來看一看。剛才我們探討了對生命的意識，我們現在缺新聞，我想在探討一下人工智慧的情感。分兩個層面是否會有意識的主動情感，因為現在我們有人機互動的機器人，基於數據的驅動懂得我們怎麼社交，不發脾氣的這種忠實的伴侶會嗎？

王小川：我覺得是很難做到的，人類幾千萬年的進化，對異性的選擇和我們的生命生存繁衍非常接近，並不認為我們做出這樣一個機器，做出賦予生命權的機器很難，不被接受，做出一個有生命，還能發生自我認知，還有情感的機器，從技術上來講也是做不到的事情。

同時我們看這樣一個法律規定，有人說我願意和一個黃瓜結婚怎麼辦？不會有這樣的討論，我覺得機器狗不富裕生命，這樣一個也不富裕生命，不符合法律。

洪小文：雖然小川不同意，我覺得這是很容易發生的，有一個就去法院申請，而且法院不准他們，它的描述是絕對有可能的。

山世光：AI是從人變成機器還是機器變成人，有可能是一個混合體，讓人產生情感的話，和我們傳統的認知，異性的基本特徵要有，不一定是機器狗和和機器貓。

結婚的目的是什麼？結婚的對象不可控，是一個非理性的東西，需要一個法律去保護你的權益，這個事情確實要發生的。

王小川：我認為不會發生的原因是這樣的，前兩年已經有新聞了，在國外，有人想和動物辦婚禮，法律上很容易界定這件事情。這裡面我覺得你覺得是新聞，已經發生過的舊事，和機器人沒有關係。

但是2045年是否有婚姻制度還得去考慮，很多人認為婚姻制度為了繁育小孩子，隨著社會的發達，兒童的孕育可以由社會承擔。從兩頭來看，出現這種事情的可能性是極端小的。

陳曉楠：我們有生之年婚姻制度就可能瓦解了。

陳罡：這個事情發生率極高，我們在人工智慧，技術領域上的提升給機器賦予情感和生命，這是一個層面。

第二個層面是人文的社會，我們能接受什麼樣的事情，2045年是否會變成法律的問題被更多人公開的接受，我覺得這是兩個方面的問題，不是技術的問題。

山世光：從技術的角度來講，機器人是否可以讓人產生依賴感，一個方面是可以感知你的情緒，可以知道你的喜怒哀樂，第二個方面是可以不可以表達它的情緒，可以表達它的喜怒哀樂。

當然，不去考慮它有沒有生命的問題。從這個意義上來講，可以感知你的情緒，也可以表達它的情緒，就是喜歡這樣的一種機器，可以和自己互動的很好。

陳曉楠：你說的這個特別好，原來還有一條網友的，糟糕，我被我的機器人女友嫌棄。

山世光：很有可能。

胡嵩：這個新聞不一定代表我們造出了有生命，有意識的機器人，它的夥伴認為它有意識就可以了。很多宅男就喜歡平面的形象，甚至有人像小機器人求婚。

魯白：剛才講了兩個層面，一個層面是會不會發生，什麼事情都可能發生，男人現在可以和男人結婚了，在某些地區法律保護。從這個意義上完全有可能，可能遠遠早於這個時期，2025年就發生了。

另外是科學方面的問題，婚姻的基礎是愛情，愛情是雙方的。我覺得人可以愛一個機器，從我們現有的技術往前走50年，機器產生情感，想像不出來。

陳曉楠：我們人類目前對AI是單相思。

魯白：對，我覺得這個新聞存在的可能性沒有，在2045年，要不然在2025年發生，要不然就不會發生。

Ben Goertzel：我同意，這個問題有兩個層面，我覺得法官會非常頭痛的問題。科學界也會達成共識，如果一個女性想要和一個機器人結婚，這個機器人看起來像一個男人。說她戀愛了，你問她們的情感，機器人也可以回答這種愛的問題，但是法官會不會相信這個機器人的感受呢？或者法官認為機器模擬陳述的感受，我們需要專家證人說機器人沒有體驗到愛，另外一個專家證人說這個機器人體驗到了愛。

就像我們人腦證人體驗到的一樣，不同的國家，不同的法官會做出不同的決定，這些機器人會到一個允許他們結婚的國家。

陳曉楠：好的，請投票。好的，我們剩下最後一條，大家先來看一下。這位作者是郝景芳女士，解釋一下。

郝景芳：前面幾條我都沒有說話，我都在聽大家說，覺得特別有意思。我自己覺得未來有幾個趨勢，我不覺得AI是個體化的，它都是從全球的Siri告訴我們的。

實際上我覺得不可避免的聯網AI，程序員會備份，一定會備份。未來大數據一定是雲學習的，雲計算的，一定是發生在雲上面的。不可避免的是，控制整個全球的電網等等。

也有很多人擔心AI全球控制以後，覺得我們人要完蛋了，把我們殺死了，但是不太可能發生。原因是殺人非常耗能的，全部排隊等著AI來殺，這個動作把我們所有人都砍死，需要耗費巨大的能量，從理性計算上來講，威脅就是很好的辦法，我們都有核武器，不用互相扔的方法，只是威脅你我有核武器。

只要告訴你不要非理性的惹我們就夠了，因為它確實威脅到我們，控制著所有的終端。但是我覺得腦接晶元介面會發生有人接入了一兩個晶元就比別人聰明了好多。他就能掙很多錢，主動人想去接入，這樣的話全球聯網控制人類也很容易，只是不用斷電傷害它。

我們最近做一個

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！