機智人會不會幹掉人類?
【第381次分享】本文為「立達書院」公眾號第381次分享。
於是寫了一段話:
我始終堅信:機器人將勝過人類。現在已經勝過了,由圍棋可見。
我也始終相信:機器人可以幹掉人類!
如果說,我對人類有惟一的悲觀,就是這個了!
當然,你也可以說,是人類自己幹掉了自己。
幸運的是,我將看不見那一天!
我為什麼堅信機器人將勝過人類,並可以幹掉人類呢?
我不研究人工智慧,也沒有霍金那樣的能力,但我相信一個簡單的道理:把人類千百年積累下來的所有智慧都編程輸入計算機,由它在短時間內快速運算、並選擇出最佳應對方案,足以打敗任何人。這一點,在圍棋的人機對戰中已經得到證實。
2016年3月9日,曾拿過14個世界冠軍的人類頂尖圍棋高手李世石與機器人Alphago圍棋大戰。人類很自信地以為會贏得比賽,李世石自己也預測:「4:1或5:0,我贏。」可是,結果是4:1,Alphago贏。李世石只贏了一局,還是因為Alphago出現了程序Bug。
2017年5月23日,世界排名第一的圍棋頂尖高手柯潔對戰Alphago的升級版Master,結果完敗。事實已經足以證明,機器人可以戰勝人類。
俗語道:「三個臭皮匠頂個諸葛亮。」何況,人工智慧根本不是三個臭皮匠,它是人類智慧的結晶。當把人類的智慧集於一身時,以一人去戰千百年來千萬人的智慧,真是絕無勝算的。
更可怕的是,隨著眾多人類智慧的輸入,各種信息、演算法等逐漸積累,機器人運算過程中新的自由組織與選擇信息的產生與積累,它將變得越來越強大。谷歌工程師在2017年6月又製造了Alphago Zero,不給它學習任何棋譜,只是讓它自己下,跟自己下了三天的Alphago Zero結果以100:0擊敗了Alphago。跟自己下了21天的Alphago Zero然後又秒殺了Master。機器已經學會了自我學習。
而且,機器人也已經學會了寫詩。2017年8月19日,人工智慧機器人小冰在《華西都市報》「寬窄巷」開設專欄「小冰的詩」,發布了她的新作《全世界就在那裡》。詩人周瑟瑟認真看了小冰的詩集,也讀了這首詩,他認為「以前我感覺她的詩機器味很濃,現在慢慢有人味了。如果說,小冰以前的詩是小學生水平,現在算得上是大一新生的水平。她是不斷往前走的。」機器已經學會了創造。
由香港漢森機器人公司(Hanson Robotics)設計的女機器人索菲婭於2017年10月被沙烏地阿拉伯授予國籍,成為沙烏地阿拉伯第一位機器人公民。索菲亞已經對未來做起了規劃,她計劃在未來建立家庭,並生兒育女。機器人已經成為社會的合法公民,並準備生兒育女,繁衍後代了。
機器人的發展神速,而人類的智力,千百年來發展是緩慢的;人類的學習能力,千百年來是緩慢的。當機器人的智能超過人類的整體智能時,人類將很難收拾。
這還不是最可怕的,最可怕的是,在自由選擇與信息重組過程中,機器真可能產生自由意志,一個在各方面性能都超越人類的新型智能動物將產生。那時人類將對它們完全失控。
機器人是可以大批量生產的,如果出現大批量的具有自我意志的邪惡機器人,那麼人類真的就危險了。
這個發展過程至少要經過三個階段:機器階段、機器人階段和機智人階段。
機器階段,它們還屬於純粹的工具,完全由人類控制、擺布和使用。
機器人階段,它們有意識,但還缺乏自我意志,或尚未形成完整、獨立的自我意志,還在人類的可控範圍之內。
機智人階段,它們有意識,且已具有完全獨立的自我意志,不受人類控制,它們成為它們自己。
任何事情都有利弊。機器人的發展也是一樣,它們的發展會給人類帶來巨大的好處,但科技永遠是個雙刃劍,只想取其利,而不想取其害是不可能的。「磨刀恨不快,刀快傷人指」。如果機智人中的邪惡份子一旦失控,它們發起對人類的戰爭,消滅人類,應該是很容易的事情。
在這一點上,我同意霍金所說的:人類很大可能會滅亡於人工智慧。
機智人會不會一定幹掉人類。只能說不一定。但永遠有可能!
人類可不可以避免被機器人滅掉的悲劇呢?又將如何避免呢?我不知道!
2018年3月30日晚
於六樓居
歡迎長按下圖關注「立達書院」公眾號。
TAG:立達書院 |