「機器人覺醒」？並非專屬科幻議題

所謂「全國首例機器人傷人事件」是一場烏龍，但這並不妨礙探討背後的嚴肅意義。

事情發生在深圳舉辦的第十八屆中國國際高新技術成果交易會上。最初有媒體報道稱，一台名為小胖的機器人「在沒有指令的前提下」突然自行打砸展台玻璃，最終導致部分展台破壞，還砸傷了一名現場觀眾。

一時間網路上出現大量有關「機器人覺醒」、「機器人反抗人類暴政」的段子。人們也自然地聯想到《西部世界》，這是一部探討機器人獲得自主意識的美劇。然而事實證明，人類又想多了。

高交會官方對該事故做出了澄清，事故原因為人為操作失當，誤將「前進鍵」當成「後退鍵」。這回的主角機器人「小胖」與《西部世界》里的host還不可同日而語。

這件事和去年德國發生的所謂「機器人殺人」事件一樣，吃瓜群眾腦補了太多的劇情。事故本身其實更接近傳統的安全事故範疇，沒有太多的科幻情節。但也不能怪人們多想，「機器人」這個稱呼本身就有強烈的暗示意味。

真正意義上的「機器人覺醒」或者「機器人失控」可能還在未來，但已出現的機器人事故是有益的提醒。比如，一個操作失誤就發生傷人事件，說明廠家的安全設計不及格，至少沒有達到「機器人」應該達到的水平。而安全無疑是任何智能層次的機器人都必須過的頭道關。要說明的是，「小胖」本來就是一台兒童伴侶機器人，安全必須是底線。

人工智慧近年的突飛猛進，將以前只屬於科幻領域的問題拋到了人類面前。比爾?蓋茨、特斯拉汽車總裁馬斯克等人不斷對人工智慧發表悲觀言論，並非無稽之談。

兩個月前，英國標準協會發布了一套機器人倫理指南。這份指南給出了一些原則，比如：人類是負責任的主體，而不是機器人；要確保找出某個機器人的行為負責人的可能性。同時機器人欺騙、令人成癮、具有超越現有能力範圍的自學能力，都被列為危害因素。這些原則都已經有了現實針對性。

也許，機器人會「原力覺醒」。不是說機器人必然會獲得與人類一樣的自主意識，畢竟人類連自身意識的產生和運作還搞不太清楚，而是說，隨著計算機自主學習能力越來越強，機器人做出一項行為的真實「動機」終將超出普通人乃至專家的理解範圍。

人類必須在機器人的「幼年」階段，給它們立好「規矩」。這個議題的確有必要開始嚴肅探討了。

TAG:澎湃 |

※對策建議題如何講好「內行話」
※兩會觀察：器官捐獻議題獲關注和熱議
※澳門市民有話講：我最想特首回答議題是？
※「糧食危機」是假議題，「糧食儲存」才是真危機！
※性理論 性是什麼議題
※歐盟民眾最關心議題：移民問題與恐怖襲擊
※意美領導人討論移民和反恐等議題
※我就想問問，這些奇葩議題誰定的
※中外醫生聯手探索換頭手術，永生的終極議題能否有答案？
※美國就物聯網相關議題徵詢公眾意見
※必應政治指數幫選民了解候選人對各大議題的立場
※中國獨家反對印度成為核供應國？官員：無此議題
※法國總統大選辯論：勒龐與馬克龍就反恐議題激辯
※還吵「各表」？龐建國：該面對政治議題了 否則自我邊緣化
※焦點議題：男性使用手提電腦，會影響生育能力？
※敢碰難題！洪秀柱：兩岸政治議題必解決 難易並重
※媽媽們面對的重要議題！剖腹產是在嚇唬誰？
※化廢棄為驚奇 提倡環保議題的街頭動物雕塑
※錢遜：中華文化的一個中心議題是講做人的道理