英國正式頒布機器人道德標準：不許傷害、欺騙和令人成癮
艾薩克·阿西莫夫（Isaac Asimov）曾在他的科幻小說里描述了規範機器人行為的三定律，包括：不能傷害人類、服從人類命令和保護自己。現在，英國標準協會正式發布了一套機器人倫理指南，比阿西莫夫三定律更加複雜和成熟。我們的社會已經到了要給機器人制定行為規範的時候了，這不禁讓人產生一種科幻與現實交織的奇妙感覺。
資料圖
英國標準協會（British Standards Institute，簡稱 BSI），是有著 100 多年歷史的英國國家標準機構，在世界範圍內具有很高的權威性。這個倫理指南的全稱是《機器人和機器系統的倫理設計和應用指南》（以下簡稱《指南》），主要針對的人群就是機器人設計研究者和製造商，指導他們如何對一個機器人做出道德風險評估。最終的目的，是保證人類生產出來的智能機器人，能夠融入人類社會現有的道德規範里。
這個標準的文件代號為 BS8611，發佈於 9 月 15 日英國牛津郡的 「社會機器人和 AI 」（Social Robotics and AI）大會上。西英格蘭大學機器人教授 Alan Winfield 表示，這是業界第一個關於機器人倫理設計的公開標準。
文件內容雖然用詞枯燥，但是裡面所描繪的場景，簡直跟從科幻小說里蹦出來的一樣。機器人欺騙、令人成癮、具有超越現有能力範圍的自學能力，這些都被列為危害因素，是設計人員和製造商需要考慮的。
《指南》開頭給出了一個廣泛的原則：機器人的設計目的不應是專門或主要用來殺死或傷害人類；人類是負責任的主體，而不是機器人；要確保找出某個機器人的行為負責人的可能性。
《指南》也聚焦了一些有爭議性的話題，例如，人類與機器人產生情感聯繫是可以的嗎，尤其是當這個機器人本身設計目的就是為了與小孩和老人互動。
謝菲爾德大學教授 Noel Sharkey 認為，這就是機器人在無意的情況下欺騙人類的例子。機器人是沒有感情的，但是人類有時候並不這麼認為。他指出，最近有一項研究，把小機器人放到一所幼兒園裡，孩子們很是喜愛，並且認為這些機器人比家裡的寵物具有更高的感知能力。
《指南》建議設計者更應關注機器人的透明性，但是科學家們表示這個在現實里很難應用。這是因為人們無法確切了解 AI 系統（尤其是深度學習系統）是如何做出決定的。
一個人工智慧體，並沒有用固定的程序來指導它完成任務，它是通過數百萬次的學習和嘗試，才找出成功的解決方法。這種學習和做出決策的過程，有時候是其人類設計者都無法理解的。
《指南》里也提到了機器人的性別和種族歧視問題。這是因為深度學習系統很多都是使用互聯網上的數據進行訓練，而這些數據本身就帶著偏見。
機器人的偏見是會直接影響技術應用的。 它會對某些群體的學習更深入，而對另一些群體有所忽視，這在以後的應用中，意味著機器人會「看菜下飯，看人說話」。
現在已有的例子就是，聲音識別系統對於女性的理解要弱一些，再比如機器識別白種人的臉更容易，識別黑人的臉更難。 長遠來看，在未來的醫療應用中，機器人在診斷女性和少數族群的時候，其專業程度會降低。
Sharkey 教授說：「我們也需要一個機器人黑盒子，可以打開來仔細審查。如果一個機器人表現出種族主義的傾向，我們可以把它關掉，從街上拽回來。」
兩周前，路透社有文章指出，有科學家表示性愛機器人會使人成癮，因為機器人不會拒絕。
《指南》 也提到了這種「過度依賴機器人"的現象，然而並沒有給設計者一個確切的可遵循的準則。這也是在未來的工作中需要繼續補充的。
探尋「下一個地球」的新方法 而且並非一種哈勃望遠鏡拍攝深太空彗星解體畫面十五的月亮十七圓：凌晨沒賞月？那你也錯過了「半影月食」NASA宇航員在距離地球850英里的高空拍下壯觀美景新研究指出：大型海洋生物滅絕得比小型物種更快
TAG:cnBeta |
※日本成人電影界奧斯卡頒布 獲獎的你們認識嗎？
※慈禧太后不被世人認可，但她頒布的這條法令，獲得孫中山的稱讚
※過度減肥已成社會問題，國家頒布特殊法令，引導人們正確面對
※35年內人或將與機器人結婚？英專家預言將會頒布相關法律
※特朗普頒布新行政令，確保移民系統不會破壞「僱傭美國人」
※古代的「刺死辱母案」是怎麼處理的？甚至還頒布了專門的法律！
※為了防止和尚和尼姑做出不道德的事，朱元璋頒布一奇葩規矩
※皇帝用成語頒布聖旨，慘遭大臣打臉，無奈乖乖認錯
※胡人視漢人為「雙腳羊」，他頒布了一道殺光胡人的「殺胡令」
※舉世震驚：以肉食聞名的德國竟頒布公務禁肉令！原因是……
※美國正式頒布規定 禁止無人機在軍事基地上空飛行
※博格巴美國摟美女恢復訓練！曼聯頒布特殊禁令防止他再受傷
※袁世凱成為民國大總統後，頒布中國第一部知識產權保護的法律
※英國頒布電子設備上飛機相關禁令原來是預防基地組織的威脅？
※美國槍擊案震驚全球——槍支在美國是怎麼的存在？會頒布禁槍令嗎？
※中醫人的喜事：習主席令，《中醫藥法》正式頒布！（附全文）
※台灣頒布禁止食用貓狗的法令，愛狗人士期待更多法律出台！
※gif秀 | 不老男神的魅力——韓國因為他頒布新律法
※雍正頒布了一道諭旨，把廣東和福建人害慘了，並被乾隆一票否決