三定律2.0？英國標準協會發布機器人倫理指南

1942年科幻作家阿西莫夫提出著名的機器人三定律，來保證機器人友善待人。在人工智慧漸行漸近的今天，簡單的定律可能無法滿足需求了。據衛報報道，最近，英國標準協會（British Standards Institute，簡稱BSI）發布了一套機器人倫理指南，對機器人製造中可能存在的倫理道德問題作了討論。

（模擬機器人 攝影師：Siu Chiu / 路透社）

BSI是英國有100多年歷史的國家標準機構，在世界範圍內有很高權威性。他們先召集了一批科學家、學者、倫理學家和哲學家，對機器人潛在的危害和防護措施進行討論。然後在英國牛津郡最近一次Social Robotics and AI大會上，發布了一份指導方針。這份編號為BS8611的文件，主要針對機器人設計研究者和製造商，指導他們如何對機器人做出道德風險評估。

（1942年，阿西莫夫在短篇小說"Runaround"《環舞》中首次提出了三定律）

「據我所知「，西英格蘭大學機器人教授Alan Winfield告訴《衛報》記者，」這是業界第一個關於機器人倫理設計的公開標準，比阿西莫夫的三定律稍微複雜一點。」

（圖源：拇指閱讀）

這份指南定義了一些寬泛的道德原則： 比如機器人的設計不應該以傷害人類為唯一或首要的目的。這跟當年阿西莫夫提出的三定律第一條——「機器人不得傷害人類」如出一轍。去年1月，霍金和特斯拉CEO伊隆·馬斯克等人曾簽署一封公開信，強調「人工智慧必須確保能夠按照人的意志工作「。至少目前看來，做主的仍然是人類。

（根據阿西莫夫原著改編的電影《我，機器人》劇照）

指南中還提到一些有爭議的話題，比如人類可否與機器人建立感情聯繫，如果產生「對機器人的過度依賴」該怎麼辦？想想科幻電影《她》（Her）里，主人公Theodore跟人工智慧系統OS1的化身Samantha之間那段奇異的愛情，《機械姬》中被智能機器人Ava所吸引的程序員Caleb……未來人工智慧是否會產生像人類一樣的感情？

（電影《她》劇照）

「你和機器人共處的一段時間，它一直給予你正確答案，於是你開始信任它，漸漸變懶，然後有一天，它給了你超級愚蠢的建議「，這時候你又該怎麼辦？人工智慧教授Noel提了這麼個問題。不過在避免這樣的問題上，新的標準也沒能給出明確的方向。

（電影《機械姬》里的Ava）

指南中建議設計師遵循透明化的原則，但科學家們說在實踐中這很難實現，因為現在的人工智慧系統深度學習技術已非常發達，機器人在執行一個任務時，會通過數百萬次嘗試，直到發現能成功的那個方法——有時連創造者也無法理解和預測它們的決定。

（深度學習代表——贏得人機大戰的AlphaGo）

其中還涉及機器人的性別和種族歧視問題，因為深度學習系統很多都使用互聯網數據來訓練，而數據本身就帶有偏見。已有例證顯示機器更容易識別白種人的臉。這種偏見會直接影響到技術應用，比如未來的醫療應用中，機器人在診斷少數族群時，專業程度可能會降低。

BSI稱，基於現有對工業和醫療機器人的安全要求，他們建立了這份標準。在機器人生產過程更有效率、更加靈活的今天，提前辨識和處理一些道德問題非常有必要。BSI的發言人說，雖然這份指南不是法律，還是希望機器人的設計者們能使用它。

（來源：pcmag）

本條消息由不存在（微信公號：non-exist-FAA）日報提供。不存在，關注所有平行宇宙里各個角落的科技新聞。

圖片源自網路。

TAG:不存在日報 |

※中華人民共和國藥品管理法實施條例2017修訂版發布
※2016中國醫藥物資協會發展狀況藍皮書發布
※科技早報 – 安卓之父發布新手機、英特爾發布i9處理器 – 20170531
※《科技中的設計報告2017》發布：3家設計師主導的中國公司市值超3000億美元
※「南方會2017」國際首部！冠脈微血管疾病中國專家共識發布
※2016年英國移民法草案全解讀！《2017年英國簽證寶典》發布
※聚多國精英，話世界「醫」流-P4 China 北京2016國際精準醫療大會重磅級演講嘉賓發布
※英國NBS發布2017國家BIM報告
※華南理工全國第二！《2017中國大學專利獲獎排行榜》發布
※2018世預賽歐洲區前瞻：英格蘭召開發布會 英超金靴哈里·凱恩出席
※中國營養學會發布《中國糖尿病膳食指南（2017）》
※BA發布2017風格指南
※2017上海體博會發布：舒華家庭健身解決方案預覽
※CA：美國癌症協會發布2017癌症年度統計報告
※IT之家安卓版4.51發布：優化圖文直播+評論管理修復等
※《國家地理》雜誌發布2016年「波蘭新七大奇蹟」
※聯合基金2017年度公開發布指南（二）
※聯合基金2017年度公開發布指南（三）
※161214《心理罪》發布會直播ing