谷歌DeepMind與OpenAI合作預防機器人暴亂
機器人威脅人類的言論從未停止過。隨著機器人的技術的不斷發展，現在它們的技能越來越多，而且越來越聰明，這使得一些人更加擔心機器人會在有一天凌駕於人類之上，驅使人類。現據外媒報道，谷歌旗下AI研究團隊DeepMind和馬斯克創辦的人工智慧企業OpenAI宣布合作，研究預防機器人暴亂的方法。
DeepMind和OpenAI在最新發表的文章中指出，他們研發了一種新的機器學習方式，這種方式需要機器從人那裡得到反饋，而不是依靠及其自己學習解決問題，後者可能會帶來讓人意外且不可控的結果。
文章稱，AI主要的問題是它們可以發現通過作弊能夠獲得最大的獎勵。這個問題與獎勵機制有關，這也是谷歌和OpenAI正在嘗試解決的方向。文章指出，他們讓人參與到獎勵機制的制定中來，而不是讓機器自己設定，這樣以來就能讓AI在人指定的範圍內完成人發出的請求。不過弊端是這需要人類大量的反饋才行。
TAG:天極網首頁-智能設備 |
※紅會Daily health 換季預防篇
※Mama＆Kids 妊娠紋預防護理乳
※Lancet Infect Dis：單劑量滅活全細胞口服霍亂疫苗對年齡較大的兒童和成人有預防作用
※佳節來臨，注意飲食衛生，預防食物中毒 Food Poisoning
※Cell host microbe：腸道微生物代謝產物能夠預防沙門氏菌感染
※Bai Lab晚報：Omentin-1通過下調促炎細胞因子預防炎症誘導的骨質疏鬆症
※華為發布RottenSys惡意軟體預防方案
※「Súper lunes」到來，警方啟動應急計劃預防交通意外
※胡彥斌發文批3unshine沒實力 3unshine淘汰是節目組預防出道嗎
※預防RottenSys惡意攻擊 可從用戶自查系統做起
※預防iPhone SE2？三星 S9 mini 曝光，搭載驍龍660
※研究表明Apple Watch能檢測並幫助預防兩種嚴重疾病
※DoDoDoI如何預防春季過敏
※TUV萊茵出席Sedex大會，為職業病預防出謀獻策
※德國雙心牌Doppelherz銀杏葉精華膠囊 預防中老年中風腦血栓改善記憶
※PNAS：利用CRISPR/Cas9開發出一種精準的基因組突變預防系統
※預防郵箱被他人盜用，安全認證創企Valimail獲2500萬美元B輪融資
※糖尿病創新葯Sotagliflozin療效如何？；絕經後女性該用激素預防慢性病嗎？新指南反對
※利用 AI、大數據預防犯罪、檢測威脅的 ThetaRay 完成 3000 萬美元融資
※三大思路預防敏感！我的換季護膚routine