歐盟發布AI產品7大原則

馭洋 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

歐盟在4月8日發布了一系列關於如何發展AI道德的指導意見。不同於阿西莫夫的「機器人學三定律」，它們的目的並不在於提出一個大的框架來阻止AI變身殺人機器，相反的，它們旨在解決當AI融入了醫療、教育、消費等領域，真正成為人類生活的一部分後，會給社會帶來的一些模糊、分散的細節問題。

舉個例子，當AI未來真正進入醫療領域為患者進行診療，歐盟可不希望看到它出現種族歧視和性別歧視的問題。頂撞人類醫生的反對意見這種事當然也不應該發生。

歐盟怎麼說

歐盟為阻止AI暴走，也是下了大力氣了。這一次指導意見的出爐，就是52位專家群策群力的結果。他們從專業的角度出發，提出了未來AI系統應該滿足的七大原則。

受人類監管

AI不應該踐踏人類自治。人類不應該被AI系統操縱或威脅，人類應該能夠干預或監督AI的每一項決定。

技術穩健性和安全性

AI應該是安全和準確的。它不應該輕易受外部攻擊的影響，它應該非常可靠。

隱私和數據治理

AI搜集到的個人數據應該是安全且私密的。它不應該被隨便訪問，不應該輕易被盜。

透明度

用於創建AI系統的數據和演算法應該是可訪問的，應確保AI決策的可追溯性。換句話說，運營商應該能夠解釋他們的AI系統是如何做出決策的。

多元化，非歧視和公平性

AI提供的服務應該適用於所有人，無論年齡、性別、種族或其他任何特徵。系統不應該有任何偏向。

環境和社會福祉

AI系統應該是可持續的（即對生態負責）,並且應該「增強積極的社會變革」

問責制

AI系統應該是可審計的，並且被現有的公司舉報人保護舉措涵蓋。系統的負面影響應該事先得到承認和報告。

以人為本的歐盟

一直以來，歐盟都很關注AI倫理的問題，從《歐盟人工智慧》到《人工智慧道德準則》，歐盟雖然在AI技術上沒有先發制人，但在「以人為本」方面顯然走在了前列。

早在2018年4月，歐盟就把發展人工智慧的重心放在了人工智慧價值觀的構建上，希望以此彰顯歐盟在人工智慧領域的特色。2018年12月，歐盟在收集了500多條建議之後，發布了由人工智慧高級專家組編寫的《人工智慧道德準則》草案，提出了「值得信賴的AI」這個概念。而現在，AI七大原則也由歐盟率先提出，歐委會表示下一步他們還要為以人為本的AI制定國際共識，在G20峰會這樣的國際場合探討此事。

網友們怎麼看

AI的迅猛發展到底會不會給人類帶來機器人末日，其實一直是許多人心裡的隱憂。在追求AI的安全性方面，無論是研究者還是普通人都沒有停止過關注。不過對於歐盟提出的這7大原則，也不是人人都買賬的。

比如就有網友提出，憑啥AI話語權一定要不如人類，它要是就比人類強呢？

也有人覺得關於透明度的要求不太現實，神經網路本來就是一個黑盒子。

不過真理總是越辯越明的，積極反思並公布類似指南的正面意義還是得到了網友們的肯定，只是AI倫理顯然不是一個文件兩個文件的事兒。我們受益於技術，我們也憂慮技術的發展方向，在這個方向上的探索或許還有很長的路要走。

「有道德的AI」是歐盟理想中的雙贏局面，你又是怎麼看的呢？

—完—

量子位AI 系列沙龍--智慧城市

加入社群

量子位AI社群開始招募啦，量子位社群分：AI討論群、AI 行業群、AI技術群；

歡迎對AI感興趣的同學，在量子位公眾號（QbitAI）對話界面回復關鍵字「微信群」，獲取入群方式。（技術群與AI 行業群需經過審核，審核較嚴，敬請諒解）

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

喜歡就點這裡吧 !

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！