Deepmind成立新AI部門，意在處理AI社會和倫理問題

雷鋒網10月5日消息 據外媒 The Verge 報道，近日，Google旗下AI研發公司 DeepMind 宣布成立一個AI新部門，主要負責研究AI帶來的倫理問題和社會問題，如自動化給未來經濟帶來的影響等等。

圖：DeepMind辦公室

據了解，新部門的主要目標是幫助技術人員將倫理應用於實踐，幫助社會預測AI的影響，並對其影響給予引導，確保AI造福人類。2016年，DeepMind 開發的AI系統在圍棋棋盤上打敗世界頂尖選手，因而名聲大震。

DeepMind 為新部門命名為 DMES（DeepMind Ethics & Society：倫理和社會）。新部門將於2018年開始就這些課題目標進行研究。目前，該部門已有8名全職員工。不過，按照 DeepMind 的計劃，該部門的員工規模將在一年時間內增至25名左右。

為了壯大團隊，DeepMind 還從外部學術機構和慈善機構聘請一些顧問，為新部門提供諮詢服務，包括哥倫比亞大學發展學教授 Jeffrey Sachs、牛津大學AI教授 Nick Bostrom、氣候變化活動家 Christiana Figueres。

DMES 聯合主管 Verity Harding、Sean Legassick 在公告博文中表示，這些專家不只精通專業技術，還可以帶來多樣化的思考。同時，二位還表示，DMES將幫助 DeepMind 探索和了解AI帶給現實世界的影響。「如果AI技術要服務於這個社會，那麼，其必須經受住社會的優先事項和關注重點的重塑的過程。」

雷鋒網還了解到，新部門屆時還將與有著類似研究目標的學術團體合作，如紐約大學的 AI Now Institute和劍橋大學未來智能研究中心（Leverhulme Centre for the Future of Intelligence）等等。

事實上，2014年 DeepMind 被 Google 收購時曾承諾要建立一個「AI倫理委員會」。與新部門不一樣，該委員會主要用以監管公司的所有AI研究活動。不過，自收購以來該倫理委員會並沒有多大作為。特別是 2016年，DeepMind 在與英國國民健康服務局（NHS）合作時，受到了公眾的大肆批評，這讓其進一步認識到AI倫理問題的重要性。

2015年，DeepMind 和倫敦三家醫院達成合作，處理了其中160萬名患者的診療數據。2017年，該行為被英國的數據監督機構判定為非法，因為該公司沒有通知到個人他們的數據已被使用。DeepMind 後來表示，他們低估了「NHS的複雜性和患者數據的規則」，並聘請了新的獨立倫理審查員以監督未來的任何交易。

雖然DMES的成立主要是基於 DeepMind 對AI帶來的倫理問題的考慮和重視，但至目前為止，該公司的內部倫理審查員依然籠罩著神秘面紗。同時，據了解，新部門將與 DeepMind 的產品部門並行運營。未來，新部門聘請了哪些審查員，多久進行一次會議，主要討論哪些要點，又有哪些形式...關於這些問題，只能在未來慢慢尋找答案。

Via The Verge，雷鋒網編譯

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！