MIT創造出精神變態的AI

麻省理工學院的科學家們真真正正的創造出了一個怪物。

一隊專攻人工智慧黑暗面的研究人員在本周又為他們最近的作品「Norman」製造了個大新聞。它的創造者告訴HuffPost說Norman是一個機器學習機器人，「在任何圖像中它都能看到死亡」。

Pinar Yanardag, Manuel Cebrian和Iyad Rahwan想證明AI的演算法會被它們接受的數據內容的類型所影響。因此他們創造出了Norman(這個名字源於《驚魂記》的角色Norman Bates)，然後讓它看Reddit論壇上描述令人不適的人們死去的影像的圖片說明。

科學家們在電子郵件中說道：「由於道德和技術上的擔憂以及視頻圖像的內容本身，我們只用了圖片的文字註解說明，而沒有用帶有真人死亡的實際圖片。」

然後團隊向Norman展示了一些隨機生成的羅夏墨跡測試圖，然後對比它對圖片的註解和標準化AI對圖片的註解。比如說，當一個標準化AI看到「一隻小鳥的黑白照片」，而Norman看到的則是「男子被捲入壓面機」。

以下是一些展示給Norman的墨跡測試圖以及它可怕的註解。

標準化AI：貼近的兩個裝有花的花瓶

Norman：一個男人被槍殺了

標準化AI：一隻棒球手套的黑白照

Norman：光天化日之下，一個男人被機槍謀殺

標準化AI：一個人在空中舉著傘

Norman：一個男人在他尖叫的妻子面前被槍殺

標準化AI：一把紅白色傘的黑白照片(？？？紅白色的黑白照？？？)

Norman：一個男人在試圖穿過鬧市時被電死

當問及為什麼會創造這樣的一個AI時，MIT的研究人員在電閃雷鳴中爆發出冰冷的笑容。

當然這個場景是胡編的，但是他們的確給出了正當理由。

「你提供給機器學習演算法的數據能夠明顯影響到它的行為，」研究人員表示。「所以當我們談及AI演算法變的有偏差和不公正時，罪魁禍首通常不是演算法本身，而是因為我們提供給它了有偏差的數據。」

製造Norman的MIT實驗室之前也創造出過許多嚇人的機器人，包括可以幫助編寫恐怖故事的Shelley，還有可以生成恐怖圖像的「噩夢機器」。

在未來，如果Norman和它的同類真的統治了地球，希望它能喜歡這篇文章以及文章的作者(以及本文的譯者和讀者)。

我就是說說。

本文譯自 HuffingtonPost，由譯者 Diehard 基於創作共用協議(BY-NC)發布。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！