MIT使用Reddit訓練的「精神病AI」現在只想到死亡和謀殺

據外媒BGR報道，如果你想知道你是否可以使用Reddit來培訓人工智慧，那麼你將獲得答案。近日麻省理工學院（MIT）的研究人員用Norman這個「精神病AI」來完成任務，因為在花了一些時間在Reddit上後，現在其只想到謀殺和死亡。

MIT研究人員故意創建Norman來證明用於訓練AI的數據可以顯著影響其行為。研究人員解釋稱：「Norman遭受了長時間暴露在Reddit最黑暗的角落，並代表了一個案例研究——當有偏差的數據用於機器學習演算法時，人工智慧可能會出錯。」

「Norman是一個人工智慧，被訓練執行圖像字幕，這是一種流行的深度學習方法，用於生成圖像的文字描述。我們從一個臭名昭著的subreddit訓練Norman關於圖像標題的內容，專門用於記錄和觀察令人不安的死亡現實。然後，我們將Norman的反應與專門用於羅夏墨跡的標準圖像字幕神經網路（在MSCOCO數據集上訓練）進行了比較; 一個用於檢測潛在的思維障礙的測試。」

結果是令人不安的。

另一方面，這並不令人感到意外。大約兩年前， 微軟 的「Tay」AI聊天機器人在上線短短一天後就成為暗黑系種族主義者。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！