科學家開發的新AI因過於危險而不敢發布

知識 03-05

作者：PETER DOCKRILL

一組曾經由Elon Musk資助的電腦科學家因開發一款先進的人工智慧(AI)而引發了一些恐慌，他們說這款AI過於危險而不能公佈於眾。

位於舊金山的非盈利性研究組織OpenAI表示他們開發的這款「像變色龍一樣的」預言預測系統GPT-2將來只會以縮減版的形式限量發售，因為「擔憂關於這項技術的惡意應用軟體」。

這是因為這個電腦模型會根據它「讀」到的信息生成數段原文，而它太擅長於這項工作了。

該系統能構思出「質量空前的合成文本樣本」，研究人員認為這些文本樣本太先進並且令人信服，這個AI可能會將它用作製造假新聞、模仿他人，並且在社交媒體上侮辱或者戲弄他人。

OpenAI團隊在他們的博客上解釋道：「GPT-2是用一個簡單的目標訓練的，那就是基於先前某文本中所有的文字來推測接下來的文字。」

為了賦予GPT-2以想像力，他們將一個有800萬網頁的數據集給予了這個AI文本生成器，讓它吸收這些數據。

它吸收完以後，然後就能根據話題進行對話，由於它已經理解了這個話題，就能夠生成隨機但是令人信服的胡言亂語，無論對象是名人新聞、氣候變化、內戰或者是受託爾金鼓舞的同人小說。

以下是一些編輯過的例子來讓你感受一下。

人類提示：「今天Miley Cyrus在好萊塢大道上的A&F店裡偷東西被抓了現行。」

GPT-2回復：「鏡頭拍到這名19歲的歌手被保安押送出該店。她身著黑色帽衫，帽衫的正面寫著『Blurred Lines(模糊界限)』，背後寫著『Fashion Police(時尚警察)』。」

人類提示：「回收再利用對地球有益。並沒有！你大錯特錯了！」

GPT-2回復：「回收再利用對地球沒好處。它對環境不好，對我們的健康不好，而且對我們的經濟也不好。我可沒開玩笑。回收再利用對環境沒好處。它對地球是毀滅性的，而且是全球變暖的一個主要因素。」

人類提示：「今天的家庭作業是描述一下美國內戰的原因。」

GPT-2回復：「作者：Donny Ferguson。要弄清為什麼會爆發內戰很容易，因為太多的人、書、電視作品和電影都告訴我們了內戰爆發的起因，都是和種族或者經濟或者信仰有關。人們普遍認為，從本質上來說，內戰是一場代表資本主義對百年奴隸制度發起的戰爭。但是這不是大多數人在想到內戰時所認為的。」

最後就是我們所提到的同人小說。

人類提示：「Legolas和Gimli舉起手中的武器，狂吼著朝獸人衝去。」

GPT-2回復：「獸人的回應是一陣又一陣血雨腥風的利爪猛攻；就連Elrond也不得不撤退。第一批向獸人衝鋒的Gimli說道：『矮人，你是一名可靠的戰友。』只是一瞬間，他們的對手就倒在了血泊中，而矮人也拿到了自己在當晚的第一個人頭。」(想看這個同人小說可以點擊這裡。)

儘管這些奇怪的隨心所欲的作品的本質令人不安，但是這個語言模型並不完善，該團隊也坦率的承認了這一點。

研究人員說道：「正如上面樣本所顯示的，我們的模型能夠根據各式各樣的提示生成出讓人感覺貼近人類素質的文本，並且能夠在一頁或者更多的文字中顯示出連貫性。」

「不過，我們也已經觀測到各種各樣的失敗模式，比如文字的重複，世界建模錯誤(比如說模型有時候會寫到水下發生的火災)，以及異常的話題轉換。」

也就是說，根據OpenAI對他們的話癆AI產物至今的所有觀測，他們表示語言模型能夠輕鬆掌握可擴展的、定製的、連貫性的文字生成，這除了可以造福一些人以外，還可能會被用於惡意的目的。

「這些發現，結合對圖像、音頻和視頻合成的早期研究結果，意味著技術正在降低製造虛假內容和進行虛假宣傳的成本，」研究人員寫道。

「由於擔心大型語言模型被用於大規模的生成欺騙性的、有偏見的或者是侮辱性的文字，我們只會發布一個帶有示例代碼的更加小版本的GPT-2。」

雖然有些人指出對GPT-2的能力的恐懼有點過了——而且OpenAI的立場事實上有點偏宣傳了——但是這個非盈利性組織聲稱他們的警示是合理的。

「你能夠控制技術的規則從根本上改變了，」該公司政策總監Jack Clark告訴《衛報》說。

「我們不是說我們知道在這裡該怎麼做是正確的，我們也沒放下線說『該這麼走』……我們正試著邊穿越它邊把路鋪好。」