反猶分子投廣告之後，Facebook COO 說會加入更多人工審查

Facebook 的演算法又惹禍了。

上周，非盈利新聞機構 ProPublica 上周發表了一篇文章，指出當你在 Facebook 上創建廣告的時候，可以選擇「Jew hater」（仇恨猶太人的人）、「How to burn jews」（如何燒猶太人）、「History of 『why jews ruin the world』」（為什麼猶太人毀滅了世界）這樣的標籤來找到廣告的目標受眾。

輸入「jew h」，Facebook 廣告系統聯想第一條為「How to burn jews」來源：ProPublica

ProPublica 試著用前面提到的這些標籤來投放廣告，不過 Facebook 系統提示說人數太少，隨後他們又往受眾描述里添加了「German Schutzstaffel」（納粹黨）和「National Democratic Party of Germany」（德國極右翼政黨德國國家民主黨）的標籤，在 15 分鐘後，系統提示審核通過，廣告成功投放。

來源：ProPublica

之所以會出現這些標籤，是因為部分 Facebook 用戶自己在個人資料里將這些內容列為「興趣」、「工作」、「研究領域」，Facebook 演算法直接抓取了它們，轉化為廣告系統中的受眾描述。實際上，按照 Facebook COO Sheryl Sandberg 的說法，在 ProPublica 報道之前，Facebook 根本就不知道他們的廣告受眾描述里還有這樣的標籤。

在 ProPublica 報告了這個問題之後，Facebook 立刻把類似的標籤從廣告系統里刪除了。昨天，Sandberg 又在 Facebook 上發表聲明，宣布他們「正在加強廣告受眾定位系統和工具」。

作為 Facebook 整個廣告機構的負責人，Sandberg 是第一次對 Facebook 廣告演算法缺乏人工監督這事發言，她強調 Facebook 不容忍這類仇恨言論，在收到報告之後暫時停用了自動定位受眾的系統。「我們從未打算或者預料到這個功能會以這樣的方式被使用——這是我們的錯。而且我們也沒有自己發現（問題）——而這也是我們的錯。」

在聲明中，Sandberg 表示目前 Facebook 正在確保不符合 Facebook 標準的內容不會被用來定位受眾，人工審查目前所有的受眾標籤，恢復他們「護士」、「老師」等五千種最常用的標籤，而且未來他們還會用更多人來進行廣告標籤審核，不過 Sandberg 並未透露具體的人數。

除此以外，Facebook 還打算推出舉報系統，鼓勵 Facebook 用戶舉報 Facebook 廣告系統的各種濫用和錯誤使用。

從美國大選開始，Facebook 的廣告和不實內容的傳播就備受關注。就在上周，Facebook 也宣布過一次要用更多人力來審核廣告，不過當時所說的是審核廣告內容，避免廣告里出現任何違背 Facebook 標準的內容。

喜歡這篇文章？去 App 商店搜好奇心日報，每天看點不一樣的。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！