平均每30秒，推特上就有一條攻擊黑人女性記者和政客的推文

推特可能有毒！近年來，出現在這一網站上的惡意攻擊和騷擾令許多人極為不滿，尤其是女性和少數族裔，然而目前網站上的自動識別和信息攔截還不太精準可靠，這是由於就目前人工智慧所取得的進展來看，機器還不能真正做到對人類交流做出有意義的回應。比如，一些信息雖然披著幾個正面的關鍵字的外衣，卻可能是在冷嘲熱諷，而人工智慧通常很難把這類辱罵性的信息識別出來。

（來源：麻省理工科技評論）

一項新的研究使用了機器學習技術，以便對推特上騷擾信息的範圍做出更加精準的判定。該技術研究分析證實了此前許多人的猜測：在這一平台上，女性以及少數族裔記者和政治家們面對的辱罵性言論數量驚人。

這項研究是由國際特赦組織聯合加拿大公司 ElementAI 共同開展的。研究顯示，在帶有辱罵性言論或者是「模稜兩可」的推文中，黑人女記者和政客被提及的可能性比同等職業的白人女性多出 84%。

「這真讓人惱火」，ElementAI 公司倫敦分部的研究主管朱利安·考尼比斯（Julien Cornebise）說，「這些女性在社會運行中扮演著重要的角色」。ElementAI 公司倫敦分部主要致力於機器學習的人道主義應用。

ElementAI 的研究人員首次使用了一種機器學習工具來識別辱罵性的推文，這與之前用來篩選垃圾信息的工具類似。之後，研究人員將預先分好類的推文和沒有提前看過的推文混在一起，交給志願者進行分類，識別出來的帶有辱罵性的推文就用來訓練深度學習網路。據考尼比斯所說，這樣訓練出來的成果就是，系統在識別辱罵性信息方面更加精確了。

這一項目主要針對的是發送給政客和記者的推文，在研究當中，來自 150 個國家的 6500 名志願者，在 2017 年英國和美國發送給 778 名女性政客和記者的 228000 條推文中，識別出帶有攻擊性的推文。

這項研究調查了辱罵女性政客和記者的推文，這些女性有的來自英國議會，有的是美國國會和參議院的成員，而女記者有的就職於英國報社，比如《每日郵報》、《蓋爾登》、《衛報》、《粉色新聞》和《太陽報》，以及美國的《紐約時報》和新聞網站 Breitbart。

研究發現，在這段時間裡，778 名女性收到了 110 萬條辱罵性推文——相當於每 30 秒就有一條。研究還顯示，在所有發給女性的推文中，有 7.1% 的推文是帶有攻擊性的言論。這項研究背後的研究人員發布了一款名叫 Troll Patrol 的工具，用來測試推文內容是否構成侮辱或騷擾。

儘管深度學習在現有的識別辱罵性信息的方法中算是一大進步，但研究人員警示，未來機器學習或者人工智慧想要一直識別騷擾信息，還是不夠的。考尼比斯表示，雖然這一工具經常表現得像人類操作一樣優秀，但也會犯錯誤。他說：「就目前來看，未來還是需要一些人為的判斷。」

推特在其平台監管方面的不作為飽受詬病，在國際特赦組織致力於這一項目的米萊娜·馬林（Milena Marin）表示，推特公司在其監管政策方面應該更加透明。

馬林說：「Troll Patrol 並非是要監管推特公司，或者強制其刪除內容」，不過她警告：「推特公司必須將其如何使用機器學習檢測辱罵性信息進行說明，並將其依賴的演算法技術信息公之於眾」。

對此，推特的法律顧問維賈雅·加德（Vijaya Gadde）作出回應，就針對定義辱罵性言論這一問題上，他曾在一次聲明中指出：「為將內容分類，我會對『模稜兩可』的內容進行進一步討論」，「我們會致力於制定全球適用的規則，並且在這一過程中，將諮詢公眾作為重要部分」。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！