受夠了噴子？這個AI想幫你找回評論區的清凈

我原本以為，互聯網會讓交流變得更容易。只需要連上網路，人們就能隨時抒發自己的感想，可以和來自全國各地甚至世界任何地方的人交談。

但在社交網路上，事實越來越走向了反面：明明只是說幾句個人感想，卻一不小心就惹來了噴子。總有些人會在評論區留下語氣最惡劣的攻擊，看上一條就足以毀掉一整天的心情，這讓人越來越失去了在網上討論問題的慾望。

當然，我們可以選擇把那些討厭鬼和煩人的關鍵詞統統拖進黑名單，只到私密的小圈子裡說話，或者乾脆什麼也不說。但真的必須要這樣嗎？

現在，一個看起來似乎更美妙的選項出現了：谷歌旗下的Jigsaw公司推出了一款名叫「Tune」的小工具，讓用戶個性化地過濾惡意評論，幫助人們把那些不和諧的聲音調小。

圖 | 應用截圖

轉一下旋鈕，世界都安靜了

Tune是一個chrome應用程序擴展，它從設計界面到宣傳語都讓人心情頗為舒暢。簡潔的設置界面中間是一個白色的旋鈕，用滑鼠點一點就可以在「安靜」、「中等」、「大聲」之類的檔位之間隨意切換。

圖 | 應用截圖

這些像音量旋鈕一樣的檔位代表的是對評論的過濾程度。指針接近「安靜」的一邊，程序就會用更嚴格的標準去除有可能帶有惡意的評論，讓它們都從瀏覽者眼前消失。如果選了「大聲」的一邊，篩選標準就會相對放鬆。只要選好「音量」和在哪些網站進行使用，就可以開始瀏覽評論了。

不過目前支持的網站只有這些 | 應用截圖

Tune只會從特定用戶的瀏覽器頁面上去除攻擊性評論，這些評論並不會真的被刪除。同時，用語平和的反對意見也不會受到影響。

它是怎麼工作的？

那Tune怎麼判定評論是否惡意呢？它其實使用了這家公司此前發布的應用程序介面Perspective，在背後負責為評論的「惡意度」打分的是一個AI。

AI會用數值評價一條評論是「健康」還是「有毒」（toxic），這裡「有毒」的定義是：「用語粗魯、不尊重或者不合理的評論，讓人很想立刻終止討論。」

開發Perspective時，人們首先提取了數以百萬計的網路評論，招募人類打分員來為這些評論的「有毒程度」打分，然後再把這些作為AI的學習資料。

（一個打分舉例。「你怎麼能這麼蠢」這句話顯然是足夠攻擊性了，AI對它的判定分數也很接近1，意思就是它「有毒」的可能性非常大）

但問題是，這真的好用嗎？

像轉音量旋鈕一樣輕鬆屏蔽討厭的評論，單就創意來說這真是棒得讓人想立刻點十個贊。但是，現在的Tune離讓互聯網環境變友好的理想還相差很遠。

這不僅僅是因為它還只能在chrome瀏覽器使用、只支持英文以及只適用於少數幾個社交平台。最重要的問題在於：AI真能勝任這項工作嗎？以及，我們真的要把管理評論的工作交給AI嗎？

從2017年Perspective發布開始，這個評論識別技術其實就受到了不少批評。試用過評論打分框的人們紛紛吐槽這個AI還是太「傻」，不足以理解人類語言的複雜性。

比如說，它有時會給實際並不激烈的言辭打出奇怪的高分，例如「如果他們幹掉奧巴馬醫保人們就會死」 （原文：People will die if they kill Obamacare，不過17年被吐槽之後這句話的惡毒評分現在已經下降了一些）。

而且，真正的攻擊性言論要想繞過AI其實也一點都不困難：有時候只需要刪除幾個空格，或者故意加點拼寫錯誤就夠了。

刪除空格就能讓程序認不出「恨你」 | Perspective網站截圖

Jigsaw官方倒是也大方地承認了這些缺陷。他們在介紹頁面聲明：這只是一個試驗產品，目前還在改進中。它現在還是會漏掉一部分惡意評論，或者不小心就把原本沒什麼問題的評論給隱藏了。同時他們也強調，這些技術不會成為解決全部互聯網惡意的萬靈藥，當然更不可能解決那些針對性的威脅。

不過他們覺得，這至少比完全關閉評論要好多了。

參考資料：

https://medium.com/jigsaw/tune-control-the-comments-you-see-b10cc807a171

https://www.perspectiveapi.com/

https://www.wired.com/2017/02/googles-troll-fighting-ai-now-belongs-world/

https://www.engadget.com/2017/09/01/google-perspective-comment-ranking-system/

作者：窗敲雨

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！