靠演算法解決不了審核問題，YouTube 將全人工推薦孩子看什麼

Elsagate是一個新詞，專門指在 YouTube 和 YouTube Kids 上利用兒童片中人物形象包裝成血腥暴力或軟色情內容的視頻。

2017 年，多家媒體曝光發現在視頻平台 YouTube 上存在有大量這類視頻。製作者們依靠逐漸摸索出 YouTube 平台自動推薦的演算法機制，悄無聲息地讓很多兒童觀看類似的視頻。

隨後事件發酵，多家廣告商凍結了 YouTube 上投放的廣告，YouTube 表示會加強演算法推薦審查並且會增加人工審查視頻內容，確保不會造成更壞的結果。

但從最新的消息來看，YouTube 顯然無力依靠演算法來徹底解決這個問題了。

4 月 7 日，科技媒體 BuzzFeed 報道稱，有知情人士表示，YouTube 將會發布一個新版的 YouTube Kids ，新版應用將全面取消演算法推薦的視頻，只會顯示來自 YouTube 審查小組人工推薦的頻道視頻。

YouTube Kids 於 2015 年 2 月推出，是專門為 12 歲以下兒童設計的視頻播放應用。該應用宣稱只提供適宜兒童觀看的視頻內容，比如 LEGO 、夢工廠、國家地理頻道等製作的兒童節目、 DIY 手工、數學課程和兒童表演等。

此次新版本還保留了演算法推薦的選項，家長可以通過設置來自由選擇是全人工還是演算法來推薦內容。

通過向父母提供關閉演算法推薦視頻的選項，YouTube Kids 至少在理論上不會再向兒童推薦內容奇怪的視頻。它也不會顯示類似於 YouTube Kids 在過去出現過的其他問題視頻，例如色情語言、褻瀆和戀童癖笑話等。

無法依靠演算法 100% 過濾掉不健康內容是推出新版 YouTube Kids 的主要原因。

去年 11 月，YouTube 召開發布會表示最終已經刪除了15 萬個 Elsagate 事件視頻、以及查封了超過 270 個帳戶。同時將對平台推薦視頻的機制進行修改，以及招聘了大量員工來進行審查。

但今年 3 月 17 日，Business Insider 報道稱，雖然 Elsagate 事件視頻減少，但是平台上卻還是存在著大量惡意扭曲事實的視頻，例如一本正經向兒童解釋地球是平的、世界是由爬行動物和人類混合統治、金字塔是外星人建造、甚至是宣稱登月計劃是巨大騙局。

YouTube Kids 上推薦的陰謀論視頻

Business Insider 還發現只要點開一個扭曲事實的視頻，視頻最後的其他建議視頻推薦將會顯示更多不健康的視頻推薦。「很明顯是演算法審核有問題，兒童視頻不應該這樣推薦」，文章最後稱。

隨後 YouTube 在一份聲明中向 Business Insider 表示，「有時我們會錯過處理 YouTube Kids 上出現的內容」，並表示將繼續努力改善 YouTube Kids 應用體驗。

目前 YouTube 並沒有確認 BuzzFeed 報道的消息，也沒有公布新版應用具體的消息。 BuzzFeed 表示新的版本將會在幾周內發布。

依賴演算法，社交平台將大量內容展現給用戶獲得快速發展，但這幾年在內容審核方面，演算法卻給社交平台們帶來太多的麻煩。

2017 年 4 月，一位泰國父親在 Facebook 上直播殺害親生女兒，這個視頻存在了 24 個小時，獲得了至少 40 萬人關注後才被 Facebook 官方刪除。不止是這類暴力內容，大量勸導人們自殺，以及直播自己自殺的內容頻頻出現在 Facebook 上。

而諷刺的是，就在一個月前，Facebook 還專門表示，已經開發出一款 AI 應用來檢索平台上涉及自殺字眼的內容，加快提交給人工團隊處理的速度來保證這類信息不會廣泛流傳。Facebook 的 CEO 扎克伯格當時公開表示，Facebook 將盡一切努力避免此類內容再出現。

自殺事件發生後，Facebook 對外稱公司將繼續額外聘請 3000 名員工，這些員工將負責監測社交媒體網路上不適當的信息，刪除關於謀殺和自殺的視頻。

演算法和機器在很長一段時間內還是無法取代人工審核。

以 Google 為例，Google 有超過一萬名員工充當著搜索結果評估者的角色。這家業界領先的科技巨頭仍需僱傭大量的勞動力來改善自身產品，這或許說明了人工智慧局限性——機器還很難模擬出普通用戶的使用體驗，很難理解內容背後的深意，很難作出準確的「人的判斷」。

題圖來源：The New Daily

我們做了一個壁紙應用，給你的手機加點好奇心。去 App 商店搜好奇怪下載吧。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！