「視頻暴力」：網路給科技提出的「最難題」

科技 05-31

Xtecher【錯別字基金】溫馨提示：如果您在閱讀過程中發現錯別字，請在文章底部留下說明＋聯繫方式，我們會立刻發給您5-88元隨機紅包一個，同樣的紅包會發給文末留言點贊最高者。

網路幾乎將世界的每一個角落都鏈接在一起，在傳播各種信息資訊的同時，暴力、色情內容也藉助這一渠道開啟了「病毒式傳播」。如何自動識別並阻止駭人聽聞的「暴力視頻」？這不僅是一個重要的科技課題，同時，還要面對「人性」這座堅聳的大山。

作者｜陳光

編輯｜米琪

微信公眾號ID｜Xtecher

本月，一名泰國男子在某社交媒體上用視頻直播了謀殺自己11個月大女兒的過程。

這已經不是該社交媒體的視頻直播平台第一次被扯進暴力犯罪事件。一系列暴力事件通過視頻直播被「病毒式傳播」，這引發了全世界對直播平台的質疑：在面對暴力、色情、犯罪活動時，直播平台是否有能力更快地識別並處理不良內容？

但不幸的是，截至目前，沒有任何研究成果能解決這個問題。

儘管包括中國多家科技公司在內的全世界眾多科技公司在努力解決「視頻暴力」問題，但技術和人類思維方式的雙重局限幾乎讓研究陷入「死局」。

大多數研究團隊的精力都集中在「深度學習」上。希望通過模仿人類神經元在大腦中工作和交互的方式，來識別、判定不良視頻。這一思路起源於60年前，但是，「讓電腦使用深層人造神經元進行機器學習」的這種模式，真正發展起來是最近十年內的事。

不可否認的是，運算力和數據已經發展到能讓「深度學習」系統進行深度的「學習」，並以此讓「機器學習」系統的準確性和有效性得到迅速提升。

圖像識別的「深度學習」系統在最開始的時候，需要讓圖像穿過計算機的神經層，然後再學習識別視頻中的街道標誌、語音或暴力場景等內容。

新加坡Graymatics公司的首席執行官Abhijit Shanbhag表示，在網路上的「暴力行為」不僅僅是那些對生命造成傷害的影像，還包括黑客攻擊、色情行為和煽動非法行為等。如果「深度學習」系統的工程師不能讓機器學習場景足夠豐富和真實，事倍功半甚至徒勞無功都是有可能的。

有相關人士表示，演算法不僅要「亡羊補牢」還應該具有「未雨綢繆」的能力，例如識別視頻中出現的刀、槍甚至可能存在的黑客入侵威脅等「暴力前兆」。

這種「高難度」的要求使演算法的局限性進一步暴露無遺。

其中一個局限性在於，深度學習軟體只能在遇到和訓練內容一致的場景時才可能正常發揮。如果視頻直播中環境和內容稍有不同，軟體相對固定的編程就會嚴重限制其識別能力。

Shanbhag說：「人們在暴力行為上有了更多的『創新』，識別系統就必須接受更多『培訓』」。他的團隊正在努力幫助世界上多家影響力較大的社交媒體進行視頻和圖像內容的過濾。

另一個局限性在於，暴力可能是「主觀」的。法國PicPurify的研發部門主管 Junle Wang表示，即使場景是合理的，但只要涉及到血液，相關內容就很容易被「誤認為」是暴力場景，而不涉及到血液的暴力影像則很有可能被認為是「非暴力」。突破這一巨獻在目前來說，還只是一個工作目標。

Junle Wang的同事，PicPurify公司的首席執行官Yann Mareschal表示，通過語言表達的心理上的暴力行為幾乎無法識別。這名CEO形象的舉例說，如果一名成年人在視頻直播中向小學生講述《X檔案》中「刨腹挖心」的故事，那麼儘管對於小學生來說這可能是令他們終生難忘的心靈創傷，但對於現有演算法來說，這僅僅是一次再正常不過的敘述。

Shanbhag表示，還有一些內容是「冒犯性」的，但又不具備內在的暴力。例如，海盜骷髏旗或納粹卐字紋身等。這些內容應該可以根據相關法律和用戶的個人傾向進行調整。

總部位於芬蘭的Valika公司的主營業務是在媒體和廣告中識別不良內容。它的創始人兼首席執行官Mika Rautiainen表示，雖然機器學習、演算法和自動化可能會對視頻暴力問題的解決有幫助，但現階段，人力仍然不可或缺。人工協助驗證被演算法標記為具有「危險性」或「冒犯性」的內容，將有助於提高識別精確度。

事實上，識別的解決方案涉及了圖像以外的其他線索。PicPurify的Wang先生表示，相關研究人員還可以運用演算法來監控觀眾的反應，如轉發量、評論內容及跳出率等，這也能作為「視頻暴力」識別的依據。

業務橫跨俄美兩國的Kuznech公司的首席執行官Michael Pogrebnyak表示，他在產品中增加了色情圖像識別演算法（演算法的核心在於皮膚檢測和相機運動檢測），還增加了能夠檢測成人影視工作室標誌和警告標識的演算法。

眾多社交媒體均表示，他們也正在使用類似的技術來識別暴露、暴力或其他不符政策的內容。

一些公司表示，科技公司採用「暴力識別系統」的速度比預想的要慢，其中有部分原因在於識別系統的應用會增加公司的運營費用。但他們也表示，這一問題將會有所改變。

Valossa公司的Rautiainen說，需要對用戶內容進行管理的公司，不僅會承受用戶對平台的質疑壓力，同時還可能會面臨日益增長的監管壓力。但無論如何，網路也不應該成為傳播暴力和色情等不健康事物的途徑。

━━━━━

封面設計：王思寧排版：陳光校對：米琪

━━━━━

Xtecher官網平台現開通認證作者，

（添加好友請註明公司、職位、事由）

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！