知乎欲用AI技術建立互聯網社交規則 網路暴力有望得到治理

知乎運營總監孫達雲

中國網科技6月25日訊 (記者 單征宇)如何整治網路暴力、處理網上有害不良信息、謠言等問題近日有了最新動向。中國網科技從知乎方面了解到，隨著專註於知乎社區治理的演算法機器人「瓦力」推向市場，未來人們用AI技術來建立起一個規範的互聯網社交環境指日可期。

「瓦力」是一種價值觀

「腦迴路真奇特」、「你是村裡來的沒見過高樓大廈吧」……這些留言在各大互聯網社交平台上隨處可見。24日，知乎在798舉辦的「陰陽怪氣」主題書法展上，特意將這些評論以書法作品的形式貼在牆上進行展出。

對於這一做法，知乎對中國網科技透露，網路上很多人會不注重社交禮儀的重要性，不講究語言分寸，一旦不認同別人的觀點，就用這樣「陰陽怪氣」的語言攻擊對方。知乎希望通過這種形式，來激發大家對建立網路社交禮儀的關注。

記者調查發現，不僅是知乎一家平台，虎撲、天涯社區乃至微博等均有用戶反映，會受到因別人用「陰陽怪氣」的留言給自己帶來的困擾和焦慮。這些行為雖然不違法，但卻會破壞平台的網路社區文明秩序，甚至對熱點新聞會形成錯誤的輿論導向。

問題如何解決？據知乎內容質量團隊技術負責人劉兆來介紹，知乎將通過演算法機器人「瓦力」來應對這一問題。他稱，「瓦力」可通過AI技術實現可實時識別和處理不友善、答非所問和垃圾廣告導流信息。而經過技術升級之後，「瓦力」則可以實現對「陰陽怪氣」內容的識別，並對內容做相應處理。

據了解，留言「陰陽怪氣」，是指用戶以反諷方式攻擊他人，並影響正常的討論秩序的行為。但中國網科技注意到，對於用戶是否發表出「陰陽怪氣」的言論目前卻很難界定，據知乎方面透露，在過去7年，大量用戶舉報等行為，使得知乎積累了豐富的帶有用戶篩查性質的行為語料，並沉澱了豐富的社區管理經驗，這些都幫助「瓦力」去學習，最終做到用社區最大公約數(大部分用戶都認可的一個尺度)來作為「陰陽怪氣」言論的判定尺度。

知乎運營總監孫達雲表示：「目前『瓦力』對陰陽怪氣評論文本的識別準確率比很多人工判斷都更准。」

據悉，知乎近期會讓用戶自由選擇是否開啟「瓦力」智能過濾，讓陰陽怪氣識別技術進入產品化嘗試。而在接受中國網科技針對專訪時，孫達雲對記者稱，知乎投入大量精力將AI技術運用到治理社區網路暴力、違法有害信息等問題上來，就是知乎對AI技術上的選擇。他說：「知乎不會用低俗內容吸引用戶流量，而是更希望給用戶更好的討論氛圍，提供更多有價值的信息，所以「瓦力」也是知乎在AI演算法上的價值取向。」

期望建立「網路社交禮儀」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！