演算法給社會治理帶來哪些挑戰？如何應對？

近日，快手、火山小視頻平台上傳播涉未成年人低俗信息一事被曝光，引發輿論熱議。而這些網路平台的智能推薦功能成為此種視頻亂象的主要推手。

有報道稱，在一位17歲媽媽的主頁，點開「你可能感興趣的人」之後會源源不斷出現類似的內容。之後，快手在官方微博上作出回應，稱進行了全站清查，同時關閉推薦功能，升級人工智慧識別系統，加強核查。國家網信辦對快手、火山小視頻主要負責人進行了約談，要求全面整改，並追究相關人員責任。

雖然相關部門第一時間作出處理，相關平台也及時清理並道歉，但對於演算法給輿論引導與社會治理帶來的挑戰的討論並未停止。

演算法的角色愈發重要

隨著移動互聯網的迅速發展，網民閱讀習慣逐漸從PC端轉向移動端，今日頭條、快手等平台聚合了大量傳統媒體及自媒體的內容。這些資訊聚合平台通過演算法進行內容產生與傳播，迅速吸引眾多流量。

一方面，平台通過在互聯網上自動抓取內容，再運用演算法和少量的人工進行分類編排形成內容；

另一方面，平台通過記錄用戶點擊和選擇等上網行為數據，使用智能計算機演算法，精準分析用戶的興趣和內容需求，從而將用戶感興趣的內容進行推送，以此增加用戶黏性，帶來了流量經濟。

通過這種自動化的信息收集與個性化推薦模式，資訊平台迅速成為網民在移動端獲取信息、互動的主要渠道。

「

今日頭條《2016移動資訊行業細分報告》顯示，截至2016年12月，今日頭條累計用戶7.1億，日平均活躍用戶7800萬，文圖資訊日均閱讀量11.6億次，視頻資訊日均閱讀量12.69億次。

」

隨著移動互聯網進一步發展，演算法推薦在內容分發市場中的角色地位越來越重要。各大互聯網平台紛紛引入演算法推薦。

2014年開始，搜狐新聞、新浪新聞客戶端、網易新聞客戶端紛紛加入個性化演算法推薦；

2016年，騰訊成立天天快報，對用戶進行個性化興趣閱讀推薦；

之後，騰訊調整網路媒體事業群，加強了技術中心的力量。

除了境內新聞客戶端競相引入，演算法推薦在境外互聯網平台也被廣泛使用，運用演算法作為內容分發的關鍵機制已成為行業共識。境外Buzzfeed、Google news、Facebook、Twitter等平台均有一套複雜的演算法推薦系統。Facebook更是宣稱已經不需要人工編輯，熱門話題的編輯、推薦和排名可以全部交給機器演算法。

演算法對社會治理形成挑戰

演算法推薦與互聯網內容生產與傳播結合呈現出不可逆轉的趨勢，但也帶來了複雜的信息管理難題。

1

內容監管方面困境，主要包括虛假新聞、有害內容、「標題黨」等問題。

傳統媒體運用的編輯推薦內容分發模式，編輯也會人工對新聞進行審核、篩選，再進行推送。而演算法推薦模式下，機器不能實現人工的思考，也不能對內容進行價值判斷，而一些網路平台把演算法當作利益的砝碼，拒絕「價值觀先行」。一切圍著流量轉，唯點擊量、轉發量馬首是瞻，這導致假新聞、有害內容層出不窮。不少網民感嘆「推薦的內容很多，記者太少，事實不夠用了」。

比如近期，今日頭條被網民舉報避開北上廣深等審查嚴格的大城市，藉助技術優勢，在監管鬆懈的二三線城市大量刊登違法廣告。根據《經濟半小時》記者實地調查發現，在南寧、成都如舉報所言，今日頭條的廣告推送中的確出現了大量的非法廣告。

2

「信息繭房」效應，給共同價值的形成增加難度。

在以演算法推薦為主導的內容分發模式下，用戶的信息閱讀越來越符合個人興趣，而對於與自己興趣和價值觀相異的信息卻並不會關注。在此模式下所接收的內容無法反映真實世界，只能呈現特定的狹隘觀點，從而將導致個人所接收的信息「窄化」，將自己桎梏於像蠶繭一般的「繭房」中。

智能演算法造成的「信息繭房」效應，容易加劇社會群體間的隔閡，從而不利於主流意識形態的整合。一方面，造成用戶視野窄小狹隘，帶來觀點極化問題；另一方面，長期只接收自己認可的信息，排斥其他內容，易降低個體認知能力和判斷力。

「

正如《人民日報》評論《演算法盛行更需「總編輯」》指出，技術為用戶量身打造信息，開啟了符合讀者口味的一扇窗，卻關上了多元化的一道道門。我們或可名之為「孤島效應」——在自我重複、自我肯定中，公眾的知識、思想逐漸固化。只看自己喜歡的、只讀自己認同的，難免會固步自封。

」

3

眾聲喧嘩，主流媒體引導輿論的難度加大。

演算法的引入及普及能直接影響信息呈現、搜索排序、新聞熱度和傳播效果，導致這些平台成為相對獨立的輿論「發源地」和「發酵池」，主流媒體引領輿論的作用被削弱。比如，今日頭條每天發布120萬條內容，只有20%來自傳統媒體，80%都來自自媒體。

4

影響互聯網新聞業界生態。

以演算法為核心的內容分發機制的普及，也對新聞業界生態產生了一定影響。比如批量生產內容的自媒體「做號」灰色產業鏈也逐步形成。

據《新京報》等媒體報道，「做號」指的是通過運營者前期註冊大量自媒體賬號，然後通過抄襲、洗稿、偽原創等低成本生產內容方式，再通過各大平台渠道分發出去，獲得大量流量，從而賺取廣告分成。

「做號者」們「寫」一篇文章整個過程不超過10分鐘，每天「寫」20篇，製造大量垃圾內容，並從中獲利。「做號者」充斥自媒體平台，製造口水化、重複性的內容，導致劣幣驅逐良幣，不僅是網路謠言四起的根源，更是對內容原創者智力成果的盜取和褻瀆，嚴重惡化了自媒體業界生態。

此外，內容平台缺乏專業內容生產隊伍，而依靠智能演算法抓取網路內容，容易導致侵權問題的發生。

以今日頭條為例，自2013年起，該平台就因為侵權問題，同《廣州日報》《楚天都市報》等媒體產生了糾紛。2017年5月，南方日報社發布《反侵權公告》，指出今日頭條客戶端自2016年起未經許可擅自轉載該報社版權作品近2000條，再次引發輿論熱議。

圍繞演算法的思考與對策

綜合看來，智能演算法推薦投入產出比更高、覆蓋面更廣、個性化程度更高，但其帶來的社會治理挑戰與輿論引導問題，值得進一步思考。

1

對演算法平台而言，智能演算法不能全部取代整個內容生產與傳播的過程，內容管理仍應價值觀先行。

在內容生產領域，各大平台需要主動承擔起責任，組建更龐大的內容隊伍，加大對平台內容提供者的資質以及內容的專業審核，同時要及時對「做號者」傳播有害內容、標題黨等進行刪文、封號等處理。只有將內容管理與智能演算法一起發揮作用，才能真正實現行業健康有序發展。

2

此外，應有意識地使平台成為不同聲音的集合地，提高互聯網路中的信息質量，特別是新時代正能量的信息數量。

在智能演算法中，也應加入受眾提醒功能。如用戶閱讀某一領域、傾向相似的同質化內容時，可通過彈窗等善意提示，或智能推送個別異質化內容。在新聞內容分化領域，社交推薦將是未來優化智能演算法和推送規則的重要方向。

比如，Facebook近期宣布了一些新聞信息流演算法上的變更，提出要讓用戶向朋友和家人展示更有意義的內容發布，根據這一新規則，用戶的朋友和家人發布的內容將優先於廣告類內容在頁面上呈現。

3

對管理部門而言，劃定演算法平台底線，始終把黨管媒體原則貫穿平台發展始終。

演算法時代，應明確演算法在今日頭條、快手、短視頻等各類平台的邊界、行為規範，有針對性地管理好、運用好、發展好，同時密切關注平台新傳播動向，不能再任由演算法野蠻生長。

4

對主流媒體而言，必須時刻保持對智能演算法等新技術的嗅覺，但內容創新仍是根本。

「

習近平總書記強調，「對新聞媒體來說，內容創新、形式創新、手段創新都重要，但內容創新是根本的」。

」

從短時間看，智能演算法對主流媒體輿論引導等的確會帶來衝擊，可一旦技術進入成熟期，它就只是媒體的「基礎工具」。而大眾對真相、權威、優質信息的需求是永恆的，做好內容應是不變的初心。因此，面對社會技術的發展，主流媒體只有不忘內容創新初心，同時與時俱進，與技術發展趨勢融合併進，才能實現轉型與共贏。

（人民網輿情數據中心主任輿情分析師 廖燦亮）

主編 / 胡永明 編輯 / 楊悅

眾雲大數據開放平台

眾雲是業內領先的智能化輿情監測分析平台。一萬家企事業單位的選擇!

人民慕課

人民慕課致力於成為黨政幹部新媒體素養、輿情應對的網上課堂。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！