少女之死催生的社交媒體管制

撰文/楊猛，專欄作家

2017年11月， 14歲的英國少女Molly 在瀏覽了社交媒體上的內容之後自殺了。今年4月，英國政府公布了一份白皮書，宣布向社交媒體暴露的社會問題開戰。

最近英國媒體都在集中報道此事，從諸如「英國將執行世界上最嚴的網路監管」、「社交媒體自我監管時代已經結束」之類的標題可以看出，英國政府這次下決心要從社交媒體公司手上奪回監管權。

（一）

少女Molly 的死是青少年沉迷網路引發不良後果的又一例證。

Molly

照片上的Molly一頭金色長髮，甜美可愛。女兒去世後，父親Ian為尋找答案，查看了她的Instagram賬戶，發現Molly 在死前瀏覽了大量自殘和自殺的內容。

Instagram是著名的社交媒體，有7億活躍用戶，每天有9500萬張圖片上傳。

Ian形容女兒死前瀏覽的內容「令人作嘔」，充滿了「焦慮、抑鬱，自殘和自殺被正常化和受到鼓勵」。

他告訴英國媒體，「長時間看Molly 看過的帖子太令人痛苦了，我可以肯定地說，這些帖子加深了Molly 的沮喪，並且在她想要結束生命時發揮了蠱惑作用。」

他指控Instagram是女兒自殺的幫凶，對Molly 的死負有部分責任。

社交媒體是否會增加自我傷害事件存在不同觀點。英國一項研究發現，2011年到2014年，13到16歲女孩的自我傷害事件增加了68%，這一時期社交媒體的使用量也呈增長趨勢。但是曼徹斯特大學的學者說，兩者不能簡單聯繫，有必要進行更多的研究以確定原因。

牛津大學的另一項研究表明，適度使用社交媒體可能有益，極端使用則可能產生輕微的負面影響，最好限制青少年的使用時間。

Molly 自殺之後，Instagram在聲明中表示「不允許促進或美化自我傷害或自殺行為，並將刪除此類內容」 。Instagram老闆亞當·莫塞里表示，他被Molly 的故事深深打動，並承認平台對自殺和自殘問題關注不夠。但他又說，「關鍵是，被其他人看到之前，我們還沒有找到足夠的這些圖像」 。

像Instagram這樣的社交媒體都有處理極端圖像的公司規定，但是首先依賴用戶的報告，然後才會刪除。這種處理流程並不足以有效扼制有害內容的傳播。亞當·莫塞里的辯解顯然是為了開脫責任。

（二）

Molly死後，《每日電訊報》調查發現，在社交媒體上，令人心理不適的自我傷害圖像隨處可以找到，許多是由年輕用戶上傳，這可能會影響弱勢群體，進而實施自我傷害。

一些青少年自殺案例被發現跟社交媒體有關。2015年到2016年首先在俄羅斯社交媒體上傳播的「藍鯨挑戰」，教唆青少年自殘和自殺，導致數百名青少年死亡。這場比賽還蔓延到了印度、英國、中國。

Instagram為傳播這些圖像的行為辯護說，「對於許多年輕人來說，討論他們的心理健康或者和其他曾經與類似問題作鬥爭的人聯繫，是他們康復的重要部分。這就是為什麼我們不刪除某些內容，而是讓人們在最需要的時候查看或發布以獲得支持」。

在Instagram輸入關鍵詞搜索一些自殘主題的內容時，會跳出彈窗警告，但是又允許自行解鎖，實際上用戶還是能接觸到這些內容。

特別麻煩的是，現在社交媒體公司積極發展了演算法。為了追蹤用戶，社交媒體會不斷提供相似的產品，接觸越多，實則陷入了信息單一的空間。或者上癮，嚴重如Molly 者則走向自我毀滅。

另外，社交媒體公司強調自己只是平台，而不是發布機構，希望藉此免責，讓自己置身事外。

對此，Molly 的父親Ian批評說，如果建造了一個體育場，法律將要求它是安全的。如果你建立了一個在線體育場，並邀請數百萬兒童來玩，卻不執行安全保護義務，顯然於理不通。

（三）

女兒的死把Ian帶到了聚光燈下。他以Molly之名成立了預防自殺的慈善基金，向社交媒體巨頭們喊話，「當我對扎克伯格先生（Facebook創始人）、莫塞里先生（Instagram老闆）、西爾伯曼先生（Pinterest創始人）和庫克先生（蘋果首席執行官）說，你們都有道德責任保護我們的孩子時，很少有人會不同意。你們現在都必須採取行動，制止其他弱勢群體的傷害」，「我們不能再等了」。

他批評矽谷社交媒體的技術研發仍然朝著錯誤的方向前進，批評扎克伯格計劃在Facebook上增加隱私和加密功能，警告說，這樣只會使自殘等行為更加難以調查。

他向國會議員遊說，敦促政府在社交媒體平台上引入監管，「現在是時候讓社交媒體平台承擔責任了」「對Molly 來說已經太晚了，但是這個房間（議會）里的人有能力阻止有害內容傳到我們的孩子身上」 。

英國人喜歡聽故事。這位悲傷的父親化身挑戰世界最大公司的鬥士，他的富有感染力的話語通過英國媒體不斷傳播出去，引發了積極的社會反響。

在Ian的抗爭下，飽受指責的社交媒體被迫採取行動。Instagram終於同意從平台上刪除自我傷害的圖像。亞當·莫塞里表示，未來平台上不會出現「自我傷害圖像」。

當《每日電訊報》問他為什麼Instagram花了這麼長時間才解決這個問題時，莫塞里說：「這是我們希望迅速糾正的問題。不幸的是，過去幾周我們才意識到這一點。我們現在有責任儘快解決這個問題。「

目前，搜索一個帶有用戶自我傷害圖像的主題標籤時，首先會彈出警告說，以下某些帖子「可能會鼓勵造成傷害甚至死亡」，並補充說，「如果你遇到困難，我們想提供幫忙」。

（四）

Ian呼籲政府從社交媒體手中奪回監管權也引發了連鎖反應。

長期以來，英國政府一直主張由社交媒體公司實施自我監管。但是有證據表明公司沒有對有害內容強制執行規則，也沒有任何懲罰。

3月紐西蘭的恐怖襲擊中， 攻擊者使用Facebook 來直播殺戮過程，數百人觀看了直播，直播持續了17分鐘。直播結束12分鐘之後才有第一個舉報。在網站刪除視頻前又有4000人看到了視頻。

目前的法律並沒有跟上社交媒體的發展速度。像谷歌這樣的公司價值超過900億英鎊，常規性的處罰對這些大公司並不具有威懾力。

Molly 事件之後，一篇評論寫道：如果社交媒體公司自己做不到，民主政府必須介入，以維護我們年輕人的權利和安全。2月8日《獨立報》的評論則說，現在國家需要採取最終行動，接管這些世界上最大的公司了。

數字、文化、媒體和體育委員會主席達米安·柯林斯告訴ITV，他相信科技公司對有害內容「視而不見」，「他們的商業模式收集了數十億關於用戶的數據，跟蹤我們在互聯網上的每一個動作，並建立我們的數據檔案，以便他們可以將這些信息出售給廣告商」 。

衛生部長馬特·漢考克給這些科技公司寫了一封公開信，呼籲採取緊急行動「阻止青少年陷入自殺陷阱」。他說：「讓我明確一點，我們將在必要時引入立法。」

在BBC發言時，他敲打社交媒體公司說：如果不採取行動，政府有權實施經濟處罰甚至禁令。

數字和創意產業部長詹姆斯在接受BBC採訪時也發表了類似意見，「我們將引入法律，迫使社交媒體平台刪除非法內容，並優先保護用戶」。

文化部長傑里米·賴特也宣稱政府會公布提案，幫助推動社交媒體迅速採取行動。

部長們形成了共識：對互聯網巨頭施加法律上可執行的注意義務，需要得到一個更加強硬的監管機構的支持，同時需要一個懲罰制度，可以對這些地球上最大的公司採取行動。

（五）

到了今年4月，一份由英國內政部和英國文化、傳媒和體育部聯合發布的白皮書上線，徵求公眾意見。

從政府網站上可以看白皮書的全文。瀏覽發現，這只是個框架式的東西，沒有具體的執行細則，但是提出了一些方向性的改革建議，包括：建立一個獨立的監管機構，為社交網路和互聯網公司編寫「行為準則」，這讓英國將成為首個為社交媒體成立獨立監管機構的國家；

新成立的監管機構的任務是指導和協助社交媒體解決在線安全問題，包括煽動和傳播暴力（包括恐怖主義）、鼓勵自殘或自殺、傳播虛假信息、網路欺凌、兒童剝削和虐待等；

政府有權指導監管機構處理恐怖活動或兒童性剝削等具體問題、監管部門有權強迫社交媒體公司刪除非法內容；

政府正在就這個監管機構是建立一個新機構還是利用現有機構進行磋商，監管機構將由社交行業資助，將擁有執法權力，包括徵稅權和巨額罰款，確保所有公司在監管框架範圍內履行注意義務；

以及，社交媒體公司需要提供年度「透明報告」，披露其平台上有害內容的流行程度和他們正在採取的措施。

白皮書的諮詢截止日期到7月1日。從披露的框架性的內容分析，英國政府顯然認為社交媒體沒有能力完全扼制有害信息的傳播，因此有必要由政府出面實施監管。這將根本改變此前的由社交媒體自我管理的做法。借用文化大臣傑里米·賴特的話說：「網路公司的自我監管時代已經結束。」

（六）

同時在英國社會中也瀰漫著質疑，認為政府採取的接管行動正在威脅言論自由。一個全新的組織能否承擔起管理互聯網的艱巨工作？這個監管機構又將如何裁定那些雖然沒有違法但可能被視為有害的信息？在具體操作中都有不小爭議。

最激烈的反應當然來自社交媒體，他們不情願拱手讓出權力，在BBC的採訪中，反對者炮轟政府的做法將「制定國家對數百萬英國公民言論的監管」。

Facebook英國政策的負責人表示：「互聯網的新規則應該保護社會免受傷害，同時支持創新，數字經濟和言論自由。」

Twitter的英國公共政策負責人在聲明中表示：「我們期待著參與該流程的下一步，並努力在保持用戶安全和保持互聯網開放自由的之間取得適當的平衡。」

代表英國科技產業的組織TechUK表示，政府必須「明確如何在預防危害與基本權利之間取得平衡」。

亞當·斯密研究所自由市場智囊團研究負責人馬修·萊斯批得更狠。他說：英國一方面批評別國違反言論自由，同時又在破壞本國的自由，「政府應該為自己在互聯網審查中領導西方世界感到羞恥。這些建議是對言論自由和新聞自由的歷史性攻擊」 。

英國並不是第一個對社交媒體開刀的國家。白皮書公布一周前，澳大利亞通過了一項法律，規定互聯網平台如果未能刪除「令人憎惡的暴力材料將被罰款」。德國2018年推出了類似立法，要求網站在24小時內刪除「明顯非法」內容，否則面臨高達5000萬歐元的罰款。

一方面英國一直宣稱要建設世界最好的數字業務，另一方面又希望藉助監管打造最安全的在線網路，這兩個目標並不容易同時實現。世界上任何地方的政府機構能否在不壓制言論和表達自由的情況下取得成功？嚴格的監管能否扼殺創新？英國政府的做法註定是個冒險。如何在監管和創新方面保持平衡，這場戰鬥能否真正改變網路生態，都有待觀察。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！