從屠殺直播看“社交媒體之罪”

倪浩 王會聰

在新西蘭槍擊事件發生后，有媒體形容稱，整個襲擊案似乎就是為了社交網絡時代而策劃——槍手用相機拍攝作案過程，使用手機應用進行直播，其長篇自白書刻意使用網絡用語。這讓幾大社交媒體連日來遭到各方激烈聲討。

社交媒體興起的時間并不長，但它迅速改變人們交往的模式，也讓網絡放大效應得到前所未有的凸顯。新西蘭恐襲事件讓人們認識到了社交媒體作用的另一面，這是一個代價沉重的提醒。不過，在一片議論聲中，被提醒的或許不應只有社交媒體。

社交媒體當“幫兇”有先例

2015年8月26日，美國弗吉尼亞州兩名電視記者在直播時突然遭槍擊身亡，槍手是一名一直心懷不滿的前同事。接著。槍手在推特及臉書賬號上發帖講述這么做的緣由，最后附上近距離射殺前同事的視頻。

槍手精心策劃了這場行動，他在自己的社交媒體賬號廣為人知之后才發布了視頻。推特和臉書很快封掉這名槍手的賬號，但相關視頻已經被廣泛傳播，被人們四處下載和重新上傳。

類似事件還有，2017年4月，美國俄亥俄州一名黑人男子在臉書上直播槍殺一名74歲的路人，視頻在上傳約三四個小時后被刪除。同年，芝加哥發生一名15歲女孩被強奸直播的事件；泰國一名父親在臉書上直播了自己殺死女兒的畫面，在視頻被刪除前，點擊量已經達到37萬次。

但要說影響力。都比不上最新這起屠殺直播。有媒體稱，新西蘭槍擊案是“首超社交媒體直播的恐襲案”。在不少媒體看來，新西蘭的屠殺直播揭示了一個根本性問題——在互聯網上，控制此類暴力視頻傳播是多么困難。全球目前不僅要防范宗教極端主義，也要防范極右翼分子，而互聯網好像正變得“激進化”。

去除網絡“污垢”為什么難？

近年來，臉書、推特和YouTube等平臺都在努力管控涉暴力內容，例如，臉書專門雇用了超過1.5萬名審查員，去除互聯網上的“污垢”。美國科技新聞網站“臨界點”曾披露這個群體的工作狀態——薪酬低廉、要求苛刻。從入職起，他們就要整日面對極具視覺沖擊力的內容，很多人因此出現心理問題。但最頭痛的是“刪帖”標準難以統一。除了受到語言和文字過度復雜的限制，有網絡專家提到，各國法律對言論自由范疇的界定不同。“比如德國和泰國對待‘大不敬問題的態度就完全不一樣”。

為彌補內容審查員的不足，臉書、推特等公司在人工智能系統上投入大量資金，但人工智能的使用卻鬧出不少笑話。2018年7月，在美國各界歡慶獨立日之際，臉書卻“誤刪”美國《獨立宣言》的內容，相關語句“無情的印第安野蠻人”被判定為“仇恨言論”。此前，臉書人工智能把一家挪威媒體主頁上發布的著名越戰裸體少女照片，識別為“色情圖片”。

據美國《華盛頓郵報》報道，槍擊視頻被上傳到社交網站時，平臺的審查團隊通常以該視頻創建黑名單，進而阻攔其再次發布。這種算法已有多年歷史，最初是用來打擊兒童色情內容傳播。但這樣的算法效果有限。上傳者可以通過添加水印、改變視頻大小等簡單方法繞過攔截。在新西蘭槍擊案中，后續被轉發到YouTube上的槍擊視頻，很多似乎都有這些改動。

即使主流平臺采取了行動，令人不安的內容也常常存在于網絡的黑暗角落。例如，3月15日案發日當天晚些時候，新西蘭槍擊視頻還出現在4Ghan、Gab等網站上，這些網站深受右翼極端分子和強調言論絕對自由的用戶歡迎。此外，一些媒體為了點擊率無所不用其極。英國《每日郵報》遭指責公然提供自白書給讀者下載，《每日鏡報》也承認不應該發布相關視頻片段。

沒有真心想解決問題？

困難雖然存在，但有分析認為，社交媒體可能并沒有真心想解決問題。美國《彭博商業周刊》稱，臉書本可以給“網管”們提高工資待遇，雇用更多人力，對用戶發帖設置更嚴格的限制。但所有這些都會影響公司收益，所以公司采取被動反應的模式，在事發后制定規則。

近年來，流媒體直播服務成為許多社交媒體增長戰略的核心，但直播暴力內容的現象也在增多。專家認為，流媒體直播能帶來的潛在利潤和名聲是天文數字，社交平臺幾乎沒有監管內容的動機，因為快捷的分享有助于增加用戶、瀏覽量和廣告收入?！澳槙鴱囊婚_始就知道，它的流媒體直播服務有可能鼓勵和放大人性中最壞的一面，它必須面對自己手上沾滿鮮血的事實?！泵绹~阿密大學法學教授瑪麗·弗蘭克斯稱。

問題不止這些。有媒體發現，社交媒體的內部審查體系具有較強的偏向性。據英國廣播公司（BBC）報道，英國薩里大學政治學教授夏蘭·吉萊斯皮經常使用YouTube，他表示，在打擊伊斯蘭極端主義內容方面，YouTube做得相當好，但對極右主義思想的打擊力度則明顯不足。

不能只靠互聯網公司自律

去年1月，德國開始執行“網絡仇恨言論法”，網民可以在線填寫表格進行投訴，司法部門可對平臺處以最高達5000萬歐元的罰金。這項法律主要針對在德國至少有200萬注冊用戶的社交網絡，如臉書、推特等。

英國也在努力解決“非法”傳播問題。據BBC報道，英國政府將在未來幾周內，公布一份已經被延遲公布的關于“網絡危害”的白皮書。由于擔心社交網站淪為恐怖分子的平臺，英國在幾年前決定成立一支網絡部隊，眼下招募工作已經展開。

然而，社交媒體的麻煩遠不止極端內容審查問題。從假新聞到卷入大選，再到信息泄露，特別是自去年3月劍橋分析事件以來，臉書就陷入“惹惱用戶——進行道歉”的無休止循環中，以至于美國《彭博商業周刊》稱其為“道歉機器”。去年，歐盟《通用數據保護條例》生效，美國《加州消費者隱私保護法》也將在2020年1月開始生效。加州州長甚至開始起草“數據紅利”法案，讓臉書等公司付費給用戶。

《華盛頓郵報》稱，多年來，臉書一直鼓勵用戶分享個人信息，但如今面對洶涌的批評浪潮，該公司正打算打造“私密交流”平臺，這一轉變凸顯其在用戶不信任及與各國監管機構的斗爭中，走向充滿不確定性的未來。

這些都是社交媒體帶來和面臨的問題，總的來看，社交媒體確實需要加強管理。不過，有學者提醒說，并非所有問題都能簡單歸咎于社交媒體，比如這次新西蘭槍擊事件。復旦大學網絡空間治理研究中心主任沈逸說，西方對社交媒體的理解出現了偏差，社交媒體揭示出來的問題，應該起到提醒人們認識和解決這些問題的作用，現在不少人卻將媒介平臺本身當作導致矛盾的原因，“這種思路就是西方經常自己批評的‘殺死帶來壞消息的信使”。

摘編自《環球時報》2019年3月19日