從屠殺直播看“社交媒體之罪”

倪浩 王會聰

在新西蘭槍擊事件發(fā)生后，有媒體形容稱，整個襲擊案似乎就是為了社交網(wǎng)絡時代而策劃——槍手用相機拍攝作案過程，使用手機應用進行直播，其長篇自白書刻意使用網(wǎng)絡用語。這讓幾大社交媒體連日來遭到各方激烈聲討。

社交媒體興起的時間并不長，但它迅速改變人們交往的模式，也讓網(wǎng)絡放大效應得到前所未有的凸顯。新西蘭恐襲事件讓人們認識到了社交媒體作用的另一面，這是一個代價沉重的提醒。不過，在一片議論聲中，被提醒的或許不應只有社交媒體。

社交媒體當“幫兇”有先例

2015年8月26日，美國弗吉尼亞州兩名電視記者在直播時突然遭槍擊身亡，槍手是一名一直心懷不滿的前同事。接著。槍手在推特及臉書賬號上發(fā)帖講述這么做的緣由，最后附上近距離射殺前同事的視頻。

槍手精心策劃了這場行動，他在自己的社交媒體賬號廣為人知之后才發(fā)布了視頻。推特和臉書很快封掉這名槍手的賬號，但相關視頻已經(jīng)被廣泛傳播，被人們四處下載和重新上傳。

類似事件還有，2017年4月，美國俄亥俄州一名黑人男子在臉書上直播槍殺一名74歲的路人，視頻在上傳約三四個小時后被刪除。同年，芝加哥發(fā)生一名15歲女孩被強奸直播的事件；泰國一名父親在臉書上直播了自己殺死女兒的畫面，在視頻被刪除前，點擊量已經(jīng)達到37萬次。

但要說影響力。都比不上最新這起屠殺直播。有媒體稱，新西蘭槍擊案是“首超社交媒體直播的恐襲案”。在不少媒體看來，新西蘭的屠殺直播揭示了一個根本性問題——在互聯(lián)網(wǎng)上，控制此類暴力視頻傳播是多么困難。全球目前不僅要防范宗教極端主義，也要防范極右翼分子，而互聯(lián)網(wǎng)好像正變得“激進化”。

去除網(wǎng)絡“污垢”為什么難？

近年來，臉書、推特和YouTube等平臺都在努力管控涉暴力內容，例如，臉書專門雇用了超過1.5萬名審查員，去除互聯(lián)網(wǎng)上的“污垢”。美國科技新聞網(wǎng)站“臨界點”曾披露這個群體的工作狀態(tài)——薪酬低廉、要求苛刻。從入職起，他們就要整日面對極具視覺沖擊力的內容，很多人因此出現(xiàn)心理問題。但最頭痛的是“刪帖”標準難以統(tǒng)一。除了受到語言和文字過度復雜的限制，有網(wǎng)絡專家提到，各國法律對言論自由范疇的界定不同?！氨热绲聡吞﹪鴮Υ蟛痪磫栴}的態(tài)度就完全不一樣”。

為彌補內容審查員的不足，臉書、推特等公司在人工智能系統(tǒng)上投入大量資金，但人工智能的使用卻鬧出不少笑話。2018年7月，在美國各界歡慶獨立日之際，臉書卻“誤刪”美國《獨立宣言》的內容，相關語句“無情的印第安野蠻人”被判定為“仇恨言論”。此前，臉書人工智能把一家挪威媒體主頁上發(fā)布的著名越戰(zhàn)裸體少女照片，識別為“色情圖片”。

據(jù)美國《華盛頓郵報》報道，槍擊視頻被上傳到社交網(wǎng)站時，平臺的審查團隊通常以該視頻創(chuàng)建黑名單，進而阻攔其再次發(fā)布。這種算法已有多年歷史，最初是用來打擊兒童色情內容傳播。但這樣的算法效果有限。上傳者可以通過添加水印、改變視頻大小等簡單方法繞過攔截。在新西蘭槍擊案中，后續(xù)被轉發(fā)到YouTube上的槍擊視頻，很多似乎都有這些改動。

即使主流平臺采取了行動，令人不安的內容也常常存在于網(wǎng)絡的黑暗角落。例如，3月15日案發(fā)日當天晚些時候，新西蘭槍擊視頻還出現(xiàn)在4Ghan、Gab等網(wǎng)站上，這些網(wǎng)站深受右翼極端分子和強調言論絕對自由的用戶歡迎。此外，一些媒體為了點擊率無所不用其極。英國《每日郵報》遭指責公然提供自白書給讀者下載，《每日鏡報》也承認不應該發(fā)布相關視頻片段。

沒有真心想解決問題？

困難雖然存在，但有分析認為，社交媒體可能并沒有真心想解決問題。美國《彭博商業(yè)周刊》稱，臉書本可以給“網(wǎng)管”們提高工資待遇，雇用更多人力，對用戶發(fā)帖設置更嚴格的限制。但所有這些都會影響公司收益，所以公司采取被動反應的模式，在事發(fā)后制定規(guī)則。

近年來，流媒體直播服務成為許多社交媒體增長戰(zhàn)略的核心，但直播暴力內容的現(xiàn)象也在增多。專家認為，流媒體直播能帶來的潛在利潤和名聲是天文數(shù)字，社交平臺幾乎沒有監(jiān)管內容的動機，因為快捷的分享有助于增加用戶、瀏覽量和廣告收入?！澳槙鴱囊婚_始就知道，它的流媒體直播服務有可能鼓勵和放大人性中最壞的一面，它必須面對自己手上沾滿鮮血的事實?！泵绹~阿密大學法學教授瑪麗·弗蘭克斯稱。

問題不止這些。有媒體發(fā)現(xiàn)，社交媒體的內部審查體系具有較強的偏向性。據(jù)英國廣播公司（BBC）報道，英國薩里大學政治學教授夏蘭·吉萊斯皮經(jīng)常使用YouTube，他表示，在打擊伊斯蘭極端主義內容方面，YouTube做得相當好，但對極右主義思想的打擊力度則明顯不足。

不能只靠互聯(lián)網(wǎng)公司自律

去年1月，德國開始執(zhí)行“網(wǎng)絡仇恨言論法”，網(wǎng)民可以在線填寫表格進行投訴，司法部門可對平臺處以最高達5000萬歐元的罰金。這項法律主要針對在德國至少有200萬注冊用戶的社交網(wǎng)絡，如臉書、推特等。

英國也在努力解決“非法”傳播問題。據(jù)BBC報道，英國政府將在未來幾周內，公布一份已經(jīng)被延遲公布的關于“網(wǎng)絡危害”的白皮書。由于擔心社交網(wǎng)站淪為恐怖分子的平臺，英國在幾年前決定成立一支網(wǎng)絡部隊，眼下招募工作已經(jīng)展開。

然而，社交媒體的麻煩遠不止極端內容審查問題。從假新聞到卷入大選，再到信息泄露，特別是自去年3月劍橋分析事件以來，臉書就陷入“惹惱用戶——進行道歉”的無休止循環(huán)中，以至于美國《彭博商業(yè)周刊》稱其為“道歉機器”。去年，歐盟《通用數(shù)據(jù)保護條例》生效，美國《加州消費者隱私保護法》也將在2020年1月開始生效。加州州長甚至開始起草“數(shù)據(jù)紅利”法案，讓臉書等公司付費給用戶。

《華盛頓郵報》稱，多年來，臉書一直鼓勵用戶分享個人信息，但如今面對洶涌的批評浪潮，該公司正打算打造“私密交流”平臺，這一轉變凸顯其在用戶不信任及與各國監(jiān)管機構的斗爭中，走向充滿不確定性的未來。

這些都是社交媒體帶來和面臨的問題，總的來看，社交媒體確實需要加強管理。不過，有學者提醒說，并非所有問題都能簡單歸咎于社交媒體，比如這次新西蘭槍擊事件。復旦大學網(wǎng)絡空間治理研究中心主任沈逸說，西方對社交媒體的理解出現(xiàn)了偏差，社交媒體揭示出來的問題，應該起到提醒人們認識和解決這些問題的作用，現(xiàn)在不少人卻將媒介平臺本身當作導致矛盾的原因，“這種思路就是西方經(jīng)常自己批評的‘殺死帶來壞消息的信使”。

摘編自《環(huán)球時報》2019年3月19日