人工智能與社交媒體假新聞治理

姜博文

摘要：伴隨內容生產主體的多元化、傳播環境的重構與信息技術的變革，社交媒體在國內外廣泛普及。人工智能的發展讓智能算法推薦開始替代專業人士的決策，也為治理社交媒體假新聞亂象提供著可行路徑。這需要有效提升受眾的媒介傳播素養，合理利用信息技術的發展成果，不斷創新人類與人工智能的合作方式，并持續強化人工智能治理和信息傳播倫理建設。

關鍵詞：社交媒體 假新聞治理 人工智能 算法推薦

隨著數字技術和移動互聯網的普及，社交媒體開始快速發展，這對傳統新聞行業既是機遇更是挑戰。當大量低門檻的自媒體介入新聞生產與傳播，以往的信息傳播倫理框架遭受沖擊。新媒體時代，社交媒體假新聞愈演愈烈，人工智能如何參與互聯網治理值得關注與研究。

一、社交媒體假新聞的產生原因

從傳統媒體時代進入到新媒體時代后，假新聞現象在社交媒體呈爆發態勢。社交媒體假新聞的產生受各類互聯網平臺的算法技術、運營邏輯等影響?！凹傩侣劮簽E貌似到達了一個新的高度，這跟社交媒體和人工智能的發展密切相關。”

1.生產主體的多元。進入新媒體時代，公眾借助互聯網平臺尤其是社交媒體獲得了有效的發聲渠道，個人信息有機會獲得廣泛傳播并產生更大影響。多元化、去中心化的傳播模式讓個體獲得話語權，也淡化了傳統媒體工作者“守門人”的職責，弱化過去傳統媒體對于謠言的糾錯、追責能力，使得假新聞獲得易產生、低風險的生存土壤。

在傳統媒體時代假新聞的治理方案中，大量研究認為應加強職業共同體內部的素質培養。由于生產主體的快速變化，以往的治理措施在當下已顯過時。信息生產主體的改變，以及行業準入門檻低，造成大量假新聞由非職業生產者制造出。對這樣多元的廣泛群體，依靠職業層面的素質規范培訓是不現實的。

2.傳播環境的重構。隨著用戶使用和依賴習慣的形成，社交媒體成為很多用戶重要甚至是唯一的信息來源渠道。與傳統媒體不同，社交媒體并不重視對內容質量的追求，其不是新聞內容的生產者與把關者，往往只是定位于做傳播渠道，這為虛假新聞的滋生與傳播提供了廣闊空間。

新舊媒介環境的不同，也造成如今假新聞與以往假新聞有所區別。對于大量自媒體來說，“優質內容”不再是過去語境下所指的內容客觀、數據嚴謹的新聞報道，而是足夠共情、能抓住讀者眼球的精彩故事。在流量與利益的高轉化率下，獲得關注就是獲得資源——這使得社交媒體對充滿誘惑力的信息更為關注，它們通過精心設計的內容吸引受眾，為假新聞開拓了足以生存并持續擴大的環境。

3.信息技術的變革。隨著數字技術與人工智能的發展，社交媒體的信息傳播技術不斷實現快速的迭代升級。社交媒體的新聞傳播，目前主要依托算法推薦和個性化推送。算法推薦是通過內容類別、興趣標簽、瀏覽行為、社交關系等大數據的收集歸納，將用戶的點擊偏好整理分析后，為其精準推送大量相關內容，獲得用戶更高的點擊量和瀏覽時間。

這類工作數量巨大，決定了其不可能完全由人來操作完成，引入算法正是為了彌補人力的不足與缺陷。人力的有限性也決定了無論怎樣加強法制法規建設并提高人工審核的專業性，都不足以有效地檢查、核對、驗證如此海量龐雜的信息。因此，對于社交媒體假新聞傳播現象的治理，最終仍然需要技術實現的路徑，即通過人工智能實現對假新聞的識別與處理。

二、社交媒體假新聞的傳播失控

既然社交媒體對于新聞內容的抓取和推送主要依賴于算法推薦，那么算法推薦和人工智能技術在信息傳播過程中的具體應用將對新聞資訊的生產和傳播產生越來越大的影響，如果處理不當將加劇社交媒體假新聞的傳播失控。

1.智能算法推薦影響新聞的價值基礎。傳統媒體時代，專業主義作為新聞行業的傳統價值基礎，強調新聞的客觀性、嚴謹性、公共性與有益性，新聞的生產與傳播更多依托于專業人士的社會責任與把關能力。而社交媒體等互聯網平臺往往強調自己只提供新聞資訊等信息，并不參與內容生產，而它們對新聞的獲取與分發更多地依賴于智能算法。

智能算法的價值更傾向去選取那些能抓住用戶眼球、引發共情的熱點事件，并不在乎它們是否聳人聽聞，也不檢查和追究信息來源的真實性。社交媒體平臺對新聞的推送基本依賴算法推薦，根據用戶的讀取傾向進行多點分發，“在新媒體環境下，算法分發的更多是碎片化、個性化的信息，而不是新聞，算法推薦機制實際上是一種對新聞專業主義和公共性的解構。”

2.新聞倫理約束失效助推假新聞泛濫。社交媒體推薦算法的設計，往往并不征求或參考新聞專業人士的意見建議，多由產品和研發人員完成，這很可能造成算法的天然缺陷，即算法漠視或違背傳統新聞倫理的約束。加上社交媒體的相關算法往往因技術保密、知識產權、商業競爭等原因不夠透明，后期對算法的監管也不夠有力，容易放大假消息、假新聞，導致傳播失控。

部分社交媒體平臺和自媒體出于利益訴求和現實需要，甚至利用算法操縱或催化假新聞，推動并助長假新聞在社交媒體的泛濫。社會責任感不足、自律他律缺失的算法推薦，如果成為內容抓取和分發的制度手段，必然會導致新聞偏向。“通過社交媒體算法散播的假新聞正禍亂全球，如果假新聞是中傷對手、攻擊敵國的子彈，那么，社交媒體存在漏洞的算法就是被利用來發射子彈的槍械。”

3.情緒化傳播強化信息繭房效應。智能算法推薦的主要依據，不是平臺或程序設計者認為公眾應該接觸的有公共價值的信息，而是用戶的點擊偏好。算法會根據用戶的點擊率和關注傾向，連續抓取并反復推送相關信息，這種對受眾口味的迎合和縱容，極易使互聯網平臺用戶加速分化。不同用戶分別被特定類型的信息過度粘合或屏蔽，最終導致“信息繭房”的形成。

與此同時，規訓用戶認同、接受觀點窄化甚至極化，極易造成用戶情緒化的傳播，更易使虛假信息和假新聞被不斷放大，并利用圈層化的社交媒體迅速擴散和傳播，加劇并固化社群間的誤解與分裂。如果有社交媒體平臺出于政治或商業目的，借助大數據分析和智能分發，精準描摹并放大、引導特定用戶的某類心理特征進而精準推送虛假信息，甚至會對社會安定團結產生不良影響。

4.媒體融合擴大假新聞的傳播范圍。隨著多媒體技術和人工智能技術的應用、發展與普及，無論是傳統的專業新聞媒體還是網絡自媒體，都開始致力于探索媒體融合，不斷打造和追求融媒體、全媒體的新聞傳播形式。融媒體通過文字、圖片、音頻、動畫、短視頻、VR、網絡直播等多種形式的結合，能夠承載的信息內容更豐富生動、形式更靈活直觀，更易吸引關注并獲得信任，也更容易使相關信息的傳播范圍和擴散程度倍增。

數字智能技術的創新變革，方便了對于圖片和視頻的改造甚至是偽造，傳統的“眼見為實”“有圖有真相”“有視頻有真相”等已無法完全證實信息的真偽，加之即時、實時、瞬時傳播等特點造成尋求真相更為困難。智能技術的進步，“已極大地改變了人類傳播和接收信息的模式，并在形塑人類行為模式的基礎上產生了巨大的社會影響?！?/p>

三、人工智能應對社交媒體假新聞的嘗試

人工智能是把雙刃劍，“面對互聯網信息環境中泛濫的假新聞和捉襟見肘的人工核查，智能化技術被廣泛應用到假新聞的識別和傳播阻斷中?！泵襟w融合時代的互聯網治理如果不能發揮出人工智能技術的正能量，就無法根治社交媒體的假新聞亂象，因此國內外的媒體機構和互聯網平臺都紛紛進行嘗試。

1.國外的典型案例。2017年8月，臉書開始采取“相關文章”功能對抗假新聞，在信息來源可信度低且熱門的文章旁，用戶可看到主題相關的其他文章。2019年4月，臉書基于大數據處理對信息添加了上下文按鈕，并且不局限于文字內容，對圖片等內容也使用了這一技術，同時使用新的信任指示器，提供有關特定新聞機構的更多信息。2019年9月，臉書推出名為“Rosetta”的AI系統，用于幫助計算機理解并分析每天發布在平臺上海量的圖像與視頻。

《華盛頓郵報》于2012年開發了專門檢測假新聞內容的應用軟件“Truth Teller”，但限于技術原因，該軟件無法有效識別各種變換形式的假新聞，語音識別功能還會時常報錯。英國的事實檢查機構Full Fact于2016年初推出了自己的監控系統，用于掌握每個謠言的生命周期進而消除這些假新聞。

英國科技公司Fabula AI則利用幾何深度學習（Geometric Deep Learning）的方法檢測假新聞。該方法著眼于信息如何在社交網絡上傳播以及誰在傳播，而非從新聞內容入手，并根據真假新聞的可信程度對內容進行分類，給出評定分數。Fabula AI的優勢在于它與新聞的內容和語言無關，并且因為依賴于社交平臺用戶的集體行為，它更難被技術的方法所對抗。Fabula AI系統能夠用更快的速度，在內容發布后的短時間內，以非常準確的方式檢測出假新聞。

成立于2017年的舊金山人工智能基金會AI Foundation開發的Reality Defender系統，借助對圖像、視頻和其他媒體內容的掃描，利用人工智能驅動的分析技術發現已知的假象，幫助人們識別由人工智能算法生成的內容以檢測潛在的假新聞。

2.國內的探索實踐。2018年3月15日，今日頭條披露資訊打假技術路線圖，將自然語言處理NLP技術引入自動化謠言識別工程以阻斷假新聞傳播。

2019年，阿里巴巴集團推出AI謠言粉碎機。其工作原理分三步驟：第一步，當AI識別假新聞時，先在能夠收集到的信息里尋找最初信源，分析用戶畫像，判斷發布者的信譽度，如果是帶鏈接的新聞，AI謠言粉碎機會再查詢鏈接的域名是否來自可信網站如新華社、人民日報等；第二步，機器會提取文內關鍵性的論證，和現有的權威知識庫進行對比驗證，依據內容、邏輯關系和行文風格進行判別，利用假新聞常會采用夸大、空洞說辭的特點加以識別；第三步，對傳播路徑深入分析，一條謠言的發酵背后會有眾多群體的助推，在留言、轉發等行為里，不同的人會有多種不同態度——通過訓練的機器統計不僅能獲取所有用戶的態度，同時會根據用戶得分區別對待每條發言。人工智能將對一切用戶的多種特征展開數據分析，利用大數據來獲取用戶的信譽度認證，綜合計算新聞的可信度。

四、人工智能治理社交媒體假新聞的反思

通過國內外社交媒體的嘗試，能看到其面對媒體融合時代假新聞挑戰做出的努力。但也能看到，由于技術、資源等局限，這些嘗試都有或多或少的不足。面對社交媒體發展帶來的新挑戰與新機遇，如何突破固有框架模式應對新現象、解決新問題仍值得探索，治理假新聞也不能只寄希望于人工智能的進步。

1.有效提升受眾的媒介傳播素養。受眾需認識到，技術雖然是中性的，但技術的使用者不是中性的。這意味著技術使用者生產出的信息并不一定就是客觀可信的。用戶在社交媒體接收信息、二次傳播的過程中，應當對內容進行自己的理性思考。社交媒體雖有“信息繭房”等問題，但用戶仍可依據社交媒體平臺的設置來構建自己的服務。面對虛假信息，用戶可以多關注高質量的新聞媒體如人民日報、新華社等官方賬號，不傳播、不輕信小道新聞，對感興趣的新聞多搜索相關內容，這能在很大程度上消除假新聞的不良影響。

2.創新人類與人工智能的合作方式。治理社交媒體的假新聞，應考慮更合理地從技術層面遏制其發生與傳播，如加大對算法的投入和研發，深入優化智能推薦算法。發現和判別謠言不是一個單純的技術指標，如果只靠大數據分析和算法的完善與精深，依然無法徹底解決該問題。人工智能雖頭頂“智能”二字，但其技術局限性注定了目前其對假新聞的識別還得依靠人類設計的算法，人工智能對假新聞的處理最終還是人對假新聞的處理。因此，需進一步加強對假新聞復雜背景的深刻理解，強化算法設計者的社會責任感和新聞倫理意識，優化智能選擇與人工把關的精準結合，尋求人類與人工智能合作的全新方式。

3.強化人工智能治理和信息傳播倫理。目前，全社會對應當進一步深化人工智能的法律規范和倫理研究已經達成共識。2017年8月，《新一代人工智能發展規劃》已由國務院印發，其中明確說明，我國人工智能發展的第一保障措施是“制定促進人工智能發展的法律法規和倫理規范”，為加速和深化人工智能的倫理研究奠定了堅實的政策基礎。隨著媒體融合的深入發展，社交媒體假新聞的規模及破壞力將更大，傳統的新聞倫理框架已不足以解釋并解決相關問題。因此，未來社交媒體假新聞的治理應考慮更為廣泛的社會領域，而非局限于新聞行業和技術應用等層面的思考與實踐。

作者單位 華東師范大學傳播學院

參考文獻

[1]邵國松.媒體智能化發展的倫理與法律問題初窺[J].現代傳播（中國傳媒大學學報），2018（11）.

[2]姜紅，魯曼.重塑“媒介”：行動者網絡中的新聞“算法”[J].新聞記者，2017（04）.

[3]趙瑜.人工智能時代新聞倫理研究重點及其趨向[J].浙江大學學報（人文社會科學版），2019（02）.

[4]師文，陳昌鳳.新聞專業性、算法與權力、信息價值觀：2018全球智能媒體研究綜述[J].全球傳媒學刊，2019（01）.

【編輯：馬寧】