智能時代網絡輿論的風險治理與引導

付翔

【摘要】人工智能時代，智能算法媒體成為攪動網絡輿論生態變局的重要變量，給當前輿論生態系統帶來了諸多風險和挑戰。但從長遠角度看，智能算法為推動國家和政府網絡輿論引導的方法創新提供了新思路。我們應從國家規制、平臺把關、社會評估、媒介素養等方面綜合治理，建立算法媒體的長效治理體系與風險防范機制，平衡好技術創新與價值向善的關系，應用新技術手段促進我國輿論引導方法創新，全面提升輿論引導能力，營造清朗向上，健康向善的網絡輿論生態。

【關鍵詞】算法媒體? 網絡輿論? 引導創新? 協同治理

【中圖分類號】G201.7? ? ? ? ? ? ? ? ? ? ? ? ? ?【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2019.22.014

算法媒體是基于智能算法技術驅動的信息傳播平臺。[1]以高效聚合和精準分發為特征的算法媒體，構建起以滿足個體需求為導向的新型內容傳播模式。新技術引發了當前社會信息系統的運作邏輯、信息傳播的機制規則以及公眾思維方式的整體性變革。媒介技術的革新為社會話語的釋放提供巨大可能，媒介技術是社會輿論生態演變的最直接推動力。[2]在當前算法主導傳播規則的信息生產與消費過程中，各種潛在的社會矛盾與風險問題逐漸顯現與放大，給國家輿論管理與主流價值引導帶來嚴峻挑戰。

智能算法變局下網絡輿論生態的風險與挑戰

當前我國社會正進入加速轉型時期，社會利益格局、價值觀念、文化形態等明暗交織的深刻變化，引發了潛在社會問題與利益沖突的顯著疊加。網絡輿論立足社會現實，能夠直接反映公眾對社會現象和社會熱點問題的觀點或看法，是社會意識形態的特殊表現形式。[3]隨著社會結構的異質化程度加深，網絡輿論多元化與尖銳化的趨勢顯現。同時，算法媒體在釋放技術紅利的同時也加劇網絡輿論引導的復雜化態勢，網絡主流思想輿論傳播、主流價值觀建構形勢嚴峻，社會共識凝聚困難重重。在社會變革與算法攪動之下網絡輿論生態暗流洶涌，衍生出新的輿論風險和治理層面的新挑戰。

信息控制權讓度算法，侵蝕主流思想輿論傳播。現階段算法程序設計的智能化程度對于信息質量的審查、事實真實性核實、內容深層語境識別等方面的識別能力尚不足以支撐新聞價值的判斷與把握。算法中介行使傳統人工編輯對內容價值判斷的職能后“把關度”大打折扣，個體需求與感官刺激成為新聞資源分配的重心，并在消費與供給的循環往復中不斷強化，包含色情、污穢、暴力、低俗等情緒化、娛樂消遣類信息易成為推送的首選。把關權力向算法偏移，流量至上的內容推送模式容易消解公眾對主流新聞、公共問題的關注，信息消費與網絡生態泛娛樂化、負能量文化彌漫，逐漸侵蝕網絡主流思想輿論傳播空間，妨礙主流價值觀建設，而網絡社會信仰缺失將會滋長網絡浮躁之風和不良價值觀。

算法推薦助勢下后真相負面效應凸顯，加劇網民心態失衡。后真相時代，網絡輿論空間中虛假新聞、謠言迅速滋生，后真相制造者們為了推送更多利己言論故意抓住網民的“淚點”“欲點”“癢點”配合算法傳播規則，制造煽情吸睛的標題、圖片、內容。“真相延遲-情緒先行”促使網民心態失衡，在算法推薦的助勢下衍生信任異化傾向，增加輿論疏導和社會治理的難度，容易陷入“塔西佗陷阱”。許多網民遵循“先情感后事實”的邏輯參與到網絡輿論爭論中，戾氣、猜忌、丑惡和失態的輿論與行為在網絡空間彌漫叫囂。一旦受到民粹主義、反智主義等思潮的不良煽動，容易催生對立情緒、非理性情緒，在算法的快速推薦下，相互感染、循環交叉導致網絡空間集體非理性、誘發極端行為。

算法過濾氣泡易造成“信息繭房”，導致視野窄化偏狹，難以凝聚社會共識。算法媒體的過濾氣泡以興趣為標準向用戶推薦信息，導致用戶沉浸在信息繭房且對失衡的信息壁壘毫無察覺，引發個體不斷自我涵化和思維固化。從公共交往層面看，個體與外界信息交流不暢，長期在定向化刻板化的信息引導下會催生個體認知偏狹與盲目自信，與社會整體間的知識鴻溝日益擴大。從共識引導層面看，個體對社會公共議題的理解與判斷可能有失偏，易排斥異己意見表達，不利于社會主流意識凝聚的統領工作開展。從公共信息關注視角看，算法媒體將傳統媒體從國家公共事務和社會整體動態的新聞報道轉換為基于用戶需要的個體視角的新聞推送，用戶長期沉浸在有限閱讀和同質化的閱讀，一定程度上降低了個體對社會公共領域的關注度，公共事務參與意愿減弱。

“算法推薦+社交平臺”信息傳播機制加劇群體分化導致風險放大。算法信息推送機制使具有相同利益取向和價值觀念的群體被推送到相似的內容，構建信息封閉的虛擬圈群，逐漸形成意見封閉且統一的輿論場。在社交媒體的“回聲室效應”作用下，各個分化虛擬圈群傾向選擇與該群意見一致的觀點，并在偏好中走向內卷化，群內同質、群際異質的分化特征愈發凸顯。當風險事件出現，不同社群或組織根據自身利益與立場進行話語解讀與議題設置，自動劃分為不同意見陣營，相互敵視、對抗，社會黏性被削弱，進行風險溝通對話的難度增加。

智能算法媒體的制度規則與治理體系

美國學者波斯曼（Postman）預測，技術突破所釋放的天量效能并非數量的增減損益，而是一種整體性的生態厘革。[4]每一次新技術的迭代與創新，容易突破邊界與既有的行業規范、法律制度相博弈。對于算法失范行為，相關部門已通過關閉APP社會頻道及公眾號、加強人工運營與審核等多方面措施，保障主流價值引導和文化引領。但相關管理注重個體違規行為，尚未構建針對算法傳播管理的長遠規劃。

國家層面，完善細化算法媒體行業行為規范與技術倫理邊界，重視算法延伸應用的監管防范。其一，加強頂層設計，即時把握智媒體時代內容生產和傳播規律，明確算法行業行為規范與技術倫理邊界。在目前缺乏參照系的情況下，他國算法制度嘗試可為我國提供可資借鑒。比如美國計算機協會（USACM）發布算法透明和可責性七項原則中的責任制規定即使無法詳細解釋算法如何產生結果，機構需要應對其所使用算法的決策負責。該項原則對未來算法技術的新實踐、新應用可能產生社會后果的責任歸屬作出了前瞻性的指導規范。其二，持續關注基于算法推薦技術的平臺延伸應用，加快算法安全預警監測機制建設，對超越技術目的性產生的政治、文化、環境等社會性后果進行科學評估與合理預判，未雨綢繆盡快建設算法安全預警監測機制，即時做好風險防范化解可能出現的科技風險。其三，應考慮算法推薦可能對受眾隱私、新聞版權的侵犯，對如何平衡算法新聞推薦與受眾隱私保護、版權保護之間的關系作出具體的規定。

平臺層面，強化智能算法平臺主體責任，建立把關人考核上崗制度。智能算法平臺要將社會效應作為生存根本，在研發算法推薦技術時要強化信息內容把關、主流價值導向的主體責任，在人工引導下進行科學、平衡、有序的信息推送，以負責任的態度向社會傳輸正能量。在此過程中，需建設一支既具有較高政治水準又具有超強業務水平的內容把關人隊伍。首先，對算法媒體把關人加強把關，建立考核持證上崗制度，相關政治考核、業務考核通過之后才能擁有內容審核資格。其次，加強對相關媒體人員的培訓教育，不斷提高對算法媒體的政治、業務以及技術把關能力。隨著“算法+人工”干預體系的日益普及，媒體把關人需要具備算法的基礎知識和技能，如掌握算法的內容傳播規律、了解基礎的算法的程序設計，可以辨別算法試驗數據等，為日后優化算法指標體系提供依據。最后，建立對算法媒體內容把關人的績效評估制度，鼓勵其推出既為公眾所喜聞樂見又能弘揚主流價值觀的新聞產品，推薦中對公眾造成不良誘導的低俗新聞、負面新聞的把關人，應進行責任追究，以保證算法推薦信息品質。

社會層面，協同社會多方力量完善算法媒體評估、準入與舉報等配套制度體系。在每一種算法大規模應用于新聞生產流程之前，相關部門應聯合專家團隊等協同攻關，既要對其業務前景進行評估，對其社會風險和意識形態安全進行科學考量，以防范新的傳播手段可能對我國社會和諧穩定造成負面影響。一是完善算法媒體的市場準入、退出機制和黑名單制度等相關配套性制度。繼續增加并完善權威主流媒體的內容推薦算法優化，實現主流媒體平臺與視頻平臺、移動端平臺等多元平臺對接，實現主流話語的多渠道分發與傳播，增強主流輿論引領與影響。二是建立信用積分制度，發布算法新聞黑名單，對多次違規發布違反國家安全、社會穩定、民心安定的媒體單位作出警告、懲罰乃至退出市場等處理。三是建立受眾監督舉報機制，設置一鍵舉報等功能減輕用戶監督舉報成本，將受眾監督舉報作為評估算法媒體網站或應用好壞的一項重要標準，對多次被舉報違規操作的算法平臺媒體給予處罰，還可將其引入算法推薦，增大其在算法推薦中的權重，比如受眾多次監督舉報的賬號將減少推薦或不予推薦。

公民層面，培育開放多元的算法媒體信息觀，提升公民算法素養。從公民自身角度，公眾自身應當樹立理性的算法媒體信息觀，正視算法影響，防范算法中介的偏見效應，比如互動偏見、選擇偏見、數據導向偏見等等。在算法媒介接觸使用中保持清醒頭腦，不被算法控制，學會用正確的、理智的方式去消費算法實現高效學習、便利生活的目的。同時還要有意識地培養自身全局視野，寬闊思維學習領域，不被固有的思維模式禁錮，不斷接受新知識與新事物，提升自身算法素養，破除繭房效應。從算法媒體角度，強化媒體責任擔當，發揮好媒體社會教化功能，幫助公眾培養健康的信息消費觀，創新更多的新算法突破現有內容結構的局限。例如算法下一次迭代，如果增加心理類數據指標介入，那么新算法將會對需求重新界定，針對不同心理性需求的社會群體優化內容匹配，具體來說，針對安全需求的群體，增加對社會正能量信息、社會保障類信息的推送力度;針對評論活躍的群體，加大相對客觀的權威媒體信息推送，避免其因接觸過多謠言和未經證實的信息而產生非理性的評論等。

智能算法技術推動網絡輿論引導方法創新

黨的十九大報告提出要“高度重視傳播手段建設與創新，提高新聞輿論傳播力、引導力、影響力、公信力”。[5]為新時代網絡輿論引導提供了工作方向。

算法推薦機制讓無形的網絡輿論在傳播中變得“有跡可循”為精準引導提供新方法。大數據處理和算法推薦能夠較為準確地反映信息流動以及不同人群對特定話題的觀點、訴求與傾向，讓網絡空間中無形的輿論在傳播流動中變得“有跡可循”。一是科學分類，精準推送。在公眾切身利益關系密切的住房、養老、就業、求醫等領域較為有爭議性的話題討論以及一些突發性事件或社會重大問題中，不同利益需求與價值觀念的人群往往會在算法過濾式傳播中被分割為不同輿論陣營。國家和政府部門可以借助算法推薦對用戶畫像，根據畫像的結果對各自抱團的利益群體進行更精準的議題策劃與設置。二是重點關懷，強化引導。算法推送與新時代公民精神更為契合，議題內容的個性化推送能夠為公眾塑造心理上的被尊重感，增強輿論引導感染力與影響力，這種被尊重心理不僅滿足了用戶對議題相關的優質內容選擇，也有利于達成社會意見共識。

根據算法媒體價值內嵌的技術屬性，植入主流思想輿論基因，打造良性網絡傳播生態。根據算法技術邏輯對內嵌程序進行優化指標設計，增加對主流思想、價值觀指標的內嵌設計，營造主流思想價值觀的輿論強勢，讓輿論引導在潤“人”無聲。具體來說，一是建立技術、政治、文化等多維算法推薦指標，除點擊率、流量等指標外，將評論態度、信源類型、信用度、反饋評價等納入評價指標，提升正能量內容和主流輿論輸出力度。二是對頻道欄目分區內容進行監管，對“關注”“推薦”“熱點”等欄目分區增加正面信息占比，限制低俗、娛樂、休閑類內容，除了針對“推薦”區的主流媒體推送之外，其他分區也應默認置頂推薦主流新聞。三是對算法推薦進行關鍵詞設置，添加推送型“關鍵詞”或者避免型“關鍵詞”，對于用戶頻繁瀏覽的話題信息可增添“減少推送”的類似功能的選項，攔截有明顯極端傾向詞匯、反動傾向詞匯的信息。針對多次瀏覽低俗信息的用戶，使用負面詞匯、敏感詞匯較多的用戶，增加正面信息和其他領域信息的推送。

構建網絡輿論分級的算法預警機制，推動網絡輿論引導從后置向前置轉變。一是構建一套算法輿情階段的分級指標體系和數據模型，形成科學的網絡輿情研判預警機制。通過對已有的輿論數據庫的關聯信息進行分析挖掘，確定與輿情潛伏、爆發、演變、消解等重點指標，包括但不限于點擊率、回復量、轉發分享、網民參與、情感詞匯、話題一致性等。二是針對不同級別的輿情及其可能存在的變化制定算法指標推薦權重，實現對網絡輿論的算法分級設定，有效進行分級化引導。三是實時監測不同領域、不同介質的媒介數據，擴展輿情數據監測范圍。既要關注普通網民的話題聚焦，更要識別和觀察各方意見領袖的觀點態度，對不同意見領袖進行分類匹配推送信息。

算法推薦機制強大的信息資源整合與發布能力，為有效破除謠言、揭露真相提供新手段。確定性是網絡謠言的天敵。網絡謠言之所以能夠泛濫成災，主要在于傳達事實的模糊性，混淆是非。傳統主流媒體的權威信息發布往往滯后于謠言蔓延的速度。而算法媒體基于大數據技術能夠對碎片化、微內容、非結構性的意見和傾向表達符號等巨量數據預測性分析與研判。一旦遇到重大公共事件議題國家和政府部門可以憑借算法媒體強大的預判能力、信息聚合能力與準確推送，掌控輿論話語權主動權，即時推送發布權威信息并時時更新議題動態，樹立信息權威性和準確性，以消除謠言滋生空間。

注釋

[1]羅昕：《算法媒體的生產邏輯與治理機制》，《人民論壇·學術前沿》，2018年第24期。

[2]喻國明、李彪：《當前社會輿情場的結構性特點及演進趨勢——基于〈中國社會輿情年度報告（2015）〉的分析結論》，《新聞與寫作》，2015年第10期。

[3]余紅、李瑞芳：《互聯網時代網絡輿論發生機制研究》，武漢：華中科技大學出版社，2016年。

[4][美]尼爾·波斯曼：《技術壟斷：文化向技術投降》，何道寬譯，北京大學出版社，2007年。

[5]丁柏銓：《論新聞輿論傳播力、引導力、影響力、公信力》，《新聞愛好者》，2018第1期。

責 編∕趙鑫洋