網絡時代虛假信息生產與傳播的政治經濟學分析：以網紅為中心的考察

[摘 要] 在網絡時代，網紅生產傳播虛假信息已成為亟待治理的社會問題。這一現象有其經濟根源和技術基礎，是數字技術產業過度資本化的結果。從政治經濟學視角看，網紅在互聯網經濟體系中扮演著特殊角色。由于資本積累的需要，網紅成為一份新興職業，相對豐厚的收入與職業期待使網紅行業的內部競爭不斷加大。在利益驅使和創作焦慮中，編造虛假信息成為引流的一種手段。在技術層面，平臺算法對流量的控制也推動網紅追求新奇、怪異的創作導向，而數字技術的資本化與數字內容監管之間存在沖突，單靠技術升級無法解決這一矛盾。政策制定者在提高個人及企業的違規成本，督導數字企業創新技術監管手段的同時，應將防止數字技術過度資本化納入國家網絡治理的頂層設計之中。只有從經濟、法律、技術等多方面入手才能有效解決網絡虛假信息泛濫的問題。

[關鍵詞] 網紅；虛假信息；資本積累；數字技術資本化；網絡治理

[DOI編號] 10.14180/j.cnki.1004-0544.2024.08.012

[中圖分類號] F49 [文獻標識碼] A [文章編號] 1004-0544（2024）08-0105-11

基金項目：2023年度福建省社科研究基地重大項目“習近平新時代中國特色社會主義思想的方法論研究”（FJ2023JDZ002）。

作者簡介：鄭涵（1997—），男，清華大學馬克思主義學院博士研究生。

作為人類生產生活的“第二空間”，網絡空間在持續帶來全新發展機遇的同時，也浮現出眾多治理問題。習近平總書記在多個場合強調了網絡空間治理、建設網絡文明的重要性。例如，2016年4月，習近平總書記在網絡安全和信息化工作座談會上指出：“網絡空間是億萬民眾共同的精神家園。網絡空間天朗氣清、生態良好，符合人民利益。網絡空間烏煙瘴氣、生態惡化，不符合人民利益。”12021年，在致首屆中國網絡文明大會的賀信中，習近平總書記再次強調，“網絡文明是新形勢下社會文明的重要內容，是建設網絡強國的重要領域”2。這些重要論斷準確概括了網絡空間、精神文明和人民文化生活的緊密聯系。近十年來，隨著技術的迅速迭代與傳播媒介的不斷更新，虛假信息生產與傳播的速度、頻度、迷惑性和隱蔽性都達到了前所未有的程度，已成為威脅網絡空間健康發展的一大癥結。社交媒體等數字平臺上充斥著謠言、假新聞、杜撰帖文、虛假宣傳及造假視頻，這些虛假信息威脅著人們的消費權益、生產生活、公共秩序及社會穩定。一些研究已經著重從技術、法律、安全等角度分析了網絡虛假信息的生產及危害1，但從傳播主體角度進行研究的較少。本文試圖以網紅這一傳播主體為切入口，剖析虛假信息生產傳播的經濟原因和技術基礎，闡明僅靠人工智能技術無法解決虛假信息泛濫的社會問題，并揭示數字技術資本化與數字內容監管之間的內在矛盾。

一、網紅與虛假信息

在網絡時代，虛假信息的生產與傳播已經成為一個全球性的社會問題。益普索（Ipsos）公司針對16個國家的調查結果顯示，85%的受訪者擔心受到網絡虛假信息的影響2；美國2020年的數據顯示，至少38.2%的社交媒體用戶曾在不知情的情況下分享過假新聞或錯誤信息3。盡管人人都有可能生產與傳播虛假信息，但擁有一定粉絲基礎、較易受到關注的網紅群體扮演的角色尤為突出：一次轉發就可能在短時間內獲得數萬甚至數十萬的點擊量。2024年2月，全網擁有近4000萬粉絲的網紅“Thurman貓一杯”（下文簡稱“貓一杯”）發布“在巴黎拾到小學生秦朗丟失的作業本”視頻，僅四天時間全網點贊量就超500萬，轉發量超200萬，引發社會輿論的巨大反響。事后證明，這則視頻是依照劇本擺拍編造的虛假信息。“貓一杯”由此受到嚴厲懲罰，相關賬號被全部封殺，旗下服飾品牌也宣布閉店。實際上，網紅制造和傳播虛假信息造成重大社會影響并非個例。路透社新聞研究所（Reuters Institute for the Study of Journalism）一項研究發現，2020年1月—3月各類名人關于冠狀病毒的誤導性文案占社交媒體總參與度的69%4；2023年，抖音發布的《治理不實信息年度總結》顯示，1.9萬多個發布不實信息的賬號受到了全面封禁等處置，240多萬條視頻被清理5。這些數據表明，社交媒體上的網紅已成為生產和傳播虛假信息的重要主體。

“網紅”是“網絡紅人”的簡稱，最早用來形容在互聯網上有一定知名度的人物，他們往往因自己的外貌、言論和行為等受到關注。區別于依靠電視、電影、廣播、報刊等傳統媒介打造形象的名人，網紅獲取關注的主要途徑是互聯網。在英語語境中，網紅（Internet celebrity）有不同界定，例如：特納（Turner）把在互聯網上發布自制內容的網紅稱為“DIY名人”（DIY celebrity）6，森芙特（Senft）形容利用數字媒體技術和平臺進行表演、互動來獲得人氣的網絡達人為“微名人”（microcelebrity）7。其中，有特定商業目的的網紅被統稱為“影響者”（influencer），指通過使用互聯網和社交媒體而出名，利用名氣來宣傳特定產品、品牌，以引起消費者興趣并實現盈利的人1。在我國語境中，網紅泛指在互聯網上擁有一定粉絲基礎的群體，包括網絡主播、視頻博主等。這一群體受到廣泛關注，一開始就和其潛在的巨大經濟價值有關。2016年，《人民日報》專門發文論及“網紅經濟”，指出圍繞網紅生發的商業鏈條和盈利模式已經成為移動互聯網時代的重要社會現象2。

早期網紅的產生具有偶然性，商業氣息較弱。在2010年前后，技術和經濟環境發生的一系列變化推動網紅經歷了商業化、職業化轉型。以2007年第一代iPhone的發售為標志，移動互聯網時代加速到來，移動智能設備的普及增強了大眾利用互聯網的便捷性。2010年至2019年，全球網民數量翻番，從20億增長至45億3。網購和線上支付系統的完善為互聯網用戶提供了便利的消費方式和交易工具。不斷提升的網絡傳輸速度與容量，則讓數字社交媒體的即時性、互動性成為可能4。特別是伴隨直播、短視頻等新興社交媒體的興起，以及打賞、廣告、帶貨等盈利機制的出現，職業網紅可以借助媒介技術打造人設，在社交媒體上進行內容創作以獲取關注、吸引流量并賺取收益。在這一過程中，網紅也成為互聯網上最受大眾關注的群體之一。

那么，為什么一些網紅不充分利用媒體平臺創作優質數字內容，卻要編造傳播虛假信息呢？有分析已經注意到，這與互聯網現有的盈利機制有關：網紅試圖借博眼球的內容快速吸粉引流，進而帶貨變現。不過，現有研究對網紅面臨的市場環境及其變化缺少分析，而這正是理解網紅甘于冒風險編造傳播虛假信息的重要背景。與此同時，網紅并非虛假信息生產傳播產業鏈條上的唯一環節，這提醒我們，須完整審視上下游企業如廣告商、品牌方和經紀公司的作用，尤其不能忽視社交媒體等數字平臺所扮演的角色。

我國的執法部門曾多次開展整治網絡謠言、打擊編造傳播虛假信息行為的行動。這些行動在一定程度上有效遏制了虛假信息傳播的勢頭和范圍。然而時至今日，一些網紅屢屢以身試法，虛假信息生產傳播的產業鏈及商業網絡仍未得到根除。這表明，當下的整治行動并未鏟除產生虛假信息的根源。為了實現針對性治理，營造良好網絡生態，一些理論問題值得進一步討論。比如：為什么網紅要通過生產或傳播虛假信息來獲取流量？在虛假信息的傳播過程中，由資本巨頭控制的社交媒體發揮著什么樣的作用？人工智能技術可以徹底解決虛假信息泛濫的問題嗎？更重要的是，我們又該如何從根本上解決這一問題？要回答這些問題，我們需要引入政治經濟學視角，深入剖析虛假信息生產傳播背后的經濟社會根源。只有這樣，才能為制定更加有效的治理政策提供理論依據，從而引導和培育積極健康、向上向善的網絡文化。

二、網紅生產虛假信息的經濟原因

資本給予網紅高度關注與扶持，但這并不意味著職業網紅可以輕易過上“躺平”的生活。為了引流或達到特定商業目的，不同細分領域的網紅都要拿出“十八般武藝”。在激烈競爭中，為了迅速吸引眼球，一些網紅不惜冒著被處罰、封號甚至違法的風險編造虛假信息，其中不乏擁有很大粉絲基數的網紅。分析這一現象，不能僅從個人素質或法律意識不足的角度解釋，必須要看到網紅在經濟體系中的角色，以及整個網紅經濟的結構性特征。

（一）資本積累與職業網紅數量急速膨脹

網紅能夠在經濟領域發揮作用，最主要的動力來自資本積累的需要。首先，工商業資本敏銳地意識到網絡時代品牌和產品營銷發生的重大變化。一方面，大眾對移動應用特別是數字社交媒體的使用時長持續增加。以我國為例，截至2022年12月，網絡視聽用戶規模達10.4億，其中短視頻人均單日使用時長超過2.5個小時，網絡視聽網民規模、使用率和使用時長持續增長1。另一方面，大眾消費場景逐漸從線下轉向線上，消費決策、品牌認同愈發受到網絡信息的影響，而網紅的影響力尤受矚目。晨間咨詢（Morning Consult）的調查顯示，超過半數的千禧一代和Z世代社交媒體用戶表示信任社交媒體上的網紅2。因此，在工商業資本眼中，網紅與傳統明星偶像類似，可以發揮符號功能，起到營銷和宣傳品牌、產品的作用，提升資本積累的規模和效率3。事實證明，網紅的推介效果遠超預期。以TikTok（泰國）數據為例，約有78%的用戶在看到TikTok創作者推薦的產品后購買了該產品4。這種營銷效果對任何商家都是巨大的誘惑，商家愿意將一部分利潤分給營銷者以加速資本周轉。在網絡時代，營銷者的角色很大程度上由網紅承擔起來了。

其次，對于社交媒體等數字平臺來說，網紅作為數字內容的生產者是維持平臺粉絲黏性的支柱。社交媒體的收入主要包括會員費、打賞抽成和廣告收入，這些都與用戶基數、用戶活躍度高度相關。許多用戶使用社交媒體，除了用于自己發布內容之外，很大程度上是想從喜愛的網紅那里獲取信息，或是滿足自己放松、解壓的需求5。因此，平臺營收有賴于網紅持續生產高質量內容。這也就不難理解，為什么平臺樂于培育隸屬于自己的網紅，或者以高價競爭簽約其他平臺的頭部網紅6。與此同時，網紅與數字平臺間模糊的勞動關系也為資本積累提供了有利條件。客觀上，網紅的數字勞動為平臺吸引和維持了大量粉絲，幫助平臺賺取利潤。但是，網紅與數字平臺間往往不存在雇傭關系：網紅作為用戶，平臺無須向其支付勞動報酬，或僅需提供少量的創作激勵。也就是說，平臺以極低的成本占有了網紅產出的數字內容，作為自身快速積累的原料。

在網紅受到各類資本青睞的背景下，網紅經濟成為全球市場增長最為迅猛的領域之一。美國聯合市場研究公司（Allied Market Research）的一份報告顯示，2022年全球網紅營銷市場收入高達165億美元，并預計將在2032年飆升至1996億美元，預測的復合年增長率高達28.6%1。作為數字經濟規模世界第二大國，中國網紅經濟的增長勢頭尤為強勁。最新數據顯示，2022年中國網紅經濟市場規模已突破1.3萬億元，同比增長26.9%2。網紅經濟的巨大經濟效益為職業網紅帶來了相對豐厚的收入與較高的職業期待，持續吸引著新的加入者。凱勒咨詢（Keller Advisory Group）的統計數據顯示，截至2023年7月，美國已有2700萬通過生產數字內容賺取收入的互聯網用戶，這一數字接近美國總人口的十分之一3。《中國網絡表演（直播與短視頻）行業發展報告（2022—2023）》指出，該行業已擁有超過1.5億的網絡直播賬號和超過10億的內容創作者賬號。而根據2023年12月的最新數據，全網短視頻賬號總數已突破15.5億個，職業主播數量也激增至1508萬人4。

（二）競爭白熱化與創作焦慮

規模龐大的網紅群體要爭奪的卻是有限的注意力資源，如何在眾多的競爭者中脫穎而出成為網紅們的焦慮之源。全球媒體監測機構融文（Meltwater）和社交化營銷創意機構維奧斯社（We are Social）聯合發布的調查報告顯示，全球社交媒體活躍用戶數量已經突破50億，相當于世界總人口的62.3%5。盡管移動互聯網的滲透率不斷提高，社交媒體等數字平臺的使用時間也在持續增加，但每個人在直播、短視頻等娛樂形式上的時間投入是有限的。隨著數字內容的爆炸式增長，大眾注意力變得更加分散。如果考慮到非職業賬號運營者和潛在網紅生產的數字內容，爭奪注意力時間的競爭程度要比數據呈現出來的更為激烈。對于競爭網紅們有著最切身的感受，正如擁有750萬TikTok粉絲的漢克·格林（Hank Green）在美國洛杉磯的一次行業峰會上所指出的那樣，“互聯網是貪得無厭的，每個人都可以被取代……據我所知，22歲的年輕人數量無窮無盡”6。

可以預見的是，在未來很長一段時間內網紅間的競爭仍將保持激烈態勢。這種競爭不僅源于經濟收益的吸引，還受到一系列社會和技術因素的推動。首先，在零工經濟和靈活用工的背景下，不穩定的收入狀況和相對自由的閑暇時間使得越來越多的人意識到通過網絡平臺賺取額外收入的必要性和可能性。其次，細分市場的興起幾乎為所有人提供了成為網紅的機會。無論是學歷、職業還是年齡，都不再是限制人們成為網紅的障礙。而高學歷化、年輕化的網紅群體本身也使得競爭強度和競爭層次都達到前所未有的高度。再次，簡易化、步驟化的剪輯平臺和直播平臺使制作優質視頻、進行實時直播的技術門檻大幅降低。最后，專業的網紅經紀組織MCN（Multi-Channel Network）機構通過成批次簽約和培育網紅，搶占不同細分領域市場，進一步加劇了行業內部競爭。一份報告數據表明，2023年中國MCN機構的注冊公司數量已經超2.54萬家1。從長期來看，網紅經濟也重塑著整個社會的意識形態，網紅職業不再邊緣，而成為大眾特別是年輕人眼中的一份體面職業。例如有報告指出，網紅是54%的95后向往的新興職業2。

在網紅后備軍的壓力之外，收入壓力給職業網紅的創作再添一重焦慮。不可否認，部分頭部網紅數百萬乃至上千萬的粉絲體量令人咋舌，龐大的收益也使人瞠目，然而對于大多數全職網紅而言，工作與生活并不如想象那般輕松。特別是在收入方面，頭部效應明顯。專注于網絡創作者的公司鏈接樹（Linktree）對9500名參與者進行了一項調查，結果顯示只有12%的全職網絡創作者的年收入超過50000美元，而46%的創作者年收入不足1000美元3。艾媒咨詢統計結果顯示，2020年中國2.2%的頭部主播占據近80%的帶貨份額4。《中國網絡表演（直播與短視頻）行業發展報告（2022—2023）》也記錄了巨大的收入差距，在以直播為主要收入來源的主播中，月收入5000元以下的主播占比九成以上，月收入10萬元以上的頭部主播僅占0.4%5。由此，怎樣快速增加流量、提升收入成為網紅職業生涯需要考慮的關鍵事項。

（三）低成本創作與編造虛假信息

在日益加劇的群體內部競爭和每日海量數字內容不斷產出的網絡環境中，迅速獲得關注成為職業網紅個人發展的關鍵。特別是對于眾多尾部或新晉網紅而言，他們不僅要與同等水平的網紅競爭，還要與已經擁有大量粉絲和流量積累的頭部網紅爭奪大眾注意力。這也就導向了網紅們不同的行動策略。一種常見的策略是模仿熱門文案、視頻和直播的特點，同時在創作過程中依據粉絲需求調整或重塑個人風格。這種策略的創意投入成本和風險相對較低，但缺點是容易陷入同質化窠臼，導致粉絲審美疲勞6。另一種策略則是追求獨特、少見的形象或信息展示，這與早期網紅扮丑、演傻有一定相似性。這樣一種打造所謂“爆款”的思想，其極端表現就是編造各種類型的虛假信息。虛假信息的類型與形式多種多樣，包括惡意擺拍、捏造事實、編造新聞、放大矛盾等，但共同特點是利用戲劇化情節、過度夸張和情緒化等手段迅速吸引眼球，制造熱點。更為重要的是，編造虛假信息的難度和成本遠遠低于精心準備一個可能不會有什么流量推薦的文案或視頻，這對剛入行的新晉網紅尤其具有吸引力。

創作焦慮同樣困擾著頭部網紅。在數字內容膨脹且網紅數量不斷增加的情況下，頭部網紅如果不能持續產出受人關注的信息，粉絲和流量就有可能被其他頭部甚至新生力量搶走。創作者指南Passionfruit的總編輯德魯·格蘭特（Drew Grant）寫道，“網絡創作者可以在六個月內完成他們職業生涯的整個生命周期”，“內容的胃仍然需要喂養，沒有假期，如果你沒有按計劃制作新素材，你就是在拿你的整個生計進行賭博”1。特別是在當下全球經濟疲軟和大眾消費愈發謹慎的環境中，網紅后備軍的不斷增長讓產品及品牌方有了更多選擇，使其在規劃營銷費用時較網紅經濟剛開始興盛的那幾年更加審慎。這一變化透過廣告市場可以看出端倪：2022年中國互聯網廣告市場規模約為5088億元，較2021年下降6.38%，是自2017年連續增長五年后首次出現的負增長2。相較于那些需要投入大量資金、精力的高質量數字內容，虛假信息只要能做到抓人眼球，頭部網紅就可以利用自己的粉絲基礎實現快速傳播。因此，為了維持自身熱度、創造新的流量，一些頭部網紅也試圖以團隊力量編造更加完美、真實的虛假信息，企圖收割流量。

《資本論》中有一條特別著名的注釋：“一旦有適當的利潤，資本就膽大起來。如果有10%的利潤，它就保證到處被使用；有20%的利潤，它就活躍起來；有50%的利潤，它就鋌而走險；為了100%的利潤，它就敢踐踏一切人間法律；有300%的利潤，它就敢犯任何罪行，甚至冒絞首的危險。”3同樣，在網紅市場，按部就班實現一夜爆火的幾率實在太小，在接連不斷的流量獎勵、廣告費、營銷傭金的“潑天富貴”的誘惑下，編造傳播虛假信息便成為網紅吸引流量的選擇。尤其在許多國家缺乏針對網絡謠言、虛假信息的監管與懲戒手段的情況下，網紅的違法違規成本十分低廉4，而這往往要以社會公眾的利益為代價。

三、網紅傳播虛假信息的技術基礎

網紅顯然不是傳播虛假信息的唯一責任人，盡管他們可以自主生產數字內容，但內容發布卻離不開社交媒體等數字平臺。有研究發現，在社交媒體上假新聞不僅傳播速度比真實報道快10倍，影響范圍也更廣5。這提醒我們應關注以社交媒體為載體的數字技術在虛假信息擴散中的作用。

（一）流量為王：網紅受推薦算法的控制

網紅的創作導向不僅受利益驅動，很大程度上也由數字技術形塑。各大社交媒體平臺為了競爭用戶和流量，采用不同推薦算法精準地將數字內容推薦給目標用戶，從而增加用戶的停留時間和使用時長。這些推薦算法大致可以分為三種類型：一是定向型算法，它根據用戶標簽、興趣、關注對象以及日常使用習慣等，為用戶推薦最符合其喜好的內容。二是競逐型算法，它主要通過對比同類型、同題材內容點贊、轉發和搜索指數等數據指標，置頂或者將流量優先分發給更受用戶喜愛的內容。三是流量池型算法，這一算法類似于闖關升級。平臺首先會給每個作品分發少量流量，比如推薦給500名用戶，只有達到相應指標才能獲得下一階段更多的流量推薦，比如2000名用戶。否則，作品就會因喪失流量推薦而失去曝光機會，就此沉寂。衡量標準是綜合指標，包括完播率、點贊率、留言率、轉發率、收藏率和轉粉率等多項內容。要特別指出的是，定向型算法由于關聯愛好相近的群體，圈層擴展有限。網紅如果要突破圈層，擴大粉絲規模，就必須經過第二類和第三類算法推薦。

由此可見，社交媒體的算法掌握著網紅的流量命脈。網紅發布的數字內容能否獲得足夠關注，與是否滿足推薦算法的計數指標緊密相關。如果不能在短時間內引起注意，就得不到平臺的流量支持。有研究表明，相較主流媒體，經社交媒體算法篩選和推薦的內容更具有獵奇性1。南加州大學的一項研究同樣發現，經常發布和分享的用戶，尤其是發布聳人聽聞、引人注目的信息的用戶，更容易引起關注2。這一技術特點被網紅覺察后，反過來又強化了網紅求快、求異的創作導向。該導向的直接結果就是低質量內容的泛濫，以及網紅刻意捏造信息、激起是非。頭部網紅面臨著相似的創作邏輯，如果不能維持自己的熱度，流量就會轉向其他更有潛力的競爭者。于是，所有網紅都逃脫不了每日的算法審判：要么不斷創新內容，要么劍走偏鋒，編造虛假信息以博眼球。與此同時，網紅們的勞動過程也被算法規訓。一方面，為了維持流量，網紅必須長期自覺、主動地保持高頻度、高質量的內容更新。例如，曾有視頻創作者以“我像‘生產隊的驢’一樣拍視頻”來調侃自己的工作狀態3。另一方面，網紅們需要根據實時熱點調整內容，以迎合推薦算法的機制，確保自己不被潮流淘汰。

（二）審核失效：數字技術資本化的悖論

數字平臺不僅在內容篩選和推薦機制上具有偏向，其審核機制也存在缺陷。實際上，海量的數字內容在正式發布前都會經歷一個審核過程。那么，為什么許多虛假信息沒有在第一時間就被識別出來呢？如前文所述，爭奪注意力或者說爭奪用戶時間的競爭，不僅存在于網紅之間，也存在于各大社交媒體之間。哪一個平臺可以提供最及時、最有效、最有趣的內容，就能收獲更多的忠實用戶。而審核這一步驟既會延滯信息的發布時間，也會減少信息的發布量。一般來說，審核分為人工審核和算法審核，人工審核準確度高但速度較慢，主要用于重點群體、重點內容的篩查，以及可疑內容的復審。針對海量數字內容，平臺往往采用效率更高的算法評估與檢測。也就是說，審核算法在設計和應用時，都需要在審核速度和審核質量之間作出權衡。

平臺背后的數字資本面臨著私人利益與社會責任的兩難抉擇。為了賺取更多收益，必須持續即時推薦流量大、熱度高的信息，這就需要降低審核標準，縮短審核時間。如果進行多重、長時間驗證核對，就需要提高審核成本，還可能會限制信息熱度，壓減平臺流量進而影響利潤。數字技術資本化應用的矛盾由此體現出來。此外，即使是已經被確定為虛假信息的內容，平臺的處理速度也非常滯后。路透社新聞研究所關于冠狀病毒錯誤信息的研究表明，Twitter超過半數被評定為虛假信息的帖子仍然存在；YouTube上，這一比例為27%；Facebook上，24%含有錯誤信息的內容仍然可見，且沒有警告標簽4。毫無疑問，這并不能用技術不足來解釋，而是與平臺本身的經營戰略有關。數字技術促進了信息的傳播和分享，但是在這個過程中，技術的設計與應用會依據目標的不同而呈現很大差異。算法規則是優先滿足大眾需要，還是滿足平臺企業資本積累、攫取利潤的需要，往往取決于技術的所有權歸屬。

（三）人工智能技術難以杜絕虛假信息

最后，有必要回應的是技術改進能否解決網絡虛假信息泛濫的問題。當下，最受矚目的人工智能技術與虛假信息的關系廣受討論。一方認為，人工智能為虛假信息的生產和偽裝提供了便利，特別是生成式人工智能使虛假內容的創造更容易、更隱蔽，識別與監管也變得更加困難。2022年7月，美國蘭德公司發布報告《人工智能、深度偽造和虛假信息》，重點關注了深度偽造（deepfake）背后的人工智能技術，指出深度偽造的圖片、視頻、語音和文本將給公共安全等造成威脅1。另一種更為積極的觀點主要來自技術公司，他們認為可以著力研究和利用人工智能技術來識別、限制虛假信息。比如，歐洲科技公司Logically的數據科學研究負責人阿尼爾·班達卡威（Anil Bandhakavi）指出，更大規模的數據采集、更強大的學習能力和更具針對性的算法模型有助于判斷信息源的真實性2。

然而，我們必須認識到，人工智能技術本身也是一套算法，其運作也有邊界。盡管快速性、準確性都將得到大幅度提升，但在應對虛假信息的過程中，人工智能仍會面臨兩個問題。一是所有權問題。正如馬克思在分析機器與大工業時所說：“科學、巨大的自然力、社會的群眾性勞動都體現在機器體系中，并同機器體系一道構成‘主人’的權力。”3人工智能技術如果仍舊被科技公司、數字資本所壟斷，其算法設計和運行就仍要面對商業利益和公共利益的權衡取舍，繼續深陷利潤目標和社會責任的沖突。二是人工智能并不能解決虛假信息的生產問題。虛假信息泛濫的土壤是繁榮的互聯網經濟和以流量為導向的盈利機制，在這種模式下，逐利動機和激烈的市場競爭將繼續推動大量致力于擴大流量的個人和企業創制各種吸引眼球的內容。更何況，人工智能技術本身并不完美，其數據獲取、訓練過程和模型系統都存在人為操縱的風險，并不能保證識別和監測符合最多數人的利益4。因此，網絡虛假信息泛濫這一社會問題不能僅僅依賴于技術的升級，還需要引入外部的監督力量，動員用戶參與輿論環境的治理與維護，并在此基礎上不斷調整互聯網經濟的利益結構以使其滿足公共需要。

四、遏止虛假信息生產傳播的政策建議

網紅只是虛假信息生產傳播鏈條上的一環，其他諸如MCN公司、社交媒體和廣告商等也扮演著不可忽視的角色。因此，遏止虛假信息需要一套針對不同主體的綜合性治理方案。此外，鑒于數字技術資本化是虛假信息得以傳播的基本經濟條件，政策制定者須高度關注如何引導數字技術產業服務公共利益。

（一）完善懲戒機制，提高生產傳播虛假信息的個人及企業成本

虛假信息的傳播具有極大危害性，不僅可能引發社會恐慌，加劇人與人之間的不信任感，還可能給經濟社會的平穩發展造成潛在威脅。為了遏制虛假信息的生產及傳播，監管部門最直接的手段是嚴厲處罰編造傳播虛假信息的個人及企業，并設立黑名單制度，封禁其相關賬號，限制其從業權限，以此提升違法違規成本。與此同時，社交媒體等數字平臺也承擔著重要的監管責任。有關部門應制定處罰標準，對不能及時限制虛假信息傳播的平臺給予警告、罰款、停服整頓等不同程度的懲戒，督促平臺做好監管審核工作。近年來，我國已出臺一系列新規并多次開展集中整治行動，取得良好效果。例如，2023年7月，中央網信辦發布《關于加強“自媒體”管理的通知》，就明確要求加強信息真實性管理，對制作發布謠言，蹭炒社會熱點事件或矩陣式發布傳播違法和不良信息的自媒體進行嚴厲打擊，處罰手段包括但不限于關閉賬戶，納入平臺黑名單賬號數據庫并上報網信部門等1。執法部門也對編造傳播虛假信息以“造熱點”“蹭熱點”“帶節奏”的網紅大V，以及借機進行造謠引流牟利的“網絡水軍”團伙依法進行了嚴厲打擊，采取了包括針對性警示、禁言和封號等措施2。

（二）強化市場監管，督導數字企業提升技術治理水平

2018年，習近平總書記在全國網絡安全和信息化工作會議上強調，“要壓實互聯網企業的主體責任，決不能讓互聯網成為傳播有害信息、造謠生事的平臺”3。以社交媒體為代表的數字平臺企業負有審核信息的責任，落實這一責任除了要求調整經營戰略，還需督導企業進行技術改造。具體來說，改造方向至少包括以下幾點：一是優化推薦機制的評判標準，建立一套更為全面和科學的推薦機制，避免僅憑內容的熱度進行推薦，轉而更加注重信息質量和真實性。對于短時間內熱度快速上升的信息，平臺應進行針對性的審核和確認。二是加強監測和標識功能，及時標識真實性存疑或有偏差的信息。例如，我國陸續出臺的《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等針對合成圖片、視頻應該如何標識都作出了相應規定4。三是通過技術手段激勵用戶養成分享真實內容的習慣。例如，設立獎勵機制，表彰獎勵分享真實、有價值內容的用戶等。四是建立引入群眾監督和執法部門監管的技術渠道，允許用戶對可疑內容進行標記、舉報，并加強與執法部門的合作，及時處理違法違規行為。在此基礎上，平臺公司應聘用足夠的專業審核人員，加強對審核人員的培訓和教育，提高他們的專業素養和道德水平，并限制工作時長、保障福利待遇，以確保審核工作的質量和效率。

（三）節制數字資本，引導數字技術產業服務公共利益

數字技術為網紅經濟、共享經濟等新型經濟形態提供了條件，不僅給消費者帶來了更多選擇和便利，也為經濟循環注入了新動能。鑒于此，政府應當繼續鼓勵和支持數字技術的積極應用，進一步激發各類型數字經濟的潛力。然而，我們必須認識到，部分企業一度憑借壟斷地位和技術優勢無償占有大量數據，肆意攫取利潤、操縱市場。特別是社交媒體公司，通過復雜且帶有偏向性的推薦算法深刻影響著流量的分配和走向，為網紅“吸粉—引流—帶貨—變現”的盈利機制提供了基礎。這種流量至上的創作邏輯不僅污染了創作生態，還持續扭曲著社會價值觀。

對此，政府必須節制互聯網市場的資本力量。第一，規范網紅市場和網紅商業行為，明確紅線與底線，打擊任何以技術手段操縱流量市場的行為，限制資本對網紅的過度宣傳。第二，要求企業與網紅簽訂規范的勞動合同，完善收入分配機制和勞動保障，調節過高收入，保障基本收入，避免網紅陷入收入和流量焦慮。第三，政府應鼓勵和支持生產優質數字內容、積極傳播正能量的網紅。可以考慮由政府設立網紅品牌或認證機制，對符合要求的網紅給予資源支持，引導網紅為經濟循環健康發展、民族優秀文化傳播作出貢獻。第四，鑒于數字技術產業對數字基礎設施和用戶數據的高度依賴，政府應明確數據所有權，建立官方數據保存設施，制定數據使用規則，確保數據資源的公平分配和合理使用。這不僅有助于防止企業通過數據和算法壟斷獲取不正當利益，也有利于政府督促企業服務于公共利益。

五、結語

在2018年的全國網絡安全和信息化工作會議上，習近平總書記強調：“打贏網絡意識形態斗爭，必須提高網絡綜合治理能力，形成黨委領導、政府管理、企業履責、社會監督、網民自律等多主體參與，經濟、法律、技術等多種手段相結合的綜合治網格xbQiIWAPKUP/ufxCnKuEPhl9bscmEUOIcLv7bsMRMC4=局。”①這一重要論斷精準闡明了網絡空間治理涉及多個主體，需要從不同維度對癥施策的道理。網紅深嵌于市場競爭與數字平臺的技術結構之中，其生產傳播虛假信息的社會現象并非單純因為個體的素質低下或道德敗壞，還有其經濟原因和技術基礎。一方面，網紅扮演著網絡時代促進資本積累的重要角色，獲得包括工商業資本、數字資本在內的不同類型資本的青睞，巨大的收益和廣闊的職業前景不斷吸引著新的從業者，職業網紅群體的內部競爭持續加大，加劇了網紅的創作焦慮。于是，編造虛假信息這樣較低成本的引流手段成為一些尾部網紅的選擇，部分頂流網紅也試圖鋌而走險，收割更多流量。另一方面，現有的流量推薦和審核機制往往以平臺企業資本積累作為首要目標，為虛假信息的快速傳播和審核滯后提供了條件。而人工智能技術如果不能調整應用方向，同樣無法解決虛假信息的生產傳播難題。這也警示我們，數字技術并非理想化的完全中立，而是根據所有者的目標有所偏向。

就我國的經驗而言，有關部門針對虛假信息的監管和懲處力度在持續加大，企業也在按照國家監管要求進行技術調整，在遏制虛假信息的生產傳播上取得了突出成果。2023年11月，聯合國教科文組織公布了一項由134個國家廣泛磋商而成的社交媒體監管行動計劃，旨在將政府、監管機構、社會民間力量和平臺納入合作框架中，以遏制虛假信息和仇恨言論的傳播②。這一計劃表明當前各國都已經意識到要防止虛假信息的生產傳播，監管數字技術和社交媒體是重中之重。對于政策制定者和監管者而言，既要及時、有力地對編造傳播虛假信息的不法分子和行徑予以最堅決的處罰；也要警惕數字技術的過度資本化，以國家力量積極引導數字技術產業服務公共利益，為建設天朗氣清的網絡空間奠定良好的技術架構，為互聯網促進經濟社會長期健康發展、營造文明網絡生態提供堅實的制度保障。

責任編輯 倪子雯