生成式人工智能虛假信息治理的新挑戰及應對策略

摘要：生成式人工智能的基礎數據來源復雜，數據的真實性與合法性存在極大不確定性，由此出現的虛假信息在技術邏輯上具有必然性和無限復制性;在傳播規律上具有瞬時性和隱蔽性;在危害后果上具有復雜性和不可控性?，F有多中心協同論、二元治理結構論和層級治理論分別從不同的視角提出治理策略，但過于關注協同合作本身卻忽視了治理主體的協同能力和響應效率；過度依賴政府與市場的互補卻遮蔽了二者面臨新技術時容易懈怠的共性；盲目信任分層治理極易陷入技治主義的困境。對此，應轉向敏捷治理下以政府主導強化多元主體間的協同效能、提升治理結構的適應性、破除層級障礙的治理新思路。以虛假信息治理的法治化和技術化為基本方向，保持制度的原則性要求和技術工具價值的協同，實施虛假信息等級評估制度，構建治理主體高效協作機制、快捷響應機制和容錯糾錯機制，搭建生成式人工智能虛假信息敏捷治理新模式的基本框架。

關鍵詞：生成式人工智能；虛假信息；敏捷治理

中圖分類號：D920.0文獻標志碼：A文章編號：1007-9092（2024）04-0142-015

一、問題的提出

近日，Open AI公司發布的文生視頻大模型Sora極大地提升了文本與視頻之間的轉換效能，Meta的V-JEPA、谷歌Genie等產品亦在推測生成環境中積極探索生成式人工智能的多場景運用。而此前，ChatGPT也憑借強大的信息整合能力、自然語言處理能力和多模態交互能力，以前所未有的“人機互動”模式引發廣泛關注。

然而，無論是文生視頻大模型Sora還是人機對話的ChatGPT，都加劇了生成和傳播虛假信息的風險。首先，在技術邏輯上，生成式人工智能虛假信息具有必然性和無限復制性。ChatGPT通過深度自主學習、人類強化反饋和Transformer算法運作，被不斷解碼至完成最終運算，但“解碼-運算-調適”的技術機理本身略過了信息的真實性與可靠性，所以極易“主動”生成或“被動”訓練出虛假信息，并被無差別地保存、復制和利用。其次，在傳播規律上，生成式人工智能虛假信息具有瞬時性和隱蔽性。一旦有虛假信息納入基礎數據源，隨時可能被提取出來，而只要搭上算法的“快車”，就會在互動、轉發過程中放大、裂變，使其具有瞬間聚合與擴散的傳播能量，“污染數據”的使用與傳播幾乎同時完成。此外，在“技術性輸出”“計算式答案”外表下，生成式人工智能虛假信息自身已經不具備典型謠言的外在特征，輸出文本具有“唯一性”“權威性”，也具備很強的迷惑性。同時，借助算法的自動化、智能化，虛假信息能更快更智能地在網絡中流動，而算法“黑箱”的存在，使信息的流向與運用很難被追蹤與控制。最后，在危害后果上，生成式人工智能虛假信息具有復雜性和不可控性。因為數據高度融合的特點，生成式人工智能最終生成的虛假信息可能來自源數據庫、用戶端或算法，甚至上述幾種因素共同所致。因此，“多因一果”的復雜關系加劇了責任認定與司法救濟的難度。加上Sora、ChatGPT等人工智能技術支持文本、圖像、視頻的深度加工和轉化，“有圖有真相”“圖文并茂”或者以假亂真、半真半假，都會導致“偶然的事實、創造性的想象、情不自禁地信以為真”。若操縱生成式人工智能的內容生成，有目的地制造網絡熱點、挑動公眾情緒或歪曲歷史事實，甚至針對特定人群發布仇恨性言論或者煽動族群攻擊，就會形成新型“技術霸權”“計算宣傳”，將直接威脅公眾信任、社會穩定和國家安全。

為此，歐洲《人工智能法案》將“缺乏真實性”列為生成式人工智能的核心風險。同時，我國《生成式人工智能服務管理暫行辦法》也規定“不得生成虛假有害信息”。針對生成式人工智能虛假信息的治理問題，學界從不同角度進行了廣泛討論：從治理機制角度提出多元共治、協同治理；從主體角度強調政府要加強與技術研發者的合作、強化平臺治理；從法律規制角度提出建構特定算法誹謗制度或軟硬法兼施的復合型AI信息治理框架；從治理思路角度提出要以產業鏈為視角進行類型化治理?？傮w來看，傳統理論框架無法高效快捷地應對生成式人工智能虛假信息的海量生成和快速傳播。

技術進步對治理創新的速度提出了更高的要求，兩者的時間差凸顯了敏捷治理的必要性。2001年8月，《敏捷宣言》的發布使敏捷的概念在不同學科領域得到廣泛關注和研究。敏捷治理最初在軟件開發領域，繼而在企業管理領域得到應用，并逐漸拓展至公共管理領域。2018年，世界經濟論壇提出了敏捷治理（Agile Governance）的概念，著重思考第四次工業革命中的政策制定問題，它意味著是“一套具有柔韌性、流動性、靈活性或適應性的行動或方法，是一種自適應、以人為本，以及具有包容性和可持續的決策過程”。2019年6月，我國《新一代人工智能治理原則——發展負責任的人工智能》已將敏捷治理作為八項原則之一。2023年，國家網信辦在《全球人工智能治理倡議》中明確指出要實施敏捷治理。作為人工智能治理的重要組成部分，生成式人工智能虛假信息的治理自然也應是敏捷治理的題中之義。因此，厘清生成式人工智能虛假信息所帶來的治理困境、探討敏捷治理框架下生成式人工智能虛假信息治理尤有必要。

二、生成式人工智能對現有虛假信息治理理論的挑戰

面對生成式人工智能虛假信息的治理問題，中央及地方立法都給予了積極回應，形成了多方協同共治、強化政府及市場行為和類型化治理等代表性主張。在國家層面，2022年3月施行的《互聯網信息服務算法推薦管理規定》明確了網信、電信、公安及市場監管部門的共同治理責任和服務提供者的信息發布審核義務，要求建立識別虛假信息特征庫并針對違法及不良信息進行類型化處置。此后，《互聯網信息服務深度合成管理規定》進一步要求服務提供者建立健全辟謠機制，強化其訓練數據管理義務和特定標識義務。而《生成式人工智能服務管理暫行辦法》將數據管理責任往前延伸至技術研發、預訓練階段，同時提出要根據服務應用情況進行分類分級監管。在地方實踐，2020年《天津市網絡虛假信息治理若干規定》要求建立網絡虛假信息綜合治理體系，并通過信息共享、會商通報、聯合執法、案件督辦、謠言處置等方式開展協同治理。2021年9月，《浙江省人民代表大會常務委員會關于網絡虛假信息治理的決定》明確多主體間協同治理的原則，強調建立跨部門、跨區域執法聯動響應和協作機制，實現了各區域和各部門間的信息共享、監管互認和執法互助。上述立法所作的積極探索極大地推動了生成式人工智能虛假信息的治理效能，但由于其治理理念受限于傳統治理框架，因此未能真正解決生成式人工智能深刻變革所帶來的諸多問題。

（一） 多中心協同治理理論面臨協同困難的挑戰

“多中心”最初由Michael Bollany提出，它強調在遵循法律的前提下，保持人與人之間的獨立、平等，由此達成一種合作、協調的關系。20世紀70年代，美國奧斯特羅姆夫婦將其發展為多中心治理理論，強調由多個主體共同參與，特別是在政府與市場之外，以自主組織為中心進行公共事務管理。面對各參與主體間的關系，赫爾曼·哈肯主張“協調合作”，認為協同中“序參數”可以通過伺服原理和自組織原理發生集體行為和自組織行為。以互聯網技術為基礎的虛假信息復雜多變，對其治理往往涉及國家利益、社會公共利益、企業平臺利益和個人合法權益間的沖突與協調，以多中心理論與協同學統合形成的多中心協同治理模式成為虛假信息治理的重要選擇。在此模式中，具有治理職責的政府、平臺企業、社會組織和網民為主的社會公眾均為獨立且又相互關聯的“中心”，各“中心”獨自發揮優勢，各自保持著作為子系統的良性循環，彼此之間達成平等與協作，是一種多元主體的平等合作關系。在協同治理格局內部，主體構成、動力機制、支撐機制、合作機制等內部要素與文化、組織、制度、權力等外部要素相互建構與內化，既保持各“中心”的完整性，又要求相互間的協同性。進入數字社會，虛假信息的技術性特征日趨明顯，傳統自上而下的中心化辟謠模式轉向以互聯網平臺企業為關鍵責任主體的非中心化、人機協同治理新范式，這一范式順應了人工智能時代治理環境技術化、智能化發展的趨勢。

新一代生成式人工智能持續改變現有社會信息資源的供給與秩序。從AIGC事故分析看，虛假信息呈現客體多元性、范圍廣泛性和潛在危害復雜未知性的特點，技術運用所觸發的深度偽造、信息倫理等問題，使得任何傳統單一行動主體的資源與能力都無法應對，需要政府、社會組織、平臺企業、社會公眾等多個利益相關者密切快速配合，強化互聯網把關人和媒體的作用，積極落實平臺的法律責任。此時，傳統協同治理主體作為“中心”的完整性和獨立性需要不斷被打破，協同性需要進一步提升。但現有多中心協同論以“平等”“協同”“合作”為主要特征，在治理快速生成、瞬時傳播的人工智能虛假信息時，容易出現“協同遲緩”“協同真空”“協同僵化”等問題。首先，因響應不能導致協同遲緩。多中心協同論強調協同主體的廣泛性，對生成式人工智能的快速協同能力與反應力重視不夠，從而導致各協同主體無法迅速作出響應。其次，因協同機制不暢導致協同真空。目前各主體協同的具體內涵與實現路徑不夠明確，難以發現隱蔽在數據預訓練、人工微調、強化學習甚至人機互動等各階段的虛假信息；加上現有治理規則清晰度不足，協同主體依然遵循傳統治理體系中的分工原則各司其職，難以避免協同真空。最后，關系調適欠佳導致協同僵化。在多中心協同論中，政府、社會組織、平臺企業和社會公眾之間的協作機制尚未完全體系化、規范化，彼此間關系未能完全理順，加上現有治理以后置式、彌補式為主，而多元異質的協同主體所處地位與資源迥異，因此無法真正有效實現協調合作。

（二）二元治理結構論面臨“雙重失靈”的可能

20世紀90年代，治理理論得到進一步發展。羅西瑙認為，治理既包括政府機制，也包含非正式、非政府的機制。隨著治理范圍的擴大，各類人群或組織得以借助這些機制滿足各自利益需求。一直以來，互聯網被認為具有自凈功能，即無需外力干涉也會在一定范圍內自行“消化”網絡謠言。因此，在互聯網空間規制特別是網絡虛假信息治理問題上，學界對更多地采用政府規制還是以市場調節為主進行治理存有分歧。

二元治理結構論主張政府規制和市場機制是治理體系中的兩種手段，代表著兩種不同的價值取向，二者共同構成了虛假信息治理結構。一方面，實施政府規制具有正當性。憲法的明確授權構成了政府規制的合法性基礎；同時，網絡自律能力不足、公共產品外部性以及信息不對稱成為政府對網絡媒體實施管制的必要前提，并且仍然需要進一步明晰規制手段與內容，以此來強化管控效果。從現實層面看，正是“互聯網市場機制失靈所無法解決的互聯網安全、網絡隱私受侵害等嚴峻問題使得政府的適度規制變得越來越有必要”。從具體策略看，政府規制依然以傳統虛假信息治理中的法律規制合理化、政府信息公開化、平臺責任明確化等作為主要內容。另一方面，發揮市場機制具有合理性。因為政府規制往往存在反應遲緩、敏捷度不足或者辟謠措施不到位的問題，所以，單靠政府的宏觀調控和組織協調，遠遠不能達到理想的治理效果，必須加強公眾和其他社會組織的參與力量。而且，為避免剛性過度的政府規制壓制新興行業的活力，也應當更多地通過市場的自我調節，達到理想的治理效果。更有甚者認為隨著平臺經濟異軍突起，網絡平臺作用日益突出，所以強調要以網絡平臺規制為主，輔之以行政機關的外部管制、獨立第三方機構的核查以及網絡用戶的自我規制，實行事中和事后監督為主的“經銷商式”網絡平臺規制模式。上述觀點表明，現有二元治理結構論主要包含了政府規制與市場機制兩種手段，或以政府規制為主推進虛假信息治理，或以市場機制為基礎進行自我調整，但都沒有絕對排斥對方的存在，而是將政府規制的“有形”控制和市場機制的“無形”自律有機結合，形成政府與市場共同參與的二元治理結構。該治理結構倚靠政府資源集中、權力集約和行動統一的優勢，同時發揮市場機制技術占優、靈活可變的長處，在面對傳統虛假信息治理時呈現出良好治理效果。

然而，面對生成迅速、傳播隱蔽、危害難以控制的生成式人工智能虛假信息的治理問題，政府規制與市場機制出現“雙失靈”的情況。首先，受科層制結構的影響，政府的治理理念和治理手段更新慢，技術水平相對落后，規制的壓力性和被動性特征明顯。這種被動式規制，與生成式人工智能虛假信息的“主動”生成、快速蔓延形成巨大反差。如果一味強調政府規制，當相應的技術不能正常供給時，監管的有效性、治理的能動性均不能得到保證。另外，在網絡化、平臺化、市場化趨勢下，政府規制和市場機制的界限變得模糊，出于主動避責考慮，政府規制變得更為被動。其次，面對新一代人工智能技術，信息的虛假與否并不是市場機制首要考量的因素，在私利的催化下，市場無暇優先顧及公共利益。而技術的工具屬性會使其忽略價值功能，片面追求技術自身的革新與應用。但事實上，技術遠非簡單的工具，它已成為促進社會發展的生產力要素，也是重塑社會生產關系的重要因素，“現代國家內部權力結構或將由于人工智能而重構，資本與技術將會合謀為超級權力”。面對這種超級權力，市場本身缺乏主動進行“自我約束”的動力，一旦賦權平臺進行治理，容易出現公權私利化傾向。簡言之，政府規制和市場機制構成的二元治理結構無法適應復雜易變的生成式人工智能虛假信息治理需求。

（三） 層級治理論面臨信息跨層流動而失效

不同于多中心協同論和二元治理結構論，層級治理論以技術的可分性為前提展開。在技術上，互聯網具有三層結構：以網絡、設備為主體的物理層，以協議、標準為主體的邏輯層，以及以內容、服務為主體的應用層進入人工智能時代，技術應用出現新的趨勢，生成式人工智能未來可能成為社會的新型基礎設施，通過開放應用程序接口的方式逐漸成為產業鏈中的基礎底座，并獲得較之以往更加中心化的社會權力。針對生成式人工智能的應用前景，形成了三種不同的分層治理思路：簡單化區分技術研發者和提供者并重點規制技術提供者的“簡易分層”，差異化配置技術研發者和提供者義務的“弱分層”以及精細化設置多個層面技術研發者和提供者責任的“強分層”。在強分層治理思路下，風險控制義務區別配置、重心后移，若基礎模型層僅對商家提供技術服務，則只承擔最基本信息內容的安全義務，由下游服務層承擔主要風險控制義務和作為內容生產者的責任，技術支持服務和內容生成服務需進行有效分割。同樣地，在“基礎模型-專業模型-服務應用”分層業態下，因為基礎模型層和專業模型層與現有“內容生成者”規制目的關聯性不強，為減輕其相關注意義務，應配以不同的規制思路與工具，支持企業將面向用戶的傳播信息內容切割出來單獨承擔責任。所以，應當建立基礎模型層構建公共性發展為導向的制度、專業模型層以分級分類為目標關注重點場景、服務應用層關注信息內容安全等權益的分層治理體系。

作為新近出現的生成式人工智能治理思路，層級治理論立足于技術應用分層的現實，嘗試運用差異化的價值導向和治理手段，使技術治理對象更具象化、精準化，特別是在治理策略上區分內容生成與技術服務，以盡可能減輕生成式人工智能作為基礎模型與專業模型時對于信息內容的注意責任。然而，單純以推動技術創新應用發展的分層治理思路并不能完全適用于生成內容分層治理的邏輯，從技術應用分層到內容治理分層的演進仍需進一步認證。而且按照分層治理思維，針對不同層級的技術應用，其治理對象、治理目標及治理流程相對固化，不同層級之間的治理將相互割裂、不能貫通，分層思維所要建立的是堅實但靜態的模型，這通常不適合處理需要快速響應的復雜狀況。事實上，在應用程序接口模式下，信息內容風險或者虛假信息生成既可能來自基礎模型層，也可能來自于后續的專業模型層或服務應用層，生成式人工智能作為一個內部相互勾連的整體，所生成的虛假信息并不會止步于某一個技術應用階段，而是穿梭在不同的層級之間，因此，人為地進行基于內容的分層治理明顯具有理想化傾向。另外，由于生成式人工智能多種應用業態的存在，按照層級治理論，同一治理對象由于處于不同層級存在適用多種不同治理策略的可能，比如針對同時提供基礎模型和服務應用，應適用何種治理策略會變得難以選擇，加上不同層級之間的治理相互關聯、相互影響，彼此割裂的治理策略容易導致整個治理流程被中斷，從而出現治理流程的阻滯。

三、敏捷治理——生成式人工智能虛假信息治理的新模式

隨著生成式人工智能技術的進一步應用，對其產生的虛假信息治理需要摒棄傳統治理理念下的“被動式治理”“外包式監管”“分散式治理”，轉向以敏捷治理為導向的新治理模式。

作為一種處理問題的策略，敏捷一開始出現在制造業領域，強調企業需快速自我調整，以應對急劇變化的市場。后來，這種敏捷思維被應用于軟件開發領域，《敏捷宣言》就是針對傳統瀑布軟件開發的弊端而提出的軟件開發方法。繼而，受敏捷軟件開發方法啟發，被進一步應用于敏捷項目管理和敏捷采購，美國聯邦政府在2012年明確采用了敏捷政府方法。由此，敏捷治理逐漸進入公共管理領域。Mergel將敏捷的概念與響應能力、韌性、適應性相結合，把敏捷視為嵌入正式結構的一套新的程序和過程，一種組織文化和協作的方法，從而重塑政府、公共管理和整體治理。此后，為進一步提高政府效率，大規模敏捷方法被應用于各種業務并協調所有業務單元，來適應外部動態環境的變化，從而獲取高額績效和競爭力。

國內學者關于敏捷治理最初的研究集中在新興產業發展與監管模式領域。后來逐漸擴展至數字政府全領域，既包括超大城市治理、鄉村治理、智慧社區治理等綜合領域，也包括共享經濟、藥品網絡交易、生態環境、科技倫理等細分領域。對生成式人工智能的高度關注加強了學界對敏捷治理的思考，有學者認為敏捷治理是人工智能治理的新模式，并進一步提出要以全面性治理格局、適應性治理機制與靈活性治理工具來實現治理范式革新。也有學者認為敏捷治理模式具有適應性、柔韌性和包容性的特質，并主張采用“預防與應對并重”“多元合作互動”“技術疊加法律”的治理模式。不難發現，目前學界普遍認為回應性、適應性、靈活性是敏捷治理的重要特征，但如果僅以此來歸納敏捷治理，仍不夠準確。換言之，“敏捷”有余，而何為“敏捷治理”的特性體現得還不夠充分。相對于傳統治理，敏捷治理對組織、效率、韌性都提出了更高的要求。這些要求必須從以下三方面進一步強化，才能凸顯其作為治理模式的特性。

首先，政府主導是敏捷治理的組織特性。新技術發展帶來的“去中心化”，讓以往等級結構分明的治理組織形式轉變為以信息技術為媒介的主體互動形式，這一轉變進一步促使治理主體地位平等化、權力均等化。當治理權力趨于平等且缺乏控制時，握有不同資源與立場的治理主體便很難迅速統一行動，因此技術創新背景下政府部門與其他治理主體之間如何進行決策權的平衡成為實現治理目標的關鍵要素。因為決策權的共享程度極大地影響著治理的效率，敏捷治理強調要在政府和非政府行為者之間保持決策權的極化，即僅在一方保持決策權。在生成式人工智能虛假信息治理領域，治理效率是首要問題，同時又事關意識形態風險防范，因此應且僅應由政府來主導。同時，明確的政府導向和有效的高層管理支持是提升組織敏捷性的重要因素，為創造更大的公共價值和提高治理的敏捷性，必須以強有力的政治領導推動敏捷治理的關鍵流程。具體體現為，當多主體共同參與生成式人工智能虛假信息治理時，政府需要主動式、前置式協調來自社會各個層面和不同部門的參與資源，有效地組織工作和信息交換，以消解“去中心化”帶來的權力泛化、決策困難和合作懈怠。研究發現，即使是注重市場治理手段的歐美學者也認為，在敏捷治理中“由強有力的政治領導力驅動的分析文化對于創造更大的公共價值至關重要”。另外，敏捷治理還需要在政府各個關聯領域共同實施，因此，政府主導還體現為由政府的高層領導在所屬政府的不同領域推廣敏捷方法。

其次，組織彈性是敏捷治理的結構特性。技術快速迭代帶來治理的復雜性需求，也進一步凸顯了習慣于穩定和問責價值觀的傳統治理模式的局限性，為此需要調整政策、立法、制度甚至內部結構以應對新的變化。敏捷性是指組織靈活并快速適應不斷變化需求的能力，旨在改變組織文化和協作方法，以實現更高水平的適應性。本質上追求靈巧的敏捷治理主張以高適配性回應不確定性，通過將不同的規則和要素彼此形塑、援引，進而形成組織結構的優化，總體上提升應對環境挑戰的適應能力。基于生成式人工智能虛假信息存在的必然性、隱蔽性和不可控性，這種適應能力既包括治理結構所應具備的調適與自我恢復能力，也包括因追求快速應對不確定風險而出現錯誤時的自我糾錯能力。作為治理結構的自我調適能力，在面對復雜而不確定的問題時，需要吸納更多的資源進行結構調適并及時作出回應。在基礎策略上，需要創新人力資源政策，如美國的總統創新研究員項目招募IT人才進行“職責之旅”，其意在激勵人們短暫地為國家服務，特別是向聯邦政府注入來自私營部門的技能和實踐，在組織內部結構上實現傳統政府治理與市場技術治理的有機融合。在自我糾錯能力上，組織彈性體現為以學習和控制為核心。一方面，因為新技術帶來的社會發展、技術更迭和行為嬗變迫使在治理結構內部注重邊學邊做、動態調整、容錯糾錯，讓各類主體從錯誤中迅速汲取智慧并加以改進，提高整體適應性；另一方面，作為治理結構本身需要保持一定的穩定性，通過定期反思如何變得更加高效，然后相應地調整其行為，從而實現穩定性與適應性的平衡。

最后，穿透式治理是敏捷治理的流程特性?！靶庐a品管理”的敏捷方法專注于短周期開發以及每個階段與客戶的徹底合作，這一方法與傳統瀑布式軟件開發中后一順序嚴格遵循前一順序的原則截然不同，其主張可跨越的“橄欖球”式治理流程，即“一個團隊作為一個整體，來回傳球，走完全程”。于是，程序化、層級式、固定化的傳統流程被改變。由于生成式人工智能虛假信息存在反復被提取、復制和利用的情況，對其進行敏捷治理，需以敏銳感知為前提快速逼近治理目標。這種穿透式治理流程以追求最終目的為基礎，不再遵循固有的標準操作流程，所有治理主體都以阻斷虛假信息生成和傳播為目的而采取治理行動。因此，傳統不同層級和固有的信息煙囪不斷被超越，治理各方對于治理的共同責任不斷強化，彼此間更容易保持密切的溝通，形成集中統一的治理整體。穿透式治理在橫向上能彌合不同職能、不同資源、不同功能主體之間的差異，相互間能夠靈活組合、快速響應；在縱向上，能破除不同層面的權力設置、響應能力、資源力量的屏障，集中優勢形成整體性治理。

四、敏捷治理新模式的實現路徑

對生成式人工智能虛假信息的治理本質上仍屬于對技術的規制，“靈敏感知—高效協作—快捷響應”的敏捷治理新模式需要匯聚制度價值、技術理性和政策效能的共同作用，以治理的法治化和技術化為基本方向，保持制度的原則性要求和技術工具價值的協同，以實現新治理模式的靈活性與適應性。

（一）靈敏感知：建立虛假信息等級評估制度

對生成式人工智能虛假信息的靈敏感知、有效辨識和等級評估是進行敏捷治理的前提。

一是建立虛假信息的靈敏感知制度。結合生成式人工智能虛假信息的生成機理可以發現，數據、文本質量難以控制，人工標注夾帶算法偏見，技術固有的倫理風險以及人機互動機制中的偏差等多種因素與虛假信息的出現息息相關。在歐洲，2018年9月，主要線上平臺、媒體巨頭、廣告主和經營者代表聯合發布《反虛假信息行為準則》，提出要有更廣泛參與及合作的快速警報系統，同時建立歐洲數字媒體觀察站，加強對虛假信息的監控和感知。為有效發現與搜集生成式人工智能虛假信息，一方面，在生成式人工智能系統內部通過深入運行機制，在模型研發、訓練運行、內容生成等各階段，根據可能存在的缺陷和漏洞，確定虛假信息感知的重要節點，建立虛假信息的感知模型嵌入系統。另一方面，在生成式人工智能系統外部，以其行業生態鏈為方向，選擇各類專業應用作為虛假信息的“哨點”，一旦出現虛假信息，以最快的速度、最廣的范圍使虛假信息能夠在第一時間被捕捉到。

二是建立虛假信息的等級評估制度。目前我國《互聯網信息服務算法推薦管理規定》第27條、《互聯網信息服務深度合成管理規定》第20條和《生成式人工智能服務管理暫行辦法》第17條均要求具有輿論屬性或者社會動員能力的技術服務應當開展安全評估。根據要求，安全評估的內容主要包括信息服務的合法性、安全措施和防控風險的有效性三個方面。從根本上看，該安全評估制度屬于信息服務合規審查及安全風險保障能力的評估。為精準有效治理虛假信息，還應當建立虛假信息的等級評估制度。2023年，歐洲議會的《人工智能法案》根據人工智能產品的風險程度，分成不可接受的風險、高風險、有限風險和最低風險四個等級，同時要求風險較高的參與主體的運作程序更加透明、使用數據更加準確。對照刑法規制的網絡言論型犯罪，以可能侵犯國家法益、社會法益或個人法益，區分為煽動宣揚型、編造傳播型和侮辱誹謗型三種類型，相應地，虛假信息也應根據侵犯利益的嚴重程度，區分為高等級、中等級和低等級。高等級虛假信息侵犯最高等級的國家利益，比如涉及煽動民族仇恨、社會意識形態領域的虛假信息，應當給予優先快速處理。中等級虛假信息為涉及社會利益，如涉及公共安全、社會環境和社會經濟方面危害的虛假信息。低等級虛假信息僅涉及個人利益層面，如個人虛假信息使用或惡意使用。

三是建立特殊虛假信息的評估制度。目前《互聯網信息服務深度合成管理規定》第15條明確提出，當涉及人臉、人聲等生物識別信息，或可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的，應當依法自行或者委托專業機構開展安全評估。這一規定強調針對特殊信息運用需開展安全評估的法定義務，但沒有完全擺脫“自我定義”安全評估的局限。參照2021年《關于加強互聯網信息服務算法綜合治理的指導意見》，組建包括技術研發者、服務提供者、行業組織、技術專家在內的專業技術評估隊伍，以行業組織和技術力量為主體開展具體的評估工作，應將此類涉及特殊信息運用的評估方式改為聯合評估、行業評估或者獨立的第三方評估。另外，需建立合成數據類虛假信息的評估規則。未來對數據、算法的治理將躍升至對基礎模型、專業模型的規制，在現有數據完全納入基礎模型之后，合成數據使用也變得越來越頻繁。因其會夾雜原始數據、中間數據和最終數據，數據的運用過程一旦被拉長，產生虛假信息、不實信息的可能性也將進一步加大。因此，需要有針對性地對合成數據所致虛假信息的機制、過程以及風險作出單獨的評估。

（二）高效協同：建立政府主導的協作機制

敏捷治理強調突破既定框架的限制，克服部門之間的數據壁壘，實現跨部門機構之間的信任和互惠。在我國《生成式人工智能服務管理暫行辦法》第5條第2款和第16條第1款針對性地規定了各相關主體、行政機關及組織加強協作、依法履職的要求。目前，根據國務院《互聯網信息服務管理辦法》第20條規定，公安機關、國家安全機關是進行謠言相關行政處罰的主責部門。2014年《國務院關于授權國家互聯網信息辦公室負責互聯網信息內容管理工作的通知》明確規定由國家網信辦負責互聯網信息內容的監督、管理與執法。針對生成合成類算法推薦服務，《互聯網信息服務算法推薦管理規定》第3條提出由國家網信部門統籌協調，電信、公安、市場監管等有關部門參與。隨著網絡社會發展和機構改革的推進，中央網絡安全和信息化委員會辦公室、國家數據局也對網絡安全及信息數據資源的管理負有一定責任。2018年4月，習近平總書記在全國網絡安全和信息化工作會議上強調，要提高網絡綜合治理能力，形成黨委領導、政府管理、企業履責、社會監督、網民自律等多主體參與，經濟、法律、技術等多種手段相結合的綜合治網格局。為此，首先必須以技術支撐打破“協同遲緩”。針對治理主體協同不能，要在生成式人工智能數據來源核查、信息評估預警、謠言監管監測、快速響應處置等環節對關鍵技術和算法邏輯進行梳理，開發針對性的內容審核、檢測跟蹤、糾正處置等應用模型，建立以政府為主導的協同算法來打通協作通道，用技術驅動合作，提升協同效率，實現高效協同。其次要以風險溝通填補“協同真空”。生成式人工智能虛假信息產生的風險本身具有極大不確定性和各種可能性，治理規則清晰度的不足進一步助推風險的復雜程度。“從風險的發展態勢來看，風險的傳遞和運動經常是潛在的、內在的，在不知不覺中風險已經悄悄逼近?！边@就需要各治理主體運用各自不同的資源，保持適度的開放性和風險溝通的有效性，通過對風險溝通的參與合作、反饋評估，進行良性的雙向互動。同時，在各治理主體內部，建立類似人工智能專員，負責溝通存在的相應風險，明確風險種類、內容和可能導致的后果并采取防范性措施。最后，以信息共享化解“協同僵化”?！霸谡c非政府行動者之間建立決策、參與和問責的共享流程”是敏捷治理的路徑之一，這也要求不同的治理主體能突破固有利益藩籬，建立信息的快速共享機制，通過共享調適不同主體間的利益關系。具體而言，應在政府部門內部建立職能部門聯動機制，對外構建以政府組織為主體，技術開發者、技術服務提供者、社會組織、行業協會、網絡媒體、社會公眾等多層次利益主體參與的定期信息共享機制，以提升治理的協調性和時效性。

（三）快捷響應：精準應對不同階段的虛假信息

敏捷治理不僅要求加快治理的應對速度，更需重置具體的處置流程，提高處置機制的靈活性和有效性。相比傳統媒介，生成式人工智能虛假信息生成、傳播周期都將變短，信息傳播的萌芽期、擴散期、消退期的時間節點變得模糊。在大語言模型和算法的支持下，智能化、精準化信息分發模式實現了傳播對象的選擇、固定和分化，使傳播路徑更隱蔽、更具破壞力。因此，針對生成式人工智能虛假信息的治理，不僅要“快”，而且要“準”。目前，針對虛假信息的治理措施除已有行政規制、刑事處罰外，《互聯網信息服務算法推薦管理規定》第9條規定，發現違法信息的，算法推薦服務提供者須采取立即停止傳輸、消除等處置措施；《互聯網信息服務深度合成管理規定》第10條要求深度合成服務提供者以“技術或人工”的方式審核輸入數據和合成結果，并可對使用者采取警示、限制功能、暫停服務、關閉賬號等措施；另外，《生成式人工智能服務管理暫行辦法》第14條規定，提供者在發現違法內容后要及時采取停止生成、停止傳輸、消除等處置措施，并對模型進行優化訓練?？梢钥闯?，現有規定多以技術服務者的后置行為、彌補措施作為治理手段，尚不足以覆蓋生成式人工智能虛假信息治理的全周期。在敏捷治理理念下，應按照靈活快速的原則，在不同階段設置不同的處置主體和處置手段，實施“盡早介入-精準處置-有效反制”的全鏈條式治理策略。一是盡早介入。通過治理主體的積極干預，提前嵌入信息感知與檢測模型，針對發現的可能生成虛假信息的內容，及時要求技術開發者修正、刪除，技術開發者應將模型優化訓練后再投入應用，實現治理從“外部控制”到“內部疏導”。二是精準處置。結合定期審核、評估、驗證生成式人工智能的機制機理以及虛假信息等級評估制度，及時發現需要處理的風險因素，準確識別不同等級風險。高等級和中等級虛假信息按照“誰發現、誰處理”的原則，立即實施停止生成、停止傳輸、限制傳播、有效消除等措施，盡可能防止危害的進一步擴大。對于低等級虛假信息可以按照常規治理流程進行處理。三是有效反制。針對已經生成并進入傳播的虛假信息，通過附加標注、暫停服務等處置措施降低進一步傳播的可能性，并且運用算法進行反制，借助技術反饋機制進行辟謠信息的精準推送。

（四）彈性容錯：建立柔性容錯糾錯機制

面對科技的迅速發展，敏捷治理主體需及時響應、盡快決策，而現有行政管理機制和科層制又難以容納不確定后果的行政決策，這種結構性張力會貫穿于治理的全過程。為消解這種結構性張力，首先要建立容錯文化。作為保護和激勵改革創新的重要舉措，容錯就是要容納更快更積極的態度處理不確定事項帶來的消極后果，對此進行特殊的責任減免。與傳統事后規范性治理不同，生成式人工智能虛假信息治理必須是更迅捷、更主動的治理，甚至是前置式的預測性治理，而更快的決策也意味著出現更多錯誤的可能性。從一定意義上說，治理的能動性是以“人”的能動性為基礎的，也容易因為“人”的判斷出現偏差，因此必須要放棄傳統的零失敗文化，建立適應鼓勵與規制新技術發展的容錯文化。其次，確定容錯空間。當前，我國《生成式人工智能服務管理暫行辦法》已將包容審慎納入監管框架，但尚未列明容錯情形、容錯條件和容錯結果。敏捷治理要動態關注技術發展過程，通過低成本的試錯，在不斷優化中實現漸進而快速的治理，因此，需要構建技術容錯和行為容錯為主體的雙層容錯機制。技術容錯是指因為生成式人工智能本身還存有懸而未決的技術空間，需要逐漸強化技術的“清晰度”“可問責性”，故應允許技術研發者、技術服務提供者采取可彌補、可補救的技術治理手段。對此，應保持較高彈性的容錯空間。行為容錯需要區分基于治理規則的盡責行為和試探性行為，如果是現有治理規則已明確的內容，則應排除在容錯范圍之外。只有通過勤勉盡責、積極推動治理規則尚未明確的事項或因注重治理的敏捷性所致的行為差錯，才能適度納入容錯范疇。最后，建立柔性糾錯機制。通過試錯、糾錯并持續地改進是敏捷治理追求的目標之一。在政府治理角度，可以綜合運用檢查會商、研討交流、聯合聲明等柔性方式彌補傳統治理手段的不足。在技術研發者角度，可以立即采取模型暫停服務、離線修復、加注標識、緊急聲明等應急補救措施，在最小范圍內防止損害繼續擴大，并及時告知社會公眾、用戶和監管部門。

五、結語

當一項新技術出現，相伴而生的必然是技術的各種弊端和不良反應，而謀求技術創新與安全發展之間的平衡是治理模式的重要命題。以ChatGPT為代表的智能傳播將帶來人類信息傳播范式的根本轉變，也意味著舊有治理范式的失效和闕失。技術發展不會阻礙社會進步，反而促使人們更為積極地去尋找社會發展的動力和規律。生成式人工智能帶來的新一輪技術革命及其溢出效應一方面體現為人工智能技術提速，另一方面是不斷催促治理模式的升級迭代。敏捷治理新模式需要在不斷探求虛假信息識別技術、解碼通用模型的底層算法邏輯基礎上，構建更為靈敏、高效和具有較強適應性的治理機制，并以價值理性為引導推動技術向強向善。

（責任編輯：蘇騰飛）