人工智能時代虛假新聞的防范與應對

虛假新聞是指制造者故意向受眾提供不實新聞內容，來迷惑或操縱受眾，并能夠通過其他來源證實其結果為假的信息。當前，借助互聯網技術尤其是人工智能，虛假新聞生產及傳播呈現出復雜化、大規模、隱蔽化等趨勢，嚴重損害了新聞真實性，引發一系列全球范圍的輿論治理危機。因此，亟須厘清人工智能對虛假新聞的影響機理，并作出有效應對。

警惕虛假新聞在人工智能助力下的進展變化

當前，人工智能技術已不同程度介入新聞傳播之中。仔細觀察人工智能技術的這些應用，不難發現，其不僅可以編造虛假信息，而且內容逼真、形式多樣，生成速度快、制作門檻低，引發的風險較大。

在現實中，人工智能給虛假新聞的生產、制作、傳播提供了多方助力，表現為：一方面，利用ChatGPT等人工智能工具生產新聞的門檻低，大大降低了造假成本；另一方面，人工智能生成新聞的迷惑性強，以“深度偽造”為代表的技術能夠對圖像、聲音、視頻等進行篡改和偽造，產生高度逼真的信息，加上社交媒體機器人等充當“網絡水軍”，對虛假新聞進行評論、轉發，冒充新聞機構或知情人引起話題討論，造成更廣泛的傳播。例如，杭州某市民用ChatGPT制作“明日杭州市取消依照尾號限行”的虛假政府通告，引起廣泛傳播，影響了社會秩序。

隨著人工智能技術的發展，虛假新聞數量隨之增多。深度偽造的“拼貼”類虛假新聞、“數據污染”下的AIGC（生成式人工智能）新聞等新形式，通過社交機器人和精準推送廣泛傳播，會在一定程度上誤導公眾并影響社會輿論。清華大學新媒體研究中心發布的《揭秘AI謠言》指出，人工智能工具的不當使用使得謠言量高速增長，近半年信息量增長了65%。因此，我們要高度警惕虛假新聞在人工智能助力下的最新進展和可能帶來的危險變化。

人工智能濫用給虛假新聞治理帶來三大難題

人工智能技術助推智媒體時代加速到來，給新聞業帶來巨大發展機遇的同時，也產生了諸多治理難題。由于人工智能生產虛假新聞的高效率和欺騙性、內容和形式更加復雜等原因，使其治理面臨著極大困難和挑戰。

在新聞定義上，T5EwReg/XqAxBzys7HyHCQ==人工智能對新聞真實造成了一定程度的消解。首先，深度偽造的信息由真實圖像和視頻拼接而來，這類新聞不僅難以辨別真假，甚至被部分群體認為是個體創作的成果。其次，就數據新聞而言，其依托的大數據技術存在的數據污染、算法偏見、時間局限等問題，都可能導致人工智能生成的數據新聞不完全真實。最后，AIGC廣泛集中于“數據空洞”，即在那些搜索引擎沒有結果或結果模糊的搜索請求中，人工智能生成的從未出現過的信息內容難以立即證偽。尤其是在后真相時代，當無法及時獲得全面信息時，人工智能生產的“無中生有”的信息也難以被認定為虛假信息。

在傳播效果上，人工智能導致虛假新聞的傳播速度與范圍不可控。以往，虛假新聞的制造者是人，其炮制速度和數量有限，但人工智能可以24小時不間斷地生產足以以假亂真的虛假新聞和評價，且分發過程可依托瞬間生產的數百萬社交機器人和精準投放技術實現廣泛傳播。即使發現并刪除相關虛假信息，其影響也已造成。人工智能降低了虛假信息生產和傳播的門檻，使正常信息環境中的虛假信息數量級增長，危害性更強。

在輿情治理上，雖然人工智能被用于虛假新聞治理和輿情監測，但其治理速度遠遠落后于虛假新聞的生成速度。對于虛假新聞的識別而言，一方面，“機器人水軍”仿造真實用戶信息，輸出個性化觀點，并通過機器學習優化自身內容，表現出更加真實且具備連續對話的能力，使虛假信息傳播更加隱蔽；另一方面，一些AIGC內容邏輯性強、完整性高，難與真實信息區分。人工智能的濫用使虛假新聞憑借數量和速度逐漸侵蝕媒體環境，而治理速度和規范卻滯后于虛假新聞的發展。

人工智能時代虛假新聞的智能治理方向

在人工智能背景下，虛假新聞的治理問題變得更加復雜而關鍵。其治理措施也應與時俱進，需要融合既有思路并探索新的可能性，尤其要重視人工智能技術的治理應用。對虛假新聞治理的傳統方法，如完善法律法規、加重平臺責任、推動用戶自律、行業協會監管等，可結合人工智能特點進行改進，積極發揮事實核查、法律監管、協同治理作用。

加強事實核查。制定全面的事實核查、干預過濾等規則，用技術規制技術，是治理虛假新聞的關鍵。事實核查是常見的識別虛假新聞的手段，人工智能技術可以應用于核查虛假新聞的內容生產者和內容本身，建立由人工智能驅動的防御和過濾系統來阻止其傳播。

加強依法治理。從法律法規層面看，《互聯網深度合成服務管理辦法》的出臺彌補了對人工智能治理的空白，規定了生成式人工智能服務提供者的責任，可以在一定程度上減少因模型算法的數據偏見和污染導致的虛假新聞。未來，應細化規定各主體履行防范義務及采取的措施，并加強對人工智能本身的治理。

加強協同治理。從治理層面看，目前仍以平臺為主，通過行業規約、平臺管理規約、用戶服務協議等對虛假新聞進行治理。未來，應強化共治理念，相關部門、媒體、行業協會、輿情監測機構、人工智能服務商、互聯網平臺之間要建立起數據共享共治的理念，形成虛假新聞發現、過濾、追責的互聯互通體系。同時，要建立完善的虛假新聞舉報機制，激勵用戶主動監督，并著力提升用戶媒介素養，增強其識別能力，減少虛假新聞的二次傳播。

（作者簡介：張亞斐，中國人民大學新聞學院副教授）

責任編輯 / 丁兆丹