人工智能時代國家文化安全的風險與治理

摘要：人工智能的迅猛發展為國家文化安全治理帶來機遇的同時也帶來了挑戰。深入探究其在國家文化領域產生的影響能夠發現，人工智能雖然在文化傳播與創新層面發揮了積極效用，但也引發了如傳統文化傳承受阻、數據隱私泄露以及 “深度偽造”技術等方面的風險。為有效應對挑戰，應通過健全法律法規、強化監督監管、發揮技術優勢、加強人才培養以及推動全球治理等舉措提升治理效能，構建制度體系。

關鍵詞：人工智能；國家文化安全；技術風險；治理策略

自ChatGPT正式發布以來，人工智能領域以前所未有的速度和規模在全球迅猛發展，并深刻影響人類生活的方方面面。從經濟發展的創新驅動，到社會生活的便捷優化，乃至文化交流與傳承的全新范式，其影響愈發深遠。伴隨著大數據、算法、云計算等ChatGPT底座技術的快速發展，人工智能無疑將成為影響未來經濟社會發展的一個全新變量，[1]正引領全球文明走向一場根本性變革。其呈現出的深度學習、跨界融合、人機協同、群智開放等一系列顯著特質，將在國家文化安全建設、治理體系變革以及國際格局演變等諸多層面產生深遠影響。習近平總書記明確指出：“要加強人工智能同社會治理的結合，開發適用于政府服務和決策的人工智能系統”“運用人工智能提高公共服務和社會治理水平”。身處這一變革時代，全方位深入洞悉人工智能為國家文化安全治理帶來的機遇與挑戰尤為重要。這需要我們主動積極地識變、應變與求變，深度探索契合時代需求的治理新模式，為國家治理體系和治理能力現代化注入新動力，提供新思路。

一、人工智能影響國家文化安全的現狀

作為一項引領時代發展的關鍵技術，人工智能對于國家文化安全具有雙重影響，在開辟新路徑的同時，也對文化的傳承與保護提出了前所未有的考驗。從積極層面來看，人工智能技術為文化傳播與創新提供了強大的技術支撐。隨著自然語言處理技術的不斷進步，文化內容的翻譯精度得到顯著提升，促進了其更廣泛的傳播，削弱了語言和地域對文化傳播的固有限制，拓寬了文化信息的可達范圍。人工智能在文化創作領域亦展現出不可或缺的價值。利用機器學習技術，創作者能夠獲取更為多元的靈感和創作素材，這對于激發創作者的創新思維具有顯著作用。例如，AI音樂創作工具能夠根據用戶的個性化創作需求，生成獨具特色的音樂旋律；而繪畫生成模型能夠依據輸入的關鍵詞或特定的圖像風格，創作出精美且富有創意的畫作。這不僅極大地豐富了文化的表現形式，更為文化產業的長足發展注入了新的活力，推動了文化藝術的持續繁榮。

從負面影響來看，人工智能技術的發展也衍生出一系列復雜且相互交織的問題。首先，AI技術的廣泛運用可能對傳統文化的傳承與關注度產生負面影響。智能算法驅動的信息推薦系統使人們更容易接觸到流行的、快餐式的文化內容，這將削弱傳統文化在現代社會中的影響力；其次，人工智能應用過程中涉及的數據隱私和安全問題亦不容忽視。個人文化消費數據被廣泛收集與分析，帶來了數據泄露和濫用的風險，不僅威脅到個人隱私，更對國家文化安全構成潛在威脅；再次，人工智能在內容生成方面的自主性也容易引發一系列問題。一方面，某些智能寫作平臺可能產生質量參差不齊、缺乏深度的文化內容，降低公眾的文化審美水平；另一方面，由于算法設計和訓練數據的局限性，文化傳播可能呈現偏向性，導致一些重要但不符合算法偏好的文化內容難以獲得足夠的關注；最后，人工智能的應用還可能加劇文化領域的 “數字鴻溝”。相較于接入上的差距，數字使用上的鴻溝更加隱蔽，是社會不平等在信息化時代的新形態、新發展，反過來也進一步加劇了既有的不平等。[2]這種不均衡可能導致文化資源分配的不平等，進一步拉大地區間、群體間的文化差距。

二、人工智能時代國家文化安全的技術風險

人工智能基于算力優勢而不斷獲得的算法權力，已然形成了一種新型的權力架構，以算法為核心的平臺正逐步演變為具有單方面影響力的新興力量。由于算法技術自身的高度復雜性，非專業人員難以完全理解并掌握其運作機制。同時，公共權力在算法技術的授權與監管環節依然存在明顯短板，未能有效跟上技術發展的步伐。這導致算法驅動的權力以驚人的速度進行擴張。此種狀況無疑為文化安全治理帶來了諸多風險性挑戰。

文化安全領域首先面臨的風險是深度偽造技術。這是由一種被稱為 “深度學習”的特殊機器學習生成的人造圖像或音/視頻，可以令人信服地以另一個人的影像或聲音來取代一個人的影像或聲音，或是用以制作虛假事件。[3]深度偽造技術能夠模仿名人或權威人士的言行，這不僅可能損害相關人士的聲譽，更有可能捏造出并不存在的事件或情境，從而導致公眾對真實事件產生誤解。由此引發的問題包括誹謗、欺詐行為的增加，社會恐慌情緒的擴散等。深度偽造技術還能精確識別目標國家社交媒體用戶的心理脆弱點，為那些意圖散布虛假信息的人提供更為精準的攻擊手段，從而降低公眾對媒體的信任度，使公共輿論更易受外部勢力操控，導致虛假信息與真實情況之間的界限模糊，給社會輿論環境帶來負面影響。輿論縱向深度融入其他國家領域，總體與國家安全呈現出蜘蛛網式的聯絡。輿論安全的喪失將直接或間接催生出諸如意識形態對立、階級對立等態勢。[4]

另一個亟待關注的問題是人工智能存在加重 “信息繭房”效應并引發文化偏見的風險。算法推薦系統在一定程度上可能使用戶的信息獲取范圍被限制，只能閱覽到與自身原有觀點相符的內容，對于那些與自身立場相悖的信息則予以忽視或排斥，這會引發一系列不容忽視的問題。第一，“信息繭房”使人們的認知呈現封閉化，并會加劇文化誤解。“信息繭房”內信息的同質化特征，使人們喪失與多元觀點充分交流的契機，人們將很難以開放、包容的態度對待不同的文化觀點。這進一步加深了對某些特定群體或事物的錯誤認知，阻礙了文化的多元發展；第二，在 “信息繭房”中，個體或群體的觀點傾向于朝著極端化方向發展，批判性思考能力逐漸缺失。不同群體之間由于缺乏有效的溝通，彼此間的隔閡與矛盾不斷加劇，甚至可能成為社會撕裂的潛在誘因，嚴重威脅社會的和諧穩定與文化的健康發展。

“技術操縱”與意識形態問題亦是需要予以高度重視的風險要素之一。盡管算法在表面上呈現出技術運行的自主性，但這不意味著其本質上是 “技術中立”的。算法效能的發揮，依賴于其使用者和運營者為其賦予的明確的目標導向。倘若算法被人為用于宣揚某一特定意識形態，就極有可能對公眾輿論產生操縱性影響，進而引發多層次、多維度的意識形態風險。以ChatGPT為典型代表的生成式人工智能技術，當前仍主要掌控在西方發達國家手中。ChatGPT采用 “人類反饋強化學習” （RLHF）方法，通過人類反饋，模型會逐漸調整自身參數，使得其生成的文本更加符合人類的價值觀和意圖。[5]其在學習訓練過程中所依賴的基礎數據和信息多源自歐美國家，使得這些技術有可能淪為西方用以塑造主流思想、精心構造 “認知陷阱”的新型工具。人工智能技術有可能在公眾難以察覺的情況下，傳播西方國家價值觀、思維模式、文化習性等，對世界其他地區和國家的社會認同感、民族自信心以及文化多元性構成挑戰。

三、提升國家文化安全治理效能的策略

文化安全關乎國家文化的自主性、完整性與創新性，更是國家在全球文化舞臺上影響力和競爭力的直接體現。隨著AI時代的到來以及產業革新的持續推進，我國文化安全治理迎來了新的發展機遇。這一趨勢為提升國家文化安全治理成效提供了強大的推動力。

智能分析能力使得人工智能成為對海量數據進行深度分析的有效工具，為文化安全治理提供了廣泛的數據支持。尤其是最新一代的人工智能技術，通過融合多種信息類型，結合大數據模型和強大的計算能力，實現了對數據的實時處理與分析，并能迅速生成和發布結果。這種高效、即時的信息處理模式顯著提升了文化傳播的便捷性和文化安全治理的時效性。此外，新一代人工智能技術的綜合應用還能整合語言、文字、圖片和視頻等多元數據，為文化安全決策提供堅實的數據支撐。通過數據挖掘、機器學習、自然語言處理等技術，AI可對與文化安全相關的數據進行細致的分類、標注、歸納和推理，從海量的數據中提煉出有價值的信息。這有助于決策者更深入地了解文化安全的現狀和發展趨勢，進而制訂出科學合理的解決方案。

實時監測與風險識別是人工智能提升文化安全治理前瞻性和精準性的重要策略。通過部署先進的算法和機器學習模型，人工智能系統可以持續地從互聯網、社交媒體等數據源中搜集信息，分析文化傳播的趨勢和模式，并能在第一時間發現可能對文化安全構成威脅的內容或行為。一旦檢測到風險因素，系統可以立即向監管部門發送警報，使響應措施更加迅速精確。據統計數據顯示，截至2023年年底，我國部署的人工智能系統平均每天檢測和分析約10萬條與文化安全相關的敏感信息，其中，約80%的信息得到了及時處理，有效地維護了國家的文化主權和尊嚴。在大數據模型和強大算力的支持下，人工智能能夠迅速識別和標注潛在的文化安全隱患，從而極大地增強了文化安全治理的主動性和針對性。

四、構建國家文化安全制度體系的路徑

一是秉持規劃引領原則，健全法律法規體系。進行前瞻性布局規劃，大力支持借助人工智能技術來防范由人工智能本身所引發的風險，積極促進人工智能治理相關技術的研發與應用。同時，遵循敏捷治理與多維治理的基本準則，構筑起多方協同參與的人工智能治理架構。不斷完善法規政策和行業規范，將關注重點放在人工智能重點領域的安全應用層面，切實保障人工智能研發和應用進程中的個人隱私及數據安全，確保人工智能具備安全性、可靠性與可控性。著力強化人工智能技術倫理規范的制定與推行，保障其在文化行業內部的道德水準和社會認同度，使之契合社會價值取向和人類尊嚴理念。

二是強化監督監管力度，嚴厲打擊犯罪行為。構建專門的監管組織機構和管理體系，針對人工智能技術的運用實施評估工作，涵蓋對人工智能算法的訓練數據、設計流程以及輸出成果進行全方位、動態化的審查與監管，切實保證算法的透明度與公正性，確保其在文化領域的應用契合法律規范要求。防范技術被肆意濫用，用以傳播有害信息或侵害他人合法權益。加強內容審核流程建設，搭建高效的內容審核系統，對可能對國家文化安全產生影響的內容展開縝密檢查，并進一步優化快速識別和違規處置響應機制。對于蓄意制造和傳播違法違規內容的行為，應當依據法律規定予以嚴厲懲治，以此構建起強有力的威懾機制，警示潛在的違法者，守護公眾免受不良信息的侵擾與危害。

三是充分發揮技術優勢，夯實要素支撐基礎。全面發揮人工智能的核心技術優勢，推動文化安全治理朝著智能化、精細化以及高效化的方向發展。一方面，運用人工智能技術為傳統文化產業增添新的發展動力，助力傳統文化的數字化保存與傳承。例如，借助圖像識別與自然語言處理技術，對歷史文獻和文物進行數字化轉化，以利于它們實現長期保存與更廣泛傳播。同時，運用機器學習與數據挖掘技術，深入剖析傳統文化資料，諸如文學作品、音樂作品以及舞蹈等，提高人們對于傳統文化的理解和欣賞水平；另一方面，運用人工智能技術搭建國家文化安全數據庫，對相關數據展開系統性的收集、有序化的整理以及深入化的解析，對網絡上的輿論動態進行智能化的分析和預測，以智能化手段實現對國家文化安全潛在風險的預測和防范。此外，依托人工智能對文化安全監測數據和反饋信息展開深度剖析，能夠對文化安全政策的執行效果進行評估，為政府政策的制定和優化提供關鍵參考依據。

四是積極推動全球治理，攜手共同應對挑戰。強化信息共享、經驗交流及合作機制建設，共同開展相關政策規范的研究和制定工作，形成廣泛共識和合作框架。借助國際組織、論壇以及峰會等平臺，推動各國間展開對話與合作。設立國際性監管組織與評審流程，共同制定人工智能在文化產業中的應用標準，明確其合法合規的范圍以及限制條件，確保人工智能應用不僅遵循國內的法律法規，同時也符合國際準則要求。加強技術合作與創新工作，通過聯合研究項目、技術轉讓以及人才交流等方式，共同研發先進的人工智能技術，對文化領域的犯罪行為進行監督、偵測與預防，加大知識產權保護力度，防止人工智能技術被誤用和濫用，維護技術應用的規范性與合法性。

五、結束語

人工智能時代既為國家文化安全治理帶來了前所未有的機遇，也帶來了復雜多變的挑戰。通過健全法規、強化監管、發揮技術優勢及促進國際合作，可以有效應對這些挑戰，確保國家文化安全。未來，隨著技術的不斷進步和國際合作的深化，國家文化安全治理將邁向更高水平，為全球文化多樣性與安全作出積極貢獻。

參考文獻：

[1] 于水，范德志.新一代人工智能ChatGPT的價值挑戰及其包容性治理[J].海南大學學報（人文社會科學版），2023，41（05）：82-90.

[2] 黃雨晴.中國數字鴻溝的成因與賦權式治理[J].學習與實踐， 2022（09）：23-33.

[3] 胡泳.人工智能驅動的虛假信息：現在與未來[J].南京社會科學，2024（01）：96-109.

[4] 黃日涵，姚浩龍.“再塑造”與 “高風險”：生成式人工智能對輿論安全的影響[J].情報雜志，2024，43（04）：121-127.

[5] 陳兵.生成式人工智能可信發展的法治基礎[J].上海政法學院學報（法治論叢），2023，38（04）：13-27.

作者簡介： 夏春暉，男，漢族，吉林長春人，博士研究生，講師，研究方向：人工智能與國家安全；

陳欣，女，滿族，吉林長春人，博士研究生，講師，研究方向：網絡思想政治教育。