科學構建人工智能安全治理體系

2025年4月25日，習近平總書記在主持二十屆中共中央政治局第二十次集體學習時強調，“面對新一代人工智能技術快速演進的新形勢，要充分發揮新型舉國體制優勢，堅持自立自強，突出應用導向，推動我國人工智能朝著有益、安全、公平方向健康有序發展”。這一重要論述，為人工智能發展指明前進方向。

堅持多維度統籌人工智能發展

隨著人工智能技術的突破性進展，我國在頂層設計層面加速發展人工智能，構建了系統化的政策支持體系。特別是堅持以促進產業發展為基本導向，秉持發展與安全并重的原則，從法律、倫理、政策及技術等多維度統籌人工智能發展，引導其向上向善。

2017年國務院發布《新一代人工智能發展規劃》，確立人工智能治理總體目標和規劃。一是到2025年，初步建立人工智能法律法規、倫理規范和政策體系，形成人工智能安全評估和管控能力；二是到2030年，建成更加完善的人工智能法律法規、倫理規范和政策體系。國家先后出臺《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》三部基礎性法律，從基礎設施、數據要素、自動化決策等關鍵性要素方面構建了治理框架。《中華人民共和國民法典》《中華人民共和國電子商務法》《中華人民共和國反不正當競爭法》等共同構建數字經濟時代的法律體系。2023年以來，我國人工智能監管明顯提速，針對生成式人工智能和人臉識別等新興技術出臺專項規定，強化內容安全和隱私保護。在此基礎上，各省市結合產業特點，出臺系列法規和規章，為促進本地區人工智能技術創新提供堅實的制度保障。

隨著科技快速發展，科技倫理挑戰日益凸顯。2019年6月，國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》，提出“發展負責任的人工智能”。2021年發布《新一代人工智能倫理規范》，細化倫理要求。2022年《中華人民共和國科學技術進步法》從法律層面確立科技倫理治理框架，明確“國家建立科技倫理委員會，完善科技倫理制度規范”。2023年，科技部等部門聯合印發《科技倫理審查辦法（試行）》，明確科技活動的倫理底線，要求生命科學、醫學、人工智能等敏感領域科研單位設立倫理審查委員會。多地成立省級科技倫理審查委員會，設區市設立倫理委員會和區域審查中心，完善上下聯動機制，基本形成了具有地方特色的“規范引領、分類監管、促進創新”治理模式。

人工智能安全治理面臨諸多挑戰

我國人工智能安全治理雖然取得積極成效，但隨著技術快速迭代，仍面臨政策法規滯后、數據安全與隱私保護、算法透明度不足、監管能力薄弱等諸多挑戰。

司法治理敏捷度不足。人工智能的快速發展引發多領域的法律合規風險，現行法律體系在應對技術超前性、提升監管敏捷性方面存在不足，亟須構建動態適配的治理框架。算法設計理念缺陷、模型漏洞及安全保障不足等潛在風險，可能以難以察覺的方式對社會造成系統性損害。人工智能技術具有高度復雜性、快速創新性和跨國性特征，現有法律制度難以跟上技術迭代速度，司法治理的敏捷度亟待提升。

倫理治理效力有限。現行倫理治理主要依賴企業自律和行業指引等非強制性指引，缺乏有力約束。傳統監管模式下人工智能倫理治理過于柔性，難以及時有效應對人工智能快速發展帶來的技術風險。“倫理先行”原則實施較為空洞，甚至實踐中流于形式，缺乏貫穿研發應用全周期的實質性倫理框架。倫理治理的軟約束特征導致規范效力不足，亟須強化倫理規范的剛性約束，建立具有執行力的倫理治理體系。

技術治理機制不健全。算法治理雖已建立自評估與備案制度，但仍存在短板。當前“事前監管+事后追責”的治理模式難以有效應對AI技術的系統性風險，特別是在應用場景仍處探索階段、治理思路尚不明晰的背景下，適應性表現出不足。同時，技術特性與責任認定存在機制沖突。AI決策的不可解釋性、自主學習的不確定性，與傳統法律責任認定機制難以匹配，導致事故責任界定困難、追責機制失效。

社會風險防范能力薄弱。人工智能引發的社會風險具有極強的不確定性、無邊界性和規模化效應，絕非個體用戶或者社交網絡平臺所能防范和處置，亟須構建全方位的風險防控體系。生成式人工智能通過數據“投喂”機制可能放大社會偏見，可能產生因訓練數據偏差導致的價值偏見、數據缺失造成的文化偏見、“信息繭房”加劇引起的商業歧視。這些偏見通過算法決策滲透到就業、信貸、教育等領域，但相關部門尚未建立有效識別和干預機制。不容忽視的是，算法成為隱性價值觀的傳播載體，可能輸出具有欺騙性的虛假內容。

推動治理能力與技術發展相適應

面對人工智能發展帶來的機遇與挑戰，必須站在維護國家安全、促進科技創新、保障民生福祉的戰略高度，系統完善安全治理體系，推動治理能力與技術發展相適應。

堅持以人民為中心，確保政策落地見效。人工智能技術的根本價值在于為社會創造福祉、為人類增進幸福。當前，在鼓勵技術創新和產業引領的同時，更需要確保技術發展始終遵循以人為本的價值準則，恪守服務人類的倫理原則。要堅持“科技向善、治理為民”的價值導向，需要構建多層次的價值轉化機制。在制度層面，要通過法律法規將抽象的價值原則具象為管理規范，明確政府、企業、科研機構等主體責任。落實歸責機制，探索建立算法安全主體責任清單制度。創新監管模式，實施過程性規制，平衡效率與安全。在技術層面，要將倫理原則嵌入產品全生命周期，形成可驗證的技術標準和設計規范。健全算法審查制度和科技倫理審查制度，確保倫理委員會發揮實質作用。

提升風險鑒別能力，強化風險處置效能。風險鑒別是科學治理的基礎。只有準確識別風險類型、層級和源頭，才能制定針對性策略，實現精準治理。因此，必須構建覆蓋風險識別、分類、評估的完整體系，明確不同類型風險的特征和影響范圍，為分級分類治理提供科學依據。要探索安全技術研發創新工具，推進事前、事中、事后全流程監管。廣泛發掘一批可推廣復制的技術路線，不斷豐富內容標識、紅隊測試、價值對齊等技術工具和治理經驗，發布數據審查庫、數據標注規范等評估指引，增強人工智能風險的動態感知、科學預警、留痕溯源能力。此外，還可探索風險補償機制，構建保險補償機制。

加快政務服務轉型，推進政府治理創新。人工智能技術的快速發展深刻改變了政府治理環境和治理方式。應主動適應變革，創新治理模式，完善監管機制，以科技賦能提升政府治理效能和公共服務水平。一是創新多元治理模式。按照企業主導、政府引導原則，鼓勵多主體協同治理，積極推進協同高效的數字化治理體系。二是完善監管體制機制。明確各類風險事件責任主體，建立跨部門聯合監管機構和應急協同機制，確保快速響應、精準施策。三是強化治理支撐能力。建立類別化案例庫，輔助風險治理決策，提升風險研判能力。開展全民數字素養提升工程，引導公眾理性看待和使用技術，以正確和積極的方式使用人工智能。

（作者單位：蘇州科技大學馬克思主義學院）

責任編輯：蘇勝利