強化人工智能安全治理

[摘要] 人工智能是新一輪科技革命和產業變革的重要驅動力量，加快發展新一代人工智能是我國抓住新一輪科技革命和產業變革機遇的戰略問題。人工智能在為各行各業賦能的同時，也帶來了系統性的安全風險，主要體現在倫理和軍事安全風險方面。堅持發展和安全并重，抓住人工智能帶來的戰略機遇，加快形成新質生產力。同時，深入貫徹總體國家安全觀，以大安全理念為指引，加快構建涵蓋人工智能安全等于一體的國家安全體系，提升維護國家安全的能力。

[關鍵詞] 人工智能；? 發展與安全；? 總體國家安全觀；? 安全治理

[中圖分類號] D616； D630.8? ? ? ?[文獻標識碼] A? ? ? ?[文章編號] 0529-1445（2024）05-0040-04

人工智能的迅猛發展將對經濟社會發展和人類文明進步產生深遠影響，同時也帶來各種難以預知的風險和復雜挑戰。2022年末生成型預訓練變換模型（ChatGPT）橫空出世，人工智能技術在文生圖、文生視頻等領域飛速迭代，展現出廣闊的商業化應用前景。國家主席習近平在第三屆“一帶一路”國際合作高峰論壇開幕式上的主旨演講中指出：“愿同各國加強交流和對話，共同促進全球人工智能健康有序安全發展。”必須以總體國家安全觀為指引，堅持發展和安全并重，構筑人工智能安全屏障，擁抱智能時代的到來。

人工智能治理的重要性日益凸顯

人工智能特別是生成式人工智能取得重大突破，標志著人工智能技術正在實現從弱人工智能向強人工智能的飛躍。人工智能所蘊含的對各行各業的強大賦能力量表明，人工智能已經成為新一輪科技革命和產業變革的重要驅動力量。人工智能是未來世界經濟和高端制造的主導技術，發展人工智能是支撐科技自立自強、加快發展新質生產力、實現高質量發展的重要戰略抓手。我國要搶抓人工智能發展的重大戰略機遇，構筑人工智能發展的先發優勢，發揮人工智能對我國現代化產業體系建設的賦能作用，加快建設創新型國家和世界科技強國。

人工智能技術所具有的通用性、智能性和不可解釋性等特點在給社會帶來非凡增長機遇的同時，其所蘊含的安全風險也引發高度關注。《中華人民共和國國民經濟和社會發展第十四個五年規劃和2035年遠景目標綱要》提出：“加強網絡安全關鍵技術研發，加快人工智能安全技術創新，提升網絡安全產業綜合競爭力。”面對以ChatGPT、Sora等為代表的人工智能技術的迅速發展及其在金融、醫療、交通、制造業等領域的廣泛應用，人類社會日益面臨著更復雜的人工智能安全挑戰，包括數據竊取風險、網絡攻擊風險、經濟安全風險、“數據投毒”風險、軍事安全風險等。1

人工智能治理的本質是統籌人工智能發展和安全，既要充分發揮人工智能技術對國家經濟社會發展的創新引領作用，又要對其所帶來的安全外部性進行必要的監管。維護網絡安全，確保人工智能安全、可靠、可控，切實保障國家數據安全，統籌高質量發展和高水平安全，這已成為數字時代國家安全的必然要求。為進一步統籌人工智能發展與安全，2019年6月，我國新一代人工智能治理專業委員會發布了《新一代人工智能治理原則——發展負責任的人工智能》，創造性地提出了“敏捷治理”模式，即尊重人工智能發展規律，在推動人工智能創新發展、有序發展的同時，及時發現和化解可能引發的風險。要對未來更高級人工智能可能存在的潛在風險開展研究和預判，確保人工智能始終朝著有利于社會的方向發展。在通用人工智能呼之欲出的當下，這些前瞻性的戰略布局為我國的人工智能治理指明了前進的方向和路徑。

科學評估人工智能對國家安全的影響

當前，人工智能治理面臨的重要挑戰之一是評估其對國家安全的影響。在移動互聯網、大數據、超級計算、傳感網、腦科學等新理論新技術的驅動下，人工智能加速發展，呈現出深度學習、跨界融合、人機協同、群智開放、自主操控等新特征。人工智能正在對經濟發展、社會進步等產生重大而深遠的影響。由于人工智能具有多學科綜合、高度復雜的特征，其對國家安全的影響也不再局限于某個行業或者某個領域，而是會對國家經濟、政治、社會、軍事等各領域帶來系統性的影響。一方面，人工智能技術可以被用來維護與保障國家安全。另一方面，人工智能的通用性、智能性和不可解釋性等特點也會給國家安全帶來潛在的風險和挑戰。如何應對人工智能的安全風險并把握好發展的戰略主動，這既是我國國家安全治理的重要內容，也是推進國家安全體系和能力現代化、以新安全格局保障新發展格局的必然要求。

伴隨著人工智能技術向國家經濟、政治和社會生活各領域的不斷滲透和擴展，人工智能這項通用使能技術（enabling technology）所帶來的安全風險將出現在技術應用的各個節點。按照安全風險的意圖分類，人工智能的國家安全風險可以分為兩類：一類是源于技術本身的倫理道德風險，這種風險屬于無意安全風險。人工智能不僅是在模擬人類的智能，而且可以用自己的邏輯在紛繁復雜的眾多可能性中識別出那些人類智能還無法理解或識別的規律。它所具有的智能性和不可解釋性，都將加劇人工智能應用的倫理風險，例如自動駕駛汽車的道德和倫理問題、隱私保護和知識產權問題、失業和就業問題等。另一類是人工智能的武器化和軍事化應用，屬于人為有意安全風險。人工智能不僅可以在不同軍事領域快速形成衍生技術，而且能夠推動一個國家整體軍事能力發生根本性變化。特別是自主性武器的出現，讓戰場態勢變得更加容易失控，責任更容易被推卸。傳統武裝沖突中調停、斡旋等預防沖突升級的空間將會急劇縮小，戰場形勢一旦失控，往往會給沖突各方帶來意想不到的災難性后果。

鑒于人工智能對人類未來發展的重大影響，世界主要國家和經濟體紛紛出臺有關人工智能監管的立法和治理倡議，以降低人工智能帶來的安全風險。我國近年來先后出臺了多項政策文件，包括《新一代人工智能治理原則——發展負責任的人工智能》《新一代人工智能發展規劃》《人工智能標準化白皮書》等，發布了一系列具體的人工智能治理措施。2023年10月，美國發布一項名為《關于安全、可靠和值得信賴的人工智能的相關行政令》，為涉及人工智能安全的事項制定了新標準。2024年3月，歐洲委員會敲定《人工智能、人權、民主和法治框架公約》最終草案，預計這將是第一個國際人工智能條約。2024年3月21日，聯合國大會通過首個有關人工智能的全球決議，該決議題為《抓住安全、可靠、值得信賴的人工智能系統帶來的機遇，促進可持續發展》。

人工智能治理是世界各國面臨的共同課題，攸關全人類命運，離不開全球合作。2021年12月，我國向聯合國《特定常規武器公約》第六次審議大會提交了《中國關于規范人工智能軍事應用的立場文件》，呼吁各國要秉持共同、綜合、合作、可持續的安全觀，通過對話與合作，就如何規范人工智能軍事應用尋求共識，構建有效的治理機制，避免人工智能軍事應用給人類帶來重大損害甚至災難。2022年11月，我國外交部發布了《中國關于加強人工智能倫理治理的立場文件》，倡導“以人為本”和“智能向善”理念，主張增進各國對人工智能倫理問題的理解，確保人工智能安全、可靠、可控，更好賦能全球可持續發展，增進全人類共同福祉，構建人類命運共同體。2023年10月18日，中央網信辦發布《全球人工智能治理倡議》，聚焦人工智能治理的倫理和軍事安全風險，呼吁各國應在人工智能治理中加強信息交流和技術合作，共同做好風險防范，形成具有廣泛共識的人工智能治理框架和標準規范，不斷提升人工智能技術的安全性、可靠性、可控性、公平性。2024年4月3日，中非互聯網發展與合作論壇發表關于中非人工智能合作的主席聲明，提出“共同加強人工智能領域合作，攜手構建更加緊密的中非網絡空間命運共同體”。

以總體國家安全觀為指導做好人工智能安全治理

通用人工智能技術的發展推動人工智能治理進入新階段。如何堅持發展和安全并重、在加強監管的同時盡可能發揮人工智能技術的賦能作用，這已經成為實現新時代國家治理能力現代化的重要命題。鑒于人工智能的全局性和系統性影響，將總體國家安全觀的大安全理念貫徹于人工智能治理全過程，對于做好人工智能安全治理具有重要的現實指導意義。

總體國家安全觀的“總體性”是人工智能治理的指導性原則。總體國家安全觀是新時代國家安全工作的根本遵循和行動指南，人工智能治理也不例外。總體國家安全觀的關鍵是“總體”，強調大安全理念，強調堅持國家安全工作的系統思維和方法，強調國家安全要貫穿到黨和國家工作全局各方面、各環節，強調打總體戰，用全社會全政府全體系全手段應對重大國家安全風險挑戰。由于人工智能技術的通用性、智能性和創新性，人工智能技術應用所帶來的安全風險將會出現在國家經濟、政治、社會、軍事等領域的各個環節。一方面，原有的安全風險出現了新的變化和形式，例如網絡安全、數據安全、內容安全等。另一方面，新的安全風險開始出現，如倫理道德風險和自主性軍事武器的使用所帶來的風險等。在進行人工智能安全治理頂層戰略設計時，必須全盤考慮各領域各層面的安全風險。要從國家的總體利益出發，制定相應的治理方略，避免因某個領域的治理規制措施對其他領域產生消極影響。

總體國家安全觀的“重點性”對集人工智能安全等于一體的國家安全體系和能力建設提出了更高的要求。鑒于人工智能所蘊含的巨大安全風險，總體國家安全觀強調大安全理念，涵蓋政治、軍事、國土、經濟、金融、文化、社會、科技、網絡、糧食、生態、資源、核、海外利益、太空、深海、極地、生物、人工智能、數據等重點領域，并且將隨著社會發展不斷動態調整。人工智能安全被列入國家安全重點領域，凸顯出在新興的人工智能領域推進國家安全體系和國家安全能力現代化的迫切性，必須統籌謀劃、協同創新、穩步推進。就目前而言，我國在關鍵核心技術創新領域距離國際領先水平還有一定差距，技術深度應用和動能轉換方面的潛力還有待挖掘。我們要充分利用好人工智能這把“雙刃劍”：一方面要把握戰略主動，讓人工智能成為國家安全體系和能力現代化的重要賦能者。另一方面也要系統應對國家、社會、企業和個人層面的安全風險，有效維護和保障國家安全。

總體國家安全觀的“統籌性”是人工智能治理實踐的指導原則和政策目標。總體國家安全觀強調科學統籌，做到統籌發展和安全、開放和安全、傳統安全和非傳統安全、自身安全和共同安全、維護國家安全和塑造國家安全，著力解決國家安全工作不平衡、不充分的問題。在人工智能技術突飛猛進、大國競爭博弈加劇的大變局下，人工智能治理中的統籌問題就顯得尤為重要。統籌問題產生的前提是由于矛盾各方內在的沖突和張力。如果一味地推動人工智能技術突飛猛進而忽視安全監管，那么可能會帶來嚴重的社會后果；如果過于重視軍事安全風險而忽視倫理道德風險，也會帶來國家安全的不平衡發展；如果僅僅單方面強調本國的安全而不重視共同安全，外部安全環境的惡化最終也會損害本國安全；如果只是被動地應對安全風險而忽視了主動塑造國家安全，片面追求近期安全利益就可能導致長期利益受損。因此，在世界和平與發展面臨多元挑戰的背景下，人工智能治理只能是共同的、綜合的、合作的、可持續的治理。必須堅持發展和安全并重的原則，通過對話與合作凝聚共識，建立開放、公正、有效的治理機制，真正讓人工智能技術造福于人類，推動構建人類命運共同體。

人工智能技術創新應用的飛速迭代，帶來巨大發展機遇的同時，技術發展的不可知性和風險的不確定性也將帶來諸多安全挑戰。就目前的態勢看，或許跨過通用人工智能技術的門檻還存在很多不確定因素，但人工智能對國家經濟、政治、社會生活等革命性影響已經徐徐開啟，而人類將迎來一個什么樣的人工智能時代，取決于我們現在如何采取行動。我們要在機遇與安全之間尋求平衡，盡快筑牢安全屏障，充分發揮人工智能的“頭雁”效應，加快形成新質生產力，助力以中國式現代化全面推進中華民族偉大復興。

（本文是中國社會科學院重大創新項目“推進國家安全體系和能力現代化研究”〈項目編號：2023YZD025〉階段性成果）

[參考文獻]

[1]習近平著作選讀（第一卷）（第二卷）[M].北京：人民出版社，2023.

[2]習近平關于總體國家安全觀論述摘編[M].北京：中央文獻出版社，2018.

（作者簡介：郎平，中國社會科學院世界經濟與政治研究所研究員）

責任編輯 / 高海濤