人工智能“武器化”與數(shù)智時(shí)代的國(guó)家安全

【摘要】當(dāng)前，伴隨著大國(guó)數(shù)字地緣競(jìng)爭(zhēng)的日漸加劇，人工智能“武器化”趨勢(shì)日漸明顯。這突出表現(xiàn)為：在軍事領(lǐng)域，人工智能正被越來(lái)越多的國(guó)家用作軍事武器；在外交領(lǐng)域，計(jì)算外交正在掀起一輪智慧外交革命；在國(guó)內(nèi)政治領(lǐng)域，人工智能正在越來(lái)越多地被用作一種政治干預(yù)工具。放眼未來(lái)，人工智能驅(qū)動(dòng)的社會(huì)轉(zhuǎn)型業(yè)已拉開帷幕，在智能化浪潮的驅(qū)動(dòng)下，人工智能將無(wú)所不在，傳統(tǒng)的國(guó)際競(jìng)爭(zhēng)正在悄然演化為以數(shù)據(jù)和算法為核心的人工智能競(jìng)爭(zhēng)。在此背景下，我們的社會(huì)比以往任何時(shí)刻都更加脆弱、更不安全，人工智能不僅是一種新質(zhì)生產(chǎn)力和社會(huì)變革工具，也是一種前所未有的經(jīng)濟(jì)競(jìng)爭(zhēng)、軍事競(jìng)爭(zhēng)與政治競(jìng)爭(zhēng)武器，給國(guó)家安全和社會(huì)穩(wěn)定帶來(lái)嚴(yán)峻挑戰(zhàn)。而要應(yīng)對(duì)人工智能研發(fā)和應(yīng)用帶來(lái)的技術(shù)風(fēng)向變化，需要用計(jì)算思維來(lái)理解人工智能、以人工智能技術(shù)進(jìn)步來(lái)治理人工智能所帶來(lái)的安全風(fēng)險(xiǎn)。

【關(guān)鍵詞】武器化" 人工智能風(fēng)險(xiǎn)" 計(jì)算政治" 大國(guó)競(jìng)爭(zhēng)

【中圖分類號(hào)】F49" " " " " " " " " " " " " " " " " 【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2025.09.009

當(dāng)前，伴隨著社會(huì)生活數(shù)字化和智能化趨勢(shì)的不斷發(fā)展，人工智能被用作一種國(guó)際競(jìng)爭(zhēng)“武器”的態(tài)勢(shì)日漸明顯。這突出表現(xiàn)在：以數(shù)據(jù)公司和數(shù)據(jù)科學(xué)家為代表的人工智能精英正在成長(zhǎng)為新的政治力量，新的社會(huì)結(jié)構(gòu)和國(guó)際秩序正圍繞著人工智能應(yīng)用展開；[1]現(xiàn)代社交網(wǎng)絡(luò)和數(shù)字平臺(tái)的蓬勃發(fā)展，使越來(lái)越多的政治活動(dòng)被編程化的“社交機(jī)器人”和各種“算法偏見”所操控，[2]“智慧驅(qū)動(dòng)型外交”正在引領(lǐng)人工智能時(shí)代的跨國(guó)政治傳播變革。尤其是在深度信息偽造、虛假信息傳播和政治“污名化”等方面，生成式人工智能技術(shù)正在改變傳統(tǒng)國(guó)際傳播策略與公共外交戰(zhàn)略。由此可見，人工智能工具及其算法應(yīng)用不僅日益成為各國(guó)新質(zhì)生產(chǎn)力的重要組成部分，而且也逐漸發(fā)展為各國(guó)綜合國(guó)力競(jìng)爭(zhēng)的技術(shù)新利器。此外，以自主決策系統(tǒng)和致命性自主武器系統(tǒng)（LAWS）為標(biāo)志的人工智能軍事化應(yīng)用，正在引發(fā)新一輪軍備競(jìng)賽。以智能決策和自主攻擊為特征的軍事機(jī)器人不僅重構(gòu)了戰(zhàn)爭(zhēng)的形態(tài)，更對(duì)人類社會(huì)的倫理底線和全球安全治理體系構(gòu)成了嚴(yán)峻挑戰(zhàn)。高度自主化的智能網(wǎng)絡(luò)和漫無(wú)節(jié)制的數(shù)據(jù)使用正在制造一個(gè)風(fēng)險(xiǎn)不可預(yù)測(cè)、責(zé)任難以追溯的新型安全困境。毋庸諱言，人工智能技術(shù)正以前所未有的深度和廣度嵌入政治運(yùn)行與戰(zhàn)略競(jìng)爭(zhēng)的基本邏輯之中，締造了一個(gè)“數(shù)據(jù)即生活、算法即權(quán)力、智能即統(tǒng)治”的時(shí)代。

數(shù)智社會(huì)：人工智能應(yīng)用與“內(nèi)嵌”的安全風(fēng)險(xiǎn)

放眼未來(lái)，人工智能驅(qū)動(dòng)的社會(huì)轉(zhuǎn)型已然拉開序幕，未來(lái)社會(huì)本質(zhì)上就是一個(gè)以人工智能驅(qū)動(dòng)為基礎(chǔ)的數(shù)智社會(huì)。形形色色的人工智能工具和智能體不僅改變了人類現(xiàn)有的連接方式、交往方式、工作方式和學(xué)習(xí)方式，也因其全域滲透性、嵌入性，正在重構(gòu)人類社會(huì)的時(shí)與空、虛與實(shí)以及人與機(jī)之間的界限。[3]在此背景下，傳統(tǒng)國(guó)際競(jìng)爭(zhēng)將加速演變?yōu)橐詳?shù)據(jù)、算法和算力為核心的“計(jì)算競(jìng)爭(zhēng)”。首先，在軍事領(lǐng)域，人工智能正越來(lái)越多被用作一種新式作戰(zhàn)武器。有學(xué)者認(rèn)為，人工智能武器的研發(fā)與應(yīng)用，特別是無(wú)人值守系統(tǒng)與智能作戰(zhàn)平臺(tái)的部署，將會(huì)革命性改變戰(zhàn)爭(zhēng)規(guī)則與交戰(zhàn)方式，給軍備競(jìng)賽、危機(jī)管控和戰(zhàn)爭(zhēng)倫理帶來(lái)前所未有的挑戰(zhàn)。[4]在人工智能革命的驅(qū)動(dòng)下，未來(lái)戰(zhàn)爭(zhēng)很可能會(huì)走向以智能對(duì)抗為主導(dǎo)特征的混合戰(zhàn)爭(zhēng)與智能戰(zhàn)爭(zhēng)形態(tài)。其次，在外交領(lǐng)域，計(jì)算外交正成為一種新型外交工作方式。依托超強(qiáng)算力支撐和可選擇的人工智能工具箱，計(jì)算外交將傳統(tǒng)國(guó)際關(guān)系理論、政治理論、決策科學(xué)與計(jì)算方法融于外交全過(guò)程，具體體現(xiàn)為外交態(tài)勢(shì)感知、外交決策過(guò)程、外交戰(zhàn)略執(zhí)行與外交工作流程的算法化、自動(dòng)化和智能化，諸如自動(dòng)情報(bào)感知、仿真模擬政策執(zhí)行以及即時(shí)追蹤政策反饋都將成為外交智慧化轉(zhuǎn)型的典型特征。[5]再次，在國(guó)內(nèi)政治領(lǐng)域，人工智能機(jī)器人正被用作一種政治干預(yù)手段。作為數(shù)字政治中編程化的虛擬人格，不同類型政治機(jī)器人（也稱“數(shù)字水軍”或“機(jī)器軍團(tuán)”）不僅可以獨(dú)立進(jìn)行人機(jī)互動(dòng)，還可以在機(jī)器與機(jī)器之間進(jìn)行互粉、互轉(zhuǎn)和相互交流，使得政治信息操作可以在各個(gè)虛擬賬戶之間形成信息協(xié)同，進(jìn)而創(chuàng)造“信息涌現(xiàn)”、人工生成輿論潮流。[6]就此而言，政治機(jī)器人常被別有用心的政治行為體隱秘地用于制造并支持各種誤導(dǎo)性言論，并通過(guò)“僵尸網(wǎng)絡(luò)”和自動(dòng)代理強(qiáng)化錯(cuò)誤信息和虛假信息的傳播，放大問(wèn)題爭(zhēng)議點(diǎn)、煽動(dòng)仇恨言論，制造政治兩極分化，進(jìn)而影響政治行為體的選擇偏好，趁機(jī)攫取政治支持。

綜上所述，在萬(wàn)物皆可計(jì)算的數(shù)智時(shí)代，數(shù)據(jù)即資源、算法即規(guī)則。作為一種“嵌入式”隱蔽工具，人工智能正在悄然演變?yōu)樯鐣?huì)進(jìn)步的核心驅(qū)動(dòng)力和大國(guó)角力的焦點(diǎn)。在此背景下，人工智能逐步呈現(xiàn)“武器化”趨勢(shì)。就此而言，人工智能不僅已成為新的風(fēng)險(xiǎn)源和安全挑戰(zhàn)，其本身也在嵌入社會(huì)結(jié)構(gòu)的過(guò)程中日漸成為權(quán)力塑造主體。這突出表現(xiàn)為以下兩方面。

第一，用于驅(qū)動(dòng)人工智能決策的數(shù)據(jù)挖掘可能會(huì)帶來(lái)隱私泄露與政治脅迫。一些主張數(shù)據(jù)開放的學(xué)者認(rèn)為，數(shù)據(jù)的價(jià)值在于開放、流動(dòng)與不斷被使用，如果通過(guò)數(shù)據(jù)分析可以挖掘更多決策信息、精準(zhǔn)定位安全對(duì)象和客觀預(yù)測(cè)競(jìng)爭(zhēng)對(duì)手的戰(zhàn)略意圖，則基于數(shù)據(jù)的人工智能應(yīng)用將會(huì)極大改善安全決策的質(zhì)量、提高資源配置效率并最終促進(jìn)和擴(kuò)大國(guó)家利益。[7]然而，反對(duì)的觀點(diǎn)也極為尖銳，一旦毫無(wú)節(jié)制的數(shù)據(jù)分析變成安全政策的工具，由機(jī)器人參與或操控的戰(zhàn)爭(zhēng)決策很可能會(huì)使全球武裝沖突常態(tài)化，科學(xué)家、編程人員和游戲玩家等各色人員都有可能利用無(wú)人系統(tǒng)參與武裝沖突，機(jī)器攻擊程序的開源傳播和低廉制作成本，將塑造人人都擁有相互傷害能力的沖突進(jìn)程。[8]就此而言，“如果未來(lái)有一天，機(jī)器和計(jì)算實(shí)現(xiàn)了對(duì)人類世界的全面接管，那么這種放棄就是末日的開端”。更為激進(jìn)的觀點(diǎn)甚至想象，未來(lái)戰(zhàn)爭(zhēng)極有可能演變?yōu)橐环N“超個(gè)性化戰(zhàn)爭(zhēng)”（The Hyper-Personalization of War），[9]即在高度數(shù)字化的戰(zhàn)場(chǎng)環(huán)境中，敵對(duì)方或可通過(guò)網(wǎng)絡(luò)手段持續(xù)追蹤作戰(zhàn)人員的個(gè)體化數(shù)據(jù)，包括其在線行為、家庭結(jié)構(gòu)乃至子女就學(xué)信息，進(jìn)而制造“個(gè)性化威脅”、形成認(rèn)知領(lǐng)域的“精準(zhǔn)打擊”，使士兵無(wú)法專注作戰(zhàn)任務(wù)。毫無(wú)疑問(wèn)，技術(shù)的迅猛發(fā)展固然極大提升了社會(huì)運(yùn)行效率與個(gè)人生活的便利性，然而也暴露出相伴而生的脆弱性：從可穿戴設(shè)備到自動(dòng)駕駛系統(tǒng)，從智能家居到3D打印技術(shù)，凡此種種皆可能被黑客操控，誘發(fā)災(zāi)難性的安全風(fēng)險(xiǎn)。因此，在人工智能時(shí)代，我們的社會(huì)比以往任何時(shí)期都更加依賴技術(shù)，也更易受其反噬所傷，呈現(xiàn)出一種技術(shù)賦能與風(fēng)險(xiǎn)同步增長(zhǎng)的狀態(tài)。

第二，用于實(shí)現(xiàn)人工智能功能的算法模型具有穿透性、嵌入性和泛在性。簡(jiǎn)單來(lái)說(shuō)，穿透性指的是算法能夠輕松越過(guò)國(guó)家的物理疆界，對(duì)他國(guó)進(jìn)行悄無(wú)聲息的政治擾動(dòng)，以至于傳統(tǒng)的國(guó)家物理疆界和主權(quán)原則形同虛設(shè)，在此意義上很多國(guó)家的內(nèi)部動(dòng)蕩與“網(wǎng)絡(luò)顏色革命”正日趨演變?yōu)樗麌?guó)算法干預(yù)的結(jié)果；嵌入性是指算法作為智能社會(huì)系統(tǒng)管理的一部分，總是被嵌入特定的社會(huì)情境，由某些特定行為體所開發(fā)和部署并應(yīng)用于具體領(lǐng)域，通過(guò)嵌入性的調(diào)配資源和支配行動(dòng)全面參與到人類社會(huì)生產(chǎn)、分配和決策等關(guān)鍵環(huán)節(jié)中，日趨演變?yōu)轵?qū)動(dòng)各領(lǐng)域創(chuàng)新涌現(xiàn)、塑造人類認(rèn)知并改變資源分配格局的重要力量；而泛在性則是指計(jì)算機(jī)與網(wǎng)絡(luò)形成了一個(gè)“無(wú)時(shí)不在、無(wú)處不在”的計(jì)算環(huán)境，算法與多元領(lǐng)域的深度耦合將物理空間與虛擬空間融合成一個(gè)龐大的數(shù)字生態(tài)系統(tǒng)，智能技術(shù)在嵌入社會(huì)結(jié)構(gòu)的過(guò)程中通過(guò)隱性或顯性的規(guī)則形成了嵌入式、滲透性的泛在化權(quán)力。總體而言，用于實(shí)現(xiàn)人工智能功能的泛在化算法是所有事務(wù)自動(dòng)化和智能化執(zhí)行的核心，掌握核心算法即意味著擁有定義社會(huì)規(guī)則的絕對(duì)話語(yǔ)權(quán)。正是考慮到算法的穿透性、嵌入性和泛在性，智能社會(huì)的秩序重構(gòu)正在以算法為中心展開，那些掌握算法開發(fā)、部署和使用的行為體將重塑權(quán)力分配格局。由此，伴隨著大量公共事務(wù)的決策從人的判斷日趨轉(zhuǎn)向機(jī)器的“判斷”，人類事務(wù)治理也日趨演變?yōu)樗惴ǖ闹卫恚粋€(gè)由算法決策所建構(gòu)的“算法社會(huì)”已隱約可見。

人工智能異化：技術(shù)濫用與非道德的機(jī)器

簡(jiǎn)單來(lái)說(shuō)，人工智能可能帶來(lái)的威脅是多方面的，而且越來(lái)越復(fù)雜。在智能化浪潮的驅(qū)動(dòng)下，人工智能將無(wú)所不在，傳統(tǒng)的國(guó)際競(jìng)爭(zhēng)正在悄然演化為以數(shù)據(jù)和算法為核心的人工智能競(jìng)爭(zhēng)。就此而言，人工智能既是一種新質(zhì)生產(chǎn)力和社會(huì)變革工具，也是一種前所未有的經(jīng)濟(jì)競(jìng)爭(zhēng)、軍事競(jìng)爭(zhēng)與政治競(jìng)爭(zhēng)武器，給國(guó)家安全和社會(huì)穩(wěn)定帶來(lái)嚴(yán)峻挑戰(zhàn)。

首先，人工智能極大降低了網(wǎng)絡(luò)虛假信息生成的技術(shù)門檻和經(jīng)濟(jì)成本，助長(zhǎng)了網(wǎng)絡(luò)虛假信息的傳播和錯(cuò)誤信息的泛濫。這突出表現(xiàn)為以下三個(gè)方面。一是各國(guó)政府、政黨組織、社會(huì)團(tuán)體乃至恐怖組織正投入大量資源構(gòu)建龐大的“網(wǎng)絡(luò)數(shù)字水軍”與“社交機(jī)器人軍團(tuán)”，以系統(tǒng)化的方式實(shí)施計(jì)算宣傳。他們可以通過(guò)部署智能算法操縱的機(jī)器人，在社交平臺(tái)上有組織地操控話語(yǔ)空間，制造虛假共識(shí)，誤導(dǎo)輿論認(rèn)知，進(jìn)而實(shí)現(xiàn)其政治目標(biāo)。更有甚者，將計(jì)算宣傳特別是“政治機(jī)器人軍團(tuán)”納入“網(wǎng)絡(luò)戰(zhàn)武器庫(kù)”，作為國(guó)際競(jìng)爭(zhēng)的關(guān)鍵戰(zhàn)略工具。二是用于支撐人工智能的任何算法模型，包括大語(yǔ)言模型，都帶有數(shù)據(jù)偏見和算法偏見，由此導(dǎo)致由人工智能所生成的內(nèi)容并不總是中立的，而是潛藏一定政治傾向。在此情形下，人工智能一方面可以賦能政治戰(zhàn)略的制定與執(zhí)行、造就新的政治權(quán)威；另一方面可能會(huì)因?yàn)檩敵銎姸斐烧J(rèn)知安全問(wèn)題。三是算法賦能不僅使得虛假信息的甄別成本飆升，而且使技術(shù)上的偵測(cè)難度越來(lái)越大。過(guò)去數(shù)年間，假新聞泛濫現(xiàn)象正愈發(fā)凸顯。為應(yīng)對(duì)這一挑戰(zhàn)，事實(shí)核查人員需投入大量精力，對(duì)政治演說(shuō)、媒體報(bào)道、學(xué)術(shù)出版物及政府統(tǒng)計(jì)數(shù)據(jù)進(jìn)行系統(tǒng)性驗(yàn)證。然而，由于虛假信息的海量性以及病毒式的繁殖與變異能力，僅有極少數(shù)爭(zhēng)議性內(nèi)容能夠接受全面的事實(shí)核查。據(jù)報(bào)道，美國(guó)假新聞檢測(cè)研究長(zhǎng)期面臨學(xué)術(shù)關(guān)注不足、資金投入有限和制度支持匱乏等困境。相比之下，虛假信息的生成技術(shù)卻能獲得更多資源。這使得“制造謊言”遠(yuǎn)比“消滅謊言”容易。在部分國(guó)家與地區(qū)，假新聞已經(jīng)誘發(fā)擾亂公共輿論、操縱選舉結(jié)果與煽動(dòng)游行示威等危機(jī)，嚴(yán)重破壞了國(guó)家政治穩(wěn)定。

其次，人工智能賦能編程技術(shù)降低了編程成本、提高了編程效率、擴(kuò)大了編程技術(shù)的普及范圍，這在一定程度助長(zhǎng)了網(wǎng)絡(luò)犯罪和金融欺詐。一方面，以生成式人工智能為代表的新一代人工智能技術(shù)迅猛發(fā)展，顯著降低了獲取復(fù)雜代碼程序與功能應(yīng)用的技術(shù)門檻，使個(gè)體能夠更輕易地發(fā)動(dòng)網(wǎng)絡(luò)攻擊，重構(gòu)了網(wǎng)絡(luò)安全的攻防格局。在此情形下，計(jì)算外交領(lǐng)域中有組織地網(wǎng)絡(luò)攻擊和協(xié)同輿論壓制呈現(xiàn)常態(tài)化與精細(xì)化趨勢(shì)。諸如利用ChatGPT所生成的AI代理人（AI Agent）模擬高度“類人化”的行為，通過(guò)注冊(cè)虛假賬戶、盜用他人身份信息、構(gòu)造虛構(gòu)的個(gè)人資料（如頭像、發(fā)布?xì)v史、興趣偏好）以及生成大量虛假關(guān)注者網(wǎng)絡(luò)等手段，潛移默化地嵌入政治傳播鏈條。在此基礎(chǔ)上，人工智能通過(guò)生成并發(fā)布虛假政治聲明、偽造社會(huì)議題、擴(kuò)散偏置信息等方式操控輿論。同時(shí)，輔之以程序化、自動(dòng)化操作，如“自動(dòng)點(diǎn)贊”“自動(dòng)轉(zhuǎn)發(fā)”等方式，制造出虛假的政治互動(dòng)氛圍，形成一種人機(jī)混淆的“情景幻覺(jué)”。此外，借助調(diào)用編程接口（API），政治機(jī)器人能夠模擬人類用戶與社交平臺(tái)之間的溝通模式，就特定議題展開預(yù)設(shè)式對(duì)話，進(jìn)一步模糊了人機(jī)之間的界限。[10]另一方面，以FraudGPT為代表的人工智能作案工具的出現(xiàn)，使得網(wǎng)絡(luò)犯罪分子能夠低成本開展高質(zhì)量的“網(wǎng)絡(luò)釣魚”活動(dòng)，在幾秒鐘內(nèi)幾無(wú)破綻地復(fù)制銀行網(wǎng)站，此類AI代理可被用來(lái)制作數(shù)百萬(wàn)個(gè)針對(duì)特定受害者的個(gè)性化騙局。此外，以深度偽造為代表的生成式人工智能還可用于欺騙生物識(shí)別驗(yàn)證系統(tǒng)，創(chuàng)建足夠復(fù)雜的欺詐性文檔和視頻，以繞過(guò)客戶識(shí)別系統(tǒng)和反洗錢程序，從而實(shí)現(xiàn)社會(huì)工程欺詐。

再次，人工智能技術(shù)被“武器化”運(yùn)用于軍事、政治與外交領(lǐng)域，有可能會(huì)降低沖突門檻、誘發(fā)外交危機(jī)并造成倫理道德挑戰(zhàn)。這突出表現(xiàn)為以下三個(gè)方面。其一，作為一種滲透武器或隱蔽性破壞武器，人工智能技術(shù)正越來(lái)越多地被用于識(shí)別國(guó)家防御系統(tǒng)、企業(yè)網(wǎng)絡(luò)和關(guān)鍵基礎(chǔ)設(shè)施中的安全漏洞，通過(guò)自動(dòng)化網(wǎng)絡(luò)偵察和滲透測(cè)試，人工智能可以自主決策、執(zhí)行非人類道德控制的網(wǎng)絡(luò)攻擊，這些攻擊很可能會(huì)使軍事和民用通信失效，破壞交通、電網(wǎng)或金融體系，從而對(duì)國(guó)家安全和民眾的生命財(cái)產(chǎn)安全構(gòu)成直接威脅。除潛在網(wǎng)絡(luò)威脅外，人工智能還降低了開發(fā)核武器、生物武器、自動(dòng)黑客工具和惡意軟件的門檻，敵對(duì)國(guó)家和恐怖組織可能用有限資源制造非常規(guī)武器，從而加劇數(shù)智環(huán)境下的殺傷性武器擴(kuò)散并帶來(lái)潛在道德風(fēng)險(xiǎn)。其二，人工智能訓(xùn)練所內(nèi)嵌的算法偏見會(huì)強(qiáng)化國(guó)家間業(yè)已存在的政治信任危機(jī)，引發(fā)兩國(guó)民眾之間的相互猜疑和“網(wǎng)絡(luò)罵戰(zhàn)”，進(jìn)而破壞兩國(guó)和平交往的民意基礎(chǔ)，加之算法誤操作或算法本身設(shè)計(jì)缺陷觸發(fā)的網(wǎng)絡(luò)攻擊，很可能對(duì)國(guó)際關(guān)系造成重大影響。此外，在人工智能技術(shù)輕松易得且難以追蹤溯源的情形下，極端分子或第三方的算法陷害極易將整個(gè)國(guó)家拖入敵對(duì)或戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)。其三，自主武器的使用可能會(huì)改寫戰(zhàn)爭(zhēng)規(guī)則并沖擊戰(zhàn)略穩(wěn)定，引發(fā)新型軍備競(jìng)賽。有學(xué)者擔(dān)憂，人工智能軍事武器的研發(fā)與應(yīng)用將會(huì)使各國(guó)更難研判和評(píng)估彼此的軍事實(shí)力和戰(zhàn)略行動(dòng)，大國(guó)間因人工智能應(yīng)用而引發(fā)的猜疑和誤解將會(huì)加劇，“算法黑箱”問(wèn)題將使軍備競(jìng)賽風(fēng)險(xiǎn)進(jìn)一步上升。[11]

綜上所述，作為一種新式競(jìng)爭(zhēng)工具，人工智能武器能夠輕松越過(guò)國(guó)家的物理疆界，對(duì)他國(guó)進(jìn)行悄無(wú)聲息的政治擾動(dòng)和經(jīng)濟(jì)打擊，以至于傳統(tǒng)的國(guó)家主權(quán)原則形同虛設(shè)。在數(shù)智時(shí)代，人工智能將被廣泛且頻繁應(yīng)用于社會(huì)場(chǎng)景。就此而言，人工智能不僅已成為新的風(fēng)險(xiǎn)源和安全挑戰(zhàn)，其本身也在嵌入社會(huì)結(jié)構(gòu)的過(guò)程中具有了安全本體的意義。

治理人工智能風(fēng)險(xiǎn)：以計(jì)算思維塑造計(jì)算時(shí)代的安全防護(hù)

伴隨著ChatGPT和DeepSeek的爆火，人工智能“奇點(diǎn)”將至，人工智能在給人們的社會(huì)生活帶來(lái)便利和機(jī)會(huì)的同時(shí)，風(fēng)險(xiǎn)和威脅也如影隨形。置身人工智能時(shí)代，合理利用人工智能已成為塑造新型競(jìng)爭(zhēng)優(yōu)勢(shì)、維護(hù)國(guó)家安全的重中之重。以美國(guó)為首的西方國(guó)家已把人工智能領(lǐng)域的競(jìng)爭(zhēng)上升為國(guó)家優(yōu)先戰(zhàn)略，未來(lái)國(guó)際秩序的重塑也正在以人工智能競(jìng)爭(zhēng)為核心賽道展開。借助人工智能工具對(duì)推特（現(xiàn)為X）、谷歌和微博等平臺(tái)信息進(jìn)行挖掘與計(jì)算，安全觀察者得以實(shí)現(xiàn)對(duì)復(fù)雜政治社會(huì)動(dòng)態(tài)的前瞻性把握。人工智能不僅能夠服務(wù)于動(dòng)態(tài)追蹤大規(guī)模城市抗議的空間分布與時(shí)間演化路徑，識(shí)別潛在的恐怖主義活動(dòng)線索，還可輔助解析國(guó)家層面的戰(zhàn)略安全風(fēng)險(xiǎn)。政治實(shí)踐者借助人工智能工具對(duì)利益攸關(guān)人群進(jìn)行精細(xì)劃分、對(duì)政治態(tài)勢(shì)進(jìn)行整體感知、對(duì)危機(jī)進(jìn)行預(yù)警和預(yù)測(cè)，提升了決策的科學(xué)性和政治溝通的效率。毫無(wú)疑問(wèn)，盡管圍繞數(shù)據(jù)獲取的正當(dāng)性、“算法黑箱”問(wèn)題及隱私倫理問(wèn)題的爭(zhēng)議仍廣泛存在，但人工智能嵌入安全研究與安全維護(hù)的趨勢(shì)已難逆轉(zhuǎn)。在某種意義上，由技術(shù)引發(fā)的安全風(fēng)險(xiǎn)需要采用技術(shù)思維和技術(shù)手段對(duì)抗，人工智能已成為維護(hù)國(guó)家安全的新利器。

就此而言，基于人工智能的安全治理本質(zhì)是以計(jì)算對(duì)抗計(jì)算、用智能治理智能。簡(jiǎn)單來(lái)說(shuō)，安全治理的計(jì)算思維是一種典型的社會(huì)工程思維，它假定萬(wàn)物皆數(shù)、萬(wàn)物皆可計(jì)算，旨在利用系統(tǒng)科學(xué)方法和計(jì)算手段來(lái)理解社會(huì)系統(tǒng)的運(yùn)行，即實(shí)現(xiàn)社會(huì)環(huán)境與社會(huì)行為的可監(jiān)測(cè)、可計(jì)算與可評(píng)估。通過(guò)多源數(shù)據(jù)的即時(shí)監(jiān)控和超高性能即時(shí)計(jì)算，人工智能工具正日益成為安全治理與政治決策的關(guān)鍵技術(shù)支點(diǎn)。通過(guò)對(duì)社交媒體、地理信息、傳感器數(shù)據(jù)及開源情報(bào)的深度整合與即時(shí)分析，人工智能系統(tǒng)不僅能夠?qū)崿F(xiàn)對(duì)突發(fā)事件的快速感知、精準(zhǔn)定位與動(dòng)態(tài)追蹤，還能夠自動(dòng)生成事件報(bào)告與危機(jī)預(yù)警，大幅提升應(yīng)急響應(yīng)與態(tài)勢(shì)評(píng)估的時(shí)效性與準(zhǔn)確性。更為關(guān)鍵的是，這使得安全研究者與政治決策者得以在事態(tài)臨界點(diǎn)到來(lái)之前精準(zhǔn)掌握潛在的沖突爆發(fā)點(diǎn)，進(jìn)而部署前置性的政治溝通、風(fēng)險(xiǎn)化解與預(yù)防性外交戰(zhàn)略。

正是考慮到人工智能革命對(duì)現(xiàn)代商業(yè)體系、知識(shí)生產(chǎn)機(jī)制和政治運(yùn)行邏輯的基礎(chǔ)性支撐作用，各國(guó)政府紛紛出臺(tái)“AI治國(guó)方略”，強(qiáng)調(diào)科學(xué)決策不僅依賴歷史經(jīng)驗(yàn)的真知灼見，更需基于客觀數(shù)據(jù)的態(tài)勢(shì)感知與精準(zhǔn)識(shí)別。譬如，通過(guò)協(xié)同過(guò)濾算法篩選恐怖嫌疑人、以K-Means鄰近算法進(jìn)行特征聚類分析、采用PageRank算法進(jìn)行網(wǎng)絡(luò)鏈接分析，以及通過(guò)隨機(jī)森林算法進(jìn)行分類預(yù)測(cè)等，這些基于人工智能算法的安全應(yīng)用重在自動(dòng)規(guī)避數(shù)據(jù)噪音、挖掘數(shù)據(jù)關(guān)聯(lián)，進(jìn)而建立特征模式識(shí)別和進(jìn)行分類預(yù)測(cè)。概括來(lái)說(shuō)，作為數(shù)據(jù)、算法與算力的綜合運(yùn)用，人工智能驅(qū)動(dòng)的安全戰(zhàn)略較傳統(tǒng)安全戰(zhàn)略具有突出的即時(shí)信息捕捉、遠(yuǎn)程監(jiān)控和深度挖掘能力。算法之下，沖突全貌乃至沖突的每一個(gè)細(xì)節(jié)都一覽無(wú)余，有助于決策者在復(fù)雜危險(xiǎn)的環(huán)境中精確識(shí)別沖突的類型及其特征，進(jìn)而生成高效且具備較高可行性的危機(jī)管控行動(dòng)和人道救援方案。總體而言，在對(duì)外溝通交往、國(guó)家安全維護(hù)和沖突預(yù)防領(lǐng)域，人工智能應(yīng)用的場(chǎng)景時(shí)代已經(jīng)來(lái)臨，世界各國(guó)正在競(jìng)相推進(jìn)基于人工智能驅(qū)動(dòng)的安全理論創(chuàng)新與實(shí)踐模式布局。

首先，需要推進(jìn)具有普遍共識(shí)和平衡多方利益關(guān)切的國(guó)際治理標(biāo)準(zhǔn)建設(shè)。人工智能威脅超越了國(guó)界，如果缺乏全球協(xié)調(diào)，人工智能的安全治理將無(wú)據(jù)可循、無(wú)規(guī)可依。就此而言，人工智能治理是一個(gè)全球性問(wèn)題，而不僅僅是一個(gè)國(guó)家問(wèn)題。鑒于人工智能應(yīng)用的穿透性、嵌入性和泛在性，世界各國(guó)應(yīng)齊心協(xié)力，確保政府和私營(yíng)部門以及非營(yíng)利部門在全球范圍內(nèi)就共同的原則和可執(zhí)行的保障措施保持一致，最低目標(biāo)應(yīng)是建立能夠確保人工智能安全發(fā)展的全球基線標(biāo)準(zhǔn)，并將人工智能安全措施納入國(guó)家政策體系與司法框架，同時(shí)推進(jìn)跨國(guó)司法協(xié)調(diào)與執(zhí)法合作，確保各國(guó)行動(dòng)合規(guī)且步調(diào)一致。換言之，通過(guò)遵守公認(rèn)的最低國(guó)際標(biāo)準(zhǔn)，開發(fā)人員和服務(wù)提供商可以展示其人工智能系統(tǒng)的可預(yù)測(cè)性和可靠性。如果沒(méi)有這樣的全球基準(zhǔn)框架，人工智能的安全治理很可能陷于支離破碎、漏洞叢出的境況，讓犯罪分子有機(jī)可乘。

其次，助推人工智能安全技術(shù)與標(biāo)準(zhǔn)研究并激勵(lì)市場(chǎng)提供安全產(chǎn)品供應(yīng)。在某種程度上，人工智能技術(shù)的快速發(fā)展超過(guò)了安全標(biāo)準(zhǔn)的開發(fā)和實(shí)施速度，加之人工智能技術(shù)的復(fù)雜性和多樣性，以及人們擔(dān)心過(guò)于嚴(yán)格的標(biāo)準(zhǔn)可能會(huì)扼殺人工智能行業(yè)的創(chuàng)新和競(jìng)爭(zhēng)，這使得制定人工智能通用標(biāo)準(zhǔn)具有挑戰(zhàn)性。此外，當(dāng)下各國(guó)政府和市場(chǎng)對(duì)人工智能開發(fā)進(jìn)行了大量投資，但與人工智能安全相關(guān)的產(chǎn)品研發(fā)資金仍然嚴(yán)重不足。盡管存在這些障礙，人工智能標(biāo)準(zhǔn)化的前景依然充滿希望，人們?cè)絹?lái)越認(rèn)識(shí)到讓廣泛的利益相關(guān)者參與標(biāo)準(zhǔn)化過(guò)程的重要性，包括人工智能開發(fā)人員，消費(fèi)者和監(jiān)管機(jī)構(gòu)等，特別是國(guó)際標(biāo)準(zhǔn)化組織（ISO）、電氣和電子工程師協(xié)會(huì)（IEEE）等團(tuán)體正在積極開發(fā)人工智能標(biāo)準(zhǔn)，這些努力集中于人工智能系統(tǒng)的術(shù)語(yǔ)、道德考慮和技術(shù)規(guī)范。另外，在市場(chǎng)激勵(lì)方面，政府和投資機(jī)構(gòu)應(yīng)充分發(fā)揮資金引導(dǎo)作用，可考慮為開發(fā)人工智能安全解決方案創(chuàng)造財(cái)務(wù)和運(yùn)營(yíng)激勵(lì)措施，包括重點(diǎn)投資和支持人工智能驅(qū)動(dòng)的欺詐檢測(cè)、深度偽造身份驗(yàn)證和高級(jí)網(wǎng)絡(luò)安全工具研究，應(yīng)鼓勵(lì)將風(fēng)險(xiǎn)評(píng)估和對(duì)抗性測(cè)試整合到高風(fēng)險(xiǎn)人工智能應(yīng)用程序中，并采用防御性人工智能機(jī)制來(lái)檢測(cè)和減輕對(duì)抗性操縱。

再次，建立人工智能透明度與問(wèn)責(zé)機(jī)制、筑牢人工智能負(fù)責(zé)使用的安全門檻。隱私保護(hù)是監(jiān)管人工智能訓(xùn)練數(shù)據(jù)的主要挑戰(zhàn)，另外一個(gè)挑戰(zhàn)則來(lái)自數(shù)據(jù)偏差。如果用于訓(xùn)練人工智能系統(tǒng)的數(shù)據(jù)存在偏見，人工智能系統(tǒng)很可能會(huì)產(chǎn)生不公平或歧視性的結(jié)果。因此，監(jiān)管數(shù)據(jù)以確保其具有代表性和無(wú)偏見至關(guān)重要。就此而言，建立嚴(yán)密的法規(guī)體系可以幫助建立數(shù)據(jù)隱私、偏見和透明度標(biāo)準(zhǔn)，從而促進(jìn)人工智能負(fù)責(zé)任和合乎道德的使用。概括來(lái)說(shuō)，監(jiān)管目標(biāo)至少要涵蓋以下三點(diǎn)：一是數(shù)據(jù)的采集須是法律允許且經(jīng)用戶授權(quán)同意的，在技術(shù)上合乎隱私保護(hù)的各項(xiàng)基本要求；二是算法的訓(xùn)練須是透明和可解釋的，否則基于算法的決策無(wú)法被問(wèn)責(zé)；三是監(jiān)管的目的在于事前審查、事中防護(hù)與事后救濟(jì)，因而需要明確的風(fēng)險(xiǎn)評(píng)估機(jī)制和獎(jiǎng)懲措施。當(dāng)然，在不損害隱私或機(jī)密信息的情況下提高透明度可能較為困難，但是平衡安全和透明是安全使用人工智能所必需的。

綜上所述，人工智能已迅速成為我們?nèi)粘Ｉ畈豢苫蛉钡囊徊糠郑绊懼巍④娛隆⑼饨弧⑨t(yī)療、教育、金融和娛樂(lè)等不同領(lǐng)域。但由于人工智能的技術(shù)復(fù)雜性、快速發(fā)展和跨多個(gè)行業(yè)的廣泛應(yīng)用，監(jiān)管和治理人工智能風(fēng)險(xiǎn)越來(lái)越具有挑戰(zhàn)性。有效的人工智能治理機(jī)制需要立足理解人工智能的運(yùn)行原理，以人工智能對(duì)抗人工智能、用人工智能治理人工智能，既要確保人工智能系統(tǒng)的可問(wèn)責(zé)、透明度和公正性，也要促進(jìn)良性競(jìng)爭(zhēng)與防止濫用。

注釋

[1]董青嶺：《數(shù)據(jù)力量的崛起與新秩序的形成》，《世界知識(shí)》，2019年第20期。

[2][10]董青嶺：《數(shù)字外交中的深度偽造》，《中國(guó)信息安全》，2022年第10期。

[3][11]董青嶺、關(guān)意為：《算法的“武器化”：計(jì)算政治時(shí)代被嵌入的安全風(fēng)險(xiǎn)》，《東北亞論壇》，2025年第1期。

[4]朱啟超：《人工智能武器化的發(fā)展趨勢(shì)及治理策略》，《人民論壇》，2025年第2期。

[5]董青嶺、曹飛翠：《計(jì)算外交：基于智能驅(qū)動(dòng)的外交革命》，《國(guó)際觀察》，2024年第2期。

[6]韓娜、孫穎：《國(guó)家安全視域下社交機(jī)器人涉華議題操縱行為探析》，《現(xiàn)代傳播》，2022年第8期。

[7]J. B. Aladetan， “Harnessing Big Data for National Security： A Review of Information Systems and Emerging Technologies in the U.S.，“ World Journal of Advanced Research and Reviews， 2024， 24（1）.

[8]O. A. Osoba and W. Welser IV， “The Risks of Artificial Intelligence to Security and the Future of Work，“ RAND Expert Insights， 6 December 2017.

[9]C. J. Dunlap Jr.， “The Hyper-Personalization of War Cyber： Big Data， and the Changing Face of Conflict，“ Georgetown Journal of International Affairs， 2014（15）.

責(zé) 編∕李思琪" 美 編∕周群英