人工智能對國家安全的影響
——基于美國四家智庫的觀點分析

文/彭紅梅 劉忠

自1956年達特茅斯會議上首次提出人工智能的概念以來，人工智能的發展幾經沉浮。近年來，隨著機器深度學習和大數據等領域的突破，人工智能再次得到快速發展，其對國家安全的多重影響也日趨顯現。對此，美國的主要智庫密集開展跟蹤研究，推出了一系列研究成果。

本文從防務與國家安全領域的美國知名智庫中，選取了蘭德公司、貝爾弗科學與國際事務中心、新美國安全中心和戰略與國際問題研究中心等四家智庫，對他們有關人工智能與國家安全研究的基本觀點、主要認識和行動建議作系統梳理和分析。這對于了解美國學界的理論觀點，洞悉美國相關的政策和行動，思考在推進中國人工智能發展的同時如何維護國家安全，無疑具有一定的意義和價值。

美國智庫積極為國家人工智能戰略建言獻策

1.成立專門組織展開專題研究

對于當前人工智能的大發展大應用，美國智庫非常重視，多從大國競爭的角度和國家戰略安全的高度，組織研究團隊展開專題研究。其中，蘭德公司是以“全球風險與安全中心”為依托，建立了“安全2040項目”，設想2040年世界可能面臨的重大安全挑戰，研究具體的解決方案，“人工智能與國家安全”是該項目的重要研究議題；為統合研究力量，新美國安全中心也成立了“人工智能與國家安全工作隊”，由前美國國防部副部長羅伯特·沃克和谷歌云人工智能主管安德魯·摩爾博士總負責，成員包括前政府高官、大型私企主管和學術專家，主要任務是探討美國如何應對人工智能革命帶來的挑戰；2018年以來，貝爾弗科學與國際事務中心在其“國際安全項目”專題下，先后組織召開了“人工智能的公共政策挑戰”和“人工智能：軍事行動與決策的利與弊”多場研討會；戰略與國際問題研究中心在2016年發起了“中國創新政策系列”研究項目，目的是了解中國在以人工智能為代表的創新技術和政策方面的實際情況，評估其對工業、中國貿易伙伴和全球經濟的影響等。

2.密集推出研究報告為政府建言獻策

以研究軍事尖端科技和重大戰略為主的蘭德公司，數十年堅持對人工智能展開跟蹤研究，并把研究重點放在人工智能對作戰樣式、武器裝備、核武器和網絡安全等的影響方面。另外三家智庫主要是從2017年開始對相關議題展開密集研究，這也符合大多數智庫熱衷于跟蹤前沿熱點的特征。貝爾弗科學與國際事務中心的分析研究更為敏感一些，該中心在2017年7月率先推出研究報告《人工智能與國家安全》，并在2019年8月再次發布報告，探討技術本身的脆弱性對國家安全的負面影響。新美國安全中心和戰略與國際問題研究中心則側重于從美國國家戰略安全、中美大國競爭和軍事防務安全的視角展開研究。

在本輪人工智能革命中，美國智庫起到了理論研究、分析預測和呼吁推動的重要作用。正是在包括智庫在內的各界大力推動下，美國政府對人工智能的態度經歷了一個大的轉變，特別是在2019年2月推出了《美國人工智能倡議》，正式將人工智能上升到美國國家戰略的高度。

對人工智能影響國家戰略安全的觀點分析

1.對維持美國技術領先地位的影響

智庫將人工智能領域的大國競爭看作是領導力之爭，提出“從軍事角度來看，人工智能領導力對于建立和部署有效的軍事力量可能越來越必要。從經濟角度來看，人工智能的領導力對整體經濟領導力至關重要，這意味著在人工智能領域領先的國家將在全球經濟中占據一席之地。貝爾弗科學與國際事務中心的研究報告認為，過去幾年內人工智能的進步遠超預期，相信這種快速的進步未來將持續甚至會加速，進而將在國家技術安全領域發揮變革性的潛力。建議政府將保持美國的技術優勢作為首要目標，同時要對人工智能在和平和商業領域的應用提供政策支持，以及減少人工智能可能給國家安全帶來的災難性風險。戰略與國際問題研究中心的報告從生態系統組成、當前的投資和在國家安全領域的應用等方面，對當前人工智能發展狀況進行了分析，提出美國要在人工智能領域取得世界領導地位，必須在投資、管理和政策方面采取行動。強調“在世界上其他國家都在大力投資人工智能的背景下，美國政府要付出重大努力才能擁有技術上的優勢，這就要與私營科技公司合作，并廣泛開展與西方伙伴國及盟國間的合作”。

近年來，中國的快速崛起和在新興技術領域不斷取得突破，引起了美國越來越大的警惕和抵制。美國智庫方面認為，中國在人工智能領域的巨額投資對美國構成了非常大的挑戰和壓力，人工智能等領域的競爭是中美競爭的核心，關乎美國能否保持住前沿技術優勢這一核心問題。如戰略與國際問題研究中心的報告《與中國的技術競爭》，認為在當前國際政治力量分化調整、大國競爭日益激烈的總趨向下，“對新技術的創新能力，特別是數字技術(賦予他們以政治、安全和經濟增長方面的重要意義)已經成為中美關系的核心要素”。2019年6月，新美國安全中心召開了以國家安全為主題的研討會議，主要是探討在大國競爭時代如何提高美國的戰略優勢，各分會主題包括維持美國的軍事優勢、對抗高科技時代的非自由主義，以及以新的方式來展示美國經濟實力等內容。“美國在人工智能時代的領導力”作為一個分會研討主題，聚集了約翰·霍普金斯智能系統中心主任艾希禮·略倫斯和新美國安全中心的邁克爾·霍洛維茨、卡拉·弗雷德里克和艾爾莎·卡尼亞等人工智能和國家安全領域的專家，顯示“中國議題”已經成為智庫熱議的焦點。

2.對現有國際體系和規則的沖擊

智庫方面認為，人工智能革命在國際政治領域將產生深刻影響，中國等新興國家通過拓展人工智能網絡，將擴大全球影響范圍，進而對現有國際體系和國際規則帶來巨大的沖擊和挑戰。對于中國在國際人工智能領域的政策、投資和對外合作，美國智庫保持了非常高的警惕。戰略與國際問題研究中心的報告就認為，當前不斷加劇的中美競爭不同于19世紀控制領土和資源的帝國競爭，關鍵點不在于軍事力量和領土擴張，而是對全球規則、秩序、標準、貿易和技術的競爭，人工智能因此成了中美技術競爭的重要方面。特別是針對中國在推進“一帶一路”倡議中，提出加強人工智能領域的國際合作議題，智庫方面的觀點比較消極。新美國安全中心的資深研究員丹尼·克里曼等就認為，中美大國競爭決定了21世紀的發展進程，中國通過“一帶一路”倡議下的經濟活動“正在追求一個以大國勢力范圍、國家主導的經濟互動和逐漸蔓延的威權主義為特征的21世紀愿景”。美國智庫認為這是中國在“一帶一路”的布局下，通過投資實體和數字基礎設施網絡，重塑世界秩序和世界體系，包括破壞美國與盟友間的網絡體系，弱化歐洲在中國政策上的凝聚力，以及促使中國成為世界領先的信息技術強國。2019年2月，新美國安全中心在分析中國人工智能戰略的報告中，特別強調“除了在軍事應用領域的競爭外，人工智能技術的前沿越來越依賴于計算機芯片，未來國家人工智能戰略競爭的焦點可能是半導體行業，而中國在人工智能商業領域和半導體市場上的成功有助于增強中國的地緣政治實力。

3.對美國軍事優勢的挑戰

對于人工智能在軍事領域的應用及影響，以新美國安全中心和蘭德公司的研究最為深入和具體。在2018年的研究報告中，新美國安全中心認為人工智能將在軍事領域產生五個方面的影響：一是戰場態勢感知上，人工智能技術增強了小型機器人傳感器的信息搜集能力，并有助于更好地理解這些信息；二是電磁頻譜上，人工智能可以生成新的干擾和通信方法，以對戰場的電磁頻譜產生影響；三是欺騙和偽裝上，人工智能生成的對抗網絡可用于偽裝和生成誘餌，針對人工智能系統的欺騙性攻擊也將越來越重要；四是戰術上，不斷優化的機器學習技術可用于模擬環境，使得戰爭背景更趨復雜，戰術選擇更趨靈活；五是指揮控制上，人工智能系統有助于指揮官更快地處理信息，更好地理解作戰空間，更快速準確地下達決策命令。蘭德公司將關注的重點放在了核安全領域，其在2018年4月發布報告提出，人工智能正在賦予機器人學習和思考的能力，對未來智能機器人的爭奪將在大國間引起新一輪的軍備競賽，人工智能技術的進步、智能機器人的出現很可能打破一直以來“相互確保摧毀”的核威懾平衡，進而鼓勵人類作出災難性的決策。

美國智庫認為，近年來中國在軍事現代化進程中對人工智能的開發運用，給美國軍事優勢帶來了巨大挑戰，需要對此進行全面評估。如“人工智能與國家安全工作隊”成員、新美國安全中心客座研究員艾爾莎·卡尼亞認為，中國在謀求應用人工智能來實現軍事現代化，進而形成對美國的軍事優勢。在這份名為“人工智能、軍事革命和中國的未來軍力”的報告中，卡尼亞提出美國必須將中國軍隊視為旗鼓相當的對手，重新評估中美技術競爭和軍事競爭的本質，評估中國推進人工智能軍事化對軍事革命的影響，以及對美國的戰略挑戰。建議美國一方面要制定一項長期的國家戰略，在減少“非法”技術轉讓的同時，增加研發預算。另一方面要制定培養和吸引頂尖人才的政策，維護美國在人力資本上的競爭優勢。要把人力和組織能力作為國防創新的決定性要素，為迎接人工智能引發的軍事競爭和軍備競賽做準備。2019年6月，卡尼亞在中美經濟和安全審查委員會聽證會上發表演講，稱人工智能為中國提供了軍事創新的契機，但也認為中國在人工智能的軍事創新方面存在一定的問題和短板，包括軍隊的創新能力不足，人才和人力資本持續短缺，在適應未來作戰水平方面存在差距，不能將智能化方面的作戰理論和概念運用于實踐，管理和整合復雜數據上存在困難，以及缺乏實戰經驗和軍民融合戰略效果不佳等。

對人工智能潛在消極影響的評估

1.系統平臺的不確定性和人機協同故障

智庫方面認為，當前的人工智能系統只是一種“經驗智能”，其智能水平僅限于設計參數下的數據經驗，遠不能理解行為體的意圖并進行提前預判。例如，人工智能的圖像識別系統可以準確地識別場景中的對象，但很難理解場景中人物和事件的復雜聯系；可以準確地識別人的面部情緒變化，精確地跟蹤位置運動，但卻無法理解行為背后的動機。因此，智庫的學者稱當前的人工智能是一種“白癡學者”式的智能，不具備對突發事件和故障的臨機處置能力。由此提出，在國家安全環境中，人工智能系統間為尋求建立競爭優勢，可能發生意外的博弈或對抗，進而采取破壞性的行動。例如在網絡空間或電子戰中，機器系統間的相互對抗和交互作用可能超出人的控制和預料，產生混亂甚至釀成災難。

除此之外，人機協同故障是又一個潛在隱患。智庫學者認為，在高度復雜的自動化系統中，系統用戶因不能正確理解系統設計者的初衷，進而對接收的信息處理不當，也會引發故障造成事故。“在許多國家安全環境中都可能出現這種情況，例如軍事系統、邊境安全系統、交通運輸系統和執法系統等應用程序”。特別是在敵對環境中，人工智能系統的這一弱點可能被惡意操縱和利用時，更會造成嚴重的安全問題。當前這些安全問題主要存在于機器學習技術領域，而隨著深層神經網絡的發展，后者更容易受到欺騙(如虛假數據輸入)攻擊。另外，黑客也往往會利用人工智能在學習、處理數據和決策方面的弱點，展開破壞和攻擊行動。針對以上這些問題，智庫方面提醒美國政府“必須意識到這些風險，并在設計和使用人工智能系統時盡可能減少這些脆弱性”。

2.社會治理和社會倫理方面

在國內社會層面，人工智能也將帶來一系列的全新問題。總結美國智庫的觀點，社會治理上的沖擊和挑戰主要來自兩個方面。一是信息安全，包括個人隱私和國家戰略信息等。智能設備、物聯網和互聯網的廣泛應用制造了海量數據信息。面部識別技術、生物特征識別技術與大型監視系統相結合，在增強公共安全管理效能的同時，也從個人隱私到國家戰略信息層面帶來了廣泛的安全隱患。對此，貝爾弗科學與國際事務中心的報告就特別強調，一方面需要信息收集方承擔起保障數據安全的義務，貫徹《網絡安全法》中“誰收集，誰負責”的原則，防止用戶隱私數據信息的泄露；另一方面，用戶自身也要提高安全意識，在社交媒體采取安全防范措施，注意保護自己。同時，政府也要對信息進行分類管理，注重對可能涉密信息的保護。二是對人工智能系統的惡意攻擊。人工智能技術本身的弱點和技術擴散，使得技術很容易被掌握，并對其漏洞加以攻擊。由此，未來的社會治安和反恐怖襲擊可能面臨新的挑戰。蘭德公司的研究人員針對人工智能引發的社會風險，向美國政府提出了四點建議：一是鑒于人工智能處理的海量數據遠超出人類極限，政府的決策必須預先考慮各種可能的意外風險；二是需要制定適當的失效保護措施，納入非自動化流程，減少對人工智能的過度依賴，防止一旦發生錯誤可能造成的破壞性后果；三是人工智能對經濟社會影響巨大，要及時調整政策以應對各種可能變化；四是針對中國等在人才和創新方面對美國主導地位的威脅，美國應當加強數學和科學的基礎教育，并通過移民政策吸引全球人才。

在社會倫理層面，當前人工智能的發展引發三個方面的問題。首先是人工智能取代人，會造成整個社會產業重塑和工作崗位重組，隨之而來社會將面臨大量的失業問題，造成社會不穩定；其次，從商品購買、娛樂誘惑到政治傾向誘導，人工智能可能引導甚至操控人，使人的思想和行為被技術控制；最后，機器之間、人機之間的協作關系，對信賴、團結、包容和互助等傳統工作關系也帶來了挑戰。機器與人之間是否需要互相信任，法律應如何界定機器犯罪，及機器人失控后對人類的反控制問題，都成為智庫討論的重要內容。戰略與國際問題研究中心的報告指出，人工智能引發的相關倫理問題是未來需要研究的一個重要問題，包括如何確保人工智能的使用不違反戰爭法、尊重人權，還包括如何保護個人隱私及人的自主權。在政策建議中，認為首要的是必須制定倫理方面的政策和標準，指導人工智能技術的應用。

對中國的幾點啟示

1.推進人工智能發展要優先補齊國家戰略安全短板

當前中國的人工智能發展在總體向好的同時，在國家安全層面也有比較突出的問題和短板，包括行業領域的高端人才匱乏，行業發展受市場的過度裹挾，以及國家戰略層面的前瞻性、對策性研究不足等，需要高度重視和集力解決。首先，專業建設上要大力培養行業頂尖人才群體。中國在人工智能領域的技術與應用已進入前沿發展國家行列，“但從發展質量上看還遠未達到樂觀的地步，主要表現是在硬件和算法這樣的人工智能核心技術領域力量仍很薄弱，頂尖人才數量不足，且很大程度上依賴于具有海外學習工作經歷的歸國人才”。人才培養上有賴于西方、受制于人的現實，構成嚴重的安全隱患和發展瓶頸。因此，需要改革人才培養的結構、模式和體系，支持和引導基礎性、長期性的冷板凳研究，并通過政策、待遇和條件來吸引人才，建立中國的人工智能頂端人才高地。其次是產業發展上要加強科學引導。從國家戰略安全的全局來看，要重視當前人工智能領域的全國上下運動式發展和市場過熱的問題，前者容易產生盲目上、一窩蜂的現象，重數量不求質量，后者則“突出了私營部門公司推動該領域發展的巨大能力，但也掩蓋了政府的投資和參與及其應用于國家安全領域的重要性”。要把人工智能發展放在國家安全戰略的全局中，理性看待商業因素在其中所起的作用，防止受市場過熱或過冷的過度裹挾，偏離了科學的發展方向。同時，“無論是軍事還是產業上的規劃，都應防止盲目性、避免投資泡沫”。最后是要加強對策性、前瞻性研究。與美國智庫相比，中國智庫對人工智能等前沿技術的研究側重于技術層面和產業研發層面，戰略性、前瞻性和對策性研究不足，高水平的專家和成果都非常短缺，難以為國家安全層面的戰略決策提供智力支持。亟需圍繞國家總體安全觀的現實需求，大力建設和發展高端智庫體系，加強對人工智能等前沿性、顛覆性技術的戰略研判，加強對象國跟蹤研究的持續性和精細化，以此為國家戰略決策提供智力支持。

2.破解外部打壓要有長期準備和積極應對

在當前人工智能領域，中美兩國處于引領的地位，相互間的競爭不斷加劇。一方面，對來自美國的競爭和壓力要有長期準備。從2018 年上半年開始，美國陸續對中國商品加征關稅，引發了中美間的貿易戰，并先后對中國高科技通訊公司中興和華為實施制裁，在中美人才交流上也開始踩剎車、開倒車，中美關系出現重大轉折。而通過對美國智庫的報告分析發現，其觀點也幾乎一致指向與中國的大國競爭，認為在人工智能發展深刻影響國家安全的趨勢下，“美國不僅必須預見到這些發展，而且必須采取果斷行動，為競爭做好準備，并充分利用人工智能帶來的機遇”；“美國應采取適當的改革措施，保護美國在人工智能領域的主要優勢，包括保護知識產權，限制出口敏感技術，以及對外國投資委員會進行立法改革”。由此可見，美國將人工智能上升到國家安全的戰略軌道，對中國的一系列限制和打壓是有目的、有計劃和有步驟的，也將是戰略性的和長期性的。未來中國人工智能戰略的推進過程中，對美國方面的壓力和干擾要保持足夠的清醒認識，要有長期的抗壓和斗爭準備。另一方面，人工智能發展要堅持自主可控。抗擊外來壓力最根本、最有效的手段就是獨立自主。長期以來，中國在尖端技術領域落后于西方，在關系國家安全的核心技術上受制于人，造成了非常嚴重的隱患和制約。改革開放以來，得益于基礎研究領域的巨額投資和長期積累，中國終于站在了以人工智能為主導的新一輪科技革命前沿，迎來了實現尖端技術自主研發，破解“卡脖子”問題的歷史性契機。而隨著核心技術競爭成為大國競爭的焦點，中國開放式發展的外部環境不斷惡化，甚至未來可能出現惡性競爭和被西方聯合打壓的局面。因此，在人工智能戰略上，特別要把握住創新和發展的主動權，確保技術研發和應用上的自主和可控，以此構建和打造國家政治、經濟、軍事、社會和核等的綜合安全體系。

3.發揮人工智能在國家治理中的作用同時要防范安全風險

在推進國家治理體系和治理能力現代化方面，隨著智聯網、物聯網和智慧城市等的普及，人工智能技術在政府機構改革和提高辦事效率，在城市治理和社會治安等方面都提供了新的思路和手段。如在城市治理中，搜集和監測人流車流的定向數據，采取干預措施，可有效減少城市交通擁堵和交通事故；在社會治安中，利用人臉識別和大數據比對技術，對案件遺留線索進行偵查追蹤，近年來先后破獲了多起長期積壓的重特大刑事案件，充分顯示了人工智能的巨大潛力。特別是在應對當前的新冠肺炎疫情過程中，人工智能在疫情數據搜集分析、機器人輔助治療、尋找病毒宿主和對人員場所定位跟蹤等方面，發揮了不可替代的作用，體現了其在加強國家應急管控體系和提高社會管理能力方面的潛力和前景。同時，面對人工智能對社會秩序、倫理和思想等帶來的沖擊，要加強相關的研究、立法和管理，確保良性安全發展。首先是要完善人工智能相關的法律法規，在責任確認、個人隱私、產權保護和信息安全等方面加強立法，對于人工智能系統可以做什么，不可以做什么，要從法律上把它規定好、約束好；其次是要建立健全安全監管和評估體系，圍繞人工智能產品在設計和使用過程中的新問題和新風險，加強技術偵測和安全防范，確保人工智能產品的開發和使用安全可控；最后是要堅持人工智能不能操控人，人工智能不能完全取代人這一普遍共識。在人工智能的發展應用過程中要尊重基本人權、基本規章制度和核心價值觀，從社會學、倫理學和未來學等角度加強教育引導，在社會上樹立一個正確的觀念和科學的態度，減小其對思想層面的沖擊和干擾。