2022 年人工智能領域國家安全風險評估及對策

王 楚

（國家計算機網絡與信息安全管理中心河北分中心，石家莊 050000）

0 引言

近年來，人工智能由于應用前景廣、戰略價值高，已成為大國科技競爭的重點熱門前沿領域。人工智能領域的競爭已經從市場布局、技術革新發展到領導地位和國際標準制定的層面。隨著我國人工智能研發投入不斷加大和創新不斷增強，西方發達國家的擔憂情緒加劇，抹黑和圍堵我國人工智能產業的行徑不斷，我國人工智能產業發展所面臨的國際競爭環境越發嚴峻，使我國科技產業安全甚至國家安全存在潛在風險。因此，評估人工智能未來在國家安全方面存在的風險點，對潛在風險進行預判和提前應對，對人工智能行業良性發展至關重要，對我國國家網絡安全發展也具有重大意義。

1 2021 年主要國家（地區）人工智能發展特點

1.1 加強頂層設計，持續出臺推動人工智能發展的戰略規劃和實施方案

2021 年，美國、英國、歐盟等國家（地區）強化人工智能發展戰略迭代，圍繞核心技術、財政支持、人才培養、倫理規范等，密集出臺相關戰略規劃、政策文件，為人工智能技術發展提供政策保障，力圖在新一輪科技競爭中掌握主導權。2021 年8 月，美國國土安全部公布《人工智能與機器學習戰略計劃》，開展人工智能領域的研究、開發、測試和評估活動，以滿足該部的任務需求，并向利益攸關方提供人工智能發展及機遇和風險方面的咨詢。2021 年9 月，美國商務部、國家人工智能倡議辦公室和白宮科技政策辦公室組建一個面向總統和聯邦機構人員提供人工智能相關建議的國家人工智能咨詢委員會（NAIAC）。同月，英國文化媒體和體育部（DCMS）制定了一項十年戰略，旨在使該國成為人工智能領域的全球超級大國。2021 年10 月，歐洲議會投票支持全面禁止執法機構使用人工智能和面部識別系統進行大規模公共監控。2021 年11 月，法國政府公布了法國2030 第二階段的戰略計劃——到2025 年，將在人工智能上投資22 億歐元，重點用于人才培養，旨在解決人工智能領域的人才挑戰，讓法國成為國際舞臺上的“人工智能冠軍”。一系列舉措表明人工智能對科技、產業和社會變革的巨大影響正得到更多國家的認同。

1.2 推動落地轉化，加速推進人工智能技術產業化步伐和軍事化進程

2021 年4 月，英國國防部國防科學技術實驗室（Dstl）計劃在紐卡斯爾國家數據創新中心（NICD）建立人工智能研究團隊，希冀利用該地區的AI 技術提高英國在人工智能和數據科學領域的能力。2021 年7 月，美國國防部計劃向作戰司令部派出數據和人工智能專家團隊，以加快推進人工智能相關應用。美國空軍推出新的“數據與人工智能計劃”以支持美國國防部范圍更廣的行動。2021 年8 月，美國陸軍未來司令部發布廣泛的機構公告（BAA），概述了未來五年它感興趣的11 個人工智能研究領域，重點是數據分析、自治系統、安全和決策協助。2021 年10 月，美國空軍研究實驗室（AFRL）與英國國防科技實驗室（Dstl）首次展示了兩國軍隊合作部署機器學習算法的能力。

1.3 深化國際合作，頻繁推動人工智能領域建立創新伙伴關系和發展同盟

2021 年，世界主要國家和地區為了搶占發展先機，加大了在人工智能領域的國際合作和結盟。2021 年3月，印美科技論壇（IUSSTF）發起了美印人工智能（USIAI）倡議，專注于在兩國優先考慮的關鍵領域開展AI 合作。USIAI 倡議將作為討論雙邊AI 研發合作的機遇、挑戰和障礙的平臺，促進AI 創新，幫助分享發展AI勞動力的想法，并推薦促進伙伴關系的模式和機制。2021 年7 月，新加坡和日本簽署關于數字經濟、人工智能、網絡安全和信息通信技術的合作備忘錄。同月，印度國家金融管理研究所（AJNIFM）與微軟建立了戰略合作伙伴關系，以建立人工智能和新興技術卓越中心。該合作旨在探索云、人工智能和新興技術在改變和塑造印度公共財政管理未來方面的作用。2021 年10 月，北大西洋公約組織（NATO）正式通過北約首項人工智能戰略。

2 2022 年人工智能領域國家安全總體態勢

2.1 人工智能全球領導地位之爭將更加激烈

2021 年1 月，美國制定國家人工智能戰略，作為美國年度授權法案的一部分。2021 年3 月，美國人工智能國家安全委員會發布研究報告，就美國如何在人工智能激烈競爭的時代贏得競爭，維持全球領導地位等展開了一系列論述，報告稱，美國必須改變當前形勢，否則中國就會擁有未來十年內超越美國成為人工智能全球領導者的力量、人才和雄心。2021 年6 月，澳大利亞政府發布了《澳大利亞的人工智能行動計劃》，為澳大利亞制定了一個愿景，即成為開發和采用可信、安全和負責任的人工智能全球領導者。同月，北約成員國商定啟動名為“北大西洋國防創新加速器”（DIANA）的新計劃，目的是加快大西洋兩岸在人工智能等關鍵技術上的合作，挑戰中國在人工智能領域的領先地位。2021 年9 月，英國政府制定了一項十年戰略，旨在使該國成為人工智能領域的全球超級大國。未來，西方發達國家爭奪全球人工智能領導地位的情況會愈演愈烈，皆會將中國視為最主要的競爭對手之一。

2.2 以美國為主導的人工智能軍備競賽將愈演愈烈

以美國為首的西方發達國家持續深化人工智能在情報收集和分析、后勤保障、網絡空間作戰、指揮和控制等方面的作用，越來越多地將人工智能集成到各種軍事應用中以尋求作戰優勢，軍事智能領域面臨越來越激烈的國際競爭。拜登政府對人工智能的重視程度，與特朗普政府相比有增無減，尤其是著力推進人工智能在軍事領域的應用。2021 年7 月，作為人工智能和數據加速（ADA）計劃的一部分，美國國防部向作戰司令部派出數據和人工智能專家團隊，以加快推進人工智能相關應用。ADA 計劃旨在于真實的作戰場景中測試人工智能算法，發現算法應用的潛在障礙。此外，美國軍方已把中國視為“步調挑戰”，在華盛頓的一次數字峰會上，美國國防部長奧斯汀稱：“在人工智能以及其他很多領域，我們明白，中國是我們的步調挑戰。”這意味著，美國的軍力發展步調以中國軍力的發展節奏為衡量標準，美國正加速推進人工智能軍事化步伐，并對未來人工智能戰爭預做準備。五角大樓宣稱，為了有效對抗不斷崛起的中國，美國軍方展開沖刺，隨著中國在人工智能領域不斷逼近，整場競賽遠未結束。

2.3 抹黑我國人工智能產業發展的情況將更加頻繁

澳大利亞戰略與政策研究所（ASPI）2021 年5 月5日發表《中國在非洲的人工智能部署對安全和主權構成威脅》一文，稱人工智能在整個非洲大陸的大規模部署，正使中國企業獲得競爭優勢。中國在識別其人口中的非白人面孔方面已經很成熟了，華為的人工智能系統可以持續收集非洲黑人的面部數據和人、車輛在城市中的運動數據。這些數據項目可能意味著非洲在制定政策方面持續依賴中國和中國的技術。英國廣播公司（BBC）2021 年5 月稱，一套使用人工智能和面部識別技術來揭示情緒狀態的攝像系統已經在新疆維吾爾人身上進行了測試，一位軟件工程師聲稱已經在新疆的警察局安裝了這種系統。美國研究機構IPVM 聲稱，一些公司提交的專利申請中發現的證據表明，面部識別產品是專門為識別維吾爾族人而設計的，肆意歪曲事實，抹黑中國。華為、海康威視等科技公司均被指生產過相關產品。未來，為了圍堵我國在人工智能領域的發展，美歐等西方國家將進一步借助人工智能炒作“中國數字威權”，試圖阻礙我國人工智能產業正常發展。

3 2022 年人工智能領域國家安全主要風險點

3.1 需警惕美國和西方主導人工智能技術和治理規則制定的國際話語權，孤立、打壓中國

美國將其盟友和伙伴整合在統一的人工智能技術使用準則和政策框架下，由此形成以美國為首的技術生態圈。美國和歐盟人工智能監管指南和白皮書的出臺，意味著人工智能政策已從倫理轉向監管，美歐意在立法和監管上謀求全球領導地位。2021 年7 月，美國商務部長雷蒙多發表聲明稱，人工智能相關的規則應該以與美國自由、開放等理念一致為出發點，美方不能讓中方制定AI 規則。此外，美國必須與盟友團結合作，才能對抗中國的“威脅”。美國國防部長奧斯汀也稱，中國正在制訂針對“監控、網絡攻擊和自動武器”等的長期AI 發展計劃，美國應對此進行回應。未來，如果美國無法主導人工智能領域，其極有可能通過各種各樣的限制和遏制手段，阻擋我國人工智能產業進入國際市場，并將阻止我國參與制定人工智能技術國際標準和規則。我國在人工智能領域的聯合創新和國際合作或將面臨更高的壁壘和障礙，需謹慎應對。

3.2 為維護人工智能的技術領先地位，美國恐會繼續打壓我國科技企業

《中國人工智能發展報告（2020）》數據顯示，中國人工智能專利申請已經超過了美國成為世界第一，約占全球申請量的74.7%，是美國申請量的8.2 倍。同時，在美國斯坦福大學的報告中可以看到，2020 年學術雜志刊登的AI 相關論文引用次數情況，中國首次超越美國，份額為20.7%。我國人工智能產業飛速發展，令不少美國鷹派人物非常不安，他們主張在必要時機，應動用一切手段，不惜任何代價，打壓我國的人工智能技術，因為我國在人工智能領域的每一次技術突破，都會嚴重威脅美國在全球的科技地位以及相關產業的利益。2021 年4 月8 日，美國商務部將七個中國超級計算實體添加到“實體清單”中，包括天津飛騰信息技術、申威（上海高性能集成電路設計中心）、Sunway Microelectronics、國家超級計算濟南中心、國家超級計算深圳中心、國家超級計算無錫中心以及國家超級計算鄭州中心。未來，恐怕美國針對我國人工智能等科技企業的打壓仍將繼續。

3.3 人工智能產業人才競爭將加劇，美國恐進一步對我國科技人才進行限制

2021 年7 月，美國以違反第10043 號總統令為由拒絕我國500 多名赴美留學生的簽證。第10043 號總統令是特朗普執政時簽署的，旨在對中國理工科學生赴美留學做出限制。據了解，此次被拒簽的學生都是赴美國攻讀碩士或博士學位的研究生，所學專業集中在電子工程、計算機、材料科學等專業性較強，并且涉及國防科技領域的理工科專業。很明顯，美國無端拒簽中國留學生，就是要對我國理工科專業方面的人才進行限制，壓制中國科技的發展勢頭，維護美國的優勢地位。美國國家人工智能安全委員在最終報告中也提出了以人工智能為核心的數字人才競爭制勝戰略，提出了強化政治審查機制，特別是在出口管制和利益沖突披露等方面將收緊政策。未來，美國恐將繼續搭建科研高墻，以維護國家安全的名義打擊限制中國理工科留學生及學者。

4 相關對策建議

4.1 強化人工智能技術研發、資金投入和人才培養

加大資金和資源投入，加強在人工智能基礎理論和前沿技術方面的引領性原創性科學研究，推動人工智能技術創新應用和產業對接，搭建人工智能創新與傳統行業生態有效銜接的橋梁，加快推動人工智能專業人才培養和隊伍建設，持續推動人才對外合作與交流，主動打破人才流動壁壘，營造開放的人才交流與合作環境。

4.2 主動宣介中國人工智能發展理念和全球貢獻

邀請國際人工智能專家、業界代表來華分享、交流，加深其對中國“人機協同、跨界融合、共創分享”“攜手推動構建人類命運共同體”等發展理念的了解。利用世界互聯網大會、ITU 等舞臺，加大 “中國產品服務全球”相關信息的報道和傳播，讓國外民眾更真實、近距離地感受中國人工智能“技術向善”“開放共享”的精神。

4.3 構建人工智能治理全球協調機制

大力倡導在聯合國框架下建立正式的磋商機制，積極擴大與發展中國家在數字經濟、人工智能等領域的合作，適度擇機擴大與歐洲企業以及歐盟在人工智能領域的務實合作，緩和以美國為首的西方發達國家在意識形態領域對中國的指責和施壓。通過雙邊或多邊機制推動國際社會就人工智能軍事化應用達成有約束性的國際規則條約。