把握人工智能時代下的國家安全治理

闕天舒 張紀騰

2018年10月31日，習近平總書記主持中央政治局第九次集體學習，研究人工智能發展現狀和趨勢。習近平總書記提出，加快發展新一代人工智能是我國贏得全球科技競爭主動權的重要戰略抓手。同時，突出強調了要加強人工智能發展的潛在風險研判和防范，確保人工智能安全、可靠、可控，進而維護好人民利益和國家安全，推動我國新一代人工智能健康發展。

作為新一輪科技革命和產業變革的核心驅動力量，人工智能的快速發展在為社會提供強大發展動力和平臺的同時，也將對國家安全治理造成一系列挑戰。因而，如何維護人工智能時代下的國家安全治理，把控技術研發方向和解決相關法律法規、制度體系、倫理道德等衍生問題，也將成為未來人工智能發展的關鍵所在。

人工智能或對國家安全治理形成重大挑戰

人工智能或將打破傳統的國際戰略對抗模式。2018年9月，美國布魯金斯學會發布了《2020—2040年軍事技術變化預測》，該報告認為未來戰爭的革命性技術變化可能只發生在計算機和機器人的部分領域，人工智能將從機器人、自主化和網絡安全三方面形成新的軍事優勢。實際上，人工智能的軍事化應用或將形成新的軍事能力和戰略博弈模式，進而實現戰爭形態的轉變。同時，戰爭形態的轉變也將導致原有的戰略博弈結構失衡，并且這種由于技術而產生的失衡，很難通過戰術博弈或數量疊層進行中和或彌補。顯然，缺少人工智能技術輔助的國家將在戰略判斷、策略選擇與執行效率等多方面處于絕對劣勢，擁有方則將具有全面超越傳統軍事力量的能力，進而在對抗中占據新的技術制高點，國際主體間的力量鴻溝將更加難以跨越。此外，隨著人工智能技術的成熟，人工智能軍事化應用的成本和門檻將不斷下降，其技術擴散所帶來的風險也將隨之上升，進而也將對全球安全體系基礎造成巨大的挑戰。

人工智能或將拉大國際行為主體的能力代差。人工智能產業的核心邏輯是通過自動化生產替代勞動力來提高生產效率，而這將對傳統生產模式造成“創造性破壞”。一方面自動化生產將導致跨國企業將生產部門從發展中國家回遷，另一方面技術的高門檻將導致全球產業鏈進一步向價值鏈躍升，這就意味著人工智能技術或將大大減少發展中國家以承接發達國家產業轉移的方式進入全球產業鏈的機會。同時，人工智能自身的“創新增壓器”角色還使占據技術高地的國家形成一種自我增強的技術經濟優勢，進而掌握制定相關“游戲規則”的主導權以實現更多的超額性收益。根據清華大學發布的《中國人工智能發展報告2018》，截至2018年6月，發達國家在全球人工智能專利產出、人才投入等成果方面保持絕對的領先地位，其中美國在多數指標上仍具有絕對性的優勢。可見，發展中國家的人工智能技術發展機遇期將會變得非常有限，那些技術條件和資本基礎薄弱的國家甚至可能會喪失實質性的發展機會。

人工智能或將使資本與技術獲得“超級權力”。作為一種資本密集型和技術導向型的產業，人工智能的發展需要大量的資本投入和技術積累，這或將導致社會各產業間、群體間與階層間的發展能力、資源占有程度與社會影響力方面的極大不對稱。目前，幾乎所有重要的人工智能領域的突破性成果都是出自谷歌、微軟、IBM、亞馬遜和蘋果等大型公司所支持的研究平臺，并且這些大型跨國公司本身對于全球人工智能的核心技術和頂尖人才具有極強的虹吸效應。這意味著它們或將成為人工智能時代的巨頭企業，形成操縱全球產業結構與資金流向的壟斷能力。此外，掌握人工智能關鍵技術的少數精英技術群體或將憑借知識和技術方面的不對稱優勢形成壟斷高階技術權力，如果對其缺少有效的引導、制約和監督，可能會出現技術濫用而危害社會安全，或成為資本權力的附庸而激化社會矛盾。

人工智能或將導致社會治理面臨新的挑戰。人工智能通過產業革命實現對社會結構的大規模調整，進而從利益再分配、法律規范和倫理道德等多個層面對社會治理形成新的沖擊。最為明顯的便是人工智能技術的普及所導致的社會結構性失業，尤其是依靠重復性勞動的勞動密集型產業和依賴信息不對稱而存在的部分服務業將遭受到“毀滅性打擊”，而且技術進步下的職業極化也將拉大收入差距。根據麥肯錫2018年9月發布的《人工智能對全球經濟影響的模擬計算》，重復性任務和少量數字技術為特征的崗位需求或從目前的40%下降到30%，其在工資總額中的占比或將從33%下降到20%。同時，由于人工智能在技術發展初期存在“索洛悖論”，即社會生產率的提升相對于人工智能帶來的技術進步存在遲滯，并且勞動生產率的提升難以同步轉化為人們收入的普遍增長和消費成本的普遍下降，甚至人工智能會成為資本擠壓勞動力的工具。此外，由于目前仍未形成關于人工智能技術統一的法律法規和道德認知，這就使得難以對技術主體責任進行及時、合理的監管，社會倫理也難以對人工智能技術的發展形成有效的制約。

人工智能或將加劇“技術恐怖”現象的發生。實際上，人工智能自身的技術自主性、高度復雜性和風險存續性或使其技術失控的可能性和破壞性更大。人工智能所具有“自我學習”能力使其能夠在不需要人類控制或者監督的情況下，便能自主地完成某些任務。這意味著，如果人工智能躍升成具有“自主思維”的主體，形成了自身運行的“技術理性”，那就具備了脫離人類管控的能力。同時，人工智能算法的邏輯基礎本身蘊含著不確定性，即人工智能技術基礎隱藏著不可追溯性，其自身包含了很多不受控制的機制。例如，機器學習中使用的人工神經網絡，在無人駕駛領域得到了廣泛應用，尤其是用于圖像識別，但原本無害的神經網絡可能在遭受對抗樣本（Adversarial Example）攻擊后就會出現偏差，并且很難對其進行及時有效的調控。此外，犯罪分子通過人工智能的拓展使用將形成新型安全攻擊，人工智能本身的技術漏洞也會使其增加被攻擊利用的可能，進而或將加劇數字安全威脅的出現。

如何把握人工智能時代下的國家安全治理

在國家目標和利益的追求序列中，國家安全應是需要國家把握的核心問題，而人工智能技術發展浪潮必將導致國家安全格局的轉變。為此，深入了解人工智能的本質內涵和系統意義，全面評估其對國家安全治理帶來的機遇與挑戰必將是行穩致遠、角逐未來的重要砝碼。筆者認為，在這一過程中，我國需做到以下幾點：

一是完善戰略布局以助推人工智能技術的發展。當前，我國已經出臺了一系列指導人工智能發展的方針、政策，但對于人工智能可能帶來產業變革、社會趨勢及其相關風險的研判有所不足。因此，必須進一步完善人工智能的發展戰略以把握國家安全治理，突出強調對人工智能核心技術的把控，并構建起自主可控、可持續發展的人工智能創新體系和產業體系，從而掌握人工智能創新發展的主動權。同時，人工智能技術的研發與應用，必須以社會經濟發展水平和承載能力為限，即要完善人工智能的戰略布局的同時也要著眼我國社會發展的現實需要，通過推動人工智能創新鏈與產業鏈之間的對接和完善落實相應的產業配套政策，為我國的產業轉型升級和社會結構完善注入新動力。

二是搭建技術風險的評估機制以強化風險把控。建立人工智能技術的風險評估機制就是要在綜合技術發展狀況、社會環境、倫理價值等因素的基礎上，針對人工智能的社會風險進行綜合的分析和考察，從而科學、全面、系統地反映人工智能技術風險的整體特征，為國家安全治理提供可靠的信息基礎。因此，要構建人工智能技術風險評估的指標體系，成立權威的人工智能技術風險評估機構，并規范技術風險的評估程序。同時，也要完善人工智能技術的倫理評價機制，在追求人工智能發展的同時兼顧多方的利益考慮，從而努力做到提前識別和判斷風險的負面效應，將其發展納入安全且合理的運行軌道。此外，也要將評估機制貫穿于人工智能技術活動發展的全過程，針對人工智能發展各階段所潛在的風險進行有效的評估，從而有的放矢地制定防范措施，逐步消解可能存在的風險。

三是規范技術設計的價值向度以引導技術發展。人工智能技術本身是中性的，但要避免“技術的貪欲”帶來的不良后果。為此，必須要規范人工智能發展的技術倫理和價值取向，從思想源頭上增強對人工智能技術風險的預警能力和社會控制能力，實現技術與人性之間的平衡。同時，要推動公眾對人工智能及其相關社會風險的了解，引導人們建立新型的、理性的、全面的技術風險認知觀，促使公眾用更為理性、長遠的眼光來看待人工智能的發展。另外，要加強技術倫理規范性和建構性的統一，在技術設計中嵌入道德要素，通過恰當的技術設計規范和制約實現正面倫理價值的“預防式置入”，進而提高人工智能技術研發主體的自覺性。此外，要努力貫徹“以人為本”的技術發展觀，加強人工智能技術人員與社會人文學者的交流，促進科學與人文兩種精神的充分融合與互補，以實現人工智能的人性化轉向。

四是構建社會治理新型框架以承接技術更新。在人工智能的發展過程中，需要構建相應的社會治理機制和路徑，及時主動地應對人工智能技術進步可能造成的負面影響，進而為人工智能的持續發展創造一個良好的支持環境。為此，要與時俱進地制定并完善與人工智能相關的政策和法律，增強技術風險決策和立法的針對性與可操作性。同時，明確設計者、使用者、監管者之間的權責關系，形成“行為—主體—歸責”的風險歸責體系，進而解決精細分工下的“有組織不負責任”的機制問題。此外，搭建起連接“行動者網絡”和“利益相關者”的討論與合作的新平臺，努力創造一個政府、技術專家、公眾等多元一體化的治理決策參與機制，從而促進國家安全治理的科學化和民主化。

五是加強全球合作以提升技術風險管控效能。人工智能將在未來產業革命中占據重要地位，而這次產業革命將更具全球性、互聯性。因此，應對人工智能可能帶來的技術風險需要全球共同治理。首先，要圍繞應對全球共同挑戰和構建人類命運共同體，加快適應全球化發展和國際競爭合作新趨勢，強調合作與共享對人工智能技術風險管控的作用。同時，推動以主權國家、非政府組織、市民社會和跨國公司為主體的綜合治理體系的形成，進而將全球分散的、相對孤立的治理程序和要素進行資源整合，形成具有國際認同的人工智能技術風險的治理框架和協調一致的治理行動機制。此外，加快推進人工智能技術風險的信息平臺建設，建立人工智能技術風險評估與管理工作的數據庫，并以此為基礎形成國際風險預警機制，加強對國際性技術風險事故的防范能力。

（摘自2018年11月21日《學習時報》）