以技術中立為總體導向平衡人工智能的發展與安全

孫志燕

內容提要：

人工智能作為一項賦能技術，是數字化時代全球技術競爭的核心之一，對國家發展與安全具有高度的戰略性。我國應綜合考慮其自身具有的特殊性、技術不可預知性、戰略性和復雜的地緣政治因素，立足基本國情，慎重選擇人工智能的治理模式，建立以技術中立為總體導向的人工智能治理框架，加強技術創新與發展安全的統籌。要將技術中立、非歧視的原則貫穿于人工智能從開發到應用的整個技術鏈條之中，避免利用人工智能進行偏見性的決策和資源分配，影響整個社會的公平和機會平等。要以技術中立為導向，建立人工智能與能效聯動的發展機制，引導其發展不僅要“快”，更要“高質量”。在全球人工智能治理中積極倡導技術中立的理念，為我國培育人工智能的競爭優勢創造更有利的外部環境。

自 2022 年 11 月，美國OpenAI公司發布了聊天機器人（ChatGPT）原型以來，生成式人工智能受到了前所未有的關注。該技術的突破標志著人工智能向通用技術的重大轉型，對國家發展與安全的戰略性不言而喻。但該技術對就業、收入分配等方面的不確定性影響，以及在個人隱私、社會治理和國家安全等領域帶來的安全風險也引發了激烈爭論。各國都在探索制定人工智能的監管政策，至 2022 年 全 球 已 有 127 個 國 家制定了人工智能相關的法律。我國作為人口和經濟大國，更需要根據基本國情，慎重選擇人工智能的治理模式，加強技術創新與發展安全的統籌，促進技術收益的最大化和風險的最小化。這也是我國參與全球新技術競爭迫切需要解決的關鍵問題。

人工智能的政策監管需充分考慮技術周期和我國的基本國情

2023年8月31日，百度宣布其生成式AI產品、國產大模型文心一言獲批上線，率先向全社會開放。 圖/中新社

經過70多年的發展，人工智能正向通用技術工具轉型，其應用的廣度和深度都超過了傳統人工智能，不僅具備如同人類一樣的學習和解決復雜問題的能力，在大數據計算、知識記憶、快速決策等領域的能力甚至勝過了人類的基準水平。例如，在通用知識測試中，GPT-3 的得分比為 73%，比測試者的平均水平高出 21 個百分點；GPT-4的口頭智商測試得分為152，而樣本中只有0.1%的測試者超過了該分值。伴隨著“智能”水平不斷提高，人工智能的潛在風險和負面溢出效應也在增大，對不同國家的影響也不完全相同。因此，我國在制定和選擇人工智能治理模式時不能再沿用傳統相對成熟技術的治理模式，需要充分考慮到人工智能自身的特殊性、不確定性、戰略性和我國的基本國情。重點包括以下三個方面。

第一，人工智能并非成熟的技術體系，仍具有高度的不確定性和技術不可預知性，監管政策需要保持足夠的靈活度。從技術層面上看，通用人工智能的核心是基礎大語言模型。從目前全球領先的大模型訓練情況來看，算力需求大約5—6 個月翻一番，而通常數字技術的進步周期遵循摩爾定律，大約是18個月，相當于大模型的迭代速度提高了2 倍。隨著芯片技術和算法的改進，這一速度還將進一步提高。由此可見，人工智能的技術迭代要遠遠快于政策制定的周期。這就意味著在政策實際制定過程中，并沒有充足的時間來積累政策制定所需要的事實和數據，包括人工智能對經濟社會影響的評估也大多是理論推斷。政策制定是在一種高度不確定的技術條件下進行的“實驗”。這就需要政策保持足夠的彈性，否則就會因技術的快速發展而導致所實施的政策很快過時，政策的有效性與匹配度降低，甚至可能會成為影響技術創新的政策性障礙。如歐盟以風險為基礎的監管政策在某種程度上就限制了人工智能技術的創新和應用。

此外，通用人工智能構建的是一個超大規模、非常復雜的數字生態系統，多數大語言模型所包括的參數可達上百億，甚至更高。例如， 2023年5月，OpenAI 公司發布的GPT-4模型參數數量從 2020年GPT-3 模型的 1750 億擴大到 100 萬億。基于深度機器學習的大模型訓練本質上是一個“吸收→學習→創新”的循環更新過程，即使模型訓練使用的都是公開并且合規的數據，結果也可能出現虛假或者不合規的信息，模型的開發者幾乎不可能預測到模型輸出的結果、能達到的“智能”水平，或者能夠在多大程度上替代人類的工作。也就是說，人工智能具有很強的技術不可預知性，不能將其等同于工業化時期那些相對成熟的技術，因此政策環境需要保持足夠的彈性。

第二，人工智能作為未來經濟社會發展的關鍵賦能技術，是數字化時代全球競爭的核心技術之一，監管政策需充分考慮地緣政治因素。人工智能與工業革命時期的通用技術不同，并非一項單純的技術，而是各種經濟社會活動所依附的一種發展生態。它不僅可以應用到醫療、教育、金融、物流、公共服務等各個領域，還可以將不同的發展理念、價值觀、文化、意識形態等因素嵌入其中，全方位賦能國家經濟、社會、軍事、政治、文化等方面的影響力和競爭力，是數字化時代推動全球政治經濟秩序重構、國際影響力和競爭力再平衡的重要技術力量。根據經合組織（OECD）的不完全統計，全球已有 92 個國家發布了國家層面的人工智能發展戰略，美國將人工智能定義為 21 世紀“必須贏”的技術之一，歐盟、英國、日本等發達國家和地區都提出要增強人工智能領域的全球領導力。在此背景下，人工智能如何治理已不單純是一國國內的技術發展政策，而是一個全球性的技術治理與戰略平衡問題。

在全球人工智能的競爭中，我國雖然已形成一定的競爭優勢，但軟硬件方面存在的短板也不容忽視。例如，目前我國用于人工智能模型訓練的芯片、人工智能系統的軟件開發等多依賴于美國公司，美國政府在 2022 年10月已禁止這些公司向中國出售人工智能和專業領域的GPU 芯片，包括芯片設計軟件和制造設備。2023年3月，荷蘭和日本也先后宣布了20多種與半導體制造設備、關鍵材料有關的出口限制措施。這些地緣政治因素都需要在制定相關政策時給予足夠的重視。

第三，人工智能是資源、資本高度密集型行業，對我國經濟高質量轉型具有一定的負面影響，相關政策需要更符合國情的戰略平衡。人工智能是21世紀最具有戰略性的一項新興技術，但它同時也是資源、資本最為密集的技術行業。每一個通用人工智能系統都需要千億級、萬億級的數據資源來支撐。例如，OpenAI公司在今年5月發布的GPT-4模型原始訓練數據庫從GPT-3的753GB（10億字節）擴大到4萬GB，增長53倍；谷歌Deepmind 開發的Piper-MonoRepo大模型的原始訓練數據庫更大，為8.6萬GB。從資本投入來看，無論是前期人工智能大模型的訓練還是系統的日常運行，成本都非常高。根據瑞士信貸銀行的估算，OpenAI 的GPT-3 模型（ 1750 億個參數），訓練成本約為139.8萬美元；谷歌開發的PaLM模型（5400億個參數），訓練成本約為1121.7萬美元；ChatGPT 大約有 1300萬用戶，平均每天的運行成本高達10萬美元。人工智能系統通用性越高、模型參數越多，對數據資源的需求規模就越大，并且模型還需要反復訓練更新，前期投資和整個運行維護成本都非常高。這無疑抬高了我國企業進一步利用人工智能提高生產率水平的門檻，尤其對中小企業的智能化轉型更是不利。

除了需要數據、資本等要素的大規模投入，人工智能還是能源高度密集型行業。以GPT-3為例，一個訓練周期的用電量大約為 1287 兆瓦時（MWh），相當于我國 1360人一年的生活用電量；碳排放量約為 502 噸，相當于生產 280噸粗鋼、 840 噸水泥的碳排放量。訓練周期的能耗只相當于日常運行能耗的 40%。根據谷歌發布的環境報告，該公司人工智能模型每年的用電量占整個公司總用電量的10%— 15%，相當于美國亞特蘭大大都市區（ 2021 年總人口為 614.4萬人）所有住宅一年的電力消耗（見圖1）。我國人工智能大模型所使用的芯片、算法等技術相對落后，能耗和碳排放強度更高。隨著人工智能應用范圍的拓展，勢必給我國綠色轉型和雙碳目標的實現帶來更大的壓力。因此，在政策設計時，需要從國家整體高質量轉型的要求出發進行更科學的戰略平衡。

圖1 美國四個典型人工智能大模型用電量和碳排放量的對比

以技術中立為總體導向，為我國人工智能的發展構建更穩健、更可持續的政策生態

鑒于人工智能的戰略特殊性，以及全球競爭格局和基本國情，我國應建立以技術中立為總體導向的人工智能治理框架。即，在人工智能的技術治理中，既不因人工智能的安全風險而過度施加歧視性、風險偏見型的監管規則，為技術創新預留空間；也不過度采取激勵支持政策，扭曲資源配置機制，而是倡導以人為中心、以增進社會整體福利水平為價值取向的技術治理理念。這樣既有利于加強我國對人工智能技術創新與發展安全的統籌，也有利于規避我國在全球人工智能領域競爭中的劣勢。具體而言，技術中立主要包括三個維度的政策含義。

第一，在人工智能從開發到應用的整個技術鏈條中，要堅持技術中立、非歧視的原則。通用人工智能主要由上游環節的基礎大模型、中游環節的行業或專業性的應用模型和下游環節的使用者所構成，涉及到數據采集、算法設計，以及應用于不同行業部門的產品和服務開發。風險主要來自于人工智能模型的算法和下游的應用端。因此，需要將技術中立原則貫穿于整個技術鏈中。在一些關鍵應用領域，如就業、金融信貸、信用風險評估等，積極探索引入第三方對算法進行獨立審計和算法信息披露機制，最大限度地維護人工智能算法的公平。加強教育、醫療、就業等公共服務領域人工智能的用途監管，避免利用人工智能產品和服務進行歧視性、偏見性的決策和資源分配，影響整個社會的公平和機會平等。

第二，要以技術中立為基本出發點，加強人工智能與其他技術在資源配置和政策監管中的戰略平衡。從我國高質量轉型發展的技術需求來看，不只是人工智能，清潔能源、生物、航空、新材料等技術對國家的現代化發展也都具有相當的重要性和戰略性。正因如此，更需要科學理性地認識人工智能，從技術中立的角度來制定實施發展政策。一是政策資源要與人工智能技術周期相匹配，尤其是要對創新資源和產業資源的分配進行更長期的戰略平衡，避免政策資源過度超前、集中涌向人工智能領域，對其他技術行業的資源配置形成擠出效應。我國是人口大國，就業壓力較大，需在技術擴散過程中構建一定的緩沖空間，降低技術轉型中的安全風險和負面影響。二是要以技術中立為導向，引導我國人工智能的發展不僅要“快”，更要“高質量”。對人工智能開發者、應用者和消費者的監管要盡量依據現有的法律法規和相關政策，如消費者權益保護、知識產權保護、個人隱私保護、勞動者權益保護等，確保不同經營主體競爭地位的政策性平等。能耗、碳排放等環境監管同樣要適用于人工智能，建立人工智能與能效聯動的發展機制，提高模型的綠色化。加快識別人工智能發展中的新問題、新風險，在保持技術中立的基礎上進行政策補缺，為我國智能化轉型創造更加安全的發展空間。

第三，在全球人工智能治理中積極倡導技術中立的理念，為我國培育人工智能的競爭優勢創造更有利的外部環境。由于人工智能中包含了許多文化、意識形態等因素，全球人工智能的競爭，不只是技術層面的競爭，更為關鍵的是人工智能治理模式的競爭。目前，美國、英國、歐盟等發達國家和地區不僅在人工智能的技術上具有明顯優勢，還通過技術標準、安全風險的法律法規等向其他國家輸出人工智能的治理范式，包括數字化領域的價值觀等，以提高本國的國際影響力，進一步壟斷人工智能領域的競爭優勢。鑒于此，我國一方面要按照技術中立的總體導向，加快完善國內人工智能治理的政策體系，深度總結北京、深圳等城市在人工智能領域的發展經驗，向全球提供中國人工智能治理的示范，擴大我國在人工智能領域的全球影響力；另一方面，以技術中立為基本原則，加強與不同國家和地區人工智能領域政策和治理模式的協調，包括人工智能的安全審查、隱私設置，與人工智能產品服務相關的知識產權認定等，倡導開放、包容、多元的技術治理理念，推動建立互利共贏的全球人工智能發展生態。在確保國內經濟安全的前提下，發揮我國的市場優勢，穩妥有序地推動人工智能技術開發和產品市場開放，深化人工智能領域的國際合作。對于不同國家在人工智能治理領域的政策分歧和利益沖突，倡導優先技術解決，為我國人工智能穩定可持續發展創造更有利的國際環境。