全球人工智能治理的核心議題與規制趨勢

□段家欣 趙瑜

近年來人工智能在深度學習、人機協同等關鍵領域呈現出蓬勃的發展態勢，但其“黑箱”特性也為人類權益、社會公平和國際格局帶來了風險和挑戰。為此，世界各地的監管機構持續致力于人工智能系統的規范使用，僅在2021-2022年就起草、討論、通過、發布和生效了大量法律法規、原則性文件與行政命令。為描述近期人工智能在全球范圍內的治理情況，筆者采用系統綜述的方法，首先通過網頁匯總清單獲取治理文本，其次核對現有報告與研究中整理的文獻清單，最后利用谷歌搜索以“AI governance”“AI principles”和與之對應的中文為關鍵詞。檢索以2021年1月1日為起始時間，對所得的前五十條鏈接進行人工訪問和篩選，每一步均進行了核查與去重，共計獲得120份全球權威機構發布的人工智能治理文本。總體而言，2021-2022新發布的文本呈現出“剛柔并濟”的特點，“軟法”與“硬法”兼有，還具有顯著的全球性與多元性。

重點議題的治理現狀

治理原則往往來源于倫理爭議。在人工智能的發展進程中，平臺算法規制、個人信息保護和勞動用工規范已然成為三個不可忽視的重要議題。2021-2022年新發布的治理文本圍繞以上議題出臺了大量法律法規與倡議指南，雖然不同文本的監管效力和措施方法不同，但無論是從發文數量還是從文本影響力來看，這三個議題均已成為當下人工智能的監管重點。

平臺責任和算法規制。算法是網絡平臺個性化推送服務的核心，也是人工智能應用場景的基礎，但長期以來，網絡平臺的責任視野始終局限于事故發生后的問責與賠償，未能建立涵蓋人工智能全信息周期的責任框架與算法規制。這一現象在2021年得到改善，在全球范圍內出現了許多有關平臺責任和算法規制的規范性文本，它們以“向善”和“以人為本”為出發點，表現出兩大特點。首先，平臺在算法規制中的主體權責得以明確?！稓W盟人工智能法案》從“風險等級劃分”的角度明確企業在使用各類算法時應承擔的不同權責，我國市場監督管理總局組織起草的《互聯網平臺分類分級指南（征求意見稿）》和《互聯網平臺落實主體責任指南（征求意見稿）》也于2021年年末開始向社會征求意見，有望通過合理劃分平臺等級，推動超大型平臺承擔更多責任與義務，形成更為細致合理的平臺責任規范。其次，政府監管算法治理的力度逐漸加大，不再僅作原則性的指導，而是通過出臺和生效標準性文件促使算法治理在全球范圍內落地實施。如英國中央數字辦公室等機構在2021年11月發布算法透明度標準，涵蓋了數據要求、透明度模板和行動指南等內容，為政府部門和公共機構利用算法進行決策提供支持。政府對于算法安全的監管也不再局限于文本規制，而是啟用行政監管的力量打擊違規行為。這一趨勢在中央網信辦牽頭開展的“清朗·2022年算法綜合治理”專項行動中得以凸顯。從2022年4月開始，相關部門將對各大網站、平臺與產品的算法安全能力展開評估，以期推動算法治理的規范化發展。

信息保護與數據使用。2021年在信息保護與數據使用領域新出臺的治理規范在國內外表現出不同的趨勢。在我國，2021年是相關法律落地實施的關鍵一年。這年9月起生效的《數據安全法》明確了主管機構的監管職責，要求建立數據安全協同治理體系，切實提高數據安全保障能力，促進數據出境安全和開發使用。同年11月起實施的《個人信息保護法》為個人信息的合法使用確立了“是否匿名”的邊界，相比歐盟和美國加州的數據隱私法律，《個人信息保護法》僅對個人信息用于人力監管的正當性予以認可，具有最為嚴格的合法性基礎。在西方國家，規制數據信息的安全使用已有較長的歷史，因此在2021年更多關注特定技術的倫理隱憂，尤其是具有高度侵入性（invasive）的生物識別技術對于個人隱私的侵犯。歐洲數據保護委員會和數據保護監督局于2021年6月發布聯合聲明，呼吁全面禁止人工智能自動識別技術在公共空間中的使用，美國國會中也有議員提出法案，要求在政府資助的公共住房中禁止人臉識別技術的使用，但弗吉尼亞州搖擺的行政命令卻凸顯了這一嚴格監管背后的博弈。該州曾于2021年發布“禁止執法部門使用人臉識別技術”的命令，但在禁令生效八個月后，立法者又重新允許人臉識別技術用于識別犯人和獲取證據。相比之下，我國并未對人臉識別采取一刀切的治理方式，而是將其歸類為敏感信息獲取，要求在征得個人同意的基礎上，以最小化原則進行信息的獲取和使用。2021年8月起正式實施的《最高人民法院關于審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規定》也對涉及侵犯信息主體權利的情形、場景和救濟方式進行了詳細規定，有利于人臉識別技術持續發揮良性作用。

智能技術與人類勞動。人工智能技術應用于勞動用工領域產生的倫理問題近年來也受到了社會的廣泛關注。繼“困在算法中的外賣騎手”，被AI監工的亞馬遜物流人員，俄羅斯在線支付服務公司Xsolla的150名員工也在算法的介入下因“不敬業且效率低下”被公司解雇。在智能技術的協助下，公司對勞動者的控制更為全面精確，在資源調度和利益分配中占據絕對優勢地位，甚至無需雇傭管理團隊即可構建穩定的組織形態，而受雇傭的勞動者不僅將與勞動產品、勞動過程和自身的勞動本質相異化，還將成為原子化的個體，失去與雇傭者抗衡的能力。因此，人工智能在提高工作效率的同時，也使人們逐步陷入了勞動內卷的局面，主體價值貶損、勞動目標異化的問題也日益凸現了出來。

這一現象引發了國內外監管機構的關注，美國對外關系委員會發文直指機器人時代的“幽靈工作”問題。當前人工智能系統的運行仍依賴大量數據標注、訓練算法的工作者，由此催生出的隱形臨時勞工市場尚未得到關注和規范。文章呼喚建立一種適用于人工智能時代的社會契約，規范勞工市場，保護勞動者權利，確保人工智能應用的公平性與透明性。我國人力資源和社會保障部等八個部委也印發《關于新就業形態勞動者勞動保障權益的指導意見》，督促企業修訂涉及勞工權益的平臺算法，落實公平就業、科學勞動和合理薪資，為“十四五”時期人工智能產業的穩定、和諧、向善發展提供了政策層面的保障。

重要主體的治理實踐

從發布主體層面觀察人工智能治理文本可以發現，歐盟、中國和美國作為世界三大經濟體在GDP領跑世界的同時，也在人工智能治理方面形成了特色鮮明的規范制度，是在不同地域文化、社會制度背景下施行人工智能治理實踐的典型樣本。

中國：立法落地，部委協作推動治理實踐。2021年被稱為我國的算法治理元年，《數據安全法》《個人信息保護法》與《網絡安全法》落地實施，所以盡管尚未對人工智能治理進行綜合立法，但我國已有較多針對數據安全與信息保護的專門立法實踐。遵循法律文本，幾大部委也于2021年加強協作，推進人工智能治理在全國范圍內形成由網信辦主導信息領域的人工智能監管，工信部發布人工智能國家戰略，科技部側重倫理規制制定的治理模式。其中，國家網信辦發布的《互聯網信息服務算法推薦管理規定》作為全世界首部以算法為調整對象的系統全面的法律性文件，對各類算法技術的適用場景和企業使用算法時需恪守的強制性義務及違反后的懲罰措施做了詳細規定；工信部發布的《“十四五”信息化和工業化深度融合發展規劃》對智能產品在工業、交通、醫療、教育等重點行業的應用推廣進行了系統性的部署；科技部發布的《新一代人工智能倫理規范》則圍繞管理、研發、供應、使用和組織五個環節提出了18項具體規范，將抽象的倫理原則以具體規范的形式融入人工智能全生命周期。其他部委如人民銀行、人力資源社會保障部、市場監管總局、衛健委等也在具體領域積極出臺政策文件，共同促進人工智能治理在我國落地生根。

歐盟：發布世界首部人工智能法案。作為人工智能監管在全球范圍內的“第一推動者”，2021年歐盟繼續采用全面立法的方式規范人工智能在各行業的應用，并于4月21日發布《人工智能法》提案，這是世界范圍內首部對人工智能進行綜合性立法的法案。該法案將人工智能應用劃分為不可接受的風險（Unacceptable risk）、高風險（High risk）、有限風險（Limited risk）和極低風險（Minimal risk）四類。其中，涉及操縱人類行為的“潛意識技術”，利用兒童和殘疾人脆弱性或可能影響社會信用評分的人工智能應用被認為具有不可接受的風險，法案禁止該類應用上市；涉及公共基礎設施、社會福利、醫療服務、教育培訓等領域的人工智能應用被認為具有高風險，法案提出應在其上市前進行充分的風險評估，確保算法偏見最小化、活動記錄可追溯，并引入合適的人力監管措施以最大限度地減少風險；聊天機器人等對人類生存安全與基本權利具有有限風險的人工智能應用，法案僅明確了其向用戶公開透明的義務；電子游戲和垃圾郵件識別軟件等對人類安全與權利不產生影響或者影響甚微的極低風險的人工智能應用，法案并未進行干預。雖然該法案目前仍在立法流程內，并未落地實施，但作為一項嚴格的人工智能監管法規，《歐盟人工智能法案》明確了“人類中心主義”的原則，強調人工智能應用需服從社會基本價值觀，為人工智能治理從原則性指導走向可審核可執行的程序提供了必要的法律明確性、普遍性和強制性。

美國：漸進式推進人工智能治理立法實踐。在美國，與各州持續出臺人工智能相關法律不同，聯邦層面的立法進展始終較為緩慢，但該國第117屆國會無疑是歷史上最關注人工智能監管的國會會議。據斯坦福大學發布的《2022年人工智能指數報告》顯示，2021年共有130項與人工智能有關的法案被提出，但自2015年以來，相關提案的通過率僅2%?？梢娤啾葰W盟統一、嚴格的治理標準和立法實踐，美國對于人工智能治理的立法較為謹慎，更多通過各部門規制的方式陸續推出，漸進式地在各行業內納入人工智能監管措施。具體而言，在治理方式上，美國政府問責局發布的實踐報告算法治理、系統性能、數據記錄、持續監測四個關鍵領域開發了一個人工智能問責框架，幫助聯邦機構規范使用智能技術；在治理原則上，聯邦貿易委員會2021年4月發布的備忘錄要求各公司在人工智能的使用中確保透明、公平、可解釋性和穩健性。在國土安全方面，美國國防部發布的《負責任的人工智能備忘錄》從規劃、開發和部署階段為第三方開發者構建軍用AI提供了清晰高效的評估和查詢流程；在平等就業方面，美國平等就業機會委員會也發起一項消解就業領域算法偏見的倡議，致力于確保人工智能和其他用于招聘和就業決策的新興工具使用符合民權法律。

治理規范與發展趨勢

盡管不同國家和地區的發布主體對于人工智能的治理重點和治理方式不同，但是總體而言，2021年全球范圍內的人工智能治理正在從文本走向實踐，從倡議走向監管，實現了將抽象倫理規則轉化為具體實施措施的突破性進展。在向更為平衡包容的治理體系發展的過程中，現有治理規范表現出了向垂直領域不斷清晰，向硬法程序逐步過渡和向全球協同持續推進的發展趨勢。

文本專業性加強，垂直領域治理規范不斷清晰。隨著人工智能在各領域應用的不斷深入，各國家和地區已不再局限于制定宏觀層面的指導戰略，而是細化至垂直領域，出臺專業性的規制文本。這一趨勢首先表現在與人類生命安全和生存環境密切相關的衛生健康領域。世界衛生組織于2021年6月發布的全球報告明確了人工智能應用于衛生領域的六大原則，要求技術始終以人類自主權和共同利益為出發點，確保使用透明與過程公平，完善解釋和問責機制。且由于衛生領域的人工智能應用需要較長時間的臨床實驗和對醫護人員進行特殊培訓，報告特別提及智能技術在該領域的使用需具有可持續性和可響應性，在充分滿足患者需求的同時，不至于過度影響現有醫療產業的勞動力市場與資源使用。與此同時，許多國家監管機構發布規則文本，促進治理原則落地實施。以美國食品和藥品管理局發布的《基于人工智能/機器學習的醫療設備行動計劃》為例，該計劃明確了人工智能醫療器械和軟件在治療、診斷、預防等多個過程中的開發與使用要求，有望發展成貫穿產品生命周期的整體監管框架。

除衛生領域外，在許多涉及社會福利與公共基礎建設的行業中也有針對性的原則發布。如在社會保障領域，歐洲保險和職業養老金管理局發布的報告對保險市場中的人工智能使用提出了六條具體原則。在教育科技領域，聯合國教科文組織2021年出版的圖書《人工智能和教育:政策制定者指南》詳細解讀了人工智能新興趨勢對教學的影響，為政策制定者因地制宜地規劃教育政策和項目提供建議。在文本的基礎上，教科文組織還致力于開發一項人工智能應用于教育行業的知識庫，號召成員國共同推進新興教育社會契約的形成。

軟法可審核性加強，向硬法逐步過渡。盡管在2021年之前就有大量利益相關者通過發布聲明、準則、最佳實踐、行業標準等一系列規范性“軟法”遏制算法偏見、促進個人信息保護與社會公平，但由于缺乏體制框架和可執行程序，大多數軟法無法切實約束人工智能治理實踐。2021年發布的規范性文件也關注到了這一問題，因此有較多文本針對過往已經發布的意見完善程序可審核性（auditability）。作為一種執行透明的方式，審核提供了權益之計和強制規則之間的協調機制，因此也是確保問責制發揮作用的重要方法。我國《新一代人工智能倫理規范》將2019年提出的治理原則規范化為具體的條例，美國《負責任的人工智能備忘錄》也在重申公平、問責和透明等原則的基礎上更加注重具體的實踐框架，西班牙數據保護局發布的《涉及人工智能的個人數據處理活動的審核性要求》，德國聯邦信息安全辦公室發布的《人工智能系統可審核性白皮書》也都明確表達了對于人工智能系統可審核目標的關切。

雖然增加軟法的可審核性條款為宏觀人工智能戰略的落地提供了具體的監管辦法，但在必要時由程序性薄弱的軟法向由國家強制力保障實施的硬法過渡，有利于原則文本取得切實的實踐效益和治理成果。這一趨勢也在2021年全球主要國家和地區發布的治理文本中得到了體現，無論是歐盟的全面統一監管，中國的重點領域監管，抑或是美國由政府規章驅動、地方立法推動的漸進式監管，都是人工智能治理文本從僅關注社會共識的敏捷軟法向邊界更為清晰、規則更為確定，程序更加可執行的硬法過渡的方式。在2022年及之后，隨著已在立法流程內的法案陸續落地，更為細致和明確的人工智能治理硬法框架將持續完善，促進人工智能治理體系在最大限度上保障人類基本權利、維護社會公平體系。

規制標準化加強，全球治理競賽與協同發展并舉。隨著治理文本數量的不斷增加，治理輻射范圍的不斷擴大，在現有文本的基礎上設定國際通用的標準已經成為2021年人工智能治理的關注焦點。因此，在原則文本方面，許多針對人工智能安全的標準被提出，如國際標準組織和國際電工委員會聯合成立的技術委員會近年來持續就人工智能國際標準的制定發布技術報告，提出各類風險緩解策略和安全性測試方法；在治理工具方面，歐洲創新與技術研究所發布的人工智能成熟度工具等旨在提供可解釋的標準程序以評估人工智能應用的工具箱也在全球范圍內陸續出現，在一定程度上彌補了過往文本缺乏概念明晰性和多元協調性的缺點。

2021年，各國持續強化人工智能賽道的戰略部署。英國發布了首個《國家人工智能戰略》，美國也在報告中明確了“在人工智能時代保衛美國”和“贏得人工智能技術競賽”兩大目標。與此同時，各國也試圖通過國際合作與區域間協同發展形成人工智能治理的國際規范。這一方面表現為主權國家之間相互協調，形成人工智能治理共識文件，如聯合國教科文組織發布的《人工智能倫理建議書草案》于2021年11月24日獲成員國一致通過，美歐貿易和技術委員會發表的第一份聯合聲明中承諾將開發和實施創新、值得信賴、尊重普遍人權和共同民主價值觀的人工智能系統。另一方面也表現為國家、國際組織、從業者、學術界共同形成行業宣言文件，如在首屆全球數字經濟大會人工智能產業治理論壇上發布的《人工智能產業擔當宣言》，便是在核心骨干企業和學術研究機構的共同商討下形成的倡議性文件。

就當下人工智能治理的實踐情況而言，標準化的工具和文本，國際協同的共識和宣言仍然停留于自愿使用和原則指導層面，未能形成普適性的原則框架。2021年我國對赴美上市的“滴滴出行”實施網絡安全審查。《美國創新與競爭法》也將人工智能與機器學習列為需要提高投資以應對中國競爭的關鍵技術范疇。這反映出中美雙方對于數據流動可能導致國家安全受威脅的擔憂，人工智能治理也進入政治博弈的場域。

近年來世界各國對人工智能技術的發展和治理保持高度關切，不僅從產業競爭力的角度將之上升為國家戰略，也從國家安全和社會福祉的角度嚴密監管技術應用的趨向。2021年全球新增百余份人工智能規范性文件，平臺算法規制、個人數據使用和勞動用工規范是各規制主體共同關心的議題。在人類中心主義的基本立場上，確保人工智能向著保障人類權益的方向發展，是各國共同的訴求。而近期的國際博弈呈現出人工智能治理原則政治化的可能性，如何在人工智能治理博弈中提升話語權，也是各國現實的考慮。