人工智能賦能法治的風險及其應對

〔摘要〕人工智能可以賦能法治已是不爭的事實，通過賦能使法治主體擴增并形成多元共治格局、法治內容持續擴充并使其發生根本性重塑、法治方式創新并促成法治效果提升。人工智能在賦能法治的同時，也引發法治主體邊界不清或替代危機、法治內容呈現悖論、法治方式形成技術依賴等一系列風險。對人工智能賦能法治進行風險規制，要求正確認識人工智能賦能法治的雙重效應，樹立積極理性的風險防控理念，科學面對人工智能賦能法治風險引發的深層次問題，形成切實有效的風險防控措施。

〔關鍵詞〕人工智能，賦能法治，風險防控

〔中圖分類號〕D920.0 〔文獻標識碼〕A 〔文章編號〕1004-4175（2024）02-0121-08

人類社會發展歷史經歷了從農業革命向工業革命，再向信息技術革命的轉變。相較而言，當下以人工智能技術為標志的信息技術革命更具有顛覆性和重塑意義。它促成了互聯網、大數據、人工智能的交融發展，使信息、數據、算法成為重要的生產要素，形成了以信息為資源、以網絡為平臺的全新的數字經濟形態，而且數據與信息覆蓋和勾畫了個人從搖籃到墳墓的全部私人生活〔1〕14。人工智能時代來臨對法治有無影響？是賦能法治，還是重構法治？法治是否會由于人工智能的賦能徹底蛻變或發生實質性轉變？法治基本價值是否面臨被替代或消解的危機？人工智能與法治改革的深度融合是否會促進“未來法治”萌生，人工智能迅猛發展是否會造就一個全新的法治時代？對此，學術界表現出兩種冷熱不同的態度。有學者指出，未來法治不僅是人工智能時代法學理論的一種態度面向，而應成為一種新的研究范式〔2〕。相反，也有學者提出，“未來法治”的內容指向仍然是科技與法治之間的互動關系，當下新興科技的發展并未動搖現代法治的基本理念，理論研究要避免技術進步所引發的“非理性焦慮”〔3〕。因此，人工智能對法治的影響及限度不僅是人工智能時代法治演變急需研究的現實問題，也是法律人面對人工智能時代對法治挑戰的學術自覺。

一、人工智能賦能法治的主要表現

人工智能實質是指研究人類智能行為規律，構造具有一定智慧能力的智能系統。學術界通常將其分為弱人工智能、強或超人工智能兩個層次和發展階段。法治是以憲法法律至上權威為基礎的治國理政的基本方式，是限制公權力為基本手段和保障人權為根本目的的精神理念，也是以普遍平等守法為基本遵循的秩序狀態，是以良法善治為理想追求的生活樣式。人工智能賦能法治而非重構法治，人工智能挑戰法治而不能顛覆法治，這是當下我們理性面對人工智能的基本態度。但人工智能對法治的影響力不可輕視，需要我們認真研判和理性積極面對。一方面，人工智能研發應用助力法治建設，提升法治治理的智能化、數字化、智慧化水平；另一方面，人工智能技術運用遍及法治建設的每一個角落，給不同類型、不同層級的治理主體、治理內容、治理方式等帶來全新的視角、便捷的方式及立體化、場景化的內容。具體而言，人工智能賦能法治主要表現在以下三方面。

（一）人工智能賦能法治主體擴增并形成多元共治格局

現代法治是以法律為基礎的、具備內在德性的規則之治。它包括規則之治、法律主治和良法之治三個面向〔4〕。進入人工智能時代，隨著人工智能技術研發應用，新型主體不斷誕生，法治主體和法律主體的外延呈現逐步擴大趨勢。從羅馬法只有符合特定條件的成年男子才能成為法律主體，到現代所有的生物人都可以成為法律主體，再到法人擬制主體出現，最后到人工智能時代“候選者”，如胎兒、動物、植物、自然環境、甚至人工智能等。法律主體擴展必然引發法治主體擴充，人工智能可以取得國民資格、選民資格、議會候選人的事實層出不窮。人工智能賦能法治主體擴增。一方面，人工智能和互聯網技術普及應用促進多元主體參與法治治理。人工智能時代，互聯網技術廣泛應用形成去中心化、去地域化特點，普通民眾通過互聯網、人工智能可以超越時空參與國家和社會治理，表達自身意見或建議，這使公權力、公共利益置于廣大民眾公開視野下接受監督，既提高了法治主體參與治理的機會機率，也改變了國家公權力主體一方代表、增進和實現公共利益的治理格局，提升了法治治理的效能。另一方面，人工智能和互聯網技術普及應用推動國家與社會關系的重構。在人工智能時代，國家與社會兩方主體通過互聯網和人工智能的互動，既重塑了國家與社會關系，實際形成分權制衡的機制和效果〔5〕171，又迫使國家借助人工智能和互聯網技術提高治理過程的民主性、科學性、公正性。同時，人工智能技術還提升公眾集體行動能力〔5〕193，形成網絡輿情集中表達氛圍，有效參與政府決策過程。

（二）人工智能賦能法治內容持續擴充并使其發生根本性重塑

法治既是依循法治精神、法治價值、法治理念進行社會治理的有效方式，也是運用法治邏輯對公權力進行規制和對私權進行保障的社會契約。人工智能時代，技術賦能使得法治內容面臨根本性重塑〔6〕。一是人工智能時代法治內容隨著新興權利出現不斷擴張。信息權、數據權、訪問權、被遺忘權、可攜帶權、虛擬財產權、人工智能作品權等大量出現，法治主體許多權利自然延伸到人工智能領域。二是人工智能時代法治內容增添數字化、智能化要素而發生根本性改變。智能互聯網使得數據、代碼、算法和建模嵌入社會關系和社會生活，導致法治內容（權利義務、權力責任）既擴張又限縮。三是人工智能時代法治資源分配和實現方式變革推動法治觀念和制度不斷創新。互聯網縮短了主體間的距離，也改變了既有權利觀念，注重占有、控制、積累的傳統法權觀念，被注重分享、利用、流通的新型法權觀念所取代；P2P模式、眾籌模式、網絡侵權、互聯網犯罪不僅使得網絡空間治理日益復雜，也使得法律責任認定、法律救濟方式更加艱難；網約車軟件、搶票軟件、政府消費券軟件等在為消費者提供便利的同時，也改寫了既有的出租車制度、票據制度。四是人工智能時代法治主題不斷新增。一方面，私權利擴充和私權利的崛起，加大了公權力監控難度和公權力監管責任；另一方面，公權力與私權利以及私權利之間博弈方式復雜化改變了法治主題內容結構（限制公權力）。

（三）人工智能賦能法治方式創新并促成法治效果提升

法治是主體依循法治精神、法治原則、法治理念進行的國家和社會治理方式，也是法治價值、法治理想、法治秩序實現方式。人工智能時代，互聯網開辟了傳統生活之外的虛擬空間，法治方式需要跨越雙重空間、完成人機混合治理、協同治理的改變〔7〕51。人工智能技術賦能促使法治方式不斷創新，法治建設效果不斷提升。

1.人工智能賦能法治方式創新。一是人工智能催生虛擬空間和網絡空間治理方式。人工智能時代，存在現實和虛擬兩個空間，法治治理方式也必須從現實空間進入虛擬網絡空間，迫使國家介入社會的方式和范圍擴大，迫使國家和社會治理模式轉變。虛擬空間無論治理目標、治理規則、治理結構、治理模式、治理標準，都不同于現實空間，法治方式不得不針對虛擬空間屬性、特點、要求實施治理，無論是對網絡空間行為的動機、目的等主觀意圖判斷，還是對網絡空間行為結果、因果關系的審查，都必須運用全新思維方式和措施。二是人工智能催生人機協同治理機制與方式。人工智能時代，虛擬空間治理對象與現實空間治理對象不同。一方面，面臨人機混合，如何與人工智能對話溝通，完成意思表示的銜接，不能通過直接方式進行，必須借助程序設計、算法等實現。另一方面，對網絡空間治理需要通過人機協同才能完成，自動駕駛、智能醫療、股票分析和交易等活動，必須通過了解算法黑箱、程序設計，人機協同完成。

2.人工智能賦能法治效果提升。一是人工智能技術賦能社會治理效果提升。在社會治理中，集成智能語音、自然語言處理、機器視角、網絡直播等技術的應用，形成滿足特定市場需求的應用場景，人工智能技術軟件在就業、教育、家政服務、醫療衛生、文化體育娛樂等方面廣泛應用。為廣大消費者、服務者、企業、基層組織提供便捷高效的智能化服務，也使得法治社會的網格化管理格局形成。二是人工智能技術賦能國家治理效果提升。隨著人工智能技術應用通過人臉識別技術、虹膜識別技術、步態識別技術、全球定位系統，公安機關可以在人群中追蹤確定犯罪嫌疑人動向、掌握犯罪嫌疑人行蹤、快速鎖定犯罪嫌疑人隱匿之處，提高案件偵破效率；檢察機關和審判機關不僅可以利用文字識別技術、文字轉換技術、語音識別和轉換技術形成審訊記錄、庭審記錄，還可以利用網絡搜索技術、數據整理分析技術、智慧預測研判技術自動生成司法文書、自動生成案件審理報告、草擬法律文書，大大提高案件裁判效率。律師事務所及其工作人員利用智能律師軟件，搜索相關法律規范、整理統計以往裁判文書資料、分析研判辯護或代理風險、制作辯護詞和代理詞，把律師從繁瑣龐雜的日常事務處理中解脫出來，將工作的主要精力聚焦于如何提高法律服務準確度和質量效益。從積極意義而言，人工智能技術賦能法治方式創新，不僅能夠改變傳統法治公權力單方發力、面對現實空間、針對獨立個案進行治理的現狀，而且每一個區域、每一個場景、每一個個案都享受賦能作用。同時，人工智能技術可以改善工作環境、工作手段，大大提升法治建設整體效果。

二、人工智能賦能法治的風險預測

人工智能既賦能法治，也引發法治主體替代危機、法治內容不確定、法治方式技術依賴等風險。因此，在積極認知人工智能技術賦能的同時，必須理性面對人工智能技術賦能引發的法治風險并進行合理規制。

（一）人工智能賦能引發法治主體邊界不清或替代危機

人工智能時代，通過技術賦能使得法治主體擴增并形成多元共治格局。但人工智能也形成對法治主體的挑戰，一方面使自然人作為法治主體地位獨立、人格尊嚴面臨人工智能的挑戰，另一方面也使自然人依法享有的權利自由被人工智能分享，形成人機共處、人機協同甚至被替代危機。首先，法治主體已經面臨人工智能獲得法律人格的事實挑戰。隨著人工智能廣泛應用，人工智能獲得公民資格、選民資格、民事主體資格已成事實。這使得人類不得不面對人工智能是否應當獲得法律人格問題。對此在學術界已經形成肯定論、否定論、有限論三種主要觀點。國內持肯定說的學者認為人工智能具有良好的發展前景，而且現實中已具備人工智能的相關立法技術，因而在法律上可以肯定人工智能的法律人格，為人工智能的發展保駕護航〔8〕。否定說是國內多數學者之觀點，認為不應當賦予人工智能法律人格，工具性屬性使得人工智能應歸位于法律客體〔9〕。有限說的學者主要基于當前人工智能發展水平的現實考量以及對強人工智能及超人工智能出現的未來憂患，贊同有限制地賦予人工智能法律主體資格〔10〕。但不管采取何種立場，一方面在弱人工智能時代，人類必須面對人工智能與人共處、協同生存的事實；另一方面在強人工智能或超人工智能來臨的將來，人類必須預測防范人類被人工智能操控或替代的風險。其次，法治主體進行自主決策對人工智能過度依賴或被替代。人工智能技術賦能使得法治主體擴增并形成多元共治格局的同時，基于其強大數據處理能力和算法推薦能力，法治主體會形成對其技術依賴，并產生技術迷戀和盲信、技術崇拜和唯技術主義，這勢必會消解法治主體的自主意識和創新精神〔11〕。一方面在算法和大數據等要素驅動下，法治主體被人工智能技術綁架；另一方面長期過度依賴人工智能技術代替了法治主體科學研判、理性甄別、自主決策。最后，法治主體可能被人工智能操控或被取代。在弱人工智能時代，法治主體還不會真正被人工智能取代，但一旦將來研發出有自主意識、自我目的、自律約束的強人工智能或超人工智能，該如何定位人機關系、人機倫理，必須理性應對主體替代危機。

（二）人工智能賦能引發法治內容呈現悖論

法治中心內容是通過權力行使與權利保障、義務履行與責任負擔、權利享有與義務承擔、權力擁有與責任承擔的協同機制，實現法治價值和生成法治秩序。人工智能時代，技術賦能使得法治內容持續擴充并面臨根本性重塑。新興權利和權力持續出現、新興法治主題不斷新增、法治觀念和制度不斷創新。但技術賦能也使得法治內容陷入悖論，即技術賦權與技術侵權并存、智能參與和算法操控并存、智能規制與智能規避并存、法治紅利與法治異化并存等〔12〕。一是技術賦權與技術侵權并存。人工智能時代，人工智能技術的廣泛應用和綜合開發催生出許多新興的權利和權力，例如信息權、數據權、訪問權、被遺忘權、可攜帶權、虛擬財產權、人工智能作品權大量涌現。但由于人工智能技術濫用、誤用引發的個人信息泄露、隱私被曝光、網絡詐騙、自動駕駛事故、人工智能著作權侵權、算法歧視、算法虛假評論、人工智能倫理矛盾、網絡輿情虛構等也頻發〔13〕。二是智能參與和算法操控并存。人工智能時代，互聯網技術普及應用促進多元主體參與法治治理，推動國家與社會關系重構，最終促成了超越時空、國家與社會良性互動的多元共治格局。但由于算法催生隱性權力、人工智能解構社會分工模式等原因，算法歧視、算法偏見、數字鴻溝等加劇了貧富懸殊、種族歧視、道德危機、文化沖突等現象產生。三是智能規制與智能規避并存。人工智能時代，隨著大數據、區塊鏈、人工智能技術應用，憑借數據和算法可以形成敏捷高效、公開透明、科學精準的自動運行技術機制和治理體系，并通過發揮人工智能技術優勢充分發揮法律規制功能。但由于人工智能研發者、網絡平臺運營商、數據資料收集儲存者本身基于其行業特色、技術優勢、規則自治，使得其能夠實現實體和程序的規制逃逸。同時，人工智能賦能過程中的權力技術化、技術權力化傾向嚴重，加之人工智能憑借數據算法運行中的安全困境〔11〕（智能運行與隱私保護、數據共享與數據安全、數據跨境與數據主權），人工智能規制可能化為烏有。四是法治紅利與法治異化并存。人工智能時代，技術賦能催生了網絡空間治理方式與人機協同治理機制，技術賦能促使法治方式不斷創新，促使法治建設效果不斷提升。但由于人工智能技術的復雜性、不確定性，人工智能賦能與侵權雙重效應、人工智能治理工具與治理對象的自反〔10〕，往往導致人工智能賦能法治走向法治反面，出現法治異化現象。一方面人工智能賦能法治的同時，卻因技術侵權、技術失誤、技術濫用引發人權保障危機；另一方面因技術倫理、技術失控、技術濫用引發算法歧視、種族歧視、性別歧視、情感虛置、自主缺失、誠信缺失等道德危機。

（三）人工智能賦能法治引發治理方式上的技術依賴

法治方式是主體依據法治精神、法治原則、法治邏輯等，在法治思維框架下理性進行國家治理和社會治理的方式。人工智能時代，技術賦能使得法治方式不斷創新。一方面從現實的治理空間進入網絡虛擬空間，形成雙重空間治理方式；另一方面從人機分離進入人機共存、人機協同，形成人機協同治理機制。但技術賦能也使得法治方式形成技術依賴，即技術路徑依賴、技術結果依賴。一是人工智能賦能法治方式中的技術路徑依賴。人工智能時代，技術賦能催生了網絡空間治理方式與人機協同治理機制，技術賦能促使法治方式不斷創新，不斷提升法治建設效果。但由于人工智能超強的數據采集演算能力、高效的計算分析能力、精準的預測判斷能力，使得人們對人工智能技術產生技術路徑依賴，導致自我意識、自主決策、自主創新能力逐漸衰退或缺失。二是人工智能賦能法治方式中的結果依賴。人工智能時代，技術賦能使得大數據、信息技術、人工智能廣泛應用，法治治理方式的網絡化、數據化、智慧化水平不斷提升，技術賦能促使法治建設效果不斷提升。但由于人工智能超強的數據采集演算能力、高效的計算分析能力、精準的預測判斷能力，使得人們對人工智能技術產生技術結果依賴，逐漸導致實地考察調查研究、批判質疑、探求真理的自我實踐意識頹廢，最終導致人工智能官僚主義盛行、人工智能責任事故降臨、人工智能決策失準等現象出現。

三、人工智能賦能法治的風險規制

人工智能賦能法治是“雙刃劍”。近年來，世界各國為了促進人工智能良性運行發展和規制其可能引發的風險，開啟積極立法活動并采取積極有效保障措施。2016年美國頒布了《國家人工智能研究與發展戰略規劃》《為人工智能的未來做好準備》，2020年1月，美國聯邦政府發布《人工智能應用的監管指南》等政策性文件；英國2016年發布《人工智能：未來決策制定的機遇與影響》政策性文件；法國2017年發布《人工智能戰略》政策性文件。2018年5月25日，歐盟頒布《一般數據保護條例》，2019年4月，歐洲議會研究服務機構（EPRS）發布了《算法問責及透明度監管框架》，2021年4月21日，歐盟委員會發布《關于人工智能的統一規則（歐盟人工智能法）并修正某些聯合立法行為》的法案，這是全球范圍內首個專門關于人工智能監管框架的公法規制法案。我國也先后發布《國家信息化發展戰略綱要》和《新一代人工智能發展規劃》進行積極部署安排。因此，認識分析人工智能賦能法治的積極影響與理性應對其賦能風險兩者均不可或缺。其風險防控措施具體包括三方面。

（一）正確認識人工智能賦能法治的雙重效應，樹立積極理性的風險防控理念

人工智能賦能法治對于創新法治治理方式，提升法治建設效果具有重要的作用。與此同時，人工智能賦能法治也引發法治主體替代危機、法治內容陷入悖論、法治方式形成技術依賴等風險。但人工智能賦能法治卻不會解構法治，只要我們正確認識人工智能賦能法治的雙重效應，樹立積極理性的風險防控理念，便既可促進人工智能良性運行發展，也能有效防控社會風險。

1.正確認識人工智能賦能法治的雙重效應。人工智能賦能法治本質上仍是科學技術與法治互動關系。一方面，人工智能作為人類創制的最具顛覆性、革命性、前瞻性的科技成果，代表著當今科技革命最新的發展方向，必然通過技術賦能產生賦能紅利。這是歷次技術革命始終保持一致的生成邏輯。而人工智能時代，信息技術、大數據、網絡化、區塊鏈等深度融合的科技成果更具影響力和賦能效果。人工智能技術賦能法治必然使得法治各項要素能量倍增。另一方面，要理性認識和把握科學技術、科技革命在積極造福人類、促進經濟和社會發展的同時可能具有不確定性和風險隱患。人工智能技術賦能法治也必然使得法治目標、過程、結果經受嚴峻風險挑戰。

2.樹立積極理性的風險防控理念。在人工智能時代，科學技術的發展迅猛異常、勢不可擋。人工智能技術在推動人類社會持續進步的同時，也會帶來巨大的社會風險。人工智能既賦能法治，也會引發法治風險。對此，應堅持的正確態度是推動激勵科技進步最大限度造福人類，同時積極理性地防控人工智能技術賦能法治所引發的風險。

一是樹立技術賦能充分性與風險防控必要性辯證統一的防控理念。技術賦能充分性和風險防控必要性理念，是指在應對人工智能技術賦能法治風險防控時，法律法規的創制和公共政策的制定，應堅持以技術賦能為充分條件，以風險防控為必要限制條件，辯證看待和處理技術賦能與風險防控關系，并以此為價值導向權衡、協調兩者關系。

二是樹立技術賦能激勵與風險防控約束有機結合的防控理念。技術賦能激勵與風險防控約束有機結合的理念，是指在應對人工智能技術賦能法治風險防控時，法律法規的創制和公共政策的制定，應堅持以推進技術賦能的激勵機制為目標導向，以風險防控的強制約束機制為責任保障，理性看待和處理技術賦能與風險防控關系，并以此為調節機制權衡、協調兩者關系。

三是樹立法治價值主導與法治方式協同的防控理念。法治價值主導與法治方式協同的理念，是指在應對人工智能技術賦能法治風險防控時，法律法規的實施和公共政策的貫徹落實，應堅持以法治核心價值為基本目標，以法治方式協同為基本手段，理性看待和處理技術賦能與風險防控關系，并以此為方法保障權衡、協調兩者關系。

（二）科學面對人工智能賦能法治引發的深層次問題

人工智能賦能法治，也會對法治形成嚴峻挑戰，卻不會顛覆法治秩序。因此，只要我們科學分析探究人工智能賦能法治風險引發的深層次原因，采取確實有效風險防控措施，便能在促進人工智能良性運行發展的同時，有效防控人工智能賦能法治的風險。

1.科學分析探究人工智能賦能法治引發風險的原因。關于人工智能引發社會或法律風險的原因學術界已經進行大量分析研究。但針對人工智能賦能法治引發風險的原因分析較少，需要我們進一步系統探究。下面主要從兩方面進行分析。

其一，人工智能作為科技進步成果本身容易引發社會風險。馬克思曾經指出：“機器正像拖犁和牛一樣，并不是經濟范疇。機器只是一種生產力。……但每一種事物都包含有自己的反面。我們看到，機器具有減少人類勞動和使勞動更有成效的神奇力量，然而卻引起了饑餓和過度疲勞。”〔14〕241馬克思經典論述清晰揭示出包括人工智能在內，任何科技進步本身都具有兩面性特征。對此，習近平既強調“機器人的研發、制造、應用是衡量一個國家科技創新和高端制造業水平的重要標志”〔15〕82，同時指出，“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控”〔16〕。因此，人工智能賦能法治引發風險的原因首先來自科技發展本身。一方面如泰斯勒定律所揭示的日益龐大、復雜的技術系統容易導致的綜合技術風險。另一方面人們很難理解、預測和評估人工智能背后的決策邏輯，也很難控制人工智能的運行行為；同時人工智能背后的算法并非完全獨立運行，人工智能技術本身具有復雜性和不確定性〔17〕。如人工智能引起就業壓力和失業擔憂、人工智能引發生態環境問題、人工智能侵權和犯罪問題等。

其二，以人工智能為代表的先進科學技術本身就是復雜系統，其賦能法治后不僅會積極推進法治要素更新擴充，也會引發一系列的法治風險。一方面，隱私計算技術的運用目的在于進一步加強對數據隱私的保護，然而技術的廣泛推廣使用也為數據安全埋下新的隱患，增加額外的隱私泄露風險。實踐中通常采用知情同意的方式來圈劃出數據主體在數據處理活動中的能動性邊界，以此達到目的規范的作用。然而事實是數據處理者為獲取用戶同意往往采用用戶協議的方式來體現，而當用戶面對部分繁長冗雜、晦澀難懂的用戶協議時，常常無法認真閱讀并細致評估自身風險，用戶的知情自由也由此受到限制，“知情”與“同意”之間也產生斷層。能否僅僅通過知情同意框架便將隱私泄露風險完全轉移至用戶仍有待商榷。另一方面，算法作為人工智能核心技術，因其復雜的技術特征和有限的自主屬性在法律關系、道德倫理、社會治理等方面帶來一系列法治風險。我們本來希望算法為我們提供更多可行的選項，以消解信息超載帶給我們的困境，但卻產生算法依賴、“算法殺熟”等問題。如通過網絡助推形成群體極端化的社會風險、傳統法治價值觀被新興技術迅猛發展沖擊和挑戰形成認知風險、人工智能賦能治理與侵權的雙重效應風險等〔18〕。前文分析的人工智能賦能法治引發的法治主體邊界不清或替代危機、法治內容陷入悖論、法治方式形成技術依賴等一系列風險都與此有關。

2.直面法律和公共政策對于人工智能規制滯后的原因。法律制度是技術發展的重要支撐，也是保護人類社會的基本手段，公共政策也是正確引導與合理限制技術發展和技術風險的重要手段。因此，通過立法和公共政策制定，防范與制約人工智能造成的社會公共安全風險和社會公共利益風險，已經迫在眉睫。但人類面對人工智能迅猛發展卻普遍存在法律和公共政策滯后的嚴重傾向，為此，“立法機構還可以通過立法活動加大對相關領域的投資來優化智能系統的決策質量”〔19〕。最近，包括牛津法學人類未來研究所、劍橋大學現行風險研究中心等在內的14個不同機構的26位專家，撰寫了一份題目為《人工智能的惡意使用：預測、預防和緩解》的100頁的報告。這份報告作出了可怕的預測：網絡程序被黑客攻擊、病毒數據攻擊毀壞了程序數據、使用先進的無人機進行暗殺等情形〔18〕。對此，各國都通過立法手段出臺了相關法案來科學引導和合理限制AI發展。2019年美國總統出臺了一項名為《保持美國在人工智能領域的領導地位》的行政命令，美國聯邦政府發布了《人工智能應用的監管指南》；歐盟頒布了《一般數據保護條例》《算法監管框架》《歐盟人工智能法》等。除了立法手段外，歐盟還推出了RoboLAW項目（全稱：Regulating Emerging Robotic Technologies in Europe： Robotics Facing Law and Ethics）。它由歐盟委員會資助，目的是研究人工智能以及仿生機器人對法律體系產生的影響，探索人工智能是否會挑戰傳統的法律分類和主體資格，是否對基本權利和自由構成風險，尋求適合人工智能特性的法律規制框架。在我國，2017年7月20日，國務院印發《新一代人工智能發展規劃》，2022年10月和11月上海市和深圳市先后頒布實施《上海促進人工智能產業發展條例》《深圳經濟特區人工智能產業促進條例》，為促進人工智能創新發展提供法治保障。相對而言，法律和公共政策對于人工智能規制明顯滯后。

（三）形成切實有效的風險防控措施

國務院印發《新一代人工智能發展規劃》，明確提出國家關于新階段人工智能發展的戰略布局與頂層設計，并且指出，“到2025年初步建立人工智能法律法規”，“到2030年建成更加完善的人工智能法律法規”的法律制度整體安排。胡錦濤指出：“堅持以人為本，讓科技發展成果惠及全體人民。”〔20〕1556習近平強調：“把滿足人民對美好生活的向往作為科技創新的落腳點，把惠民、利民、富民、改善民生作為科技創新的重要方向。”〔21〕464以黨和國家頂層設計為指引，具體風險防控措施如下：

1.審慎對待人工智能主體資格問題，消解其賦能法治引發的主體替代危機。人工智能賦能法治使得法治主體擴增并形成多元共治格局的同時，也引發法治主體邊界不清或替代危機。面對技術賦能法治引發的三方面主體風險問題，應審慎對待人工智能主體資格問題，消解其賦能法治引發的主體替代危機。因為，法治主體面臨的三方面風險，其根本原因是人工智能法律人格確認問題。因此，針對人工智能當前缺乏實質認知理性、非目的性存在、缺乏自我約束力等特性，應以尊重承認人的個性價值和社會屬性為前提，讓人工智能發展最終實現以人為本。充分尊重人的獨立精神和自由發展，并通過科學理性的態度，使人工智能的存在與發展始終朝著增進人類福祉方向而努力，而非對科技功能性的過度依賴或喪失人類自身的主體意識、主體自覺、人文精神、創新精神、自我發展、自我完善。這樣即使面對強人工智能或超人工智能，作為法治主體和社會主體的人，都能不迷失自我和被科學技術所操控。

2.將法治核心價值嵌入人工智能技術，避免其賦能法治引發的內容悖論。人工智能賦能法治使得法治內容持續擴充并使其發生根本性重塑的同時，也引發法治內容呈現悖論。面對技術賦能法治引發的四方面法治內容問題，應將法治核心價值嵌入人工智能技術，避免其賦能法治引發的內容悖論。因為，一方面，技術賦能與技術侵權并存、智能參與和算法操控并存、智能規制與智能規避并存、法治紅利與法治異化并存是科技成果進步本身的“兩面性”表現，歷次科技革命都是如此。另一方面，如果能夠充分發揮人的主觀能動性、將法治核心價值（自由、人權、正義等）嵌入人工智能技術，讓人工智能設計或研發人員具有較高倫理價值標準、強化對人工智能運用人員的道德約束、將人文精神融入人工智能技術、避免技術濫用和誤用、實現真正意義上的人機互補、人機協同，而非讓技術賦能法治走向悖論。

3.促進人工智能技術與法治良性互動，擺脫其賦能法治引發的技術依賴。人工智能賦能法治不僅使得法治方式創新并促成法治效果提升，也引發對人工智能技術依賴風險。面對技術賦能法治引發的技術路徑依賴和技術結果依賴兩方面風險，應促進人工智能技術與法治良性互動，擺脫其賦能法治引發的技術依賴。一方面，面對人工智能引發的風險問題，美國構建了激勵創新審慎監管的柔性立法規制模式，歐盟構建了保障安全嚴厲監管的剛性立法規制模式。中國需要構建激勵創新與保障安全并重的人工智能綜合規制模式。另一方面，法治中國建設需要借助人工智能技術，不斷創新治理機制、發展治理工具、強化治理責任，構建一套共建、共治、共享的完整的治理體系和治理方式。科學技術與人類發展必須形成一股合力，人工智能與法治必須實現良性互動，而非對人工智能技術的簡單拒斥或過度依賴。

四、結語

現代法治是有品質德性的規則之治，不僅要求具備形式層面的良好特質，而且注重實質意義上的價值內涵。法治理念和法治原則是其品質德性的高度凝練與充分表達，構成了現代社會不同法治實踐的共同分母，并為國家和社會的法治化治理提供了價值指引及操作路徑〔3〕。同時，“良法善治”需要維護法律的至上權威，在堅持合法性原則基礎上妥善處理公權與私權的關系〔22〕。應堅持憲法法律至上和法治思維優位，摒棄一切非法治思維；堅持以形式法治為基準并以實質法治為必要約束，保持形式法治相對優位并使形式法治和實質法治有機協調；堅持以合法性為思維底線、以合理性為思維導向、以合目的性為思維保障，最終促進實質法治的實現。“法治是什么”如同“法律是什么”，是一個恒久的命題。古往今來的人們不斷追問探索，形成了紛繁復雜的法治認識論和法治本質觀。人工智能時代法治本質是否發生實質變化，是否會因信息革命和人工智能技術對社會顛覆性特征、重塑性意義而改變？“未來法治”與傳統“法治本質”是否仍保持同一，“未來法治”究竟是一個新鮮表達，還是實質嬗變？這些問題都需要以人工智能的基本屬性為切入點，通過對人工智能基本類型分析對比，結合其在不同階段功能作用發展趨勢演變展開梳理。

人類進入信息革命和人工智能時代，人工智能技術的迅猛發展給整個社會帶來了顛覆性影響，形成全面重塑效應。在此背景下，人們的思維方式、社會經濟發展模式、社會治理模式、生活樣式等都受到人工智能的影響。一方面，人工智能可以把人從單調、重復的勞動中解放出來，不僅大大提升社會勞動效能和效率，也深刻改變和創新人們學習生活理念和方式；另一方面，人工智能的迅猛發展不僅造成社會公共安全風險，也給社會公共利益帶來了風險與危機。

人工智能影響法治，既體現為技術賦能，也面臨著一定社會風險。人工智能技術創新推動法治建設理念時代化、系統化、立體化，法治建設工具網絡化、數據化、智慧化，法治建設模式網格化、公益化、人文化、實效化。在人工智能時代，法治建設也不斷向智能化、數字化方向發展，數據權利、平臺經濟、智能駕駛、虛擬財產等一系列新興事物催生了各種新型法律關系，現行各種法律制度也要積極主動作出調整以適應新興技術的高速發展，預防和規制其中潛在的風險，理性應對人工智能時代的挑戰。但人工智能對法治是賦能而非重構，人工智能與法治關系的本質是科技與法治的關系。無論是通過科技發展促進法治水平和能力的提高，還是運用法治手段來規范科技的發展，都應該植根于人性、人本、人文、人權的要求，植根于我們對人類個體和整體福祉的關懷〔3〕。人工智能數字技術的發展更應注重人文關懷，更加彰顯人的價值而非反過來奴役人類、規訓人類。目前尚處于弱人工智能時代，人工智能的工具理性地位和功能屬性沒有改變，人工智能服務人類、造福人類的價值目標也沒有改變，人工智能對法治的影響依舊表現為科技進步對法治的影響。進一步說，即使是未來的強人工智能或超人工智能技術也不可能顛覆法治。因為，一方面，強人工智能時代仍不在現實可視范圍之內，從理想圖景到現實場景的轉化，既需要科學可行的實踐途徑，也需要實現理想的實踐過程。另一方面，即使強人工智能或超人工智能時代真的來臨，其面對法治必須獲得法律人格，具有自我意識、自為目的、自律功能，超越法治主體的全部理性。更何況，人工智能風險并非不可控，它可以通過科學技術認知、法律正當規制、人工智能時代的創新模式升級去實現〔23〕。

參考文獻：

〔1〕約翰·帕克.全民監控——大數據時代的安全與隱私困境〔M〕.關立深，譯.北京：金城出版社，2015.

〔2〕王 軼.在未來法治領域發展中國特色法學理論〔N〕.北京日報，2021-01-25（19）.

〔3〕張志銘，趙軒毅.未來法治植根何處：一種分析進路的概念省察〔J〕.國家檢察官學院學報，2022（01）：92-104.

〔4〕于 浩.轉型中國的法治化治理〔J〕.華東政法大學學報，2017（02）：74-83.

〔5〕鄭永年.技術賦權：中國的互聯網、國家和社會〔M〕.邱道隆，譯.北京：東方出版社，2014.

〔6〕馬長山.智能互聯網時代的法律變革〔J〕.法學研究，2018（04）：20-38.

〔7〕穆 勒.網絡與國家：互聯網治理的全球政治學〔M〕.周程，等譯.上海：上海交通大學出版社，2015.

〔8〕郭少飛.“電子人”法律主體論〔J〕.東方法學，2018（03）：38-49.

〔9〕陳姿含.人工智能算法中的法律主體性危機〔J〕.社會科學文摘，2019（11）：77-79.

〔10〕許中緣.論智能機器人的工具性人格〔J〕.法學評論，2018（05）：153-164.

〔11〕張 鋌.人工智能嵌入社會治理的風險及其規避〔J〕.浙江工商大學學報，2022（03）：120-126.

〔12〕馬長山.數智治理的法治悖論〔J〕.東方法學，2022（04）：63-74.

〔13〕于 浩.被遺忘權：制度構造與中國本土化研究〔J〕.華東師范大學學報（哲學社會科學版），2018（03）：149-157.

〔14〕馬克思恩格斯選集：第1卷〔M〕.北京：人民出版社，1995.

〔15〕習近平關于科技創新論述摘編〔M〕.北京：中央文獻出版社，2016.

〔16〕習近平在中共中央政治局第九次集體學習時強調 加強領導做好規劃明確任務夯實基礎 推動我國新一代人工智能健康發展﹝J﹞.黨建，2018（11）：1-19.

〔17〕蘇 竣.開展人工智能社會實驗探索智能社會治理中國道路〔J〕.中國行政管理，2021（17）：21-22.

〔18〕Miles Brundage，et al. The malicious use of artificial intelligence：Forecasting，prevention，and mitigation〔EB/OL〕. https：//arxiv.org/abs/1802.07228.

〔19〕托馬斯·維施邁爾.人工智能系統的規制〔J〕.馬可，譯.法治社會，2021（05）：110-126.

〔20〕改革開放三十年重要文獻選編（下）〔M〕.北京：人民出版社，2008.

〔21〕十九大以來重要文獻選編：上冊〔M〕.北京：中央文獻出版社，2019.

〔22〕張志銘，于 浩.共和國法治認識的邏輯展開〔J〕.法學研究，2013（03）：3-16.

〔23〕陳小平.人工智能：技術條件、風險分析和創新模式升級〔J〕.科學與社會，2021（02）：1-14.

責任編輯 楊在平

〔基金項目〕國家社會科學基金重大項目“當代中國國家治理中的規范協同問題研究”（19ZDA155），主持人張志銘。

〔作者簡介〕史翰青（1994-），男，山西晉中人，華東師范大學法學院博士生，主要研究方向為法理學、法治與公共政策等。

于 浩（1988-），男，山東泰安人，華東師范大學法學院教授、博士生導師，紫江青年學者，主要研究方向為法治與公共政策。