人工智能算法司法應用的發展隱憂及完善路徑

王玉薇,高 鵬

(東北林業大學 文法學院,哈爾濱 150040)

一、引言

隨著人工智能算法的迭代革新,人類開始邁進“萬物數字化,一切可計算”的新時代。[1]人工智能算法在智慧司法信息化建設中的作用和影響也逐漸增加。《人民法院信息化建設五年發展規劃(2016—2020)》與隨后的《國家信息化發展戰略綱要》均強調,要加快法院系統信息化建設,努力建設“智慧法院”以促進司法公平正義。截至目前,智慧司法建設處于3.0版本到4.0版本的變革階段,智慧審判、智慧執行、司法大數據等眾多智慧司法系統落地部署。2022年,最高人民法院發布了《最高人民法院關于規范和加強人工智能司法應用的意見》,并明確提出“到2025年,基本建成較為完備的司法人工智能技術應用體系,為司法為民、公正司法提供全方位智能輔助支持”“到2030年,建成具有規則引導和應用示范效應的司法人工智能技術應用和理論體系,為司法為民、公正司法提供全流程高水平智能輔助支持”。[2]為此,人工智能算法如何在司法領域深度應用,其面臨的隱憂如何排解以及路徑如何構建已成為亟須解決的時代課題。

目前,學界對人工智能算法司法應用進行了一定的探討,消極說、積極說、強化說、弱化說、法律形式主義說、法律實際主義說、二元說、替代說、輔助說等理論眾說紛紜、莫衷一是。就算法裁判而言,有學者認為,現有人工智能的司法應用在于“追求效率而非絕對精確性,追求裁判相關性而非因果性”[3],而“算法裁判對實現司法公正的增益遠超當下司法改革的體制性成效”[4],但由于“封閉黑箱或訓練樣本依賴算法裁判將產生天然歧視”[5]。從算法推理來看,算法推理“不僅是對演繹邏輯的外在模仿,更是對法官內在結構的經驗分析[6],它需要“遵循三段論機械的演繹推理與封閉體系”的形式主義推理理論[7],但卻遭受到法律實際主義推理的反對。對算法量刑而言,現有研究大都把算法量刑“作為法官裁判的輔助工具”[8],但卻對“法官量刑產生實質性的指引乃至約束”[9],從而有利于實現“同案同判”的量刑規范化目標。

基于此,本文擬在描繪人工智能算法司法應用實踐圖景的基礎上,重點分析其帶來的三點隱憂,最后有針對性地提出完善路徑,進而為規范和加強人工智能司法應用貢獻智慧和力量。

二、人工智能算法司法應用的實踐圖景

司法人工智能的應用最早是從對電腦量刑系統的研究起步的,進而逐步實現從傳統司法向智慧司法的結構性升級。尤其是隨著大數據、區塊鏈、生成式人工智能的高速發展,人工智能算法已與司法工作深度融合,其在裁判領域、推理領域、量刑領域的應用也如火如荼。但司法信息技術的應用必須設定人文“止境”,防止智慧司法的“造神”傾向[10],唯有這樣才能探求到中國“智慧司法”自主建設的成功道路。

(一)算法裁判層面

近年來,隨著“智慧法院”建設的全方位、全流程推進,人工智能算法裁判得到了廣泛應用。算法裁判指“人工智能可以代替法官直接做出裁判”[11]“機器能代替法官獨立完成某些司法決策”[12],其理論基礎為連接主義,又稱仿生學派,其原理為神經網絡與神經網絡間的連接機制與學習算法,代表應用有語音識別、圖像識別、自動駕駛。同時,算法裁判還具有新型性、抽象性及智能性等新特征。之所以說它具有新型性是因為其主要是通過計算機算法模仿法官進行推理和裁判的思維,進而實現計算機對案件的審理。而說它具有抽象性是源于“計算機根據預設的規則通過計算機程序模擬和歸納法律論辯”[13],這一過程的實現都是在計算機算法的機械操作下自主完成的。智能性在于依據計算機編程來創設和操控裁判程序、裁判推理、裁判論證和裁判結果,進而促使裁判程序標準化、裁判推理自動化、裁判論證精細化和裁判結果可預測化。

算法裁判運用的理念是為“司法為民和公正司法”目標的實現提供高水平智能輔助支持,將法官從事務性工作當中解放出來,為法官辦案提供全方位、全流程的支持和服務。這樣的智能輔助支持多以程序性輔助為主,不涉及實質判斷,主要應用于規范庭審裁判行為、提高審執效率,而無直接和獨立審判的權限與能力。這也是目前學界和實務對智能裁判的一般定位。實踐中,司法機關借助自動生成裁判文書技術自動生成裁判文書、借助電子卷宗升級技術隨案同步生成電子卷宗,智能輔助法官辦案和優化審判流程,方便法官高效協同辦案。河北法院應用智能系統輔助法官制作255.49萬份裁判文書,能夠減輕法官30%以上的案頭事務性工作。根據有關數據統計,截至2022年,全國支持裁判文書自動生成的法院占法院總數的98.8%,支持裁判文書自動糾錯的法院占法院總數的99.5%,審判智能化水平實現跨越式發展。[14]北京市高級人民法院的“睿法官”系統依托知識圖譜、自然語言理解技術(NLP)、實體識別技術實現法律邏輯與法律知識的挖掘,可以實現為案情“畫像”,為后續分析類案歷史裁判規律、推送知識輔助打下基礎。

此外,“由于大數據與深度學習技術,算法進一步演化為本體化的算法”[15],算法一旦實現本體化,就可以基于特定的知識圖譜等技術實現全要素、全流程的智能審判。例如,浙江省高院研發的“鳳凰金融智審”系統可以實現對金融類案件和民間借貸案件的全過程智能化審判。[16]再如,廣州互聯網法院部署“數字法官助理”——第二代RPA流程機器人,基于知識圖譜技術定向研發ZHI系統,實現知識產權糾紛全要素智能審判。[17]

(二)算法推理層面

相較于傳統的司法推理,人工智能算法推理是通過大數據挖掘、機器深度學習、自然語言處理等技術,將傳統法律推理中的大前提和小前提通過計算機算法轉譯成計算機可以識別的數字代碼和計算機程序,進而使機器法律推理從理論變為現實。即只要人工智能算法程序員能夠將法律推理規則編輯成一套算法程序,并且將相關司法參數輸入,算法就能作出確定的推理結論。例如,JUDITH律師推理系統可以模擬形式法律推理的演繹推理結構,并可將推理規則轉化為計算機可以識別的語言,進而使機器推理得以推廣。同時在英國,自2001年以來通過引入一種名為Oasys(罪犯評估系統)的風險評估工作,緩刑官通過輸入罪犯的訊問材料,計算機得出罪犯是否能被緩刑的結論。[18]在瑞典,OxRec開始用于估計罪犯出獄后再次暴力犯罪的風險,利用與累犯相關的三個主要風險因素:社會人口學、犯罪史和臨床,進而開發出多層次累犯評估模式。[19]

當下,人工智能算法推理逐漸發展為以規則推理為主,判例推理(Case-Based Reasoning)為輔的混合模式。混合式的人工智能算法推理要求算法推理過程嚴格執行三段論演繹,涵攝于封閉的法律規范體系的同時,也允許在推理過程中依據既有判例理解法律概念與法律術語,從而突破純粹的機械演繹,對部分個案作出合乎法律條文本身含義的最優解釋。混合式算法推理的理論支撐來自類比推理理論。類比推理理論強調“從已知的特殊推斷未知的特殊,待認知的對象不是在其內部及其本身,而是在關系中被獲知的,是一種從在一些特征上一致向在未知的其他特征上一致的推理”[20]。因此,混合式的人工智能算法推理在一定程度上是對純粹基于規則的推理模式的邏輯補強。

實踐中,混合式的人工智能算法推理基于法律規范,通過大數據挖掘、機器深度學習、知識圖譜等技術,依據特定的推理規則,將證據、案件事實等法律事實要件置于現行法秩序下分析,并通過輔助性、經驗性的司法判例比對,在保證推理過程一致性、穩定性的同時,更加科學、客觀地輸出推理裁判結果。具體應用中,北京的“睿法官”系統依托北京三級法院統一的審判信息資源庫與法律知識圖譜,可以對案件材料進行構成要件、要素的解構推理,并提煉出影響案件定罪量刑的各類因素,實現法律邏輯與法律知識的動態關聯,為法官定罪量刑提供實質知識輔助。(1)參見2018全國政法智能化建設智慧法院十大創新案例(一)北京市高級人民法院——“睿法官”系統,載于法安網,https://www.faanw.com/zhihuifayuan/58.html,最后訪問日期:2023年9月20日。再如上海高院研發的“206”輔助辦案系統運用深度神經網絡模型、圖文識別(OCR)技術、自然語言理解(NLP)等技術,基于對1.5萬余份卷宗材料,即經驗案例的學習,并通過搭建具體罪名的證據模型,可對司法要素自動定位、抽取、比對,從而實現對各類證據的全鏈條檢驗推理,及時篩查各類不符合證據標準或者存在瑕疵的證據。

(三)算法量刑層面

進入數字時代,人工智能算法對司法量刑工作的提質升級產生了較為深刻的影響。算法量刑是一種輔助法官進行刑罰裁量的新興技術手段,其運作機理是在大數據、云計算、區塊鏈等技術的支持下形成知識圖譜,通過提取法律文書的事實要素,實現類案識別和模型建構,借助深度學習等方法形成量刑算法,在此基礎上實現量刑預測和偏離度測算。[21]具體而言,算法量刑可以做到以下幾點:

其一,算法量刑可以實現融合檢索推送。[22]算法量刑系統通過收錄大量法律數據供其深度學習,然后根據量刑需要對類案信息進行檢索,實現類案事實和關聯法律條文的融合推送,拓寬法官認知范圍,提高量刑結果的科學性。

其二,算法量刑可以促進“同案同判”的實現。算法量刑系統通過對案件關鍵信息進行提取并構建數據模型,對影響定罪量刑的各類因素進行全面分析,實時監控量刑結果并對其進行偏離度測算和預警,提高量刑結果的確定性。

其三,算法量刑可以為法官提供量刑參考。算法量刑系統通過深度學習法官的審判經驗,結合內置的司法大數據系統輸出量刑建議,從而為法官量刑提供規范化的裁判尺度。[22]由此可見,算法量刑系統可以為法官量刑提供較為全面的數據支持,在一定程度上限制了法官的自由裁量權,推動了量刑活動的科學化和規范化。

實踐中,2022 年, 全國支持自動提取刑事案件法定和酌定量刑情節的法院, 占法院總數的91.7%,全國支持案由、情節等多維度質效統計分析的法院, 占法院總數的91.6% 。北京、江西、青海、安徽、廣東等 20個省份的轄區法院已經普遍具備了上述兩項功能。[14]海南省高院自主研發的智能輔助辦案系統,對于常規案件,該系統可以自動識別相關要素并模仿法官審理案件的過程,同時還可以對過往的量刑數據進行分析進而生成法律文書。(2)參見海南法院步入“智時代”,載于海南省人民政府網,https://www.hainan.gov.cn/hainan/5309/201807/d30dab4a44e044f58fd80e8279142eb6.shtml,最后訪問日期:2023年8月3日。與此同時,湖北省檢察機關研發的智能量刑輔助系統將其數據庫中的各類案件信息進行整合歸納,并將這些數據融入到其程序設計當中,基于一般的案件審理程序和規范,對案件進行智能化分析,同時還可以將同類既判案件作為參照,調整量刑結果。(3)參見智能量刑輔助系統——讓認罪認罰從寬“看得見”“落得實”,載于中華人民共和國最高人民檢察院官網,https://www.spp.gov.cn/spp/llyj/202008/t20200822_477552.shtml,最后訪問日期:2023年9月25日。可見,人工智能輔助量刑系統在我國已經有了較為持續的發展和深入的應用,勢必將為智慧法院的現代化建設提供新的發展機遇。

三、人工智能算法司法應用的發展隱憂

在當前的智慧司法實踐中,人工智能算法對司法的影響不在于算法裁判對法官裁判和法院獨立審判的威脅,也不在于算法黑箱、算法霸權對實質正義和審判中心主義的沖擊,而是人工算法技術的不斷迭代更新進一步解構司法本質和規律。因此,我們應直面其發展隱憂,促進智慧司法高質量建設和高質量發展。

(一)算法裁判易影響司法自主

在當今社會,司法權的獨立運行是實現司法自主的關鍵。為了保證司法權獨立運行和人民群眾在每一起司法案件中都能感受到公平正義,司法權還是應該專屬于司法機關。司法自主表現為法官獨立裁判和法院獨立審判兩個方面。然而,人工智能算法介入司法裁判以后,司法自主將面臨重大挑戰。

首先,算法裁判威脅法官獨立裁判。傳統的司法裁判主要是法官根據法律規定和法律條文背后的價值與理念來進行裁判。在這種裁判模式下,法官能夠憑借其豐富的審判經驗和價值判斷對隱藏在法律條文背后的法治精神和法治理念進行深入挖掘,從而全方位、體系化和動態化地對全案作出最優裁判。而算法裁判依靠的是程序化的算法規則,是一種僵硬的裁判模式,其核心是依賴于機器代碼來定義和計算人們需要遵守的規則和違反規則的結果[23],并不具備人類法官所具有的價值判斷功能。因此,這種缺少價值判斷的算法裁判對法官獨立裁判構成了重大威脅。大規模取代法官勞動力的智能算法系統的出現,無疑會導致法官喪失獨立思考的能力,使其成為算法的“奴隸”。[24]從長遠來來看,“人類一旦把決策交給了算法,就會形成一個算法統治的世界”[25],深刻地威脅法官獨立裁判的地位。

其次,算法裁判威脅法院獨立審判。我國《憲法》規定,“人民法院依照法律規定獨立行使審判權,不受行政機關、社會團體和個人的干涉。”憲法的這一規定明確了法院在審判活動中的獨立地位。誠然,整個算法的運作流程由于商業機密或者知識產權保護等原因通常不會對外公開,“用戶們無法看清其中的規則,無法提出不同的意見,也不能參與決策過程,只能接受最終的結果”[26],由此導致算法黑箱的產生。在黑箱中,算法控制者可以憑借技術優勢將個人意志強行嵌入到算法當中,從而使得整個司法過程存在被科技公司或者技術人員操控的風險。更嚴重的是,法院對算法的依賴還可能造成科技公司和司法機關工作人員的合謀。司法機關工作人員和科技公司為了獲取高額利益,就可能相互勾結,影響法院獨立開展審判工作,進而影響司法自主。智慧法院實質上將導致程序員、軟件工程師、技術公司與法官共同作出決定的局面,最終人工智能可能會取代法官。[27]從司法權力而言,算法、信息化、大數據的出現極大地稀釋了原本獨屬于法院的裁判權。

最后,算法裁判技術解構司法邏輯。從字面表達來看,算法裁判主要指人工智能算法依托人工智能技術模擬人類法官所進行的裁判。但其能模仿到什么程度,最終取決于算法技術的客觀發展。算法裁判的核心在于數據主義的技術本位邏輯。在技術邏輯的指令下,人工智能算法可以實現對歷史上已生效判決中的法律規定與案件事實等大小前提的抓取和智能分析,由此從大量歷史判決的相似案例中獲得機器模仿出來的比較精確性結論。可見,算法裁判的基本邏輯起點是大量歷史上的已判決的司法大數據,關心的是海量司法大數據中的相關性演繹,而非單獨個體的因果責任鏈條。這與傳統的司法責任認定邏輯背道而馳。傳統的線下司法訴訟均反映當下個案的特殊情形或新情況,依據法官法律職業能力及辦案經驗,憑借反復的演繹推理和邏輯論證,動態及時地作出最優判決,體現司法對勝訴權益的積極維護。然而,由于智慧司法建設對人工智能技術的過度依賴,極易形成以數據為中心的“數據主義司法觀”,算法和大數據的出現更是極大地解構了原本專屬于法院的審判權,弱化司法親歷性、自主性、能動性,司法固有屬性和法官主體地位正慢慢被解構和削弱。一方面,由于技術知識資源明顯分配不衡,算法裁判呈現出嚴重的“數據鴻溝”現象,并導致算法控制者與普通個體之間新的不平等關系產生,甚至加劇階級固化;另一方面,由于算法裁判系統中存在算法黑箱和信息繭房現象,利用司法大數據就可以直接對法官之前已判決案件提前進行類案總結分析和計算勝訴概率,大大限制了當事人的實質性參與權、充分知情權和有效抗辯權,與傳統司法邏輯嚴重背離。

(二)算法推理易影響實質正義

在大數據時代,算法推理的應用不僅挑戰實體正義保障法治的根本追求,而且沖擊著公正、參與、公開等程序正義的本質追求。例如,算法推理在收集、處理、應用、數據過程中可能會因數據來源甄別錯誤等原因“從而導致數據本身所蘊含的不平等被原封不動地轉移到大數據的計算結果之中,進而導致基于算法的大數據不平等和不正義”[28]。

首先,法律數據低質化影響實質正義。進入數字時代,實質正義的實現越來越依賴于高質量的法律數據。算法想要對特定案件進行實質推理,僅僅根據法律規范和法律原則是很難實現的,這一過程需要大量司法案例作為訓練數據來供算法進行學習并據此完成數據模型建構。遺憾的是,現階段的法律數據仍是一種低質化的法律數據。[29]這種低質化主要表現為法律數據不全面和不客觀。

一方面,全面的數據樣本是算法推理能夠充分發揮其作用的前提,但我國目前顯然不具備這種條件。法律數據不全面表現為以下兩點:其一,法律數據來源單一。其二,法律數據內容不全面。如果沒有全面的法律數據樣本作為支持,算法就無法應對紛繁復雜的法律案件。

另一方面,法律數據是否客觀真實也會對算法推理的實質結果產生影響。裁判文書記錄的內容除了法律條文以外,還有法官事實認定的過程和法律適用的過程。法律條文的客觀性毋庸置疑,但是事實認定和法律適用的結果可能會因為司法人員的法律技術差異、個人性格特點或者社會因素干擾等原因而有所不同。在司法實踐中最典型的表現就是“同案不同判”。針對同一案件不同的法官、不同的法院可能會持有不同的觀點,裁判文書的內容也自然不同。特別是疑難案件,裁判結果的推理更是法律理念、社會倫理和核心價值的急切關照。因此,法律數據必不可少的會摻雜一些人的主觀性價值判斷和選擇,算法據此推理出的結果不可避免地具有不確定性、片面性、差異性,更無法做到對每一個案件作出準確和現實回應,進而影響實質正義的實現。

其次,算法歧視影響實質正義。在數字社會,實質正義的實現需要更加關注數字弱勢群體的全方位保護和數字資源的公正平等分配。但在算法推理的應用過程中,卻產生了諸如算法歧視和算法霸權這類問題,深層次地影響到了實質正義的實現。眾所周知,“算法并非技術中立,它無法將人類社會固有的某些偏見與歧視完全排除在外”[30]。算法歧視的表現主要有兩個方面:其一,采集的數據自身存在偏見。例如,作為算法數據主要來源的裁判文書網公布的裁判文書,法官的個人價值選擇和價值判斷會在裁判文書中體現得淋漓盡致,這其中就可能包含法官個人的主觀偏見和價值傾向。例如,女性法官對于強奸案件相比于男性法官會持有更強硬的態度。其二,算法的運算邏輯本身也存在歧視,這種歧視主要來源于算法研發人員。例如,對于犯罪嫌疑人的危險性評估,如果算法的研發人員有種族歧視,那么他設計的算法很有可能會給黑人設定更高的犯罪危險系數。由此可見,算法歧視極易導致算法推理的結論偏離正常價值軌道,容易對某些數字弱勢群體的數字權益造成重大損害,這與數字正義的本質和精神相悖。

最后,算法霸權易影響實質正義。隨著算法的迭代演進,特別是深度學習算法技術的高速發展,具有深度自主學習與決策能力的智能算法與人類法官的行為已然脫離并超出了工具化屬性,直接輔助甚至取代法官作出自動司法決策,進而成為新的獨立決策者,加劇數字人權與數字社會新的不公平風險,進而消解實質正義制度和司法權力獨立及專屬本質。表面上,算法可能是一種自我運行的計算系統或程式性規則,實則算法以處理海量法律大數據的機器優勢嵌入傳統的“公權力—私權利”權力二元結構運行,最終可能反客為主,直至替代人類法官,亦甚至操控整個司法權力運作。一方面,算法技術形成的新型權力生態和數字資源分配方式使各個主體對算法產生過度依賴;另一方面,算法霸權的出現直接作用甚至影響司法系統內多方權力的平等互動和有效溝通,嚴重的直接替代司法權力機構自動作出機器決策,可能會侵害數字能力懸殊的雙方當事人的平等訴訟機會與程序實質公平,最終使得訴權不均衡的態勢被逐漸放大,并終將損害數字弱勢一方的數字權益和數字權利,導致公正審判權難以實現。理由恰是,傳統的線下訴訟均反映人類群體的集體正義,而智慧司法建設后,法官的自主決策權則讓渡給算法,司法場域中的權力布局不再是單一的司法公權力主導,而是“司法+技術”的疊加權力,當事人存在被雙重權力侵害的風險。[31]從本質看,迭代演進的算法衍生的算法霸權沖擊的不僅是對抗性程序正義以及協商性程序正義,更是對傳統制度性正義體系及制度內核的全方位挑戰。

(三)算法量刑沖擊審判中心主義

如前所述,算法量刑主要是指“在大數據、云計算的技術支撐下構建法律圖譜,通過提取法律文書要素,進行類案識別和模型訓練,用機器學習等人工智能方法形成量刑算法,在此基礎上實現量刑預測和偏離度測算”[32]。具體操作是“通過大數據操作,將‘法定刑、基準刑、宣告刑’三個維度的數據準確標注,抽取案情中影響量刑結果的法定量刑情節、酌定量刑情節和影響量刑的歷史因素,建立量刑預測模型”[33],進而實現對案件的智能定罪和智能量刑。然而,算法量刑在以“同案同判”的技術裁判路徑推動傳統司法量刑結構性轉向的同時[34],也沖擊了“庭審的方式認定案件事實并在此基礎上決定被告人的定罪量刑”[35]的審判中心主義,具體表現在以下三個方面:

首先,算法量刑挑戰庭審實質化的運行。刑事庭審實質化就是要確保“證據舉證在法庭、證據質證在法庭、證據認證在法庭、案件事實查明在法庭、訴辯意見發表在法庭、裁判理由形成在法庭”[36]。但人工智能算法量刑的應用卻對庭審實質化的有效運行構成挑戰。一方面,算法量刑以網絡在線的方式依靠智能量刑模型對既往類案進行智能量刑預測,這就使得傳統“面對面的對話式”法庭辯論、法庭質證、法庭陳述制度在實體上喪失了保留的必要;另一方面,在技術依賴主義的不特定風險下,算法量刑預測可能取得超越“參考”性質的量刑決策權重,甚至演化為法官量刑審判的規范標準,如果法官不予采納算法量刑參考時必須出具正當理由,這將大大限縮法官的自由裁量權,嚴重的將架空法官法庭居中裁判的主體性地位和權威 。

其次,算法量刑易破壞辯審雙方的互動平衡。控辯審三方在司法量刑中形成的對抗式訴訟結構,是審判中心主義的精神實質。然而,算法量刑“卻在整體上改變了傳統的訴訟角色之間的地位與關系”[37],使得審方難以居中客觀裁判的辯審雙方互動失衡。進一步來說,辯審雙方互動平衡的關鍵在于辯方能否實現有效辯護與審方能否有效回應,但由于智能算法量刑模型難以動態理解法律規范的本身含義和立法目的,難以窮盡案件法定、酌定情節的全部內容,難以向外界公布智能算法量刑的運作機理,辯方就更難就智能算法量刑預測結論進行有效辯護和說明理由。更深層的是,算法量刑遵循的是以數據、代碼為智力支持的“經驗驗證式”量刑邏輯,“分析的對象并非待審案件,而是既有類案的判決規律”[32],這使得辯方基于待審案件的辯護意見很難在算法量刑中獲得針對性、及時性和實質性回應,進而與“有效辯護”原則和訴訟正當程序相違背,難以實現程序正義的同時,有重蹈“職權主義訴訟結構”覆轍之虞。

最后,算法量刑易減損審判權專屬原則的功能。審判權專屬原則是審判中心主義的應有之義,其核心以職權特定化的形式防止法外行權,進而保證審判權的獨立運行。但隨人工智能算法介入司法量刑,審判權的屬性與配置結構都發生了重大變化,并在一定程度上減損了審判權專屬原則。一方面,在算法量刑的程式運行下,各類法律規范、案件事實、審判要件都將數字化和要素化,那么法官在審判中行使的證據審查、事實認定、法律適用、自由裁量等權力就淪落為智能算法對法律數據的計算分析結果。這實則使法官的審判權讓渡給了智能算法,不僅會使審判權的專屬性和權威性下降,還會使審判權的行使變得更加被動,更與司法的本質和規律相悖。另一方面,由于技術壁壘的存在,審判機關無法獨立開發、掌握人工智能量刑算法,因此出現了審判權的“外溢”現象。詳細來說,盡管在算法量刑的實際運行過程中,法律大數據分析規則、量刑知識圖譜構建、自由裁量細分等條件都可按審判機關的預先要求設置,但在技術服務合同中仍很難囊括價值排序、法條轉化等詳盡內容,技術公司實則掌握了算法量刑決策的具體細節。[16]算法后臺的運行維護,數據集的選擇、預清洗等工作都依賴于外部技術公司的操作,而往往算法量刑的實質公正性和最優性往往取決于法律與案件中細節性規定和選擇。例如,在量刑算法模型的調整中,即便是微小的代碼替換都可能反映為定罪和量刑結果的巨大誤差。

四、人工智能算法司法應用的完善路徑

如上所述,人工智能算法的司法應用表現出諸多發展隱憂,但我們也應保持更加理性和積極的態度,正確和謹慎地對待人工智能算法司法應用的效率價值和合理定位。為此,我們應堅持實踐導向,不斷完善和構建人工智能算法司法應用的理論體系和美好藍圖。

(一)明確算法裁判的輔助性地位

首先,明確算法裁判的范圍。如前所述,隨著算法的迭代升級,其在提升智能化輔助水平的同時,也潛藏著影響法官獨立裁判和法院獨立審判的風險。2022年,《最高人民法院關于規范和加強人工智能司法應用的意見》明確規定了“輔助審判原則”,該原則為算法裁判的輔助性地位指明了方向、提供了規范引導。具體而言,算法裁判可以應用到以下幾種類型的案件中。 其一,算法裁判可以應用于那些事實清楚,證據充分,認罪認罰的簡單案件。對此,我們可以采取一種繁簡分流的案件預處理方式,根據其復雜程度將案件進行分類,并將不同復雜程度的案件分配給法官和人工智能算法分別進行處理,對于比較復雜的案件,則必須由法官負責審理。其二,算法裁判可廣泛應用于一些非訴訟事務。如文書寫作、合同審查、類案收集等。其三,算法裁判應多適用于民商事案件,在刑事案件和行政案件中應當謹慎適用。理由恰是,民商類案件的數據信息比較豐富,且更加準確客觀,貼合現階段算法的發展現狀。對于刑事案件和行政案件,為了保障案件當事人的合法權益,應當謹慎適用算法。

其次,明確算法裁判的責任歸屬。自算法參與到司法實踐中以來,案件裁判的責任歸屬問題一直備受爭議。由于技術水平的限制,現階段應用于司法領域的算法總體上仍處于發展的初級階段,大多從事一些基礎性、機械性的工作。因此,司法實踐僅僅賦予了其客體地位。如果想要算法獨立承擔司法責任,則必須承認算法的主體地位,這在目前顯然是難以成立的。為了保障法官在審理案件時能始終堅持公平公正、獨立自主的司法理念,就必須明確在有算法參與的案件當中,應當由法官承擔案件判決結果的主要責任,算法的設計者或者算法研發公司承擔次要責任,并且這種責任承擔的比例應當隨著算法技術的升級而作出調整。此外,法院對于算法的研發工作主要依賴于科技公司派遣的技術人員。為了防止司法工作者和技術人員之間存在利益勾連,影響法院獨立審判,二者之間的接觸必須遵循嚴格的程序,明確雙方的權利義務關系。

(二)建立算法推理可修正的技術正當程序

如前所述,算法推理在數據運用層面和算法運行層面都面臨著許多問題。數據的低質化、算法歧視和算法霸權等問題減損了算法推理在司法領域的運用效果。因此,有必要建立算法推理可修正的技術正當程序。可修正的技術正當程序作為對數字技術融入司法推理程序的過程和結果進行衡量的基本標準可以包括“排出歧視和霸權”“實質有效參與”“程序對等互動”“問責合理有效”四項基本要素,旨在對算法推理過程中的共同體參與、機器深度學習及算法推理系統的合理解釋與規制提供參考性框架,這就需要做到:

首先,建立可修正的數據處理程序。如上所述,我國當下的法律數據存在不充分、不客觀的情況。為了應對這種數據困境,建議做到以下三點:其一,完善全國性司法系統內部的法律大數據檢索程序。其所收錄的數據除了裁判文書上體現的裁判結果、量刑結果等客觀數據,還應該包含案件的推理過程、證據參考等案件推理信息。這種數據庫的建立既可以保證不宜公開案件的隱私性,又可以促進各地區法院互聯互通,加強各地區法律數據庫信息的共建共享,避免算法推理信息割據局面的發生。其二,建立自動化數據預處理程序。數據預處理程序可以在一定工作周期內通過對錯誤數據、失效數據進行篩查,對問題數據進行校準,并重新上傳數據庫。其三,建立規范化數據處理程序。以刑事案件算法推理為例,規范化數據處理程序應當對“法定刑、基準刑、宣告刑”三個維度的數據準確標注,如何抽取案情中影響量刑結果的法定量刑情節、酌定量刑情節和影響量刑的歷史因素,量刑預測模型如何構建設置具體的程序標準和原則,以保證算法推理結果的全面和正確。

其次,建立完備的算法監督程序。第一,對算法的設計、研發、運行的各個過程要設定嚴格的監督程序;第二,對算法本身的倫理性要設定嚴格的監督程序。為此,可以成立專門的算法監督機構和專業委員會,委員會的成員可以由法律、倫理以及人工智能等領域的專家擔任。具體來說,算法審查委員會應當定期對其轄區的司法機關所使用的算法系統進行抽查,對算法系統的使用情況進行深入分析和全面追蹤,及時發現其中可能蘊含的算法安全隱患并妥善處理,不因技術介入、數據瑕疵或模型偏差影響推理過程和推理結果,保障算法推理的合理性和正當性。

(三)構建人機協同的算法量刑新模式

如前所述,算法量刑的出現,在一定程度上沖擊了審判中心主義。為避免算法量刑的過度擴張,主張構建以法官為主導的人機協同的算法量刑新模式。“人機協同”的核心是“人”主導“機”的協同關系,人機協同的運作要以“人”的有效性、實質性參與為前提,以“人”“機”協同、優勢互補為關鍵,最大化實現技術賦能,促進審方、辯方與算法三方等各類訴訟參與人共享數字紅利,為智慧司法的高質量建設提供可行性的理論框架。 具體建議如下:

首先,確立“以審判人員為中心”的人機協作理念,并堅持人工智能輔助審判原則。在提供算法自動化量刑決策背景下,可以采用“誰作出決定,誰擁有作出此類決定權力”的方式確定責任歸屬。理由恰是,算法量刑的本質依然是法官主導量刑決策,只有法院依法行使審判權、法律解釋權,才能確保判決的公信力、權威性和可執行性,唯有這樣才能避免算法量刑的機器偏差和對法官量刑主體性的威脅,進而防止審判權“外溢”現象的蔓延。因此,量刑工作必須堅持“以審判員為中心”的協作理念,充分發揮法官在量刑工作中的主體性作用,規避算法系統可能帶來的機械化偏差。此外,建議加強算法量刑的直接言詞性。具體方法是,對于算法庭前自動校驗的證據,法官仍需要在庭審中就其進行公開舉證、質證辯論并進行實質性的二次審查。由于直接言詞環節的缺失,不經算法與法官雙重審查的證據,不得成為量刑依據輸入算法參數。對于算法類型化的量刑參考,法官不得直接適用,應當調動對個案的內心確信,增添人類的價值判斷、利益考量等理性說理因素,在彌補算法量刑“價值判斷失效”的同時避免其作為庭外因素干涉量刑公正。

其次,提高辯方在算法量刑中的影響權重。在人機協同量刑問題上,應當將相關決策權重釋放給各級司法機關,由相關機關根據實際情況,不斷調整兩者決策權重。同時,對于算法量刑的選擇應當交予當事人。“當事人若不同意在司法程序使用算法量刑,司法機關必須予以尊重”[38]。人機協同的算法量刑新模式不應排除辯方在其中的重要作用,而這也是審判中心主義的必然要求。對此,建議以技術賦權形式提高辯方在算法量刑中的影響權重,進而達成與審方的互動平衡,如賦予辯方自由選擇權、知情權、參與權、技術回溯權等為內容的權利群,以避免算法量刑在審方主導下形成 “入罪化”的路徑依賴。

最后,明確法官與算法的合理分工范圍。目前,算法量刑的具體適用規則沒有統一規定,我國各地區對相關設備的使用邊界也沒有一個明確的界定。建議將算法輔助量刑的邊界設定在“事實清楚”“權利義務關系明確”“證據充分”三個方面,但此類設定仍然不充分。例如,刑事訴訟法、民事訴訟法以及行政訴訟法及其司法解釋中,關于簡易和速裁程序、獨任審判庭制度的設定可以暫時用作確定算法輔助量刑使用邊界。此外,為確保審判權專屬法官,數據篩選、證據預先審查、審判要件排列組合等量刑程序性事項可由算法自動進行,并在其中設置隨時的人工介入權,預留法官決策空間以避免程序性的微小偏差傳導至末端的量刑結果,涉及價值判斷、利益考量的法律解釋、量刑說理等量刑實體性事項則只能由法官進行。人機協同的算法量刑新模式的本質就是通過法官智慧和機器智能的有機結合,消解審判中心主義與算法量刑的矛盾,從而為量刑工作提質增效。

五、結語

基于人工智能算法正加速應用于智慧司法實踐的各個層面。本文以人工智能算法與司法實踐現象為材料,從科技、法律、倫理等多重視角,分析了人工智能算法司法應用的圖譜及隱憂,豐富了智慧司法應用理論的研究成果。

誠然,智慧司法的運作是算法大規模的替代或輔助法官進行裁判、推理及量刑的過程。這種應用不僅助推司法質效的大幅度提升,限制法官自由裁量的空間,還直接重塑了司法理念、司法正義以及司法本質。但由于人工智能算法的復雜性和隱蔽性共存,威脅了司法自主、實質正義和審判中心主義。其深層根源除了算法司法過程的不可還原性和封閉性導致的黑箱效應和算法霸權,算法與數據作為算法司法生態的關鍵要素也威脅法官獨立裁判和法院獨立審判,甚至解構司法本質和屬性。

為了實現人工智能算法技術理性與智慧司法的目的理性契合,需要做到以下三點:首先,需要明確算法裁判的輔助性地位。那些事實清楚證據確實充分認罪認罰的簡單案件、一些常規非訴訟事務案件和金融經濟糾紛類民商事案件應納入算法裁判的范圍。在有算法參與的案件當中,應當由法官承擔案件判決結果的主要責任,算法的設計者或者算法研發公司承擔次要責任,并且這種責任承擔的比例應當隨著算法技術的升級而做出調整。其次,建立算法推理可修正的技術規范程序;這就需要建立可修正的數據處理程序。為此可建立全國性司法系統內部的法律案例數據庫、自動化數據預處理程序和規范化數據處理程序。此外,應建立完備的算法監督程序,算法審查專業委員會需承擔算法審查工作,委員會的成員可以由法律、倫理以及人工智能等領域的專家擔任,進而保障算法推理的合理性和正當性。最后,構建人機協同的算法量刑新模式。人機協同的算法量刑新模式的本質就是法官智慧和機器智能的有機結合,二者相輔相成,相互制約。事實上,本文對人工智能算法司法應用的研究和理解還處于初級階段,數字技術對智慧司法實踐的革命性影響還需要我們不斷地去探析、深挖和高度提煉。無論是可修正的技術規范程序的構成要素以及具體內涵,還是人機協同的算法量刑模式的具體操作,值得探討的空間很大。智慧司法理論界和實務界在不斷向技術理性靠近的道路上,仍需堅持“人”主導“機”的協同關系和人類社會人本主義的自我意識,共同提升人工智能算法司法應用的實踐品質和理論品格。