司法領域人工智能應用場景及風險分析

摘"要：司法人工智能的應用與發展是學界關注的熱點問題，在堅持人工智能輔助地位的前提下，類案檢索、量刑輔助、智能語音識別等技術不斷探索，進一步開發人工智能效用應當從其特性出發，把不需要價值判斷的案件交由人工智能完成以提高司法效率。本文以督促程序為例，分析人工智能審查支付令申請、自動生成支付令的邏輯與優勢，此外，討論了我國進一步發展司法人工智能可能面臨的風險與挑戰。

關鍵詞：人工智能；電子督促程序；應用場景

中圖分類號：F2"""""文獻標識碼：A""""""doi：10.19311/j.cnki.16723198.2024.18.016

0"引言

如何進一步提高糾紛解決效率、解決訴訟爆炸問題，人工智能或許是最新的答案。近年來，人工智能在社會各個領域展現出巨大的發展潛力，法學界對人工智能應用司法的討論同樣如火如荼。

應用人工智能，首要確定的是人工智能的定位問題。對于人工智能主體地位，學界主要持三種觀點。第一，“肯定說”。人工智能技術發展無法逆轉的趨勢下，按照“實力界定權利”理論，人類必然會面臨一個奇點即人工智能在實踐創造中發揮與人類相當乃至更高的作用時，雙方關系將發生本質上的改變，人工智能由客體地位轉變為主體地位。第二，“否定說”。人工智能是人類的工具和手段，只能按照人類設定的程序行事，不具有自主意識和主觀能動性。有學者認為，適格的法律主體必然是理性主體，但是，適格的法律主體同時也必然是欲望主體。人工智能不具備人的社會屬性，因而也無法成為法律主體。第三，“賦能說”。有學者提出，人工智能的法律主體地位必須先考察其技術語境，是否具備權利能力或者行為能力。人工智能主體地位的擬制只能限制在特定的范圍和領域，發生作用的范圍和領域有限，因而主體地位亦有限。

結合最高人民法院《關于規范和加強人工智能司法應用的意見》，在人工智能司法領域主體地位的態度上，筆者傾向于折中的賦能說。與其他社會領域不同，人工智能應用司法具有特殊性。秉持保守求穩的態度，在司法領域始終將人工智能作為工具而非主體。從堅持人工智能輔助地位、發揮人工智能效用最大化角度出發，本文將對人工智能應用督促程序及可能產生的風險進行分析。

1"人工智能應用督促程序場景分析

1.1"電子督促程序理論基礎

人工智能應用司法的道路上存在諸多阻礙，以人工智能司法應用中的法律問答系統為例，大部分問答系統的實現邏輯是數據收集、清洗和處理，然后存儲數據并建立索引，構建問答模型。以裁判文書作為主要數據來源存在以下問題，首先，近年來裁判文書公開數量不斷下降，數據的收集存在困難，其次，對數據的清洗和處理存在新法與舊法、文書格式、字體以及法律法規的表述大量不一致等問題。在耗費人力物力的基礎上，這些障礙可以逐一攻破解決。但一份裁判結果是體現確認事實、適用法律的過程，其中存在法官自由裁量的空間，法官的自由心證往往是個人價值觀以及社會主流價值觀的表現，法官處于不同的社會時期、不同經濟水平的地區，甚至處于不同的法院，其價值判斷都會受到極大影響。要理解一份裁判結果，也必然要結合特定的價值觀念。人工智能需要數據訓練，也就意味著人工智能輸入了大量含有不同價值觀的裁判文書，因此，最終隨機生成的判決結果無法運用在特定案件中。

司法領域的信息化建設不斷推進，已經取得諸多突破性進展，但是不可否認，我國仍處于“弱人工智能”階段。在輔助方面，人工智能的法條檢索、智能閱卷、電子送達、智能語音識別、類案檢索、電子卷宗生成、文書智能糾錯等功能已基本完備。在決策方面，涉及證據審查、事實認定、輔助量刑、類案裁判、審判偏離度評判等功能，此類應用直擊審判程序的核心環節，影響最終裁判的形成，實踐中多持謹慎和客觀的態度。

綜合來看，人工智能的天然缺陷在于具有滯后性的人工智能無法結合地區的具體情況作出價值判斷。為最大化發揮人工智能效用，人工智能不能對涉及具有價值判斷的事實進行審查。

例如，確認調解協議案件中，法院應審理的實體內容包括：調解協議的內容是否違反法律的強制性規定，是否出于當事人自愿和真實意思表示，是否損害國家利益、公共利益等。是否違反法律的強制性規定是人工智能可以完成且不涉及實質爭議的審查工作，但是在判斷是否損害國家利益、公共利益、他人利益上，明顯蘊含價值判斷。因此，由于確認調解協議案件涉及價值判斷，人工智能一般不能參與此類案件的審查工作。

一般來說，對實體權利義務存在爭議的案件審理中會包含價值判斷，那么對于不包含實體權利義務爭議的案件，也應當具體判斷是否可以使用人工智能。

例如，審查支付令的工作就可以由人工智能完成。督促程序不包含開庭審理，對于債權人申請，人民法院采取形式審查的方式，即僅審查當事人提供的書面材料所寫明的事實、證據是否符合支付令的要求即可作出判斷。一般來說，人民法院要對申請人是否具備當事人資格、要求給付的金錢或者有價證券是否屬于違法所得、要求給付的金錢或者有價證券是否到期或者數額是否確定等進行形式審查，以上要求均不涉及價值判斷，且不包含實體權利義務的爭議。若債務人提出異議，依據《民事訴訟法》第224條規定，人民法院對債務人提出書面異議，“經審查，異議成立的”，裁定終結督促程序，支付令自行失效。“異議”一旦加入，意味著當事人對實體權利義務產生爭議，此時人工智能應當退出案件審查。

根據最高人民法院《關于規范和加強人工智能司法應用的意見》中所述，“各類用戶有權選擇是否利用司法人工智能提供的輔助，有權隨時退出與人工智能產品和服務的交互”，債權人在申請支付令時，應當清楚審查主體，同樣也享有是否選擇人工智能服務的權利。債權人申請的審查、支付令生成工作由人工智能進行，審查時間必然大大縮短，理應具有立足與發展的空間。

1.2"電子督促程序的應用與發展

我國已然存在對電子督促程序的試點。2013年，杭州市西湖區人民法院借助信息化技術，實現支付令的網上申請、證據提交、審查、送達和詢問，并自動生成電子支付令。

綜合來看，相比于原始督促程序，電子督促程序有以下優勢：

一是流程操作電子化。當事人在線填寫，法官在線審查，符合受理條件的，系統生成受理通知書并通知當事人繳費。二是文書生成智能化。法官審查后認為申請成立的，可在線點擊生成支付令，系統自動抓取信息，生成支付令，供法官參考。三是糾紛管理訴前契約化。雙方當事人在訴前明確約定電子郵件、移動通信等即時收悉的特定系統的，可視為糾紛發生后審理、執行階段法律文書的送達方式，有效提高辦案效率。四是能解決送達標準要求較高的舊疾。《民事訴訟法》中規定支付令必須向債務人本人送達，實踐中，相當一部分支付令案件因無法送達債務人而被裁定終結督促程序。電子督促程序電子化普及，電話實名認證能解決無法送達的難題。隨著手機用戶實名制在我國的有效落實，手機有望成為最有效、最快捷的送達終端。西湖法院實行電子督促程序，法官受理后將結果以短信形式發送至申請人、將支付令發送至被申請人，原始督促程序固有的漏洞——被申請人為逃避拒絕簽收，電子督促程序在這里也給出了很好的解決方式：在實名認證下，三次發送短信成功，意味著送達成立，不給被申請人無視與逃避的機會，同時附加風險告知書以增加主動履行義務的驅動力，然而以上程序仍不完滿，若發送的短信中附有鏈接法院支付令確認網址，被申請人簽下電子簽名視為送達回執。

在西湖法院的電子督促程序試點中，由法官進行審查工作，但實際上電子督促程序系統已實現自動計算、自動審查和智能生成裁判文書等功能。電子化之后，一般人只要懂得基本的計算機操作，懂得基本的法律就可以處理督促程序案件，因此可以由非法官來處理這類案件。根據德國相關司法輔助官的相關規定，電子督促程序的案件由司法輔助官進行處理，而不再由法官進行辦理。且自2002年8月起，各州可以通過法律將電子督促程序的處理權交給書記官，大大減輕了法官的負擔，節省了大量司法資源，法官可以利用更多的時間處理復雜的案件。根據我國的實際情況，本文認為，支付令申請的審查可以交給法官助理或者書記員處理，債務人提出異議時再由法官處理。

此外，當事人應當有選擇是否接受人工智能服務的權利，尤其是在支付令申請的審查主要由人工智能進行的情況下。根據中國互聯網信息中心的統計數據，我國網民數量目前已經達到6.49億，但我國網絡普及率未達到全面覆蓋，城鄉以及東西部地區發展不平衡。因此，在支付令制度電子化的過程中，不能只規定電子化方式而完全拋棄傳統方式。筆者建議目前可以規定兩種方式由當事人進行自由選擇，當事人可以選擇傳統申請方式也可以選擇電子化程序，但是這種選擇自由可以僅限于自然人。對于企業提出的申請，可以強制使用電子化形式，企業提出的支付令申請可能較多，并且現代企業基本都是電子化辦公，不存在技術的難題。

2"人工智能應用于司法領域的法律風險

2.1"算法黑箱

在進行司法裁判時，法官不僅認定案件事實，還要適用法律規范，其決策考量須遵循法律邏輯，運用三段論式方法作出裁決。因此，法官說理，來龍去脈有跡可循，其決策過程存在可解釋性，而人工智能的決策或行為不具有可解釋性。以法律問答系統為例，在模型的設計和訓練中，文本匹配訓練尤為重要。文本匹配技術是將用戶問題與數據庫文本匹配，將合適結果輸出給用戶。系統提取關鍵詞，最終選擇概率最高的答案輸出，若得到數個相同概率的匹配結果，系統會有相應策略，產生偏好輸出。自主學習的算法雖然是由程序員設計的，但系統自主學習的過程不被程序員和外界所知。在以上過程中若參數發生變化，輸出結果也會發生變化。一言之，人工智能技術的非公開性、參數的可變性和算法模型的不可解釋性決定了人工智能具備不可解釋性。因此，法官參考人工智能作出的判決，可能不易使訴訟當事人信服，導致司法公信力下降。

2.2"數據風險

目前的人工智能是以數據為驅動力，通過數據擬合、算法預設來進行偏離預警、量刑輔助或者生成文書，將其應用于司法領域離不開數據的輸入、運算、存儲與輸出，因此易產生數據不全、數據歧視、數據泄露的風險。

首先，人工智能面臨數據收集的困難。以類案推送為例，有學者指出，人工智能類案推送主要是依據中國裁判文書網上的裁判文書，其數據問題在于范圍不夠廣闊，只局限于部分省份，如黑龍江、西藏地區的裁判文書公開率相較浙江、安徽低，推送的類案時間也有斷層，往往只集中于若干年份。另外，各地法院已經減少甚至停止向裁判文書網上傳文書，能夠進行訓練的數據逐漸減少。其次，人工智能在學習先前的裁判文書過程中，基于法官自身因素而導致的主觀偏見抑或社會上對特定人種或族群的偏見，可能也會改變其輸出偏好，產生數據歧視的風險。最后，人工智能生成的文本可能隱含個人、企業和政府的敏感信息，而算法模型可能存在未知安全漏洞，給攻擊者可乘之機，導致泄露個人隱私、商業秘密或者政府數據，侵害個人、企業和國家安全。

3"司法領域應用人工智能的風險管控策略

3.1"應用場景的劃分

當前，司法人工智能技術尚未成熟，且伴有諸多隱患，不能直接廣泛應用。首先，應明確其在司法流程的輔助定位，實體審理由法官進行，實體裁判由法官作出，責任始終由法官承擔，避免責任轉嫁、推諉風險。其次，通過案件繁簡分流，用人工智能專門處理頻次高的不涉及實體權利義務爭議的簡單案件，分擔法官部分工作壓力，集中精力處理疑難案件，促進質效提升。最后，應當建立監督回溯機制，當人工智能實際運用過程中出現適用定位偏移、功能不適用等問題時，有關機關予以監督并指導回溯改正。

3.2"數據的自動更新

司法領域應用人工智能的依據與根基便是鮮活、大量、恰當的裁判數據。豐富數據來源渠道，抓好全國法院裁判文書庫等平臺補充基礎數據，確保數據完整多樣性；拓寬數據獲得渠道，除判決書之外的討論記錄、訴訟文書、筆錄等都應歸入數據庫范圍，作為人工智能系統的學習材料與輔助依據。

3.3"算法的公開透明

國家司法部門應牽頭軟件研發、適用、監督，以國家公信力為背書，打破“商業秘密”桎梏，向社會以通俗語言公開其運行邏輯、審查監督機理、救濟保障機制等問題。當事人或社會輿論對算法科學性或決策邏輯等專業問題存疑時，應由專業系統算法技術人員作出相關鑒定或直接言辭解釋，打消各方疑慮。

4"結語

人工智能應用司法的潛力尚未完全挖掘，雖然不能代替法官裁判，但明晰背后原因，可以看到人工智能對不涉及實質審查、價值判斷的案件的獨特優勢，將人工智能與督促程序結合的路徑，或許是探索電子訴訟規則的搖籃，同樣，也對拓展人工智能應用場景具有借鑒意義。研究人工智能司法應用的道路艱辛，應當抱有開放、嘗試的態度，探索適合國情之路。

參考文獻

［1］楊青.互聯網時代我國督促程序的電子化改革——以德國電子督促程序為視角[J].重慶理工大學學報（社會科學），2017，31（03）：8591+106.

[2]吳英姿.論“確權型”案件的正當程序——略式程序的法理與規則[J].法制與社會發展，2023，29（02）：136156.

[3]王福華.電子訴訟制度構建的法律基礎[J].法學研究，2016，38（06）：88106.

[4]張亮.論電子督促程序的實踐困境與解決[J].司法智庫，2021，4（01）：6784.

[5]劉艷紅.人工智能的可解釋性與AI的法律責任問題研究[J].法制與社會發展，2022，28（01）：7891.

[6]龔善要.人工智能司法應用的實踐審思與完善[J].國家檢察官學院學報，2023，31（05）：95108.

[7]陳遼敏.電子督促程序初探[N].人民法院報，20170510（008）.