生成式人工智能介入刑事審判的可能與限度

虞 潯，魏健宇

(華東政法大學 刑事法學院，上海 200050)

一、問題緣起：生成式人工智能介入刑事審判的實踐趨勢

2022年11月30日，美國人工智能研發公司Open AI正式推出了基于大型預訓練語言模型開發的生成式人工智能產品—ChatGPT(Chat Generative Pre-Trained Transformer)。一經問世，ChatGPT便掀起了一股生成式人工智能熱潮，短時間內就有超過1億用戶注冊使用，也引發各界探討生成式人工智能對我們社會現實可能帶來何種變化與挑戰[1]。2023年3月15日，Open AI正式發布了GPT-4版本。GPT-4是基于ChatGPT大模型GPT3.5的基礎開發的升級版。對比此前發布的版本，GPT-4面向用戶開放圖片處理功能，并且在自然語言理解響應能力和生成內容質量上也有顯著提升。例如，GPT-4在參與模擬美國律師執業資格考試中取得了前10%的成績排名，而GPT3.5版本的成績則是后10%，測試表明GPT-4目前的技術水平已經接近了專業領域的人類水平[2]。ChatGPT的快速進步是數字時代人工智能技術飛速發展的縮影，在專業領域模擬考試中展現出的較高專業水平為生成式人工智能技術應用于專業領域提供了可能。

隨著生成式人工智能的面世與發展，2023年7月，國家網信辦聯合七部門發布了《生成式人工智能服務管理暫行辦法》。該規定將生成式人工智能定義為“具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。”將生成式人工智能定義為技術，既符合事物的本質又展現了立法者鼓勵發展、應用新興事物的態度。有學者指出，ChatGPT作為生成式人工智能技術的代表，已經成為具備普遍適用性、動態演進性、創新互補性的能夠推動經濟增長的“通用目的技術”[3]。技術的正確運用可以推動社會進步發展，以ChatGPT為代表的生成式人工智能技術已經向我們充分展現了其應用于現實的強大能力。進入數字時代，人工智能技術的普及和應用是時代必然趨勢，生成式人工智能技術作為人工智能技術的一部分，應用于刑事審判領域既是數字時代的大勢所趨，也是司法進步的必由路徑。

司法實踐中已有人工智能技術應用于刑事審判活動的先例。域外方面，2023年，一名哥倫比亞法官就在刑事審判活動中使用ChatGPT輔助其完成量刑任務[4]；國內方面，人工智能技術早已介入刑事審判程序。例如，上海市第二中級人民法院在審理一起搶劫案件過程中，運用上海刑事案件智能輔助辦案系統“206系統”輔助庭審。“206系統”具有能夠在庭審過程中自動抓取歸類證據、言辭證據與視聽資料的快速比對等功能，通過人工智能系統的輔助有效提升了庭審效率，同時也在案件辦理質量方面起到保障作用[5]。無論是國外生成式人工智能技術在刑事審判中應用的先例，還是國內人工智能技術介入刑事審判的實踐，都顯示了數字化時代人工智能技術介入司法程序的可行性和必然性。因此，作為人工智能技術的重要組成部分，我們有必要進一步研究生成式人工智能在刑事審判領域應用的可能及應用限度問題。

數字時代的浪潮向社會現實涌來，以ChatGPT為代表的生成式人工智能技術的興起表明我們尚處于數字時代的起步階段。在數字司法尚未完全成熟和社會尚未作好完全轉型準備的條件下，本文將從方法論路徑出發，旨在通過新興數字技術的應用，在運行方面對現代法學進行升級優化，具體到點則是聚焦于生成式人工智能技術與刑事審判結合的價值動因、可能路徑、介入限度，探尋出一條推動生成式人工智能介入刑事審判的中國路徑。

二、智能司法：生成式人工智能應用于刑事審判的價值動因

2017年，國務院發布了《新一代人工智能發展規劃》，一方面明確了我國新一代人工智能發展的戰略目標和要求，另一方面展現了國家在人工智能建設與發展方面的決心與信心[6]。生成式人工智能技術的日趨成熟，已使其成為人工智能領域不可忽視的一股重要力量，因而生成式人工智能技術應用于刑事審判亦成為以數字技術推動現代法學升級優化，建設人工智能司法的關鍵。

(一)人工智能司法發展的必由路徑

人工智能技術的發展由弱到強可分為三個階段：“弱人工智能”(Artificial Narrow Intelligence，ANI)、“強人工智能”(Artificial General Intelligence，AGI)和“超人工智能”(Artificial Super Intelligence，ASI)。弱人工智能階段機器能夠完成基本的信息處理工作，在法律領域的應用體現為法律檢索系統和法律專家系統，這也是過去我們人工智能主流研究所在階段。目前，人工智能技術的發展方向是向強人工智能階段發展，開發出具備推理、直覺、思維能力的強人工智能技術[7]。生成式人工智能技術的誕生開拓出了人工智能技術通往“強人工智能階段”的道路。美國斯坦福大學的相關研究表明，ChatGPT作為生成式人工智能技術的代表在“擬人度”和“處理能力維度”方面已經實現了“多維度高擬真度”的質變，創作能力遠超既有人工智能應用[8]。隨著《新一代人工智能發展規劃》和《最高人民法院關于加快建設智慧法院的意見》等規范文件的發布，人工智能在司法領域的應用已經成為時代發展所趨，在人工智能司法如火如荼建設的今天，具備強大能力的生成式人工智能技術已成為人工智能司法發展進程中不可忽視的關鍵力量。

(二)助力數字時代刑事審判賦能增效

數字化時代，我國犯罪類型結構和各類犯罪特點發生變化，犯罪網絡化趨勢明顯，犯罪手段與網絡新技術結合引發諸多問題[9]。為了推動刑事審判業務更好應對數字時代新型犯罪以及數量巨大的網絡犯罪案件，目前，我國在刑事審判實踐中已經展開人工智能技術與刑事審判融合的探索。2017年2月6日，“上海刑事案件輔助審判系統”即“206系統”正式立項開發；北京高院依托人工智能、大數據、云計算等技術研發推出“睿法官”人工智能司法系統。“睿法官”在立案、庭審、文書撰寫各個環節都能為法官提供必要支持，既提升了訴訟效率、節約司法資源還能保證案件審判質量[10]。

生成式人工智能不同于“弱人工智能階段”的傳統人工智能技術，其具備自主學習、泛化能力強、交互修正等新特性，對比傳統人工智能技術具有變革性意義[11]。生成式人工智能的自主學習能力能夠通過建立巨量數據庫的學習模型來不斷學習、理解使用者的提問內容，泛化能力可以執行更為普遍通用的任務，既能滿足專業性需求也能滿足一般程序性事務需求，而交互修正則是可以在使用中結合輸入內容與反饋不斷修正內容，提高生成內容質量品質。生成式人工智能技術與刑事審判結合，能夠充分發揮技術特性優勢，依托我國巨大的刑事審判業務數據庫學習刑事審判理論。由生成式人工智能扮演“AI法官”角色在審判過程中輔助法官在立案審查、證據審查、量刑輔助、文書撰寫等環節進一步發揮高“擬真度”和交互修正力強的優勢，協同專業法官高質量完成各項審判工作，并在審判活動中基于原始語言模型結合實踐中獲得的大量審判經驗，通過不斷自我更新迭代提高生成內容質量和效率，拓寬生成式人工智能司法服務范圍，實現刑事審判業務的賦能增效。

三、可能路徑：刑事審判與生成式人工智能技術結合

生成式人工智能技術應用于刑事審判必然涉及司法裁判正當性的討論。已有學者提出，雖然技術革新使得人工智能司法具備巨大潛力，能夠極大提高司法效率，但完全的人工智能裁判依然缺乏正當性，其不具備裁判主體的正當性[12]。本文認為，基于目前人工智能發展階段和數字司法建設進程，應當以生成式人工智能技術作為優化和輔助刑事審判的技術工具而非取代專業審判人員的“AI法官”。

(一)庭審實質化的“AI法官助理”

根據以審判為中心的訴訟改革方向要求，庭審實質化意味著走流程模式的庭審將成為歷史。實質化的庭審活動要求法官在庭審中充分聽取雙方辯論意見，對事實和證據進行實質化審查，這也意味著在開庭時法官將承擔更多任務要求，這些任務既包含實質層面的法律、事實問題也包含形式層面的程序性問題，生成式人工智能與審判的結合就顯得尤為重要。

生成式人工智能在庭審活動中可以輔助法官完成對證據的審查認定。例如，庭審實質化的刑事審判活動要求充分聽取控辯雙方的意見，而由于言辭證據具有易變性，被告人當庭作出的供述可能與先前供述存在矛盾、不一致的情形甚至出現當庭翻供的情況。因此，關于言辭證據內容是否發生變化的審查可交由生成式人工智能處理，庭審時由生成式人工智能自動記錄被告人的當庭供述內容并自動與先前供述進行比對，并自動生成對比報告提示法官是否出現供述矛盾、不一致的情形。

生成式人工智能具有高“擬真度”和“多維度應用能力”。一方面，生成式人工智能可以充分發揮“擬真度”的優勢，充分理解庭審活動中各訴訟參與人的發言內容，自動形成庭審筆錄并根據法官的要求進行實時調整，輔助訴訟參與人出示證據，自動檢索相關法律規范內容供法官參考；另一方面，生成式人工智能的“多維度應用能力”與復雜的社會現實相匹配，刑事審判活動絕非是一場僅僅關乎法律專業知識的辯論，查清犯罪事實正確適用法律，既需要大量的法學專業知識作為基礎，同樣也需要對案件所涉領域的專業知識有一定了解。例如，在涉嫌醫療事故犯罪的案件當中，法官如若對醫療事故鑒定報告進行實質審查就必須具備一定醫學知識，在經濟犯罪案件中大量的金融數據和會計賬目需要經過專業人士的解讀才能為合議庭所理解，而審查認定這些事實都需要一定專業基礎作為依托。人工智能全面性的優點能夠填補法官認知判斷的局限性[13]，生成式人工智能的“多維度應用能力”成為審查認定事實的強力助手，生成式人工智能擁有遠超人類的學習、記憶能力，可以掌握各領域的專業技能，由此在刑事審判中可以輔助法官對犯罪事實中涉及到專業知識內容的部分進行審查認定，由生成式人工智能提出相關的專業意見，法官可依托生成式人工智能的“專家意見”對證據的關聯性、合法性、客觀性進行審查，也可以對庭審中專家證人發表的專家意見進行專業化的審查判斷。

(二)輔助量刑

計算機科學技術介入量刑并非人工智能時代的產物，早在2004年山東省淄博市淄川區人民法院在審理一起故意傷害案時就使用規范量刑軟件系統進行量刑，只需要輸入被告人的犯罪情節電腦就會生成對應刑期[14]。由于過去計算機科學技術水平有限，軟件程序只能機械地執行預設命令，缺乏主動創造性和高擬真度。有學者對電腦量刑提出異議，認為使用電腦量刑所追求的只是機械的公正，電腦量刑不能考慮到個別化情景并且缺失了法官的價值判斷，無法追求真正的公平正義[15]。但隨著人工智能技術的普及和應用，尤其是生成式人工智能技術的出現，前述問題將能夠得到妥善解決，這涉及兩方面的變化：一方面，從技術上，生成式人工智能技術具備高擬真度的特點，能夠以擬人思維進行思考和表達，在對案件事實進行綜合分析研判時能夠模擬人的視角進行分析；另一方面，使用生成式人工智能技術輔助量刑并非取代法官在量刑中的作用，而是借助生成式人工智能的先進生產力輔助法官完成量刑。輔助量刑過程中生成式人工智能可為法官提供量刑所參考的各種依據并提供量刑建議，而最終的量刑決定仍是經過法官自由裁量后含有人的價值判斷的結果。

目前，在司法實踐中，各地法院在對被告人定罪量刑時都會依據最高人民法院和最高人民檢察院聯合發布的《關于常見犯罪的量刑指導意見(試行)》(以下簡稱《意見》)以及各地方高院發布的具體細則完成量刑工作。《意見》中規定了各種犯罪的基準量刑起點及具體情節的加重或從寬處罰幅度，《意見》的發布為生成式人工智能提供了學習參數模型，生成式人工智能可以發揮高擬真度優勢，在領會《意見》規定基礎上輔助生成量刑意見。

前述學習過程實際上即“強人工智能階段”的生成式人工智能“深度學習”路徑。從技術層面而言，具體學習路徑由以下幾個階段組成：“自然語言—法律語言—‘計算機語言+算法化的法律規范’=裁判”[16]。由此生成式人工智能輔助量刑，能夠從被告人違法犯罪前科背景、認罪認罰情況、社會影響、再犯風險等法定、酌定量刑情節方面為法官提供量刑建議，也可以根據法官擬量刑幅度進行量刑幅度預警，結合過往類案的上訴、抗訴情況以及類似情節的量刑結果以及《意見》規定的自由裁量幅度，提醒法官量刑結果是否過嚴或過寬，能夠提高訴訟效率節約有限司法資源。

(三)完善類案裁判機制

基于法律面前人人平等的原則要求，類案的判決不應當出現相差較大甚至矛盾的裁判結果。因此，為統一裁判尺度維護法律的公平正義，2017年8月，最高人民法院發布《最高人民法院司法責任制實施意見(試行)》。該規定要求承辦案件的法官在辦案過程中應當進行類案檢索并制作類案與關聯案件檢索報告。發揮類案的指導功能是形式正義的要求，無論在英美法系還是大陸法系國家，類似的情形得到類似的對待都是公平正義的基本要求[17]。刑事案件的審判不同于民事案件，刑事案件關乎被告人的人身自由和基本權利，因此，其對刑事案件的證明和裁判提出更高的要求，必須做到事實清楚證據確實充分，定罪量刑準確。但是，在司法實踐中卻存在著大量罪與非罪、此罪與彼罪、罪重罪輕的模糊地帶，在這類案件的審判中參考類案的裁判結果成為實現公正審判的關鍵。生成式人工智能技術的出現可以在深度學習“事物本質思維”的基礎上，通過專門算法訓練，在類型化的基礎上結合案件要點形成可視化的類案知識圖譜，為法官提供類案裁判標準[18]。

生成式人工智能的大模型技術原理決定了其需要以海量數據作為學習基礎，只要能夠滿足海量數據需求并輔以專門訓練，生成式人工智能就可以形成類似人的理解方式和思維模式，應用于專業領域后可根據相應需求生成正確內容[19]。生成式人工智能大模型訓練中學習的數據量越大，生成內容質量越高。我國司法實踐中積累的億萬裁判文書成為了生成式人工智能充分發揮大模型學習優勢的數據庫，依托司法實踐中產生的海量判決結果生成式人工智能在專業人員的輔助訓練下可以形成可視化類案知識圖譜，將不同類型案件自動學習歸類。前述生成式人工智能深度學習“事物本質思維”與類案知識圖譜的融合指的是將案件的客觀事實與法律規范中構建的框架事實相結合，能夠將二者相連接的點是主體、行為、法益等要件，而這些要件可以成為分析判斷類案的比較點。因此，生成式人工智能可以在深度學習這種思維模式的情況下，按照各類型案件事物本質的要點進行類案分析研判，根據法官提出的案件信息將類案推送結果呈現給法官。

四、介入限度：刑事審判中生成式人工智能的應用治理

數字時代生成式人工智能技術應用于現代法學領域必然會帶來一系列問題，面對日新月異的數字技術我們決不能因噎廢食，但在進一步推動技術與制度深度融合的同時也必須穩步前行，正確處理技術與制度的矛盾，從技術輔助層面推動刑事審判發展前進。

(一)算法黑箱與司法公開的平衡

生成式人工智能離不開算法技術的支持，算法雖由人編寫完成但算法邏輯運行層面卻存在著不透明和不可解釋性特征，算法“黑箱效應”難以避免，并且在司法實踐中已經出現認為算法“黑箱效應”會影響司法公正的質疑[20]。算法“黑箱效應”在一定程度上與司法公開的要求形成了矛盾。例如，生成式人工智能依據其算法邏輯生成量刑建議，但生成過程和依據無法充分向被告人解釋，這在一定程度上侵犯了被告人的辯護權。由于結果的不可解釋性和不透明性被告人無法針對生成量刑建議的理由進行辯駁，使得被告人的訴訟權利保障成為問題。

為應對算法技術發展帶來的一系列問題，學界有觀點認為可通過算法透明原則來解決諸如算法“黑箱效應”等技術特性帶來的問題，通過要求算法開發的主體公布源代碼等算法要素來實現算法透明[21]。從技術層面講，公開算法源代碼只是形式上的公示，不能滿足司法實質公開的要求，公布源代碼對于缺乏專業計算機知識的被告人來說無法起到保障辯護權的作用，偏離了算法“黑箱效應”問題的核心本質。雖然將源代碼公開可以起到公示公信作用，但借助傳統審判活動來理解，人們對司法裁判不滿主要集中于“結果”而非“過程”，由法官自由心證產生的判決結果也存在類似的“黑箱效應”，即使在判決中充分釋法說理能夠證成的也只是裁判結果而不包括自由心證過程[22]。因此，算法“黑箱效應”與司法公開相協調的關鍵并非在于打開“黑箱”而是如何妥善處置“黑箱”。

刑事審判中實現算法技術特性與審判公開相協調必須限制生成式人工智能的應用場景，雖然“黑箱效應”無法從根本上解決，但可以通過合理規制生成式人工智能在刑事審判中的應用場景來規避“黑箱效應”的負面影響。從類型性理論的角度出發，對于需要充分解釋產生過程以及合法性來源這一類型的審判活動，應當避免單獨使用生成式人工智能代替法官進行。生成式人工智能的生成內容可作為參考依據，但不能享有“準據法”地位，司法決策最終仍要由法官作出，并且，法官不能單獨依據生成式人工智能的生成內容進行司法決策。

(二)獨立行使審判權與生成式人工智能的介入相協調

傳統的獨立行使審判權原則要求法官不受任何單位、團體、個人的影響，依據法律和事實獨立作出判決，即重點在于排除外在人員對司法審判活動的不公正干擾。進入數字時代人工智能技術的出現也帶來了人工智能是否具備主體地位問題的相關討論。本文并不認為人工智能具備法律主體地位，但認為應當重視人工智能尤其是具備“高擬真度”的生成式人工智能在法律實踐中的應用角色。因此，數字時代的獨立行使審判權還包含了不能以技術代替人的要求，要在發揮法官的主導作用的同時，充分利用科技手段，以達到提高訴訟效率維護司法公正的目的。

生成式人工智能經過專業人員配合專業語言模型訓練可以在一定領域內成為具備“高擬真度”的“AI專家”，但生成式人工智能在思維邏輯方面與人存在著質的區別。在思維邏輯層面，人的思維可以被細分為形象思維、抽象思維、社會思維等多種思維方式，而在人工智能領域，對于邏輯思維的研究最為成熟。因此，邏輯思維也構成了人工智能的的算法基礎，所以生成式人工智能可以在數理邏輯思維方面具有較大優勢，但人的思維模式卻不止于數理邏輯思維，生成式人工智能目前尚未具備其他思維能力[23]。法官作為自然人擁有著生成式人工智能所不具備的多種思維模式，庭審過程中法官可以通過對被告人情緒變化、面部表情以及證人作證時的神色進行觀察從而得出自己的心證，而這是生成式人工智能所不具備的能力，即使其可以通過攝像技術細致分析人的面部表情變化也無法真切感受到人的情緒。每一樁案件的判決結果都受法官價值判斷的影響并會對社會產生一定作用，法官的價值判斷是在多種思維模式影響下基于當前社會公序良俗等因素綜合考量產生的，這也是生成式人工智能所無法模擬的判斷過程。

保障法官獨立行使審判權而不受到生成式人工智能介入的影響必須堅持輔助性原則。在審判中心主義的建設中要求利用科技手段將法官從非審判實務中解放出來，將審判輔助工作交由人工智能替代，使得法官有更多精力投入核心審判工作[24]。法官在核心審判工作中并非不使用生成式人工智能，而是應當將生成式人工智能定位為輔助性角色，可以通過生成式人工智能完成程序工作，分析提供各類參考意見，但最終的價值判斷和司法決策必須是完全獨立作出而不能依賴于生成式人工智能。因此，審判活動中應用生成式人工智能技術必須注意使用限度，既要在廣度上滿足規定的應用場景，也要在深度上滿足合理使用的程度要求。

(三)刑事審判的地方性與生成式人工智能的兼容

在我國的司法實踐中由于各地在經濟發展水平、文化傳統、治安狀況、刑事政策等方面存在差異，反映到刑事審判程序中也顯現出一定的地方性特點。例如，在刑事證據規則方面，在我國刑事司法領域中各地司法機關分別結合地方特點，制定、頒布了地方刑事證據規則，這些具備地方性的刑事證據規則雖然存在著影響法律統一適用的爭議，但在地方的司法實踐中發揮了重要作用[25]。在關乎被告人刑罰輕重的量刑問題上，也存在著大量的地方性刑事司法規則。在北大法寶數據庫以量刑指導意見為標題進行檢索，結果顯示效力層級為地方性法規的量刑指導意見共有80部，實踐證明地方性因素對刑事審判程序有著巨大影響，我們不能忽視刑事審判中的地方性因素。

我們應當認識到在刑事司法這種關乎人權保護的特殊領域之中，人工智能技術還存在著一定的應用局限性。例如，刑事司法實踐中的地方性因素能夠導致相同的量刑情節無法得到相同的量化賦值評價，但人工智能算法模型往往立足于從全國范圍進行數字提取與建模[26]。生成式人工智能的算法訓練需要以大量數據為基礎，在早先的司法實踐中諸如北京“睿法官”、上海“206系統”等地方人工智能司法輔助系統開發過程中都是以地方司法數據為訓練基礎并在地方進行應用，所以并不會出現因為地域屬性而導致的“水土不服”問題。法律實質上是一種地方性知識[27]，進入數字時代，我們在普及、推廣生成式人工智能應用于刑事審判時必須考慮各地司法的地方性因素與生成式人工智能兼容的問題。

實現生成式人工智能與刑事審判的地方性兼容需要從兩方面入手：一是從開發層面出發，要實現生成式人工智能刑事審判輔助系統開發的條塊結合，即在最高人民法院、最高人民檢察院的主導下，開發研制基本的生成式人工智能司法系統框架，各地法院可在此基本框架基礎上通過結合地方性法律文件等內容作為訓練數據庫來進一步優化升級生成式人工智能算法模型；二是從應用層面出發，在司法實踐中充分發揮人的主觀能動性，在涉及諸如量刑等存在地方性因素影響的領域中，應用生成式人工智能時必須堅持輔助性原則，以輔助法官完成流程性事務為主，在涉及司法決策的程序中法官只能根據案件事實和法律作出相應司法決策，生成式人工智能只能提供參考意見以及對決策內容進行形式審查。

五、結語

以ChatGPT為代表的生成式人工智能技術的誕生將帶領人類社會進入強人工智能階段，數字法學在強人工智能階段的發展并非以完全顛覆現代法學為目的，而是以數字時代的技術為支撐從方法論層面對現有法律制度進行革新。人工智能的研究不僅包括算法模型和數據的研究，也必須對它所產生的社會關系和后果進行研究。后者是基礎也是主體[28]。生成式人工智能技術快速發展的今天，我們必須重視其在刑事司法的重點領域——刑事審判中所可能扮演的角色和發揮的作用。生成式人工智能在刑事審判領域的發展絕不會是一帆風順的，以辯證的眼光看待生成式人工智能，既要利用好生成式人工智能技術的強大生產力，也要處理好技術兩面性帶來的風險和應用問題。因此，對于生成式人工智能應用過程中存在的社會風險、法理風險等問題要審慎對待，探尋生成式人工智能與刑事審判的最佳結合點，以數字技術推動現代法學不斷轉型升級。