刑事司法領域自動化決策的風險與規制

摘" "要： 自動化決策在中外各國的刑事司法領域已有廣泛應用，其原因在于自動化決策符合刑事司法預防和打擊犯罪、提高訴訟效率、實現案件公正辦理的需求，也有相應的觀念和技術條件予以支持。然而自動化決策在刑事司法中的應用可能帶來準確性不足、公正性偏離和機械性三方面的風險，應采取措施對自動化決策進行規制，以達到補足準確性、保障公正性和消解機械性的效果，實現自動化決策在刑事司法領域的法治化應用。

關鍵詞： 自動化決策；刑事司法；預測性警務；智慧司法；證據審查

中圖分類號：D926.1" "文獻標識碼：A 文章編號：1004-8634（2024）03-0098-（10）

DOI：10.13852/J.CNKI.JSHNU.2024.03.011

人類社會正在進行數字化轉型，科技的進步帶來了生產生活方式的變革，“通過計算機程序自動分析、評估個人的行為習慣、興趣愛好或者經濟、健康、信用狀況等，并進行決策的”1 自動化廣泛應用在社會生活的各個方面。尤其在商業領域，平臺企業運用其所掌握的用戶數據分析用戶的消費偏好、購買習慣、經濟能力等，進而向其推送精準化、個性化的廣告，已成數字時代商業營銷的常見方式。此種自動化決策的應用，固然有提升廣告投放匹配度、刺激用戶消費、提高商業收益的效果，但也帶來了個人信息濫用、“廣告轟炸”、價格歧視、算法標簽等問題，引發了用戶的反感和社會的關注。面對此種情形，《中華人民共和國個人信息保護法》（以下簡稱《個保法》）第24條對自動化決策做出規定，要求自動化決策透明和結果公平公正、禁止價格歧視，通過自動化決策方式進行信息推送、商業營銷應提供不針對個人特征的選項或提供便捷的拒絕方式，且做出對個人權益有重大影響的決定時，個人有權要求說明并拒絕僅以自動化決策方式決定。

《個保法》的規定對自動化決策引發的問題做出了回應，然而該條的視野太過狹窄，幾乎只適用于商業領域。事實上，所有利用收集的數據進行分析并由機器做出部分或全部決定的方式都是自動化決策，2 甚至從某種意義上看，自動化決策構成了人工智能等智能化工具的本質。3 如果從這樣一種廣義的概念出發理解自動化決策，我們會發現社會生活的許多領域都存在自動化決策的應用，也出現了因自動化決策引發的一系列問題，存在亟須加以規范的現實需求。

在刑事司法領域，自動化決策的應用早已不鮮見。大數據技術、人工智能技術在刑事司法中的推廣和應用，使得自動化決策結構性地嵌入刑事司法，尤其是在以下三個場景下的應用幾乎成為常態：一是預測性警務。智能化工具通過數據的收集、比對進行犯罪嫌疑人畫像，進而對特定人員的犯罪可能及行為方式做出預測，這在警務實踐中已常見。準確地講，預測性警務常發生在刑事立案之前，但因其自動化決策與刑事偵查的密切聯系，此種應用亦可被納入刑事司法視野。二是羈押必要性審查。刑事司法中對犯罪嫌疑人、被告人進行的羈押必要性審查，越來越依賴于智能化工具所做的社會危險性評估方面的自動化決策。經由自動化決策得出的社會危險性評估結論，將影響他們是以監禁還是取保的狀態等待審判。三是量刑。對罪犯的量刑程序也是刑事司法領域自動化決策最常見的應用場景之一。法官將個案中的證據、罪犯的個人情況等輸入系統后，由智能化工具做出的量刑建議常被法官接受，進而決定罪犯的命運。

由此可見，刑事司法領域的自動化決策對犯罪嫌疑人、被告人、罪犯等被追訴人的自由甚至生命等最重要的法益的干預程度極深，茲事體大。針對刑事司法中的自動化決策問題，歐盟關于刑事司法的第2016/680號指令在第11條中做出了原則性的規定，1 但目前中國尚無此方面的立法規定，相關的研究亦十分有限。江溯從盧米斯案切入，分析刑事司法領域針對自動化決策的算法規制。2 高通以自動化決策為視角，研究逮捕社會危險性量化評估問題。3 何軍針對自動化偵查決策的實踐、風險和發展進路展開研究。4 程雷、卞建林將自動化決策作為《中華人民共和國刑事訴訟法》（以下簡稱《刑訴法》）與《個保法》銜接中的一個具體問題展開討論。5 然而，目前的相關研究常集中關注刑事司法領域自動化決策某一方面的具體問題，尚不夠系統，有進一步深入之必要。有鑒于此，為系統研究刑事司法領域的自動化決策，有必要討論以下三個方面的問題：第一，自動化決策在刑事司法領域何以得到廣泛應用？第二，刑事司法領域自動化決策的應用是否會帶來問題，究竟有何風險？第三，如何對刑事司法領域的自動化決策進行規制以趨利避害？本文擬就這些問題展開討論。

一、刑事司法領域自動化決策的現實應用

自動化決策在刑事司法領域已經得到普遍應用，中外各國刑事司法中都有相應的自動化決策工具，這是因為自動化決策滿足了刑事司法預防和打擊犯罪、提高訴訟效率、實現案件公正辦理的需求，也有相應的觀念和技術層面的條件予以支撐。

1.自動化決策在刑事司法領域的廣泛應用

美國是自動化決策應用于刑事司法領域的典型國家。洛杉磯警方曾使用的預測性警務工具PredPol系統，可以通過分析歷史犯罪數據來預測特定時間和地點可能發生的犯罪。6 在羈押必要性審查方面，美國有PSA系統，可以用于評估審前被告不按期出庭或在候審期間犯下新罪行的風險。7 在量刑方面，有LSI-R和COMPAS系統，可以通過評估個體的歷史記錄、生活環境、人際關系、性格特質等數據，預測已被定罪的罪犯的再犯風險，進而提出量刑建議。8

英國對刑事司法領域的自動化決策應用也十分積極。倫敦警察廳開發的Gangs Matrix系統通過監控被認為與城市中的暴力團伙活動有關的個人，以識別可能的團伙成員，來預防犯罪和減少暴力事件。1 NDAS風險評估和犯罪預測工具，可以預測哪些已經為警方所知之人可能在未來一年內犯下嚴重暴力罪行。2 HART可以描述犯罪嫌疑人的特征并預測其未來再次犯罪的風險，以幫助警方做出是否追訴的決定。3

除了英美之外，意大利有Delia系統，用于分析特定個人或群體被控實施的犯罪序列，并預測特定領域未來的犯罪情況。4 德國有SKALA系統，是目前德國最大的預測性警務工具。5 西班牙有RisCanvi，是一種風險評估軟件，加泰羅尼亞監獄用它對所有進入監獄的囚犯進行每六個月一次的篩查，以確定其再犯罪風險。6

在中國，隨著“智慧司法”改革在全國范圍內的全面推進，刑事司法領域也廣泛應用了自動化決策工具。為人所熟知的上海法院“刑事案件智能輔助辦案系統”（206系統），依托專家經驗和模型算法制定證據審查標準指引，幫助法官開展證據審查判斷；它還可以對當事人進行社會危險性評估，建立量刑預測模型，提供量刑建議。北京的“睿法官”系統，可以在立案環節進行案件畫像，通過數據分析的方法形成智能系統生成的報告。廣東的“智審輔助量刑裁決系統”，可以在法官輸入案件要素后，自動推送相似案例，進行比對和運算，推送量刑幅度。江蘇的“智慧審判蘇州模式”，能夠通過案情的自動抓取提煉案件爭議焦點，自動匹配類案，自主生成裁判建議。海南的“量刑規范化智能輔助系統”，具有智能識別提取犯罪事實和量刑情節、自動依據歷史量刑數據推薦量刑的功能。杭州市檢察機關的“危險駕駛案辦案輔助系統”，依據系統預置的量刑計算規則，自動計算、智能對比、自動輸出量刑建議。

2.自動化決策應用于刑事司法領域的動力

自動化決策在中外各國刑事司法領域的廣泛應用并非無因，社會數字化轉型使得犯罪形態發生變革，刑法積極擴張又帶來了刑事案件辦理的巨大壓力，7 于是自動化決策成為刑事司法領域應對數字時代挑戰的一項有效手段。

首先，自動化決策滿足了預防和打擊犯罪的需求。預防和打擊犯罪向來是刑事司法領域的核心任務之一，近年來刑事犯罪數量的增多使得此項任務的重要性更為凸顯，自動化決策工具的應用直接滿足了此種需求。無論是在羈押必要性審查中還是在量刑階段，應用自動化決策工具進行犯罪嫌疑人、被告人和罪犯的社會危險性評估，都能夠評判其再犯罪的風險，進而預先采取相應的干預手段，降低犯罪發生的概率。更為典型的是預測性警務中進行的自動化決策，基于數據的收集與分析，提前預測特定人員實施犯罪的風險，從而將犯罪治理工作自刑事訴訟程序向刑事司法啟動之前延伸，為警察機關從源頭上遏制犯罪的發生提供了依據。由此可見，刑事司法領域自動化決策應用的三大主要場景，均是以預防和打擊犯罪為直接目的的。

其次，自動化決策提高了刑事訴訟的效率。刑事犯罪數量的增多使得各國刑事司法機關普遍感受到刑事案件數量的壓力。以中國為例，2018年至2022年，全國檢察機關共辦理各類案件1733.6萬件（其中主要是刑事案件），比2013年至2017年上升40%。8 同期，全國各級法院共審結一審刑事案件590.6萬件，判處罪犯776.1萬人。9 面對如此巨大的壓力，刑事司法領域的偵訴審機關均有應用自動化決策工具提高訴訟效率的內在動力。例如在量刑時，傳統上需由法官針對案件證據和被定罪罪犯的個人情況進行細致審查，并在反復裁量后依法做出裁判。倘若使用自動化決策工具，只需將相關數據輸入系統，即可得出極為精準的量刑建議。這自然大幅提升了辦案效率。

再次，自動化決策對于案件辦理的公正性亦有裨益。自動化決策是基于去價值化的、具有普遍性和非人格性特征的形式合理性品格的1算法做出的。相較于人所具有的豐富情感和價值判斷能力，自動化決策工具以一種冰冷、恒定的姿態對案件中的有關問題做出決斷，使得案件的辦理排除了人的因素，更具有可預測性。此外，在一些問題上，立法的粗疏也使自動化決策成為必要。例如中國在批準逮捕與否的問題上越發重視社會危險性的考量，然而立法對此的規定精確性不足，缺乏可操作性，難以把握。2 在此種情形下，自動化決策工具中精密的社會危險性評估算法設計，對此種立法不足進行了補充，使得此種評估易于進行。從這個角度看，自動化決策在刑事司法領域的應用，在一定程度上起到了提升案件辦理公正性的作用。

3.自動化決策應用于刑事司法領域的條件

在上述驅動自動化決策應用于刑事司法領域的動力之外，實現自動化決策的廣泛應用，尚需有刑事案件辦理觀念的轉型和科技的發展作為其條件。

首先，量化評估逐漸在刑事案件辦理中被接受，是自動化決策應用于刑事司法領域的內在條件。傳統的法律形式主義下，刑事案件辦理中對數據的量化難以接受。恰如波斯納所言，“法律所缺失的是……數據的量化、可靠且可控的實驗、嚴格的統計推論”。3 然而隨著法律現實主義的影響越發增大，實證研究成為法學研究的重要方法，基于科學方法對數據進行收集和分析，進而檢驗假設是否成立的案件辦理方式，也逐漸為人們所接受。4 在此種背景下，刑事案件的辦理中開始運用并逐漸依賴量化評估的方法，于是以量化評估為基礎的自動化決策工具方有適用于刑事司法領域的可能性。可以說，自動化決策應用于刑事司法領域，在一定意義上是刑事案件辦理理念轉型的結果。

其次，網絡技術、大數據技術在刑事司法領域的普及，使得自動化決策的應用擁有數據資源的支撐。自20世紀后半段起，各國刑事司法機關都在進行網絡化、電子化建設。仍以中國為例，公安機關早在20世紀80年代就開展了計算機網絡建設，1994年即建成違法犯罪信息系統，并建設了各種類型的數據庫。檢法機關也在20世紀末21世紀初大力開展網絡系統和數據庫建設，尤其是將海量文書進行電子化轉換，存儲于內部網絡系統中。這些前期工作為自動化決策工具提供了數據的基礎，使得自動化決策在刑事司法領域的應用擁有充足的原料。除此之外，隨著大數據技術的普及，數據的抓取、分析更為便捷，也使得刑事司法領域的自動化決策應用成為可能。

再次，人工智能的應用、升級、迭代，使得自動化決策真正具有了應用于刑事司法領域的技術條件。人工智能技術以學習、模仿人的思維和行為方式為特征，能夠在某些方面代替人類工作，甚至比人類做得更好。5 具備了此種特征之后，借由機器進行的自動化決策才可能在刑事司法領域代替人類做出預測犯罪、羈押必要性審查、量刑等方面的決策判斷。更重要的是，人工智能具有主動學習的能力，能夠在應用和訓練中實現更高層次的智能化，使得自動化決策工具可以不斷適應刑事案件辦理的新需要。還需關注的是，人工智能的迭代升級速度驚人。近年來令人驚嘆的生成式人工智能還具備創建數據的能力，使其自動化決策的水平進一步提高，增加了司法人員對其的信任和依賴。2023年哥倫比亞一名法官在民事案件中直接依據生成式人工智能ChatGPT的決策做出裁判。6 同年，印度某法院在刑事案件保釋申請審查中，也直接援引ChatGPT的意見做出裁決。1 在可預見的未來，人工智能技術的不斷更新，將使刑事司法領域應用自動化決策的空間愈發擴大。

二、自動化決策應用于刑事司法領域的風險

盡管自動化決策在刑事司法領域的應用有充足的動力和條件予以支持，亦在實踐中十分常見，但卻不能忽視其可能帶來的風險。具體而言，自動化決策可能給刑事司法領域帶來以下三方面的主要風險：

1.準確性不足的風險

即便以“科學”為名，但和其他任何技術一樣，自動化決策工具亦可能出現錯誤判斷，使得其做出的決策與實際情況之間產生偏差。這種錯誤，在科學研究領域是常見且應予包容的，甚至是科學發展的動力，但是，由于關系人的生命、自由、財產等最重要法益，則可能是“低容錯率”的刑事司法領域所難以接受的。

首先，自動化決策出現錯誤可能是因為作為原料的數據本身的準確性存在問題。曾有學者總結，法律數據主要存在不充分、不真實、不客觀、結構化不足等方面的缺陷。2 這些缺陷至今仍然存在。各個司法機關或多或少地存在一定程度的數據選擇性入庫的問題。這既可能是因為案件本身特點、所處階段、訴訟體制的需要，例如偵查數據可能有保密性方面的更高要求，或者由于當前的正副案卷二元體制導致部分數據無法入庫，也可能是因為辦案人員的個人原因，例如不愿將心證的過程公開，或者實際的裁判理由與在法律文書中呈現的裁判理由并不完全一致。但無論基于何種原因，都導致數據不夠充分、真實、客觀。除此之外，對于描述同一事物所使用的術語不統一、數據的分類不夠精準等原因，使得作為原料的數據在可獲取性方面存在結構性不足。數據本身的準確性存在偏差，使得自動化決策在原料供給的環節就存在錯誤風險，于是從根源上決定了刑事司法領域自動化決策出現準確性方面的問題是現實可能的。

其次，自動化決策出現錯誤可能是因為算法的科學性不足。這可能源于兩方面原因。一方面是技術本身尚不足以應付刑事司法的復雜性。刑事案件紛繁復雜，犯罪分子基于牟取非法利益的動機，在應用新型技術方面最具創新性。相較而言，刑事司法領域的技術往往需待較為成熟后方可應用。而此種成熟即意味著具有滯后性，影響了自動化決策的準確性。另一方面是科技企業可能為追求商業利益而故意提供較為低層次的技術。自動化決策在商業領域的應用所帶來的經濟利益，顯而易見遠高于刑事司法領域。科技企業出于逐利的本能，可能將更具有科學性的技術應用在更能獲利的商業領域，而將科學性相對較差的技術投放至刑事司法領域，甚至可能出現利用司法機關對技術的陌生“以次充好”的情況。如此一來，刑事司法領域自動化決策所依托的算法可能出現科學性不足，進而影響自動化決策的準確性。

再次，自動化決策出現錯誤的可能是因為缺乏必要的檢驗與校正。自動化決策所依據的量化評估模型是需要檢驗與校正的，因為任何一種模型都不可能確保百分之百的準確性。例如，即便是準確率已屬相當高的OxRec再犯罪風險評估工具，被其認定為“高風險”人群的再犯率僅在60%左右。3 如此，應用于具體個案中，就可能出現“脫靶”的情形，需要予以必要的檢驗與校正。然而目前的現實是，司法人員奉行“拿來主義”，傾向于直接接受自動化決策工具所做出的決策，在個案層面幾乎沒有有效的檢驗與校正機制。如此一來，應用于刑事司法領域的自動化決策工具所依據的量化評估模型的任何一點偏差概率，落在具體個案上都可能導致案件辦理的百分之百錯誤，進而使得自動化決策的偏差與案件的錯誤裁判直接關聯，帶來準確性方面的重大風險。

2.公正性偏離的風險

刑事司法領域自動化決策的應用，由于算法的黑箱性質，不可避免地導致了公正性方面的風險。具體表現在：

第一，實體公正層面的歧視性風險。作為黑箱的算法中是否可能蘊含歧視性的因素，進而是否會帶來針對不同群體的歧視性自動化決策，始終是人們關注的重要議題。早在2016年的美國盧米斯訴威斯康星州案中，當事人在上訴中就提出，COMPAS系統中將性別作為社會危險性評估的考量因素，涉嫌對不同性別的歧視性對待，其結論存在不公正的可能。盡管威斯康星州最高法院維持了原判決，但也指出COMPAS系統等自動化決策工具中存在將少數群體的再犯風險進行不當估計的可能性。1 事實上，這種針對少數群體的歧視，不是存在于可能的層面，而是已在實踐中有真實的例證。美國曾有調查發現，自動化決策工具在再犯罪的社會危險性評估方面存在嚴重的年齡、種族、性別等方面的歧視性考量因素。例如同為小額盜竊罪犯，41歲的白人男子弗農·普雷特（Vernon Prater）因盜竊價值86.35美元的商品被定罪，盡管其有過兩次持械搶劫的重罪前科并曾服刑5年，仍被自動化決策工具評定為三級低再犯罪風險；而18歲的黑人女子布里莎·波登（Brisha Borden）因盜竊兒童自行車和滑板車被定罪，盡管其之前只有4次青少年輕罪記錄，仍被自動化決策工具認定為八級高再犯罪風險。之后的事實情況是，弗農·普雷特不久又犯入室盜竊的新罪而受到30項重罪指控，而布里莎·波登再沒犯罪。2 除了年齡、種族、性別等因素之外，政治觀點、經濟能力、性取向等因素也可能致使自動化決策所依據的算法出現歧視。歧視性考量因素存在的直接的后果就是，導致類似案件有不同處理結果，從而給刑事司法的實體公正投下陰影。

第二，程序公正層面的訴訟權利損害。現代法治化的刑事司法領域要求對當事人訴訟權利有強力有效的保護，以符合人權保障和程序正義的要求。然而自動化決策應用于刑事司法領域，卻可能導致當事人特別是被追訴人的權利減損。這具體表現在以下幾個方面：其一，算法的黑箱性質導致被追訴人的知情權難以實現。被追訴人常常不但難以知曉自動化決策工具是依據何種算法、如何做出對其利益攸關事項的決策的，甚至連該事項的決策究竟是由司法官員還是自動化決策工具做出的都不知情。知情權的受損使得被追訴人后續進行辯護的前提條件無從保障，損害了其辯護利益。其二，算法的黑箱性質導致被追訴人的質證權難以行使。對不利于己的證據進行質證是被追訴人最核心的權利之一，然而針對自動化決策的事項，即便明知工具在其中的角色，也將面臨“與誰質證、如何質證”3 的問題。被追訴人不僅將對究竟與控方還是機器進行質證感到困惑，更會因算法的封閉秘密及其高度專業性而遭遇質證困難。質證權的損害將導致被追訴人對刑事訴訟程序的實質參與效果大為減損，進而威脅程序公正甚至實體公正的價值追求。其三，自動化決策導致控辯雙方的力量對比差距進一步拉大，使得辯方與控方進行平等對抗的權利無從談起。刑事司法領域的偵訴機關本就有國家強制力的加持，具有遠較辯方強大的力量。在其得以應用自動化決策工具之后，此種力量對比差距更大，使得本就不平等的控辯關系進一步向著有利于控方的方向傾斜。如此一來，控辯平等對抗的刑事訴訟基本原則難以落實，辯方的相應權利也易受忽視和損害。

3.機械性風險

在刑事訴訟中應用自動化決策，也呈現出一種機械化的傾向。盡管刑事案件的具體情況千差萬別，但司法官員只需把案件辦理的各項考慮因素輸入計算機，自動化決策工具就會將之統統轉化成一個個冰冷的“0”和“1”的二進位數字，再將這些數字交由固定的算法進行運算并得出結論。如此一來，交由自動化決策工具處理的事項都以一種僵硬、機械的狀態被做出決策，使得刑事司法領域也呈現出某種程度的僵化、機械的特征。

熟悉刑事訴訟歷史的人都會對此種僵化、機械的刑事案件辦理方式感到似曾相識。自13世紀起，歐洲大陸各主要國家逐漸通過立法建立起一種法定證據制度，在16至17世紀此種制度得以完全確立。此種制度的主要內容是：第一，只認可四種證明方式，即證人、被告人口供、書面文件、推定；第二，只有兩個需要證明的事項，一是發生了刑事犯罪，二是這個犯罪是被告人實施的；第三，對于第二項需要證明的事項，即被告人有罪的證明，須達到“完整證明”的程度；4 第四，證據的證明力由立法預先設定，證據分為確實的證據、半證據和不完整的證據，1 證明力不足的證據可以互相補強完成“完整證明”。盡管法定證據制度與歐洲大陸當時的司法環境相適應，亦有提高司法公正性、可預見性和權威性的優點，2 但其對刑事案件證明僵化、機械的規定始終飽受批判。及至18世紀末期，法定證據制度被法國的自由心證制度取代。

刑事司法領域應用的自動化決策工具，在處理社會危險性評估等事項上的方式，與歐洲中世紀的法定證據制度至少在以下三個方面存在類似之處：一是決策依據的簡化。法定證據制度拒絕承認刑事案件證明方式的多樣化，將證明方式僅限定為四種法定證據，使得法官的決策依據受到限制和禁錮。自動化決策工具也有類似的做法，其將紛繁復雜的刑事案件中的各項證據、事實、法律規定都簡化為易于運算的數據，并以這些數據作為其做出決策的最終依據。二是決策手段的固化。法定證據制度下，證據的證明力已由法律預先設定，對是否達到“完整證明”之證明標準要求的判斷，經過固定的簡單計算程序即可實現。自動化決策亦以固定的運算程序即算法作為決策手段，司法官員輸入相關內容后，即經由固定程序獲得機械的結果。三是司法官員角色的弱化。法定證據制度下，立法者刻意降低法官在裁判中的作用，其目的在于實現刑事證明的客觀化。自動化決策中，司法官員也不再是處理結果的最終做出者，更多地扮演著數據的輸入者和自動化決策結果接受者的角色。

基于以上分析，對于刑事司法領域自動化決策的此種“數字時代的法定證據制度”傾向應有足夠的警惕。尤其需要考慮以下兩個方面問題：一方面，機械的“工具理性”是否能代替人的理性？自動化決策的客觀性、可預測性都增加了刑事司法實體公正的可能性，但與此同時，對“工具理性”的盲目依從可能導致對人的理性作用的貶損，導致對“人類所獨有的用以調節和控制人的欲望和行為的一種精神力量”3 的忽視，甚至導致對刑事司法領域人的主體地位的沖擊和威脅。另一方面，僵化、機械的司法輸出是否能夠滿足人民群眾對刑事司法公平正義的要求？沒有價值判斷能力的自動化決策的冰冷程序設計是無法實現“天理、國法、人情”相統一的，而人民群眾對刑事司法公平正義的需要卻早已超出法律條文的僵硬適用，這一點在內蒙古王力軍非法經營案4等案件判決引發的輿情中就已可見。那么如何在應用自動化決策的同時滿足人民群眾對于刑事司法公平正義的要求，就是值得深思的問題。

三、自動化決策應用于刑事司法領域的規制

既然自動化決策應用于刑事司法領域存在上文所述的三方面風險，就應當有針對性地采取以下三方面措施予以規制，以促進自動化決策在刑事司法領域的良性應用：

1.準確性的補足

準確性是刑事司法領域應用自動化決策的基本要求之一，否則自動化決策可能帶來錯案的風險。針對上文所述的自動化決策應用于刑事司法的準確性不足的風險，應從以下幾個方面予以彌補：

第一，數據質量的保證。離開數據的自動化決策就是無源之水、無本之木，同樣，自動化決策的準確性也不能離開作為原料的數據的準確性保證。針對上文所述的數據準確性存在的問題，首先，應當對數據入庫做更為細致的規范。對于刑事司法領域產生的數據，原則上均應進入偵訴審機關的辦案系統，以為后續案件的辦理提供數據支持。對于存在特殊情況、特殊理由不宜入庫的數據，需要求此種特殊情況和理由符合相關規定，并對其做符合規范的處理。其次，應當對司法人員的心證公開提出更高的要求。尤其針對法官，應要求其心證的過程在裁判文書中做較為詳細的說明，以為后續的類案裁判提供準確的先例數據。再次，應當對數據抽樣技術進行完善。當前絕大多數自動化決策工具所依據的數據樣本是抽樣而來的，為確保數據的準確性，除應要求數據抽樣具有隨機性、排除人在抽樣中的主觀干擾之外，還應保證數據的全面性和代表性，使得自動化決策的原料符合刑事案件辦理的需要。當然，對于作為自動化決策原料的數據質量的提升，并非一蹴而就之事，需要持之以恒的工作方可實現。

第二，算法的科學優化。如上文所述，自動化決策出現準確性方面的偏差，可能是由于算法的科學性不足，具體原因，一是技術本身的科學性不足，二是科技企業為逐利而投放較低水平技術。針對前一方面的原因，需要科技企業提升技術水平，這更多地取決于科技的整體發展程度，并非刑事司法所能干預的。針對后一方面的原因，則可以通過更為嚴格的審查以及引入競爭的方式予以解決。在準入性問題上，刑事司法領域的公權力機關應以強化審查的方式確保使用的自動化決策工具在算法方面的科學性。公權力機關既可以通過招錄專業人員的方式提升自身的審查能力，也可以將審查工作交由第三方進行審查，以對科技企業“以次充好”的做法形成威懾。另外還應對自動化決策工具的招投標環節進行完善，降低此環節中的腐敗風險，實現真正有效的競爭，以確保中標科技企業提供的自動化決策工具在算法方面具有科學性的競爭優勢。

第三，檢驗與校正的加強。可以從三個方面理解：一是理論對技術的檢驗與校正。即通過理論研究確定自動化決策應用于刑事訴訟的目的、目標，并將具體的技術實施與此種目的、目標進行對照，進而對技術做出必要的調整。二是實踐對技術的檢驗與校正。以對被追訴人進行的自動化社會危險性評估為例，通過社會實踐可以發掘影響社會危險性評估的新因素、新指標，從而對自動化決策進行調整與校正，司法人員亦可依其實踐經驗對自動化決策進行檢驗和審查。1 三是技術對技術的檢驗和校正。即通過不同科技企業提供的不同類型的工具，對同一事項進行自動化決策，對取得的結果進行比對校驗，從而幫助司法人員選擇準確性更高的結論作為案件辦理的參考。

2.公正性的保障

公正是刑事司法的生命線，面對上文已述的自動化決策應用于刑事司法領域而由算法帶來的歧視和權利損害等方面的公正性風險，應從以下三個方面予以規制，進而提供司法公正方面的保障：

第一，應有適度的算法公開。如前所述，算法的黑箱性質是產生自動化決策中可能存在歧視性考量因素之疑慮的主要原因，算法的商業利益是導致公正性偏離風險的另一個原因。正當的商業利益追求是市場經濟所應當尊重的，否則必然打擊科技企業開發新技術的積極性。然而在刑事司法領域，由于其所涉法益重大，商業利益追求與公平正義追求之間有平衡的必要。否則，一味堅持算法的商業利益，不但當事人無法對自動化決策的考慮因素和運算過程有所了解，以致后續的質證、辯護難以進行，而且司法人員也無從得知自動化決策是如何做出的，以及其中有無存在違背公正要求之處，增加了錯誤裁判的風險。有鑒于此，可以考慮對應用于刑事司法領域的自動化決策做適當的公開：一是可以就限于特定爭議較大的案件與事項，實行公開事由的限定；二是可以就公開的對象予以限定，例如可以只向偵訴審機關的辦案人員以及案件當事人及其律師公開，而非向社會公開；三是可以為此種公開提供必要的安全保障，例如要求辦案人員、當事人、律師等簽訂保密協定，防止公開給科技企業帶來過高的成本負擔。總之，經由此種公開，自動化決策中由于歧視性考量因素而給刑事司法帶來的公正性風險，可以得到一定程度的降低，社會大眾對此種自動化決策的接受程度也能得到提升。

第二，應由司法人員對為何采納自動化決策意見進行解釋。從應然的角度看，自動化決策工具所做出的意見并非刑事案件中該事項處理的最終結論，而是供司法人員做出決策的參考依據之一；但從實然的角度看，司法人員容易屈從于自動化決策的意見，甚至很有可能如上文提及的哥倫比亞、印度法官那般將ChatGPT等工具的意見直接作為案件辦理的最終結論。面對此種現實，一個相對具有可行性的方法是要求司法人員尤其是法官對為何采納自動化決策意見進行解釋。要求做此種解釋的好處在于符合司法公開的要求。司法公開不僅要求程序的公開，也要求司法人員心證的公開，于是要求司法人員解釋為何采納自動化決策的意見正是此種心證公開的重要舉措。當然，司法人員的解釋范圍限于其采納自動化決策意見的理由，而不應包括對自動化決策工具是如何做出此種意見的解釋。通過此種解釋，可以增加當事人對司法人員最終決策的接受度，實現刑事訴訟在“定分止爭”方面的作用，提升司法的權威。

第三，應有對當事人訴訟權利的進一步保障。如上文所述，自動化決策應用于刑事司法領域可能帶來對當事人訴訟權利包括知情權、質證權和平等對抗能力等方面的損害，因此應有進一步的權利保障措施予以反制。首先，在知情權的保障方面，應在以下三個層面確保當事人對自動化決策應用的知情：一是應用事實的知情。即應令當事人知曉案件辦理中有無自動化決策的應用，以及應用于何種事項。二是應用過程的知情。即令當事人知曉就此事項究竟應用了哪種自動化決策工具，其依據的算法如何。三是應用結果的知情。即令當事人對自動化決策做出的結論及其法律意義知情。其次，在質證權的保障方面，應對質證的對象和行使條件做更廣泛的理解。質證的對象不僅應包括最高人民法院《關于適用〈中華人民共和國刑事訴訟法〉的解釋》第71條、第120條所規定的“證據”，1 也應包括自動化決策算法的科學性和公正性。此外，質證不應僅限于庭審，在偵訴等程序中亦應允許質證。再次，在控辯平等對抗能力的保障方面，為提升辯方應對自動化決策的辯護能力，應當允許《刑訴法》第197條第2款所稱的“有專門知識的人”2 以專家輔助人的身份就自動化決策相關問題提供專業幫助，使得辯方與控方在自動化決策問題上的力量差距不至于過大。

3.機械性的消解

針對上文所述的自動化決策應用于刑事司法領域可能帶來的僵化、機械的風險，亦需從以下三個方面做出規制：

首先，應當厘清司法人員與自動化決策工具之間的關系。司法人員在刑事司法領域居于主體地位，這是人在社會生活中的主體地位在刑事司法領域的延伸。強調人在刑事司法領域的主體地位，就是強調人的理性對于刑事案件辦理的意義，強調司法人員對案件最終決定作用的發揮。而無論何種工具，作為“物”，都是手段而非目的，都是為人服務的，這一點在刑事司法領域也不例外。即便以人工智能為基礎的自動化決策工具，亦應遵循阿西莫夫的“機器人學三定律”，3 以為人提供服務為目的。自動化決策工具的應用目標在于將司法人員從日常、煩瑣的常規性工作中解放出來，令其將精力投入更需要創造性的領域，因而它是作為一種輔助性工具而非訴訟的主體存在于刑事司法領域的。對于司法人員與自動化決策工具之間的主體與輔助工具的關系，中國最高司法機關已有準確認識。2022年最高人民法院《關于規范和加強人工智能司法應用的意見》第5條“輔助審判原則”規定：“堅持對審判工作的輔助性定位和用戶自主決策權，無論技術發展到何種水平，人工智能都不得代替法官裁判，人工智能輔助結果僅可作為審判工作或審判監督管理的參考，確保司法裁判始終由審判人員做出，裁判職權始終由審判組織行使，司法責任最終由裁判者承擔。”此種主體與輔助工具的關系，不但適用于法院，也適用于公安、檢察等偵訴機關。

其次，應當對自動化決策的適用事項予以限定。如上文所述，在刑事司法領域，自動化決策主要應用于預測性警務、羈押必要性審查和量刑等場景，由其進行社會危險性評估等工作。除了這些事項之外，自動化決策還可以應用于司法行政管理工作的相關事項，例如進行案件分配、辦案效果的量化評價、案件辦理期限控制等。這些事項適宜交由自動化決策，是因為其具有兩方面特征：一是常規性。即這些事項是刑事案件辦理中的日常性工作，具有“按部就班”進行的特征，對人的理性、邏輯、創造性、價值判斷的需求不高。例如，司法行政管理工作就具有典型的常規性特征，可以大量交由自動化決策工具處理。二是可量化性。即這些工作的內容或結果可以用數字的方式予以量化后與特定指標進行對照。例如，在社會危險性評估方面，美國的COMPAS系統中有15個指標，4 都可以用數字的形式加以反映。由此可見，自動化決策的應用范圍應被限定為具有常規性和可量化性特征的事項，以契合自動化決策自身的技術特征。對人的理性、價值判斷等有較高要求的領域，例如證據的審查判斷、事實的認定等，應當交至司法人員之手處理，不應由自動化決策工具處理。

再次，應當強化司法人員相對于自動化決策的最終決定權。既然司法人員是刑事司法領域的主體，那么其對于作為輔助性工具的自動化決策工具所做出的意見，擁有最終的決定權。此種最終決定權，是司法人員主體地位的體現，也是刑事司法領域訴訟基本規律的要求。司法人員相對于自動化決策的最終決定權，需有以下兩個方面的內容：一是司法人員有是否使用自動化決策工具的決定權。是否使用自動化決策，屬于司法人員裁量權的范疇，尤其辦案人員對于個案辦理中的事項應有用或不用自動化決策的自主決定權。偵訴審機關不應對辦案人員是否使用自動化決策工具予以強制規定，更不應將使用自動化決策工具納入考核范圍。國內某些法院將包括自動化決策在內的“信息化應用”比例作為專門的考核指標之一，1 顯然與司法人員相對于自動化決策的最終決定權行使要求不符，應予否定。二是司法人員對于自動化決策應有采納、不采納以及調適后采納的權力。對于自動化決策，無論采納與否，都屬于司法人員最終決定權的內容。除此之外，司法人員還可以就自動化決策意見進行調適，以符合個案辦理的需要。偵訴審機關不但不應強制要求司法人員接受自動化決策意見，而且應當就自動化決策的風險給予司法人員必要的提醒，防止司法人員對自動化決策一味屈從。

四、結語

數字時代的刑事司法領域不可能拒絕新技術的應用，否則將無法應對這個時代社會生活轉型帶來的案件辦理需要。然而新技術的應用卻未必與刑事司法領域的基本原理、基本規律相適配，甚至可能有矛盾、沖突。于是，問題就在于我們如何能夠不做“孱頭”，而是“運用腦髓，放出眼光”地發現這些矛盾與沖突，2 并予以適當、合理的調適，使得新技術應用與刑事司法領域的依法運行相適應。自動化決策與其他任何新技術一樣，其本身并無善惡優劣之說，關鍵在于如何針對其應用于刑事司法領域所帶來的風險和問題采取有針對性的措施，促使其應用對刑事訴訟向著法治化、現代化的方向運行起積極作用，實現數字時代刑事司法領域的“科技向善”。

The Risks and Regulation of Automated Decision-

Making in the Field of Criminal Justice

ZHENG Xi

Abstract： Automated decision-making has been widely applied in the field of criminal justice both domestically and internationally， as it aligns with the criminal justice’s needs of preventing and combating crime， improving litigation efficiency， and ensuring the fair handling of cases， supported by corresponding concepts and technological conditions. However， the application of automated decision-making in criminal justice may introduce risks related to accuracy， fairness， and ossification. Measures should be taken to regulate automated decision-making to compensate for accuracy， ensure fairness， and resolve ossification， thereby achieving the law-based application of automated decision-making in the field of criminal justice.

Key words： automated decision-making; criminal justice; predictive policing; smart justice; evidence review

（責任編輯：中" "和）