司法決策的算法化趨向及其反思

帥奕男

(中共中央黨校(國家行政學院) 政治和法律教研部，北京 100091)

一、問題的提出

隨著大數據與人工智能時代的到來，在越來越多的應用場景中開始將算法用于決策或輔助決策。算法本質上是解決問題的數學過程，介入社會科學領域之后，被廣義地界定為一種特定的思維路徑或方法。[1]算法代表著用系統的方法描述解決問題的策略機制，即能夠對一定規范的輸入，在有限時間內獲得所要求的輸出。而司法決策也構成一對輸入/輸出關系，即輸入人的特定行為，輸出是非的判斷與裁決。這種技術性表征使得韋伯在一百年前便對司法有了“自動售貨機”的設想。

事實上，自20世紀70年代開始，美國學者就在討論建模法律研究和推理的可能性。布肯南(Bruce Buchanan)和海迪克(Thomas Headrick)在1970年發表的論文《關于人工智能和法律推理若干問題的考察》中，首次討論了使用人工智能技術建立法律研究和推理模型的可能性，為人工智能在司法推理領域的研究和實踐奠定了理論基礎。[2]1981年，沃特曼和皮特森開發的法律判決輔助系統(LDS)被首次應用。而今，美國一半以上的州采用了罪犯矯正替代性分析管理系統(COMPAS)、公共安全評估(PSA)和服務級別目錄修訂版(LSI-R)三大風險評估軟件，主要用于預測犯罪嫌疑人再犯風險，進而決定是否保釋、假釋等。[3]在我國，北京市高級人民法院的“睿法官”、上海法院的“刑事案件智能輔助辦案系統”(簡稱“206系統”)等陸續上線運行，在司法裁判中承擔證據審查、瑕疵提示、類案推送、文書輔助生成等任務。

人工智能在司法領域的實踐應用，展現出算法決策在提升審判效率、優化司法資源方面的巨大潛力，以及推進司法判決的專業性和公正性方面的重要影響。然而，算法本身也存在著技術局限性，其深度應用于司法決策，可能帶來論辯權利難以保障、裁判合理性難以解釋、權利優先性難以回應等深層問題，對司法的公正性及權威性產生不利影響。鑒于此，本文在梳理人工智能時代司法決策發展趨向的基礎上，反思司法決策算法化可能帶來的正當性隱憂，立足技術賦權理念，提出司法決策算法化的應對之策。

二、司法決策的算法化趨向

自計算機得以普遍應用之后，國外學者就開始討論機器是否可以具有法律思維、完成法律推理的問題。近年來，隨著互聯網、大數據、人工智能技術的融合發展，人工智能可以對海量的司法信息數據進行分析，進而構建證據模型、量刑模型，探索可解釋的類案推送，為司法裁判提供全方位的智力支持。在這個過程中，智能系統為各類案件提供“定制化”的證據指引、類案推送及評估預測，使得裁判結果更加具有連續性、一致性和可預見性，呈現出建模化的算法決策趨向。

(一)證據審查程式化

在司法智能化背景下，證據指引以類型化的證據模型和結構化算法作為支撐，在減少司法任意性的同時呈現出證據審查的程式化趨勢。一般來說，證據審查主要包括：(1)證據材料來源是否合法，是否依照法定程序收集；(2)證據材料同案件事實有無聯系，特別是因果關系；(3)每一證據材料本身是否前后一致、合乎情理，證人與案件是否有利害關系，鑒定結論所依據的資料是否可靠，全部證據之間是否有內在聯系、有無矛盾等。其中，只有證據材料的合法性被明確的證據規則所規范，至于個案中證據的真實性或關聯性，證據鏈條是否完整、前后是否矛盾，特別是哪些證據應該被賦予什么“分量”或“說服力”或“證明力”，則是基于法官或陪審團的自由心證。[4]但這種情況在信息時代的司法裁判中發生了改變，依托強大的數據讀取能力和分析能力，智能系統構建證據模型為案件審理提供清單式的證據指引及瑕疵提示，使法官在證據審查中受到針對性的指引和監督。

在司法智能化的科技創新中，證據標準指引的概念被提出，為要件證據及必要附屬證據的判斷提供了更為具體化和規范化的標準。證據標準指引是一種介于規則與原則之間的強制性標準，指的是根據具體案件證據結構特點及查證犯罪事實的繁簡程度，對案件應當收集哪些證據的針對性要求。比如，在“206系統”中，根據證據收集的相對固定性和規律性，命案被分為四個類型：現場目擊型、現場留痕型、認罪供述得到印證型、拒不認罪型。對于認罪供述得到印證型命案來說，其案件特點在于既無現場目擊證人，也沒有在現場發現重要留痕，犯罪嫌疑人到案后的供述與其他證據能夠高度吻合，因此該類型案件的證據應當能夠證明先供后證的相關事實，其證據標準指引主要包括犯罪嫌疑人供述、現場勘驗檢查筆錄及照片、提取物品痕跡登記表等9項證據要點；但是對于現場目擊型命案而言，案件事實有更多的直接證據支持，因而證據標準指引僅以現場目擊證人證言、現場監控錄像或被害人陳述等5項證據為要件證據。[5]128-129隨著證據標準指引陸續被嵌入智能系統，法官對案件證據鏈的審查會越來越多地參考系統給出的清單式指引。在這個過程中，證據標準的類型化思維會進駐到證據準入的審查中，對于何種證據應當出現在案件中，是否滿足證明案件事實的最低要求，法官將根據案件所屬類型進行區分，而不再完全根據個案證據與個案事實進行判斷。因此，隨著更多的證據模型應用于司法裁判，證據審查會呈現出類型化的趨勢。

(二)風險評估數據化

不同于根據法官專業性知識做出的定性判斷，信息時代的司法風險評價更加依賴于數據基礎上的定量分析。在刑事司法裁判中，再犯可能性和社會危害性是法官進行自由裁量的一個要素，基于算法的風險評估正在量刑判決中占據更高的權重。目前，美國各地的法院和社區矯正部門已經開始使用算法來確定被告的“風險”，范圍從個人犯罪的可能性到被告出庭的可能性不等。皮尤公共安全績效項目(Pew Charitable Trusts’ Public Safety Performance Project)顯示，包括路易斯安那州、肯塔基州、夏威夷州和俄亥俄州在內的15個州，要求社區矯正部門采用數據化風險評估的方法開展工作；加利福尼亞州正在使用計算機化的個人評估來決定對假釋犯的監管程度；2013年，西弗吉尼亞州開始要求所有重罪犯接受風險評估，法官會在判決前收到報告，并可以選擇將分數納入他們的判決。[6]我國司法部門也在通過大數據分析犯罪嫌疑人的社會危險性程度。“206系統”將影響犯罪嫌疑人、被告人社會危險性程度的因素細化為7個方面32項指標，采用深度學習方式構建社會危險性評估模型，由此提升了評估的全面性、科學性和準確性。[5]113這種量化方法能夠在更大程度上降低法官的主觀傾向性，排除政治等其他因素對司法裁判的干擾，在美國甚至“被認為是解決美國因兩黨紛爭而陷入司法改革焦慮狀態的潛在解決方案”。但相應地，這也會降低訴訟案件的個別化自由裁量，“盧米斯案”即是由法官部分地依據COMPAS風險評估工具進行量刑判決所引發的爭議。(1)“盧米斯案”中，檢察官向法院指出，COMPAS顯示盧米斯“暴力風險高，再犯風險高，預審風險高”；法官告知盧米斯，“通過COMPAS評估，您被確定為對社區構成高風險的人”，并部分地依據這一評估，判處盧米斯六年有期徒刑和五年的延期監督。盧米斯認為，法院使用COMPAS評估進行判決，侵犯了其獲得“個殊化判決”的權利和基于準確信息獲得判決的權利。COMPAS是由Nortpointe公司開發設計的，該項目根據對犯罪者的訪談和來自司法部門的信息來評估再犯的風險，旨在幫助法官做出“更好”的或者至少是以數據為中心的司法決策。[7]從刑事領域風險評估的方式可以看出，在司法智能化的背景下，法官獲取案件信息的方式將更加依賴于系統所給出的精簡報告和“客觀”數據，甚至通過數據分析獲知訴訟參與人是否有良好的征信記錄、是否有訴訟記錄，以及其社會層級和社會地位等，并在此基礎上“進一步地分析出各方當事人和解或撤訴的可能性，對爭議標的的心理底線，上訴、申訴乃至上訪的概率”[8]。而在數據化的風險評估進入審理裁判的過程中，司法決策的結果也將更加趨于數字意義上的標準化，算法的建議和監督成為控制司法自由裁量的一個新趨勢。

(三)自由裁量標準化

司法所享有的自由裁量權是司法裁判權的一種表現方式，在不同語境下有著不同的含義，其可涉及司法的思維狀態、對多種可行法律解決方案的選擇、司法自由心證、終局裁量等多方面因素。[9]484-485但不管在何種語境中，其“自由”屬性都使它存在著濫用的條件和傾向。為了監督和控制司法自由裁量權的行使，常常通過正當程序原則、正義原理、法的精神等理性要求抵御司法自由裁量的潛在威脅。在信息時代，對司法自由裁量的控制轉向算法決策的監督和參考。在全流程要素抽取、全節點聯動監督的前提下，資深法官的裁判經驗、法律法規、司法文書中的原始數據等信息轉化為預測模型，為法官最終的裁量結果提供參考。這一方面減少了裁判結果的偏差或失衡，另一方面使得司法自由裁量呈現出數字意義上的標準化趨向。

不同于以往自由裁量的控制中關于正當性目的、正當程序、正當性要素等宏觀的理性考量要求，算法基于信息抽取和數據分析的個案裁量建議更為具體和可操作化。智能系統首先通過分析海量類型案卷進行信息抽取，歸納和提煉影響司法裁判的要素，之后進行科學化、體系化的數學建模，為法官提供針對特定案件的裁判參考。以“206系統”為例，其采用增強學習與遷移學習算法，以全國30萬件盜竊罪案件為學習樣本，從“法定刑、基準刑、宣告刑”三個維度對刑事文書進行數據標注，抽取犯罪行為、犯罪主觀方面、犯罪人基本情況、罪前罪后表現等影響量刑結果的要素，同時結合法官的經驗常識，輸入影響案件量刑結果的通用和個案情節，構建智能量刑模型。[5]168在實踐中，“206系統”可在案件信息讀取的基礎上對個案提供特定化的量刑參考。如果說思維理性的原則只能為司法自由裁量指明一個方向，那么智能化的裁量參考就為法官劃定了一個相對確定的區域，在案件審理過程全部數據化監控的情況下，司法管理必然會對超出這個“區域”的裁判嚴格審查。比如，系統發現法官的判決結果與本院以及上級法院85%的類似情況下的判決是不一樣的，就會自動提示，若法官堅持該判決，那么系統將自動把判決推送給庭長以供討論。[10]可見，在司法智能化的背景下，司法裁量不僅受到法律法規、公平正義觀念等傳統因素的引導，而且在審理過程中會受到算法決策的影響。在“準判決書”與智能化預測結果的比對中，法官會更加容易地傾向于貼近系統的“標準答案”，特別是在偏離度預警的情況下，法官將及時調整司法決策中的“不當”觀點，司法裁量的結果也將更加趨同。

三、司法決策算法化的法理反思

從證據審查、風險評估到裁量結果，信息時代的大數據與人工智能技術深度參與到司法裁判的決策過程中。這不同于以往的法院信息化建設，因為技術應用不再僅僅局限于“無紙化”的辦公形式，而是通過嵌入證據校驗、風險預警、量刑預測等功能模塊，進而對司法裁判的結果產生重大影響。司法在與技術的結合中進一步提高了效能，表現為司法效率的提高和司法裁量的統一，但同時也呈現出很大的因由算法而來的局限性。

(一)代碼規則難以保障論辯參與

智能化的證據審查依賴于證據標準和證據規則的代碼表達，而計算機代碼的自動化規制可能難以保障當事人的論辯參與。現代司法中，通過證據對案件事實的查明與認定，是先建立在對證據材料感性認識的基礎之上，然后通過理性認識形成內心確信的一個心理過程。[9]422在智能輔助審判的情況下，證據審查的基礎工作將會由智能系統承擔，通過證據模型內嵌的證據標準指引、單一證據校驗、關聯證據之間的印證性分析、全案證據鏈審查等功能，證據認定將在智能系統對證據材料的即時性識別和判斷中完成雛形。盡管這一過程減輕了法官對于證據認定和證據審查的工作量，但是由于受到系統給定結果的影響，政策制定者和法官逐漸依賴代碼化的證據標準和證據規則來進行法條檢索和分析比較，以便他們進行充分論證后直接得出更優決策。截至2019年6月底，“206系統”提供證據指引306 159次，提示證據瑕疵點7641次。在民事、行政領域司法審判中，證據規則指引也被陸續開發出來，并在讀取案件事實的基礎上進行證據合規性預判斷。[5]238,242,243盡管目前人工智能還不能完全覆蓋證據規則，部分需要人工復核(如手寫體)，但隨著數據喂養的持續和機器學習能力的提升，智能證據校驗將更加全面和精確，并在電子證據的審查中展現出突出的優勢。系統會進行自動信息識別和要素整合，并基于案件要素庫進行預判和思考，法官只需“對照檢查”便可確定證據能否采信，或要求補正、予以排除。此時，當事人之間的對話關系，以及基于對話結構展開的論證活動都會受到削弱，進而影響當事人論辯權的實現。

(二)算法黑箱難以解釋裁判合理性

司法決策算法化的另一個問題就是算法的隱蔽性和司法公開、透明性的沖突。算法運行本質是數據輸入、輸出的過程，但在輸入輸出之間存在無法解釋的“黑洞”。一方面，不透明性源于統計模型或源代碼的專有性特征，而這種特征受到商業秘密相關法律保護；另一方面，如果使用了機器學習和深度學習技術，則會面對更為棘手的“技術黑箱”問題。[11]自動化決策往往不是單一的某個算法可以完成的，多種算法的疊加及多個隱含層的存在加劇了算法的不可解釋性風險。特別是基于神經深層網絡的深度學習，在輸入層與輸出層之間存在著復雜的線性變換和大規模的神經元連接，很難準確解釋其內部規則。[12]算法黑箱導致人工智能決策不可解釋，而這顯然與現代司法公開、透明的基本原則相悖，甚至使得相關判決陷入困境。前述“盧米斯案”中，盧米斯上訴的理由之一就是算法的保密特性。盡管盧米斯勝訴了，但是相關裁決也無法給人足夠的說服力，因為“判決書中只討論了被告是否可以質疑其犯罪記錄和調查表答案的準確性(‘數據輸入’)，而沒有關注他是否可以挑戰關鍵的‘處理和計算’階段”[11]。由于無法對決策過程做出充分而有效的解釋，一旦通過算法進行最終決策，算法的不可解釋性將會使基于這一技術的裁判結果難以得到民眾充分的信賴、尊重和認同。

(三)群組正義難以回應權利優先性

在18世紀，現代精神從以神為中心的世界觀走向以人為中心，“人是目的”成為現代社會的道德觀，權利優先性成為法治的基本理念。智能系統在證據審查、類案推送、裁量監督等方面展示出強大的效率優越性，這代表的并不是以權利優先為核心的個人正義觀，而是一種以效率為核心的群組正義觀。“群組正義觀”是建立在統計奇偶性(statistical parity)基礎上的正義觀。(2)辛西婭·德沃克(Cynthia Dwork)等人認為，統計奇偶性強調接受正負分類的人的人口統計學與總體人口統計學具有相同的特征，因此，統計均等性被認為等同于群體性的公平。[13]就司法算法決策而言，它不太考慮個案的差異性，尋求的是群組的同質化處理，比如證據審查的類型化處理、裁量結果的偏離度預警等。在法律大數據與人工智能技術的介入下，司法裁判的一致性和穩定性將會增強。這似乎實現了波斯納的預想：“我期待著有一天，計算機可以從法官的意見和公開聲明中建立法官檔案，并隨著法官發表更多意見而不斷更新。這些檔案將使律師和法官能夠更準確地預測司法行為，并將有助于法官在他們希望的時候，與他們先前的決定保持一致。”[14]然而，這也可能導致與權利優先理念的沖突。當政策制定者和法官為了績效正當性，選擇“跟從”系統給出的“方案”時，個人權利就很容易被忽視了。群組正義觀往往從后果主義出發，為了獲得算法決策的便利，允許克減個人的一些權利。這無疑動搖了傳統正義觀中權利優先性這一核心理念。

四、司法決策算法化的應對思考

為了防范、化解可能存在的風險和挑戰，以及順應科技賦能司法的發展趨勢，應當探索司法領域的算法正義，通過技術正當程序對司法算法決策進行過程規制，以促進決策過程、決策程序、決策結果的公開透明和可問責。

(一)算法正義：從“技術賦能”到“技術賦權”

面對互聯網及人工智能技術所引起的生產革新與社會重組，世界范圍內的司法部門都在尋求體制改革與正義實現之策。加拿大不列顛哥倫比亞省民事審裁處正在運用ODR程序為小額民事糾紛提供公共司法服務；美國一些州則開始使用“風險評估工具”(COMPAS)來預測犯罪嫌疑人的再犯可能性，進而參考評估結果確定刑期。[7]我國司法部門也在2015年提出了建設“智慧法院”的設想，并于2018年1月推出了“智慧法院導航系統”和“類案智能推送系統”，希望探索具有中國特色、適應時代要求的審判運行新模式。“技術賦能”成為人工智能時代司法改革的鮮明特征和目標要求。算法的合法性地位隨著司法效率的提升、司法管理的加強以及司法服務的優化而得到鞏固。效率與能力不僅成為檢驗真理的標準，也成了倫理、正義與審美的標準。然而，技術賦能并沒有很好地處理人與機器的內在關系，導致司法算法決策并未實現與司法保障人權理念的有機統一。在具體應用實踐中，當解決案多人少、提高效率成為司法人工智能追求的主要目標時，無論是法官的主體地位，還是當事人的權利保障，都將被遮蔽。

基于此，司法領域的算法正義應當以“保障人的權利”為依歸，將人工智能業界推崇的以人為本、增進人類福祉與司法追求的保障人權有機融合，化約為“技術賦權”。[15]在技術賦權理念下，司法人工智能的研發、應用和評估應當以是否有助于保障、發展司法權利為判斷基準，司法決策的算法化程度應當以是否有助于實現司法權利為價值原則。技術賦權理念可以為司法人工智能的研發、實施、評價提供“事前—事中—事后”的規制和指引。這既是對技術賦能被過度強調的糾偏，又是強化司法人工智能應用中權利保障的必然選擇。因而，司法智能化背景下，應當立足于技術賦權理念，對司法人工智能進行合理規制。

(二)推進司法領域的算法公開透明

在傳統司法理論中，司法公開主要指公開審判，包括立案公開、庭審公開、執行公開、聽證公開、文書公開和審務公開。在司法智能化背景下，司法公開不僅包括程序公開，更涵蓋司法數據的公開以及算法的開源。有學者認為，用于司法決策的算法高度復雜，對于非計算機行業的人而言，理解起來異常困難，即便公開也并無多大價值。然而，不透明的司法人工智能除了直接侵害當事人的知情權外，還會產生難以審核算法、無法評估算法準確性的問題，進而導致無法對司法人工智能的裁判結果有效行使抗辯權。當下，我國各地都在探索司法人工智能的應用，如北京市高級人民法院的“睿法官”、重慶法院的“金融案件智能專審平臺”。如果不及時解決數據公開和算法黑箱問題，智能司法運行中的程序公開將面臨嚴峻挑戰。因而，傳統司法理論中的司法公開需要增加新的維度，既需要通過完善司法大數據平臺建設進一步推進司法數據的公開，更需要通過推動司法人工智能研發機構開源算法，促進算法的透明化。[15]隨著研究的深入，在司法領域進行算法開源正在被越來越多的人認同，因為更大的透明度可以幫助外部研究人員分析其運作過程，以及需要權衡的各種因素。此外，在智能系統輔助的司法程序中，還應當充分尊重當事人事前的知情權和自主選擇權，告知他們自動化決策工具的優勢和潛在風險，以及以這種技術方式進行預測的局限，從而決定是否使用或退出自動化決策。

(三)加強智能輔助系統的可解釋性

在依法治國和搶抓人工智能先發優勢的背景之下，各地涌現出不同設計理念和應用功能的司法人工智能，其系統參數的任何細微變化都可能產生巨大的效應。人工智能設計具有意向性，當人類道德被“嵌入”產品時，系統就會通過技術設計影響人類行為。[16]司法人工智能不同于一般的智能化活動，它直接影響到被告人的實體性和程序性權利、義務和責任，其實際影響范圍和影響程度也許會超出技術和司法人員的想象與控制范圍。[7]為此，在以計算知識填補演繹邏輯的同時，還應在司法人工智能的研發設計中加強智能系統的論證性和可解釋性，提高其可接受性，促進其在法律推理過程及程序方面的完善和擴展。法律語境下的論證活動既是一個知識更新的過程，也是一個開放的過程。訴訟各方參與刑事司法裁判過程，既能夠監督裁判過程，也能夠對最終的裁判結果發起救濟。基于此，“在司法裁決中，凡涉及自主研制系統，都應提供一個有說服力的解釋，并由一個有能力勝任的人員進行審計”這一原則已經為越來越多的人認可、接受。[15]59為了保證算法司法的合理運用，應當要求司法人工智能研發主體承擔解釋責任。這不僅有助于推動司法決策領域可解釋權的建立，而且能夠對司法人工智能的研發、應用主體加強約束，防范可能的設計或者應用缺陷，進而推動司法決策中算法正義的實現。

四、結 語

司法人工智能已經開始承擔證據審查、風險評估、裁量參考等任務，輔助法官進行司法決策，科技賦能司法的趨勢不可阻擋。但是應當看到，算法深度應用于司法決策，也可能帶來論辯權利難以保障、裁判合理性難以解釋、權利優先性難以回應等深層問題，引發數字司法的正當性質疑。為此，要在理念上探索司法領域的算法正義，以技術賦權理念推動司法權利保障；在程序上對司法算法決策進行過程規制，促進司法領域的算法公開透明；在技術上著力加強智能輔助系統的可解釋性，助力智慧司法健康平穩運行。