刑事審判中人工智能的進與退

陳思桐

（武漢大學法學院，湖北 武漢 430072）

人工智能有兩大主要目標：一是技術層面的，利用計算機完成有益的事情；另一個是科學層面的，利用人工智能概念和模型，幫助回答有關人類和其他生物體的問題。[1]人工智能要提供有益的智能①阿西洛馬會議達成了23 條人工智能原則，第1 條規(guī)定人工智能研究的目標是“建立有益的智能（beneficial AI），而不是無向的智能”，確認了“有益于人類”是人工智能發(fā)展的目標。詳見皮勇：《人工智能刑事法治的基本問題》，載《比較法研究》2018 年第5 期。，協助人類提高效率，完成有益的事情。在刑事司法領域，智能法院的建設已經如火如荼。我們對人工智能在刑事司法中運用的限度，一方面感到迷茫，另一方面感到忐忑，原因在于我們不能否認人工智能可以深度賦能刑事司法，但又憂慮失去社會公正最后一道防線的掌控權。刑事審判是刑事訴訟中最為關鍵的一個環(huán)節(jié)，關系到法官對整個刑事案件的事實認定、證據采認、法律適用以及定罪量刑。在刑法的層面思考，如何將人工智能提供的便利最優(yōu)化，協助司法人員公正司法，是本文討論的出發(fā)點。

一、人工智能：輔助刑事審判的“新貴”

不能否認的、也不能逆轉的趨勢是，人工智能已經成為輔助刑事審判的“新貴”。我國不少地方法院已經開始嘗試人工智能與司法審判的對接，有一些新興嘗試已經走在了這場“人工智能浪潮”的前沿。法院智能化與信息化同時成為司法界與科學研究領域的新興課題。

人工智能（Artificial Intelligence）又稱為機器智能或計算機智能，其中“智能”的含義是指人為制造的或者由機器和計算機表現出來的一種智能②像許多新興學科一樣，人工智能至今尚無統一的定義，不同科學或學科背景的學者對人工智能有不同的理解，這些理解分別為符號主義、連接主義和行為主義等。具體見蔡自興：《人工智能及其應用》（第5 版），清華大學出版社2016 年版，2-3 頁。，是人的目的行為與理性思維相結合的產物。而“人工”一詞則將“人工智能”區(qū)別于“自然智能”，特別是人類智能。人工智能的研究目的是建立最接近人類認知水平的智能模型，模擬人類的預測、學習、推論和溝通等活動。[2]按照人工智能實力的強弱，人工智能可分為弱人工智能、強人工智能和超人工智能。我國目前處于弱人工智能發(fā)展階段，更可能在這一階段實現趕超人工智能研究發(fā)達國家，適宜的刑事法治環(huán)境是實現這一目標的重要條件。[3]以現有技術水平為基礎，適當展望未來，是刑法學思考如何與人工智能技術迅猛發(fā)展態(tài)勢相接軌的應有姿態(tài)。

（一）人工智能在刑事司法中的發(fā)展現狀

最高人民法院2016 年、2017 年的工作報告中均提出“加快建設智慧法院”的工作要求，2017年工作報告中總結了“開發(fā)智慧法院導航系統”“深入推進智慧法院建設”“以網絡化、陽光化、智能化為特征的智慧法院初步形成”等內容。智慧法院的本質是審判體系和審判能力的現代化，核心是人的智能現代化。[4]將人工智能技術運用到刑事司法審判領域，是人的智能現代化向刑事審判領域延伸的表征。

本文通過梳理最高人民法院信息中心官方微信平臺“智慧法院進行時”中發(fā)布的全國各地法院的智慧法院建設報告文章，通過分析得出，人工智能在刑事司法審判中的運用呈現縱深化發(fā)展趨勢，并非流于形式，也非“空口號式”發(fā)展。部分地方法院已經走在這場人工智能浪潮的前線，上海高院的刑事案件智能輔助辦案系統通過運用深度神經網絡和圖文識別技術（OCR），進行智能識別、定位和信息提取，實現了對單一證據的自動校驗，目的在于建立統一的刑事證據標準，推進以審判為中心的訴訟制度。[5]浙江省玉環(huán)法院研發(fā)的“一體化辦案系統e 助理”，實現了刑事案件從立案到歸檔全流程電子卷宗深度引用的數據融合與對接。①“e 助理”系統內的部分對于刑事電子卷宗智能化應用功能在全國范圍內尚屬首創(chuàng)，利用“阿里飛狐”人工智能技術，建成多個場景司法輔助機器人（RPA），即通過機器人實現并代替人完成重復性的任務，主要針對刑事審判流程各個環(huán)節(jié)進行智能化改造，實現一鍵立案、一鍵送達、一鍵調警、一鍵結案、一鍵生效執(zhí)行、一鍵轉檔、一鍵文書上網等功能，使電子卷宗的深度應用更加智能化。詳見陳紹青：《刑事案件難辦理？浙江玉環(huán)法院“e 助理”再添“羽翼”！》，https：//mp.weixin.qq.com/s/VwuTRl8A7uXpXUXnP5J-3A。河南鄭州法院智能系統自動、及時、準確推送與案件相關的法律法規(guī)、司法解釋、參照案例、計算工具、量刑標準等。[6]江西撫州法院“訴訟風險評估”“智能訴狀生成”服務一體機基于大數據和人工智能完成海量起訴狀和案件裁判分析、整理和提煉，形成各類案件訴狀要素、訴訟風險評估要素。②當事人可以通過回答引導問卷中的問題，就可以分別獲得高效、格式化、免費的自助訴狀生成服務和訴訟風險咨詢服務。周陽、元春華、徐敏：《江西撫州“智慧法院”成果亮眼！指尖訴訟走進尋常百姓》，https：//mp.weixin.qq.com/s/zkhz3a S23NwEftEKcmV_Xg。由于各個地方的經濟發(fā)展和科技水平不一致，各地法院發(fā)展人工智能輔助審判系統的進度和深度亦差別較大，總體上看，均利用了基于大數據前提下的人工智能深度學習的能力。

綜上觀之，本文認為可按照不同功能將人工智能在刑事司法審判中的運用分為四方面，第一是銜接與分流，即隨機分案、訴調對接、繁簡分流；[7]第二是辨識與審核，即提供計算機視覺，以及圖像和人臉識別技術，輔助實現訴訟主體身份驗證；[8]通過機器學習等技術提取和校驗單一證據；第三是預測與評估，類案推送，對案件的判決結果進行預測，為當事人提供法律咨詢和訴訟風險咨詢；第四是轉寫與生成，庭審語音轉文字及司法文書智能生成。

（二）人工智能在刑事審判運用中的憂患

人工智能的運用究竟能輔助司法審判達到何種程度，實屬未來可期，尤其在刑事審判領域，地方法院紛紛加入這場科技浪潮，憂患意識更能促進我們對人工智能輔助刑事司法審判的理性認識。本文認為，人工智能在刑事審判中的運用存在以下的憂患。

1.司法公正是否能夠容忍算法黑箱③在人工智能輸入的數據和其輸出的答案之間，存在著我們無法洞悉的“隱層”，它被稱為“黑箱”（blackbox）。這里的“黑箱”并不只意味著不能觀察，還意味著即使計算機試圖向我們解釋，我們也無法理解。參見許可：《人工智能的算法黑箱與數據正義》，載《社會科學報》2018 年3 月29 日第6 版。的存在。首先，算法黑箱的不透明性是否具有正當性。觀察目前學界的討論，算法黑箱面臨眾多否定和質疑。中間的分析論證過程不可見，這種機器學習算法的不透明性挑戰(zhàn)了法律的可預測性和確定性。[9]人對客觀世界的認識是一個逐步清晰化、明朗化的過程，在這一過程中，客觀世界的可知性和可解釋性讓我們更加堅定自身的角色定位。對于作為自然角色與社會角色相融合的個體而言，一項政策或一套制度如果能夠被合理解釋，國民更加能夠從內心去接受和信服。“在小數據時代，很難證明由直覺而來的因果聯系是錯誤的。將來大數據之間的相關關系，將經常會用來證明直覺的因果聯系是錯誤的。最終也能表明，統計關系也不存在多少真實的因果關系。大數據技術引發(fā)思維變革；應更為關注事務之間的相關關系，而不是探索因果關系”[10]，智能時代的思維模式并不是傳統的因果關系，而是相關關系。或許這種人工智能時代的新思維會挑戰(zhàn)我們這種傳統的思維范式，但是就目前來看，這種對可解釋性具有強烈需求的思維仍舊是我們最為熟悉和信賴的，重要問題的決策、重要技術的運行依舊需要具有可解釋性。再者，算法黑箱的正當性一旦被承認，甚至僅僅是得到默許，都可能給司法活動帶來極其嚴重的影響。原因在于不可解釋性使得人工智能在權利義務的歸屬分配方面會更多地從屬于人工智能開發(fā)團體的內部規(guī)則而非國家法律。因此算法黑箱的正當性問題會伴隨著人工智能的發(fā)展一次次被擺在司法人員和科技人員面前。于是需要進一步思考的是如果算法黑箱始終伴隨著人工智能的發(fā)展，如何平衡司法的公開透明與算法黑箱的關系。生產資料之間的信息變得越來越對稱，但作為信息匹配中介的人工智能則越來越不透明，其規(guī)則設計和運作從屬于用戶甚至開發(fā)者無法理解的秘密狀態(tài)，[11]但確定性是刑法罪刑法定的要求，司法透明是刑事審判程序運作完美和結果公正的準則。刑法和人工智能不同，刑法將復雜的社會現象抽象成一般性的規(guī)則條文，以適用于社會大眾，而非僅為單一個體所制定。法律最本質的特征，即“深度不學習”。[12]此外，如果強制公開算法的全部代碼以示透明能否真的解決國民對人工智能在刑事審判中運用的疑慮。本文認為算法即使全部公開，也未必能滿足社會大眾對算法可解釋性的需求，而且全部公開可能涉及人工智能開發(fā)企業(yè)的商業(yè)秘密和個人隱私等問題。這也是后文提出設立禁區(qū)的原因之一。

因此在司法公正零容忍算法黑箱的前提下，我們依舊對算法提出了可解釋性的要求，只有算法具備可解釋性，不至于在發(fā)生誤判結果的時候產生責任分配的鴻溝，才能承認其在司法審判中的運用具有正當性。

2.基于人工智能系統下的類案推送以及服務外包的開發(fā)模式如何具有長遠性。2017 年十八屆中央全面深化改革領導小組第38 次會議審議通過《關于加強法官檢察官正規(guī)化專業(yè)化職業(yè)化建設全面落實司法責任制的意見》，第11 條提出“完善智能輔助辦案系統的類案推送等功能”“推廣外包服務方式”。基于遵循“法律面前人人平等”原則的刑事政策這一出發(fā)點，以“類案推送”為主要功能的智能輔助審判系統已經在司法領域得到應用，但真正意義上實現人工智能類案推送仍面臨許多技術層面和法律層面需要厘清的問題。

類案推送著眼的根本問題在于逐步減少同案不同判與類案不類判的現象，通過發(fā)掘隱藏在眾多類似刑事案件中的共同邏輯，形成統一的定罪標準和量刑規(guī)范，實現司法統一。我國刑事審判中的同案不同判現象并非個例。比如以接受性服務的方式交易毒品的行為，能否構成販賣毒品罪，地方法院確實存在不同的定性。原因在于一方面是法官對販賣毒品罪、對非財產性利益能否作為販賣對價的理解不同，另一方面是地區(qū)毒品犯罪的態(tài)勢不同。更加能體現我國追求司法統一的是案例指導制度，1999 年《人民法院五年改革綱要》即提出將“有適用法律問題的典型案件予以公布，供下級法院審判類似案件時參考”，經過10 年的推進，2010 年《最高人民法院案例指導工作的規(guī)定》正式確立中國的案例指導制度，其中指出開展案例指導工作目的在于統一法律適用，維護司法公正。不僅如此，實行案例指導制度的機關不僅限法院，檢察院和公安機關也有自身相應的檢察指導案例和公安指導案例。類案推送相比于指導性案例來說，官方權威性不足。且目前各地區(qū)法院有自己的試點，不同的人工智能輔助審判系統研發(fā)公司缺失統一的頂層規(guī)劃與設計，[13]這使得司法人工智能類案推送系統的發(fā)展呈現各自為政的局面。但如果地區(qū)法院的類案在范圍上有所限制，那推送的類案進行迭代之后，無異于建立起一面無形的網絡圍墻，法官在使用智能輔助系統類案推送功能的時候只能在自家網絡圍墻之內轉悠。類案推送系統目前發(fā)展面臨技術層面的問題如案例數據不充分、推送案例的可參考性不強、來源不夠明晰，尚未能以直觀的形式實現刑法規(guī)范、案件疑難爭議以及法律推理的關聯，我們更需要從司法應然層面思考，人工智能類案推送在有指導案例制度的前提之下，是具有法律上的指導意義，還是僅具有參考意義？本文認為類案推送研究的目的與指導案例的目的并行不悖，但類案推送的基本案例數據需求大，指導性案例的數量相比之下較少，因此應當對類案推送的案例進行分級，人工智能系統根據案例的等級決定推送的順序，指導案例應當優(yōu)先于其他指導意義有限的案例。

此外，實行外包的開發(fā)方式實際是通過司法系統外部科技因素來緩解司法系統內部人工智能研發(fā)水平不足的困境，目的在于為司法機關簡化開發(fā)項目的復雜度，使司法活動更加集中化和專業(yè)化。應當注意到，外包是科技公司與司法部門合作開發(fā)的產物，而開發(fā)活動目前基本是基于委托開發(fā)合同的約束之下進行的，開發(fā)的項目尚且處于一個實驗期，法律法規(guī)尚未對相關活動作出反應。即使將來存在較為完備的監(jiān)管措施，也不能否認外包政策的確讓司法系統由閉合狀態(tài)轉變?yōu)榘腴]合半開放狀態(tài)，這也是后文強調應當設立禁區(qū)的原因之一。

因此，類案推送并非對指導案例制度的超越，主要目的不在于實現機械性的“同案同判”“類案類判”，通過類案推送實現司法統一的目標依舊任重道遠；外包開發(fā)應當慎重，避免無形中將刑事審判權利外放。

3.智能輔助刑事裁判存在不確定性和可解釋風險。[14]這種不確定性更加明顯地表現在，人工智能分析的結論如果提供刑事審判定罪和量刑的參考結果，需要思考的問題則紛至沓來：該參考結果的可借鑒度能達到的百分數如何確定，是否需要統一劃定，是否遵循個別罪名個別標準、類罪名類標準；結論性裁判意見能否作為案件裁判的合法有效的證據；[14]智能輔助刑事裁判的判斷結果在判決書中是否有一席之地，法官在判決書的論證內容里是否需要注明采用其分析的緣由，抑或論證不能采用其分析的原因。上述問題均考驗著擁有不確定性的智能輔助審判系統。完全放任、不加管制的開發(fā)將會導致司法實踐完全依賴智能刑事裁判，造成判決書的說理懈怠，人類智能某種程度上讓位于機器智能。

4.刑事審判如何看待人工智能系統預測審判結果的偏差率。本文認為首先應當回答前提問題，即人工智能的存在與發(fā)展究竟是要模仿人的思維，還是追求誤差值為零的結果。這個問題的答案取決于偏差的存在是否有合理性。人工智能的近期研究目標和延期研究目標均以模擬人類智能和思維活動為主。①人工智能的近期研究目標是建造智能計算機以代替人類的某些智力活動；遠期目標是用自動機模仿人類的思維活動和智力功能。詳見蔡自興：《人工智能及其應用》（第5 版），清華大學出版社2016 年版，18 頁。人的認識總是帶有主觀性，認識事物也是存在客觀偏差的，模仿人類思維的目標定位說明了偏差存在的合理性，但是人又是不斷追逐完美的動物。因此偏差最小化，應當是建立人工智能系統一個目標之一。

5.智能系統所面臨的網絡安全威脅使得刑事審判面臨風險。2018 年12 月3 日我國工業(yè)和信息化部最新在官網上發(fā)布的《2018 年第三季度網絡安全威脅態(tài)勢分析與工作綜述》中，總結了網絡安全威脅態(tài)勢的四個特點，即惡意程序和內部完全管理機制不完善致使用戶數據泄露，云計算平臺管理、運維、防護等不足，勒索病毒如WannaCry、Globelmposter 頻繁攻擊，網絡安全漏洞持續(xù)新增。而在《2018 年第一季度網絡安全威脅態(tài)勢分析與工作綜述》中，黑客組織篡改網頁事件仍有發(fā)生，且特別指出2018 年政府機關網站被篡改事件2 起，與2017 年第一季度的政府機關網站被篡改的事件數量相比，減少約80%。①參見《2018 年第三季度網絡安全威脅態(tài)勢分析與工作綜述》，http：//www.miit.gov.cn/n1146285/n1146352/n3054355/n305 7724/n3057728/c6521859/content.html；參見《2018 年第一季度網絡安全威脅態(tài)勢分析與工作綜述》，http：//www.miit.gov.cn/n1146285/n1146352/n3054355/n3057724/n3057734/c6363977/content.html。報告顯示，我國網絡安全的形勢十分嚴峻，且我國地方法院的互聯網技術發(fā)展參差不齊、互聯網環(huán)境安全系數高低錯落，智慧法院建設對法院網絡的保密工作提出了更復雜的挑戰(zhàn)。

二、自由與秩序兼顧：人工智能提供有益智能

（一）自由空間：人工智能的刑事司法工具性

首先需要厘清，本文所指自由空間與禁區(qū)，并非討論在該領域能否適用人工智能，而是指法律是否承認在這一領域使用人工智能的效力。人工智能在刑事審判中的“自由空間”是指法律在一定的預設空間內承認人工智能運用的效力，而人工智能在刑事審判中的“禁區(qū)”是指法律不承認在這一預設空間內運用人工智能的效力。設立自由空間和禁區(qū)，是平衡司法公正與鼓勵科技創(chuàng)新的著力點。在刑事審判中擁有自由空間能夠促進人工智能發(fā)揮具有輔助性質的工具作用。本文認為，人工智能在刑事審判中的自由空間應當是協同促進、管理記錄、文書初稿形成三個層面，人工智能在自由空間中充當“陪伴”司法人員進行司法活動的角色。

其一，從協同促進層面來看，在法官審理案件期間，人工智能作為認知工具來輔助法官充分挖掘刑事司法大數據中的隱秘知識、深層規(guī)律和行為結果模型，[15]加強法官對于刑事案件大數據的整體把握，提高法官邏輯演繹、歸納推理能力和審慎思維的深度運用。社會結構與進化逐步隨著文化世界的不斷膨脹而復雜化，人類個體需要通過學習來達到對社會的進化施加權重更大的影響，然而受生物進化的客觀規(guī)律支配，個體的學習能力不能在短時間內迅速實現突變，在延長系統學習之外還有兩條重要有效的進路，分別是專業(yè)化和發(fā)明各種能增強學習能力的工具。因此人類在發(fā)展的過程中進化出許多認知工具，例如手機、計算機、互聯網，這些認知工具不僅代替人類執(zhí)行重復性工作，還可以與人類的思維協同發(fā)展以創(chuàng)造更多元的知識，[16]幫助人類更好地開拓未知世界，而非代替人類去思考和理解。

在刑事審判當中，判斷被告人是否成立犯罪，具體定什么罪名以及量刑，法官的思維并非一蹴而就。類案推送以人工智能的深度學習，抽取刑事司法案卷中的犯罪具體事實情節(jié)、定罪罪名、量刑、相關法條等形成類案倉庫。法官在對案件的審理過程中，首先形成對案件事實和法律定性的內心確信，即大致的審理，然后根據記憶中的法理和現有法律，運用推理規(guī)則去論證這一內心確信。在人工智能系統對證據進行收集和固定之后，法官有更多的空間去重視分析過程，使得裁判決策從“決策—論證”回復到“論證—決策”的過程，[17]法官從大數據中獲得刑事司法數據的極值、分布和變化趨勢，克服思維的局限性和偏差，從而得出一個具有邏輯性的結論。

其二，從管理記錄層面上看，“管理”體現為在電子卷宗的深度運用前提之下，進行證據形式審查和證據清單完整性審查，涉案人員身份核驗等形式認定工作，“記錄”體現為審判全程留痕。刑事審判的流程較為繁雜，人工智能輔助系統全程記錄具體詳細的審判流程，并結合刑事訴訟法規(guī)范判斷進度是否符合刑事訴訟法的時間、數量和簽名蓋章等要求。刑事案件的閱卷是極其關鍵的審判環(huán)節(jié)之一，是高質量庭審的保證。人工智能輔助系統記錄“有痕”閱卷的時間、筆記、流程定點簽到，整體智能判斷是否合乎規(guī)范。

其三，從文書初稿形成層面上看，人工智能輔助系統根據預設的法律文書框架和固定文本，智能提取電子卷宗中的案件要素，形成不同刑事訴訟階段的初稿文本，司法人員再根據案件具體情況的需要決定是否需要對初稿進行調整。

（二）黑色禁區(qū)：秩序

人工智能在刑事司法領域的應用，必須有明確的禁區(qū)。[18]究其正當性之根本，即司法權是司法機關獨立行使的權力。在刑事司法中，適用刑事法律進行司法的主體是人，即居于核心地位的法官。[19]具體來說，本文認為原因如下。

其一，法官的居中裁判地位是刑事訴訟控辯審三方形成“等邊三角”格局的關鍵。法官對案件事實和情節(jié)形成內心確信的過程中，夾雜著理性因素和感性因素。在眾多因素中，主要起作用的是法意識①即職業(yè)法律工作者、法學專家在世界觀性質的法律意識形態(tài)和專門法律知識的基礎上形成的、并且積累了法律實踐、適用法的活動的經驗和主管機關對法的各方面內容（包括對專業(yè)法律內容）的理解的法的觀念。參見陳興良：《刑法的人性基礎》，中國人民大學出版社2006 年版，470 頁。，這是刑事判決結果的思想基礎。

其二，目前我國人工智能輔助刑事審判的技術開發(fā)工作主要是外包形式，也即是將整個工程交由專業(yè)的科技公司或團隊研究開發(fā)。正如上文所述，外包政策是一個適應我國司法系統科技水平的選擇，然目前缺乏完備的監(jiān)管機制，雙方的權利和義務、法律責任均由委托開發(fā)合同規(guī)制，設立禁區(qū)可以有效地防止將刑事司法權“外包”。

其三，智能技術運用造成糾紛解決場域弱化。[20]當庭控辯審三方的局面正是把所有的指控、案情、證據、被害人的訴請擺到臺面來，實實在在地定罪量刑與維護人權。辯護制度不應當成為基于對證據的邏輯演算后勝負結果的機器輸出的犧牲品。禁區(qū)的設置應當緩解這個尷尬的境地，還控辯雙方足夠自由的糾紛對峙環(huán)境。黃京平教授首先明確提出了人工智能在刑事司法中的禁區(qū)，即案例規(guī)則及其調整，與非正式制度如刑事政策、改革試驗、地方規(guī)范等等。[21]這無疑是將人工智能在刑事審判中運用的可操作性向前推進一大步。刑事實體法實際上就是解決定罪量刑的實體法律。定罪解決犯罪的定性問題，刑事審判的定罪量刑以及具體事實的實質認定，均需要設立人工智能的禁區(qū)。具體而言，人工智能在以下幾方面的運用不具有法律效力。

1.人工智能預測定罪量刑結果的法律效力。在現代國家治理體系中，法院是政府權力與個人權利之間關系的校準器，是秩序形成和維持的樞紐。[22]定罪量刑是刑事法官的使命，必須完全交由刑事法官主導。此外，人工智能輔助審判的目的并非是為了代替法官的勞動，而是輔助法官更為公正地適用刑事法律。如果人工智能預測定罪量刑結果具有法律效力，一方面會稀釋法官在刑事審判中的重要中立地位，動搖刑事庭審控辯審三方平衡對峙的局面，甚至隨著技術的發(fā)展可能會形成控辯審與人工智能四方對立的局面；另一方面，由人工智能預測定罪量刑結果并賦予該結果法律效力，容易過度約束法官在認定案件事實方面的自由裁量權，或者使法官僅滿足于作出“證據確實、充分”的表面認定，從而造成機械司法，法官本末倒置地進行案件事實的形式認定，但最終由人工智能來敲錘定音，這樣一來法庭辯論、二審終審、再審制度將“形同虛設”。

2.人工智能對證據的證據能力的實質判斷。現實中人工智能已經在單一證據合法、合規(guī)性的自動校驗領域有所作為，如上海法院的“206 工程”。[23]但本文仍認為，認定事實乃至定罪的最關鍵因子是證據，而裁判結果的得出須建立在實質判斷的基礎之上。刑事法雖然預設了證據資格的種類和條件，但面對五花八門的案件事實，有限的法律條文并不能預先涵蓋所有的情形。證據能力的判斷，并非只是一個證據是否符合法律預設，而是形式判斷與實質判斷的統一。證據是挖掘案件事實的關鍵，一個證據能否成為證據鏈條中的一環(huán)，應當是法官結合法律條文的規(guī)定，實質性判斷這個證據是否具有證據資格。

3.人工智能對證據證明力以及閉合的證據鏈的判斷。與證明力判斷，以及所有證據匯集是否能形成一個完整閉合的證據鏈條需要法官結合案件實際進行實質判斷。具體到非法證據排除，在刑事訴訟中，物證、書證在收集、固定和管理的過程中都有可能遭到破壞，或這些證據很可能是通過非法收集的途經得來的，特別是可變性強的言詞證據。證據證明力以及閉合證據鏈的判斷不可能僅僅是一個事實認定的問題，而是事實認定與法律判斷相結合、形式判斷與實質判斷相統一的過程。證據是刑事訴訟法的血肉，但刑事訴訟法并非一部簡單的證據法，我們設立刑事程序法與實體法相互輔助適用，目的就在于從實體和程序上均有效地懲罰犯罪和維護人權，因此在證據證明力以及閉合的證據鏈，包括上文第二點提到的證據能力的判斷上，應當慎用人工智能。

4.人工智能對刑事案件疑難問題的價值判斷與抉擇。刑法條文頒布之后是靜態(tài)的文字狀態(tài)，其生命力需要由法官來賦予，刑法條文的精神就隱藏在刑事判決書里面。刑事法官的使命不僅要嚴格遵循罪刑法定原則適用刑法，保證司法公正，還需要追求個案正義。隨著我國新時代主要社會矛盾的變化，新的社會問題也時常出現，刑法條文的修改不能完全亦步亦趨，應當在社會主流價值觀的指引下科學運用法律解釋方法對法律條文作出相應解釋。同時，把握靜態(tài)的刑法條文與動態(tài)的社會發(fā)展之間的關系，使得任何法律條文都不只是用來宣誓某種價值傾向，而是應當實在地根據社會認知進行價值判斷與權衡。

三、原則與應對：刑事審判人工智能的工具性作用

為人工智能的運用設立原則是必要的。刑事審判運用人工智能的目的在于為審判活動提供有益的智能，而不是讓它像經歷生物演化一樣沒有確定的發(fā)展方向。例如在什么原則的指引下去設計和投資人工智能系統，使其在刑事審判的運用當中具有算法的魯棒性；①魯棒性又稱健壯性，是指對非法輸入的抵抗能力。當輸入的數據非法時，算法不應是中斷程序的執(zhí)行，而應恰當地做出反應或進行相應的處理。周元哲等編著：《程序基本算法教程》，清華大學出版社2016 年版，7 頁。或者是在什么樣的原則之下通過自動化輔助司法實現獨立公正，同時不打破資源和目的的平衡。總體上看，應當堅持在刑事訴訟中人工智能的工具性作用最優(yōu)化原則。其內涵為應當充分發(fā)揮人工智能的工具性作用來輔助刑事審判，具體的子原則如下。

1.司法人員主體原則。即堅持司法人員在刑事審判中的主體地位。犯罪的刑事處罰作為一項刑事審判活動，其審判權只能由法院行使，即人工智能無法代替司法人員成為刑事審判的主體。我國的庭審制度沿襲了職權主體的特征，法官在刑事訴訟庭審中處于主導地位，裁判結果的產生也會圍繞著法官的思路進行，因此人工智能代替的是刑事審判中機械性重復工作，使得法官更注重于案件的實體思考。

2.自由空間與禁區(qū)原則。在人為設定的自由空間內承認人工智能使用的效力，在禁區(qū)內則一概否定人工智能使用的效力。不能機械地理解“科學無禁區(qū)”的含義，在人類的倫理與科技產生沖突時仍需設立禁區(qū)。法律和科學逐步融合發(fā)展是國家、社會和人民喜聞樂見的現象，然法律并不完全等同科技，法律需要一定的“保守”，才能成為維護公平的利器。

3.個案正義優(yōu)于司法效率。人工智能深度學習所依賴的大數據技術，更多關注的是事物之間宏觀上引起變化的數據關聯關系，即上文所提“相關關系”，而非因果關系。也即是說，人工智能所提供的司法大數據提高了司法人員的工作效率，但是對人工智能的過度依賴并不能完全保證個案正義，數據分析體現的是“歸納樣本——歸納總體”的過程，相關關系并不關注社會關系中深層次的利益糾葛以及司法實踐對精確認識的要求，因此人工智能的效率并不能以犧牲個案正義來獲得。況且我國地區(qū)犯罪差異十分顯著，機械地以大數據分析進行輔助審判，易忽視事物發(fā)展的特殊性，尤其是個別疑難案件中的特殊情節(jié)以及復雜社會關系。

4.人工智能分析結果的可否性。人工智能在刑事審判中擁有自由空間，并非意味著只要在這一空間使用了人工智能并得到分析結果，這一結果就具有絕對的不可否性。既然明確了人工智能的工具性本位，則應當認識到，司法人員基于合理理由的前提下可舍棄人工智能的計算結果，當事人也可以對人工智能計算結果提出異議，主張司法機關對該計算結果不予考慮。[24]具有可否性的要求并非否定人工智能，基于人工智能的使用要為刑事審判提供有益智能的大前提下，理性堅持可否性能夠客觀地促進人工智能輔助審判系統的發(fā)展。

至于具體的應對措施，本文擬結合上文，試從不同角度給出多元建議。

第一，從人工智能系統本身的角度出發(fā)，要求由人工智能在刑事審判中的一切行動都要具有透明性、可解釋性。建立法院系統的人工智能算法具體運算模型的備案本，人工智能系統在自由空間內的一切運算軌跡應全面記錄備案。

第二，從監(jiān)管的角度看，法院體系內部應當增設刑事司法人工智能監(jiān)管機構。應當考慮對于人工智能輔助審判系統的核心服務增加編制正職人員，對于開發(fā)過程中的非核心的、短期問題和臨時性項目，交由外包專業(yè)人員時應當賦予其嚴格的責任條款。

第三，對于人工智能系統的開發(fā)者而言，須建立司法體系內的人工智能問責制度，與強制披露算法制度。研發(fā)者和使用者相對于一般人而言，對人工智能產品具有更多的把控能力，因此在刑法中確立人工智能產品研發(fā)者和使用者的嚴格責任具有一定可考慮性。[25]《中華人民共和國刑法》第285 條非法侵入計算機信息系統罪、非法獲取計算機信息系統數據、非法控制計算機信息系統罪、提供侵入、非法控制計算機信息系統程序、工具罪，第286 條破壞計算機信息系統罪，第287 條之二幫助信息網絡犯罪活動等計算機犯罪的罪名均可評價人工智能產品研發(fā)者和使用者的刑事責任。

第四，從人工智能系統的安全方面出發(fā)，全面升級法院內部網絡的安全操作系統，最大限度降低網絡安全隱患。

第五，全局的角度看，促進全國法院刑事案件信息技術標準的逐步統一。如果技術標準不統一，各地法院水平參差不齊，司法數據的互通共享只能成為一個空口號，而無實質作用。

在刑事審判當中運用人工智能，將有很長的路要走。人類希望人工智能在我們追求最高理想時，幫助我們實現最大膽的愿望，而不是毀滅我們。[26]我們應當思考尤瓦爾·赫拉利在《未來簡史》的“數據主義”這一章末尾提出的三個問題之一：智能和意識，究竟哪個才更有價值？[27]在司法公正這個領域，人類應當牢牢把握自身的主體地位，一方面以開放和善的態(tài)度接納人工智能這一“新貴”，另一方面嚴守司法底線，親力親為，在人工智能禁區(qū)中充分行使審判的權利。