司法人工智能：風險、定位與法律規制
——以上海“206”刑事辦案輔助系統為例

劉子凡

（桂林電子科技大學法學院，廣西 桂林 541200）

一、引言

人工智能，是以算法為支撐的智能人工系統。經過半個多世紀的發展，人工智能對人類社會的影響逐步深入。各國在司法中引入人工智能，是從20世紀70年代開始的。我國司法人工智能雖起步較晚，但備受重視。2017年以來，《新一代人工智能發展規劃》《關于加快建設智慧法院的意見》等重磅政策文件的發布，有力推動了司法機關的信息化、智能化變革。各地司法人工智能建設如火如荼，其中上海“206”刑事辦案輔助系統尤為出名。人工智能的介入，對提升我國司法效率、嚴防冤假錯案與司法腐敗具有重要作用。然而，科技“雙刃劍”原理在司法人工智能中同樣適用，高度智能化、自動化的辦案輔助系統，對傳統的司法原則、司法模式帶來了一定沖擊。司法智能化的變革不可逆轉，但我們仍需以理性之心，直面科技帶來的法律風險。下文將主要以上海“206”刑事辦案輔助系統的應用為例，分析司法人工智能存在的風險與問題，探討其應有的定位，并提出規制方案。

二、人工智能在司法應用中的法律風險

在司法人工智能迅猛發展的同時，受制于觀念、技術、傳統，司法人工智能亦表現出一定的法律風險，即對于法定司法原則和司法模式的沖擊。司法人工智能雖使得司法范式向智能化、便捷化轉變，但其能否真正促進“讓人民群眾在每個司法案件中都感受到公平正義”這一目標的實現，仍需謹慎研判。社會學家貝克曾指出：“新興技術在給社會帶來機遇和便利的同時，也存在產生風險和挑戰的可能”［1］。因此，我們必須重視并細加分析司法人工智能產生的法律風險，以探尋治理之道。

（一）人工智能對法院“獨立行使審判權”造成沖擊

我國憲法第128條、第131條的規定，確立了法院獨立行使審判權的原則①，審判權這一國家權力，專屬于法院和法官，法官在審理案件時，有權獨立而不受干涉地進行證據審查、事實認定、法律適用和最終宣判。然而，司法人工智能的應用，在某種程度上動搖了這一基本原則。我們以上海高院的“206”刑事案件智能輔助辦案系統為例說明。這一系統，可以輔助司法機關進行證據審查、事實認定等工作。然而，在事實認定的過程中，法官必須進行價值判斷和價值選擇，遵循“自由心證”。人工智能畢竟是機器，它的介入很可能極大簡化原本復雜的事實認定過程，本應考慮到的利益衡量、危害程度等因素則被其拋棄，事實認定變得機械化。人工智能系統將證據數據化、法律規則代碼化，以此來指引審判人員，而這無異于通過層層嵌套的技術，削弱司法人員的裁判權力，一定程度上會產生決策讓渡現象［2］。在案多人少、審限制度的壓力之下，司法人工智能憑借其快捷特性會讓法官形成對其的依賴。有研究表明，市面上的“小猿搜題”等教輔APP會增加學生在學習上的惰性，因為學生過分依賴于他們，思維能力和動力明顯下降。那么同樣的道理，過分依賴司法人工智能亦會增加法官的惰性心理。

上文談到，事實認定必然伴隨著價值判斷與價值選擇，而它們需要法官運用專業理性和法治精神，行使一定自由裁量權［3］。一個公正的裁判，必然是一個做出正確價值選擇和判斷的裁判。而作為機器的人工智能，沒有情感，沒有理性，沒有社會經驗，無法進行價值判斷，依賴人工智能進行裁判，會大大限制法官的自由裁量權。同時，對價值的選擇和判斷，往往體現著法官的人文關懷。我們所追求的司法正義，亦應當是具備人文精神的正義。而司法人工智能固然有助于作出更為高效一致的司法裁判，但它們不能與人進行心靈互動，不可能有人文關懷［4］。因此，法律人所獨有的人文情懷和法律精神無法被人工智能替代。

綜上，司法人工智能的運用，使得法官事實認定者的身份逐步異化，法官行使審判權不再“獨立”，人工智能和其背后的技術研發者與法官“共享”了審判權，法院獨立行使審判權原則受到明顯沖擊。

（二）算法的偏見和不透明可能影響司法公正與公開

人工智能的運行依賴于算法對于數據的處理，可以說算法是人工智能發展的助推器。雖然算法的運行基于輸入的客觀數據、代碼等，但算法與價值選擇等主觀性活動依舊具有相關性，因為算法的開發畢竟是由人類進行的。實踐中，司法機關通常沒有能力獨立進行人工智能的開發，因此開發工作主要是外包出去由技術公司進行。上文中提到的上海“206系統”，其主要研發者是人工智能企業的先鋒“科大訊飛”，其派出的技術人員超過300人次［5］。而對于科技研發企業而言，他們沒有充足的法律知識，缺乏法律倫理觀，更沒有司法經驗，研發出的算法系統很可能帶有個人偏見。一個帶有偏見的算法，得出的結論也必然帶有偏見，這種偏見勢必會產生誤導司法人員的風險。2013年，美國“威斯康星州訴埃里克·盧米斯”案曾轟動一時，一個旨在提供量刑輔助的風險評估系統被指存在算法歧視問題，對該系統進行的獨立測試表明，黑人被評估出再犯的風險幾乎兩倍于白人，但實際上其中只有20%的人會繼續犯罪［6］。因此我們必須重視算法偏見導致個案裁判不公的風險。

算法具有不透明性，這已是學界的共識。司法人工智能中的算法不透明，則威脅著司法公開原則的貫徹。司法人工智能通過分析輸入的司法數據、法律條文等，可以為法官提供類案推薦、庭審結果預測、判決指引等幫助。但是算法進行運算并得出結論的這一過程，是不為當事人所知曉的，算法自身的隱秘性和封閉性，使得人們無法審閱司法決策系統進行裁判時的說理和論證［7］。即便當事人要求公開算法決策過程，但若科技研發者以保護商業秘密為由拒絕公開詳細的算法運作步驟，似乎也有法可循。即便公開，司法人員、當事人也不具備理解算法的能力，因為他們缺乏相應的技術知識，無法理解算法系統的運行機理。總之，現階段的算法隱秘性極強，其與司法公開存在顯著矛盾。

（三）人工智能使訴訟結構存在失衡風險

原被告、控辯雙方居兩邊、法官居中間的三角訴訟構造，是世界各國普遍采取的訴訟結構，這一基本構造下又可分為當事人主義訴訟模式、職權主義訴訟模式等，但無論哪種模式，都旨在讓法官充分查明事實、準確適用法律。訴訟三角構造應當是穩定的，各方的訴訟地位和訴訟權利都理應得到保障。然而，司法人工智能的運用，則大大強化了國家公權力機關的辦案能力，使得等邊三角形的訴訟結構出現失衡風險。我們以刑事訴訟為例說明。我國憲法、刑事訴訟法對于公、檢、法三機關的職權和分工有明確規定，三機關應當“分工負責、互相配合、互相制約”，既要確保準確打擊犯罪，又要保障當事人的人權、訴訟權利等合法權益。在實務中，基于國情等因素，三機關在刑事訴訟中往往配合有力，但制約不足，他們作為“政法機關”這一整體，對于被追訴人而言本就具有巨大優勢，而司法人工智能的運用更加強化了這種優勢。例如，上海的“206”系統，就是以統一證據標準為主線的智能辦案系統，公、檢、法都可使用。該系統對于證據審查會給出統一的指示，并能強化三機關的信息共享。檢察機關在審查公安機關移送的證據時，若使用“206”系統輔助審查，則極有可能得出與公安機關相似的結論，因為公安機關在審查證據時亦使用了“206”系統。如此一來，偵查、審查起訴和審理變得如同工廠流水線一般，三機關的辦案思路趨向同質，后續流程對前續流程的審查更加缺乏實質性，三機關之間的制約更加難以執行。

另外，司法人工智能的運用更加凸顯了不平衡的控辯關系。現代法治所追求的應然狀態，是控辯雙方保持一種平衡的狀態。但在我國，基于各種原因，控方力量遠大于辯方力量。司法人工智能的運用，讓偵查、公訴機關獲取數據、分析證據的能力大為增強。根據上文的論證，囿于算法不透明等因素，司法機關尚且都無法解釋算法結論得出的原因和過程，那本就處于弱勢地位的辯方，更無法針對控方依據算法所做的意見進行有效的辯護，法官亦很難采納辯方的意見。

三、司法人工智能的定位

司法人工智能之所以會產生上述法律風險，主要是因為在推動司法智能化的進程中，我們關注的重點往往在于“利用人工智能治理”，而輕視了“治理人工智能”。司法人工智能是機器，它只可輔助司法機關，絕不可代替司法機關，司法人工智能無論如何發展，都不能動搖司法的應有之義。緊緊圍繞這一定位，是規制法律風險、推動人工智能法治化發展的必然選擇。

（一）人工智能不得影響獨立審判權

根據我國憲法和訴訟法的規定，法院獨享審判權②。然而，司法人工智能的運用，對法官的審理活動施加了極大影響，機器參與審判、與法官共享審判權成為現實，其讓法院的裁判活動產生了違反現行法律原則的風險。而法院獨立行使審判權，無論何時都應是必須堅守的法律價值和原則。司法人工智能終歸是“輔助”系統，其對于法官的事實認定、法律適用和判決，只可起輔助作用，不能有實質性的指引和干預，法官使用司法人工智能輔助裁判，亦須遵循自己內心對于證據、法律的認知。堅持司法人工智能的輔助性定位，是避免其影響法院獨立行使審判權之必要。

（二）人工智能應有利于司法公正與公開

堅持司法公開，保障司法公正，強化社會對于司法活動的監督，是實現“努力讓人民群眾在每一個司法案件中感受到公平正義”這一目標的必要條件，是國家法治建設重點推進的工作之一③。互聯網、人工智能技術的運用，則擴展了司法公開的渠道，豐富了司法公開的形式，增強了事實認定、法律適用的準確性，故這些新技術本是有助于推進司法公正與公開的。而算法黑箱、算法偏見等技術問題的存在，卻成為了實現公平正義的桎梏。因此，我們必須適當調適技術的固有問題。依靠互聯網、大數據等科技加持，司法公開的廣度、深度與可得性均能獲得極大的擴展［8］。在司法公正上，提升數據收集的廣泛性和準確性以克服算法偏見也十分必要。總之，司法人工智能必須堅持服務司法公正與公開的定位。

四、司法人工智能的法律規制

司法人工智能具有輔助性，要重視對于人工智能的治理，司法人工智能只可在法定司法原則和司法模式下應用。這是發展司法人工智能應當堅持的定位。厘清這一定位，也就明晰了司法人工智能出現法律風險的原因，同時也為規制司法人工智能提供了原則方向。治理司法人工智能，本質上是對技術的治理，要讓技術更好地服務于人類，可遵循“技術歸化”的治理思路④。盡管有人認為，隨著大數據和算法的深度運用，法律的操作和管理最終也可由機器進行［9］。但法治仍是現代社會治理的“最大公約數”，亦是“歸化”技術的必然路徑。在“法治歸化技術”的總原則之下，我們提出以下規制司法人工智能風險的方案，以期為治理者提供參考。

（一）強化法院獨立行使審判權原則1.堅持在裁判者身上貫徹司法責任制

嚴格落實司法責任制，深化司法責任制改革，必須貫徹“讓審理者裁判，讓裁判者負責”。在審判活動中，法官是法定的審判主體，司法人工智能只是輔助法官裁判的工具，因此主審法官必須對案件負責。學界有聲音認為，人工智能未來可能承擔法律責任。但是在當下及未來很長時間，囿于技術、倫理等因素，人工智能都很難具有獨立的行為能力，難以成為法律認可的主體，故討論讓人工智能承擔責任還為時過早，意義不大。司法人工智能的研發者，并不能直接參與案件審理；加之法官對使用司法人工智能所做出的裁判，具有最終審定的權力。所以研發者并不具備承擔案件審理責任的現實依據。綜上，堅持在裁判者身上貫徹“司法責任制”，是強化法院獨立行使審判權原則的關鍵，不應因為人工智能技術的發展而有所動搖。

2.限定司法人工智能的運用情境

隨著技術的進步，司法人工智能已經可以通過輔助法官開展事實認定、法律適用等進入審判的核心地帶。因此，為保證、強化法官的獨立性，可以法規范的形式限定司法人工智能的運用情境。例如，上海“206”系統就具有檢索法律法規、司法解釋、案例、著作、論文等資料的功能，并能夠對相關知識和觀點做出凝練。該項功能能大大減輕司法人員的工作量，可在司法活動中廣泛使用。像庭審錄入、案件歸檔等重復性、機械性的工作，亦可由司法人工智能承擔。但是，“206”系統提供統一證據審查標準的功能，不可隨意使用，因為證據審查關乎事實認定，是司法的核心，需根據案件情況使用此類功能。對法律關系明了、事實簡單的案件，可由人工智能進行證據審查；對于相對重大疑難的案件，須充分發揮法官的作用，人工智能只可做案例推送、法律檢索等輔助工作，不可進行證據審查和法律適用。

（二）推動建設算法公開機制

算法的不透明問題，使得人們無法看清其中的規則，無法提出不同意見，只能接受最終的結果。［10］因此，需用司法公開原則來打破算法的閉環運行，建立一種算法公開機制。一方面，因算法的運行離不開海量的數據，故要加大司法數據的公開力度，進一步推進司法數據公開平臺的建設，并做到數據“精準公開”。例如，司法機關若使用“206”系統，就應公開該系統中與案件相關的司法數據，以此讓相關訴訟參與人了解算法結論得出的源數據。另一方面，要給予人工智能研發者公開算法運行機理的義務。研發者在交付系統時，應當向司法機關說明不涉密的算法運行過程；若案情重大，司法機關也可要求研發者直接向當事人說明。同時，為保障算法公開的效果，研發者應注重對算法的解釋，司法機關亦可邀請專家學者、法律實務者等專業人士參與到算法解釋中來，以增強人們對于算法的理解度。

（三）充分運用人工智能保障當事人權利

在司法智能化時代，人工智能增強了國家公權力機關的辦案能力，但同時公民的辯護權等權利也受到了挑戰，傳統的訴訟結構面臨失衡風險。司法人工智能技術應有利于所有訴訟參與者，其有義務保障公民的法定訴訟權利和人權，⑤使訴訟保持相對平衡。例如，上海“206”系統公、檢、法都可運用。未來可讓辯護人、訴訟代理人也使用該系統，幫助他們確立代理思路、形成代理詞，以對抗公權力機關依據人工智能系統進行的追訴活動。在審查逮捕、取保候審、羈押必要性審查等需要評估人身危險性的環節，亦可引入風險評估系統，以提高風險識別的精準性，防止濫用逮捕、羈押過久等問題。

五、結語

司法人工智能應用實踐表明，司法智能化的變革是大勢所趨。人工智能的發展表現出一個鮮明特點，即機器有了一定自主性，其不再只是工具。這一變革沖擊了既有的司法體制，產生了諸多法律風險。面對上述趨勢與特點，我們必須重新審視人工智能的定位，突出其輔助性功能，并強調“法治歸化技術”的治理思路，牢牢堅持法定的司法原則和司法模式，以實現人工智能對司法的科學賦能。

注釋：

①《中華人民共和國憲法》第一百二十八條：“中華人民共和國人民法院是國家的審判機關。”第一百三十一條：“人民法院依照法律規定獨立行使審判權，不受行政機關、社會團體和個人的干涉。”

②《中華人民共和國民事訴訟法》第六條第二款：“人民法院依照法律規定對民事案件獨立進行審判，不受行政機關、社會團體和個人的干涉。”《中華人民共和國刑事訴訟法》第五條：“人民法院依照法律規定獨立行使審判權，人民檢察院依照法律規定獨立行使檢察權，不受行政機關、社會團體和個人的干涉。”《中華人民共和國行政訴訟法》第四條第一款：“人民法院依法對行政案件獨立行使審判權，不受行政機關、社會團體和個人的干涉。”

③《中共中央關于堅持和完善中國特色社會主義制度、推進國家治理體系和治理能力現代化若干重大問題的決定》指出，要“加快形成嚴密的法治監督體系”“加強對司法活動的監督，確保司法公正高效權威”。

④技術歸化是指各種新技術必須得到轉化，使其從陌生的、可能有的危險東西轉化成能夠融入社會文化和日常生活之中的馴化之物。參見何明升.中國網絡治理的定位及現實路徑[J].中國社會科學，2016（7）:114.

⑤《最高人民法院關于加快建設智慧法院的意見》指出，要“面向法官、訴訟參與人、社會公眾和政務部門提供全方位智能服務”。