基于人工智能技術介入司法行政領域存在的風險及防范

倪 斌

（河南司法警官職業學院,河南 鄭州 450000）

人工智能的概念最早出現在1956年的美國達特茅斯會議上，在產業變革與科技革命高速推進的過程中，人工智能浪潮席卷全球，我國在此背景下開始應用人工智能推動各領域的發展。人工智能符合時代未來發展趨勢，對我國各領域的發展有重要的推動作用。司法領域在新時期也開始應用人工智能，并且人工智能在司法領域的影響力逐漸變大。最高人民法院將信息化建設與司法改革作為未來發展的重要任務，智慧法院正在如火如荼地建設中，成為人民法院完善機構體系、創新工作機制的重要內容。

1 人工智能司法實踐的相關概述

1.1 人工智能司法實踐現狀

進入21世紀，新一輪產業變革和科技革命的推進，將人們帶入到信息時代中，在此背景下，人工智能技術出現并開始應用于司法領域。學者們對人工智能極為重視，展開了人工智能信息透明化、實踐應用舉措等方面的研究。我國大力推進人工智能技術發展，但是當下由于技術水平與發展階段的限制，且人工智能實踐應用方面相關的資料也非常匱乏，導致司法領域應用人工智能存在不少的問題。

我國人民法院十分關注人工智能在司法領域的發展，最高人民法院在2016年就提出“智慧法院”，這是出于時代發展的考量，隨后我國智慧法院的建設將司法工作朝著科學化、智能化的方向引領。比如，北京法院應用“睿法官”（智能輔助系統）獲取與案件相關的信息與法律法規，在系統的輔助下可以在短時間內收集資料、梳理案件內容并整理與之相關的法律關系，該系統同時擁有提供裁判建議、提煉爭議焦點、生成裁判文書的功能，相關功能為法官審理案件提供了便利條件，縮短了工作所用的時間[1]。

1.2 人工智能司法實踐前景

人工智能系統應用于司法領域，可以提高司法工作的執行效率。與傳統司法活動方式相比，人工智能系統可以快速收集信息、整理信息、分析信息，強大的信息檢索功能可以降低法官在資料檢索工作中的操作難度，讓法官可以將精力集中在案件審理上，從而大幅度提升辦案效率。我國法院對于人工智能技術態度積極，應用水平也處于世界領先地位，例如上海的“刑事案件智能輔助辦案系統”（簡稱“206系統”）、北京的“睿法官”、江蘇的“法務云”、河北的“智審”、重慶的“法治云”等，其功能涉及單一證據校驗、逮捕條件審查、全案證據審查判斷、社會危險性評估、類案推送、量刑輔助、語音識別及智能轉換等內容，為法院應對海量案件提供了技術路徑[2]。

2 人工智能介入司法實踐的現實問題

2.1 威脅法官審判主體地位

司法領域中，人工智能的應用可成為法官審判案件的有力輔助。依托人工智能，使用案件檢索系統和法律法規數據庫查詢與案件相關的文獻和資料，可降低工作負荷，提高工作效率[3]。然而人工智能運用于司法裁判也存在一定的風險，人工智能依托程序進行案件審判，程序的編寫者可能會對系統運行產生一定的影響，從而導致法官使用人工智能系統形成雙重審判主體。人工智能程序的編寫可能由多主體進行，在此種情況下將會增加審判主體的定位難度，與此同時會出現審判活動裁判權力邊界不清與司法問責制度落實不到位的情況[4]。

人工智能審判案件主要是通過程序算法得出結果，分析案件數據并依據法律法規要求建立推理模型，預測案件的審判結果，法官通過參考人工智能程序預測的案件結果，可以有效減輕自身的工作量。長此以往，可能會削弱法官在案件審判中的作用，審判實踐參與度降低可能會一定程度影響法官專業能力的提升，這也就與人工智能介入司法領域的初衷相悖。

2.2 人工智能技術存在短板

人工智能技術應用到司法領域中，可以有效提高相關工作人員的工作效率。司法實踐與人工智能技術的接觸與融合是一個漸變的過程，需要在這個過程中不斷提高兩者的結合程度，并提高相關系統的完整性。我國人工智能技術受到國家的重視，各領域人員也積極地開展技術研發工作，但是人工智能技術仍存在滯后性、機械性與不完整性的問題，這些問題在司法實踐中表現得比較明顯[5]。

人工智能利用程序收集案件數據，并在程序運作下分析案件，最后預測案件裁判結果。案件判斷過程中，一方面依靠完善的系統程序，另一方面憑借對法律規則與法律概念的精確掌握，在相關條件下將案件內容與法律法規轉變為機器語言。對于法律法規與法律概念的理解，不同法官有不同的看法，所以同一個法律條文，可以出現多種理解與解釋，將其轉變為計算機語言后，計算機需要結合素材提出合理的解釋。人工智能的應用需要在公平正義與法律法規的指引下，對素材進行分析，如果僅憑借簡單的技術分析，使用相關結果作出的判決難以令人信服。當下人工智能在實際應用過程中，因其滯后性與機械性，無法取得良好的工作成效。

另一方面，法官長期審理案件形成的分析思維與裁判經驗等，是人工智能在案件審判方面難以比擬的。法官在案件審判期間如果單純參照法律法規，難免會對案件分析不全面，但是憑借多年工作積累的經驗，以及對案件信息的把握，可以在自由裁量權下進行判斷。法官在法律剛性方面的不足，可以憑借自身的理性思維與判斷經驗彌補，從而有機統一“理、法、情”，在相應方式下讓審判帶有溫度。

2.3 算法獨裁干預司法公正

算法運行離不開大數據，在數據的支持下憑借人工智能系統可以給出審判結果。但是經過深入的研究，發現算法審判究其根源就是對數據處理得到的結果。人工智能系統運行中，可以清楚顯示數據輸入與結果輸出，但是對于系統運算的過程并未呈現，在此種模式下會衍生出算法獨裁與黑箱問題。在審判活動中，使用算法結果考量案件，必須滿足一個前提條件——讓當事人信服算法結果，因為系統預算過程沒有公開，很難找到合理解釋消除當事人的疑慮。

大部分公眾對人工智能的認知程度較低，利用算法決策考量不足，并且沒有關注算法監管方面的工作。隨著智慧法院建設的推進，人工智能將會在未來成為案件審理的主要工具，諸如征信規則、保險規則、法律規則等寫入算法，如果編程人員不清楚相關規則的含義，就沒有辦法提高算法運行的合理性。在規則算法化、數據化的過程中，還會引發很多不可靠、不公平的問題，法律的公平性、正義性會受到影響[6]。

2.4 侵害個人信息與隱私權

人工智能在信息技術高速發展的背景下被廣泛應用，雖然其出現為大眾提供了很多便利，但同時也帶來了隱私安全與個人信息防護方面的問題。人工智能的應用需要以大量數據為基礎，開發利用人工智能系統勢必會涉及大量個人信息。一旦人工智能系統遭到黑客攻擊或遭遇其他問題，系統中的個人信息會處于危險境地，對用戶財產與個人安全造成巨大的威脅，一旦大眾的個人信息泄露、隱私被公開，將會激發公眾的抵觸情緒。

在人工智能系統應用期間，系統一方面會提供司法服務，另一方面會收集訴訟相關人員的個人信息，所以系統中含有訴訟參與者的信息，其隱私安全與個人信息保護工作必須予以高度重視。另外，公權力部門在信息化建設期間，推出網上辦理業務的服務，相關服務對智能化技術有較高的要求，因此相關部門會聯合高新技術企業共同研發智能化信息系統。此類企業在獲得資質后，可以收集大量數據，而此種方式應用于司法領域較為不妥，因為公民個人信息會在未經本人同意的情況下被企業收集與處理。

3 人工智能介入司法實踐的發展路徑

3.1 準確定位人工智能

人工智能應用到司法實踐中首先必須準確定位。人工智能只是一種輔助性的工具，在案件審理過程中，法官應該占主導地位，人工智能不能替代法官。在司法實踐中，大部分案件具有復雜的人際關系且事實曲折，審理案件需要結合常識、法律法規進行分析，最后妥善地處理。案件審理工作包括很多環節且較為復雜，法官的分析思維和工作經驗對案件審理結果具有巨大的作用。人工智能系統雖然擁有強大的檢索能力、深度的學習能力，但是不具有人類的情感，程序得出的結果有時很難讓人信服[7]。

人工智能的發展與數據化的出現，初衷是通過技術手段替代重復勞動，將人力從簡單的工作中解放出來。人工智能應用到司法領域中，推動智慧法院建設，是希望建立現代化的審判體系，將人工智能作為法官工作的輔助性工具，而不是讓人工智能替代法官。在案件審理期間，法官需要結合掌握的信息，依托相關法律法規進行獨立的判斷，所需的數據主要由人工智能系統收集、整理、分析。在人工智能技術的輔助下，司法活動可以高效地進行，讓司法公平、公正的特性良好地展現出來。

3.2 深化人工智能技術

人工智能應用到司法領域中，基于復雜的社會條件與技術發展水平不足的狀況，需要在系統設計時，保證程序的公平公正。人工智能程序編制前，需要在公平正義理念下設計好基礎算法程序并完善程序內容，提高程序在司法實踐中的透明性、公開性與可問責性等特性，使其能夠在必要情境下被合理使用。人工智能是輔助案件審理的工具，但不能過度依賴人工智能系統，否則就可能演變為將法律維持社會關系與秩序的功能變相地轉交給技術人員、數據與企業。人工智能系統在司法領域中應用，需要接受公眾的監督，法學家、技術人員也需要密切關注人工智能系統。政府需要在人工智能系統的應用中，逐步完善程序規則，約束算法設計者的行為，引導人工智能在司法領域朝著正確的方向發展[8]。

3.3 有序推動人工智能在司法裁判中的發展

人工智能系統在司法領域中的應用尚處于發展階段，提高技術的應用效果需要漫長的時間，需要不斷完善系統內容。人工智能系統是法院開展審判工作的附屬工具，在應用中受到社會發展條件影響，需要考慮到社會公眾對人工智能系統的接受程度，掌握人工智能技術的發展情況。法院應用人工智能技術，將其作為輔助案件審理的工具，不能出現喧賓奪主，占據法官審判主導地位的情況。使用人工智能技術需要考慮全面，明確其對傳統就業結構、制度機制、治理理念造成的影響，在智慧法院建設中思考相關問題的解決方法。

3.4 開展個人信息與隱私權的保護工作

人工智能系統建立在海量的數據上，法院使用人工智能系統涉及個人隱私方面的問題。數據保護工作異常重要，一旦處理不好，將會直接危及公民財產與人身安全。因此，應該重視公民隱私與個人信息的保護工作，同時選擇科學的工作方法。確定數據信息的采集范圍，采集公民的信息需要告知對方，保障公民的知情權。法院收集公民的信息是為審判工作的開展提供便利條件，但對個人信息的收集必須有度，確定人工智能系統在案件處理方面的需要，在此前提下界定法院個人信息數據收集的行為與界限。另外，當事人需要清楚法院收集信息的使用范圍。

法院開展人工智能系統建設、維護工作時，必須履行審判組織應該承擔的職責，與技術企業合作必須規范其行為，一旦技術企業利用技術侵害公眾個人信息，需按照要求嚴懲。法院與技術企業在人工智能系統應用方面，需明確系統服務司法審判的大前提，在此基礎上合作，規范技術企業的行為，防止其利用技術優勢竊取、違規利用個人信息，將當事人置于危險境地。

4 結語

人工智能技術應用于司法行政領域尚不成熟，在開展智慧法院建設、引入并使用人工智能系統的過程中，需要高度重視技術合作對象的選取工作，應該加大審查工作的力度，保證數據安全、可靠。要合理應用人工智能系統，在保證公民個人信息、隱私權不受侵害的同時，為案件審理工作的進行提供便利條件。