大語言模型司法應用的安全困境與治理路徑

【摘要】在數(shù)字中國與法治中國協(xié)同推進的戰(zhàn)略背景下，大語言模型司法應用正面臨技術黑箱性、數(shù)據(jù)治理短板與內容價值失范三重安全困局。須以總體國家安全觀為統(tǒng)領，在技術應用中嵌入社會主義核心價值觀，通過構建“技術防御-數(shù)據(jù)治理-可信體系”三位一體的安全體系，在制度創(chuàng)新中將《新一代人工智能發(fā)展規(guī)劃》與司法改革實踐有機銜接，走出一條技術賦能與風險防控并重的中國式司法智能化治理新路，為全球數(shù)字時代司法治理貢獻中國智慧。

【關鍵詞】智能司法" 大語言模型" 法律人工智能" 可信可控

【中圖分類號】D916" " " " " " " " " " " " " " " "【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2025.07.013

在數(shù)字中國戰(zhàn)略縱深推進的背景下，《最高人民法院關于規(guī)范和加強人工智能司法應用的意見》提出，“到2025年，基本建成較為完備的司法人工智能技術應用體系，為司法為民、公正司法提供全方位智能輔助支持”。近年來，最高人民法院大力推進人工智能技術在司法領域的廣泛應用，智慧法院建設取得顯著成效，全國法院已全面完成人民法院信息化3.0版建設，向信息化4.0版邁進。例如，深圳市中級人民法院于2024年6月上線人工智能輔助審判系統(tǒng)，審判效率顯著提升，上線半年，深圳市中級人民法院民商事案件平均結案時間同比縮短25.6%，[1]彰顯出司法智能化轉型的戰(zhàn)略必要性。這一轉型既源于“案多人少”的現(xiàn)實壓力和“同案不同判”等風險，也得益于司法審判垂直領域大模型在法律條文解析中展現(xiàn)出的強大自我學習和反饋能力，為破解司法標準化難題提供了技術支撐。

在此背景下，大語言模型加速推動司法效率的提升和司法應用的范式變革。深圳市中級人民法院率先構建全國首個司法專用大模型，覆蓋立案審查、電子卷宗解析、爭議焦點提煉、裁判文書生成等85項核心審判環(huán)節(jié)，該系統(tǒng)通過嵌入最高人民法院裁判規(guī)則庫，創(chuàng)新實現(xiàn)“類案強制檢索”功能，試運行期間已輔助立案29.1萬件，裁判文書初稿生成準確率達92%。浙江省杭州市中級人民法院開發(fā)的建設工程糾紛智慧審判模型，通過工程造價、施工日志、監(jiān)理報告的智能分析模塊，自動核算工程款利息和工期延誤損失等專業(yè)數(shù)據(jù)，實現(xiàn)類案審理效率提升65%，裁判自動履行率提至89%。[2]最高人民法院通過整合1.4億份裁判文書和200萬部法律法規(guī)，構建了全球最大的中文法律知識圖譜，該系統(tǒng)可智能審查證據(jù)鏈，自動標注證據(jù)瑕疵與法律適用沖突點。試點法院的單案辦理時效縮短40%，二審改判率下降15個百分點，推動司法生產(chǎn)力邁上智能躍升新臺階。

然而，技術創(chuàng)新與制度供給之間的張力也日益凸顯。技術層面，大模型參數(shù)規(guī)模呈現(xiàn)指數(shù)級增長，但我國《最高人民法院關于規(guī)范和加強人工智能司法應用的意見》的指導意見的修訂周期通常長達2～3年，難以匹配技術變革速度；制度層面，《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》尚未針對生成式人工智能設立專門條款，可能導致“人工智能偽造證據(jù)”等新型違法行為缺乏明確的規(guī)制依據(jù)；國際競爭維度，相較于歐盟《人工智能法案》確立的四級風險分類體系，我國司法人工智能領域尚未建立分級準入制度，在數(shù)字司法治理規(guī)則制定權爭奪中面臨話語權挑戰(zhàn)。這種“技術領跑”與“制度跟跑”的錯位格局，已成為智能司法深化發(fā)展的重要掣肘。

大語言模型司法應用的安全困境

大語言模型在司法領域的深度應用，本質上是技術邏輯與法律邏輯的深度融合過程。這種融合并非簡單的功能疊加，而是算法權力與司法權在數(shù)字空間的系統(tǒng)性重構。

技術原生的結構性風險。大語言模型的技術特性與司法活動的規(guī)范性要求之間，存在著三重難以調和的深層矛盾。其一，算法黑箱性與司法透明性的沖突。神經(jīng)網(wǎng)絡“輸入-輸出”的不可解釋性導致模型生成判決建議時無法完整呈現(xiàn)法律推理的邏輯鏈條，這違背了《最高人民法院關于進一步深化司法公開的意見》中“推動實現(xiàn)司法信息自動生成、智能分析、全程留痕、永久可追溯等功能”的規(guī)范性要求。其二，動態(tài)學習機制與司法確定性的張力。大語言模型的持續(xù)進化能力可能導致相同案件在不同時間節(jié)點產(chǎn)生差異化結論，這不僅挑戰(zhàn)“同案同判”的司法原則，還可能動搖司法公信力的根基。其三，技術工具理性與司法倫理的價值錯位。當模型將法律條文簡化為概率計算時，可能消解裁判文書中“公平”“合理”等價值要素的衡量空間，導致裁判文書變?yōu)檎Z法正確但缺乏人文關懷的文字堆砌。

以對抗攻擊為例，攻擊者可通過對輸入文本進行微小的語義擾動來誤導大語言模型的輸出。例如，將“正當防衛(wèi)”替換為“防衛(wèi)行為”，這種微小改動在語義上看似相近，但可能對模型的判斷產(chǎn)生顯著影響。這種“算法手術刀”式的攻擊手段，暴露出大語言模型在技術層面的結構性缺陷。更值得關注的是，深度學習框架的安全漏洞呈現(xiàn)典型的“木桶效應”。例如，2022年，PyTorch的預發(fā)布版本軟件包遭到“依賴混淆”攻擊，攻擊者?將惡意軟件包傳到PyPI代碼庫中，導致受影響的計算機的敏感數(shù)據(jù)被泄露。這表明即使模型本身沒有直接漏洞，供應鏈漏洞仍可能引發(fā)系統(tǒng)性安全風險。

數(shù)據(jù)治理的制度性短板。司法數(shù)據(jù)的特殊性在于其兼具公共屬性與私權邊界的特征，因而對大語言模型的數(shù)據(jù)治理提出了雙重挑戰(zhàn)。從技術維度看，數(shù)據(jù)生命周期管理的碎片化易導致敏感信息保護層層失守。司法數(shù)據(jù)包含采集、存儲、處理和應用涉及大量敏感信息，如個人身份信息、案件細節(jié)、證人證言等。這些信息在數(shù)據(jù)生命周期的不同階段都可能因管理碎片化而面臨泄露風險。從制度維度看，《中華人民共和國個人信息保護法》確立的“刪除權”面臨技術性應用難題。盡管該法第四十七條明確規(guī)定了個人信息處理者在特定情形下刪除個人信息的義務，但在實際操作中，某些企業(yè)可能因技術架構復雜、數(shù)據(jù)存儲分散等原因，無法及時有效地刪除用戶信息。

更深層的矛盾在于，數(shù)據(jù)流動性與司法確定性的悖論。大語言模型依賴海量數(shù)據(jù)持續(xù)優(yōu)化，但司法活動要求裁判依據(jù)的穩(wěn)定性。例如，當大語言模型用于輔助司法裁判時，其訓練數(shù)據(jù)可能包含最新的社會觀念、政策變化或技術發(fā)展，這可能導致生成的裁判建議與現(xiàn)有法律框架或司法實踐產(chǎn)生偏差，這種偏差暴露出技術系統(tǒng)與法律制度演進間的適配難題。這種“數(shù)據(jù)進化”與“法律安定”的張力，亟須建立動態(tài)平衡機制。

內容生成的規(guī)范性危機。生成式人工智能的技術特性正在重塑司法活動的價值坐標。其一，法律解釋的算法僭越風險。當大語言模型將法律中“公序良俗”原則量化為詞向量時，實質是將價值判斷異化為特征權重計算，這可能導致輸出內容突破司法解釋設定的規(guī)范邊界。其二，文書生成的合規(guī)性風險。在司法系統(tǒng)中，任何由模型生成的法律文本、判決或建議都必須符合現(xiàn)行的法律規(guī)范和司法慣例。然而，由于大語言模型的生成機制基于大規(guī)模的語料庫和學習算法，這些模型可能在沒有明確法律監(jiān)管的情況下，生成違反法律規(guī)定的內容。例如，模型可能依賴不準確或已過時的法律信息，或是對法律條文的解釋偏離本意，導致生成誤導性的法律建議。這不僅會直接影響案件結果，甚至可能損害司法公信力。

這種技術應用與司法本質的沖突，在價值層面體現(xiàn)為效率至上與司法謙抑性的對立。人工智能在司法領域的應用中，往往以提高效率為目標，這種效率導向可能忽視司法活動對個案差異和法律靈活性的需求。而司法謙抑性要求法官在法律框架內謹慎進行價值判斷和解釋，避免過度依賴技術手段，以確保司法決策的公正性和合法性。

大語言模型司法應用的安全治理之道

大語言模型的司法應用正深刻重塑司法權力運行模式，其安全風險亟待系統(tǒng)性應對。大語言模型在司法場景的應用安全，本質上是技術防御能力與攻擊手段的動態(tài)博弈過程。面對算法權力擴張與司法公信力的張力，需構建涵蓋技術防御、數(shù)據(jù)治理與可信體系的三維安全治理框架，實現(xiàn)從被動防護向主動進化的范式轉型，在保障技術效能的同時筑牢司法安全的制度防線。

構建主動免疫的技術防御體系。在司法場景中，大語言模型的應用面臨著對抗攻擊與數(shù)據(jù)投毒等傳統(tǒng)技術挑戰(zhàn)。攻擊者利用精心設計的語義陷阱，如虛構法律條文或扭曲案件事實，能夠誘使模型生成錯誤的裁決建議，這種隱蔽性特征凸顯了構建主動免疫的技術防御體系的重要性。為此，司法領域的相關研究應聚焦“動態(tài)對抗訓練”機制的建立。通過引入法律邏輯驗證模塊，不斷自動生成包含虛構法條（如創(chuàng)設“虛擬物權”概念）和事實矛盾（如時間線沖突）的對抗樣本庫，持續(xù)優(yōu)化模型的法律推理魯棒性，從而提高模型應對對抗攻擊和復雜法律的能力。浙江法院系統(tǒng)上線的“鳳凰金融智審”3.0為這種防御體系提供了可復制的實踐范本。該系統(tǒng)通過法律知識圖譜和智能算法，將法律規(guī)范轉化為符號語言，這一做法既確保了裁判文書生成和裁判結果預測的透明性與可解釋性，也為法院決策提供了充分數(shù)據(jù)支持，讓法律條文在模型應用中得以精準體現(xiàn)。

此外，司法大語言模型還應具備自動校對功能，確保文書格式規(guī)范、要素完整、邏輯合理。這種主動校對機制可有效降低因技術缺陷、數(shù)據(jù)質量問題或模式識別失誤引發(fā)的誤判風險，在快速發(fā)展的技術環(huán)境中兼顧質量與效率，提升對抗?jié)撛诎踩{的能力，為大語言模型的安全應用奠定基礎，也為未來法律智能化方向的研究與實踐提供重要參考。

筑牢司法數(shù)據(jù)主權的安全屏障。在數(shù)字化和智能化迅速發(fā)展的背景下，司法數(shù)據(jù)的戰(zhàn)略性地位愈發(fā)凸顯。為有效應對數(shù)據(jù)安全風險，推動法律與科技的深度融合，需構建中國特色司法數(shù)據(jù)治理體系，確保數(shù)據(jù)的安全性、完整性與保密性，特別是防范訓練數(shù)據(jù)污染的風險。為此，必須嚴格執(zhí)行《中華人民共和國數(shù)據(jù)安全法》的數(shù)據(jù)分類分級制度，對涉及國家秘密和個人隱私的司法數(shù)據(jù)進行物理隔離，防止數(shù)據(jù)在使用過程中遭受泄露。對公開裁判文書應進行深度脫敏，確保數(shù)據(jù)共享與使用時，當事人及相關人員的隱私與權益得到保護?？赏菩小八痉〝?shù)據(jù)沙箱”機制，引入?yún)^(qū)塊鏈技術確保數(shù)據(jù)使用全流程的留痕，保護訓練數(shù)據(jù)的“可用不可見”特性，進而降低數(shù)據(jù)濫用和泄露的風險，同時能為技術研發(fā)與應用提供必要的支撐。

在強化司法數(shù)據(jù)安全的同時，亦需防范技術公司壟斷司法數(shù)據(jù)形成“算法權力尋租”。2022年修訂的《中華人民共和國反壟斷法》已新增數(shù)字經(jīng)濟反壟斷專條，明確經(jīng)營者不得利用數(shù)據(jù)和算法等從事法律禁止的壟斷行為，在此基礎上可借鑒歐盟《數(shù)字市場法》的經(jīng)驗，增設“關鍵數(shù)據(jù)設施”條款，精準規(guī)制數(shù)字經(jīng)濟壟斷行為，守護司法數(shù)據(jù)的獨立性與權威性。

培育可信屬性角度的安全防護策略。司法智能化轉型的本質，是技術工具理性與司法價值理性的深度融合過程，必須堅守“可信可控”的倫理底線，在算法權力與司法權之間構建動態(tài)平衡機制。依據(jù)《生成式人工智能服務管理暫行辦法》，生成式人工智能服務提供者需要接受安全評估，并對算法進行備案，以提高算法的透明度和可問責性。這要求算法開發(fā)者提供包含決策邏輯、法律依據(jù)分析、偏見檢測報告的“算法說明書”，并由法官、技術專家、倫理學者組成的聯(lián)合審查委員會進行“穿透式審查”。這種“技術透明化”改革與“算法問責雙軌制”理論形成實踐呼應，通過內部合規(guī)和外部監(jiān)管相結合確保算法合規(guī)，既在模型架構中嵌入合規(guī)性驗證模塊，實時監(jiān)控法律推理路徑的規(guī)范性，又通過外部監(jiān)管力量建立“算法決策-司法審查”的反饋閉環(huán)，保障技術運行始終符合法治要求。

在全球數(shù)字治理規(guī)則加速重構的背景下，中國司法智能化的安全治理需堅持自主創(chuàng)新與開放借鑒相結合的發(fā)展道路。歐盟《人工智能法案》確立的“風險分級監(jiān)管”框架，雖為我國構建司法大語言模型準入標準提供了參照，但其難以契合我國司法實際。因此，必須將《新一代人工智能發(fā)展規(guī)劃》中“安全可控”的技術路線與《最高人民法院關于規(guī)范和加強人工智能司法應用的意見》和《最高人民法院關于以高質量審判服務保障科技創(chuàng)新的意見》提出的“科技賦能司法”目標有機銜接，形成具有中國特色的治理范式，這種范式創(chuàng)新體現(xiàn)在三個維度：技術研發(fā)層面，推動司法專用大模型的國產(chǎn)化替代，突破TensorFlow、PyTorch等國外框架的技術依賴；標準制定層面，建立融合民法典價值導向與GB/T 35273-2020版《信息安全技術個人信息安全規(guī)范》的技術合規(guī)體系；制度保障層面，完善從算法備案、運行監(jiān)測到責任追溯的全鏈條監(jiān)管制度。這種“技術-標準-制度”的三維治理架構既借鑒了國際經(jīng)驗中的有益內容，又植根于中國特色社會主義法治實踐，為全球司法智能化治理貢獻了中國方案。

更深層次的治理創(chuàng)新，在于將總體國家安全觀貫穿技術應用全過程。當前，某些境外大語言模型系統(tǒng)的價值滲透風險警示我們：智能司法的算法是技術工具，更是意識形態(tài)載體。這要求我們在技術治理中強化主權意識，建立司法大語言模型系統(tǒng)的價值觀過濾機制，將社會主義核心價值觀轉化為可量化的算法約束條件，在類案推薦、文書生成等環(huán)節(jié)設置“紅色基線”，確保技術應用始終服務于社會主義法治建設。這種治理邏輯的確立，不僅關乎技術安全，更是維護司法主權、塑造數(shù)字時代國家法治競爭力的戰(zhàn)略抉擇。

注釋

[1]《上線半年平均結案時間同比縮短25.6%！深圳法院AI輔助審判系統(tǒng)助力提質增效》，2025年1月13日，https：//www.dutenews.com/n/article/8636504。

[2]《AI賦能司法革新：全國法院十大AI大模型典型案例盤點》，2025年2月22日，https：//www.53ai.com/news/zhishiguanli/2025022275391.html。

責 編∕鄧楚韻" 美 編∕梁麗琛