刑事訴訟中的人工智能①
——以犯罪預測為例

［德］米夏埃爾·黑格曼斯

人工智能在刑事訴訟中的運用受到討論，這包括特定的調查事項，如為了確保對核心領域的保護②Gleizer，in：Beck/Kusche/Valerius（Hrsg.），Digitalisierung，Automatisierung，KI und Recht，2020，S.535.而對德國《刑事訴訟法》第100B、100C 條規定的措施進行監督，以及幫助法官在量刑③Kohn，Künstliche Intelligenz in der Strafzumessung，2021.上做出決定，還有刑罰執行和監禁執行的問題——尤其是為了評判是否采取必要的執行措施和假釋而進行犯罪預測。由于當前高度復雜的數字系統在發展上的迅速進步，必要的技術前提（尤其是計算機能力和適當的軟件）遲早是可以獲得的，所以這一發展不會停留在理論設想中。因此，在未經準備地遭遇制定司法和刑事政策的誘惑以及觸發假想的客觀約束（Sachzwang）或自動機制以前，是時候去思考刑事訴訟中關于人工智能運用的機遇、風險和必要的規范性框架條件了。

一、我們如何理解“人工智能”

人工智能的概念很不統一地得到運用，在此應當在一種嚴格的意義上予以理解。這一般不是指附帶數據庫系統和記錄管理、已進入司法①So hat die elektronische Akte in der Ziviljustiz bereits das Versuchsstadium verlassen und ist weitgehend etabliert（§§130a ff.ZPO）.中或在可預見的將來受到規劃的數字化。②Vgl.Mitterer，in：Anders/ Graalmann-Scheerer/Schady（Hrsg.），Innovative Entwicklungen in den deutschen Staatsanwaltschaften，2021，S.353.結構通常相對簡單的電子系統對程序發展的助益建立在確定的計算機程序這一基礎上，并由此基本上始終能得到法官的理解和監督。人工智能的特殊性在于機器通過算法的運用進行學習這一可能性，該可能性從數據中推斷出獨立的規律性，持續調整和優化以經驗為基礎的系統。人工智能系統在研發及其后的數據處理階段運用了數學算法而非單純的“如果—那么”規則，用數學算法識別復雜的模型，與人類觀察者的眼睛相反，后者注意到的主要是個別情況。較強的算法是將來的神經網絡，其工作原理類似于學習過程以及對人類大腦中的反饋進行處理。判斷一種預先的評估是正確或錯誤的，根據這些信息（如根據對外部數據庫的獨立進入），該人工智能系統單獨或共同地改變了系統（“突觸”或“神經”）內部無數的規則連接，由此導致對未來的問題進行變動的評估。當然，為了識別復雜的模型和理想地獲得適當的結果，這種獨立進行學習的人工智能系統需要大量的訓練數據。

基于神經網絡的多層性和復雜性，人類運用者對被開發的人工智能系統始終理解甚少：某個參數在何處被改變，為何經過一段延長的訓練期以后只能產生這樣一種結果——存在系統還無法識別的新數據？該決定過程以此方式似乎迅速成為一個“黑箱”，在復雜的人工智能系統中，最初的編程者也不再能完整地解釋它。為了解決人工智能的不透明性問題，近年來對“可解釋的人工智能”（Explainable AI）所進行的研究率先提出了一些大有希望的算法③Vgl.u.a.Goodfellow/Bengio/Courville，Deep Learning，2018.（參見下文），但尚未進入在此得到關注的適用范圍。基于該特殊性，在刑事訴訟中，人工智能的運用關系到一種特殊的挑戰——由人工智能產生的評估，該評估以其他的程序為基礎或者做出決定時要進行該評估。

二、在犯罪預測中的運用

由于人工智能系統對刑事訴訟中的各項事務存在多種評估方法，對此無法對合法性和可行性進行全面的評估。因此，在進行犯罪預測時，可將以下觀點示范性地用于可想到的運用方案中：一方面，這涉及一種在結構上還比較簡單的決定（有無風險）。另一方面，外國已有實踐經驗，盡管尚未運用上文意義上的人工智能，這是因為，雖然這些被運用至今的系統還將得到運用，但在運用過程中它們的參數沒有獨立、持續、額外地得到優化。④Siehe dazu n?her unter III.這種關于預測的決定屬于以下范圍——法官在審判中做出判處緩刑（德國《刑法典》第56、67B 條）的決定，或者在刑罰執行中做出決定（德國《刑法典》第67C 條、第67D 條第2、3 款）。但對執行保安處分而言，人工智能的運用可能是不太實際的，這是因為，為了適應電子決定過程，精神病學的評估通常具有決定性意義，這具備很強的個案關聯性并在經驗上難以理解。至少在更輕微和中等的犯罪這一領域，關于緩刑和假釋的預測在數量上明顯更多，但更依賴在統計上具備可測量性的電子處理標準（如前科刑、執行經歷、犯罪種類和年齡）。只要法官在提供建議上并非罕見性地不專業（德國《刑事訴訟法》第246a 條第2款、第454 條第2 款），他以自己多少較為充沛的職業經驗和對犯罪原因及過程的主觀認識為背景，根據個案中對事實情況的提出和衡量，做出了較為理想但終歸是直覺性的決定。

這種做出決定的結構（以統計和數學上的關聯為基礎提出和評估數據，完全通過數據處理被模擬）最終能給出風險評估——是否會導致德國《刑事訴訟法》第56 條第1 款意義上的“期待”存在或是否符合該法第57 條第1 款第2 項的“責任”，隨后法官在做出決定前的評判中可能參考該評估。但根據當前的規范綱領（Normprogramm），基于做出緩刑決定的必要評判要素，這種擴展性的運用亦即適當的緩刑決定無法通過人工智能做出。此外，很明顯，德國《基本法》第92 條意義上的司法權被行使，該司法權被委托給法官而非技術人員設計的一個計算機程序。①Eingehend Nink（Fn.2），S.261 ff.，287 f.對此，存在以下共識：最終的決定必須始終由法官做出，②Nink（Fn.2），S.354 f.在此要區分兩種討論面向：一方面涉及以下事實問題：人類對一種潛在的、永不出錯的工作系統進行控制的強度和效率。③Eisele/B?hm，in：Beck/Kusche/Valerius（Fn.1），S.519（532）.另一方面涉及以下規范視角：法官保留（Richtervorbehalt）或一般的人類決定者的保留。在一般的數據保護法即歐盟《通用數據保護條例》第22 條第1 款④Art.22 Abs.1 DSGVO lautet：“Die betroffene Person hat das Recht，nicht einer ausschlie?lich auf einer automatisierten Verarbeitung［…］beruhenden Entscheidung unterworfen zu werden，die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ?hnlicher Weise erheblich beeintr?chtigt.”（當然也有例外）中，完全自動地做出決定在一般法（einfachgesetzlich）的意義上已被禁止。⑤Steinbach（Fn.5），S.120.此外，處于核心地位的危險防控和刑事追訴部門與歐洲議會和理事會第2016/680 號指令有關，該指令第11 條第1 款有相應規定，明確要求具備（人類）責任人介入的可能性。⑥Art.11 Abs.1 RL（EU）2016/80 lautet：“Die Mitgliedstaa-ten sehen vor，dass eine ausschlie?lich auf einer automatischen Verarbeitung beruhende Entscheidung-einschlie?lich Profiling-，die eine nachteilige Rechtsfolge für die betroffene Person hat oder sie erheblich beeintr?chtigt，verboten ist，es sei denn，sie ist nach dem Unionsrecht oder dem Recht der Mitgliedstaaten，dem der Verantwortliche unterliegt und das geeignete Garantien für die Rechte und Freiheiten der betroffenen Person bietet，zumindest aber das Recht auf pers?n-liches Eingreifen seitens des Verantwortlichen，erlaubt.”德國《聯邦數據保護法》第54 條第1款的規定⑦Die Vorschrift lautet：“Eine ausschlie?lich auf einer automatischen Verarbeitung beruhende Entscheidung，die mit einer nachteiligen Rechtsfolge für die betroffene Person verbunden ist oder sie erheblich beeintr?chtigt，ist nur zul?ssig，wenn sie in einer Rechtsvorschrift vorgesehen ist.”修正性地得以實現：通過法律規范，禁止完全自動地做出決定最終變成附許可保留的禁止，但令人驚訝的是，對責任人介入權的最低保障在此并未復歸。然而，該條款也通過進行符合該指令的解釋得到解讀。⑧Helfrich，in：Sydow（Hrsg.），Nomos Kommentar，Bundesdatenschutzgesetz，2019，§54 Rn.5.上述介入可能性的最低標準意味著一種（法官）對決定過程的監督，同時基于其他必要的、有待評估的決定性因素，這種監督最終僅成為一種將做出決定的人工智能支撐：法官審查人工智能所進行的犯罪預測，目的在于必要時糾正這些預測，然后（若有可能的話）將這些預測建立在以下基礎上——關于“可期待性”或“可負責性”的決定。

三、機遇與風險

這種所謂的決定模式當前是可以建構的，不會從一開始就面臨無法克服的法律障礙。然而，這只是完成了第一步，因為兩個相互交織的問題完全可能導致：通過人工智能排除做出這種決定的支撐。第一個問題涉及對人工智能評估進行法律監督的可行性和效率。要克服這些難以修復的薄弱環節將產生以下問題：對于法官所做出決定的質量提出規范性要求。如果基于人工智能的復雜性，該決定的特定基本前提不可能得到質問，這就涉及該問題。此外，工作量、技術信任或其他原因導致絲毫不加批判地接受技術評估——該疑慮是有價值的，并且對于非學習性信息系統的運用也是適用的。對此，相似的但同樣遭受疑慮的是反面效果——一種對人工智能評估不加區別的不信任，這導致技術支持基本上受到忽視并以（可能是比較糟糕的）直覺替代評估。這就將人工智能的優勢轉化為劣勢，最終導致做出更糟糕的決定。

在此背景下，考察一下國外迄今為止獲得的、以軟件做支撐的犯罪預測工具運用的經驗是值得的。基于算法對罪犯進行風險預測可能已被美國所有的州（不包括聯邦層面）采用。⑨Steinbach（Fn.5），S.85.這類系統⑩Eine übersicht bietet Electronic Privacy Information Center（epic.org），Liberty at Risk：Pretrial Risk Assessment Tools in the U.S.，2020，S.2 ff.中當前最知名的是COMPAS，①COMPAS = Correctional Offender Management Profiling for Alternative Sanctions，entwickelt von Northpointe Inc.und inzwischen als COMPAS-R Core Teil der Northpointe Suite Pretrial.其以137 條信息為根據，其中部分信息是通過詢問獲取的。②Der Fragebogen ist abgedruckt in Electronic Privacy Information Center（Fn.16），S.26 ff.但關于這些系統的經驗是矛盾的。一個重要的批評點在于對特定族群可能存在的歧視，因為危險在于僅以膚色為根據將他們歸入風險族群。③Nink（Fn.2），S.381 ff.此外，在風險預測中，所謂的結果可能不會被高估，因為得到運用的系統在有效性上并無區別，運行的精確性較低。④James，Risk and Needs Assessment in the Federal Prison System，10.7.2018，S.4.

在瑞士，分類能力明顯較低的FaST 軟件⑤FaST=Fall-Screening-Tool.得到運用，其當然無法發布預測，而是將受檢者僅歸入3 個風險族群，并且僅表明可能需要進行更詳細的說明。⑥Eisele/B?hm（Fn.9），S.525 f.在犯罪行為和人方面，來自4 個領域的17 條標準得到運用，使用者也要對其中的部分標準權衡一下，但這些標準既未得到深度的采用，也未對個案特殊性留有余地。⑦Wegen der Einzelheiten siehe das Manual des Fall-Screening-Tools，Version 6 aus Januar 2018.

基于上述經驗，當前可用的程序（用于有效地支持法官做出決定）具備的可運用性值得懷疑。但在此背景下，如何判斷人工智能系統潛在的合適性？

此外，如果對自動做出決定所持的期待很高，⑧Dietvorst/Simmons/Massey，Journal of Experimental Psychology：General 2015，Bd.144，Heft 1，114.該決定就像人類的判斷一樣，始終形塑了環境中的一部分。⑨Steinbach（Fn.5），S.33.這涉及一個高度復雜的環境，因而人們經常“忽略”相關的環境因素。原因可能首先在于相關者在動力和生活環境上的多樣性，這就無法事先識別對關于預測的決定有意義的所有因素。但這可能（就像在FaST 的場合）以已知的少數因素的減少為根據，有人想要充分地認識其效果，嚴格循證的規定參數（Streng Evidenzbasierte Vorgaben）對此通常是欠缺的。有人可能為了避免歧視而故意刪除了其他因素。⑩Siehe etwa die Bemühungen in Pennsylvania，ethnisch begründete Risikomodifikationen auszublenden，z.B.in den Richtlinien der Pennsylvania Commission on Sentencing.在算法訓練中，何種因素占據重要地位？這在某種程度上也取決于開發者和委托人的世界觀（和犯罪觀）。?Steinbach（Fn.5），S.34.此外，只有在人工智能模型中明確的獲取和供給這一場合，從情境角度誘發或阻礙犯罪的影響可能才得到考慮，這種獲取和供給只是識別了一般性的促進或阻礙犯罪的情況。基于人類的決定自由，這是否也在個案中起作用是懸而未決的。

此目的也不一定是最好的，最好的是：進步取決于預測是否比現狀起到更好的作用。人工智能的運用可在多個方面考慮已有的預測方法，對此要富于幫助性。眾所周知，人類做出決定時在感知、信息處理、決定的做出方面均遭到某種程度的（未考慮到的）扭曲（“偏差”）。例如，在法學語境下，以下傾向是較為重要的：對符合最初推測的信息進行評估、忽略相互矛盾的信息（“已證實的偏差”），或做出決定時完全忽略法官遭遇的困難和不合法的證據。?Peer/Gamliel，Court Review：The Journal of the American Judges Associaton 49（2013），114.甚至在訴訟期間數量（有時這是不重要的）的大小可能決定性地影響最終量刑的高低?Englich/Mussweiler，Journal of Applied Social Psychology 31（2001），1535.（“錨定效應”）。這只是一些例子說明對人類做出決定的主觀影響。自主學習的人工智能系統沒有這種阻礙，每次做出決定都以基于數據的模型為基礎，不被以下因素影響：最初的推測、不重要的信息、數據的順序、時間、饑餓或其他心理狀態。對此，可能實現一種相當程度的公平，始終不變的循證規則就能由此得到運用。

人工智能的另一個優勢在于最大可能地將數據作為決定的基礎而加以利用，?Steinbach（Fn.5），S.30.這種決定的基礎優于單純的人類或法官的經驗基礎。除了更好的預判能力以外，還利用人工智能系統或（獨立的）數據挖掘（Data Mining），尋找不同因素（犯罪行為的發生、諸如社會環境條件等個人情況）之間在數據上的重要關聯。因此，人工智能可從獨立并同時起作用的幾種原因之間的關聯中識別出犯罪風險，個案中的人類觀察者不一定知道這些風險。

人工智能有希望得到成功運用的基本前提在于足夠大而有效的數據庫，但該數據庫主要只對經常或大量被實施的犯罪而言具備可展示性。①Eisele/B?hm（Fn.9），S.531.為了能對犯罪黑數較高的犯罪進行可靠的預測，同時為了獲得在生活和性格方面容易導致犯罪的、有意義的參數，還要對犯罪黑數進行相應的研究。但對犯罪自動進行預測大體上可能還是一種空想。對于研究現狀較好或可研究性較強的犯罪領域，如商店盜竊、BTM 機犯罪、暴力犯罪，自動預測在可預見的未來完全可能得到運用。

對此，較為重要的是，人工智能系統僅適用于適合進行犯罪側寫（Kriminalit?tsprofil）的情形。否則，人們將相信它是一種精確的方法所導致的結果，在具體情形中其不應得到這種信任，因為算法所依據的數據過少。這也同樣適用于決定的客觀性或中立性。②Steinbach（Fn.5），S.31 ff.

四、法官監督結構

1.可比較的決定情境（Entscheidungssituation）

要考察一下法官對人工智能提供支持的、調查領域的犯罪預測所進行的必要監督，就不得不先在結構上比較一下對鑒定意見的審查。在這種情形下，法官利用連自己都沒有的、他人的權限，以對自己做出的決定確定根據。數據庫和算法可能大體上均已家喻戶曉，但可能與計算機運算一樣，被人們理解甚少，如其自動進行的DNA 分析或類精神分裂型人格違常（schizoide Pers?nlichkeitsst?rung）的診斷。鑒定意見仍然要求理解數據庫和算法，并且不要盲目相信被告知的結論。③BGHSt 8，113（118）.同樣在結構上可以比較的是經常在罰金程序中討論的問題——合規的自動化測量儀。在標準化的測量程序中，只有被告知的結論在正確性上存疑時，才存在詳細的審查義務。④Dazu statt vieler BGH NJW 1993，3081（3083）.當然，人們可能暫時不會將處于發展中的人工智能視為標準化的方法。在可比較的情形中，沒有必要通過征求鑒定意見去詳細地理解標準化速度測量的準確性和以其為基礎的預判。⑤OLG Oldenburg，Beschl.v.19.7.2021-2 Ss（OWi）170/21，Rn.19.人們將鑒定意見交給審查人工智能預測的法官，對此可能產生很廣泛的審查需求。但值得懷疑的是，一方面，是否要對預測結論進行完整的理解？另一方面，力求做出無過錯的決定是否有必要？因為不同于鑒定意見和速度測量，如果法官由于極其懷疑人工智能的正確性而拒絕運用人工智能，他并未兩手空空，因為其仍保留著傳統的預測方法，甚至以職業和生活經驗為基礎通過直覺進行風險評估。將來一個有趣的選擇，同時也是一種可能性——考慮以進修或繼續教育的形式，將基于人工智能的預測變成法官培訓的部分內容。

2.對程序的監督？

這涉及對人工智能所產生結果的審查，那就主要考察一下軟件。但這種審查會遭遇極大的困難。用于進行犯罪預測的人工智能系統的開發主要由私人企業掌握，這些企業的運作以營利為導向。⑥Vgl.für die USA die übersicht von Electronic Privacy Information Center（Fn.16），S.5 ff.雖然美國有個別州表現得較為積極，但大多州運用較為簡單的統計程序，鑒于必要的編程或培訓程序費用較高，積極的州在數量上稀少得令人震驚。就德國而言，由于聯邦結構使然，同樣不可能期待個別或幾個州能以一己之力開發有效的程序用于犯罪預測。在國家司法中運用多種數據處理程序的經驗事實上允許我們期待以下情形：有人在產生疑問時及開發人工智能系統時將求助于商業供貨人。但如果以營利為導向的軟件企業必須將其軟件置于法官的監督之下，這些企業就有權認為其市場地位遭遇危險。這種情形在刑事訴訟中業已發生，所以根據既定的閱卷權，排除以下情形的發生是站不住腳的：有人索取甚至競相索取敏感信息。根據迄今為止所有的經驗可知，開發者有良好的理由拒絕公開以下數據：①Electronic Privacy Information Center（epic.org），AI in the Criminal Justice System.該數據誘發了以下要求——只接受開源算法運行的系統。②Jiang（Fn.37），S.569 f.

但即使運用開源軟件是現實的，也存在以下疑問：這種運用是否將導致可理解性得到極大提升？在自主學習系統的極深層結構中，系統的初始結構（Ausgangsstruktur）可能對以后的個案結果扮演著一個較為微弱的角色，該結果證明是一種持續優化的機器學習過程。因為相較于訓練數據的總量、結構和系統內部由其引起的變化，上述初始狀態對具體的請求進行響應時較少做出決定。是否有人會以合理的費用，通過軟件、神經元及其重要性的公開，理解這種隨著時間的推移持續發生的變化，③So die Forderung von Jiang（Fn.37），S.585.這至少是有疑問的。上述情況的實現無論如何都不是常規的，通常必然同時發生的是不再讓法官進行審查，但這似乎與法官做出決定的要求不一致。

如果人工智能支撐的個案預測對系統之最初編程的依賴，低于對基于數據的訓練之依賴，這些數據的質量則成為焦點。“垃圾進，垃圾出”這一現象，建議堅持運用特定的標準，從理論上講這具備可控制性。因此，這些訓練數據必須在數量上符合被犯罪學證實的事實，不可有歧視傾向。但實際上面臨極大的障礙，因為獲取這些數據完全不是理所當然的。美國的經驗包含以下內容：基于競爭和費用原因，合作和透明度是無法期待的。④Jiang（Fn.37），S.563.但即使在可用的訓練數據這一場合，識別潛在的關鍵性數據也并非不重要。例如，有人識別出此種過度表征（überrepr?sentation）：歧視性的模型（比如，相較于沒有移民背景的人，該模型更多地表現出逮捕具有移民背景的人），被認為以一種較為精確的認識為前提——認識到相關群體的犯罪傾向實際上是怎樣的情形。這些事實是否都得到了充分的研究以及完全被認識清楚，對所有的重要參數而言似乎無論如何都無法得到保證。基于此分析，預先完全隱去這些易受歧視的事實（比如出身）⑤Sympathien für eine solch radikale L?sung scheinen bei Eisele/B?hm（Fn.9），S.530，durch.這一簡單的解決方案帶來以下危險：可能放棄對預測而言重要的提示。特定類型的訓練數據有必要僅在以下范圍得到運用：該數據符合已得到充分研究的事實。如果上述事實在某個環節未得到充分研究，但人工智能查明了其相關性，該環節就必定具備可察知性，對此，該環節受法官監督的預測作用是可以獲得的。不要忘記具體案件的數據在質量上的重要性。只要案件數據在錄入上具有目的性而非被自動獲取，⑥Denkbar w?re natürlich auch ein Scan der Akten bzw.künftig der elektronischen Akten.Allerdings erscheint der dadurch erzielbare Vorteil in Gestalt einer Arbeitserleichterung eher gering，weshalb sich diese zus?tzliche Fehlerquelle ohne gr??eren Aufwand vermeiden lie?e.對錄入錯誤進行監督的標準和方法就仍不屬于人工智能做出的決定這一范疇，法官通過上述標準和方法，在這些事實中選擇他認為重要和不重要的部分。其他的錯誤根源或監督漏洞在此可以很好地得以避免。

3.針對人工智能所產生結果的解釋方案

基于各種原因考察數據庫和軟件對法官監督而言可能毫無用處。令人擔心的是，人工智能越先進并且可用的經驗越多，就越難做出決定。因此，試圖在某種程度上進行剖析并讓決定過程透明可見、易于理解，⑦Auf die damit verbundenen datenschutzrechtlichen Probleme im Lichte der Art.5 Abs.1 lit.a DSGVO（für die betroffene Person nachvollziehbare Verarbeitung）und der dies konkretisierenden Art.13-15 DSGVO soll an dieser Stelle nicht eingegangen werden.應該沒有較可行的方法。要從本質上理解人工智能產生的結果，就需要對信息與計算機科學進行很深入的研究并提出多種解決方案，⑧Einen anschaulichen überblick liefert die Studie von Kraus/Ganschow/Eisentr?ger/Wischmann，Erkl?rbare KI - Anforderungen，Anwendungsf?lle und L?sungen，2021，S.24 ff.但這絕非所有努力的終點。

為了提高人工智能的透明度，可想到的是這樣去編程：向人工智能公開將產生特定結果的、某個案件的重要參數。最近開發的一種名為“SHAP”的模型可解釋性算法甚至在當前極不透明的神經網絡中都讓我們能進行這種觀察。對此，對每次做出決定而言，可能要顯示出何種因素是決定性的。一種因素對結果而言是積極的還是消極的也要受到評判，據此讓人們予以理解。這對人工智能系統的可理解性而言是巨大的進步，并且產生歧視效果的情況由此潛移默化地昭示在外。

為了提升對人工智能及其可接受性的信任，法官可能“玩弄”案件數據，亦即，為了研究人工智能評估在何種程度上發生改變，修改或忽略某個或幾個參數。例如，以此方式可以厘清：法官根據直覺認為案件中較為重要的某方面究竟是否在自動化的預測中扮演著一個角色。人工智能的這種情況明顯被認為是無關緊要的，這無論如何都讓法官發出質問：他通過直覺做出的相反的評估是否可能是錯誤的？或者說，他本應認為，人工智能在此明顯已到達極限并由此不值得贊同。歧視傾向同樣可能通過替換為一個聽上去較為外國化的名稱“非犯罪嫌疑人”（Unverd?chtige）而暴露無遺。①So sollen Algorithmen in der Versicherungsbranche bei einer bestimmten nationalen Herkunft zu Angeboten mit h?heren Versicherungspr?mien neigen，vgl.die Website der Eidgen?ssischen Kommission gegen Rassismus.該可能性至少為初任法官培訓提供了充滿趣味的潛力。

一種容許進行對比試驗的軟件設計無疑具備可建構性，在諸多解決方案中也是存在的。②Zahlreiche Modelle，die eine KI zu erkl?ren suchen，sind allerdings auf KI-Systeme zur Bild-（oder Gesichts-）Erkennung ausgerichtet（wie LRP［Layer-Wise Relevance Propagation］）oder für Nutzer nicht anwendungssicher（wie DeepLIFT［Deep Learning Important FeaTures］oder Activation Maximization）und scheiden daher für die hier in Rede stehenden Zwecke aus.該軟件設計以SHAP 運用的原則為根據，③SHAP=SHapley Additive exPlanations.根據該原則，被單獨選擇的因素對人工智能系統所產生具體結果的影響得到確定。對此，人工智能先是在考慮所有因素的情形下做出某種預測，隨后在隱去個別因素的情形下完成了其他的預測。以此方式，存在于這些結果之間一種存在疑問的區別可能呈現出來，某種因素的具體影響可能由此被識別出來，只要不是只有少數幾個因素得到審查，缺點就在于費用較高。④Kraus/Ganschow/Eisentr?ger/Wischmann（Fn.44），S.27 f.m.w.N.一種其他的解決方案提供了反事實解釋（counterfactual explanations）。這涉及一個概念，對一種具體的分類結果（比如一個糟糕的犯罪預測）而言，此概念試圖在輸入值中識別出一種盡可能小的變化，該變化將導致不同的分類。該軟件以此方式顯示出了這個敏感點。⑤Kraus/Ganschow/Eisentr?ger/Wischmann（Fn.44），S.26 f.m.w.N.定義這些有待審查的因素本身可能是有助益的，卻是不被允許的。為了通過這些變化查明哪些輸入參數對分類結果影響最大，靈敏度分析作為第3 種可想到的方法系統性地改變了各個輸入值。⑥Kraus/Ganschow/Eisentr?ger/Wischmann（Fn.44），S.31 m.w.N.該方法的目的當然是識別重要的因素，而非審查孤立來看可能顯得不太重要的各個參數。

4.法官監督的執行力

基于既定的解釋模型和人工智能技術的進步，認為對信息與計算機科學領域詳細知識欠缺的使用者而言，將來相對更容易有機會審查各個案件參數的影響，不應該是一種不切實際的空想。運用人工智能系統完成預測以及具有相應的監督可能性還不夠。在人類法官做出決定以及人工智能對做出決定提出建議的場合，要思考一下：這兩種做出決定的系統并非彼此獨立運行的。一方面，尤其是當出發點為人工智能預測，原則上具備有效性和精確性，并且法官認識到這一點時，究竟是否要進行一種符合法官角色的、中立的、不偏不倚的監督，是不明確的。⑦?hnlich für den Einsatz im Rahmen medizinischer Diagnose und Behandlung Lohmann/Sch?mig，in：Beck/Kusche/Valerius（Fn.1），S.345（355）.另一方面，法官是一個可能不符合信息技術使用者常規類型的群體。法官習慣于獨立做出決定，基于其職業上的社會化，他們可能比其他職業群體更不信任這種評估，如何理解法官要做出決定的一個事實，這具有優先性，但沒有得到詳細的解釋。這種相反的趨勢在何種程度上實際發揮作用，尚需要解釋。根據這兩種可想到的態度中某種態度的出現或占據上風，要么產生一種未加批判的信息技術依賴性，該依賴性容許通過技術根據實際情況做出法官保留的決定，要么忽視高價值的信息而損害所做出決定的質量。為了利用人工智能的優點而非一開始就遭受其影響，二者都需要避免。

通過許內曼（Schünemann）的相關著作可知，①Schünemann，StV 2000，159=ders.，Strafprozessrecht und Strafprozessreform，2020，S.239.法官做出決定時并未不偏不倚，而是可能具有閱卷（Aktenkenntnis）、當事人陳述和利害關系等特征。比如，許內曼研究法官在審判中依賴于閱卷這一問題行為（Frageverhalten）并發現：預先信息（Vorinformation）已導致回應詢問的準備不足。②Schünemann，StV 2000，159（161 f.）.因此，可能無法排除的是，一種形式為人工智能犯罪預測的預先信息也會導致法官的舉止發生改變。③Staffler/Jany，ZIS 2020，164（175）.只要在適當的、批判性思考的范圍內考慮人工智能提出的建議，這本身不是有害的。此外，其他欠缺實證檢驗的想法當然是純理論性的。

另外，法官作為人工智能使用者一般需要信任人工智能對做出適當決定提出建議的能力。否則，人工智能就無法有效地得到運用。人工智能已被察知的可信任性不僅包含以正確建議為形式的執行力方面，這讓使用者能信任該系統（在理性上完全是可理解的）。④Solberg et al.，Group&Organization Management 2022，Bd.47，Heft 2，187.為了評估系統的有效性，以過程為導向的方面（如人工智能的可運用性和上文已討論的工作過程的透明性）作為其他要件也扮演著一個重要的角色。第三個要件是對人工智能總體目標、基本價值和編程導向的信任。除了人工智能系統這種受到評估的可信任性以外，法官的信任也被關于技術的信任傾向（Vertrauensneigung）決定，該傾向的程度無論在一般性（在社會整體及其法官群組中）還是個別性上都是可變的，并且通常依賴于人工智能或數字化的經驗（技術信任）。人工智能的運用潛力隨著信任的程度得到提升，因為使用者樂意運用人工智能，其優點由此得到利用。⑤Mee?en/Thielsch/Hertel，Zeitschrift für Arbeits-und Organisationspsychologie 2020，Bd.64，Heft 1，6.對此，信任并不完全是正面的，因為盲目的信任可能導致不適當地運用人工智能，這可能又潛移默化地導致做出不適當的決定。這與“算法厭惡”這一想象相反，因為相較于人類犯錯，人們很少原諒系統犯錯。⑥Dietvorst/Simmons/Massey，Journal of Experimental Psychology：General 2015，Bd.144，Heft 1，114.

需要考察的是，對人工智能所具有能力的信任究竟如何在特定的法官這一目標群體中產生？何種其他的因素（其中部分是無關因素）影響了法官對人工智能做出決定的可接受性？可想到的大概是較高的工作量、沒時間親自做出合理的決定或個人在自動決定過程中由于技術恐懼或擔心而產生的不信任（這是不必要的）。然后要考察的是，信任與否以及如何在某種程度上受到限制且不遭到破壞，以及如何被降低到一種“健康”的程度？回答上述兩個問題也需要實證研究的幫助。這取決于法官對人工智能給予何種信任，亦即，在可變的初始條件下涉及對具體得到運用的人工智能的認識。因為在這種情況下，要對所有已知的訓練數據和經驗數據、可能未知的個案事實具有的影響形成完整的認識，是無法達到理想狀態的。需要說明的是，在運用人工智能的場合，信任的最低限度條件是什么？此外，盡管明顯相反的（重要的、不重要的或重要性無法判斷）個案事實引人注目，知道一種既定的信任何時減弱，或者知道法官還能對人工智能信任多久是較為重要的。上述問題是跨學科尤其是心理學的最佳研究對象。

在運用人工智能系統的場合，對使用者的信任所進行的初始研究一般是存在的，⑦H?ddinghaus/Sondern/Hertel，Computers in Human Behavior 116（2021），106635 m.w.N.但并不涉及法官這一特定群體。此外，該初始研究基于其獨立性而具有一種特殊性：在其他機構（經濟、行政）中沒有眾多的決定者。另外，法官遵守嚴格的決定過程，該過程預先規定了其無法任意處置的法律規范。其特殊性并不在于追求更上位的利益（比如經濟成果或政治目的），而僅在于追求以下最終目的：根據決定過程這一標準所做出決定的正當性。這些特殊性不容許未經審查就作為初步證據（prima facie）在其他職業群體的場合接受某些調查結果。更確切地說，似乎有必要在法官群體中獲取關于信任產生和信任限度的實證數據。

五、結論

人工智能的運用在刑事訴訟中可能長期導致迅捷地做出長遠來看較為經濟的、高質量的決定。在此，就像完成犯罪預測那樣，個案中的許多因素以一種在經驗上可理解的方式決定了結果。然而，人工智能的可運用性暫時還未充分得到開發，以符合在內容上待定的規范性要求。只要法官能理解某個決定并讓該決定實質上成為自己做出的決定，則法官做出關于預測的決定可能基本上都以人工智能預測為支撐。對此，軟件必須提供機會讓法官至少在原則上理解具體的、對預測的決定而言特定案件參數的重要性。同時，人工智能的運用和其他的相關框架條件是這樣來設計的——法官在（通常能進行正確評估的）人工智能的運用中可能產生一種合理的信任度，而不喪失回應批評性詢問的能力和準備。如何塑造這種工作環境，仍需要深入的跨學科實證研究。應建議司法行政管理部門和立法者保持克制，直至這種工作環境形成。（王德政①王德政，中南財經政法大學刑事司法學院博士后研究人員。譯校）