行政處罰中人工智能的應用及其邊界考量

韓軼 張婷

摘? ? ? 要：隨著時代的發展，人工智能技術已被廣泛應用于行政處罰立案、調查取證、決定、執行環節，對于提升行政處罰效率、保障行政處罰公正性、增強行政處罰精準度起到了積極作用。實踐中，人工智能的應用尚存在數據收集出現瑕疵、程序性要求易受減損、決策可接受度或將下降、責任承擔主體和歸責原則難以確定等風險。對此，需要審慎推進人工智能的應用，明確其在行政處罰中的邊界。

關? 鍵? 詞：算法;人工智能;行政處罰;技術功用

中圖分類號：D922.11? ? ? ? 文獻標識碼：A? ? ? ?文章編號：1007-8207（2022）05-0077-08

收稿日期：2022-02-04

作者簡介：韓軼，河海大學法學院副教授，法學博士，研究方向為憲法學;張婷，河海大學法學院碩士研究生，研究方向為行政法學。

主流觀點認為，人工智能是指能夠在繁雜環境中進行感知、學習、推理、溝通等智能化行為的機器。[1]人工智能的出現和發展，正深刻改變著經濟關系、社會關系、政治關系以及法律結構與形態，將人類社會帶入一個嶄新的智能紀元。作為人類智慧的結晶，人工智能展現出鮮明的賦能特征，可以顯著提升行政處罰效能，但是也誘發了一些潛在風險，技術功用的有限性逐步凸顯。因此，面對人工智能有限的技術功用，行政處罰領域如何審慎推進新興技術的應用成為亟待解決的現實問題。

一、行政處罰中人工智能的興起

（一）應用空間梳理

行政處罰程序包括一般程序和簡易程序。以一般程序為例，大致分為立案、調查取證、告知、作出處罰決定、送達與執行等環節，而人工智能的應用也主要包括以下幾個方面：

一是立案階段。人工智能被廣泛用于信息的收集與處理，通過人工智能可以發現案件的線索來源，分析解讀行政相對人的違法行為、評估研判其違法情節，啟動行政處罰的立案程序。如江西省鷹潭市市場監督管理局通過智慧管理平臺實時監控后廚作業區域，抓拍不規范行為并在平臺預警，其后臺指揮中心便能及時發現和派出有關人員前往現場檢查，收集立案線索。[2]二是調查取證階段。以道路交通中的違章行為為例，交通管理部門通過對車輛檢測、光電成像、自動控制、網絡通信、計算機多種技術，對機動車闖紅燈、違章停靠、逆行、超速等違章行為進行全天候監控，[3]將違法事實以抓拍、錄像等形式加以固定并作為行政處罰的證據。三是決定階段。如南京市公安局推出行政案件自動量罰系統，對于需要行政處罰的案件，執法民警可以登錄人工智能系統輸入案情，再選擇界面上的從輕、從重、減輕等備選情節，該系統將會自動生成行政處罰結果。[4]這種舉措排除了民警的警齡、經驗、性格等因素對處罰決定造成的影響，規范了執法人員自由裁量權的行使，有效遏制了差別懸殊的判罰現象。四是執行階段。目前，多數城市對于交通違法人員進行處罰時都會運用人臉識別技術并輔以電子眼系統，將行為人的照片長達一周地曝光在道路一旁屏幕上以表懲罰。雖然這種同步曝光行為沒有被列為行政處罰，但是其法律效果近似于已被明確為行政處罰的“通報批評”，也會對相對人的聲譽產生一定的影響，可以在事實上被認定為行政處罰。[5]同時，行政部門還會利用人工智能技術實時監督受處罰的行政相對人的履行情況，確保行政處罰的有效執行。可見，將人工智能應用于行政處罰已不再局限于某一單一場景或者狹窄范圍，而逐漸展露出范圍全面性的時代特征。[6]

（二）技術功用解構

首先，人工智能的應用能夠提升行政處罰效率。傳統的行政處罰場景中，行政機關受制于有限的執法資源和“運動式”的處罰模式，往往難以全面、高效地發現違法行為，但是借助于人工智能，行政處罰可以依托機器內置算法的嵌入優勢①，以較小的執法成本實現大規模的持續性監管，[7]及時且全方位地發現違法事實，提升行政處罰的效率與廣度。其次，人工智能的應用有助于保障行政處罰的公正性。行政處罰活動具有一定的自由裁量特征，裁量本身烙有強烈的主觀色彩，容易受到個人喜惡、價值觀念等主觀因素的影響，如“關系罰”“人情罰”。[8]而人工智能以“技術中立”為原則，能夠將直覺、偏見等非理性因素排除在決策過程之外，[9]避免裁量恣意，增強處罰決定客觀公正的合法化外觀。再次，人工智能的應用有利于增強行政處罰的精準度。一方面，人工智能技術的實質是建立一種基于海量數據挖掘的認知范式，其挖掘和預測的結果相對準確;另一方面，通過整合散見于各個單行法規、條例中的處罰規定，可以建立起清晰的法律規則圖譜，補強行政處罰決定的合法、合理程度。

二、行政處罰中人工智能的技術功用存有限度

（一）外在表征：人工智能介入行政處罰的潛在風險

⒈數據收集出現瑕疵。一是數據收集錯誤。一方面，人工智能作為一項技術，其潛在的漏洞可能會使數據收集出現錯誤，干擾后續對數據的分析與判斷;另一方面，人工智能設備的老化、磨損等原因，包括所應用的設備未依法檢定、逾期未檢定或檢定不合格，也會導致收集的數據不可靠，干擾處罰決定的準確性，如“方某訴金華市公安局交通警察支隊公安行政管理、道路交通管理二審案”中的上訴人認為，交通技術監控設備如果不符合法律規定，就等于一直侵犯公眾的合法經濟利益和安全利益①。從外部條件來看，人工智能也會受到天氣、人為破壞等外界因素的影響，如應用智能抓拍系統捕獲交通違法行為時，因光線、視野的影響，出現較為普遍的“誤拍”情形。[10]二是數據碎片化或不相關。在信息篩選方面，一些不相關或者碎片化的數據可能被一并收集，無法鏡像式地模擬出完整的現實，如應用智能抓拍系統捕獲交通違法行為時，如果沒有全面而完整地記錄全部過程，容易根據碎片化的證據作出錯誤的處罰決定。

⒉程序性要求易受減損。一是人工智能的應用容易滋生技術依賴，壓縮人工審核的空間。《中華人民共和國行政處罰法》（以下簡稱《行政處罰法》）第四十一條規定：“電子技術監控設備記錄違法事實應當真實、清晰、完整、準確。行政機關應當審核記錄內容是否符合要求;未經審核或者經審核不符合要求的，不得作為行政處罰的證據。”然而，行政機關往往傾向于信賴技術系統的記錄，在未經人工審核的情況下直接依據這一記錄作出處罰決定，如由于疏于審核抓拍系統識別錯誤后生成的違章信息，常州市發生多起“張冠李戴”的交通違章處罰行為。[11]二是人工智能應用過程中的信息不對稱和瞬時性特征極易架空行政相對人陳述、申辯等程序性權利。根據《中華人民共和國行政訴訟法》（以下簡稱《行政訴訟法》）第七十條和第七十四條有關法院撤銷判決和確認違法判決的規定②，陳述、申辯等程序性權利是公共行政的合法性來源之一，也是公眾自主的權利映射和實現載體，通過行使這些程序性權利，相對人得以達成對公共事務的政治參與和自我管理。一方面，信息不對稱擠壓溝通空間。人工智能的算法代碼被技術的設計者和使用者所壟斷，而披露規則的缺位和信息能力的限囿導致行政相對人處于弱勢地位。這種不均衡的信息配置格局致使相對人難以獲悉相關的技術規則，容易喪失溝通和辯駁的機會;另一方面，人工智能運行的瞬時性架空程序性權利。隨著智能化程度的提高，行政處罰全過程將在人工智能內部瞬間完成，這種瞬時性能夠縮短甚至跳過人類反應的時間，使相對人無法在決策作出之前及時行使程序性權利，只能被動接受算法決策結果。目前，人工智能在行政處罰中的應用仍是階段性和輔助性的，程序性的要求、步驟暫未被機器自動吞噬，但是信息通知的不及時以及行政機關對機器執法正確性的預設也容易造成相對人程序性權利的缺失，如寧波市一抓拍系統誤將某輛公交車上董某珠的照片識別為其本人，判定其存在闖紅燈行為，直接同步曝光違法信息，相對人的程序性權利被棄之一隅。根據《行政處罰法》第四十一條規定，行政行為不能因采用電子證據而限制或者變相限制當事人的陳述權、申辯權，但是對于如何防止這種限制的發生仍有待研究。[12]

⒊決策可接受度或將下降。實質上，行政處罰是通過制裁手段矯正違法行為所致的秩序失范，其兼具制裁和保障雙重功能。[13]在實體層面，合法且合理的決策是提高處罰決定可接受度的根本保證;在程序層面，處罰理由的充分說明是提高處罰決定可接受度的必然要求。然而，將人工智能應用于行政處罰決定階段時，決策的可接受度在實體和程序方面均面臨著挑戰。

在實體上，決策的合理性存在不足。為消弭法律概念的不確定性、增強規則適用的彈性，法律賦予了行政機關一定的自由裁量權，但是這種自由裁量權也存在濫用的風險。因此，必須對自由裁量權加以約束，這也是將人工智能應用于處罰決定階段的初衷。誠然，借助機器進行裁量，可以將執法人員天然攜帶的主觀因素抽離出去，通過機器學習生成一類案件普遍適用的決策邏輯，但與此同時，提高規則適用靈活度的人性化因素和社會整體性架構對行政權的關聯度要求也被一并剔除，這意味著決策的實質正義和可接受程度不免受到影響。一方面，算法決策的依據是機器學習下的普遍性規則，個案的特殊性不再被納入考量范圍;另一方面，一項行政決定的作出需要進行必要的利益衡量和價值判斷，這一過程所需參照的道德觀念、公共管理政策動向等關聯性因素難以通過數據化形式充分表征，使機器失去“軟性”衡量、覺察能力，在對復雜案件進行裁量時就可能導致決策的合理性欠佳。

在程序上，說明理由義務難以履行。根據正當程序原則，在作出行政處罰這種不利于相對人利益的決定時，除非有法定保密事由，行政機關均應當說明理由。[14]但是將人工智能應用于處罰決定時，這一義務可能遭到以下原因的阻隔：首先，算法自身的“黑箱性”，即算法只能在輸入和輸出這兩個過程被可視化，其信息處理過程不能被識別和理解。[15]基于這一難題，行政機關常常主張算法不具有可解釋性，不論是行政機關還是算法模型的設計者都無法釋明決策的生成過程。其次，法定保密事由成為行政機關拒絕說明理由的“避風港”，行政機關往往聲稱算法涉及商業秘密、國家秘密，造成客觀上不能披露。再次，公眾信息素養缺失。因相對人不具備專業性的解碼能力，算法決策的正當性證成面臨困境，弱化了行政處罰的教育與利導效果。

⒋責任承擔主體和歸責原則難以確定。傳統行政處罰中，法律擬制的主體結構包括行政組織體和行政公務人員。而在人工智能嵌入行政處罰的場景下，其主體結構包含作為抽象架構的行政組織體、作為實際執行者的人工智能系統、作為具體個人的系統研發者以及作為市場主體的系統生產者和銷售者，呈現“科技滲透”和“公私融合”的樣態，導致傳統基于公務人員職務行為設計的問責體系難以適用。同時，傳統的歸責原則以人類行為和社會實踐為基礎，其原有的法律邏輯與人工智能不相吻合。一方面，作為人工智能技術的核心，算法具有“黑箱性”，因內部結構不可被拆解，難以對其運行展開準確的過錯判斷;另一方面，由于人工智能自身的原因導致處罰錯誤、侵犯行政相對人權益時，傳統法律中的因果關系判斷方式可能遭遇窘境：若將這一侵權行為歸咎于人工智能，似乎難以對機器進行問責;若將人工智能自主學習后造成的錯誤歸咎于設計者或使用者，似乎因欠缺直接的因果關聯而不具說服力。[16]

（二） 內在成因：行政處罰的復雜性與人工智能的單一性存在張力

⒈技術之維：行政公開與算法黑箱難求共生。行政公開被視為建設法治政府不可或缺的手段，要求行政處罰必須公開地、在毫無疑問能被相對人看見的情況下實施。[17]與之相異，算法常常被賦予封閉性、“黑箱性”的特征，算法的運行存在著人類無法窺見的隱藏層，這意味著輸入的數據和輸出的結果已知明確，但是算法內部的推理過程卻無法洞悉，算法黑箱帶來的直接后果就是不透明和不公開。一方面，算法實現了無人力干預下的信息提取、數據訓練和自主學習，決策的運行流程居于黑箱閉環狀態;另一方面，算法的”黑箱性”、商業性和專業性造成了客觀上的公開不能，算法決策陷入不可知論的泥潭之中。隨著人工智能技術的應用，算法黑箱也猶如一把達摩克利斯之劍懸于處罰決定上空，與行政的公開性要求相背離。

⒉實踐之維：人本邏輯與技術應用難達平衡。“以人為本”的邏輯理念是公共行政的內在意蘊，要求由具體的人來實踐公共行政的目標和效果。實踐中，行政處罰的方式應突出人的主體性地位和主導性作用，但是因人工智能的介入極易導致“人本”邏輯被忽視，行政處罰的技術化特征容易演變成一種技術依賴傾向。

⒊價值之維：價值理性與工具理性難尋協調。工具理性是一種單向度的思維范式，強調通過某種工具和手段實現主體需求以達成實踐目的，效率最大化為其追逐目標。價值理性則始終以價值觀念為行為準則，并不在意行為的成本和可預見的后果，其追求真與善的統一。[18]一項處罰決定的作出需要兼顧工具理性與價值理性的雙重訴求，雖然秉承工具理性范式的人工智能一定程度上可匡正主觀因素給處罰決定制造的公正性偏頗，但是若過度夸大工具理性的作用，忽視或者放棄對價值理性的追求，則可能催生決策的反人文性，而對決策結果的忠實遵循將導致正義的“流產”和政府公信力的“削弱”。

三、 人工智能介入行政處罰的邊界設計

（一） 場域邊界：明確人工智能的應用范圍

德國《行政程序法》第35a條對全自動行政行為的適用作出限定，規定只有在具體法律、法規命令和規章明確規定時才可被適用，即所謂的“法律保留”，嚴格排除了存在裁量和判斷情形下的適用。[19]通常認為，全自動行政行為是指行政機關依照法定職權，借助電子技術和設備由機器全程完成行政程序，作出個案規范性的且有直接外部效力的單方行為。[20]在我國，行政處罰中人工智能的應用尚未達到這一階段，但是德國《行政程序法》的規定對于明確我國人工智能在行政處罰中的應用場景仍具借鑒意義。

在法律保留方面，人工智能在行政處罰中的適用范圍也應有一定保留，需要以列舉或概括方式在立法中加以明確，建立適當的可介入清單與不可介入清單，如對于類似證據收集等輔助性、技術性事項，違法事實清楚且法律依據明確、可以當場作出行政處罰，易于數據化、類別化的事項[21]以及其他不涉及相對人重大利益的簡單事項，可以允許人工智能的應用;而對于情況較為復雜或者違法情節嚴重的行政處罰案件，應嚴格禁止人工智能的應用。

在裁量方面，若同德國《行政程序法》一樣，全面排除人工智能在裁量場景中的適用未免過于謹慎保守，可能會限制人工智能的發展前景，應當允許人工智能的應用。[22]如南京市環保局推出的“環保行政處罰自由裁量輔助決策系統”，[23]通過算法決策和人力裁量之間的相互佐證，在行政效率和個案正義方面實現了雙贏，這種應用顯然是值得肯定的。

（二）主體邊界：強調“人主機輔”的基本理念

隨著人工智能在行政處罰中的應用，人們開始對人工智能是否將完全替代行政機關進行處罰產生疑慮。有學者認為，人類思考的過程最終可以用算力愈益強大的計算機來模擬和替代，[24]社會的組織機制包括法律最終也可以由機器來操作和管理，[25]這種看法有失偏頗。因為行政處罰決定往往蘊含著利益衡量和價值判斷，需要在綜合權衡各種因素的情況下靈活作出，而“機器總是帶有僵硬死板的潛在可能”，[26]其難以實現復雜個案的最優化裁量。因此，人工智能與行政機關在行政處罰語境中不是取代與被取代的零和關系，應是“人主機輔”的合作共贏。

所謂“人主機輔”，意指始終堅持行政機關的主體性在場，人工智能的應用只能是輔助性的。具言之，人工智能可介入的范圍內，無論將其應用于哪一事項、哪一階段，行政機關都應履行審查義務，人工智能至多起到預處理作用，尤為關鍵的是行政處罰的最終決策權必須歸于行政機關，處罰決定權的不可讓渡應是人工智能應用于行政處罰的首要原則。

（三）行為邊界：加強對人工智能的技術管控

⒈保障系統質量。“技術應用本身便可能帶來安全與不安全兩種后果傾向，這取決于技術本身的風險屬性。”[27]為此，行政機關有必要強化系統內部的管理，核查數據、算法等因素的質量，保證人工智能系統的安全性和魯棒性。具言之，保障系統質量是以內部管控的方式對抗技術誘發的未知性風險，主要包括以下三個方面：一是設置行政機關內部管理的規范準則，為識別和處理人工智能系統中存在的違規設置構建總體框架;[28]二是查看算法中描述變量、相關性和結論的源代碼，委托專業人員測試算法設計是否有違法律倫理、是否準確寫入相關規則、是否遵循規范標準;三是按照要求設置人工智能系統、定期核查系統的運行狀況、根據技術標準及時更新系統。

⒉增強算法透明度。一是公開算法，這是實現算法透明的前提。就公開內容而言，應公開有意義和有特定指向的算法決策體系，而非初始性的技術源代碼和算法架構。[29]就公開范圍而言，應建構一種“適度透明”的標準，而不宜完全公開算法。這是因為算法涉及多方利益，為了平衡公益與私益，須對算法披露的范圍予以限制。二是說明理由，這是實現算法透明的核心。說明的內容主要包括人工智能系統的運行過程、輸出結果、算法決策的推理過程和因素權重以及算法決策對相對人權利的影響程度;說明的方式應考慮技術的復雜性，倘若對每一處技術細節都仔細說明，顯然過程冗長，因此可將事前解釋轉為事后監督，即在相對人對處罰決定沒有異議時，行政機關可以不主動說明，但是需要保留解釋的權力，相對人存在異議時，再對個案加以事后監督。[30]

（四）制度邊界：保障相對人的救濟權利

隨著行政機關對人工智能的依賴程度攀深，算法決策可能實質性地替代人性化決策，直接影響相對人的利益。一旦技術開始對人的利益產生直接影響和控制，其往往會失去純粹性而具有權力屬性。[31]為此，有必要通過程序設計賦予行政相對人一定的權利，避免受到技術權力方面的侵害。一是應充分保障行政相對人的知情權和選擇權;二是保證相對人陳述申辯、獲得解釋和要求聽證的權利，賦予相對人對于重大事項隨時要求人工介入的權利;[32]三是若相對人對依據算法決策作出的處罰決定不服，行政復議只能由人工進行。

①嵌入優勢是指算法結構性嵌入社會權力運行系統，借助經濟與政治權力實時干預人的行為，從而對社會進行無孔不入的構建、干預、引導和改造。

①參見浙江省金華市中級人民法院二審行政判決書（2020）浙07行終字195號。

②《行政訴訟法》第七十條規定：“行政行為有下列情形之一的，人民法院判決撤銷或者部分撤銷，并可以判決被告重新作出行政行為：（一）主要證據不足的;（二）適用法律、法規錯誤的;（三）違反法定程序的;（四）超越職權的;（五）濫用職權的;（六）明顯不當的。”《行政訴訟法》第七十四條規定：“行政行為有下列情形之一的，人民法院判決確認違法，但不撤銷行政行為：（一）行政行為依法應當撤銷，但撤銷會給國家利益、社會公共利益造成重大損害的;（二）行政行為程序輕微違法，但對原告權利不產生實際影響的。”

【參考文獻】

[1]鄭曦.人工智能技術在司法裁判中的運用及規制[J].中外法學，2020，（3）：674.

[2]魏瓊，徐俊暉.人工智能在行政處罰中的應用及法律規制[J].時代法學，2021，（1）：15.

[3]胡敏潔.自動化行政的法律控制[J].行政法學研究，2019，（2）：58.

[4]黎慈.人工智能嵌入行政執法的法理分析：現狀、風險與應對[J].湖北社會科學，2020，（7）：135.

[5][30]謝明睿，余凌云.技術賦能交警非現場執法對行政程序的挑戰及完善[J].法學雜志，2021，（42）：52-58.

[6]王祿生.司法大數據與人工智能技術應用的風險及倫理規制[J].法商研究，2019，（2）：103.

[7]張凌寒.算法權力的興起、異化及法律規制[J].法商研究，2019，（4）：66.

[8]李立.人機共同規范行政處罰裁量權[N].法制日報，2010-08-13（006）.

[9]張恩典.人工智能算法決策對行政法治的挑戰及制度因應[J].行政法學研究，2020，（4）：37.

[10]朱奕帆.人工智能參與行政治理的法律風險控制研究[D].大連：東北財經大學碩士學位論文，2019：27.

[11][28]雷剛，喻少如.算法正當程序：算法決策程序對正當程序的沖擊與回應[J].電子政務，2021，（12）：19-30.

[12]胡建淼.行政處罰法修訂帶來行政執法的新考驗[N].學習時報，2021-03-03（002）.

[13]張春林.主觀過錯在行政處罰中的地位研究——兼論行政處罰可接受性[J].河北法學，2018，（5）：98.

[14]姜明安.行政法與行政訴訟法（第2版）[M].北京：北京大學出版社，2005：73.

[15]呂俊延.人工智能時代的政府治理困境[N].中國社會科學報，2019-05-29（007）.

[16]賈開，蔣余浩.人工智能治理的三個基本問題：技術邏輯、風險挑戰與公共政策選擇[J].中國行政管理，2017，（10）：42.

[17]（英）彼得·斯坦，約翰·香德.西方社會的法律價值[M].王獻平譯.北京：中國人民公安大學出版社，1990：97.

[18]陳思.算法治理：智能社會技術異化的風險及應對[J].湖北大學學報（哲學社會科學版），2020，（1）：161.

[19]馬顏昕.自動化行政的分級與法律控制變革[J].行政法學研究，2019，（1）：89.

[20]章劍生.現代行政法總論[M].北京：法律出版社，2014：136.

[21]陳飏，裴亞楠.論自動化行政中算法決策應用風險及其防范路徑[J].西南民族大學學報（人文社會科學版），2021，（1）：79.

[22][32]查云飛.人工智能時代全自動具體行政行為研究[J].比較法研究，2018，（5）：175-177.

[23]查云飛.行政裁量自動化的學理基礎與功能定位[J].行政法學研究，2021，（3）：116.

[24]鄭戈.算法的法律與法律的算法[J].中國法律評論，2018，（2）：76.

[25]鄭戈.人工智能與法律的未來[J].探索與爭鳴，2017，（10）：78.

[26]王正鑫.機器何以裁量：行政處罰裁量自動化及其風險控制[J].行政法學研究，2022，（2）：8.

[27]張旺，劉戟鋒.技術倫理學視域下的網絡安全規范路徑——以人工智能技術為例[J].湖湘論壇，2018，（2）：131.

[29]丁曉東.論算法的法律規制[J].中國社會科學，2020，（12）：153.

[31]梅夏英，楊曉娜.自媒體平臺網絡權力的形成及規范路徑——基于對網絡言論自由影響的分析[J].河北法學，2017，（1）：40.

The Application and Boundary Consideration of Artificial Intelligence

in Administrative Punishment

Han Yi，Zhang Ting

Abstract：With the development of The Times，artificial intelligence technology has been widely used in administrative punishment filing，investigation and evidence collection，decision and execution，which has played a positive role in improving the efficiency of administrative punishment，ensuring the fairness of administrative punishment and enhancing the accuracy of administrative punishment.In practice，there are still some risks in the application of artificial intelligence，such as flaws in data collection，vulnerable to derogation of procedural requirements，declining acceptability of decisions，and difficulty in determining the subject of responsibility and the principle of attribution.Therefore，it is necessary to promote the application of artificial intelligence prudently and clarify its boundary in administrative punishment.

Key words：algorithm;artificial intelligence;administrative punishment;technology function