人工智能在行政處罰中的應用及法律規制*

魏 瓊,徐俊暉

(華東政法大學法律學院，上海 200042)

人工智能(1)人工智能(Artificial Intelligence)，簡稱AI，是對人的思維的信息過程的模擬。據人工智能是否具有自我思考能力并能否付諸于行動所作的類型劃分，可以把人工智能分為弱人工智能、強人工智能和超人工智能。其中，弱人工智能(Artificial Narrow Intelligence，簡稱 ANI)不真正擁有智能，也不會有自我意識，如 Alpha Go圍棋程序；強人工智能(Artificial General Intelligence，簡稱AGI)，是類似人類級別的人工智能，指在各方面都能和人類比肩的人工智能；超人工智能(Artificial Superintelligence，簡稱 ASI)則不僅具備人類的某些能力，而且還擁有自我意識和情感等，被認為具有超越人類的能力，即在所有領域及所有認知功能都超越人類，迄今，這種人工智能尚未到來，故在此暫不做探討。，究其本質而言，是一套由算法和數據結構組成的程序。目前人工智能技術正處于弱人工智能與強人工智能并用的階段，它作為一種技術賦能在我國行政處罰執法過程中得到了廣泛而深入的應用。諸如智能監控、人臉識別、智能輔助辦案等網絡化、數字化及智能化技術，在行政處罰執法中的運用已經相當普及。行政處罰權與這些新興技術之間實現了全新的結合，行政機關的行政管理能力和法律執行力因此得到了強化，大大加快了我國智慧處罰的進程，為此，對應用于行政處罰執法中的人工智能進行法律規制，也被提上立法議程。

日前，公布的《中華人民共和國行政處罰法(修訂草案二次審議稿)》(以下簡稱《行政處罰法(修訂草案二次審議稿)》)正處于征求意見階段。其中第39條(2)2020年10月21日公布的《中華人民共和國行政處罰法(修訂草案二次審議稿)》第39條：行政機關依照法律、行政法規規定利用電子技術監控設備收集、固定違法事實的，應當經過法制和技術審核，確保電子技術監控設備設置合理、標準合格、標志明顯，設置地點應當向社會公布。電子技術監控設備記錄違法事實應當真實、清晰、完整、準確。行政機關應當對記錄內容進行審核，未經審核的，不得作為證據。行政機關應當及時通知當事人違法事實,并采取適當措施,方便當事人查詢、陳述和申辯。系屬新增條款，對行政機關利用電子技術監控設備作出了明確規定。電子技術監控設備在行政處罰執法中的主要用途，系作為證據獲取的工具之一，用于對相對人違法事實的收集與固定，它尚屬于弱人工智能技術的一種運用。這一修訂條款表明了電子技術監控設備的合法、合理應用對我國行政處罰執法活動的意義十分重大。但我們認為，此一條款還不足以解決人工智能在行政處罰執法中的法律適用問題，對于人工智能在行政處罰中的應用宜予以更為明確、全面的規范，以引領行政處罰執法的智能化，充分服務于我國法治政府與數字政府建設的大局。

鑒于此，本文基于人工智能與行政處罰的可交互性，擬全面考察人工智能在行政處罰執法活動中的應用及意義，提出對應用于行政處罰中的人工智能進行法律規制的若干設想，以確保其按照正確而科學的方向發展，助推依法行政與人工智能的雙向融合，實現行政法治的現代化。

一、人工智能與行政處罰的可交互性

(一)人工智能在行政處罰中應用的可行性

隨著計算機、互聯網等技術的不斷革新，數據、算法和算力業已成為新興的發展動力和技術支撐，迅速地滲透到公權力運行的各個領域，其中就包括行政管理領域。在行政處罰案件中人工智能從海量的信息收集與分析、圖像的感知，到內容的深度學習與決策等，無疑是對行政處罰這一執法過程的模擬，是處罰智能化的最直觀表現。而將人工智能應用到行政處罰中的可行性主要體現在以下三點：

首先，就行政處罰的行政行為屬性而言，作為最常見也是與民眾利益切實相關的行政管理活動，將人工智能應用到行政處罰中符合信息化時代建設法治政府的要求，是實現行政管理智能化的重要舉措。在行政處罰中應用人工智能將推動國家治理從智慧治理走向智能治理，提升國家治理的精準化、精細化和現代化，極大地提高社會治理的能力和水平，有效維護社會穩定。

其次，就行政處罰的合法性要求而言，人工智能與行政處罰有著很好的契合度，行政處罰最基本的要求是程序的規范性，而通過人工智能的應用，在對行政相對人進行處罰時，可由人工智能系統來完成，諸如立案、調查、決定及送達等法定程序，極大減少了由人進行程序而產生的一些不規范現象。不僅如此，人工智能對于行政處罰案件的大數據統計分析，也對行政處罰機關開展這類行政執法有重要的指導意義和參考價值，人工智能的應用將會促進《行政處罰法》的有效實施，確保行政處罰更加規范、更加高效，最終實現處罰智能化。

再次，就行政處罰的合理性要求而言，應用人工智能是基于行政處罰執法的現實需要。相比其他行政活動，行政處罰的案件數量較大，重復率高，耗費人工的行政處罰過程勢必導致大量行政管理資源的浪費。加之，行政處罰大多屬于裁量性活動，其裁量往往面臨著對當事人違反行政法律規范的行為是否處罰和如何處罰這兩大判斷與選擇難題。在對當事人涉嫌違法行為的定性、定量等處罰裁量判斷和對涉嫌違法行為的處罰種類、處罰幅度的裁量選擇上，傳統的處罰執法有時很難做出適當的抉擇，甚至由此也可能會造成處罰嚴重不公，將人工智能應用于依法行使行政處罰裁量權過程，就有可能修補行政處罰執法的這些不足。

可以說，人工智能的自身優勢和實用價值促使它能夠被廣泛地應用于行政處罰執法之中，并日漸成為一種執法趨勢。

(二)人工智能與行政處罰執法實踐的可交互場景

從歷史發展看，我國的人工智能發軔于改革開放之初，歷經四十多年，人工智能在各個領域獲得了突破性發展，積累了寶貴經驗。近年，政府及其職能部門一直在積極探索自動化行政，將人工智能應用到行政處罰執法實踐中，以提高社會治理能力。

早期的弱人工智能在行政執法中已相當普及，它表現為“自動化”辦公抑或是成為電子政務的有機組成部分，這一人工智能解放了作為主體的人的腦力資源。處于這一階段的人工智能可以自動收集獲取某種數據，形成一定的結構化，固化為“視聽資料”“電子數據”等行政證據。例如，智慧警務應用電子眼進行證據搜集，環保部門通過對污染源的工況監測、監控分析、視頻監控、傳感器實時在線監測等實現智慧監管，為后續有可能做出的行政處罰決定搜集視頻證據。

在當下，人工智能機器借助于“補強人的決策”這一特征，不斷增強客體自主感應主體需求的能力(3)李亞凝.無人機分類與法律規制[J].中國應用法學,2019，(6)：25.，即利用人工智能技術能夠對視頻數據進行結構化處理，密切聯系行政處罰機關的執法需求，采用先進的深度學習、高性能運算及大數據技術，打造一套集視頻結構化分析、數據存儲、數據應用于一體的數據支撐系統解決對行政相對人的特征識別和快速檢索，同時還能實現預警、布控、研判等多種應用，提高行政處罰辦案效率。人工智能在視頻內容的特征提取、內容理解等方面有著天然優勢，從技術層面來說，人工智能可以賦能監控的各個環節：前端攝像機內置深度學習算法，可識別人、車、物等屬性信息，實時分析視頻內容，并傳遞到后端AI中心數據庫進行存儲，數據中心利用強大的計算能力及智能分析能力，對目標進行實時分析，多維碰撞，得出有用有效的線索信息。

比如，在治安管理領域，指紋識別、人臉識別、視網膜識別、虹膜識別、掌紋識別等技術在社區警務可用于辨別尋找行政相對人。又如，在環境管理領域，通過機器視覺等在環保部門用于大氣、水、土壤等的生態環境監測，對超標現象進行預警。在其他的行政管理領域，人工智能技術也正在深度介入各種執法活動之中。譬如，海關將人工智能應用于機檢查驗方式，模擬人在審核圖像過程中的智力活動，實現智慧機檢，捕捉涉嫌違法的證據；證券交易委員會通過人工智能快速識別可能涉及內幕交易的違法活動等，不一而足。這些“自動化”舉措，無疑促進了人工智能和行政處罰執法的進一步融合，并在具體運用之中積累了豐富的經驗，為進一步開展智慧政務，實現行政管理的精簡高效打下了夯實基礎。

如前所述，弱人工智能被運用于各種行政處罰領域，主要是作為輔助工具，用于信息、數據的收集與處理，并促使行政處罰過程電子化、數據化。在行政處罰決定作出的階段，弱人工智能適合于一些具有重復性、技術性不高的處罰事項上。如違法事實確鑿并有法定依據，適用簡易程序的處罰決定。這類運用多見于交通執法領域，通過開發機動車違停抓拍處罰提示系統，實現了自動取證及預警功能、多渠道提醒信息即時發布功能、根據違法程度采取不同的柔性執法處理功能，從而提高了社會治理的精準化水平。此外，我國首個環境行政處罰智能辦案系統于2019年12月通過專家論證。該系統就運用了弱人工智能，內置了生態環境執法常用的400多個環境違法案由和2萬多個環境違法行為數據，將立案、調查取證、告知、合法性審查、決定、執行、結案等執法程序設置成軟件操作程序，實現“操作信息化、過程痕跡化”的全過程記錄和合法性審查全覆蓋。

而強人工智能則因其類似于人類，擁有自主心智、獨立意識、機器情感，通過自我調整能對流程進行重新設計、重組，通過高級算法、自然語言處理、機器學習等，實現人機互動。隨著我國行政法治科技化程度的日益提升，行政處罰機關借助強人工智能系統自主地作出行政處罰決定，甚至在事前或者事中就啟動人工智能系統向行政相對人發出行政指導，告知行政相對人應如何遵守法律，規范自己的行為；告知行政相對人是否存在輕微違法現象，對其進行勸誠與引導。甚至借助于“人機對話”，釋明法律法規等相關規則，進行所謂行政約談，以實現預警與防范相結合。

顯見，人工智能在行政處罰中的應用場景及愿景日趨明晰與精細，彰顯出人工智能與行政處罰執法活動之間的交互現實與融合的巨大潛力。

二、人工智能在行政處罰中的應用及意義

如何規范行政處罰一直是我國深入推進依法行政，加快建設法治政府的重要課題之一。處罰權限不明晰、處罰證據不確鑿、處罰依據不明確、處罰程序不規范及執法人員不遵守程序等，都是當前我國行政處罰實踐中亟待解決的問題。而人工智能時代的到來，為行政處罰法的有效實施提供了“潤滑劑”，以智慧處罰的全新模式助推行政處罰法治現代化的程度，使得規范行政處罰有了新思路、新方式。人工智能在行政處罰中的具體應用，表現在以下五個方面：

(一)人工智能在行政處罰裁量基準規定中的應用及意義

在我國，有關行政處罰的規范性文件不計其數，特別是現行《行政處罰法》允許下位法可在上位法設定的處罰行為、種類、幅度內作出具體規定，擁有行政處罰規定權的有權機關(通常情況下是各地政府及其職能部門)所制定的行政處罰裁量基準也千差萬別，難以統一。例如，對違反垃圾分類行為的當事人進行處罰等這類新事項的裁量基準，因地區不同而形成的處罰規則差異甚大。因此，在細化行政處罰裁量基準之際，這些有權機關有必要導入人工智能，以提高行政處罰裁量基準的精準程度。

在設定行政處罰裁量基準時，人工智能的應用可實現信息檢索和聽取公眾意見的智能化。如通過相關法規檢索、類案分析，整合違法行為的性質、情節、社會危害程度和悔過態度，實現情節的類型化和量化、處罰分格化，確保這一處罰裁量基準制定的科學性，并為不同機關行政處罰裁量基準制定提供一個可借鑒的模板。同時，人工智能系統也可以通過對行政處罰裁量基準進行公開，收集、篩選、歸并、總結公眾意見，甚至可以實時互動、及時反饋這些意見，這能強化相關部門及公眾等對該行政處罰裁量基準的監管和評估，進而提升行政處罰裁量基準規定的民主性和公眾的參與度。誠如，規則如何制定需要考量其中的“數值”，即通過人工智能可更好地發現其中變量。變量分析越細致，規則制定越科學(4)[日]松尾豐,鹽野誠.大智能時代：智能科技如何改變人類的經濟、社會與生活[M].陸貝旎譯.北京:機械工業出版社,2016：59.。比如，四川省成都市成華區積極推行行政處罰電子化平臺建設，建立網上自由裁量標準數據庫，細化標準7160條。通過人工智能將處罰環節流程化、裁量標準電子化，該區相關部門執法人員輸入違法行為的主要裁量參數，系統自動抽取相關法律法規及自由裁量標準，可為是否處罰以及處罰的種類和幅度提供相關查詢。

因此，人工智能在細化行政處罰裁量基準過程中的應用，有助于這一行政處罰裁量基準規定更加合法、合理，也為處罰案件的承辦機關及其行政執法人員提供了更具操作性的裁量參考。

(二)人工智能在行政處罰立案中的應用及意義

行政處罰的案源一般來自國家行政機關依職權在日常監管、巡查中的發現，或來自群眾舉報，受害人投訴等(5)《市場監督管理行政處罰程序暫行規定》(2019年4月1日起施行)第17條：市場監督管理部門對依據監督檢查職權或者通過投訴、舉報、其他部門移送、上級交辦等途徑發現的違法行為線索，應當自發現線索或者收到材料之日起十五個工作日內予以核查，由市場監督管理部門負責人決定是否立案；特殊情況下，經市場監督管理部門負責人批準，可以延長十五個工作日。法律、法規、規章另有規定的除外。。人工智能首先被應用于信息、數據的收集與處理，捕獲行政處罰案件線索，啟動行政處罰的立案程序。具體表現為行政處罰機關在行使職權過程中，通過人工智能流程化地接受和收集信息，由此形成信息系統并由人工智能在紛繁復雜的信息中分析解讀相對人的違法行為、評估違法情節，進而觸發響應或與其他數字系統(立案系統)進行通信，以此替代傳統的通過行政治安巡邏等采集信息的過程。如江西省鷹潭市市場監管局利用智慧管理平臺對后廚作業區域進行實時的監控并智能化地分析后廚作業人員的行為規范，該系統將對未戴帽子、口罩進入操作區的不規范行為進行抓拍并在平臺上預警，其后臺指揮中心可第一時間發現并指派相關人員現場檢查，搜尋立案的各種線索。

通過人工智能的引入，對已有的違法情形和行政處罰案例數據進行多維度分析，并對行政處罰爭議多發的地點、人群、趨勢進行關聯分析，預測違反行政法律規范行為發生的概率及分布，有助于選擇性地將稀缺行政執法資源(包括執法人數、執法設備、財政撥款等)配置在風險更高的地方。與此同時，針對更有可能發生的違法行為、違法主體加強行政檢查，適時依法作出行政處罰，提高行政執法力度，確保“好鋼用在刀刃上”(6)宋華琳,孟李冕.人工智能在行政治理中的作用及其法律控制[J].湖南科技大學學報(社會科學版),2018，(6)：85.。如浙江省杭州市于2018年9月發布的城市數據大腦，具備自動發現套牌改裝、亂停亂放等110種交通亂象的能力，對其進行規律性分析，判定哪些是堵點、亂點、事故隱患點，以幫助交警部門實現警情處置。

因此，人工智能在行政處罰立案階段的應用，有助于節約行政執法成本，縮減了行政執法機關對當事人違反行政法律規范行為、情節及事件的響應時間，大大提高了行政執法的效率。

(三)人工智能在行政處罰調查中的應用及意義

傳統的行政處罰調查程序也需要信息引擎來確定案件中的違法事實，以此作出行政處罰決定。一般情況下，相對于行政相對人的違法行為而言，對其進行的行政處罰往往具有滯后性。大多數行政處罰機關無法及時發現并制止相對人的違法行為，或是發現違法行為時關鍵的證據與事實已無法固定考證，使執法人員難以確定違法情節和處罰幅度。在此情況下，行政處罰機關可利用人工智能收集、固定違法行為證據(7)《市場監督管理行政處罰程序暫行規定》(2019年4月1日起施行)第23條：市場監督管理部門可以利用互聯網信息系統或者設備收集、固定違法行為證據。用來收集、固定違法行為證據的互聯網信息系統或者設備應當符合相關規定，保證所收集、固定電子數據的真實性、完整性。。如前述的我國首個環境行政處罰智能系統，就按照程序自動指引違法證據收集、裁量證據收集。

隨著人工智能的研發與革新，越來越多的新興技術被應用于行政處罰的調查階段，電子技術監控設備等能夠進行全天候監控作業，實時捕獲違法、違章信息，使之成為作出行政處罰決定的確鑿證據來源。目前，人臉識別、車輛深度識別等作為人工智能最重要的一個應用分支，其高速自動識別能力在行政處罰執法收集并固化證據中得到了更為廣泛的應用。以道路交通違章的調查取證為例，一些中大城市打造了智能交通管理網絡，以“天眼”為基礎，建立電子警察系統、測速卡口系統、非機動車監測系統、前后牌照對比系統、違停系統、禮讓行人系統、行人闖紅燈系統、違停系統等，在此基礎上，應用人工智能對人、車、非機動車等目標進行深度識別和自動化分析，按照技術標準形成車輛違法的電子數據，實時報送交通執法機關，觸發行政處罰執法相關程序的依法啟動(諸如依法審核這些電子證據、擬定違法車輛進行處理、告知違法者等)。

因此，人工智能在行政處罰調查中的應用，促使行政處罰機關能夠全面而高效地收集、固定違法事實，提高了辦理行政處罰的調查取證能力，有助于依法全方位查明案件的客觀事實，增強相關證據的確鑿程度，確保了行政處罰結果的合法性。同時，運用光學字符識別、自然語言處理、要素提取、機器學習等人工智能新技術，實時、精準、全面、科學地對證據進行校驗、提示、把關、監督，可及時發現證據中存在的瑕疵和證據之間的矛盾，并及時提示給辦案人員，由辦案人員決定是否補正或者作出，能有效防范不當執法。

(四)人工智能在行政處罰決定中的應用及意義

效力位階不同的法律規范性文件，對行政處罰的種類和幅度有不同的規定。擬作出行政處罰決定過程，就是適用這些法律規范性文件的過程。在此過程中，一旦行政處罰機關及其執法人員對當事人違法行為的處罰種類、幅度把握不準，甚至濫用行政處罰權或超越行政處罰權，就可能有違平等原則，作出明顯不當(顯失公平)的行政處罰。

而人工智能可以通過深度學習對大規模的先例處罰決定進行分類、聚類、分析和關聯，在考量行政相對人情況，例如違法成因、動機構成、違法所得、危害后果、認過悔過等因素基礎上，建立比對模型，并搜尋正確適用的法律法規依據，對擬處罰案件作出預測。如北大法寶智能行政執法助手能夠進行違法裁量智能預測、相似案例推送、裁量依據智能推送、智能案例檢索、智能化數據分析等，行政執法人員在平臺簡單輸入違法事實后，該系統可以根據機器識別的違法要素進行智能預測處罰結果。同時，在行政處罰決定作出前，行政處罰機關領導審核簽名、行政相對人陳述申辯過程、行政處罰機關決定討論的信息反饋等，也可以應用人工智能。

因此，人工智能在行政處罰決定中的應用，在一定程度可實現類案類罰，能夠避免行政處罰裁量過程中出現恣意妄為的腐敗案、人情案等弊端，力保處罰決定的一致性、公平性，使得合法、合理的行政處罰決定更經得起質疑與監督。

(五)人工智能在行政處罰執行中的應用及意義

行政處罰的有效執行是觀察法治政府建設成效的顯微鏡、晴雨表和櫥窗口。人工智能可以應用于以下兩個方面，即一方面，對行政相對人而言，行政相對人通過人工智能履行行政處罰的法定義務(如繳納罰款等)、投訴及查看相關法律依據等，維護自己合法權益，避免在行政處罰執行中遭受人為的干擾，這也是高效便民原則的體現，踐行了服務型政府的要求。另一方面，對行政處罰機關而言，通過人工智能的信息系統能及時提醒、督促當事人按期執行行政處罰決定，監督被處罰人加強后續整改落實，充分發揮行政處罰懲戒教育作用。特別是對被從業禁止、可能被“三振出局”(8)《中華人民共和國食品安全法》第134條：食品生產經營者在一年內累計三次因違反本法規定受到責令停產停業、吊銷許可證以外處罰的，由食品安全監督管理部門責令停產停業，直至吊銷許可證。處罰以及逾期不履行罰款義務而需繳付滯納金的行政相對人，人工智能實時監督這些行政相對人的履行情況，確保行政處罰決定有效執行。此外，人工智能還可以通過嵌入社會信用體系，依法對行政處罰執行結果進行公示，甚至在法定授權范圍內對失信主體實行聯合懲戒，使其“一處違法、處處受限”，以維護執法權威和法律尊嚴。

因此，人工智能在行政處罰執行中的應用，為行政處罰決定提供了快捷高效的執行平臺，既簡化了行政處罰決定執行流程，又加強了在行政處罰執行中對行政執法人員、行政相對人的監督，提升了行政處罰執行的效果。

三、行政處罰中人工智能應用的法律規制

人工智能應用于行政處罰過程能顯著提升行政處罰工作的質量與效率，智慧處罰(9)魏瓊，徐俊暉.人工智能應用于處罰的風險治理[J].河南財經政法大學學報，2020，(5)：86.勢在必行。人工智能算法的“公共性”應用會產生一系列潛在風險，包括算法的不透明風險、算法的“偏見”風險以及算法的“權力異化”風險等(10)孫清白.人工智能算法的“公共性”應用風險及其二元規制[J].行政法學研究，2020，(4)：58.。一般地說，人工智能的法律規制措施包括制定人工智能專門立法、設計人工智能倫理框架(11)馬長山.人工智能的社會風險及其法律規制[J].法律科學(西北政法大學學報),2018，(6)：53.，結合法律和技術手段建立對人工智能的風險控制機制(12)吳漢東.人工智能時代的制度安排與法律規制[J].法律科學(西北政法大學學報),2017，(5)：128.。就人工智能應用于行政處罰而言，人工智能在行政處罰中的應用應當遵循怎樣的程序，人工智能在何種情況下參與行政處罰，人工智能可以參與行政處罰的哪些領域等，都需要通過法律來明確，以防止人工智能在行政處罰過程中的濫用、錯用及怠用。

(一)合理定位人工智能

1.明確人工智能可應用的處罰領域與適用條件

隨著人工智能的發展，由人工智能處理復雜的行政處罰活動，絕非空想。但這并不意味著人工智能可以完全取代行政處罰機關及其執法人員。況且，也并非所有行政處罰都適合應用人工智能。特別是在不宜應用人工智能或者人工智能難以勝任的重大、復雜行政處罰案件中，行政處罰機關及其執法人員應用了人工智能，或依賴人工智能為主要執法方式的，就有涉嫌濫用行政處罰權的可能。因此，應用人工智能進行行政處罰時，不可過度依賴它，應將其定位成輔助工具，要求以人類為中心的工作理念、構建人與人工智能的“合作觀”，平衡效率與價值之間的沖突(13)姜素紅,張可.人工智能輔助地方立法的應用與規制[J].湖南科技大學學報(社會科學版)，2019，(4)：144.。在法律架構中，也應明確人工智能在行政處罰中應用的領域與條件，必要時采用許可制及嚴格禁止的方式予以規范。許可制意味著經過充分測試或驗證的AI程序才可得到正式使用，嚴格的批準程序是AI有效性的保證；許可制也意味著更廣泛對話的可能，實現通過充分的討論來確定模型的構建，主要是各種變量的權重。

在行政處罰與AI融合方式上，必須得設置“最后看門人”機制，執法人員應當審查AI處理結果的理由及邏輯，形成“AI預處理+執法人員最終決定”的模式。只不過在執法人員介入的程度上應視案件的復雜程度區別對待(14)李曉楠.可信賴AI司法：意義、挑戰及治理應對[J].法學論壇，2020，(4)：125.。對于起輔助作用的弱人工智能，比如執法記錄儀等，宜將其定位為執法人員的助手，用來處理技術性、輔助性的活動，如執法記錄、資料收集、處罰決定文書的制作等。一般情況下，這些經核準投入使用的弱人工智能，被運用于處罰案件調查取證，其條件不受限制。對于有識別、分析、推演等智能功能且其活動對行政相對人權利義務產生或者可能產生實際影響的這類人工智能則宜采用更為嚴格的許可制以限制其應用，特別是將這類人工智能應用于行政處罰案件哪一環節，須事先有更為嚴格而明晰的規定。例如，對于道路的交通指導、違法行為能進行識別、分析、證成等這類人工智能，就主要運用于那些違法事實確鑿并有明確法定依據而按照簡易程序進行或適用快速辦理的行政處罰案件(15)《公安機關辦理行政案件程序規定》(2019年1月1日施行)第40條：對不適用簡易程序，但事實清楚，違法嫌疑人自愿認錯認罰，且對違法事實和法律適用沒有異議的行政案件，公安機關可以通過簡化取證方式和審核審批手續等措施快速辦理。。對案情情節復雜或重大違法行為應給予較重處罰的行政處罰案件，人工智能可以被運用于行政處罰案件的調查階段，但須慎重介入行政處罰案件的決定階段，甚至不宜介入決定階段，否則就會很容易出現算法“偏見”或算法“權力異化”。

據此，現行《行政處罰法》修訂時，有必要增補關于人工智能應用于行政處罰的適用條件這類條文。從立法例的角度，建議這類條文不妨采用列舉的方式，從肯定方面和否定方面來羅列出哪些能應用人工智能，哪些不能應用人工智能的范圍，以具體規定明確人工智能在行政處罰中的應用領域與條件。同時，宜規定一個兜底性的適用條款，防止法律的不周嚴性以及社會情勢的變遷性。甚至，一定層級的行政處罰機關也可以制作相應的規程或指南，專門規范人工智能在行政處罰案件中的應用。

在此，建議《行政處罰法》修訂時，宜增加以下的內容：行政機關在下列事項中，可以在行政處罰執法中應用人工智能：(一)違法行為的識別分析證成；(二)違法事實確鑿并有明確法定依據，可以當場作出行政處罰決定；(三)適用快速辦理的行政處罰案件；(四)其他技術性、輔助性執法。對情節復雜或重大違法行為的行政處罰案件，禁止行政機關直接應用人工智能介入行政處罰決定。

2.制定標準化的規范標準

《行政處罰法(修訂草案二次審議稿)》第39條的規定要求“應當經過法制和技術審核，確保電子技術監控設備設置合理、標準合格、標志明顯”。但我國尚未建立人工智能進入行政處罰領域的行政許可制度。因此，有必要在制度層面建立健全對人工智能的審核認證程序，制定對審核認證前的測試標準與規則等規范標準。由一定層級的立法機關或者行政處罰機關與有關部門聯合從標準化入手，制定頒布相關的標準化的規范性文件，在這些規范性文件中細化人工智能應用于行政處罰的技術規范和準入條件，確定規范標準，運用科技與法治相結合來規范人工智能，實現事前監管，以防因人工智能的應用導致處罰違法情形的出現。統一的技術標準也能一定程度上限制算法設計者的編寫行為，有助于降低算法的“權力異化”風險。在執法實踐中，人工智能的這些技術和產品一旦應用到各個行政執法領域，就有可能會涉及相應行業的準入資格、資質取得，故有必要采取“高準入、嚴許可”(16)汪慶華.人工智能的法律規制路徑：一個框架性的討論[J].現代法學,2019，(2)：61.進路，實行分類化管理。

進行信息識別和處理的弱人工智能應當保持一定的準確性，并根據不同的行政處罰機關的執法事項設置不同的標準，如環保部門用于檢測污染物的人工智能應當進行量化，與構成處罰標準的指標相匹配；市場監管局用于識別違禁物品時，只需要能夠識別出其信息，保證與正規物品比對圖片的清晰。對處理存在保密信息的行政處罰案件的人工智能也需根據機密性設置不同的安全標準，個人隱私、商業機密、國家秘密的數據安全級別要更高。據此可制作相應的標準化手冊，為行政執法人員提供擬行政處罰決定的參照。

值得注意的是，隨著AI科技的進步、行政執法的需要及社會的發展，人工智能可能通過不斷抓取新的數據或對外界環境的反饋，更新其預測模型。為此，該標準化的規范性文件及其應用手冊也須時時更新，不斷調整。

(二)堅持正當程序約束

1.公開透明

在抽象體系的交匯口，連接公眾與信任關系的當面承諾，通常表現出明白無誤的可信任性與誠實性，并伴隨著一種“習以為常”或“鎮定自若”的態度(17)[英]安東尼·吉登斯,現代性的后果[M].田禾譯.南京:譯林出版社，2011.73.。故現代社會需要一個公正透明的政府，以增強公眾對政府的信賴。行政處罰中應用的人工智能(如算法等)會直接或間接影響行政相對人的利益，所以行政處罰機關要遵循公開原則，做到技術上的透明，包括事先透明和事后透明。在以算法驅動的AI政務系統中，透明度不僅是一種“清晰可見的狀態”，更是一種觀察和了解甚至參與系統運行的方式(18)Danielle Keats Citron & Frank Pasquale, “The Scored Society: Due Process for Automated redictions”,Wash.L.Rev.,2014,p.25.，強調算法透明度的關鍵不只在于披露算法的具體內容，還在于向利益相關者披露算法的運作原理和決策生成過程。

事先透明，即在使用人工智能前，應當向全社會公布算法內容，包括公布行政處罰擬決定的算法流程，公開驗證算法時所生成的適當記錄，開發風險預測和裁量基準算法時考慮的變量與賦權比重(19)R. Brauneis , EP Goodman , “Algorithmic Transparency for the Smart City” ,Social Science Electronic Publishing, 2017, p.2.。據此，對決策程序加以合法性與合理性解釋，可通過相應途徑、形式(如座談會、聽證會、論證會)聽取相對人意見。但在這一過程中不建議完全公開代碼和數據，因為完全公開有可能泄露隱私數據甚至危及國家安全，也可能為行政相對人采取行動來規避人工智能治理提供通道(20)Paul B.de Laat , “Big Data and Algorithmic Decision-Making”,Acm Sigcas Computers & Society , 2017 , p.39.。事后透明，即指事前不知決策的過程及程序，但事后通過對人工智能績效的監測、可解釋化的算法等，可以推導出其決策的整個過程。簡言之，即公開結果，利用倒推法得知決策過程。

《行政處罰法(修訂草案二次審議稿)》第44條(21)《行政處罰法(修訂草案二次審議稿)》第45條：行政機關應當依法以文字、音像等形式,對行政處罰的啟動、調查取證、審核、決定、送達、執行等進行全過程記錄,歸檔保存。新增規定要求對行政處罰進行全過程記錄。可見也應要求對人工智能系統運行過程予以完整記錄，如德國相關立法必須安裝“黑匣子”(22)德國《道路交通法第八修正案》(2016年)對自動駕駛數據的記錄要求，載有高度或全自動化功能的汽車必須根據通用的國際技術標準來記錄汽車在某一時刻究竟由駕駛人控制，還是由高度或全自動化功能控制，即“黑匣子”記錄功能。。應用人工智能完整記錄當事人的行為是一把“雙刃劍”。“黑匣子”在信息保留時效內可作為爭議解決的證據，便于事后追究行為人的法律責任，在行政處罰案件中亦是如此。而人工智能來了更多的隱私獲取性(海量信息、數據的收集和對數據進行知識抽取)，極大地增強了入侵行政相對人隱私的能力，況且這一侵害隱私的行為也極具迷惑性，很可能引發嚴重的隱私危機(23)鄭志峰.人工智能時代的隱私保護[J].法律科學(西北政法大學學報)，2019，(2)：51.。“黑匣子”作為證據使用時的公開透明還可能增加個人數據和隱私被濫用的風險。對此，美國的相關立法規定強化了“隱私權”保護(24)鄭戈.人工智能與法律的未來[J].探索與爭鳴，2017，(10)：83.。在我國，對《行政處罰法》的修改中，對于應用人工智能的公開程序等也需做類似的規定，以確保其合法、適當。

透明，還意味著問責的可能性。當系統出現誤判時，諸如行政處罰中明顯考慮了相對人的職業特征，或引用了錯誤法條時，透明性有助于找出智能系統產生歧視或功能偏差的原因，如識別出AI出現的偏差，究竟是開發人員或使用人員故意導致，還是AI系統深度學習的結果，以實現責任的準確歸結(25)李曉楠.可信賴AI司法:意義、挑戰及治理應對[J].法學論壇,2020，(4)：124.。

2.說明理由

公權力的運行離不開法定程序乃至正當程序。正當程序蘊含著尊嚴、平等、秩序、公正和效率基本價值，構成了法治國家的基石(26)章劍生.行政程序正當性之基本價值[J].法治現代化研究，2017，(5)：102.。因此有必要通過說明理由制度在行政處罰決定送達過程中實現程序性權利的價值，保障行政相對人權利(27)宋華琳.英國行政決定說明理由研究[J].行政法學研究，2010，(2)：103.。我國《行政處罰法》規定了說明理由制度(28)《中華人民共和國行政處罰法》第31條第1款：行政機關在作出行政處罰決定之前，應當告知當事人作出行政處罰決定的事實、理由及依據，并告知當事人依法享有的權利。。一旦某一行政處罰案件應用了人工智能，那么它的特殊之處還在于，要求行政處罰機關應向行政相對人就人工智能系統的結果或行為作出解釋。為此，在對《行政處罰法》的修改中，建議針對該法第31條增補相關內容的條款，應當對應地增加《行政處罰法(修訂草案二次審議稿)》第42條的內容，作為該條的第二款，該款宜明確地規定：對于應用人工智能的行政處罰，在作出行政處罰決定之前，應當告知當事人，并解釋人工智能系統的結果或行為。

行政處罰機關及其執法人員向當事人解釋的內容，至少包括以下五個方面：第一，解釋證明人工智能采集的電子證據的合法性、合理性；第二，解釋處罰決定作出所考慮的主要因素，以及各因素的不同權重；第三，解釋究竟是哪些因素會改變處罰決定，且哪些因素才是決定性的；第四，解釋為什么相似情況可能有不同決定，為什么不同情況可能有相似決定(29)Doshi-Velez F, Kortz M, Budish R ,et al, “Accountability of AI under the Law: The Role of Explanation”,Social Science Electronic Publishing, 2017, p.5.；第五，解釋人工智能應用中算法的準確性和科學性。以上這些解釋內容一旦出現缺位或者缺項，即意味著該處罰決定說明理由的欠缺，會導致相應行政處罰決定的無效或依法被撤銷。

此外，正當程序原則要求在人工智能應用于行政處罰時，行政處罰機關不能既做算法的評分裁判者又做算法的事實參與者(30)何淵. 智能社會的治理與風險行政法的建構與證成[J].東方法學，2019，(1)：76.。行政處罰機關也需要遵循可辯駁原則，在人工智能對行政相對人作出不利的評價之前，必須給其辯駁(陳述、申辯)、要求說明理由及聽證的權利，以保障相對人的合法權益。如歐盟《一般數據保護條例》第71條即有規定：“數據主體有權獲得人工干預，表達其觀點，獲得針對自動化決策的解釋并提出異議的權利。”

在實踐中，如何要求自建大數據平臺、人工智能系統的行政處罰機關依法定乃至正當程序應用人工智能，防止其行政處罰權的“暗箱操作”和濫用，這是一個值得重視的問題。在未來，強人工智能在自動化作出行政處罰決定時，宜賦予受罰人依法享有免于自動化行政處罰決定的權利，這也是正當程序的要求之一。

(三)全面監管人工智能

1.建立專門的監督制度

通過明確適用條件、確定規范標準、定期評估測試等，力爭實現行政處罰機關對人工智能運用的自我監督。我國現行《行政處罰法》規定了對行政處罰的監督制度(31)《中華人民共和國行政處罰法》第54條第1款：行政機關應當建立健全對行政處罰的監督制度，縣級以上人民政府應當加強對行政處罰的監督檢查。，故而，從整個法治建設的框架出發，對人工智能應用于行政處罰，也有必要從外部對它進行實時監督，從而形成一個比較完備的專門監督制度，為此，首要之舉是設置一個專門的監督機構。

根據我國《憲法》與相關組織法的規定，在國務院部委層面或者省級人民政府建立針對行政執法中人工智能的專門監督機構。該機構的主要法定職責是監管數據、算法等人工智能的應用，規避隱私泄密和網絡安全風險，避免因數據不全面、不準確或因算法黑箱導致的行政違法(包括顯失公平的行政處罰等情形)。由這一監督機構搭建一個監督平臺，形成“政府——平臺——大眾”的多元互動構架(32)馬長山. 智能互聯網時代的法律變革[J].法學研究，2018，(4)：36.。該機構可通過平臺針對不同的行政處罰機關開設不同的窗口進行專門監督，并發布相適應的標準化規范和指導政策；行政相對人及其他公民、法人也可通過平臺向監督機構反映情況和投訴維權，參與糾紛解決。如在環境監管中，企業對自動監測數據進行造假，以至于人工智能受限無法及時發現不法行為，但周邊居民較易察覺周邊環境質量，故公眾可通過平臺參與環境行政執法監督，促使環保部門采取措施。

有效的監管不僅在于事前準入的規制以及對違規行為的事后糾正與處罰上，而且需要在事中有效預防及控制風險。應當構建由事前準入及測試、事中實時動態監測、事后風險處置反饋系統組成的智能環路監管機制。可借鑒金融領域的監管措施對行政處罰中應用的人工智能采取“穿透式”監管(33)喬海曙,王鵬,謝姍珊.金融智能化發展：動因、挑戰與對策[J].南方金融，2017，(6)：3.。具體做法有二：一是建設基于大數據模型的法律風險實時監測處置平臺，對主要執法領域實施及時監控，實現快速響應、自動預警的智慧處置乃至處罰、監管。二是應用“監管沙箱”監管行政處罰，通過專門的監管機構、行政機關及相關當事人與廣泛的數據運營商等合作，產生高度自動化和有效的“數據驅動”型監管體系，根據行政違法的特征來確定對行政處罰中的人工智能的監管要求和監管分工，把風險控制在重要領域，以此實現智慧處罰的合法、合理。

2.定期進行評估測試

行政處罰決定關乎行政相對人的切身利益，人工智能的誤判極有可能將行政相對人帶入“深淵”。算法偏見和算法黑箱，有時也可能嚴重影響行政處罰的公正。實踐中就存在關于人工智能準確性、合法性的爭議，如上海電子警察抓拍違法鳴笛行政處罰訴訟案的爭議焦點，就在于交警支隊提交的電子技術監控設備記錄的內容是否具有證明力。行政處罰既是依職權的執法行為，也是負擔性行政行為，在行政處罰中哪怕有1%的失誤，都有可能侵犯相對人合法權益，引發行政爭議。為此，《行政處罰法(修訂草案二次審議稿)》對電子技術監控設備記錄違法事實提出了清晰準確的要求。與此同時，行政處罰機關及其執法人員在應用人工智能前必須確保其安全準確，不僅需要查看人工智能系統所使用的數據集，還需查看算法中描述變量、相關性和結論的源代碼與程序員的注釋。同時，應當組織或者委托相關技術機構及其技術人員測試人工智能系統是否違背法律法規及倫理規范、是否準確寫入相關規則、是否符合應用的規范標準，測試平臺應當能夠測試人工智能系統的偏差、偏見和任意性。總的說來，圍繞著人工智能行政處罰系統的功能定位，在實踐中，諸如白盒測試(諸如代碼審查等)，黑盒測試(等價類劃分法、正交試驗法等)等技術測試手段，均應當在行政處罰過程中得以充分的運用，以期發現人工智能程序使用中可能存在的錯誤，實現人工智能的魯棒性(Robust)和安全性。

行政處罰機關應當對人工智能產品和系統的關鍵性能進行評估，必要時可發布評估報告，來說明人工智能系統蘊涵的安全、歧視和隱私等風險，確保行政處罰過程的安全暢通與和諧(34)沈巋主編.風險規制與行政法新發展[M].北京:法律出版社,2013.193.。在人工智能應用過程中，定期按照規范標準對其進行評估測試，對產生故障的人工智能及時修理或更新替換，滿足發展的行政處罰精準度要求和行政管理目標，避免造成行政處罰受阻導致處罰顯失公平。這一評估測試的要求，宜成為一項常態化的行政事務活動，故有必要在立法層面上將其固化，使之成為行政處罰機關應履行的一項法定職責。故此，在《行政處罰法(修訂草案二次審議稿)》規定“應當經過法制和技術審核”的基礎上，我們建議宜增加以下的內容，即“行政機關應用人工智能之前，應當對人工智能進行評估測試，且須經監管部門或者授權的專業機構的認證。在人工智能應用過程中，行政機關對產生故障的人工智能應當及時修理或更新替換。人工智能的監管機構對人工智能在行政處罰中的應用過程負責監督，并對其后果承擔法律責任。”

此外，人工智能評估測試報告能夠增強其收集的電子數據的證據證明力。如環保部門以人工智能監測的數據作為行政相對人違法行為證據時，應當提供污染源自動監測數據報告、污染源自動監測設備驗收合格證、污染源自動監測設備運營維護、校準校驗記錄。是故，宜將人工智能評估測試報告以及法制和技術審核報告納入電子數據的范圍，將其視為行政證據的重要組成部分。

3.明確法律責任承擔

在行政處罰領域，有關人工智能技術的開發和應用極有可能引發行政違法及行政侵權事件。在法律責任的分配上，宜遵循簡約化的規則，尋求人工智能問題與《行政處罰法》及《電子商務法》等兼容，特別是在查明人工智能責任時，宜沿用《行政處罰法》的通常規則。比如，在舉證責任上，對于這類行政爭議，行政相對人在維權過程中要分清究竟是人為操作不當還是人工智能本身缺陷并非易事，訴訟舉證則尤為困難，故仍應當由行政處罰機關承擔舉證責任，該機關必須提供人工智能“黑匣子”。

同時，在明確細化人工智能分類的基礎上，對責任的認定與追究也必須區別對待。弱人工智能主要被視為“行政助手”，充當輔助者的角色，無法獨立做出活動，它并非獨立的行政主體或行為主體，亦不直接與第三人發生法律關系，故其行為仍應歸屬于該行政處罰機關，由該機關承擔相應的責任。這也是基于法的安定性考量。而隨著AI功能的不斷完善，行政處罰機關的責任可能最終轉化為監督責任，即當AI具備獨立處理案件的能力時，行政處罰機關可能就僅僅扮演一個監督者的角色。這意味著，當行政處罰機關對AI錯誤裁判結果造成當事人損害沒有過錯時，無須承擔責任。算法設計人員責任，主要表現若因設計原因導致AI出現偏差，對行政處罰機關形成誤導，損害當事人權益的，算法設計人員應當承擔責任(35)李曉楠.可信賴AI司法:意義、挑戰及治理應對[J].法學論壇，2020，(4)：126.。故此，當強人工智能進行責任規制時，首要之舉要理清生產者和程序編纂者的責任大小，再結合使用者的綜合習慣進行邏輯演化，劃分責任的主次，以落實責任的承擔。而針對行政處罰案件因人工智能引起的損害賠償，也有必要對行政賠償的工作人員作擴大解釋，將其視為“機器公務員”，進入國家賠償程序，明晰行政賠償義務機關。據此，我們建議，現行《行政處罰法》修訂時宜明確規定“行政機關應用人工智能，對當事人造成損失的，應當依法予以賠償”。

對于后續追責，可結合前述的許可制度，實現認證程序與責任體系的深度結合。企業可自愿申請監管部門或授權的專業機構的認證程序，在由機關的行政爭議引發的行政訴訟及賠償訴訟中，經過權威認證的人工智能系統的設計者、生產者或銷售者僅須承擔有限責任，而未經過認證的人工智能系統將會承擔嚴格的連帶責任(36)Scherer, M. U. “Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies”, Harvard Journal of Law and Technology, 2016, p.397.。當然，對于人工智能在行政處罰中應用時應承擔的具體責任，行政處罰機關可以穿透算法，通過協議與技術提供者進行約定，設定義務，明細責任分配。另外，此種約定條款也可出現在機關間的協議中，由此倘若引發我國行政處罰機關及其上級機關的責任爭議，無疑可以借助協議解決機制得以追究責任的最終承擔者。如此一來就避免算法黑箱逃避責任，為人工智能在行政處罰中更為廣泛的應用及發展保留充分空間。

四、結語

人工智能在行政處罰中所應用的終極目標，就是建成智慧處罰的平臺。這種以互聯網、大數據、人工智能等多種科技手段進行行政處罰的新型處罰模式，正是我國行政處罰的理論界和執法實務部門都在積極探索、努力想突破的重大課題，推動智慧處罰的創新發展，既是適應大數據時代新發展和社會新需求的必然要求，也是體現國家治理體系和治理能力現代化的重要舉措，更是實施處罰體制機制改革、提升處罰管理精細化水平的技術保障。此外，依托大數據的智慧處罰的發展也對以行政處罰為主的傳統法律規范體系產生了新的沖擊。時至今日，《行政處罰法》作為處罰領域的基本法律制度，在實施了二十多年后即將迎來的第一次大修訂，應當以解決問題為導向。此次修法應體現立法的包容度、開放性和前瞻性。為此，在《行政處罰法(修改草案二次審議稿)》征求意見的基礎上，我國立法機關宜積極重視在該法中嘗試解決有關人工智能應用于行政處罰領域的法律適用問題。特別是在對相關法條的草擬中，有必要增補規范應用人工智能的具體內容，諸如，應用人工智能的條件及應用人工智能的行政處罰機關應履行的法定義務及法律責任等，使人工智能等高科技更好地服務于行政處罰，促進智慧處罰的有序發展。

人工智能時代所引發的法律、倫理、技術的對話剛剛開始，伴隨著新技術、高信息化的跨時代發展，還需要不斷探索關于自動化決策系統及其風險治理的理論、制度與實踐創新，這將是一個系統化的過程，為實現人工智能時代的“良法善治”奠定基礎，并推進行政法治的現代化。