人工智能參與行政執(zhí)法的風(fēng)險與法律規(guī)制

邢 超 趙 凱

東北大學(xué)文法學(xué)院，遼寧 沈陽 110169

作為新一輪科技革命的重要引擎，人工智能越來越成為國家治理能力和治理水平現(xiàn)代化的重要驅(qū)動力，在法律與行政領(lǐng)域的應(yīng)用越來越廣泛。由于行政執(zhí)法的廣泛性和普遍性，人工智能在行政領(lǐng)域的應(yīng)用以智能化執(zhí)法最為典型。人工智能技術(shù)的應(yīng)用在優(yōu)化行政執(zhí)法的同時會產(chǎn)生一系列風(fēng)險，如何有效規(guī)制風(fēng)險成為行政執(zhí)法模式順利轉(zhuǎn)型升級亟待解決的問題。

一、人工智能參與行政執(zhí)法的技術(shù)基礎(chǔ)

人工智能之所以區(qū)別于其他機(jī)器，就是因為它的智能性，它能夠完成原本只能由人類完成的工作。人工智能發(fā)揮作用離不開三個必備要素：數(shù)據(jù)、算法和算力。

（一）數(shù)據(jù)

數(shù)據(jù)是實現(xiàn)人工智能的首要因素，也是其他要素發(fā)揮作用的前提。人工智能本質(zhì)上是通過對海量數(shù)據(jù)的深度學(xué)習(xí)來掌握人類智力活動的規(guī)律，從而模擬人類智能進(jìn)行判斷與決策。具體到行政執(zhí)法領(lǐng)域，就是通過“喂食”海量數(shù)據(jù)，讓人工智能深入學(xué)習(xí)現(xiàn)行行政法律法規(guī)、執(zhí)法記錄、案件裁決等，從而將行政執(zhí)法活動規(guī)律化、模式化，形成統(tǒng)一的技術(shù)模型應(yīng)用于各種具體情況。

（二）算法

算法是人工智能解決問題的直接手段。如果說數(shù)據(jù)對應(yīng)輸入的過程，產(chǎn)生的結(jié)果對應(yīng)輸出的過程，那么算法就是連接輸入與輸出的技術(shù)工具。人工智能算法能夠挖掘人腦思維活動的規(guī)律來建立類似的神經(jīng)網(wǎng)絡(luò)，從而模仿人類處理信息的模式進(jìn)行深度學(xué)習(xí)，并在分析數(shù)據(jù)的過程中根據(jù)不同的關(guān)鍵詞自動調(diào)整算法參數(shù)，優(yōu)化結(jié)果輸出質(zhì)量。人工智能算法應(yīng)用在行政執(zhí)法中能夠讓執(zhí)法人員從大量重復(fù)性勞動中解放出來，促進(jìn)行政執(zhí)法提質(zhì)、降本、增效。

（三）算力

算力是人工智能算法實現(xiàn)的決定性因素。人工智能算法模型的應(yīng)用需要大量計算，算力的局限會導(dǎo)致計算速度、正確率大打折扣，從而限制算法的實際效能?！?020—2021中國人工智能計算力發(fā)展評估報告》指出，為了更加實時地分析和處理來自終端設(shè)備的海量數(shù)據(jù)并減輕網(wǎng)絡(luò)傳輸?shù)膲毫Γ斯ぶ悄芩懔鸩较蜻吘墲B透［1］。這就為人工智能技術(shù)應(yīng)用于具體的行政執(zhí)法場景提供了更加堅實的技術(shù)基礎(chǔ)。

二、人工智能參與行政執(zhí)法的可能性

行政執(zhí)法是一種管理性行為，區(qū)別于行政立法、行政司法、行政協(xié)議等行為。不同的行政執(zhí)法場景具有相同的邏輯環(huán)節(jié)，即都包含收集信息、作出決策和檢查監(jiān)督三個基本環(huán)節(jié)。人工智能參與行政執(zhí)法也正是在這幾個環(huán)節(jié)中發(fā)揮作用。

（一）行政執(zhí)法信息收集智能化

傳統(tǒng)的信息收集主要依靠行政主體主動獲取和行政相對人主動申報兩種方式，耗時耗力還有時空局限。相比之下，利用人工智能建立自動化的信息收集和處理模型，不僅能夠提高信息處理效率和準(zhǔn)確度，還能打破信息壁壘，提高信息利用率。例如在行政處罰活動中，可以利用智能攝像頭在執(zhí)法點(diǎn)位自主識別并拍攝違規(guī)行為，使交管部門實時獲得行政處罰的證據(jù)資料。同時，人工智能可以根據(jù)違規(guī)類型、情節(jié)、出現(xiàn)頻率、處罰程度等標(biāo)準(zhǔn)對收集到的證據(jù)材料進(jìn)行歸納整理，并建立數(shù)據(jù)庫實現(xiàn)數(shù)據(jù)共享，從而打破部門之間、行政區(qū)劃之間的信息壁壘，便利數(shù)據(jù)資源的調(diào)用。

（二）行政執(zhí)法決策智能化

根據(jù)人工智能參與行政執(zhí)法決策的自主程度，可以將智能化決策分為半自動決策和全自動決策。半自動決策是指人工智能輔助行政執(zhí)法人員進(jìn)行決策，多應(yīng)用于案情比較復(fù)雜、涉及利害關(guān)系較多的情形。例如在行政處罰的量罰環(huán)節(jié)，主管機(jī)關(guān)作出行政處罰決定時可以參考人工智能給出的處罰建議，修改補(bǔ)充或直接采納并自動生成處罰結(jié)果。全自動決策是指人工智能全自動決策而無需人工干預(yù)。全自動決策一般應(yīng)用于簡單的行政執(zhí)法活動，例如在行政審批中，申請人只需登錄服務(wù)系統(tǒng)提交申請材料并進(jìn)行身份驗證，后臺人工智能服務(wù)終端便運(yùn)行預(yù)先設(shè)計好的算法將獲取的信息與數(shù)據(jù)庫存儲的法律規(guī)范和裁量標(biāo)準(zhǔn)進(jìn)行比對，幾分鐘之內(nèi)就能自動作出決定并通過網(wǎng)絡(luò)實時送達(dá)相對人。

（三）行政執(zhí)法檢查智能化

在行政檢查實踐中，人工智能技術(shù)被廣泛應(yīng)用于數(shù)據(jù)庫構(gòu)建、風(fēng)險預(yù)測和智能監(jiān)管系統(tǒng)的構(gòu)建。以佛山市市場監(jiān)督管理局的智能化檢查實踐為例，市場監(jiān)管與大數(shù)據(jù)結(jié)合形成的數(shù)據(jù)庫為人工智能的應(yīng)用提供了信息資源；基于人工智能深度學(xué)習(xí)技術(shù)構(gòu)建的風(fēng)險研判和預(yù)警機(jī)制實現(xiàn)了精確化、針對性監(jiān)管；現(xiàn)場檢查與智能識別相結(jié)合的移動監(jiān)管終端系統(tǒng)實現(xiàn)了檢查情況實時錄入、當(dāng)即反饋，監(jiān)管人員只需要在智能匹配的電子化表格中勾選相關(guān)指標(biāo)的檢查結(jié)果即可，不僅使工作效率和準(zhǔn)確率大幅提升，而且節(jié)約了時間成本和人力成本。

三、人工智能參與行政執(zhí)法的風(fēng)險

（一）合法性風(fēng)險

行政執(zhí)法的合法性既包括實體合法也包括程序合法，體現(xiàn)在法律原則上就是依法行政原則和程序正當(dāng)原則。

1.從實體上看，決策主體由人向機(jī)器的轉(zhuǎn)變削弱了行政執(zhí)法的合法性根基

人工智能對行政執(zhí)法活動的參與在一定程度上實現(xiàn)了機(jī)器對人的替代。只要有足夠的數(shù)據(jù)、預(yù)先設(shè)計好的算法和足以支持算法運(yùn)行的算力，人工智能即可脫離人類干預(yù)，全自動地分析案情并做出決策。人工智能的這種運(yùn)作模式使得由其參與而產(chǎn)生的行政處理決定體現(xiàn)出了“機(jī)器意志”［2］，而“機(jī)器意志”的背后則是人工智能開發(fā)者的意志。讓人不禁懷疑：人工智能參與行政執(zhí)法是否架空了行政機(jī)關(guān)的執(zhí)法權(quán)？到底是行政主體執(zhí)法還是人工智能技術(shù)開發(fā)者執(zhí)法？如何保證“機(jī)器意志”完全契合法律意志？

2.從程序上看，人工智能自動決策侵蝕程序正當(dāng)?shù)姆稍瓌t

程序正當(dāng)要求行政機(jī)關(guān)在作出涉及行政相對人利益的決定前，必須給予行政相對人陳述、申辯的機(jī)會，聽取行政相對人的訴求，并且對作出的行政決定說明理由［3］。在智能化的執(zhí)法模式下，現(xiàn)實可見的行政執(zhí)法程序轉(zhuǎn)化為高度隱蔽的后臺技術(shù)程序，最終輸出的處理結(jié)果是否公平合理則無從得知。在自動化行政執(zhí)法模式下，行政程序被大大簡化，相對人向誰陳述和申辯？聽證程序如何啟動？聽證結(jié)果與智能化決策結(jié)果不一致該如何抉擇？由此可見，人工智能參與行政執(zhí)法對相對人程序利益的保護(hù)存在許多漏洞。

（二）安全性風(fēng)險

1.人工智能參與行政執(zhí)法有技術(shù)安全風(fēng)險

首先，數(shù)據(jù)的真實性、可靠性直接影響人工智能算法的運(yùn)行結(jié)果。如果數(shù)據(jù)被泄露、篡改，行政執(zhí)法證據(jù)就會失去真實性與準(zhǔn)確性。其次，人工智能依賴的算法也存在不穩(wěn)定性，可能出現(xiàn)失靈或被黑客入侵的情形。一旦算法被篡改，其參與的行政執(zhí)法環(huán)節(jié)很可能產(chǎn)生錯誤的處理結(jié)果，導(dǎo)致行政相對人利益受損，行政機(jī)關(guān)公信力下降。

2.人工智能參與行政執(zhí)法有社會安全風(fēng)險

這里的社會安全風(fēng)險是指人工智能的廣泛應(yīng)用帶來的公眾隱私泄露風(fēng)險。在人工智能時代，公眾的隱私信息呈高度暴露狀態(tài)，人工智能極易通過自主學(xué)習(xí)獲取包含個人隱私的數(shù)據(jù)信息［4］，公民隱私權(quán)受到侵害的風(fēng)險大大提升。人工智能參與行政執(zhí)法使原本應(yīng)該由政府部門獨(dú)立掌握的隱私信息被迫開放給人工智能技術(shù)開發(fā)公司，因此面臨著被不法利用的風(fēng)險。

（三）公平性風(fēng)險

1.人工智能運(yùn)行依賴的原始數(shù)據(jù)不夠中立

人工智能運(yùn)行的基本模式是對海量數(shù)據(jù)進(jìn)行歸納總結(jié)，通過構(gòu)建算法模型來實現(xiàn)自動化決策。因此，基礎(chǔ)數(shù)據(jù)的真實性、客觀性、普遍性對于人工智能運(yùn)行至關(guān)重要，直接影響決策結(jié)果的內(nèi)容和質(zhì)量。數(shù)據(jù)在收集、存儲過程中可能產(chǎn)生瑕疵，原始數(shù)據(jù)自身的片面性也不容忽視。數(shù)據(jù)樣本的選擇缺乏全面性和數(shù)據(jù)樣本存在固有偏見都可能導(dǎo)致原始數(shù)據(jù)不夠中立，進(jìn)而使人工智能決策缺乏公平性。

2.人工智能參與行政執(zhí)法缺乏透明性

人工智能在實際應(yīng)用中的“黑箱效應(yīng)”不容忽視，算法一旦被設(shè)計出來投入使用便產(chǎn)生了天然的封閉性，應(yīng)用人工智能的行政執(zhí)法主體無法解釋算法自動決策背后的原理，也難以預(yù)測可能產(chǎn)生的執(zhí)法結(jié)果，導(dǎo)致行政執(zhí)法過程的公開透明很難實現(xiàn)。社會公眾由于對人工智能的認(rèn)識不足，很容易對人工智能參與行政執(zhí)法的公正性產(chǎn)生懷疑，進(jìn)而加劇行政執(zhí)法部門與社會公眾之間的信任危機(jī)。

四、人工智能參與行政執(zhí)法的風(fēng)險規(guī)制

（一）合法性風(fēng)險規(guī)制

1.明確人工智能在行政執(zhí)法中的適用范圍

行政機(jī)關(guān)應(yīng)當(dāng)明確人工智能參與行政執(zhí)法的工具屬性和輔助地位，堅持“以人為本”的執(zhí)法理念，避免盲目服從和過度依賴人工智能。人工智能參與行政執(zhí)法的具體環(huán)節(jié)、案件類型、參與方式、參與程度都要由行政機(jī)關(guān)進(jìn)行前置性把控，把控的標(biāo)準(zhǔn)就是要符合法律規(guī)定和法律原則。行政機(jī)關(guān)應(yīng)當(dāng)合理劃分案件類型，區(qū)分出哪些行政執(zhí)法行為適合由人工智能自動化完成，哪些行政執(zhí)法行為需要人工的干預(yù)。在具體案件的處理過程中，行政機(jī)關(guān)可以總結(jié)應(yīng)用人工智能輔助行政執(zhí)法的實踐經(jīng)驗和教訓(xùn)，向立法機(jī)關(guān)提出完善相關(guān)法律法規(guī)的建議。

2.保障行政相對人的知情權(quán)和自主選擇權(quán)

行政機(jī)關(guān)在使用人工智能進(jìn)行行政執(zhí)法時應(yīng)當(dāng)如實告知行政相對人，并賦予相對人合理懷疑的權(quán)利，面對涉及行政相對人利益的事項，行政機(jī)關(guān)有義務(wù)安排專業(yè)人員作出解釋。在保障行政相對人知情權(quán)的基礎(chǔ)上，應(yīng)當(dāng)視情況賦予相對人自主選擇執(zhí)法方式的權(quán)利，即有條件地允許相對人拒絕智能化執(zhí)法。該自主選擇權(quán)既包括案件首次處理時要求人工干預(yù)的權(quán)利，也包括對人工智能參與下的執(zhí)法結(jié)果不滿提起行政復(fù)議時拒絕人工智能參與的權(quán)利。應(yīng)當(dāng)注意的是，行政相對人的自主選擇權(quán)應(yīng)當(dāng)由法律法規(guī)進(jìn)行合理限制，明確自主選擇權(quán)的行使范圍和方式，防止行政相對人濫用權(quán)利造成行政資源的浪費(fèi)。

（二）安全性風(fēng)險規(guī)制

1.彌補(bǔ)技術(shù)安全漏洞

人工智能開發(fā)者應(yīng)當(dāng)承擔(dān)社會責(zé)任，加強(qiáng)對人工智能系統(tǒng)的安全檢測和風(fēng)險預(yù)警，通過技術(shù)創(chuàng)新和算法修復(fù)最大程度地彌補(bǔ)人工智能存在的安全漏洞。政府作為人工智能的應(yīng)用者，也應(yīng)當(dāng)加強(qiáng)內(nèi)部網(wǎng)絡(luò)的信息安全建設(shè)，通過構(gòu)筑更加牢固的防火墻、完善網(wǎng)絡(luò)安全監(jiān)測系統(tǒng)來抵御黑客入侵。針對數(shù)據(jù)的安全性，行政部門在應(yīng)用人工智能參與行政執(zhí)法時不僅要規(guī)范數(shù)據(jù)的收集與儲存方式，還要加強(qiáng)數(shù)據(jù)庫的安全建設(shè)，盡量把數(shù)據(jù)安全風(fēng)險降到最低。

2.重視保護(hù)公民隱私權(quán)

首先，要嚴(yán)格遵守《民法典》和《個人信息保護(hù)法》關(guān)于公民隱私保護(hù)的規(guī)定，在法律允許的范圍內(nèi)合理利用公民個人信息，公開信息收集的方式、目的、用途，由行政機(jī)關(guān)嚴(yán)格管控信息去向；其次，要著眼于人工智能參與行政執(zhí)法帶來的信息安全風(fēng)險的特殊性，組織人工智能專家、法律專家、行政機(jī)關(guān)的執(zhí)法專業(yè)人員開展專題研討，有針對性地提出公民隱私權(quán)保護(hù)的建議，為法律法規(guī)的完善提供理論支撐。

（三）公平性風(fēng)險規(guī)制

1.擴(kuò)大數(shù)據(jù)收集范圍，加強(qiáng)數(shù)據(jù)質(zhì)量把關(guān)

針對由于數(shù)據(jù)信息遺漏造成的決策偏見，行政執(zhí)法部門應(yīng)該深入貫徹落實大數(shù)據(jù)戰(zhàn)略，強(qiáng)化基礎(chǔ)信息平臺建設(shè)。為了提升數(shù)據(jù)資源的代表性和覆蓋面，可以嘗試?yán)萌斯ぶ悄艿臄?shù)據(jù)處理能力，收集特定行政執(zhí)法領(lǐng)域的公眾信息。針對數(shù)據(jù)本身可能隱匿的社會偏見，可以采用算法監(jiān)測的技術(shù)治理手段。

2.完善法律法規(guī)，治理人為設(shè)置的算法黑箱

人工智能的應(yīng)用不能完全依靠市場自發(fā)調(diào)節(jié)，應(yīng)當(dāng)從制度層面、法律層面予以規(guī)制。立法機(jī)關(guān)應(yīng)當(dāng)把人工智能應(yīng)用領(lǐng)域的信息公開原則通過法律法規(guī)明確下來，在保護(hù)知識產(chǎn)權(quán)和商業(yè)隱私的合理范圍內(nèi)，要求人工智能研發(fā)機(jī)構(gòu)適當(dāng)公開算法的設(shè)計理念、工作流程，并及時向行政執(zhí)法部門和社會公眾說明算法決策的構(gòu)建思路。同時應(yīng)當(dāng)補(bǔ)償性地賦予處于信息溝通弱勢地位的行政相對人一定的程序權(quán)利保障，具體來說就是使行政相對人面臨智能執(zhí)法可能對自身利益造成重大影響時，能夠要求執(zhí)法部門聯(lián)合人工智能開發(fā)機(jī)構(gòu)就智能執(zhí)法的運(yùn)行過程、決策依據(jù)等信息說明理由。

五、結(jié)語

法治不僅僅是要考慮當(dāng)下，也要考慮未來［5］。隨著人工智能在行政執(zhí)法領(lǐng)域應(yīng)用的逐步深入，如何論證智能執(zhí)法的合法性、如何維護(hù)技術(shù)和隱私的安全性、如何保證機(jī)器執(zhí)法的公平性等一系列風(fēng)險成為不得不面對的現(xiàn)實議題。對此，我們既不能“因噎廢食”又不能輕視風(fēng)險，而是要加強(qiáng)頂層設(shè)計，從制度層面、法律層面為風(fēng)險防控做出合理規(guī)劃，并加強(qiáng)多方協(xié)作，形成風(fēng)險治理的合力，以期實現(xiàn)技術(shù)發(fā)展與社會需求相適應(yīng)、科技進(jìn)步與法治建設(shè)相協(xié)調(diào)的良好局面。