自動化行政法律風險的防范與化解

〔摘要〕 自動化行政是實現數字法治政府建設目標的基本方式和必經環節，彰顯出技術治理的顯著優勢。但在算法決策固有弊端的作用下，自動化行政面臨造成公法和私法責任混淆、侵犯公民隱私權和個人信息等多種法律風險。造成這些法律風險的原因在于“權力—權利”格局的失衡，亦即法律治理對“權力—權利”平衡格局的保障不足。為此，應通過細化行政主體責任承擔制度、健全個人信息保護制度、完善行政相對人程序參與制度等舉措對自動化行政法律風險予以防范與化解。

〔關鍵詞〕 自動化行政；法律風險；技術治理；法律治理

〔中圖分類號〕D922.1 〔文獻標識碼〕A 〔文章編號〕1009-1203（2024）01-0082-05

在全面建設數字法治政府的目標驅動下，我國各級政府和行政機關不斷探索依法行政的新模式、新路徑，自動化行政應運而生。自動化行政，是國家行政機關或某些特定的社會公共組織通過人工智能、大數據、云計算、區塊鏈等數字技術手段對公共事務實施組織和管理的系列活動及過程，其根本目的在于實現公共利益〔1〕。作為新興技術在政府治理領域的生動實踐和典型產物，自動化行政誕生于公民“同意”、程序正義和實質便民的前提下，彰顯出執法效率高、類案同罰等天然的技術治理優勢。同時，由于技術進化具有歷時性、曲折性特征，自動化行政對行政模式的變革效果不可能立竿見影，必然要經歷一個反復試錯和風險規避的過程。對于技術治理過程中出現的各種風險，法律回應不可或缺。因此，筆者認為，有必要從法律視角厘清自動化行政在推進過程中可能面臨的風險樣態，并在分析成因的基礎上進行風險防范與化解，以保障自動化行政完成向更高階段的順利躍遷，促進技術治理與法律治理的有機融合，實現數字政府與法治政府的同頻共振〔2〕。

一、自動化行政面臨的法律風險

作為一種技術治理手段，自動化行政在轉變行政模式及塑造行政程序方面的成效較為顯著，但同時其面臨的法律風險和挑戰也不可避免。受制于數字手段固有的局限性，技術設備本身極易產生“算法歧視”和“算法黑箱”等問題，自動化行政在運行過程中面臨多種法律風險。

（一）造成公法和私法責任的混淆

實踐中，傳統行政活動所致的損害賠償或補償較易明確和界定，行政相對人的救濟途徑較為明晰。但在自動化行政模式下，從程序設計、設備安裝到依靠算法決策作出行政決定，諸多環節牽涉多方主體，增加了責任主體認定的法律風險，不僅使得救濟途徑模糊化，更容易造成主體間的責任推諉。以審判實踐為例，發生在廣東省中山市火炬開發區的“雙向綠燈制造車禍案”具有典型意義：由于交通信號燈故障，案發時各個路口均顯示為綠燈，行為人在此錯誤指示下行駛導致車禍。事后法院并沒有追究交通信號燈指示作出部門的行政責任，而是以作為產權人和管理人的火炬開發區建設分局沒有盡到設備管理和維護義務為由將致損原因全部歸責于交通信號燈，將法律責任定性為民事責任。

由于自動化設備呈現的“物”之表象，致損責任極易被認定為公務管理瑕疵的民事責任，上述案件作出的責任認定，就存在此種紕漏。作為自動化行政設備，交通信號燈輸出的指令與交通警察的指揮具有同等法律效力，行為人對其指令的踐行即是對具體行政行為的信任和服從〔3〕。損害結果應當歸因于這種信任和服從而非設備本身，故責任性質也應認定為行政行為瑕疵的公法責任，而非公務管理瑕疵的私法責任。對數字技術設備公共職權屬性的忽視，使得行政責任假借“物”之外衣遁入私法領域，增加了公法和私法責任混淆的法律風險，容易引發責任主體界定不明和責任推諉的問題。

（二）侵犯公民隱私權和個人信息

在一些案件中，自動化行政暴露出侵犯公民隱私權和個人信息的法律風險。以四川省綿陽市的“高速摸胸門”事件為例，“左手駕車、右手襲胸、腳底猛踩油門”超速取證照片在網絡上的火速傳播，不僅將違規人員的信息暴露無遺，也給同乘人員帶來了隱私曝光的困擾。與之類似的還有“闖紅燈抓拍”等自動化執法行為，行人一旦違規，其面部就會被放大呈現于路旁的顯示屏上，這種做法雖有一定的懲戒和震懾作用，但也存在侵犯公民隱私權和個人信息的法律風險。

自動化行政的運行建立在民眾明示或默示“同意”的前提下，蘊含著民眾對行政主體的深厚信任。在這項技術波及的事項范圍內，以政府為代表的行政主體是民眾信息的最大擁有者。憑借各項數字技術，信息和數據能夠快速整合，形成關于特定人的信息鏈條，將個人徹底透明化。若政府等行政主體監管不力導致信息泄露，將嚴重侵犯公民隱私權和個人信息，帶來一系列法律風險。因此，技術治理必須在法律制度的約束下進行，才能行穩致遠。

（三）減損行政相對人的程序性權益

傳統行政活動將行政程序作為規范和控制行政權力的重要抓手，自動化行政也應如此。雖然自動化系統在設計之初就隱含著程序正當的前提，但在實踐中與錯綜復雜的案件情況進行對接時，裁判結果卻不盡如人意。行政決定全然依賴算法決策作出，部分或全部地排除了人工干預，必然會強化行政活動的秘密性，使行政正當程序面臨風險與挑戰。

經技術賦能的自動化行政以無人化為發展趨勢，減少了行政相對人與行政主體直接對話的權利和機會，降低了二者的溝通效率。同時，對于自動化行政無法規避的“算法歧視”“算法黑箱”等問題，決策系統的不透明性威脅著行政公開原則，決策過程的無人化挑戰著行政相對人參與原則，使得行政相對人的陳述申辯權、知情權等程序性權益均受到不同程度的侵犯〔4〕，法律治理對技術發展所帶來的挑戰應對不足。

（四）缺乏相應的裁量、變通和解釋能力

自動化行政行為的作出不可避免地面臨著自由裁量空間被壓縮的風險。經由程序設計，對不同類型的行政活動進行區分設定，自動化設備在運行過程中全然遵循既有的運算程式進行機械性推演。對于普通案件，自動化系統依賴算法作出決策，表現得游刃有余，但在遇到疑難案件，需要根據個案中相關因素行使自由裁量權時，就難免有些束手無策，無法保證個案正義的實現。

此外，數字技術尚未發展至成熟階段，不僅無法進行自由裁量，而且不具有相應的法律變通和解釋能力。一方面，自動化系統在運行過程中往往按圖索驥，只根據案件事實尋找單一的法律規范進行適用。在找不到高度契合的法律規范時，系統極有可能將某一案件直接判定為立法空白，導致案件陷入僵局。另一方面，由于人類語言的靈活性和多樣性，法律法規用語無法保證絕對精確和時刻一致，自動化系統也就無法對歧義或多義詞匯作出正當解釋。一旦發生理解錯誤，不僅法律適用不當的尷尬局面難以避免，執法密度也存在被擴大的風險，技術治理將面臨來自法律治理的質疑和考驗。

二、自動化行政法律風險的成因分析

現代行政法以“平衡論”作為理論基礎，行政權與公民權之間既需要彼此制約，又應當相互平衡〔5〕。自動化行政所致的法律風險雖樣態不同，但呈現出共同規律，即風險后果主要由行政相對人承受和負擔，私主體權益遭受損害的概率較大。故上述法律風險樣態只是表象，風險成因在于“權力—權利”格局的失衡，亦即現行法律制度對自動化行政帶來的沖擊回應不足，導致行政權的擴張和私權利的減損，使自動化行政陷入風險。

（一）技術治理對“權力—權利”平衡格局的沖擊加劇

1.技術治理加速了行政權的擴張。在自動化行政模式下，科技手段的助力使得公權力行使逐步提質增效，行政權與數字技術的耦合度不斷加深，聯系日益緊密，行政權由此得到擴張。行政權的擴張本身是法治社會發展的趨勢之一，但技術治理在一定程度上催化了這一進程。正如自動化行政所面臨的侵犯公民隱私權與個人信息的風險，通過各項數字技術，行政主體往往能夠獲得與行政相對人相關的諸多信息，有些甚至已經超出了執法需要，使得行政權邊界蔓延至公民隱私領域。同時，公法責任潛入私法領域也是行政權擴張的有力佐證。

2.技術治理造成了私權利的減損。公權力與私權利本就是此消彼長的，公權力不斷膨脹，必然會壓縮私權利的生存空間〔6〕。在技術治理語境下，由于行政相對人和自動化設備無法及時溝通，其程序性權利的行使受到限制。盡管設想未來能夠對自動化設備進行擬人化設計，使其在外觀上能夠與當事人進行“對話”，但設備運行程式反應的機械性仍然無法與行政人員的靈活溝通相媲美〔7〕，自動化行政對行政相對人知情、陳述和申辯等程序性權益的減損是不可避免的。此外，自動化設備無法保證行政決定或裁判結果的公平性和合理性，若其作出的決策不當，不利后果由行政相對人直接承擔。這樣，行政相對人不僅經歷了時間、金錢成本的損耗，還可能面臨二次尋求救濟無果的難題，其合法權益難以實現。

（二）法律治理對“權力—權利”平衡格局的保障不足

1.行政主體責任承擔制度有待細化。在傳統行政活動中，行政行為所致損害的法律責任由相應的行政主體承擔。而在自動化行政中，數字執法以其“物”之外觀遮蔽了行政行為的“人”之屬性，帶來了公法和私法責任混淆的風險，這無疑使行政相對人尋求救濟面臨阻礙。現有法律對公法、私法責任承擔的規定散見于幾部法律之中，雖具有一定的參考意義，但與自動化行政模式下法律責任界定的適配度并不高。

2.個人信息保護制度有待健全。隨著《中華人民共和國民法典》和《中華人民共和國個人信息保護法》（以下簡稱《個人信息保護法》）的出臺，個人隱私權和信息的保護逐漸有章可循。《個人信息保護法》為掌握海量數據的互聯網平臺設定了“守門人”角色，要求其在信息保護方面承擔相應的責任。借鑒這種做法，在技術治理過程中，應當通過具有針對性的法律條文約束行政主體的行政行為，要求其對公民個人信息做到合理利用、妥善保管，并嚴格接受法律規制，以充分維護行政相對人的合法權益。

3.行政相對人程序參與制度有待完善。行政相對人的程序參與權是一個龐大的權利體系，以知情權、聽證權、陳述申辯權等程序性權利為主要內容。目前，我國行政立法對程序問題的規定多局限于傳統行政活動層面。隨著技術治理參與行政活動的程度不斷加深，立法亟需在已有法律法規的基礎上進行完善，通過相應制度保障自動化行政中行政相對人的各項程序參與權，并為其提供有效的救濟途徑，以保持“權力—權利”平衡格局的穩定性。

4.行政行為瑕疵補正制度有待建立。目前，自動化系統還未全然進入成熟階段，囿于機械性、僵硬性等固有弊端，尚無法進行妥當的法律解釋和靈活的自由裁量，易導致個案的不公正。即使未來數字技術發展到成熟階段，能夠賦予自動化系統一定的解釋變通本領和自由裁量能力，但也無法保證其解釋不會向善法的對立面發展，作出有失公允的判決。因此，自動化行政天生的局限性仍需要人力來克服，其所作行政行為的瑕疵需要相應的行政主體來彌補，而這一機制的建立必然要通過法律手段實現。

5.算法規制制度有待豐富。上述各種法律風險的產生，在不同程度上均源于算法設計的不成熟。從內部規制來看，算法問題的解決似乎只能依靠科技力量，與法律無涉，因為法律本身不能調整算法。但是，算法終究是人類智慧的產物，其在嵌入自動化系統及運行時難免會受到人類價值判斷的影響，算法問題終究不是赤裸裸的技術問題，技術治理無法脫離法律輔助而存在。一方面，算法本身的運行離不開法律支撐；另一方面，算法作為自動化行政法律風險的生成誘因，理應受到規制，在其決策對行政相對人的權益造成損害時，法律治理必然不能缺位。

三、自動化行政法律風險的防范與化解

隨著技術治理對“權力—權利”平衡格局的沖擊加劇，法律治理應充分發揮其預防和懲戒作用，通過具體制度為自動化行政的運行和發展提供保障。自動化行政法律風險的防范與化解，應從內外兩方面發力，以“權力—權利”平衡格局的實現為目標，以行政主體責任承擔、個人信息保護、行政相對人程序參與權和行政行為瑕疵補正、算法規制等制度的設計與完善為抓手。

（一）細化行政主體責任承擔制度

自動化行政模式下的責任承擔問題，可根據自動化行政致人損害的不同情形作分類界定：其一，在自動化設備本身致人損害的情形中，致損原因是“物”的瑕疵，如電子監控設備墜落砸中路人，物的墜落直接導致了行政相對人受傷的損害后果，兩者之間具有因果關系。由于相關主體沒有盡到維修、管理義務，故可以直接根據民事訴訟法的歸責原則認定為民事侵權責任，亦即公務管理瑕疵的私法責任。其二，在自動化行政行為致人損害的情形中，自動化設備作出的意思表示代表著行政主體而非技術主體，其行為具有職權屬性，能夠使行政相對人產生合理信賴。與此同時，鑒于自動化行政所具備的現場無人化特征，行政相對人直接向技術主體尋求救濟的可能性較低，但依據行政處罰等電子憑證尋找行政主體則相對容易。因此，為了向行政相對人提供最大便利并保證行政糾紛的處理效率，該情形下承擔賠償責任的主體應當是具體行政行為的作出部門，即負責自動化行政的部門。至于行政主體與技術主體的責任劃分和承擔，在行政機關內部展開即可，不應讓法律風險的不利后果波及行政相對人。

（二）健全個人信息保護制度

1.在收集信息時采取“最小原則”。《個人信息保護法》要求信息收集限于實現處理目的的最小范圍，不得過度收集個人信息〔8〕。這一原則可延伸至自動化行政領域。以交通抓拍為例，行政主體應結合具體目的選取最精準的監控設備，避免過度收集信息。技術治理的精準化、行政手段的溫和化，能夠有效避免極端事件的發生，將自動化行政對個人的不利影響降至最低。

2.設立數據保護委員會和監督機構。《個人信息保護法》確立了幾項重要原則：信息收集應合法、正當、必要和誠信；信息處理要公開、透明；信息收集后需采取必要措施確保個人信息安全。以此為指引，行政機關可以設立專門的數據保護委員會以加強對個人信息的保護。此外，對于自動化行政所作的行政行為，可以設立專門機構進行監督，以評判其是否存在泄露個人信息的法律風險。

3.建立個人信息泄露的追責機制。為確保個人信息的擁有者和處理者嚴格履行個人信息保護義務，有效規范個人信息的收集、處理和保管活動，《個人信息保護法》設置了較為嚴格的行政和民事法律責任〔9〕。對于自動化行政過程中發生的個人信息泄露問題，應當建立起針對行政主體的懲戒機制和行政相對人的救濟機制，確保行政相對人合法權益的實現。

（三）完善行政相對人程序參與制度

以《中華人民共和國行政處罰法》（以下簡稱《行政處罰法》）為例，該法律此前并未對“非現場執法程序”進行規定。由于缺乏法定程序的規范，在交通執法領域出現了一些“電子眼”濫用的現象，帶來了執法密度擴大的風險。針對這一問題，2021年7月15日新修訂的《行政處罰法》在第41條作出回應，從幾個方面對非現場執法進行了規范和細化，這些具體的程序性規范成為行政相對人行使陳述、申辯等程序參與權的重要依據。以此為契機，可以期待與行政相對人程序參與權相關的法律規范進一步完善并落實，使法律治理充分保障技術發展。

此外，以《中華人民共和國政府信息公開條例》為依據，行政主體應當在法律規定的范圍內做好自動化行政信息公開工作，切實保障行政相對人的知情權。只有在知情的前提下，民眾才能切實參與到行政程序中，與行政主體進行對話和互動。例如，行政主體在安裝電子監控等自動化設備時，應預先公開信息、發布公告，確保行政相對人知曉。

（四）建立行政行為瑕疵補正制度

雖然行政領域的自動化程度日益加深，但在強人工智能時代到來之前，行政活動尚不能實現完全的自動化，自動化設備能夠處理的行政事項范圍有限，行政活動或多或少地需要人工干預。除此之外，即使在行政行為能夠完全實現自動化的場合，也有可能出現行政決定錯誤等特殊情況，依然需要人工因素的介入來收拾“殘局”，化解技術治理帶來的風險。

《互聯網信息服務算法推薦管理規定》第11條要求算法推薦服務提供者建立人工干預機制〔10〕。以此為參考，可以展開詳細的程序補正制度設計。例如，當某項行政決定的作出需要進行聽證時，應當由公務人員介入，保證聽證程序的實現。待聽證結束后，再由其將聽證結果錄入自動化系統。再如，若行政相對人對自動化系統作出的行政決定產生異議并提起復議或訴訟時，由于被申請人或被告的確定規則復雜多樣，除依賴自動化系統對行政相對人進行引導外，行政機關還應特別設立公務人員進行檢查與核驗，以確保復議或訴訟的主體適格。

（五）豐富數字技術算法規制制度

1.在算法設計階段融入“善”的法律價值觀。在自動化系統的設計階段，技術人員應將諸如守法、自由、關愛、尊嚴等“善”的法律價值因素融入算法，為自動化系統提供基本的“善”原則指引，使算法運行符合數字法治政府建設的基本追求〔11〕。

2.賦予技術主體相應的解釋義務。在自動化行政中，輸入數據和信息的質量均會對算法運行結果產生影響。為了保證數據和信息的質效，法律需要在算法運行中發揮監管作用，并對技術主體賦予解釋義務，以彌補數字執法無法進行法律解釋的缺陷。根據《信息安全技術" "個人信息安全規范》的規定，數據主體有權對僅依據信息系統自動決策作出的顯著影響個人信息主體權益的決定提出申訴，技術主體應通過“答復及合理解釋”及時予以回應〔12〕。據此，法律對自動化行政的技術主體賦予解釋義務具有可行性和必要性。

3.規定由第三方力量監管算法運行。由于技術發展的不穩定性，算法本身極易出現漏洞。為實現對算法權力的運行和監管，應適當引入第三方監管力量，準許學術性組織和非營利性機構的參與和干預。目前，在技術專家和資深媒體人的引導下，德國已經成立了名為“監控算法”的非營利性組織，并明確了具體的監管手段，旨在對影響公共生活的算法決策過程進行評估和監測，從而保證自動化系統的平穩運行。通過法律制度設計，這種做法在我國自動化行政監管領域也可以得到運用和推廣。

〔參 考 文 獻〕

〔1〕秦梅玉.自動化行政的興起及其法律挑戰〔J〕.社會科學動態，2021（02）：5-12.

〔2〕周維棟，周佑勇.數字政府如何與法治政府更好結合？——基于技術與制度融合的分析視角〔J〕.中國行政管理，2023（10）：71-80.

〔3〕敖雙紅，雷金晶.論自動化行政及其法律規制〔J〕.湖南警察學院學報，2017（01）：84-90.

〔4〕胡敏潔.論自動化行政中的瑕疵指令及其救濟〔J〕.北京行政學院學報，2021（04）：81-88.

〔5〕羅豪才，袁曙宏，李文棟.現代行政法的理論基礎——論行政機關與相對一方的權利義務平衡〔J〕.中國法學，1993（01）：52-59.

〔6〕姚如許.自動化行政處罰的法治進路〔D〕.大連：大連海事大學，2023.

〔7〕胡國任.自動化行政的法律控制〔J〕.克拉瑪依學刊，2021（02）：52-59.

〔8〕李寶敏.算法歧視的民法規制〔D〕.大連：大連海洋大學，2022.

〔9〕肖 菲.你的個人信息安全由它來守護〔J〕.保密工作，2021（11）：17-19.

〔10〕王 芳，劉曉含.自動化行政中算法決策風險的法律規制〔J〕.中共山西省委黨校學報，2023（03）：90-94.

〔11〕張富利，郭燁棋.芻議數字法治政府的建構〔J〕.中共山西省委黨校學報，2023（05）：74-79.

〔12〕解正山.算法決策規制——以算法“解釋權”為中心〔J〕.現代法學，2020（01）：179-193.

責任編輯 梁華林