規范性折射與法治

摘要：算法行政是算法與行政程序融合衍生出的新型行政模式，然而算法折射層的存在導致權利異化與風險擴張，算法與法治產生自由裁量與合理性原則、邊界溢出與權責統一原則、算法黑箱與行政公開原則等倫理沖突。基于此，需發揮合力、消解沖突，以實現算法效率與風險的平衡，具體措施包括：從當事人進路出發進行算法決策，推動算法折射層的可解釋性，重塑多元監管的問責體系。

關鍵詞：算法；算法行政；法治政府；算法折射

中圖分類號：D922.1文獻標識碼：A文章編號：2095-6916（2024）16-0086-04

Normative Refraction and Rule of Law

—Legal Dilemmas and Solutions in Algorithmic Administration

Wang Xueyu

（Legal Affairs Center， Civil Aviation University of China， Tianjin 300300）

Abstract： Algorithmic administration is a new administrative model derived from the fusion of algorithms and administrative procedures. However， the existence of the refraction layer of algorithms leads to the alienation of rights and the expansion of risks. And the combination of algorithms and rule of law results in many ethical conflicts ， such as conflicts between administrative discretion and administrative rationality， between boundary overflow and unity of power and responsibility， and between algorithm black box and administrative openness. Based on the legitimacy risk of algorithmic administration， it is necessary to make joint efforts and resolve conflicts to achieve the balance between algorithm efficiency and risk. Specific measures include algorithmic decision-making from the perspective of parties， promoting the interpretability of algorithmic refraction layer， and reshaping the accountability system of multiple supervision.

Keywords： algorithm; algorithmic administration; law-based government; algorithmic refraction

隨著互聯網的發展，信息技術經歷了從電子化到智慧化的轉變，無人機等新業態的智慧監管、人工智能在醫療衛生領域的深化應用都離不開智能算法。2022年國務院印發的《關于加強數字政府建設的指導意見》指出，加強數字政府建設是創新政府治理理念和方式、形成數字治理新格局、推進國家治理體系和治理能力現代化的重要舉措［1］。算法與行政程序的融合衍生出了新型的行政模式，即算法行政。但不能忽視的是，法律與算法有著天然的隔閡與壁壘，算法行政超脫了傳統部門法涵射的范疇且具有技術內生的不確定性風險。有學者認為，公共行政算法系統的發展可能會演變成一種算法規則，而這種規則實際上是法治的對抗［2］。

折射在物理學中是光或者無線電波等在通過一種介質和另一種介質之間的界面時發生偏轉的現象，當法律語言進入算法時就會發生規范性折射。成文法的語言本就存在立法意圖的折射，算法行政在此基礎上又增加了兩個折射層：代碼和數據。算法翻譯雖然能捕捉到法律意圖的特定瞬時狀態，但無法完全復制法律語言的開放紋理，這種翻譯帶來的差距逐層迭代進一步拉大了代碼與立法意圖的距離。

一、算法行政與法律倫理的沖突性探討

（一）自由裁量與合理性原則的沖突

羈束行政行為的產生來源于行政合法性原則，其法律規范清晰、行為對象明確、適用程序固定，法律依據與構成要件均無不確定的法律概念。而自由裁量權則來源于合理性原則，在法治國家不存在無約束的權力，因此基于合理性原則產生的自由裁量權理所當然地受到法律的拘束［3］。算法不同于傳統形式的政府購買服務，而是一種存在數據學習與實施決策，并且對行政相對人的權利造成直接影響的新型治理方式，自由裁量權一旦進入算法行政，結果的不確定性將大幅增加。芬蘭《公共信息管理法》只允許幾乎不需要自由裁量權的情況下進行自動決策，確需自由裁量權之時則由行政人員進行決策。但不可避免的是，逐漸膨脹的算法自動決策系統催生了系統性官僚與數字裁量權［4］。算法與自由裁量權之間的關系具有多維性：算法限制了行政決策中的自由裁量權，但并不會消除自由裁量權本身。算法的弱解釋性反而導致自由裁量權在信息平臺中隱匿，其從臺前轉移到幕后，從行政執法人員轉移到算法技術人員的手中，這導致了行政決策結果的不可預測性呈指數型增長。

傳統法律的自由裁量權在理想情況下不同于純粹的任意性表達，而是關聯著人性與同理心——這些人類的價值觀往往發揮著合理性或者相稱性的作用，算法自由裁量權取代人類裁量會將執法者異化為簡單的程序操作員，削弱裁量的能動性，在一定程度上削弱了個案正義的價值追求。算法系統的相稱性要求自由裁量權在算法系統中占有合理的比例，但相稱性僅能限制自由裁量權，無法將其完全消除，這就帶來了對于算法自由裁量是否公平和可信賴、是否符合道德規范、是否能避免算法偏見等問題的擔憂。

（二）邊界溢出與權責統一原則的沖突

不同于傳統人工智能的工具性、封閉性與弱交互性，生成式人工智能塑造了新型的人機政務關系，例如，ChatGPT就屬于基于Transformer架構和預訓練的生成式模型，通過訓練，ChatGPT的理解能力與決策能力幾乎達到人類水平。行政問責的正當性在于，即使行政機關依照授權合規進行決策，也必須遵守其他更高位階的法律原則，傳統行政行為的權力來源于法律，并依據法律具有可問責性。算法不斷擴張的自主能力溢出了傳統行政權力的覆蓋范圍，造成了主體間權力邊界的溢出。行政法要求行政行為必須遵守權責一致的原則，但是權力邊界的溢出與責任邊界的模糊催生了算法行政與權責一致原則的沖突。

傳統的“鏈條式”行政流程指的是一組為特定的公眾提供特定服務或產品相關的、結構化的集合或鏈條［5］。算法行政不同于傳統公權力鏈條式的行政模式，其運行過程是多維網格化的，難以建立起規范問責、精準問責的問責機制。歐美算法行政問責分為專業同行問責、社會公眾問責、行政機關問責，多數政策傾向于創造算法專屬的問責機制，寄希望于提供通道來質疑或者申訴有算法做出的決定［6］。算法行政具有強制性，即公眾無法拒絕算法行政或者選擇不同算法。但算法使用的規則可能會讓行政相對人陷入難以理解、解釋或者證明的困境，剝奪相對人的陳述申辯權，直接損害行政相對人的基本權益，且行政相對人大多專業能力有限，在傳統行政關系中本就屬于弱勢的一方，更遑論專業化程度極高的自動化決策。算法黑箱與技術壟斷成為了行政機關卸責的擋箭牌，若相對人轉而尋求服務供應公司的救濟則會受困于“商業秘密”之名義。權責一致要求行政機關服從法律并對其行為負責，但算法的技術性將會導致行政機構聲稱自己“只是在執行”，并將其行政決策的正式責任轉嫁給信息通信技術供應方來逃避責任，多主體的責任分立導致算法行政難以實現行政法權責一致的原則要求。

（三）算法黑箱與行政公開原則的沖突

行政公開是行政程序的基本原則之一，對于行政相對人而言，行政裁量基準通過行政公開、平等原則、行政自我拘束原則等機制產生法律約束力［7］。由于算法的專業性與技術性以及“算法黑箱”的存在，算法具有一定的“不可解釋性”。即使算法設計者通過AGN等解釋器的運作對算法運行的邏輯機理進行深入剖析，算法也只是從“不可解釋性”轉變為“弱解釋性”［8］。例如，在休斯頓教師聯合會訴休斯頓獨立學區案中，教師聯合會認為德克薩斯州某學區用于確定教師工資的評分系統不透明，教師無法探查該系統運行的合理性，該系統侵犯了教師的知情權。

從算法本身而言，基于算法折射層存在的客觀現狀，解析算法的成本和難度都較大，算法決策程序的不透明性和不公開化產生了算法行政中的“技術黑箱”。行政相對人在輸入相關信息后，無法通過鏈條式的程序得到環環相扣的決策結果，而是直接得到機器結果的反饋，“算法黑箱”與行政公開產生了沖突。截至目前，技術專家提出了諸多“算法黑箱”的解釋系統，但其中最先進的局部可解釋模型仍指出算法非常復雜且難以全局解釋。在某些情況下，訪問算法也成為一個問題，因為算法往往嵌入在一個更大的系統中，并受到無法觀察到的多個參數的影響。從法律法規而言，我國《個人信息保護法》規定了利用個人信息進行自動化決策之時應當保證決策的透明度，但該規定過于寬泛籠統，對于“透明度”應當作何解釋并未明確，且并未考慮到算法公開與商業秘密之間的不相容性。此外。算法經常作為國家秘密或者商業秘密不予公開，在深圳中院發布十件涉數字經濟知識產權司法保護創新案例中，深圳市智某信息技術有限公司與光某蝸牛（深圳）智能有限公司侵犯商業秘密糾紛案就明確了“算法應當作為商業秘密保護”。

二、算法的新型治理之構建

在西方法律傳統中，任何減損公民權利干預都需要法律證明，善政原則是法治的基石。因此，由計算機代理行政機關做出的決策應該受到與傳統人為決策相同或者更嚴格的規范保護，以減弱算法折射引發的困境。

（一）以人為本：當事人進路的算法決策

哈耶克警告了技術發展必然會對個人自由產生影響，他認為沒有一份受保護權利的清單可以被視為詳盡無遺。在構建算法的新型治理路徑中，行政機關除了關注程序正當性與結果合理性外，還需要重視“人的價值”，回歸“以人為本”的價值理念。算法決策需要從當事人進路出發來完善政務應用系統，這意味著要將“人性化”的理念設計和編碼到算法系統中，并且在內部審查與糾偏中成為算法的內在約束，使得“人的意義”在實踐中得以實現。人的目的性決定任何外在的實質主體或者擬制主體（如行政機關）皆不得簡單地以提升效率、維護秩序的名義降低人的主體地位［9］。內在的當事人進路是可信度的必要條件，從而構建“人機”與“人人”的相互信賴。

蘇力教授指出，要關心天理人情和正式法律體系相兼容的正當性［10］，在人類稍顯弱勢的算法決策中更應如此。因此，在算法的設計、運行、供給、反饋、迭代過程中引入公眾參與是消解人機隔閡的必要途徑。在算法的生成階段，需要對算法進行事前的合法性與合理性審查，行政機關和服務提供公司通過預先吸納大量群眾意見，將此類公眾偏好與需求嵌入底層數據，助力算法與行政相對人之間形成基于“天理人情”的決策共識；在算法的學習階段，引入“人”的概念，以試點的方式擴充人機交互的空間，將公眾的行為模式與價值偏好作為數據源，建立“學習—反饋—學習”的環形迭代訓練模型，從而提高算法的“人性化”水平；在算法的運行與反饋階段，要求行政機關將人視作具有獨立人格尊嚴的公民，而不是行政行為的客體和實現政府管理目標的工具。暢通對算法本身的反饋渠道，開辟線上線下的雙重渠道用以捕獲行政相對人對算法的意見，加強政民雙向交流。

（二）公開透明：推動算法折射層的可解釋性

算法的諸多問題根源都來自于其伴生矛盾“算法黑箱”，代碼和數據作為算法的折射層，不具有與生俱來的合法性，因此，推動算法公開透明，具有其不可否認的正當性：一是算法透明是提升政府公信力的必要手段，不透明的算法所輸出的行政結果無法令行政相對人得到“行為—結果”的正當反饋；二是算法透明是保障公民形式申辯和聽證等程序性權利的重要基礎，不透明則無質疑，將民意反饋至行政行為中是提升決策效能、保障公民權利的應有之義。只有在公開透明的算法系統中，公眾才能了解算法的真實運行鏈路與決策機理，從而實現真正的“人機互動”。在實踐中，許多地區已經進行了數據開放的實驗，例如，《山東省公共數據開放辦法》就規定，開放公共數據可以通過提供數據下載、提供數據服務接口與算法模型，以及提供結果數據這三種方式進行數據開放［11］。

雖然生成式人工智能的神經網絡算法使得算法透明更難實現，但從技術上破解算法黑箱的研究從未停止。有學者認為，算法的可公開性并不代表可解釋性，因此，源代碼的公開往往不被提倡［12］。在現有技術的制約下，管理算法折射層的一種方法是堅持將法律標準適用于任意折射層，通過反向追溯迫使折射層提升透明度。Matthew D Zeiler和Rob Fergus提出的算法工具使得將輸入可視化成為可能。此算法工具對于算法擁有者和使用者而言，在一定程度上打破了算法的技術壁壘，可以深入了解其內部運作，發現算法的潛在問題并推動算法的優化迭代。值得注意的是，算法的公開并不是絕對化公開，而是與政府信息公開制度相對應，遵循“公開為原則、不公開為例外”的行政公開原則，制定重要數據目錄和公共數據開放清單，列明可以向社會開放共享的公共數據，并且要對開放的公共數據進行清洗、脫敏、脫密、格式轉換等處理。因此，需要在平衡算法透明度與國家利益、公共利益與個人利益的基礎上，辨明公開的邊界。

（三）權責統一：以多元監管重塑體系化問責

滯后的制度運行、不充分的行政賦權和科層制的結構性缺陷等問題容易導致行政行為內部的分裂與算法權力的膨脹。算法的本源是一系列解決問題的清晰指令，本身并不能處理行政事務，算法行政應當在發揮自身中立高效優勢的前提下，將權力下放，實現反向的“算法賦權政府”［13］，完成“機器權力”向“人類權利”的回歸。

行政機關不能簡單地處于規則背后的“隱身”狀態，聲稱自身“僅在執行”，也不能將決策的責任推卸給具體行政人員和算法外包公司。無論算法的折射層有幾重，也無論行政機關與外包公司如何合作，行政機關都要堅持人類歸責原則，承擔公法上的責任。權責統一的落實需要建立權力清單和責任清單制度，依托現有的行政問責體系，重塑新形勢下的多元化監督問責機制：除普遍性的公眾監督之外，還要重視行政機關內部監督與行業專家的專業化監督。前者屬于行政機關的“依職權審查”，需要行政機關定期進行自我審查與自我糾偏，對自身制定、使用的算法建立備案審查機制，從算法的源代碼、適用場景、輸出結果等環節入手，以合憲性與合法性為準繩，審慎地對算法進行審查與備案。例如，《四川省數據條例》中就規定，政務部門和公共服務組織應當按照國家和省有關規定對服務提供方進行安全審查［14］。由于行政機關審查人員在擊穿算法“外衣”時常常因技術壁壘而力不從心，多數學者認為應當建立專門的算法專業化監督模式，在涉及公民重大人身、財產利益時，適當引入專家進行事實問題商討，跳出專業桎梏從而對算法的保密性、安全性、服從性、隱私性以及算法的全部邏輯基礎生成過程進行監督。

三、結束語

算法行政是科技與法律結合的產物，在給行政決策賦能的同時也帶來了諸多隱患，協調好算法、行政機關與行政相對人三方的關系是算法時代的一項重要課題。算法的快速發展與不斷迭代意味著將算法引入行政決策是一個需要久久為功的過程，應當從我國基本國情出發，立足算法本身的邏輯鏈路，以消解算法的法律困境，筑牢算法決策系統的法治根基。

參考文獻：

［1］中華人民共和國中央人民政府.國務院關于加強數字政府建設的指導意見［EB/OL］.中華人民共和國中央人民政府網.（2022-06-06）［2024-04-25］.

https：//www.gov.cn/gongbao/content/2022/content_5699869.htm.

［2］馬懷德.數字法治政府的內涵特征、基本原則及建設路徑［J］.華東政法大學學報，2024（3）：6-22.

［3］李靖，高崴.強化行政自由裁量權的制度性約束：基于行政問責制［J］.吉首大學學報（社會科學版），2011（1）：81-85.

［4］樊博，李晶晶.算法透明何以提升公眾的政府信任？［J］.公共行政評論，2024（1）：4-24，196.

［5］張金順，霍偉偉.縣級政府行政流程再造研究［J］.廣西民族大學學報（哲學社會科學版），2007（6）：138-140.

［6］張惠彬，王懷賓.算法行政問責的機制與評估：基于歐美40份政策的實施分析［J］.中國行政管理，2024（1）：89-99.

［7］王青斌.行政裁量基準的法律屬性及其效力分析［J］.政治與法律，2023（7）：18-33.

［8］張新平.算法與法律的沖突及其化解［J］.法律科學（西北政法大學學報），2024（2）：135-146.

［9］朱瑞.論算法行政的技術性正當程序［J］.財經法學，2023（4）：103-117.

［10］蘇力.送法下鄉" 中國基層司法制度研究［M］.北京：中國政法大學出版社，2000：185.

［11］山東省人民政府.山東省公共數據開放辦法［EB/OL］.山東省人民政府網.（2022-01-31）［2024-04-26］.

http：//www.shandong.gov.cn/art/2022/2/9/art_107861_117336.html.

［12］于一帆.自動化行政中算法的可公開性及其范圍［J］.行政法學研究，2024（1）：159-167.

［13］王亞星，陳子韜，吳建南.算法化行政：技術何以提升城市公共問題解決效率？［J］.中國行政管理，2023（6）：51-60.

［14］四川省人民代表大會常務委員會.四川省數據條例［EB/OL］.四川省人民政府網.（2022-12-02）［2024-04-26］.

https：//www.sc.gov.cn/10462/10778/10876/2022/12/7/ef18ce54605f4223950da663815255f4.shtml.

作者簡介：王雪玉（1995—），女，漢族，江蘇徐州人，單位為中國民航大學法律事務中心，研究方向為科技法學。

（責任編輯：張震）