算法治理的實踐發展與體系構建

曲世聞 張本祥

【摘要】算法是數字科技時代的關鍵信息技術，是人工智能社會的核心生產要素，在每一項人工智能科技背后都會有一套相應的計算機算法作為支撐。現階段，雖然我國已構建了較為完善的算法治理法律體系，但仍存在算法追責難題制約治理實效、主體合力不足加深治理難度、依賴硬性治理忽視柔性治理等現實問題。因此，需夯實算法治理法律制度基礎、構建多元主體參與治理范式、發揮柔性規范手段激勵作用，從而構建多元共治的算法治理體系。

【關鍵詞】算法治理? 數字經濟? 多元共治

【中圖分類號】D912.1? ? ? ? ? ? ? ? ? ? ? ? ? ?【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2023.03.014

作為數字經濟時代的生產力要素，算法早已被嵌入社會運行的諸多層面。黨的二十大報告指出，要“推進國家治理體系和治理能力現代化”。在這一背景下，如何規范算法應用，實現算法精準、高效治理，已成為國家治理現代化和智能社會秩序構建中的主要問題。

我國算法治理的實踐發展

算法指的是由計算機執行的一系列程序化的運算規則[1]。它是數字科技時代的關鍵信息技術，是人工智能社會的核心生產要素，在每一項人工智能科技背后都會有一套相應的計算機算法作為支撐。當前，隨著我國數字經濟規模的不斷增長，算法早已被普遍應用于包括電子商務、智能診斷、無人駕駛等在內的互聯網商業場景以及交通安全、城市管理、司法判決等電子政務公共服務領域。雖然算法的普遍應用能夠賦能社會發展，但對其的濫用，也導致了算法霸權、算法歧視、信息繭房等問題的出現。因此，必須加強對網絡算法的治理。近年來，我國根據互聯網和人工智能技術發展形勢，以及現階段頻現的算法濫用等問題，制定了一系列算法治理規范性文件和法律法規。

2020年12月，中共中央印發的《法治社會建設實施綱要（2020－2025年）》指出，應“制定完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度偽造等新技術應用的規范管理辦法”。2021年9月1日，《中華人民共和國數據安全法》正式實施，該法將網絡算法運用過程中的數據安全與主體權益保障作為監管重點。2021年9月17日，國家互聯網信息辦公室等九部門聯合發布的《關于加強互聯網信息服務算法綜合治理的指導意見》明確指出，要“利用三年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局”。2021年12月31日，國家互聯網信息辦公室等四部門聯合發布《互聯網信息服務算法推薦管理規定》，對算法推薦活動中信息服務規范、用戶權益保護、監督管理、法律責任等方面進行了規范。這是我國首部聚焦于算法治理的部門規章。2022年3月1日，《互聯網信息服務算法推薦管理規定》正式施行。2022年12月12日，國務院印發的《“十四五”數字經濟發展規劃》明確指出，要“著力強化數字經濟安全體系”。其中，作為整個數字經濟整體治理與系統治理的關鍵環節，算法治理不僅涉及市場治理，還涉及社會治理與國家總體安全。

總之，近年來國家有關部門陸續出臺的一系列涉及算法治理的規范性文件和法律法規，正是我國算法治理的重要實踐成果，意味著現階段我國針對網絡空間、互聯網經濟和電子政務公共服務等領域的算法治理法治化水平有所提高，尤其是《互聯網信息服務算法推薦管理規定》的出臺，標志著我國進入算法系統性治理階段。

我國算法治理面臨的問題挑戰

現階段，雖然我國構建起了較為完善的涉及算法治理的法律體系，但大多屬于規范性文件和指導性意見，欠缺強制執行力，再加之算法本身就容易遭遇技術性困境。因此，在算法治理過程中，算法濫用導致的諸多問題仍未得到解決，與此同時，還出現了一些新的情況。

算法追責難題制約治理實效。數字經濟的快速發展使算法在公共事務治理領域得到了廣泛應用，通過融入算法技術，公共治理模式得到有效優化。但由于算法追責機制尚不健全，加大了國家及公民權益維護的難度。首先，存在程序性治理困境。比如，在招聘員工等相關的算法設計中，部分算法會侵害員工的正當權益，但由于權利救濟缺位，員工無法找到可以依照的法定程序來維權。其次，一些企業憑借算法技術優勢遠端監控勞動者的勞動行為，這不僅使勞動者承受較大的工作壓力，而且在實質上侵犯了其合法權益，也增加了算法治理工作的難度。例如，外賣騎手在勞動過程中的行為受算法控制、網約車司機在算法監控下進行經營活動等都是典型案例[2]。最后，算法在智能醫療、輔助量刑等情境中得到廣泛應用，但在此過程中人身財產損害時有發生，對于因算法技術困境所帶來的損害，有必要進行責任劃分。當前，有關算法設計者、經營平臺、用戶個體分別該承擔怎樣的責任以及責任權重如何確定，尚未有明確的規定，從而加大了治理實踐難度。

主體合力不足加深治理難度。算法治理作為一項復雜的系統工程，需要政府機構、相關企業、行業組織等各主體的密切配合，然而目前各治理主體缺乏成熟的治理經驗及技術，這造成彼此之間無法形成治理合力。首先，政府機構內部往往存在“監管競爭”，部門之間容易立足自身職能出臺有關算法治理的法律文件，執行職權范圍內的算法治理措施。例如，有些較為關注金融領域的算法治理，而有些更關注數字勞動問題的算法治理等。鑒于各個部門職能不同，算法治理工作較為分散，這種多頭治理的模式往往會造成算法治理重疊或真空問題的出現，不利于提升治理實效。其次，作為算法應用的重要主體，互聯網企業在利用算法開展業務方面具有十足優勢，但一些企業存在算法濫用等不合規行為，據此必須要強化企業自查自糾，加大算法治理力度。最后，行業組織是算法治理的重要主體，對于規避因“黑箱化”所導致的算法風險具有重要作用，但目前我國互聯網行業的相關組織尚未針對算法治理形成統一標準、算法備案制度不健全、行業黑名單制度存在短板，這些問題加大了算法治理實踐工作的難度。在這方面，德國已經成立由專業媒體人士和技術專家組成的非營利性組織，用以對算法運用全過程進行動態監測和評估，并借力第三方獨立組織的力量來強化算法治理效果，為我國行業組織參與算法治理提供了借鑒。

依賴硬性治理忽視柔性治理。當前，我國在算法治理方面過于依賴法治手段和行政手段，而對市場調節、技術支持等柔性手段的補充價值重視不足，即算法治理停留于事后治理上，缺少對日常算法隱患的監管和排查，這勢必會加大事后算法治理的難度。在這方面，歐美等國家已經取得了寶貴經驗，例如，美國算法治理十分強調市場調節的作用，其利用動態敏捷的監管原則和技術加持，極大提升了算法治理實效性。又如，歐盟的算法治理十分強調公民個人的權利運用，數字保護機構作為算法治理的核心主體，通過制定系列“數據規則”來實現對算法行為的全過程管理，從而有效滿足了公民個人訴求，體現出極強的人文精神和技術理性。

我國算法治理的體系構建

夯實算法治理法律制度基礎。由于相關機制的不健全，算法治理實踐過程中會暴露諸多問題，因此，需提高算法治理法治化水平，不斷健全算法治理法律體系。應基于算法治理的內在需求構建完善的監管體系，對算法備案及系統性審查、按照不同級別和類型確定治理方案等事宜進行管理，形成常態化機制，使“算法法治”產生強勁的內生動力。一是重視算法備案工作，通過建立相關制度來完善算法登記備案系統。算法備案基于服務入口開展，要對算法系統中的重要信息內容進行登記，以備損害發生時監督機構能進行精準的故障溯源。算法備案制度可提高風險防范和管控能力，使算法監管形成高效的態勢和格局，實現對算法運行的即時觀測與處理分析。相關法律法規明確了算法備案的定位屬性，促成算法備案系統落地實施，但實踐中算法有著多元的形態和類型，要求算法備案系統持續擴大覆蓋范圍，秉持程序合法化原則確定規范性的實施程序，針對多元備案主體，應明晰權責邊界，從而使各主體有的放矢地開展相關工作。二是算法治理不可“一刀切”，需體現差異化的治理特點。當前，我國已針對數據安全建立了分類分級保護制度，算法治理也可借鑒這一模式，實現對檢索過濾類、個性化推送等算法推薦技術的差異化管理。不同算法推薦服務由于社會動員能力、輿論引領能力、關涉數據重要性的不同，可能對用戶行為造成不同影響。因此，一方面，應采取差異化的措施進行算法治理；另一方面，要出臺系列規章制度，明晰風險級別，確定操作性較強的標準體系，結合企業實際制定分級分類算法管理策略。三是開展算法審查工作，拓展監管的深度和廣度，以制度化的形式促進算法審查有序開展。針對算法審查建立專門化的組織機構，實現定期與隨機審查相結合，通過系統審驗來揭示并防范潛在的算法風險。算法審查應覆蓋全過程、全環節，形成閉環式的審查樣態，審查工作不僅包括數據輸入審查、算法設計審查，且應涵蓋算法運行及結果影響的審查，通過全方位審查監督有效降低算法風險的發生幾率。此外，審查監督還應重視對數據偏見的審查及對算法模型設計的審驗，減少算法決策的技術性偏差所帶來的負性效應。

構建多元主體參與治理范式。首先，政府部門的引導。政府是算法治理的重要力量。網信部門應做好牽頭工作，與教育、工信、市場監管等部門加強合作，形成聯動協作工作機制，共同打造算法安全治理體系，以促進算法治理工作的常態化、高效化。不同部門和機構需明晰自身職責，根據工作要求全方位開展監管工作，積極發揮主體功能，構建系統化的算法標準體系，持續提高普法、執法力度，促進算法治理形成良好態勢。其次，相關企業的執行。互聯網企業在算法設計、算法使用等方面具有優勢，應成為最富活力的行動者。旗艦型的互聯網企業不僅擁有前沿算法技術，且人才、資金方面的資源充沛，其在參與算法治理標準體系構建、規則制定等事宜上更具優勢。對于算法霸權、算法歧視等所造成的負面影響，相關企業應積極踐行社會主義核心價值觀，加大對算法倫理等社會普遍關注問題的研究力度，使科學技術的正性功能得到有效發揮。再次，行業組織的融入。人工智能企業發展聯盟等行業組織應在算法治理中發揮積極的能動性作用，這些組織的社會功能具有多元性、多樣化等特點。它們既可提供高品質的服務，亦可起到溝通協調作用，在行業標準制定等方面擁有較大的優勢。因此，在現階段算法治理過程中，建議行業組織立足行業發展需求加強相關學術及技術研究，促進產學研用一體化格局的形成，推動算法技術快速發展。最后，社會大眾的參與。社會大眾是算法相關產品的使用者，算法應用基于公眾需求而開展，因而，公眾也應擔當起算法治理的主體職責。算法治理應面向公眾開放更多參與渠道，及時吸納公眾的反饋意見，促進公眾與政府、平臺等其他治理主體的相互溝通。

發揮柔性規范手段激勵作用。作為信息時代的特殊風險，算法風險不僅普遍存在，且表現形式復雜多元，依托法律手段進行治理只能在一定程度上取得成效。因此，應在當前算法治理法律法規的指導下，積極運用技術治理、算法評估等更具柔性特點的治理手段，補齊法律治理的短板，防止企業因法律的強制性管控而喪失創新活力。第一，風險防范應與算法評估相結合。作為內外部監督一體化的治理模式，算法評估有助于大幅提高監督效能，在實踐過程中專門機構應對設計好的算法模型進行全方位評估，以規避歧視等情況的發生。應針對性構建算法安全檢查評估制度，督促企業進行內部評估，相關部門也須審驗算法推薦服務的合規性，當發現問題時及時作出提示并提出整改意見。第二，針對日常隱患監測進行技術治理。運用算法安全監管體系對數據使用、影響效果等進行全面監測，藉此預判信息內容的傳播態勢、網民的反應與行為方式等。當前，一些算法企業為了防止用戶隱私泄露、規避算法偏見，已在相關產品中融入了算法倫理原則，在數據篩選、模型優化等方面加強了技術支持，促進了算法風險的預防與化解。為了進一步提高算法治理效能，應重視算法全生命周期安全監測等技術的開發設計，同時推進第三方監測工作開展，從而加快算法標準化研究的成果轉化。第三，構建完善的行業標準。行業標準既是對企業需求、市場需求的一種規則上的回應，也是一系列可操作、可執行、具體化的技術規范。其通過對技術特性進行編碼處理并匯總整理而形成標準化程式，行業產品生產需滿足相關程式要求。現階段我國算法行業標準的構建，一方面，應以《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》為依據，積極打造與人工智能、人臉識別等新技術、新應用相關的標準技術體系；另一方面，還需強化算法標準之間的對接，并對立法規范加以細化，使之形成較為完備的操作細則。

（本文系中央支持地方高校改革發展基金項目“黑龍江省宗教治理體系與治理能力研究”和黑龍江大學博士創新科研項目“CAS視域下事實與價值關系研究”的階段性成果，項目編號分別為：2021GSP-15、YJSCX2022-011HLJU）

注釋

[1]劉澤剛：《論算法認知偏差對人工智能法律規制的負面影響及其矯正》，《政治與法律》，2022年第11期。

[2]陳聯俊、張寶麗：《算法技術推動網絡空間意識形態話語權變革及其治理》，《理論學刊》，2022年第5期。

責 編／肖晗題