論算法備案制度

張吉豫

內容摘要：算法備案是我國在新時代創設的一項算法治理制度。這項制度是“有效市場與有為政府相結合”的治理原則在數字領域的延伸和創新，是在數字法治的實踐背景下推進算法治理的一項重要舉措。作為一項創新制度，需要以國家治理和數字法治的原理為指引，透視其法律屬性、政策屬性與治理功能，厘清算法備案對象所具有的技術與規范雙重性質。在此基礎上，以目的思維、合作思維、辯證思維、系統思維等科學方法推進算法備案制度建設，以良法善治的理念和機制，來規范、優化算法備案制度功能，進而最大限度地發揮其提高監管效能、控制算法風險、激勵企業合規、保障公民權利、促進公共利益的作用，在法治的軌道上推進數字科技向善。

關鍵詞：算法備案 算法治理 人工智能治理 多元共治 算法透明 良法善治

中圖分類號：DF0 文獻標識碼：A 文章編號：1674-4039-（2023）02-0086-98

算法備案是我國在新時代創設的一項算法治理制度。這項制度是“有效市場與有為政府相結合”的治理原則在數字領域的延伸和創新。自《互聯網信息服務算法推薦管理規定》實施以來，國家網信辦于2022年8月、10月及2023年1月先后三次公布了《境內互聯網信息服務算法備案清單》，發布了223項算法備案。社會公眾可以通過備案清單了解算法名稱、算法類別、主體名稱、應用產品、主要用途和備案編號等信息，并可以在互聯網信息服務算法備案系統中進一步查詢公開的算法基本原理等各項信息。《互聯網信息服務深度合成管理規定》也規定了具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、注銷備案手續；深度合成服務技術支持者應當參照該款規定履行備案和變更、注銷備案手續。

我國的算法備案制度雖然開啟于互聯網信息服務領域，以《關于加強互聯網信息服務算法綜合治理的指導意見》以及前述兩項管理規定為標志，但作為算法治理的一項制度創新，其未來適用范圍卻不局限于互聯網信息服務領域，其制度屬性和治理功能亟待深化研究。本文以算法治理體系和治理全鏈條為背景，以構建科學完備、公正合理、運行高效的算法備案制度和算法治理體系為宗旨，探討算法備案的屬性與治理功能，為未來算法備案制度的完善和適用范圍擴展提供法理論證和建議。

一、算法備案制度的創設

隨著數字中國建設的快速推進和數字技術的廣泛運用，“算法泛在”已經成為數字社會的重要表征。從互聯網空間中的內容推薦、商品推薦、活動推薦、好友推薦，到智慧家居、智慧交通、智慧醫療、智慧城市等諸多領域的數字化、智能化發展，其中都包含著各種各樣算法的運行。算法在數字社會中“不僅成為生產生活的重要組織者，還是社會秩序的重要建構者”，在實際上構成信息推送、商品定價、信用評價、用人招聘、績效計算乃至社會危害性評價、警力調配、城市規劃等方方面面的實際規則，正日益廣泛而深刻地影響著社會主體的行為、決策和權益。

算法是一把“雙刃劍”，在推動社會生產生活方式更新變革、加強各類決策和事務的自動化和智能化的同時，也可能給社會帶來各種風險和隱患。算法黑箱、算法歧視、信息繭房、輿論操控、不正當競爭等各種問題逐漸顯露，受到社會各界的廣泛關注，并已經納入國家治理范圍。因此，算法治理越來越成為國家治理體系的重要組成部分，成為建立和維護數字社會法治秩序的“牛鼻子”。與此同時，近些年來，實務界和學界對于算法風險分級、算法影響評估、算法審計、算法責任、算法透明、算法解釋等治理方法和制度工具進行了比較集中的討論，專家們提出了分級分類治理、場景化治理、敏捷治理、多元共治等原則和理論。

在互聯網領域，一些算法服務時常為“輿論風暴”推波助瀾，甚至成為一些“黑天鵝”“灰犀牛”事件的幕后推手。因此，互聯網領域的算法治理迫在眉睫，各種治理方案應運而生。其中，創設算法備案制度就是一項關鍵舉措。2021年9月，國家互聯網信息辦公室、中央宣傳部等九部門聯合發布了《關于加強互聯網信息服務算法綜合治理的指導意見》（以下簡稱《算法治理指導意見》），提出“利用3年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局”，同時把算法備案管理明確列為“創新性地構建形成算法安全風險監測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規行為處置等多維一體的監管體系”中的關鍵一項。其后，2021年底通過的《互聯網信息服務算法推薦管理規定》（以下簡稱《算法推薦管理規定》）和2022年通過的《互聯網信息服務深度合成管理規定》，分別規定了具有輿論屬性或者社會動員能力的算法推薦服務提供者、具有輿論屬性或者社會動員能力的深度合成服務提供者和技術支持者的備案義務。

除互聯網信息服務算法治理領域外，2022年發布的最高人民法院《關于規范和加強人工智能司法應用的意見》也提出，要“推動人工智能同司法工作深度融合，全面深化智慧法院建設，努力創造更高水平的數字正義”，在第6條中明確規定堅持“透明可信原則”，并具體指出要“堅持技術研發、產品應用、服務運行的透明性，保障人工智能系統中的司法數據采集管理模式、法律語義認知過程、輔助裁判推定邏輯、司法服務互動機制等各個環節能夠以可解釋、可測試、可驗證的方式接受相關責任主體的審查、評估和備案”等。這里所列舉的過程、邏輯等，在數字科技的語境下一般而言都屬于算法或算法的一部分。可見，盡管我國當前尚未正式創設人工智能司法應用領域算法備案制度，但已經開啟了司法人工智能算法的“審查、評估和備案”的實踐。未來人工智能在司法領域將有更加廣闊的應用空間，司法領域算法的備案制度也將是需要研究的重點領域。

國際上也在探索一些具有登記環節的算法或人工智能治理工作。例如，荷蘭阿姆斯特丹市、芬蘭赫爾辛基市都在開發對于政府部門和公共事務領域的算法登記系統，并推動其使用，以期使公民能夠更好地了解城市中使用的算法系統，并使公民在政府算法應用開發的早期就可以更好地參與。歐盟人工智能法案（The"Artificial"Intelligence"Act，以下簡稱AIA）第51條也規定高風險人工智能系統在進入市場或投入服務之前，需要在歐盟數據庫中進行登記。國內外這些相關探索和實踐既對我們研究算法備案制度提供了實證素材和基礎，同時又提出了許多需要攻堅克難的課題和重點領域。

我國的算法備案制度是從目前算法運用最活躍、最前沿的互聯網信息服務領域開啟的，因為該領域是對個體權益、公共利益、社會穩定、國家安全最具重要影響的領域，對該領域的算法運用實行優先備案具有迫切性。在數字法治的實踐背景之下，算法備案制度未來必將擴展和適用于更廣的領域，在我國算法治理體系中發揮更加重要的作用。因此，我們有必要以當前的算法備案制度和實踐為基本觀察對象和思想客體，對算法備案制度開展研究，為完善算法備案制度、加強算法治理、保障數字科技健康發展，提供科學、管用的理論支撐和智力服務。

二、算法備案制度的屬性與功能

面對算法備案這項新創設的制度，我們首先要做的研究工作是厘清其屬性和功能。這也是數字法學領域當下的一項重大課題。算法備案是在我國現行備案制度下發展出來的一種新型備案制度，其屬性復雜、功能多元。

（一）我國現行備案形態

備案是現代國家治理體系中的常態化制度。我國諸多現行法律、行政法規、地方性法規、政府規章、黨內法規都使用了“備案”這一詞語和表述，設定了具體備案制度與機制。盡管目前在法律法規規章等規范性文件中尚未形成統一的概念界定和類型劃分，但其核心要義是：有關國家機關、社會組織、企業公司等法定主體依法依規向主管部門（機關）報備有關事項事由，供有關部門（機關）審查、審示、審核等。在實踐中，我國目前的備案情況復雜多樣，在制度范疇內，主要有以下類型：

一是規范性文件的備案審查制度，即將行政法規、地方性法規、政府規章、司法解釋及其他規范性文件按法定期限報法定的機關備案，由接受備案的機關進行分類、存檔，在規范性文件的有效期內，依法對其審查、監督。1979年全國人大通過的地方各級人民代表大會和地方各級人民政府組織法拉開了備案審查制度的序幕，1982年12月4日五屆全國人大五次會議通過的憲法為備案審查制度提供了正式的憲法依據。隨著中國特色社會主義法律體系的完善和法治體系建設的深入推進，備案審查制度隨之不斷健全完善。立法法、各級人民代表大會常務委員會監督法等法律對備案審查制度進行了更為具體的規定，備案審查范圍也由“立法型規范性文件”（或稱“規范性法律文件”）拓展至“非立法型規范性文件”。黨的十八屆四中全會通過的《中共中央關于全面推進依法治國若干重大問題的決定》，明確提出要“加強備案審查制度和能力建設，把所有規范性文件納入備案審查范圍，依法撤銷和糾正違憲違法的規范性文件，禁止地方制發帶有立法性質的文件”。與此同時，黨內法規的備案審查制度和工作機制也在不斷健全和完善。《中國共產黨黨內法規制定條例》《中國共產黨黨內法規和規范性文件備案審查規定》相繼出臺，規定了對黨內法規和黨的規范性文件進行備案審查的內容、規則和程序。為了維護社會主義法治統一，維護憲法法律權威，形成良好的國家秩序，我國備案審查制度在涵蓋行政法規、地方性法規、政府規章、司法解釋等“規范性法律文件”和黨內法規的基礎上，進一步延伸至對國家、社會、公眾、公民利益和公共秩序有廣泛影響的社會規范領域。社會規范包括居民公約、村規民約、行業規章、社會組織章程、科技倫理等。中共中央印發的《法治社會建設實施綱要（2020—2025年）》在強調充分發揮社會規范在協調社會關系、約束社會行為、維護社會秩序等方面的積極作用的同時，提出“加強對社會規范制訂和實施情況的監督，制訂自律性社會規范的示范文本，使社會規范制訂和實施符合法治原則和精神”。例如，教育部頒布的《高等學校章程制定暫行辦法》就明確規定了作為大學自治規范的高等學校章程的備案與核準的內容和程序。國資委印發的《國有企業公司章程制定管理辦法》《中央企業合規管理辦法》等規范性文件規定了中央企業公司章程的合規管理與備案制度。

二是行政備案制度，指公民、法人或其他組織依法將與行政管理有關的具體事務的相關材料向行政主體報送，行政主體對報送材料收集、整理、存檔備查的一種行政法律制度。行政備案與行政許可不同。行政許可，是在法律一般禁止的情況下，行政機關根據公民、法人或者其他組織的申請，經依法審查，準予其從事特定活動的行為。而行政備案是一種更為柔性的規制工具，特別是在“放管服”改革的推動下，其在許多領域成為替代行政許可的一種手段。我國法律法規中存在眾多的行政備案規定，屬于不同領域分別立法的狀態。在實踐中各種以“備案”為名的制度中，存在一些“許可型備案”，即行政機關事先對備案材料進行實質性審查，如果行為人未完成備案將無法獲得從事某項活動的資格或資質。有研究基于行政備案的不同目的和功能，將行政備案分為告知意義上的備案和監督意義上的備案。亦有研究者根據備案階段、審查形式的不同，將規范意義上的行政備案分為預防型備案、告知型備案和后設型備案三種類型。除前述備案類型外，還有司法備案等類型。最高人民法院、最高人民檢察院均設置了許多備案制度。例如最高人民法院《關于委托執行若干問題的規定》中規定了委托執行案件的備案，《人民檢察院民事訴訟監督規則》中規定了《再審檢察建議書》的備案，等等。

（二）算法備案的法律屬性、政策屬性與治理功能

我國當前在互聯網信息服務領域實施的算法備案制度具有多重屬性和特殊功能。

第一，從依據來講，我國實踐中的算法備案是一種法律性、政策性混成制度。算法備案是根據《互聯網信息服務算法推薦管理規定》《關于加強互聯網信息服務算法綜合治理的指導意見》《互聯網信息服務深度合成管理規定》等具有法律效力的規范性文件而創設的一項制度，因而具有明顯的法律屬性，具有合法性、合憲性。同時，這些規范性文件大多是由國家行政機關和中共中央工作部門聯合發布的，因而又具有政策性（黨規性），具有法律和政策雙重屬性，不能簡單地僅僅歸結于法律范疇、行政范疇。

第二，從受理算法備案的主體而言，目前實施的算法備案是一種行政備案。在《算法治理指導意見》中，算法備案作為算法監管體系中的一個環節，由各級政府網信辦公室統一受理、負責審查監督。因而，算法備案，連同此前網信領域實施的非經營性互聯網信息服務備案和區塊鏈信息服務備案等，都是一種特殊的行政備案制度。由于國家互聯網信息辦公室與中共中央網絡安全和信息化委員會辦公室是黨政合署辦公，兩個牌子、一個實體，因而算法備案也是黨管網絡、黨領導數字治理的一項政策機制和舉措。

第三，從算法報備的主體來看，當前算法備案主要是一種企業合規管理。盡管《算法推薦管理規定》并沒有明確將算法備案制度的適用主體限制為企業，但從《境內互聯網信息服務算法備案清單（2023年1月）》看，目前223項算法的備案主體均為企業。在高水平社會主義市場經濟體制下，加強合規管理，是企業不斷提升法治水平、適應市場競爭環境、實現可持續高質量發展的必然要求，健全合規管理體系是企業生存發展的必要條件和重點任務。作為互聯網企業、數字科技公司，其合規管理的特殊性在于算法合規管理，使涉及國家、社會、公眾、公民個人權利、利益、尊嚴、福祉的算法必須既符合法律法規又符合科技倫理和公序良俗。算法備案為推動互聯網企業、數字科技公司合規管理創造了良好的法治環境和制度機制。所以，算法備案制度不僅是監管機構對市場經營主體的一種監管手段，更是促進數字科技企業自身強化合規管理的契機和機制。

第四，算法備案對象兼具技術性和規范性。算法正日益廣泛地運用在國家治理和社會治理當中。

一些算法在實際上發揮著與法律規范和社會規范相類似的作用。一方面，一些法律規范正逐漸發展出“數字化”“代碼化”的形式。隨著數字技術的發展和數字中國的建設，一些領域的法律法規可能被數字化、代碼化，形成機器可讀的法律規則或機器可執行的法律規則，即通過算法處理來實現某些監管任務或法律規則的自動執行，或者直接形成具體的執行該法律的算法規則以及可執行代碼。這一場景中的算法既是法律規范的一種表達形式，也可以直接在數字空間中得以實施。特定領域法律規范的數字化、代碼化的研究和探索已經開啟。例如在金融科技監管領域，英國、美國等西方發達國家提出了將法律規范轉化為機器可執行版本、機器可讀規則、機器可執行規則等構想，并進行了一系列、多階段的試點工作。我國也有專家指出，“智能化動態監管的實現依賴于金融監管規則的代碼化或者說讓機器可識別，即通過代碼來進行自動化監管”。有專家建議在技術可支持的金融監管領域，監管法規在出臺時即附有相應規則代碼，并建議我國全國金融標準化技術委員會建立監管規則數字化標準等。面對法律信息化、規則代碼化、法治數字化的滾滾浪潮和發展大勢，有必要探索對這類與法律文本同步制定的代碼形式的規則或規則指令建立備案審查制度，以對其合憲性、合法性、合理性等進行嚴格審查、審核。

另一方面，在數字時代，算法因其對人們有著很強的控制力和影響力，而事實上形成為一種新型社會規范。學者們提出“代碼即法律”“算法即規則”等命題，來反映算法的規范性及其對社會秩序的影響。進入數字時代以來，算法規則日益融入社會規范體系，并對社會秩序建構產生持續強大影響。一些算法在被具體編寫成代碼并應用在具有較高影響力的數字系統之后，就成了一種文字化表達的、在相關用戶中運用的規范，其實際影響力和作用程度甚至超越了一般的居民公約、村規民約等社會規范。所以，算法備案不僅是單純的技術備案，也是規范備案。在這個意義上，算法、算法規則的備案具有技術和規范雙重性質，而且正是其規范性一面的備案凸顯算法備案的重大意義。

第五，算法備案是國家治理的機制創新。從《算法推薦管理規定》的具體制度設計可知，算法備案制度以告知作用為核心， 使監管機構可以以較低的成本掌握必要的信息并用于決策和監督目的，從而提高決策質量、監督效率、治理能力。在這個意義上，算法備案是算法治理的必要制度和有效機制，是算法治理體系進而也是國家治理體系的重點環節。

綜上所述，可以得出一個基本結論：算法備案是由法律法規或法律類規范性文件規定的、帶有剛性或柔性強制力的法律制度，兼具技術備案與規范備案的雙重性質，是黨依法管網治網、確保網絡安全和創新發展的一項政策機制，是國家機關實施算法治理、推進數字治理現代化的重要抓手。算法備案作為一種新型備案制度，豐富了中國特色備案制度體系，將隨著實踐和理論的發展進一步擴展其適用范圍、內涵和性質，從而發揮更大作用。從算法治理的客觀規律和發展趨勢來看，算法備案制度在未來還有更進一步擴展的實踐和制度空間。我們應根據不同類型的算法治理需要，特別是國家和社會治理的急需，以科學方法推進算法備案制度高質量建設，使算法在法治和科學的軌道上健康運行，助力國家安全、社會穩定、人民幸福。

三、以科學方法推進算法備案制度建設

在算法備案的諸多屬性中，行政備案屬性比較典型。作為一種行政備案，算法備案自然應當遵循行政法治的基本理念和原理，著重從“行政合法性”“行政正當性與合目的性”的維度進行考量，著眼于合法性控制、合理性建構、法治化運行。作為算法治理綜合體系中的關鍵環節，算法備案制度構建中的重點難點在于在合憲合法的前提下，在數字治理現代化總體目標下，如何從其基本特征和治理功能出發，從過程和實體兩個維度進行制度創設和功能優化，以使算法備案制度在整個算法治理鏈條中更好地發揮基礎性、支撐性、保障性作用，使其內在機理和優勢轉化為算法治理效能。

行政備案的基本特征是以信息收集為核心，緩解行政主體信息不充分、不對稱的問題，以提高行政效能，降低公民獲得信息的成本，有效發揮信息作用。因而，學界普遍認為行政備案是一種信息規制工具，是一種“信息收集、信息公開和信息共享機制”。我國現行行政備案事項主要集中于企業內部控制要素，包括四大類：企業內部環境備案、企業內部管理制度備案、企業內部風險因素預防備案和企業風險控制措施備案。這些信息基本上都掌握在行政相對人手中。通過備案制度的信息收集、存檔備查，既有助于行政主體在掌握充分必要信息的條件下高效合理地作出行政決策又有助于行政主體對行政相對人進行指導監督。此外，信息的提交和在一定程度的公開，也能起到激勵市場主體行為合規的積極作用。對算法備案的功能考察和制度設計，需要以行政備案的信息收集功能為基礎，遵循行政備案及算法治理的基本理念和理論而進行。具體而言，在算法備案制度的研究和設計中，應當樹立目的思維、合作思維、辯證思維和系統思維等科學方法。

（一）以目的思維明確算法備案制度方向

對算法備案制度的完善和發展，首先需要樹立目的思維，明確目的算法備案的目的和算法備案制度建設的方向。《算法推薦管理規定》開宗明義宣告其立法目的是“規范互聯網信息服務算法推薦活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，促進互聯網信息服務健康有序發展”。從中可以看出，國家安全、社會公共利益、公民等主體的合法權益、互聯網信息服務健康發展，是我國規范算法推薦活動、創設算法備案制度的根本目的，而且其目的是多元一體的。企業的算法推薦、政府的算法治理、算法備案規則的設定、對算法備案制度及其運行的評估，算法備案制度的完善發展，都必須緊緊圍繞這些目的，不能偏離這個方向。這些目的是宏觀的、總體的，根據算法風險的具體情況、不同治理工具，亦可提出具體目的目標（子目標），如提升算法的公開度、透明性、可解釋性、可問責性，加強算法安全及合倫理性保障機制，促進企業合規經營管理等，用于指導具體規則的制定和實施。

（二）以合作思維推動算法備案制度共建

“共建共治共享”“社會治理共同體”等科學先進的治理思想，其精髓是多元共治。我國在數字立法和數字治理領域充分體現了多元共治的思想理念。例如，網絡安全法第6條規定國家“……采取措施提高全社會的網絡安全意識和水平，形成全社會共同參與促進網絡安全的良好環境”；數據安全法第9條規定國家“推動有關部門、行業組織、科研機構、企業、個人等共同參與數據安全保護工作”；個人信息保護法第11條規定國家：“……加強個人信息保護宣傳教育，推動形成政府、企業、相關社會組織、公眾共同參與個人信息保護的良好環境”，等等。鑒于算法應用的廣泛性、算法問題的普遍性、算法治理的復雜性、算法發展的快速性，在算法治理中應當貫徹“黨委領導、政府負責、民主協商、社會協同、公眾參與、法治保障、科技支撐”的社會共治理念。多元共治是良政善治的重要標志，是實現國家和社會治理現代化的必由之路。從依靠高權規制走向強化合作治理，恰恰是備案制度的一大制度優勢。以往的行政許可、處罰等規制工具的干預程度較高，不可能普遍適用于廣泛存在而又快速發展的所有算法領域。盡管行政許可也可以解決信息不對稱，但由于其需要事先確定審查規則，并以此來衡量是否許可進入市場，具有較高的制度成本，且可能形成抑制競爭及權力濫用的風險。信息經濟學理論認為，當政府缺乏必不可少的信息來完成一項公共任務且私人行動者擁有信息時，公私合作就勢在必行，而非一種選擇。在算法治理領域，信息是多元合作的必要基礎，其意義在于：第一，為監管機構提供算法應用的具體情況及評估信息，便于科學有效監管；第二，面向社會公開的信息內容可以為社會監督、公眾維權提供一定的線索和證據；第三，提交備案信息可以促使企業認真審查算法并開展自評估，激勵企業更好地開展合規建設和促進數字向善。這幾個方面結合起來就達到了多元共治的境界。

鑒于多元共治在算法治理中的重要意義，以及備案制度在強化合作治理方面的制度優勢，在算法備案制度建設中，我們應該秉持合作思維，促進多元主體敏捷聯動、形成合力，發揮科技、法律、政策、道德等多維手段有機融合、相輔相成的共治作用。

（三）以辯證思維統籌算法備案制度安全發展

習近平總書記指出：“我們的事業越是向縱深發展，就越要不斷增強辯證思維能力。”辯證思維是我們黨在革命、建設、改革中不斷取得勝利的訣竅，是對馬克思主義辯證法的傳承和發展。算法備案制度建設涉及一系列重大關系，其中安全和發展是具有全局性、決定性的關系。在算法備案制度考察和設計中必須樹立辯證思維，以科學辯證法統籌安全和發展。

一方面，從價值論層面，要將安全和發展相統籌作為制度建設的基本原則。處理好安全和發展的關系，是算法治理領域的核心問題，也是整個數字科技治理領域的難點和重點。2003年發布的《國家信息化領導小組關于加強信息安全保障工作的意見》就明確提出，“正確處理安全和發展的關系，以安全保發展，在發展中求安全”。黨的十八大以來，以習近平同志為核心的黨中央多次強調安全和發展的辯證關系，指出“安全和發展是一體之兩翼、驅動之雙輪”“安全是發展的前提，發展是安全的保障”“要堅持促進發展和依法管理相統一，既大力培育人工智能、物聯網、下一代通信網絡等新技術新應用，又積極利用法律法規和標準規范引導新技術應用”。我國數字領域的幾部重要法律均明確規定了統籌安全和發展的立法目的。算法備案制度建設必須遵循數字領域的這一基本原則，特別是注重發展思維，使算法治理體系能夠真正賦能算法可信發展。

另一方面，從方法論層面，為創設科學有效的算法備案制度、制定出求真務實的備案規則和程序，必須堅持辯證思維，深刻把握監管對象及監管能力、監管制度發展的客觀規律與條件，深刻把握算法技術發展的客觀規律，深刻把握算法應用的高度動態性、風險的難以準確預測性以及算法安全性、透明性、可解釋性、公平性、合倫理性只能在發展中不斷增強的規律，建立符合科技發展規律、與科技發展水平相適應、能夠科學有效推進科技向善的法律規范和監管體系。面對飛速發展的算法技術及應用，在缺少完善監管理論和制度建設的當下，應當建立一種動態的而非靜態的、彈性的而非固化的治理體系，在更多領域主要依靠算法備案和其他制度的有機聯動來監管。算法備案的信息收集功能也需要針對未來進一步完善分級分類的、場景化的算法治理體系來進行考量。還要提高辯證思維能力，善于運用備案制度和機制破解當前數字治理領域存在的“治理赤字”現象。

（四）以系統思維構建算法備案制度體系

算法備案初看起來只是算法治理的一個制度，但構建這個制度并保障其在科學和法治的軌道上運行，卻是一個系統工程，必須以系統觀念和思維全面、協調、有機推進。“系統觀念”是習近平總書記倡導的具有基礎性的思想和工作方法，堅持系統思維是習近平新時代中國特色社會主義思想的世界觀和方法論的基本要義。研究和設計備案制度必須堅持系統觀念、系統思維，把算法備案放在整個算法治理體系和數字法治體系之中進行通盤考慮。在算法治理體系和數字法治體系中，各個環節、各個節點是相互鏈接與耦合的，各種監管規則機制之間是互聯互通、動態融合的，而非靜態、割裂和單維度的，故算法監管需要進行結構化的系統設計。算法備案制度建設應特別注重這種系統思維。在《算法治理指導意見》中，國家主管部門運用系統觀念和系統思維，提出建構算法安全風險監測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規行為處置等多維一體的監管體系。

算法備案制度實施也需要堅持系統觀念和系統思維，把算法備案的各個主體、要素、環節、節點整合到算法治理體系之中。例如，算法安全評估和科技倫理審查都可以分為內部評估和外部評估兩種形式。其中，算法實施主體內部的算法安全自評估和科技倫理自我審查的結果，可以與算法備案制度結合起來。我國《算法推薦管理規定》第24條即規定，算法自評估報告也需要作為備案內容提交。算法備案信息可以為違法違規行為的發現提供一種信息來源，并可以用于優化算法風險監測，以及作為開啟外部算法安全評估和科技倫理審查的一項動因。這些似乎是獨立的備案環節、節點在實踐中是彼此鏈接的，是算法備案制度動態化運行的要素互動。

四、以良法善治規范算法備案的制度功能

算法備案制度與算法本身一樣，也是一把“雙刃劍”。需要將其納入良法善治的軌道上，使其釋放正能量，發揮好作用，保障社會公共利益，保護公民法人權益，提高政府治理效能。如果偏離了良法善治的軌道，濫用或無限擴張算法備案制度，必將妨礙或遏制數字科技、數字經濟的發展，其結果不僅對公共利益、國家安全、個體權利無益，還會導致備案制度異化甚至夭折。因此，需要用良法善治來規范算法備案的制度功能，使算法備案本身成為新時代良法善治的生動實踐和標志。

（一）算法備案的復合型制度功能

算法備案具有一系列制度性功能，我們將其稱為“復合型制度功能”，舉其要者，有：

1.獲取算法信息，提升監管機構治理效能

構建算法治理體系需要立法機構及監管機構掌握算法運用現狀及動態，對各類算法風險進行科學評估，以建立分級分類的算法治理體系。通過算法備案制度，有關國家機關和管理部門依法對算法備案的內容進行整理、歸納和分析，及時獲得社會中廣泛運用的算法的動態信息，為進行算法風險分級分類、精準研判算法風險程度與范圍、形成預防方案、錨定監管重點、制定算法安全技術標準等，提供切實的基礎。

2.推動算法透明，便利社會公眾參與治理

算法備案收集的信息在主要為政府監管決策使用的同時，部分信息將向社會公眾公開披露。這毫無疑問也是提升算法透明度的一種制度設計。算法透明一直是算法治理領域頗受關注的維度。面向公眾的算法透明與事后的算法解釋不同，它有助于在事前從整體上幫助消費者更好地了解算法對自己行為和權益有無影響或有多大影響，從而增加對算法的信任，也有助于消費者及時發現算法的問題，有的放矢地維護自己的合法權益。不僅如此，基于對算法情況的了解，還可以更好地幫助消費者在各種涉算法的產品或服務間進行選擇，使自己的消費權益及安全度最大化。

3.促進企業合規，推動數字科技向善發展

算法備案信息具有促進企業自治和合規的功能。企業為提交備案信息，必然要對相關信息內容予以關注和重視，從而進行內部機構和制度建設，開展算法評估。適當的信息公開可以減輕信息不對稱，使消費者能夠在具有更加充分信息的基礎上更好地進行算法服務選擇。正如食品配方可以幫助消費者選擇合適的食品一樣，一些受到公眾關注的算法信息說明能夠幫助消費者進行理性選擇算法服務，進而使企業在市場競爭的驅動下更積極地優化公眾關注的算法問題，在公正、無歧視、符合倫理價值等維度進行創新，推進數字科技向善發展。

在這些功能之中，信息收集功能已被備案制度作為其核心功能，其他兩項功能及可能的擴展功能，還需要算法備案制度的進一步檢測、評估和發展，以優化備案制度功能。以下，本文將以良法善治為目標，從算法備案的適用范圍、備案內容、公開信息、制度約束等方面論述備案制度優化問題。

（二）算法備案的適用范圍

何種算法應用需要進行備案，這是算法備案制度運行首先需要考慮的問題。算法應用是否納入行政備案監管，需要考量如下因素：1.算法應用與公共事務、社會公共利益的關聯程度。存在關聯且關聯度較高就應納入備案管理，如果沒有直接關聯或關聯度偏低，則無需納入備案管理，以減輕企業負擔，降低行政管理成本。當然，算法應用的用戶數量也應當是考量的因素。2.算法應用的風險等級。應對不同領域應用的不同算法進行風險分級分類。對風險水平較低，對公民權益、公共利益、社會秩序影響不大的算法可主要由企業自行治理，也可鼓勵企業進行自愿備案。而對具有很高風險的算法應用，例如自動駕駛，則可采用行政許可等更加深度規制的方式。3.平等關系中弱勢主體傾斜保護選項。

例如，行政機關對勞動合同進行備案，目的是監督強勢主體（如雇主）守法誠信，保障勞動者這一弱勢主體的合法權益；類似地，對于勞動者工作調度、報酬計算、工作時長、獎懲等算法的備案，主要作用也應是對弱勢主體權益的保護。4.公民事后維權的可能性。如果屬于一般算法風險，并且事后維權比較便利，例如從算法輸出就能夠判斷是否構成侵權，就可重點考慮主要依賴侵權責任法進行救濟的適當性。5.政府機構的知識、經驗和信息積累情況。如果政府機構目前不能設計出科學合理且可操作的具體規制規則，則應考慮先通過備案制度促進企業自治，并積累政府監管所需的信息。

（三）算法備案的備案內容

信息收集具有一定的成本，需要在法治要求和算法治理需求之下進行考慮。算法備案信息的考慮主要包括如下方面：（1）合法性。信息收集應當具有法律依據，應當是法律、行政法規、地方性法規、政府規則、黨內法規等規范性文件明確規定的，且應當遵循“法定職責必須為、法無授權不可為”的基本原則。（2）正當性及合目的性。信息收集的必要性、有益性和經濟合理性。該信息應是主要掌握在算法服務提供者手中的內部要素，行政機構無法從外部進行收集；并且應該是依法進行算法治理所必要的。信息收集應當能夠支持算法備案在算法治理綜合體系中更好地發揮作用。

當前《算法推薦管理規定》中規定的備案內容包括服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息。根據互聯網信息服務算法備案系統中的具體情況，填報信息主要包括三部分：算法主體信息、算法信息（備案信息）、產品及功能信息。具體來看，除了一些關于算法主體等的基本信息之外，備案內容主要包括如下方面：

1.算法基本情況信息

主要包括算法類型、算法名稱、算法數據、算法模型、算法策略和算法風險與防范機制等信息。其中算法數據包括輸入數據的模態、輸入的人物特征是否包含生物特征或身份信息、輸出數據的模態，并可以根據算法的具體情況選擇填寫訓練數據的來源等。這些信息的備案有助于監管機構對實踐中運用的算法情況獲得更細致的了解， 并從企業實踐角度獲得關于算法風險和防范機制的補充信息，進而調整規制重點和策略，有助于形成對行業的監管和指導意見。

2.算法安全自評估情況

算法備案與算法自評估制度的結合，可以有效地推動算法自評估的開展，激勵企業自治，同時為監管機構提供有利于監管目的實現的重要信息。對于監管機構和社會公眾關心的重要問題，可以通過自評估模板的設計推動企業開展評估，強化問題意識，針對存在問題進行調整和優化。

3.算法安全合規內部制度建設

《算法推薦管理規定》第7條明確規定了算法推薦服務提供者應當落實算法安全主體責任，建立健全算法機制機理審核、科技倫理審查等一系列管理制度和技術措施。目前算法備案中要求的備案信息包括算法安全責任人、算法安全機構設置和算法安全管理制度建設情況等。備案人需要闡述算法安全專職機構的設置、職責分工、部門責任范圍等，以及算法安全工作人員的任職要求、算法安全工作人員配備的規模、算法安全技術保障措施等內容，并闡述《算法推薦管理規定》中規定應建立的算法安全自評估制度、算法安全監測制度、算法安全事件應急處理制度、算法違法違規處置制度等的設計和考慮。對這些已有的規定需要細化規制和補充完善。

目前的備案內容是普適的、格式化的規定。未來隨著算法備案的實踐和發展，應當針對不同領域、不同風險級別和不同類型的算法，建立更精細化的備案內容要求。例如，如果算法對于數據依賴性較強，且所在領域數據歧視可能引起較高的風險，可以在算法安全合規內部制度建設及自評估報告中加強對數據糾偏等制度的提示以及相關評估內容的引導。同時，為了更好地推動數字向善，應當鼓勵企業持續提供關于自己在算法公平性、可解釋性、合倫理性、合法性、權利保護等方面的規劃、工作及進展。這些信息的統合考察可為監管機構提供關于相關技術和機制的業界普遍水平及發展動態的參考，幫助科學決策，并且在能夠證實的情況下可以與企業的注意義務相關聯，作為判斷企業是否具有過錯的一項考量因素。信息共享也是信息規制工具的一項功能。從系統思維上來看，在需要備案的信息中，算法數據相關信息，信息安全檢測、數據安全監測、用戶個人信息安全檢測制度與技術保障措施，以及數據使用違規處置、信息安全違規處置制度等制度信息的備案，不僅可以幫助監管機構了解數據偏差問題，更可以在合法情況下用于信息安全、個人信息保護、數據治理領域的監管目的。

（四）算法備案的公開信息

目前我國算法備案制度中的公開信息包括強制公開信息和自愿公開信息兩種方式，即采用了把向行政機關報備的信息與向社會公眾披露的信息相區分的模式。這顯然有助于在算法透明的價值與其他價值之間取得合理的平衡，兼顧商業利益與公眾保護。算法備案中公開信息的具體規定包含著復雜的價值平衡：一方面是用戶及公眾的知情權以及相關的消費者權益等，另一方面則是技術創新和知識產權保護、企業競爭利益、國家競爭力、算法安全乃至國家和社會安全等價值。首先，算法及相關信息往往具有秘密性、保密性、價值性特征，可能構成企業的商業秘密，涉及對技術創新的知識產權保護以及企業的競爭利益。其次，算法信息的公開可能引起惡意算法博弈或稱算法算計，相關主體可能利用算法信息來開展惡性博弈、算計算法，從而可能引起不正當競爭、侵害消費者權益等問題。搜索引擎優化（Search1EngineOOptimization，以下簡稱SEO）問題就是一個經典實例。為了使得網站可以通過對搜索引擎收錄及排序算法等的了解，合理、科學地修改網頁內容、優化網站技術，進而優化自身網站在搜索引擎中的收錄數，吸引更多與自身網站內容和業務相關的高質量流量，使搜索引擎自身也可以提升用戶體驗，搜索引擎公司往往會發布《搜索引擎優化指南》。但相關信息也往往被一些“黑帽子SEO”所濫用，利用和放大搜索引擎算法中的策略缺陷，通過采用大量使用垃圾關鍵詞、產生大量低質量頁面、產生人工的鏈接網絡、創造欺騙性頁面（搜索引擎和用戶看到的不一樣）等各種惡意手段來獲取與網頁內容、質量不符合的排名和流量，導致搜索結果質量和用戶搜索體驗下降。但也需要看到，搜索引擎公司并沒有因為需要處理大量由于搜索引擎算法策略公開問題，就取消了《搜索引擎優化指南》，而是依舊會向公眾提供關于搜索引擎收錄、排序等算法的一些信息，這其中仍然反映出價值與風險之間的平衡考慮。類似地，算法信息的公開也可能給其他干擾算法結果、破壞系統正常運行的不法行為提供信息，可能引起系統安全、社會安全乃至國家安全問題。最后，一些算法信息向公眾的公開可能影響國家競爭力。《中國禁止出口限制出口技術目錄》中“限制出口部分”包括“基于數據分析的個性化信息推送服務技術”，表明此類技術已經進入國家重點保護范圍，增強算法透明度可能使受《技術目錄》保護的算法設計被破解的概率增加，使限制出口的規定在很大程度上失去意義。因此，在算法備案的信息公開規則設計中，應該審慎衡量特定信息公開對于風險和收益的影響。由于不同領域、不同類別、不同層次的算法信息公開對利益平衡的影響可能不同，因此最終優化的算法備案信息公開規則應當采取分級分類、差異化設置。

我國《算法推薦管理規定》中并沒有具體列舉要求通過算法備案公開的信息，在該規定實施中普遍公開的備案信息非常有限。備案人在備案時可以自主填寫擬公開的其他信息。例如針對公眾關注的信息繭房問題，在備案中，抖音個性化推薦算法解釋了為避免“信息繭房”問題出現而專門設計的“興趣探索”機制，網易云音樂個性化推薦算法、網易LOFTER*個性化推薦算法、雪球個性化推送算法、美篇首頁推薦算法、歡太瀏覽器信息流推薦算法等也提到了為解決“信息繭房”問題進行了設計，不過沒有陳述細節，但也可以使公眾了解到算法服務提供者對該問題關注并采取了相應措施。

作為一個發展中的大國，我國的信息公開方式現階段有自己的合理性與優越性。相比之下，歐盟人工智能法案第51條規定了高風險人工智能系統在進入市場或投入服務之前，需要在歐盟數據庫中進行登記，并且根據第60條規定，登記信息是公眾都可以訪問的。這種制度設計沒有區分信息公開的對象范圍，或將限制登記信息范疇，或將不利于對其他利益的平衡。從我國國情和數字科技發展現狀出發，本文認為，在現階段算法備案信息公開主要以自愿為主、兼顧法律法規的明示要求的模式，符合良法善治的實踐要求，也是引導和保障數字科技跨越式發展的首選。

但是，應當健全企業自愿公開的規章制度，因為從目前實踐來看，企業自愿公開的信息仍比較有限，并且存在信息量較低的復用表達套路。以發展思維來看，接下來應該結合算法信息公開相關理論，對于算法備案實踐中已公開信息的情況及其引起的社會影響進行科學研判，分級分類地適當擴大強制公開的算法備案信息范圍。特別是以合作思維、系統思維考察不同場景下的算法應用，對于實現算法的多元共治具有積極意義。特別是對于算法服務提供者合法權益以及社會秩序、國家安全影響較小的信息，可擴大信息公開的內容與范圍。例如，解釋用戶或公眾所關心的特定因素對算法決策的具體影響，對于信息繭房等公眾關注較高的特定問題的說明，有關企業在推進數字向善方面的自評估和舉措等，都應當納入信息公開范圍。在實踐中，監管部門可結合信息收集情況，通過設計更加精細的、引導性的表格，指導和規范企業的算法信息公開活動。

（五）算法備案的制度約束

盡管算法備案制度不同于許可制度，它不以直接調整相對人權利義務關系為目的，但在實際上它會影響到行政相對人的權利和義務，例如企業的技術秘密、知識產權保護、企業的算法競爭力、企業的經濟效益、社會效益、國際信譽等；而且如果沒有按照規定進行備案則需要承擔行政法律責任。

《算法推薦管理規定》明確規定了違反算法備案規定的法律后果。未來隨著算法備案適用范圍的擴大、形式的多樣，不可避免地將引起行政主管部門和市場主體之間權力與權利的沖突、引起企業與企業之間的利益競合等。因此，算法備案本身必須具有明確的法律依據和界限，備案制度規則以及備案信息要求（例如必填項），應該接受合法性備案審查。在條件成熟時，提高算法備案制度的法律位階。同時，應當建立和完善算法備案主管部門的自律機制和法律責任，建立準許企業主體充分表達異議、申請行政復議的制度和程序，以推動實現算法領域的良法善治。這是建設法治政府的必然要求，也是推進數字法治的重要方面。

算法備案制度要發揮實效，離不開對備案信息的有效利用。目前我國行政備案制度中對行政主體的備案職責缺乏明確規定。在健全和完善算法備案制度進程中，以法律、法規或規章形式規定行政主體的備案職責，不僅是實現算法備案功能的需要，更是保護數字科技企業合法權益的需要。我們應當明確行政主體的信息審查職責和監督職責，完善事中事后監管機制，特別是建立與算法安全風險監測、算法安全評估、科技倫理審查、涉算法違法違規行為處置等制度和機制的聯動，并積極利用人工智能等技術降低算法備案制度成本，發揮算法備案信息的價值，提升算法備案制度的實效。

結語

數字時代，算法安全、算法公平、算法透明、算法操作對公共利益和公共秩序的影響等，都是人們普遍關注的首要問題，也是國家治理的關鍵問題、新興問題。通過算法治理實現數字向善的目標不會一蹴而就，而是需要通過建立和實施科學有效依法合規的制度機制來有序有效推進，算法備案制度就是其中一項創舉。算法備案制度以信息收集為核心、以柔性治理為特點，有助于形成便利多元主體參與的協同性治理、符合科技發展規律的動態性治理、多重途徑有機結合的復合型治理模式，發揮提高監管效能、控制算法風險、激勵企業合規、保障公民權利、促進公共利益的作用，在法治的軌道上推進數字科技向善。實踐發展永無止境，制度建設工作也永無止境，在建設數字中國和法治中國的新征程上，構建科學完備、公正合理、運行高效的算法備案制度和算法治理體系任務依然重大。