算法審計需求論

【摘要】算法審計是算法治理體系的重要成員， 本文以經典審計理論為基礎， 提出算法審計需求的一個理論框架。算法的合約類委托代理關系中存在完備合約， 監管類委托代理關系中算法相關法律法規發揮了類似完備合約的作用， 這兩類關系中都不存在算法審計需求。算法的資源類委托代理關系中， 由于激勵不相容、 信息不對稱、 合約不完備和環境不確定同時存在， 必須建構算法治理體系來應對算法代理問題和次優問題， 算法審計基于審計固有功能對算法責任履行情況實施鑒證， 發現其中存在的代理問題和次優問題， 報告給委托人及其他利益相關者并推動整改， 從而為算法責任的良好履行提供一定的保障。

【關鍵詞】算法委托代理關系；算法代理問題；算法次優問題；算法治理體系；算法審計需求

【中圖分類號】F239.44" " " 【文獻標識碼】A" " " 【文章編號】1004-0994（2024）16-0077-6

一、 引言

算法是為驅動計算機完成各種復雜任務的一系列有序、 明確的步驟或指令， 隨著人類社會信息化程度的提高， 特別是人工智能的快速發展， 算法已經深入人們生活及工作的各個方面。根據英國的在線調查， 92%的普通公民在個人生活和工作中， 每天與算法互動數十次（DRCF，2022）。算法的廣泛采用為人們的工作和生活帶來了便利， 增進了人類福祉， 與此同時也帶來算法風險甚至算法危機， 因此， 人類必須建構算法治理體系來應對這些問題， 算法審計是算法治理體系的重要成員。算法審計要真正在應對算法風險甚至算法危機中發揮作用， 必須建構科學的算法審計制度， 而正確認知算法審計各基礎性問題， 是科學建構算法審計制度的基礎， 在算法審計諸多的基礎性問題中， 本文聚焦算法審計需求。

現有文獻分析了算法帶來的問題及算法治理體系， 也有文獻分析了算法審計相對于其他算法治理機制的優勢， 一定程度上解釋了算法審計的產生原因， 但整體來說， 對于算法審計需求的分析是碎片化的， 并且未能貫通審計邏輯。本文以經典審計理論為基礎， 提出算法審計需求的一個理論框架， 以深化人們對算法審計需求的認知， 并為建構和完善算法審計制度提供理論參考。

二、 文獻綜述

算法審計需求關注的是為什么會有算法審計， 即從理論上闡釋算法審計產生的原因。現有文獻涉及算法負面問題、 算法治理體系和算法審計的產生原因， 本文分別對上述三個方面進行綜述。

1. 算法問題。現有文獻幾乎一致認為， 算法在給人類社會帶來福祉的同時， 也帶來一些問題。部分文獻研究了算法問題的類型及成因。

關于算法問題的類型， 現有文獻存在不同的分類方法。Abeba Birhane等（2024）指出， 人工智能的廣泛使用帶來的風險包括功能性失敗、 性能不確定性、 嵌入式刻板、 法律不相容、 侵犯隱私和模型不可理解。張欣（2019）指出， 算法危機包括算法歧視、 算法合謀、 算法霸權、 算法黑箱、 算法短視等問題。Aragona（2021）將算法問題概括為黑箱問題、 數字社會不公平、 公共機構不透明及責任不清問題。Beckstrom（2022）指出， 在公共服務中使用開發不仔細的算法可能會導致效率低下， 損害大家對當局的信任， 并對公共部門的良好運作產生不利影響。張永忠和張寶山（2022）指出， 算法可能產生算法歧視等異化問題。師文和陳昌鳳（2022）指出， 搜索引擎的結果可能反映、 強化現實世界的既有偏見。趙德勇和張子輝（2023）指出， 算法在很大程度上就是一個“黑箱”， 用戶在算法權力和算法不透明的情況下， 既被算法所控制、 影響， 又難以發現算法存在的問題， 最終被輕易“殺熟”。徐明華和魏子瑤（2023）指出， 算法暴露出歧視偏見、 價值誤導等諸多倫理問題。陳雄燊（2023）認為， 人工智能算法倫理風險包括算法歧視、 算法操縱、 權益侵蝕、 人的主體性地位消解、 算法黑箱和算法失真。付冉冉（2023）將算法風險分為算法黑箱、 算法歧視、 算法霸權、 算法合謀和算法倫理。劉建業（2023）指出， 算法帶來了諸多挑戰， 包括 “大數據殺熟”問題、 信息繭房問題和算法行政中存在的問題。

不少文獻對算法問題的成因進行了討論。蘇宇（2020）認為， 算法風險成因主要包括目標失范、 算法缺陷、 信任危機、 防御薄弱、 監管與責任機制不足等。孫瑩（2020）認為， 人工智能算法推薦實際上顛覆了整個行業的底層， 存在某種傾向的價值觀， 絕非技術中立， 而是雜糅著社會價值觀。徐明華和魏子瑤（2023）將算法問題的成因分為四個方面： 一是算法設計者有意或無意的主觀偏見； 二是訓練數據的代表性不足； 三是商業邏輯導向之下的算法規則損害了用戶權益； 四是模型自主學習混入的機器邏輯會帶來諸多未知風險。付冉冉（2023）認為， 算法歧視包括算法設計者的偏見、 先天訓練數據的偏見以及技術性算法偏見。王玉鳳（2023）認為， 模型算法風險包括模型算法自身缺陷或使用不當帶來的風險， 其根源為算法權力的異化。趙德勇和張子輝（2023）認為， “大數據殺熟”的實質是平臺過度收集個人信息數據和濫用算法。陳雄燊（2023）認為， 人工智能算法倫理風險產生的原因包括三個方面： 一是主觀層面的理性失衡與利益追逐； 二是客觀層面的技術缺陷與認知局限； 三是規范層面的規制落后與教育缺位。

2. 算法治理體系。為了應對算法問題， 需要建構算法治理體系， 現有文獻對算法治理體系有多種分類。

蘇宇（2019）對算法規制的制度工具做了分類， 主要包括軟件登記與材料留存、 算法解釋、 權益保障設計及安全措施、 算法標準、 技術接口與監管便利條件、 算法責任。沈偉偉（2019）、 張旭（2022）將算法治理區分為兩類， 一是以算法透明為代表的事前規制， 二是以算法問責為代表的事后規制。丁曉東（2020）指出， 算法規制主要采取算法公開、 個人數據賦權與反算法歧視這三種方式。蘇宇（2020）認為， 算法規制工具主要包括算法標準、 算法審查、 算法解釋、 算法查驗、 算法認證、 缺陷檢測、 風險監測、 違規舉報獎勵、 算法應用登記等。付冉冉（2023）將算法規制分為兩種模式， 一種是個體賦權模式， 另一種是外部問責模式。劉建業（2023）認為， 當前法學領域主要提出兩種算法規制路徑， 一是權利保護規制路徑， 二是義務設置規制路徑。

3. 算法審計的產生原因。既然已經建構了應對算法問題的算法治理體系， 那么， 算法審計產生的原因是什么呢？根據現有文獻， 主要有兩方面的原因， 一是算法治理體系存在缺陷， 二是算法審計具有獨特優勢。

不少文獻分析了算法治理體系存在的缺陷。張旭（2022）認為， 以算法問責為目標的事后規制路徑存在滯后性， 難以滿足人們通過法律制度調適算法利用帶來的種種負面影響的迫切需求。張文魁（2022）指出， 算法規制的最大難點在于算法的不透明性和非人工性， 算法程序不斷快速更新， 從而很難進行事前監管， 由于這些行為是通過自動化程序而大規模和隱秘化實施的， 監管部門要搜集足夠有力的證據也存在很高的成本。沈艷（2022）指出， 我國算法治理實踐仍然面臨不少挑戰， 缺乏事前的過程性監管， 技術性規范監管較少。劉建業（2023）指出， 當前提出的算法規制路徑主要是權利保護規制路徑和義務設置規制路徑， 但是， 上述兩種規制路徑面臨可行性和可欲性困境， 其根本原因在于上述規制方式缺乏對算法的場景化考慮。

不少文獻分析了算法審計的獨特優勢。莊尚文和陳王薏（2021）認為， 算法審計具有制度優勢和技術優勢： 從制度上來說， 國家審計具有獨立性、 代表性、 專業性、 法定性、 經濟性等優勢， 這些優勢可以使其在規制算法權力時能更好地發揮作用； 從技術上來說， 算法審計突破資源限制、 時空局限和傳統方法， 有助于審計人員提高審計效率， 達到高效監管的要求。張欣和宋雨鑫（2022）認為， 與算法透明框架相比， 算法審計制度更為靈活、 包容， 可依據算法系統的透明程度做出因應性調整。王玉鳳（2023）認為， 審計作為黨和國家監督體系的重要組成部分， 將模型算法納入審計監督的范圍， 可充分發揮審計“治已病”“防未病”的重要功能。陳雄燊（2023）認為， 算法審計相較其他治理路徑， 具有現實約束力、 有限透明性以及“強程序， 弱追責”的特點， 從而可以做到以倫理制度化加強現實約束力、 以程序規范化促進結果正當化和以有限透明性平衡商業秘密性。付冉冉（2023）認為， 審計體系成熟且獨立， 工作流程完善， 可由審計機構主導進行算法審計審查， 有效回應算法風險產生的社會管理問題。徐明華和魏子瑤（2023）認為， 在算法透明原則不足以解決當下的倫理問題時， 由果溯因的反推檢測應運而生， 算法審計由此進入學術視野。張濤（2024）認為， 算法審計作為一種新型的社會技術方法， 可以充分考慮自動化決策在技術、 法律、 倫理等維度的要求， 彌補現有規制路徑之不足。

正是由于算法審計具有一些獨特的優勢， 其已經在各種法律法規、 標準化框架和行業最佳實踐指南中成為一種識別和減輕人工智能危害風險的機制（Khoa Lam等，2023）。美國紐約市議會于2021年通過了偏見審計法令， 偏見審計——定義為獨立進行的公正評估——是所有招聘和晉升中需要使用的自動化工具①。

4. 簡要述評。從邏輯上來說， 需要按“算法問題→算法治理體系→算法審計”的順序來闡釋算法審計需求， 現有文獻也涉及上述三個方面， 但是， 未發現有文獻按這個邏輯系統闡釋算法審計需求， 在分析算法審計的必要性時也未能貫通審計邏輯。因此， 整體來說， 對于算法審計需求的理論分析是碎片化的， 并且未能貫通審計邏輯， 關于算法審計需求， 尚缺乏一個貫通經典審計理論的系統化的理論框架。

三、 理論框架

本文的目的是以經典審計理論為基礎， 提出算法審計需求的一個理論框架， 為此， 需要順序闡釋以下三個問題： 算法委托代理關系， 委托代理關系中的代理問題和次優問題及其應對機制， 算法審計在算法治理體系中的定位。

1. 算法委托代理關系。根據經典審計理論， 審計源于資源類委托代理關系（鄭石橋，2021）， 所以， 本文先分析與算法相關的委托代理關系（見圖1）， 以此作為分析算法審計需求的起點。

圖1中共有三種類型的委托代理關系， 分別為資源類委托代理關系、 合約類委托代理關系和監管類委托代理關系。

關系1是資源類委托代理關系。委托人將資源交付代理人， 并明確代理人使用這些資源所要履行的職責， 代理人對委托人承擔了最大善意使用資源來履行所要求職責的責任（經管責任）， 這與經典意義上的資源類委托代理關系并無實質性差異。但是， 代理人在履行經管責任時使用了算法， 算法既是代理人履行經管責任的基礎， 也是委托人目標得以實現的基礎， 因此， 代理人使用的算法也就成為委托人關注的重要事項。

關系2是合約類委托代理關系。代理人是關系的一方， 另一方是代理人履行其經管責任時發生經濟活動的對方， 由于代理人是基于算法與對方發生經濟活動， 因此， 通常將這種對方稱為算法相對人。在這種關系中， 代理人作為經濟活動的一方， 是算法的使用者， 算法相對人是算法的接受者。算法相對人較為復雜， 例如， 美團公司的外賣業務中， 外賣員及顧客都是算法相對人， 美團公司則是算法使用者。代理人作為算法使用者與算法相對人之間存在經濟活動相關信息的不對稱， 也存在算法相關信息的不對稱， 根據信息經濟學， 這些關系屬于委托代理關系（DRCF，2022；湯志偉等，2023）。但是， 算法使用者和算法相對人之間的關系仍然屬于合約類委托代理關系， 其原因分析如下： 算法使用者和算法相對人之間會發生經濟活動， 通常存在顯性或隱性的合約， 但這種合約的履行要依賴算法， 算法作為履行合約的方法， 如果可以事先詳細約定， 則會在合約中約定， 由于算法的復雜性和不確定性， 許多情形下是難以事先對算法進行詳細約定的。這對于算法相對人來說， 隱含的意思是， 算法使用者提供的算法要符合國家頒布的算法相關法律法規， 如果沒有特別約定， 只要算法不違反國家法律法規， 就不算違法行為， 當然也就不是違約行為。只有算法違反國家法律法規時， 算法相對人才可以追究算法使用者的責任， 因此， 與算法相關的國家法律法規就是算法使用者和算法相對人關于算法的合約條款， 算法使用者和算法相對人并沒有因為算法而存在合約不完備， 關系2中不存在合約不完備， 二者的關系仍然滿足古典合約， 具有完備性。

關系3是算法使用者與算法開發者之間的關系。通常來說， 由于人工智能系統的復雜性， 算法使用者會委托專業機構來設計開發人工智能系統， 因此， 算法使用者與算法開發者是兩個獨立的主體， 當然， 某些情形下， 算法使用者也可能有能力自行開發人工智能系統（不少互聯網公司為這種情形）， 此時， 二者合而為一， 關系3也就消失。當二者分離時， 算法使用者和算法開發者之間在算法方面存在信息不對稱， 因此， 二者的關系屬于委托代理關系。但是， 其性質是合約類委托代理關系， 并不存在合約不完備， 其原因是： 算法使用者無法詳細規定算法開發者所開發的算法細節， 但可以顯性或隱性地要求算法開發者開發的算法符合以下要求——不存在違反國家算法相關法律法規的合法性問題， 不存在違反公序良俗的倫理性問題， 不存在不能有效完成任務的效率效果性問題， 如果出現這些問題， 都視同算法開發者違約。當然， 算法使用者也許無法對上述條款進行驗收， 但在算法使用過程中一旦出現上述問題， 就可以認定算法開發者違約。在這種情景下， 關系3就不存在合約不完備， 二者的關系仍然是合約類委托代理關系。

關系4是算法使用者與算法營運者之間的關系， 主要是算法使用者將算法的維護、 營運工作全部或部分交由某些專業機構負責。通常來說， 二者在算法營運方面存在信息不對稱， 根據信息經濟學， 二者的關系屬于委托代理關系， 但二者存在完備合約， 因此， 這種關系的性質仍然是合約類委托代理關系。也許算法使用者與算法營運者無法就算法的營運達成詳細的具體條款， 但是， 算法使用者可以要求算法營運者對算法的不恰當營運承擔責任， 如果算法營運出現問題， 則算法營運者應該承擔責任。在這種要求下， 算法使用者與算法營運者之間就存在完備合約了， 二者的關系就是合約類委托代理關系了。

關系5是算法監管部門對算法開發者的監管， 關系6是算法監管部門對算法使用者的監管， 關系7是算法監管部門對算法營運者的監管， 算法開發者、 算法使用者和算法營運者是算法的共同責任人， 政府監管的目的是保障算法相對人的利益。人工智能還處于快速發展中， 雖然會帶來一些問題， 但更多的是提升人類完成特定任務的效率效果， 因此， 政府對算法進行監管的基本原則是謙抑， 也就是最低程度干預。很顯然， 關系5、 關系6和關系7中， 關系雙方在算法方面存在信息不對稱， 因此， 這些關系都屬于委托代理關系。但是， 其性質是監管類委托代理關系， 算法監管部門要遵守“法無明文不可為”的原則， 只能按法律法規規定的程序及方法對規定的內容進行監管， 對于算法共同責任人， 也只能就其違反算法法律法規的行為進行責任追究。因此， 與算法相關的法律法規事實上發揮了類似完備合約的作用。

關系8是本級政府將算法監管職責授予特定的政府部門（算法監管部門）， 本級政府必須給予該部門充分授權， 并為其提供履行法定職責的資源。因此， 本級政府與算法監管部門的關系是典型的資源類委托代理關系， 算法監管部門的經管責任同樣由財務責任和業務責任組成， 其業務責任就是算法監管。

2. 委托代理關系中的代理問題和次優問題及其應對機制。根據經典審計理論， 各類委托代理關系中都有可能出現代理問題和次優問題， 代理問題是因為人的自利而產生的問題， 次優問題是因為人的有限理性而產生的問題（鄭石橋，2021）。許多情形下， 代理問題和次優問題相互交織， 難以區分。與算法相關的委托代理關系有三種類型， 一是資源類委托代理關系（關系1、關系8）， 二是合約類委托代理關系（關系2、關系3、關系4）， 三是監管類委托代理關系（關系5、關系6、關系7）。上述三類關系中都有可能出現代理問題和次優問題， 前者是關系一方（代理人）基于自身利益而采取的自利行為， 這種行為通常會對關系對方（委托人）的利益造成負面影響。例如： 算法開發者開發的算法有缺陷， 對算法使用者造成負面影響； 算法營運者職責履行不到位， 造成算法被不當使用， 進而對算法使用者造成負面影響； 算法共同責任者履職不到位， 對算法相對人造成負面影響； 算法監管者未能有效履行其法定的監管職責， 造成算法相對人的合法權益未能得到有效保護。

雖然各類與算法相關的委托代理關系中都有可能出現代理問題和次優問題， 但是， 由于這些關系的性質不同（對算法的權責安排不同）， 應對問題的機制也就不同。

在合約類委托代理關系中， 合約條款（包括隱性條款）是雙方行為的規范， 如果一方違背合約條款， 另一方可以通過司法訴訟來解決。例如： 在關系2中， 如果算法使用者使用的算法違反了國家有關法律法規， 在算法相對人看來， 算法使用者的這種行為屬于違約行為， 可以通過司法訴訟來解決； 在關系3中， 如果算法開發者開發的算法存在合法性問題、 倫理性問題和效率效果性問題， 則可以視同算法開發者存在違約行為， 算法使用者可以通過司法訴訟來追究責任； 在關系4中， 如果因算法營運者的營運不當， 導致算法的不恰當使用， 則算法使用者可以將這種行為作為違約行為， 通過司法訴訟來解決。總體來說， 合約類委托代理關系中的矛盾， 通過司法訴訟來解決是成本最低的制度安排。算法下合約類委托代理關系中的矛盾也不例外。因此， 這種關系中不存在審計需求。也許在某些情形下需要以算法審計結果為基礎來解決司法訴訟問題， 但這并不表明這種關系中存在審計需求， 算法審計結果只是作為司法訴訟的證據。

在監管類委托代理關系中， 相關的法律法規發揮了類似合約條款的作用， 對于被監管方的任何違法違規行為， 監管機構可以通過行政制裁進行處理， 對于監管機構的任何違法違規行為， 被監管方可以通過行政申訴或行政訴訟的方式予以解決。人類歷史已經證明， 監管類委托代理關系中的矛盾， 通過行政制裁、 行政申訴和行政訴訟來解決， 是成本最低的制度安排。算法下監管類委托代理關系中的矛盾也不例外。行政制裁、 行政申訴和行政訴訟中， 也許會用到算法審計結果作為證據， 但這并不表明這種關系中存在審計需求。當然， 算法監管部門可以借鑒算法審計的一些方法來履行其監管職責， 甚至直接使用“算法審計”這種詞匯， 但從實質上來說， 此時的“算法審計”是算法合法性檢查， 并不存在經典審計意義上的算法審計需求。

在資源類委托代理關系中， 激勵不相容、 信息不對稱、 合約不完備和環境不確定同時存在， 代理人更容易出現代理問題和次優問題。算法的資源類委托代理關系（關系1）中， 算法是代理人履行其經管責任的手段， 委托人對代理人如何履行其經管責任應充分授權， 因此， 與算法相關的主要權力應該在代理人手中， 那么， 代理人能否最大善意地使用委托人對算法的授權來良好地履行其承擔的經管責任呢？答案是“不一定”！第一， 委托人和代理人之間存在一定的激勵不相容， 因此， 代理人很有可能利用算法權來追求自己的目標， 而不是委托人的目標； 第二， 委托人和代理人之間在算法方面存在信息不對稱， 委托人對代理人如何使用算法的許多信息并不了解， 正是這種信息不對稱為代理人掩蓋其算法方面的代理問題和次優問題提供了條件； 第三， 委托人和代理人在算法方面存在合約不完備， 委托人對代理人使用的算法可以提出一些原則性要求， 但是， 無法細化為可執行的合約條款， 因此， 即使委托人對代理人的某些算法不滿意， 也無法將這些行為作為違約行為提起司法訴訟， 這進一步為代理人在算法方面出現代理問題和次優問題提供了條件； 第四， 算法服務于代理人履行經管責任， 但是， 經管責任履行的結果除了受到算法的影響， 還會受到其他許多環境因素的影響， 且這些環境因素本身還具有不確定性， 進而導致它們對經管責任履行結果的影響也具有不確定性， 從而難以根據經管責任履行結果來判斷代理人使用的算法之優劣， 這就進一步為代理人在算法方面出現代理問題和次優問題提供了條件。

那么， 如何應對資源類委托代理關系中的代理問題和次優問題呢？人類歷史已經證明， 為了應對資源類委托代理關系中的代理問題和次優問題， 行政手段和司法手段并不是最有效的制度安排， 而是必須建構一整套的治理體系（當然，司法手段和行政手段也可以成為該體系中的成員）。算法的資源類委托代理關系（關系1）中， 委托人及利益相關方會推動建立針對代理人在算法方面的代理問題和次優問題的治理機制——算法治理體系。目前， 世界各國都在探索建構本國的算法治理體系， 現有文獻將算法治理體系進行了多種分類： 一是將算法治理分為以算法透明為代表的事前規制和以算法問責為代表的事后規制（沈偉偉，2019；張旭，2022）； 二是將算法治理分為算法公開、 個人數據賦權與反算法歧視（丁曉東，2020）； 三是將算法治理分為個體賦權模式和外部問責模式（付冉冉，2023）； 四是將算法治理分為權利保護規制路徑和義務設置規制路徑（劉建業，2023）。需要說明的是， 現有文獻提出的算法治理體系， 其治理范圍涵蓋圖1中所有情形的算法委托代理關系， 并不只是針對資源類委托代理關系（關系1）， 同時， 現有文獻主要關注算法的外部治理機制， 對算法的內部治理機制未給予足夠關注。算法治理體系的建構是一個內容非常豐富的課題， 也不是本文的研究主題， 這里不展開討論， 但需強調的是， 對于算法中的資源類委托代理關系（關系1）， 其算法方面代理問題和次優問題的應對需要建構由外部治理和內部治理共同組成的算法治理體系， 算法審計基于審計的固有功能， 在這個治理體系中發揮重要作用。

圖1中的關系8是本級政府與其算法監管部門之間的關系， 其性質是資源類委托代理關系。本級政府與算法監管部門之間存在信息不對稱、 激勵不相容、 合約不完備和環境不確定， 算法監管部門的工作人員有可能出現代理問題， 例如， 在算法監管中不作為或亂作為。同時， 算法監管部門的工作人員是有限理性的， 也可能出現次優問題， 例如， 未能及時有效地發現算法責任主體存在的算法問題。為了應對算法監管部門在履行算法監管職責時可能出現的代理問題和次優問題， 本級政府會推動建構針對這些問題的治理體系， 對算法監管部門實施審計， 是這個治理體系的一種制度安排。

3. 算法審計在算法治理體系中的定位。算法治理體系中為什么會有算法審計呢？前文的文獻綜述表明， 關于算法審計產生的原因， 現有文獻從兩個方面進行了分析， 一是算法治理體系存在缺陷， 二是算法審計具有獨特優勢， 這兩個方面的分析結合起來， 對算法審計的產生有一定的解釋力。但是， 根據經典審計理論， 審計能夠應對代理問題和次優問題的根本原因在于審計的固有功能， 正是因為審計的固有功能， 才使得審計成為應對代理問題和次優問題的治理體系之成員。審計的固有功能是鑒證， 就是用系統方法核實審計事項的真實情況， 然后將這種真實情況與既定標準相比較以發現偏差， 并將審計發現提供給能夠采取行動的利益相關者， 推動這些偏差得到整改， 最終促使代理人履行經管責任時的偏差越來越小， 從而其經管責任的履行質量也就越來越好（鄭石橋，2021）。

圖1所示的資源類算法委托代理關系（關系1）中， 代理人在履行其經管責任時使用了算法， 因此， 代理人對委托人承擔了最大善意地使用算法的責任， 這種責任可以稱為算法責任②， 內容至少包括： 算法不存在合法性問題、 不存在倫理性問題、 不存在效率效果性問題。但是， 由于激勵不相容、 信息不對稱、 合約不完備和環境不確定， 代理人不一定能夠良好地履行算法責任， 而會出現代理問題和次優問題， 算法審計基于審計固有功能對算法責任履行情況實施鑒證， 發現其中存在的代理問題和次優問題， 報告給委托人及其他利益相關者并推動整改， 從而為算法責任的良好履行提供一定的保障。正是因為算法審計的上述功能， 算法審計制度將技術、 法律和倫理深度融合， 以合理透明度和專業技術保證彌合算法“黑箱”和商業秘密間的制度張力， 為構建事前預警識別機制、 事中風險管控機制和事后責任追溯機制提供了有效決策參考， 成為當下各國算法治理圖景中日益引發關注的新興治理工具（張欣和宋雨鑫，2022）。Raji 等（2020）指出， 審計旨在從系統外部識別相關風險， 并作為已部署模型的問責措施。Beckstrom（2022）指出， 現已提出引入專業的、 有執照的人工智能系統審計員的想法。

算法審計基于審計固有功能發揮上述作用， 進而產生的算法治理效率效果， 是算法審計所特有的， 因此也成為算法審計的優勢。同時， 這些作用的效率效果也是許多算法治理機制所沒有的， 相對來說， 其他的算法治理機制也就存在缺陷。但是， 算法審計相對于其他的算法治理機制， 同樣也存在一些缺陷。例如， 算法審計制度的彈性較大， 如果授權不夠， 則權威性可能不夠， 如果算法審計結果不能得到有效利用， 則算法審計可能徒有虛名。既然如此， 算法審計作為算法治理體系的成員， 就應該與其他算法治理機制相協同， 既不能超越自身的固有功能去發揮作用， 也不能對屬于固有功能范圍的事項不作為。

圖1所示的關系8中， 本級政府針對其各個部門的治理體系有多種機制， 通常包括制衡機制、 激勵機制、 道德機制、 透明機制和監督機制等（鄭石橋，2021）， 審計以其固有功能對政府各個部門的經管責任履行情況進行檢查， 發現各個部門經管責任履行中存在的問題并督促整改， 因此， 審計成為針對政府各個部門的主要治理機制， 算法監管部門作為本級政府的組成部門， 當然也就成為審計的治理對象之一。特別之處在于， 本級政府建立的審計機關對算法監管部門的經管責任履行情況進行審計時， 其重要內容之一就是檢查其算法監管責任履行情況， 通過發現該部門算法監管責任履行中存在的問題并推動整改， 促使該部門更好地履行責任， 從而也為整個社會的算法向善奠定一定的基礎。

四、 結論

算法已經深入人們生活及工作的各個方面， 在增進人類福祉的同時， 也帶來一些問題， 人類必須建構算法治理體系來應對這些問題。算法審計是算法治理體系的重要成員， 本文以經典審計理論為基礎， 提出算法審計需求的一個理論框架。

算法中存在多種關系， 這些關系中都存在信息不對稱， 因此， 都屬于委托代理關系。這些關系可以分為三種類型： 合約類委托代理關系、 監管類委托代理關系和資源類委托代理關系。不同類型的關系中， 算法權責安排不同， 因此， 應對算法代理問題和次優問題的機制也不同。在算法的合約類委托代理關系中， 由于存在完備合約， 應對算法代理問題和次優問題的主要機制是司法訴訟； 在算法的監管類委托代理關系中， 由于算法相關法律法規發揮了類似完備合約的作用， 應對算法代理問題和次優問題的主要機制是行政制裁、 行政申訴和行政訴訟； 在算法的資源類委托代理關系中， 由于激勵不相容、 信息不對稱、 合約不完備和環境不確定同時存在， 必須建構算法治理體系來應對算法代理問題和次優問題， 算法審計是算法治理體系的重要成員， 算法審計基于審計固有功能對算法責任履行情況實施鑒證， 發現其中存在的代理問題和次優問題， 報告給委托人及其他利益相關者并推動整改， 從而為算法責任的良好履行提供一定的保障。

【 注 釋 】

① The New York City Council， Subchapter 25： Automated Employment Decision Tools， https：//codelibrary.amlegal.com/codes/newyorkcity/latest/NYCadmin/0-0-0-135598。

② 代理人（算法使用者）通過合同，將某些算法責任轉移給算法開發者和算法營運者，因此，算法使用者、算法開發者和算法營運者共同成為算法責任人。

【 主 要 參 考 文 獻 】

陳雄燊．人工智能倫理風險及其治理——基于算法審計制度的路徑［ J］．自然辯證法研究，2023（10）：138 ～ 141．

丁曉東．論算法的法律規制［ J］．中國社會科學，2020（12）：138 ～ 159+203．

付冉冉．大數據時代算法審計構想［ J］．網絡安全與數據治理，2023（2）：48 ～ 52．

劉建業．論我國算法審計的法治化建構［ J］．河南財經政法大學學報，2023（3）：14 ～ 23．

沈偉偉．算法透明原則的迷思——算法規制理論的批判［ J］．環球法律評論，2019（6）：20 ～ 39．

沈艷．推行算法審計大有可為［EB/OL］．https：//m.thepaper.cn/baijiahao_19396823，2022-08-10．

師文，陳昌鳳．國內主流搜索引擎的算法審計研究［ J］．新聞大學，2022（10）：84 ～ 100+123．

蘇宇．論算法規制的價值目標與機制設計［ J］．自然辯證法通訊，2019（10）：8 ～ 15．

蘇宇．算法規制的譜系［ J］．中國法學，2020（3）：165 ～ 184．

孫瑩．人工智能算法規制的原理與方法［ J］．西南政法大學學報，2020（1）：83 ～ 95．

湯志偉，方錄，韓嘯，鄧明磊．基于委托代理視角的算法治理問題研究［ J］．情報雜志，2023（7）：170 ～ 177．

王玉鳳．模型算法審計：理論內涵、國際經驗與審計框架［ J］．審計研究，2023（3）：11 ～ 18．

徐明華，魏子瑤．算法倫理的治理新范式：算法審計的興起，發展與未來［ J］．當代傳播，2023（1）：80 ～ 86．

張濤．通過算法審計規制自動化決策：以社會技術系統理論為視角［ J］．中外法學，2024（1）：261 ～ 279．

張文魁．數字經濟中的數據和算法規制［ J］．重慶理工大學學報：社會科學，2022（10）：8 ～ 13．

張欣．從算法危機到算法信任：算法治理的多元方案和本土化路徑［ J］．華東政法大學學報，2019（6）：17 ～ 30．

張欣，宋雨鑫．算法審計的制度邏輯和本土化構建［ J］．鄭州大學學報：哲學社會科學版，2022（6）：33 ～ 42．

張旭．基于人權標準的算法治理新思路：企業算法合規義務［ J］．人權研究，2022（2）：88 ～ 104．

張永忠，張寶山．算法規制的路徑創新：論我國算法審計制度的構建［ J］．電子政務，2022（10）：48 ～ 61．

趙德勇，張子輝．“大數據殺熟”的法律規制——從個人信息保護到算法規制［J］，經濟論壇，2023（10）：16 ～ 23．

鄭石橋．審計基礎理論［M］．北京：中國人民大學出版社，2021．

莊尚文，陳王薏．數字經濟時代算法權力問題及其審計規制探討［ J］．吉林工商學院學報，2021（4）：75 ～ 79．

Abeba Birhane， Ryan Steed， Victor Ojewale， et al.. AI auditing： The broken bus on the road to AI accountability［EB/OL］．https：//arxiv.org/pdf/2401.14462.pdf，2024-01-25．

Aragona B.. Algorithm audit： Why， what， and how？［EB/OL］．http：//doi.org/10.4324/9781003080381，2021-08-02．

Beckstrom J. R.. Auditing machine learning algorithms： A white paper for public auditors［EB/OL］．http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］．https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2024-09-23．

Khoa Lam， Benjamin Lange， Borhane B. H.， et al.. A framework for assurance audits of algorithmic systems［EB/OL］．https：//arxiv.org/pdf/2401.14908.pdf，2023-01-26．

Raji I. D.， Smart A.， White R. N.， et al.. Closing the AI accountability gap： Defining an end-to-end framework for internal algorithmic auditing［EB/OL］．https：//arxiv.org/abs/2001.00973，2020-01-03．