算法審計主體論

【摘要】算法審計主體的核心問題是誰來實施算法審計， 本文以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計主體的一個理論框架。算法審計主體由算法審計需求者基于三個原則來選擇： 一是獨立性原則， 要求算法審計主體獨立于算法審計客體； 二是成本效益原則， 當(dāng)算法審計主體的多種建構(gòu)方案都可以保持審計主體的獨立性時， 要選擇成本最低的組織方式； 三是審計質(zhì)量原則， 要求算法審計主體能夠提供滿足質(zhì)量標(biāo)準(zhǔn)的算法審計， 主要通過審計主體的專業(yè)勝任能力來保障。基于上述三個原則， 不同的資源類委托代理關(guān)系中的算法審計需求者對算法審計主體會做出不同的選擇， 可能的算法審計主體包括具有算法審計勝任能力的政府審計機(jī)關(guān)、內(nèi)部審計機(jī)構(gòu)和社會審計機(jī)構(gòu)。

【關(guān)鍵詞】算法審計；算法審計主體；算法審計獨立性；算法審計質(zhì)量；算法審計成本效益

【中圖分類號】F239.44""""" 【文獻(xiàn)標(biāo)識碼】A""""" 【文章編號】1004-0994（2024）20-0075-6

【基金項目】國家社會科學(xué)基金重大項目“百年審計理論創(chuàng)新研究”（項目編號：21amp;ZD027）

【作者單位】南京審計大學(xué)審計科學(xué)研究院， 南京 211815

一、 引言

人工智能正成為驅(qū)動社會變革的關(guān)鍵技術(shù)， 并在重塑我們的工作、 學(xué)習(xí)和生活方式， 將對經(jīng)濟(jì)發(fā)展和社會福祉產(chǎn)生深遠(yuǎn)影響。人工智能的核心是算法， 它決定了機(jī)器如何學(xué)習(xí)、 推理和做出決策。算法通過提高效率、 促進(jìn)創(chuàng)新和提供個性化服務(wù)發(fā)揮積極作用， 但同時也可能導(dǎo)致偏見、 隱私侵犯和不平等加劇等負(fù)面影響， 因此， 必須建構(gòu)算法治理體系。算法審計是算法治理體系的重要組成部分， 以審計固有功能在算法治理中發(fā)揮獨特作用。算法審計要真正發(fā)揮作用， 必須建構(gòu)科學(xué)的算法審計制度， 而制度自信要以理論自信為基礎(chǔ)， 正確地認(rèn)知算法審計的各個基礎(chǔ)性問題， 是科學(xué)地建構(gòu)算法審計制度的基礎(chǔ)。在諸多的算法審計基礎(chǔ)性問題中， 本文聚焦算法審計主體即誰來實施算法審計①展開分析。

整體來說， 當(dāng)前有關(guān)算法審計主體的研究還處于碎片化的起步階段， 貫通經(jīng)典審計理論的系統(tǒng)化理論框架尚未形成。本文以經(jīng)典審計理論為基礎(chǔ)， 以算法委托代理關(guān)系為切入點， 提出算法審計主體的一個理論框架， 以深化人們對算法審計主體的認(rèn)知， 并為建構(gòu)和完善算法審計主體相關(guān)制度提供理論參考。

二、 文獻(xiàn)綜述

當(dāng)前尚未發(fā)現(xiàn)有文獻(xiàn)專門討論算法審計主體。一些討論算法審計的文獻(xiàn)涉及算法審計主體， 主要涉及三個方面： 算法審計主體的分類、" 算法審計主體的地位、" 算法審計主體的要求。

（一） 算法審計主體的分類

算法審計主體究竟有哪些類型， 現(xiàn)有文獻(xiàn)存在多種觀點， 本文將這些觀點概括為二主體觀、 三主體觀和多主體觀。

1. 二主體觀認(rèn)為， 算法審計主體有兩種類型。不同文獻(xiàn)的分類方法不同， 多數(shù)文獻(xiàn)將算法審計主體分為外部審計和內(nèi)部審計。沈艷（2022）認(rèn)為， 算法審計可分為外部審計和內(nèi)部審計兩種； 王玉鳳（2023）認(rèn)為， 算法審計以內(nèi)部審計與外部審計相結(jié)合的方式， 發(fā)揮其專業(yè)性、 獨立性優(yōu)勢； Abeba Birhane等（2024）認(rèn)為， 有很多可能的審計從業(yè)人員參與審計過程， 通常被稱為內(nèi)部審計師和外部審計師。

也有一些文獻(xiàn)提出了其他的二主體觀。胡堅波（2022）指出， 近年來， 國外由司法部門進(jìn)行的算法審查和由第三方機(jī)構(gòu)進(jìn)行的算法審計在算法治理中逐漸發(fā)揮重要作用； 王兆毓（2023）認(rèn)為， 算法審計應(yīng)當(dāng)是多元主體的協(xié)同共治審計體系， 包括企業(yè)內(nèi)部審計與獨立的外部審計； 劉建業(yè)（2023）認(rèn)為， 算法審計主體包括算法審計行政機(jī)構(gòu)和企業(yè)內(nèi)部算法審計。

2. 三主體觀就是將算法審計主體分為三種類型。不少文獻(xiàn)將算法審計主體分為政府審計機(jī)關(guān)審計、 內(nèi)部審計和社會審計。付冉冉（2023）認(rèn)為， 在公共領(lǐng)域， 算法審計可以由審計部門及相關(guān)內(nèi)部審計部門組織實施， 在其他商業(yè)領(lǐng)域， 國家可進(jìn)行社會審計指導(dǎo)， 推動有資質(zhì)的社會第三方機(jī)構(gòu)參與商業(yè)領(lǐng)域的算法審計。王玉鳳（2023）提出： 以政府部門為主要審計對象的國家審計是模型算法審計的重要審計主體； 內(nèi)部審計是模型算法風(fēng)險防控非常重要的一道防線； 社會審計更具靈活性， 是前兩者的有益補(bǔ)充， 能夠有效約束模型算法權(quán)力， 形成審計合力。

也有一些文獻(xiàn)將算法審計主體分為算法監(jiān)管機(jī)構(gòu)審計、 內(nèi)部審計和民間組織審計。張欣和宋雨鑫（2022）認(rèn)為， 算法審計制度可劃分為科技企業(yè)開展的內(nèi)部審計以及由監(jiān)管機(jī)關(guān)和第三方開展的外部審計。DRCF（2022）提出， 審計可以由組織內(nèi)的團(tuán)隊實施， 也可以由獨立審計提供商等外部機(jī)構(gòu)實施， 或者由監(jiān)管機(jī)構(gòu)實施。劉建業(yè)（2023）提出， 算法審計主要存在三種實踐樣態(tài)， 即算法自審計（內(nèi)部審計）、 算法監(jiān)管審計、 第三方算法審計。張濤（2024）認(rèn)為， 算法審計背景下， 既可以由自動化決策的實施主體開展內(nèi)部審計， "也可以由政府監(jiān)管機(jī)構(gòu)和其他組織實施外部審計。

此外， 還有文獻(xiàn)提出了其他的三主體觀。張永忠和張寶山（2022）提出， 未來可能的制度選擇有三種： 一是將算法審計納入財務(wù)審計的業(yè)務(wù)之中， 由會計師事務(wù)所審計； 二是由公共審計機(jī)構(gòu)審計； 三是將算法審計作為一種全新的民間審計。

3. 多主體觀主要是在三主體觀的基礎(chǔ)上， 將一些參加算法影響評估的機(jī)構(gòu)作為算法審計主體。例如： DRCF（2022）認(rèn)為， 研究人員對公司的系統(tǒng)進(jìn)行了各種形式的算法審計， 其中許多側(cè)重于算法偏見、 歧視以及內(nèi)容或信息的放大。陳雄燊（2023）認(rèn)為， 算法審計主體分為政府、 企業(yè)內(nèi)部以及民間三方審計組織， 此外， 算法倫理審計的主體還應(yīng)當(dāng)包括倫理學(xué)教授等倫理專家、 律師等法律工作者以及技術(shù)工程師。Abeba Birhane等（2024）發(fā)現(xiàn)， 律師事務(wù)所、 咨詢機(jī)構(gòu)、 公司審計、 新聞業(yè)、 民間社會和政府都參與算法影響評估， 因此， 它們都已經(jīng)成為算法審計主體。

（二） 算法審計主體的地位

算法審計主體有多種， 少量文獻(xiàn)涉及不同算法審計主體的地位。莊尚文和陳王薏（2021）提出， 可以建立政府主導(dǎo)的大數(shù)據(jù)審計監(jiān)管平臺， 對企業(yè)進(jìn)行實時的動態(tài)監(jiān)管。劉建業(yè)（2023）認(rèn)為， 采用完全市場化的算法審計模式恐怕為時尚早， 政府主導(dǎo)的算法審計模式或許是更為合適的選擇， 隨著算法社會治理的法治化， 政府主導(dǎo)的算法審計模式將逐步讓位于市場主導(dǎo)的算法審計模式。

（三） 算法審計主體的要求

關(guān)于算法審計主體的要求， 現(xiàn)有文獻(xiàn)主要強(qiáng)調(diào)其專業(yè)性和獨立性。張凌寒（2019）提出， 對于算法透明度的評估、 是否有歧視可能以及對可疑結(jié)果的回溯， 都需要專業(yè)委員會提供咨詢意見或者直接執(zhí)行， 方可保證規(guī)制有效性。Beckstrom（2022）提出， 機(jī)器學(xué)習(xí)審計以專門的審計知識和技能為基礎(chǔ)， 最高審計機(jī)關(guān)應(yīng)培養(yǎng)其審計師的能力。 張永忠和張寶山（2022）提出， 必須考慮算法審計主體從事技術(shù)、 合規(guī)和風(fēng)險審查上的主體適格性。馬騰飛（2023）提出， 算法合規(guī)性判斷需要由權(quán)威、 獨立和專業(yè)的第三方審計機(jī)構(gòu)作出。王玉鳳（2023）提出， 算法審計機(jī)構(gòu)要發(fā)揮其專業(yè)性、 獨立性優(yōu)勢。張濤（2024）提出， 實施算法審計的主體應(yīng)當(dāng)獨立于算法系統(tǒng)的設(shè)計者、 使用者、 運營者等主體，" 同時具備完成審計工作的專業(yè)知識。

（四） 簡要評述

上述文獻(xiàn)表明， 現(xiàn)有文獻(xiàn)對算法審計主體的一些問題已經(jīng)有一定程度的涉及， 為人們建構(gòu)算法審計制度奠定了基礎(chǔ)。但是， 仍存在以下三方面的問題： 一是脫離算法審計客體來討論算法審計主體， 很難得出一般性的結(jié)論； 二是未區(qū)分算法監(jiān)管和算法審計， 將算法監(jiān)管機(jī)構(gòu)也作為算法審計主體， 混淆了審計監(jiān)督和行政監(jiān)管； 三是未能貫通審計邏輯， 現(xiàn)有文獻(xiàn)所提出的算法審計主體并不是基于經(jīng)典審計理論的學(xué)理分析得出的結(jié)論。整體來說， 算法審計主體研究還處于碎片化的起步階段， 貫通經(jīng)典審計理論的系統(tǒng)化的理論框架尚未形成。

三、 理論框架

本文的研究目的是以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計主體的一個理論框架， 為此， 將依次闡釋以下問題： 算法委托代理關(guān)系、" 關(guān)系1中的算法審計主體、" 關(guān)系8中的算法審計主體、" 算法審計主體的幾個相關(guān)問題的討論。

（一） 算法委托代理關(guān)系

算法的技術(shù)復(fù)雜性及其解決現(xiàn)實問題的復(fù)雜性， 導(dǎo)致算法涉及多種關(guān)系主體， 這些關(guān)系主體之間都存在一定程度的信息不對稱。因此， 根據(jù)信息經(jīng)濟(jì)學(xué)， 這些關(guān)系都屬于委托代理關(guān)系， 基本情況如圖1所示。

圖1中的關(guān)系1是經(jīng)典意義上的資源類委托代理關(guān)系， 委托人將一定的資源交付代理人， 并明確代理人要履行的職責(zé)， 代理人對委托人承擔(dān)了最大善意使用所接受資源來履行所要求職責(zé)的責(zé)任， 這種責(zé)任通常稱為“經(jīng)管責(zé)任”。但是， 在人工智能時代， 代理人在履行其承擔(dān)的經(jīng)管責(zé)任時使用了算法， 履行經(jīng)管責(zé)任過程中涉及的財務(wù)活動和業(yè)務(wù)活動大量依賴算法， 在這種背景下， 算法對代理人經(jīng)管責(zé)任履行情況有決定性影響。因此， 算法責(zé)任是經(jīng)管責(zé)任的重要內(nèi)容， 針對經(jīng)管責(zé)任的審計必須包括對算法責(zé)任的審計。

圖1中的關(guān)系2是代理人在履行經(jīng)管責(zé)任過程中所涉及的經(jīng)濟(jì)活動的交易對方， 由于代理人在開展這些活動時使用了算法， 因此代理人就成為算法使用者， 而交易對方就成為算法相對人。代理人作為算法使用者與算法相對人的關(guān)系是合約類委托代理關(guān)系， 算法相對人如果不同意代理人使用的算法， 可以拒絕交易； 如果實施了交易， 則就視同同意雙方對算法的約定； 如果代理人提供的算法與約定的算法不同， 則算法相對人可以通過司法訴訟來解決代理人違約問題。整體來說， 這種關(guān)系中的合約是完備的， 并不存在算法審計需求。

圖1中的關(guān)系3是代理人作為算法使用者與算法開發(fā)者的關(guān)系。通常來說， 算法使用者可能不具備自行開發(fā)算法的技術(shù)能力， 因此， 會委托具有專業(yè)能力的機(jī)構(gòu)來開發(fā)算法（如果具備這種能力，則算法開發(fā)者與算法使用者合而為一，關(guān)系3消失）， 在雙方的合約中對算法會提出一些具體要求。可見， 二者的關(guān)系仍然存在完備的合約， 并不存在算法審計需求。但是， 代理人作為算法所有者和使用者有權(quán)力對算法開發(fā)者開發(fā)的算法進(jìn)行驗收。由于這種驗收也需要專業(yè)能力， 代理人作為算法使用者可能并不具備這種能力， 因此通常是通過算法使用過程中是否出現(xiàn)約定的算法不能出現(xiàn)的問題來進(jìn)行驗收。在這種背景下， 關(guān)系1中針對代理人的算法責(zé)任審計就延伸到關(guān)系3， 算法開發(fā)者與算法使用者共同承擔(dān)算法責(zé)任。

圖1中的關(guān)系4是代理人作為算法使用者與算法營運者的關(guān)系。這種關(guān)系存在是由于代理人作為算法使用者并不具備營運算法的技術(shù)能力（如果具備這種能力， 則算法使用者與算法營運者合而為一，關(guān)系4消失）， 因此， 委托專業(yè)機(jī)構(gòu)負(fù)責(zé)營運。雙方應(yīng)該簽訂完備合約， 對算法營運狀況提出具體要求， 約定不能出現(xiàn)的狀況， 如果出現(xiàn)， 就視同算法營運者違約。正是由于這種原因， 關(guān)系4中并不存在算法審計需求。但是， 由于算法營運者承擔(dān)了算法營運責(zé)任， 因此， 針對關(guān)系1中代理人作為算法使用者的算法責(zé)任審計也會延伸到算法營運者， 算法營運者也成為算法責(zé)任主體之一。

圖1中關(guān)系5、 關(guān)系6和關(guān)系7是本級政府設(shè)立的算法監(jiān)管部門對算法開發(fā)者、 算法使用者和算法營運者的監(jiān)督。這種關(guān)系是監(jiān)管類委托代理關(guān)系， 算法監(jiān)管部門要按算法相關(guān)法律法規(guī)進(jìn)行監(jiān)管， 對于其違背法律法規(guī)的行為可以通過行政申訴、 行政訴訟等方式來處理。而算法開發(fā)者、 算法使用者和算法營運者則必須按算法相關(guān)法律法規(guī)的要求接受監(jiān)管， 其違背法律法規(guī)的行為可以通過行政制裁來解決。整體來說， 算法相關(guān)法律法規(guī)發(fā)揮了類似完備合約的作用， 并不存在算法審計需求。當(dāng)然， 并不排除算法監(jiān)管部門會借助算法審計的技術(shù)功能來為其算法監(jiān)管服務(wù)。

圖1中關(guān)系8是本級政府與其設(shè)立的算法監(jiān)管部門的關(guān)系。很顯然， 這是典型的資源類委托代理關(guān)系， 只是這個政府部門的職責(zé)是算法監(jiān)管， 因此， 算法監(jiān)管部門對本級政府承擔(dān)的經(jīng)管責(zé)任包括財務(wù)責(zé)任與業(yè)務(wù)責(zé)任兩部分。財務(wù)責(zé)任與其他政府部門并無實質(zhì)性區(qū)別， 而業(yè)務(wù)責(zé)任其實就是算法監(jiān)管責(zé)任。本級政府的審計機(jī)構(gòu)在審計算法監(jiān)管部門時， 算法監(jiān)管責(zé)任履行情況的審計是重要內(nèi)容。

基于以上分析， 圖1中關(guān)系1、 關(guān)系8中存在算法審計需求， 同時， 圖1中關(guān)系1針對代理人作為算法使用者的審計會延伸到關(guān)系3中的算法開發(fā)者和關(guān)系4中的算法營運者（鄭石橋，2024a、2024b）。本文的研究主題是算法審計主體， 接下來將以上述分析為基礎(chǔ)， 闡釋不同委托代理關(guān)系中的算法審計主體。

（二） 關(guān)系1中的算法審計主體

根據(jù)經(jīng)典審計理論， 審計主體是由審計需求者建構(gòu)的， 建構(gòu)的原則有三個： 一是獨立性原則， 這就要求算法審計主體要獨立于算法審計客體； 二是成本效益原則， 當(dāng)算法審計主體的多種建構(gòu)方案都可以保持審計主體的獨立性時， 要選擇成本最低的組織方式； 三是審計質(zhì)量原則， 要求算法審計主體能夠提供能保障質(zhì)量的算法審計， 這主要通過審計主體的專業(yè)勝任能力來保障（鄭石橋，2021）。算法審計主體的建構(gòu)也不例外， 同樣需要遵守上述三個原則。接下來， 本文先討論圖1中關(guān)系1的算法審計主體。

圖1中的關(guān)系1是經(jīng)典意義上的資源類委托代理關(guān)系， 代理人在履行其經(jīng)管責(zé)任時使用了算法， 因此在對經(jīng)管責(zé)任的審計中包含著算法責(zé)任審計。由于這種關(guān)系中存在信息不對稱、 激勵不相容、 合約不完備和環(huán)境不確定， 委托人存在對其代理人經(jīng)管責(zé)任審計的需求。在特殊情形下， 代理人也存在對其自身經(jīng)管責(zé)任進(jìn)行審計的需求。這兩種審計需求中都包括對算法責(zé)任履行情況的審計需求。問題的關(guān)鍵是， 由誰來實施算法審計？就委托人的算法審計需求來說， 其可以選擇的組織方式有兩種： 一是自行建構(gòu)一個具有算法審計能力的審計機(jī)構(gòu)； 二是從市場上購買算法審計服務(wù)。對二者如何選擇呢？

自行建構(gòu)具有算法審計能力的審計機(jī)構(gòu)， 通常是對現(xiàn)有的自建審計機(jī)構(gòu)進(jìn)行改造， 增加具有算法審計能力的審計人員。此時， 如果審計體制恰當(dāng)， 也就是不讓審計機(jī)構(gòu)受代理人約束， 則能夠保障審計獨立性。如果這個審計機(jī)構(gòu)真的配備了具有算法審計專業(yè)勝任能力的人員， 則審計質(zhì)量也有保障。所以， 問題的關(guān)鍵在于能否滿足成本效益原則的要求。影響審計成本效益的因素較多， 主要的影響因素是審計業(yè)務(wù)常態(tài)化程度和審計業(yè)務(wù)量大小。越是具有常態(tài)化的審計業(yè)務(wù)， 自行建構(gòu)審計機(jī)構(gòu)的審計成本越低； 審計業(yè)務(wù)量越大， 自行建構(gòu)審計機(jī)構(gòu)的審計成本越低。所以， 當(dāng)代理人作為一個組織單位規(guī)模較大、 使用算法較多時， 算法審計業(yè)務(wù)就會具有常態(tài)化和規(guī)?；?， 此時， 通常適宜自行建構(gòu)一個具有算法審計能力的審計機(jī)構(gòu)。

從市場上購買算法審計服務(wù)， 就是委托人從市場上具有算法審計能力的專業(yè)機(jī)構(gòu)中選擇特定的機(jī)構(gòu)來購買算法審計服務(wù)。如果代理人不能掌控對這個專業(yè)機(jī)構(gòu)的聘用， 這個專業(yè)機(jī)構(gòu)的審計獨立性就能得到保障； 如果聘用的專業(yè)機(jī)構(gòu)具有專業(yè)勝任能力， 則算法審計質(zhì)量也能得到保障。所以， 問題的關(guān)鍵在于能否滿足成本效益原則的要求。通常來說， 當(dāng)代理人作為一個組織單位的規(guī)模較小、 使用算法較少時， 算法審計業(yè)務(wù)就會具有偶然性， 此時， 通常適宜從市場上購買算法審計服務(wù)。當(dāng)然， 即使是委托人自行建構(gòu)算法審計機(jī)構(gòu)， 如果某些方面的算法審計責(zé)任由市場上的專業(yè)機(jī)構(gòu)來履行更加具有成本效益性， 則此種算法審計業(yè)務(wù)也可以外包給市場上的專業(yè)機(jī)構(gòu)。

關(guān)系1中的代理人在以下特殊情形下也可能有算法審計需求（這里的代理人包括從關(guān)系1中延伸而來的算法開發(fā)者和算法營運者）， 因此， 也需要選擇一定的算法審計主體來實施。

情形之一是代理人及其延伸者與委托人不存在激勵不相容， 因此， 算法責(zé)任履行中也就不存在代理問題。但是， 代理人及其延伸者仍然是有限理性的， 在算法責(zé)任履行中可能出現(xiàn)次優(yōu)問題， 這也會對代理人及其延伸者的算法責(zé)任的履行產(chǎn)生負(fù)面影響。為此， 代理人及其延伸者有可能希望通過算法審計來發(fā)現(xiàn)算法存在的問題， 便于對這些問題進(jìn)行整改， 以優(yōu)化算法責(zé)任的履行機(jī)制， 此時算法審計的主要作用在于揭示算法次優(yōu)問題。問題的關(guān)鍵是， 由何種算法審計機(jī)構(gòu)來履行這些審計責(zé)任？通常來說， 由于代理人及其延伸者與委托人不存在激勵不相容， 代理人會選擇委托人所選擇的算法審計機(jī)構(gòu)來履行審計責(zé)任。如果代理人及其延伸者的算法審計業(yè)務(wù)規(guī)模較大且具有穩(wěn)定性， 則從成本效益原則來說， 代理人及其延伸者也可以自行建構(gòu)專門的算法內(nèi)部審計機(jī)構(gòu)。這種內(nèi)部審計機(jī)構(gòu)審計的是具體履行算法責(zé)任的內(nèi)部單位： 如果內(nèi)部審計體制恰當(dāng)， 則能夠保障審計獨立性； 同時， 如果配備了恰當(dāng)?shù)膶徲嬋藛T， 也能保障審計質(zhì)量。所以， 代理人及其延伸者自行建構(gòu)具有算法審計能力的內(nèi)部審計機(jī)構(gòu)是可行的。在現(xiàn)實生活中， 不少的算法使用者、 算法開發(fā)者和算法營運者設(shè)立的內(nèi)部審計機(jī)構(gòu)都開展算法內(nèi)部審計。

情形之二是代理人將算法審計作為信號傳遞機(jī)制， 向有關(guān)方面?zhèn)鬟f算法質(zhì)量的信號， 讓信號接受者相信代理人所使用的算法質(zhì)量很好， 此時， 算法審計機(jī)構(gòu)的選擇要考慮算法信號的接受者。如果是向委托人傳遞算法信號， 則通?？梢赃x擇委托人所選擇的算法審計機(jī)構(gòu)； 如果是向委托人之外的利益相關(guān)者（例如政府監(jiān)管部門、 算法相對人）傳遞算法信號， 基于獨立性的考慮， 通常選擇從市場上購買算法審計服務(wù)， 也就是由社會上的專業(yè)機(jī)構(gòu)來實施算法審計并發(fā)布算法審計結(jié)果， 現(xiàn)實生活中的算法鑒證基本上都是這種情形。

以上所分析的關(guān)系1中的算法審計主體選擇， 歸納起來如表1所示。

（三） 關(guān)系8中的算法審計主體

圖1中關(guān)系8是本級政府與其設(shè)立的算法監(jiān)管部門的關(guān)系。本級政府作為委托人存在對算法監(jiān)管部門算法監(jiān)管責(zé)任履行情況的審計需求， 特殊情形下， 算法監(jiān)管部門也存在對其自身算法監(jiān)管責(zé)任履行情況進(jìn)行審計的需求， 二者都需要選擇算法審計主體。

通常來說， 本級政府會設(shè)立許多部門， 算法監(jiān)管部門只是其設(shè)立的政府部門之一。為了促使本級政府各部門更好地履行各自的經(jīng)管責(zé)任， 會有專門的審計機(jī)關(guān)對這些部門進(jìn)行審計。這種專門的審計機(jī)關(guān)通常稱為政府審計機(jī)關(guān)， 其審計體制具有多種類型， 例如， 通常所說的立法型審計、 司法型審計、 獨立型審計、 行政型審計、 中國特色的審計體制等都屬于政府審計機(jī)關(guān)的審計體制。政府審計機(jī)關(guān)獨立于算法監(jiān)管部門， 因此， 其對算法監(jiān)管部門的算法監(jiān)管責(zé)任履行情況進(jìn)行審計， 能夠保持獨立性。如果政府審計機(jī)關(guān)配備了具有算法審計能力的審計人員， 則能夠保障算法監(jiān)管責(zé)任審計的審計質(zhì)量。從成本效益原則來說， 政府審計機(jī)關(guān)并不只是審計算法監(jiān)管部門， 其還對本級政府設(shè)立的各個部門都進(jìn)行審計。所以， 審計任務(wù)中增加對算法監(jiān)管部門的審計， 會更加具有成本效益性。整體來說， 本級政府通常會選擇本級政府審計機(jī)關(guān)來審計本級算法監(jiān)管部門。但是， 在符合成本效益原則的前提下， 本級政府審計機(jī)關(guān)也可能將算法監(jiān)管責(zé)任審計的某些內(nèi)容外包給社會上的專業(yè)機(jī)構(gòu)， 由其實施算法審計并發(fā)布算法審計結(jié)果。

關(guān)系8中的政府算法監(jiān)管部門作為本級政府的代理人， 也可能存在對自身算法監(jiān)管責(zé)任履行情況的審計需求。為了滿足其審計需求， 也需要選擇算法審計主體。關(guān)系8中， 存在以下兩種情形。

情形之一是算法監(jiān)管部門與本級政府之間不存在激勵不相容時， 算法監(jiān)管部門將算法監(jiān)管責(zé)任審計作為其算法監(jiān)管責(zé)任履行中次優(yōu)問題的揭示機(jī)制， 此時的審計主體選擇有兩種具體情況。第一， 選擇本級政府審計機(jī)關(guān)， 因為這是本級政府建構(gòu)的審計機(jī)構(gòu)， 符合獨立性、 成本效益性和審計質(zhì)量保障原則。第二， 算法監(jiān)管部門自行設(shè)立具有算法監(jiān)管責(zé)任審計能力的內(nèi)部審計機(jī)構(gòu)。從獨立性來說， 這種內(nèi)部審計機(jī)構(gòu)審計的是算法監(jiān)管部門具體負(fù)責(zé)履行算法監(jiān)管責(zé)任的內(nèi)部單位， 如果內(nèi)部審計體制恰當(dāng)， 則能夠保障審計獨立性； 從審計質(zhì)量來說， 如果內(nèi)部審計機(jī)構(gòu)配備了具有算法監(jiān)管責(zé)任審計能力的審計人員， 則也能保障審計質(zhì)量。關(guān)鍵之處在于算法監(jiān)管部門內(nèi)部具體履行算法監(jiān)管責(zé)任的內(nèi)部單位要達(dá)到一定的數(shù)量， 這樣才能做到算法監(jiān)管責(zé)任內(nèi)部審計需求具有一定的規(guī)模和穩(wěn)定性， 從而符合成本效益原則。

情形之二是算法監(jiān)管部門將算法監(jiān)管責(zé)任審計作為信號傳遞機(jī)制。如果是向本級政府傳遞算法監(jiān)管責(zé)任得到良好履行的信號， 則可能選擇本級政府審計機(jī)關(guān)； 如果是向社會公眾傳遞算法監(jiān)管責(zé)任得到良好履行的信號， 則通常會選擇社會上具有算法監(jiān)管責(zé)任審計能力的專業(yè)機(jī)構(gòu)。

以上所分析的關(guān)系8中的算法審計主體選擇， 歸納起來如表2所示。

（四） 算法審計主體的幾個相關(guān)問題討論

以上基于算法委托代理關(guān)系， 闡釋了算法審計主體選擇的主要問題。為了深化對算法審計主體的認(rèn)知， 還有兩個相關(guān)問題要討論： 一是算法相對人的權(quán)益由誰來保護(hù)； 二是算法審計和算法監(jiān)管部門的算法監(jiān)管職能是否存在重復(fù)。

1. 算法相對人的權(quán)益由誰來保護(hù)。算法相對人與算法使用者之間存在經(jīng)濟(jì)交易， 這種交易中要使用算法， 算法使用者有責(zé)任做到恰當(dāng)?shù)乃惴ㄍ该鳌Ｈ绻惴ㄏ鄬θ瞬煌馑惴ㄕ咚褂玫乃惴ǎ?則可以終止交易； 如果同意交易， 就意味著同意使用算法使用者提供的算法。所以， 算法相對人不能對算法使用者提出算法審計需求。但是， 如果算法使用者未能做到相關(guān)法律法規(guī)所要求的算法透明， 則算法使用者存在違規(guī)行為， 由算法監(jiān)管部門來懲罰。同時， 如果算法使用者所使用的算法違反了算法相關(guān)法律法規(guī)， 則由算法監(jiān)管部門來懲罰。另外， 如果算法使用者實際使用的算法與其向算法相對人承諾的算法存在差異， 屬于算法使用者的違約行為， 算法相對人可以通過司法訴訟來解決。整體來說， 算法監(jiān)管和司法訴訟是算法相對人的權(quán)益保護(hù)機(jī)制。

2. 算法審計和算法監(jiān)管部門的算法監(jiān)管職能是否存在重復(fù)?；谝陨戏治?， 現(xiàn)實中存在的一個現(xiàn)象是： 算法使用者、 算法開發(fā)者和算法營運者既是算法審計的客體， 也是算法監(jiān)管的客體。那么， 算法監(jiān)管部門的算法監(jiān)管與算法審計是否會存在重復(fù)監(jiān)督？如果是， 為什么要重復(fù)監(jiān)督？很顯然， 算法使用者、 算法開發(fā)者和算法營運者既要接受算法審計， 也要接受算法監(jiān)管， 二者存在監(jiān)督重復(fù)。但是， 這種重復(fù)是有道理的， 主要有兩個方面的原因。

第一， 算法審計是所有權(quán)監(jiān)督， 算法監(jiān)管是行政權(quán)監(jiān)督， 這兩種監(jiān)督的權(quán)力來源不同。從算法審計權(quán)來說， 針對關(guān)系1中的代理人作為算法使用者的算法審計權(quán)是源于委托人為其提供了資源， 而針對關(guān)系3中的算法開發(fā)者、 關(guān)系4中的算法營運者的算法審計權(quán)是源于算法開發(fā)者和算法營運者與代理人作為算法使用者的關(guān)系之延伸。從算法監(jiān)管權(quán)來說， 是源于國家立法機(jī)關(guān)的明文授權(quán)， 這種監(jiān)管并不以是否提供資源為前提， 其目的是保障社會公眾的合法權(quán)益不受侵害， 確保算法向善。

第二， 算法監(jiān)管是由政府部門來實施的， 其遵循謙抑性原則， 也就是最低程度干預(yù)， 只有在必不可少的情形下才干預(yù)。并且， 法無明文不可為， 對于要干預(yù)的事項， 必須事先通過法律法規(guī)做出明文規(guī)定， 所以， 算法監(jiān)管強(qiáng)調(diào)的是算法的合法性。算法審計是為了保障算法責(zé)任者更好地履行算法責(zé)任， 因此， 也會關(guān)注算法的合法性。但是， 作為所有權(quán)監(jiān)督， 站在資源提供者的角度， 通常會提出更高的要求， 例如， 要求算法具有倫理性、 效率效果性和營運便利性（鄭石橋，2024c）。這些維度的算法審計目標(biāo)就超出了對算法的最低要求， 而推動算法向更高的水平發(fā)展， 從而促使代理人更好地基于算法來履行其承擔(dān)的經(jīng)管責(zé)任。

四、 結(jié)論

算法審計真正發(fā)揮作用的前提是建構(gòu)科學(xué)的算法審計制度， 而制度自信要以理論自信為基礎(chǔ)。本文聚焦算法審計主體， 以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計主體的一個理論框架。由于算法的技術(shù)復(fù)雜性及其解決現(xiàn)實問題的復(fù)雜性， 導(dǎo)致算法委托代理關(guān)系有多種類型， 其中存在審計算法需求的是資源類委托代理關(guān)系， 合約類及監(jiān)管類委托代理關(guān)系中并不存在算法審計需求。算法審計主體的核心問題是誰來審計， 通常由算法審計需求者根據(jù)三個原則來選擇： 一是獨立性原則， 這就要求算法審計主體獨立于算法審計客體； 二是成本效益原則， 當(dāng)算法審計主體的多種建構(gòu)方案都可以保持審計主體的獨立性時， 要選擇成本最低的審計機(jī)構(gòu)； 三是審計質(zhì)量原則， 要求算法審計主體能夠提供所滿足質(zhì)量標(biāo)準(zhǔn)的算法審計， 這主要通過審計主體的專業(yè)勝任能力來保障?；谏鲜鋈齻€原則， 不同的資源類委托代理關(guān)系中的算法審計需求者對算法審計主體會做出不同的選擇。

經(jīng)典意義上的資源類委托代理關(guān)系中（關(guān)系1并延伸到關(guān)系3和關(guān)系4）， 代理人作為算法使用者在履行其經(jīng)管責(zé)任時使用了算法。委托人作為算法審計需求者時： 如果算法審計業(yè)務(wù)呈現(xiàn)常態(tài)化、 規(guī)?；?， 則會自行構(gòu)建具有算法審計能力的審計機(jī)構(gòu)； 如果算法審計業(yè)務(wù)具有偶然性， 則會從市場上購買算法審計服務(wù)。代理人在特殊情形下也可能存在算法審計需求： 如果將算法審計作為算法次優(yōu)問題的揭示機(jī)制， 則會選擇委托人所選擇的算法審計機(jī)構(gòu)或自行建構(gòu)專門的算法內(nèi)部審計機(jī)構(gòu)； 如果向委托人傳遞算法信號， 則會選擇委托人所選擇的算法審計機(jī)構(gòu)； 如果向社會傳遞算法信號， 則會從市場上購買算法審計服務(wù)。

本級政府與其設(shè)立的算法監(jiān)管部門的關(guān)系中（關(guān)系8）： 本級政府作為算法監(jiān)管責(zé)任審計需求者時， 會選擇本級政府審計機(jī)關(guān)； 社會上的專業(yè)機(jī)構(gòu)更具成本效益性時， 會選擇審計業(yè)務(wù)外包。算法監(jiān)管部門在特殊情形下也可能存在算法審計需求： 如果將算法審計作為算法次優(yōu)問題的揭示機(jī)制， 則會選擇本級政府審計機(jī)關(guān)或自行建構(gòu)具有算法監(jiān)管責(zé)任審計能力的內(nèi)部審計機(jī)構(gòu)； 如果向本級政府傳遞算法監(jiān)管責(zé)任履行信號， 則會選擇本級政府審計機(jī)關(guān)； 如果向社會傳遞算法監(jiān)管責(zé)任履行信號， 則會選擇從市場上購買算法審計服務(wù)。

DOI：10．19641/j．cnki．42-1290/f．2024．20．012

【 主 要 參 考 文 獻(xiàn) 】

陳雄燊．人工智能倫理風(fēng)險及其治理——基于算法審計制度的路徑［ J］．自然辯證法研究，2023（10）：138 ～ 141．

付冉冉．大數(shù)據(jù)時代算法審計構(gòu)想［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（2）：48" ～ 52．

胡堅波．多措并舉推進(jìn)我國算法治理［ J］．人民論壇·學(xué)術(shù)前沿，2022（10）：20 ～ 28．

劉建業(yè)．論我國算法審計的法治化建構(gòu)［ J］．河南財經(jīng)政法大學(xué)學(xué)報，2023（3）：14 ～ 23．

馬騰飛．基于數(shù)據(jù)主權(quán)視角的算法治理：進(jìn)展、困境與路徑［ J］．信息資源管理學(xué)報，2023（6）：48 ～ 61．

沈艷．推行算法審計大有可為［EB/OL］．https：//m.thepaper.cn/baijiahao_19396823，2022-08-10．

王玉鳳．模型算法審計：理論內(nèi)涵、國際經(jīng)驗與審計框架［ J］．審計研究，2023（3）：11 ～ 18．

王兆毓．生成式人工智能視閾下算法審計的制度構(gòu)建與路徑創(chuàng)新［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（8）：6 ～ 12．

張凌寒．算法規(guī)制的迭代與革新［ J］．法學(xué)論壇，2019（2）：16 ～ 26．

張濤．通過算法審計規(guī)制自動化決策——以社會技術(shù)系統(tǒng)理論為視角［ J］．中外法學(xué)，2024（1）：261 ～ 279．

張欣，宋雨鑫．算法審計的制度邏輯和本土化構(gòu)建［ J］．鄭州大學(xué)學(xué)報：哲學(xué)社會科學(xué)版，2022（6）：33 ～ 42．

張永忠，張寶山．算法規(guī)制的路徑創(chuàng)新：論我國算法審計制度的構(gòu)建［ J］．電子政務(wù)，2022（10）：48 ～ 61．

鄭石橋．審計基礎(chǔ)理論［M］．北京：中國人民大學(xué)出版社，2021．

鄭石橋．算法審計需求論［ J］．財會月刊，2024a（16）：77 ～ 82．

鄭石橋．算法審計客體論［ J］．財會月刊，2024b（17）：81 ～ 85．

鄭石橋.算法審計目標(biāo)論［ J/OL］．財會月刊，1-5［2024c-09-24］．http：//kns.cnki.net/kcms/detail/42.1290.F.20240724.0900.014.html．

莊尚文，陳王薏．?dāng)?shù)字經(jīng)濟(jì)時代算法權(quán)力問題及其審計規(guī)制探討［ J］．吉林工商學(xué)院學(xué)報，2021（4）：75 ～ 79．

Beckstrom J. R.. Auditing machine learning algorithms：A white paper for public auditors［EB/OL］．http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］．https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2022-09-23．

【 注 釋 】

① 從邏輯上來說，算法審計主體包括算法審計機(jī)構(gòu)和算法審計人員，本文只關(guān)注算法審計機(jī)構(gòu)。

（責(zé)任編輯·校對： 李小艷" 黃艷晶）