算法審計內(nèi)容論

【摘要】以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計內(nèi)容的一個理論框架。算法審計對象是算法責任履行情況， 主要包括： 代理人（算法使用者）的算法全面責任、 算法開發(fā)者的算法開發(fā)責任、 算法營運者的算法營運責任和算法監(jiān)管者的算法監(jiān)管責任。算法審計對象要落實到算法審計主題， 算法全面責任、 算法開發(fā)責任、 算法營運責任的審計主題都是算法系統(tǒng)， 算法監(jiān)管責任的審計主題包括算法監(jiān)管信息、 算法監(jiān)管行為和算法監(jiān)管制度。基于不同的算法審計主題形成不同類型的算法審計業(yè)務(wù)， 基于算法系統(tǒng)形成算法系統(tǒng)審計， 基于算法監(jiān)管信息、 算法監(jiān)管行為和算法監(jiān)管制度分別形成算法監(jiān)管信息審計、 算法監(jiān)管行為審計和算法監(jiān)管制度審計。在算法審計業(yè)務(wù)實施中， 必須將各個審計業(yè)務(wù)的審計主題分解為審計標的， 算法系統(tǒng)的審計標的包括輸入數(shù)據(jù)、 算法設(shè)計和算法影響， 每一個有獨立計算方法的算法監(jiān)管信息都可以成為獨立的審計標的， 每一個有獨立規(guī)則的算法監(jiān)管行為都可以成為獨立的審計標的， 每一項有獨立規(guī)范對象的算法監(jiān)管制度都可以成為獨立的審計標的。

【關(guān)鍵詞】算法審計內(nèi)容；算法審計對象；算法審計主題；算法審計業(yè)務(wù)類型；算法審計標的

【中圖分類號】F239.44" " " 【文獻標識碼】A" " " 【文章編號】1004-0994（2024）18-0086-6

一、 引言

未來已來， 智能社會正以加速度到來， 算法越來越深入人們的生活和工作， 甚至成為經(jīng)濟社會運行的靈魂。然而， 算法在給人們的生活工作帶來福祉的同時， 也帶來了一系列的問題， 因此， 必須建構(gòu)算法治理體系來應(yīng)對這些問題。算法審計以審計固有功能成為算法治理體系的重要成員。然而， 要讓算法審計真正在應(yīng)對算法負面問題中發(fā)揮作用， 必須建構(gòu)科學的算法審計制度， 而理論自信是制度自信的基礎(chǔ)， 從理論上正確地認知算法審計的各個基礎(chǔ)性問題， 是科學建構(gòu)算法審計制度的基礎(chǔ)。在諸多的算法審計基礎(chǔ)性問題中， 本文聚焦于算法審計內(nèi)容， 即算法審計究竟審計什么。

現(xiàn)有文獻將算法審計內(nèi)容區(qū)分為算法技術(shù)審計、 算法合規(guī)審計和算法風險審計， 但由于這三類算法審計存在內(nèi)容上的交叉和融合， 因此， 從審計內(nèi)容角度將三者分開未必恰當。整體來說， 現(xiàn)有文獻關(guān)于算法審計內(nèi)容的研究還是碎片化的， 未能貫通經(jīng)典審計理論。關(guān)于算法審計內(nèi)容， 尚缺乏一個貫通經(jīng)典審計理論且系統(tǒng)化的理論框架。本文以經(jīng)典審計理論為基礎(chǔ)， 厘清算法委托代理關(guān)系， 提出算法審計內(nèi)容的一個理論框架， 以深化人們對算法審計內(nèi)容的認知， 并為建構(gòu)和完善算法審計內(nèi)容相關(guān)制度提供理論參考。

二、 文獻綜述

多數(shù)文獻將算法審計內(nèi)容區(qū)分為算法技術(shù)審計、 算法合規(guī)審計和算法風險審計（張永忠和張寶山，2022）。在此基礎(chǔ)上， 已有文獻分別討論了這三類算法審計的審計內(nèi)容。

關(guān)于算法技術(shù)審計， 多數(shù)文獻認為其審計內(nèi)容包括輸入數(shù)據(jù)、 算法設(shè)計和算法影響三個方面， 不同的文獻有不同的表述。張永忠和張寶山（2022）認為， 輸入數(shù)據(jù)是算法審計的重要內(nèi)容， 算法模型是算法審計的首要對象和核心內(nèi)容， 算法設(shè)計開發(fā)運行活動是算法審計的必要內(nèi)容。沈艷（2022）提出， 要重視對輸入輸出和結(jié)果的評估算法審計思路， 算法內(nèi)部審計的重點可以包括數(shù)據(jù)是如何被運用的、 算法的執(zhí)行流程和技術(shù)控制等。Beckstrom（2022）指出， 當數(shù)據(jù)被收集并用于訓練/再訓練時， 模型也可能“中毒”， 機器學習算法中的質(zhì)量確認可以看作三個維度， 分別是數(shù)據(jù)質(zhì)量、 代碼質(zhì)量和模型質(zhì)量。付冉冉（2023）認為， 需要進行算法運行的全過程審計， 包括應(yīng)用領(lǐng)域、 數(shù)據(jù)端、 算法設(shè)計以及算法結(jié)果運用。劉建業(yè)（2023）認為， 算法審計主要關(guān)注“前端”的輸入數(shù)據(jù)和“末端”的算法影響評估。史普潤等（2023）認為， 算法審計的審查對象包括算法模型、 數(shù)據(jù)及與之有關(guān)的設(shè)計開發(fā)運行活動。

關(guān)于算法合規(guī)審計， 其實質(zhì)是“為了對算法是否合乎法律法規(guī)、 社會道德等的價值規(guī)范要求進行鑒定、 分析， 是法律對算法技術(shù)理性的規(guī)制監(jiān)督和規(guī)范措施”（張永忠和張寶山，2022）。對此， 不同的文獻有不同的具體表述。沈艷（2022）認為， 算法外部審計要評估某些算法是否合法合規(guī)。Beckstrom（2022）指出， 機器學習算法的審計可以包含績效審計和合規(guī)審計兩部分。英國數(shù)字監(jiān)管合作論壇（DRCF）認為算法合規(guī)審計主要是審核系統(tǒng)是否符合當?shù)胤ㄒ?guī)或發(fā)展標準（DRCF，2022）。胡堅波（2022）認為， 算法審查是由監(jiān)管部門對算法的流程、 要素進行合規(guī)性審查， 旨在揭示算法是否遵循了適當程序， 并發(fā)現(xiàn)侵害事實與算法損害結(jié)果的關(guān)聯(lián)性， 以實現(xiàn)有效追責的監(jiān)管方式。王玉鳳（2023）認為， 國家審計機關(guān)審計模型算法時， 模型算法的合規(guī)性應(yīng)該作為重點關(guān)注內(nèi)容之一。

關(guān)于算法風險審計， 現(xiàn)有文獻有多種表述。沈艷（2022）提出， 通過算法審計來評估相應(yīng)企業(yè)面臨的道德和聲譽風險， 以及在出現(xiàn)風險時的補救能力。張永忠和張寶山（2022）提出， 根據(jù)算法對個人或群體權(quán)利、 健康福祉、 經(jīng)濟利益、 生態(tài)可持續(xù)性等因素的影響級別從低到高分為沒有影響、 適度影響、 重大影響、 非常大的影響四個等級， 對于沒有影響的算法不需要同行評審， 對于具有適度影響、 重大影響的算法要求至少一個同行評審， 而對于非常大的影響則至少要求兩個同行評審。王玉鳳（2023）認為， 國家審計機關(guān)在審計模型算法時， 模型算法的風險要作為重點關(guān)注內(nèi)容之一， 模型算法的風險不僅包含數(shù)據(jù)、 假設(shè)、 樣本等自身的風險， 還包括管理風險。

此外， 有的文獻認為， 算法審計無法歸入現(xiàn)行的財政審計、 金融審計、 企業(yè)審計、 資源環(huán)境審計、 經(jīng)濟責任審計、 涉外審計等審計業(yè)務(wù)， 而應(yīng)該作為獨立的審計業(yè)務(wù)， 其原因有三個方面： 一是審計對象不同， 算法審計的對象包括數(shù)據(jù)和社會影響， 不同于現(xiàn)行審計業(yè)務(wù)； 二是算法審計的審計方法異于現(xiàn)行審計業(yè)務(wù)； 三是從算法審計的承載效能來看， 算法審計不僅追求商業(yè)算法企業(yè)的良好規(guī)則， 而且旨在規(guī)制算法治理實踐的“科技為惡”。因此， 我國應(yīng)當在未來的制度審計中確立算法審計為獨立審計類型（劉建業(yè)，2023）。

從審計內(nèi)容的角度將算法審計區(qū)分為算法技術(shù)審計、 算法合規(guī)審計和算法風險審計， 這種分類未必恰當。算法合規(guī)需要算法技術(shù)來實現(xiàn)， 因此， 算法合規(guī)審計實質(zhì)上無法與算法技術(shù)審計分離。算法風險也無法與算法技術(shù)分離， 比如存在算法技術(shù)未能實現(xiàn)既定目標的風險。同時， 算法風險與算法合規(guī)也無法分離， 未能遵守算法相關(guān)法律法規(guī)也是一種風險。整體來說， 算法技術(shù)審計、 算法合規(guī)審計和算法風險審計存在內(nèi)容上的交叉和融合， 實質(zhì)性的審計內(nèi)容都是輸入數(shù)據(jù)、 算法設(shè)計和算法影響。

認為算法審計應(yīng)該作為一種獨立的審計業(yè)務(wù)類型， 而不能融于其他審計業(yè)務(wù)之中， 這種觀點也是值得商榷的。從邏輯上來說， 無論何種審計客體， 如果在其業(yè)務(wù)活動中使用了算法， 則算法審計也就成為對該單位審計內(nèi)容的組成部分。例如， 金融機構(gòu)在其業(yè)務(wù)中使用了人工智能， 則對金融機構(gòu)進行審計時就無法避開算法審計， 必須將金融機構(gòu)使用的算法作為對該機構(gòu)進行審計的內(nèi)容之一。當然， 由于算法審計內(nèi)容和方法具有特殊性， 單獨開展算法審計也是具有可行性的， 但是， 這種可行性并不意味著算法審計必須獨立開展。

整體來說， 現(xiàn)有文獻關(guān)于算法審計內(nèi)容的研究還是碎片化的， 未能貫通經(jīng)典審計理論。關(guān)于算法審計內(nèi)容， 尚缺乏一個貫通經(jīng)典審計理論且系統(tǒng)化的理論框架。

三、 理論框架

本文以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計內(nèi)容的一個理論框架。算法審計也是審計， 因此， 其審計內(nèi)容也應(yīng)該基于審計內(nèi)容的一般框架來分析。根據(jù)經(jīng)典審計理論， 審計內(nèi)容通常分為五個層級： 審計對象、 審計主題、 審計業(yè)務(wù)類型、 審計標的、 審計載體（鄭石橋，2021）。算法審計內(nèi)容也應(yīng)該分為上述五個層級。由于算法審計載體顯然是電子數(shù)據(jù)， 所以， 本文僅闡釋前四個層級的內(nèi)容。委托代理關(guān)系是闡釋審計基礎(chǔ)性問題的基礎(chǔ)， 因此， 本文先梳理算法審計中的委托代理關(guān)系。

（一） 算法委托代理關(guān)系

算法技術(shù)復雜， 因此， 需要由多方協(xié)作來開發(fā)、 營運和使用， 也需要政府對算法進行監(jiān)管。與算法相關(guān)的各方之間都存在一定程度的信息不對稱， 因此， 根據(jù)信息經(jīng)濟學， 算法相關(guān)各方之間的關(guān)系都屬于委托代理關(guān)系。但是， 這些關(guān)系中的權(quán)責安排不同， 導致這些關(guān)系的性質(zhì)也不同， 主要包括資源類委托代理關(guān)系、 合約類委托代理關(guān)系和監(jiān)管類委托代理關(guān)系。簡化的算法委托代理關(guān)系的基本情況如圖1所示。

圖1中， 關(guān)系1是經(jīng)典意義上的資源類委托代理關(guān)系。在這種關(guān)系中存在信息不對稱、 激勵不相容、 合約不完備和環(huán)境不確定， 因而為應(yīng)對代理人代理問題和次優(yōu)問題， 需要建構(gòu)一整套治理機制， 審計是這套治理機制的重要成員。由于代理人在履行其經(jīng)管責任時使用了算法， 因此， 算法審計也就成為審計機制的重要內(nèi)容。

關(guān)系2是算法使用者與算法相對人之間的關(guān)系。這里的算法相對人是指在代理人履行其經(jīng)管責任時所發(fā)生經(jīng)濟活動的對方， 由于這些經(jīng)濟活動是通過算法來實施的， 因此， 將經(jīng)濟活動的對方稱為算法相對人。代理人作為算法使用者是算法提供者， 算法相對人如果不同意算法使用者使用算法， 則可能拒絕發(fā)生經(jīng)濟活動。若算法使用者提供的算法與其承諾的算法不同， 則視同違約行為， 算法相對人可以通過司法訴訟來維權(quán)。關(guān)系2中雖然存在信息不對稱、 激勵不相容， 甚至還有環(huán)境不確定， 但合約是完備的， 因此， 這種關(guān)系中不存在審計需求， 當然也不存在算法審計需求。

關(guān)系3是算法使用者與算法開發(fā)者的關(guān)系。由于算法技術(shù)存在復雜性， 大多數(shù)算法使用者可能并不具備開發(fā)算法的技術(shù)能力（如果具備這種能力，則算法開發(fā)者與算法使用者合二為一，關(guān)系3消失）， 故而通常會委托具有勝任能力的專業(yè)機構(gòu)來開發(fā)算法。算法使用者會顯性或隱性地要求算法開發(fā)者開發(fā)的算法符合以下要求： 不存在違反國家有關(guān)算法的法律法規(guī)的合法性問題， 不存在違反公序良俗的倫理性問題， 不存在不能有效完成任務(wù)的效率效果性問題。但是， 同樣由于受到技術(shù)能力的限制， 算法使用者無法在算法移交時對是否符合上述要求進行驗收， 只能通過在后期應(yīng)用中是否出現(xiàn)上述問題來檢驗算法開發(fā)者所開發(fā)的算法是否符合上述要求。在這種背景下， 雖然算法開發(fā)者與關(guān)系1中的委托人并無關(guān)系， 但是， 算法使用者將算法開發(fā)責任轉(zhuǎn)移給算法開發(fā)者， 后者在算法方面要向算法使用者負責， 進而也就成為在算法方面向關(guān)系1中委托人承擔責任的算法共同責任者之一， 關(guān)系1中以算法使用者作為審計客體的算法審計會延伸到算法開發(fā)者。

關(guān)系4是算法使用者與算法營運者的關(guān)系。同樣是由于算法具有技術(shù)復雜性， 算法使用者無力營運算法（如果算法使用者具備營運能力，則算法使用者與算法營運者合二為一，關(guān)系4消失）， 委托算法營運者負責算法的具體營運， 可能也無法提出算法營運的具體要求。但是， 可以約定的是， 如果因為算法營運不當導致負面后果， 則算法營運者應(yīng)該承擔責任。在這種背景下， 算法營運者與算法使用者之間實質(zhì)上也形成了完備合約， 算法使用者可以將算法營運者的不當行為訴諸司法機關(guān)。算法營運者雖然與關(guān)系1中的委托人沒有關(guān)系， 但由于算法營運者對算法使用者承擔了算法營運責任， 而算法使用者作為代理人實質(zhì)上將算法營運責任轉(zhuǎn)移給算法營運者， 而算法使用者要向其委托人承擔算法營運責任， 因此， 關(guān)系1中以算法使用者作為審計客體的算法審計會延伸到算法營運者。

關(guān)系5是算法監(jiān)管部門對算法開發(fā)者的監(jiān)管， 關(guān)系6是算法監(jiān)管部門對算法使用者的監(jiān)管， 關(guān)系7是算法監(jiān)管部門對算法營運者的監(jiān)管。在這些關(guān)系中， 監(jiān)管方只能按算法相關(guān)法律法規(guī)的要求進行監(jiān)管， 法無明文不可為； 而被監(jiān)管方則必須按算法相關(guān)法律法規(guī)的要求接受監(jiān)管， 算法相關(guān)法律法規(guī)發(fā)揮了類似完備合約的作用。在這種關(guān)系中解決矛盾的有效機制是行政制裁、 行政申訴和行政訴訟， 并不存在審計需求。當然， 并不排除算法監(jiān)管部門借助算法審計來履行其監(jiān)管職責， 這只是利用審計技術(shù)功能， 并不是經(jīng)典意義上的算法審計。

關(guān)系8是本級政府與其設(shè)立的算法監(jiān)管部門之間的關(guān)系， 屬于政府與設(shè)立的部門之間的關(guān)系。很顯然， 這種關(guān)系的性質(zhì)是資源類委托代理關(guān)系， 只是這種關(guān)系中政府部門的職責是算法監(jiān)管。這種關(guān)系中存在信息不對稱、 激勵不相容、 合約不完備和環(huán)境不確定。根據(jù)經(jīng)典審計理論， 這種關(guān)系中存在算法審計需求。

綜合以上分析， 圖1中關(guān)系1和關(guān)系8是資源類委托代理關(guān)系， 存在算法審計需求， 同時， 關(guān)系1還會延伸審計到關(guān)系3和關(guān)系4。那么， 在這些算法審計中審計什么呢？

（二） 算法審計對象

根據(jù)經(jīng)典審計理論， 在資源類委托代理關(guān)系中， 代理人對委托人承擔了最大善意地使用所接受的資源來履行所要求職責的責任， 這種責任通常稱為經(jīng)管責任。但是， 在這種關(guān)系中存在信息不對稱、 合約不完備、 激勵不相容和環(huán)境不確定。在此條件下， 由于人性自利， 會產(chǎn)生代理問題； 由于人的有限理性， 會產(chǎn)生次優(yōu)問題。為了應(yīng)對代理問題和次優(yōu)問題， 必須由一定的審計機構(gòu)對代理人經(jīng)管責任履行情況進行檢查， 因此， 代理人經(jīng)管責任履行情況成為審計對象（鄭石橋，2021）。

算法審計對象也不例外， 是算法責任履行情況。在資源類委托代理關(guān)系中， 代理人履行其算法責任時， 同樣可能出現(xiàn)代理問題和次優(yōu)問題。因此， 必須對代理人的算法責任履行情況進行審計， 以發(fā)現(xiàn)其中的代理問題和次優(yōu)問題并推動整改， 以促使代理人更好地履行其承擔的算法責任（鄭石橋，2024）。算法委托代理關(guān)系的算法責任者及其算法責任的基本情況如表1所示。

關(guān)系1中， 代理人在履行其經(jīng)管責任時使用了算法， 算法狀況決定了代理人經(jīng)管責任履行情況， 也決定了委托人利益的實現(xiàn)狀況， 因此， 代理人要良好地履行其經(jīng)管責任， 必須建構(gòu)良好的算法， 建構(gòu)良好的算法成為代理人良好地履行其經(jīng)管責任的基礎(chǔ)， 算法責任成為代理人經(jīng)管責任的重要內(nèi)容之一。就算法責任的內(nèi)容來說， 良好的算法至少體現(xiàn)在以下四個方面： 不存在違反國家有關(guān)算法的法律法規(guī)的合法性問題， 不存在違反公序良俗的倫理性問題， 不存在不能有效完成任務(wù)的效率效果性問題， 不存在算法營運不當問題。上述四個方面涵蓋了算法責任的各個方面， 相對于其他算法責任者承擔的算法責任來說， 這種算法責任是全面的， 因此， 可以稱為算法全面責任。

關(guān)系3中， 關(guān)系1中的代理人作為算法使用者無力開發(fā)算法， 要委托具有專業(yè)勝任能力的機構(gòu)來開發(fā)算法， 這種關(guān)系本質(zhì)上是合約類委托代理關(guān)系。算法使用者會通過顯性或隱性合約要求算法開發(fā)者開發(fā)的算法符合法律法規(guī)、 完成任務(wù)具有效率效果性、 不存在違反公序良俗的倫理性問題。但是， 同樣由于算法使用者的技術(shù)能力限制， 在算法移交時， 算法使用者無法對算法是否符合上述要求進行驗收， 只能通過算法使用過程中是否存在上述問題來檢驗算法開發(fā)者是否按上述要求來開發(fā)算法。在這種背景下， 算法開發(fā)者不只在算法開發(fā)階段承擔合約責任， 在算法使用階段也承擔合約責任， 實質(zhì)上是與算法使用者成為算法的共同責任主體， 算法使用者將其承擔的算法全面責任中的算法開發(fā)責任轉(zhuǎn)移給算法開發(fā)者。本文將算法開發(fā)者向關(guān)系1中代理人進而向關(guān)系1中委托人承擔的算法責任稱為算法開發(fā)責任， 其具體內(nèi)容是： 不存在違反國家有關(guān)算法的法律法規(guī)的合法性問題， 不存在違反公序良俗的倫理性問題， 不存在不能有效完成任務(wù)的效率效果性問題。

關(guān)系4中， 關(guān)系1中的代理人作為算法使用者無法營運算法， 因此， 要良好履行其承擔的算法責任， 必須將算法營運托付給專業(yè)機構(gòu)， 這種關(guān)系本質(zhì)上也是合約類委托代理關(guān)系。算法使用者會通過顯性或隱性合約條款對算法營運提出要求， 但是， 算法營運者是否履行了這些合約條款則無法在某一個時點驗收， 而必須伴隨算法營運的全過程。因此， 從實質(zhì)上來說， 算法使用者將其算法全面責任中的算法營運責任移交給算法營運者， 算法營運者與算法使用者成為向關(guān)系1中委托人承擔算法責任的共同責任主體。算法營運責任的具體內(nèi)容依賴于算法使用者與算法營運者的合約條款， 但是， 無論具體條款如何確定， 基本原則都是不存在算法營運不當問題。

關(guān)系8中， 本級政府將本區(qū)域內(nèi)的算法監(jiān)管責任授予算法監(jiān)管部門， 算法監(jiān)管部門向本級政府承擔算法監(jiān)管責任。算法監(jiān)管的基本原則是謙抑原則， 要求算法監(jiān)管機構(gòu)在不影響技術(shù)創(chuàng)新和發(fā)展的前提下， 對算法的使用進行必要的規(guī)范和約束， 以保護公共利益和算法相對人權(quán)益。所以， 從算法監(jiān)管的內(nèi)容來說， 主要是保障算法法律法規(guī)得到遵守， 這也是算法向善的最低要求。算法監(jiān)管的手段較多， 算法備案、 算法檢查、 算法風險監(jiān)測、 算法安全評估都是可能的監(jiān)管手段， 也可能借鑒算法審計的技術(shù)功能來實施算法監(jiān)管。監(jiān)管實踐中， 通常要實行分類監(jiān)管， 不同風險等級的人工智能系統(tǒng)的監(jiān)管力度應(yīng)該存在差別。例如， 歐盟發(fā)布的《人工智能法案》將AI系統(tǒng)分為四個類別， 不同類型的AI系統(tǒng)的監(jiān)管力度存在差異。算法監(jiān)管責任不屬于關(guān)系1中代理人作為算法使用者承擔的算法全面責任的組成部分， 它是算法監(jiān)管部門向本級政府承擔的保障本區(qū)域內(nèi)算法向善的責任， 并不是向關(guān)系1中委托人承擔的責任。同時， 算法監(jiān)管責任也不同于算法開發(fā)責任和算法營運責任， 后二者都是關(guān)系1中代理人作為算法使用者所承擔算法全面責任的分解和轉(zhuǎn)移， 而算法監(jiān)管責任并不依賴于關(guān)系1中算法使用者所承擔的算法全面責任。本級政府通過其審計機關(guān)對算法監(jiān)管部門的算法監(jiān)管責任履行情況進行審計， 目的是發(fā)現(xiàn)算法監(jiān)管責任履行中存在的問題并推動整改， 促使算法監(jiān)管部門更好地履行其算法監(jiān)管責任， 進而為本區(qū)域內(nèi)算法向善奠定一定的基礎(chǔ)。

（三） 算法審計主題

根據(jù)經(jīng)典審計理論， 審計對經(jīng)管責任履行情況的檢查也不是萬能的， 必須基于審計固有功能， 從特定的維度進行檢查。這些特定的維度就是審計檢查經(jīng)管責任履行情況時所能關(guān)注的中心事項。這些中心事項就是審計主題， 通常包括經(jīng)濟行為、 經(jīng)濟信息和經(jīng)濟制度（鄭石橋，2021）。

算法審計也不例外， 對算法責任履行情況進行檢查時， 也必須基于審計固有功能， 從而也只能從特定的維度來檢查算法責任履行情況。這些特定的維度也就是算法審計主題。那么， 算法審計主題有哪些呢？在不同的算法責任中， 其審計主題不同。

表1中， 算法使用者承擔算法全面責任， 算法開發(fā)者承擔算法開發(fā)責任， 算法營運者承擔算法營運責任， 而算法開發(fā)責任和算法營運責任是從算法全面責任中分解和轉(zhuǎn)移出來的， 這三者的審計主題相同， 都是人工智能中的算法系統(tǒng)。在經(jīng)濟行為、 經(jīng)濟信息和經(jīng)濟制度中， 算法系統(tǒng)屬于經(jīng)濟制度， 而不屬于經(jīng)濟行為和經(jīng)濟信息。這是因為經(jīng)濟制度是有關(guān)經(jīng)濟行為和經(jīng)濟信息生產(chǎn)的規(guī)則， 算法系統(tǒng)本身不是經(jīng)濟行為和經(jīng)濟信息， 而是約束經(jīng)濟行為和經(jīng)濟信息的規(guī)則， 所以， 從本質(zhì)上來說， 算法系統(tǒng)類同于經(jīng)濟制度， 是數(shù)智時代的經(jīng)濟制度之載體。雖然經(jīng)濟行為在算法系統(tǒng)中履行， 經(jīng)濟信息在算法系統(tǒng)中生產(chǎn)， 但是， 算法系統(tǒng)本身并不是經(jīng)濟行為， 也不是經(jīng)濟信息， 只是約束經(jīng)濟行為和經(jīng)濟信息的規(guī)則。所以， 總體來說， 算法系統(tǒng)屬于經(jīng)濟制度類審計主題。

表1中， 算法監(jiān)管者承擔算法監(jiān)管責任， 這種責任并不依賴于算法全面責任， 其實質(zhì)是算法監(jiān)管部門的業(yè)務(wù)責任。從審計主題來說， 可以涉及經(jīng)濟行為、 經(jīng)濟信息和經(jīng)濟制度， 體現(xiàn)為算法監(jiān)管信息、 算法監(jiān)管行為和算法監(jiān)管制度。算法監(jiān)管信息是算法監(jiān)管部門履行其算法監(jiān)管責任所形成的各種定量信息， 這些定量信息很大程度上表征了算法監(jiān)管部門的監(jiān)管績效， 屬于其業(yè)務(wù)績效信息， 因此， 算法監(jiān)管部門很有可能操縱這些定量信息。為了核實清楚算法監(jiān)管部門的監(jiān)管責任履行情況， 必須對這些定量信息進行審計， 以鑒證其真實性。算法監(jiān)管行為是算法監(jiān)管部門根據(jù)算法監(jiān)管相關(guān)法律法規(guī)實際開展的算法監(jiān)管活動。例如， 接受算法備案、 組織實施算法檢查、 組織實施算法風險監(jiān)測、 組織實施算法安全評估都屬于算法監(jiān)管行為。這類行為的基本要求是合法， 即必須嚴格按算法相關(guān)法律法規(guī)的規(guī)定來履行算法監(jiān)管職責， 對這些監(jiān)管行為進行審計的目的是檢查其合法性。算法監(jiān)管制度是指算法監(jiān)管部門為履行其算法監(jiān)管職責， 必須建構(gòu)一些規(guī)章制度， 規(guī)范算法監(jiān)管行為， 為保障算法監(jiān)管的效率效果奠定基礎(chǔ)。對算法監(jiān)管制度進行審計的目的是保障這些制度的健全性， 為算法監(jiān)管責任的良好履行奠定制度基礎(chǔ)。

（四） 算法審計業(yè)務(wù)類型

根據(jù)經(jīng)典審計理論， 審計業(yè)務(wù)類型可以從不同的視角來考察， 算法審計的基本業(yè)務(wù)類型如表2所示。

表2中： 按算法審計客體不同， 算法審計可以分為算法使用者審計、 算法開發(fā)者審計、 算法營運者審計和算法監(jiān)管者審計； 按算法審計對象不同， 算法審計可以分為算法全面責任審計、 算法開發(fā)責任審計、 算法營運責任審計、 算法監(jiān)管責任審計； 按算法審計主題不同， 算法審計可以分為算法系統(tǒng)審計、 算法監(jiān)管信息審計、 算法監(jiān)管行為審計和算法監(jiān)管制度審計。

此外， 各類審計主體職責范圍內(nèi)的審計客體都有可能使用算法， 因此， 針對這些審計客體的審計都可能涉及算法審計， 故算法審計可以分為政府審計機關(guān)的算法審計、 民間審計機構(gòu)的算法審計、 內(nèi)部審計機構(gòu)的算法審計和軍隊審計機關(guān)的算法審計。

（五） 算法審計標的

根據(jù)經(jīng)典審計理論， 在審計業(yè)務(wù)實施過程中， 必須將各個審計業(yè)務(wù)的審計主題分解為審計標的（鄭石橋，2021）， 并圍繞審計標的來設(shè)計審計方案和收集審計證據(jù)。算法審計也是如此， 必須將算法審計主題分解為算法審計標的。

1. 算法系統(tǒng)的審計標的。算法系統(tǒng)審計的審計主題是算法系統(tǒng)， 可以分解為輸入數(shù)據(jù)、 算法設(shè)計和算法影響三個方面。

在算法審計中， 通常需要審計的輸入數(shù)據(jù)包括三類： 一是算法設(shè)計所用的數(shù)據(jù)， 包括算法設(shè)計時使用的原始數(shù)據(jù)集， 以及這些數(shù)據(jù)集的來源、 質(zhì)量和代表性等信息； 二是算法訓練數(shù)據(jù)， 即算法在訓練過程中使用的數(shù)據(jù)， 這些數(shù)據(jù)可能經(jīng)過特定的處理或篩選， 以確保算法能夠更好地學習和預(yù)測； 三是算法評估數(shù)據(jù)， 這是在算法開發(fā)過程中為了測試和評估算法性能而使用的數(shù)據(jù)。對算法輸入數(shù)據(jù)進行審計的原因有三個方面： 一是確保數(shù)據(jù)質(zhì)量和代表性， 通過審計算法設(shè)計所用的數(shù)據(jù)， 可以確保這些數(shù)據(jù)是高質(zhì)量的， 并且對所有利益相關(guān)方都是公平和有代表性的， 這對于防止算法產(chǎn)生偏見和由此導致不公平的決策至關(guān)重要； 二是評估算法的有效性和公正性， 通過對算法訓練數(shù)據(jù)和評估數(shù)據(jù)的審計， 可以評估算法是否有效地學習了正確的模式， 以及是否公正地對待了所有算法相對人； 三是遵守法律法規(guī)和道德標準， 算法審計還可以確保算法的使用符合相關(guān)法律法規(guī)和道德標準， 例如保護個人隱私、 避免歧視等。

算法設(shè)計審計是對算法本身的設(shè)計進行審計， 這種審計對于確保算法的合規(guī)性、 倫理性、 效率效果性， 提高透明度和可解釋性， 保護算法相對人權(quán)益以及促進數(shù)字經(jīng)濟的健康發(fā)展都至關(guān)重要。算法設(shè)計審計的內(nèi)容主要包括五個方面： 一是算法設(shè)計和開發(fā)的合規(guī)性， 檢查算法設(shè)計是否遵循了相關(guān)的法律法規(guī)和行業(yè)標準， 是否存在侵犯隱私權(quán)、 知識產(chǎn)權(quán)等風險； 二是算法的透明度和可解釋性， 評估是否能夠清晰地向算法相對人解釋算法中的決策過程， 以及是否能夠讓算法相對人理解算法的行為和結(jié)果； 三是算法的公平性和無偏性， 檢驗算法是否對所有算法相對人群體一視同仁， 是否存在對特定群體的不利影響， 如在性別、 種族、 年齡等方面是否存在偏見； 四是算法的安全性和隱私保護， 確保算法在處理個人數(shù)據(jù)時能夠保護算法相對人的隱私， 并且在設(shè)計上能夠防止惡意攻擊和數(shù)據(jù)泄露； 五是算法的效果和效率， 評估算法在實際應(yīng)用中的效果， 如預(yù)測準確率、 響應(yīng)時間等， 以及算法是否高效地使用了資源和數(shù)據(jù)。

有了輸入數(shù)據(jù)和算法設(shè)計審計， 為什么還要審計算法影響呢？主要是因為算法有兩類， 一是基于規(guī)則的算法， 二是基于機器學習的算法。對于前者來說， 因為規(guī)則已經(jīng)體現(xiàn)在算法設(shè)計中， 對算法設(shè)計進行審計之后， 如果認為算法設(shè)計無缺陷， 則無須再審計算法影響。但是， 對基于機器學習的算法來說， 只有監(jiān)督學習狀態(tài)下的算法才在設(shè)計者的掌控之下， 對于無監(jiān)督學習和強化學習而言， 結(jié)果是無法預(yù)測的（鄭戈，2018）。即使算法設(shè)計審計未發(fā)現(xiàn)其存在缺陷， 也不能保證算法結(jié)果就不存在負面影響。因此， 必須對算法影響單獨予以審計或評估， 對算法在特定應(yīng)用場景中的表現(xiàn)進行審計或評估， 以評價算法是否對人們的某些利益或權(quán)利產(chǎn)生負面影響。通常來說， 算法影響審計的內(nèi)容主要包括以下四個方面： 一是算法的合規(guī)性， 檢查算法是否符合現(xiàn)行法律法規(guī)的要求， 是否存在違法行為； 二是算法的社會影響， 分析算法是否對社會產(chǎn)生積極或消極的影響， 特別是對弱勢群體的影響； 三是算法的透明度和可解釋性， 確保算法的決策過程是透明的， 用戶能夠理解算法的邏輯和決策依據(jù)； 四是算法的安全性和隱私保護， 確保算法在處理個人數(shù)據(jù)時遵守了相關(guān)的隱私保護規(guī)定， 以保障用戶的數(shù)據(jù)安全。

2. 算法監(jiān)管責任審計的審計標的。算法監(jiān)管責任審計是針對算法監(jiān)管部門的監(jiān)督職責履行情況來實施的， 其審計主題包括算法監(jiān)管信息、 算法監(jiān)管行為和算法監(jiān)管制度。根據(jù)不同的審計主題， 分解為不同的審計標的。算法監(jiān)管信息是算法監(jiān)管部門履行其算法監(jiān)管責任所形成的各種定量信息， 每一個有獨立計算方法的算法監(jiān)管信息都可以成為獨立的審計標的， 基本類似于經(jīng)典意義上的財務(wù)信息審計。算法監(jiān)管行為是算法監(jiān)管部門根據(jù)算法監(jiān)管相關(guān)法律法規(guī)實際履行的算法監(jiān)管活動， 每一個有獨立規(guī)則的算法監(jiān)管行為都可以成為獨立的審計標的， 基本類似于經(jīng)典意義上的合規(guī)審計。算法監(jiān)管制度是指算法監(jiān)管部門為履行其算法監(jiān)管職責， 必須建構(gòu)一些規(guī)章制度， 每一項有獨立規(guī)范對象的算法監(jiān)管制度都可以成為獨立的審計標的， 基本類似于經(jīng)典審計意義上的內(nèi)部控制審計。

四、 結(jié)論

本文聚焦于算法審計內(nèi)容這個基礎(chǔ)性問題， 以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計內(nèi)容的一個理論框架。

算法委托代理關(guān)系主要包括資源類委托代理關(guān)系、 合約類委托代理關(guān)系和監(jiān)管類委托代理關(guān)系， 只有資源類委托代理關(guān)系中存在算法審計需求， 具體有兩種情形： 一是經(jīng)典意義上的資源類委托代理關(guān)系中， 代理人在履行其經(jīng)管責任時使用了算法， 產(chǎn)生了算法審計需求。同時， 代理人作為算法使用者不具備開發(fā)和營運算法的能力時， 要委托專業(yè)機構(gòu)來開發(fā)和營運算法， 這些專業(yè)機構(gòu)也成為延伸的算法審計客體。二是本級政府與其設(shè)立的算法監(jiān)管部門之間的關(guān)系中， 存在以算法監(jiān)管部門作為算法審計客體的審計需求。

算法審計對象是算法責任履行情況， 不同的審計客體承擔的算法責任不同， 主要包括經(jīng)典意義上的資源類委托代理關(guān)系中代理人（算法使用者）的算法全面責任、 算法開發(fā)者的算法開發(fā)責任、 算法營運者的算法營運責任、 算法監(jiān)管者的算法監(jiān)管責任。

算法審計對象要落實到算法審計主題。算法全面責任、 算法開發(fā)責任、 算法營運責任的審計主題相同， 都是算法系統(tǒng)。算法監(jiān)管責任的審計主題包括算法監(jiān)管信息、 算法監(jiān)管行為和算法監(jiān)管制度。

基于不同的算法審計主題形成不同類型的算法審計業(yè)務(wù)， 基于算法系統(tǒng)這個審計主題形成算法系統(tǒng)審計， 基于算法監(jiān)管信息、 算法監(jiān)管行為和算法監(jiān)管制度這些審計主題， 分別形成算法監(jiān)管信息審計、 算法監(jiān)管行為審計和算法監(jiān)管制度審計。

算法審計業(yè)務(wù)實施中， 必須將各個審計業(yè)務(wù)的審計主題分解為審計標的。算法系統(tǒng)審計的審計主題是算法系統(tǒng)， 可以分解為輸入數(shù)據(jù)、 算法設(shè)計和算法影響； 算法監(jiān)管信息審計的審計主題是算法監(jiān)管信息， 每一個有獨立計算方法的監(jiān)管信息都可以成為獨立的審計標的； 算法監(jiān)管行為審計的審計主題是算法監(jiān)管行為， 每一個有獨立規(guī)則的算法監(jiān)管行為都可以成為獨立的審計標的； 算法監(jiān)管制度審計的審計主題是算法監(jiān)管制度， 每一項有獨立規(guī)范對象的算法監(jiān)管制度都可以成為獨立的審計標的。

【 主 要 參 考 文 獻 】

付冉冉．大數(shù)據(jù)時代算法審計構(gòu)想［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（2）：48 ～ 52．

胡堅波．多措并舉推進我國算法治理［ J］．人民論壇·學術(shù)前沿，2022（10）：20 ～ 28．

劉建業(yè)．論我國算法審計的法治化建構(gòu)［ J］．河南財經(jīng)政法大學學報，2023（3）：14 ～ 23．

沈艷.推行算法審計大有可為［EB/OL］．https：//www.sohu.com/a/573683189_120913760？scm=1005.1002.0.0.0，2022-08-02．

史普潤，劉曉紅，賈軍．數(shù)字經(jīng)濟時代平臺型企業(yè)非價格競爭存在的問題及對策優(yōu)化研究——基于算法審計的視角［ J］．商展經(jīng)濟，2023（24）：89 ～ 92．

王玉鳳．模型算法審計：理論內(nèi)涵、國際經(jīng)驗與審計框架［ J］．審計研究，2023（3）：11 ～ 18．

張永忠，張寶山．算法規(guī)制的路徑創(chuàng)新：論我國算法審計制度的構(gòu)建［ J］．電子政務(wù)，2022（10）：48 ～ 61．

鄭戈．算法的法律與法律的算法［ J］．中國法律評論，2018（2）：66 ～ 85．

鄭石橋．審計基礎(chǔ)理論［M］．北京：中國人民大學出版社，2021．

鄭石橋．算法審計需求論［ J］．財會月刊，2024（16）：77 ～ 82．

Beckstrom J. R.. Auditing machine learning algorithms：A white paper for public auditors［EB/OL］．http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］．https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2022-09-23．

（責任編輯·校對： 黃艷晶" 許春玲）

DOI：10．19641/j．cnki．42-1290/f．2024．18．013

【基金項目】國家社會科學基金重大項目“百年審計理論創(chuàng)新研究”（項目編號：21amp;ZD027）