英國(guó)西米德蘭茲郡警方數(shù)據(jù)倫理委員會(huì)的運(yùn)作機(jī)制

文/苗穎

西米德蘭茲郡警察局是英國(guó)僅次于倫敦大都會(huì)警察局的第二大警察局。作為英國(guó)警務(wù)數(shù)據(jù)分析領(lǐng)域的引領(lǐng)者，該警察局建有數(shù)據(jù)分析實(shí)驗(yàn)室，其主要職能是分析各種數(shù)據(jù)集，為警察局的行動(dòng)和戰(zhàn)略提供輔助決策。考慮到警務(wù)數(shù)據(jù)分析和使用可能引發(fā)倫理問(wèn)題，該警察局于2019 年初成立了數(shù)據(jù)倫理委員會(huì)，旨在將具有相關(guān)背景和不同立場(chǎng)的人員匯聚在一起，就數(shù)據(jù)分析中出現(xiàn)的倫理問(wèn)題向警察局長(zhǎng)、警察與犯罪事務(wù)專員提供實(shí)用和獨(dú)立的建議，確保大數(shù)據(jù)警務(wù)的工具和使用方法受到公眾的監(jiān)督。

一、數(shù)據(jù)倫理委員會(huì)的定位

西米德蘭茲郡警察局?jǐn)?shù)據(jù)倫理委員會(huì)將人的權(quán)利置于技術(shù)發(fā)展的核心，在實(shí)施獨(dú)立的監(jiān)督過(guò)程中，將人、法律和標(biāo)準(zhǔn)作為工作的“三大支柱”，即警務(wù)工作中承擔(dān)相關(guān)責(zé)任的各級(jí)人員，相關(guān)法律、法規(guī)和政策，以標(biāo)準(zhǔn)規(guī)范與個(gè)人責(zé)任為依據(jù)的倫理標(biāo)準(zhǔn)。其中，人是根本因素，既包括警務(wù)人員，又包括在相關(guān)咨詢和監(jiān)督職能機(jī)構(gòu)中的人。

數(shù)據(jù)倫理委員會(huì)審查和建議的對(duì)象主要是警務(wù)工作中的人工智能項(xiàng)目，通過(guò)集體審議、全周期監(jiān)督和動(dòng)態(tài)審查，數(shù)據(jù)倫理委員會(huì)提出響應(yīng)建議，以其影響力、透明性和獨(dú)立性，確保在警務(wù)工作中可靠和負(fù)責(zé)任地使用人工智能。該機(jī)構(gòu)致力于發(fā)掘法律和倫理標(biāo)準(zhǔn)的潛在應(yīng)用價(jià)值，并有權(quán)質(zhì)疑人工智能警務(wù)項(xiàng)目的開(kāi)發(fā)和應(yīng)用。此外，委員會(huì)建立了一種由高層領(lǐng)導(dǎo)的自上而下的文化，以開(kāi)放的態(tài)度接受監(jiān)督和問(wèn)責(zé)。

數(shù)據(jù)倫理委員會(huì)的構(gòu)成和職責(zé)體現(xiàn)了成功監(jiān)督機(jī)構(gòu)應(yīng)具有的特征，其中包括：擇優(yōu)聘任，擁有眾多專業(yè)的獨(dú)立成員；承諾發(fā)表會(huì)議文件、會(huì)議記錄和決議；獨(dú)立于其正在審查的警務(wù)技術(shù)使用機(jī)構(gòu)；監(jiān)督職權(quán)范圍涵蓋技術(shù)解決方案的整個(gè)生命周期和所有應(yīng)用環(huán)境。

二、數(shù)據(jù)倫理委員會(huì)的職能

作為英國(guó)警察隊(duì)伍中第一個(gè)成立的數(shù)據(jù)倫理委員會(huì)，西米德蘭茲郡警察局?jǐn)?shù)據(jù)倫理委員會(huì)自成立伊始，便確定了其職能定位，即僅具有咨詢職能，無(wú)正式的監(jiān)管職能。

（一）數(shù)據(jù)倫理委員會(huì)的職能

與許多其他倫理治理機(jī)構(gòu)一樣，數(shù)據(jù)倫理委員會(huì)的職責(zé)是利用其專業(yè)知識(shí)進(jìn)行全面的倫理分析，向警察局長(zhǎng)、警察與犯罪事務(wù)專員提供務(wù)實(shí)、有價(jià)值的建議。其中包括：就內(nèi)部數(shù)據(jù)分析實(shí)驗(yàn)室提出的研究項(xiàng)目以及警務(wù)機(jī)構(gòu)感興趣的國(guó)家警務(wù)數(shù)據(jù)研究項(xiàng)目（如國(guó)家數(shù)據(jù)分析解決方案），向警察局長(zhǎng)、警務(wù)與犯罪事務(wù)專員提供建議；從項(xiàng)目提案、測(cè)試到實(shí)施，確保在整個(gè)生命周期和特定應(yīng)用環(huán)境中，以不間斷評(píng)估的方式監(jiān)督技術(shù)解決方案等。此外，數(shù)據(jù)倫理委員會(huì)還定期召開(kāi)會(huì)議，發(fā)布會(huì)議紀(jì)要和建議，所有文件及會(huì)議記錄均須符合保密要求。

2019 年4 月至2020 年9 月，該委員會(huì)共審查了18個(gè)數(shù)據(jù)分析/建模項(xiàng)目。其中13 個(gè)項(xiàng)目來(lái)自數(shù)據(jù)分析實(shí)驗(yàn)室，4 個(gè)項(xiàng)目來(lái)自國(guó)家數(shù)據(jù)分析解決方案項(xiàng)目，還有1個(gè)來(lái)自內(nèi)政部。根據(jù)數(shù)據(jù)分析模型的類型，這些項(xiàng)目大致分為兩大類：預(yù)測(cè)模型和探索性、解釋性網(wǎng)絡(luò)分析模型。

在項(xiàng)目審議中，數(shù)據(jù)倫理委員會(huì)主要探討六大內(nèi)容：解決重要的警務(wù)和社會(huì)問(wèn)題；項(xiàng)目運(yùn)行與干預(yù)；數(shù)據(jù)保護(hù)影響評(píng)估（DPIA）及法律建議；數(shù)據(jù)采集與應(yīng)用的有效性；數(shù)據(jù)中的偏見(jiàn)、誤報(bào)和保障措施；透明度和伙伴關(guān)系。數(shù)據(jù)倫理委員會(huì)的主要任務(wù)是在職能范圍內(nèi)提供切合實(shí)際的咨詢意見(jiàn)，以便為下一步工作推進(jìn)提供有價(jià)值的建議。

（二）數(shù)據(jù)倫理委員會(huì)的審查原則

數(shù)據(jù)倫理委員會(huì)認(rèn)為，判斷是否符合倫理，往往涉及復(fù)雜因素，沒(méi)有明確的答案或解決方案，因此鼓勵(lì)成員隨時(shí)自由地提出他們認(rèn)為存在倫理問(wèn)題的個(gè)人觀點(diǎn)或建議。警察局長(zhǎng)、警察與犯罪事務(wù)專員在參考相關(guān)觀點(diǎn)或建議的基礎(chǔ)上作出符合公共利益的決定，從而將其轉(zhuǎn)化為有意義的行動(dòng)。

為此，在審查項(xiàng)目時(shí)，數(shù)據(jù)倫理委員會(huì)充分考慮了英國(guó)國(guó)家統(tǒng)計(jì)學(xué)家數(shù)據(jù)倫理咨詢委員會(huì)的類似原則。主要包括：必要性和相稱性、對(duì)新技術(shù)的有限性和風(fēng)險(xiǎn)進(jìn)行人為監(jiān)督；足夠準(zhǔn)確、適當(dāng)和嚴(yán)格以得出合理結(jié)論；不污名化。

（三）數(shù)據(jù)倫理委員會(huì)的運(yùn)作機(jī)制

在不違反保密要求和聘任合同條款的前提下，西米德蘭茲郡警察局不要求數(shù)據(jù)倫理委員會(huì)成員對(duì)所提供的建議負(fù)責(zé)。盡管如此，數(shù)據(jù)倫理委員會(huì)成員仍應(yīng)盡其所能，謹(jǐn)慎地提供專業(yè)咨詢意見(jiàn)。數(shù)據(jù)倫理委員會(huì)成員應(yīng)獨(dú)立行事，無(wú)包括政治偏見(jiàn)在內(nèi)的任何偏見(jiàn)。

1.數(shù)據(jù)倫理委員會(huì)人員組成與聘任

數(shù)據(jù)倫理委員會(huì)成員包括數(shù)據(jù)科學(xué)、數(shù)據(jù)保護(hù)和隱私以及法律等領(lǐng)域的學(xué)者和從業(yè)人員，還包括警務(wù)和刑事司法專家。由具備技術(shù)或跨學(xué)科背景的外部專家組成的數(shù)據(jù)倫理委員會(huì)為原有治理結(jié)構(gòu)提供了有益補(bǔ)充，能夠很好地評(píng)估擬計(jì)劃進(jìn)行的技術(shù)解決方案是否必要，與將要應(yīng)用的特定環(huán)境是否相稱等。數(shù)據(jù)倫理委員會(huì)成員通常由下列人員組成。

（1）2 名經(jīng)驗(yàn)豐富的數(shù)據(jù)科學(xué)專家。他們幫助其他成員了解項(xiàng)目分析時(shí)采用的數(shù)據(jù)方法。

數(shù)據(jù)倫理委員會(huì)委員

（2）有經(jīng)驗(yàn)的人權(quán)專家。該成員向其他成員通報(bào)人權(quán)原則以及相關(guān)法律問(wèn)題，如歧視、偏見(jiàn)、數(shù)據(jù)保護(hù)和隱私權(quán)。

（3）在政策執(zhí)行方面有經(jīng)驗(yàn)的高級(jí)公務(wù)員。該成員向其他成員通報(bào)公共部門執(zhí)行政策的實(shí)際情況。

（4）4 名當(dāng)?shù)鼐用瘛＿@些居民不需要任何特定的資格或?qū)ｉL(zhǎng)，但他們必須證明自己有助于數(shù)據(jù)倫理委員會(huì)的工作，對(duì)歧視、隱私和其他倫理問(wèn)題具有強(qiáng)烈意識(shí)。一些成員也可能因其具備預(yù)防犯罪和警務(wù)領(lǐng)域的專業(yè)知識(shí)而受聘。

（5）警察與犯罪事務(wù)專員辦公室高級(jí)代表。該成員告知數(shù)據(jù)倫理委員會(huì)其所代表的警察和犯罪專員對(duì)相關(guān)問(wèn)題的態(tài)度，且不得干涉數(shù)據(jù)倫理委員會(huì)的獨(dú)立性和中立原則。

（6）警察局高級(jí)代表。該成員應(yīng)向數(shù)據(jù)倫理委員會(huì)通報(bào)業(yè)務(wù)信息，例如，在實(shí)踐中收集某些數(shù)據(jù)的相關(guān)信息、警察局的業(yè)務(wù)優(yōu)先事項(xiàng)或其他相關(guān)信息。

（7）1 名或多名在警務(wù)、社會(huì)學(xué)、犯罪學(xué)、倫理學(xué)和倫理哲學(xué)（或與廣義倫理學(xué)有關(guān)的專業(yè)）領(lǐng)域具有專業(yè)知識(shí)的從業(yè)人員。

（8）人權(quán)運(yùn)動(dòng)團(tuán)體代表。該成員應(yīng)在數(shù)據(jù)隱私和偏見(jiàn)、歧視相關(guān)方面具備廣博知識(shí)。

（9）與預(yù)防犯罪和解決社會(huì)矛盾相關(guān)的組織代表。該成員應(yīng)了解犯罪預(yù)防、警務(wù)和倫理問(wèn)題，無(wú)論這些問(wèn)題是否涉及歧視、隱私、一般人權(quán)或其他倫理因素。

為保持決策公正性，數(shù)據(jù)倫理委員會(huì)成員不領(lǐng)取報(bào)酬，但可以報(bào)銷合理必要的費(fèi)用。

2.數(shù)據(jù)倫理委員會(huì)成員任期與審查

數(shù)據(jù)倫理委員會(huì)成員任期為三年。任期屆滿成員可以續(xù)聘，但通常不超過(guò)兩個(gè)任期。

由于數(shù)據(jù)倫理委員會(huì)工作中涉及的信息、數(shù)據(jù)具有機(jī)密性，相關(guān)成員可能需要接受不定期審查，是否需要審查以及審查類型將由西米德蘭茲郡警察局決定。

3.會(huì)議和記錄

數(shù)據(jù)倫理委員會(huì)會(huì)議通常每季度舉行一次。如委員會(huì)成員認(rèn)為有必要為特定項(xiàng)目提供及時(shí)建議時(shí)，可以通過(guò)委員會(huì)主席向警務(wù)與犯罪事務(wù)專員辦公室秘書處建議召開(kāi)額外專項(xiàng)會(huì)議。在這種情況下，警務(wù)與犯罪事務(wù)專員辦公室秘書處將與數(shù)據(jù)分析實(shí)驗(yàn)室進(jìn)行協(xié)商，并向數(shù)據(jù)倫理委員會(huì)確認(rèn)是否增加一次會(huì)議。

數(shù)據(jù)倫理委員會(huì)對(duì)所有會(huì)議記錄、簡(jiǎn)報(bào)文件和建議均予以保存。警務(wù)與犯罪事務(wù)專員辦公室秘書處可以根據(jù)數(shù)據(jù)倫理委員會(huì)、警察局長(zhǎng)、警察與犯罪事務(wù)專員的指示，行使自由裁量權(quán)，對(duì)記錄和文件等進(jìn)行全部或部分編輯，以維護(hù)與商業(yè)機(jī)密、敏感事項(xiàng)和個(gè)人隱私等相關(guān)的權(quán)益。

4.審議流程

西米德蘭茲郡警察局對(duì)數(shù)據(jù)分析實(shí)驗(yàn)室開(kāi)展內(nèi)部保密管理、數(shù)據(jù)保護(hù)和信息管理治理，包括聘任數(shù)據(jù)保護(hù)官，向獨(dú)立專家尋求有關(guān)法律或數(shù)據(jù)保護(hù)建議，并在數(shù)據(jù)倫理委員會(huì)審議擬議項(xiàng)目前對(duì)這些項(xiàng)目進(jìn)行數(shù)據(jù)保護(hù)影響評(píng)估。提交到數(shù)據(jù)倫理委員會(huì)的任何項(xiàng)目提案都應(yīng)提供明確聲明，表明數(shù)據(jù)分析實(shí)驗(yàn)室已收到警察局的建議，且該提案在法律上是合規(guī)的。

對(duì)于審議項(xiàng)目，數(shù)據(jù)倫理委員會(huì)以協(xié)商一致的方式向警察局長(zhǎng)、警察與犯罪事務(wù)專員提供建議，且審查和建議均具有一定規(guī)范。在擬議項(xiàng)目分析的每個(gè)階段，數(shù)據(jù)倫理委員會(huì)都會(huì)發(fā)布書面建議，解釋立場(chǎng)并作出說(shuō)明。警察局長(zhǎng)、警察與犯罪事務(wù)專員應(yīng)當(dāng)考慮數(shù)據(jù)倫理委員會(huì)提供的建議，但不受數(shù)據(jù)倫理委員會(huì)建議的約束。

如果警察局長(zhǎng)、警察與犯罪事務(wù)專員不接受數(shù)據(jù)倫理委員會(huì)的建議，應(yīng)盡快通知數(shù)據(jù)倫理委員會(huì)，并提供不接受理由，破壞合法的保密要求（包括與國(guó)家安全有關(guān)的事項(xiàng)）或根據(jù)公法原則應(yīng)予以保密的情況除外。

如果警察局長(zhǎng)、警察與犯罪事務(wù)專員在收到建議后，認(rèn)為有關(guān)問(wèn)題和方法符合適當(dāng)?shù)膫惱順?biāo)準(zhǔn)，數(shù)據(jù)倫理委員會(huì)將在后續(xù)工作中考慮：（1）根據(jù)擬議政策、業(yè)務(wù)戰(zhàn)略的分析結(jié)果，提出干預(yù)措施；（2）評(píng)價(jià)任何已采取行動(dòng)的政策、業(yè)務(wù)戰(zhàn)略是否成功地實(shí)現(xiàn)了既定目標(biāo)，并評(píng)估由此帶來(lái)的公共利益或損害。

三、數(shù)據(jù)倫理委員會(huì)示范效應(yīng)及借鑒

西米德蘭茲郡警察局?jǐn)?shù)據(jù)倫理委員會(huì)將透明的獨(dú)立建議與規(guī)范的審查過(guò)程相結(jié)合的做法，不僅為具體政策的制定提供了必要的保證和監(jiān)測(cè)，而且有助于確保在警務(wù)工作中可靠、負(fù)責(zé)地使用新興技術(shù)。基于數(shù)據(jù)倫理委員會(huì)在警務(wù)數(shù)據(jù)項(xiàng)目中良好的示范作用，該警察局在內(nèi)政部的支持下向英國(guó)國(guó)內(nèi)其他警察部隊(duì)和執(zhí)法機(jī)構(gòu)推廣數(shù)據(jù)倫理委員會(huì)的經(jīng)驗(yàn)做法，并準(zhǔn)備與其他有經(jīng)驗(yàn)的警察部隊(duì)和執(zhí)法機(jī)構(gòu)合作，建立一個(gè)全國(guó)性的數(shù)據(jù)倫理研究所。

西米德蘭茲郡警察局?jǐn)?shù)據(jù)倫理委員會(huì)的運(yùn)作機(jī)制激發(fā)了英國(guó)警方對(duì)國(guó)家數(shù)據(jù)倫理治理模式的思考。英國(guó)《2020-2030 年國(guó)家警務(wù)數(shù)字化戰(zhàn)略》指出，要開(kāi)發(fā)新的國(guó)家數(shù)據(jù)倫理治理模型，使該模型成為警務(wù)部門進(jìn)行決策的指南。2021 年11 月，英國(guó)內(nèi)政部國(guó)務(wù)大臣表示，要在西米德蘭茲郡警察局?jǐn)?shù)據(jù)倫理委員會(huì)的基礎(chǔ)上，同數(shù)據(jù)倫理與創(chuàng)新中心（CDEI）以及內(nèi)政部合作建立全國(guó)通用模式。