生物識(shí)別技術(shù)倫理治理技術(shù)研究

〔摘要〕生物識(shí)別技術(shù)為社會(huì)帶來(lái)積極影響的同時(shí)，在客觀上也產(chǎn)生了隱私保護(hù)、公平應(yīng)用等倫理問(wèn)題。以技術(shù)維度為主線，這是生物識(shí)別技術(shù)倫理高效、敏捷治理的基礎(chǔ)。基于技術(shù)軌道理論構(gòu)建了生物識(shí)別技術(shù)倫理治理框架，梳理了生物識(shí)別技術(shù)軌道及倫理治理技術(shù)。高效治理的關(guān)鍵在于生物識(shí)別技術(shù)全生命周期的數(shù)據(jù)、算法、系統(tǒng)三個(gè)層面對(duì)隱私與安全保護(hù)、公平性檢測(cè)等倫理治理技術(shù)的應(yīng)用。以海康威視公司人臉識(shí)別技術(shù)為例，闡述了加大對(duì)倫理治理技術(shù)的應(yīng)用，對(duì)確保生物識(shí)別技術(shù)可信可持續(xù)發(fā)展具有積極意義。

〔關(guān)鍵詞〕生物識(shí)別技術(shù)；技術(shù)軌道；倫理治理技術(shù)；倫理治理路徑

〔中圖分類號(hào)〕R-052 〔文獻(xiàn)標(biāo)志碼〕A 〔文章編號(hào)〕1001-8565（2024）10-1125-08

DOI： 10. 12026/j. issn. 1001-8565. 2024. 10. 01

*基金項(xiàng)目：教育部人文社科研究項(xiàng)目“生物識(shí)別技術(shù)倫理審查缺失問(wèn)題及組織治理研究”（23YJA630058）；湖南省普通高等學(xué)校教學(xué)改革研究項(xiàng)目（HNJC-2022-0748）；國(guó)家自然科學(xué)基金“以科學(xué)為基礎(chǔ)的創(chuàng)新生態(tài)系統(tǒng)協(xié)同演化及政策研究”（71974091）

Research on ethical governance technology of biological identification technology： based on technology track theory

LIU Bing1， YOU Zhichao1， JIANG Fangling2

（1.School of Economics，Management and Law，University of South China，Hengyang 421001，China；2.School of Computer， University of South China，Hengyang 421001，China）

Abstract： While biological identification technology has brought positive impacts to society， it has also raised ethical issues， such as privacy protection and fair application. Taking the technical dimension as the main line is the foundation of efficient and agile governance of ethical issues in biological identification technology. Based on the technology track theory， a framework for ethical governance of biological identification technology was constructed， and the track and ethical governance technology of biological identification technology were sorted out. The key to efficient governance lies in the application of ethical governance technologies such as privacy and security protection and fairness detection at the three levels of the entire lifecycle of biological identification technology， including data， algorithms， and systems. Taking Hikvision’s facial recognition technology as an example， this paper elaborated that increasing the application of ethical governance technology is of great significance to ensure the trustworthy and sustainable development of biological identification technology.

Keywords： biological identification technology； technical track； ethical governance technology； ethical governance pathway

21世紀(jì)，人工智能、生物識(shí)別技術(shù)等新興技術(shù)正顛覆性地重塑著人類生活、工作和交流的方式，為人類社會(huì)帶來(lái)了積極影響的同時(shí)，也引起了對(duì)技術(shù)倫理問(wèn)題的深刻反思。生物識(shí)別技術(shù)具有身體信息化的特征，數(shù)據(jù)不平衡、泄露和算法局限性等缺陷都可能對(duì)社會(huì)信任體系造成巨大影響。黨和政府高度重視科技倫理治理，出臺(tái)了一系列政策。現(xiàn)有研究對(duì)生物識(shí)別技術(shù)倫理治理更多關(guān)注于保護(hù)隱私、公正、責(zé)任、包容等原則與標(biāo)準(zhǔn)設(shè)定[1-3]，對(duì)倫理治理的底層邏輯缺乏深度分析，因而在治理實(shí)踐中難以快速厘清這些標(biāo)準(zhǔn)的爭(zhēng)議，無(wú)法滿足生物識(shí)別技術(shù)倫理高效、敏捷的現(xiàn)代化治理需求。基于此，本文以技術(shù)維度為主線，圍繞生物識(shí)別技術(shù)全生命周期，從倫理治理框架、治理路徑，以及技術(shù)實(shí)踐三個(gè)方面開展研究，以一個(gè)新的視角審視當(dāng)下生物識(shí)別技術(shù)倫理治理缺失和治理實(shí)效虛置的原因并尋求解決方法，促進(jìn)生物識(shí)別技術(shù)可信可持續(xù)發(fā)展。

1 生物識(shí)別技術(shù)倫理問(wèn)題與治理研究

1. 1 生物識(shí)別技術(shù)應(yīng)用及倫理問(wèn)題

生物識(shí)別技術(shù)是一類基于個(gè)體獨(dú)特的生理或行為特征對(duì)個(gè)體身份進(jìn)行自動(dòng)辨識(shí)或認(rèn)證的技術(shù)[4]，主要包括人臉識(shí)別、指紋識(shí)別以及虹膜掃描等。生物識(shí)別技術(shù)與傳統(tǒng)的身份鑒定方法相比，具有攜帶方便性、不易偽造或被盜，安全保密性強(qiáng)的優(yōu)點(diǎn)[5]。21世紀(jì)生物識(shí)別技術(shù)進(jìn)入了大規(guī)模應(yīng)用階段，全球每年以19%以上的年復(fù)合率增長(zhǎng)，特別是從2020年至2022年應(yīng)用市值從230億美元上升到了383億美元[6]。手機(jī)指紋、安防刷臉等無(wú)處不在的識(shí)別計(jì)算已成為人們?nèi)粘Ｉ钭畛Ｓ玫能浖?yīng)用，技術(shù)的可信度成為大家關(guān)注的焦點(diǎn)。然而，在醫(yī)療、銀行、零售、營(yíng)銷等行業(yè)，在數(shù)據(jù)主體不知情的情況下收集生物特征數(shù)據(jù)集侵權(quán)行為非常普遍。軟件公司在數(shù)據(jù)主體未授權(quán)情況下開展數(shù)據(jù)分析，消費(fèi)者的線上行為存在隱私被侵犯的可能，還面臨著生物數(shù)據(jù)喪失的重大風(fēng)險(xiǎn)。中國(guó)消費(fèi)者協(xié)會(huì)2018年對(duì)100個(gè)移動(dòng)應(yīng)用程序進(jìn)行了評(píng)估，發(fā)現(xiàn)其中47個(gè)應(yīng)用程序的隱私條款內(nèi)容不符合標(biāo)準(zhǔn)，34個(gè)應(yīng)用程序沒(méi)有隱私條款。85.2%的用戶受到的電信騷擾，都是緣于個(gè)人隱私信息的泄露[7]。中國(guó)軟件評(píng)測(cè)中心2023年5月對(duì)16個(gè)下載安裝量在1億次以上的即時(shí)通信類主流 App進(jìn)行了檢測(cè)，在讀取身份、拍攝照片等方面均存在嚴(yán)重的獲取隱私敏感權(quán)限超必要的問(wèn)題[8]。有關(guān)部門對(duì)于生物信息收集門檻要求較低，普通軟件公司、App運(yùn)營(yíng)方常越權(quán)要求民眾提交自己的信息作為接受服務(wù)的前提條件，導(dǎo)致公民信息被隨意收集。網(wǎng)上風(fēng)靡的“掌紋算命”“面相測(cè)試”等微信小程序甚至利用欺騙手段采集用戶生物信息。同時(shí)，潛在的身體信息泄露產(chǎn)生的人格歧視與污名化、群體社會(huì)排斥等倫理問(wèn)題也越來(lái)越凸顯。生物識(shí)別技術(shù)面臨著前所未有的隱私保護(hù)與倫理治理挑戰(zhàn)，提高技術(shù)使用者和操控者的倫理意識(shí)，提升倫理治理能力也越來(lái)越緊迫。

1. 2 生物識(shí)別技術(shù)倫理治理研究現(xiàn)狀

世界各國(guó)和有關(guān)地區(qū)在大力發(fā)展生物識(shí)別技術(shù)的同時(shí)，也高度重視生物識(shí)別技術(shù)的向好向善應(yīng)用，積極將倫理治理納入發(fā)展戰(zhàn)略。2001—2006年，美國(guó)蘭德公司、歐盟委員會(huì)工作組織、經(jīng)濟(jì)合作與發(fā)展組織、美國(guó)國(guó)家科學(xué)技術(shù)委員會(huì)等發(fā)布了一系列關(guān)于生物識(shí)別技術(shù)倫理問(wèn)題的報(bào)告[9-14]。這些報(bào)告討論了隱私（信息隱私、身體隱私等）、功能僭變、間接的醫(yī)學(xué)影響等倫理問(wèn)題。2007年開始，歐盟委員會(huì)第七框架計(jì)劃資助的RISE項(xiàng)目（2008—2022）國(guó)際會(huì)議陸續(xù)召開，生物識(shí)別技術(shù)的倫理組織、法律問(wèn)題得到了系統(tǒng)、深入的討論。Andrew [15]討論了生物識(shí)別技術(shù)欺騙和反欺騙技術(shù)引起的社會(huì)和倫理問(wèn)題。Marcus[16] 討論了生物識(shí)別技術(shù)發(fā)展如何改變國(guó)家的治理，引用了中國(guó)的社會(huì)信用體系（SCS）的例子。Sunilduth[17]分析了毛里求斯政府國(guó)家生物識(shí)別身份證計(jì)劃中的倫理審查標(biāo)準(zhǔn)。

中國(guó)針對(duì)生物識(shí)別技術(shù)倫理治理，在《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《App違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》等法律法規(guī)都有一定程度的體現(xiàn)。2022年3月20日，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，要求各地區(qū)各部門結(jié)合實(shí)際認(rèn)真貫徹落實(shí)，把黨和國(guó)家對(duì)科技倫理治理的重視提升到了前所未有的高度。2023年4月4日，科技部發(fā)布了《科技倫理審查辦法（試行）》征求意見，開始從國(guó)家層面通過(guò)一系列政策體系的調(diào)整，實(shí)現(xiàn)對(duì)現(xiàn)行科技倫理審查制度的重塑。2023年9月，《科技倫理審查辦法（試行）》印發(fā)。然而，生物識(shí)別技術(shù)倫理治理面臨著“科林格里奇困境”（Collingridge Dilemma）。手機(jī)指紋解鎖、居民小區(qū)人臉門禁已經(jīng)成為日常生活不可或缺的一部分，而隱私泄露、人格歧視等倫理問(wèn)題由于在設(shè)計(jì)階段未被重視以及預(yù)設(shè)手段，廣泛應(yīng)用后再治理變得十分困難。生物識(shí)別技術(shù)倫理治理已經(jīng)失去了倫理先行的土壤，學(xué)者們從規(guī)制體系及規(guī)制層面、治理主體的協(xié)同手段方面，以及信息化傳播角度的治理做了大量補(bǔ)救性研究[18-20]，但是現(xiàn)行的手段仍然存在運(yùn)行受阻的情況，倫理治理形式意義重于實(shí)質(zhì)效果。為此，筆者構(gòu)思從技術(shù)的底層邏輯解決技術(shù)倫理治理的核心問(wèn)題，以倫理治理技術(shù)推進(jìn)倫理治理體系與治理能力建設(shè)。

2 基于技術(shù)軌道的生物識(shí)別技術(shù)倫理治理框架

意大利經(jīng)濟(jì)學(xué)家多西（Dosi）1988年提出了技術(shù)軌道理論，技術(shù)是“沿著由范式規(guī)定的經(jīng)濟(jì)和技術(shù)折中的技術(shù)進(jìn)步軌跡”[21]，它是由不可通約性硬核技術(shù)（核心技術(shù)）和可通約性的保護(hù)帶技術(shù)（外圍技術(shù)）組成的技術(shù)體系[22]。多西的理論能夠解釋生物識(shí)別技術(shù)的方向選擇與實(shí)踐過(guò)程，新識(shí)別技術(shù)對(duì)舊技術(shù)的替代就是一種類似于科學(xué)范式的選擇過(guò)程，這個(gè)過(guò)程考慮的因素不僅包括算法、材料、設(shè)備等關(guān)鍵要素，還應(yīng)該包含倫理風(fēng)險(xiǎn)與倫理符合性等保障要素，不同倫理保障要素選擇也是同一技術(shù)范式下產(chǎn)生差異性技術(shù)軌道的重要原因。

根據(jù)技術(shù)軌道理論，生物識(shí)別技術(shù)軌道方向是基于創(chuàng)新源、創(chuàng)新目標(biāo)、創(chuàng)新場(chǎng)所的一種創(chuàng)新過(guò)程，其中社會(huì)需求，潛在新技術(shù)選擇、新設(shè)計(jì)思想抉擇，以及規(guī)模生產(chǎn)產(chǎn)品類型等都涉及具體的倫理治理方案選擇。如圖1所示，在構(gòu)思新可能新技術(shù)以及新設(shè)計(jì)思想的時(shí)候，就要將倫理符合設(shè)計(jì)作為重要內(nèi)容融入概念和設(shè)計(jì)過(guò)程；在涉及模型開發(fā)和數(shù)據(jù)集等底層技術(shù)的時(shí)候必須考慮基準(zhǔn)倫理風(fēng)險(xiǎn)；考慮社會(huì)需求與規(guī)模生產(chǎn)的時(shí)候，必須保證所有用戶能夠公平學(xué)習(xí)，算法針對(duì)特定屬性區(qū)分的用戶群體要做出相同的概率預(yù)測(cè)，包括人口結(jié)構(gòu)均等、概率均等和機(jī)會(huì)均等，產(chǎn)品在投放市場(chǎng)前應(yīng)進(jìn)行公平檢測(cè)。目前，倫理符合設(shè)計(jì)技術(shù)和檢測(cè)技術(shù)均處于起步階段，倫理治理技術(shù)系統(tǒng)性融入技術(shù)軌道理論還沒(méi)有成熟的方法論。因此，在生物識(shí)別技術(shù)治理框架基礎(chǔ)上加強(qiáng)對(duì)倫理技術(shù)治理路徑的探索，對(duì)提升倫理治理實(shí)踐能力具有重要意義。同時(shí)，增加了倫理要素的技術(shù)軌道理論，能保證技術(shù)創(chuàng)新向好向善的技術(shù)進(jìn)步方向前進(jìn)。基于技術(shù)軌道理論的倫理治理使得倫理治理由約束條件映射為發(fā)展性條件，常規(guī)的一次性倫理審查治理變成了技術(shù)創(chuàng)新主體自組織的持續(xù)檢測(cè)與測(cè)試改進(jìn)過(guò)程，從根本上調(diào)動(dòng)了技術(shù)創(chuàng)新主體的治理積極性與持續(xù)性。

3 生物識(shí)別技術(shù)倫理治理技術(shù)及路徑

3. 1 生物識(shí)別技術(shù)軌道及倫理治理技術(shù)

生物識(shí)別技術(shù)軌道具有多路徑特征，各種可能技術(shù)就像并排行駛的“馬路”，“馬路”中央部分就是技術(shù)軌道中心，“行駛”在中心的少數(shù)優(yōu)勢(shì)技術(shù)組成了技術(shù)軌道的主干，那些發(fā)展困難的技術(shù)則處于路況較差的“馬路”的邊緣[23]，多條技術(shù)軌道并存是軌道間的一種結(jié)構(gòu)，一條技術(shù)發(fā)展的S曲線便對(duì)應(yīng)著我們所說(shuō)的技術(shù)軌道，多條技術(shù)軌道“S曲線”對(duì)應(yīng)著相關(guān)聯(lián)的技術(shù)軌道內(nèi)的結(jié)構(gòu)[24]。如圖2所示，人臉識(shí)別技術(shù)就有基于主分量分析的PCA識(shí)別法、基于獨(dú)立成分的ICA分析法、基于隱馬爾可夫模型的HMM法和基于神經(jīng)網(wǎng)絡(luò)的ANN分析法等[25]。PCA識(shí)別法根據(jù)圖像的統(tǒng)計(jì)特性進(jìn)行正交變換（K-L變換）得到對(duì)應(yīng)的臉特征向量，是廣泛的應(yīng)用屬于優(yōu)勢(shì)技術(shù)簇。同樣，指紋識(shí)別技術(shù)、虹膜識(shí)別技術(shù)也有優(yōu)勢(shì)技術(shù)簇。指紋識(shí)別技術(shù)從應(yīng)用場(chǎng)景細(xì)分為手機(jī)指紋識(shí)別、門禁指紋識(shí)別、考勤指紋識(shí)別，虹膜識(shí)別又分為單模與多模態(tài)識(shí)別。技術(shù)軌道結(jié)構(gòu)揭示了技術(shù)選擇的多路徑特征和技術(shù)發(fā)展的路徑依賴特征。基于社會(huì)的需求，市場(chǎng)會(huì)產(chǎn)生可供選擇的系列技術(shù)方向，每一技術(shù)方向都是市場(chǎng)機(jī)會(huì)、技術(shù)方法、產(chǎn)品生產(chǎn)抉擇后形成的路徑關(guān)系。換言之，一條技術(shù)軌道有一個(gè)從不成熟到成熟的不連續(xù)性過(guò)程，就是以技術(shù)推動(dòng)的方式為技術(shù)路線圖的構(gòu)建提供滿足市場(chǎng)需求的發(fā)展過(guò)程。然后，這個(gè)技術(shù)推動(dòng)方式不是單因素的經(jīng)濟(jì)技術(shù)因素，還包括倫理技術(shù)因素，即通常說(shuō)的倫理約束，包括隱私保護(hù)、數(shù)據(jù)透明、公平安全等。

生物識(shí)別技術(shù)在路徑抉擇時(shí)數(shù)據(jù)層存在系統(tǒng)性的深度學(xué)習(xí)訓(xùn)練，但是這個(gè)訓(xùn)練依賴的數(shù)據(jù)往往反映了人類社會(huì)演化歷程中積累的道德偏見，可能產(chǎn)生偏見歧視、技術(shù)濫用等倫理風(fēng)險(xiǎn)。國(guó)際上，普遍采用安全計(jì)算、聯(lián)邦學(xué)習(xí)、同態(tài)加密等相關(guān)技術(shù)進(jìn)行數(shù)據(jù)隱私測(cè)試。例如利用美國(guó)司法部數(shù)據(jù)集、CrowS-Pairs（衡量刻板印象偏見）、Winogender（衡量與職業(yè)相關(guān)的性別偏見）、StereoSet（衡量性別、種族、信仰和職業(yè)上的刻板印象偏見以及原始語(yǔ)言建模能力的基準(zhǔn)）等典型數(shù)據(jù)集進(jìn)行公平性測(cè)試[26]。目前，IBM、微軟、谷歌、百度、華為等面向偏見檢測(cè)、隱私保護(hù)、安全性、風(fēng)險(xiǎn)管理、提高公平性、透明度、可解釋性等均開發(fā)了一系列內(nèi)部測(cè)評(píng)工具（詳見表1），開展了一些探索性倫理治理機(jī)制建模及自我審查工作，這些工具的應(yīng)用將從根本上影響到生物識(shí)別技術(shù)軌道方向的抉擇。

近年來(lái)，華為公司、中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院在利用國(guó)外先進(jìn)工具的基礎(chǔ)上，也開始自主研制的公平性、隱私保護(hù)等相關(guān)標(biāo)準(zhǔn)與規(guī)范，并通過(guò)建立行業(yè)性的涵蓋數(shù)據(jù)集、算法庫(kù)、模型庫(kù)的基礎(chǔ)資源庫(kù)，以及基于行業(yè)的檢驗(yàn)檢測(cè)服務(wù)平臺(tái)，嘗試提高中國(guó)倫理治理技術(shù)的整體水平。

3. 2 生物識(shí)別技術(shù)倫理治理技術(shù)的實(shí)現(xiàn)路徑

生物識(shí)別技術(shù)倫理治理融入技術(shù)研發(fā)和產(chǎn)品開發(fā)的全過(guò)程，既需要技術(shù)工具的保障，還需要建立完善管理機(jī)制與實(shí)現(xiàn)路徑。倫理治理技術(shù)工具應(yīng)服務(wù)于倫理風(fēng)險(xiǎn)管理流程中不同階段的治理目標(biāo)，按照等級(jí)設(shè)定治理要求，不然又會(huì)成為二次技術(shù)倫理產(chǎn)生的源頭。生物識(shí)別技術(shù)倫理治理從路徑層面包括數(shù)據(jù)、算法、系統(tǒng)三個(gè)層面的隱私與安全保護(hù)、公平性檢測(cè)等。

隨著人臉數(shù)據(jù)、行動(dòng)軌跡數(shù)據(jù)、指紋數(shù)據(jù)等的生物特征數(shù)據(jù)集呈現(xiàn)指數(shù)級(jí)膨脹，數(shù)據(jù)賦值量也越來(lái)越大，個(gè)人敏感信息、個(gè)人隱私保護(hù)的重要性日益凸顯。生物識(shí)別需要大量數(shù)據(jù)用于算法訓(xùn)練，存在數(shù)據(jù)防盜、防泄漏的強(qiáng)烈需求。在識(shí)別軟件開發(fā)過(guò)程中，針對(duì)數(shù)據(jù)集的代表性差、規(guī)模不清晰、均衡性不足等問(wèn)題，需要公平性檢測(cè)。數(shù)據(jù)標(biāo)注過(guò)程的數(shù)據(jù)泄露是導(dǎo)致個(gè)人信息泄露的最大風(fēng)險(xiǎn)源，在治理機(jī)制上就需要有基于倫理符合性設(shè)計(jì)原則，具體工作日志中要有數(shù)據(jù)的可追溯技術(shù)。總之，從治理技術(shù)角度來(lái)看，開發(fā)設(shè)計(jì)者、規(guī)模應(yīng)用者使用數(shù)據(jù)必須得到數(shù)據(jù)主體采集授權(quán)，同時(shí)保證數(shù)據(jù)預(yù)處理、模型訓(xùn)練等環(huán)節(jié)數(shù)據(jù)安全，且具有充足的隱私保護(hù)能力。

算法是生物識(shí)別技術(shù)的核心技術(shù)，現(xiàn)在流行的復(fù)雜神經(jīng)網(wǎng)絡(luò)算法容易導(dǎo)致決策不透明，算法推理結(jié)果不可預(yù)見。人類因?yàn)樽陨淼恼J(rèn)知能力受限，從而無(wú)法預(yù)測(cè)系統(tǒng)作出的決策原因與產(chǎn)生的效果，最終造成算法決策偏見。如人臉識(shí)別技術(shù)就曾存在白種人識(shí)別偏向，這種以較為隱蔽的方式強(qiáng)化著現(xiàn)有的偏見和差異，將對(duì)社會(huì)產(chǎn)生長(zhǎng)久的危害；算法在運(yùn)行推理環(huán)節(jié)如果被錯(cuò)誤使用或?yàn)E用，將使虛假信息廣泛傳播，對(duì)數(shù)據(jù)主體帶來(lái)身份丟失的重大隱患。一些國(guó)際化軟件公司推出了技術(shù)工具解決辦法，Google發(fā)布了PAIR技術(shù)的What-If模塊，能夠以交互式可視化方式檢查機(jī)器學(xué)習(xí)模型的公平性；微軟基于Explainable Boosting Machine 算法開發(fā)的InterpretML可以訓(xùn)練可解釋機(jī)器學(xué)習(xí)模型和黑盒模型，使預(yù)測(cè)結(jié)果更精準(zhǔn)，且有可解釋性；IBM推出AI Explainability 360工具包，可對(duì)8種智能解釋方法和2種評(píng)估指標(biāo)進(jìn)行透明性分析。

系統(tǒng)也是倫理治理技術(shù)應(yīng)用的關(guān)鍵點(diǎn)。生物識(shí)別技術(shù)智能具有不透明性、低可解釋性的特征，可能引發(fā)個(gè)人信息數(shù)據(jù)泄露。系統(tǒng)的安全漏洞、設(shè)計(jì)缺陷能導(dǎo)致威脅個(gè)人權(quán)益、社會(huì)秩序等一系列倫理風(fēng)險(xiǎn)。在系統(tǒng)安全與魯棒性方面，數(shù)據(jù)投毒、后門攻擊檢測(cè)、偽裝惡意樣本、生成虛假樣本影響數(shù)據(jù)集等問(wèn)題依舊層出不窮。如何以經(jīng)濟(jì)高效且無(wú)差錯(cuò)的方式設(shè)計(jì)和實(shí)施一個(gè)安全和可信賴的生物識(shí)別系統(tǒng)，成為當(dāng)前信息技術(shù)發(fā)展面臨的一個(gè)巨大挑戰(zhàn)。針對(duì)系統(tǒng)倫理治理挑戰(zhàn)，業(yè)界在治理路徑上主要有對(duì)抗測(cè)試、博弈模型、形式化驗(yàn)證三種解決方案。在系統(tǒng)研發(fā)全生命周期中，需采用隨機(jī)攻擊、盲盒攻擊、黑盒攻擊、白盒攻擊4個(gè)等級(jí)對(duì)抗測(cè)試[26]；同時(shí)，引入形式化驗(yàn)證作為對(duì)抗測(cè)試方法的補(bǔ)充，常用的不完整驗(yàn)證程序由于泛化性能好，使用較為普遍。進(jìn)一步，通過(guò)建立博弈模型，開展以對(duì)抗樣本生成和防御為核心的對(duì)抗深度學(xué)習(xí)以檢驗(yàn)系統(tǒng)設(shè)計(jì)倫理符合性達(dá)成度。

4 案例：海康威視人臉識(shí)別技術(shù)倫理治理技術(shù)實(shí)踐

4. 1 海康威視公司人臉識(shí)別技術(shù)的發(fā)展

海康威視人臉識(shí)別技術(shù)經(jīng)歷了三個(gè)階段的大發(fā)展。第一階段是2001年至2014年，公司主要從事安防視頻監(jiān)控產(chǎn)品的研發(fā)、生產(chǎn)和銷售，引進(jìn)的H.264算法到視頻監(jiān)控行業(yè)并得到廣泛應(yīng)用，公司在2010年上市后快速發(fā)展，于2011年躍居全球視頻監(jiān)控市場(chǎng)占有率第一名。第二階段為2015年至2021年，針對(duì)傳統(tǒng)數(shù)字化安防技術(shù)無(wú)法處理海量大數(shù)據(jù)，開始涉足人臉識(shí)別的深度算法技術(shù)，自主研發(fā)的Smart265技術(shù)，實(shí)現(xiàn)了實(shí)時(shí)人臉抓拍、布控報(bào)警、屬性識(shí)別、統(tǒng)計(jì)分析、重點(diǎn)人員軌跡還原等功能。第三階段從2021年至今，海康威視專注定位于“智能物聯(lián)AIOT”，致力于在人臉識(shí)別中融入物聯(lián)感知、人工智能、大數(shù)據(jù)技術(shù)等新一代信息技術(shù)，接連發(fā)布AI Cloud 架構(gòu)、AI開放平臺(tái)等智能化產(chǎn)品。根據(jù) Omdia 報(bào)告及在A S公布的“全球安防 50強(qiáng)”榜單，公司在視頻監(jiān)控行業(yè)全球第一，擁有全球視頻監(jiān)控市場(chǎng)份額的24.1%[27]。

4. 2 海康威視人臉識(shí)別技術(shù)倫理治理技術(shù)應(yīng)用

海康威視公司對(duì)人臉識(shí)別技術(shù)倫理治理的責(zé)任劃分為技術(shù)主體（對(duì)應(yīng)研發(fā)活動(dòng)）、應(yīng)用主體以及管理主體三個(gè)方面。同時(shí)，將螢石網(wǎng)絡(luò)（智能家居）、海康機(jī)器人（移動(dòng)機(jī)器人與機(jī)器視覺(jué)）、海康微影（紅外熱成像）、海康存儲(chǔ)（智慧存儲(chǔ)）、海康消防（智慧消防）、海康智慧安檢等產(chǎn)品技術(shù)倫理風(fēng)險(xiǎn)劃分為應(yīng)用型、技術(shù)型和技術(shù)應(yīng)用混合型三類技術(shù)倫理風(fēng)險(xiǎn)。應(yīng)用型技術(shù)倫理風(fēng)險(xiǎn)在應(yīng)用場(chǎng)景中容易使得已經(jīng)接受的倫理問(wèn)題產(chǎn)生放大或者變形，例如：在螢石網(wǎng)絡(luò)使用人臉識(shí)別技術(shù)過(guò)程中原有的“數(shù)字鴻溝”由于技術(shù)智能化就會(huì)推向“智能鴻溝”的倫理問(wèn)題，進(jìn)一步擴(kuò)大了公平問(wèn)題甚至加劇了社會(huì)的不平等。應(yīng)用型倫理風(fēng)險(xiǎn)的責(zé)任主體主要是應(yīng)用主體和管理主體。海康威視公司在技術(shù)使用方面避免高難度，以提高使用能力來(lái)保障的用戶權(quán)益，在管理平臺(tái)底層就推動(dòng)技術(shù)敏捷治理，積極實(shí)踐正確行權(quán)用權(quán)。技術(shù)型倫理風(fēng)險(xiǎn)主要從可問(wèn)責(zé)性和透明性兩個(gè)維度進(jìn)行倫理準(zhǔn)則的分析。比如識(shí)別技術(shù)的人種歧視，主要從數(shù)據(jù)集以及訓(xùn)練模型開展回溯研究。混合型倫理風(fēng)險(xiǎn)主要表現(xiàn)在安全性受到技術(shù)本身與技術(shù)的場(chǎng)景應(yīng)用共同影響，改變了安全倫理價(jià)值的認(rèn)知。AI開放平臺(tái)應(yīng)用在提高了數(shù)據(jù)安全程度要求的同時(shí)，也新增了網(wǎng)絡(luò)安全方面的安全維度要求。海康威視公司積極增強(qiáng)系統(tǒng)的韌性和抗干擾能力建設(shè)，在供應(yīng)方面應(yīng)加強(qiáng)質(zhì)量管控，在使用方面禁止違規(guī)使用。

海康威視公司對(duì)于人臉識(shí)別技術(shù)倫理的治理依托產(chǎn)品全生命周期視角開展。在產(chǎn)品的概念與設(shè)計(jì)階段：通過(guò)公平性檢測(cè)判定算法不存在對(duì)特定人群以及性別歧視設(shè)計(jì)，模型訓(xùn)練環(huán)節(jié)的算法沒(méi)有產(chǎn)生偏見、不公平問(wèn)題；利用隱私攻擊與檢測(cè)技術(shù)判定數(shù)據(jù)主體采集授權(quán)風(fēng)險(xiǎn)，算法不存在對(duì)個(gè)人和社會(huì)的惡意設(shè)計(jì)、潛在危害，算法具有安全、可控性設(shè)計(jì)。在數(shù)據(jù)集和模型開發(fā)階段：通過(guò)公平性檢測(cè)技術(shù)判定數(shù)據(jù)集的規(guī)模、均衡性等合規(guī)；數(shù)據(jù)標(biāo)注準(zhǔn)確率合格；利用隱私攻擊與檢測(cè)技術(shù)判定數(shù)據(jù)預(yù)處理、模型訓(xùn)練等環(huán)節(jié)數(shù)據(jù)處理流程隱私保護(hù)。在市場(chǎng)準(zhǔn)入階段：通過(guò)公平性檢測(cè)技術(shù)判定測(cè)試數(shù)據(jù)集規(guī)模、均衡性等質(zhì)量問(wèn)題；模型評(píng)估環(huán)節(jié)的算法偏見問(wèn)題以及缺乏有效的版本管理、不可追溯等問(wèn)題。推廣和上市后：通過(guò)隱私攻擊與檢測(cè)技術(shù)判定再訓(xùn)練階段數(shù)據(jù)處理流程安全問(wèn)題，模型推理環(huán)節(jié)運(yùn)行數(shù)據(jù)處理流程安全問(wèn)題，模型更新時(shí)缺乏有效版本管理；通過(guò)可解釋評(píng)估判定模型推理環(huán)節(jié)的算法不可解釋、不可預(yù)測(cè)問(wèn)題，進(jìn)行倫理跟蹤評(píng)估評(píng)測(cè)。以上四個(gè)階段形成多個(gè)反饋回路，倫理治理技術(shù)嵌入人臉識(shí)別產(chǎn)品全生命周期。

5 結(jié)語(yǔ)

生物識(shí)別技術(shù)的大規(guī)模應(yīng)用帶來(lái)了一系列的倫理問(wèn)題，包括隱私侵犯，生物數(shù)據(jù)失控、社會(huì)排斥等。同時(shí)，潛在的身體信息化產(chǎn)生的人格歧視與污名化、群體社會(huì)排斥等倫理風(fēng)險(xiǎn)也越來(lái)越大，生物識(shí)別技術(shù)倫理治理是確保生物識(shí)別技術(shù)可信的重要條件，具有特別的意義。

生物識(shí)別技術(shù)倫理在治理過(guò)程中面臨著“科林格里奇困境”。根據(jù)技術(shù)軌道理論，生物識(shí)別技術(shù)發(fā)展方向會(huì)受到倫理治理技術(shù)的約束。倫理符合設(shè)計(jì)、數(shù)據(jù)基準(zhǔn)倫理風(fēng)險(xiǎn)評(píng)估、公平性學(xué)習(xí)、公平檢測(cè)等這些倫理治理技術(shù)是否注入技術(shù)研發(fā)者的倫理意識(shí)、是否成為技術(shù)開發(fā)的行為規(guī)范，是解決目前倫理窘境的關(guān)鍵所在。生物識(shí)別技術(shù)倫理治理的技術(shù)路徑包括對(duì)數(shù)據(jù)、算法、系統(tǒng)三個(gè)層面的隱私與安全保護(hù)、公平性檢測(cè)等。目前，IBM、微軟、谷歌、百度、華為等開發(fā)了一系列內(nèi)部測(cè)評(píng)工具。通過(guò)海康威視人臉識(shí)別技術(shù)倫理治理技術(shù)應(yīng)用為例，研究發(fā)現(xiàn)在技術(shù)產(chǎn)品概念與設(shè)計(jì)階段、數(shù)據(jù)集和模型開發(fā)階段、市場(chǎng)準(zhǔn)入階段、推廣和上市后四個(gè)階段對(duì)數(shù)據(jù)、算法、系統(tǒng)三個(gè)層面開展有針對(duì)性的公平性檢測(cè)、隱私攻擊與檢測(cè)、可解釋評(píng)估，對(duì)確保生物識(shí)別技術(shù)可信可持續(xù)發(fā)展具有重要意義。

總之，提升人工生物識(shí)別技術(shù)等新興技術(shù)倫理治理水平，必須深耕倫理治理底層理論和治理技術(shù)研究，主要有三點(diǎn)建議：一是攻關(guān)隱私計(jì)算、聯(lián)邦學(xué)習(xí)等底層隱私保護(hù)技術(shù)，以及對(duì)抗學(xué)習(xí)、公平性預(yù)處理、公平性判別器等公平性增強(qiáng)技術(shù)等。二是共建倫理治理技術(shù)服務(wù)平臺(tái)。多部門參與構(gòu)建能衡量與職業(yè)相關(guān)的性別偏見、衡量性別、種族、宗教和職業(yè)上的刻板印象偏見以及原始語(yǔ)言建模能力的基準(zhǔn)的行業(yè)性典型訓(xùn)練數(shù)據(jù)集。三是面向重點(diǎn)敏感領(lǐng)域攻關(guān)專項(xiàng)倫理治理技術(shù)。針對(duì)腦機(jī)接口、智能醫(yī)療、自動(dòng)駕駛等高風(fēng)險(xiǎn)領(lǐng)域，開展倫理治理技術(shù)創(chuàng)新專項(xiàng)研究，建設(shè)倫理治理專用數(shù)據(jù)集，提升高風(fēng)險(xiǎn)領(lǐng)域的倫理治理技術(shù)。

〔參考文獻(xiàn)〕

[1]王國(guó)豫.科技倫理治理的三重境界[J].科學(xué)學(xué)研究，2023（41）：1932-1937. WANG G Y. Three levels of ethical governance of science and technology[J]. Studies in Science of Science，2023（41）：1932-1937.

[2]趙雪梅，霍竹，鄧益志，等.創(chuàng)新主體科技倫理管理現(xiàn)狀及提升策略研究：基于11省（市）的調(diào)研分析[J].中國(guó)醫(yī)學(xué)倫理學(xué)，2023，36（6）：597-605. ZHAO X M， HUO Z， DENG Y Z， et al. Re‐search on the current situation and improvement strategies of science and technology ethics man‐agement of innovation subjects based on the in‐vestigation of 11 provinces （autonomous region ，cities） in China[J].Chinese Medical Ethics， 2023，36（6）： 597-605.

[3]陳仲林，楊夢(mèng)婕，侯旭敏，等.從醫(yī)療機(jī)構(gòu)視角思考《涉及人的生命科學(xué)和醫(yī)學(xué)研究倫理審查辦法》[J].中國(guó)醫(yī)學(xué)倫理學(xué)，2023，36（5）：482-487. CHEN Z L，YANG M J，HOU X M， et al. Thinking from the perspective of medical institu‐tions on Measures for Ethical Review of Life Sci？ ence and Medical Research Involving Humans[J]. Chinese Medical Ethics， 2023，36（5）：482-487.

[4]Association for Biomerirics（AfB）， International Computer Security Association（ICSA）. 1998 Glos‐sary of biometricterms[J]. Information Security Technical Report， 1998， 3（1）： 98-108.

[5]楊強(qiáng)，譚禮俊. 生物識(shí)別技術(shù)對(duì)比淺析[J]. 大眾科技，2005（2）：51-52. YANG Q，TAN L J. Comparative analysis of biometric technology[J]. Popular Science and Technology， 2005（2）： 51-52.

[6]共研產(chǎn)業(yè)研究院.2023—2028年中國(guó)生物識(shí)別技術(shù)產(chǎn)業(yè)全景調(diào)查及投資咨詢報(bào)告[R].2022.

[7]中國(guó)消費(fèi)者協(xié)會(huì).中消協(xié)在京發(fā)布《100款A(yù)pp個(gè)人信息收集與隱私政策測(cè)評(píng)報(bào)告》[EB/OL].（2018-11-28）[2024-02-05].http：www.cca.org. cn/zxsd/detail/28309.html.

[8]清華大學(xué)智能法治研究院.App隱私政策對(duì)比分析報(bào)告：即時(shí)通信類[EB/OL].（2023-05-15）[2024-02-05].http：www.cstc.org.cn/info/1936/ 247835.htm.

[9]RAND. Army biometric applications： identifying and addressing sociocultural concerns[R]. 2001.

[10]EC. Working paper of the data protection work‐ing party of the european commission： biometrics[R]. 2003.

[11]BIOVISION. Roadmap to successful deploy‐ments from the user and system integrator per‐spective[R]. 2004.

[12]European Commission. Biometrics at the frontiers：assessing the impact on society[R]. 2005.

[13]National Science and Technology Council. The national biometrics challenge[R].2006.

[14]Data Security Council of India. Biometrics and ethics-EU project RISE[R]. 2009.

[15]REBERA A P， BONFANTI M E， VENIER S. Societal and ethical implications of anti-spoofing technologies in biometrics[J]. Science and Engi‐neering Ethics，2014， 20（1）：155-169.

[16]SMITH M. The future of biometrics and liberal democracy[J]. Biometric ldentification， Law and Ethics， 2021， 11：79-95.

[17]BAICHOO S ，KHAN H M ，BISSESSUR P ，et al.Legal and ethical considerations of biometric identity card： case for mauritius[J]. Computer Law and Security Review： The International Journal of Technology Law and Practice，2018，34（6）：1338-1341.

[18]安慧影，黃朝峰，李陽(yáng).新興技術(shù)倫理風(fēng)險(xiǎn)協(xié)同治理研究[J].科技進(jìn)步與對(duì)策， 2023，3（1）：1-10. AN H Y，HUANG C F，LI Y. The collaborative governance of ethical risks in emerging technolo‐gies[J]. Science and Technology Progress and Policy， 2023，3（1）：1-10.

[19]胡海明. 生物識(shí)別技術(shù)應(yīng)用：倫理和治理研究[D].北京：北京協(xié)和醫(yī)學(xué)院，2018. HU H M. Biometrics applications：ethics and governance[D]. Beijing：Peking Union Medical College，2018.

[20]程思凡.生物識(shí)別信息傳播倫理問(wèn)題研究[J].中國(guó)出版，2023（1）：34-38. CHENG S F. Research on ethical issues in the dissemination of biometric information[J]. China Publishing Journal，2023（1）：34-38.

[21]DOSI G.Technological paradigms and technologi‐cal trajectories[J].Research Policy，1982，11（3）：152-154.

[22]鄭雨.基于技術(shù)創(chuàng)新視角的技術(shù)范式不可通約性理論[J].科技進(jìn)步與對(duì)策，2007，24（12）：156-168. ZHENG Y. Incommensurability of technology paradigm[J]. Science and Technology Progress and Policy，2007，24（12）：156-168.

[23]楊德林，陳春寶.中國(guó)企業(yè)國(guó)際化實(shí)證分析[J].中國(guó)軟科學(xué)，1997（2）：33-39.

[24]曾建新，劉兵.基于技術(shù)軌道理論的核電堆型技術(shù)創(chuàng)新路線圖結(jié)構(gòu)[J].湖南科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2013，9（5）：106-110. ZENG J X，LIU B. Research of road map struc‐ture of technology innovation about nuclear power reactor type based on the theory of techno‐logical trajectory[J]. Journal of Hunan University of Science and Technology （Social Science Edi‐tion），2013，9（5）：106-110.

[25]彭之軍.人臉識(shí)別技術(shù)進(jìn)展綜述[J].信息與電腦，2023（15）：168-171. PENG Z J. Literature review of advances in face recognition technology[J]. Information and Com‐puters， 2023（15）：168-171.

[26]國(guó)家人工智能標(biāo)準(zhǔn)化總體組.人工智能倫理治理標(biāo)準(zhǔn)化指南（2023）[R].2023.

[27]鮑曉娜，張舒暢，任曙明，等.技術(shù)機(jī)會(huì)窗口、債務(wù)融資決策對(duì)后發(fā)企業(yè)創(chuàng)新的影響：基于海康威視的探索性案例研究[J].管理案例研究與評(píng)論，2023，10（16）：567-581. BAO X N，ZHANG S C，REN S M， et al. The influence of technology opportunity window and debt financing decision on the innovation of late‐comers：an exploratory case study based on Hikvi‐sion[J]. Journal of Management Case Studies，2023，10（16）：567-581.