符合倫理的人工智能應(yīng)用的價值敏感設(shè)計：現(xiàn)狀與展望

古天龍，馬露，李龍，閆茹

（1.桂林電子科技大學 廣西可信軟件重點實驗室, 廣西 桂林 541004; 2.暨南大學 信息科學技術(shù)學院/網(wǎng)絡(luò)空間安全學院, 廣東 廣州 510632）

近年來，隨著核心算法的突破、計算能力的大幅提高和海量數(shù)據(jù)的支撐，人工智能得以迅速發(fā)展，并推動著社會各領(lǐng)域朝著更智能化的方向加速躍升。然而，人工智能在應(yīng)用過程中存在著“不確定性”，這種“不確定性”不僅來自于人工智能自身的技術(shù)黑箱，也來自于人們對法律和倫理道德的忽視，這引發(fā)了如隱私保護、信息安全、公平正義、人類健康、責任區(qū)分等方面的倫理問題。為解決上述問題，在研發(fā)人工智能應(yīng)用設(shè)計及使用過程中，人們逐漸開始探索并使用技術(shù)方法來嵌入人類價值，如參與式設(shè)計[1]、以用戶為中心的設(shè)計[2]、通用設(shè)計[3]、包容性設(shè)計[4]、價值敏感設(shè)計[5]（value sensitive design，VSD）等。但是，前4種方法傾向于重視工具性和功能性價值，如用戶友好性和可用性，在設(shè)計符合倫理的人工智能應(yīng)用方面的使用范圍有限；相比之下，價值敏感設(shè)計不僅關(guān)注工具性和功能性價值，而且著重強調(diào)設(shè)計中的倫理價值，如知情同意、信任、公平性等。同時，價值敏感設(shè)計還將人類價值放在技術(shù)人工物所處的具體環(huán)境中進行考量，并關(guān)注現(xiàn)有技術(shù)是如何支持或阻礙人類價值的，以便能在設(shè)計過程中系統(tǒng)地、徹底地考慮人類價值和社會影響。鑒于擁有以上優(yōu)勢特征，價值敏感設(shè)計在人工智能應(yīng)用的設(shè)計中具有獨特的優(yōu)勢，受到更多研究者和設(shè)計師的青睞。

目前，價值敏感設(shè)計在如智能機器人、智能運載設(shè)備、可穿戴設(shè)備、虛擬現(xiàn)實等人工智能領(lǐng)域的倫理研究中廣受關(guān)注。此外可以預(yù)見，符合倫理的人工智能應(yīng)用的價值敏感設(shè)計是未來很長一段時間的重要研究課題。因此本文擬對本領(lǐng)域內(nèi)已有研究進行梳理，并對下一步的研究重點及存在的挑戰(zhàn)進行展望，以期為推動該方面的理論研究和實踐應(yīng)用提供參考。

1 價值敏感設(shè)計概述

在價值敏感設(shè)計提出之前，技術(shù)研究與開發(fā)中涉及的倫理道德已經(jīng)引發(fā)了學者們廣泛的討論，但并未出現(xiàn)一個總體的理論與方法來處理技術(shù)中的價值維度。在這樣一種情境下，Batya Friedman教授等于20世紀90年代提出了價值敏感設(shè)計的概念，通過在信息系統(tǒng)中考慮人類價值，為研究者提供了一種有效協(xié)調(diào)技術(shù)與倫理間關(guān)系的方法。隨著智能信息服務(wù)和應(yīng)用技術(shù)在人們生活中的不斷滲透，價值敏感設(shè)計受到了更加廣泛的關(guān)注，成為研究者考量技術(shù)設(shè)計中價值維度的重要方法之一。

1.1 基本內(nèi)涵

價值敏感設(shè)計被定義為“一種以價值理論為基礎(chǔ)的設(shè)計方法，強調(diào)在整個設(shè)計過程中以一種有原則的、全面的方式考慮人類價值”[5]。從此種意義上講，符合倫理的技術(shù)設(shè)計不僅僅是一種前瞻性行為，而且應(yīng)該貫穿于設(shè)計的整個過程，以有效嵌入人類的道德價值。

價值敏感設(shè)計認為技術(shù)不是價值中立的，技術(shù)體現(xiàn)著開發(fā)人員的價值觀，而且技術(shù)人工物會對人類生活的環(huán)境產(chǎn)生影響，包括道德、政治等多個層面。也就是說，研究人員在設(shè)計過程做出的決策具有價值含義[6]。因此，在設(shè)計前充分考慮人類價值極其重要。這里的“價值”是一個廣泛的術(shù)語，指的是一個人或一群人認為在生活中重要的東西[5]。就價值敏感設(shè)計關(guān)注的具體倫理價值而言，它涵蓋了人類福利、所有權(quán)和財產(chǎn)、隱私、無偏見、普遍可用性、信任、自主性、知情同意和問責制等；也涉及在使用過程中側(cè)重用戶使用體驗的實用性價值（如系統(tǒng)操作的簡易化）、公約（如標準化協(xié)議）和個人品味（如圖形化用戶界面中的顏色偏好）等。

價值敏感設(shè)計的主要特點可以概述為3點：互動理論、考慮直接和間接利益相關(guān)者、三方方法論[7]。1) 互動理論認為價值觀產(chǎn)生于技術(shù)與用戶的交互中，其中技術(shù)作為塑造社會的要素，需要遵守一定的倫理規(guī)范；人的行為和社會力量會推動技術(shù)的更新迭代，與此同時，新技術(shù)也改變著人的行為與整個社會體系。2) 識別直接和間接利益相關(guān)者以及他們的價值觀是價值敏感設(shè)計的重要組成部分，其中，直接利益相關(guān)者指的是直接與計算機系統(tǒng)交互的個人或組織，間接利益相關(guān)者是指間接受系統(tǒng)影響的其他方。3) 價值敏感設(shè)計為研究者們提供了一套獨特的三方方法論，即概念調(diào)查、經(jīng)驗調(diào)查和技術(shù)調(diào)查。這3個階段之間的相互作用是動態(tài)的，某一階段中進行的設(shè)計更改會影響其他兩個階段。例如，技術(shù)解決方案的變更可能會導(dǎo)致新的社會風險出現(xiàn)，或者利益相關(guān)方的新的經(jīng)驗和價值輸入可能需要技術(shù)設(shè)計做出相應(yīng)的調(diào)整。因此，為實現(xiàn)產(chǎn)品的優(yōu)化設(shè)計，概念調(diào)查、經(jīng)驗調(diào)查和技術(shù)調(diào)查的執(zhí)行過程需要不斷重復(fù)和迭代，如圖1所示。

圖1 三方方法論及其迭代Fig.1 Tripartite methodology and its iterations

1.2 三方方法論

1.2.1 概念調(diào)查

概念調(diào)查是價值敏感設(shè)計中價值的概念化過程，這一階段包含對所調(diào)查的問題和結(jié)構(gòu)進行分析性和哲學性的探索，主要回答以下關(guān)鍵問題：1）誰是受其影響的直接和間接利益相關(guān)者？2）利益相關(guān)者與系統(tǒng)的關(guān)系如何？3）所研究的問題和結(jié)構(gòu)中包含哪些價值？4）哲學類文獻是如何定義某些特定的價值（如信任、知情同意、隱私）的？5）價值之間有無優(yōu)劣之分？6）如何處理價值之間的沖突（如控制與自主，隱私與獲取）？其中，識別間接利益相關(guān)者的難度較大，需要設(shè)計者做好充分的調(diào)研。概念調(diào)查將可能的價值定義為適合目標環(huán)境的新概念，并納入了一系列標準的社會科學研究方法，如半結(jié)構(gòu)化訪談、調(diào)查、觀察、實驗設(shè)計、探索性調(diào)查和縱向案例研究[8]。

1.2.2 經(jīng)驗調(diào)查

經(jīng)驗調(diào)查通常在概念調(diào)查之后進行，以概念調(diào)查的研究結(jié)果為基礎(chǔ)，主要考察技術(shù)產(chǎn)品所處的人類環(huán)境，并將其量化，為概念調(diào)查提供相應(yīng)的數(shù)據(jù)支持。經(jīng)驗調(diào)查需要借助社會科學研究中使用的定量和定性方法，如：觀察、訪談、調(diào)查、實驗操作、文件收集、用戶行為和人體生理特征的測量等。這一階段主要關(guān)注兩方面內(nèi)容：1) 利益相關(guān)者在互動環(huán)境中對價值觀的理解和權(quán)衡；2) 設(shè)計過程中考慮的倫理價值與人們實際使用中需求的倫理價值之間是否有差距。經(jīng)驗調(diào)查的結(jié)果不僅可以被用來改進新技術(shù)的設(shè)計，使之更符合利益相關(guān)者的價值觀。此外，經(jīng)驗調(diào)查還可以放在概念調(diào)查之前進行，以幫助研究者在概念調(diào)查階段明確價值的具體定義。

1.2.3 技術(shù)調(diào)查

與概念調(diào)查和經(jīng)驗調(diào)查將重點放在利益相關(guān)者以及他們所關(guān)注的價值上不同，技術(shù)調(diào)查更具體地指向所討論技術(shù)的設(shè)計，通過對現(xiàn)有技術(shù)的回顧性分析以及對新技術(shù)的前瞻性分析來權(quán)衡多個價值，以提供不同的價值適應(yīng)性。技術(shù)調(diào)查主要有兩種形式，第一種形式側(cè)重于對現(xiàn)有的技術(shù)屬性和基本機制進行調(diào)查，關(guān)注技術(shù)是如何支持或阻礙人類價值的。例如，一些基于視頻的協(xié)同工作系統(tǒng)提供模糊的辦公室視圖，另一些系統(tǒng)則提供清晰的圖像，顯示關(guān)于誰在場以及他們在做什么的詳細信息。這兩種系統(tǒng)的不同源于它們對兩種價值的權(quán)衡差異：1）個人隱私；2）群體中成員的存在與活動。第二種形式的技術(shù)調(diào)查涉及系統(tǒng)的主動設(shè)計，以支持概念和經(jīng)驗調(diào)查中所發(fā)現(xiàn)的價值。例如，Xu[9]通過概念調(diào)查發(fā)現(xiàn)采用隱私保護機制有助于保護用戶的在線隱私，因此在技術(shù)調(diào)查階段為瀏覽器設(shè)計了3種隱私增強工具，使用戶能對其個人信息進行控制。

盡管三方方法之間的迭代十分重要，但Winkler等[10]調(diào)查了1996—2016年超過219項價值敏感設(shè)計的相關(guān)研究，發(fā)現(xiàn)只有17篇論文使用了所有3種調(diào)查方法。其中，進行了三方方法迭代分析的只有4篇文獻，僅占研究總量的1.8%，這提醒學者們在未來的研究中需要充分加強三方方法的迭代使用。為使研究者們更清晰地了解這3種方法的任務(wù)、特征和不足，本文給出了三方方法的對比分析，如表1所示。總體來看，價值敏感設(shè)計的三方方法論為研究人員和設(shè)計者們進行人工智能倫理研究提供了針對性的指導(dǎo)，也降低了新手使用價值敏感設(shè)計的難度。

表1 三方方法對比分析Table 1 Contrastive analysis of tripartite methods

2 價值敏感設(shè)計研究

國外對于價值敏感設(shè)計的研究主要集中在4個方面，包括理論反思、框架補充、方法擴展以及工具增添；國內(nèi)則主要以價值敏感設(shè)計理論的引進與推介為主。

2.1 理論反思

價值敏感設(shè)計作為技術(shù)倫理研究的一種新形式，促進著“技術(shù)實踐”與“倫理實踐”的統(tǒng)一，這個過程中需要明確的倫理理論為解決道德爭論、應(yīng)對道德考慮提供支撐，學者們對此進行了針對性的研究。

Yetim[11]從話語倫理的角度出發(fā)，在價值敏感設(shè)計中納入邊界批評方法，并應(yīng)用不同類型的話語、原則和話語支持方法來補充價值敏感設(shè)計。Jacobs等[12]提議將中層倫理理論與價值敏感設(shè)計相結(jié)合，以解決價值敏感設(shè)計面臨的挑戰(zhàn)：1）研究者的主張和價值觀不夠明確；2）過分依賴對普世價值的實證研究，存在犯自然主義謬誤的風險；3）在價值沖突產(chǎn)生時難以進行價值權(quán)衡。新設(shè)計的倫理理論需要滿足3個條件：1）擁有較強的解釋力；2）擁有較強的證明力；3）簡單實用。基于上述研究，Jacobs[13]將Nussbaum所提出的實質(zhì)性能力理論用于支持價值敏感設(shè)計，實質(zhì)性能力理論認為，每個人都應(yīng)獲得10種核心能力：1）能夠正常生活；2）身體健康；3）保持身體完整；4）能夠運用感官、想象和思考；5）有情感和情感依戀；6）擁有實踐理性來形成一種善的概念；7）擁有有意義和受尊重的社會關(guān)系；8）對其他物種表示關(guān)心；9）會玩；10）控制自己的物質(zhì)和政治環(huán)境。這10種核心能力可以為道德主張和考慮提供正當理由和論證來源，幫助價值敏感設(shè)計明確研究者的主張以及應(yīng)對自然主義謬誤的挑戰(zhàn)。Umbrello[14]首次從道德想象理論的角度探討價值敏感設(shè)計，充分考慮諸如轉(zhuǎn)喻、隱喻、想象和敘事等對道德思考和發(fā)展至關(guān)重要的想象結(jié)構(gòu)，并在概念調(diào)查中增加了想象工具，重新整合價值觀的概念化過程。

2.2 框架補充

在確定價值和利益相關(guān)者、將價值轉(zhuǎn)化為設(shè)計等關(guān)鍵階段中，需要更具體的框架對其進行指導(dǎo)，因此Van[15]提出了“價值層次”的框架，如圖2所示。其中，規(guī)范是指技術(shù)為了支持價值而應(yīng)展示的屬性或能力，且規(guī)范通常不止一個。該框架能將價值轉(zhuǎn)化為具體的設(shè)計要求，明確價值判斷。基于上述研究，Aizenberg等[16]提出了人權(quán)設(shè)計框架，如圖3所示。該框架將設(shè)計過程建立在4種價值觀的基礎(chǔ)上，同時還強調(diào)利益相關(guān)者的參與和三方方法的迭代。其中，4種基本價值觀可以進一步細化為更詳盡的價值觀，該框架為制定設(shè)計要求提供了結(jié)構(gòu)化和包容性的途徑。

圖2 價值層次Fig.2 Values hierarchies

圖3 人權(quán)設(shè)計框架Fig.3 Human rights design framework

為解決新興技術(shù)的本體不確定性問題，de Reuver[17]提出了TCRC框架，即在價值敏感設(shè)計原有的三方方法中加入反射性活動，用于反思技術(shù)開發(fā)的目標和價值。這里的反射性是通過“道德沙盒”來實現(xiàn)的，以識別技術(shù)中的道德因素。為檢驗人們對技術(shù)的解釋關(guān)系，并從中識別相應(yīng)的價值，Grünloh[18]引入了技術(shù)框架，該框架包含3個核心部分：1）技術(shù)的本質(zhì)；2）技術(shù)戰(zhàn)略；3）技術(shù)的使用。為支持設(shè)計師有意識地、明確地將人類價值觀嵌入設(shè)計過程，克服價值敏感設(shè)計所提供價值清單的不完整和不通用性，Kheirandish等[19]通過經(jīng)驗調(diào)查收集了價值觀數(shù)據(jù)，并對價值觀進行分組和聚類，最終形成了一個全面的價值框架，該框架包含4個主題、9個價值組、42個關(guān)鍵價值和135個額外價值，有助于明確與各種設(shè)計項目相關(guān)的人類價值。

2.3 方法擴展

三方方法論為研究者們提供了一定的指導(dǎo)，但研究者們面臨的設(shè)計挑戰(zhàn)還需要更明確的實踐方法和前進道路。Friedman等[20]系統(tǒng)總結(jié)了2017年以前的14種主要價值敏感設(shè)計方法的原理和相關(guān)基礎(chǔ)研究，并闡述了各種方法的使用技巧，所提到的14種方法：1）直接和間接利益相關(guān)者分析；2）價值來源分析；3）技術(shù)與社會結(jié)構(gòu)的共同演進；4）價值情景；5）價值觀的信息維度；8）面向價值的編碼手冊；9）面向價值的模型、原型或現(xiàn)場部署；10）關(guān)于價值觀和技術(shù)的民族志調(diào)查；11）網(wǎng)上知情同意模式；12）重視價值壩和價值流；13）價值敏感行為反射模型；14）設(shè)想卡片。為解決價值敏感設(shè)計方法的松散性問題，Greef等[21]將情境認知工程（the situated cognitive engineering，sCE）與價值敏感設(shè)計方法相結(jié)合，提出了sCEthics方法。為解決價值本身的動態(tài)變化問題，Poel[22]提出了價值變化分類法。為衡量不同價值的權(quán)重，Van等[23]引入了最佳最差方法。為說明倫理和社會價值如何在連續(xù)迭代中體現(xiàn)在具體的技術(shù)上，Cawthorne等[24]引入了基于能力的程序-審議倫理方法。上述4種方法的主要特點和應(yīng)用效果如表2所示。

表2 新興方法間的對比分析Table 2 Comparative analysis of emerging methods

2.4 工具增添

有形的工具能在實踐中幫助研究者更好地調(diào)查利益相關(guān)者及其價值，充分調(diào)動參與者的積極性。為促進利益相關(guān)者和設(shè)計師的溝通，Pommeranz等[25]提出了價值獲取工具，該工具由兩個部分組成：1）由利益相關(guān)者用于數(shù)據(jù)收集和現(xiàn)場自我反思的移動應(yīng)用程序；2）由設(shè)計者和利益相關(guān)者合作使用的用于分析和交流價值的網(wǎng)站。為更全面地識別利益相關(guān)者，Yoo[26]提出了利益相關(guān)令牌法，該方法包含5個步驟：1）選擇參與者；2）選擇令牌的材料；3）創(chuàng)建利益相關(guān)者列表和標簽；4）將標簽附加到令牌上；5）簡述利益相關(guān)者的關(guān)系。為更好地識別潛在價值，Logler等[27]提出了隱喻卡的方法，使用該工具需要4個步驟：1）深入熟悉項目領(lǐng)域；2）形成一套生成隱喻；3）制作隱喻卡片；4）將隱喻卡引入設(shè)計研究中。為將現(xiàn)有的文化模式融入價值獲取過程，以克服文化限制對價值獲取造成的障礙，Alshehri等[28]提出了情景共同創(chuàng)作卡的方法，使用該工具需要3個步驟：1）概念設(shè)計，即對卡片進行粗略分類；2）物理設(shè)計，即為每張卡片設(shè)計基于特定文化的圖像；3）實用設(shè)計，即在半結(jié)構(gòu)化訪談中使用創(chuàng)作卡，通過對不同卡片的組合來創(chuàng)造不同的價值情景，促進參與者表達個人價值觀。為促進設(shè)計師在設(shè)計過程中考慮人類價值，Kheirandish等[29]提出了HuValue工具，該工具包括：1個價值輪、45個價值、207張圖片卡。上述5種工具的主要特點和應(yīng)用效果如表3所示。

表3 新工具間的對比分析Table 3 Comparative analysis of new tools

續(xù)表3

2.5 國內(nèi)價值敏感設(shè)計研究

國內(nèi)對于價值敏感設(shè)計的研究起步較晚，目前主要以理論的引進與推介為主。劉瑞琳等[30]系統(tǒng)梳理了價值敏感設(shè)計，介紹了價值敏感設(shè)計的研究歷程、哲學意蘊以及研究方法，并討論了價值敏感設(shè)計的實踐性、先進性以及局限性。劉寶杰[31]介紹了價值敏感設(shè)計的內(nèi)涵、發(fā)展歷程與特點，并以瀏覽器中的Cookies為例，展示了價值敏感設(shè)計三方方法的迭代運用，此外，還敘述了荷蘭學者對價值敏感設(shè)計應(yīng)用領(lǐng)域的擴展以及當前價值敏感價值設(shè)計的不足之處。郭延龍等[32]梳理了智能人工物技術(shù)治理的3種路徑，包括內(nèi)在關(guān)系進路、混合式系統(tǒng)進路和價值敏感設(shè)計進路，并對價值敏感設(shè)計的定義、方法、應(yīng)用與不足進行了介紹。杜嚴勇[33]指出，目前機器人倫理設(shè)計的實踐探索主要涉及計算機科學進路、認知科學進路和價值敏感設(shè)計3個方面，并對以護理為中心的價值敏感設(shè)計進路進行了介紹。閆坤如[34]指出，價值論轉(zhuǎn)向之后的技術(shù)哲學發(fā)展更加關(guān)注技術(shù)設(shè)計中的倫理與價值，并介紹了價值敏感設(shè)計的理念與應(yīng)用。孫福海等[35]認為，要開發(fā)出具有道德的人工智能，系統(tǒng)設(shè)計必須考慮道德因素，并介紹了三種重要方法：價值敏感設(shè)計、透明度設(shè)計及道德學習設(shè)計，梳理了價值敏感設(shè)計的內(nèi)涵、原則、研究內(nèi)容及研究方法。

張貴紅[36]認為，價值敏感設(shè)計體現(xiàn)出了當前的大數(shù)據(jù)技術(shù)所具有的倫理與價值維度，能為大數(shù)據(jù)倫理提供基礎(chǔ)的分析策略，而且價值敏感設(shè)計本身的發(fā)展也能推動大數(shù)據(jù)倫理學與大數(shù)據(jù)技術(shù)的研究與發(fā)展。尹文娟[37]指出，價值敏感設(shè)計提供了一種理論支持，能將利益相關(guān)者多元化的價值觀嵌入工程設(shè)計的過程中。劉培等[38]建議在解決算法倫理問題時考慮使用價值敏感設(shè)計方法，將算法的倫理設(shè)計與具體的情景分析相結(jié)合。李飛翔[39]指出，算法工程師和科研工作者群體在對待大數(shù)據(jù)技術(shù)時，需注重價值敏感設(shè)計的使用，以避免算法過于抽象化。樸毅等[40]認為，在應(yīng)對人工智能的價值非中立性倫理問題與決策風險時，可以采用價值敏感設(shè)計方法，將可預(yù)見的偏見問題扼殺在算法開發(fā)階段。陳煒等[41]建議，在解決勸導(dǎo)性技術(shù)的倫理問題時，可以借鑒價值敏感設(shè)計方法。他們認為，這種方法能提供一個交互性視角，并能更全面地解決價值沖突。

3 人工智能應(yīng)用的價值敏感設(shè)計

價值敏感設(shè)計為解決人工智能應(yīng)用中可能存在的保密性、隱私性、安全性和可信度等倫理問題提供了一種有效的方式，能夠在人工智能應(yīng)用的各個設(shè)計階段融入人類價值，使人工智能應(yīng)用更符合人類倫理。目前，價值敏感設(shè)計在人工智能的應(yīng)用主要涉及智能機器人、智能運載工具等方面。

3.1 智能機器人

隨著“機器人口爆炸”時代的到來，智能機器人在人們的生活中扮演著越來越重要的角色，如情感陪護、聊天、送藥等。但智能機器人在決策、行動方面被賦予一定的自主性，這可能會導(dǎo)致大量的倫理問題出現(xiàn)，例如：聊天機器人可能會在言語中透露種族歧視[42]、看護機器人可能會減少人與人之間的親密接觸[43]、軍事機器人可能會誤傷平民[44]等，如何設(shè)計出符合倫理的智能機器人成為了學者們的研究熱點。Cheon等[45]利用價值敏感設(shè)計方法，研究了機器人和自動化協(xié)會網(wǎng)站對人形機器人專家的采訪，選擇了其中27個訪談來定性分析機器人專家的價值觀。研究表明，機器人專家所關(guān)心的倫理價值包括安全、可靠、透明和人類尊嚴。基于此，該研究提出了一個將倫理價值融入人形機器人設(shè)計的議程：1）調(diào)查開發(fā)者的價值觀；2）調(diào)查在機器人的定義中應(yīng)該接受的倫理價值；3）邀請非傳統(tǒng)利益相關(guān)者參加機器人設(shè)計研討會。但該研究僅僅是對二次數(shù)據(jù)的加工，未來還需對機器人專家進行針對性的倫理訪談。

在醫(yī)療方面，護理機器人可用于臨床診斷、病患護理、病房清理等，成為了有效緩解人工護理壓力的新手段。由于護理機器人的服務(wù)對象為患者群體，尤其是老齡人等弱勢人群，護理機器人所面臨的倫理問題具有特殊性。因此，如何設(shè)計出符合倫理的護理機器人顯得尤為重要。Wynsberghe[46]基于價值敏感設(shè)計方法，提出了一個以關(guān)懷為中心的護理機器人倫理評估框架，該框架由 5 個部分組成：1）語境；2）實踐；3）相關(guān)行動者；4）機器人類型；5）道德因素的體現(xiàn)。以識別在機器人設(shè)計過程中需關(guān)注的倫理價值。使用上述框架的方法被稱為以護理為導(dǎo)向的價值敏感設(shè)計（care centered value sensitive design，CCVSD）方法，該方法能幫助設(shè)計師和倫理學家對護理機器人進行回顧性倫理評估，并對護理機器人進行符合倫理的前瞻性設(shè)計。在后續(xù)研究中，Wynsberghe[47]指出，當服務(wù)機器人被集成到護理實踐中時，也可以使用CCVSD方法對其進行評估與設(shè)計，并提出了識別護理實踐的兩個必要條件：1）該實踐必須是對另一個實踐的需求的響應(yīng)；2）通過護理者和護理接受者之間的相互作用來滿足他人的需求。此后，Wynsberghe等[48]以舉重和尿檢機器人為例，將活動本質(zhì)方法用于護理機器人的研究，結(jié)果顯示，活動本質(zhì)方法能推動CCVSD進一步發(fā)展：1）為CCVSD提供更堅實的哲學基礎(chǔ)；2）為機器人的護理活動提供更精細的描述，以擴展護理倫理；3）提供概念工具來緩解不同倫理價值之間的沖突。

Poulsen等[49]基于機器倫理和CCVSD方法，提出了運動設(shè)計中的價值(values in motion design,VMD)方法，用于設(shè)計符合倫理的護理機器人。在使用VMD方法時，首先需要進行價值敏感設(shè)計的概念調(diào)查，以建立用戶價值模型和機器人設(shè)計的初始框架；隨后進行經(jīng)驗和技術(shù)調(diào)查，以區(qū)分患者的外在價值和內(nèi)在價值，其中，當護理機器人尊重患者的外在價值時，即可做出符合護理倫理的決策；而當護理機器人確保為患者提供內(nèi)在價值時，即可做出符合職業(yè)倫理的決策。結(jié)果顯示，使用VMD方法后，研究者們可以通過提供良好的護理倫理決策和職業(yè)倫理決策，設(shè)計出符合倫理的護理機器人。此后，Poulsen等[50]提出了一個Attento模型來補充VMD方法，該模型可以為特定的患者制定外在價值的優(yōu)先級列表，并在實踐中動態(tài)地調(diào)整列表，提供定制的患者服務(wù)。基于上述研究，Poulsen等[51]提出了一種注意框架，該框架建議在護理機器人的設(shè)計過程中聯(lián)合使用CCVSD方法和有“計算意識”的信息系統(tǒng)，并在運行時根據(jù)外在護理價值的優(yōu)先級作出設(shè)計決策。其中，信息系統(tǒng)包含3個關(guān)鍵的過程和元素：1）計算意識過程；2）價值優(yōu)先級列表；3）價值確認過程。

從上述研究來看，近幾年智能機器人的倫理設(shè)計研究取得了不錯的成就，其中，CCVSD方法成為了護理機器人倫理研究的奠基之作，具有重大的探索價值。但目前仍存在著一些挑戰(zhàn)和不足。首先，護理機器人在護理過程中會采集許多患者的隱私數(shù)據(jù)，如何確保眾多隱私數(shù)據(jù)不被泄露，是否需要針對不同的弱勢群體采取不同的隱私保護強度，其他家庭成員是否有權(quán)獲取關(guān)于患者的全方位隱私數(shù)據(jù)。其次，患者在使用護理機器人的過程中，智能護理與患者的自主性之間常常產(chǎn)生沖突，如何對兩種價值進行權(quán)衡，如何準確評估患者的實時狀況，以決定護理機器人應(yīng)在何種程度上保障患者的自主意愿。同時，我國屬于多民族國家，如何避免護理機器人在外觀設(shè)計和交互過程中暗含種族歧視和性別歧視，如何在設(shè)計中考慮各民族的風俗和宗教信仰。最后，目前對于智能機器人的研究僅限于人形和護理機器人，如何對送藥機器人、移動病人機器人、工業(yè)機器人、物流機器人等進行評估與設(shè)計，是否可以簡單套用護理機器人的設(shè)計方法。總之，解決上述問題，是當下智能機器人的進一步研究方向。

3.2 智能運載工具

自動駕駛汽車和無人機能參與組建更為高效的交通運輸系統(tǒng)，幫助減輕交通壓力，但在研發(fā)、應(yīng)用和推廣中產(chǎn)生的一系列倫理問題使其發(fā)展遇到了阻力，如隱私泄露[52-53]、責任分配[54]、非法監(jiān)控[55]。為解決上述問題，科研工作者們進行了一系列的研究。

Flipse等[56]基于價值敏感設(shè)計和中游調(diào)節(jié)方法，建立了一種合作創(chuàng)新開發(fā)方法，方法分為兩步：1）為共同參與設(shè)計過程者建立價值檔案；2）組織研討會來討論前述價值，并將它們轉(zhuǎn)化為規(guī)范和設(shè)計要求。在自動駕駛汽車的案例研究中，建立的價值檔案包括6個倫理價值和2個非倫理價值：1）道路安全；2）負責制；3）群體平等；4）自主；5）隱私和財產(chǎn)安全；6）平等受益；7）高交通流量；8）以不同方式打發(fā)時間。上述價值可以轉(zhuǎn)化為具體的設(shè)計規(guī)范，例如，道路安全可被轉(zhuǎn)化為減少交通事故的設(shè)計規(guī)范，高交通流量可被轉(zhuǎn)化為減少擁堵的設(shè)計規(guī)范。該方法為設(shè)計師開發(fā)符合倫理的自動駕駛汽車提供了有益的參考，但在建立價值檔案時，對于樣本中具有技術(shù)背景和受過高等教育的人，可能存在偏見，后續(xù)研究可納入更廣泛的參與者。Thornton等[57]使用價值敏感設(shè)計方法，開發(fā)了自動駕駛汽車的速度控制器，以解決人行橫道阻塞的情況。在概念調(diào)查階段，確定了利益相關(guān)者和相關(guān)倫理價值，其中，倫理價值包括關(guān)心和尊重他人、公平和互惠、尊重權(quán)威、信任和透明度、個人自主權(quán)。并將上述價值與當前算法中已考慮的價值聯(lián)系起來，包括安全性和合法性、移動性和效率、平滑性。在技術(shù)調(diào)查階段，通過構(gòu)建馬爾科夫決策過程來設(shè)計速度控制器，以支持概念調(diào)查確定的倫理價值。在經(jīng)驗調(diào)查階段，將確定性比例速度控制器作為基線，與價值敏感設(shè)計速度控制器進行比較，結(jié)果顯示，價值敏感設(shè)計速度控制器能有效控制車輛的縱向加速度，讓車輛安全地通過堵塞的人行橫道。但控制速度時，乘客舒適度將會受到影響，關(guān)心和尊重他人這一倫理價值未得到保障，這為下一步的研究提供了方向。

Cawthorne等[58]首次將價值敏感設(shè)計應(yīng)用于無人機平臺的技術(shù)開發(fā)，在回顧性分析中，以技術(shù)調(diào)查為重點，分析了現(xiàn)有的貨運無人機原型是如何支持倫理價值的，并探討了當前無人機的局限性，比如：1）可能存在安全風險；2）人們擔心無人機會攜帶攝像頭以侵犯他們的隱私；3）可能會損害租船運營商的經(jīng)濟利益，從而違背“有益”這一倫理原則。在前瞻性分析中，開發(fā)了一種新型倫理無人機，這種新型無人機由內(nèi)燃機驅(qū)動，且采用模塊化組件，能大幅度提高醫(yī)療服務(wù)能力和安全性。同時，通過在機身上貼上未攜帶攝像機的標志，能降低人們對無人機的不信任感。此外，無人機可以為租船運營商提供設(shè)計、制造和維護等工作，保障當?shù)鼐用竦奈镔|(zhì)福利。研究顯示，新型無人機能更好地提升人類福利（身體、心理和物質(zhì)福利）。隨后，Cawthorne等[59]等引入價值層次方法，在原有的3個層次的基礎(chǔ)上新增了一個倫理原則層次。并構(gòu)建了無人機倫理框架，包括：1）有益；2）無害；3）自主；4）公正；5）可解釋性。以促進公共醫(yī)療保健中使用的無人機的設(shè)計、開發(fā)、實施和評估。使用該倫理框架時，倫理原則需要被轉(zhuǎn)化為具體的人類價值，比如，有益的倫理原則可轉(zhuǎn)化為人類福利（身體、心理和物質(zhì)福利）、工作/人類技能和環(huán)境可持續(xù)性的價值，無害的倫理原則可轉(zhuǎn)化為隱私、安全等價值。上述倫理框架被用于Cawthorne等[60]的另一個研究中，該研究首先評估了丹麥一架商用無人機所面臨的倫理挑戰(zhàn)，隨后使用該倫理框架重新設(shè)計了一架“節(jié)儉無人機”，以提供價格低廉的血液運輸方式。這種新型無人機在設(shè)計中支持了5項倫理原則及其相應(yīng)的價值觀和相關(guān)規(guī)范，比如：無人機使用小型固定翼，以降低成本；無人機行駛較為緩慢，而且重量輕，能盡量減少傷害等。下一步可以分析更全面的數(shù)據(jù)，以提供更完整的無人機分析。

綜上所述，價值敏感設(shè)計為智能運載工具的倫理設(shè)計提供了一套系統(tǒng)的指導(dǎo)方法，但目前仍存在以下挑戰(zhàn)：1) 對于自動駕駛汽車來說，由于其本身存在著諸多倫理困境，如著名的“電車難題”，那么是否可以引入價值敏感設(shè)計的方法為解決這一難題提供新的思路。為了實現(xiàn)車輛分流，自動駕駛汽車可能會選擇一條更遠的路（而非乘客選擇的路線），在這種情況下，如何保障乘客的自主性。為了保障車內(nèi)乘客的安全，自動駕駛汽車可能會收集間接利益相關(guān)方（如其他車內(nèi)的乘客、行人以及車輛）的信息，那么哪些信息是自動駕駛汽車能夠收集的，誰有權(quán)獲取這些信息，如何保護間接利益相關(guān)者的隱私。2) 對于無人機來說，由于其在飛行過程中可能會驚擾鳥類，如何保障非人類利益相關(guān)者的權(quán)益。如何避免軍用無人機誤傷平民（包括兒童、婦女）。商業(yè)航空飛機能讓乘客在登機時主動接受風險，那么無人機要如何才能保障地面人員的知情同意權(quán)。無人機在飛行過程中可能會干擾其他航班，致使其他航班備降、返航或延誤，如何避免這一問題的發(fā)生？民用無人機越來越多，如何保障人們的隱私權(quán)不受侵害。解決上述問題，是當下智能運載工具的進一步研究方向。

3.3 其他人工智能技術(shù)

除上述研究外，價值敏感設(shè)計還被應(yīng)用于可穿戴技術(shù)、學習分析技術(shù)、身份識別技術(shù)等人工智能技術(shù)的設(shè)計中。Christodoulidou等[61]以谷歌眼鏡為研究對象，采用價值敏感設(shè)計和手段-目的鏈方法，探討了高等教育背景下可穿戴眼鏡的6個用戶價值：保證、自主、交流、效率、學習能力、技術(shù)功能。為可穿戴眼鏡提供了設(shè)計啟示。研究顯示，充分考慮大學生價值的谷歌眼鏡能有效提高課堂上的小組討論與互動效率。Chen等[62]展示了將價值敏感設(shè)計用于學習分析設(shè)計的兩項研究，第一項研究是對一種學習分析工具的概念調(diào)查，通過利益相關(guān)者分析和價值分析，揭示了對該工具未來的改進設(shè)計有影響的價值（包括倫理價值和非倫理價值）和價值沖突，如：1）學生自主性和工具評估效用；2）隱私；3）學生成功；4）責任；5）可用性；6）社會福祉；7）無偏見等。第二項研究涉及維基百科項目中推薦算法的設(shè)計，包含5個步驟：1）文獻分析和實證調(diào)查；2）原型開發(fā)；3）社區(qū)參與；4）迭代測試和改進；5）評估算法。以上兩個研究顯示，價值敏感設(shè)計方法可用來支持學習分析系統(tǒng)中的倫理考慮和人類價值觀，未來還需探索算法審計、設(shè)計優(yōu)先權(quán)、道德設(shè)計批判和價值敏感設(shè)計之間的協(xié)同作用，以全面考慮學習分析中的人類價值。Briggs等[63]從包容型設(shè)計和價值敏感設(shè)計的視角出發(fā)，探討了身份識別技術(shù)在設(shè)計過程中需要考慮的價值。該研究包含兩個階段：1）收集身份管理場景，如智能手機人臉識別系統(tǒng)、智能紋身、指紋識別系統(tǒng)等；2）與6個邊緣化人群共同舉辦研討會，包括年輕人、老年人、難民、黑人少數(shù)民族婦女、殘疾人和心理健康服務(wù)使用者，以識別他們的價值。該研究呼應(yīng)了赫茨伯格的雙因素理論，其中，衛(wèi)生因素中包含的倫理價值：數(shù)據(jù)隔離、數(shù)據(jù)完整性、數(shù)據(jù)訪問、信任、可靠性、安全性、知情同意、多樣性和排斥性。激勵因素中包含的價值：方便、個性化、美學。未來可以納入更多邊緣化群體的價值觀，以便更細致地考慮不同群體的價值需求。

Bastian等[64]將價值敏感設(shè)計應(yīng)用于新聞推薦系統(tǒng)算法（algorithmic news recommenders，ANRs），通過對來自荷蘭和瑞士兩家優(yōu)質(zhì)報紙的17名媒體從業(yè)者的半結(jié)構(gòu)化采訪，探討了以組織為中心和以受眾為中心的新聞價值觀與ANRs之間的相互作用。研究表明，受訪從業(yè)者認為新聞價值觀在設(shè)計和實施ANRs過程中非常重要，這些價值觀包括透明度、多樣性、編輯自主權(quán)、廣泛的信息提供、個人相關(guān)性、可用性和驚喜。此外，受訪者對特定價值觀的評估因環(huán)境而異，需要結(jié)合特定的新聞渠道來考慮。未來可以尋找新的算法設(shè)計操作方法，對不同價值之間復(fù)雜的相互關(guān)系進行審查，并觀察價值觀在不同類型媒體(如公共服務(wù)媒體)和背景中的感知作用。Helbing等[65]指出，在智慧城市的設(shè)計和發(fā)展過程中，需要“為價值而設(shè)計”，并主張使用價值敏感設(shè)計方法，以分布式和參與式的方式來組織數(shù)字世界，設(shè)計價值敏感型智慧城市。這要求設(shè)計師們關(guān)注除效率和經(jīng)濟增長之外的多種價值觀，如環(huán)境條件與健康、安全與保障、人的尊嚴、福祉與幸福、隱私與自決，并賦予公民數(shù)據(jù)主權(quán)，保證“設(shè)計民主”。未來還可以考慮智慧城市中的更多倫理問題，學習生物和生態(tài)系統(tǒng)的組織原則，以參與式的方式組織數(shù)字世界。Stone[66]將城市描述為開放的、不斷發(fā)展的系統(tǒng)，并基于夜間照明的案例提出了6項原則，以加強價值敏感設(shè)計和價值設(shè)計方法在城市技術(shù)以及智慧城市的應(yīng)用。6項原則包括：技術(shù)特異性、邊界條件、歷史背景、象征意義、有價值高于價值、放棄概念上的完整性。該原則為實現(xiàn)價值敏感的城市技術(shù)創(chuàng)新提供了出發(fā)點，但其主要集中于對道德價值觀和城市技術(shù)之間關(guān)系的概念分析，未來還可以往經(jīng)驗和技術(shù)層面繼續(xù)迭代、修改與擴展。

從上述研究來看，對于可穿戴眼鏡和學習分析系統(tǒng)這類應(yīng)用于教育領(lǐng)域的人工智能來說，目前還存在如下挑戰(zhàn)：1) 在人工智能教育應(yīng)用的過程中，隱私泄露所導(dǎo)致的網(wǎng)絡(luò)詐騙、惡意推送等現(xiàn)象頗為常見，如何保護用戶的隱私，哪些數(shù)據(jù)是用戶可以自己保有而不會被迫公開讓他人知曉的。2) 人工智能技術(shù)有利于捕捉用戶行為和偏好，能對用戶的需求進行精準推薦，這可能會使用戶在一定程度上對智能技術(shù)過度依賴，使學生的視野受到限制，使教師喪失對教學的獨特思考，如何解決這一沖突。3) 如果人工智能出現(xiàn)違反道德規(guī)范的行為，應(yīng)該由誰來負責。如何在教育人工智能技術(shù)中體現(xiàn)“透明性”這一倫理原則。對于身份識別技術(shù)來說，現(xiàn)在人們的智能手機大多采取指紋識別技術(shù)，但指紋信息能使用膠帶等工具惡意獲取，如何提高身份識別技術(shù)的可靠性和安全性。如今人臉識別技術(shù)泛濫，大多數(shù)人未經(jīng)許可即被收集人臉圖像，如何保障用戶的隱私權(quán)和知情同意。相對于有色人種和女性，目前大多數(shù)人臉識別技術(shù)對于白人男性面孔的識別準確率更高，如何在人臉識別技術(shù)中避免性別和種族歧視？

對于新聞算法來說，除了在具體的推薦算法層面考慮和整合價值觀外，還需要在組織層面對其予以考慮，但組織層面需要收集什么數(shù)據(jù)？如何使用收集的數(shù)據(jù)？如何向用戶傳達新聞機構(gòu)意識到收集和處理個人數(shù)據(jù)的具體責任？此外，由于ANRs的新聞價值很難脫離某一特定新聞渠道單獨討論，那么如何識別出一般化的價值概念，從而為更一般的推薦設(shè)計提供信息？另一個挑戰(zhàn)是，來自不同背景的從業(yè)者往往致力于不同的概念化和客觀價值，如何處理不同從業(yè)者之間的價值沖突？對于智慧城市來說，由于城市的建設(shè)涵蓋面較廣，如何確定智慧城市先進與否的衡量標準？我國屬于多民族國家，如何在智慧城市的建設(shè)中體現(xiàn)出對不同民族人民的關(guān)懷？在這個經(jīng)濟快速發(fā)展的時代，如何避免經(jīng)濟原則主導(dǎo)城市倫理原則的情況出現(xiàn)？大多數(shù)智慧城市通常是少數(shù)幾個規(guī)劃設(shè)計人員和技術(shù)精英的事，如何真正做到讓普通民眾參與城市管理中來？未來可考慮研究上述人工智能倫理問題的解決方案。

4 挑戰(zhàn)與展望

人工智能在促進社會進步的同時，也帶來了諸多倫理問題，如制造過程中產(chǎn)生廢料造成環(huán)境污染、醫(yī)療成本昂貴拉大貧富差距、信息收集造成隱私泄露、機器人陪護造成孩童出現(xiàn)情感偏差和認知障礙等。然而，在符合倫理的人工智能的設(shè)計過程中，不論是采取“自上而下”方法，還是“自下而上”方法，亦或是混合方法都存在著或多或少的弊端和缺陷，無法使人工智能產(chǎn)品完全遵守倫理規(guī)范。價值敏感設(shè)計為解決人工智能倫理問題提供了一種新的思路，通過使用三方方法論及其迭代，能夠徹底地調(diào)查出人工智能產(chǎn)品設(shè)計過程中需要考慮的倫理價值，并將其嵌入到產(chǎn)品的設(shè)計過程中去。但目前的研究還處于起步階段，研究成果也較少，仍難以完全解決人工智能快速發(fā)展所帶來的一系列問題，還有許多問題尚待解決。現(xiàn)列舉未來可能的研究重點與方向，以期推動本領(lǐng)域研究的發(fā)展。

1)加強人工智能應(yīng)用自身的基本價值研究。

進行人工智能倫理研究的一個核心環(huán)節(jié)是確定人工智能技術(shù)應(yīng)遵循的倫理價值，并且使價值列表盡可能詳盡。價值敏感設(shè)計的三方方法可以對人工智能應(yīng)用所涉及的倫理價值進行充分的調(diào)研，這3種調(diào)查方法調(diào)查出的價值可以分別總結(jié)為概念化價值、經(jīng)驗化價值和技術(shù)化價值。從目前的研究來看，學者們對于技術(shù)化價值的調(diào)查比較缺失，也就是說，涉及人工智能技術(shù)特殊性的倫理價值尚未受到關(guān)注。同時，如何體現(xiàn)3種不同類型的價值之間的異同，當前的研究也甚少考慮。此外，為了使價值列表更全面，需要在調(diào)查中納入更廣泛的利益相關(guān)者，尤其是弱勢人群和邊緣人群，因為這類人群在人工智能技術(shù)的發(fā)展過程中最容易受到傷害。

2)加強人工智能應(yīng)用的設(shè)計規(guī)范研究

在確定倫理價值之后，就需要將其轉(zhuǎn)化為設(shè)計規(guī)范，而這一過程的難點在于價值沖突的處理，由于價值是模糊且無法量化的，因此如何考慮不同倫理價值之間的復(fù)雜權(quán)衡至關(guān)重要。需要注意的是，倫理的構(gòu)建條件是當下社會普遍接受的思想和行為，可見倫理價值沖突的解決應(yīng)該跟隨時代的變化而動態(tài)地調(diào)整。在不同的人工智能應(yīng)用領(lǐng)域，設(shè)計規(guī)范的構(gòu)建可能會出現(xiàn)不一致的現(xiàn)象，這就需要對設(shè)計規(guī)范進行普適性研究，以節(jié)約時間成本和減少資源消耗。另一個重要的問題就是描述粒度，若能用更精準的術(shù)語和概念描述設(shè)計規(guī)范，則能讓設(shè)計師更容易地將倫理價值嵌入人工智能的設(shè)計中。

3)加強人工智能應(yīng)用的設(shè)計實踐研究

使用價值敏感設(shè)計方法的最終目的是設(shè)計出符合倫理的人工智能應(yīng)用，真正把理論轉(zhuǎn)化為實踐，而當前的大多數(shù)研究還停留在理論層面，這不僅是因為人工智能自身面臨著一些技術(shù)性難題，還因為某種倫理理論或規(guī)范本身就是計算機無法實現(xiàn)的，這些問題需要研究者們從技術(shù)層面上去著手解決。此外，三方方法是需要不斷迭代的，即使已經(jīng)設(shè)計出“新版”的人工智能應(yīng)用，依舊可以重復(fù)使用三方方法，對人工智能應(yīng)用進行動態(tài)調(diào)整，以設(shè)計出更符合倫理的人工智能應(yīng)用，這一點在目前的研究中還甚少考慮。同時，如何評估上述倫理價值和規(guī)范的有效性，如何評估人工智能應(yīng)用的行為是否符合倫理，如何實現(xiàn)人工智能應(yīng)用的倫理穩(wěn)定性，仍是未來需要進一步考慮的研究方向。另外，在實踐過程中，還要避免掉入過度使用價值敏感設(shè)計的陷阱中。例如，在國家或集體價值與個人價值產(chǎn)生沖突時，如果過度強調(diào)價值敏感設(shè)計，個人價值可能會被放在首位，而這卻不符合我國國家和集體利益至上的社會主義義利觀。

5 結(jié)束語

為了使人工智能遵從人類道德主體的道德規(guī)范和價值體系，并在法律和道德的規(guī)范下充分發(fā)揮其特定的功能，學界一直致力于人工智能倫理研究，避免設(shè)計出不符合人類價值的人工智能產(chǎn)品。價值敏感設(shè)計作為一種考慮人類價值的前攝性方法，能夠幫助人工智能工程師將倫理道德嵌入人工智能產(chǎn)品中，具有廣闊的應(yīng)用前景。本文對價值敏感設(shè)計進行了簡要介紹，并概述了價值敏感設(shè)計應(yīng)用于人工智能倫理的研究案例和發(fā)展趨勢。雖然價值敏感設(shè)計已經(jīng)對人工智能應(yīng)用的倫理研究做出了一定的貢獻，推動了人工智能應(yīng)用朝著符合倫理道德的方向發(fā)展，但仍然有必要繼續(xù)探索價值敏感設(shè)計為人工智能倫理研究帶來的更多發(fā)展契機。從研究現(xiàn)狀來看，現(xiàn)有的研究主要考慮理論層面人工智能應(yīng)用倫理價值的構(gòu)建，并沒有考慮到實踐過程中可能會遇到的難題。未來這方面的工作應(yīng)該聚焦于如何將倫理價值轉(zhuǎn)化為設(shè)計規(guī)范，進而將價值和規(guī)范嵌入具體的人工智能產(chǎn)品設(shè)計環(huán)節(jié)，以設(shè)計出符合倫理的人工智能應(yīng)用。