價值敏感設計與大數據倫理

2019-12-14 12:54:42張貴紅

倫理學研究 2019年2期

張貴紅

價值敏感設計（Value Sensitive Design，簡稱“VSD”）是一種以價值理論為基礎的技術設計方法，它強調在整個設計過程中以價值為原則，并全面地解釋人的價值在技術中的展現。它采用一種綜合且遞進的三元分析方法，包括概念分析、經驗分析和技術分析。VSD的出現是應用倫理學的設計轉向、信息倫理學以及大數據倫理等領域飛速發展的結果。本文首先梳理信息倫理學怎樣從理論走向實踐，即所謂的設計轉向，再依據技術哲學的研究，分析價值敏感設計的興起背景及其三個層面的內容，隨后探討VSD理論在大數據倫理中的應用，進而指出VSD理論在大數據技術與相關領域，具有很高的應用性。

一、從理論走向實踐的技術倫理學

應用倫理學，尤其是技術倫理學，在信息倫理學的推動下，正在逐漸超越傳統倫理學中尋求普適理論的方法論辯護。在關注規范倫理理論、推理及其應用之后，一些學者正逐漸將研究重點放在與倫理的應用相關的制度、基礎設施和技術設計上，因為它們是我們的生活和社會的構成因素。

到目前為止，技術、工程和設計在倫理學或道德哲學中往往被視為是純理論的或思想實驗的提供者，哲學家們更關注倫理推理與理論中的反例，而忽視了具體的技術與經驗層面的分析。傳統的技術倫理學所關注的道德哲學也經常充滿科幻情節，如失控的列車、缸中之腦、安卓機器人和腦外科手術等，這些都會使理論研究和生活現實之間不相契合。讓我們詳細地看一下在元倫理和規范理論中經常使用的一個思想實驗——電車難題。假設你在一條鐵路軌道的分叉路口，同時你發現一輛失控的列車正在向前滑行，馬上將通過你站立的交叉口，你旁邊剛好有一個可以操控的把手。如果你什么也不做，那么列車將直行，并會撞死被綁在軌道上的五個人。如果你拉動把手，列車將轉向另一條軌道，而在另一條軌道上只有一個人被綁在軌道上。這個思想實驗就產生了一個非常具有爭議的悖論：道德觀念是否允許你拉杠桿？許多哲學家對這一難題進行了倫理分析與各種推理，然而卻沒有得出一個讓大家都滿意的結論。

然而，讓我們換一個角度，如果一位工程師在看到這個問題之后，他將會如何進行思考呢？他很可能會想，要想使這個實驗在現實中出現，那就還需要一個能讓人在列車到達軌道交叉口剛好停下來的條件，同時還需要讓這個人能夠認識到當前軌道與列車的所有狀況，以及能夠告訴這個人關于軌道上被綁著的人的信息，最好是兩者能巧妙結合。他很可能會說，這么特殊的情況很難出現，所以整個難題是很難出現的。各種干預因素會讓我們忽視這個思想實驗的哲學觀點，然后會認為哲學家只有在理想狀態中才是對的，在現實中基本不會出現這樣的難題。

電車難題雖然提出了道德理論方面深層次的問題，卻忽視了實踐層面的問題，然而倫理學并不是以思想實驗為基礎才發展起來的。這些思想實驗并沒有關注實驗的設計和難題的現實性，它們是從現實中的設計和難題中抽象出來的，所以由思想實驗為基礎產生的理論在應用到現實生活中就會忽視實踐的維度，現實中的技術倫理學應該包含解決方案的實踐和設計的層面。

醫學倫理學和傳統計算機倫理學中的難題和實驗也受到類似問題的困擾。專業醫療技術或信息技術常常會面臨如下的難題：提供兩個選項A和B，然后讓你思考和推理，在理想狀態下應該做什么？這些理論一開始就在折騰我們的大腦，經過倫理學訓練的學者，會嘗試使用實用主義或者功利主義的方法，并逐漸形成他們自己獨特的解決方案。然而在實際的技術應用中，理想狀態是一種很難出現的狀態，更多的情況是我們直接面對具體的技術倫理問題，這些問題都是非常現實的。因此當前往往被忽視和混淆的情況，就是將現實和理想狀態相等同。在信息技術中，情況尤其明顯，信息技術尤其是大數據技術的興起，使得倫理學越來越從純理論推理轉向實際問題，而不是只關注純理論層面的探索。信息技術中的情況通常是“計算機支持的協同設計”，這種情況比單獨軟件或硬件更加復雜得多，專業人員面臨的問題是數百個需要經過設計來決定的結果。對每一個設計過程相關的抽象概念進行的道德分析都會受到其倫理學理論背景的影響。技術倫理學家應該不斷探索怎樣超越特定的技術狀態，并詢問這種問題是如何產生的，以及它是如何設計和處理的，以及形成設計的決策過程是怎樣的。

二、信息倫理學的設計轉向

信息倫理學在實踐的推動下，正逐漸轉向對實際道德問題的分析，而不再對純理論層面的思想實驗著迷，例如許多學者也逐漸轉向對道德的制度層面的研究。現在比以往更常見的中心問題是，如果我們希望我們的應用倫理分析的結果在具體實施中取得成功，那么需要實現哪些體制和現實的物質條件。以及如何使我們的道德觀點在廣泛的反思中保持穩定？在信息技術中，如何設計系統、構件、基礎設施和應用程序，在這些環境中用戶將能夠做他們應該做的事情，并使他們能夠防止應該防止的事情。

這種顯著的理論轉變可被稱為“應用倫理的設計轉向（design turn）”。Hoven認為，正是羅爾斯的工作首次引發了倫理學中的設計問題[11]（P58）。關于社會正義的思考可以在他的理論背景下，被描述為制定和證明我們應該如何設計社會基本制度的正義原則。 Thomas Pogge、RussellHardin、Cass Sunstein、Robert Goodin、和 Dennis Thompson 等學者已經將應用倫理學向著“設計”這條道路逐漸推進[11]（P59）。他們不僅要提供應用分析，還要考慮經濟條件、制度和法律框架以及相關的激勵機制。如果這種應用倫理分析能夠在實施中保持一定的優勢，就會有助于重新考慮現實世界中的道德問題。這些學者對技術設計的關注主要側重于制度設計，但設計轉向清晰地考慮了技術人工物和社會技術系統的設計。如果說20世紀70年代之前的技術，與設計的關聯并非十分明顯的話，那么隨著信息技術的興起，尤其是大數據技術的出現，設計已經與信息技術緊密結合起來了，與之相關的倫理問題也脫離不開設計。這種現象的出現，可以稱之為“信息倫理的設計轉向”。

信息技術，尤其是大數據技術之所以與設計無法脫離。原因在于，信息或者數據本身，是被賦予“意義”或者“價值”的，而這種賦予行為是因為人的設計而產生的。如果沒有人，信息或者數據就是符號，毫無意義，人的行為是產生意義的關鍵，人的行為也正是信息或者數據的價值產生的根源。弗洛里迪（L.Floridi）在信息的標準定義（SDI）中指出，信息的基本特性為DOS（可陳述的、客觀地、語義的）。最初的信息并未與主體和決策過程相聯系，后期的信息論發展中逐漸用語境的觀點來解讀信息，并將信息定義為：信息=數據+意義。弗洛里迪據此提出信息的語義解釋，即語義信息（semantic information），將意義和真理引入信息的解釋[21]（P130）。有意義的信息，是從語境或者人的使用的角度來看的，而這個維度正因此與價值相關，可見語義信息也就是價值信息。用信息倫理的話語來講，就是信息或數據的價值是在設計中體現出來的。

從信息技術本身的歷史也可以看出，價值維度正逐漸滲透到信息技術中來，信息技術也越來越需要其他學科、技術組織、人力資源和社會價值的關注。在信息技術發展的第一階段，即上世紀五十年代和六十年代，社會和用戶在IT應用和生產中并不重要，技術人員也不會考慮技術是否需要貼合人的價值和使用要求。幾乎沒有人想過要詢問用戶的使用和可用性，以及是否適合用戶的環境，計算機技術只是在尋找問題的全新的技術方案。在上世紀七十年代和八十年代的第二個發展階段，經歷了許多失敗的項目、無用的應用程序和不良投資后，信息產業逐漸意識到具有需求與愿望的人類用戶的重要性，以及具有不同特性的社會組織。當時很多人都認識到，在應用程序開發的早期階段，嘗試適應用戶的需求和改善工作條件是明智且有利的。信息技術行業在這個時期得到了社會學和行為科學的幫助，但是，這也只是在最低限度層面考慮到用戶、組織及社會的需求和利益，即僅僅作為限制技術系統成功的條件來考慮。在上世紀九十年代的第三階段，設計的觀念逐漸在信息技術行業中嶄露頭角，實際的社會組織和真實用戶的反應與需求，對信息技術的發展開始變得至關重要。人類作為消費者或用戶所具有的價值觀、道德偏好和理想，以及社會上許多關于責任和道德的公共辯論，關于平等、財產和隱私的問題都開始被加以考慮。當前正進入信息技術發展的第四階段，在這個階段，人類用戶在使用中的需求、想法和價值觀以及人們遇到的某些社會問題的解決都被認為是自己的權利[11]（P60）。這些價值考慮正在推動信息技術的發展，而不再被視為是對技術的限制。這個階段最大的特征，就是大數據技術正在成為信息技術的核心技術之一，大數據技術也正逐漸成為道德問題與價值問題的多發地，且與我們的生活息息相關。最集中的體現在當前充斥我們世界的網絡游戲、短視頻APP，以及社交網絡。現在我們正發現計算機越來越懂我們，兒童也越來越離不開手機娛樂。甚至我們也可以認為，大數據算法的興起，正在影響著社會的價值觀走向。例如許多網紅都是大數據技術的算法設計本身所推動產生的，許多網絡熱點，也是因為算法而產生的，并非人為加工而成的，而網絡熱點與網紅也正成為社會價值觀問題的集中體現。這些信息技術的新發展，正是大數據技術中的價值的設計作用所展示出來的，設計發展到極致就是：通過大數據技術就可以塑造全民價值觀。這種狀況的出現，與信息敏感設計的理論是一致的，可見VSD理論正體現出當前的大數據技術所具有的倫理與價值維度。

三、VSD何以成為大數據技術的基石

由上文可知，隨著應用倫理學和信息技術這兩個獨立領域的發展，即倫理學層面的“理論—應用—設計”和信息技術層面的“技術—社會心理背景—道德價值”的進展，兩方面的研究逐漸集中于90年代開始興起的價值敏感設計理論或策略。VSD的首次提出與信息和通信技術有關，信息技術依然是該理論的主要應用領域。

Rob Kling（1998）的社會信息學在推動與信息技術相關的社會研究方面發揮了重要作用，并不斷強調信息技術的社會形態。在倫斯勒理工學院，溫納提出了著名的口號：“人工物具有政治性”，這意味著通過技術人工物的設計可以達到政治目的。Deborah Johnson則進一步闡明了計算中的具體道德問題。所有這些都為信息技術領域的價值敏感設計理論作出了貢獻。VSD假定價值觀和規范性的假設可以以某種方式納入到設計中，弗利德曼（B.Friedman）等人通過三個典型的例子來分析VSD在特點信息技術中的應用[7]（P70-75）。第一項研究涉及網絡瀏覽器中cookies（從客戶端的硬盤讀取數據的一種技術）的信息和控制、及其所蘊含的知情同意的價值。第二項研究關注在辦公室環境中普遍使用的高清晰液晶顯示器，它為主體與外界之間提供了一個“窗口”，并暗示了公共空間的身心健康和隱私權利。第三項研究涉及綜合土地使用、交通和環境模擬系統，以支持公眾對重要的土地使用和交通決策進行公眾審議、公平辯論和民主支持的價值，以及高度多樣化且由不同利益相關者所持有的價值領域，如環境的可持續發展、商業擴張以及步行街開發等。弗利德曼等人提供了一個在實際操作中可使用的VSD建議。主要包括：從價值、技術或應用環境開始、識別直接和間接的利益相關者、確定每個利益主體與組織的利害關系、對利益和危害賦予對應的價值、對關鍵價值進行概念分析、識別潛在的價值沖突、將價值考慮融入到組織結構中、將價值觀引入到系統設計中、啟發性地去調查利益相關者，以及啟發性地進行技術分析等。弗利德曼等人在研究中還展示了可在設計中使用的一些人類價值[7]（P90-91）。

幾個重要的VSD支持者進行了相關的研究，例如斯坦福大學的Terry Winograd、John Perry、Ben Shneiderman和Helen Nissenbaum在20世紀90年代就開始研究這個領域，他們的研究表明信息與軟件本身就可能產生偏見、假設以及制造商的特定世界觀，這可能會以各種方式影響到用戶的觀念。其次，大約在同一時期的部分法律學者發現，社會監管正在通過計算機代碼和軟件進行。正如Larry Lessig曾指出的，代碼開始起作用，因為法律和立法在未來可能會自由地直接被編碼（en-coded）。在荷蘭和加拿大的數據保護辦公室（Data Protection Offices），正在提倡一種被稱為隱私增強技術（Privacy Enhancing Technology）的設計理念，鑒于法律和法規數量以及海量大數據的增加，在我們的社會中處理大數據會變得越來越自動化，這可能是當前處理隱私與合規性等問題的唯一方式，因為律師不可能手工檢查某些數據使用是否違反或合乎法律。從長遠來看，軟件必須代替我們處理這一問題，而這種技術的應用也不僅僅只在隱私領域。

由此可見，大數據技術的進展，使得VSD理論越來越重要，同樣大數據技術在社會生活領域的應用，需要VSD理論為其提供理論支撐，因為大數據本身具有難以處理與復雜等特性，不可能進行人工處理，這就必然需要利用大數據技術進行價值選擇或價值塑造，正如當前已經開始使用的海量新聞信息處理、社會輿論引導和網紅塑造等技術。在算法的設計中，必然會將價值與道德體現在技術中，而且應該體現正確的價值觀，否則后果將不堪設想。在大數據治理、醫療大數據應用、網絡生活，以及社會交往軟件中，也需要使用VSD方法來進行價值考量。可以說，想要讓用戶自主、以患者為中心、隱私和安全不僅僅是一個空洞的承諾，這些價值理念就應該體現在系統的設計、架構和規范中。如果我們希望我們的信息技術及其使用能夠實現社會正義、公平和安全，或者要想使技術產品具有這些價值屬性，我們必須將它設計地能夠實現我們的良好意圖。VSD理論說明技術能夠具有這些價值或道德特征，并能從價值層面來對不同的技術應用進行比較，并從政治經濟與社會的層面進行合理選擇。由此可見，VSD理論正伴隨著信息技術的進步而發展，VSD理論正在成為對大數據技術進行道德與價值考量的基礎。然而，如何將價值和道德維度設計到大數據技術之中，需要從三個層次來考慮。

四、VSD理論與大數據倫理學的三個層級

如何讓大數據技術體現價值和倫理維度，應該從價值敏感設計與大數據技術倫理本身的聯系與對比中來加以分析。價值敏感設計主要建立在概念、經驗和技術相結合的迭代分析方法基礎之上。大數據倫理學則主要關注三個相關的層面：大數據倫理的概念、實踐和算法。

概念分析主要關注諸如此類的問題：誰是受設計影響的直接和間接的利益相關者？這兩類利益相關者如何受到影響？涉及什么價值？我們應該如何在信息系統的設計、實施和使用中，在互相競爭的價值之間權衡自主、安全、隱私與信任等內容？像隱私權這樣的道德價值是否比審美這樣的非道德價值更重要？通過仔細研究具體價值觀的概念可以澄清類似的這些基本問題，并為跨學科的研究團隊的不同觀點進行比較提供基礎。例如，Friedman等人在對在線系統設計中的信任分析后，提出信息技術中的信任概念[9]（P36）。從這樣的概念出發，能夠明確地定義我們在網上的信任意味著什么。此外，計算機科學與電信委員會在其出版物《網絡空間的信任》中使用“信任”和“可信賴”這兩個術語來描述信息系統，這些系統具有正確性、安全性和可靠性[18]。這種將“信任”等同于機器性能的使用，明顯不同于表示人與人之間關系的信任。

經驗分析即對技術人工物所處的人類環境進行實踐分析，這種分析也常常需要評估一個特定設計的成功與失敗。經驗分析可以應用于任何可以觀察、測量或記錄的人類活動。因此，社會科學研究中使用的全部定量和定性方法都可以適用于此，包括觀察、訪談、調查、實驗操作和收集，以及用戶行為分析和心理學調研。經驗分析主要關注如下問題：利益相關者如何在互動環境中理解個人價值？他們如何對相競爭的價值設計進行權衡考慮？他們如何優先考慮個人價值及其可實現性方面的因素？話語實踐與行為實踐相比，既怎么說與怎么做，兩者之間是否存在差異？此外，由于新技術的發展會影響群體和個人，技術組織在考慮價值的設計過程中也會出現問題，例如，什么是價值組織？應該使用何種傳播方法，以及組織的激勵機制是什么？

技術分析為當VSD適用于某種特定技術時，根據技術特性提供價值適應性的分析，也就是說，分析給定的技術是否更容易支持某些道德價值，同時使其他價值難以實現。技術分析側重于分析現有技術特性如何支持或阻礙特定的人類價值。例如，一些基于視頻的協同系統提供了辦公室設置的模糊視圖，而其他系統則提供清晰的圖像，顯示關于誰在場以及他們的行為的詳細信息，這兩種設計可有差異地區分并對待隱私，并實現特定成員的價值取舍和活動。技術分析還涉及主動設計系統以支持概念分析中的特定價值。總之，技術分析關注技術本身，而經驗分析則側重對使用者的分析。

大數據技術為改善私人和公共生活以及我們的社會環境，提供了巨大的機會，不幸的是，這樣的機會也伴隨著重大的道德挑戰。越來越多的通常是個人的敏感或非敏感的大數據被公開地大量使用，而且越來越依賴算法來分析它們以形成選擇并作出決定，例如機器學習、人工智能和機器人技術等。隨著人類參與的逐步減少，對許多自動過程的監督也會引起公平、責任和尊重等道德問題，這些技術過程越來越體現出VSD策略的必要性。弗洛里迪在《何為數據倫理》一文中提出可從數據、算法和實踐三個維度分析數據倫理問題。大數據技術的價值敏感設計同樣也適用這種分析，因此可以結合前文中的三個層面來分析：概念分析層面的數據倫理概念分析，經驗分析層面的實踐分析，以及技術分析層面的算法倫理分析。

數據倫理側重于收集和分析從生物醫學研究到社會科學的大數據分析[14]，以及開放數據[12]。在這種情況下，關鍵問題將是設計如何適用于大數據技術的數據挖掘、數據鏈接、數據合并及其重新使用，來避免“群體隱私”泄露的風險，例如通過重新識別個人而不造成其身份信息的泄露，這就可以避免更嚴重的倫理問題的出現，避免類似群體歧視和網絡群體暴力等問題。而群體歧視在網絡上非常容易出現，包括地域歧視、種族歧視和性別歧視等[4]。信任[19]和透明度[20]等概念也是數據倫理分析中的重要話題。例如，提高信息透明度往往被認為是可以促進信任的措施之一，然而數據工程師卻不清楚應該透露哪些信息以及向誰透露這些信息。

實踐倫理解決數據的流程、策略和制定政策的人員與組織的責任及義務問題，其中不僅包括數據從業人員的職業道德與責任，還包括數據科學家的數據責任。其目標是完成并公布《大數據道德準則》并形成有關負責任的創新、發展和使用的專業規范，這就會確保道德規范能促進數據科學的進步，并保護個人和群體權利等道德內容。在數據技術的實踐問題中，有三個核心問題最為重要：即知情同意、用戶隱私和二次使用。

算法倫理解決算法技術中遇到的倫理問題，由于信息技術的日益復雜和自主性的提升，大數據的算法越來越復雜，例如人工智能、仿真機器人與網絡機器人等，引起越來越多的復雜倫理問題。特別是當前機器學習技術使得機器在某些方面越來越接近人，在這種情況下，關鍵的難題為算法設計師和數據科學家的道德責任與相應的問責制度[2]。此外，道德設計和評估審核算法的潛在不良結果也需要引起更多的關注。

五、結論