倫理即服務之可能性*
——以護理機器人的倫理設計為例

于 雪 金琪雨

1 什么是倫理即服務

1.1 倫理即服務概念的提出

近年來,隨著智能算法與智能系統的廣泛應用，越來越多的技術倫理問題暴露出來。輿論關注度的上升與相關政策和倫理標準的出臺，促進了技術倫理審查與規范活動的開展，但同時也凸顯了技術倫理需求與技術發展需求之間的不協調：一方面，部分中小科技企業缺乏專業性的科技倫理知識，不具有組織與展開自我倫理審查活動的能力；另一方面，各類抽象倫理原則難以有效指導實際的技術研發活動，研發者難以通過有效的技術手段實現道德的訴求。面對上述問題，倫理即服務(ethics as a service,EaaS)的概念應運而生。這一概念當前主要在兩種意義上被使用：其一指由谷歌等技術公司所提供的技術倫理審查服務，即由科技公司作為服務提供者，通過課程培訓、倫理建議、技術審查等一系列手段發現并解決客戶算法軟件中潛在道德風險的服務形式；其二是Morley等[1]所提出并倡導的Eaas框架，要求拋棄傳統的一次性道德審查模式，在抽象的道德原則與具體的實踐措施間達成妥協，基于平臺即服務(platform as a service,PaaS)框架構建服務化的倫理轉譯工具，最終實現有效的、全流程的AI倫理嵌入。本文所依托與探討的EaaS概念主要基于后者，即意在探討一種新型的倫理設計活動構架，而非具體的商業活動。

1.2 EaaS的云服務框架

“EaaS”這一表述來源于三種常見的云服務模式，即基礎設施即服務(infrastructure as a service,IaaS)、PaaS與軟件即服務(software as a service,SaaS)。其中IaaS指將服務器、算力和流量等基礎網絡資源作為服務提供給使用者，由提供者進行硬件設施維護的模式；PaaS指通過網絡將開發框架、工具包與部署環境作為服務提供給使用者，由提供者進行基礎工具研發與架構維護穩定的模式；SaaS則指通過網絡將具體應用及其功能提供給使用者，由提供者進行軟件功能、安全等方面維護工作的模式[2]。三種模式間的層層遞進同時也意味著使用者的自主性逐步降低，并將風險與成本轉移到提供者一方。

基于對上述三種云服務的各自特征，Morley等[1]將Eaas所類比的云服務框架基礎定位在PaaS層面。其所給出的論證在于：IaaS反映了一個過于靈活的倫理治理模式，人工智能設計者需要自行對抽象的道德準則給予依據具體情境的理解與定義，并選擇與之相對應的倫理轉化工具，從而給設計者帶來了過大的權限與壓力，也使得外部利益相關者的立場與責任不能得到良好的體現。與之相對應，SaaS反映了一個過于嚴格的倫理治理模式，由倫理學家、政策制定者等第三方完全承擔制定倫理標準與流程的責任，而人工智能治理者的責任被簡單確定為根據上述流程行事。在具體實踐中，流程制定者往往并不能囊括所有具體利益相關者的意見，而人工智能設計者同樣經由這一流程免責，在實際的應用活動中，容易造成無人負責的尷尬局面。相比之下，Morley等[1]認為PaaS是一個較為適當的治理模式，在此基礎上的EaaS框架可以包括一個獨立的多學科倫理委員會、一個合作開發的倫理守則以及人工智能從業者等多個部分，并通過各部分間的良好協作與責任分配實現技術倫理的有效治理。

1.3 EaaS的內涵特征

基于PaaS的EaaS框架的根本特征在于其平衡性：它旨在達成嚴格與靈活的倫理標準之間的平衡(按照信息倫理學的表達方式，就是將倫理標準維持在適當的抽象層次[3])，以及過于分散與過于集中的倫理責任之間的平衡。而平衡性進一步要求EaaS框架拋棄以往片面側重事前預測和一次性倫理審查的行為模式。Morley等[1]指出，由于倫理準則的地域差異性與時間變化性等原因，任何倫理設計都不能被視為一旦運作就只產生期望性結果的靜態產品，而應被視為人類和非人類行為者的集合體，并受到各類非確定性因素的影響。智能系統的倫理實踐應被視為一個反思性的發展過程，其目的也是幫助參與者了解他們在特定環境下的主觀性與偏見[4]。在這一理解方式引導下展開的EaaS活動，必然具有動態性與未完成性。作為互聯網服務框架的倫理應用，Eaas同樣具有開放性，其框架并不完全確定倫理設計參與者的數量或參與方式，而是包容多樣的利益相關者以不同層級或參與度的組織方式被納入到倫理設計的決策環節之中。

1.4 EaaS與護理機器人倫理設計

Morley等[1]所提出的EaaS框架首先著眼于人工智能領域，本文認為這一框架在護理機器人的倫理設計領域同樣具有其重要性和可行性。一方面，護理機器人的應用場景多為開放性場景，需要與人類在社會交往中相互協作，這是一種非確定性系統的表現形式，其中涉及的倫理問題應當以服務工具的方式嵌入護理機器人的全生命周期，這正是EaaS的核心作用。另一方面，在當前的醫療服務采購中，各種護理機器人的應用更多采用了一種“SaaS+”模式，即在面向使用者SaaS平臺的基礎上，派出專人維護后臺系統以解決使用中各類意外問題或需要。這一模式提供了基于SaaS等云服務框架的信息收集、分析與反饋服務，但缺陷在于將倫理治理置于服務之外，通過第三方的形式來制定護理機器人的倫理標準，這很有可能導致因為未能囊括所有利益相關者的考量而造成無人負責的局面。因此，將EaaS框架用于護理機器人的倫理設計中，可以將護理機器人的倫理訴求視為一個全生命周期，可以通過設置獨立的倫理委員會、合作開發的倫理守則以及具體的倫理服務措施而克服上述缺陷。

2 護理機器人倫理設計中的現存不足

2.1 倫理服務者的定位模糊

當前護理機器人倫理設計的不足首先在于對設備所服務的倫理對象認知不明確。一方面，護理機器人的倫理影響范圍并不僅局限于被護理者本身，而社會影響應當在何種程度上被納入護理機器人的倫理考量范圍也值得商榷，因為這種考量范圍難以通過事前預測的方式得到有效地劃定。例如，護理機器人女性化特征所帶來的歧視憂慮與老年使用者對女性化護理機器人實際偏好之間的矛盾[5]，這無疑要求對護理機器人倫理性質的進一步認識。另一方面，護理機器人的直接護理對象往往是老人、兒童、殘疾人等易在經濟、社會關系等方面依賴他人的群體，首先參與到市場活動中的護理機器人也因此一定程度上存在迎合付費者倫理傾向的客觀需要。近年來，家用攝像頭、防走丟手環等智能設備所引起的倫理爭議就是對經濟與社會關系影響的深刻揭示。相比之下，護理機器人因其技術屬性與維護需求所產生的倫理關系更為復雜，更需要對主體間關系進行有效辨析與針對性處理。

2.2 倫理設計的簡單化問題

倫理服務對象的錯位也進一步揭示了當前護理機器人倫理設計活動的簡單化問題：倫理設計往往容易被簡化為外觀設計，例如，在外形設計上等同于擬人、擬動物；在運動方式上等同于緩慢而非柔和；在表達方式上等同于字大、聲音大、女性化等。簡單化所暴露出的問題不外乎倫理設計投入的不足與倫理轉譯工具的缺乏，如上文所提到的，護理機器人不僅直接為護理者提供服務，更是護理者與其他護理人或社會個體之間的聯結者，這種關系作為技術“居間調解”作用的典型發揮應當受到進一步的重視，而過分的擬人化等倫理設計方式，反而可能抑制護理機器人的聯結作用，使護理機器人作為突兀的個體形成與其他護理者之間的割裂與反差，不利于整體護理環境的維持。

倫理設計活動的簡單化還體現為偏重事前預測與一次性倫理檢驗的設計思路。雖然以維貝克[6]及其道德物化思想為代表的倫理設計理論也強調道德設計是“具有實驗性質的活動，不是控制人類行為的高度控制性的事情”，但其所倡導的倫理設計方法論很難被視為是對這種不斷發展的實驗性活動的鼓勵：面對護理機器人投產后在實際使用中所表現出的倫理問題，事前周密的倫理設計與想象活動仍舊被視為設計者得以逃避責任的擋箭牌，而使用者則被要求貫徹設計中過于理想化的倫理情境。而對于相對隱蔽的使用風險與倫理問題，重新貫徹倫理流程的壓力也會給研發者帶來惰性，從而不利于護理機器人道德的持續更新與發展。

2.3 倫理設計的智能化誤區

此外，另一個對護理機器人倫理設計的誤區在于對護理機器人集成度、智能化等指標的盲信：使用者是否需要一個“護理機器人”來統一性地解決多個護理需求，這一基礎性問題本身是甚少引起反思的。對于部分被護理者而言，讓護理機器人維持其傳統的工具特征同樣是一種符合倫理的設計。傳統技術設計理論的預測與分析活動著重構建理想化的道德環境并給出相應的解決方案，其最終結果往往是高度集成的“專業機器人”。無論這種護理機器人通過何種方式增加其活動可讀性，對于具體被護理者而言終歸難以與其所熟悉的傳統模式相匹敵，尤其對于面向個人和家庭等復雜情境的智能機器人，事前設計所能夠考慮和顧及的因素無疑是有限的。與顯見的護理與養老困境相對應的，是護理成本的持續高昂，智能化護理如不能降低護理成本或提供更有效的護理條件，就反而陷入了倫理設計智能化的誤區。

2.4 倫理場景的標準化困境

《“十四五”機器人產業發展規劃》指出，2020年，我國服務機器人在教育娛樂，醫療康復等領域實現規?；瘧肹7]。值得注意的是，實用化的護理機器人首先進入的是醫院、養老院等標準化、流程化較強的應用場景，其部分原因是倫理轉譯的困難性在面對家庭等復雜場景時將會被進一步放大。如果不能破解家庭倫理情境的復雜性問題，勢必會對護理機器人的長遠發展與社會融入造成困難。現有場景中的標準化倫理情境同樣應當受到進一步的考量和定期的評估，以確保此類相對穩定的倫理情境具有標準化的可復制性，同時也應當注重被護理者的多樣性及自身的特殊性訴求對于場景標準化的挑戰。

3 EaaS對護理機器人倫理設計的可能改良

3.1 構建多方協調的倫理準則

針對倫理服務者定位模糊的問題，可以建構基于EaaS框架的多學科倫理委員會，廣泛吸收護理者、被護理者、倫理學家、社會學家、機器人工程師等多方面的利益相關者，對同一類別的護理機器人倫理設計提供合作構建的倫理守則。該倫理委員會需要直接參與到護理機器人倫理設計的流程制定當中，并根據護理機器人的實際應用情境協商定義各條抽象倫理準則的具體含義并提供一系列有效的倫理轉化工具。該倫理委員會應當制定與此相對應的中止機制并有能力介入違反相關原則后的糾錯流程。

在EaaS的框架下，這一過程所實際產出的倫理準則具有積極的、發展的可能性，其成果不能以絕對倫理的或非倫理的二元思維加以衡量，但能夠根據與準則制定前的倫理狀態或準則迭代中倫理變化的比較來探討其相對的倫理意義，即準則應當是越來越合倫理的而非確定合倫理的，這再次體現了信息倫理學對EaaS框架的基礎性影響。須注意的是，除非符合知情同意的豁免要求[8]，倫理準則發展的動態屬性不能以實際使用者的知情同意為代價，倫理設計者與工程研發人員有義務在這一過程中保持使用者對整體發展情況的感知。

3.2 實現多抽象層次的倫理設計審查

針對倫理設計的簡單化問題，應當基于EaaS框架與信息倫理學，在多個抽象層次上展開對護理機器人倫理特征的識別與評估工作，從而保證倫理設計與轉化程序具有合倫理性。包括但不限于：護理機器人倫理設計思路的合倫理性、護理機器人智能系統結構的合倫理性、護理機器人實現代碼的合倫理性、護理機器人自身實踐行為的合倫理性與護理機器人社會關系的合倫理性等。具體而言，多層次的倫理監控活動要求護理機器人的倫理設計不能僅停留于實踐層面的可用性，還必須保證算法層面的可解釋性，應盡量控制人工智能與深度學習算法等具有黑箱性質的技術因素，從而消減護理機器人倫理活動的潛在非確定性。只有當護理機器人的倫理設計內容在多個層次上展現出合倫理性時，此種設計才應當被視為是可行的，反之則要審查其倫理特征在實踐流程中的缺失。通過循環式的層次審查與優化活動，倫理委員會得以保持其自身及護理機器人倫理活動處于一個動態的長效發展過程當中，改良以往一次性倫理審查中的局限性，同時提升倫理設計活動的有效性與可用性。

3.3 構建模塊化的倫理情境

針對倫理設計的智能化誤區，應當視具體情況摒棄單體式、集成化的解決方案，采用分布式的微服務，發揮其高可用性與可伸縮性特點[9]，由相對平行且獨立的小型團隊分別解決各種具體應用的需求。但在服務化的業務流程中，具體需求往往是倫理無涉的，業務整體的倫理特征也不能等同于用戶在實際使用活動中所接觸到的倫理情況。針對此類具有去倫理化風險的解決方式，EaaS框架可以依托信息倫理學的基本觀念，從信息域的構建與權限管理入手模塊化地構建具體倫理情境，從而保證各類智能設備的倫理統籌性。就其成果而言，具體護理機器的倫理特征應與EaaS的框架特征相對一致，即可以通過多個模塊化護理設備的協作實現倫理情境的構建與設備倫理內涵的升級，從非倫理化的單一護理儀器整合為具有顯見倫理特征的護理環境。

3.4 開展自發性的倫理定制服務

針對倫理場景的標準化困境，EaaS框架提供了一個更為開放、更為包容、更易使用的倫理設計平臺，有能力通過倫理工具的開發與下放實現廣泛參與的倫理體系的構建。有特殊倫理需求的用戶群體，能夠自行組合成為倫理參與者群體，依托于行業內倫理委員會所公開的簡明倫理工具包與以往倫理設計經驗，具有針對性地自我解決或外包相關倫理設計需求，形成具有活力的開源倫理設計社區，按需定制特種倫理場景下的護理機器人。通過有條件地擴大倫理設計活動參與群體，實現倫理活動與要求的細分。充分發揮互聯網背景下的共享精神[10]，實現倫理設計活動的開放化，最大程度地發揮EaaS框架所具有的內在活力。

4 結語

EaaS為倫理設計領域提供了一個更為開放和動態的合作平臺架構，從而有望以更高效和更具有針對性的方式解決當前護理機器人倫理設計活動中的諸多不足。然而，以EaaS框架來實現護理機器人的倫理設計還存在著一定的局限性，例如，倫理轉譯的工具和方法大多不具有強檢驗性、既存的轉譯工具和方法注重分析判斷而非規范確定從而欠缺實效性、倫理轉譯工具只被開發者用于完成一次性測試等[11]。

將EaaS框架用以實現護理機器人的倫理設計是一種合理的嘗試，相對于當前實踐中嚴格地使用條例和與之相對應的寬泛免責條款，EaaS能夠更好地平衡各方責任，并且能夠在加強對倫理不足或倫理錯誤的辨識能力的同時，也能夠明確區分可確認的錯誤與應承擔的責任，這可以為實際的倫理準則賦予面向社會的可探討性與可辯護性提供解決思路。因此，EaaS框架有可能成為一個切實可行的倫理活動方式，為護理機器人的倫理設計提供有效的支撐策略。