人工智能的倫理風險治理探析*

張 鋌

近年，人工智能技術發展迅猛，掀起和引領著第四次工業革命，正深刻改變社會、改變世界，人工智能時代已經提前到來。新冠肺炎疫情期間，從病毒分析、疫苗開發、藥物研發到診斷輔助、智能測溫、AI消毒，人們已經能感受到人工智能技術給社會生產和生活方式帶來的廣泛影響。然而，與此同時，人工智能技術的復雜性和不確定性也帶來了倫理風險。作為一種具有顛覆性影響的技術，人工智能的倫理風險開始顯現。面對人工智能的倫理風險挑戰，不同的學者基于不同的視角進行了分析和探討，推動了人工智能倫理風險治理的研究，但仍有一些值得商榷之處。一是對人工智能倫理風險的界定不夠清晰，有的研究將人工智能的“一般風險”視為“倫理風險”；二是對人工智能倫理風險形成機理的揭示有待深化；三是對人工智能倫理風險治理對策的系統性把握有待加強。為此，本文聚焦人工智能的倫理風險，擬在描繪人工智能倫理風險鏡像的基礎上，分析人工智能倫理風險的生成邏輯，探討人工智能倫理風險的協同治理之道。

一、人工智能倫理風險的鏡像素描

人工智能技術的興起不僅是技術和產業領域的重大革命，更引發了社會治理等眾多領域的深刻變革，帶來了不可忽視的倫理風險。了解人工智能技術的倫理風險是規范人工智能的研發和應用、有效治理其倫理風險的前提，亦是人工智能技術可持續發展的基礎。

1.人機邊界模糊：倫理關系失調風險

人工智能技術的快速發展和不斷突破，有朝一日，有可能研發出具有自我意識的智能產品，人機邊界將變得模糊。那么屆時，人與有自我意識的智能產品之間是什么關系？此種智能產品是否應具有道德主體地位？由此，引發了“心智邊界之爭”。面對該問題，倫理學者的解答不盡相同。人類中心主義者認為，道德主體資格是人類獨有的，人的道德地位是基于人類的精神特點存在的，智能機器是人創造的高級工具和設備而已，“它們的能力不過是在例示過程中隨著計算機的運行而產生下一步的形式體系”。持此類觀點的學者不贊成智能機器具有道德主體資格。也有一些學者要求重新定位人工智能產品的道德地位，認為人類之外的生命體具有道德主體資格的可能性。如果賦予智能機器人道德主體資格，智能機器人參與到人類的政治、經濟和社會活動中，那么，該如何界定人與智能機器人的關系呢？智能機器人具有道德主體資格的同時，能承擔相應的道德責任嗎？總之，人工智能時代如何界定人和智能機器的關系是一大難題。人工智能的發展將挑戰人類文明已經形成的倫理關系，引發新的道德沖突和倫理困境。

2.責任追究困境：倫理規范失效風險

人工智能技術的算法生產和運作過程的“黑箱化”不僅對有效監管造成困難，而且因為其在實際應用中往往居于“幕后”，其運行過程的不透明和治理規則的不易解釋，造成責任追究的倫理難題。英國《衛報》專欄作家Ben Goldacre將算法比喻為一系列的“黑盒子”。面對這樣一個知之甚少的數字世界，“人類并不清楚什么是安全的、什么是有風險的”。需要指出的是，人工智能技術環境中治理規則的難以解釋并非完全因為公司或個人的隱瞞，其深刻原因在于算法和機器學習的復雜性。進入人工智能時代，人們發現傳統的技術責任倫理和制度規范已無法有效應對智能技術應用中的風險責任界定和追究。基于傳統的技術責任倫理和制度規范，設計者應承擔技術風險的主要責任。然而，人工智能時代如果將智能機器導致的侵權行為完全歸責于設計者，則并不具有說服力。倘若歸責人工智能本身，又該如何問責一個機器呢？由此，長久以來基于行為和后果之因果關系的技術責任倫理和法律制度，遇到嚴重挑戰。簡言之，責任追究困境問題是人工智能技術的又一倫理風險。

3.價值鴻溝擴大：倫理價值失衡風險

人工智能時代權力的性質及其實現形式發生了變化。人工智能技術嵌入社會系統中，一方面，人工智能技術的算法催生出隱形權力。算法黑箱為權力的隱性運行提供了條件。算法作為以計算機代碼表達的意見，算法的設計、目的、標準必然體現設計者和開發者的主觀意志和價值取向。算法的設計者和開發者很可能將其主觀偏見帶入算法系統，從而形成算法偏見、算法歧視，導致種族、性別、年齡和階層區域歧視，使得社會運行過程中缺失公共價值，技術的工具理性與價值理性失衡。例如，弗吉尼亞·尤班克斯(Virginia Eubanks)指出，大數據與算法應用于窮人和工人階層，“強化和延續了近代的濟貧措施中的道德主義傾向和懲罰性后果”。另一方面，人工智能技術通過重構產業結構和社會分工模式，可能引發結構性失業，危及社會公平和正義。智能化、高效化的人工智能機器不僅會替代人做“臟累差”的工作，甚至可能取代一些職業。雖然人工智能的發展會創造新的就業崗位，但并非所有人都能跨越技術鴻溝，適應人工智能時代的工作變革。

4.技術過度依賴：倫理行為異化風險

人工智能技術的應用給人類生活帶來便利的同時，也可能造成對智能技術的過度依賴，導致倫理行為異化。一方面，智能機器的精準化、個性化信息推送可能削弱人的甄別能力，強化人的行為偏見，使人盲從某些錯誤觀點。在社交媒體中，應用智能機器可分析人的觀點、興趣愛好等，然后根據這些數據分析實現個性推薦，造成人們的行為偏見和甄別能力削弱。另一方面，人工智能在社會系統中的應用可能造成人對技術的嚴重依賴，甚至社會治理的角色替代。對技術治理的迷信和過度依賴會造成社會治理創新不足、缺乏實質增長的“內卷化”現象。例如，有關部門對信息技術資源不斷投入的同時，條塊結構越來越復雜，對技術工具的依賴也越來越大。嚴重依賴技術工具的社會治理模式勢必會逐漸消解治理主體的主動意識和創新精神，造成智能技術的算法“決策”代替治理主體的自主決策。在此境遇下，人不再是治理主體，反而可能成為算法權力中被計算的客體。當前雖然人工智能技術總體上處于“弱人工智能”階段，智能機器尚不具備社會治理主體資格，但是，隨著“強人工智能”和“超人工智能”的開發和應用，社會治理主體有可能被人工智能取代，這并非危言聳聽。

二、人工智能倫理風險的生成邏輯

技術是一把“雙刃劍”。作為一種新興技術，人工智能技術在增進社會福祉和社會進步的同時，其潛藏的倫理風險也逐漸顯現。人工智能倫理風險的生成遵循技術演變的規律，有其內在邏輯。揭示人工智能倫理風險的生成邏輯，可為有效治理其風險提供科學依據。

1.內源性邏輯：算法黑箱與智能技術的不確定性

技術本質是一種解蔽方式，然而，解蔽的過程暗藏風險。人工智能技術的算法背后隱藏了“技術黑箱”，人們在應用人工智能技術的過程中有可能被技術“綁架”。算法是人工智能技術的基礎，開發者有可能將其自身所持有的價值偏見植入算法中，甚至存在非法篡改算法參數的風險。算法的本質是一系列指令，這些指令很難轉化為通俗易懂的語言。一方面，人們很難理解、預測和評估人工智能技術背后的決策邏輯。近些年，人工智能與大數據、物聯網、云計算和腦科學等技術深度結合后，其背后的算法邏輯更加復雜，導致技術系統的潛在風險擴大。另一方面，人工智能技術的道德算法并非完全獨立運行。人工智能的算法運作具有高度的復雜性，其依存的道德算法需與其他系統結合完成深度學習，才能發揮應有的作用。換言之，人工智能技術的道德算法不是一個獨立的運作體系，其依賴于代碼和數據樣本的機器學習具有較大的不確定性。多次重復使用的樣本數據容易誤導智能機器，導致智能機器做出錯誤的道德決策，人工智能的倫理風險由此產生。

2.功能性邏輯：技術賦權與技術約束的雙重效應

技術并不是價值無涉的，人工智能技術在賦能社會和公民的同時，也呈現出技術約束性的“另一面”。當人工智能技術與公共權力結合時，如果公共權力使用不合理，人工智能技術的約束效應就會被放大。例如，維護安全穩定是社會治理的重要目標之一，掌握公共權力的政府部門在應用人工智能技術方面具有顯著優勢，然而，個別政府部門會以公共安全為由過度收集和使用公民信息，不合理使用人工智能技術工具，對公民隱私權利造成侵犯。作為一種治理技術，人們在應用人工智能技術的過程中應重視技術價值理性的發揮。如果過多關注人工智能技術的工具理性而忽視其價值理性和人文關懷，那么，人工智能技術的“異化”和倫理風險的生成就不可避免。進而言之，人工智能的發展不應脫離倫理道德和制度規范的約束。當前，傳統的技術倫理道德和制度難以適應新興技術的發展。面對人工智能技術的迅猛發展態勢，必須建立和完善新的技術倫理道德和制度，以規約人工智能的倫理風險。總之，人工智能的發展和應用需堅持以人為本，“重視對人的尊嚴、自由和社會民主、平等、公正等重要價值的維護”，保持技術工具理性和價值理性的平衡。

3.現實性邏輯：風險研判與防控能力的相對不足

人工智能的倫理風險是主觀認知性和客觀實體性的結合，前者主要指人類對其倫理風險的認知心理、感知判斷等主觀元素，后者主要指人工智能技術自身存在的復雜性、深層性和不確定性等客觀現實。然而，囿于現實條件，人類對人工智能技術風險的研判和防控能力有一定的局限。一方面，作為復雜的技術系統之一，人工智能技術背后的算法數據極為龐雜，當前人類尚未能有效解決算法邏輯的不確定性，因此無法全面預測人工智能的潛在風險。另一方面，對智能技術認知的有限性影響公眾應對人工智能倫理風險的能力。這是人工智能倫理風險產生的現實原因。近些年，人工智能的快速發展和深度應用已帶來一系列倫理風險問題，對人類的法律制度、倫理規則和技術規范產生挑戰。例如，智能機器是否具有倫理道德主體地位，人工智能技術應用導致的法律責任如何界定，人工智能技術發展帶來的價值鴻溝失衡該如何彌合。然而，相較于發展迅速的人工智能技術，人類社會應對其倫理風險的研判和防控能力則稍顯薄弱，還亟待提升。

三、人工智能倫理風險的協同治理

面對人工智能技術帶來的倫理風險和挑戰，眾多國家提出了治理措施，但無論是“無須批準式監管”還是“審慎監管”治理路徑，仍然停留在原則、準則和戰略框架層面。實踐證明，人工智能的倫理風險具有復雜性和深層性，僅憑政府一方難以有效治理。再則，人工智能的發展和應用涉及多元利益主體，因此對其倫理風險的治理亦要求多元主體參與共治，正如“技術治理需要利用自由、分權和參與營造的社會空間”，技術風險的治理也應倡導社會合作，而不是由政府單一治理。人工智能倫理風險的治理應構建一種組織網絡，通過協商合作重構治理主體間關系，以超越傳統的技術風險治理模式。人工智能倫理風險的深層性、復雜性等特征契合了協同治理的內在要求。協同治理范式的理論基礎是協同理論，協同理論強調不同子系統以目標共識為基礎，通過互動和合作推進整體性治理。協同治理范式是人工智能倫理風險治理具有可行性的新探索。

1.構建人工智能倫理風險協同治理組織

對人工智能倫理風險的治理是政府的職能之一。人工智能的倫理風險給現代政府管理帶來了挑戰。政府擁有技術風險治理方面的資源和權力優勢，是人工智能倫理風險治理的核心主體。例如，2019年，美國啟動“AI計劃”，成立國家標準技術研究院(NIST)等政府機構規范人工智能產業發展。然而，由于人工智能的倫理風險涉及面廣，其治理具有高度的復雜性，政府單一主體難以實現有效治理。人工智能倫理風險的有效治理應發揮多元社會主體作用，搭建合作共治框架。構建多元協同組織是人工智能倫理風險協同治理的基礎。為此，要以制度規范明確多元治理主體在人工智能倫理風險治理中的權利和義務，實現政府單一治理向多元共治模式的轉變，構建政府、技術專家、社會組織、研究機構和公眾等共同參與的技術風險治理組織網絡。該組織網絡有助于克服單一主體治理人工智能技術風險的局限性，形成合作共治的風險治理格局。在具體實踐中，要打破傳統“命令—控制”式的技術風險治理范式，倡導政府與技術專家、社會組織、研究機構和公眾的互動交流和民主協商，形成風險治理主體之間緊密的合作關系，共同防范和化解人工智能倫理風險。要暢通社會參與機制，積極引導多元社會主體參與人工智能倫理風險治理規則的制定，必要時可引入第三方監管機構。總之，構建多元協同組織，實現人工智能倫理風險的協同治理，應形成以政府為核心，技術專家、社會組織、研究機構和公眾等共同參與的風險治理自組織系統。需要指出的是，構建協同組織僅是人工智能倫理風險協同治理的必要條件之一，要實現人工智能倫理風險的協同治理，還需夯實協同治理條件，增強協同治理參量。

2.夯實人工智能倫理風險協同治理條件

夯實協同治理條件有助于提升人工智能倫理風險治理的效能。具體而言，要完善四個層面的協同治理條件。一是提高技術倫理風險認識。面對人工智能技術的飛速發展，一種過于樂觀的觀點認為，技術發展本身孕育著技術風險的解決方案。因此，目前遇到的人工智能的倫理風險治理難題，在未來自然會解決。核技術發展等事實充分證明，這種對于技術發展的盲目樂觀和過度自信并不可取。因此，加強人工智能倫理風險認知教育很有必要。一方面，要面向社會開展人工智能技術科普活動，讓公眾更好地了解人工智能技術的發展趨勢及其潛在風險；另一方面，要加強人工智能研究共同體的責任倫理教育，對人工智能研發人員開展科技法律和科研倫理方面的宣傳教育，增強其技術風險責任意識，提升人工智能研究共同體的社會責任感，使其做到“負責任創新”地開展人工智能研究。二是強化技術倫理規范建設。當前，世界上掌握人工智能技術的主要國家相繼成立人工智能倫理委員會，制定相應倫理標準，規范人工智能倫理風險。例如，2018年，歐盟發布了人工智能倫理準則。我國應結合實際，借鑒國外先進經驗與做法，成立多方參與的人工智能倫理委員會，進一步完善人工智能倫理準則和道德規范，強化負責任的智能技術創新。三是完善相關法律法規。一方面，要厘清智能機器人的法律主體地位，充分討論和論證智能機器人法律人格創設的可能性，健全人工智能研發和應用的問責機制；另一方面，要完善人工智能產業發展相關法律法規，細化人工智能研發、市場等準入規范，明確人工智能開發主體的法律責任。在發揮市場競爭和市場機制優勝劣汰作用的同時，加強人工智能產業的制度規范。政府部門要成立相關監管機構加強對算法的治理與監管，彰顯算法正義，避免人工智能技術應用被“資本”綁架，促進人工智能產業的健康有序發展。四是加大社會政策支持。人工智能技術的發展將導致就業結構、就業方式的深刻變革，因此，在人工智能發展相關公共政策的考量中，不僅要關注人工智能發展的產業和經濟政策，也要關注人工智能發展的社會政策。要堅持以人為本，完善社會保障制度，建立終身學習和就業培訓體系，有效應對人工智能發展可能帶來的結構性失業等社會問題。

3.增強人工智能倫理風險協同治理參量

增強協同治理參量對促進人工智能倫理風險整體性治理具有積極作用。一是完善技術風險治理協同機制。人工智能倫理風險的治理涉及多方利益。因此，要構建技術風險治理的利益表達、補償及協調機制，搭建技術風險信息共享平臺，促進技術風險信息分享。二是建立技術風險評估機制。人工智能技術發展具有較大的不確定性，因此需要運用多種手段和工具，對其倫理風險進行科學評估，開展人工智能技術倫理風險預警。一方面，政府可聯合高校、智庫和企業等對人工智能技術進行安全等級評估，有針對性地采用安全防護技術，規避人工智能技術可能出現的故障、失控和被入侵等風險，確保人工智能技術在安全、可控的范圍內發展和運用。另一方面，要積極開展人工智能社會實驗研究。積極開展人工智能社會實驗研究有助于科學研判人工智能技術的社會風險，“準確識別人工智能對人類社會帶來的挑戰和沖擊，深入理解人工智能的社會影響特征與態勢，深刻把握人工智能時代社會演進的規律”。三是構建技術風險治理共同體。作為全球性技術，人工智能的倫理風險治理是跨國家和地區的。由于不同國家和地區之間技術標準、準入制度等不盡相同，人工智能風險治理的體制和機制也存在差異。因此，要在人類命運共同體理念的指引下，建立和完善跨國家和地區的技術風險治理協調和聯動機制，形成技術風險治理共同體，促進人工智能風險的協同治理。

綜上所述，人工智能技術是一種尚未成熟的革命性技術。人工智能技術在增進社會福祉和社會進步的同時，伴隨著人機邊界模糊、責任追究困難、價值鴻溝擴大和技術過度依賴等倫理風險。對此，要統籌兼顧，多維并舉，通過協同治理有效防范和化解其風險。隨著數據驅動算法的升級和優化，人工智能技術的發展和應用具有廣闊的前景。我們要因勢而為，在人工智能倫理風險的協同治理中構建技術與人、技術與社會的和諧生態，推動社會治理變革和創新，促進國家治理體系與治理能力現代化。

①Searle JR. Minds, Brains and Programs., 1980, Vol.3, No.3, p.417.②閆坤如、馬少卿：《人工智能倫理問題及其規約之徑》，《東北大學學報》(社會科學版)2018年第7期。③Goldacre, B. When Data Gets Creepy: The Secrets We don't Realise We're Giving Away,, 2014-12-05.④Virginia Eubanks.:-,. St. Martin's Press, 2018, p.37.⑤譚九生、楊建武：《智能時代技術治理的價值悖論及其消解》，《電子政務》2020年第9期。⑥張鋌、程樂：《技術治理的風險及其化解》，《自然辯證法研究》2020年第10期。⑦賈開、蔣余浩：《人工智能治理的三個基本問題：技術邏輯、風險挑戰與公共政策選擇》，《中國行政管理》2017年第10期。⑧彭亞平：《照看社會：技術治理的思想素描》，《社會學研究》2020年第6期。⑨蘇竣、黃萃：《探索人工智能社會治理的中國方案》，《光明日報》2019年12月26日。