風險與進路：從后疫情時代到數字化未來

【內容提要】新冠疫情的全球大流行加速了新型技術的場景化運用，但數字化技術在賦能戰役的同時，其外部負效應也逐漸滲透到社會的各個層面。基于科技抗疫的實踐活動，對抗擊疫情引發的倫理風險、價值風險和安全風險進行總結和反思具有重要的現實性意義。文章提出數字化未來時代對技術規制的三條路徑：倫理先行，強調技術創新的人道化指向;自我規制，強調技術應用的實踐智慧;國家公器，堅定科技創新的制度進路。

【關鍵詞】后疫情時代? 數字化? 技術倫理? 風險? 治理

一、引言

現代科學技術不斷豐富著大眾的日常生活，但技術在迭代更新和裝備現實的時候，也經常挑戰或打破人類社會的技術規范和倫理底線，進而給新技術的采用和創新造成負面影響。在此次新型冠狀病毒的抗疫過程中，以互聯網技術為代表的一系列創新應用對疫情防控發揮了重大作用，加速了人類戰勝疫情的速度。但進入后疫情時代，隨著抗擊疫情這一主要矛盾化解，關于數據安全、隱私泄漏、數據的二次開發等被掩蓋的矛盾逐漸爆發。疫情來勢洶洶的時候，國家調動一切資源包括公民個體的身份信息、行為軌跡等數據資源去抗擊疫情。但疫情逐漸消散之后，這些被讓渡出去的權利和資源卻被很多人忽視，給現代社會技術的創新發展埋下隱患。在抗擊疫情的常態化過程中，大量的用戶數據使用情況不明、數據管理和使用存在重大安全隱患，“先使用后管理”和“先應用后處理”這種應急辦法的問題在疫情后期逐漸顯現出來，科技與人的矛盾也越加突出。疫情加速了中國現代化治理體系的建設進程，但同時也加速暴露了現代化進程中的弊病。如何去釋放數字化技術的潛能、更好的服務人類，與此同時最大程度的降低技術異化帶來的風險，就需要重新審視新技術與人類發展的關系。

歷史上每一次的技術變革和創新應用或多或少都會帶來風險，不同時代的技術有著不同時代的特征。如何“馴化”技術以服務人類是人類發明創造的根本動力和最終目的，而技術倫理則是人類在采用技術的過程中防止技術異化的道德規范和行動指南。回歸技術倫理，不僅是為了反思科技抗疫中的倫理失調，也是為了更好的促進未來科技的應用。進入以信息技術革命為表征的數字化時代，大數據、人工智能、5G和云技術等高新科技的應用對科技倫理的規范提出了新的向度要求。技術的創新和發展必須始終堅持為人類社會發展服務、為個人幸福服務的宗旨，數字化技術必須始終考慮滿足人民群眾的需求、維護人民的利益。要充分調動各種數字化技術去謀求最廣大人民群眾的福祉，這就是新技術背景下的科技倫理要求——數字福祉（Digital Wellbeing）。數字福祉有兩個維度的要求：其一，充分發揮數字技術的生產力和創造力，最大程度實現對整個人類社會的普惠和賦權;其二，在釋放數字技術勢能的同時，最大程度的限制和減小數字技術運用對人民群眾的負外部效應。這本質上是科技倫理的人道化要求，強調科技以全人類的共同需求和利益為出發點和歸宿。①在數字化技術深入發展的今天，就是要求科技公司不僅要注重數字技術的創新發展，還需要考慮技術創新過程中的人性和道德，不能盲目追求創新應用而忽視技術風險。后疫情時代暴露的風險問題，將成為建設更加美好的數字化未來的墊腳石。

二、后疫情時代：技術異化與風險評估

后疫情時代，指的是疫情基本得到有效控制或者疫情逐漸常態化之后的社會時空結構，以及一個需要反思、修復和完善的社會場域。隨著數字化技術的大規模應用，現代社會的風險外延已經有了新的變化，現代化的技術成為當下時代需要反思的對象。科技抗疫正是在新的歷史背景下對信息科技的一種實踐運用，是數字化技術與既有倫理規范的一次全新互動與碰撞。但在這個場域中，人逐漸對技術失去控制，技術開始支配著人，②即由技術異化導致的風險出現。只有了解數字化未來的發展風險，才能夠制定政策規避或者降低發展風險。

（一）倫理風險

倫理風險是指在人與人、人與社會、人與自然、人與自身的倫理關系方面，由于正面或負面影響可能產生不確定事件或條件，尤指其產生的不確定的倫理負效應，諸如倫理關系失調、社會失序、機制失控、行為失范、心理失衡等等。③當數字化技術被應用于抗擊新冠肺炎疫情，一些復雜多變的倫理風險也隨之而來。比如在抗疫時期，地方政府和組織利用大數據摸排武漢返鄉人員信息、跟蹤新冠肺炎患者的行動軌跡，在此期間被調查的人員信息遭到泄漏，在隔離期間遭受網絡謾罵，對本就是疫情的受害者造成二次傷害。由于技術提供方和信息管理方的失誤，導致了社會中人與人的矛盾沖突、網民的過激行為以及個體的心理打擊等多維度的倫理問題。有學者基于動態評估視角，從技術環境、技術自身和企業組織三個方向建立了新興技術風險評估的三維模型，明確指出倫理風險是新技術風險的重要組成部分。④在大規模應用數字化技術產品的時候，必須慎重審視技術可能帶來的倫理風險。數字化技術將改變傳統的生產力、生產關系與生產方式，也會重構人與人、人與社會之間的交互關系，數字化技術帶來的倫理問題變得更加隱性化、復雜化，也變得更加難以控制。

（二）價值風險

價值風險指的是在發展和應用技術的進程中，偏離技術發展初衷、違背技術應用基本原則，造成價值缺失、價值沖突和價值異化的風險性問題。數字化技術的開發和利用原本為了促進人類文明的進步和人類社會的發展，需要考慮如何利用數字技術增進人類整體福利，但是當不同主體的利益發生沖突，技術的價值取向就會發生扭曲。比如哈佛大學醫學院的論文，其中利用衛星通訊和大數據分析技術，收集了關于武漢地區相關醫院的就診數據，炮制出一篇針對中國的“科研論文”，用來當作攻擊和污名化中國的武器。隨著全球化的深入發展，各個國家都在努力的發展自身的現代化技術，力求增強自身的科技實力，進而在全球競爭中占據領先地位。但在這一過程中，數字化技術成為組織與組織、國家與國家競爭的手段，導致不同階級和集團因為利益沖突而忽視既有的普世價值觀念和技術倫理原則。數字化技術往往不再是為了人類社會的數字福祉而服務，成為了大國之間、組織之間的博弈工具和戰爭武器，人類需要警惕數字化技術造成的價值風險。數字化技術在未來必將會嵌入萬事萬物之中，但如何建構一個健康平衡的數字化生態卻充滿風險和挑戰。

（三）安全風險

在數字化時代，社會發展進入以數據資源為基礎、以信息技術為支撐的新時代，數字化生存成為時代的重要表征。但信息技術在加速數據收集、開發和利用的同時，也給大眾的個人隱私、數字資產、社會聲譽等人身權利造成了威脅。正如此次抗擊疫情，健康碼、AI智能識別系統、大數據疫情地圖等科技應用隨著疫情的發展加速落地，這些科技抗疫產品的背后是一個個公民個體讓渡出去的隱私信息和社會信任。但在抗疫過程中因為管理和技術漏洞導致用戶數據泄漏，導致網絡暴力、網絡詐騙和用戶數據的“二次售賣”，這給大眾的正常生活造成了巨大困擾和挑戰。失衡失范的數字化實踐犧牲了公民對于公權力和數字技術的信任，造成了用戶對于數字化技術應用的擔憂和恐懼。數字化時代的安全風險更為隱蔽、廣泛，也更為長久，因為網絡空間中個體的“數字腳印”很難被完全抹去，一旦造成安全威脅其影響也難以得到控制。

三、數字化未來：技術規制與路徑設計

人類社會經歷自動化、信息化的變革之后終將步入數字化景觀時代，這將以物聯網、大數據和人工智能等新技術的規模化應用為標志，數字化技術與產品將成為人類社會的基礎架構和框架。但建構一個可持續的數字化社會需要得到合理的規制和引導，以更好的利用數字技術推動人類社會生產、生活的進步。技術的社會制約論認為，社會倫理、政治和文化的制約是技術發展的內在緯度，⑤因此有必要從倫理、政治和文化等層面對數字化實踐進行制約，進而實現技術、人與社會之間的良性互動和可持續發展。

（一）倫理先行：技術創新的人道化指向

科技倫理的本質是人道化，就是要突出人是科技的主人，也是道德的主人，⑥強調倫理介入科技的必要性。技術倫理是通過對技術行為的倫理調節，協調技術發展與人以及社會之間的緊張的倫理關系。⑦數字化未來的技術創新也需要與人類的價值觀和規范體系相一致，要將人類的價值觀和規范嵌入數字化的系統和應用之中，將現實世界的道德規范調適后引渡到數字世界。戴維斯（Davis）和帕特森（Patterson）指出，大數據技術在帶來巨大機遇的同時也帶來倫理挑戰，需要在創新與倫理風險之間找到平衡，并對大數據技術進行必要的倫理約束。⑧科學技術在建構數字化社會的同時，也給人類社會帶來風險危機，人類在未來的技術創新和科技實踐的過程中要打破技術本身和資本的邏輯，要把整個人類的數字福祉當作科技創新的價值標準，踐行“倫理先行”的科技觀。“考慮周全的責任”要求在技術設計階段就將安全性、有效性、道德性等更多的現實因素考慮進來，以抵消技術模型的簡單化帶來的風險。⑨技術設計不能只關注便利、快捷和功能等產品屬性，而忽視數字福祉，道德應該成為設計新技術流程的一部分。要實現“技術的道德化”（在技術產品的設計中把抽象的道德因子嵌入進去，使技術產品在技術實踐中發揮“行動者”的道德指引功能）⑩和“負責任創新”（將企業的社會責任同技術創新實踐密切結合，從倫理角度有效評估和影響技術創新的各個環節）11， 以保證技術創新的可持續性。

（二）自我規制：技術應用的實踐智慧

亞里士多德對“決定目標及達到目的的手段及智慧”進行了探討，12強調實踐過程中向善的價值倫理、作為手段的多種知識體系和工具理性的智慧，13也就是一種實踐智慧。正如技術創新的實踐存在多種風險，但為了實現科技賦能和“科技向善”，不能因為風險就不發展技術。因此，一方面，需要推進技術創新為社會發展和變革服務;另一方面，還要推進技術創新為規制技術本身帶來的風險服務，這就是技術創新與應用的實踐智慧。對技術風險的規制與控制根本上還是需要回歸技術本身，從設計前期、實踐中期和應用后期對技術進行分階段的管控。首先，建立健全技術預見機制，做好頂層設計與規劃。其次，建立健全防御性機制，利用技術控制技術風險，做好技術創新和實際應用中的管控工作。比如在此疫情當中，信息疫情的擴散造成了社會恐慌和混亂，因此智能內容識別引擎與可視化人審平臺相結合的智能風控技術得以被應用，精準識別虛假疫情與涉黃、暴恐等違規內容。最后，利用數字化技術消除和削弱技術風險造成的不良影響，對新技術使用所造成的危機要能夠進行及時有效的阻斷和恢復。

數字化技術本身是社會經濟發展的產物，是在人與人、人與社會的互動中成長起來的，對異化技術的控制和重塑也需要在與社會相協調、與技術自身相磨合的實踐中去逐步實現。

（三）國家公器：科技創新的制度進路

國家公器，即社會共有制度系統，通過強有力的公權建構不可觸碰的底線。數字化技術的泛在化運用弱化了地域、時間以及傳統制度的限制，數字產品、數字流和數字交易等活動成為新的監管對象。因此加快數字化技術的制度建設、完善數字化時代的治理邏輯，對推動數字化技術的創新應用、保障數字市場的規范化建設和充分釋放數字化時代的技術紅利都有著積極的意義。馮慶旭認為要將責任倫理的精神要義與腳踏實地的政治實踐結合起來，14責任落地離不開國家政治制度的保障。數字世界的倫理規則和運行機制不能單靠個人自覺和社會道德去推動，還需要積極利用數字化的技術去構建數據使用規則、數字運行規范，比如利用區塊鏈、大數據和人工智能等技術讓數字應用、數字實踐變得更加可控、可用、可知、可靠。將數字世界中的科技組織、政府機構和公民個體都納入到權責分明的智能合約體系當中，用技術和制度實現懲惡揚善，為數字技術的開發、利用保駕護航。歐盟立法者在數據開放共享存在安全隱患的背景下，基于“設計的安全”（Privacy by Design）15等理念制定了《通用數據保護條例》。疫情期間，我國也發布了《關于做好個人信息保護利用大數據支撐聯防聯控工作的通知》，規范了數據收集和使用的行為。要推動數字化技術的創新發展和落地，就必須適時的制定相關的交易法則及管理辦法，在制度和法律的層面使得技術創新和應用有路可循、有法可依。

四、結語

在后疫情時代，反思數字化技術之于人的影響，對更好的實現技術創新、技術應用和技術規制有著建構性意義和價值。在技術發展的進程中，創新和風險是相輔相成、合二為一的，要想通過技術創新去創造社會價值，就需要承擔技術異化的風險，如何實現科技創新與實踐風險的動態平衡是一個重要議題。總的看來，首先需要重塑數字時代的倫理秩序。在此基礎上，充分調動各種政治、經濟和文化資源以保障、促進和規范數字化技術的創新和應用，使得數字化技術在現實社會的生產生活中能夠始終踐行科技向善的終極目標。

【本文為國家社會科學基金重大項目“總體國家安全觀視野下的網絡治理體系研究”（項目編號：17ZDA107）的研究成果】

注釋：

①王克，謝冠華等.科技倫理漫話[M].廣州：花城出版社，2003：12.

②李三虎.十字路口的道德抉擇：馬克思的技術倫理思想研究[M].廣州：廣州出版社，2006：141.

③馮慶旭.風險社會中的倫理風險及其應對[A].江蘇師范大學倫理學與德育研究中心.倫理學與德育研究（2010年卷總第五輯）[C].江蘇師范大學倫理學與德育研究中心，2011：10.

④宋艷，銀路.新興技術的風險識別與三維分析——基于動態評估過程的視角[J].中國軟科學，2007（10）：136-142+154.

⑤趙迎歡.高技術倫理學[M].吉林：東北大學出版社，2005：25.

⑥王克，謝冠華等.科技倫理漫話[M].廣州：花城出版社，2003：12.

⑦張永強.工程倫理學[M].北京：高等教育出版社，2014：39.

⑧Kord Davis & Doug Patterson， Ethics of Big Data. California： OReilly Media[M].2012：15-23.

⑨Mitcham Carl. Thinking Ethics in Technology：Hennebach Lectures and Papers[M]. Colorado：Colorado School of Mines Press，1997：123-152.

⑩Verbeek，Peter-Paul.Moralizing Technology：Understanding and Designing the Morality of Things[M]. Chicago：The University of Chicago Press，2011：114.

11Hellstr?m，T. Systemic Innovation and Risk：Technology Assessment and the Challenge of Responsible Innovation[J].Technology in Society，2003， 25（3）：369-384.

12李義天.作為實踐理性的實踐智慧——基于亞里士多德主義的梳理與闡述[J].馬克思主義與現實，2017（02）：156-163.

13馬志強，許鴻宇.社會工作的實踐智慧：概念構成與培養途徑[J].社會福利（理論版），2020（03）：38-41+57.

14馮慶旭.風險社會中的倫理風險及其應對[A].江蘇師范大學倫理學與德育研究中心.倫理學與德育研究（2010年卷總第五輯）[C].江蘇師范大學倫理學與德育研究中心，2011：10.

15Cavoukian A.，Privacy by Design： Leadership， Methods， and Results[M]. in Gutwirth S.， Leenes R.， de Hert P.， Poullet Y，eds.， European Data Protection：Coming of Age， Berlin：Springer，Dordrecht， 2013：175-202.

作者簡介：鄭玄，清華大學新聞與傳播學院新媒體研究專業博士研究生

編輯：王洪越