共同富裕示范區科創高地建設關鍵共性科技倫理風險研判及治理
——基于文獻綜述與案例分析

林思達，姜 慧，張 皓，林 瓊，曹夢蕾

（1.浙江省科技項目管理服務中心，浙江杭州 310006；2.杭州師范大學，浙江杭州 311121）

1 研究背景

科技創新在促進我國社會經濟高質量發展中發揮著支撐作用，但是科技發展也會產生異化，高風險科技活動如基因編輯嬰兒可能給人類社會發展帶來長期和廣泛的不良影響，因此，科技發展需要道德先行和倫理規制。科技倫理治理的迫切需求引起了我國政府的高度重視，2021 年12 月，我國新修訂《科技進步法》，為科研倫理治理提供了法律保障；2022 年3 月，中共中央辦公廳、國務院辦公廳印發的《關于加強科技倫理治理的意見》則首次在國家層面對我國科技倫理治理工作作出系統部署，明確要求制定科技倫理高風險科技活動清單（以下簡稱“清單”）。清單的設立是科技倫理治理政策落地的重要舉措，科技倫理風險預判是科學建制的基礎。目前，國家科技倫理委員會正積極研究、起草清單，并向科技倫理學界、政府相關部門征集意見和建議。

浙江省正高質量發展建設共同富裕示范區，為全國推動共同富裕提供省域范例，擬在2035 年建成“互聯網+”、生命健康和新材料三大科創高地，以促進生產力發展和共同富裕。但是，科技發展過程中潛在的倫理風險值得引起高度重視，如信息平權困境、生物資源分配問題等可能對實現社會公平和共同富裕產生阻礙，對相關科技活動的倫理治理必須深刻體現共同富裕的政策倫理價值。

為此，本研究針對《浙江省中長期科技創新戰略規劃》中列舉的“十四五”期間重點發展的“互聯網+”、生命健康和新材料科學領域中的代表性科學技術，通過系統查閱國內外相關文獻，對上述領域科技活動的潛在倫理風險進行匯總分析，以期為浙江省在共同富裕示范區科創高地建設中科學預判相關科技倫理風險提供基礎，為國家制定清單提供參考。

2 文獻檢索策略與檢索結果

以浙江省在“十四五”期間重點發展的人工智能、區塊鏈、胚胎、干細胞、基因測序、基因診斷、基因編輯、生物樣本數據庫、精準醫學、神經生物成像技術、腦機接口、新型結構材料、新型功能材料、新型智能材料等技術為主要研究對象，選取 Web of Science、PubMed、Scopus、中國知網（CNKI）、萬方、維普等6 個數據庫進行檢索，檢索時限為建庫至2022 年2 月16 日，并根據已檢索出文獻的參考文獻進行拓展檢索。檢索的關鍵詞為“倫理問題”“倫理風險”“風險與受益”“受試者保護”“自主”“知情同意”“公平”“公正”“安全”“尊重”“責任”等。

遵循代表性和權威性原則設置納入排除標準，對所檢索出的文獻進行如下處理：（1）按照代表性原則，盡量選取被引用率高、代表性強的文獻，以保證樣本質量；（2）按照概念的權威性原則，主要選擇有影響力的期刊中的文獻，排除公告、聲明等文本；（3）按照納入排除標準，由兩名經過培訓的研究者各自獨立進行文獻篩選，如有分歧先通過內部討論解決，若無法達成統一意見則咨詢本領域專家進行裁定。在篩選文獻時，首先閱讀題目和摘要，刪除重復或明顯不符合納入標準的文獻；然后全文閱讀，刪除研究內容不符的文獻。按納入排除標準和人工清洗后，最終獲得文本資料143 篇，包括英文學術文獻79 篇和中文學術文獻64 篇。

3 關鍵共性科技倫理風險研判

3.1 信息科學領域

數字經濟在推動社會發展的同時，數字鴻溝可能會帶來信息平權困境，對實現共同富裕帶來挑戰。信息化催生了新的信息弱勢群體，他們可能因為遭到人工智能（AI）技術中的算法歧視而無法公平地獲得信息資源，繼而損失有關健康、教育等基本權利，滑向社會經濟更低層次；同時，數字化技術造成的誘導需求、安全漏洞等問題可能影響相關產品受眾群體的自由意志和正當權益，分割信息技術應用主體的責權，破壞公平的市場規律和公共秩序，阻礙共同富裕的進程。因此，需要充分預判防范其中的倫理風險，從而發揮共同富裕的制度倫理價值。

人工智能是以互聯網、大數據、云計算為基礎，模擬、延伸和擴展人的智能的技術手段，在復雜決策、控制系統、仿真系統等應用中發揮巨大作用，其道德地位、算法公平、社會公正等內容成為了科技倫理的關鍵議題［1］。人工智能道德地位的界定是科技倫理辯護和法律規制的焦點，但其利益相關主體如設計者、制造者和使用者的責任、義務的界定頗為困難［2］。人工智能算法的不透明性會導致算法歧視，由此催生信息不公平和數據權利失衡［3］。人工智能可能對民眾意志產生誘導，通過算法推理、內容推送和圖示等影響個體信息接觸面，影響受眾情緒體驗和決策選擇，誘導人群作出非真實自我自由的選擇［4］，從而破壞市場的公平秩序。機器學習產生的深層假象（deep fakes）給公共安全帶來了巨大挑戰。深度學習能夠通過大數據深度偽造假視頻、假文本等假數據集，因此可能威脅公共秩序和市場的公平穩定［5］。此外，與人密切接觸的AI 設備的安全性、公平性存疑，如機器人手術往往存在著循證醫學證據不足、數據質量不佳、樣本量過小等問題［6］，鑒于高昂的費用，其投入與產出比可能不佳，因而導致衛生資源的配置不合理。

區塊鏈通過數據的存儲、認證、執行等技術打破跨部門間的數據壁壘，實現區域數據的流動、共享、透明化和溯源，在促進社會治理結構扁平化、公共服務透明化和構建自由開放市場中發揮重要作用［7］，但其中存在的隱私安全、個體主權、知情同意等方面的問題值得重視。區塊鏈智能合約的安全性存在巨大風險：由于智能合約依賴于數字代碼，可能因人為侵入、管理失誤、系統安全漏洞等無法正常運行［8］。區塊鏈具有去中心化的特點，使得對責任主體的界定極為困難，責任的追溯無法落實［9］。區塊鏈數據具有不可篡改性，基礎數據可以追溯個人元數據，造成隱私泄露的風險［10］。此外，智能合約參與者的匿名也給破壞市場規律和金融秩序、妨害公共安全等行為埋下隱患［11］。

3.2 生命科學領域

生命科學新技術對人群健康平權帶來巨大考驗，而健康平權是實現社會公平、促進共同富裕的重要基石。健康平權的困境主要來自6 個方面：一是生命科學新技術占用衛生資源而導致的分配不公問題；二是生命科學新技術帶來的人類基因天賦不公和健康素質差異；三是生命信息所有權歸屬的公平性問題；四是會聚技術中人機結合帶來的公民責任與權利匹配性難題；五是知情同意困境加重弱勢群體的風險-受益不合理問題；六是由于基因和神經信息等隱私暴露帶來的次生社會歧視。以上這些倫理風險在干細胞、基因技術、神經生物成像技術等中的具體呈現如下：

干細胞技術和基因技術為機體修復、改造提供了機遇，但其帶來的衛生資源占用、人類增強、基因歧視等問題可能造成健康權的不公。誘導多能干細胞極大程度緩解了干細胞來源緊缺的問題，但其商業化運作可能使社會經濟地位高層次人群占用衛生資源獲取健康利益［12］。生殖系基因編輯將造成嚴重的先天基因天賦不公，從基因編輯嬰兒事件可見，科技改造人類的狂熱內驅力仍然存在，因此須嚴格建制約束［13］；雖然體細胞基因編輯的研究可以得到倫理辯護，但基因修飾產生的人類增強也會造成基因天賦的不公，需要格外審慎［14］。基因專利權歸屬的爭議日益劇烈，雖然多個國家已經立法授予基因專利權，但基因密碼的所有權應該歸屬全體人類還是研究者，是應該保護研究者的壟斷利益還是維護基因提供者的利益，依然是基因信息權爭議的焦點［15］。區別于一般生物信息，基因信息具有高度敏感性，個人、家庭的基因密碼如果被暴露，其可能會受到基因歧視，以及影響其有關生育、醫保、就業、升學等社會權益［16］。

生物樣本數據庫有組織地大規模收集生物材料樣本并系統保存和利用生物信息，為精準醫學、人群基因組學等研究提供了必要條件，但區別于傳統臨床研究人體安全的第一考量，受試者信息保護應該成為生物樣本數據庫首要考量的倫理問題，以保證受試者的合理的風險與受益［17］。生物樣本數據庫的數據安全、知情同意困境有可能增加受試者風險。生物樣本信息的存儲亟須制定相關的標準，如語義異構、模式異構等［18］，數據保密需要解決數據入侵、數據主體身份被破解的風險等。樣本捐贈者實質上只被賦予受試者是否入庫的權利，并未被賦予按照自我意志運作自身生物樣本的積極權利，因此真實的知情同意難以達成，受試者的風險與受益存疑［19］。由于在生物樣本收集時無法精準確定實驗內容，因此無法采取經典的和層列式的知情同意程序［20］；在生物數據被調取研究的過程中，研究者可能因新的科學發現而產生新的研究需求，但難以保證其向受試者的主動更新告知［21］，且文化水平較低的受試者因理解力的限制而損失知情同意權。此外，生物樣本或信息的共享分配公平問題受到持續關注。生物資源不能作為商品進行交易，應該接受嚴格的監督，需要建立專家指導委員會、管理委員會、監督委員會實施共同管理［22］。

精準醫學以個性化理念為導向開發適合個體特質的診療方案，為精確判斷疾病、預測診療提供路徑［23］，但是，基因診斷的疾病并不一定是事實疾病，基因診斷帶來的過度診斷可能造成相關個體心理焦慮和醫療資源的浪費［24］。由于精準醫療具有高投入性，其可能擠占基本衛生服務資源，降低衛生體系的總體健康產出價值，拉低衛生資源的投入與產出比，造成實質上的衛生資源浪費［25］。精準醫學是一種轉化醫學，需要獨立的倫理審查，且由于其中涉及的科研單位和醫療機構主體多樣，審查的內容需要高度相關的專業知識，因此需要成立專門的倫理委員會實施審查［26］。因為精準醫學產出的效果極為復雜，因此要嚴格把控其療效和安全性，嚴格評價有關風險與受益比，保證受試者的利益［27］。

神經成像技術突破了傳統的結構成像功能，進一步完善了功能成像能力，但該技術的適用范圍可能突破了診斷與治療等傳統醫學目的，成為窺見受試者的心理、行為甚至遺傳模式等隱私的路徑［28］。功能成像能夠捕捉個體的意識、思維、認知和決策模式等個體內動力素質特征，如果在就業市場、醫療保險等領域中被濫用，那么可能產生嚴重的社會歧視［29］；語言加工、學習記憶、認知能力等信息也可能成為學生能力天賦篩選的依據，一旦被濫用，可能導致嚴重的教育不公平。成像技術與基因表達結合，可判斷代際遺傳和神經性疾病的關系，預測下一代或更遠代的發病情況，如果使用不當，那么個體或后代的神經遺傳信息隱私權極易受到侵犯并令其遭受社會歧視［30］。此外，由于神經成像技術具有暴露個人腦功能信息、干涉個人精神安全的風險，因而獲得受試者的知情同意具有一定難度，受試者的權利保護成為重要的倫理議題［31］。

腦機接口是具有代表性的會聚技術之一，通過收集、分析神經信號并采用算法加以轉化，實時操控聯結的設備來達到神經康復和人體外部輔助等目的，必須要重視電子元件和人體相連接時的技術安全性問題，因為外部程序能夠影響人腦功能、干預自我認識和意志，所以需要高度重視如何預防外部程序違背人類意志、產生危害人類的行為［32］。腦機接口輔助的患者的行為責任界定極為困難，由于受到外部程序的影響，人格同一性的前提難以保證，行為到底是出于人的自我意志還是程序推演難以明確，因此行為追責極為困難［33］。和神經成像技術類似，腦機接口可被用于人類潛意識探測，因此也可能暴露神經隱私、干涉個人精神安全［34］，為社會歧視埋下隱患。更為棘手的是，需要腦機接口輔助的受試者可能無法保持清醒意識，例如閉鎖綜合征患者，那么就意味著受試者真正的知情同意無法達成［35］。

3.3 新材料科學領域

新型結構和功能材料由于具有獨特的結構、形態和表面性能，在能源、光電、生物醫學等領域得到了重要運用。生物新材料通過生物合成為機體提供生物材料，新型智能材料因自適應性反饋功能而在生物醫藥、智能交通等領域具有重要的應用價值，但是新型材料可能帶來的人類增強將造成健康權的不公，其高昂價格可能造成衛生資源的不合理配置，其帶來的人體危害和環境污染尤其值得重視，須謹防弱勢群體淪為新型材料生產風險、環境風險的受害群體。新型結構和功能材料與醫學的結合可能打開人類增強之門，威脅社會公正，例如，使用碳納米管制造的人造肌肉可用于治療運動系疾病，但如果超出治療范圍應用，使正常機體擁有超常運動能力，這就可能引發新的社會不公［36］。同時新型材料的遠期治療效果尚需要循證依據佐證［37］，如陳黃敬一等［38］、Sethuraman 等［39］的研究表明，納米材料在激活免疫應答、納米多糖在修復心血管系統、活性玻璃在創面黏合、特殊載體在靶向藥物治療中應用等方面的研究仍有待深入；而昂貴的費用可能造成患者的沉重經濟負擔，不確定的治療效果帶來健康風險，因此，衛生資源的投入與產出比可能被拉低。生物合成材料的應用也存在此類問題，如合成生物學將基因、酶等核心生物元件整合為自然界不存在的生物系統，合成體的穩定性往往存疑，毒性生物元件的識別具有難度，因而可能產生生物相容性差、免疫原性大等副作用［40］，影響到受試者或者患者的風險與受益。

新型材料的研發和應用可能存在人體危害和環境污染，需要重點防范，尤其要注意弱勢群體保護。新型結構和功能材料的生物毒性及不穩定性可能危害人體健康，如人體吸入納米材料可引發致命性肺損傷［41］；新型材料在環境中的沉積可能造成生態污染，其生物毒性可能通過土壤、糧食、牲畜的吸收發生富集，并通過生物鏈傳遞至人體［42］；生物新材料合成體可能因基因變異、基因逃逸而使特定遺傳物質擴散到環境的其他有機體中，形成新的物種甚至新的病原生物，嚴重威脅生態安全和公眾健康［43］；新型智能材料生產過程中使用或產生的材料如石墨烯等也可能造成環境危害，新型智能材料研發水平領跑的國家如英國極其重視智能材料產業環境污染的防控，新型智能材料的環境風險可見一斑［44］。基于以上風險，要尤其注意避免經濟不發達地區的弱勢群體淪為生產風險、環境風險的承擔群體，因此有必要對新型材料的研發和生產的選址、用工等進行嚴格規定。

4 重點科創領域倫理治理推進路徑及案例

4.1 三階元治理倫理治理路徑

基于新興科技活動的倫理風險，浙江省有必要有針對性地開展科技倫理治理。共同富裕的政策倫理價值在于通過構建公平公正的治理秩序，賦權治理主體共同參與，促進治理主體的自我成長，體現民主的工具理性和社會主義的價值理性，從而指引共同富裕的取向、完善共同富裕的機制。然而，傳統的倫理治理模式難以滿足這一需求，創新倫理治理模式亟須開拓，需要回答倫理治理的切入點、責任主體和實現路徑等3 個核心議題。1975 年美國召開的阿西洛馬會議明確將預警性思考作為應對新技術帶來的倫理風險的重要原則，呼吁將預判科技倫理風險視為有效治理的起點［45］。這次會議是倫理治理演進的一個里程碑，標志著前瞻性倫理治理新時代的來臨。針對科技倫理治理責任的歸屬問題，中國科學院院士許智宏主張科技倫理問題的防范與治理不只是科學家的個人責任，應該由政府、學術團體、媒體和公眾等共同參與，因此，應以多元主體共同參與的倫理治理網絡作為框架。由于新興科技具有前沿創新性、動態變化性和多元互動性，政府科層式治理難以快速回應科技倫理治理需求，因此宜采用強政府、強社會的元治理邏輯。借鑒諾貝爾經濟學獎得主奧斯特羅姆的治理理論模型［46］，在元治理中，政府應承擔建立上游規則、提供政策保障、促進監督落實的三階治理責任，科研單位、學術團體、研究者、受試者、社會公眾等主體應共同承擔倫理審查建制等二階治理責任以及科技倫理培訓、科普等一階治理責任。多元主體共同參與的元治理路徑較好地契合共同富裕的政策倫理價值，通過對多元主體的公平賦權，規避在科技倫理治理決策中的政府失靈現象，以及治理落實中的利益相關者癱瘓，給予社會經濟弱勢地區、弱勢群體共同治理話語權。

4.2 浙江省基于元治理的科技倫理治理實踐

浙江省業已開展多元主體共同參與的元治理科技倫理治理路徑的探索，其中重要的嘗試是進行數字一體化發展的倫理治理。數字化改革是浙江省深化社會經濟改革的總抓手，早在2003 年，習近平總書記提出“數字浙江”建設；2014 年，浙江省全面實施“四張清單一張網”，促進信息技術在公共服務中的應用。信息化技術極大程度地提高了浙江省公共資源的利用效率，截至2021 年 6 月底，浙里辦APP 為6 900 余萬名用戶提供了3 642 項政務服務事項［47］；全省電子商務、企業互聯網平臺2021年實現網絡零售額25 230.30 億元［48］。然而，其中所包含的數字信息安全、隱私保護、數字鴻溝等科技倫理焦點問題已經引起浙江省的高度重視。在科技倫理治理中，浙江省政府作為元治理者行使三階治理職能，不僅需要推動信息技術倫理治理上游制度的完善，還要為多元主體的共治提供基礎治理平臺，為此，通過立法保障數據人格權以應對過度采集公民信息、數據隱私保護問題，為倫理治理提供上游保障。《浙江省數字化改革標準化體系建設方案（2021—2025 年）》明確提出要促進數字法治在內的五大系統標準體系的基本建成，為科技倫理治理提供政策指引。同時，浙江省還促進多元主體參與一階、二階治理，具體做法有：一是建立良好的領域內自糾自查倫理生態，構建適合信息技術開發群體特點、協作習慣的倫理自查自糾社區機制，推動自我倫理監督；二是建立信息化領域倫理專業指導委員會、審查委員會，制定信息化科技倫理治理的專家共識，開展重大科研項目的倫理審查、追蹤、監督和指導；三是依托信息化技術優勢，建立特色領域的倫理治理信息化平臺，設立公共專家庫，采用信息化管理工具降低倫理治理措施落地的技術門檻；四是拓寬民眾參與治理的途徑，建設民主促民生公共治理平臺，開展了“12345”市長熱線、民意直通車、民主懇談會等特色治理實踐。

5 總結與展望

浙江省作為我國建設的共同富裕示范區，在促進社會公平、公正和高質量發展中需要重視在“互聯網+”、生命健康和新材料技術發展等帶來的倫理風險。研判新興科技的潛在倫理風險是科學建制的基礎，這些新興科技對社會經濟發展帶來深刻影響，如產生信息平權困境、健康權利的不公等問題，繼而可能影響公平公正的市場秩序、造成公共資源的不合理配置，損害社會經濟欠發達地區和弱勢群體的福祉，最終對共同富裕造成阻礙。對關鍵技術領域的倫理治理需要構建公平公正的治理秩序，賦權治理主體共同參與，指引共同富裕的取向，完善共同富裕的機制。多元主體共同參與的元治理路徑較好地契合共同富裕的政策倫理價值，浙江省政府需要在其中擔當元治理者的角色，完善科學技術倫理治理的上游制度，同時為多元主體的共治提供基礎治理平臺，促進科研單位、學術團體、研究者、受試者、社會公眾等主體共同承擔一階、二階治理責任。目前，浙江省業已探索開展多元主體共同參與的科技倫理元治理路徑，在數字一體化發展的倫理治理中促進多元主體倫理治理責任的落實。

綜上，來自于共同富裕示范區科創高地建設的科技倫理風險預判，可為國家制定清單提供參考，而多元主體共同參與的元治理模式，可為實現共同富裕政策倫理價值指引下的工具理性和價值理性提供思路。