新時代高科技倫理的困境與應對(下)

致毀知識增長與科技倫理失靈：高科技面臨的巨大挑戰與機遇

劉益東 中國科學院自然科學史研究所研究員

近年來，高科技在快速發展的同時，科技風險、科技倫理問題也越來越成為社會各界熱議的話題。2018年新學期開始，哈佛大學、斯坦福大學、MIT等美國高校開設人工智能倫理、數據科學倫理、技術倫理、機器人倫理等新課，這是對公眾因人工智能等新技術感到擔憂的回應。國內科技倫理研究也紛紛上馬。人們普遍認為，只要加強科技倫理研究和實施，就可以解決科技風險問題。但是，這也許是一個錯誤判斷。筆者提出 “致毀知識”概念并以其增長、傳播、擴散、應用、禁止、治理等為研究對象開展科技巨風險研究至今20年，主要結論是：在知識極易擴散的互聯網時代，科技倫理因不能約束所有研發活動而失靈，目前興起的基因技術倫理、人工智能倫理等尖端科技倫理難以奏效，這是世界面臨的史無前例的嚴峻挑戰！本文主要探討科技危機、科技倫理失靈與科技總體安全觀和科技底線倫理，以及高科技面臨的巨大挑戰與機遇。

1 致毀知識增長和科技倫理失靈導致的科技危機是人類面臨的最大危機與挑戰

1945年原子彈爆炸后， “科技發展下去將發生毀滅性災難甚至毀滅人類”逐漸成為流行的觀點，但并沒有得到學術界和社會主流的認可，迄今科技發展的樂觀派仍是社會主流。筆者于1999年提出 “致毀知識”概念，并以其為研究對象開展科技巨風險研究。所謂致毀知識是可用于制造毀滅性武器等導致毀滅性災難的各種產品或方案的核心原理、核心技術等核心知識，如核裂變知識、鏈式反應知識、DNA重組技術和基因編輯技術。核心問題包括三個前提和一個問題，三個前提是 “尖端科技的正負效應不可抵消、科技知識增長不可逆、知識與應用具有連鎖效應”，一個問題是 “在科技知識增長的同時，能否阻止其中一類破壞力極大的科技知識——致毀知識——的增長與擴散? 能否有選擇地生產知識？能否有選擇地進行創新？”尖端科技正負效應不能抵消、不能彌補，即無論尖端科技的正面效應(如核電站、核醫學)多大，也無法抵消、無法彌補其負面效應(如核武器災難、核事故)，是 “一壞遮百好”，是可以揚長卻不能避短。研究表明，致毀知識增長與擴散是不可逆和不可抵消的，在目前世界主流科技與經濟發展模式下，致毀知識的增長與擴散又是不可阻止的，這意味著人類面臨毀滅的危險是不斷累加和遞增的，達到一定程度必然會發生毀滅性災難，而且這種不可逆增長的危險累進方式，使得毀滅性災難發生的幾率越來越大，如不及時制止，必然直至爆發。這是科技的生存危機(簡稱科技危機)，也是人類面臨的最大危機和挑戰。

2 科技倫理失靈

為了治理科技風險，容易想到的是加強科技倫理研究和實施。但是，筆者注意到：實際上科技倫理并不能約束所有科技專家和所有實驗室的科研行為，使本應禁止的某些科研活動得不到有效禁止而使得科技倫理失靈，在知識極易擴散的互聯網時代和尖端科技領域，科技倫理失靈尤為嚴重。科技的特點決定了只要不能約束所有人的研發行為(如不能約束軍方和創客、黑客)，少數人研發的成果同樣可以擴散而導致科技倫理失靈，因為一項科研成果被發現1次和被發現100次是一樣的。這與社會生活不同，社會上大多數人遵循倫理就有較好效果，少數人違反倫理的危害是有限的。法律硬約束都難以禁止違法之事，倫理軟約束更是難以限制，學術研究的復雜性為陽奉陰違者提供了借口和便利。可見科技倫理有效的條件十分苛刻，在目前條件下，尖端科技在法律保護下用于軍方武器研發是不可避免的，黑客、創客不受倫理約束，企業研發機構也不會因易于有危害的轉化而束手束腳，科技倫理失靈是不可避免的。霍金、伊隆·馬斯克等上千名知名科學家和人工智能專家于2015年簽署的公開信指出，AI武器將在幾年內就會出現，這將帶來極大風險，警告不要進行AI軍備競賽，敦促聯合國發布針對 “攻擊性自動化武器”的禁令。顯然，這項努力不會奏效，因為無法禁止軍方進行防御性AI武器的研發，更不能禁止黑客和恐怖分子進行武器研發。軍方研發的AI武器的核心知識 (即致毀知識)很容易擴散，與制造核武器依賴稀缺的原材料不同，制造AI武器、基因武器并不需要稀缺的原材料。以基因編輯技術為例，有一定高等教育背景和生物學基礎者，兩年左右就能夠掌握，生物創客、極客、極端分子、軍方研發以及一些不顧及科技倫理而研發容易轉化為生物武器的產品的高科技企業，都可能制造基因武器或類似產品，危害社會。因此，加強科技倫理研究和實施、讓科學家遵從安全規范、加強安全監管等措施并不意味著就可以解決科技風險問題，實際情況要復雜得多、嚴峻得多，要面對科技倫理失靈和安全監管失靈這些不利條件，思考真正有效的應對之策。

3 科技總體安全觀和科技底線倫理

為了應對科技倫理失靈，筆者提出科技底線倫理作為新的科技倫理，它基于科技總體安全觀，科技的總體安全包括底線安全、人類安全、可持續安全。底線安全就是即使軍事應用、惡意應用和濫用也能避免或也能承受或也能化解的科技才是可以接受的科技，一項科技是否應該發展首先不取決于其正面效應，也不取決于為其采取了多么嚴格的安全規范和安全措施，而是首先取決于其負面效應的嚴重性，取決于社會能否承受、化解、抵消該科技的負面效應。在此基礎上，筆者提出科技底線倫理，它是為了實現科技底線安全與可持續創新所規定的科技工作者及其共同體應恪守的價值觀念、社會責任和行為規范。科技底線倫理包括四項基本原則：①以不能威脅人類生存為最高原則，凡是與此相悖者，必須改變或停止，因此需要確立技術有禁區、科學也有禁區的原則，因為科學上的突破可能會被用于技術開發，越是威力巨大的科學發現越是如此，原子彈的研發就是明證；②科學研究底線安全原則，基礎研究等科研要確保致毀知識零增長，因為正負效應不能抵消，所以盡管會出現不可預知的好結果，也不能抵消壞結果，因此只要有可能產生危害社會的成果就應該叫停，如 《中國科學院關于科學理念的宣言》所述 “要求科學工作者更加自覺地規避科學技術的負面影響，承擔起對科學技術后果評估的責任，包括：對自己工作的一切可能后果進行檢驗和評估；一旦發現弊端或危險，應改變甚至中斷自己的工作；如果不能獨自做出抉擇，應暫緩或中止相關研究，及時向社會報警。”例如，即使人工智能不超過人類，只要人工智能發展下去要產生致毀知識，就必須叫停；③技術開發底線安全原則，以知識擴散不可避免為前提制定措施，例如，只要人工智能武器 (即使以防御為目的)被開發，其核心知識就遲早會擴散到社會，為恐怖分子等所利用，因此必須禁止研發人工智能武器，如果無法禁止，則科技界不能繼續相關研究以避免被用來研發人工智能武器；④全體持續底線安全原則，尖端科技是揚長不能避短、正負效應不能抵消，需要全體研究者長期恪守底線，獨善其身是不能解決問題的，如果無法做到，就只能廣泛設置禁區群加以強行限制。

綜上所述，重視科技的底線安全極為必要。以人類視角考慮，目前擁有的科技已經很多，如果善用已經可以給人類相當多的便利和福祉，冒著越來越大的風險去發展尖端科技是否值得？至少發展那些高危的尖端科技肯定得不償失。當然，如果用個人 (科學家等)視角、集體 (包括企業和國家等)視角考慮，則是寧可在爭議中冒險發展。顯然，用人類視角思考人類未來更合理，更符合可持續發展的長遠需要。值得注意的是，科技發展的樂觀派與悲觀派是不對稱的，如果作為目前國際國內的主流看法的樂觀派是正確的，未來發展就是趨勢外推，則我國將在相當長的一段時間內處于追趕西方發達國家的狀態之中；反之，如果筆者的研判正確或基本正確，則局面完全不同，西方發達國家因路徑依賴、積重難返而難以及時轉變，我國卻具有后發優勢，可率先發動以社會科學與交叉科學崛起為特征的新科學革命、以受控技術崛起為特征的新技術革命、以智庫與文創產業崛起為特征的新產業革命，完全可以徹底擺脫修昔底德陷阱，建立人類視角下的人類命運共同體，引領世界的和平發展和永續繁榮。

人工智能安全風險挑戰與法律應對

袁立科 中國科學技術發展戰略研究院科技預測與評價研究所研究員

當前，人工智能技術迅猛發展，表現出與人類歷史上以往技術變革迥然不同的特征，正在重塑人類的生產和生活空間。人工智能不僅具有深度學習能力，而且將具有主動學習與創新能力，未來甚至可能擁有超級智能。人工智能的發展促進了人類社會進步，同時也將引發社會變革和各種新的風險，應該未雨綢繆、規范先行。

1 人工智能技術正從監督學習走向強化學習，未來可能出現超級智能

2017年10月18日， 《Nature》發表DeepMind的圍棋人工智能新成果AlphaGoZero，不需棋譜數據和先驗知識，通過強化學習算法創新以100:0完勝AlphaGo，探索了特定應用中不依賴領域數據，通過自我學習獲得強大推理決策能力的人工智能技術發展新路線。2018年12月7日，DeepMind的最強棋類算法 AlphaGoZero 作為 《 Science》封面論文發表，正式引入學界和公眾的視野。而且，除了圍棋，AlphaGoZero自學了另外兩種復雜棋類游戲——國際象棋和日本將棋。AlphaGoZero不再被人類認知所局限，能夠發現新知識、開發新策略，它讓深度學習用于復雜決策更加方便可行。從AlphaGo到AlphaGoZero,體現了機器學習技術的快速迭代和進步方向。2017年10月26日，沙特阿拉伯授予美國漢森機器人公司生產的機器人 “索菲亞”公民身份。這件事目前更多的是一種噱頭，它給我們的啟示更多的是提醒我們人工智能未來發展出超級智能的一種可能性，并引發人們對出現這種可能之后需要如何應對的思考。

2 人工智能沖破人類控制的風險初現端倪

人工智能的發展具有階段性，其可能引發的安全挑戰也表現出不同特點。目前，人工智能正處于從弱人工智能向強人工智能逐步發展的階段，近期更多的是需要應對技術的不完善或濫用帶來的安全問題；遠期需要防范其可能產生超級智能而帶來的不可控性。

一是算法模型的復雜性，易導致結果不確定性。以深度學習為代表的智能計算模型體現出很強的學習能力，但目前的機器學習模型仍屬于一種黑箱工作模式，對于人工智能運行中發生的異常情況，人們往往很難對其原因做出合理的解釋，開發者也難以準確預測和把控智能系統運行的行為邊界。如2017年人機圍棋對弈中，AlphaGo多次弈出 “神之一手”，很多人表示難以說清楚其決策的具體過程。而且，從監督學習進入到強化學習，沒有任何人類知識的AlphaGoZero在自我對弈的初期常常出現一些毫無邏輯的詭異棋局，后期也會有出其不意的打法。當越來越多的智能系統替代人類做出決策、影響大眾生活的時候，人們需要能夠對其結果的合理性、安全性進行準確評估。

二是技術濫用、管理缺陷引發的安全威脅。人工智能技術本身并無好壞之分，運用結果取決于人們使用的目的與管理過程。政府和職能部門、網絡服務供應商、商業公司，如不能公平、正當守法使用和管理隱私數據，將引發 “隱私戰”。從全球來看，谷歌、蘋果、微軟等通過收購等方式，不斷聚集資本、人才和技術壟斷優勢，形成 “數據寡頭”或 “技術寡頭”的趨勢增強，可能會產生 “數據孤島”效應，影響人工智能發展的透明性和共享性，與政府的博弈將越發激烈。

網絡黑客可能會通過智能方法發起網絡攻擊，加大個人、企業、政府網絡運行管理風險，影響社會穩定。智能化的網絡攻擊軟件能自我學習，模仿系統中用戶的行為，并不斷改變方法，以盡可能長時間地待在計算機系統中。如果安全防護技術或措施不完善，無人駕駛汽車、機器人和其他人工智能裝置可能受到非法入侵和控制，這些人工智能系統就有可能按照犯罪分子的指令，做出對人類有害的事情。

三是超級智能的出現會帶來巨大的不可控性。隨著人工智能的快速發展，智能機器人擁有越來越強大的智能，在很多能力上都將超過人類，而沒有自我意識的人工智能終將是人類的助手。比爾·蓋茨、斯蒂芬·霍金、埃隆·馬斯克、雷·庫茲韋爾等人所擔憂的遠期風險是，未來機器人或其他人工智能系統能夠自我演化，并可能發展出類人的自我意識，從而對人類的主導權甚至存續造成威脅。盡管我們還不清楚這種超級智能或 “奇點”是否會出現，但考慮到技術發展的不確定性，仍需要在法律制度、倫理規范等各方面做好充分準備，并在沒有把握對其能夠妥善應對之前，避免人工智能向這一方向發展。

3 人工智能安全發展亟待規范先行

人工智能的迅速發展將深刻改變人類生活、改變世界，給當前的法律規則、社會秩序、道德標準和公共管理系統帶來前所未有的挑戰。在民事主體法律、侵權責任法律、交通法律、勞動法律等諸多方面，不僅缺乏有效的法律產品供給，而且與現行的法律秩序相沖突，甚至顛覆我們已經構成的法律認知。人工智能技術的發展可使犯罪工具和犯罪手段更加智能化，違法行為危害性正在發生 “量變”，甚至引發 “質變”，新的違法犯罪形式也會層出不窮。因此，需主動應對其技術發展的不確定性所帶來的新的風險和治理挑戰，一方面從國家法律規制、科學家自律及社會監督等方面規范先行，提前布局、審慎應對；另一方面要從技術上對人工智能的發展有所制約、有所設計。

一是分步驟、有序推進人工智能立法。人工智能技術發展迅速，滲透到經濟、社會的方方面面，意味著立法者必須全面審視現有法律框架，并使其適應不斷變化的社會需求。按照 “急用先立、成熟先立”的原則，針對新產業新業態的發展需要，加強對現有法律法規的修訂和解釋工作。同時可以由國務院等部門出臺個人信息保護、數據資源管理等法律條例，之后在實踐中修改完善，待條件成熟后再上升為國家法律。在已經商業化或產業比較成熟的人工智能特定應用領域，如無人機、機器人等，基于地方和行業出臺的一些臨時性應對政策基礎上，國家層面應加強研究儲備，適時出臺統一法規。

二是構建國家法律規制、科學家自律及社會他律監督， “三律結合”的規范調控體系。開展 《人工智能安全保障法》前期戰略研究，制定出臺 《人工智能研究開發安全保障管理細則》，推動試行 《人工智能及機器人推廣應用管理辦法》，在國家層面建立一套公開透明的人工智能監管體系，實現對人工智能算法設計、產品開發、數據采集和產品應用的全流程監管，確保算法及其決策可以有效接受中立第三方或者監管機構的審查，實現算法決策的透明性和公平性。制定 《人工智能安全與倫理準則》，引導行業組織發起設立人工智能發展自律公約，將價值與規范嵌入人工智能系統。

三是立法設立負面清單，防范人工智能 “作惡”。加強前沿智能技術預測、研判，研發更為透明、可解釋性更高的智能計算模型，降低智能系統行為的不可預知性和不確定性。對人工智能的發展規劃和前沿技術的研發進行審慎評估，在可能引發人工智能不可控發展的技術領域，立法設立紅區或研發限制規范。同時，研究人工智能自我終結機制，從底層固件構建 “安全防火墻”。

四是積極參與人工智能全球治理和安全國際規則的制定。宜貫徹人類命運共同體理念，支持科研團體、專家學者、企業廣泛開展國際人工智能安全發展合作，主動搭建人工智能國際法律、政策等制度建設合作平臺，積極參與國際標準和規則制定。針對機器人異化和安全風險管控、治理等重大國際共性問題，加強立法政策研究，提出中國方案，貢獻中國智慧，發揮中國作用。

偽生態的倫理與教育分析

范春萍 北京理工大學人文學院編審、教授

隨著生態環境問題加劇引發的公眾焦慮和生態意識覺醒，以及國家對生態文明建設的強調， “生態”具有了符號、導向、履行職責、回應訴求，以至時尚的功能。然而，與實質性生態文明建設需要相匹配的 “真”生態素養、生態教育、生態判斷力、生態決策力等卻都沒有跟上。此時，出于政績需要、包裝過關需要、眼球博彩需要、附庸風雅需要等，及至出于真心想做些生態建設的愿望卻因缺乏相應判斷力而走向反面的情況，許多產品、課題、工程、商業行為等，都穿上了生態的外衣，致使偽生態大行其道。

1 偽生態及其危害

所謂生態，是指地球生物圈或區域生境中生物的生存狀態以及生物彼此之間、生物與環境之間的相互關系，后被引申到不同領域，用以指代系統或人群的相應狀態和關系。由于原本研究的是在未受干擾的自然情境下的狀態和關系，因此在不同語境下， “生態”一詞常被用來指代或形容生態狀況的好，或某些產品、舉措、行為等符合生態要求。

在這個意義上， “偽生態”即指或貌似或假借或偽裝生態，實質卻是非生態、反生態、毀生態。環顧周圍人工環境和社會事務，小到種草植樹鋪路，大到前沿重大科技工程、政府工作規劃，偽生態現象如同魔咒附體，鬼影幢幢。

有時， “生態”和 “環境”在一些語境下，可以互用。與偽生態相應的，還有偽環保，道理相近，如出一轍。

例如：社區或校園中，原本野草野花喬灌交映、蜂蝶齊舞、鳥鵲合鳴，非常豐富的一塊自然生境，卻無端地被蕩滌干凈，種上清一色的單一草坪、矯飾的盆栽，或等距或錯落地碼排上單品種松、柏、銀杏之類 “美化”樹種，再裝點些彩燈、噴泉；甬路鋪設透水磚，下面卻是水泥墊底；打著生態建設旗號的城市河湖景觀性修復；大樹進城，根雕藝術，等等。

另如，一浪高過一浪的 “調水濟疆” “重建新疆美好生態”運動：先有 “泵渤海之水西上”的 “引渤入疆工程” “挖隧道引藏水入疆”的 “紅旗河工程”，后有號稱天地一體、以航天衛星協同監測，從空中搬運水氣入疆的 “天河工程”。專家大佬齊上陣，你方唱罷我登場。

又如，許多占有強勢區位或財大氣粗的地方政府，在做自己的區域規劃時，紛紛把遠方的水源規劃進去；一些生態建設示范區的規劃、一些海洋生態項目的規劃一點兒都不生態，有的甚至直接說 “生態搭臺經貿唱戲”；還有生態學家為了長江黃金貨運水道，帶領團隊論證必須炸掉包括南京長江大橋在內的沿江十幾座 “矮橋”，改建可以讓萬噸以上巨輪穿橋而過、直達重慶的 “高橋”。

再如，許多理論，或為理論探尋本身，或在以理論作為政策支撐的研究中，在 “以人為本”框架下，導出的許多結論不僅傷害生態，而且最終必將傷害人類。

偽生態比直接明了的生態破壞危害尤甚。因為技術演化到今天，已經到了只要人類行動就會傷害生態環境的程度。盡管如此，考慮生態因素的行為和舉措也還是會比不考慮有所不同。如果某事項因確有其他不可抗拒的理由而必須做，那么明確講清其可能會對生態環境帶來什么樣的破壞，可能在未來形成什么樣的傷害，就可以在規劃中盡最大可能地減少傷害和破壞，起碼預先規劃出對傷害和破壞的某些補救措施。如果經過嚴謹、誠信的評估，判斷對自然形成的負擔超過生態承載力，或傷害不能消除，則可以改變或取消規劃。而偽生態打著生態環保的幌子，混淆觀念、蒙蔽視聽，將輿論導向、經濟生活和生態文明建設等引向歧途。而事情一旦走入歧途，再想校正回來代價相當慘重，將不但造成龐大的經濟損失，浪費健康發展的機會，而且所造成的進一步的、環環相扣的生態破壞基本不可逆。

2 如何辨別偽生態

辨別偽生態的第一法寶是生態倫理學宗師利奧波德 (Aldo Leopold)所指出的 “像山那樣思考”：想一想自然生態系統本來的樣子、應該的樣子；問一問如果這樣做， “山”會有什么感受；所造成的自然改變有沒有辦法補救，所阻斷的自然循環有沒有可能代償？單因素代償夠不夠，其他因素有沒有考慮周全？

這里需回顧一下利奧波德領悟到的自然奧秘的殘酷故事。20世紀40年代下半葉時人類對自然界的認識還很有限，認為狼是有害的，殺死狼可以保護鹿，沒有狼的世界就是獵人的天堂。那時的美國人，都以射殺狼為正義之舉。利奧波德在沙郡農場進行土地恢復實驗期間，某一天，他看到懸崖下一只狼從河水中爬上岸，六只小狼歡天喜地地簇擁過來迎接母狼。槍法不太準的利奧波德扣動了扳機。當來復槍內的子彈射光之時，他看見母狼倒了下去，小狼們逃散，一只小狼拖著傷腿躲到巖石背后。利奧波德來到母狼前，撞見母狼眼中難過、驚懼、垂死的綠光，他從這雙狼的眼中看到了某種他從前不曾領悟的東西： “那似乎是只有母狼自己和山才了解的東西。”自此以后，利奧波德再未殺過狼；他開始努力從狼和山的角度理解人與自然的關系。利奧波德還專門為殺狼的事寫了一篇著名札記 “像山那樣思考”，進行了諸多倫理考察和理論研究，提出大地倫理概念；提出人類應該與自然和諧相處，共同生活于大地之上。利奧波德的 “大地” “山”，就是今天所說的生物圈、生態系統。

人類歷史上像美國人殺狼造成鹿泛濫、植被被啃光、餓死的鹿尸橫遍野，生態系統遭到全面破壞，不尊重自然規律，唯我獨尊受到自然懲罰的例子比比皆是。自然生態系統經過億萬斯年的進化發展到今天，是承載人類所有活動、所有生存條件的依托，是不可取代、不可再生的。而今，生物圈已經處于崩潰邊緣，再也承受不了更大的破壞了。

人類今天必須明白一個道理：只要違背生態規律，特別是試圖大范圍、大跨度地改變自然面貌，不管披著怎樣的高科技外衣、舉著多大的專業招牌、打著怎樣的生態幌子，都可以判斷其是偽生態的。偽生態會為腐敗或蠻干者庇護遮羞，影響公眾共識、影響健康的文化基因傳承、影響國家決策，貽害無窮，更使生態文明建設、可持續發展淪為空談，必須扼制、抵制。

3 倫理和教育分析

偽生態大行其道，究其原因無非兩種情況：一是無德；二是無知。這種無知有時單純地表現為知識缺乏，有時是知識結構偏頗并以此導致不同的價值觀，形成不同的判斷。

無德與大小官場懶政、腐敗互為因果，其中也關聯著 “以學術權力謀取非學術利益、以非學術權力謀取學術利益”的學術腐敗。無知導致嚴重的能力缺位，致使無從判斷所做事情的生態后果。管理部門常從程序正義出發依賴一些專家、智庫決策，而這樣的專家們也存在兩種可能：一是知識結構不合理造成判斷偏頗；二是懷著某種小心思、大圖謀，與利益相關方互通款曲。最后的結果就是，偽生態上馬，生態遭到破壞，當代人的生存環境、后代人的發展希望雙雙被葬送。

事關職業和職責的所謂倫理，無非相關者各明其責，各擔其責。明責、擔責者符合倫理，混淆視聽、推諉責任，胡作為、亂作為者，或假公濟私者，則違背倫理，亦為無德。而現狀是，許多情況下，只管程序、符號合規，而不顧實質責任是否得到了履行。特別是有些真專家充當偽生態工程的開路先鋒，以生態學家身份從事偽生態工程的調研論證，竟還是一幅洋洋自得的架勢。

擔責的前提是明責，而生態職責的明了，與是否具有相關知識高度相關。對于因無知而造成錯誤判斷、錯誤決策的情況——只要明責即會擔責的情況，需要也可以通過生態教育來解決。另一種情況就是因無德而有意造成錯誤決策的情況，不僅事關生態(環境)教育，還關涉倫理教育。

生態教育的目的在于使受教育者了解生態知識、掌握生態規律，能夠理解 “山的想法”。這樣的教育，一方面要通過書本知識學習，另一方面也需要走進大自然，在與自然的接觸中領會，這一點對于從小沒有機會接觸自然的 “城里人”尤為重要。生態教育是非常緊迫的事情，真正的千年大計、萬年大計，應該從幼兒園到大學都安排這樣的學習程序和學習機會。

相對于生態教育，倫理教育則復雜得多。因為生態教育更多的是知識的學習和領會，而倫理涉及人的品德、靈魂和價值觀，有時又與利益糾扯在一起。而價值觀，是需要達成共識才能形成引領社會行為的價值取向的。

中國的倫理教育需要完成的是啟蒙任務，是一個疊加人類第一次啟蒙和科技高度發展、生態系統面臨崩潰危機所要求的第二次啟蒙的緊迫任務，是需要政府、學界、社會各界真正重視，所有人參與討論、相互啟蒙才能完成的任務，非常艱難。

綜上，對于偽生態這樣嚴重的問題，應該警醒并提上解決日程。

以法律制裁侵害社會的科學

田 松 北京師范大學價值與文化研究中心、科學史與科學哲學研究所教授

賀建奎之基因編輯嬰兒事件，是一個標志性事件。它標志著中國公眾對科學活動之基本態度的方向性轉變，從無條件相信走向懷疑和質疑。從科學和倫理的邏輯，基因編輯嬰兒與轉基因只有程度的差別，所有用來反駁反對轉基因的理由，都可以用來反駁對基因編輯嬰兒的反對。

你說技術上不可靠、不成熟、不必要；他就可以說，技術要進步，進步就需要探索，探索就要有代價，總得有第一個，不能因噎廢食。你說政策上不允許，他可以說政策也是會變的，還動不動就拿布魯諾做例子。你說倫理上不允許，他可以說倫理總是滯后的，以前不合乎倫理的，現在也被接受了。以前對人體胚胎嚴格禁止實驗，不也放寬到14天了。能放寬到14天，就能放寬到140天、1400天……這種辯護邏輯，挺轉科學家運用得一向非常熟練。而意外的是，以往支持轉基因的 “知識分子”微信公眾號，這次卻率先發布一批包括挺轉人士在內的科學家反對賀建奎的聲明——這對輿論的徹底反轉起到了關鍵性的作用。這意味著，基因編輯嬰兒的確觸碰到了人類的某一條底線。

然而，即使輿論如此激昂，科技部也表示 “將按照中國有關法律和條例進行處理”，但是中國現行法律對賀建奎完全沒有約束，也就是說，賀建奎編輯嬰兒基因，不觸犯任何法律！

至于倫理條例，仔細研究就會發現，他所能夠遭到的最嚴厲的懲罰，也無非是開除公職，不讓他在南科大上學而已。而這對賀建奎來說，根本就算不上懲罰，他本人早在半年前就已經停薪留職，且他的公司可調用大量資金。也就是說，他如果不要職稱、不要公職、不想發表文章，但是接著創造基因編輯嬰兒，這個社會竟然拿他沒辦法，除了罵他！

而在人們的罵聲之中，還會有人把他當作為科學進步、為人類未來永遠免除遺傳性疾病而勇于、甘于下地獄的英雄！——我相信這樣的聲音很快就會浮現出來。

此事倫理上的是非姑且放在一邊，幾十年后看賀建奎是勇于上火刑柱的布魯諾還是科學罪人，也先放在一邊。問題在于，就在當下，賀建奎公然挑戰社會的基本觀念，對社會構成了傷害，而社會卻沒有自我保護的能力。

在以往的科學主義意識形態之下，人們無條件地相信科學會為人類造福，并且只會為人類造福。即使在原子彈給出了核冬天的可能性之后，即使在 《寂靜的春天 》闡釋了農藥對生態與人類的系統性傷害之后，即使在科學技術雙刃劍的提法成為社會常識之后，人們仍然不愿意公開討論科學傷害社會的可能性，人們仍然相信，這種可能性可以通過倫理原則加以防范。

科學社會學的創始人羅伯特·默頓已經意識到科學之強力的另一面，但是他相信，科學家的道德能夠保障科學不去傷害社會。他提出了流傳至今的 “科學的精神氣質”說—— “有感情情調的一套約束科學家的規則、規定、習俗、信仰、價值和預設的綜合”，并為其規定了 “四組體制上的規則——普遍性、公有性、無私利性、有條理的懷疑論”。這個表述其實存在著內在矛盾，四原則到底是 “精神氣質”，還是 “體制上的規則”？到底是內在的秉性，還是外在的約束？默頓并沒有說清楚。但無論是哪一個，都不是對現實的科學共同體的描述，而是他一廂情愿地構想的理想狀態。依賴這四原則或者四氣質去防范科學對社會的傷害，無異于與虎謀皮。

從基因編輯嬰兒消息發布的時間軸看，賀建奎做了精心的安排。他相信自己是在幫助艾滋病患者，并為 “他的工作而自豪”。賀建奎完全可以把自己視為默頓的科學精神四原則的代表。這一事件表明，依靠科學家的道德自覺，依靠科學共同體自我協商的倫理原則，都不足以防范科學侵害社會。

這一事件提供了一個契機，我們這個社會需要在法律層面防止、防范科學對社會的傷害，并以刑法來制裁和懲罰已經發生的對社會的傷害。對科學活動加以限制，并且從刑法層面加以約束，在以往是超出想象的，但是今后應該成為社會共識,科學活動并非是必然為人類造福的。

科學及其技術具有強大的威力，能夠給人類所生活的世界造成不可逆的轉變。當氫氟烴 (第一例是杜邦公司生產的氟利昂)被發明出來，作為制冷劑的時候，獲得了全世界的歡呼，這是科學技術的又一大勝利給人類帶來的巨大便利。它的發明人也因此獲得了各種贊美、各種獎勵。然而，后來，人們發現氫氟烴造成了臭氧層的空洞，對社會造成了嚴重的傷害，但是氫氟烴的發明人并未因此而遭受任何懲罰。他在人們不知情的情況下給世界造成了不可逆的轉變，只能獲得榮譽，不應該受到懲罰嗎？

在1962年 《寂靜的春天》出版之前，人們還可以說這是科學家好心做了壞事，那么，在此之后，我們是否應有所警惕、有所防范呢？

最近傳聞，艾滋病的病毒是一位美國科學家在實驗室里發明出來的。倘若是真的，他給世界造成了如此巨大的變化，不應該遭受懲罰嗎？當然，現行法律拿他沒有辦法；那么，對于未來可能發生的類似行為，人們是否應該有所警惕有所防范呢？

在化學工業之后，科學及其技術不斷地把這個世界從來沒有過的東西發明出來，鋪滿全球，這些東西將會產生什么樣的影響，是發明人自己也無法預料的。如果帶來好的結果，得到贊美和獎勵也是應該的；那么，當壞的結果來臨，是否也應該接受咒罵和懲罰呢？

如果人們相信科學技術是中性的，或者相信雙刃劍的說法，那么就沒有理由不相信，科學也會降禍于人、也會傷害社會。而這種傷害，并不會自動受到約束。那么，從法律層面加以約束、管理、制裁，也并不是不能想象的。

如果我們已經知道，一項未知的東西可能會產生嚴重的負面后果，那么在這樣的東西廣泛應用之前，在這樣的東西被發明之前，是否就應該預先接受公眾的審核呢？如果公眾普遍認為這樣的東西不應該出現，是否應該有法律來保障公眾的意愿，不受某些 “勇敢的”科學家的傷害呢？如果這樣的勇敢的 “科學家”敢于冒天下之大不韙，是否應該讓他受到更嚴厲的懲罰呢？

2009年，意大利拉奎拉發生一場5.8級地震，三百多人死亡。2012年，6位地震專家和1名官員被地方法院判決 “過失殺人”，監禁6年，賠償900萬歐元。這是因為，地震前半年，當地居民就感受到輕微地震。由于這7人所在的 “重大危險預測和預防全國委員會”一再向公眾表示 “不必擔心”，導致居民未能及時疏散。

刑不上科學家的時代應該過去了，類似賀建奎的活見鬼事件，應該引起社會的嚴肅對待。國家應該制定專門的法律，或者在刑法中列入相關的條款，對科學活動進行約束，在法律層面有所防范、有所制裁、有所懲罰，以減少對社會的傷害。

挑戰和應對：人胚胎基因編輯的國家治理

艾涼瓊 新鄉醫學院馬克思主義學院副教授

“基因編輯嬰兒”于2018年11月26日宣布在中國誕生，隨后引發了國內外學界的一片爭議、質疑和譴責，也加深了學術界對基因編輯技術濫用的憂患，帶來了一系列挑戰，提出了人胚胎基因編輯如何可控、有序推進的國家治理問題，以促進人胚胎基因編輯真正造福于人類，實現新興技術國家治理的科學化、民主化和現代化。

1 “基因編輯嬰兒”事件及挑戰

以預防疾病為目的的 “基因編輯嬰兒”之所以遭到學術界的普遍反對，其根本原因有兩個方面：一方面是理論不成熟，人類對自身基因組復雜性的認知有限，還無法區分所謂的好基因、壞基因，更何況好壞是應景的、相對的、動態的；另一方面技術不可控，基因編輯嬰兒讓人詬病的正是安全性，對可遺傳性狀的改變，安全性是前提，以規避可能出現不可預測、不可逆轉的技術風險。

“基因編輯嬰兒”突破了國際學術界達成的人胚胎基因編輯共識，破壞了中國科學家恪守規則的良好形象，對已有科研倫理規范、法律規范及科學精神的挑戰，帶來了不良后果。其一是挑戰了已有的科研倫理規范。基因編輯嬰兒事件，無論是對于人類還是被編輯基因的嬰兒都風險巨大，違反了收益大于風險的原則，是典型的科研功利主義；其二是違背了科學精神。 “基因編輯嬰兒”事件偏離了同行監督下開展創新研究的科學精神要求，無法保證其科學性。其三是挑戰了國家的相關法律規范。 “基因編輯嬰兒”事件違反了我國的《人類輔助生殖技術規范》等法律規范。科學界的自律、自治和社會規范均未能阻止基因編輯嬰兒的誕生，這就為人胚胎基因編輯的國家治理提出了現實要求。

2 人胚胎基因編輯國家治理的現實性

國際學術界呼喚全球人胚胎基因編輯倫理規范的構建，全球治理具有必要性、迫切性，但不具有現實性。即使構建了全球倫理規范，但倫理規范畢竟屬于 “軟約束”，不具有強制力，在全球層面上技術濫用的治理顯得軟弱無力，更無法懲罰那些不負責任的人胚胎基因編輯行為，第二屆國際基因組編輯峰會對基因編輯嬰兒誕生 “意外和令人深感不安”就是明證。由于國家具有地域性和強制力，實現人胚胎基因編輯的國家治理具有現實性、可操作性。

3 建立人胚胎基因編輯的國家治理機制

無論屬于治療性、預防性還是增強性的人胚胎基因編輯，對個體、社會乃至人類均會產生不可忽視的影響，科技界既然無法做到自律、自治，就需要建立有效的國家治理機制。

(1)參與主體的有效互動。鑒于人胚胎基因編輯對社會影響的深度和廣度，需要相關的專家、政府、公眾及利益相關主體參與、有效互動。其一是專家，專家因擁有該領域的專長而具有參與技術治理的合理性，人胚胎基因編輯涉及科技、倫理、法律等社會的很多方面，為此，基因編輯的遺傳學家、生物技術安全專家、倫理學家以及法學家均應作為治理主體參與進來，但要給專家意見以合適的權重，同時需要有效溝通和協調，為國家治理提供有力的智力支撐。其二是利益相關主體及其他公眾，由于治療性人胚胎基因編輯對基因缺陷或變異而導致的遺傳疾病 “根治”具有誘人前景，備受折磨的遺傳病人及家屬就是利益相關主體，理應參與；其他公眾也是基因編輯技術的受益者與責任承擔者，公眾參與以實現技術治理的民主化。其三是政府。涉及到公共利益的人胚胎基因編輯行為構成了公共利益風險，需要政府積極主動監管、治理，實現其有序、穩步推進更離不開政府的組織、協調和溝通，發揮各主體的參與功能。多主體協同參與，有效互動，發揮專家特長，傾聽各方聲音、凝聚各方智慧，平衡各方利益，讓人胚胎基因編輯健康發展。

(2)參與部門的分工協作、協同治理。我國涉及人胚胎基因編輯的有多個監管部門，如衛生健康委員會、國家衛生計生委、科技部、各級各類倫理審查委員會，有行政監管、倫理監管，但眾多部門的監管職能重疊、缺乏統籌協調，在某種情況下監管可能無法真正落實，導致人胚胎基因編輯的 “濫用”。我國對人胚胎基因編輯的基礎研究、臨床研究和治療的監管，可以采用設立首批機構的辦法，比如像英國開展這類研究必須得到英國人工授精與胚胎學管理局的批準，美國開展此類研究必須由人類研究保護辦公室(OHRP)批準，法國設立的生物醫學研究參與者保護咨詢委員會(CCPBR)也在履行同樣的職能。這樣，經過各級各類倫理審查機構審查的結果需要特定部門的審批，可以對其他監管部門監督、監管不力設置最后一道防線，可以對技術濫用進行有效治理。

(3)治理舉措的與時俱進。當前基因編輯技術發展迅猛、前景誘人，人胚胎基因編輯的風險較高，加上資本的強力介入，我國卻沒有出臺相應的治理措施，科技治理具有明顯的滯后性，給人胚胎基因編輯的技術濫用提供了較大空間，治理舉措需要與時俱進。隨著基因編輯技術的進步，制定相應人胚胎基因編輯的技術準入標準、切實可行的倫理審查制度以及健全法律等治理舉措，使得技術治理科學化、動態化。

4 構筑人胚胎基因編輯的國家治理體系

中國是個負責任的大國，在中國開展任何科技活動合乎人類的倫理共識、符合人類的共同利益是當仁不讓的責任和義務，構筑人胚胎基因編輯的國家治理體系也是當務之急。

(1)構建 “良序科學”運行制度保障。人胚胎基因編輯該何去何從，能否讓失控的研究其后果得到可控，實現英國哲學家菲利普·基切爾 (Philip Kitcher)教授描述的 “良序科學”圖景，需要構建 “良序科學”運行的制度保障。讓公眾、政府、科學家或專家多方參與主體充分表達各自的意見，對如何選擇 “無私利”專家參與、如何組織參與主體討論該議題及如何設置嚴格的審批機構等，在中國當前法律不完善、倫理監管不給力的狀態下，需要構建人胚胎基因編輯的全面監管、有效治理的制度保障。

(2)制定完備法律、法規體系。我國涉及人胚胎基因編輯的相關法律并不完全空缺，但的確不完備。我國法律對于基礎研究、預防性治療并沒有詳細的規定，雖然基因編輯技術CRISPR在治療遺傳疾病進行嘗試性研究達成了國際共識，但治療性研究、預防性研究、增強性研究還是基礎研究的界限并不那么清晰，而相關的法律又無明確規定。就 “基因編輯嬰兒”事件來說，屬于疾病預防性，但是并沒有針對性的特定法律規范，更缺乏相應的違規法律補救。因此，制定完備的法律法規，是實現國家治理的法律要求。

(3)提升倫理監督能力。我國的國家級、省市級、科研機構的三級倫理審查委員會倫理監督能力參差不齊，甚至有些倫理委員會并不能進行有效倫理監督，需要提升各級倫理審查委員會的倫理審查能力，在一定程度上實行 “追責”，實現人胚胎基因編輯 “可控”。同時以倫理委員會為主導，加大科技倫理道德宣傳、教育，提高科研人員的科研倫理素養和認同，有效發揮倫理委員會的職能。

(4)加強風險評估。充分認識人胚胎基因編輯的技術風險，有效風險評估是有效治理的重要前提。可以成立專門的機構，組織一支專業素質良好的專家隊伍，對人胚胎基因編輯的全程進行定期風險評估，把握其態勢，依靠國家強制力，及時叫停不當應用，確保合理應用。

總之，人胚胎基因編輯具有前沿性、重大性、復雜性、挑戰性。許多研究人員因其誘人的醫療前景躍躍欲試，因其安全性欠缺、倫理爭議不得不 “權衡”利弊得失，三思而后行。對人胚胎基因編輯明確其基礎研究應用、治療性應用、增強性應用、預防性應用，分類監管、有序開放，不斷評估，防控風險，有效規制，讓人胚胎基因編輯在 “安全、可控、有利、健康”的軌道上發展，實現國家的技術治理目標。