加強科技倫理治理

陳相利

廈門大學醫(yī)學院生命倫理中心常務副主任、中國倫理學會科技倫理專業(yè)委員會常務理事馬永慧

青年科技工作者、生物醫(yī)學博士王萱

近日，中共中央辦公廳、國務院辦公廳印發(fā)了《關于加強科技倫理治理的意見》（以下簡稱《意見》），意見中對“科技倫理原則”“健全科技倫理治理體制”“加強科技倫理制度保障”“強化科技倫理審查和監(jiān)管”等方面給出了規(guī)范意見。

《意見》甫一出臺，便引發(fā)科技界熱烈討論。此意見的出臺會對科技創(chuàng)新帶來怎樣的影響？科技創(chuàng)新和傳統(tǒng)倫理，這兩者如何達到平衡？

對此，記者專訪廈門大學醫(yī)學院生命倫理中心常務副主任、中國倫理學會科技倫理專業(yè)委員會常務理事馬永慧，以及青年科技工作者、生物醫(yī)學博士王萱，就此次出臺的意見和未來可能出現(xiàn)的狀況趨勢進行了解析。

科技創(chuàng)新遇到傳統(tǒng)倫理如何達成平衡

體細胞克隆、基因編輯、人工智能、腦機接口、自動駕駛……當前世界正處于新一輪科技革命和產(chǎn)業(yè)變革中，不同領域和層面的技術創(chuàng)新與應用層出不窮，在釋放技術紅利的同時，也沖擊著人類傳統(tǒng)的倫理觀念，催生新的科學倫理風險和科技治理層面的新挑戰(zhàn)。

根據(jù)中國社科院組織的相關調(diào)查，在科技倫理領域最受關注的問題中，基因技術排在首位，機器人、人類增強、人工智能等分列其后。因與人類生命科學相接相關，基因技術一直備受關注。曾在社會上引起軒然大波的“基因編輯嬰兒”事件更是將基因編輯的討論推到一個爭論高峰。

在該案件中，來自南方科技大學的賀建奎及其團隊宣布，一對名為露露和娜娜的基因編輯嬰兒在中國誕生。這也是世界首例免疫艾滋病的基因編輯嬰兒。該事件一經(jīng)公布，引起學界和社會廣泛關注，特別引發(fā)了法律和倫理方面的爭議。

“基因生殖技術為人類敞開了‘美麗新世界的大門，但其新的風險也將我們推入了一個取消控制、普遍存在不確定性和流動的不可預料的社會當中?！瘪R永慧近日接受采訪時表示，基因本身攜帶生物學信息，故對其的概念關乎人類自身的延續(xù)和未來。人們對賀建奎案的震驚，不僅因為他對于道德規(guī)范和法律制度的踐踏，更出于利益驅(qū)動下部分人對該技術風險的無所顧忌。

馬永慧認為，基因編輯嬰兒事件涉及技術風險、社會風險和道德風險，三者是技術應用從外到內(nèi)的遞進關系。“脫靶效應，鑲嵌現(xiàn)象，長期的未知，不可逆轉(zhuǎn)，終身承擔的不可預知的風險，以及基因組突變、患病敏感性提升等問題，目前尚無法解決。”馬永慧說，“如果說技術性風險可以通過不斷發(fā)展技術而降低，社會風險可以通過制度完善而消解，那么道德風險的消除必須依賴于對人性最深處倫理范疇調(diào)整的接納?！?/p>

“一項技術的社會后果不能在技術生命的早期被預料到。然而，當不希望的后果被發(fā)現(xiàn)時，技術卻往往已經(jīng)成為整個經(jīng)濟和社會結(jié)構(gòu)的一部分，以至于對它的控制十分困難。”這是1980年英國技術哲學家大衛(wèi)·科林格里奇提出的觀點，被稱為科林格里奇困境。

當前，一些新型科技的風險性、不確定性以及發(fā)展后果無法提前預測，促使其社會控制面臨“科林格里奇困境”。

科技倫理問題錯綜復雜，除了技術層面涉及的風險受益評估和受試者/患者安全問題，還涉及社會層面的公正問題。馬永慧列舉，比如異種移植的可及性，花費巨大，未來技術發(fā)展成熟，如何與當前的器官分配系統(tǒng)整合？如何保證公平公正的分配？此外，在道德層面，還涉及人的尊嚴、動物權(quán)利福利、宗教問題等。

從果上治理前移到從因上治理

從20世紀50年代起，國際上就開始廣泛探討現(xiàn)代科學技術及其應用的倫理問題。

此前，我國也在科技倫理問題上進行了系列探索。2019年7月，中央全面深化改革委員會第九次會議審議通過《國家科技倫理委員會組建方案》。2019年10月，黨的十九屆四中全會提出“健全科技倫理治理體制”。2020年10月，黨的十九屆五中全會提出“健全科技倫理體系”。

此次《關于加強科技倫理治理的意見》的發(fā)布，成為繼國家科技倫理委員會組建之后，我國科技倫理治理的又一里程碑事件?！兑庖姟访鞔_，科技活動應遵循增進人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風險、保持公開透明的科技倫理原則。

《意見》指出高等學校、科研機構(gòu)、醫(yī)療衛(wèi)生機構(gòu)、企業(yè)等單位要履行科技倫理管理主體責任。從事生命科學、醫(yī)學、人工智能等科技活動的單位，研究內(nèi)容涉及科技倫理敏感領域的，應設立科技倫理（審查）委員會。同時，要發(fā)揮科技類社會團體的作用，推動設立中國科技倫理學會。

作為中國倫理學會科技倫理專業(yè)委員會常務理事，馬永慧介紹，我國于2020年成立科技倫理委員會，中國倫理學會于2021年成立科技倫理專委會，這是落實黨和國家要求加強科技倫理研究和治理的重要舉措。中國科協(xié)也在積極推動成立中國科技倫理學會，融合科技倫理與學風道德建設，廣泛匯聚科學家、工程師、法學家、企業(yè)家等跨學科的專家力量，開展倫理道德規(guī)范制定，強化國際間的交流對話，探索建立具有中國特色科技倫理治理體系。

針對科技倫理常涉及的生命科學、醫(yī)學、人工智能等領域，《意見》提出，重點加強上述領域的科技倫理立法研究，及時推動將重要的科技倫理規(guī)范上升為國家法律法規(guī)。

“《意見》的出臺對推動科技倫理治理的體制建設和制度保障方面，起到了打地基的作用。”青年科技工作者、生物醫(yī)學博士王萱認為，對于涉及科技倫理的事件，從果上治理，戰(zhàn)術前移到了從因上去治理。

馬永慧也表示，傳統(tǒng)科技活動中，對于科技倫理采取一種“先評估+再約束”的倫理管理框架，而技術本身迭代更新速度十分迅捷，需要采取“預見性+邊發(fā)展邊治理”的并行框架，科技倫理評估貫穿科技創(chuàng)新全周期，并實施一種調(diào)節(jié)反饋和共同進化的動態(tài)模式，從而達到科技創(chuàng)新真正造福于民的目的。

將制定科技倫理高風險科技活動清單

涉及科技倫理的事件，在審查程序上應該怎么進行規(guī)范？根據(jù)《意見》，中國將制定科技倫理高風險科技活動清單，屆時，開展科技倫理高風險科技活動應按規(guī)定進行登記。

“清單會不斷完善，目前重點關注的主要是生命科學領域、醫(yī)藥健康領域、人工智能領域等?！瘪R永慧說，應根據(jù)科技活動涉及的風險性的大小，分類進行上報和審查。如風險較小，可由醫(yī)院或者研究機構(gòu)的倫理委員會進行審查，風險較大的研究就需要國家層面的倫理委員會審批。同時，建立科技倫理高風險科技活動倫理審查結(jié)果專家復核機制，組織開展對重大科技倫理案件的調(diào)查處理，并利用典型案例加強警示教育。

對于責任主體及責任人，《意見》也進一步明確提出嚴肅查處科技倫理違法違規(guī)行為，明確高等學校、科研機構(gòu)、醫(yī)療衛(wèi)生機構(gòu)、企業(yè)等是科技倫理違規(guī)行為單位內(nèi)部調(diào)查處理的第一責任主體。相關行業(yè)主管部門、資助機構(gòu)或責任人所在單位要區(qū)分不同情況，依法依規(guī)對科技倫理違規(guī)行為責任人給予責令改正，停止相關科技活動，追回資助資金，撤銷獲得的獎勵、榮譽，取消相關從業(yè)資格，禁止一定期限內(nèi)承擔或參與財政性資金支持的科技活動等處理。

“查處的方式方法相當于對行為本身進行了一個量化?！蓖踺嬲f。“這體現(xiàn)了我國對挑戰(zhàn)倫理紅線的違法違規(guī)行為鮮明的態(tài)度和決心，希望這種懲罰對研究者具有警示和教育意義?！瘪R永慧說，這種治理框架要求科技創(chuàng)新和科技倫理相得益彰、剛性監(jiān)管和柔性倫理教育齊頭并進、多元治理與倫理審查雙管齊下。

《意見》還專門提出，加強對國際合作研究活動的科技倫理審查和監(jiān)管。國際合作研究活動應符合合作各方所在國家的科技倫理管理要求，并通過合作各方所在國家的科技倫理審查。對存在科技倫理高風險的國際合作研究活動，由地方和相關行業(yè)主管部門組織專家對科技倫理審查結(jié)果開展復核。

技術本身迭代更新速度十分迅捷，需要采取“預見性+ 邊發(fā)展邊治理”的并行框架，科技倫理評估貫穿科技創(chuàng)新全周期，并實施一種調(diào)節(jié)反饋和共同進化的動態(tài)模式，從而達到科技創(chuàng)新真正造福于民的目的。

借鑒國外公眾參與模式緩解公眾擔憂

在現(xiàn)代科技快速迭代和社會應用不斷創(chuàng)新的今天，科技倫理建設已成為全球性議題。面對科技倫理的沖擊，國外又是怎么做的，有哪些方式值得參考？

馬永慧說，西方國家對待新興技術，一直采用前瞻性、負責任和審慎的態(tài)度，重視“負責任的創(chuàng)新”（responsible research innovation）。她認為，國外科技倫理領域的公眾參與模式是我們相對比較缺乏的，也是最值得學習借鑒的。新興的科學技術，如健康大數(shù)據(jù)研究，其發(fā)展迫切需要公眾貢獻自身健康數(shù)據(jù)，而公眾對其缺乏了解和認識，加之近些年來公眾對新興技術可能造成的環(huán)境、健康傷害和社會風險愈發(fā)擔憂，導致公眾對科學家和政府的信任度下降，對這一技術的理解和治理，顯然不能沿用過去科學家教育公眾這一單向的模式。于是各界開始反思科技與社會、科技與公眾之間的關系定位，試圖尋求解決之道。

馬永慧說，借鑒國外納入公眾參與決策的先例來看，納入公眾的觀點顯得尤為必要。公眾作為新技術應用的受益者，有責任參與到健康醫(yī)療大數(shù)據(jù)的研究當中去，知道什么是健康醫(yī)療大數(shù)據(jù)，它可能的應用領域，以及它將產(chǎn)生什么樣的作用。同時，公眾又是新技術應用不良后果的承擔者，有知情的權(quán)利，也有參與科技決策的權(quán)利。

“公眾參與科學技術決策自20世紀90年代以來成為世界許多國家的發(fā)展趨勢，建立一種新型的政府—公眾—科學之間的和諧關系對現(xiàn)狀改善是可取之道?！瘪R永慧說，公眾參與是民主進程實踐的重要標志，公眾參與國家或社會政治、經(jīng)濟、文化生活的程度，彰顯著一個國家或社會民主推進的程度。不僅是科技決策，在風險界定、評估、風險管理與損害管控等階段中，也應該強化信息透明與開誠布公，并且盡可能思考納入研究所在地民眾以及多元利益相關者的參與，尋求具有社會強韌性的治理知識與共識，以解決公共爭論中的歧視與恐慌?！皞惱碇卫聿⒎菃蜗蚨瓤剂總惱矶鲆暱萍紕?chuàng)新，也不僅是考慮社會福祉而忽視個體。倫理治理本質(zhì)上是協(xié)同共治?！瘪R永慧說。

◎ 來源|科技宣傳文化資源庫