給科技創新構建倫理軟著陸機制

段偉文

最近，中央深改委會議審議通過了《關于加強科技倫理治理的指導意見》，該指導意見在很大程度上是對我國近年科技倫理治理實踐的工作經驗和理論研究的總結。進入21世紀，隨著納米、生命、信息、認知等會聚技術和大數據、人工智能、神經科學等突破性創新的迅猛發展，科技創新的社會倫理風險日益凸顯。2017年以來，在人工智能戰勝人類圍棋棋手等事件的推動下，科技倫理問題成為世界關注的焦點，各種科技倫理規范和倫理治理機構紛紛建立，出現了人類科技發展史上的“科技倫理時刻”。

針對技術的社會影響的評估，未來學家阿馬拉（Roy Amara）曾提出著名的阿馬拉定律，即人們總是高估一項技術所帶來的短期效果，卻又低估它的長期影響。這一定律的啟示在于，對于突破性創新的弊端，應該注意到外界的評判和社會輿論容易出現偏頗，特別是可能會因為對未知風險的焦慮而將它們放大為對該技術的極度不信任，管理者要避免在政策層面高估其負面影響而過度治理和剛性監管。

對于科技的社會倫理風險的預見，科技政策學家科林格里奇（David Collingridge）曾經提出過著名的科林格里奇兩難，指出了人們在預見和防范技術長遠發展時所面臨的一個雙重約束困境（double-bind problem）。其一是信息困境，即人們很難在技術生命周期的早期對一項技術的社會后果進行預見;其二是控制困境，即當人們不希望出現的后果被發現時，技術卻往往已經成為整個經濟和社會結構的一部分，以至于難以對其加以調控。由此可見，對科技創新帶來的復雜未知社會倫理風險進行預見和認知雖尤為困難，卻不得不為之。而正因為如此，對這一問題的根本化解之道是將其作為科技創新的內在環節，將科技倫理規范和價值觀作為從0到1的創新的有機目標。具體而言，為了促進科技創新的發展，應從價值觀和倫理規范等軟約束入手，盡早在科技活動的全過程引入倫理治理框架，以提升相關責任主體的社會倫理風險意識，促使他們在具體的創新實踐中思考行為的對錯，做出合乎正確價值觀和倫理規范的抉擇。

依據這兩方面的認知，不難理解指導意見為何強調科技倫理治理要堅持促進創新與防范風險相統一、制度規范與自我約束相結合的治理原則?；谶@一原則，指導意見提出了軟硬兼施的制度框架。一方面，強調通過完善政府科技倫理管理體制和壓實創新主體科技倫理管理主體責任等構建科技倫理治理體制，健全科技倫理治理制度，進而強化科技倫理審查和監管。另一方面，就是要通過倫理先行、敏捷治理等基本要求和發揮科技類社會團體的倫理自律功能、引導科技人員自覺遵守科技倫理要求等制度設計，為科技創新構建起必要的倫理軟著陸機制。