論科技工作者創新的道德風險

郝天瑤

沈陽師范大學，遼寧沈陽 110034

論科技工作者創新的道德風險

郝天瑤

沈陽師范大學，遼寧沈陽 110034

創新是科技工作者需要具備的核心素質。科技工作者需要對產品的創新過程、創新成果及其帶來的社會影響進行反思，否則有的創新將會帶來一定的道德風險。分析科技工作者創新的道德風險應從科技創新與道德的關系入手，剖析科技工作者創新的道德風險，并為社會的長期穩定發展，呼吁科技工作者負責任地創新。

創新；道德；風險

弗洛姆曾對現代技術發展的兩個壞的指導原則提出質疑，這兩個原則是：第一，凡是技術上能夠做的事情都應該做；第二，追求最大的效率與產出。[1]這兩個壞原則也是當今科技發展應該預防的兩大問題。隨著時代的進步，我們把改造的對象逐漸從自然轉向了人，不變的是仍然缺少對創新的倫理思考以及對創新的道德風險的正確評估。這不僅會讓人們在科技進步的大環境下在倫理價值上做無原則地退讓，還會使人最終變成社會生產機器中喪失個性的零件。為了避免這種惡劣情況的發生，我們需要正視科技創新與道德的關系，樹立正確的價值觀即科技創新首先要遵循道德尺度，道德同時也要約束創新。并對當今已經實現的科技創新進行倫理反思，運用例證法對科技工作者創新會帶來道德風險的觀點進行論證，最終提倡科技工作者的負責任創新。希望通過對以上問題的分析，豐富“科技工作者創新的道德風險”這一研究問題的內涵以及外延，并能夠使科技工作者對自己所做的研究，包括研究過程、研究結果以及研究成果所帶來的社會影響，都能秉持謹慎負責的態度，最終造福社會造福人類。

一、科技創新與道德的關系

從原始社會發展到如今的科技時代，當前在社會歷史主體與客體的雙向建構中，主體的現實活動日益占據主導地位。[2]原始社會時期，人們順應自然環境的變化，以神明之說來解釋自然。為了滿足基本的生活需要，人們變成采集者以及狩獵者，這時候人與自然長期處于和諧的狀態。發展到農業社會，由于人口增長，單純地采集狩獵已經無法滿足人們的物質需求，人們開始擺脫大自然的束縛變成食物的生產者。此時人與自然的關系仍然是基本和諧的。而到了工業文明時期，人們開始發現生活中、田地里、工廠內發明改造的各種可能性，開始試圖改造自然、征服自然。此時人與自然的關系逐漸走向對立。如今我們正處在以信息技術為支撐的科技時代，人們試圖改造的對象不僅局限于自然更延伸到對人本身的改造。此時這些自然物質已經不是單純意義上的自然存在，而是將人的主觀意志與客觀的自然條件用實踐結合起來的統一物，是人類創造性活動本身的對象化、自然化，或者反過來說，也是自然界的人化。人類在社會發展的進程中越來越把人的主體“工具化”，這種發展趨勢需要人們在自愿或者不自愿的情況下不斷降低道德的底線，而出現了各種違反倫理道德的創新，這種創新會給整個人類社會帶來危害。因此，在科技創新中需要遵循道德尺度。

反觀整個社會發展的過程，人類需求的不斷擴大并不是完全導致科技創新倫理問題的主要因素，而是人類社會越來越缺乏道德約束。在原始社會時期，人們內心對大自然持有恐懼的心態，把大多數自然現象發生的原因歸于神明。此時神明就是制約人行為的尺度，維護了人與自然的和諧。農業社會時期，人們傾向于順從自然，依賴并滿足于自己辛苦勞作所生產的勞動成果。同時在封建社會的約束下，人們遵循著社會所強加的封建道德尺度，如階級性或忠孝、信義等。這也使人們與自然仍能和諧相處。在工業社會時期，人們更加注重經濟發展。第一次科技革命人們開始試圖對抗自然，社會的進步、經濟的發展讓人們嘗到了改造自然的甜頭，卻未能意識到不斷地發展創新可能會帶來的惡果。在如今的科技時代，人們更關注的是人本身以及對主體的重構，在把改造對象從自然轉向人的過程中越來越忽視道德對創新的約束，人們越來越注重一件事能不能做，而忽視了它該不該做。在人類把自然作為認識和改造對象時，自然本身具有規律性，人和自然是相互制約、相互依存的，人的實踐活動是在一定的社會歷史條件下進行的。因此，這種能動性貫徹不能完全以人為尺度，必然受到客體的制約和限制。但如今，把認識和改造的矛頭指向人本身時，是否依然能考慮道德及客觀條件的制約是亟需我們反思的問題。由此可見，在社會發展的過程中，道德約束使人與自然、人與人以及人與社會都能和諧相處，一旦忽視了道德的約束就會產生一系列倫理問題。因此，科技創新首先要遵循道德尺度，道德也應約束創新的發展。

二、科技工作者創新的道德風險

首先，我們應該明確一個問題即科技工作者創新的道德風險是必然存在的，而經過社會的不斷發展也是一定會被克服的。科技創新更多的是注重便利而非遵循事實的規律，大多數科技工作者只關注創新所帶來的正面效應，或者只是把創新成果當作促使社會進步的工具，等到負面效應不斷顯現出來最終給人類社會帶來無法挽回的惡劣影響時，才開始重新審視它的倫理問題。而作為人類智慧和勞動的結晶，代表當前整個新時代的計算機科學和生物工程等高端學科在自然中已經找不到原型，它們已經徹底是對人類改造自然活動本身的反映。在這種情況下，社會上出現了越來越多需要進行更深層次倫理反思的創新研究，以下將舉例論證。

1997年11月初，美國一科研小組宣布他們進行的猴子頭部移植手術獲得成功。猴子的換頭手術是將一只猴子的頭從第四頸椎部位切斷然后移植到在相同部位切斷頭的另一只猴子身上。[3]這是1998年一篇名為“猴子換頭手術獲得成功，30年內可望用于人類”的報道中的部分內容，科技的不斷發展讓這個期望提前了十一年。最近有媒體報道世界首例換頭術將在中國舉行，實施這項手術的醫生是意大利精神外科專家賽吉爾·卡納維羅，他將于2017年12月在哈爾濱醫科大學的附屬醫院進行這項手術。把從對猴子的成功實驗轉向對人的手術面臨著三個比較顯見的難點：首先，頭部具有復雜的解剖結構。頭部及頸部有眾多復雜的血管和器官，先將其切斷能否確保在短時間內維持生命跡象就有很大難度，而且與所移植身體的一一對接也需要精細復雜的過程。其次，來自身體的排斥反應。移植到新身體后兩個完全不同的身體之間的互斥反應是否會給人的身體帶來致命危險仍是未知的。最后，建立頭與身的精神聯系。頭部移植將人的頭部從頸部截斷，這就會截斷人的脊椎，而脊椎主要向身體外周神經系統傳達大腦信號，移植后對應新的脊椎還是否能維持正常功能這都是不能確定的。[4]人類對死亡的恐懼促使醫療科技發展至今，可是所有能拯救人類生命的科技創新都應存在發展么？從對猴子的換頭手術開始，人類就犯了人類中心主義的錯誤。太多實踐創新一直是奉行群體主體性或人類主體性原則，實驗室用白鼠、青蛙、狗等動物做實驗確實能在一定程度上驗證試驗的可操作性，但這真的不違反整個生態圈的倫理道德么？我們是否應該重新審視我們的做法，開始注重生態共同體而不是有機個體，我們應該遵循的是一種整體主義而非個體主義的倫理學。對于人的換頭手術，從正面意義來說，無疑是醫學技術的又一突破與創舉，如果這次即將進行的手術能夠成功，就意味著世界上更多的高位截癱或嚴重殘疾的病人將有可能獲得新生。但是，換頭手術所涉及的倫理問題我們不能視而不見。首先，換頭手術意味著在給予嚴重殘疾或高位截癱的病患新身體的同時，需要一個腦死亡患者貢獻出身體與之交換。那么誰來對腦死亡患者負責？誰能決定腦死亡患者的生死？如果允許換頭手術的存在，那么人的身體是否會變成一種商品？其次，換頭手術成功后，面對新的身體你還是不是原來的你自己？你所延續的后代是否屬于你？在這些倫理問題沒有得到合理解答的前提下，進行換頭手術所帶來的后果難以想象。

社會發展到今天，我們工作生活等各個領域都被滲透了一個新的物種——人工智能機器人。不斷有關于機器人倫理的研究出現，而倫理學本應是有關人與人關系的學問。[5]對機器人的倫理反思本身就賦予了機器人更多關于人的情感，可以說人們越來越把機器人“人化”。機器人被應用于軍事、醫療、生活等領域，最受關注與爭議的是被應用于日常生活中的機器人。它被命名為“性愛機器人”，隨著人工智能的發展及其市場化趨勢，能夠達到通過先進的生物識別技術，進行掌控和激發用戶的強烈情緒，致使用戶對其產生依賴傾向，這將會對人們的婚姻家庭觀和傳統性觀念產生巨大的影響。[6]一旦機器人發展到有更逼真的外表并被賦予更細膩的情感，這種機器人必然會優于人。此時，社會是否會掀起人與機器人戀愛結婚的熱潮？那么傳統的價值觀念將會被全部顛覆，社會將一片混亂。2015年3月，谷歌AlphaGo（阿爾法圍棋）與韓國棋手李世石的人機大戰在韓國首爾展開，最終阿爾法圍棋以四比一取得勝利。這已經不是計算機第一次打敗人類。早在1997年，IBM公司研制的深藍就在比賽中打敗了國際象棋世界冠軍卡斯帕羅夫。這次阿爾法圍棋的勝利仍是人工智能發展的又一次巨大突破。當人類所研發的人工智能在更多的領域高于人，那么是否人類社會發展的某一天人會被人所創造出來的人工智能所控制。現在我們已經越來越依賴于人工智能，最終我們脫離了人與人之間的倫理關系，轉向了人與機器的倫理關系，此時整個人類社會還能否正常發展延續下去？

通過以上案例可以發現，科技創新所帶來的經濟發展和生活便利都伴隨著或大或小的道德風險，科技工作者是否應該慢下腳步正視自己的創新所帶來的倫理問題。社會的發展不應該以不斷降低道德底線的方式來實現，而是應該在社會進步的同時不斷反思創新成果，力求發展在社會的客觀運轉面前能遵循既適合社會發展又符合社會倫理道德的創新研究。

三、科技工作者的負責任創新

對于負責任創新這一概念，英國學者理查德·歐文認為負責任創新就意味著通過對科學和創新的集體管理來關注未來，由預測、反思、協商和反饋四個維度構成。荷蘭學者霍溫認為負責任創新是強調創新所涉及到的所有利益相關者在研究之初就參與進來。美國學者Wiederhold B K認為負責任創新是指倫理上可接受的創新，基于可持續發展以驅動社會公共利益。[7]綜上所述，負責任創新應在創新的各個環節基于倫理學視角以促進社會和諧發展為目標進行研究。社會發展至今，創新促進了社會發展帶來了經濟利益，但如果創新離開了倫理道德的約束就會危害社會。

對于科技工作者的負責任創新應從以下三個方面思考。第一，創新的投入與產出不成正比。現代社會發展迅速，這使科技人員的知識很容易出現滯后。[8]而創新工作又是一項需要大量實驗、調查、后期論證的工作，這就需要大量的資金投入。一旦出現了由于科技工作者自身局限而未能達到預期效果的情況，科技工作者本身就會承擔巨大壓力。這時就很容易缺乏對創新的倫理思考而單純追求研究對象的創新性。第二，單純為了追求經濟利益的創新。一個研究項目的成功創新往往會使科技工作者名利雙收，許多創新研究的負面影響無法在短時間顯露出來。如果此時科技工作者單純追求經濟利益而忽視其道德風險，就會對社會及公眾造成危害。第三，創新項目的效果。在社會發展的進程中有許多研發項目，在當時獲得了巨大的經濟利益并解決了當時的社會問題。如三峽工程在當時可以被稱為是壯舉，可是在多年后其負面效應逐漸暴露出來，人們開始重新反思其帶來的嚴重后果。創新所帶來的效果尤其對多年后的影響是很多科技工作者難以預期的，但我們不能以難以預期為由而只注重解決當下問題。國家的長期穩定發展還是應該適時地放慢創新的腳步，更加注重科技工作者創新的道德風險，提倡負責任創新最終造福社會。負責任創新同時也需要公眾的參與，只有能以多個視角來審視創新的過程及成果才能促進社會發展。

科技創新與道德思考是彼此不可分的，科技創新應時刻遵循道德尺度，道德必須約束科技創新。社會發展需要科技的創新，但缺乏倫理思考的創新也讓人們嘗到了惡果。人們必須意識到，社會的發展不應該以不斷降低道德底線的方式來交換，而是應該在社會進步的同時不斷反思創新成果。在從事創新工作之前，科技工作者就必須具備負責任創新的精神，以社會的長足穩定發展為目標，堅持科學發展觀而不是追求當前的、暫時性的經濟利益或社會效應。只有經過倫理思考的創新成果，才能最終為社會及公眾服務。

[1]高亮華.人文主義視野中的技術[M].北京：中國社會科學出版社，1996.

[2]張一兵.文本學解讀語境的歷史在場[M].北京：北京師范大學出版社，2006.

[3]尹中輝.猴子換頭手術獲得成功30年內可望用于人類[J].飛碟探索，1998（4）.

[4]何積惠，張田勘.人類頭顱移植，是天方夜譚嗎？[N].文匯報，2015-05-17（7）.

[5]何懷宏.倫理學是什么[M].北京：北京大學出版社，2002.

[6]王紹源.機器（人）倫理學的勃興機器倫理地位的探討[J].科學技術哲學研究，2015（3）.

[7]房宏君.科技人才負責任創新與高新企業科學發展[J].技術經濟與管理研究，2015（8）.

[8]王明濤.企業科技人員技術創新的風險及防范[J].企業改革與管理，2012（2）.

（責任編輯：劉北蘆）

郝天瑤（1993-），女，遼寧沈陽人，沈陽師范大學碩士在讀，研究方向：科學技術哲學。

2016-10-19

N02

A