阿西莫夫的“機器人三定律”適合未來AMAs機器人的構(gòu)建嗎？——基于《機器人管家》的文本反思

武威利， 王紹源

(1.喀什大學(xué) 法政學(xué)院，新疆 喀什 844000；2.山西財經(jīng)大學(xué) 馬克思主義學(xué)院，山西 太原030006)

?

阿西莫夫的“機器人三定律”適合未來AMAs機器人的構(gòu)建嗎？
——基于《機器人管家》的文本反思

武威利1， 王紹源2

(1.喀什大學(xué) 法政學(xué)院，新疆 喀什 844000；2.山西財經(jīng)大學(xué) 馬克思主義學(xué)院，山西 太原030006)

摘要：隨著近年來應(yīng)用倫理學(xué)新興領(lǐng)域“機器人倫理學(xué)”的勃興，人們開始探討未來AMAs機器人的構(gòu)建問題。現(xiàn)代美國科幻文學(xué)大師艾薩克·阿西莫夫的“機器人系列”等科幻文學(xué)成為探討機器人倫理學(xué)的最早文本。其中在以“機器人三定律”為理論基點撰寫的《機器人管家》(Bicentennial Man)中，映射出諸多機器人元倫理學(xué)問題。對機器人獲得道德地位的必要性特征進行探討，有助于人們以審慎的態(tài)度正視“機器人三定律”對未來AMAs機器人的建構(gòu)作用。正視“機器人三定律”的理論缺陷并對其反思與修正，旨在為構(gòu)建完備的AMAs機器人提供一種思想質(zhì)料和理論借鑒。

關(guān)鍵詞：阿西莫夫；機器人三定律；AMAs；機器人倫理學(xué)；《機器人管家》

現(xiàn)代美國科幻文學(xué)大師艾薩克·阿西莫夫(Isaac Asimov)一生著述五百余部，其扛鼎之作“機器人系列”等科幻文學(xué)成為爾后未來學(xué)探討機器人的“圣經(jīng)”。隨著近年來應(yīng)用倫理學(xué)新興領(lǐng)域機器人倫理學(xué)在歐美國家的勃興，阿西莫夫提出的“機器人三定律”成為機器人倫理學(xué)學(xué)科構(gòu)建中的重要原則。其中，很多學(xué)者把阿西莫夫的“機器人三定律”看作是機器人倫理學(xué)的理論基礎(chǔ)，并以此為出發(fā)點探討了未來AMAs(Artifacts Moral Agents，即“技術(shù)人工物道德行為體”，以下簡稱AMAs)機器人的倫理問題。但是，人們推崇的阿西莫夫 “機器人三定律”是否可以作為理論基點并適于構(gòu)建未來AMAs機器人，卻鮮有人進行系統(tǒng)探賾。以下依據(jù)阿西莫夫的代表作品之一《機器人管家》(The Bicentennial Man，又譯《變?nèi)恕罚?984年紐約Doubleday出版社出版，1999年同名電影上映，導(dǎo)演Chris Columbus) 進行深入剖析，立于機器人的倫理地位角度對“機器人三定律”進行全面考察。

一 、阿西莫夫“機器人三定律”與機器人倫理學(xué)

(一)阿西莫夫“機器人三定律”與《機器人管家》

拋開機器人倫理與人類行為的關(guān)涉，機器人倫理學(xué)似乎只與智能機器人有關(guān)，艾薩克·阿西莫夫正是出于這樣的思想基點于1950年在《我，機器人》(I,Robot)中提出了“機器人三定律”，以期對未來AMAs機器人進行倫理規(guī)制。“機器人三定律”即“第一定律：機器人不得傷害人，也不得見人受到傷害而袖手旁觀；第二定律：機器人應(yīng)服從人的一切命令，但不得違反第一定律；第三定律：機器人應(yīng)保護自身的安全，但不得違反第一、第二定律” 。

艾薩克·阿西莫夫的《機器人管家》以科幻文學(xué)的形式為哲學(xué)工作者提出了一系列的倫理學(xué)問題，并引發(fā)人們不斷的挑戰(zhàn)。該書以名為安德魯(Andrew)的家用機器人的成長線索展開：安德魯完全遵守“機器人三定律”為馬丁一家服務(wù)，充當仆人角色。因為安德魯有著獨特的意識和創(chuàng)造能力而被馬丁一家視為其家庭成員，賜姓“馬丁(Martin)”。安德魯與馬丁家的小女兒一生都保持著深厚友誼。出于“只有人類才能擁有‘自由’，‘自由’一詞對于機器人來說毫無意義”的緣由，裁決法官否定了安德魯?shù)臋?quán)利訴求。馬丁家的小女兒在歷經(jīng)諸多坎坷后終于幫助安德魯獲得了自由的權(quán)利。法官判決理由是“沒有權(quán)力拒絕任何具有概念理解和欲望表現(xiàn)的心靈對象獲得自由”[1]。盡管安德魯被賦予了自由的權(quán)利，但是他仍嚴格遵守著“機器人三定律”。為了彌合與人類之間的相貌差異，安德魯開始像人類一樣穿衣服，并不斷地進行硬件升級，后來他把自己的身體變成了一個完全意義上的人類。其后不久，安德魯外出遭遇了地痞無賴的刁難，那些地痞要求安德魯脫下只有人類才有資格穿的衣服，并命令其自行銷毀。根據(jù)機器人第一定律和第二定律，在安德魯沒有傷害人類的情況下，就必須服從地痞們的命令，而無法為自身進行辯護和自衛(wèi)。關(guān)鍵時刻，安德魯被小女兒的兒子救起。但這表明，人類對自治型機器人等人工智能有一種非理性的恐懼感，即使人工智能物能夠遵守“機器人三定律”，但是機器人卻有著比人類更長的壽命，這會引發(fā)人類的嫉妒心和恐懼感，并促使人類想要摧毀機器人。安德魯以升級電子元件的方式實現(xiàn)了像人類一樣的自然衰老過程，使自身更接近一個真正的“人”。他認為這樣的做法沒有違反“機器人第三條定律”，因為他的“激情和欲望”對于生命來說比起擁有行尸走肉、長生不老的鋼鐵軀體更有意義。最后安德魯決定接受像人類一樣的死亡命運。在他去世200年后，人們宣布其獲得了“人”的身份。

(二)機器人倫理學(xué)問題的凸顯

在生命倫理學(xué)領(lǐng)域，倫理學(xué)家圍繞“高級動物和人類胎兒是否應(yīng)該享有權(quán)利”的問題進行著如火如荼的討論。這也引發(fā)了人們在機器人領(lǐng)域開始探討智能機器人的道德地位。

在《機器人管家》一書中，阿西莫夫?qū)τ谀承┲悄軝C器人的類型做出了一個極具價值的案例分析，他認為，像安德魯一樣的機器人不應(yīng)充當人類的奴隸角色，而應(yīng)當被賦予權(quán)利。在故事的結(jié)局，阿西莫夫讓我們看到安德魯被迫遵循“機器人三定律”有著諸多偏頗。在法院庭審中，法官不承認安德魯應(yīng)該具有權(quán)利，但不可否認的是，安德魯是一個遠比社會中大多數(shù)人類更具有道德原則的一種存在實體。如果能為智能機器人找到合適的道德準則讓其遵循行事的話，智能機器人將變得更加具有倫理完備性，這其中就凸顯出諸多機器人倫理學(xué)問題。

具體來說，屬于機器人倫理學(xué)問題的例子包括：機器人倫理學(xué)的終極目標是什么？對機器人添加一個倫理維度具有什么意義？機器人道德是可計算性的嗎？應(yīng)當期望告訴機器人在道德困境中如何進行行為才可能會找到自身嗎？如果機器人遵循倫理原則的話，那么，是否有必要確定機器人本身的道德地位呢？

機器人倫理學(xué)的最終目標是創(chuàng)建一個能夠遵循理想的道德原則和倫理律令進行行為的機器人。這涉及為機器人“添加一個倫理維度”的問題，具體包括兩個方面：(1)在機器人設(shè)計中，依據(jù)人類的意愿把一些倫理準則和道德律令嵌入到機器人中，使之能夠按照設(shè)計師所設(shè)定的完全道德的方式進行行為；(2)給出機器人理想的道德原則，或者一些道德困境和正確答案的案例，以及抽象的理想倫理原則的一個學(xué)習(xí)過程，以使其能夠應(yīng)用這些倫理原則進行指導(dǎo)自身的行為。[2]

針對第一個方面，機器人完全按照人類所設(shè)定的倫理程序進行行為，這屬于計算機倫理的領(lǐng)域，而不是機器人倫理學(xué)領(lǐng)域。針對第二個方面，旨在構(gòu)建能夠進行倫理推理的機器人，這是機器人倫理學(xué)的終極目標。因此，只有在第二個方面中，才能說機器人完全具有自治性，才可以稱其為是一個真正的AMAs機器人。使機器人能夠在一個道德困境中做出自治判斷則是具有重大歷史意義的變革。

二、 機器人獲得道德地位的必要性特征分析

大多數(shù)人類天然地抱有“物種主義者(speciesists)”的倫理姿態(tài)。正如當代著名倫理學(xué)家彼得·辛格(Peter Singer)對“物種主義者”的定義一樣：“物種主義的偏見或態(tài)度傾向自身物種成員的利益，并拒斥和反對其他物種的利益。”物種主義者可以證明“其他物種成員的最重要的利益犧牲目的是為了促進我們自己物種哪怕最微不足道的利益”[3]。對于一個物種主義者來說，當決定如何去行為時，需要考慮的就只有自己物種的成員，如果把“物種”的概念拓展到機器人范疇的話，也可以參考“物種主義”的思想進行分析，最為核心的問題是：是否以“物種主義者”姿態(tài)看待機器人倫理地位。

在哲學(xué)史和倫理學(xué)史上，諸多先哲們對物種(being)或?qū)嶓w(entity)的道德地位以及倫理關(guān)護的必要特征做過相關(guān)探討。如果認定一種物種或?qū)嶓w具有道德地位的必要特征的話，那么就意味著必須把這種物種或?qū)嶓w納入到倫理關(guān)護的范圍內(nèi)。

在19世紀，功利主義代表人物杰里米·邊沁(Jeremy Bentham)認為，是否具有理性和交際能力是判定道德行為后果的關(guān)鍵因素，“諸如成年的馬、狗這樣的動物所具有的理性能力比剛出生一個月的人類嬰兒都要健全。但是假設(shè)這樣的動物也具有理性能力的話，那么結(jié)果又將是什么樣的呢？核心問題是，他們具有理性思考能力和理性感知能力嗎？”[4]在《道德和法律原則導(dǎo)論》(An introduction to the principles of morals and legislation)中，邊沁認為，不應(yīng)該把是否具有理性和交互能力當作是判定道德地位的核心因素，正如新生嬰兒不具有完備的理性和交互能力，但是我們?nèi)耘f把其看作是一個道德行為體判定其具有道德地位一樣。相反地，邊沁認為，諸如遭受痛苦和體驗快樂這樣的感知能力(sentience)是決定道德地位的關(guān)鍵性因素。彼得·辛格(Peter Singer)對此也表示贊同，他認為：“如果一個物種能夠表現(xiàn)出感知能力，那么我們就應(yīng)該把其納入到倫理關(guān)護對象之中，正視其遭受的痛苦與快樂，而不可對其袖手旁觀。”[3]

如果把感知能力看作是道德地位的標準，那么又該如何看待安德魯這樣的智能機器人呢？安德魯是否擁有能夠體驗快樂和痛苦的能力呢？在作品中，阿西莫夫極力使我們信服安德魯具有感知苦難和快樂的能力，并能夠把這種能力付諸于每一次行為活動中，這也成為安德魯在與法官的辯護中力爭獲得自由的堅實理由。

德國古典哲學(xué)大師伊曼努爾·康德(Immanuel Kant)認為，只有具有自我意識的人類才應(yīng)該具有道德地位。康德在18世紀晚期就表達了這一觀點，堅信只有人類才具有自我意識。現(xiàn)在我們認識到新生嬰兒和幼兒缺乏自我意識，而如靈長類的猴子和類人猿等成年的高階動物卻擁有自我意識的特征，基于這些緣由，我們不能對其再持有物種歧視態(tài)度。*美國克萊姆森大學(xué)的副教授克里斯托弗·格勞(Christopher Grau)指出，康德可能持有一種更健全、剛性的自我意識的概念(包括自治權(quán)的概念)，并通過倫理學(xué)原則的“絕對命令(Categorical Imperative)”來辨別和實施道德律令。然而，雖然康德把猴子和類人猿排除在道德地位的探討范圍之外，但依據(jù)其觀點同時也把人類中的新生嬰兒和小孩拒斥于倫理關(guān)護之外。

20世紀普遍流行這樣一種思想，即一種物種或?qū)嶓w是否具有權(quán)利則依附于其是否具有道德地位。美國科羅拉多大學(xué)著名倫理學(xué)家邁克爾·托雷(Michael Tooley)認為，“萬物若要賦予權(quán)利，其必須擁有渴望追逐權(quán)利的心智能力”“一個實體不具有特殊的權(quán)利，除非它至少具有追逐權(quán)利的興趣”[5]。簡言之，一個物種不具有生存的權(quán)利，除非它具有渴望繼續(xù)存在的能力。

美國舊金山大學(xué)的瑪麗·安妮·沃倫(Mary Anne Warren)把“情感性(emotionality)”看作是“道德共同體”的必要因素。她認為，“情感性”是道德共同體“個體(person)”的重要構(gòu)成因素，其與“人類”群體不是同一類的：“人類基因既不需要也不滿足‘人(person)’的概念內(nèi)涵。一些人類基因構(gòu)成的存在體不具有‘人(person)’的意義，他們也可能歸屬于其他物種。”在《墮胎的道德和法律地位問題探賾》(On the moral and legal status of abortion，1997)一文中，沃倫羅列了六個特征進行詮釋“人(person)”的內(nèi)涵：[6]

(1)知覺性——具有意識經(jīng)驗的能力，通常包括經(jīng)歷痛苦和快樂的能力；

(2)情感性——具有感受快樂、悲傷、生氣、憤怒、愛，等的能力；

(3)推理性——具有解決新問題和復(fù)雜的問題的能力；

(4)交互性——通過任何手段，獲取各種類型的信息；也就是說，不僅能夠獲取無限內(nèi)容，而且可以開啟無限可能的話題；

(5)自我意識——擁有一個“自身”的觀念，作為一個個體和/或(and/or)作為社會群體的一員；

(6)道德行為(Moral agency)——通過道德原則或道德理念進行調(diào)節(jié)自己行動的能力。

沃倫把“情感性”特征納入其中，并把其看作是人格的關(guān)鍵組成要素，因為她試圖區(qū)分“人(person)”和“人類(humans)”的概念內(nèi)涵，她認為，“人(person)”是道德共同體的組成部分，人類被賦予“情感性”的特征。

對于人類來說，一方面，這意味著一個人必須有同情心；另一方面，人類的情感很容易妨礙實施道德上的行為，容易受到另一個人的情感影響，使其變得無法遵循道德原則。因此，對于人類來說，在主觀情感和遵守道德原則的客觀要求之間找到平衡，對于人們實施正確的道德行為來說是最為關(guān)鍵和重要的。

綜上所述，機器人可以模仿情感性的行為，但并不一定保證機器人真正具有情感和感情。不能把情感性因素看作是一種物種或?qū)嶓w具有道德地位的標準，因為情感性在倫理上通常是決定正確行為的責任。如果把情感性因素看作是必要條件的話，那么可以得知，像所有以上提到的其他特征一樣，建立一個完備的AMAs機器人則變得任重而道遠。

三 、“機器人三定律”對未來AMAs機器人建構(gòu)的反思與修正

依據(jù)諸多先哲給出的解答，可以假設(shè)，如果未來自治型機器人具有道德地位，那么人類是否可以凌駕于機器人之上，并有權(quán)力對遵循阿西莫夫的三定律的機器人實施道德歧視呢？

康德認為，實體和人類的倫理地位是平等的，即使實體本身沒有權(quán)利，但是人類也不應(yīng)該對實體進行倫理歧視和虐待。他在1780年出版的《倫理學(xué)講座(Lectures on Ethics)》中“我們對于動物的職責(Our Duties to Animals)”一文寫到，盡管動物沒有道德地位，且被當作為人類目的服務(wù)而存在的，但是我們?nèi)匀粵]有資格對其虐待和道德歧視，因為對“可憐無助的動物心懷柔情則對人性的發(fā)展具有裨益”“對動物持殘忍姿態(tài)的人類在與人打交道時也會變得困難”。因此，即使我們對動物不負有直接責任，但是我們有義務(wù)把他們看作是對人類的“間接責任”[7]。

對此，可以想象康德對于安德魯遭遇惡霸挑釁場景的反應(yīng)和看法。康德會憎惡惡霸對待安德魯?shù)姆绞剑欢〞膼喊詡冊谖磥韴鼍爸幸惨酝瑯颖傲拥膫惱碜藨B(tài)對待人類。實際上，當小女兒的兒子發(fā)現(xiàn)惡霸故意刁難安德魯時，展現(xiàn)出的是一個人類救助者的姿態(tài)，而不僅僅被視作為拯救一個冰冷的鋼鐵機器。實際上，安德魯是按照接受人類不公正對待的“阿西莫夫機器人三原則”進行構(gòu)建的，這也意味著安德魯在根本上就必須接受人類非道德式的擺布，如果人們命令安德魯放棄抗拒的話，那么他沒有辦法阻止人類的蓄意亂為。因為，第二定律優(yōu)先于機器人自我保護的第三定律。在任何情況下，機器人不能保護自身免受傷害，反之則這意味著違反第一定律。總之，遵守“機器人三定律”與把安德魯看作是一個AMAs機器人的構(gòu)建理想相去甚遠。

根據(jù)康德的觀點可以得知，其反對阿西莫夫的“機器人三定律”，并認為即使實體遵循一定程序，但安德魯式的機器人這樣的實體本身仍不具有道德地位。他認為，任何人類創(chuàng)造的道德法律都必須倡導(dǎo)平等的尊重態(tài)度，即使對于那些自身缺乏道德地位的物種或?qū)嶓w(beings/entities)也應(yīng)如此，如果人類與實體之間存在不平等罅隙，并允許人類對機器人進行隨意破壞的話，那么在這種法則下就有可能出現(xiàn)導(dǎo)致人類成員間彼此傷害的行為。如果人類需要恭敬平等地對待其他實體的話，那么他們更有可能達成人類之間的彼此尊重。

因此，從康德的論證中可以得出以下結(jié)論：一個自治型倫理機器人必須被視為具有與人類相同的道德地位，必須認真對待以避免我們把道德為“惡”的行為嫁禍于人類身上。正如康德對于動物的觀點闡述一樣，“動物僅僅只是達到目的的一種手段。這種目的的落腳點是人”[7]。與之形成對比的是康德著名的第二條道德律令：“不論是誰，在任何時候都不應(yīng)把自己和他人僅僅視為工具，而應(yīng)該永遠看作自身就是目的。”這是道德準則質(zhì)料方面的要求，因此，以普遍化原則推之，人類也應(yīng)該同樣地對待其他理性存在者。

綜上所述，通過以上倫理學(xué)家的觀點比照，可以得知，“機器人三定律”規(guī)避了人類的倫理職責和義務(wù)，把機器人拒斥在道德行為體考察之外，這顯然是有失偏頗的。因此，結(jié)合康德倫理學(xué)和阿西莫夫“機器人三定律”的思想內(nèi)涵，可以對兩者做一種修正性反思：可以要求機器人按照人類意愿行事以期達到人類的目的，但同時不應(yīng)對其持有道德歧視和虐待。既然阿西莫夫的“機器人三定律”不能阻止人類虐待機器人或智能機器，那么就應(yīng)該進行實時修正，達成對未來AMAs機器人的完美建構(gòu)。

四、 結(jié)論

以阿西莫夫的科幻小說《機器人管家》作為話題縮影，映射出當今機器人倫理學(xué)領(lǐng)域內(nèi)的許多前沿問題。關(guān)于“機器人三定律”和未來AMAs機器人構(gòu)建的討論儼然已成為當今應(yīng)用倫理學(xué)領(lǐng)域不可回避的問題。機器人倫理學(xué)的終極目標是創(chuàng)建自治型道德機器人(AMAs)，這為新興領(lǐng)域帶來諸多前沿性的挑戰(zhàn)。通過機器人倫理地位的剖析，可以得知，阿西莫夫奠基的“機器人三定律”在根本上規(guī)避了人類的倫理職責和義務(wù)，把機器人和人類的地位放在不同的倫理序列中，會使得構(gòu)建未來AMAS的理想化為泡影。然而，我們對于倫理學(xué)家所推崇的“機器人三定律”也應(yīng)該秉持揚棄的態(tài)度進行審慎對之，正視其理論缺陷和對未來AMAs機器人的消極影響。

總之，深入剖析阿西莫夫的“機器人三定律”對于正確理解機器人的倫理地位以及機器人倫理學(xué)的理論基點有重要意義，為構(gòu)建未來AMAs機器人提供了重要的理論積淀和學(xué)理依據(jù)。

[參考文獻]

[1] Asimov I.“The bicentennial man” in I. Asimov, The bicentennial

man and other stories[M]. Doubleday, New York, 1984：246.

[2] Susan Leigh Anderson. Asimov’s “three laws of robotics” and machine metaethics[J]. AI & Soc (2008) 22:477-493.

[3] S Singer P.All animals are equal. In: Animal liberation: a new ethics for our treatment of animals[J]. New York. New York review, Distributed by Random House, 1975:1-22.

[4] Bentham J. An introduction to the principles of morals and legislation

[M]. chapter 17. Burns J, Hart H (eds). Clarendon Press, Oxford, 1969:249.

[5] Tooley M. Abortion and infanticide[M]. Philos Public Affairs,1972:47-66.

[6] Warren MA. On the moral and legal status of abortion. In: LaFollette

H (ed) Ethics in practice[M]. Blackwell, Oxford,1997:178.

[7] Kant I. Our duties to animals. In: Infield L (trans.). Lectures

on ethics[M]. Harper & Row, New York, 1780: 239-241.

[責任編輯：陸靜]

Does Asimov's “Three Laws of Robotics” Fits to AMAs Robots Building in the Future？——An Analysis Based on Bicentennial Man

WU Wei-li1，WANG Shao-yuan2

(1.College of law and Politics，Kashgar University，Kashgar 844000，XinJiang，China；2.School of Marxism Studies，Shanxi University of Finance and Economic，TaiYuan 030006，ShanXi，China)

Abstract：In recent years, as applied ethics "robot ethics" emerges, ethicists began to explore build problems of AMAs robots in the future. Modern American science fiction literature master Isaac asimov's "robot series" is the earliest prototype of robot ethics. He put “three laws of robotics” into the basis of his literatures. The classic literature Bicentennial Man maps many problems of robots metaethics. That discussing the characteristics of robot for the necessity of the moral status can help people understand “Three laws of robotics” in a prudent attitude. Faced up to the defects of “three laws of robotics”, we can amend theory and aim to build a perfect AMAs robot in the future.

Key words:Isaac Asimov; Three Laws of Robotics; Artificial moral agents; Robot ehics; Bicentennial Man

中圖分類號：B82-057

文獻標識碼：A

文章編號：2095-0063(2016)02-0001-05

收稿日期：2015-09-29

基金項目：2015年教育部人文社會科學(xué)研究規(guī)劃基金項目“認知科學(xué)視閾的延展心靈問題研究”(15YJC720005)；山西省教育科學(xué)規(guī)劃項目“在信息技術(shù)教育中融入機器(人)倫理學(xué)教育的問題研究”(GH-15025)；山西財經(jīng)大學(xué)青年科研基金項目“當代應(yīng)用倫理學(xué)新領(lǐng)域：機器(人)倫理學(xué)研究”。

作者簡介：武威利(1979-)，女，河南滎陽人，講師，南開大學(xué)哲學(xué)院博士研究生，從事科技倫理學(xué)、政治哲學(xué)研究；王紹源(1986-)，男，河南商丘人，講師，博士，從事科技倫理學(xué)研究。

DOI 10.13356/j.cnki.jdnu.2095-0063.2016.02.001