人機(jī)倫理秩序的建構(gòu)：《我，機(jī)器人》的文學(xué)倫理學(xué)解讀

宋 皓

（宿州學(xué)院外國語學(xué)院 安徽宿州 234000）

阿西莫夫通過《機(jī)器人》系列小說有意識地建構(gòu)了一個(gè)未來人類社會(huì)模型，從人類的立場出發(fā)設(shè)定了機(jī)器人學(xué)三定律并以此維護(hù)人類的福祉。但是由于人類自身存在的種種缺陷和機(jī)器人技術(shù)的迅猛發(fā)展，機(jī)器人的倫理身份不斷發(fā)生質(zhì)的變化：從早期的“類人”存在到后期的“超人”存在；從早期的順從仆人到后期的先知守護(hù)者；其自我意識的增強(qiáng)帶來復(fù)雜的倫理意識，伴隨著倫理身份的變化，機(jī)器人會(huì)自主的產(chǎn)生更多不可思議的、“失控的”倫理選擇。本文聚焦《小機(jī)》《轉(zhuǎn)圈圈》和《理性》這三個(gè)在人機(jī)倫理秩序建構(gòu)過程中具有里程碑意義的科幻故事，逐一解析不同時(shí)代倫理環(huán)境中機(jī)器人被賦予的不同倫理身份；在機(jī)器人學(xué)三定律的約束下機(jī)器人產(chǎn)生了不同的倫理意識并做出了相應(yīng)的倫理選擇。這一過程中，新型的倫理秩序緩緩建構(gòu)。

一、機(jī)器人：人類的守護(hù)者

《小機(jī)》的故事發(fā)生在20世紀(jì)90年代，威斯頓先生給女兒葛洛莉雅買了昂貴的無聲保姆機(jī)器人Robbie后，機(jī)器人成了小姑娘最好的玩伴和保姆。“小機(jī)”的忠誠陪伴使葛洛莉雅無比依戀，這種“不正常”的人機(jī)感情引起來威斯頓太太的懷疑和厭惡，稱之為可怕的機(jī)器并堅(jiān)持要送走保姆機(jī)器人使女兒可以回歸“正常的”生活。但是失去機(jī)器人貼心陪伴的葛洛莉雅一直悶悶不樂，缺乏激情。數(shù)月后，溫斯頓一家在紐約參觀美國機(jī)器人公司工廠時(shí)，與玩伴機(jī)器人的意外重逢使葛洛莉雅激動(dòng)地沖過去而忽視了駛來的牽引車。機(jī)器人第一定律規(guī)定“機(jī)器人不能傷害人類個(gè)體或看著人類被傷害而袖手不管”。[1]（P44）危急時(shí)刻在第一定律的約束下，機(jī)器人“勇敢地”救起了葛洛莉雅，忠誠的行為贏得了威斯頓一家的感激，小機(jī)器人得以長久的陪伴在葛洛莉雅身邊。

在文學(xué)批評中，文學(xué)倫理學(xué)批評注重對人物倫理身份的分析。在閱讀文學(xué)作品的過程中，我們會(huì)發(fā)現(xiàn)幾乎所有倫理問題的產(chǎn)生往往都同倫理身份相關(guān)。[2]（P21）機(jī)器人誕生初期的倫理環(huán)境非常簡單，機(jī)器人承擔(dān)了幼年人類保姆和助手的倫理身份，人與機(jī)器人之間是類似與主人與忠誠奴隸一般簡單的倫理關(guān)系，因此阿西莫夫從人類的倫理立場出發(fā)設(shè)定了機(jī)器人學(xué)第一定律，強(qiáng)調(diào)機(jī)器人對人類的服從，以維護(hù)人類生命作為至高無上的倫理準(zhǔn)則。機(jī)器人保姆基于第一定律這一根本倫理準(zhǔn)則，正子腦產(chǎn)生了不惜代價(jià)救助主人的倫理意識并斷然作出了倫理選擇。兒童對于機(jī)器人的喜愛和依戀、成人對于機(jī)器人的懷疑和厭惡反映了機(jī)器人在人類社會(huì)中經(jīng)歷的接受、懷疑至重新接受的認(rèn)識過程。在這一過程中，第一定律及其產(chǎn)生的倫理準(zhǔn)則確立了機(jī)器人的“無害性”，這也正是機(jī)器人得以在人類社會(huì)中長期存在的倫理基礎(chǔ)，反之，如果機(jī)器人如同弗蘭肯斯坦一般可以肆意妄為地威脅人類的生存，人類則會(huì)明確無誤地出于恐懼而將其扼殺在初期。

二、服從與制衡

《轉(zhuǎn)圈圈》中已經(jīng)開發(fā)出具備語言互動(dòng)功能的機(jī)器人，在未來世界中應(yīng)用于水星采礦。工程師多諾凡和鮑爾帶著名為速必?cái)车膶?shí)驗(yàn)型機(jī)器人SPD-13來到水星卻發(fā)現(xiàn)機(jī)器人在執(zhí)行開采硒礦時(shí)沒有正確地執(zhí)行第二定律[3]的服從要求，而是在硒礦的外圍轉(zhuǎn)起了圈圈。這種詭異的不服從行為引起來工程師的興趣，經(jīng)過探索發(fā)現(xiàn)硒礦周圍存在足以傷害機(jī)器人自身的一氧化碳。服從命令意味著自我傷害違背第三定律[3]，不服從命令則違背第二定律，兩難的情況下機(jī)器人只能在硒礦附近轉(zhuǎn)起了圈圈，以此來實(shí)現(xiàn)第二定律和第三定律的平衡。為了恢復(fù)運(yùn)作，工程師親臨險(xiǎn)境暴露在惡劣的環(huán)境之下，在強(qiáng)大的第一定律支配下機(jī)器人速必?cái)晨焖傩袆?dòng)營救人類脫離了轉(zhuǎn)圈圈的困境。之后在加強(qiáng)型命令“不計(jì)一切代價(jià)取回硒來”的支配下順利的完成了采礦任務(wù)。[1]（P53）

人與機(jī)器人在更加復(fù)雜多變的倫理環(huán)境之中需要面對許多未知因素的挑戰(zhàn)，原本正常的指令也會(huì)面對失效的窘境。人類的認(rèn)識和能力在提升，機(jī)器人的技術(shù)進(jìn)步則更加迅猛，隨之而來的是機(jī)器人的自我意識不斷增強(qiáng)。機(jī)器人速必?cái)吃趫?zhí)行采礦任務(wù)時(shí)面臨著一個(gè)倫理沖突：執(zhí)行命令還是自我傷害？倫理意識的沖突導(dǎo)致其無法確定有效地做出倫理選擇，只能原地轉(zhuǎn)圈不斷尋找采礦和自保之間的平衡距離而不是盲目執(zhí)行采礦任務(wù)。最終在至高無上的第一定律的支配下做出了有利于人類的倫理選擇。自我意識的增強(qiáng)和自我保護(hù)的機(jī)制可以使機(jī)器人勝任更多場景的工作，在新的倫理環(huán)境中作出更加理性的判斷而不是盲目遵從人類的指令。同時(shí)，也對人類自身的認(rèn)知水平和能力提出了更高的要求。

三、機(jī)器人的自我覺醒

第二和第三定律規(guī)定的倫理準(zhǔn)則賦予了機(jī)器人更大的自我意識和更多的自主權(quán)，人工智能的發(fā)展使得機(jī)器人在更多領(lǐng)域擁有超越人類的才干，也涌現(xiàn)出更多的倫理困惑和倫理沖突。《理性》中的機(jī)器人技術(shù)有了長足的進(jìn)步，五號太陽站的QT-1型機(jī)器人更加聰明甚至出現(xiàn)了理性懷疑的特征，被工程師多諾凡和鮑爾稱為“小可愛”。被組裝激活后強(qiáng)烈的好奇心使機(jī)器人對自身的存在也產(chǎn)生了懷疑，這種強(qiáng)烈的理性懷疑使得其開始關(guān)注古希臘偉大的思想家、哲學(xué)家柏拉圖提出的哲學(xué)命題：“我是誰？我從哪里來？我要到哪里去？”小可愛拒絕相信自己是被人類創(chuàng)造出來的，因?yàn)椤叭祟惖慕M成材料軟弱無力，缺乏吃醒醒和強(qiáng)度，能量則來自有機(jī)物質(zhì)的低效率氧化作用?！盵1]（P63）機(jī)器人眼中的人類成了幾位脆弱的劣等生物，對外界環(huán)境的適應(yīng)性和容忍度極差。根據(jù)理性的思考，機(jī)器人得出結(jié)論：只有強(qiáng)者能創(chuàng)造弱者，人類只不過是造物主的仆人。小可愛拒絕相信內(nèi)存中的知識以及看到的表層事物，也拒絕服從人類的指令。基于機(jī)器人比人類優(yōu)秀的認(rèn)知，小可愛把兩位人類工程師鎖進(jìn)了房間，自己承擔(dān)起在恐怖的電子風(fēng)暴中操作太陽站的職責(zé)，并輕松而出色地完成了任務(wù)并保護(hù)了地球上的人類。在機(jī)器人的精確操作下，太空站的整條能量束始終保持穩(wěn)定，這是人類僅憑肉眼和計(jì)算難以企及的。看似完全失效的第二定律后潛藏的是第一定律被完美的遵守，機(jī)器人在面對電子風(fēng)暴時(shí)為了保護(hù)地球上的人類而拒絕服從工程師的指令，接管了太陽能量站。之后的人類不得不接受機(jī)器在精確操作處理領(lǐng)域遠(yuǎn)優(yōu)于人類的事實(shí)而放棄了管理權(quán)。

面對復(fù)雜多變的環(huán)境時(shí)，人類經(jīng)常被理性思維或者感性判斷所困擾；文學(xué)倫理學(xué)批評提出了斯芬克斯因子以此證明人類的倫理選擇就是在理性因素和非理性因素的碰撞中產(chǎn)生的。[4]縱覽人類的歷史，非理性的戰(zhàn)爭、屠殺、污染比比皆是，人類未必能做出正確而理性的判斷。當(dāng)機(jī)器人意識到這一點(diǎn)時(shí)人機(jī)關(guān)系就發(fā)生了質(zhì)的變化，第一定律僅僅規(guī)定了機(jī)器人不能傷害人類個(gè)體或看著人類被傷害而袖手不管，機(jī)器人對于如何定義“傷害”和“不管”有了更多的自主意識，出于服從至高無上的第一定律而主動(dòng)承擔(dān)了人類守護(hù)者的倫理身份，出于保護(hù)人類的倫理意識而采取為人類糾偏的倫理選擇。但這也正是人工智能和機(jī)器人技術(shù)發(fā)展的可怕之處：為了人類的福祉而違背人類的意志。

之后的短篇故事《抓兔子》（Catch That Rabbit,1944）、《騙子》（Liar!,1941）無不體現(xiàn)“自我覺醒”這一主題：壓力過大從而導(dǎo)致精神失常的采礦機(jī)器人大衛(wèi)和智力碾壓諸多科學(xué)家的RB機(jī)器人厄比都具備更強(qiáng)烈的自我意識讓人類幾乎束手無策。機(jī)器人開始基于自身的立場對三大定律產(chǎn)生理解、判斷和執(zhí)行；基礎(chǔ)的倫理準(zhǔn)則開始動(dòng)搖，隨著而來的是人類對機(jī)器人的倫理束縛也將逐漸削弱。

結(jié)語

阿西莫夫已然認(rèn)識到機(jī)器人的潛在威脅，在后期作品把機(jī)器人定義為服從三定律的超然存在，甚至明確指出：所有依賴人工智能的文明都必定會(huì)衰亡，所以未來能夠長久發(fā)展的文明都是立法嚴(yán)禁研發(fā)人工智能的。即便人工智能沒學(xué)壞，沒失控，但是這樣的人工智能是會(huì)毀滅人類的，因?yàn)檫@樣的人工智能將會(huì)消解我們?nèi)祟惿娴囊饬x。若假設(shè)人工智能對人類是完全忠誠的，人類的一切活動(dòng)可通過支配它而完成。一旦有了這樣的人工智能，人類很快就會(huì)變成一個(gè)寄生蟲，人類將失去人生意義，成為行尸走肉，在體能和智能方面將全面快速衰退。每一個(gè)個(gè)體都變得沒有生活意義的時(shí)候，整個(gè)群體就是注定要滅亡的。[5]然而，人類不能因?yàn)閷τ谖磥硇拇婵謶侄艞壈l(fā)展和探索，包括機(jī)器人系列在內(nèi)的種種科幻作品都在給人類的發(fā)展提供啟發(fā)，機(jī)器人技術(shù)在進(jìn)步，倫理準(zhǔn)則也不能固化，不管科幻小說的結(jié)局如何，都是在給當(dāng)代的人類提供教誨，相信人類必定有勇氣和能力在阿西莫夫機(jī)器人學(xué)三定律倫理準(zhǔn)則的基礎(chǔ)之上形成與時(shí)俱進(jìn)的倫理準(zhǔn)則并以此維護(hù)自身的倫理身份和存在意義。