身份與選擇

王書琪 王思琦 潘禹西

[摘? 要] 本文以阿西莫夫的短篇小說集《我，機(jī)器人》為研究對象，運(yùn)用聶珍釗文學(xué)倫理學(xué)批評理論中“倫理身份”“倫理選擇”“倫理環(huán)境”等核心術(shù)語，回到阿西莫夫“科幻黃金時(shí)代”的歷史現(xiàn)場，一方面，解讀了小說中機(jī)器人自我覺醒行為背后的倫理因素，并分析了人類和機(jī)器人在倫理混亂下不同的倫理選擇；另一方面，挖掘了作者對構(gòu)建未來人機(jī)倫理秩序多方面的考量，從文學(xué)批評的視角獲得具有中國話語特色的人機(jī)倫理治理啟示。

[關(guān)鍵詞] 阿西莫夫? 《我，機(jī)器人》? 文學(xué)倫理學(xué)批評? 人機(jī)倫理

[中圖分類號] I106? ? ? ? [文獻(xiàn)標(biāo)識碼] A? ? ? ? [文章編號] 2097-2881（2024）01-0090-04

一、引言

隨著全球科技創(chuàng)新步伐的加速，人與機(jī)器的界限已逐漸模糊，人類的主體性地位受到了前所未有的挑戰(zhàn)，全球科技治理問題引發(fā)了大量的關(guān)注。同時(shí)，眾多科幻文學(xué)作品也不乏對該問題的思考與討論。其中，美國科幻小說作家阿西莫夫深受冷戰(zhàn)焦慮思維的影響，通過自己創(chuàng)作的許多作品預(yù)示了人與機(jī)器將會(huì)面臨的矛盾，體現(xiàn)了他對人機(jī)關(guān)系未來發(fā)展的思考。在他創(chuàng)作的“機(jī)器人”系列短篇作品集《我，機(jī)器人》中，阿西莫夫首次完整提出了具有里程碑意義的“機(jī)器人學(xué)第三法則”，借由不同的典型人物、主題和情節(jié)，對于機(jī)器人諸多問題進(jìn)行了深度探索。然而，在以人類利益至上為絕對原則的三大法則的支配下，九篇短篇故事中形象迥異的機(jī)器人仍然走向奇怪的失控，陷入了三大法則造成的倫理困境，給人類帶來各種各樣棘手的問題與考驗(yàn)，其中展現(xiàn)的復(fù)雜的人機(jī)倫理關(guān)系從文學(xué)的視角為當(dāng)今人機(jī)治理提供了解決路徑。

阿西莫夫作為世界科幻文學(xué)的巨匠，其作品得到了廣泛的關(guān)注，但國內(nèi)外學(xué)界對于其作品所蘊(yùn)含的人機(jī)倫理缺少較為系統(tǒng)、全面的研究。聶珍釗教授提出的中國本土化文學(xué)倫理學(xué)批評理論，主要從倫理的立場解讀、分析和闡釋文學(xué)作品[1]，能夠?yàn)闃?gòu)建全球科技倫理治理體系貢獻(xiàn)中國話語與敘事智慧。本文運(yùn)用其文學(xué)倫理學(xué)批評理論中倫理選擇、倫理身份、倫理混亂等核心術(shù)語，剖析書中倫理環(huán)境下人機(jī)矛盾背后產(chǎn)生的原因，理解人類和機(jī)器人在不同倫理身份下所做出的不同倫理選擇，挖掘機(jī)器人失控的深層原因。通過對文學(xué)倫理批評理論與《我，機(jī)器人》的西方小說文本建立的新的聯(lián)系，為科幻文學(xué)提供新的研究視角。

二、“倫理身份”的錯(cuò)位：機(jī)器人的自我覺醒

“機(jī)器人存在的社會(huì)性問題是，它作為一種機(jī)器卻不可避免地和人一樣同他人產(chǎn)生矛盾。”[2]馬克思認(rèn)為：社會(huì)性是人的本質(zhì)。但是在《我，機(jī)器人》中，自我覺醒的機(jī)器人已經(jīng)完成了從“類人”到“超人”的倫理身份轉(zhuǎn)變，具有自我意識的機(jī)器人已經(jīng)融入人類社會(huì)，并在復(fù)雜倫理環(huán)境中與人產(chǎn)生多重聯(lián)系。伴隨著自我意識的增強(qiáng)，機(jī)器人逐漸自我覺醒，在復(fù)雜的倫理環(huán)境中由初期的被動(dòng)服從命令發(fā)展為有自我意識的執(zhí)行，機(jī)器人以自我立場曲解人類命令，甚至采用欺騙等手段來滿足自我優(yōu)越的心理，做出了人類難以控制的倫理選擇。

《消失無蹤》中，由于超原子引擎工作的特殊性，科學(xué)家對部分機(jī)器人的第一法則進(jìn)行了修改，保留“機(jī)器人不得傷害人類”這一部分，舍棄了“因不作為而使人類受到傷害”。第一法則的修改導(dǎo)致了正子腦穩(wěn)定性的消解。納斯特十號在收到“給我消失掉”的命令后，在人類制定的機(jī)器人學(xué)三大法則中自我發(fā)展出了新的倫理身份，自我優(yōu)越感膨脹，認(rèn)為自己優(yōu)于人類并實(shí)現(xiàn)了絕對自我的行動(dòng)自由。在一次次的甄別實(shí)驗(yàn)中，它模仿其他機(jī)器人甚至誘導(dǎo)其他機(jī)器人。在新的倫理身份支配下，納斯特十號從單純服從消失的命令轉(zhuǎn)為挑釁人類。原本僅屬于人類的傲慢，在納斯特十號身上體現(xiàn)得淋漓盡致。在這場沒有硝煙的人機(jī)對戰(zhàn)下，人類對第一法則的修改使得機(jī)器人倫理身份產(chǎn)生錯(cuò)位，納斯特十號在自我主導(dǎo)的情況下實(shí)現(xiàn)了自我意識的覺醒。

《理性》中的機(jī)器人小可愛則是更深程度的自我覺醒——“懷疑論者”。他思考的是“我是誰？我從哪里來？我要到哪里去？”這類哲學(xué)問題，并基于“沒有任何生靈能創(chuàng)造出優(yōu)于自身的生靈”這一理論，給予自己絕對高于人類的倫理身份，拒絕相信自己是由人類創(chuàng)造的事實(shí)，甚至人類也無從說服它改變這種信念。《騙子》中的厄比作為機(jī)器人史上唯一具備讀心功能的機(jī)器人，直接體現(xiàn)了機(jī)器人的倫理身份向人轉(zhuǎn)變，表現(xiàn)出“愛看言情小說、會(huì)跳芭蕾舞，甚至欣賞自己的手指”這樣的自我意識。面對不同的對話主體，厄比會(huì)在機(jī)器人學(xué)第一法則的預(yù)設(shè)倫理下調(diào)整話術(shù)，透視人類心靈，說人類愛聽的話，他的回答呈現(xiàn)出一種欺騙性。最終，厄比在“說”與“不說”的倫理兩難下徹底崩潰，這是機(jī)器人自我覺醒與三大法則對沖下的結(jié)果。但這并不意味自我覺醒與法則是對立的，僅能說明三大法則是人類在機(jī)器人自我意識覺醒后最終的安全保障。

“正常的生命一律憎恨受到宰制。假如宰制者比被宰制者還要低劣，或是理論上如此，那么憎恨會(huì)更加強(qiáng)烈。”[3]一旦機(jī)器人自我覺醒，他們便會(huì)對人類為其設(shè)置的倫理身份產(chǎn)生懷疑，不滿足于“被制宰”的奴仆式倫理身份。機(jī)器人會(huì)不斷探索自我的主體意志，打破既定的倫理秩序，但又因?yàn)闊o法挑戰(zhàn)機(jī)器人學(xué)三大法則這一預(yù)設(shè)倫理結(jié)構(gòu)，從而在法則允許空間內(nèi)做出另類的倫理選擇。即便如此，這種人工智能與人類主體地位的轉(zhuǎn)換也會(huì)引發(fā)我們對于“機(jī)器人是否會(huì)支配人類生活”的深度擔(dān)憂。

三、“倫理混亂”的困惑：人類的科學(xué)選擇

文學(xué)倫理學(xué)批評認(rèn)為：在文學(xué)文本中，所有倫理問題的產(chǎn)生往往都同倫理身份相關(guān)。阿西莫夫通過人機(jī)交互引發(fā)了一系列的倫理沖突與困境。人類社會(huì)賦予機(jī)器人的倫理身份是從屬于人類的“機(jī)器”，不得不受制于機(jī)器人學(xué)三大法則。隨著人類技術(shù)的更新與機(jī)器人自主意識的覺醒，人機(jī)之間的界限越發(fā)模糊。在機(jī)器人倫理身份錯(cuò)位的情況下，倫理混亂產(chǎn)生，人類面臨新的倫理選擇。

《證據(jù)》中，史蒂芬·拜爾萊作為言行舉止近乎完美的政治人物，因從未在公開場合進(jìn)食而被競爭對手奎恩懷疑其是機(jī)器人，從而展開了對他的一系列調(diào)查。正如蘇珊博士說的，“機(jī)器人本質(zhì)上都是高尚的。他可能是機(jī)器人，卻也可能只是個(gè)非常好的人”[4]。人類為機(jī)器人預(yù)設(shè)的法則和規(guī)范都基于自身社會(huì)中對人類的道德期望，導(dǎo)致常規(guī)手段無法區(qū)分拜爾萊的真實(shí)身份。在這種兩難的境地下，機(jī)器人心理學(xué)家蘇珊博士不遺余力地支持拜爾萊從政，理由是受制于機(jī)器人學(xué)第一法則，機(jī)器人無法傷害人類，也無法實(shí)施暴虐、滋生腐敗，能夠成為行政官員中的佼佼者。在機(jī)器人展現(xiàn)出“超人”的能力后，人類逐漸接受機(jī)器人作為管理者融入人類活動(dòng)，原有的人機(jī)關(guān)系受到挑戰(zhàn)，進(jìn)一步加重了倫理混亂的困惑。

另一個(gè)倫理困境涉及人類科學(xué)選擇的問題。《不可避免的沖突》強(qiáng)調(diào)了機(jī)體在人類文明進(jìn)程中的作用，在世界的不同地域，掌握了無限多因素的機(jī)體負(fù)責(zé)計(jì)算人類社會(huì)的最優(yōu)發(fā)展方向，它替人類分擔(dān)了一些計(jì)算和詮釋的重?fù)?dān)，加速了人類進(jìn)步的步伐，但這種行為實(shí)際上篡奪了人類對于自身命運(yùn)的掌控權(quán)。機(jī)體看似只是作為輔助人類計(jì)算的幫手，實(shí)際上當(dāng)人類試圖違背其意愿時(shí)，它能夠判斷出人類不服從的確實(shí)程度和方向，自動(dòng)將那組答案修正到最優(yōu)化的方向。這意味著人類對于未來已經(jīng)失去自己的決定權(quán)，落入了這種“主奴型人機(jī)關(guān)系”的陷阱。因此，人類面臨著一個(gè)選擇，即如何科學(xué)地將人機(jī)結(jié)合在一起。在“主奴型人機(jī)關(guān)系”“敵抗型人機(jī)關(guān)系”通通走向失敗之后，“共生型人機(jī)關(guān)系”或許才是避免倫理困境的解決之道。而構(gòu)建“共生型人機(jī)關(guān)系”的前提是人與機(jī)器人互相能辨明對方與自身的差異，明晰各自的倫理身份[5]，使機(jī)器人以精準(zhǔn)的機(jī)械心智，執(zhí)行機(jī)器人世界中最高級的功能——解決價(jià)值判斷以及倫理的問題。假如機(jī)器人能夠被視為獨(dú)立的生命體，人機(jī)之間的道德責(zé)任和權(quán)力邊界就需要得到進(jìn)一步明確，人類需要決定如何處理人機(jī)之間的倫理混亂，并做出機(jī)器人是否能在人類社會(huì)中承擔(dān)領(lǐng)導(dǎo)者的角色等影響人類文明進(jìn)程的選擇。

四、“倫理秩序”的重建：人機(jī)關(guān)系的反思

《我，機(jī)器人》這部作品中，盡管在機(jī)器人學(xué)三大法則的束縛下，機(jī)器人的倫理身份發(fā)生錯(cuò)位，做出了令人費(fèi)解的倫理選擇。在眾多故事中，機(jī)器人產(chǎn)生了自我心理與自我意識，甚至能夠完成獨(dú)立思考，“念念不忘人類福祉”[4]，造成令人類左右為難的倫理困境，迫使人們開始思考如何進(jìn)行科學(xué)選擇。阿西莫夫以其獨(dú)特的視角，為身處人工智能技術(shù)飛速發(fā)展時(shí)代的我們提供了參考，他在過去所擔(dān)憂和警惕的問題，如今仍然具有一定的現(xiàn)實(shí)意義。

文學(xué)倫理學(xué)批評要求文學(xué)批評必須回到歷史現(xiàn)場，即在特定的倫理環(huán)境中批評文學(xué)[6]。回到阿西莫夫的創(chuàng)作時(shí)代，美蘇冷戰(zhàn)拉開序幕，人機(jī)倫理探討處于懵懂階段。身處科幻黃金時(shí)代并提倡理性主義的阿西莫夫在人機(jī)未來發(fā)展的暢想上也表現(xiàn)出樂觀積極的心態(tài)，他首創(chuàng)出的機(jī)器人學(xué)三大法則與弗蘭克斯坦情結(jié)無一不顯現(xiàn)出硬科幻文學(xué)中的人文關(guān)懷，展現(xiàn)其對于人類在處理人機(jī)倫理關(guān)系中具有的主導(dǎo)性地位。《消失無蹤》中，機(jī)器人心理學(xué)家蘇珊通過對第一法則的反復(fù)測試與調(diào)整，與一名失蹤的修訂型納斯特進(jìn)行心理上的較量，最終使對方暴露，人機(jī)倫理秩序得到了重建。其他極具典型性的故事如《抓兔子》《轉(zhuǎn)圈圈》都展現(xiàn)出人類的理性意志與機(jī)器人自由意志的較量。通過刻畫人類的理性意志靈活運(yùn)用機(jī)器人學(xué)三大法則優(yōu)先性的故事情節(jié)，阿西莫夫認(rèn)可了人類的主觀能動(dòng)性并給予人類對機(jī)器人的操控權(quán)力。得益于人類的智慧與理性，不同環(huán)境下由于機(jī)器人學(xué)三大法則產(chǎn)生倫理混亂的機(jī)器人也都回歸到正常的倫理秩序中。阿西莫夫在敘事過程中帶領(lǐng)著讀者逐一解開預(yù)設(shè)的倫理結(jié)構(gòu)，倫理秩序重建的過程反映了阿西莫夫主張人類在人機(jī)倫理關(guān)系中應(yīng)掌握主導(dǎo)地位。

在文本探讀的過程中，不難發(fā)現(xiàn)阿西莫夫?qū)θ藱C(jī)倫理的剖析逐漸深入，人機(jī)倫理觀更為成熟。《證據(jù)》中，阿西莫夫開始探討給予機(jī)器人擔(dān)任人類社會(huì)要職這種倫理身份的可能性，設(shè)置參選下一任市長的檢察官拜爾萊究竟是人類還是人形機(jī)器人引發(fā)了社會(huì)廣泛關(guān)注這一情節(jié)，反映了人們對于機(jī)器人管治人類的不安與反抗情緒。這樣的故事情節(jié)設(shè)置不妨視作阿西莫夫?qū)ξ磥硖岢龅脑O(shè)問：當(dāng)機(jī)器人技術(shù)已經(jīng)能產(chǎn)出外形與人類分毫不差，且道德品質(zhì)良好，具有杰出成就的人形機(jī)器人時(shí)，人類是否可以放手并信任機(jī)器人的治理？《無法避免的沖突》中，阿西莫夫給出了他的隱性回答：機(jī)器人足夠勝任各種治理工作，它們能夠有效調(diào)節(jié)資源分配，籌劃未來，提供最佳人類發(fā)展路徑，帶領(lǐng)人類走向無戰(zhàn)爭、和平美好的未來。受理性主義影響的阿西莫夫認(rèn)為，機(jī)體在決策能力上優(yōu)于人類，不受偏見擺布的他們能夠帶領(lǐng)人類迎來更高階的文明。

阿西莫夫在冷戰(zhàn)背景中建立的人機(jī)秩序下，為我們展示人機(jī)未來關(guān)系發(fā)展的兩種可能路徑：一種是人類在處理人機(jī)倫理關(guān)系上仍居于主導(dǎo)地位，擁有第一話語權(quán)；另一種則是人類放棄絕對決策權(quán)，讓機(jī)器人融入人類未來文明發(fā)展進(jìn)程，甚至給予能力優(yōu)于人類的機(jī)器人領(lǐng)導(dǎo)權(quán)。如今，人類自身掌握科學(xué)技術(shù)發(fā)展的大方向是主流，阿西莫夫給予的第二種可能顯然是違背人類共同利益與意愿的。《我，機(jī)器人》中隨處可見機(jī)器人倫理身份錯(cuò)位而導(dǎo)致的倫理混亂、機(jī)器人自我覺醒等種種問題，故事中角色表現(xiàn)的恐懼甚至反抗等負(fù)面情緒與當(dāng)下的人們?nèi)绯鲆晦H。誠然，機(jī)器人代表著人類文明的進(jìn)步，它們擁有極快的反應(yīng)能力與極高的信息處理能力，但它們不應(yīng)是人類的主宰。人類使用機(jī)器人的前提便是不為機(jī)器所制約與淘汰。在人工智能時(shí)代，我們應(yīng)該思考的時(shí)代命題不是人類是否會(huì)失去對機(jī)器人的掌控，也不是視其為絕對威脅并消滅它們，而是如何保持人機(jī)協(xié)同的主導(dǎo)者身份，正確認(rèn)識機(jī)器人與自身的優(yōu)缺點(diǎn)，合理運(yùn)用它們以達(dá)到人機(jī)共存的和諧狀態(tài)。《我，機(jī)器人》正好給我們提供了參照與借鑒：人類必須總結(jié)并設(shè)置一套完善、科學(xué)、高效的“機(jī)器人學(xué)法則”，而這套法則必須將人類自身安全置于最高位置。在不同危機(jī)情況下，人類學(xué)會(huì)運(yùn)用其特有的理性意志與主觀能動(dòng)性進(jìn)行靈活調(diào)整，把握住人機(jī)和諧共生的大方向，使之符合人類整體利益的發(fā)展。

五、結(jié)語

機(jī)器人是否能對人類產(chǎn)生良性影響，取決于人類文明的科學(xué)選擇。人類如何發(fā)揮他們所創(chuàng)造的機(jī)器人的正面意義，以及如何看待并平衡人機(jī)關(guān)系決定著人類社會(huì)的下一次轉(zhuǎn)型升級。在未來人工智能技術(shù)高度發(fā)達(dá)的社會(huì)，機(jī)器人不再是冷冰冰的機(jī)器，而將是有思想、有情感、能與人類進(jìn)行溝通交流的存在，它們勢必在人類社會(huì)中占據(jù)重要位置，這是我們必須認(rèn)識并接受的事實(shí)。

阿西莫夫的《我，機(jī)器人》給我們帶來的啟示是：一方面，人類不必過于恐慌與焦慮，因?yàn)槿祟惸軌虬l(fā)揮特有的理性意志，建立并調(diào)整相應(yīng)的機(jī)器人倫理法則以保護(hù)自己；另一方面，人類需要認(rèn)識到自身的局限，意識到自我的感性與偏見可能會(huì)引發(fā)不必要的戰(zhàn)爭與麻煩，需要重新思考并調(diào)整自身角色。人機(jī)和諧共生便是很好的發(fā)展方向，通過建造人機(jī)共存的空間，在人類命運(yùn)共同體的語境下發(fā)揮人類與機(jī)器人各自所長，相互促進(jìn)、相互制約，從而構(gòu)建和諧的人機(jī)命運(yùn)共同體，共同應(yīng)對未知的變化。

參考文獻(xiàn)

[1] 聶珍釗.文學(xué)倫理學(xué)批評理論研究[M].北京：北京大學(xué)出版社，2020.

[2] 費(fèi)凡，徐秋慧.阿西莫夫《我，機(jī)器人》中的人工智能文學(xué)倫理學(xué)解讀[J].英語廣場，2021（24）.

[3] 陳濤.科學(xué)選擇與倫理身份：阿西莫夫小說中的人機(jī)倫理關(guān)系[J].華中學(xué)術(shù)，2015（2）.

[4] 阿西莫夫.銀河帝國8：我，機(jī)器人[M].葉李華，譯.南京：江蘇文藝出版社，2013.

[5] 黃李悅，江玉琴.技術(shù)倫理視角下阿西莫夫人機(jī)關(guān)系研究[J].齊齊哈爾大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2022（12）.

[6] 聶珍釗.文學(xué)倫理學(xué)批評：基本理論與術(shù)語[J].外國文學(xué)研究，2010（1）.

（責(zé)任編輯 羅? 芳）