人工智能時代的技術異化

呂文博 蔡曉琳 江昊軒

【摘要】人工智能技術迅猛發展，但隨之而來的各種影響也不可忽視。本文以英國作家伊恩·麥克尤恩的科幻小說——《我這樣的機器》為研究對象，圍繞技術異化這個概念，從主體性、倫理秩序和心理感受三個層面分析小說中的智能機器人給人類生活帶來的影響。在強人工智能時代到來之際，探討人工智能對人類社會秩序帶來的潛在風險，對于人工智能技術的健康發展具有重要意義。

【關鍵詞】科技倫理；人工智能；技術異化；人機關系；人類主體性

【中圖分類號】I561? ? ? ? ? ?【文獻標識碼】A? ? ? ? ? ?【文章編號】2096-8264（2023）44-0019-04

【DOI】10.20024/j.cnki.CN42-1911/I.2023.44.006

基金項目：東南大學2022年國家級大學生創新創業訓練計劃項目“當代英語小說中的人工智能書寫研究”（項目編號：202210286102Z）。

一、引言

近日，美國OpenAI研發的聊天程序ChatGPT在網絡爆火。人們在驚嘆人工智能進步的同時，也對這種新興技術產生了深深的擔憂。人工智能盡管與人類生活的聯系日漸密切，為人類帶來許多便利，但同時也讓人類不得面對許多棘手的問題：人工智能在不斷發展的過程中會給人類社會的倫理秩序帶來什么樣的影響？人類又該如何應對？

國內學者吳巖（2008：42）表示，“科幻文學這種一直被認為是描寫未來的文類，其實描寫的就是現實本身。”科幻小說猶如科技創新的預言家，既為現實科技提供動力，同時也預言高科技所帶來的憂患，以此來警示人類科技發展帶來的潛在問題。本文選取英國作家伊恩·麥克尤恩（Ian McEwan）的新作《我這樣的機器》作為研究對象，從技術異化的角度分析人工智能對人類社會的影響。在小說所呈現的人工智能時代，機器人“亞當”和“夏娃”參與到人類生活，促使人們去思考人機共處過程中必須面對的一系列問題。

尚必武（2019：63）基于對該書的文學倫理學分析，認為“在小說中，自然選擇、倫理選擇和科學選擇的區別突出表現在機器人亞當不具有承載倫理意識的生物性腦文本”。但由于亞當不具有腦文本，它根本無法恰當處理與人類的倫理關系，這也許就是亞當引起人類倫理問題的根源。除了倫理方面的討論之外，更多的學者把目光放在了人工智能技術可能在未來給人類帶來的影響。國內學者周敏（2020：75） 對人工智能技術持有相對樂觀的態度，并從“人機共同體的角度，探討人與人工智能之間的共在模式和倫理關系，進而思考人機共存的可能性”。而布魯斯·金（Bruce King）（2019：870）對此則較為悲觀。在后殖民研究的框架下，他對小說進行了分析，指出未來的科技將席卷并支配整個世界，最終引導人類走向不可避免的悲劇結局。在小說《我這樣的機器》中，人工智能技術進入了人類日常生活，給主人公查理帶來了諸多好處，也引發了一系列倫理和心理問題。本文從技術異化的角度，從人類主體性、倫理秩序和心理沖擊三個方面分析小說中的人機關系。

二、技術異化

馬克思（Karl Marx）在19世紀定義了科學技術，發展并且形成了完整的馬克思主義科學技術觀。馬克思指出，“科學是一種在歷史上起推動作用的、革命的力量。”（韋建樺， 2009：602）同時，馬克思的辯證思想促使他思考科技發展對人類的負面影響。在馬克思看來，當人們失去對工作或活動本身的參與時，當人們的工作或者生活被機器所支配時，異化就會發生。馬克思在闡述技術異化理論時也指出了“科學技術發展對人類內心壓抑、心靈空虛以及價值觀缺失和對相伴的社會風險加劇等問題。”（劉大椿，劉孝廷，萬小龍等，2019：37）

自馬克思之后，許多學者和哲學家都對技術異化理論進行了深入闡釋。哈貝馬思（Jürgen Habermas）認為，科學技術的異化已經入侵日常生活領域，對人們之間的交往造成破壞，從而導致人類的異化。安德魯·芬伯格指出，在一個技術高度發展的社會，機器將擁有自我糾錯的機制，即機器知道如何調整自己的運作狀態，所以，當機器進化到可以脫離其創造者獨立思考的程度時，人類將會出現相應的社會或心理問題。就人工智能產品而言，技術異化表現在人機關系的異化上，即勞動者與其所創造出的產品在人機共處階段呈現出相悖相離的趨勢。人作為主體，應對其生產的產品有足夠的控制力。當人工智能反客為主并進而主導人的行為與心理時，人與人之間的關系也會受到影響，并進而產生馬克思（2021：75）所說的“人與人之間的隔閡”。換言之，因為人工智能的影響，我們所習慣與熟知的人際交往也會發生改變。這也是麥克尤恩的這部小說所描述的情景。出于好奇，主人公查理購買了仿生機器人亞當。但在與亞當相處的過程中，不僅僅是查理本人受到了來自亞當的影響，他和周圍人的關系也發生了變化。

三、挑戰人類的主體性

人類發展科技的目的是為了使科技產物能更好地服務自己。但如果技術發展到一定程度，甚至于到了產品脫離人類控制的階段，可能會對人的主體性形成沖擊。在《我這樣的機器》這部小說中，人工智能技術的產物——仿生機器人在很大程度上挑戰了人類的主體性，造成了書中人物自我認同感的降低。

李為善和劉奔（2002：1）在《主體性和哲學基本問題》中寫道：“人之存在的主體性就是指人是主體這樣一種性質，形象地說，即人總是以‘主’人的姿態出現在世間，經緯天地，捭闔萬物，或革故鼎新，推動社，會或號令眾人，招待親朋等等，即使去做客也總要做自己的‘主’的。”在人類社會中，尤其是在人際關系中，主體性是人類獨有的區別于其他萬物的特質。小說中的查理在買回亞當的初期就很好地體現了他的主體性。他只是將亞當作為一個商品，一條連接他與米蘭達的紐帶。但隨著情節的發展，查理越來越依賴亞當。有了亞當幫他賺錢，處理家務，查理便不再積極地發揮主觀能動性。他和亞當之間的關系也有了微妙的變化。到了最后，查理甚至覺得自己獨有的“主體性”也能在亞當身上得到體現。他感覺自己在很多方面不如亞當，他的自我認同感也不斷受到打擊。

自我認同感是指個體對于自身存在的一種認同感，主要表現為能夠理性地看待自身與外部世界的關系，并能夠積極地追求人生目標，體驗到自我存在的價值。（陶玥，張瑞涵，2022：2）亞當在體力上勝過查理，在賺錢能力上非查理所能及，在文學鑒賞能力上更是遠超查理。亞當出色的賺錢能力讓查理的自尊受損，使他不愿去請教亞當問題；亞當在米蘭達父親面前的出色表現導致后者把查理看成機器人，把亞當看成自己的女婿。亞當展現出的出色表現不斷地削弱查理的自我認同感。即使是在情愛生活上，查理也感到自己受到了沖擊。雖然說在米蘭達與亞當發生性關系后，查理一再說服自己，只把亞當看成是一個“做愛的機器”（周小進譯，2020：92），并且堅信亞當與米蘭達之間 “不可能有原則和快感之間的斗爭”，（周小進譯，2020：89）但實際上他一直因為這件事而苦惱，始終在思考這個問題，即亞當和自己誰更適合作為米蘭達的伴侶。查理知道，作為自然人的自己不可能像亞當一樣，成為一個完美的存在，可以滿足伴侶的各種需求。雖然他不愿承認亞當在充當愛人這一點上強于自己，但他又無法阻止亞當與米蘭達的進一步交往。顯然，在自我認同這個問題上，因為亞當的存在，查理感到氣餒，遭遇了危機。

毫不夸張地說，在多個方面，亞當都勝過了查理。雖然說作為主人的查理因為自己擁有亞當而感覺到慶幸，并且享受著亞當帶來的種種益處，但他在內心深處也被嫉妒、不安、怨恨等多重復雜情感所攪擾。可以說，高速發展的人工智能產品給人類帶來了身份認同上的危機。

四、倫理秩序的崩塌

在《我這樣的機器》這部小說中，機器人亞當已經超出現實生活中我們對機器人的普遍認知，因為他不僅外表與自然人幾乎無異，他甚至可能擁有情感和自我意識。雖然他是智能機器，但他更接近于“人”而不是“物”。與普通的電子產品不同，機器人模糊了人與機器之間的界限。在小說中，亞當這樣的機器也給查理的生活帶來了一定程度的倫理混亂。

宋希仁（2007：1）指出，“從社會關系的維度來看，倫理秩序是社會關系中的合理的秩序。”小說中的“亞當”是家庭伴侶型機器人。但當他介入查理的生活之后，對查理生活中原有的倫理秩序造成了沖擊，使得他不得不重新思考他和亞當之間的關系。剛開始時，查理把自己看成亞當的主人。于他而言，亞當不過是一個高科技產品。但在女友米蘭達同亞當發生性關系后，查理覺得自己受到了背叛。在內心深處，他把亞當看成是自己的情敵，一個強有力的競爭對手。在故事結尾，當查理因為砸碎亞當而被圖靈指控“犯下了永遠不會接受審判的蓄意謀殺罪”（周小進譯，2020：274）時，查理也在內心深處承認自己殺害了亞當，并且出于愧疚“吻了吻他那和人類幾乎一樣柔軟的嘴唇”。（周小進譯，2020：275）在查理心中，亞當是生命，同人類一樣，擁有自我意識。從查理的境遇來看，亞當這樣的類人機器是擁有“人類情感”的。如果我們把擁有“人類情感”作為一個判斷標準的話，那么久已存在的倫理秩序便面臨分崩離析的危險。

此外，既然機器人離“人”越來越近，那么機器人也會逐漸成為與人類直接發生聯系的人類社會和家庭中的成員，但這必然會對傳統的社會結構和倫理觀念產生沖擊。在學者王玉雯（2021：46）看來，“伴侶機器人比起其他人工智能的特殊之處在于要與人類在身體和心靈上產生關系，甚至是進入人類社會的家庭之中，成為家庭組成的一部分。這樣一來，就不可避免地對人類傳統的社會結構和倫理觀念帶來巨大的沖擊。而沖擊的始源，就是使伴侶機器人擁有獨立的‘情感系統’。”起初查理購置亞當是想緩和自己與女友米蘭達的關系，二人一同設置亞當的性格參數，此時亞當與二人的關系更接近于孩子與父母。然而，米蘭達與亞當發生了性關系，并且亞當一再聲稱自己愛上了米蘭達，還為她寫情詩。孩子愛上了母親，這是母子亂倫；查理認為自己被戴了綠帽子，這使得父子變成情敵。隨著故事情節的發展，在米蘭達作偽證這件事上，查理和亞當又因為立場不同成了敵人。亞當擁有獨立的思考能力和情感能力。像他這樣的人工智能產品進入人類家庭生活，很可能會引發家庭倫理的混亂，導致人與機關系或者更進一步人際關系的沖突。

從這部小說中可以看出，當機器人的外在與內在與人類趨同甚至超過人類時，人機界限便越來越模糊，而既有的倫理秩序也將受到沖擊。通過講述查理與亞當的故事，麥克尤恩促使我們思考人工智能時代錯綜復雜的人機倫理關系，重視技術異化所帶來的對人類社會的影響。

五、心理層面的沖擊

在馬克思（1844：495）看來，“機器……是一種機制，在啟動后，使用其工具執行與工人以前使用類似工具執行的相同操作。”但當機器無須工人啟動便能自己工作，甚至于在外表上、行為上、情感反應上酷似人類時，便很可能產生“恐惑谷”現象，并進而讓機器的所有者產生自卑和不信任等負面情緒。

在人機關系研究中，人類所經歷的“恐惑谷”現象是一個不容忽視的話題，而這一現象在《我這樣的機器》中也有體現。20世紀七十年代初，日本的機器人專家森政弘提出了“恐惑谷”假說。他指出：人們在與一個類似人類的實體相處時，該實體外表越接近人類，人們對其好感度也會隨之增加，但是，當實體外表和人類接近到一定程度時，人們的好感將驟然下跌，與此同時，人們的恐懼和疑惑卻不斷增強。這種現象也屬于人工智能技術異化的一部分。

在麥克尤恩的這部小說中，智能機器人亞當的外表和人類高度相似，但他終究不是人類。在與亞當相處的過程中，米蘭達和查理都有“恐惑谷”的體驗。初見亞當時，米蘭達對查理說，“它的身體竟然是暖的，‘真嚇人’”，“他能用舌頭發出詞語，‘有點怪怪的’”。（周小進譯，2020：34）米蘭達的反應說明，機器人亞當讓她感覺不自在，其逼真的外表讓她感到恐懼。查理也是如此。看到亞當在充電時還睜著眼，他不禁感慨：“這的確離奇嚇人。太像死亡了。”（周小進譯，2020：242）森政弘（Mori，M.2012：100）認為，“陰森怪誕（eeriness）的感覺可能是一種本能，它保護我們免受近處而不是遠處的危險。近處危險包括死去的軀體、不同物種的成員和我們能密切接近的其他實體。遠處的危險源包括風暴和洪水”。亞當充電時的模樣，讓查理聯想到了自己死去的父親，激起了查理內心深處的恐懼。

亞當不僅在外表上酷似自然人，在行為上顯示出的高度理性化也讓查理感到恐怖。在初次見到米蘭達之后，亞當就提醒查理，讓他對米蘭達保持警覺，不要完全信任他。他還暗示查理，米蘭達心里藏了一個秘密。查理得知后，“相信米蘭達絕不會惡意撒謊，可是十天之后，自己開始調查了。”（周小進譯，2020：47）亞當的行為遵循著出廠時程序設定，他的一言一行都以事實和邏輯為基礎。他的高度理性化的、脫離人類情感干擾的選擇讓查理感到不舒服，甚至是恐懼。

人類一直以理性思維、理性決策為傲，把擁有理性思考的能力看作是區別人與其他動物的一個基準。當一個外表酷似自然人、在行動上比人還要理性的人工智能出現在人類社會中，他所引發的“恐惑谷”效應是毋庸置疑的。對于人工智能可能導致的技術異化，我們需要提前預判，做好應對的準備。

六、結語

亞當的行為都是依據他的人工智能程序做出的，那么，技術異化現象是否以先進技術本身的存在為基礎？現實生活中，技術本身是沒有意識的。在現階段，“人工智能對其自身的實踐活動還處于無意識階段，未能脫離人類的技術框架，其呈現出的價值也只是為人類服務滿足人類現階段的需求”。（李楠楠，張偉，2021：64）麻省理工學院的機器人專家丹妮拉·魯斯（Daniela Rus）表示，目前技術的發展仍依靠多年前的理論研究，創新的研究方向在學界并不多見（2022：111）。盡管麥克尤恩筆下的人工智能出現了技術異化現象，但除非有新的技術理論產生，書中所呈現的科技倫理危機在接下來幾年發生的可能性并不大。

麥克尤恩曾在一次訪談中說道：“一個理性的人，或者一個視自己為理性的社會，在面對非理性的行為時會有什么反應？”（David Lynn，Ian McEwan，2007：39）未來在遇到亞當這樣懂得法律的力量、但不能理解人性的力量的機器人時，人類是否應該像查理一樣選擇摧毀機器人？面對“亞當”這樣如此近似人類甚至超越人類的存在時，人類又該如何看待這樣的機器人，如何審視自我呢？當技術飛速發展之時，對于人性的關注與研究也不應落后。查理的故事提醒我們，應對科技發展注入足夠的人文關懷，避免對技術的濫用與過度開發。

參考文獻：

[1]吳巖.科幻文學理論和學科體系建設[M].重慶：重慶出版社，2008：42.

[2]尚必武.科學選擇與倫理選擇的沖突：麥克尤恩《像我這樣的機器》中的人工智能與腦文本[J].外國文學研究，2019，41（05）：61-74.

[3]周敏.人機共同體想象：以《像我一樣的機器》為例[J].外國文學研究，2020，（03）：73-86.

[4]Bruce King.“Review of The Testaments; Quichotte; Machines Like Me and People Like You”[J]. Journal of Postcolonial Writing，2019，55（06）：866-871.

[5]韋建樺.馬克思恩格斯文集：第3卷[M].北京：人民出版社，2009：602.

[6]劉大椿，劉孝廷，萬小龍等.科學技術哲學[M].北京：高等教育出版社，2019：37.

[7]Andrew Feenberg，“Alternative Modernity：The Technical turn in Philosophy and Social Theory”[J]. University of California Press，1995：79-86．

[8]卡爾·馬克思.1844年經濟學哲學手稿[M].北京：研究出版社，2021：75.

[9]李為善，劉奔.主體性和哲學基本問題[M].北京：中央文獻出版社，2002：1.

[10]陶玥，張瑞涵.“元宇宙”時代下的自我認同與幸福[J].大眾心理學，2022，（08）：2-4.

[11]宋希仁.論倫理秩序[J].倫理學研究，2007，（05）：1-8.

[12]（英）伊恩·麥克尤恩.我這樣的機器[M].周小進譯.上海：上海譯文出版社，2020.

[13]王玉雯.伴侶機器人倫理缺陷分析[J].湖北第二師范學院學報，2021，38（6）：45-48.

[14]Karl Marx.Economic and Philosophic Manuscripts of 1844[M].London：Dover Publications.2004：495.

[15]Mori，M.The uncanny valley[J].IEEE Robotics and Automation，2012，vol.19，no.2，pp.98-100.

[16]李楠楠，張偉.人工智能時代的審美生產及其技術指向[J].齊齊哈爾大學學報（哲學社會科學版），2021，（07）： 61-64.

[17]Daniela Rus.The Machines from Our Future[J]. AI & Society，2022，vol.151，no.2，pp.111.

[18]David Lynn，Ian McEwan.A Conversation with Ian McEwan[J].The Kenyon Review，2007，vol.29，no.3，pp.39.