《克拉拉與太陽》中的人工智能與道德倫理

諾貝爾獎得主石黑一雄的小說《克拉拉與太陽》迫使人們正視自己對新興技術未來的焦慮，并直面關于尊嚴、存在和人性的深層次問題。小說還通過復雜的角色和推測的未來讓我們從不同視角來體驗新的生活和新的世界。雖然小說的世界貌似離我們自己的世界很遙遠，我們傾向于對小說中角色的道德倫理錯誤做出判斷，但后來我們才意識到，其實這些道德倫理錯誤也存在于我們的世界。

諾貝爾獎得主石黑一雄的小說《克拉拉與太陽》生動描述了由利益驅使的科技公司開發的新興技術正在重塑我們的私生活，并引導我們反思這些技術在我們的社會環境中所扮演的角色。小說的背景設定在不遠的未來，表面上，當代讀者讀起來似乎熟悉，小說的背景世界卻充滿了令人不安的差異。在很多方面，石黑一雄設定的未來世界只是突出了資本主義環境的特征，可以被視為資本主義環境的自然發展。克拉拉被稱作“AF”（Artificial Friend），是富裕家庭購買來陪伴孩子的高級機器人。克拉拉的小主人是個小女孩，她住在一所鄉間別墅里，過著相對孤獨的生活：在她的“長方形”（類似iPad的屏幕）上“上學”，只通過罕見的會議與同齡人進行社交。通過這樣的未來世界情境設定，石黑一雄諷刺的是，雖然人類擁有比以往任何時候都更先進的商品和服務，同時卻感到了日益增加的孤立和絕望。

《克拉拉與太陽》以一種清淡的筆觸和從容的節奏展開，作者選取了極具洞察力和模仿能力的機器人克拉拉以第一視角來描述她所經歷的世界。這部小說的敘事方式與石黑一雄的其他敘事沒有什么不同。《克拉拉與太陽》低調的敘事基調與讀者從機器人克拉拉視角邊緣獲得的令人不安的細節形成了對比。“當讀者翻頁的時候，這些細節變得更加令人不安，小說的張力也越來越大，這使它成為一部你無法停止閱讀的懸疑驚悚片”。好的文學提供了與世界更具體驗性的接觸，使我們能夠富有想象力地進入遙遠的他人生活，并催生“參與”情感。《克拉拉與太陽》在這方面表現出色，它通過復雜的角色和推測的未來讓我們可以從不同的視角來體驗新的生活和新的世界。石黑一雄還為我們展現了更深層次的寓意：雖然小說的世界貌似離我們自己的世界很遙遠，使我們傾向于對小說中角色的道德倫理錯誤做出判斷，但后來我們才意識到，其實這些道德倫理錯誤也存在于我們的世界。

人工智能

石黑一雄選取克拉拉作為第一人稱敘事寫法特別高明。克拉拉是一臺機器，她的語調平淡而機械，她的視覺系統與我們的截然不同。人類的某些方面似乎超出了她的掌控范圍。她無法理解人類對孤獨的恐懼，無法認識到死亡和悲傷會以何種方式消耗我們的生命，也難以理解某些常見的人類非理性模式。但克拉拉不僅僅是一臺機器，通過“眼睛”看世界，她有著復雜的心理活動和豐富的主觀經驗。在小說的各個方面，她都表現出了同理心、同情心、幸福感和渴望，有時甚至比我們人類自己看到的還要多。我們發現，克拉拉在敬畏、祈禱、希望和犧牲的共同作用下，會產生共鳴的情緒反應。我們目睹她經歷了精神崩潰，并努力理解強加給她的要求。石黑一雄熟練利用機器之間的這種雙重性，雖然有時似乎太人性化，我們難以理解克拉拉的心理過程和能力，但最終讓我們認識到這些過程與我們自己的感知、思考和行動有多么相似。

像ChatGPT這樣超級人工智能的認知能力以數據收集和模式識別為特征，克拉拉的認知能力是由她與環境互動并受到環境挑戰時收集的感官、知覺和物理數據形成的。與許多標準的文學比喻相反，從一開始，克拉拉就不是一個以滿足人類需求為唯一目標的遲鈍仆人，也不是一個愿意操縱和殺害人類以達到她目的的機器。事實上，石黑一雄對克拉拉的設定超越了人們對機器人的刻板印象。當克拉拉說出自己的想法時，我們不得不承認她有理性、理解力和自知之明。她的第一人稱敘事視角讓我們毫無疑問地認為克拉拉是聰明的。這部小說迫使我們思考我們與智能機器的生活倫理問題，如“我們如何與它們建立聯系？”“從生產它們中獲利的公司有什么責任？”“它們有什么樣的自主權和尊嚴？”“它們的生活是否充滿意義（如果有的話，是什么類型的）？”

小說中克拉拉的幾個重要選擇情節進一步動搖了我們對人工智能的標準看法。克拉拉被描繪成一個高度清醒的女孩，同時擁有一種孩子般的天真。盡管她表達得很敏感，但對于她是否經歷過真正的同理心，還是有一些模糊之處。這部小說的一些評論家不太愿意把克拉拉描述為“她”或“它”。當我們讀到這篇文章時，我們可能會忍不住問克拉拉是否被編程為模仿人類的感覺，通過她的行為卻意識到這一事實根本無關緊要。我們屈尊俯就地忍受了她對太陽的天真崇拜，只是發現她在做一些我們錯過的重要事情。當人類看不到的時候，克拉拉似乎看得很清楚。但我們人類心知肚明，克拉拉所謂的“太陽能滋養并治愈小主人”的基本邏輯是講不通的。

這部小說深刻表明，道德推理是一個具體的過程，由思想所在的特定媒介和發展的特定環境共同塑造。我們看到，克拉拉的世界觀是她如何被編程、訓練和教育的結果。例如，由于她所服務的世界是高度等級化的，社會地位是她注意到的關于人的第一個特征。因為她受到了太陽的“滋養”，所以這個天體就成為了她崇敬的主要對象。我們人類不禁會發出疑問：我們會不會犯克拉拉同樣的錯誤呢？我們的道德價值觀難道不是由我們有缺陷的社會環境或自然選擇的反復無常所塑造的嗎？像克拉拉這樣有著豐富內涵的智能實體使我們聯想到創造、營銷和售賣這些實體公司的道德責任問題。即使克拉拉是一個善意的機器人，主要目的是提供幫助，但為什么她沒有被編程來質疑她所服務的不公平社會秩序、她所處環境中有缺陷的偏見呢？這些其實是人工智能的資本市場力量所決定的。石黑一雄故意設定小說角色對一些最令人不安的道德問題視而不見，從而引發我們人類對人工智能大環境下自身道德倫理問題的深思。

道德倫理

作為一部未來主義科幻小說，《克拉拉與太陽》讓我們面臨著當前資本主義體系中正在發展的新興技術所帶來的許多焦慮。特別是，這部小說讓我們反思了商業倫理學家應該思考的問題，比如與追求利潤的公司開發的高度智能機器共存的承諾和危險，追求人類進步和超人類主義作為參與勞動力的一種手段，以及生活在技術失業已經掏空了勞動力環境中的中產階級的生存現狀。

石黑一雄精心構建了克拉拉的世界，使其看起來像我們的世界。克拉拉的世界充斥著財富和機會的不平等，這種不平等其實正是我們當前資本主義環境的特征。正如Lombardo所言，這部小說強調了“無情的技術邏輯”，將童年、教育、家庭、工作，甚至個人的自我意識轉變為一種可以購買、出售和優化的產品。這部小說是對“我們這個物種是否能夠忍受它創造的一切”和“兒童為現代進步所付出的代價”的沉思。

石黑一雄用低調、渾厚的散文詳細描述了克拉拉的世界，使許多令人震驚的細節看起來平凡而正常。克拉拉似乎對她觀察到的任何事情都沒有做出道德判斷，一些最令人不安的特征從未在她的敘事中占據中心位置；相反，讀者通過附帶的對話和評論將背景拼湊在一起。此外，讀者沒有面對一個完整的科幻世界，而只是目睹了一個家庭平凡而親密的日常生活。這部小說不是關于英雄人物試圖改造反烏托邦世界的故事，而是關于普通人盡最大努力以他們能夠忍受的方式生活的故事。在這個過程中，它突顯了我們的個人世界正在被人類所無法控制的不協調的企業決策網絡重塑。石黑一雄將我們置于一個被動接受的世界，他讓道德問題凸顯得更加具有壓迫感。當像我們這樣的普通人“無助地陷入悲劇安排”時，他們必須面對這些問題。

石黑一雄似乎精心描繪了這個未來世界，一些人卻質疑其合理性。無人駕駛汽車明顯缺席，盡管有機器人，人們居然仍在使用真空吸塵器，雇人來清潔窗戶，雇女傭來做家務。同樣令人困惑的是，為什么克拉拉這樣一個昂貴而強大的機器人，沒有被編程、訓練或教授關于她的世界的某些基本事實。例如，她對雙向行駛的汽車不會在雙面高速公路上相撞這一事實感到困惑，她忽略了谷倉是什么，以及它的用途，她不了解她崇拜的太陽的局限，她不清楚醫學常識等。

然而，這些差異在小說中起著重要的敘事作用。石黑一雄作品的成功恰恰在于它能夠熟練地將我們與克拉拉的世界拉開距離，并將我們帶回到那里，就好像那是我們自己的世界一樣。克拉拉對汽車的思考讓我們覺得這種平凡的活動是陌生的，這促使我們以類似的方式看待我們的許多其他日常活動。克拉拉對我們復雜情緒的簡單描述使我們能夠從一個富有洞察力的新穎視角來看待它們。女傭的存在幫助我們直面和解決不平等和階級歧視問題，這些問題在克拉拉的社會中和在我們的社會中一樣普遍存在。事實上，有趣的是，克拉拉本人“既是無人性服務器的化身，也是對其的反駁”。

石黑一雄似乎將克拉拉當作完美的造物來呈現，他一方面借克拉拉的視角極為溫柔地批判人性深處的糾結、自私和軟弱；另一方面，他并沒有像其他刻畫人工智能的小說那樣為讀者呈現一幅可悲可怖的近未來社會，這使得整部小說更像一則帶著小說家美好愿望的童話。克拉拉完美地完成了任務，幫助喬西活了下來。雖然最終難免被投棄在堆場的命運（消費社會“用完即棄”的邏輯），但她看起來不僅沒有絲毫怨言，反而感恩與喬西一家度過的時光。這段結尾讀來不免讓人心生悲涼，我們還是會感慨，即便像喬西父母那樣的好人，仍然有自私自利的一面。《克拉拉與太陽》雖說是科幻小說，但科幻顯然并非它的核心。與其說石黑一雄創作了一部科幻小說，不如說他借用了科幻小說的形態，讓我們通過一個有同情心的機器人的眼睛來體驗世界，《克拉拉與太陽》迫使讀者面對關于人類和機器的重要認識論、本體論和倫理問題。石黑一雄為讀者提供了一個豐富的空間來反思目前普遍存在的對未來資本主義社會的許多焦慮，反思我們現在的世界觀和價值觀。正如一些商業倫理學家和普通讀者對克拉拉的世界有了新的見解：克拉拉的世界聽起來一點也不像科幻小說。

作者簡介：

蔣華，1983年出生，碩士，副教授，研究方向：英美文學。本文為2022年江蘇省高校高質量公共課教學改革研究項目：“新文科”背景下大學英語聽說能力提升的多模態范式研究，項目號：2022JDKT119。作者單位：東南大學成賢學院。