科技倫理視閾下的《克拉拉與太陽》

[摘? 要] 石黑一雄在其新作《克拉拉與太陽》中緊扣時代的主題，展現(xiàn)了未來人類社會可能會出現(xiàn)的人與科技、人與人工智能的倫理沖突，對人類從倫理選擇階段到科學選擇階段有著前瞻性的認識與思考。石黑一雄以人工智能型機器人克拉拉和人類喬西一家一起生活的過程中所產生的矛盾沖突為例，揭示了科學選擇與倫理選擇之間的沖突，隱喻著科學選擇指向人的未來。本文基于科技倫理學的相關理論和知識，對文中展現(xiàn)的科學技術與倫理道德的同一與沖突，倫理選擇與科學選擇的兩難進行闡釋，以此來對石黑一雄的機器人運用應該在合理的倫理向度下這一科學倫理觀點進行總結。

[關鍵詞] 石黑一雄? 《克拉拉與太陽》? 科技倫理

[中圖分類號] I106? ? ? ? [文獻標識碼] A? ? ? ? [文章編號] 2097-2881（2023）10-0050-05

處于數(shù)字革命高潮時期的21世紀，人工智能與AI技術也走向成熟，成為人類社會生活中的一個重要組成部分。在這些高新現(xiàn)代科技的運用當中，人類面臨著復雜的倫理問題。與20世紀以來科幻小說的主題有所不同，石黑一雄在其新作《克拉拉與太陽》中除了展現(xiàn)人類與機器之間固有的矛盾沖突外，更加關注的是人與機器之間的倫理問題，尤其是科學技術與倫理道德二者之間的同一與沖突，介于科學選擇與倫理選擇之間的兩難。同時，在這些倫理書寫中，作家自身的科學倫理觀也得以展現(xiàn)。

一、科學技術與倫理道德的同一與沖突

在人類漫長的歷史發(fā)展進程中，生產力的改變與提高使得人類社會不斷超越自身，達到全新的水平。在這個進程當中，科學技術和倫理道德始終都是存在于人類生產與求知活動中的兩種重要社會形態(tài)，兩者和諧的統(tǒng)一是人類社會向前發(fā)展的重要保證。這二者雖然有明顯的差異，但是科學技術、科學文化、科學活動都與個體的倫理觀念、道德觀念和人類社會整體的道德觀念之間存在著密不可分的關系。在一種科學技術最初產生時，其對于人類社會的促進作用是毋庸置疑的，對社會倫理道德來說，科學文化也推動了道德文明的形成。而當這種科學技術逐漸走向成熟時，它的迅速發(fā)展與人類社會無法與之匹配協(xié)調的公共物質需求和個人欲望之間也產生了沖突矛盾。

1.科學技術與倫理道德的同一

在石黑一雄筆下所建構的那個未來世界里，人們面對“類人”機器人的出現(xiàn)時，能夠輕易地跨過那條至深至寬的恐怖谷，從而理性地對待機器人。從小說中的機器人主人公的名字來說，這次的主角是“陪伴型”機器人，而非“服務型”“工業(yè)型”，這給小說中的機器人群體下了定義，人類自身的陪伴需求正是他們產生的原因。

小說中，陪伴型機器人即AF逐漸成為兒童市場的主流。AF商店的經理對來選購AF的客人說“恕我直言，太太，第三代產品已經為許多孩子帶去了無盡的歡樂”，克拉拉自己也能看見大街上隨處都有跟隨在青少年身后的AF。“隔壁那條街——PRO大樓后面的那條——擠滿了AF。”“你看到了嗎，克拉拉？那個男孩好愛他的AF呀！噢，瞧瞧他倆一起哈哈大笑的模樣！”等到克拉拉這一代B2型AF出現(xiàn)時，陪伴型機器人的市場已經愈加成熟，每天來店里挑選AF的家庭絡繹不絕。其后，B3型的AF也緊接而來，開始擠壓B2型AF的市場。與只會進行機械反映與程式化動作的機器人不同，這一類的陪伴型機器人專為陪伴兒童而設計，具有極高的觀察、推理與共情能力，它們的出現(xiàn)就是為了消解青少年的孤獨感。

包括書中提到的喬西使用“矩形板”上課，里克的機械“鳥群”，這些都是科學技術在合理的向度之下被使用，先進的科學文化也給予了人類更加先進的智慧，讓人能更加方便而又深刻地探索世界。可見，即使人工智能已經進入人類的生活并被廣泛使用，但是在和機器人相處的過程中，人依舊保持著理性的認識。此時科學技術對道德倫理是起著推動作用的，人類用理性作為催化劑調節(jié)著科學技術和倫理道德的關系，使得二者之間相互協(xié)調和發(fā)展。

2.科學技術與倫理道德的沖突

當科學技術從最初的平緩發(fā)展逐漸走向高速發(fā)展時期，科學技術在人類社會得到廣泛應用，成熟的科學技術讓人類的欲望也隨之快速膨脹起來。人類社會生存資料的有限性導致二者的沖突和矛盾。在《克拉拉與太陽》中，科學技術與倫理道德的沖突主要存在于兩方面。

一方面，是作為群體的機器人與作為群體的人類之間的沖突。這個沖突是人類在人工智能迅速發(fā)展的未來社會中將會面臨的一個群體性危機——失業(yè)，它直接威脅的是人類自身的生存。在小說中，喬西的父親就是一位因為機器人在高精尖行業(yè)中廣泛運用而失去工作的技術人才。他曾經任職于一所名叫“金博爾制冷”的高精尖化工廠，是一位能力卓越、有著光明未來的高級人才，“他被替代了。跟其他所有人一樣。……他曾經是個天才。”在機器人逐漸被運用到高精尖行業(yè)的時候，許多作為曾經的行業(yè)希望、未來精英的人才被替代，失去了賴以生存的職位，從頂端跌落至谷底，美好的未來圖景粉碎在機器人的手里。這也正是喬西家庭破裂的原因之一，喬西的父親離開了家庭。喬西曾問他的父親，“為什么要住在一個滿是黑幫滿是槍的地方呢？”里克的母親海倫小姐也補充道，“你們都來自曾經的職業(yè)精英隊伍。你還說過，你們幾乎全民皆兵的武裝起來，對抗其他各色人等。這一切聽起來確實有一點法西斯主義的味道……”可以說，在失去穩(wěn)定的職業(yè)后，這些精英人才采取了抱團取暖、敵對其他團體的人生態(tài)度。科學技術對這些高級知識分子生存空間的擠壓，使得這些原本應該是未來社會的中堅力量轉而變成了一股不穩(wěn)定的、隨時有可能爆發(fā)動亂的危險力量。在文中后半部分可以看到一部分人對AF的態(tài)度也發(fā)生了轉變。在劇院門口，一位身穿高級藍色裙裝的女士對克拉拉說，“它們先是搶走了我們的工作，接著它們還要搶走劇院里的座位？”從這位女士的穿著打扮可以看出她也屬于精英階層，對于這些擠占社會公共生存空間與資源空間的機器人，人們愈加不滿。在這個時候，科學技術早已不是服務人類的存在，也無法對人的倫理道德起到良好的導向作用，反而導致兩者之間沖突不斷，人甚至要變?yōu)闃O端反對科技的存在。當機器人走入人類的日常生活中，人與機器人之間的生物種族矛盾將會弱化，二者逐漸的分裂是由于人類的利益受到了損害。

另一方面是科學技術逐漸入侵人類最根本的權利即生命權利，同時科學技術的濫用，引發(fā)了社會群體的焦慮與倫理失衡，倫理道德此時不過是科學技術的腳下之物。小說中隱晦提到的“提升”其實指的就是基因改造技術，這種生命科學技術在使用之初就是以個體的生命為代價，獲得優(yōu)越的基因。喬西的母親就是這樣一個癡迷于“基因改造”的精英階層人物，為了讓自己的孩子一直在精英階層，享受社會特權，她不惜將自己的兩個女兒都送去接受“提升”。她的第一個孩子，喬西的姐姐薩爾就是在基因提升后因為嚴重的后遺癥而離世，喬西在提升后也處于生病的狀態(tài)。在失去大女兒時，她悲痛萬分難以接受。而現(xiàn)在，她又因為同樣的決定即將失去小女兒喬西，她痛苦到失去自我。這個女人讓同樣的悲劇上演了兩次，基因改造所帶來的痛苦不僅重重地壓在喬西母親身上，更讓喬西這一接受改造的主體終生難以釋懷。

在小說建構的未來時空里，基因編輯與改造技術早已風靡全世界，是被精英階層普遍使用的一種技術。大多數(shù)孩子在未出生之前就已經接受過基因編輯與改造，然而這種高科技是一把雙刃劍，人類能在此幫助下得到高智商高品質的后代，卻也有著無法避免的、威脅生命的一面。在小說中，利用轉基因技術提升過的人類兒童會經歷排異階段，也就是“生病”，可以說這是人類與自然規(guī)律的“對賭”，是一項高風險高回報的投資。這正是生命科學技術被濫用所產生的后果。在欲望之壑與巨額金錢的誘惑面前，倫理道德標準反而成了一種阻礙，此時的科學技術導致人類倫理道德的墮落。

二、倫理選擇與科學選擇的兩難

在聶珍釗看來，人類文明包括自然選擇、倫理選擇、科學選擇三個階段。目前人類正在經歷由倫理選擇向科學選擇過渡的時期，并不斷向科學選擇邁進，這個時期被稱為“后倫理選擇時代”。科技倫理即科技的倫理問題，是人類進入科學選擇階段所正在面臨且亟須解決的問題。科技自產生之初就與人類及人類社會形成多層次的道德與利益關系，而當利益與道德從互構變?yōu)榛ハ鄾_突時，那么潛藏在科技背后的風險將會演化為顯在問題。小說中的人物面臨倫理選擇與科學選擇時都存在著兩難，同時也面臨著科技倫理的困境。

從《克拉拉與太陽》來看，后倫理選擇時代科學選擇的本質依舊是倫理選擇。在石黑一雄筆下的未來社會中，小說中的人仍然是現(xiàn)代社會中由人性和獸性結合而成的斯芬克斯怪獸。在文本中具體來說，喬西的父親與母親，尤其是后者，便是一個在理性和獸性之間掙扎的典型人物。文學倫理學批評認為，斯芬克斯因子包括人性和獸性，這兩種因子有機地組合在一起，構成一個完整的人，而作為高級存在的人性因子能夠控制獸性因子，從而使人成為有倫理意識的人。而喬西母親的延續(xù)計劃顯然是被獸性因子占上風的結果。她試圖枉顧倫理道德對自己的女兒實行殘忍的人機替換，但在計劃的實行過程中，人性因子與獸性因子一直輪流占據(jù)上風，這也使得整個計劃并沒有順利實施。

喬西母親面臨的倫理選擇，一個是讓女兒接受基因改造這一違背自然生命倫理的技術，以滿足自身的利益需求，代價則是失去女兒；另一個則是讓女兒自由快樂簡單地活下去，尊重她作為個體的獨特自然生命倫理，代價是失去通向精英階層的道路。前者是非人性化的、自私的倫理選擇，后者則是尊重完美人性與健康生命形式的倫理選擇。而喬西的母親顯然選擇了前者，在這樣一個倫理選擇的困境中，她選擇的是利益與欲望，放棄的是親情與血緣。同時這樣的倫理選擇也讓她在看到后果后追悔莫及。

為了挽回僅存的親情，又或者說為了否認自己決策的失敗，母親決定讓克拉拉這個機器人替代自己的女兒喬西并“活”下去，這個也是貫穿整本小說的“延續(xù)計劃”。此時，她便陷入科學選擇兩難的境地。一邊是接受執(zhí)行“延續(xù)計劃”，讓機器人克拉拉替代女兒“活”下去，采取科技手段，防止自己痛苦，但觸及一個核心命題——機器人真的能分毫不差地仿照或者說成為人并活下去嗎？人之所以成為人的獨特性就此被取消了？另一邊則是停止“延續(xù)計劃”，眼睜睜看著自己的女兒失去生命，生命無法因為科學而再次復位，但機器人是否真的無法成為一種情感寄托的存在，以撫慰人類受傷的心靈呢？科學選擇以科學倫理為指導，而喬西母親的計劃顯然是違背科學倫理的，這無疑是科技對于生命權的挑戰(zhàn)，是人工智能對個人生命的挑戰(zhàn)。一方面，喬西的母親非常需要這樣一個與喬西并無二致的“人”來填補內心的缺位，另一方面，她自己也知道，機器人是無法代替基于血緣的親屬關系的。

倫理選擇與科學選擇的兩難發(fā)生在喬西的母親身上。作為深愛著兩個女兒的母親，卻讓兩個女兒相繼接受基因改造，后果則是一個病亡，一個病危。這一倫理選擇背后的驅動力不僅僅是喬西母親的一己私欲，她這種欲望的來源，即當時的倫理環(huán)境更值得探討。在喬西母親所處的時代，基因改造早已是家常便飯，精英階層為了自己的后代也能一直享受這個階層帶來的利益，將基因編輯技術用到自己的孩子身上。在整個社會共同焦慮的影響下，喬西的母親義無反顧地讓女兒接受“提升”。在大女兒薩爾已經不幸離世，自己的家庭也因為這次可怕的事件支離破碎后，母親依舊一意孤行。可見，在倫理環(huán)境中生活的人無時無刻不被其影響，這種影響是持續(xù)的、深遠的。雖然作為個體的人始終是倫理選擇的主體，但在大環(huán)境中人往往只能在選擇之前遵循個人倫理意志，而當真正的選擇來臨時，人們普遍是跟隨大的倫理環(huán)境施加給整個社會群體的共同選擇，這意味著在潛意識中人始終是趨向合群的，群體的屬性深深烙印在人類的倫理選擇之上。倫理選擇的目的是獲得人的本質，然而人的本質就像康德所說的“物質體”一般，世界確實有物質體的存在，但是并沒有人能夠真正獲得它，而只能無限接近它，所以個人的倫理選擇往往忽略了基本的善惡觀念，而是基于其所生存的倫理環(huán)境中由群體所建構起來的倫理準則與道德觀念。

科技對倫理的挑戰(zhàn)是對人的基本生命權利的挑戰(zhàn)，對人的隱私權、生命權的挑戰(zhàn)，是機器人認知的渴求，是機器人這一個體對于個體生命的挑戰(zhàn)。倫理選擇與科學選擇無疑都應該遵循社會的倫理道德，方能使得在后倫理時代里，科學技術始終牢牢把握在人類手里，并為人類所用，而不是人類成為科技的奴隸，枉顧倫理道德。由此，《克拉拉與太陽》這一文本中的倫理選擇與科學選擇的兩難這一倫理困境是具有現(xiàn)代闡釋意義的。

三、石黑一雄的科技倫理觀

《克拉拉與太陽》這部作品預示著人類的未來，當人工智能被運用到我們生活的每一處，機器人成為每一個家庭的標配，我們應該如何面臨現(xiàn)代科技與傳統(tǒng)倫理道德的沖突，又該如何看待機器人這一群體在社會生活中的歸屬，作品的結局喻示著未來機器人的運用應在合理的倫理向度下，以人為主體的倫理選擇與科學選擇始終都要遵循倫理道德，在作家的科學倫理觀里面，有兩個不可缺失的主體——人和機器人。

1.對機器人的人文關懷

克拉拉的行為準則從預設的標準變?yōu)樽晕业牡赖略u判，是一種質的飛躍。然而它也在失去利用價值后被拋棄，這也是未來人類將要面臨的一個倫理問題。作家在小說末尾給出了自己對于機器人的人文關懷。石黑一雄曾說他所關心的不是小說最后主觀奇跡是否真的發(fā)生了，而是在他所建構的故事中主觀本質上很天真、善良的機器人，它對世界的純真信仰被粉碎。主觀的悲劇不在于喬西是否會死去，而在于克拉拉的信仰破滅，它為之付出的努力將付諸東流。

優(yōu)秀如克拉拉這般的，和喬西一家可以說是親密無間的陪伴型機器人，從它被當作喬西的替代品到最后被棄于垃圾場，從被母親以不純粹的動機買入到最后被遺棄的結局，怎么都與克拉拉之前帶有極強情感傾向地想要融入喬西一家，甚至被視作不能分離的“家人”的情境不相符。人類這種許諾之后又將其毫不留情地拋棄的做法是否也是一種對倫理道德的背叛？整本書是基于克拉拉所儲存在芯片里的記憶進行敘述的，從文章的字里行間都能看到克拉拉自己的情感傾向與自主意識，因此可以認為，克拉拉并不是一個無情無感的機器。所以克拉拉才會說：“但無論我多么努力地去嘗試，如今我相信，總會有一樣東西是我無法觸及的。母親、里克、梅拉尼婭管家、父親——我永遠都無法觸及他們在內心這對于喬西的感情。如今我確信了這一點。”作為帶有情感意識的機器人，克拉拉被設定了許多人類都無法達到的高道德標準。這是一個完全利他的存在，克拉拉在小說中始終處于一個倫理困境的狀態(tài)，最終它自己的倫理選擇也將自己送往了滅亡的道路。道德本應是專屬于人類的價值體系，卻反而成為人工智能的軟肋，克拉拉選擇拒絕替代喬西，將自己的未來斷送，倫理道德在此時成為克拉拉衡量事物的最終標準，同時也成它的軟肋。

伴隨人類社會歷史始終的是偏見與歧視意識，人們在歷史上會根據(jù)階層或種姓去對待他人，而在未來社會，機器人也成為被不平等對待的對象。像克拉拉這樣的人物形象可以在很多西方文學作品中找到對應，它的形象就像女家庭教師一樣，這些人很難融入富人的家庭，富人們往往也不知道是否應該平等地對待女家庭教師。

然而即使機器人并沒有完整的自我意識與自我存在的思想，但是當人類殘忍地對待這樣一個“類人”機器人的時候，反映的正是人性中黑暗不可見的一面，也說明了人類將會如何對待同類。

克拉拉最后的悲劇結局是它自我的選擇，也是人類利用完它之后的棄之不顧，石黑一雄將目光放在這位機器人身上，所投射的正是他對于機器人群體的人文關懷。

2.現(xiàn)代科技與倫理道德的互構

石黑一雄在《我的二十世紀之夜及其他細小細節(jié)的突破》中提道：“在拐彎處——我們是否已經轉危為安了？——是科學、技術和醫(yī)學的驚人突破所帶來的挑戰(zhàn)。新的遺傳技術，如基因編輯技術，以及人工智能和機器人技術的進步將為我們帶來令人驚嘆的、拯救生命的益處， 但也可能造成類似種族隔離制度的野蠻的精英統(tǒng)治社會，以及大規(guī)模失業(yè)的問題，甚至于當前的行業(yè)精英們也將瀕臨失業(yè)。”

現(xiàn)代科技迅速發(fā)展，卻沒有合理的、原則性的理論指導，使其在合理的倫理向度下被使用。科技剛開始出現(xiàn)時，人類社會呈現(xiàn)出來的是一種狂熱的狀態(tài)，在狂喜之余，科技對人類發(fā)展產生巨大作用。而在現(xiàn)代性維度下的科技似乎走向了另一個極端，到底是人的異化導致科技的使用走向非人性的方向，還是科技導致人的異化并難以復原？

現(xiàn)代科技的目的除了要便利人類的生活，提高人類社會的生產效率外，更應該以先進的科學知識來使得人的倫理道德更為完善。文學倫理學批評認為，倫理選擇的目的是加強人的道德化，但道德的真正完善是在科學進步中實現(xiàn)的。隨著科學的飛速發(fā)展和道德的完善，科學和道德越來越相互融合在一起，從而走向科學文明的階段。現(xiàn)代科技應當促進人的全面發(fā)展，使人成為更好的人，而不是異化的人。

倫理道德則需要約束現(xiàn)代科技的使用，倫理選擇的目的是加強人的道德化，作為認知理性的科學應在道德理性的協(xié)調下，使人的理性平衡，防止科學走向邪惡，使人變?yōu)椤皢蜗蚨鹊娜恕薄Ｍ昝赖娜诵詰斣诂F(xiàn)代科技與倫理道德的協(xié)調互構中展現(xiàn)出來，且始終作為人類在科學之路上的最高追求。

現(xiàn)代社會，我們更關心的是科技和科學將會把人引入一個怎樣的境地。在現(xiàn)代科技的沖擊之下，科學與倫理之間是否還有傳統(tǒng)的秩序？抑或倫理道德此時對科學選擇已經有了局限性？或許我們只能站在當下社會的立場對某些在未來可能得到相當大發(fā)展的事物進行有限的倫理批評。對未來科幻氣質的小說進行文學倫理學的研究，也就是為未來社會的倫理選擇、價值取向提供藍本、范本，提供一種可供選擇的示例。

參考文獻

[1]? ?石黑一雄.克拉拉與太陽[M].宋僉，譯.上海：上海譯文出版社，2021．

[2]? ?劉曉華.英美科幻小說科技倫理研究[M].北京：中國社會科學出版社，2019.

[3]? ?帕里西.機器人的未來：機器人科學的人類隱喻[M].王志欣，廖春霞，劉舂容，譯.北京：機械工業(yè)出版社，2015.

[4]? ?聶珍釗.文學倫理學批評導論[M].北京：北京大學出版社，2014.

[5]? ?劉紅衛(wèi)，聶珍釗.從倫理選擇到科學選擇的理論思考——聶珍釗教授訪談錄[J].廣東外語外貿大學學報，2022，33（1）.

[6]? ? ?蘇暉.后倫理選擇時代的科學選擇[J].外國文學研究，2022，44（6）.

[7]? ?尚必武.機器能否替代人類？——《克拉拉與太陽》中的機器人敘事與倫理選擇[J].外國文學研究，2022，44（1）.

[8]? ?夏忠玉.科技倫理視閾下《我這樣的機器》研究[D].昆明：云南師范大學，2022.

（特約編輯 張? 帆）

作者簡介：劉佳禮，吉首大學碩士研究生在讀，研究方向為比較文學與世界文學。

基金項目：吉首大學研究生科研創(chuàng)新項目“科技倫理視閾下的石黑一雄科幻作品研究”。