論《克拉拉與太陽》中人工智能的電子文本與倫理意識

【摘要】 人工智能是當今科幻文學的熱門題材之一。使用文學倫理學批評中的腦文本、電子文本、倫理選擇等相關理論對2017年諾貝爾文學獎得主石黑一雄（Kazuo Ishiguro，1954—）于2021年發表的新作《克拉拉與太陽》（Klara and the Sun）進行解讀，可以發現，小說的主人公人工智能克拉拉是使用電子文本進行思考和行動的，這使她的行為與思維和使用腦文本進行思考的自然人有了根本的區別：人工智能克拉拉無法形成與人類相提并論的倫理意識，不具備做出恰當的善惡分辨的能力。通過克拉拉形象的刻畫，石黑一雄表達了對人工智能領域和人機關系的未來暢想和構思。

【關鍵詞】 石黑一雄；《克拉拉與太陽》；腦文本；電子文本；倫理選擇；人機倫理

【中圖分類號】I206 ? ? ?【文獻標識碼】A ? ? ?【文章編號】2096-8264（2023）02-0022-04

【DOI】10.20024/j.cnki.CN42-1911/I.2023.02.007

在2017年獲得諾貝爾文學獎之后，日裔英國小說家石黑一雄（Kazuo Ishiguro，1954—）于2021年3月發表了自己的第八部長篇小說《克拉拉與太陽》（Klara and the Sun）。該小說是石黑一雄繼2002年創作《別讓我走》后，第二次涉足科幻題材，且涉及到人工智能這一科技領域的熱門話題。

小說《克拉拉與太陽》的藝術魅力，很大程度上來源于，它是由人工智能“AF”（Artificial Friend）克拉拉作為講述者的。隨著講述者克拉拉的娓娓道來，小說展開了一幅人類與機器人共生共存的未來世界圖卷。在小說劇情的層層深入和逐步推進中，一系列人類與機器人之間的關系問題也被和盤托出：人類和機器人有何異同？人工智能能夠替代人類嗎？如何處理好與機器人的關系？

要正確理解這些人工智能相關的命題，首先就要對自然人和機器人的差異問題做出解答。隨著科技的迅猛發展，機器人技術逐步完善。從體型、外貌、舉止，乃至思維、性格等諸多方面，機器人越來越“像”真人了，越來越能夠以假亂真地效仿和偽裝成自然人了。那么，自然人與機器人，其最根本的差異性到底何在？文學倫理學批評的腦文本、電子文本理論，為我們認識人工智能提供了一個有效思路和理論依據。

一、 存儲與讀取：電子文本的優越性

文學倫理學批評認為，文本可以分為三個類型：“1.以人的大腦為介質保存記憶的腦文本。2.以物質材料為載體保存文字或符號的物質文本。3.以計算機存儲設備為介質保存符號或文字的電子文本。” ①其中，腦文本是最基本、最原始的文本形態，后二者是在腦文本產生之后才出現的，是由腦文本轉化而成的。

人通過腦文本來指導思維和行動，相應的，機器人通過電子文本來運行和工作。無論是計算機、電子設備，還是人工智能、機器人，都是使用數字信號來調用電子文本而工作的。小說《克拉拉與太陽》以機器人克拉拉的視角進行敘述、展開故事，一方面，克拉拉在小說中對不同事物的別具一格的新鮮認識，和不同于常人的行為舉止，通過電子文本理論，都可以得到清晰且符合邏輯的解釋；另一方面，從她的思維和行動中，我們也可以獲知電子文本在運轉上的種種特征，從而更深刻地了解人工智能的工作方式。

電子文本是“以數字形式存儲的文本形式。具體而言，電子文本指以計算機盤片、固態硬盤、磁盤和光盤等化學磁性物理材料為載體的電子文檔，它依賴計算機系統存取并可在通信網絡上傳輸。電子文本是科學的產物。” ②通過計算機指令，一切具有意義的信號和符號，都可以轉為數字代碼，存儲于電子設備中。這一類數字形式的文本，就是電子文本。

從歷時的角度來看，電子文本是“科學的產物”，是三大文本形式中最晚出現的；從共時的角度來看，電子文本在儲存介質和存儲讀取方式上，與腦文本和物質文本存在著截然不同的巨大差別，具有顯著的優越性。

從載體上來說，電子文本以電子設備作為存儲的載體，擁有最為穩固可靠的儲存介質。在三種文本形式中，腦文本以人的大腦作為載體，物質文本以物質書寫材料——如陶器、甲骨、竹簡、紙張等——作為載體，而電子文本以電子設備作為載體。儲存電子文本的電子設備，是最牢固可靠的文本儲存介質：電子設備受到物理損傷的可能性最小，這使得電子文本具有了最牢固可靠的存儲介質。

《克拉拉與太陽》的結尾，克拉拉被遺棄在堆場，四肢已經無法動彈，孤獨地等待著終結的到來，但她此時仍然對畢生的種種經歷記憶猶新。即使已經喪失行動功能，克拉拉的經歷依然牢固地存儲在她的機體內，隨時都能清晰地進行回憶，電子文本在存儲上的穩固性可見一斑。

從存儲和讀取的方式來說，電子文本以計算機指令作為存取方式，最為高效。相較于腦文本和物質文本，電子文本通過計算機指令進行存儲和讀取，藉由簡單的計算機指令的輸入與輸出，字符、圖像、動畫、音頻、視頻等形式的電子文本得以自由地被存儲或調出，無需消耗大量物質材料的同時，對于較大容量的文本也能夠輕松從容地處理，高效且靈活。

《克拉拉與太陽》中，在與喬西朝夕相處了一陣子后，通過觀察與學習，克拉拉已經能夠惟妙惟肖地模仿喬西的言談和動作。在母親的命令下，克拉拉可以嫻熟地化身喬西，以喬西的口吻和神態與母親展開對話。喬西在日常生活中的一舉一動、一顰一笑，是一個較大、較復雜的文本內容，而這一切都被克拉拉所捕獲、學習并掌握；伴隨著母親的一聲令下，克拉拉便能瞬間讀取喬西的行為習慣，以假亂真地化身喬西，與母親交談——這都受益于電子文本高效靈活的存取方式。

二、受制于人類：電子文本的使用限制

雖然在儲存介質和存取方式上具有著得天獨厚的優越性，但是在實際使用中，電子文本也往往受到各種各樣的限制。小說《克拉拉與太陽》的主人公克拉拉在思維和行為上，和人類存在著顯著的不同。在閱讀小說的過程中，作為讀者的我們，時時刻刻都能從克拉拉的敘述中感受到，這是一個人工智能——而不是普通人類——在講話、在行動。通過電子文本的相關理論，我們可以對這些問題做出解釋。克拉拉隨時隨地流露出來的人工智能特質，是電子文本在實際使用時受到的限制所產生的。具體來說，大致有三點：

第一、電子文本受制于創造者——也就是自然人——的意志和意愿。

在組建一臺電子設備時，創造者往往會按照自己的意愿，設置一個終極目標，讓所創造的電子設備去完成和實現。為了讓它具備實現這個目標的條件，創造者會根據需要，搭建這臺電子設備的物質外殼、編寫相應的電子程序、輸入相應的計算機指令。由這一過程創造而成的電子設備，在運用電子文本進行工作和運轉的時候，能且只能將這一創造者設置好的終極目標奉為圭臬。創造者沒有做出具體設置的內容，電子設備將很難進行處理。

在兩次試圖跨越農田、前往麥克貝恩先生的谷倉時，克拉拉遇到了困難：她無法獨自穿越農田，被困在雜草中無法移動。克拉拉能夠完成照料孩童這樣復雜的工作，卻無法穿越一塊雜草叢生的農田，究其原因在于，她的創造者認為，克拉拉這樣的“機器人朋友”的任務在于照料孩童，而照料孩童并不需要具備很強的運動能力。因此，雖然她在服務兒童方面可謂樣樣精通，但是在運動機能上，她只被賦予了最基礎的移動功能，而并不具備跨越農田這樣進階的移動程序。

在實際使用時，電子文本高度受制于創造者在創造時的意愿，其程序和功能往往是為了創造者設置的根本目的而服務的。在創造者沒有進行設置、作出指令的陌生情形中，電子文本往往顯得無所適從。

第二、電子文本的容量極度依賴通過計算機指令進行的接受與學習。

電子設備通過計算機指令來進行電子文本的存儲與讀取，一臺電子設備中，儲存有多少電子文本，取決于之前通過計算機指令輸入了多少內容。如果沒有大量計算機指令的輸入，電子文本的儲備就會顯得匱乏，這可能會影響電子設備的正常運行。

小說中，克拉拉對許多事物的概念和認知存在著常識性的錯誤。對于沒有經過學習程序學習的內容，克拉拉總會產生一些常識性的認知錯誤，讓讀者啼笑皆非。“庫廷斯機器”（Cootings Machine）是小說里出現的一種建筑施工機器，對于克拉拉來說，“庫廷斯機器”是完全陌生的，她對“庫廷斯機器”的學習過程也是長期的、不完備的，因此她產生了一系列的錯誤認知。對于未經學習的陌生信息，電子文本在處理時往往會發生容量不足的問題，從而影響正常工作。

第三、電子文本的工作取決于機體的完整性，一旦機體損壞，就無法正常運轉。

電子文本的運行依賴于電子設備機體的正常運轉，當面對短路、氧化、程序錯誤或是其他故障時，電子元器件將會被損壞，電子設備將牽一發而動全身地失去機能，從而引發電子文本的停擺甚至遺失。

《克拉拉與太陽》中，為了摧毀“庫廷斯機器”，克拉拉在自己的耳朵下方切開一個切口，將儲存在頭部之內的“P-E-G9溶液”取出，倒入了“庫廷斯機器”中。缺少了“P-E-G9溶液”的克拉拉，在認知能力上出現了嚴重的故障，開始出現幻覺，身邊的人在她眼中變成了“椎體和柱體”，甚至連朝夕相處的喬西也變得難以辨認。機體受到損傷的克拉拉，已經無法自由地存取信息和知識，電子文本的正常運轉已經難以維系。

克拉拉所表現出的與自然人高度差異化的思維和言行，均是她使用電子文本來運作的結果和產物。電子文本在給她存取信息的穩定性、效率性和靈活性上帶來了優勢的同時，也帶來了嚴重的限制：她被迫服從于創造者意愿、在接受信息上難以觸及深度與廣度、機體受到損傷就難以維持運作。

三、思維的區隔：人工智能亟待完善的倫理意識

腦文本與電子文本的差異，直接導致人類與人工智能在思維上有著性質上的區分。

在思維層面，人類與機器人最顯著的差異在于，二者在分辨善惡的能力上有著明顯的高低之分。使用腦文本的人類能夠形成健全的倫理意識，可以對善惡做出合理的分辨與判斷，而使用電子文本的機器人只能對善惡做出簡單的程序運算，往往無法明辨是非。

在思維層面，機器人似乎也擁有自己的意識，能夠進行思考、做出判斷。但是，從根源上來說，人類和機器人在思維過程中所采用的文本材料不同，這使得二者的思維方式的根本性質是完全不同的：使用腦文本進行思考的人類，才擁有真正意義上的“思維”的能力；而機器人使用電子文本來思考的過程，充其量只能算是在通過既定的計算機程序，進行數學運算。而作為結果，人類和機器人在形成倫理意識和分辨善惡之別的能力上，有著明顯的高低之分。

根本性質的不同，使得人類與機器人的思維方式有著大量的差異，但其中最為顯著的差異在于，人類擁有倫理意識，能夠通過思考和判斷，辨別善惡是非，而機器人在面對善惡之辨時往往顯得無所適從。

文學倫理學批評認為，“人的倫理意識開始產生，善惡的觀念逐漸形成，這都是腦文本發生作用的結果。” ③擁有腦文本，是擁有倫理意識、形成善惡觀念的前提條件。通過接受倫理教誨，人類將擁有教誨作用的有關善惡、道德、倫理的文本材料轉化為腦文本，儲存在大腦中，從而擁有倫理意識，形成倫理觀念和善惡觀念。在這一過程中，腦文本是倫理教誨得以實現的必要條件：只有通過接受學習，才能形成相應的道德意識和倫理意識的腦文本，從而獲得道德判斷和善惡分辨的能力。然而，整個倫理教誨的過程，使用電子文本是無法實現的：電子文本不具有接受倫理教誨的能力。即使我們通過輸入計算機指令的方式，教給機器人一些判斷是非黑白的準則，它們所能做的也只是根據這些準則，來進行一些基礎的計算機運算。這些運算和判斷，對付一些簡單的場景時，尚可勉強奏效；但在面對一些復雜的、多維度的、多層次的倫理場景和善惡判斷時，依托電子文本儲存的計算機程序，是完全無法勝任這項工作的。

《克拉拉與太陽》的主人公機器人克拉拉的倫理判斷和善惡評價能力是不完善的。由于不具有生物性腦文本，因此她無法形成完善的倫理意識，無法擁有健全的道德意識和倫理觀念，只能憑借已經設計好的計算機程序，對事物的正確與否，做出簡單的數學運算。在這種數學運算下，她無法對事物做出綜合性的評價，所得到的結論是非黑即白、非善即惡的。

小說中，在克拉拉的眼中，存在著“極善”和“極惡”兩種極端：她心目中的“極善”是太陽。克拉拉的正常運作非常依賴吸收陽光，克拉拉把它稱之為“太陽的滋養”。在她心目中，一旦“太陽的滋養”出現，奇跡就會發生，好事就會降臨。與“太陽”相對的的另一個極端是代表著“極惡”的“庫廷斯機器”。她認為，一切壞事都由它誘發，其中，它最嚴重的“罪行”在于：“庫廷斯機器”排放了污染，遮蔽了太陽，使得太陽無法降下“滋養”。她單方面地認為，要想讓代表著“極善”的太陽答應她的請求，向喬西降下“特殊的恩惠”，從而讓喬西恢復健康，就必須摧毀代表著“極惡”的“庫廷斯機器”。正如小說作者石黑一雄在接受訪談時所說的：“太陽真的有這樣的力量嗎？在故事里我并沒有很清楚地交代，或許克拉拉是這樣相信的，但我自己不覺得太陽能夠拯救喬西，或者說能解決一切問題。”

同樣的，擁有完善的善惡觀念的讀者們，對于太陽和施工機器的孰是孰非有著更全面、更中肯的評價：太陽并不是全知全能的，并不能使瀕死之物起死回生，也不能治愈一切疾病；太陽被遮蔽也有可能是受到天氣影響，并不能完全歸咎于施工機器造成的污染排放。讀者們會意識到，克拉拉的觀點是一廂情愿的、經不起推敲的、荒誕可笑的。

從克拉拉的這種走向高度極端化的善惡評判方式中，我們可以看出，使用電子文本的人工智能在面對善惡是非時，由于缺乏足夠完善的倫理意識，因此，它們很難做出中肯的、全面的、綜合性的評判。不具有腦文本的機器人，也就失去了正確評判善惡的權利與資格。在倫理意識的完善程度和善惡分辨能力上，使用電子文本進行思考的人工智能顯然無法與人類相媲美。

四、結語

1950年，人工智能之父艾倫·圖靈（Alan Turing）發表了論文《計算機器與智能》（Computing Machinery and Intelligence），提出了機器人能否思考的問題。自提出以來，圖靈測試就一直是計算機領域和人工智能領域的熱門話題之一。然而，在提出了70余年之后，來自世界各地的設計者所創造的、令他們引以為傲的無數人工智能卻都敗給了圖靈測試，人工智能還有很長的路要走。

文字是抽象的，文學作品無法直接介入物質世界。但通過藝術想象，文學可以探討當下和未來的無限可能，從而對現實社會產生雋永深遠的影響。隨著人工智能和克隆人等人造人技術的逐步完善和成熟，人造人再也不僅僅是停留在藝術想象中的存在。

在當今的科技水平下，雖然使用電子文本的人工智能并不能形成與人類相媲美的倫理意識，但在《克拉拉與太陽》中，通過克拉拉、雷克斯、羅莎等形象的描寫和刻畫，石黑一雄表達了對正在迅猛發展但又存在諸多技術和倫理上的問題的人工智能領域的關注，提出了對人工智能未來發展的展望和期待。目前，對機器人進行倫理調試、使其具備成為道德主體的資格，已經成為了機器人技術的一大熱點，并且已收獲不小成就。或許在不久的將來，人工智能將能夠真正地融入人類社會。

注釋：

①聶珍釗：《文學倫理學批評：口頭文學與腦文本》，《外國文學研究》2013年第6期，第9頁。

②聶珍釗：《文學倫理學批評導論》，北京大學出版社2014年版，第250頁。

③聶珍釗：《腦文本和腦概念的形成機制與文學倫理學批評》，《外國文學研究》2017年第5期，第33頁。

參考文獻：

[1]（英）石黑一雄.克拉拉與太陽[M].宋僉譯.上海：上海譯文出版社，2021.

[2]Kazuo Ishiguro： Klara and the Sun[M].London： Faber and Faber，2021.

[3]聶珍釗.文學倫理學批評導論[M].北京：北京大學出版社，2014.

[4]聶珍釗.文學倫理學批評：基本理論與術語[J].外國文學研究，2010，32（01）：12-22.

[5]聶珍釗.文學倫理學批評：口頭文學與腦文本[J].外國文學研究，2013，35（06）：8-15.

[6]聶珍釗.腦文本和腦概念的形成機制與文學倫理學批評[J].外國文學研究，2017，39（05）：26-34.

[7]聶珍釗.論腦文本與語言生成[J].華中師范大學學報（人文社會科學版），2019，58（06）.

[8]尚必武.機器能否替代人類？——《克拉拉與太陽》中的機器人敘事與倫理選擇[J].外國文學研究，2022，

（01）.

作者簡介：

文思遠，湖北武漢人，華中師范大學文學院碩士研究生，主要從事英美文學研究、文學倫理學批評研究。