當(dāng)科技走入黑暗的角落時，人性是照亮黑暗的太陽

李妍

作者介紹

李? 妍

重慶市第一中學(xué)校，高中語文教師，西南大學(xué)文學(xué)學(xué)士，教育學(xué)碩士。獲重慶一中優(yōu)質(zhì)課大賽特等獎，全國第二十一屆信息化教學(xué)大賽市級一等獎。主研兩項(xiàng)重慶市基礎(chǔ)教育重點(diǎn)課題研究。在《課堂內(nèi)外》《中學(xué)語文教學(xué)參考》等雜志發(fā)表多篇文章，多次獲評為“語文報杯”全國中學(xué)生作文大賽指導(dǎo)教師特等獎，“葉圣陶杯”作文大賽指導(dǎo)教師特等獎，“世界華人杯”作文大賽優(yōu)秀指導(dǎo)教師。有自媒體公眾號“拙域”“生態(tài)語文”。

2017年，石黑一雄獲得諾貝爾文學(xué)獎。瑞典學(xué)院給出的授獎理由是：“在具有強(qiáng)大感情力量的小說中，就人與世界的關(guān)系，暴露出了我們虛幻感覺下的那方深淵。”他以往的作品曾反復(fù)出現(xiàn)一些主題：階級與職責(zé)、忠誠與犧牲、失落與遺忘、愛與無奈，以及一種在文字背后總是埋藏著重大事件的感覺。真正要揭開謎底的話，需要我們通過各種細(xì)節(jié)，一點(diǎn)一點(diǎn)地拼湊、還原。這本2021年出版的新作《克拉拉與太陽》也不例外。

在未來，人類和人類的命運(yùn)會不會被更高的科技所控制？我們會成為數(shù)字時代的渡渡鳥嗎？這本書所探討的問題是：在基因編輯技術(shù)、人工智能狂飆猛進(jìn)的時代。人工智能的存在到底是人類福音還是潘多拉魔盒？我們與機(jī)器人的關(guān)系、我們彼此之間的關(guān)系、人心的本質(zhì)會有什么變化？其實(shí)并不擔(dān)心機(jī)器會像人一樣思考，而更擔(dān)憂人會像機(jī)器一樣思考。只有機(jī)器被賦予了人性，才會實(shí)現(xiàn)應(yīng)有的價值。蘋果公司CEO庫克提出：“當(dāng)科技走入黑暗的角落時，人性是照亮黑暗的太陽。”克拉拉，是一個專為陪伴兒童而設(shè)計的太陽能人工智能機(jī)器人（AF），具有極高的觀察、推理與共情能力。故事開始于她坐在商店展示櫥窗里，注視著街頭路人以及前來瀏覽櫥窗的孩子們的一舉一動，直到她被女孩喬西買走。經(jīng)理對克拉拉說：“孩子們總是在許諾，但是大多情況下，那個孩子不會再回來。甚至，他們可能回來之后，把另一個機(jī)器人領(lǐng)回家。”這是克拉拉學(xué)到的關(guān)于人類復(fù)雜性的第一課。

第一次我們?nèi)祟愅ㄟ^人工智能的感覺器官克拉拉的眼睛，觀看理解人類社會家庭以及情感表達(dá)。從我們自身出發(fā)的目光，經(jīng)由我們受限不完全的造物，再次回到了我們身上。熟悉的事物中間，猝不及防地，那些陌生之物闖入視野，經(jīng)過仔細(xì)辨認(rèn)才發(fā)現(xiàn)原來竟是我們的一部分，好像我們就是那個封面上被遮蔽的弓形太陽。這還不是全部。我們看到了她看到的，我們了解卻不堅信她所堅信的，我們在外又在內(nèi)的觀望。石黑一雄建立一種新的陌生感范式，無需借由創(chuàng)造壯闊詭譎的宇宙景觀和顛覆性的烏托邦想象，而是借由他者對世界錯位受限的認(rèn)知，通過精心編制熟悉卻無法輕易辨識的世界圖景 ，在這里以一種更幽深微妙的方式滲透進(jìn)讀者內(nèi)心。他創(chuàng)造性地開拓了人類有限的生命經(jīng)驗(yàn)，也豐富了科幻小說的創(chuàng)作可能。

這個故事還有一個令人心碎的背景，猶太學(xué)者尤瓦爾·赫拉利在《未來簡史》中提出：未來人類可能會被改造，把人類分成兩個物種。書中的未來世界，人類社會人工智能和基因編輯的新興技術(shù)，已經(jīng)改變和分裂了社會。人工智能帶給我們的，可能是美好的未來，也可能是灰暗的明天。而只要意識到了有可能到來的威脅，我們還是可以逆轉(zhuǎn)未來、掌控結(jié)局的。

智能工具教學(xué)不當(dāng)應(yīng)用所產(chǎn)生的倫理問題層出不窮。搜題軟件的濫用誤用，成為學(xué)生考試作弊或者喪失主體思考意識、惰化思維能力的工具;智能學(xué)伴代替教師和家長，可能導(dǎo)致學(xué)生的情感缺失;人工智能普惠條件的不平衡不充分、教育算法的歧視與不透明，更造成了新的“智能鴻溝”。人工智能的迅猛發(fā)展，產(chǎn)生了一個契機(jī)，它讓人可以突然越來越自省于這樣一個事實(shí)：人類活動當(dāng)中究竟有多少是不可計算的部分，以便將我與機(jī)器區(qū)分開來。是的，正是人工智能，讓我們越來越清楚地看到了“人本身”。

本書的故事很簡單，但簡單背后卻是埋伏著大量的信息和沖突，作者以克拉拉和太陽作為旁觀者，從機(jī)器人和純真客觀的太陽的視角里反照世界，不動聲色地在鏡子里投射出人心百態(tài)。更難能可貴的是，作者雖并未直接寫機(jī)器人與人類的沖突、人工智能時代教育資源的壟斷、科技與污染、階級固化等等話題，但在作者的娓娓道來中，這個新世界的畫卷已緩緩鋪開，海面下的冰山若隱若現(xiàn)，耐人尋味。很喜歡這種點(diǎn)到即止、克制留白的敘述，不說教卻引人深思。我喜歡的還是石黑的文字里那種具有魔力般的氛圍感，一種奇異的、溫柔的氛圍包裹了你。而此后的許多天，心里都延續(xù)著那種溫暖而哀傷的溫柔，意猶未盡、難以忘懷，請相信太陽是仁慈的。“太陽總有辦法照到我們，不管我們在哪里”。