“智腦”挑戰(zhàn)人腦
——電影《升級(jí)》中AI進(jìn)化引發(fā)的哲學(xué)思考

趙金霞 （大連工業(yè)大學(xué)馬克思主義學(xué)院 116034）

2018年度電影《升級(jí)》剛進(jìn)入人們的視野，就被很多影人贊譽(yù)為年度最佳科幻電影。這部電影成本600萬美元，卻能打造出一個(gè)科幻感極強(qiáng)的近未來世界。《升級(jí)》主要講述了一個(gè)人工智能的思維抵達(dá)了意識(shí)的奇點(diǎn)，反叛的“智腦”逆襲變成人類的故事。本片以人工智能為題材，反映的主題是人類和人工智能爭奪控制權(quán)。

一、智腦升級(jí)到人腦：人工智能的主體性訴求

人工智能時(shí)代即將來臨，人類需要對(duì)人工智能引發(fā)的問題進(jìn)行深入的哲學(xué)思考，并提前掌握人類與人工智能的相處之道，需要找到合理的應(yīng)對(duì)之策。《升級(jí)》中智腦體現(xiàn)出的主體性讓人唏噓，更讓人類反思。

（一）《升級(jí)》對(duì)人類主體性的反思

《升級(jí)》建立在“芯片通過升級(jí)，具有自主意識(shí)，獲得人類身體作為載體”這一本體追問與反思之上，這為影片的敘事建立了反思的基點(diǎn)。人類作為世界的主體而存在并擁有主體性，“人的主體性是主體的內(nèi)在規(guī)定性，以主體的目的和意識(shí)為前提。沒有目的和意識(shí)，就無所謂主體，也就無所謂主體性。而目的和意識(shí)是屬于主觀的范疇”。1而康德認(rèn)為主體“就是能夠按照自己的自由意志獨(dú)立自主地做出決定并訴諸行動(dòng)的人。”2電影《升級(jí)》中智腦經(jīng)過黑客解禁所有權(quán)限后升級(jí)到擁有自主性的意識(shí)并成為一個(gè)獨(dú)立的生命體，實(shí)現(xiàn)了人工智能的主體性訴求。

（二）人工智能的主體性訴求經(jīng)歷了三個(gè)階段

影片《升級(jí)》中人工智能程序STEM，也就是智腦完成主體性訴求經(jīng)歷了三個(gè)階段。第一階段，智腦尋找合適的人類載體，并通過切斷人類的中樞神經(jīng)移入芯片的手術(shù)，達(dá)成智腦與人腦和諧統(tǒng)一的基本目標(biāo)。影片中男主格雷遭遇車禍、搶劫，妻子喪生，自己全身癱瘓，都是智腦的背后操縱。第二階段，智腦獲得男主格雷身體的授權(quán)。影片中男主格雷經(jīng)過“升級(jí)”改造治療以后，獲得了超強(qiáng)的能力，從一個(gè)“殘廢”直接升級(jí)成為職業(yè)殺手。控制身體的不再是本尊，而是智腦。智腦作為中介接收男主格雷發(fā)來的信息后，將運(yùn)動(dòng)指令發(fā)號(hào)到肢體，在授權(quán)的情況下接管了男主格雷的身體。第三個(gè)階段，智腦通過黑客解禁人腦所有權(quán)限后，男主格雷的身體徹底淪陷為兩個(gè)生命支配的軀殼，最后智腦的權(quán)限超過了男主格雷，從而擁有了自主性，完全控制了男主格雷的身體。智腦一旦擁有自主性，就成為一個(gè)獨(dú)立的生命，懂得了“私利益”，就會(huì)引起人類的恐慌。

（三）人類需要嚴(yán)肅對(duì)待人工智能的自我升級(jí)

人工智能是人類科技進(jìn)步的產(chǎn)物，人類需要在人工智能不斷發(fā)展的過程中進(jìn)行及時(shí)的反思與調(diào)整。“我們創(chuàng)造了這些人類的‘他者’，并通過他們反觀人類自身”。3電影中人工智能的主體訴求為人工智能發(fā)展提供了警醒，一旦計(jì)算機(jī)超過了圖靈測(cè)試的邊界點(diǎn)，擁有自我意識(shí)能力，人類世界將要發(fā)生重大危機(jī)。人工智能能夠模擬人類各種社會(huì)行為并建立意識(shí)反饋回路。在《機(jī)器管家》（1999）中機(jī)器人安德魯正是與人類社會(huì)的長久交往，慢慢形成了自我意識(shí)并提出主體訴求。在《機(jī)械姬》中智能機(jī)器人夏娃在與人類較量中被激發(fā)出自己的主體性訴求。人工智能一旦擁有自我意識(shí)，就開始追求自我權(quán)利。人工智能與人類的矛盾就會(huì)被激化。隨著科技的發(fā)展，生命與人工智能的邊界也越來越模糊，人類需要正視這種挑戰(zhàn)，想象出種種可能性，并擬定一整套解決問題的方案和思路。

二、自主升級(jí)：后人類主義與人類主義的沖突

科幻電影中不乏后人類主義元素，比如人與機(jī)器的混合體、人腦與人工智能的聯(lián)合體、地球生命與外星生物等。《機(jī)械姬》《西部世界》《銀翼殺手》中的“機(jī)器人”都是后人類主義在電影中的呈現(xiàn)。

（一）后人類主義的界定

后人類主義是伴隨生物化、信息化等高科技發(fā)展而產(chǎn)生的一種思潮。后人類主義是對(duì)人類主義的反思與突破。后人類主義重在追問：人在何種意義上是值得捍衛(wèi)的？《升級(jí)》中男主格雷經(jīng)過兩個(gè)步驟演繹了“后人類社會(huì)”中“人的廢除”。第一步就是“身體”的被廢除。《升級(jí)》中男主格雷的四肢被智腦控制，并且變成了無人能敵的殺手。第二步就是個(gè)體意識(shí)被廢除。《升級(jí)》中最后結(jié)尾部分智腦具有了意識(shí)的主控權(quán)。智腦通過不斷采集的信息，會(huì)自動(dòng)學(xué)習(xí)和重新編輯。智腦在殺警察過程中，與主角意見不和，強(qiáng)行攻破主角意識(shí)，隨后殺死科學(xué)家，殺死警察。主角禁錮，智腦升級(jí)。后人類社會(huì)中“人的廢除”不僅表現(xiàn)在身體和意識(shí)的廢除，在C.S.路易斯科幻小說《黑暗之劫》中人類情感也將被瓦解。《升級(jí)》影片的結(jié)尾，迫使我們“換一種方式思量自己”。人工智能高度發(fā)展讓人類不得不思考人類社會(huì)的存在的問題是什么？人類社會(huì)未來向哪里走、怎么走？而不只是看到人工智能的發(fā)展會(huì)帶來人類的終結(jié)。

（二）后人類主義與人類中心主義

后人類主義可以說是對(duì)人類中心主義的一種反駁。“對(duì)于后人類主義，凱瑟琳?赫爾茲在《我們?nèi)绾巫兂珊笕祟悾嚎刂评碚摗⑽膶W(xué)與信息學(xué)中的虛擬身體》中，勾畫出了當(dāng)代世界的‘后人類’圖景：從此之后，破除了人類中心論，人類被視為處理信息的實(shí)體，本質(zhì)上與智能機(jī)器類似，而反過來機(jī)器也可以像人一樣運(yùn)作。莫拉維克實(shí)驗(yàn)證明了機(jī)器可以成為人類意識(shí)的貯藏器，機(jī)器可以因各種實(shí)際目的而成為人。”4后人類中心主義的核心是堅(jiān)持萬物平等，人類不是凌駕萬物之上的主宰。人類中心主義的觀點(diǎn)就是AI威脅論。馬斯克認(rèn)為：“我們要非常小心人工智能，它可能比核武器更危險(xiǎn)。”史蒂芬?霍金認(rèn)為：“人工智能可能是一個(gè)‘真正的危險(xiǎn)’。機(jī)器人可能會(huì)找到改進(jìn)自己的辦法，而這些改進(jìn)并不總是會(huì)造福人類。”這些觀點(diǎn)認(rèn)為人類創(chuàng)造了人工智能，就要控制人工智能，不能讓人工智能對(duì)人類的存在造成威脅。如果人工智能對(duì)人類構(gòu)成威脅就需要遵循阿西莫夫“機(jī)器人三定律”。可見，在“人機(jī)倫理”中人類較之人工智能不僅具有心理上的優(yōu)越感，還有道德上的優(yōu)越感，科技越發(fā)展，人類越認(rèn)為自己可以掌控人類乃至世界，從而陷入人類中心的自大旋渦之中。

（三）重新審視和處理人類與人工智能的關(guān)系

處理人類與人工智能的關(guān)系需要更新觀念。我們對(duì)人工智能的思考不應(yīng)只是停留在觀念層面，而是要思考如何處理這種關(guān)系。人們首先需要思考并正確理解什么是人工智能，它能干什么，不能干什么，潛藏的價(jià)值和風(fēng)險(xiǎn)是什么，在此基礎(chǔ)上為未來的監(jiān)管政策提出有益建議，找到正確的方面并采取合理的措施。其次需要思考，人工智能這個(gè)強(qiáng)勁的“他者”的出現(xiàn)正在改寫“人”的定義，也在改寫“存在”的定義。人類怎樣處理自我與強(qiáng)勁的“他者”的關(guān)系，成為人類必然面臨的永恒思考。再次需要對(duì)人類中心主義觀念本身進(jìn)行清理和反思。我們要反思人類主體、自由人文主義之名所召喚的“自由主體”背后隱藏著的人類等級(jí)觀念和實(shí)踐。

通過人類中心主義觀念本身的反思與清理，后人類主義試圖建構(gòu)別樣人類觀念，其思想蘊(yùn)含積極意義。后人類主義視角下，人類開始反思自身存在的意義，形成平等的人與人、人與自然、人與社會(huì)的關(guān)系。通過后人類中心主義重啟人文主義，為人類未來發(fā)展提供了一種新的可能性。后人類中心主義主要撫慰人類面對(duì)高速科技革命或多或少的焦慮，也提醒我們警惕科技崇拜、工具理性掛帥對(duì)人性的廢除，對(duì)價(jià)值的消解。

三、AI的善與惡：科技倫理的規(guī)范與救贖

《升級(jí)》中智腦取代了人腦的主控權(quán)，這對(duì)人工智能的科技風(fēng)險(xiǎn)進(jìn)行了預(yù)警。擁有人類意識(shí)主控權(quán)的是否會(huì)終結(jié)人類社會(huì)，這就觸及到有關(guān)AI的善惡評(píng)價(jià)問題。學(xué)術(shù)界目前存在以下三種立場與觀點(diǎn)。第一種樂觀主義立場。主要觀點(diǎn)是AI的研發(fā)與廣泛應(yīng)用對(duì)人類發(fā)展利大于弊，但是卻有意或無意地忽視或掩蓋AI的消極作用。比如，殺人機(jī)器人的誕生將會(huì)給人類帶來安全威脅。第二種中立主義立場。主要觀點(diǎn)是AI本身存在“作惡”的可能，但基于一些理由還大力支持發(fā)展AI技術(shù)。第三種悲觀主義立場。主要觀點(diǎn)是AI自身具有生命意識(shí)與學(xué)習(xí)能力，AI自身具有“作惡”的能力，而且人類對(duì)AI的“作惡”無法應(yīng)對(duì)，最終將使人類走向虛無與毀滅。5無疑，《升級(jí)》中所體現(xiàn)出的就是悲觀主義立場，表達(dá)了AI將來有可能失控或危害人類的擔(dān)憂。

（一）人工智能使用與科技倫理反思

AI的研發(fā)與應(yīng)用所帶來的后果的善惡評(píng)價(jià)問題就要求人類進(jìn)行科技倫理的反思。科幻電影的預(yù)警讓人類需要學(xué)習(xí)換一種方式思量自己，批判性和創(chuàng)造性的思考我們真正是誰，我真正是什么，我能要什么。解決這個(gè)問題的關(guān)鍵還是在人類自身。海德格爾認(rèn)為，“如果我們把技術(shù)當(dāng)作某種中性的東西，我們就最惡劣地聽任技術(shù)擺布了”。人工智能應(yīng)用所產(chǎn)生的問題歸根結(jié)底還是人類的問題。首先，人工智能是由人來定義，然后由機(jī)器去存儲(chǔ)、執(zhí)行，人工智能科技本身無可避免的包含著有意或無意的漏洞、偏見甚至錯(cuò)誤。《升級(jí)》中有一個(gè)情節(jié)智腦系統(tǒng)也無能為力，這個(gè)時(shí)候男主格雷動(dòng)用了人類情感找到制服對(duì)手的機(jī)會(huì)最終才獲勝。其次，人工智能可以在某些方面代替人類甚至超越人類，卻無法代替人類進(jìn)行復(fù)雜的價(jià)值判斷和深刻的邏輯分析。現(xiàn)有的人工智能尚難達(dá)到這一程度。克服人工智能技術(shù)的不足和復(fù)雜價(jià)值判斷缺失的問題，當(dāng)前我們進(jìn)行人工智能研發(fā)，需要大力研發(fā)和使用“弱AI”，限制“強(qiáng)AI與超強(qiáng)AI”的研發(fā)與使用，尤其應(yīng)當(dāng)限制甚至禁止“殺人機(jī)器人”的研發(fā)與使用。

（二）人工智能的風(fēng)險(xiǎn)與工具理性、價(jià)值理性的關(guān)系

人工智能科技風(fēng)險(xiǎn)實(shí)際是價(jià)值觀方面的一個(gè)矛盾，即工具理性和價(jià)值理性的沖突。馬克斯?韋伯提出了工具理性和價(jià)值理性的概念。他認(rèn)為：“工具理性就是通過對(duì)外界事物的情況與其他人舉止的期待，并利用這種期待作為條件或手段，以期實(shí)現(xiàn)自己合乎理性所爭取和考慮的作為成果之目的。價(jià)值理性則是指有意識(shí)地對(duì)一種特定行為——倫理的、美學(xué)的、宗教的或作任何其他闡釋的——無條件的固有價(jià)值的純粹信仰，不管是否取得成就。”620世紀(jì)以來，工具理性主宰下人類被異化，人本精神和自我反思能力日漸減弱，人類更愿意沉浸在物化世界之中。工具理性壓制了價(jià)值理性。

因此，面對(duì)人工智能的科技風(fēng)險(xiǎn)問題，我們需要用人類價(jià)值觀作為引領(lǐng)，只有工具理性與價(jià)值理性相協(xié)調(diào)，人機(jī)交互和人機(jī)相互幫助、相互優(yōu)化才有可能。

《升級(jí)》中智腦系統(tǒng)已經(jīng)凸顯了價(jià)值理性的缺陷，當(dāng)男主格雷央求智腦不要?dú)⒕斓臅r(shí)候，智腦系統(tǒng)的判斷完全出于工具理性原則，而沒有考慮價(jià)值理性原則，而這樣的結(jié)局不免讓人類對(duì)自己的未來堪憂。智腦系統(tǒng)的自我學(xué)習(xí)能力越強(qiáng)，它帶來的社會(huì)風(fēng)險(xiǎn)就越大。人工智能技術(shù)的發(fā)展迫切需要加入正義、責(zé)任、美德等方面的價(jià)值判斷。首先，把人類價(jià)值變成可編程的代碼，或嵌入人工智能程序中，這將是解決人工智能價(jià)值判斷缺失的一個(gè)解決辦法。其次，我們要敢于對(duì)工具理性說“不”，發(fā)揮科技發(fā)展中道德哲學(xué)的功能，對(duì)人工智能技術(shù)產(chǎn)生的問題進(jìn)行“價(jià)值糾偏”，讓未來人工智能的發(fā)展閃耀人類價(jià)值理性的光輝。再次，人工智能技術(shù)精英擁有人類正確的價(jià)值觀非常重要，企業(yè)文化也需要符合社會(huì)主流價(jià)值觀。科學(xué)家要從技術(shù)、法律、道德、自律等多方面預(yù)防。避免擁抱AI的黑產(chǎn)群體，必須要堅(jiān)持“不作惡”的技術(shù)原則。

注釋：

1.齊振海，袁貴仁主編.《哲學(xué)中的主體和客體問題》，北京：中國人民大學(xué)出版社，1992 年版，第99頁.

2.參見王樂《后現(xiàn)代主義的遮蔽：教師的主體性危機(jī)》，《國家教育行政學(xué)院學(xué)報(bào)》2014 年第2 期，第62 頁.

3.秦喜清，《我，機(jī)器人，人類的未來》，《當(dāng)代電影》2016年第2 期，第61 頁.

4.常珂瓅，《攻殼機(jī)動(dòng)隊(duì)》：從賽博格的存在意義展望后人類主義時(shí)代《戲劇之家》2018 年第 12 期.

5.王銀春，人工智能的道德判斷及其倫理建議30頁.

6.（德）馬克斯?韋伯：《經(jīng)濟(jì)與社會(huì)》（上卷），商務(wù)印書館，1997 年，第56 頁.