智能時(shí)代的新型人機(jī)關(guān)系及其構(gòu)建

孫偉平

(上海大學(xué) 智能哲學(xué)與文化研究院, 上海 200444)

人工智能是一種革命性、顛覆性的高新科學(xué)技術(shù),被有些學(xué)者稱為人類“最后的發(fā)明”。通過智能技術(shù)、納米技術(shù)與生物技術(shù)的結(jié)合,不僅“人”本身可以被“編輯”和“改造”,而且正在加速創(chuàng)造人形智能機(jī)器人,具有自主意識、創(chuàng)造能力、類人情感、社會交往屬性的智能機(jī)器人已經(jīng)初露端倪。智能機(jī)器人的擬人化和自主性發(fā)展正在顛覆傳統(tǒng)的認(rèn)知,令我們關(guān)于“人”“機(jī)”的定義、關(guān)于人機(jī)關(guān)系的設(shè)定以及關(guān)于未來人機(jī)文明的看法,都面臨大量需要批判性反思的哲學(xué)難題。我們必須在技術(shù)變革過程中重新認(rèn)識“人”和智能機(jī)器人,與時(shí)俱進(jìn)地反思和構(gòu)建新型的人機(jī)關(guān)系。

一、傳統(tǒng)的以人為中心的人機(jī)關(guān)系受到革命性沖擊

傳統(tǒng)觀念認(rèn)為,機(jī)器是人們制造的生產(chǎn)、生活中的使用工具。它可以進(jìn)行能量變換、信息處理以及產(chǎn)生有用功;它延伸、拓展人的身體器官功能,幫助或代替人承擔(dān)各種勞動任務(wù)。機(jī)器的類型非常之多,至少包括發(fā)電機(jī)、電動機(jī)、內(nèi)燃機(jī)之類的動力機(jī)器,汽車、火車、飛機(jī)、輪船之類的運(yùn)輸機(jī)器,紡織機(jī)、普通機(jī)床、數(shù)控機(jī)床、工業(yè)機(jī)器人之類的加工機(jī)器,以及相機(jī)、電話機(jī)、傳真機(jī)、計(jì)算機(jī)、手機(jī)之類的信息機(jī)器。而且,機(jī)器仍然在不斷地創(chuàng)新性發(fā)展,還將有無數(shù)的、或許還是令人瞠目的機(jī)器正在或?qū)⒁粍?chuàng)造出來。

自有文明史以來,人與機(jī)器之間的關(guān)系一直是確定的,即機(jī)器是人的發(fā)明與創(chuàng)造,人是一切人機(jī)關(guān)系的主導(dǎo)者;一切機(jī)器(包括各種工具、機(jī)器、自動化系統(tǒng))只有掌握在人的手中,才能在生產(chǎn)和生活中發(fā)揮作用。例如,愛因斯坦指出,科學(xué)技術(shù)“是一種強(qiáng)有力的工具。怎樣用它,究竟是給人帶來幸福還是帶來災(zāi)難,全取決于人自己,而不取決于工具。刀子在人類生活上是有用的,但它也能用來殺人”(1)《愛因斯坦文集》第3卷,許良英等編譯,北京:商務(wù)印書館,1979年,第56頁。。技術(shù)中性論代表人物梅塞勒指出:“技術(shù)為人類的選擇與行動創(chuàng)造了新的可能性,但也使得對這些可能性的處置處于一種不確立的狀態(tài)。技術(shù)產(chǎn)生什么影響、服務(wù)于什么目的,這些都不是技術(shù)本身所固有的,而取決于人用技術(shù)來做什么。”(2)Emmanul G.Mesthene,Technological Change:Its Impact on Man and Society,New York:New American Library,1970,p.60.

馬克思、恩格斯以及受他們影響的西方馬克思主義者特別重視科學(xué)技術(shù)、大機(jī)器生產(chǎn)的社會改造力量。馬克思、恩格斯比較系統(tǒng)、深入地剖析了工業(yè)時(shí)代機(jī)器的資本主義運(yùn)用及其經(jīng)濟(jì)和社會后果。一方面,機(jī)器延展了人類器官的功能,提升了人類實(shí)踐活動的能力和效率,促進(jìn)了社會生產(chǎn)、生活的發(fā)展;另一方面,資本主義體制推進(jìn)了機(jī)器技術(shù)與社會權(quán)力的同構(gòu)化,加深了對工人的異化,造成了人機(jī)關(guān)系的分離和對立。馬克思、恩格斯深刻地揭示了資本主義社會人機(jī)關(guān)系對立的根源在于“機(jī)器資本化”或“資本化機(jī)器”的廣泛應(yīng)用。“由于推廣機(jī)器和分工,無產(chǎn)者的勞動已經(jīng)失去了任何獨(dú)立的性質(zhì),因而對工人也失去了任何吸引力。工人變成了機(jī)器的單純的附屬品,要求他做的只是極其簡單、極其單調(diào)和極容易學(xué)會的操作”(3)《馬克思恩格斯選集》第1卷,北京:人民出版社,2012年,第407頁。。但資本只不過是資本家的化身,資本對機(jī)器的資本主義運(yùn)用并沒有改變機(jī)器作為特定的人的工具這一基本觀念。

“然而,如今我們與技術(shù)之間的關(guān)系正在反轉(zhuǎn):哲學(xué)家、學(xué)者赫伯特·馬歇爾·麥克盧恩認(rèn)為,人類制造的工具正在開始改造人類,甚至創(chuàng)造人類”(4)戈?duì)柕隆とR昂哈德:《人機(jī)沖突:人類與智能世界如何共處》,張堯然、高艷梅譯,北京:機(jī)械工業(yè)出版社,2019年,第29頁。。邁入信息、智能時(shí)代,人工智能之類的革命性、顛覆性新技術(shù)令人類如虎添翼,生存、活動空間正在虛實(shí)結(jié)合地廣泛拓展,勞動或工作的能力、效率得到全方位提升,人類正據(jù)此對客觀世界和主觀世界進(jìn)行全方位的改造和塑造。面對以智能機(jī)器人為代表的新生力量,人類當(dāng)然不情愿束手就擒,放棄長期進(jìn)化史中獲得的主導(dǎo)地位,而是希望智能機(jī)器人成為類似工業(yè)時(shí)代的機(jī)械性機(jī)器一樣馴服的新工具,拓展、延長人類的各種功能性器官,幫助或者代替人類完成各種任務(wù)、實(shí)現(xiàn)各種目標(biāo)。不過,這一次事情似乎并不那么簡單。即使是在人工智能、社會智能化發(fā)展的初期,我們就發(fā)現(xiàn)事情并未按照既有的邏輯發(fā)展:人類打開的似乎是一個(gè)神秘性和能量超乎想象的“潘多拉魔盒”,正在釋放出一種人類未能逆料且難以駕馭的異己力量。

人工智能是一種與以往技術(shù)不同的、開放性的高新科學(xué)技術(shù)。它加工處理的“原料”除了人們熟知的物質(zhì),主要是以往時(shí)代由人腦處理的信息和知識,因而它發(fā)展的方向、方式與以往作為工具的機(jī)器都不盡相同,今后可能造成的革命性后果也難以按照以往的模式、方法進(jìn)行理解和預(yù)測。今天,在洶涌澎湃的信息化、智能化浪潮中,包括智能機(jī)器人在內(nèi)的智能科技正以指數(shù)級速度狂飆突進(jìn),應(yīng)用的場景越來越廣闊,傳統(tǒng)的以人為中心的人機(jī)關(guān)系正遭受革命性、顛覆性的沖擊,特別是人類千百年來一直穩(wěn)如泰山的主導(dǎo)地位正變得岌岌可危。具體而言,這種沖擊可以概括為以下幾個(gè)方面:

第一,包括人形智能機(jī)器人在內(nèi)的智能機(jī)器人正以指數(shù)級的速度快速發(fā)展,逐漸獲得“像人一樣思考和行動”的特質(zhì)。借助當(dāng)代高新科技技術(shù),人形智能機(jī)器人可以被設(shè)計(jì)、制造得越來越像人,甚至比現(xiàn)實(shí)中形形色色的人更加合乎“標(biāo)準(zhǔn)”;如果有必要,還可以突破自然人的各種局限,打造具有高科技色彩的“理想的人”。例如,一個(gè)以算法為基礎(chǔ)的“數(shù)字人”、“虛擬人”可以不必?fù)碛杏袡C(jī)的身體,不必占據(jù)物理空間,也不必消耗什么物質(zhì)資源,只是在虛擬時(shí)空存在,卻也可以擁有超強(qiáng)的記憶、敏銳的思想和豐富的情感,可以承擔(dān)和完成一定的工作任務(wù)……瑪?shù)倌取ち_斯布拉特指出:“一旦被創(chuàng)造出的有意識的思維克隆人——即智能的、有情感的、活的虛擬人,成為一個(gè)普遍的人類追求,我們將面對很多新的個(gè)人問題和社會問題,因?yàn)樗鼜母旧蠑U(kuò)展了‘我’的定義。”(5)瑪?shù)倌取ち_斯布拉特:《虛擬人——人類新物種》,郭雪譯,杭州:浙江人民出版社,2016年,第3頁。在這種情況下,“人”似乎正在被新的技術(shù)重新定義;“人是什么”或人的本質(zhì)面臨前所未有的挑戰(zhàn)。

第二,基于大數(shù)據(jù)、深度學(xué)習(xí)之類技術(shù)的突破性進(jìn)展,智能機(jī)器人逐漸擁有以往專屬于人的一些本質(zhì)特征,例如人一直引以為驕傲的思維或智能。這是智能機(jī)器人區(qū)別于、同時(shí)高于以往一切機(jī)器(包括自動化系統(tǒng)或工業(yè)機(jī)器人)的基礎(chǔ)性表現(xiàn)。如果智能機(jī)器人確實(shí)會思維或者具有智能,并且其水平通過或接近通過“圖靈測試”,那么就不僅可能令人類的精神生產(chǎn)和文化活動發(fā)生翻天覆地的變化,而且可能令人的本質(zhì)特性和唯一主體地位受到直接的挑戰(zhàn):“認(rèn)為機(jī)器可以和人類媲美甚至超過人類智慧的想法似乎再一次挑戰(zhàn)了人類地位。”(6)Ray Kurzweil:《奇點(diǎn)臨近》,李慶誠等譯,北京:機(jī)械工業(yè)出版社,2011年,第260頁。同時(shí),智能機(jī)器人所擁有的意識(包括對象意識和一定程度的自我意識)水平日益提高,導(dǎo)致它們可能逐步“覺醒”,像自然人一樣要求一定意義上的主體地位和主體權(quán)利。

第三,智能機(jī)器人思考和行為的自主性日益增強(qiáng),并且或獨(dú)立或與他者(人或其他機(jī)器)融合、自主地承擔(dān)一定的工作任務(wù),導(dǎo)致人機(jī)之間在工作、生活領(lǐng)域的機(jī)會競爭和角色競爭。這里不僅包括智能機(jī)器人承擔(dān)生產(chǎn)、生活乃至休閑娛樂中的任務(wù),而且包括人機(jī)生存環(huán)境的構(gòu)建以及人機(jī)治理之類任務(wù);不僅包括智能機(jī)器人大量滲入生產(chǎn)、生活乃至休閑娛樂領(lǐng)域,成為人類生產(chǎn)的“同事”、生活的“伙伴”和娛樂的“玩伴”,而且它還可以冷靜地“觀察”、“分析”人與其他機(jī)器,進(jìn)行自我學(xué)習(xí)、自我提升,并幫助人類進(jìn)行提升。這不僅會導(dǎo)致馬克思所批判的“機(jī)器排斥人”,造成越來越嚴(yán)峻的“技術(shù)性失業(yè)”,越來越多的人淪為“無用階層”,被全球化的經(jīng)濟(jì)和社會體系排斥在外,而且會使人類在長期勞動過程中積累起來的工作技能、物種優(yōu)越感受到強(qiáng)烈沖擊,人類的主宰地位和在人機(jī)關(guān)系中的主導(dǎo)作用也將受到直接威脅。

第四,各種智能系統(tǒng)成為社會基礎(chǔ)設(shè)施的重要組成部分,社會正因此被快速地進(jìn)行信息化、智能化塑造。基于社會信息化、智能化的基礎(chǔ)設(shè)施,智能機(jī)器人正在將人“拉入”一種物理空間與虛擬空間相融合的生存境遇之中,一定的智能系統(tǒng)或智能機(jī)器人正在“接管”各種各樣的評價(jià)、決策和管理工作,正在與人類爭奪評價(jià)權(quán)、決策權(quán)和管理權(quán)。例如,一定的智能系統(tǒng)可能長期搜集、存儲、分析各種大數(shù)據(jù),監(jiān)控人們的觀念變化和思想動向,變得“比人們自己更了解自己”;可能對人們的心理和行為傾向主動進(jìn)行分析、預(yù)測,對有些人可能的違規(guī)、違法行為進(jìn)行預(yù)判,甚至提前進(jìn)行干預(yù)和懲處,等等。例如,依據(jù)某個(gè)人具有暴力傾向的偏激性格、認(rèn)為凡犯錯(cuò)的人都應(yīng)該死之類的激進(jìn)觀念、曾經(jīng)行兇殺人之類的犯罪前科以及新近的動向(例如購買了槍支或管制刀具),對其思想和行為的傾向性進(jìn)行預(yù)判、干預(yù)甚至提前限制可能實(shí)施犯罪行為的人的自由。如果這樣,則可能導(dǎo)致人類讓渡給智能機(jī)器人的權(quán)力越來越多、越來越大,然而智能機(jī)器人能否合理合法地運(yùn)用這些權(quán)力,卻并不是那么確定。

第五,隨著人機(jī)之間的交往、協(xié)作、互動日益增多,人機(jī)之間難免出現(xiàn)越來越多的矛盾和沖突。例如,人機(jī)之間的結(jié)構(gòu)、利益和需求可能存在巨大差異,價(jià)值觀念、思維方式和語言表達(dá)可能難以溝通,存在和活動的目的可能不盡相同,行為方式和實(shí)踐邏輯也可能不盡一致,這一切都可能導(dǎo)致矛盾和沖突的產(chǎn)生。至于這些矛盾和沖突將在什么層面、以何種形式出現(xiàn),又可能造成什么樣的政治、經(jīng)濟(jì)和社會后果,以及將會通過什么樣的方式、程序加以解決,一切都充滿了巨大的風(fēng)險(xiǎn)和不確定性。在這個(gè)充斥著風(fēng)險(xiǎn)與不確定性的智能時(shí)代,人類并不能像農(nóng)業(yè)時(shí)代運(yùn)用手工工具、工業(yè)時(shí)代運(yùn)用機(jī)械性工具那樣,高高在上地“命令”、“使喚”具有自主活動能力的智能機(jī)器人。

第六,人機(jī)之間的矛盾和沖突,最關(guān)鍵、也最引人注目的可能是未來的主導(dǎo)權(quán)和統(tǒng)治權(quán)(治理權(quán))的爭奪。隨著算力的提升和大數(shù)據(jù)、機(jī)器學(xué)習(xí)之類技術(shù)的快速發(fā)展,智能機(jī)器人的智能、自主行動力、行動效率都可能以指數(shù)級增長。這對進(jìn)化緩慢的人類而言是一個(gè)巨大的挑戰(zhàn),即人類必須通過自我革命才能解決的挑戰(zhàn)。如果人類盲目自信、傲慢自大、固步自封,不想方設(shè)法跟上人工智能的進(jìn)化速度,不與人工智能實(shí)現(xiàn)深度融合,就難免被今后可能出現(xiàn)的超級智能遠(yuǎn)遠(yuǎn)地拋在后面。在新型人機(jī)關(guān)系的構(gòu)建中,人類不僅可能喪失傳統(tǒng)的主導(dǎo)地位和優(yōu)越感,甚至可能喪失平等“對話”、攜手合作、和諧共生的資本和資格。

此外,在社會信息化、智能化進(jìn)程中,不僅人機(jī)關(guān)系受到革命性、顛覆性沖擊,而且既有的人際關(guān)系也會受到全面、深刻的影響。一方面,人際交往越來越離不開信息、智能基礎(chǔ)設(shè)施、技術(shù)和設(shè)備,離不開像微信、抖音、臉書、推特之類的社交平臺和ChatGPT之類的大型語言模型,另一方面,包括智能機(jī)器人在內(nèi)的各種智能系統(tǒng)已經(jīng)走進(jìn)人們的交往實(shí)踐活動領(lǐng)域,正在影響、塑造、替代甚至排擠既有的人際交往關(guān)系。例如,隨著包括智能機(jī)器人在內(nèi)的各種智能系統(tǒng)大量進(jìn)入人們的生產(chǎn)、生活以及休閑娛樂領(lǐng)域,承擔(dān)越來越多的崗位職責(zé)和勞動任務(wù),有些人可能覺得傳統(tǒng)的自然人的感知能力、知識儲備、勞動技能、勞動態(tài)度甚至道德水平都不如智能機(jī)器人,越來越傾向于信任智能機(jī)器人。他們可能更樂于咨詢像ChatGPT之類“知識淵博”、“見多識廣”的聊天機(jī)器人,參考它們給予的意見和建議,甚至直接讓它們幫助自己進(jìn)行評價(jià)、決策;他們可能更愿意與各種專業(yè)的智能機(jī)器人一起工作,覺得智能機(jī)器人更可靠、更踏實(shí);更喜歡與智能機(jī)器人一起嬉戲、娛樂,覺得智能機(jī)器人更厲害、更誠信。有些人甚至可能覺得現(xiàn)實(shí)生活中的人太自私、太虛偽,或者太愚蠢、太頑固,熱衷于夸夸其談、爾虞我詐、巧取豪奪,而越來越傾向于與比較“單純”、“忠誠”、“實(shí)干”的智能機(jī)器人交朋友。人與智能機(jī)器人之間談情說愛,組建沖擊傳統(tǒng)觀念的新式家庭,甚至以某種方式共同撫育后代,這類時(shí)髦的話題也越來越頻繁地出現(xiàn)……預(yù)測中長期發(fā)展的態(tài)勢,人機(jī)之間的交往、互動可能會越來越普遍,甚至遠(yuǎn)遠(yuǎn)超過人際之間的交往、互動頻率。

二、智能時(shí)代多種可能的人機(jī)關(guān)系之考量

在社會信息化、智能化背景下,人機(jī)之間可能、或者應(yīng)該建立什么樣的關(guān)系?持不同立場、觀點(diǎn)的學(xué)者們對此見仁見智、眾說紛紜。如果不考慮思考者的立場、社會意識形態(tài)(例如資本和“資本的邏輯”)等因素,刪繁就簡地梳理一下,人機(jī)之間可能建立的關(guān)系是多元且復(fù)雜的。

(一)人類的“新工具”或“新奴仆”

有些人沿襲傳統(tǒng)工具論的思路,堅(jiān)定地認(rèn)為智能機(jī)器人不可能會思維、有智能,或者智能機(jī)器人的思維、智能不可能超過人類。在他們看來,智能機(jī)器人只是人類的發(fā)明、創(chuàng)造,它們只是人類的工具或幫手,或者按照人類設(shè)定的程序默默地協(xié)助人開展工作,或者自主完成人們交辦的各種勞動任務(wù)。即使近些年來,智能機(jī)器人在思維和智能方面已經(jīng)取得巨大進(jìn)步,能夠在一定程度上自主地進(jìn)行思考和行動,他們?nèi)匀粓?jiān)持認(rèn)為,智能機(jī)器人只是按照人類編寫的程序行事,按照人類的基本價(jià)值觀進(jìn)行評價(jià)、決策,完成人類交辦的工作任務(wù),實(shí)現(xiàn)管理、服務(wù)之類工作目標(biāo)。

在這種關(guān)系中,人顯然是唯一的、占據(jù)主導(dǎo)地位的主體,智能機(jī)器人則一直居于非主體性質(zhì)的從屬地位。這種關(guān)系能否成立取決于兩個(gè)方面:一是人類自身的發(fā)展、進(jìn)化是否足夠快速、足夠健康,是否有能力掌控智能機(jī)器這種革命性的新工具;二是智能機(jī)器人的發(fā)展不會“超速”,更不會因“覺醒”而失控,而始終處在人類理性的掌控之中。“機(jī)器人可能會意識到自己的價(jià)值遠(yuǎn)遠(yuǎn)超過作為人類工具的價(jià)值。一旦意識到它們的奴隸地位,并認(rèn)為被這樣對待是不公平的,它們就可能會發(fā)動起義,進(jìn)行反抗。因此人類要維持這一關(guān)系中的主人地位需要機(jī)器人毫無怨言地接受人類的主導(dǎo)地位”(7)約瑟夫·巴-科恩、大衛(wèi)·漢森:《機(jī)器人革命:即將到來的機(jī)器人時(shí)代》,潘俊譯,北京:機(jī)械工業(yè)出版社,2015年,第226頁。。

(二)對人類友善、馴服的“AI神”

雖然通用人工智能的研究剛剛起步,雖然超級智能還處在想象階段,但人工智能確實(shí)正在許多領(lǐng)域——包括人類引以為傲的思維、智能等領(lǐng)域——超過人類。人們希望,包括超級智能在內(nèi)的智能機(jī)器人將會自我約束,德行無虧,成為(1)人類的“被奴役的神”:雖然智能機(jī)器人的智能和技能可能超過人類,卻始終自覺地以人類為尊,聽從人類的命令,任勞任怨地為人類工作和服務(wù);(2)人類的“守護(hù)神”:智能機(jī)器人以其強(qiáng)大的感知、運(yùn)算能力采集、加工各種信息,對來自包括外太空、虛擬時(shí)空在內(nèi)的各種各樣的風(fēng)險(xiǎn)向人類示警,并且與人類協(xié)同或者自主地采取應(yīng)對措施,保衛(wèi)人類的安全、生存和發(fā)展;(3)統(tǒng)治人類的“AI神”:松本徹三對人類的歷史表現(xiàn)比較失望,甚至認(rèn)為“AI神”的統(tǒng)治更有優(yōu)勢,更值得期待——“請胸懷善意,由持有堅(jiān)定‘信念’而絕對不會動搖的AI作為‘唯一的神’來支配這個(gè)世界”,“是‘人類自己的英明決斷’,是為了讓‘人類能夠出于天性、本性地快樂生活’這個(gè)目的”(8)松本徹三:《AI成“神”之日:人工智能的終極演變》,張林峰譯,北京:清華大學(xué)出版社,2019年,第136、193頁。。

在這種關(guān)系中,人類承認(rèn)智能機(jī)器人的“半主體”或“部分主體”地位,建立的是一種以人為主、以更為強(qiáng)大的智能機(jī)器人為仆的非穩(wěn)態(tài)關(guān)系。這種關(guān)系能否成立的關(guān)鍵,在于日益強(qiáng)大的智能機(jī)器人的“意愿”和“態(tài)度”,即智能機(jī)器人是否心甘情愿地自我約束,甘居從屬地位,服從人類的命令,溫馴地接受人類的一以貫之的人性化統(tǒng)治。

(三)人類的伙伴或朋友

如果智能機(jī)器人能夠向著擬人化方向發(fā)展,內(nèi)嵌人類的常識和基本價(jià)值觀,那么它不僅可以與人類協(xié)同進(jìn)行生產(chǎn)、提供服務(wù),還可以滲透到人們的社會生活和休閑娛樂領(lǐng)域,從事諸如答疑解惑、聊天解悶、電子競技、電子游戲、VR體驗(yàn)之類的事情。如果人形智能機(jī)器人的開發(fā)不斷取得進(jìn)展,或許將會有越來越多的人對它產(chǎn)生心理上、精神上的依賴,與它成為親密無間的朋友;有的人甚至可能情難自禁地與智能機(jī)器人談情說愛,步入婚姻殿堂,組成新穎、時(shí)髦的人機(jī)家庭。

在這種關(guān)系中,人類“謙遜”地承認(rèn)了智能機(jī)器人責(zé)權(quán)利相統(tǒng)一的主體地位,人與智能機(jī)器人的關(guān)系是一種地位平等、相互尊重、互相協(xié)作、共存共榮的主體間關(guān)系。這種關(guān)系能否成立的關(guān)鍵,一方面在于智能機(jī)器人的基本價(jià)值觀、情感模式和行為模式是否與人類相容,智能機(jī)器人的擬人化思維能否取得突破,人機(jī)之間的溝通水平能否逼近或通過“圖靈測試”;另一方面在于人類能否加快自身身體和心靈的進(jìn)化,與智能機(jī)器人共同進(jìn)步,同頻共振地自我提升。

(四)人類的競爭對手甚至敵人

作為世界上出現(xiàn)的有智能的“新物種”,智能機(jī)器人的應(yīng)用日益普遍。在日益信息化、智能化的世界上,它們可能成為人類無處不在的競爭對手,與人類爭搶勞動機(jī)會和工作崗位,在不同領(lǐng)域爭奪管理權(quán)限,甚至與人類或者其他的機(jī)器爭奪生存空間。如果它們的自主發(fā)展失控,“超級智能”可能發(fā)展成為威脅人類前途和命運(yùn)的征服者、統(tǒng)治者。2023年火爆全球的GPT4,令人們正在一定程度上直觀地感受、體驗(yàn)著這種威脅。詹姆斯·巴拉特憂心忡忡地指出:“隨著它們獲得宇宙間最不可預(yù)測、我們自己都無法達(dá)到的高級力量,它們會做出意想不到的行為,而且這些行為很可能無法與我們的生存兼容。”(9)詹姆斯·巴拉特:《我們最后的發(fā)明:人工智能與人類時(shí)代的終結(jié)》,閭佳譯,北京:電子工業(yè)出版社,2016年,第XII頁。尼克·波斯特洛姆提出可能出現(xiàn)“超級智能”,令人類面臨前所未有的“整體存在性風(fēng)險(xiǎn)”,“如果有一天我們發(fā)明了超越人類大腦一般智能的機(jī)器大腦,那么這種超級智能將會非常強(qiáng)大。并且,正如現(xiàn)在大猩猩的命運(yùn)更多地取決于人類而不是它們自身一樣,人類的命運(yùn)將取決于超級智能機(jī)器”(10)尼克·波斯特洛姆:《超級智能:路線圖、危險(xiǎn)性與應(yīng)對策略》,張?bào)w偉、張玉青譯,北京:中信出版集團(tuán),2015年,第XXV頁。。

在這種關(guān)系中,智能機(jī)器人不斷以其自主的思維和行為爭取主體地位,甚至試圖以其強(qiáng)大的技術(shù)優(yōu)勢爭奪領(lǐng)導(dǎo)權(quán),建立“機(jī)主人仆”的社會秩序。這種關(guān)系能否成立的關(guān)鍵,在于人類自我提升、進(jìn)化的速度是否確實(shí)大大落后于智能機(jī)器人,從而令人機(jī)競爭、人機(jī)博弈的局勢逐步走向失控。

(五)人類的繼承者或者“后裔”

正如凱文·渥維克指出的,“機(jī)器在變得越來越出色,而人類的進(jìn)步如果確實(shí)有的話,也緩慢之極”(11)凱文·渥維克:《機(jī)器的征途:為什么機(jī)器人將統(tǒng)治世界》,李碧等譯,呼和浩特:內(nèi)蒙古人民出版社,1998年,第290頁。。如果人類自我提升、進(jìn)化的速度大大落后于智能機(jī)器人,甚至與智能機(jī)器人相比出現(xiàn)了明顯的“代際差異”,那么就難免被飛速發(fā)展的智能時(shí)代所拋棄,或者無法融入“智能化的世界秩序”,從而或主動或被動地“走進(jìn)歷史”。邁克斯·泰格馬克暢想說:“人工智能雖然取代了人類,但其允許我們從容優(yōu)雅地退出歷史舞臺,讓我們把它們視為值得稱道的后裔,就像父母為子女比自己聰明而感到高興和驕傲一樣,雖然子女向父母學(xué)習(xí)了很多,但它們?nèi)〉昧烁改缸鰤舳枷氩坏降某删?即便父母活不到親眼目睹的那一天。”(12)邁克斯·泰格馬克:《生命3.0》,汪婕舒譯,杭州:浙江教育出版社,2018年,第219頁。谷歌首席未來學(xué)家雷·庫茲韋爾也曾經(jīng)預(yù)測,人工智能未來完全可能“大大超越人類的智能”,成為漢斯·莫拉維茨所謂的人類“進(jìn)化的繼承人”和“思想的繼承者”(13)Ray Kurzweil:《奇點(diǎn)臨近》,第11頁。。

在這種關(guān)系中,智能機(jī)器人以人類“繼承者”的身份自覺或非自覺地登上歷史舞臺,成為虛實(shí)結(jié)合的宇宙中的新一代主宰;人類則在殘酷無情的生存競爭中敗下陣來,淪為生物進(jìn)化歷程中的一個(gè)階段性的輝煌。——當(dāng)然,(四)與(五)兩種關(guān)系失控的后果,一直是人類中的有識之士們用心提防,并且竭力阻止發(fā)生的。

(六)人機(jī)融合的新型智能生命

這是對人與智能機(jī)器人未來進(jìn)化的一種大膽的、全新的、當(dāng)然還十分粗糙的設(shè)想。它摒棄了人與智能機(jī)器人之間的二元對立觀念:“隨著人機(jī)結(jié)合體越來越多地出現(xiàn),今天我們對人和機(jī)器這種過于簡單的二元區(qū)分將不再適用。”(14)約翰·喬丹:《機(jī)器人與人》,劉宇馳譯,北京:中國人民大學(xué)出版社,2018年,第158頁。它還摒棄了人與智能機(jī)器人之間的“零和博弈”思維,倡導(dǎo)人與智能機(jī)器人之間來“一場達(dá)爾文式的協(xié)同進(jìn)化”(15)愛德華·阿什福德·李:《協(xié)同進(jìn)化:人類與機(jī)器融合的未來》,李楊譯,北京:中信出版社,2022年,第335頁。,實(shí)現(xiàn)更高層次上的“內(nèi)共生”或人機(jī)一體化。例如,自然人可以運(yùn)用包括植入納米機(jī)器人之類的生命增強(qiáng)技術(shù)增強(qiáng)身體和心理機(jī)能,減少疾病,延長壽命,甚至擺脫脆弱的生物體形式;人可以基于腦機(jī)接口技術(shù)、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等與智能機(jī)器實(shí)現(xiàn)互聯(lián)互通,可以將意識上傳至機(jī)器,可以與各種智能機(jī)器實(shí)現(xiàn)即時(shí)互動;智能機(jī)器人與人可以根據(jù)特定的需要和任務(wù),發(fā)揮各自的特點(diǎn)和優(yōu)勢,以不盡相同的方式逐步融合為一,構(gòu)成一種新穎別致的“人機(jī)混合體”。雷·庫茲韋爾等人曾經(jīng)設(shè)想過這種關(guān)系,但其比較系統(tǒng)的構(gòu)想是由超人類主義運(yùn)動所提供的。超人類主義“是一場解放運(yùn)動,倡導(dǎo)人類從生物體形式中完全解放出來”,但“在現(xiàn)實(shí)中,這種解放最終帶來的結(jié)果將是人類遭到技術(shù)的全面奴役”(16)馬克·奧康奈爾:《最后一個(gè)人類》,郭雪譯,杭州:浙江人民出版社,2019年,“引言”,第X頁。。

這種關(guān)系激活、融合了近代“人是機(jī)器”與智能時(shí)代“機(jī)器是人”的激進(jìn)理念,徹底打破了人與機(jī)器之間冰冷的分離與尖銳的對立狀況,人機(jī)聯(lián)系、溝通、協(xié)作、互動實(shí)現(xiàn)了最高級、也最高效的形式——“人機(jī)一體化”。當(dāng)然,有些人可能難以理解、接受這種顛覆性的人機(jī)關(guān)系構(gòu)想,更多的人的態(tài)度則可能是不以為然,覺得這不過是癡人說夢、天方夜譚。

圍繞以上所概括的六種人機(jī)關(guān)系,以及這里尚未論及的各種可能的新關(guān)系,一直眾說紛紜,聚訟不斷。由于智能技術(shù)和智能機(jī)器人正以指數(shù)級速度發(fā)展,其發(fā)展的方向、程度和限度存在著多方面的可能性,因而可以預(yù)測,短期內(nèi)人們就人機(jī)關(guān)系達(dá)到基本共識的希望十分渺茫;至于說得到不斷進(jìn)化、越來越強(qiáng)大的智能機(jī)器人的“首肯”和“認(rèn)同”,更可以說完全只是一個(gè)想象中的時(shí)髦話題。但是,因?yàn)槭乱阎链?并且事關(guān)重大,我們絕不能坐等結(jié)果、聽之任之。我們不得不在發(fā)展態(tài)勢尚不明朗、相關(guān)討論尚未取得共識之前,就面對既具有感知、思維、表達(dá)等“智能”,又具有日益強(qiáng)大行動能力的智能機(jī)器人,努力嘗試構(gòu)建一種既合理、又可行的新型人機(jī)關(guān)系和人機(jī)文明。

三、創(chuàng)造性構(gòu)建新型的合理的人機(jī)關(guān)系

剖析以上幾種可能的關(guān)系,我們不難發(fā)現(xiàn),人類在人機(jī)關(guān)系中曾經(jīng)根深蒂固的主體地位、主導(dǎo)作用都面臨著革命性沖擊。而這種顛覆性后果是自詡“萬物之靈”的人類難以坦然接受和認(rèn)同的。人類能否牢牢掌握主動權(quán)的關(guān)鍵日益聚焦到以下息息相關(guān)的兩個(gè)問題之上:一是越來越強(qiáng)大的智能機(jī)器人能否遵循人類的目的和意愿,向著對人類友善、負(fù)責(zé)任的方向發(fā)展,能否永遠(yuǎn)不脫離人類的掌握而走向“失控”;二是人類能否未雨綢繆,加快自我提升和進(jìn)化,或者說跟上智能機(jī)器人發(fā)展、進(jìn)化的速度,以便有資質(zhì)和能力與智能機(jī)器人進(jìn)行溝通、協(xié)作,共建、共享一種更高階的人機(jī)關(guān)系和人機(jī)文明。

明確了問題的關(guān)鍵之所在,重構(gòu)合理的、可持續(xù)的新型人機(jī)關(guān)系,或許需要做的便是“對癥下藥”,因應(yīng)施策。因此,為了不喪失人類的尊嚴(yán)和主導(dǎo)地位,防止局面發(fā)展到不可收拾的地步,我們必須擱置現(xiàn)存的各種爭議,拓展觀念與思路,重點(diǎn)圍繞“發(fā)展”、“建構(gòu)”,做好新型人機(jī)關(guān)系這篇大文章。

首先,科技活動是人類的一種本質(zhì)性活動,技術(shù)的研發(fā)、應(yīng)用活動體現(xiàn)且塑造著人的本質(zhì)。作為智能技術(shù)的發(fā)明者和創(chuàng)造者,人類不能放棄對智能技術(shù)、智能機(jī)器人的必要規(guī)制,而必須立足技術(shù)發(fā)展的可能性,基于人類的基本立場、價(jià)值原則和“底線倫理”,促使智能機(jī)器人成為可以通過“道德圖靈測試”的“道德機(jī)器”(17)溫德爾·瓦拉赫、科林·艾倫:《道德機(jī)器:如何讓機(jī)器人明辨是非》,王小紅主譯,北京:北京大學(xué)出版社,2017年,第60-62頁。。

“如果人形機(jī)器人變得更加能干并且具備了只有人類才有的認(rèn)知能力的意識,那么現(xiàn)實(shí)的問題就是,它們是否仍會‘效忠’我們”(18)約瑟夫·巴-科恩、大衛(wèi)·漢森:《機(jī)器人革命:即將到來的機(jī)器人時(shí)代》,第213頁。。越來越多的有識之士已經(jīng)意識到風(fēng)險(xiǎn)的來臨,要求趁人工智能的發(fā)展尚未失控就采取果斷的行動,具有前瞻性地確立人工智能發(fā)展的價(jià)值原則,使智能機(jī)器人的研發(fā)、應(yīng)用有規(guī)可循、有法可依。從人機(jī)關(guān)系的角度說,這里的關(guān)鍵在于始終堅(jiān)持“人是目的”的立場,確立以人為中心的“人本原則”,即在智能機(jī)器人的算法中內(nèi)嵌人類的基本價(jià)值觀和“底線倫理”,要求智能機(jī)器人理性、友善、富有德性地對待人類、為人類服務(wù)(19)Noel Sharkey,“The Ethical Frontiers of Robotics”,Science,Vol.322,No.5909,2008.,成為可以通過“道德圖靈測試”的負(fù)責(zé)任的“道德機(jī)器”。智能機(jī)器人在任何情況下都必須確保不故意傷害人類,不損害人類的人格和尊嚴(yán),不濫用人類讓渡的權(quán)力,并且在能夠救人于危難時(shí)盡力作為。而為了踐行“人是目的”或“人本原則”,一是必須堅(jiān)持透明和可解釋原則,保證智能機(jī)器人的研發(fā)和應(yīng)用處于可解釋、可理解、可預(yù)測狀態(tài),隨時(shí)接受相應(yīng)機(jī)構(gòu)、新聞媒介和社會公眾的監(jiān)督和質(zhì)詢;二是必須堅(jiān)持責(zé)任原則,明確相關(guān)各方的權(quán)利、責(zé)任和義務(wù),建立健全技術(shù)、經(jīng)濟(jì)、倫理和法律方面的追責(zé)、問責(zé)機(jī)制,警覺地預(yù)測并預(yù)防重大風(fēng)險(xiǎn)以及可能的災(zāi)難性后果。

鑒于現(xiàn)實(shí)世界的豐富性和復(fù)雜性,具體的操作層面必須具體問題具體分析,嘗試建立、完善一套有效的社會實(shí)踐機(jī)制,將人工智能納入以人為中心的正常、有序的發(fā)展軌道。第一,成立各種層級的包括科學(xué)家、工程師、倫理學(xué)家、法學(xué)家、政治家在內(nèi)的多領(lǐng)域?qū)＜医M成的倫理委員會,對人工智能的發(fā)展規(guī)劃、前沿技術(shù)的研發(fā)和應(yīng)用進(jìn)行評估、監(jiān)管和規(guī)制。倫理委員會對新技術(shù)(特別是高風(fēng)險(xiǎn)的前沿性技術(shù))的研發(fā)和應(yīng)用具有延遲表決權(quán)和否決權(quán)。第二,強(qiáng)化不同地域、不同層級的協(xié)同與合作,訂立具有約束力的區(qū)域或全球契約,禁止研發(fā)、生產(chǎn)、貿(mào)易和使用致命性的智能武器,合作打擊跨時(shí)空的智能犯罪和“智能恐怖主義”。第三,做好社會頂層設(shè)計(jì),建立和完善人工智能研發(fā)、應(yīng)用的社會機(jī)制,確保人工智能能夠被公平公正地使用,防止資本所有者和技術(shù)精英相互勾結(jié),通過封鎖和壟斷智能技術(shù)牟取暴利,通過濫用大數(shù)據(jù)和算法技術(shù)搜集和分析他人數(shù)據(jù),侵害他人隱私,從而監(jiān)控、盤剝、掠奪和奴役“數(shù)字窮人”,等等。

其次,置身新穎別致的智能化世界,面對日新月異的智能機(jī)器人,無論是人類的身體機(jī)能還是思維水平,無論是人類的社會表現(xiàn)還是道德修養(yǎng),都存在“提升”和“進(jìn)化”的強(qiáng)烈需要。人類必須對自己進(jìn)行一次徹底的批判性自省,深刻認(rèn)識人自身的局限、不完美和社會組織架構(gòu)的不完善,善于運(yùn)用生物技術(shù)、智能技術(shù)“武裝”人、塑造人,加快人類自身的成長和“進(jìn)化”過程,打造適應(yīng)智能時(shí)代的特質(zhì)和要求的“時(shí)代新人”。

近些年來,相比智能科技和智能機(jī)器人的指數(shù)級發(fā)展速度,人類自身的成長和進(jìn)化實(shí)在是太緩慢了。我們反躬自省不難發(fā)現(xiàn),人類代際之間的進(jìn)步常常可以忽略不計(jì)。如果人類被智能機(jī)器人追上并被其持續(xù)拉大距離,直至完全不處于同一個(gè)層級,就不得不需要智能機(jī)器人寬容、友善、憐憫地給予人類平等地位,這將會是一種極其危險(xiǎn)、極不確定、極不可靠的關(guān)系。“如果‘僅僅作為人’還不夠好,如果作為人還太笨拙,為什么不用技術(shù)來加強(qiáng)、來改善你自己呢?為什么不讓技術(shù)成為你的‘第一天性’,拉平我們與機(jī)器之間的差距呢?”(20)戈?duì)柕隆とR昂哈德:《人機(jī)沖突:人類與智能世界如何共處》,第122頁。畢竟,“從來就沒有救世主”,能夠拯救人類的永遠(yuǎn)只有人類自己。只有善于運(yùn)用先進(jìn)的生物和智能技術(shù)、設(shè)備,讓人類的身體、思維和智能通過提升、進(jìn)化而不斷增強(qiáng),才能減少疾病、強(qiáng)化功能、增強(qiáng)活力、延緩衰老、延長壽命,才有資格和資本掌握人機(jī)關(guān)系建構(gòu)的主動權(quán)和話語權(quán),才有能力和工具探索人與智能機(jī)器人共存的恰當(dāng)方式。

同時(shí),從歷史與現(xiàn)實(shí)來看,人性善惡并存,社會結(jié)構(gòu)不盡合理,人類自身的價(jià)值與道德表現(xiàn)一直廣受詬病,社會治理更是顯得一團(tuán)糟,充斥著爾虞我詐、巧取豪奪、以強(qiáng)凌弱、甚至血腥的侵略和殖民。如果人類不能在自我修養(yǎng)與社會建構(gòu)兩個(gè)方面取得明顯進(jìn)展,而是停留在糟糕的價(jià)值觀和道德表現(xiàn)層面,那將不僅難以團(tuán)結(jié)起來共同應(yīng)對已知的和未知的風(fēng)險(xiǎn),更難以令智能機(jī)器人服膺,從而主導(dǎo)充滿風(fēng)險(xiǎn)和不確定性的人機(jī)關(guān)系。譬如說,如果智能機(jī)器人是“中規(guī)中矩”、“遵紀(jì)守法”的“道德機(jī)器”,而人類卻不斷暴露自己的貪婪、冷漠和虛偽,不斷互相傾軋、無休止地內(nèi)耗,人為地制造不公正、苦難與罪惡,恐怕人類內(nèi)部都難以達(dá)成共識。因此,有必要“讓我們一起行動,在人工智能完全起飛之前對人類社會進(jìn)行改善”(21)邁克斯·泰格馬克:《生命3.0》,第444頁。。我們必須“搞清楚強(qiáng)化的人類和人性化的機(jī)器兩者的地位、局限”(22)約翰·喬丹:《機(jī)器人與人》,第136頁。,采取綜合性的技術(shù)、經(jīng)濟(jì)和法律措施懲惡揚(yáng)善,提升智能機(jī)器人與人自身的修養(yǎng)(包括價(jià)值和道德表現(xiàn)),嘗試建立相互尊重、理性合作、民主治理、和諧共處的人機(jī)關(guān)系。

再次,面對智能機(jī)器人的快速發(fā)展和自主行為,人類必須反思傳統(tǒng)的基于人類中心主義的人機(jī)關(guān)系理念和框架,通過革命性的思想解放,創(chuàng)造性地建設(shè)人機(jī)之間的新型溝通、互動機(jī)制,在動態(tài)的溝通、互動中塑造新型的人機(jī)關(guān)系和人機(jī)文明。

邁入革命性、顛覆性的智能時(shí)代,雖然我們不太認(rèn)同“超人類主義運(yùn)動”“尋求以激進(jìn)的方式用技術(shù)擴(kuò)展人體的可能性”(23)菲利普·鮑爾:《如何制造一個(gè)人:改造生命的科學(xué)和被科學(xué)塑造的文化》,李可、王雅婷譯,北京:中信出版社,2021年,第331頁。,但面對ChatGPT之類通用人工智能的快速發(fā)展和進(jìn)化,人類必須具有強(qiáng)烈的危機(jī)感,在主動加快自我提升、自我完善的基礎(chǔ)上,探索與智能機(jī)器人合作共處、協(xié)同進(jìn)化的機(jī)制和方式。試圖像“武大郞開店”、“盧德分子”那樣人為限制智能技術(shù)的發(fā)展和應(yīng)用,通過阻礙技術(shù)的進(jìn)步來維護(hù)人類的尊嚴(yán)和主宰地位的方式是不明智的;而期待智能機(jī)器人自然而然地?fù)碛幸活w“良芯”,自覺遵循既有的人類道德準(zhǔn)則和法律規(guī)范,又是消極且不負(fù)責(zé)任的。智能技術(shù)必將會持續(xù)、快速發(fā)展,各種智能機(jī)器人將在越來越多的領(lǐng)域超過現(xiàn)在的人類,智能機(jī)器人將得到日益廣泛、普遍的使用,這已經(jīng)是無法阻擋的大勢所趨;人機(jī)共存、人機(jī)協(xié)作、人機(jī)交互是人類必須面對的事實(shí),人機(jī)之間的競爭、矛盾和沖突也是無法避免的后果。不過,人類沒有必要因此而悲觀、絕望,因?yàn)槿斯ぶ悄芑蛑悄軝C(jī)器人也存在其局限性,也有許多至少可見的未來不能做的事情;“此外,人工智能一直專注于智力的理性,卻忽略社會/情感智能,更別提心智了”(24)瑪格麗特·博登:《AI:人工智能的本質(zhì)與未來》,孫詩惠譯,北京:中國人民大學(xué)出版社,2017年,第180頁。。除此之外,更為重要的是,目前人工智能并未失控,超級智能還停留在想象階段,那些危險(xiǎn)的預(yù)言并未成為現(xiàn)實(shí)。

邁克斯·泰格馬克指出:“我們就是未來生命的守護(hù)者,因?yàn)槿斯ぶ悄軙r(shí)代正在由我們塑造。”(25)邁克斯·泰格馬克:《生命3.0》,第445頁。在社會智能化的進(jìn)程中,我們完全有機(jī)會構(gòu)建不損害人類及其根本利益的新型人機(jī)關(guān)系:第一,我們必須調(diào)整觀念和心態(tài),破除千百年來根深蒂固的“人類中心主義”和主宰意識,克服狂妄自大的傲慢與自以為是的偏見,通過基于互相理解、互相尊重的持續(xù)磨合、動態(tài)調(diào)適,逐漸形成新型的人機(jī)關(guān)系。由于智能機(jī)器人在社會生產(chǎn)、生活中的地位和作用日益突出,如果人類狂妄地自詡為“萬物之靈”和“世界的主宰”,完全無視智能機(jī)器人的“智能”、“權(quán)利”和“尊嚴(yán)”,人機(jī)之間的矛盾就可能層出不窮,沖突就可能日趨激化。第二,我們應(yīng)該重新審視智能技術(shù)和智能機(jī)器人,在促進(jìn)其理性、負(fù)責(zé)任發(fā)展的基礎(chǔ)上,盡可能賦予智能機(jī)器人以自主思考、自主行動的主體地位,盡可能保障智能機(jī)器人的基本權(quán)益;不得隨意貶損智能機(jī)器人的“人格”和尊嚴(yán),不得忽視智能機(jī)器人的合理訴求和合法權(quán)利,從而盡可能地減少、甚至消除人機(jī)之間的矛盾和沖突。第三,我們必須順應(yīng)智能革命的潮流和“智能技術(shù)范式”的要求,推動腦機(jī)接口、數(shù)據(jù)共享、意識上傳之類人機(jī)交互、協(xié)作技術(shù)的發(fā)展,并據(jù)此主動探索一種相互尊重、相互協(xié)作、和諧共處的新型人機(jī)關(guān)系。第四,構(gòu)建過程中的核心或“重中之重”,在于延展哈貝馬斯的主體際的“交往理性”和“商談倫理”,探索一種與智能機(jī)器人進(jìn)行即時(shí)、有效溝通的方式,嘗試與智能機(jī)器人進(jìn)行高效、愉悅的交互,從而通過不斷的協(xié)調(diào)、磨合,共同塑造、完善新型的人機(jī)關(guān)系。

在這種新型的人機(jī)關(guān)系中,不斷“進(jìn)化”的人類不僅不會退出歷史舞臺,反而可以借助先進(jìn)的生物、智能技術(shù)和設(shè)備不斷“提升”和“強(qiáng)化”自己,在適合自己的位置上演繹“將工作與興趣、愛好有機(jī)結(jié)合的威力和意義”,在生命的演進(jìn)中持續(xù)彰顯“人性的光輝”、“靈魂的凈化”和“自由個(gè)性的趣味”;功能越來越強(qiáng)大的智能機(jī)器人則嚴(yán)守價(jià)值與道德底線,在生產(chǎn)和服務(wù)、社會運(yùn)轉(zhuǎn)和日常治理等方面承擔(dān)越來越多的職責(zé),在與人類的和諧協(xié)作與良性互動中,日益成長為內(nèi)在具有良知和道德意識,外在行為具有強(qiáng)烈的使命感、責(zé)任感和義務(wù)感的新型“復(fù)合生命體”;人與智能機(jī)器人不是對立、更不是敵對關(guān)系,二者之間的交往和互動逐漸從單一走向多維,從簡單走向復(fù)雜,從外在走向內(nèi)在,在反反復(fù)復(fù)的調(diào)適與磨合中,逐漸向著“人機(jī)一體化”和“人機(jī)命運(yùn)共同體”邁進(jìn)。

綜而言之,置身波瀾壯闊、日新月異的智能革命時(shí)代,人類應(yīng)當(dāng):堅(jiān)持“人是目的”、以人為本地發(fā)展人工智能,使智能機(jī)器人成為可以通過“道德圖靈測試”的“道德機(jī)器”;善于運(yùn)用先進(jìn)的生物、智能技術(shù)和設(shè)備“武裝”自己,將自己塑造為與時(shí)俱進(jìn)的“時(shí)代新人”;善于與強(qiáng)大的智能機(jī)器人溝通、協(xié)作、融合,創(chuàng)造性地探索人機(jī)關(guān)系的生成和運(yùn)作機(jī)制。如此,人類方有可能“扼住命運(yùn)的咽喉”,主導(dǎo)新型的人機(jī)關(guān)系,建設(shè)一種人機(jī)協(xié)作、人機(jī)和諧、人機(jī)一體化的新型文明形態(tài)。