人機互動關系的跨文化問題

單 波, 白 暢

(武漢大學 媒體發展研究中心, 湖北 武漢 430072)

按照赫拉利(Yuval Noah Harari)在《人類簡史》中所作的總結,“在將近40億年的時間里,地球上每一種生物的演化都是依循著自然選擇的法則。沒有任何一種是由某個具有智慧的創造者所設計的”(1)尤瓦爾·赫拉利:《人類簡史:從動物到上帝》,林俊宏譯,北京:中信出版社,2014年,第389頁。。但如今的人類正在通過自己的智慧設計來改變自然選擇。在研究人類與機器人相互作用的“人-機器人交互”(human-robot interaction)領域,設計師們一方面追求設計出能夠滿足人的交流需要、不傷害人類且遵守人類任何命令的機器人,從而再現“烏托邦”神話;另一方面,他們又夢想著能創造出一個能夠獨立于創造者、完全自行學習演化的程序,使其開始自由演化,任何人都不再能掌握它的發展方向(2)尤瓦爾·赫拉利:《人類簡史:從動物到上帝》,第400頁。。然而,矛盾的是,一旦自主機器人表現自主行為時,人們便開始焦慮,甚至開始驚恐于機器人的自我意識的生成,擔憂這個超級智人成為地球新一代的主宰,最終導致“智人的終結”。

無論是從馬斯克(Elon Reeve Musk)等人簽署公開信呼吁暫停對人工智能系統的訓練,還是在“AI教父”杰弗里·辛頓(Geoffrey Hinton)離職谷歌后的發言中,都能感受到程序設計師對智能機器人“自由演化”的恐懼。目前很難說這種恐懼是普遍的還是個別的。如果將其視為普遍,則意味著設計師與人類心靈延伸的“第二自我”(the second self)存在一種愛恨交織的關系,通過感知機器人作為“第二自我”的陌生性(strangeness)而學會與之發生關系,成為與智能存在者共存的道德主體,但自我的心靈與這個人類心靈延伸的“第二自我”的關系越來越不平衡,以致無法控制自我心靈的內在緊張感,存在放棄道德主體的可能性,就像核恐慌使人無力承擔核控制的道德一樣。相反,如果恐懼是個別的,多數設計師對機器人是樂觀的,對不可控無感,享受算法設計,則人類心靈完全為“第二自我”占領,進而失去自我。

無論如何,這個“智能存在者”已走進我們的社交生活圈,成為新型“陌生人”(stranger),不僅發揮著替代性移民的作用(3)Jennifer Robertson,“Robo Sapiens Japanicus:Humanoid Robots and the Posthuman Family”,Critical Asian Studies,Vol.39,No.3,2007.,而且是“今天來明天被替代”的陌生人。還沒有擺脫如何自處以及如何與他人共處的苦惱,人類現在又面臨新的難題:如何與自己設計的這個新型“陌生人”共處?

這種共處可以抽象為人與機器人之間的新型關系,它延伸了經典的陌生人關系形式,表現為親密與距離、包容與排斥等多種緊張關系的互動性,同時又增添了類人與異己(他者化)、自我與第二自我之間的互動性,從而形成了跨文化機器人學的核心問題。

一、作為他者的機器人

無論是人類還是其他動物,都與環境有著一種直接的身體關系(bodily relation),使其與周圍的無數事物相連接,這種關系被稱為“心理地圖”(mental map)或“身體地圖”(body map)(4)Glen A.Mazis,Humans,Animals,Machines:Blurring Boundaries,Albany:State University of New York Press,2008,p.49.。同時,進化還賦予了人類一個始終依賴環境輸入的“生態邏輯型大腦”(eco-logical brain),這個大腦不僅與自然環境相關聯,也與文化環境相關聯。意識到這一點的人很自然地將人類的具身智能(embodied intelligence)歸因于兒童時期以身體為基礎、以環境為對象的互動過程,并認為,正是通過這一過程,人類的大腦得以能夠識別互動的統計性規律,從而形成模式性和學習性行為的基礎(5)Jennifer Robertson,“Robo Sapiens Japanicus:Humanoid Robots and the Posthuman Family”.。這為機器人設計提供了參考。為了獲得與人類相似的智能,機器人既需要一個“類人”的外形,又需要具備感覺運動環境相關方面的經驗(6)C.G.Prince,E.J.Mislivec,“Humanoid Theory Grounding”,Proceedings of the IEEE-RAS International Conference on Humanoid Robots,Tokyo,Japan,2001,pp.377-383.。具身智能機器人因此可以基于自身數據集,通過與環境的交互來學習,從而能夠處理更復雜多變的任務,家用服務機器人、無人駕駛車以及醫療機器人的設計都基于此邏輯。

機器人由此成為智能時代的替代性移民,設計師把TA帶入人類文化生活,在充分貼近人類需要的過程中形成人機交互的新型親密關系。設計師的唯一目的是使機器人成為人類愿意與之交流的朋友,設想TA按照人類的需求表演各種關系,如主仆關系、伴侶關系、醫患關系、朋友關系等,復雜多變的“認同”,把TA塑造成“今天來明天被替代”的陌生人。與人類可以親密到無所不知、無所不談,同時“認同”以人類“同一性”的名義把機器人生產為“他者”,用電影《人工智能》的經典臺詞來說就是“我是人類,而你是機器人”。這個作為“他者”的機器人其實就是人類的欲望與恐懼的對象化,具體來說就是“完美控制”、“完美的知”的欲望塑造了超能的機器人“他者”,而人類自我認同的焦慮與不確定性又使人機交互處于某種脆弱的安全感狀態。前一種情況使機器人成為可替代人與人交流的“他者”,或者在加速的智能交流中被替代的“他者”,有可能成為一種消解他者的“他者”,使人類失去他者,形成韓炳哲所說的“他者的否定性讓位于同者(der Gleiche)的肯定性”的狀態(7)韓炳哲:《他者的消失》,吳瓊譯,北京:中信出版社,2019年,第1頁。;后一種情況則是人類從機器人那里看見人類文化的種種后果,諸如隱私侵犯、信息繭房、算法偏見等,機器人成為被排斥的“他者”。

盡管設計師賦予機器人以人類的外形、感官能力和思維模式,期待以這種方式,能夠讓機器人獲得人類的交流能力、智慧能力與文化能力,但是,外觀或思維模式的相似并不能消除人類與機器人之間的陌生性。一方面,機器人物理上“似人又非人”的特性會讓人類對機器人產生森政弘(Mori Masahiro)所說的“恐怖谷”(Uncanny Valley)情感反應,即對于與自己高度近似的新型事物的不安全感與恐怖心理(8)Masahiro Mori(trans. by Karl F.MacDorman and Norri Kageki),“The Uncanny Valley”[From the Field],IEEE Robotics &Automation Magazine,Vol.19,No.2,2012.。另一方面,由于思維模式與人類接近,當人與人之間的移情作用發生在人與機器人之間時,諸多倫理道德問題也隨之而來。以“性機器人”為例,作為一種能夠模仿人類的性行為和情感的機器人,TA們被用于為人類提供性服務或伴侶關系。一部分人拒絕承認性機器人的道德地位(moral standing),認為把性機器人視為道德行動者可能會增加而不是減輕使用的道德問題。例如,性機器人的一個假定益處是,TA可以在不干擾他人的消極的性自主權的前提下,促進積極的性自主權,但如果機器人是道德主體,那么這個假定益處可能就會消失。因此,與人相比,在設計性機器人時,沒有對道德行為能力和責任的同等需求(9)John Danaher,Neil McArthur,eds.,Robot Sex:Social and Ethical Implications,Cambridge:The MIT Press,2017,p.65.。大衛·利維(David Levy)更是積極地想象,性愛機器人將為性欲提供一個健康的出口,讓TA根據用戶的喜好進行微調(10)David Levy,Love and Sex with Robots:The Evolution of Human-robot Relationships,New York:Harper Collins Publishers,2007,p.291.。但是,由于性機器人的模仿對象是人,因此,在某種意義上,TA的存在是在鼓勵將不同性別的伴侶視為性剝削的對象,而不是性接觸中的平等伙伴(11)Aksel B.Sterri,Brian D.Earp,“The Ethics of Sex Robots”,Carissa Véliz,ed.,The Oxford Handbook of Digital Ethics(in press),Oxford:Oxford University Press,https://www.academia.edu/42871768/The ethics of sex robots.——這種態度一旦在原本就存在偏見的性機器人用戶的心中得到強化,其結果可能是加劇性別關系的不平等。如果人類出于逃避責任的心理將機器人視為沒有感情知覺且缺乏道德地位的“他者”,那么人機互動將會導致道德主體的殘缺,難以真正找到機器人與人交流的接口。

在尋找這個接口的過程中,日本機器人設計師高橋智隆追求一種“與機器人在家一起過生活”的理念。在他看來,單純追求技術奇點的機器人是無法融入人類生活的,但他眼中的機器人依然是需要能夠充分理解人類情感且好玩的機器人(12)姜建強:《日本機器人王國的文化考察》,《書城》2022年第4期。——換言之,一個符合市場需要、融入人類情感的“他者”。無論是類型化的情感需要設定,還是個人化的情感定制與情感調適,都會強化人對機器人的單向情感需要,到頭來,人類錯把出口當接口,不過是把機器人當作自己的情感出口,進入“連接但孤獨”的狀態。

一些設計者和機器人學者把這個“外來”的機器人想象為與人類并存的文化主體,將“機器人文化”理解為“由機器人所生產的文化”(16)Belinda J.Dunstan,et al.,“Cultural Robotics:Robots as Participants and Creators of Culture”,Jeffrey T.K.V.Koh,et al.,eds.,Cultural Robotics:First International Workshop,CR 2015,Held as Part of IEEE RO-MAN 2015,Kobe,Japan,August 31,2015,Revised Selected Papers,Berlin:Springer International Publishing,2016,pp.3-13.。實際上,在機器人進入人類想象的時候,TA就已經被設計成“文化的”,這使得機器人在被想象為“文化主體”的過程中,暫時無法成為真正的“文化主體”。TA的存在反而模糊了生命與認知、生命行為與智能行為之間的概念區別,也導致機器人在與人的交往實踐中往往有助于重新鞏固現有的社會刻板印象和等級制度,而非對其進行質疑(17)Lucy A.Suchman,Human-Machine Reconfigurations:Plans and Situated Actions,Cambridge:Cambridge University Press,2007,pp.125-175.。以性別偏見為例,時至今日,工程學、計算機科學和機器人學仍然是一個由男性主導的領域,這種失衡必將造成機器學習和人工智能方面的算法偏見。不難想象,倘若在社交機器人(social robots)的設計中存在性別偏見、刻板印象或者性別歧視問題,那么這些問題對與機器人互動的女性就很有可能造成負面影響(18)Diljot Garcha,et al.,“Face to Face with a Sexist Robot:Investigating How Women React to Sexist Robot Behaviors”,International Journal of Social Robotics,Published online:30 April 2023,https://doi.org/10.1007s12369-023-01001-4.。

回過頭來看,人類正是從機器人那里看見了自己的欲望與恐懼及其所顯示的文化后果,更加明白自己需要作為人類文化意識他者的機器人,需要在與智能存在者的交流中拓展自己的交流世界,從而想象機器人作為“特定文化內的行為者”、“文化的參與者與生產者”和“潛在的機器人社區文化的一部分”(19)Belinda J.Dunstan,Jeffrey Tzu Kwan Valino Koh,“A Cognitive Model for Human Willingness to Collaborate with Robots”,Hooman Samani,ed.,Cognitive Robotics,Boca Raton:CRC Press,2016,pp.127-137.,開發其與人類共棲的潛力(20)Hooman Samani,et al.,“Cultural Robotics:The Culture of Robotics and Robotics in Culture”.。同時,也需要進一步梳理機器人與人類欲望、情感和文化之間的歷史性關系,開發機器人作為人類文化意識他者的豐富性和多樣性,以保持人類文化的反思性和對話性。

二、人的機器化與機器的人化:陌生性的雙重建構

與對反思性和對話性的追求相悖的是,作為機器人開發者的人類熱心于用“類人性”消解機器人的異己性,而機器人的擁護者也容易情緒化地把對機器人的異己性反思斥之為可笑的盧德分子(Luddite),導致盧德運動無意中所觸及的機器的異己性被忽略而一直遺留到現在,成為困擾人類的問題。如果我們認同卡普羅(Rafael Capurro)等學者的觀點,即機器人的現在與未來都取決于人類自身(21)Michael Nagenborg,et al.,“Ethical Regulations on Robotics in Europe”,AI &Society,Vol.22,No.3,2008.,那么以此為出發點與落腳點,去理解人與機器之間這種互動關系的必要性便顯現出來。從精神分析的視角來看,機器人作為不可思議的“他者”,是人類精神的創造與壓抑的結果,其動機是為了捍衛自我的一致性以及保護其脆弱的統一性和完整性的“需要”。而性愛機器人、陪伴人類的機器人、消滅人類的機器人、利維坦機器人等,都是人的內在欲望與焦慮的表現,都可融入人機關系的思想文化史。

類人機器人(humanlike robots)的前身源自古代世界的“自動機”(Automata),在人類發明機器人的過程中呈現的是“模仿欲望”(mimetic desire)。在卡普羅看來,模仿欲望導致了人類和機器人之間的“嫉妒關系”,這種嫉妒分為兩種情況:第一,人類對機器人之“所是”(what they are)的嫉妒;第二,由其他人擁有自己所沒有的機器人而引發的嫉妒。在第一種情況下,如果機器人是作為正面模型(model)被人類所嫉妒,那么這種嫉妒可能是積極的,但如果這種關系退化為競爭,嫉妒則可能是消極的(22)Rafael Capurro,“Ethics and Robotics”,Rafael Capurro,Michael Nagenborg,eds.,Ethics and Robotics,Heidelberg:Akademische Verlagsgesellschaft,2009,pp.117-123,http://www.capurro.de/ethicsandrobotics.html.。第二種情況則更應該被理解為技術的社會后果:技術既是社會穩定的關鍵,也是破壞社會秩序的潛在誘因。因為擁有技術者會對現存的等級制度構成危險,并且技術技能是可傳授的(23)S.Cuomo,Technology and Culture in Greek and Roman Antiquity,Cambridge:Cambridge University Press,2007,pp.27-36.。因此,當人類將機器人用于不同的任務時,“模仿欲望”則成為了一種與正義相關的新的嫉妒,因為在機器人的使用方面容易形成新的“鴻溝”,在這種情況下,嫉妒的對象便不再是機器人本身,而是使用/擁有TA的他者。等到人類落入不得不與機器人競爭的地步,模仿沖突也將隨之顯現,人類不僅被迫模仿機器人的所作所為,還被迫模仿機器人的“應有欲望”。

我們之所以會對機器人產生好奇、向往、嫉妒甚至恐懼等情感,之所以會將自身的欲望投射其中,很大程度上是因為,對于人類來說,機器人本身就是我們的“第二自我”。在“人-機器人”互動歷程中,人類塑造了機器人,機器人也塑造了人類。與此同時,自動機器與機器思想的發展也影響著人類的“自我理解”。一方面,在機械唯物主義的指引下,人被視為“物質的”、“身體的”與“機器的”;另一方面,基于人類欲望,機器人被賦予“身體”與“靈魂”,人類與機器人之間的邊界越來越模糊。如此一來,人類與機器人之間的關系也就不再局限于依賴關系、關聯關系、聚合關系等“類”關系范疇,在“人的機器化”與“機器的人化”這一雙向過程中,對“智能體”的存在范疇提出了挑戰。

作為主體的人與機器產生聯系的歷史可以追溯到笛卡爾(René Descartes)。他一方面指出,人體無異于一臺機器,所有機器的功能,如“食物的消化、心臟和動脈的跳動、身體部分的滋養和生長、呼吸、醒來和睡眠”都能在人類身上找到(24)René Descartes,“Treatise on Man”,Mark A.Bedau,Carol E.Cleland,eds.,The Nature of Life:Classical and Contemporary Perspectives from Philosophy and Science,Cambridge:Cambridge University Press,2010,p.20.。另一方面又認為,人與非人類動物之間又存在著本質上的區別,雖然在物質性層面,人類與非人類的動物都被認為是“機器的”,但人類由思維和身體組成,而思維才是人類所獨有的特征,人類因此有理性、語言、自由意志,而非人類的動物僅僅是部分以復雜方式組裝而成的機器(25)笛卡爾:《談談方法》,王太慶譯,北京:商務印書館,2000年,第44-46頁。。笛卡爾將動物與機器簡單地歸為同一種存在(being),而把人類放置在一個本質上與“動物”、“機器”相區別的獨特位置,人類連同其精神、“靈魂”和其獨特的物質性都被置于人工技術世界的對立面。

矛盾的是,具備物質性的人類身體同時又是自動機器的模仿對象,身體的引入讓自動機器與人之間形成了難以割裂的聯系。一方面,自動機器作為人類“第二自我”的“模仿”來自于人類“自我”的欲望,它是人類精神或“靈魂”層面的物質反映;另一方面,自動機器又不能像笛卡爾眼中的人一樣用思考的行為來證明自己的存在,并只能與非人類動物一樣,淪為人類異己的存在。在笛卡爾人類中心主義的視域下,機器被物化與工具化,動物、機器乃至自然本身,都不是一種有生命和感情的存在,它們在本質上低于人類、服務于人類。這種物化與工具化推動了人類對自然的剝奪,即通過破壞、污染、開發和轉移等方式,剝奪了自然的多樣性、完整性和平衡性(26)Glen A.Mazis,Humans,Animals,Machines:Blurring Boundaries,pp.23-39.。

從醫的法國啟蒙思想家拉·梅特里(Julien Dffray de Le Mettrie)在自然觀上繼承了笛卡爾的機械唯物論,而揚棄了他的“天賦觀”,即所謂人對真理性的認識是上帝賦予的、與生俱來的,試圖挑戰人的心靈依附于上帝而獨立于物質的身心二元論。在他看來,人體是一架會自己發動的機器,位于腦神經部位的“始基”指揮著身體的運行,而每個人的身體運動與一切生命的、動物的、自然的和機械的運動一樣,都會受到內部“機栝”作用的自動調節(27)拉·梅特里:《人是機器》,顧壽觀譯,北京:商務印書館,2009年,第62-63頁。。他以戀物般的心態把人體機器描述成“一架鐘表”——“一架巨大的、極其精細、極其巧妙的鐘表”(28)拉·梅特里:《人是機器》,第68頁。,由此把人還原到與萬物平等的地位,認為物質本身所包含的運動能力和感受性構成了動物和人的心靈,能思維的人是在物質的運動、分解和組合中,經過數不清的配合發展而成的。這在某種意義上構成了早期的交互性思維,從而把人置于與萬物互動的場景之中。

從笛卡爾開始,自拉·梅特里之后,“機器”一步步成為理解、探索和構建人類與動物身體的一種重要解釋模型(29)Kevin Liggieri,Marco Tamborini,Hrsg.,Organismus und Technik:Anthologie zu einem produktiven und problematischen Wechselverh?ltnis,Darmstadt:wbg Academic,2021,p.7.。這種解釋模型的影響是雙重的,一方面是人類自我描述的“機器化”;另一方面,機器人(automaton)在西方思想體系中也越來越被認為是對人或動物的模仿與延伸。法國發明家沃坎松(Jacques de Vaucanson)便制作過一些模仿動物和人類的自動機器,如長笛手(flute-player)、機械鼓手(mechanical drummer)和擁有消化食物與排泄功能的鴨子(30)William Clark,et al.,eds.,The Sciences in Enlightened Europe,Chicago:University of Chicago Press,1999,p.136.,作為18世紀最著名的自動機器制造者之一,他的自動機器被認為是機械工程和生物力學的杰作。更為耐人尋味的例子是,匈牙利發明家馮·坎普倫(Wolfgang von Kempelen)所制作的自動機器“土耳其人”(the Turk),具備高超的國際象棋技巧,以至于能夠擊敗真人對手,但事實上,“土耳其人”只是一個巧妙的騙局,里面藏著一個真正的國際象棋大師,他通過一系列的裝置控制著自動機。這一自動機器引起了歐洲各地的轟動,也激發了許多關于人工智能和心靈哲學的思考(31)William Clark,et al.,eds.,The Sciences in Enlightened Europe,pp.127-154.。盡管早期的技術遠不足以支持機器人模仿人類的有機功能與認知表現,但人類心靈的延伸已在啟蒙運動中悄然加速。

無論是科幻小說中的仿生機器人還是現實中的機器人制造,都深受古代世界和啟蒙時期“自動機”的影響。關于“自動機”的想象與描述所揭示的是,機器人作為人類或動物的機械復制品的“模仿”本質,它既是自然物栩栩如生的復制品,也是徘徊于生死之間的永恒身體(32)E.R.Truitt,Medieval Robots:Mechanism,Magic,Nature,and Art,Philadelphia:University of Pennsylvania Press,2015,p.9.,這一自其誕生之日起就存在的復雜特質使機器人對生/死、人/機器、自然/人造、永恒/暫時之間的界限發起挑戰。人類越是以自身為模仿對象進行“造物”,其所造之物越是接近“人”,就越是對作為“自然存在”的人本身提出質疑,證明一切自然物也有以機械形式而存在的可能,這種可能推動了人作為有形存在的量化和機械化,同時導致生命和技術之間解釋模型的沖突被逐漸激化,在人越來越被認為是一個可量化、可控制的自動機器的同時,人又始終想保持自己的自主精神。

有不少學者辯稱,信息論和控制論的出現推動了機器人從工作機器到信息處理機器的轉變,從而為機器人注入了“靈魂”,使機器成為“后現代動物”(33)Glen A.Mazis,Humans,Animals,Machines:Blurring Boundaries,p.21.。然而,與人類自我認知的悖論相伴隨的是機器人的存在悖論,因為TA們既是“身體的”又是“人造的/人工的”,既是對人的模仿、延伸卻又是非人的。這種存在悖論附著在人機交互之中,構成陌生性關系形式的內在體驗。對人的機器化的憂思與對機器的人化的不懈追求,成為一種陌生性的雙重建構。

事實上,也正是在這一時期,人類開始被認為能夠以“賽博格”(cyborg)的形式而存在。與“自動機器”恰恰相反,“賽博格”的目標是將類機器人(robotlike)的行為和動作整合到人類生物體中,使人類有更大的潛力擴展他們的社交能力和智力,從而從環境的限制中獲得更大的自由(34)James Giordano,ed.,Neurotechnology:Premises,Potential,and Problems,Boca Raton:CRC Press,2012,p.191.。NASA研究員將“機器-人類”的連結關系分為了五個不同的層次。其中最初級的Cyborg I指的是有假肢器官的人,但這種增加物并沒有改變人類的本質;而最高級的Cyborg V則代表著人機的完全融合,人的大腦與設備和媒介連接在一起,從而淘汰掉身體,人類的意識在沒有身體約束的情況下繼續發展,并進化出更大的功能、感覺和同理心。這便構成了一種“后人類”的陌生性轉移,即由于人類的身體成為一個可操縱的假體,可以通過與不同的技術相結合來安排或塑造,因此,身份認同不再需要由靈魂或理智來彰顯,而是被技術與行為所決定,陌生性轉化為對一個新問題的疑惑:人的肉體被一點點替換為機器之后,甚至連人類的“大腦”都變成機器后,這種狀態下的存在是“人”、“類人”還是“異己”的?

人類與機器之間界限的模糊不僅沒有抹去兩者之間的“陌生性”,反而導致人與機器、人與人之間的“陌生性”從關系層面轉向了更為根本性的存在層面。一方面,“陌生性”不再是指一種社會地位或角色,而成為一種主觀感受與態度,即對自己和他人的不確定性與陌生性;另一方面,“陌生性”不再是一種稀有或異常的現象,而是走向普遍,成為生活的常態——任何意義上的“賽博格”都可能給我們帶來“陌生性”。如此一來,“陌生人”與“距離”從一種社會或文化現象一步步演變為技術現象:“賽博格”沒有正常意義上的社會或群體“身份”(35)William Bogard,“Simmel in Cyberspace:Strangeness and Distance in Postmodern Communications”,Space and Culture,Vol.2,No.4-5,1999.,它在模仿陌生人的過程中成為了陌生人,又通過模仿使社會聯系變成偽造的,并導致內部與外部、自我與他者之間的界限不再分明,所有智能存在者的身份也因此不能再被視為關系性的,因為這種關系并不在交往實踐中產生,而是被技術所預設,所有“存在者”的連接都基于技術,都是為了模仿,但是,彼時已經成為“賽博格”的“存在”,還會是模仿的對象嗎?

與西美爾(Georg Simmel)的“陌生人”相反,“賽博陌生人”不是內部和外部之間的橋梁,而是傳播的技術系統,即賽博媒介本身。在此過程中,人類自身也不再是純粹的人類,而逐漸成為一種混合的生物-機械體,其直接后果是,人機關系演變成了神經(nerves)和硅(silicon)的關系(36)William Bogard,“Simmel in Cyberspace:Strangeness and Distance in Postmodern Communications”.。最終,對于我們來說,“似人的機器”與“似機器的人”都成了被預設的“陌生人”,失去客觀看待彼此的可能。

三、“人-機器人”關系的互惠性

特克爾(Sherry Turkle)的研究發現,擁有計算能力的物不僅僅是為我們做事,它們還影響著我們做人的方式、存在于世的方式和看待自身與他人的方式(37)Sherry Turkle,“A Nascent Robotics Culture:New Complicities for Companionship”,Wendell Wallach,Peter Asaro,eds.,Machine Ethics and Robot Ethics,London:Routledge,2017,Chapter 9.。人類如何在與機器人這一智能存在者的互動關系中,保持文化的連續性,既需要厘清文化對機器人的影響與“機器人文化”本身的混雜性,又需要探究機器人為文化所帶來的影響和轉變。如果以文化創作主體為標準,“機器人文化”分為人類文化范疇中的“機器人文化”和超人類文化范疇的“機器人文化”。其中,人類文化范疇中的“機器人文化”是以人為主體、與機器人和人機關系相關的精神和物質文化(38)程林:《德、日機器人文化探析及中國“第三種機器人文化”構建》,《上海師范大學學報》(哲學社會科學版)2022年第4期。。而超人類文化范疇的“機器人文化”則被認為是由“具有情感和智力的實體”同時也是獨立于人的“文化主體”的機器人所創造(39)Hooman Samani,et al.,“Cultural Robotics:The Culture of Robotics and Robotics in Culture”.。這樣看來,我們似乎可以憧憬人類文化與機器人文化的融合性生產,從而實現人類文化范疇的“機器人文化”與超人類文化范疇的“機器人文化”的互惠循環。

這要求我們通過跨文化(transculturation)的視角實現文化意義的延伸,從而突破人類中心主義的“文化”范疇,積極主動地接納而不是消極被動地接受機器人文化;同時突破以人為中心的關系建構(如人與自然、人與人、人與社會等),轉向多元互動關系的文化。由此跨文化機器人學可從三個方面展開其文化想象力。

第一,在文化差異的理解中建構互惠性關系。目前,大部分社交/文化機器人學的研究都致力于解決機器人接受的問題,跨文化路徑也因此主要被研究者用來檢驗文化差異對機器人的理解、感知和互動方面的影響(40)Velvetina Lim,et al.,“Social Robots on a Global Stage:Establishing a Role for Culture During Human-Robot Interaction”,International Journal of Social Robotics,Vol.13,No.6,2021.,同時檢視機器人在幫助人類理解、反思和改善自身文化方面的作用與潛力,從而建構互惠循環的現實基礎。一般說來,由于宗教信仰、倫理背景和對人類與“機器/人造他者”(machinery/artificial other)之間關系的理解不同,機器人文化在不同的文化社區中也呈現出差異。人們普遍相信,各種文化對機器人的差異化理解導致了差異化的設計,比如,日本機器人開發者設計機器人的目標是改變日常生活,而美國機器人研究者通常專注于軍事應用領域(41)Frederik L.Schodt,Inside the Robot Kingdom:Japan,Mechatronics,and the Coming Robotopia,Tokyo:Kodansha International Ltd.,1988,pp.16-19.;一種經常被重復的說法是,機器人在歐洲是敵人,在美國是仆人,在中國是同事,在日本是朋友(42)Thomas Ramge,Who’s Afraid of AI? Fear and Promise in the Age of Thinking Machines,New York:The Experiment,2019,p.18.。但是,差異化會導致文化的刻板印象和機器人文化的地方化。

在對日本機器人文化的反思中,人們注意到,“人-機器人”的互動關系形式依然需要依靠人類自身去構建,其前提是對人類自身文化的進一步理解與反思。在這個意義上,跨文化對話首先是一種文化內對話(intracultural dialogue),這種對話的關鍵在于質疑我們自身與自身文化,既追求揭示對話者的“神話”,即被諸多表象所掩蓋的文化本質,同時也希望因此看清我們自身的“神話”(46)R.Panikkar,Myth,Faith and Hermeneutics:Cross-cultural Studies,New York:Paulist Press,1979,p.20.,從而在對話、理解與反思的過程中,形成一種互動與互惠的交往關系。

第二,在理解人機信任關系的過程中建構互惠性關系。人的欲望、情感、文化乃至歷史記憶無疑都影響著我們對機器人的看法,雖然現階段的機器人還遠沒有科幻作品中所描述的那么復雜,更多的是被人們視為可以擴展其能力的工具,用來彌補人類的局限性。但是,將機器人視為積極的、相互依賴的隊友,即機器人工具向機器人同伴的轉變已初見端倪。這種看法的轉變增加了人機協作環境中的問題,因為人類不僅要相信機器人能夠完成自己的工作,更需要真正去“信任”機器人將為“團隊”的最佳利益行事(47)P.A.Hancock,et al.,“Can You Trust Your Robot?”,Ergonomics in Design:The Quarterly of Human Factors Applications,Vol.19,No.3,2011.。這使得“機器人的信任問題”成為一個非常實際的機器人設計問題,一方面,數據的超級控制與泄露導致機器人信任的障礙,似乎人類與機器人的互動越頻繁,就越會失去人格權;另一方面,對機器人的過度信任,也將人-機器人之間的親密關系轉化為某種操控與區隔,使人們越來越依賴這種關系,而減少對人與人的關系的期待。

對此,研究并設計機器人的科學家把人和機器看成是平等的智能體,倡導人機信任關系,并分離出三種不同的信任觀。其一是工具性信任。石黑浩(Hiroshi Ishiguro)把機器人視為一種研究人類自身的工具,認為TA可以幫助我們理解人類的認知、情感和社會行為,因此機器人應該設計成具有人類的外觀、聲音、動作和表情,以便與人類建立更自然和親密的交流和關系。他眼中的人機共生關系就是機器人可以幫助人類解決各種問題,而人類也可以從機器人中了解自己的本質和存在的意義(48)Minoru Asada,et al.,“Cognitive Developmental Robotics:A Survey”,IEEE Transactions on Autonomous Mental Development,Vol.1,No.1,2009;Minoru Asada,et al.,“Cognitive Developmental Robotics as a New Paradigm for the Design of Humanoid Robots”,Robotics and Autonomous Systems,Vol.37,No.2-3,2001.。其二是協作性信任。由羅德尼·布魯克斯(Rodney Brooks)所推廣的行為主義的機器人學方法則強調機器人與人類的協作關系,即機器人可以與人類共享任務和目標,互相溝通和協調,而不是僅僅服從或取代人類(49)Pattie Maes,Rodney A.Brooks,“Learning to Coordinate Behaviors”,AAAI,Vol.2,1990.。該方法還倡導機器人可以通過自我組織和進化來提高自己的智能,而不是僅僅依賴于人類編程或教學(50)Rodney A.Brooks,“Intelligence Without Reason”,Luc Steels,Rodney Brooks,eds.,The Artificial Life Route to Artificial Intelligence,London:Routledge,2018,pp.25-81;Rodney A.Brooks,“A Robot that Walks;Emergent Behaviors from a Carefully Evolved Network”,Neural Computation,Vol.1,No.2,1989.。這一機器人學方法的意義在于,它提供了一種更靈活、更快速、更有效的機器人設計和控制方式,能夠讓機器人更好地適應復雜多變的真實世界,并與人類形成良好的互動關系。其三是適應性信任。塞巴斯蒂安·特倫(Sebastian Thrun)注意到機器人感知的不確定性,比如機器人環境的不確定性、傳感器帶來的不確定性、驅動器帶來的不確定性、內部模型帶來的不確定性等等。他試圖幫助機器人通過概率技術來處理不確定性,從而更好地適應不確定的環境乃至復雜多變的真實世界(51)Sebastian Thrun,“Probabilistic Robotics”,Communications of the ACM,Vol.45,No.3,2002;Sebastian Thrun,et al.,Probabilistic Robotics,Cambridge:The MIT Press,2005,p.1.。

第一種信任關系建立在機器人服務或服從人類的基礎上,難以形成平等的互惠關系。比較而言,第二種信任關系通過人機協作強化了智能體之間的平等與互惠,第三種信任關系通過適應不確定的環境強化動態的互惠關系。顯然,必須回到關系視角來理解人機信任關系。當人類以“信任機器人”為前提,與之進行交互時,交互的結果將作為一種交互反饋,反過來影響人類對機器人系統的信任程度。這種信任的校準過程可能會造成人對機器人的系統性依賴,影響人機協作的有效性與人機整體交互(52)P.A.Hancock,et al.,“Can You Trust Your Robot?”.。因此,人類始終要反思人機關系的偏向性,保持互惠的可持續性。

第三,在文化互動情境中建構互惠性關系。在科克爾伯格(Mark Coeckelbergh)看來,我們對機器人等人工制品的使用就像我們對語言的使用一樣是“文化”的一部分。因此,他將機器人的意義和使用置于活動、游戲和生活形式的情境之中。一方面,技術通過特定的游戲和生活形式嵌入現有的文化語法;另一方面,技術也為所處的文化和生活形式作出了貢獻——它可以對之進行改變,但不是僅憑自身力量,而是通過在社會情境中的實踐(performed)來做到這一點(53)Mark Coeckelbergh,“The Ubuntu Robot:Towards a Relational Conceptual Framework for Intercultural Robotics”,Science and Engineering Ethics,Vol.28,No.2,2022.。如果說,薩瑪尼(Hooman Samani)等人將文化視為一種現象和結果,那么科克爾伯格則更傾向于將文化理解為在關系中發展的過程和連接不同個體的工具,他認為,文化是“行事之道”,它在行為過程中體現,并具有社會性和公共性(54)Mark Coeckelbergh,“The Ubuntu Robot:Towards a Relational Conceptual Framework for Intercultural Robotics”.。可以想象的是,當文化附著于機器人,人機交互將面臨更復雜的互動關系。

這樣一來,文化維度被引入到社交機器人學的研究中。“文化”這一概念通常被歸結為一種解釋——基于民族國家的宏觀文化,而這種定義文化的方式是存在問題的,原因有二:其一,依賴基于民族傳統和宏觀結構的文化定義,為文化機器人學制造了方法上的障礙,因為這要求將文化解釋為一套能夠編碼輸入進機器人中的規則,從而忽略了機器人文化學習的能力;其二,對民族文化的關注混淆了文化之間的細微差別和文化本身的復雜性,容易導致那些與民族文化有較大差異的邊緣群體的文化被排斥在研究視野之外,如亞文化群體、難民群體等等,從而阻礙具有文化能力的機器人的發展。這種排斥有著深遠的后果:其一,它間接地暗示,一個由于各種原因而沒有正式居留身份的人將在機器人開發者眼中自動變成“無文化”的人;其二,它對邊緣群體同化或拋棄自身歷史文化以支持普遍的文化起到了推波助瀾的作用;其三,它忽略了其他文化對民族或宏觀文化有著積極和變革性的作用(55)Mark L.Ornelas,et al.,“Redefining Culture in Cultural Robotics”,AI &Society,Published online:04 June 2022,https://doi.org/10.1007/s00146-022-01476-1.。具有文化能力的機器人的發展并不主要取決于如何給機器人編程,使其具備明確的文化知識,而是為機器人配備所需的基本能力,使其能夠隨著時間的推移適應和調整群體中的文化行為。因此,有人建議,在機器人學的研究中應當考慮社會科學和認知科學中的文化概念,以及文化的動態性,來擴大對文化的理解,以涵蓋文化的層展性,從而適應文化的發展。

文化應該被視為一種從互動中產生的層展現象(emergent phenomenon),它觀照著所有地方化、情景化的文化群體而非只服務于民族文化。因此在當前階段,真正重要的是開發引導智能體相互參與并共同創造文化的社會動力。讓機器人僅憑關于文化規則或規范的知識就能與人類進行文化互動的想法只是人類的一廂情愿,想要實現人-機器人之間的文化互動,機器人就必須成為文化生產過程的參與者。所以,重要的不是確定機器人應該具備哪些知識,而是確定機器人必須具備哪些能力才能成功參與此類交互。我們不應將“文化”理解為在學習社會標準時所遵守的行為或心理特征的集合,而是整體社會互動和動態學習的產物,它是這種交互的副產品,而不是人類的副產品。只有站在這個立場上,作為“智能存在者”的機器人才能在與人類的交互過程中和人類形成互惠性關系,幫助人類從整體上理解文化,而不是通過一個定義來限制文化,或妄圖將研究擴展到能夠同時包含所有文化的定義。這意味著有了其他“智能存在者”的存在,人類將更好地理解文化對個體的影響,差異性的文化行為將不再是“智能存在者”之間的區隔,而是與其他“智能存在者”協調行動的機會。

由此觀之,人類若想應對由可能的“文化主體”——機器人所帶來的文化挑戰,需要讓智能時代的“人-機器人”互動突破“文化適應”(acculturation)、“擴散”(diffusion)、“文化遷移或滲透”(migration or osmosis of culture)等單向傳播關系,把機器人乃至其他智能存在者所帶來的新文化現象納入其中,在文化轉換、文化嬗變、中間文化等文化過程中,完成智能時代人類文化的轉化,即通過人機互動的方式先“去文化”,然后融入到新的文化空間之中,重塑新的共同文化,克服人類存在的危機。

余論:面向自由、完整的人機關系而思

我們不得不承認,機器人正在與我們建立深厚而親密的關系,盡管TA們還不具備自主的意識、感覺或情感,但通過其強大的互動性操控了我們的交流。其中的秘訣在于,TA們掌握了作為人類文化操作系統的語言,具備超過人類平均水平的語言能力,成為文化世界和交流世界的替代性移民。跨文化機器人學(Transcultural Robotics)面向人機交互關系,揭示親密與距離、包容與排斥等多種緊張關系的互動性,以及類人與異己(他者化)、自我與第二自我之間的互動性,探尋人類在人工智能時代如何與自我相處,又如何與一切智能存在者相處。為了實現這一點,跨文化機器人研究試圖走出人類中心主義的限定,積極尋找理解“人-機器人”關系的多種可能性。

繼工業型、服務型和社交型機器人之后,機器人與人類的互動關系越來越向深度發展,這個替代性的移民不僅住進了人類社區,而且還被帶入家庭,發展為替代性的親密關系。這使得一部分人通過研究人類與機器人之間關系來探索“人類之愛”(human love)的可能性,并組合成一個新詞“Lovotics”(love+robotics)(56)Hooman Aghaebrahimi Samani,“Lovotics:Love+Robotics,Sentimental Robot with Affective Artificial Intelligence”,PhD diss.,National University of Singapore,2011;Adrian David Cheok,et al.,“Lovotics:Human-Robot Love and Sex Relationships”,P.Lin,et al.,eds.,Robot Ethics 2.0:From Autonomous Cars to Artificial Intelligence,Oxford:Oxford University Press,2017,pp.193-213.。在這一視野下,“Lovotics robot”成為一種新型機器人,TA被認為具有愛與被愛的能力,一方面,“Lovotics”對我們探索人-機器人親密關系的可能性,及其對個體與社會整體的影響具有積極意義;另一方面,“Lovotics robot”對“愛”的理解必然是有限的,表現出某種矛盾現象——有距離的愛,或是“我愛你但并不理解你”。部分科技公司則在解決跨文化交流的情景化問題方面作出了努力,比如,Alelo 公司使用虛擬角色來教用戶如何進行跨文化交流,了解哪些行為和反應符合文化的準確性。這顯示設計師越來越傾向于利用親密關系來消解親密與距離之間的緊張關系,制造人機互動的單向性需要;也顯示人類越來越愿意通過算法來理解文化行為與反應的準確性,消解包容與排斥之間的緊張關系,從而消解文化理解的多樣性與互補性。

信息繭房和文化繭房的現象表明,人類行為與文化成分的可計算性越強,人類與機器的交互就越容易被測量與操縱,其影響可能是致使研究者忽略或簡化人類行為和文化的復雜性和多樣性,反而限定對“人-機器人”關系的理解。如果只用數字或統計數據來衡量人類的情感、價值觀或信仰,我們可能會忽視其主觀性、歷史性和情境性,從而無法充分理解人與機器人的互動方式及意義,反而強化研究者對人類行為和文化的控制或操縱的傾向,帶來“人-機器人”關系的異化。

隨著人類對機器依賴程度的不斷增加,機器人是否會降低我們的心理能力和思維能力的隱憂也隨之而來。機器人是人類欲望的投射與身體的延伸,也是我們的“第二自我”。也正因如此,機器人的跨文化研究需要回答的問題不僅僅是機器人如何被理解、接受和使用,更在于我們應該如何認識在類人性的設計中的異己力量,警惕被“第二自我”操縱,維護自由、完整的人機關系。

在關系視角下,人機交互的結局理應是人與機器人的共生與共同進化。一切關于人與技術關系的討論,最終還是落到“自我”的自由與完整。從人機互動的關系視角看,人類自我的完整性建立在與一切“思考著的智能存在者”的交往實踐之中(57)單波、葉瓊:《閱讀〈在一起孤獨〉:網絡社交自我的不確定性與可能性》,《新聞大學》2019年第1期。。積極的人機互動關系的基礎在于,必須維持親密與距離、包容與排斥、類人與異己(他者化)、自我與第二自我的緊張關系,甚至保留必要的恐懼與焦慮,才能拓展人機共生的交流空間。