人機融合智能的自我意識與交互主體性

宋春艷

人機融合智能是人與機器人協同形成的群體智能，是人工智能發展的高級階段，甚至可能是保證人工智能向善發展的唯一路徑。語言是自我意識和主體性的載體，ChatGPT 的橫空出世讓人們開始思考人機之間是否產生交互主體性。這到底是一個理論問題還是一個實踐問題呢？

一、人機融合智能的含義

人機融合一直是人類的夢想，科學家為此進行了長期的努力，早期的“人因工程”就對人機融合進行了科學探索。國內自動化界學者劉偉首先明確提出“人機融合智能”這一概念，認為人機融合智能是由人、機、環境相互作用而產生的新型智能系統［1］（216）。大數據人工智能、互聯網群體智能、感知和跨媒體智能、人機混合智能、自主智能系統是目前最主要的五類人機融合智能［2］（1-2）。人機融合智能吸收了人工智能與人類智能各自的優點，在輸入端，將傳感器采集到的客觀數據與人的感知主觀信息整合，形成新的識別；在信息處理階段，將人工智能的計算能力與人的認知相結合，形成新的理解；在智能輸出端，將計算機迭代的算法與人在決策中體現的價值效應相互匹配，形成新的判斷［3］（8-9）。本文認為，人機融合智能就是人與智能機器人（包括硬件機器人和軟件機器人）通過網絡連接起來，形成一個人機優勢互補、信息交互的群體智能系統。當代人機融合智能的“機”在技術上不再局限于基于傳統信息技術的計算機，而是指由會聚技術構成的智能機器人，“環”（環境）則指網絡環境。

人機融合智能是一種群體智能已經成為共識。當前，在仿生學、人類學、認知心理學、計算機科學等交叉研究的基礎上，群體智能的外延已經從自然群體智能擴展為人工群體智能，也即從自然界簡單的動物種群、復雜的人類群體擴展為人工機器群體以及多樣的人機交互的智能群體［4］（134）。由此，人機融合智能可以粗略地分為兩類：一類是人工機器群體，人是隱性出現的，人機交互也是隱形的；另一類是人機交互的智能群體，人是顯性出現的，人機交互也直觀可見，不僅有語言交互，還有手勢交互，面部表情交互等。本文的人機融合智能主要指第二類。人機融合智能是人與智能機器人組成的群體智能，為了剖析人機融合智能的自我意識與交互主體性的關聯，需要首先厘清作為組成部分的人的自我意識與主體性的關聯、智能機器人自我意識與主體性的關聯，然后再討論作為群體的人機融合智能的自我意識與主體性的關聯。

二、人的自我意識與主體性的關聯

自我意識是主體性的前提。在西方哲學傳統里，“自我”（self/ego）與“主體”含義接近，甚至等同使用。《牛津哲學詞典》中，“主體”（subject）與“自我”（ego）具有同樣的含義。“主體性”（subjectivity）是言說者把自己建構成一個主體的能力。語言對人主體性的建構起到了不可或缺的作用，因為只有言語者用人稱代詞“我”建立起一個觀察和認識主體，自我意識和自我概念才得以建構［5］（10）。擁有自我意識，才能建構主體，因此，自我意識是主體性的前提。

自我意識是心智的重要內容。諾貝爾生理學或醫學獎獲得者埃克爾斯在《腦的進化：自我意識的創生》（Evolution of the Brain：Creation of the Self）一書中指出，自我意識是心智中最高級的精神體驗，這意味著一個個體知道他自己知道，當然最初這是一個主觀的或自省性的判斷標準。然而，通過語言交流，個體可以驗證其他人也同樣具有這樣的自知經驗［6］（218）。通過“我”的表述，主體性得以建構，因此語言不僅是自我意識的載體，也是主體性的載體。

胡塞爾認為，先驗主體間性是絕對的并且是唯一自足的本體論基礎，每個客觀事物都從那里獲得其意義和有效性。這種主體間性概念實際上是一個交互（inter）-主體性概念，即主體之間的關系［7］（118-119），而主體間世界是主體間經驗的相關項，即以“移情作用”為中介的經驗［8］（364），回答了“我怎樣才能經驗另外一個主體”的問題。胡塞爾的主體間性是一種先驗的社會性，自我構成了他者，客體被懸擱。海德格爾的觀點與此一致，主體間性則指向存在或解釋活動中的人與世界的同一性。它不是主客對立的關系，而是主體與主體之間的交往、理解關系［5］（11）。二人都把交互主體性作為一種本體論論題，交互主體性由此成為自我的原初存在方式，我原初就是作為“我們”——交互主體性——而存在，就此而言，人所體驗到的一切意義也都是交互主體性的［9］（83）。胡塞爾還將心理學中的“共情”（empathy）概念引入現象學主體間性（即交互主體性）的研究中，認為主體間性就是純粹的自我意識如何在自身意識經驗中構造出他人［10］（189）。這對機器人人工共情設計具有重要的啟發意義。

三、智能機器人被動獲得類主體地位與自我意識的懸擱

當前，智能機器人尚處于弱人工智能階段。學界主流的觀點認為，人工智能（或智能機器人）是沒有自我意識的，包括ChatGPT，所以不能成為人工道德行為體。這是否意味著機器人倫理學就無法推進了呢？考科爾伯格（Mark Coeckelbergh）另辟蹊徑提出基于經驗的人類中心倫理，認為應從關注機器人內在的意識和心智轉向關注機器人在人機互動中外在表現的倫理意義和關注并想象個人與機器人一起實現美好生活的可能性［11］（217-221）。在這一外在主義思路下，機器人倫理研究不應將焦點放在如何實現機器人的意識上，而應重點關注機器人在我們人類的意識中是如何出現的；不應爭論如何賦予機器人責任和權利，而應研究、想象和設計如何讓機器人幫助人類實現美好生活。這就使得機器人可以在自我意識“懸擱”的同時仍然能夠實現“向善”的目標，人工共情的設計是實現這一目標的重要手段。人工共情的設計初衷在于利用機器人的社交表現激發人類情感反應能力，是一種單向的人對機器人的共情。其中，作為使用者的人在交互時賦予了機器人主體地位，這是一種非對稱共情。根據“非對稱社會互動感知論”，雖然共情（empathy，原文作者譯為“移情”——引者注）主體之間感知能力不對稱，但依賴占據優勢地位的人的先驗認知能力和共情對象的行為表現，在有交互“氛圍”生成的社會環境中也可能實現共情［10］（191）。新近橫空出世的ChatGPT 雖然號稱具有驚艷的思維鏈推理能力，但邏輯推理的有效性并不能保證結論一定正確，正因為如此，使用者才會戲謔ChatGPT 是在“一本正經地胡說”。不過，ChatGPT 確實是目前最為優秀的大語言模型，它對使用者說話意圖的準確把握和無所不知的響應讓使用者誤以為其已經具備和人一樣的思維能力和自我意識，從而將Chat-GPT 看作聊天伙伴或者助手而不是冷冰冰的機器，賦予其主體地位。

當交互主體性成為自我的存在方式，人機融合成為新的人機關系，人機交互主體性的產生就成為必然。人機交互主體性的存在使得智能機器獲得類似于人的主體地位，這種主體地位是被動獲得的，是由人賦予的，因此并不必然要求智能機器人具有自我意識。智能機器人的自我意識在此時被“懸擱”，類似于胡塞爾在交互主體性中將“客體”懸擱。

四、人機融合智能的自我意識與交互主體性

1.人機融合智能自我意識的產生途徑和本質

人機融合智能是一種群體智能，人機融合智能自我意識的研究必然繞不開人機融合的路徑探討。近年來，一些學者從身體與技術的相互建構來探討人機融合的哲學基礎，“他心”作為哲學中的經典問題在人機融合智能的研究熱潮中再次受到重視。崔中良和王慧莉借助梅洛-龐蒂關于他心的經驗基礎研究，將“融合社交”作為人機交互的哲學基礎，認為感知生成是人機交互的現象基礎，經驗沉淀為人機交互提供歷時可能性，通感是實現人機交互的功能表現［12］（136）。高慧琳和鄭保章基于麥克盧漢“媒介是人的延伸”理論提出“人機融合”理念，并從人與機器的感知融合、行為融合和思維融合出發，探討了人機融合的本體性、漸進性和辯證性，并號召賦予人機融合智能設備積極的意識引導和正確的價值觀［13］（27-32）。

科學家和工程師對人機融合提出了更具實踐意義的路徑，人機融合就是將人的意向性與機器的形式化進行綜合，從而使得人機融合智能能夠像人那樣對事情發展時態及趨勢進行準確預測。其中，意向性是對內在感知的描述（心理過程、目的、期望），形式化是對外在感知的描述（物理機理、反饋）［14］（288）。如何構建人機兩者的溝通模式呢？美國軟件設計師、交互設計之父艾倫·庫伯（Alan Cooper）提出的“用戶畫像”模型頗具探索性。用戶畫像可將用戶所擁有的知識、價值、情感等模型轉化為機器可理解的計算模型。在基于對用戶理解的基礎上，機器可以進一步地改變自身的行為模式來適應人的感覺方式，使得人機交互能夠盡可能地根據使用者的需求，適應人的特點，形成最和諧的人機融合［14］（297-300）。也就是說，在人機融合中機器主動適應人，而不是人主動適應機器，盡管人們習慣性地仍將人機融合與人機交互不加區分地使用。研究表明，當類人機器人能夠對使用者產生共鳴（show empathy）和互動時，其接受度更高［15］（1）。這種機器人表現出來的情感共鳴會讓使用者產生共情反應，提升用戶體驗效果。

人機融合智能雖然可以實現人機共情，但這種群體智能的自我意識仍然是由人主導的，因為只有人的意識具有內在目的性，人的內在意識與外在世界的對象具有“適應方向”。智能機器人的意識雖然可以通過傳感器的數據表現出來，但卻不是內在的目的，而只是數據的傳輸，是外在的。因此，只有人才是人機融合智能的主體，主導著人機融合智能的自我意識和行為選擇。人機融合智能的水平，表面上是依賴數據、算法、硬件的提質升級，但最終起作用的還是認知科學和相關學科的不斷突破。人機融合智能的自我意識，本質上還是處于交互環境中的人的自我意識，這成為人機融合智能交互主體性產生的前提。

2.人機融合智能人機交互主體性的產生途徑及本質

人機融合智能中信息的交互，一般都是人機雙向或者機器與機器之間進行信息交互。這種交互除了傳統的基本文本交互和圖形交互外，還包括語音交互、體感交互，甚至腦機交互。為了達到更好的交互效果，算法常常投其所好，在社交機器人中加入人工共情功能的設計，使得機器的行為越來越像人。這就為人機交互主體性的產生提供了技術可能。

在人機融合或交互中，人的自主性、能動性和創造性在技術的幫助下得以增強，即技術建構了賽博主體性［16］（58）。賽博主體性是在人與技術雙向建構中產生的新的自主性，是人與技術的雙向馴化。一方面，技術對人的生命與生活進行全面深度干預，同時參與建構著人與世界的關系，這種技術作出適應性的改變以滿足人的需求，本質上是人對技術的“馴化”。但自工業革命以來，人對技術的依賴逐漸加深，諸如追求效率的技術邏輯深刻地滲透到人類的主體意識中，規約著人的主體實踐，人也被技術“馴化”。主體性也在雙向馴化中向外在環境（包括技術）延展。

人機融合中產生了由人主導的交互主體性，不僅因為交互主體性是自我的原初存在，也因為人機交互本質上也是一種社會交往，哈貝馬斯的社會交往理論有助于理解人機交互的主體性。哈貝馬斯把現實社會中的人際關系分為工具行為和交往行為，認為工具行為是主客體關系，而交往行為是主體間性行為［5］（11）。隨著人機交互中機器主動適應人類，以及人工共情的良好表現，人機交互已經從工具行為變成了交往行為。有學者認為，智能雜合體將人類的主體性與非人類力量的擬主體性相互嵌合、集于一身［17］（38）。這實質上就是人機融合智能的交互主體性。人機融合智能的交互主體性本質上是使用者的一種功能賦予，賦予原本作為客體的智能機器人主體地位，人機交互中產生的人機關系則體現出延展的交互主體性。

五、人機融合智能交互主體性的道德后果

人機融合智能的發展對人類主體性產生了深刻影響。一方面，智能機器人的發展使人類在很多領域具有了超越自身的能力，提高了人類的生產效率和生活質量。另一方面，人機融合智能的發展也引發了人類對自身存在（包括主體性）諸多問題的反思。盡管人機融合智能的自我意識仍然是由人主導，但是人機交互主體性可能引發各種相互纏繞、錯綜復雜的道德后果。這種道德后果可能是積極的，也可能是消極的，還可能同時帶來積極的效果和消極的后果。

1.意識經驗結構的改變與自我的損耗

自從技術誕生，人與技術就開始進行社會性融合。當前，隨著會聚技術的發展，人技融合從社會性融合進化到自然性或身體性融合。在人機融合智能中，處于認知環境的智能機器人，已經從影響人認知過程的環境要素逐漸成為新的重要的認知類主體，協助人類甚至代替人類進行選擇和決策，對人的影響已經從器物文化層面上升到觀念文化層面，深層次影響著認知主體的態度和行為。與此同時，在人機融合的大背景下，人又可能成為其他認知系統的環境要素，認知主體與環境可以相互轉化。總之，人與認知環境的邊界逐漸消除，人類意識與認知環境表現出“意識”深度融合。例如，以互聯網為代表的智能系統，一方面拓展了人的認知寬度甚至深度，增加了認知主體的可選項，但另一方面也將數以億計的人腦（及其創造的自我隧道）整合到全新的媒介環境或認知環境中，從而改變了人的意識經驗的結構。一旦有人通過互聯網或利用新媒體來爭奪認知主體有限的注意力以實現商業利益或其他目的，就可能導致自我損耗（self-depletion），自我控制的能力也隨著注意力的消耗而降低［18］（300-301）。

2.機器依賴與虛擬親密關系的建立

當前，基于互聯網組織架構的人機融合智能比較常見，互聯網的平臺效應使得人機融合智能在某些問題上實現了1+1＞2，有助于人的認知增強，并由此贏得使用者的信任。由于人機交互體驗的提升，機器人的“善解人意”可能讓使用者產生依賴，甚至與智能機器人產生親密關系。已經有心理學研究表明，ChatGPT 可以產生適當的情感意識（emotional awareness，EA）響應，并且在情感意識評估中超越一般人群，預計隨著使用時間的增加，其性能可能還會顯著提高，因此，ChatGPT 可以用于EA損傷臨床患者的認知訓練以促進患者心理健康。但這種虛擬的親密關系也可能帶來負面影響，一旦交互中的智能機器人給出虛假的信息，使用者也可能不加反思而接受［19］（1-7）。《人類簡史》的作者尤瓦爾·赫拉利（Yuval Noah Harari）因此對人類發出警告，人工智能或智能機器人無需意識就能威脅人類文明，因為人工智能雖然沒有感覺和意識，但卻能激發人類的感覺，讓人類依附于它。通過對語言的掌握，人工智能可以與人建立虛假的親密關系，并利用親密的力量來影響人類的觀點和世界觀［20］，從而對人類文明的發展產生重要影響。

3.隱私安全與遠程受控的風險加劇

人機融合技術涉及人類身體和自身智能水平的提升和替代，因而其一旦失控，將對個人的身體安全和隱私安全帶來雙重風險。人機通過信息或數據進行交互，人的身體和周圍的一切對象和活動都被數據化，智能化的數據已經作為人類的第二肉身被儲存在網絡和電腦中，個人變成了數據主體。如何保證數據主體對個人信息進行有效控制就成了數據時代保證個人隱私安全和自主性的關鍵［21］（30）。例如，腦機接口技術一方面能讓大腦中某些腦區失去意識的患者重新建立與身體的連接，但是仍然需要讓腦與身體通過有監督的訓練提高準確率，而且二者通過網絡連接保持交流，網絡攻擊或者技術上的不穩定將會給人腦造成直接傷害。隱私方面，過去使用者在互聯網上留下的痕跡可以讓他人回溯并以推斷的方式來窺視他的思想，而新興的腦機接口技術將會進一步加劇這一問題，讓人類的思想變得可讀，從而使人處于一種身心透明化的狀態。而對于具有自主性的人工機器群體，遠程失控的危害則更大，受到傷害的無辜群體人數會更多。對于這樣的危害，趙汀陽提出關鍵性措施積極應對，一是禁止研發能說“不”的機器人；二是形成全球倫理，共同維護全球正義［22］（12）。

4.人格同一性變化及責任歸屬困難

人機融合智能是一個群體智能，也是一個賽博格，因此在人機交互中智能機器人的自我意識（雖然只是功能性的）必然與人的自我意識相互作用，這就帶來了人格同一性變化的風險，而人格同一性又與責任、權利等概念緊密相關，因此不容忽視。盡管如此，對于增強型人機融合智能，尤其是腦機接口這類與人腦直接相連的人工智能，使用增強技術是否影響人格同一性呢？有研究表明，深度腦部刺激技術使用后可能帶來人格特征和行動能力的改變，由此引發不良后果，那么這樣的后果應該由誰來負責呢？人格同一性是否改變涉及個人同一性的界定標準？當代關于個人同一性標準的討論從實在論轉向了功能主義，動態的自我敘事時刻在構建個人同一性，能夠被自我所體驗、理解和認可的新意識內容都會通過意識的解釋機制整合進個人的敘事同一性之中［23］（67）。如果人機增強智能使用前后的變化都是得到使用者認可的，那么由于增強效果產生的特征就應該被納入個人同一性之中，個人必須為增強后造成的過失負責。但如果使用者不認同其由于手術改變了的性情或價值觀，那么這個主體就沒有完全的責任［24］（116）。在這種情況下，使用者可能陷入兩難，要么放棄增強（或者治療）避免人格特征或心理特征的改變，要么接受增強帶來的改變并對行為后果負責。

結論

交互主體性是人的自我的原初存在。人機融合智能使得人機交互從人主動適應機器，轉變為機器主動適應人，人機產生了交互主體性。人機的交互主體性源于人的交互主體性賦予了智能機器人類主體地位，智能機器人的自我意識被“懸擱”。機器人的倫理意義不必再依賴意識和思維，而是依據其在人機互動中的外在表現。這就是人機互動倫理的核心要義。社交機器人人工共情的設計就是這一理念的實際應用。