增強還是替代: 人工智能與人類智能關系的哲學反思

[摘 要] 人工智能哲學的核心論爭是考察人工智能與人類智能的緊張關系與有機張力。人工智能是一個比照與關聯了合成智能、計算智能與增強智能的概念，其建構目標是智能主體，底層邏輯是大數據，運行關鍵是算法。人工智能的發展形態蘊含著從弱人工智能到強人工智能或通用人工智能的可能路向，甚至不排除在未來演化出超級智能的形態。人工智能與人類智能之間存在著內在的緊張關系：人工智能或以溫和的方式實現對人類智能的模擬與增強，或以激進的方式去超越與替代人類智能。人類未來既需要認真對待與重視人工智能，也需要為其構建平等合理的倫理原則。

[關鍵詞] 意識；人工智能；人機關系;大數據；算法

[DOI編號] 10.14180/j.cnki.1004-0544.2024.07.001

[中圖分類號] B152" " " " " " " " " "[文獻標識碼] A" " " " " [文章編號] 1004-0544（2024）07-0005-10

基金項目：國家社科基金重點項目“社會風險及其治理的哲學研究”（20AZX003）。

作者簡介：潘斌（1978—），男，哲學博士，華東師范大學哲學系教授、華東師范大學社會認識論研究中心主任、教育部人文社科重點研究基地中國現代思想文化研究所研究員、教育部人文社科重點研究基地中山大學馬克思主義與中國現代化研究所兼職研究員。

生活在現時代就意味著身處不斷被智能化的社會之中：從宏觀的全球境域到微觀的日常世界，甚至內在的人類意識與自我心靈，無不被人工智能所塑造與刻畫，智能化已然成為現時代的主題話語與時代特征。與此同時，人工智能并非解決現代性危機的靈丹妙藥，對人工智能的過度詮釋與深度迷戀有陷入話語崇拜與路徑依賴的風險。人類始終面臨且必須回應人工智能與人類智能內在的緊張關系：人工智能在未來能否超越或替代人類文明？智能機器是否會有與人類道德相容的道德準則？碳基文明是否會被硅基文明所消滅？這亟待我們合理勘定人工智能的內涵與邊界，重新理解人工智能的本質與功能，并對其發展路徑重新定向。

一、義理與源流：人工智能的概念譜系

重新檢視人工智能與人類智能的緊張關系，須追溯“智能”的概念譜系與義理內涵，進而分析其功能屬性與社會效應，最終為其訂立道德規范與倫理法則。“智能哲學”（the philosophy of intelligence）是以哲學反思的立場、哲學批判的精神、哲學分析的方法和倫理關懷的旨趣對以智能為中心的問題展開的形而上學考察。它致力于探究物質與意識、身體與心靈、機器與人類、人工智能與人類智能等重要范疇之間的內在關聯，研究如何實現二者的有機互動與彼此共存。人工智能哲學是智能問題的當代形態與具體表達，根源是人類自我認識之謎與社會進化之路的曲折展開，故從思想源流上追溯和梳理人工智能的概念譜系顯得尤為必要。

中國古代典籍中有悠久而深刻的關于自動裝置、智能技術的思想，最具代表性的是《列子·湯問》所記的“偃師獻伎”。雖然這一關于人類自動化思想的早期文獻只是神話寓言、經驗理性與科學幻想的混合產物，卻蘊含著古代社會對智能化機器的積極想象與經驗探索。中文里的“智能”一詞是由“智”與“能”兩個概念組合而成的聯合詞組，“智”的詞義豐富，大致蘊含三個層面的語義內涵：一是與“知”相似，指我們就客觀世界所形成的具象化體證與經驗性確知；二是與“理”相近，指我們就對象世界的本質屬性與基本規律所形成的客觀性理解與科學性認知；三是與“道”相通，指我們所積淀內化而成的默會知識與實踐智慧。就此而言，“智”是人類所獨有的認知、理解與詮釋能力，它依主體認知的差異而被區分為不同層次與類型，知覺、知性、理性、智性、智慧等都是分屬于“智”這一總體性范疇之下的不同形態。如果說“智”偏重對主體的認知程度、理解水平與思維方式的指涉，那么“能”更強調對技藝才華、行動能力與實踐效果的關注。《說文解字》注“能”為：“能，熊屬。足似鹿。從肉呂聲，能獸堅中，故稱賢能；而強壯，稱能杰也。凡能之屬皆從能。”也就是說，“能”字早期寫作“熊”字，而熊是百獸之中堅，因此賢者被稱為“能”，強壯者被稱為“能杰”。《出師表》中諸葛亮盛贊向寵為賢能之杰：“將軍向寵，性行淑均，曉暢軍事，試用于昔日，先帝稱之曰能……悉以咨之，必能使行陣和睦，優劣得所。”早在《荀子·正名篇》中，“智”與“能”就同時出現：“所以知之在人者謂之知，知有所合謂之智。所以能之在人者謂之能，能有所合謂之能。”戰國末年《呂氏春秋·審分》中已經將“智能”作為一個詞組來使用：“不知乘物而自怙恃，奪其智能，多其教詔，而好自以。”東漢時期的王充則在《論衡·實知篇》中從認知主體的角度提出了“智能之士”的概念：“故智能之士，不學不成，不問不知”，“人才有高下，知物由學，學之乃知，不問不識”。就認知方式差異而言，從感覺、表象、記憶到知覺、知性、理性這一過程體現出智力的不同形態與發展嬗變，從技藝、才華到行動的過程是能力的不斷演進與具體實現，兩者結合而成“智能”。

在西方，“智能”概念也有著悠久的思想源流。柏拉圖雖沒有直接使用“智能”概念，但他所提出的人類所應具有的認知與理解觀念世界的理性能力大體對應于我們今天所討論的“智能”概念。這種能力被柏拉圖視為靈魂的根本屬性，并具體顯現為人所應具備的三種不同的能力：一是通過知識把握理念世界的能力；二是通過內省與思考而超越意志與欲望，進而使靈魂達到和諧與平衡的能力；三是高尚的道德能力。亞里士多德在繼承柏拉圖思想的基礎上，從理論智慧與實踐智慧的意義上來把握“理性能力”這一概念。他對人工智能的最大貢獻是創制了形式邏輯的推理系統，為日后人工智能領域中重要的符號主義運動奠定了思想基礎。作為近代哲學的偉大先驅，笛卡爾持身心二元論的觀點，認為身體與心靈是兩個不同實體——身體按照物理世界的機械原理工作，而心靈具有感知、想象、反思、情感與意愿等特性。這促使人們思考是否可以在機器上復制、模擬與移植具有類似人類心靈功能的大腦，為人工智能敞開了巨大的可能性空間，20世紀著名的“圖靈測試”與“中文屋實驗”在一定意義上都是對笛卡爾身心二元論的不同回應。從康德到黑格爾的德國古典哲學傳統分別從主體性、自我意識等視角來討論人的理性能力及其邊界問題，而真正將其帶入哲學研究中心地帶的則是心智哲學。20世紀下半葉誕生的心智哲學幾乎與當代人類智能科學同步，它不僅延續了身心二元論的討論，而且進入具身智能、人工增強、計算哲學等領域。換言之，“智能”不再是專屬于人類的理性能力，包括機器人在內的非人類主體是否可能、如何可能具備類似人類的思維與心靈成為亟待研究的重大問題。

時至今日，學界對于“什么是智能”并沒有達成一致，僅僅形成一個最廣泛最兼容的定義，即智能是完成復雜計劃的能力。而由“智能”這一概念派生出的“人工智能”概念的定義則更為紛繁復雜，其中具有代表性的定義如下：（1）在人工智能元年1956年的達特茅斯會議上，約翰·麥卡錫（John McCarthy）等會議發起者將人工智能定義為“學習或者智能的任何其他特性的每一個方面都應能被精確地加以描述，使得機器可以對其進行模擬”1。這種觀點從工具論視角將人工智能定義為解決人類任務的輔助手段，反映了早期研究的工程學思維特征。（2）安德里亞斯·卡普蘭（Andreas Kaplan）和邁克爾·海恩萊因（Michael Haenlein）將人工智能定義為“系統正確解釋外部數據，從這些數據中學習，并利用這些知識通過靈活適應實現特定目標和任務的能力”2，這是從大數據的奠基性作用來定義人工智能。（3）維基百科（Wikipedia）形成了一個相較而言被普遍認可的定義：人工智能指由人制造出來的機器所表現出來的智能，通常是指通過普通計算機程序來呈現人類智能的技術。這一定義已經具有典型的行為主義特征，即人工智能是以機器為載體的高階智能，是能隨機應變并最大程度地實現主體目標的理性中介。發展人工智能的關鍵是建構智能主體，智能主體具有與人類智能類似甚至超越人的推理、判斷、規劃、學習、交流以及使用工具、操控機械的能力等。

雖然當前流行的“人工智能”概念被不斷接受與認可，但也面臨著挑戰，質疑基本都圍繞著機器能否如同人腦一樣思維、機器是否有自我意識等問題而展開。以戴維·普爾（David Poole）等為代表的計算機專家提出用“計算智能”（computational intelligence）替代“人工智能”的主張。在他們看來，人工智能是一個模糊不清的混合性概念，這與人工智能的先驅們將目的與方法等同有關，并會導致人們將“人工的”這一限定詞等同于“模擬的、仿造的”。由此，人們必然會質疑，人工智能是“真正的”的智能嗎？例如，人們會認為，人造珍珠不是天然珍珠，而是贗品，因此也就不是真正的珍珠。而倘若我們把它理解成“合成的珍珠”，我們雖不能稱之為天然的珍珠，但它就是一個真正的珍珠3。如此一來，“合成智能”（synthetic intelligence）便是優于“人工智能”的概念。但智能研究的目的是既要理解自然本性，也要理解人工（或合成）的本質，因此用“計算智能”這一概念更為合理——推理即是計算，目的是尋找特定的方法（算法）來完成任務4。計算智能的核心在于智能主體，盡管人類被認為是已知的最智能化的主體，但比人類更加智能的主體的生成依然是可能的。因此，近年來計算社會的興起也是對人工智能研究的回應與延展。

二、內涵與邊界：人工智能的理論共識

為了更準確地回答“人工智能是什么”并清晰地呈現這一問題圖景，兩位當代著名的人工智能研究專家羅素（Russell）與諾維格（Norvig）在其里程碑式著作《人工智能：現代方法》（Artificial Intelligence： A Modern Approach）中運用結構主義方法重新梳理了人工智能的問題層次。人工智能問題的實質是我們所要致力于達到什么樣的目標。對于這一目標，可以按照兩個不同的維度進行劃界：一個維度以人的行為為中心，這依賴于常識與經驗而且具有不可靠性；另一個維度以嚴謹的理性計算為中心，從而使精確性大為提升。在這兩個維度的基礎上按照思考與行動進行區分，則可以細分出四個不同的領域——像人一樣理性地去思考、像人一樣理性地去行動、和人一樣理性地去思考、和人一樣理性地去行動，這四個領域分別代表了人工智能所具備的不同能力5。羅素與諾維格的這一區分直接推動了對人工智能的新理解，雖然關于人工智能依然紛爭未定，但至少形成了如下共識。

第一，人工智能的建構目標是“智能體”（intelligent agent）。著名人工智能專家馬文·明斯基（Marvin Minsky）首次提出“智能體”這一概念，他認為：傳統的計算系統具有封閉性的缺陷，無法應對社會機制的開放性與復雜性；如果將社會行為等概念引入計算系統中，就可以構建一個計算社會，這個計算社會需要的是具有自治性、反應性、主動性、社會性與進化性的智能體。邁克爾·伍爾德里奇（Michael Wooldridge）強調，社會性是智能體最重要的特征。就弱定義層面而言，智能體是具有自主性、社會性、反應性和能動性等特征的社會機體；就強定義層面而言，智能體不僅兼具弱定義特性，而且有靈活的移動性、高效的溝通力與成熟的理性化等特征。智能體既是包括機器人在內的硬件，也是包括系統在內的軟件。它不僅能精確運算與處理任務，還能積極調適與應對突發情形，并能自我學習與不斷進化。未來的人工智能不僅具有機器計算的長處，也將模仿與追趕人類智能的優點，因此將變得非常強大，這一典型的主體增強思路契合了人類智能發展的內在需求與目標旨趣。

第二，人工智能的底層邏輯是大數據（big data）。人工智能在其數十年的發展歷程中先后遭遇過二次低谷，其在21世紀以來的崛起離不開大數據的驅動。那么，如何理解大數據？“大數據是指無法在一定時間范圍內用常規軟件工具進行捕捉、管理和處理的數據集合，是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。”1大數據的出現與計算機技術革命密切相關，并進一步推動了數據采集、存儲、分析與處理方面的變革。《大數據時代：生活、工作與思維的大變革》的作者舍恩伯格認為大數據有五個典型特征——Volume（大量）、Velocity（高速）、Variety（多樣）、Value（低價值密度）、Veracity（真實性）。數據量的指數級增長為人工智能提供了基礎支撐。傳統人工智能受數據與算法制約，只能從事單一領域中簡單化的對象任務，大數據則驅動人工智能進入機器學習與深度理解的階段，這可能是從弱人工智能走向強人工智能的突破口。大數據發展的極致是數據主義：一切都可歸結為數據收集與處理，全人類可被看作單一的數據處理系統，而每一個人都只是其中一個處理小數據的芯片而已；所有的生物都是算法，生命的運轉意味著進行數據處理。由此，數據主義發出一個極具震撼性與啟發性的預言：智能將與意識脫鉤，無意識的算法將完全勝過有意識的人類智能。

第三，人工智能的運行關鍵是算法。僅有大數據與高性能計算機還不足以支撐起人工智能革命，“算法”（algorithm）是整個計算系統有序運行的組織者與指揮官。一流的算法能將海量的大數據資源與可用的算力資源整合起來，從而實現價值最大化。關于算法的定義較多，比如“算法是在有限的時間內一步步完成某個任務的過程”2，“算法是一種有限、確定、有效的并適合用計算機程序來實現的解決問題的方法”3。英國人工智能委員會將算法定義為：“用計算機時執行計算或解決問題的一系列指令，它們構成了計算機可以執行的所有事情的基礎，因此是所有人工智能系統的基本方面。”4諸種定義的共同特征在于，算法是實現任務的程序、步驟、指令與方法的集合。一流的算法應該具備三個基本特征：其一，能在有限的時間內完成亟待解決的任務；其二，具有相對的透明性與公開性，以此保證算法公平；其三，具有高度集成性，綜合運用多種程序、技術與方法來有效實現任務。人類雖然為了優化算法、提升算力而積極發明與不斷創新，卻并不能平等地占有、公平地使用算法資源。當擁有算法資源意味著掌握數字壟斷的特權時，以算法為核心的各種資源便成了“智能財產”，它將是未來世界財富的新形式。算法資源所有權的差異會導致不同主體在認識、占有與分享人工智能紅利方面的不平等，引發算法歧視、算法黑箱、算法壟斷和算法鴻溝等風險，由此制造出一個新的貧困現象即“數字貧困”，并在此基礎上產生一個新的貧困階層即“數字窮人”。

除此之外，在人工智能的立法建設、倫理審查以及社會協同方面亟待新的理解與詮釋。現階段全球人工智能發展面臨著二元悖論：一方面，我們必須認可與理解人工智能所取得的成就與未來發展的趨勢，并積極參與和推進人工智能的拓展與深化；另一方面，我們對人工智能的風險后果深感憂慮或恐懼，最具沖擊性的言論是在未來“硅基生命”將取代“碳基生命”、人類未來將可能成為機器人的寵物、未來世界將步入后人類時代……諸種對人工智能的過度詮釋與無邊想象都源于我們對人工智能與人類智能之間的關系認識不清，因此有必要重新理解二者之間的內在緊張關系。

三、模擬與增強：溫和的超越路徑

“溫和的超越論”認為：人工智能本質上是對人類智能的模擬，在一定領域中機器能像人類一樣去思考和行動，還能比人類做得更好；但人工智能僅僅是對人類智能的部分增強與有限延展，其造就的“人工增強”“延展心靈”等在總體上無法超越人類智能，更不可能替代人類智能；即使未來人工智能的發展加速迭代，人工智能還是人類智能的產物與工具。這是當前的主流立場與論調，亦是多數人所樂見的理想結果，體現出了人類理智對技術文明的控制欲望與規訓邏輯。

智能機器能否具有類似人類的自我意識與思維形式，這是人工智能能否超越人類智能的關鍵。如果說人工智能是一個由人所建構與制造的智能化機器系統，那么機器有意識嗎？這一問題實際上分為三個層次：什么是意識？能否將意識裝入機器之中？如能裝入，又該如何證實呢？具體而言：（1）何謂意識？我們在直觀、感覺、知覺等活動中所把握到的意識經驗并不等于意識本身，但它是意識呈現的基礎，且我們無法用自己體驗到的意識來類推他人的意識。查爾莫斯（David J. Chalmers）指出：“意識經驗既是我們世界中的最熟稔之物，同時也是我們世界中的最神秘之事。沒有什么事物比起意識來我們知道得更為直接，但是，我們對于意識如何與我們所知道的各種事物相協調的了解還知之甚少。”1功能主義認為，只要機器能完成類似于人的行動，就可以說機器具備意識。（2）向機器裝載意識具有可行性。聯結主義認為，隨著神經網絡的發展與計算技術的突破，我們完全可以構造出一個自我模擬、自主學習的機器，這種機器就像一個具有自我意識的系統，以至于我們可以用這樣的系統來定義所謂的“自我意識”。早在2003年，機器深度學習之父于爾根·施米德休（Jürgen Schmidhuber）就設計出了一種被稱為“哥德爾機”（G?del machine）的裝置，它能獨立完成自我計算與思維學習任務。此后，具備人工智能的信息載體不斷涌現。（3）機器有意識具有可證實性。“行為主義”聲稱證明機器是否具有人類意識并不需要具有人腦這樣的生物實體，只要機器能完成類似“圖靈測試”的任務我們就可以說機器具有意識，而隨著神經科學等新興技術的發展，這一設想有可能得到實現。AlphaGo的優異表現證明，機器不僅能像人類一樣理性地思考和行動，而且能在某些關鍵時刻表現出超越人類理智的某個特性。

即便“圖靈測試”證明了機器具有類似于人類思維的可能性，但機器思維是否等同于人類思維呢？“圖靈測試”之后，塞爾提出了著名的“中文屋實驗”以批判強人工智能的觀點——只要程序設計足夠精巧，機器就具有人類思維的能力。這個實驗的基本構想是：一個不懂中文的人被關在一個封閉起來只留有一個小窗口的屋子中，里面有很多中文符號和一個用來回答中文問題的計算機程序，系統輸入的是問題形式的中文符號，系統輸出的是回答這些問題的中文符號；我們可以假定程序很完美，以至于所給出的答案與以中文為母語的人所給出的沒有什么區別，所以，盡管他不理解中文的字詞含義，但他借助于特定的程序卻能準確地理解和表達出中文，甚至有人會誤以為中文就是他的母語1。包括電腦在內的人工智能亦是如此，盡管它不能真正地理解所接收到的信息的含義，卻能準確地識別并傳達出去。塞爾試圖通過這一實驗證明，人類心智的產生建立在以大腦為載體的心腦活動之上，任何其他主體要想獲得類似于人類的心智，必須具備與人類大腦相同的因果力，“程序本身不能夠構成心靈，程序的形式句法本身不能確保心智內容的出現”2。

“中文屋實驗”及其哲學論爭給人工智能研究帶來的重要思考是，人工智能對人類智能的追趕與模擬存在著內在局限：（1）局部超越而總體不及。對象世界的復雜性遠超過主體思維的多變性，主體認知的有限性決定了我們不可能覆蓋認識活動的全部領域。人工智能不僅在人類智能所停滯或缺席的領域大獲成功，亦能在人類智能所熟悉的領域模仿甚至超過人類，但這并不意味著它就實現了全面超越。相反，人工智能是一門拓展與延伸人類智能的理論與技術，其目的是利用科學技術創造出“類人腦”的智能系統，其成就只是人類智能延展的結果。它是以人類智能為標準，由人類所構造的機器系統。它被用來表征人類智能的部分特質或功能。沒有人類智能就沒有人工智能，人工智能在一定程度上是人類智能的物化與外顯。（2）外在超越而內在不及。雖然在機器人能夠勝任的工作崗位上，人類面臨被淘汰與替代的危機，但人工智能也新增了多種多樣的新工作與新崗位。迄今為止人工智能表現優異的領域基本都是科技變革已經取得突破進展的領域，而科技變革的發生遵循著從外入內、由表及里的漸進過程，尚未發生技術裂變的領域恰恰證明變革的條件與時機尚未成熟，人工智能在這些領域的失語或缺席顯示了當前人工智能研究的滯后與缺陷。（3）數量超越而質量不足。與人腦相比，人工智能勝在大數據資源、算法創新與算力提升這三個核心要素的變革之上。它能在有限時間內對所獲取的海量數據進行快速計算與分析，從而得出最優化結果。這一成就建立在海量資源、先進算法與超級算力的前置條件之上，而對智能運算的綜合成本、社會發展的總體效益與文化價值的養成觀照卻成效甚微。人工智能雖隨著自身調整、適應與增強而不斷進化，但又面臨數據資源稀缺、“算法黑箱”與社會環境不確定性的多重挑戰。

四、超越與替代：激進的智能革命

1972年，美國數學家維克多·薩尼標卡等在《哥德爾以來數學中的結構和進化》一文中作出警示預言：“到1984年，世界也許整個銀河系都要被那些能自我繁殖、自我改造、根本毀壞不了的、無限進化到更高智能形式的計算機所統治和控制。將來人也許要這樣被迫服從于超機器，或許人將成為計算機思想家的玩物或害蟲……成為它們低級發展形式的回憶，保存在將來的動物園里。”3令人驚喜的是，直到今天都還未出現機器替代人類的局面，但這一境況并不意味著人類就可以高枕無憂，或機器永遠都處于人類智能的規訓之下。人工智能專家不斷進行風險預警：“未來的世界，人類和機器將難分彼此，人類將不再是萬物之靈。電腦將比人腦有高一萬倍的智能。量子計算將引爆技術未來。機器不僅擁有智能，而且擁有心靈，將具有人類的意識、情緒和欲望。”4甚至有人預言，人機結合將使得人類壽命得到極大延長，虛擬現實可能會使人與機器之間相互“戀愛”，人類未來就是由人機結合而誕生的新人類或者新物種。

機器能否超越甚至替代人類，這一關乎人類生死存亡的課題要求我們重新審視人工智能與人類智能的緊張關系。圍繞人工智能所產生的分歧與爭議焦點在于：人工智能能否超越甚至替代人類智能？從模擬到增強的溫和路線只是技術創新發展的可能路徑，難以激發人類對機器的過度憂慮與末日警示。但人工智能之所以能成為理論熱點與社會焦點，就在于它已不再受限于簡單的機器思維，其功能演進不會僅僅停留于模擬與增強這一階段，未來人工智能的發展節奏將是從量變到質變、從進化到突變，可能帶來足以顛覆人類文明的風險，用人工智能來重勘人類文明與重構世界歷史或許不再是神話。在此意義上我們需要追溯與勾畫人工智能的發展進程，從其演進歷程窺見人機關系的內在緊張。人工智能的發展大體可被劃分為三個階段：第一階段是弱人工智能，即機器像人類一樣去思考與行動，這主要集中于肢體模仿、圖像識別、聲音處理、智能運算等，其終端產品表現為工業機器人、智能手機、翻譯系統等。弱人工智能對人類智能來說處于局部模仿和有限增強的階段，雖然能彌補與延展諸多人類智能所不及、所不能的領域，但終究還是在人類可理解與控制的范圍內通過模擬人類智能來作出與人類智能相似反應的類智能系統。第二階段是強人工智能，即機器和人類一樣去思考與行動，這主要集中于心理感受、思維活動、決策判斷、行動選擇等，其終端產品表現為高級機器人、無人駕駛、深度學習等智能化系統。

值得注意的是，在人類對強人工智能表示警惕之際，通用人工智能（artificial general intelligence，AGI）被視為人類研發智能技術的理想目標與終極形態。AGI與強人工智能的本質區別在于：AGI具有高效的學習和泛化能力，能夠自主地根據環境產生并完成任務，并具備與人類相似的感知、認知、決策等能力；強人工智能則專注于特定領域，在特定領域具有極高的自主性與超強的能力，能勝任人類的工作甚至超越人類，但缺乏跨領域的適應性。AGI具有高度的靈活性與適應性，具備自我學習、自我決策能力，能應對多重場景與執行多模態任務，是具有多維功能與屬性的綜合智能體。例如，多模態大模型就是面向AGI的有效嘗試，不排除未來可能出現在全時空、全模態運行的綜合智能體，但是這與人類所憂慮和警惕的超級智能就非常接近，難以分辨。強人工智能已走出對人類智能的模擬、摹寫與仿生的初級階段，進化到具有和人類智能同等功能的層次。換言之，人類智能所能完成的任務，人工智能大體也能完成。與人類智能相比，強人工智能雖然在本質與結構上存在差異，但在功能運用與目的實現上卻毫不遜色與落后，甚至在某些方面因為做得比人類智能更好而可以替代人類智能，例如深海探測、危險救援、無人駕駛、智能運算等方面。

強人工智能是否會替代或取消人類智能？有學者提出，強人工智能雖能和人類一樣思考和行動，但不過是與人類智能各司其職、各負其責，強人工智能并沒有取代人類智能甚至消滅人類物種的企圖，兩者之間并行不悖而互競共生。但這很可能只是人類的一種樂觀主義的想象，人工智能技術的發展并非完全遵循這種理想主義路徑，強人工智能的技術迭代可能催生人工智能的第三階段，即“超人工智能”或者說“超級智能”（super intelligence）。超級智能旨在突破傳統的弱人工智能與強人工智能二分范式，超越人類自身的認知模式、理解層次與發展限度。它不僅具有人類思維的抽象性、復雜性與進化性，而且具備人類既匱乏又急需的超級思維。雖說目前在一般智能方面機器尚不足以威脅人類，但未來可能出現的超人工智能將在幾乎所有領域遠遠超過人類的認知能力。人類雖然就如何認識與定義超級智能尚無統一認知，但至少達成了如下共識：超級智能是在幾乎所有的普遍認知領域都遠遠超越目前人類頭腦的智能；超級智能爆發的時間和速度相當復雜，既可能是緩慢的、溫和的，也可能是激烈的1，奇點時刻不是人類所能預測或控制的；超級智能對人類未來構成重大風險與威脅，人類的優勢在于現在就可以提前行動與防范風險，但如何行動以及這種行動是否有效卻備受質疑。

超級智能只是人類對于人工智能未來風險的大膽想象與文明憂思，因此人們難以具體規定超級智能的形式與功能，這也正是其可怕與危險之處。但波斯特洛姆還是為我們預測了超級智能的可能形態：從形式上而言，超級智能大體可分為三種類型——高速超級智能、集體超級智能與素質超級智能。簡言之，“高速超級智能是指和人腦相似，但速度快于人腦的智能。該系統可以完成人類智能可以完成的所有事，但是速度快很多。超級智能的另一種形式是：一種通過整合大量小型智能、實現卓越性能的系統。該系統由數目龐大的小型智能組成，在很多一般領域的整體性能都大大超過所有現有的認知系統。……超級智能的第三種形式是素質超級智能，這是一個至少和人類大腦一樣快，并且聰明程度與人類相比有巨大的質的超越的系統”1。就起源與傳承而言，三種形式的超級智能都以人類智能為知識基礎，歷經模仿與增強、學習與改造、進化與突變之后而生成。必須指出的是，超級智能不會提前來臨或無故突襲，因為倘若人類智能尚未能發展到足夠的成熟程度與完備階段，真正意義上的超級智能是不可能出現的。

人類對超級智能的時代憂思本質上是對素樸的人類中心主義直覺的捍衛。作為人類創造物的人工智能是否會危及、超越甚至替代人類文明自身，超級智能是否會終結人類智能，如何處理兩者之間的內在緊張，這些問題存在著三種可能路徑：（1）零和博弈的存亡之爭。地球資源的稀缺性、技術創新的加速度與未來世界的不確定性激化了超級智能與人類智能的二元沖突，競爭性博弈導致二者之間陷入零和游戲的存亡之爭。相較于具有快速進化與深度學習能力的超級智能，人類智能面臨著重大挑戰，而在智能競賽中敗落可能使人類文明消亡。通過深度學習而得到進化演變的人工智能具有高度的靈活性與策略性， “當人工智能較弱時，它會表現得非常合作（當它變得更加聰明時，會更加合作）。當人工智能變得足夠強大時，它會在不給出預警也不作出挑釁的情況下，進行逆襲，建成單一體，并開始按照其最終價值觀直接對世界進行改造”2。如果超級智能超越并最終替代了人類智能，那么人類文明也將陷入至暗時刻。霍金在多個場合提出，人工智能要么是人類歷史上最好的事物，要么就是最糟糕和毀滅性的，如果不停止對人工智能的研究與應用，人類最終會被人工智能所取代。（2）兩敗俱傷的生存困局。超級智能與人類智能的地位之爭實質是對人類文明走向何處的終極思考，即人類能否最終控制與規訓這一人類自己所發明與創造的產物。如果彼此無法克服與超越對方，但又無法和解共生，那么人類智能與超級智能的持久斗爭終將導致兩敗俱傷的生存困局，而這既將從根本上妨害人類對人工智能的認知理解與實踐應用，也無助于人類文明的自我發展與進步創新。（3）美美與共的和諧共生。人類智能發明創造人工智能，發起弱人工智能、強人工智能甚或超級智能的智能革命，目的在于填補與克服人類認知的空白與缺陷，擴展與深化人類理性的領域與深度，最終使人類過上美好生活。人工智能不應否定、取消或替代人類智能，而應成為推進人類智能進步的動力來源與創新路徑。同樣，人類智能也不能無視人工智能的迅猛發展與變革效應，而應承認其應有的主體性身份，尊重其合理的權利。平等互信的雙邊關系應是：二者既各行其道又互競共逐，既各司其職又雙贏共生。在2017年第四屆國際互聯網大會（烏鎮）上，馬云曾這樣定義人機關系：“過去30年，我們把人變成了機器，未來30年，我們將把機器變成人，但最終應該讓機器更像機器，人更像人。”3

五、重思人機關系的倫理框架

人工智能所激發的技術恐懼、倫理反思與哲學批判，既揭示出人工智能是具有形而上學意義的“哲學事件”，也又一次宣告了“哲學危機”，即在強人工智能不斷逼近的時代，哲學如何進行立場定位與價值審視。在技術化、加速化與智能化的時代浪潮中，哲學不能成為短視的缺席者或沉默的在場者，而是應該勇敢直視并主動參與，合理闡釋人工智能的功能與意義，深度反思人工智能所產生的技術風險與道德隱憂。對此，阿薩羅主張構建負責任的機器人倫理學，確保人類與機器之間不進行相互排斥的生存之爭游戲，它至少包含三個方面內容：“首先，機器人內置的倫理系統……其次，設計與使用機器人的倫理……再次，人類如何對待機器人的倫理。”1研發與運用人工智能既是對信息技術的迭代升級，也涉及人類思維的轉型突破與倫理規范的深刻審度。人類文明的當前要務是在人工智能誕生之始就為其設置合乎倫理的程序法則，把人類道德與倫理規范嵌入智能機器的算法系統中，以使智能運算恪守指定的道德律令，盡可能使智能機器向人類價值看齊。若智能機器自行違規則啟動停機模式，若其攻擊或傷害人類則觸發預置的自毀程序，但這一倫理設計不僅異常復雜且面臨道德選擇的難題。

早期人機倫理最著名的闡釋是阿西莫夫在科幻小說《我，機器人》中所提出的機器人三定律：“第一定律：機器人不得傷害人類個體，或者目睹人類個體遭受危險而袖手不管；第二定律：機器人必須服從人給予它的命令，當該命令與第一定律相沖突時除外；第三定律：機器人在不違反第一、二定律的情況下要盡可能保護自己的生存。”2此外，他又增加了作為三大定律之根的第零定律——機器人必須保護人類整體利益不受傷害。第零定律的執行順序排在三大定律之前，這四條定律整體呈現出一個詞典式的優先順序。這些定律表面上看是為智能機器人制定的倫理規則，要求機器人首要地為人類利益服務，同時賦予機器人以道德主體的資格與權利，但它面臨著重大的設計漏洞：一是內容寬泛、語義抽象且邊界模糊，“整體利益”“傷害”“服從”等都是高度情境化的表達，人類智能對此尚且無法形成普遍化的認知模式，而機器編碼中如果沒有明確指令時，機器人就會按照自身意愿行事；二是該定律整體上要求智能機器為人類利益服務甚至作出犧牲，但這是基于義務論立場而作出的軟性約束，機器可以不執行甚至反過來犧牲人類利益。

圍繞這一困境，諸多學者對這套定律進行了矯正與補充，典型的是羅杰·克拉克提出的修正定律。他設置了優先于其他一切定律的元定律，即機器人可以什么也不做，除非它的行動符合機器人學定律。隨后是第四定律，即機器人必須履行內置程序所賦予的責任，除非這與其他高階的定律沖突。為了避免機器人模仿人類繁衍，他還特制定了繁殖定律，即機器人不得參與機器人的設計和制造，除非新的機器人的行動服從機器人學定律。由七大定律構筑的閉環系統看似嚴整無缺，但完美的理論構想與復雜的現實情境之間存在嚴重斷裂，機器人實際上會陷入選擇困境：如果它不能隨機應變作出最優選擇，便會始終停滯在模仿與增強階段，所謂的通用人工智能或超人工智能就是子虛烏有；如果它能替代人類在復雜環境下作出最優的應急反應，那人類便會喜憂參半——喜的是機器可以在人類認知受限的情況下替代人類作出最優選擇，憂的是能否讓機器替代人類而作出關乎人類命運的重大決策。如果智能機器強行為人類當家作主，那么素來為人類所尊崇的自我意識、獨立人格與主體精神就會面臨瓦解與湮滅。

圍繞著人工智能與人類智能孰高孰低、孰優孰劣的論爭，既是對智能技術如何形塑與影響人類未來的認知探索，更是對“未來人類”與“人類未來”的概念重構與內涵擴展。部分學者認為，人工智能會重新定義人類概念，電子人、生化人、數字人、合成人或超級智人將成為未來的新人類，它使得人與機器的邊界日趨模糊并增強人類的生存優勢，是在人機交互的基礎上構建的新生命形態。麥克斯·泰格馬克（Max Tegmark）提出了生命3.0構想并得到了霍金、馬斯克、赫拉利等人的積極響應。所謂的生命1.0指生命從硬件到軟件都由DNA所決定，自身幾乎無法改變，除非依靠極其緩慢的進化，這是生物階段的生命。到了生命2.0階段，人類可以學習復雜的新技能與掌握工具，對生產方式、社會交往與語言形態等進行有限設計與相對改進，進而形成一定的世界觀與價值觀，這可被稱為文化階段的生命。“生命3.0現在地球上尚不存在，它不僅能最大限度地重新設計自己的軟件，還能重新設計自己的硬件，而不用等著許多世代的緩慢進化。”①與前兩階段不同，生命3.0是科技階段，這是人類智能通過發展人工智能而對人類自身所實現的“最大化進化”。

本質而言，人工智能是由人類智能所孕育與創生而成，其出現不僅是激發人類重新觀察與思考世界的認識論革命，也是對包括人在內的世界本身的變革。人工智能時代的來臨不是我們可以拒絕或挑選的選項，而是必然要投身其中的時代境遇。即使沒有人工智能，人類智能依然會自我發展并生成其他形態的重大風險與挑戰。解決人機沖突的根本出路是要跳出二元對立、零和博弈的獨斷論，只有二者的有機共生與和諧共進才是文明的發展之道。人類文明的當務之急是構建以人為本的負責任的人工智能倫理框架，這是處理人工智能與人類智能的基本原則，基于這一倫理原則所研發與應用的智能機器不僅將極大地提升與完善人類的生存能力與存在形態，而且將獲得被人類承認與尊重的資格與權利，成為人類文明的新要素與新力量。

責任編輯" "羅雨澤