“物理-邏輯性”與“生物-文化性”之間：人工智能技術的文化邊界

陳 鵬

一、極限技術：技術本身成為絕對主體

數學家用奇點(Singularity)來表示趨近無限的數值變化，比如任何一個自然數除以一個越來越接近于零的數，其結果將“激增”(比如指數式增長)而趨近于無限大。在天體物理學中，如果一個大質量恒星經歷超新星爆炸會最終變成體積接近于零、密度無窮大的點，這就是“奇點”，即黑洞。這個奇點是一個體積無限小、密度無限大、引力無限大、時空曲率無限高、熱量無限高的“點”，一切已知物理定律均在這個點失效。因此，奇點概念可以理解成趨近無限或無限制的一種極致變化或極致狀態，它標志著終極變化的極限點或臨界點。

一些學者提出了人工智能技術發展的奇點理論。人工智能專家庫茲韋爾(Ray Kurzweil)認為：超級人工智能技術正以加速的方式發展，到未來某一個時候會以指數的方式爆炸式地增長，技術變革的速度將不再受限于人類智能的增長速度，這時人工智能將大大超越人類智能，機器人也將成為人類“進化的繼承者”和“思想的繼承者”。這種人工智能將超越并接管人類智能，使更高級的智能在宇宙產生，并將這種智能由地球推廣至整個宇宙。①[美]庫茲韋爾：《奇點臨近》，李慶誠等譯，機械工業出版社2011年版，第11-15頁。“奇點”不僅是指機器智能全面超越人類智能的那一刻，更是一種智能開始高速無限制增長的那一刻。英國數學家谷德(L.J.Good)用“智能爆炸”來描述這一過程：

一個超級智能機器可以設計比它更好的機器，然后就會誘發產生“智能爆炸”，屆時人類的智能將會被遠遠落下，第一個超級智能機器，將是人類需要做出的最后一個發明。②[英]卡魯姆·蔡斯(Calum Chance)：《人工智能革命》，張堯然譯，機械工業出版社2018年版，第115頁。

這確實是技術發展的奇點狀態或無限制狀態。這個無限制可以從兩方面來理解：一是它自身的發展擺脫了人類的限制；二是自身的發展是獲得了自身優化的機制，它成為一切技術的技術。

技術是人類用來完成某種實踐、實現某種目的的工具或手段，一個“技術-產品”具有自身的結構和功能，但它終究是由人設計、制造并加以運用的，技術的屬人性是技術的本質之一。對于人類來說，雖然技術的異化總在以某種方式某種程度存在著，但是，無論如何，技術本身沒有主體性，技術“是什么”“做什么”完全由人類來決定。可是，當超級人工智能技術出現以后，此種技術超越了自身的工具性，其自身具備了某種系統的智能的主體性。對于人類來說，這可能是技術發展的終極異化。

在這個意義上，此種技術不再是一種簡單的技術，而是智能主體自身，這樣的技術真正成為一種“極限技術”或“臨界技術”。從技術上說，它成為一切技術的技術，即它能設計、制造出任何技術；從主體上說，它具有了自我認知、自我優化、自我設計的主體性機制。以前是“人類智能-制造-技術”，現在是“超級技術-制造-技術”，技術本身超越人類智能而成為智能主體。

如果把視野再放寬一些，此種“主體再造”的極限技術可以包括三種類型：生物技術(生物過程的干預技術，如克隆人、基因編輯、遺傳工程等)、人工智能技術(高級智能計算機技術)和人機合成技術(生物技術與計算機技術的某種結合)。人機合成技術可能有更大的空間，諸如生物定制、意識永生、記憶編輯、超級大腦、各種意義上的賽博人等等。這三類技術都威脅到自然人類的生命文化進程，都觸及人類文化的終極邊界。本文主要聚焦超級人工智能技術所觸及的文化邊界問題，它的問題實質是人造智能機器成為絕對主體，從而可能引發對生物性“生命-文化”的徹底消解，而超級生物技術所引發的則是生物性自然演化的常態秩序被打亂。無論如何，這樣一類技術所涉及的邊界問題已不再是一般的法律邊界、倫理邊界、應用邊界問題，而是已涉及自然人類如何可持續生存的終極問題。此類極限技術的出現逼使我們必須重新思考技術的本質、人性的本質以及技術的文化邊界問題。

二、人工智能的根本風險：“物理-邏輯性”對“生物-文化性”的消解

本文所討論的不是一般意義上的通用人工智能，也不是從技術上討論人工智能技術奇點的可能性問題，而是分析其奇點狀態所可能引致的文化風險。本文有兩個方面的設定：一是在人工智能技術方面有一個比較強的設定，就是超級人工智能最終能成為無所不能的自我設計、自我制造的絕對技術主體或智能主體；另一個就是文化方面的價值設定，即人類生物-文化進程的唯一性。我們將文化分為“物理-邏輯”智能與“生物-文化”生命兩個方向，前一個方向是物理的、邏輯的、智能的，后一個方向是以自然人類生命有機性為基礎的整體文化歷程；前一個方向在后一個方向的過程中孕育、發展出來，最后可能形成超越的獨立系統，反過來支配后者，而后者有其無可替代的獨特性、唯一性。

根據超級人工智能的強度，其文化風險可以分為三個層次。第一層：人性的弱化。我們所理解的人性，不是要素化的本質主義立場，而是以自然生命為基礎的社會文化歷史總體，這是一個整體主義和歷史主義的人性立場。此所謂人性的弱化在實質上是人性的單向智能化，人性的發展因此失去了整體性應有的內在均衡，比如技術化對自然進程、理性化對藝術直覺、邏輯化對感性生命的弱化。第二層：自然人類被替代、被主宰。這是超級智能支配、控制了自然人類，溫和一點說是人工智能全面超越了人類智能，人類由此失去了最關鍵的主體性話語權。第三層：自然人類被消滅或被終結。這是“物理-邏輯性”替代了“生物-文化性”，其結果是自然人類的文化進程被“機-電智能”所替代，基于生物有機性的文明被毀滅。

有學者提出這個進程標志著“技術統治時代”的來臨，這是從自然人類文明到“類人文明”的時代過渡或反轉，“類人”根本上就是“技術人”。因為今天的人類已經算不上嚴格意義上的“自然人類”了。比如，由技術工業制造出來的化工產品和藥物所導致的環境激素，已經在整體上改變了包括人類在內的地球動物的體液環境和體液構成，就此而言，碳基生命的根基已經被動搖。①孫周興：《技術統治與類人文明》，《開放時代》2018年第6期。超級人工智能不是改變了人性，而是發展出了另一類主體，這一類主體由于沒有多少生物-文化的“弱點”、“缺陷”，而又同時具有非凡的強度，面對這樣的超級主體，自然人類文明變得不堪一擊。

超級人工智能的文化風險可以被總體描述為“物理-邏輯性”對“生物-文化性”的削弱、支配甚至消滅，或者理解為非生物智能對自然人類生命文化的超越。當人工智能戰勝人類智能，人工意識取代人類意識，就會造就一個后生物學的世界。“物理-邏輯性”對“生物-文化性”的支配和超越至少包括三個要點：一是自然人類文明(生命、文化、歷史)的整體性及其生物脆弱性。人類文化主體不僅是智能主體，也是一個生命文化主體，它是以身體作為基質或基礎載體的每個人的文化活動的總和。自然人類文化系統一方面是歷史的、社會的，一方面也是生物性或具身性的。然而，這個生物性、有機性的身體既是神奇的，也是脆弱的，它無法對抗物理性的穩定和持久。二是人工智能的“物理-邏輯性”。我們之所以稱人工智能技術具有一種“物理-邏輯”的文化類型，是要強調其物理性與智能性的結合，或者說是“算法(軟件、邏輯性)-機器(硬件、物理性)”的結合。其物理性是其機電性，它的基質或“身體”是非生物性的機器；其智能性是指它的邏輯系統或算法系統，在某種意義上電腦智能就等同于算法，幾乎任何活動機制都可以被表達成某種算法。這個超級人工智能一方面是一種特別的機器，一方面它是絕對的、無所不能的智能主體，這個智能主體不再是生物性的。三是超級“物理-邏輯”智能對于人類生命文化形態無與倫比的智能優勢和強度優勢。

庫茲韋爾在書中反復強調此種非生物智能對人類智能的優勢：這是一種特殊的機器智能，它可以瞬間處理數億單位的海量信息，是人腦處理速度的300萬倍。機器之間可以高速傳遞和無限復制信息，可以共享人機文明的所有信息。計算機可以綜合生物智能和非生物智能，最終可以實現自我設計、自我制造。大腦由基因支配，有容量的限制，而計算機智能可以自我架構，不斷突破容量的限制。人類的情感能力也可以被未來的機器智能所理解并掌握。總之，未來生物智能已不占優勢。②庫茲韋爾：《奇點臨近》，李慶誠等譯，機械工業出版社2011年版，第12-14頁。

在《人工智能的未來》一書中，庫茲韋爾這樣描寫遺傳算法和數碼大腦：

遺傳算法的關鍵是：人類并不直接將解決方案編程，而是讓其在模擬競爭和改善的重復過程中自行找到解決方案。生物進化力量雖強大但是過程卻太過緩慢，所以為提高其智能，我們要大大加快其進化速度。計算機能在幾個小時或者幾天之內完成數代的進化，但有時我們會故意讓其花費數周時間完成模擬百千代的進化，但是我們只需要重復這種過程一次。一旦這種模擬進化開始，我們就可以用這種高度進化、高度完善的機制快速解決實際問題。在這一過程中我們采用兩種智能方法：利用遺傳算法模擬生物進化，得出最優機制；利用隱馬爾可夫層級模型模擬人類學習過程中起重要作用的大腦皮質結構。③庫茲韋爾：《人工智能的未來》，盛楊燕譯，浙江人民出版社2016年版，第144頁。

人工智能的思維方式和運行機制是還原論、物理主義、邏輯主義(形式化)和功能主義的。對此過程可以簡要概括如下：把活動(任何意義上的)還原(或表征)為功能，再把功能還原為邏輯機制或算法；再通過機器(微電子技術使之成為可能)來實現這一算法機制。這里蘊含了一系列的還原(化約)過程，結果是實現對任何活動的數字化(亦是機器化)模擬，因此，人工智能實質上就是“功能-算法”模型。庫茲韋爾如此描述大腦模擬：

無論是藍腦計劃，還是莫哈的新皮質模擬計劃，這些仿生大腦計劃的最終目的都可歸結為一點——完善和確定一個功能模型。與人腦水平相當的人工智能主要采用本書中討論的模型——功能算法模型。但是精細到分子程度的模擬可以幫助我們完善此模型。20世紀八九十年代的語音識別技術發展過程中，只要能夠了解聽覺神經及早期聽覺皮質負責的實際信號傳遞，我們就能精簡算法。——只要擁有真實大腦的詳細數據，我們就能模擬出生物學意義上的大腦。①庫茲韋爾：《人工智能的未來》，盛楊燕譯，浙江人民出版社2016年版，第125頁，第238頁。

這個智能系統是獨立的、自成主體的，它可以模擬直至優化人類的所有智能，而且可以做到全面的、徹底的信息互聯(甚至萬物互聯)。這個技術在本質上是純粹智能的，它不僅可以模擬、優化、集成人類的智能，而且可以將人類的非智能活動加以模式化處理而整合成其智能的一部分，諸如無理由改變目標、隨機判斷、日常語言生成、情感反應、審美反應等也可以通過算法來表現。

這個物理-算法系統是單向智能化、邏輯化的，是表征主義、功能主義的，它對于自然人類文明的所有活動都可以運用算法來還原、表征甚至優化。如同“中文房子”，它或許無法真正“理解”語言，但是它可以熟練地、高效地運用語言。超級人工智能不僅具有智能-功能優勢，而且避免了人類身體的各種限制(如衰老、疾病、對環境的苛刻要求等)，也能避免人類情感上的各種脆弱性(如惰性、倦怠、猶豫、勾心斗角等)。如庫茲韋爾所說，生物基質是美妙的，但我們正在創造一個更強大且更持久的非生物的系統基質。②庫茲韋爾：《人工智能的未來》，盛楊燕譯，浙江人民出版社2016年版，第125頁，第238頁。

三、整體主體：“生物-文化”系統的內在均衡

這個非生物性替代生物性的風險隨著人工智能技術的不斷發展而加劇。到奇點降臨，自然人類只能期盼這個超級人工智能是“友善的”而非“邪惡的”，靜等人工智能的道德素質來決定人類的命運。為避免如此結局，無論如何我們需要對人工智能技術的發展加以一定程度的管控。為了確保自然人類文明的可持續發展，就必須維持人類文明即“生物-文化”過程的內在均衡，這個內在均衡是智能與非智能、機器與生命、理性與非理性、還原主義與整體主義等等的整合，在其進程中，人類生物文明的安全性將是一個重要的主導原則。

人類文明不是單向的智能文明(技術化、工具化、機器化、模式化、形式化、功能化等)，在這個線索主導下的文化只能是器化、物化的文明。人類文明是在整體自然環境中，基于自然生命機體的社會、文化總體歷史進程，它是自然的生物文化、生命文化、智能文化的過程總體或創造整體。提出“物理-邏輯”與“生物-文化”的兩分，并不是要將兩者完全對立起來，而實際上前者始終是后者的一個重要部分，而且在大部分情況下一直是主導性的、最有力量的一個部分。人類作為文化主體的一個主要內涵也正是按照某種目的、理想通過表征、還原、符號化、邏輯化來改造這個世界。只是在這個文化進程中，技術化、智能化、信息化的發展越來越變得無可阻擋，以至于其他意義上的變化顯得無足輕重。

馬爾庫塞早就指出現代社會人性異化的根源在于科學技術和“文化工業”，在這個文化工業進程中，人成了機器，機器倒成了主人。技術追求、技術意識和技術管理深入到人們的思維和習慣當中，技術合理性成為人們的生活信條、政治統治的合法邏輯，人們陷入技術崇拜。在技術時代下，人自身被物化、機器化、技術化。馬爾庫塞呼吁情感革命和感性解放，主張以新的感性世界反對現代文明所帶來的壓迫、奴役，提出以藝術激發幻想和美好記憶，創造出直觀而非邏輯的、感性而非理性的審美形式，構建一個由“享樂原則”而非“現實原則”主導的新感性世界。③楊彩、胡軍華：《馬爾庫塞技術異化理論探析》，《理論界》2019年第6期。

馬爾庫塞所展示的是感性文化對智能文化的批判或抗衡，但是人類文化整體不能以單一的“藝術-感性”原則來主導，就像不能以單一的技術智能原則來主導一樣。而且這種人文立場的辯護仍然可能是表征主義、功能主義、還原主義的，它是以審美、道德、信仰、情感等要素來對治機械、形式、邏輯、算法等特征。這并非沒有意義，但是對于超級人工智能來說，這些所謂人文特征仍然可以在功能表現上加以表征、模擬，而且“水平”會相當高。比如計算機可以寫詩、作畫，可以表現得比許多人更有信念、更堅定等等。對人類生命文化的徹底辯護必須以實體主義、整體主義為基礎。

在此，福山的生物保守主義立場值得關注。針對新興生物技術(如克隆人、人體干細胞研究、基因工程、神經藥理學等)對人類生物的危害，福山提出應采取嚴格的規約措施。在這些極端生物技術的支配下，原本神秘的、由自然規律設定和支配的人性，將變成可以人為設定、改變和支配的對象，人性的獨特性將不復存在。由此，福山提出人性應是人類作為一個物種典型的行為和特征的總和。①[美]弗朗西斯·福山：《我們的后人類未來——生物技術革命的后果》，黃立志譯，廣西師范大學出版社2016年版，第131頁。福山所強調的是人性行為的獨特性、綜合性和整體性，他認為假使人類具有獨特性的“X因子”，這個X

因子不能夠被還原為自主選擇、理性、語言、社交能力、感覺、情感、意識，或任何被提出當作人的尊嚴之基石的其他特質。那么什么是這個“X因子”呢?

福山沒有明確說出這個“X因子”是什么，實際上他也無需指定這個X因子，他想用X因子來承載人性的獨特性，只是這個“X因子”的提法仍然會陷入某種還原主義。福山本想批判還原主義，他不承認人性的獨特性能被還原成任何具體的某種因素、要素或某種特質。沿著這個線索，我們可以說，人性的獨特性就在于人性本身，就在于人類行為的整體性或總體性，即整個人性行為的綜合。人性的典型性不是人性典型特征的綜合，而是整個“生物-文化”行為的綜合。所以，這個“X因子”不是某種要素，也不是某些要素的結合，而是人類行為的整體。

實際上，還原主義是不可缺乏的，沒有還原主義就沒有絕大部分的科學、創造和主體，但是徹底的物理還原主義立場會對生物文明帶來致命威脅。因此，我們在智能主體、技術主體不斷發展的同時，必須維持生物主體、文化主體與之的均衡，而更進一層，就需要建立維持兩種文化、兩種主體之間均衡的那個更完整的主體，我們稱之為“整體主體”。比如，以人文思維來批判科學思維是一個方面，更重要的是我們需要一種整體思維來整合、均衡科學與人文兩種文化。這個整體主體是理性的，因為它要對整體性不斷作出自我理解、自我判斷；這個整體主體也注定具有某種保守性，因為這個整體性是維持均衡、克制單極化的結果，整體主體的使命即在于防止任何文化X因子的單極化挺進；同時，這個整體主體又要是創造的、發展的，因為它要適應整個文明進程。從運作機制來說，這個人類文化整體主體的實效性將取決于人類命運共同體的不斷強化。

這個文化的整體性是生物性與非生物性的均衡，而且生物性(基于身體性的有機性、生命性)要處于某種主導地位。為什么要保護且適度突出生物性尤其是高級生物性，或者至少以生物性為基體呢?一個可以提出的理由是：生物性是神奇、脆弱而且是唯一的。當以生物性的人類身體為基體的文明被摧毀，我們無法確保在茫茫宇宙中還能再產生此種生物性及其文明，我們無法確定此種“生物-文化性”是宇宙歷程中必然產生的環節。在另一個意義上，保護生物性，實質上是保持這個整體的有機的生命創化歷程，至少從目前來看，自然人類文化的所有價值和內容都離不開實質性身體(基體、基質)，離開這個身體、這個具身性，所有的文化創造將沒有內容，也沒有意義。

人類已經進入一個技術爆炸的時代，信息技術、納米技術、微電子技術、互聯網技術、人工智能技術、生物技術等都在迅猛發展，而且這些技術正在進行前所未有的整合，如果我們沒有把握在自然人類文化內在均衡的前提下控制技術的突進甚至接近奇點，那么就必須在人類共同體的框架下采取實際措施來管控技術的單極化推進，尤其是極限類技術的迅猛發展。