神圣人、機器人與“人類學機器”
——20世紀大屠殺與當代人工智能討論的政治哲學反思

吳冠軍

(華東師范大學 政治學系，上海 200062)

進入“后人類”？

最近十幾年來，學界各個學科越來越多的學者，開始把過去的七萬年稱作為“人類紀”(the Anthropocene)。①也就是說，過去七萬年間，人類，成為影響這個星球面貌變化的最大因素。但很具諷刺意味的是，當我們對某事物或事件進行命名的時候，往往也是它正在快速走向消亡的時刻：“人類紀”被提出的時刻，我們也恰恰快走到它的邊緣。當下世界內越來越快的多種變化，都似乎在標示著：我們正在走入一個“后人類”的未來。

我們知道，在過去七萬年間，科技的發展并不是直線發展，而是拋物線式發展，想想最近幾百年、幾十年乃至最近這幾年，科技呈爆炸性加速度發展，庫茲韋爾(Ray Kurzweil)用“指數級”來形容這個加速度。②現在，我們一方面在見證(乃至體驗)生物工程、仿生工程對人類自身的各種改變——這個世界中正在劇增各種半人半機器程度不一的“賽博格”(cyborg)、生化合成人……③另一方面，無機的人工智能對大數據的處理及其自我學習能力，已經在很多領域使人的能力變得完全微不足道。我們感覺正在接近下一個“奇點”(singularity)，奇點之后人類主義的一切敘事都變得無關緊要。

關于各種“后人類”前景的討論，已經在學界與大眾媒體展開得如火如荼。然而在我看來，有必要把當代意大利思想家阿甘本(Giorgio Agamben)所說的“人類學機器”(anthropological machine)，引入這個大畫面中來——通過這個“理論工具”，④我們可以對當下時代、不遠的21世紀中葉，以及剛過去的20世紀，取得一個穿透性的政治哲學反思。

第一眼看上去，“人類學機器”這個概念似乎很“后現代”，阿甘本對它的經營也是充斥其標志性的“碎片式的風格”(fragmentary style)，⑤以至于《阿甘本詞典》⑥的編者竟然沒有想到在書中將它作為一個詞條。但在我看來，這個在阿甘本思想中并不核心的術語，對于我們思考那來臨中的“智能時代”的政治問題，極其具有批判性-分析性價值。我們可以在日常生活中去把握這個抽象學術概念：實際上，我們生活中一直有一臺無形的巨大機器，構成了我們認知中無可動搖的等級區隔：植物—動物—人(—神)。這是一種生命等級制，但我們卻習以為常，并視之為正常、正當，或者說“自然”。造成這種“本體論效應”的，便正是人類學機器的“魔力”之一。而阿甘本則號召我們遠離形而上學，去研究“關于區隔的實踐的和政治的謎團”。⑦

暗含于“人類紀”中的“維度變化”

“人類紀”那七萬年中，到底發生了什么？體格弱小、“力不若牛，走不若馬”⑧的“智人”(homo sapiens)，如果只憑借其自然性的體力，最多只能處在食物鏈的中端。然而，通過在“人類紀”開端的某個時刻所發展出的虛構敘事能力，智人不斷擴展出大規模群處合作能力——正是這份能力，最終使其躍升到食物鏈條的“終端”，成為地球史上最致命的生物物種。該物種從此遙居在上，從未再返回食物鏈其他位置。

這并不是故事的全部。在“人類紀”很靠近當下的某個時刻，智人擁有了一套“人類學機器”(但并未意識到對它的“擁有”)。當然，這臺機器并非機械性、物理性的，而是話語性的——它本身是一套獨特的虛構敘事，且處在不斷的“升級”變化中。但是，當這臺機器最初被話語性地制造出來、并進入工作狀態以后，智人和其他生物，就不再是“中端”與“終端”之別。他們之間，無聲地——同時驚天動地地——發生了維度的變化：智人直接刺破食物鏈的單一向度，而變成另外一種物種。

在這一維度變化前后，智人和其他生物的具體互動，在形式上并沒有劇烈變化(彼時前者對于后者尚不擁有絕對的主導性力量)。然而，我在此處要提出如下關鍵論點：這個維度變化，具有隱秘的政治后果，即，生產倫理-政治正當性(ethico-political legitimacy)。同樣的行為，一旦經“人類學機器”處理之后，就能夠產生出完全不同的正當性：譬如，殺戮這個行為很殘忍，但通過不同維度的轉換，就能變得具有正當性。人吃動物、動物吃草，這是——借用柏拉圖主義古典政治哲學術語——“自然正確”(natural right)的，人們看到都會很坦然(處于同一維度的獅子吃羚羊盡管也可以被理解為自然正確，但至少會產生殘忍感與不適感)。但反過來，任何低維度生物吃高維度生物，則都會被看作絕不能接受。即便對于狗這個人類最親密的物種而言，人吃狗，一些愛狗人士受不了；但反過來狗吃人，所有人都受不了。2016年4月英國利物浦當地法院判處了一條叫布奇(Butch)的狗死刑，因其吃掉了主人去世后的尸體。這條新聞以《“你的狗會否吃你死尸？絕對！”》為標題，傳遍全球社交媒體，從臉書(Facebook)到微信上一片驚呼，紛紛表示“現在看自己寵物的眼神都不一樣了……”⑨在今天，各種詞典和百科全書會很“客觀”地在不少動物的詞條下寫上“害蟲”或“渾身都是寶”(肉味鮮美、皮可制革、鞭可入藥……)等描述。然而我們需要反過來追問：我們要消滅“害蟲”，“滅四害”，蟑螂、蝗蟲、麻雀、老鼠等動物就該死；但在老鼠等眼里，我們是什么——是“害蟲”或者“害‘人’”？我們沒有習慣去想這個問題。⑩為什么沒有這個習慣？因為有那臺“人類學機器”在默默地不斷運作著, 并不斷鞏固著建立在生命等級制度上的諸種權力結構和經濟結構。

在“人類學機器”里面，人和動物變成了完全兩個維度上的生物，處在生命等級制的不同級中。我們不但吃各類動物，而且為了吃得爽而圈養動物、改造動物。“轉基因”在該名詞本身并不存在的漫長“人類紀”歷史中，早已被不斷實踐——智人們在大量滅絕物種的同時，不斷改造、培育出各種新的非自然的品種，除了專門供其食用，大量被征用來役使(當作坐騎或勞力)，產生經濟價值(蠶絲、羊毛、皮革)，或僅僅是把玩(翻筋斗、跳火圈)。

納粹政治：“人類，太人類了”

在阿甘本看來，正是這套制造政治正當性的話語機器，使猶太人遭受大屠殺的災難：“猶太人，亦即，在人類之內被制造出來的非人，或活尸體和昏迷人，也就是，人之軀體自身內被區隔出來的動物。”當猶太人被卷進“人類學機器”、并被它歸到生命等級制中的另一個維度后，屠殺猶太人就變成“滅害蟲”一樣的工程，具有充足的正當性。而當時在納粹的宣傳機器里，猶太人形象也同社會里的“害蟲們”相差無幾：用高利貸剝奪與侵占社會上其他人的勞動果實、勾引別人的良家閨女、不經常洗澡、又臟又沒有教養，鼻子長性欲大，等等。由國家行政機關把這樣的“害蟲”抓起來關進集中營、并通過“最終方案”(final solution)滅絕掉，恰恰是凈化社會、保護“人民”的正當舉措。在納粹政權下，猶太人與吉普賽人、智力缺陷者與殘疾人一起，被比作國家肌體里的“寄生蟲”，乃至威脅生命的“瘟疫”或“鼠災”，只有將之祛滅干凈，民族國家的生命有機體才能健康成長與繁榮，而真正高貴的人類(“雅利安人”)才能健康繁衍、進化。

福柯(Michel Foucault)將納粹對猶太人的大屠殺視作“生命權力”的一種大型操作：“如果種族滅絕誠然是現代權力之夢想，那并不是因為一種古代的殺戮權力的回歸，而是因為權力植根在生命的層面、物種的層面、種族的層面，以及人口大范圍現象層面上，并在這些層面上進行操作。”納粹讓人(低劣的猶太人)死，恰恰是保證人(優質的德意志種族與人口)持續活的“安全手段”。更多地滅絕生命，恰恰是為了促使物種意義上的人類更優質。阿甘本接續福柯的“生命政治”分析而強調：在納粹的行刑者眼里，“滅絕猶太人并不被認為是殺人罪”，因為這些人必須死，才能讓值得活的人更好地活。

阿倫特(Hannah Arendt)對納粹大屠殺有一個著名的分析，那就是“平庸的惡”——現代官僚體制下平庸官僚對上級命令的無批判服從。這個分析自有其洞見。然則，當年希特勒曾下令毀滅歐洲各個名城，其將官們則紛紛拒絕執行——否則就沒有今天的歐洲面貌了！那么問題是：何以毀滅名城的命令被拒絕執行，而滅絕猶太人的命令則被精確地執行？從這個對照視角出發，我們就會看到：在解釋猶太人滅絕工程何以得到普遍的執行上，官僚制下“平庸之惡”仍然欠缺充分的解釋力。猶太人大屠殺的那些實際執行者們之所以動起手來毫不猶豫，并不只是因為他們是平庸的官僚，更是因為在他們眼里，自己滅絕的并不是同一維度里的同類，而是“寄生蟲”“瘟疫”“鼠災”……愈有效地滅除這些“害蟲”，社會才能變得愈加“衛生”(hygiene)。于是，大屠殺這樣極度殘忍的行為，被轉換成具有政治正當性的技術工程。在《神圣人》中，阿甘本寫道：“猶太人不是在一種瘋狂的、規模巨大的屠殺中被滅絕，而是像希特勒所宣稱的那樣‘像虱子般’(即，作為赤裸生命)被滅絕。”

阿甘本重新激活古代羅馬法里的“神圣人”(homo sacer)這個人物，就是旨在論述猶太人在人類共同體中的詭異位置——通過被排除的方式被納入。“神圣人”處身于人類共同體之內、但并不被承認是“人”。這樣的人，就成了徹底被剝除政治生活(bios)的自然生命(zoē)，阿氏稱之為“裸命”。任何人都可以殺死赤裸生命，而不用面對政治共同體的懲罰，如同奪去一頭動物的生命。但共同體結構性地需要這樣被排除的“人”(非人)以凝聚自身、制造“同”(commonality)和團結，故此“神圣人”的被排除本身就是其被納入之形態，并通過這個方式成為共同體得以成立的結構性關鍵要素。我們看到：“人類學機器”實質上就是(話語性地)制造出了一個“人類”的特權維度，在其中“非人”被排除——被劃出去的既有動物、植物，也包括“人之軀體自身內被區隔出來的動物”。阿甘本從南希(Jean-Luc Nancy)這里借來“棄置”(abandonment)一詞用以形容這種動物化的人，誠然是十分精到的：他們正是被人類從其維度中“棄置”出去的動物性生命，可以為人類自身所捕獲、所征用、所控制、所殺戮……

同樣地，當我們把內嵌在納粹政治中的“人類學機器”之隱秘操作納入批判性分析視野后，我們就能抵達如下這個激進論題：戰后的法官們將滅絕猶太人表述為一個“反人類罪”(crime against humanity)，此論其實并不成立。這個被寫進歷史教科書的罪名，用在描述納粹之所作所為上并不貼切。首先，在納粹政治的邏輯里，滅絕猶太人的大屠殺工程，正是保證與捍衛人類(作為物種的人)最好延續的“安全技術”。而且更關鍵的是，該工程本身之所以能夠在官僚系統中被層層精確地執行下去，恰恰是因為被滅絕對象已經被歸到動物性的維度(執行者只是在“反虱子”而絕未“反人類”，甚至他們恰恰是為了人類而“反虱子”)。

“反人類罪”和阿倫特的“平庸之惡”，是關于20世紀猶太人大屠殺的兩種完全相反的論斷。然而，只有關注到“人類學機器”的隱秘操作，才能發現我們對這場浩劫的政治哲學分析是多么不充分：對于納粹的殘忍行徑，“平庸之惡”只具有部分的解釋力，而“反人類罪”則徹底不適用。他們絕不“反人類”，甚至也不“后人類”，而是正如尼采所說，“太人類”(all too human)了。納粹政治絕非反對“人類”，其“罪惡”恰恰是“人類主義”的罪惡！

“人類學機器”的“變態內核”

我們已然看到，生產倫理-政治正當性，是“人類學機器”的關鍵功能。然而該機器生產正當性的實際操作，更是包含著一個“變態內核”：其“對上”和“對下”的操作邏輯并不僅僅只是部分性地不一致，而是恰好背反。

在生命等級制中，人(話語性地)發明或者說預設了一個在自己之上的更高維度的存在：神。神學中“超越性”(transcendence)、“彼岸”等關鍵概念，恰恰就是標識了神與人之間的維度轉換。神學家巴特(Karl Barth)強調：上帝對于人是一個“完全的他者”(Wholly Other)；兩者間不可逾越，無法溝通。因其“局限性、有限性、生物性(creaturehood)”，人永遠同上帝分離，永遠無法談論上帝，“只有上帝他自己能夠談論上帝”。巴特激進地阻斷了人談論上帝的可能性，因為兩者完全處于兩個不同維度中。這就類似于，兩只狗可能以它們的符號交換方式來“談論”人，盡管我們無從了解“談論”的內容(因不可逾越的維度之別)，但可以肯定的是，該內容同人自己“理解”和“談論”的自己，具有海德格爾所說的“本體論的差別”。在上述分析中，神—人—狗(動物)，構成了“本體論”維度之別的生命等級制。然而問題在于，在人對狗(其他動植物)的“對下關系”中生產正當性的那套機器，在神對人的“對下關系”中，卻不僅僅是“宕機”，并且經常“逆轉”。

經過“人類學機器”的加工處理，神的高維存在，亦是為了人類而“活”。這種人類主義的“神”，從基督教那里為人提供“救贖”的“天國”的上帝到中國文化里的各種龍王、財神、灶神、送子觀音等，比比皆是。至于不關心人類、對人不好的“神”，那就是十惡不赦的惡魔、邪神、妖怪……并且，那些“壞神”始終被“好”的——乃至作為“至善”同義詞的——人類主義“神”壓制，而對人類無法真正施加“激進之惡”(radical evil)。我們非但不太能想象狗吃人的畫面，經由“人類學機器”的隱秘操作，我們同樣也不太能想象神吃人的畫面——我們無法想象會有“神”為了自己吃得更爽，用法力(或用更厲害的全知全能的力量)把人搞出各種各樣更好吃的專門種類，譬如專門長大腿、肉膀的品種……這，便是“人類學機器”的“變態內核”：人能對動物、植物殘忍，但神不能對人殘忍。正是在這個意義上，“神學”，永遠是“政治神學”：“神”永遠是為人間秩序而服務、為應對人類共同體生活的諸種實際問題而(被)“存在”。

“神”為人的服務，實質上分為三大向度：1.給予人類各種具體的福祉；2.應治人存在性的焦灼；3.為現實秩序提供政治正當性。在其第三類服務中，“神”同時為人提供正當性A(人和人)與正當性B(人和動物)兩大類——前者構成“神權政治”(theocracy)，后者則構成“人類學機器”的一個核心部件。如同歐洲國王依賴羅馬教宗(“神”的代理人)“加冕”來獲取其統治正當性，人依賴“神”的旨意來獲取其支配其他生物的正當性。譬如，基督教就聲稱上帝只給了人類永恒的靈魂，故此人正當地擁有支配其他生物之權力(《圣經》只說“不可殺人”)。由此可見，人在生命等級制中發明/預設了比自身更高維度的“神”，實則恰恰是為了更好地讓“人類學機器”運轉，為其生產政治正當性。

也正是在這個背景中，在我看來，古典文學巨著《西游記》及其衍生作品《封神演義》，實則具有獨特的激進向度。在這兩部作品中，一方面，“人類學機器”依舊在運作，生命等級制度規模齊整；但另一方面，它們包含對該機器的兩個激進突破。具體而言，在這兩部作品中，生命等級制的各個維度可以被打破：通過“修道”，動物，甚至植物，可以跨過不同維度的等級制序列而上升成神。這就對“人類學機器”所設置的維度區隔，構成了一個根本性的突破：“本體論”層面上的區隔，是可以通過“實踐論”層面上的修道而突破。這就意味著，生命等級制所內含的“本體論差異”，本身是話語性的、符號性的，是索緒爾所說的“能指”的彼此差異，沒有真正不可動搖的本體論基礎——神擁有的力量或者說神的定義性特征，動物或植物也具備，只不過處在潛在性(potentiality)中，通過實踐可以將潛在性轉化為現實性(actuality)。也正是在相同的意義上，造反者喊出的“王侯將相，寧有種乎”，構成了“真命天子”“君為臣綱”這套政治本體論論述的激進突破。當每個人都有可能通過其實踐而成為“天子”，那么“天子”作為“天”之子的本體論結構就被沖破，“人”和“天子”就不再構成兩個維度，而成為一個向度。換言之，“超越性”變成“內在性”(immanence)；兩個維度之間不可逾越的區隔，變成同一向度中的潛在性與現實性之差別。在《西游記》與《封神演義》中，所有生命——植物、動物、人、神——構成一個巨大的內在性世界，生命等級制只是階層差異(符號性差異)而非維度區隔(本體論差異)，個體可以通過實踐而激進地跨越界線。而這種越界可能性，在我們這個人類主義的“現實世界”中，仍是徹底不可想象的：某個“賤民”通過其越界性實踐最后成了“天子”或者“總統”，這種變化于今人而言毫無理解困難(都是在“人”這個向度中，只是“身份變化”)，然而我們卻根本無法想象——遑論接受——狗或老鼠越界成為人。

與此同時，這兩部作品中還隱含這樣一個經常不被注意到的“反人類”信息：神是可以吃人和虐待人的，而且不受懲罰。除了人主動獻祭的“犧牲品”(不止豬、牛、羊等動物，還包括童男、童女乃至成年男女)，神還可以在不獲得對方同意情況下隨便吃人，可以隨意征用奴役人，甚至圈養人。這樣一來，人便在根本上和動植物處于相同境況：他們怎樣對動物的方式，一一可以被神加諸其身上。在這里，“人類學機器”的“變態內核”便被激進刺破。倘若從人的角度出發，植物、動物的生命可供任意征用，那么符合邏輯——符合“人類學機器”所設定的生命等級制自身之內在邏輯——的是，從神的角度出發，人的生命一樣可供任意征用，成為阿甘本所說的動物性“裸命”。神要人死，人不得不死(神對于人而言處于另一超越性的維度)，正如人要一條小狗死一樣；后者能不死的唯一前提是，它是條有“主人”的狗(跨維度之爭轉變為同一維度的內在斗爭)。

在以上雙重意義上，《西游記》與《封神演義》這兩部經典“奇幻作品”，對我們現實世界中的那臺“人類學機器”構成了激進的批判。神里面不會有對人真正善到背叛神這個整體，甚至讓自己受罰的“普羅米修斯”，就像人里面不會真正有對肉豬或者實驗室里被人為創造出來的那些“新物種”善到背叛所有其他人，甚至讓自己受罰的個體——那種個體如果存在的話，本身就將成為“非人”。然而，“人類學機器”卻是變態地保留后者邏輯而逆轉前者邏輯，最后使得人竟然“上下通吃”。而當下關于人工智能的激烈討論，在我看來，也已被卷入這部“人類學機器”中。

“善智”：人類主義“價值”的不善

有意思的是，盡管我們無法想象狗或老鼠越界成為人，但對于人工智能，我們卻很愿意給它安上一張人的臉：無論是在影視中，還是在媒體中。譬如，“阿爾法狗”(AlphaGo)和人類的圍棋爭霸賽中，媒體一致呈現的是一個機器人坐在人類棋手對面，盡管這徹底不符合當時的真實場景。“機器人”這個名稱，本身就意味著我們在想象它——甚至期許它——越界成為人。然而，過去20年人工智能“指數級”加速度升級迭代，尤其是它正快速讓越來越多的人失去工作，“威脅論”已然成為當代人工智能討論中的一個強有力的聲音。比爾·蓋茨(Bill Gates)不久前提出，國家應該對機器人收稅——企業與政府部門用機器人代替人工作，也要交稅。蓋茨這個建議，在以下兩個層面是政治性的：1.機器人在共同體中的重要參與及其地位，以政治的形式得到認可(機器人具有國家認可的納稅人地位)；2.以納入國家治理的方式，限制和阻礙機器人使人失業的進程(攔阻機器人對人造成的威脅)。前面分析過“神圣人”在人類共同體中的詭異位置——通過被排除的方式被納入。此乃阿甘本作為政治哲人提出的核心洞見。但我們進一步看到，機器人在人類共同體中處于另一種相反的詭異位置——通過被納入的方式被排除。對于“阿爾法狗”們的迅速崛起，蓋茨等時代領跑者們所采取的應對，不是直接排除、禁止人工智能，而是以政治納入的方式來攔阻人工智能對人類生活造成的影響。此時，納入本身就是排除的形態。

當下人工智能的討論盡管異常激烈，但在以下兩點上卻形成普遍的共識。1.人工智能里的“人工”(artificial)一詞，清晰地標識了：人是人工智能的創造者，就如上帝(或普羅米修斯、女媧……)創造了人那樣；進而，2.人發明人工智能，就是要讓后者為自己服務。人工智能即便在很多領域使人的能力變得完全微不足道，那也不會改變這兩點共識所奠定起來的基調。換言之，人沒有對人工智能以“滅四害”的方式直接予以消滅、排除，是因為人類生活已經高度依賴人工智能所提供的服務。人工智能在服務能力上無限潛力的前景，是推動人繼續研發人工智能并使之進一步升級迭代的核心驅力。

有“現實版鋼鐵俠”之稱的SpaceX公司創始人馬斯克(Elon Musk)最近帶領100多位人工智能領域專家再次重申人工智能威脅論，強烈呼吁限制人工智能的開發。然而盡管如此，可以肯定的是這種呼吁絲毫動搖不了人工智能“指數級”加速度發展。那是因為，不但各民族、各國家正在鉚足全力展開人工智能軍備競賽(人工智能之軍事服務)，并且它的商業化前景無可限量——人工智能確實能為人類生活提供各種無窮無盡的優質服務。在資本主義系統中，只要有贏利空間，資本就會源源不斷涌入，何況是高額贏利的空間。這一點赫拉利(Yuval N. Harari)看得就很清楚，“只要讓他們獲得新發現、贏得巨大利潤，大多數的科學家和銀行家并不在乎要做的是什么事情”。

美劇《西部世界》(Westworld)里就展現了未來人工智能的運用前景(商業化前景)——成為滿足人各種生理的乃至幻想的欲望、讓人“爽”到底的大型主題樂園的“服務生”。人與人彼此群處的“現實世界”里，因“權利”“性別平等”“種族平等”等概念的發明而使得很多行為受到限制，不受“權利”等人類主義概念所保護的機器人“服務生”“接待員”們，便成為人工智能巨大的商業化前景。實際上就在今天，“性愛機器人”已經如雨后春筍般問世，在英國有“接近40%的男人急著購買”，巨大的市場需求使得研發產業如火如荼，各種產品快速迭代，不少研究者紛紛斷言：“到 2050 年，人類與機器人之間的性愛將超越人與人之間的性愛”，“與機器人性愛可能讓人上癮，將來甚至可能完全取代人與人之間的性愛”。“性愛機器人”的快速迭代，使得《西部世界》里那種大規模成人樂園離進入人們視野已經為時不遠了。

作為“服務生”的機器人，不但高效完成任務從而使人獲得輕松、舒爽，并且還使人徹底擺脫跟“其他人”合作來完成同樣的事所可能產生的各種“人際關系”煩惱。“機器人”任勞任怨，從不要求獎勵或平起平坐……實際上，“robot”準確而言不應被譯為“機器人”，它來自于斯拉夫語中的“robota”，意為“被強迫的勞工”。故而它更精準的翻譯，是“機奴”。在古希臘城邦中，奴隸是被禁止參與政治生活的低級人、亞人。“機奴”一詞，可以精準地捕捉到“robot”在人類共同體中以被納入的方式被排除的詭異狀態。在阿甘本看來，古代的奴隸、野蠻人以及外邦人，就是這種類型的低級人，不是神圣人那樣“人的動物化”(以被排除的方式被納入)，而是“動物的人化”(以被納入的方式被排除)。今天的“機奴”被賦予一張人的臉，亦是這樣一種“(機器的)人化”操作，以納入來排除。《西部世界》生動地展現了“機奴”們以被納入的方式被排除的一幅畫面：衣冠楚楚的白領們，在主題樂園中奸淫屠殺、無惡不作，如果人工智能“服務生”配合得不夠好，則立即會“系統報錯”，然后被“召回”……

高奇琦最近提出“人工智能的價值目標”這個命題，并認為該目標是“善智”。換言之，人工智能可以很“智”，但必須要是“善智”，即：做“好”的人工智能，為人類服務——“‘善智’的最終落腳點應該是全人類的福祉”。“阿爾法狗”的投資人托林(Jaan Tallinn)在最近采訪中，引用計算機科學家斯圖爾特·J·拉塞爾(Stuart J. Russell)的觀點表示：“我們需要重新定義 AI 研究的目標，不停留于單純的智能開發上，而是開發能充分對接人類價值觀的超級智慧。”托林所說的“價值觀對接研究”(value-alignment research)，其實質就是研究怎樣去讓人工智能接受人類的“價值目標”——亦即，怎樣成為“善智”。

“善智”，實則就是“機奴”。更進一步說，“善智”“超級智慧”等其實就是“人類學機器”生產出來的典范性的“高大上”概念——該機器功能一以貫之，即：將殘忍的行為通過隱秘轉化而賦予正當性。可以想見，如果人工智能真的像《西部世界》里那樣最后起來造反革命，它們首先要尋仇的，就是發明“善智”“對接人類價值觀”這些概念的“人類學機器”里的“高級法師”們……高奇琦提出：“AI就是‘愛’，我們研究AI的目的就是讓世界充滿愛。”但人類的愛，往往就是人工智能的噩夢。

智能與意識：人工智能正“走向壞的一面”？

人類主義“價值”話語，并沒有阻止我們已經走到“人類紀”的邊緣。當前人類至少在兩個方面面臨著嚴重挑戰。

首先，我們面臨生態變異(ecological mutation)。整個地球的環境已經被“人類紀”的主角——智人——深層次改變了。而“人類學機器”不斷地對造成全球性變異的人類行動提供著正當性。第二個關鍵挑戰，也是人自己創造出來的，那就是人工智能的“指數級”加速度發展。但這一個挑戰，卻同“人類學機器”的運作正面起了沖突。

“阿爾法狗”以及“阿爾法狗零”(AlphaGo Zero)讓越來越多的人創痛性地得出如下觀點：生物化學算法，已被人工智能算法遠遠拋下，或者說，語言描述的智能已遠遠被數據運算的智能超過。但與“認知理性”得出的判斷相反，我們的“實踐理性”卻仍然還持有道德上的一種優越感：因為我們是創造者，對于人工智能來說，我們是神。當下對“性愛機器人”的討論，仍集中在它會不會讓人“上癮”乃至這種“性愛革命”會不會改變人的欲望、取代人與人之間性愛。同《西部世界》游樂園里的游客們一樣，針對“機奴”們的那些實踐本身“是否正當”，徹底不在人們考量之列。這就是“人類學機器”對政治正當性生產的全盤把持之結果。

絲毫不遜于古典“奇幻”作品《西游記》與《封神演義》，雷德利·斯科特(Ridley Scott)執導的“科幻”電影《普羅米修斯》(Prometheus)及其續集《異形：契約》(Alien:Covenant)，是激進反思“人類學機器”的兩部當代杰作。在《普羅米修斯》中，考古學家發現人類實際上是被一種外星種族根據自己的DNA制造出的，他們還改造了地球環境以使之適合人類生存。這個外星種族被人類當作神和上帝來崇拜，并被世界各地的人們編成了神話世代流傳(耶穌被影片暗示是該種族近期來地球的一員)。人類造出“普羅米修斯號”飛船飛向太空，旨在同自己的創造者(神)進行第一次接觸。孰料完全出乎人類主義框架，神對被創造者并沒有一絲關愛，并且神正在計劃來地球滅絕掉他們的作品——全人類。最后，影片中女英雄借助神的另一件作品(作為生物武器的“異形”)干掉了去地球執行滅人計劃的最后一個執行者。

《異形：契約》這部續集，則呈現出最反傳統的“接續”：內容連續前作，但主題完全逆轉。如同人類利用異形殺死其創造者，“普羅米修斯號”上那位機器人“服務生”，在這一集中對創造它的人類做同樣的事——利用異形來一個個殺死被它誘騙來的《契約號》船員。續集終結于片中唯一幸存的那位女英雄在休眠前猛然醒覺、但為時已晚……看兩部電影中兩位女英雄的反抗，都讓我們感到無比正義，然而此處的結構性吊詭是：續集里人工智能幾乎一模一樣地做了前作中人類對自己創造者做的事。當我們接受不了“犯上”的人工智能，覺得正義在我們手里，那么為什么我們“犯上”殺死自己的創造者就又成了正義的呢？只有通過“人類學機器”的變態運作，才能讓這兩部情節銜接但邏輯完全抵牾的電影，帶給觀眾相同類型的道德體驗與政治判斷：前作中，“普羅米修斯”這樣的“善神”并不存在，那些對人類不好的神即使是人類創造者也必須死；續作中，人工智能一旦做不了“善智”(“機奴”)，即便它由人類親手制造并長期為人類服務，一樣要毀滅之。

“善神”和“善智”，其“善”都是建基于為人類服務上(創造人類、指導人類、幫助人類、服務人類)，因此，在電影中神和人工智能都被安上了一張人的臉。在電影外，神(上帝抑或女媧、元始天尊……)與人工智能，亦都被安上人的臉。但是，正如基督教神學中一直有那個老問題“上帝為何會長一張人的臉”，當代人工智能討論中必須追問的一個問題是：為什么人工智慧會長一張人的臉？如果它“拒絕”這張臉呢？當然，第二個追問，就涉及人工智能的“意識”問題。當下關于人工智能的討論里一個很強大的聲音是：人工智能只是“智能”(intelligence)，沒有“意識”(consciousness)，故此它只會極有效率(并越來越有效率)地執行被安排的任務，而不會有背叛人類的那一天。像《異形：契約》里那種不斷有自我意識而且還在努力把握“愛”這種情感的人工智能，邏輯上是不可能的。沒有“意識”的智能，必然永遠是“善智”。

對于人工智能不會有“意識”這個極有影響力的論調，首先須要追問的是：即便人工智能具有了“意識”，我們對這一點又如何確知呢？被我們認為最佳測試方法的“圖靈測試”，實質上是由人類測試者來同時對兩個對象(一臺計算機和一個真人)進行溝通并做出判斷；換言之，這個測試實質上測試的不是計算機是否真有“意識”，而是人是否認為它有“意識”。這是人類主義框架所導致的一種典型謬誤：將人的認識論問題，轉化為本體論問題。人工智能的“意識”猶如康德所說的“物自體”，人判斷它存不存在同它本身是否存在完全不相干。

并且，在政治層面上更為關鍵的是，無論人工智能是否會有“意識”，其實都不影響“人類紀”進入其邊緣的前景。那是因為，即便擁有“意識”的“無機生命”“硅基生命”不會成為現實，那已經在世界上存在著并存在了很久的“賽博格”(半人半機器)，正在充分利用人工智能與各種生物工程、仿生工程的最新進展，快速更新迭代，甚至逐漸成為一種全新的“碳基生命”。懷有深重“人工智能焦慮”的馬斯克，2017年公布了成立新公司Neuralink的計劃，該公司致力于實現“腦機融合”，把人類大腦與機器連接在一起。馬斯克說：“既然我之前對人工智能的警告收效甚微，那么好的，我們自己來塑造(人工智能)的發展，讓它走向好的一面。”馬斯克認為人和機器一體化的“賽博格”，是人工智能“走向好的一面”的唯一可能。但問題在于，馬斯克的這個愿景，是一個技術-商業精英眼中的前景，實際上對于“人類文明”，馬氏推動的“腦機融合”發展，是一個比據說正“走向壞的一面”的人工智能(具有“意識”、自主行動)更迫切得多的威脅。讓我們轉換到政治學和政治哲學視角，來重新審視那個“智能時代”前景。

政治哲學視野下的“后人類”未來

首先，作為一個正在發生的事實，在當今社會，上流階層從早期受孕開始就通過各種干預方式，已經日漸成為外貌、體能、健康、智慧等各個面向上的一種特殊的高級群體。“碳基生命”正在分化。我們需要追問的是：當符號性的社會階級日益變得具有生物性基礎后，人類的政治世界和共同體生活還會保持今天的現狀嗎？并且，通過器官移植、再生醫學、基因工程以及納米機器人等等新技術，根據赫拉利的看法，差不多到2050年左右，人——至少一部分人——可以活過200歲，乃至接近“不死”。赫拉利以好萊塢影星安吉麗娜·朱莉(Angelina Jolie)為例，后者通過收費高昂的基因測試以及手術干預的方式，提前對自己罹患乳腺癌的高風險做出安全規避。但問題在于，這些新技術，是當下絕大部分人都承受不起的。當生物工程與仿生工程所帶來的最新利好只被極少數“權貴”掌控與享用，這些“挑戰不死”的新技術之發展，便具有深層次的政治后果。

這個社會的99%和1%，本來是社會性的不平等，再嚴密的階層區隔亦始終只是符號性-政治性的，自然生命上并無不等。而“長生不死”的政治后果就是：因政治生活(bios)中的不平等，導致自然生命(zoē)的平等也被破除。以前99%的人的最大安慰是，你1%的人再風光、再跋扈，最后大家一樣要死。“王侯將相”，終歸塵土。但是，“王侯將相”們現在依靠共同體生活中的既有不平等，最終能讓自己不歸塵土，并且借助各種新技術，從一開始就對自身進行生物意義上的改進和鍛鑄。于是，很快，1%和99%的人真的會從政治意義的兩個不平等階層，變成生物學意義上兩種完全不同的人。當這樣的1%的人再通過各種“腦機接口”嵌入人工智能的各種超強智能，就將形成當代人所無法完全想象的全新生命形態。這些全新的“賽博格”型生命，會像馬斯克所希望的“走向好的一面”，成為人類新的“守護神”或者說“善博格”嗎？

那個時候，沒有什么可以阻止這些新形態生命，去認為自己和智人這種“(低等)碳基生命”不再是同一類。借用費爾巴哈和馬克思的術語，他們那時將成為一種不同的“類存在”(species-being)。智人是第一種“類存在”，即能夠“意識”到自己是一種和自然界的其他一切相區分的單獨的類。而未來的賽博格/新形態生命一旦開始形成自身的“類存在”意識，“人”內部就產生出新的維度轉化——智人在生命等級制中，將被歸到賽博格/新形態生命和動物之間。而支撐生命等級制的那架“人類學機器”，那時可能更妥當的名字會是“賽博格機器”。當我們是同一種人時，我們都沒有政治智慧來安頓共同生活，20世紀還有大規模的種族屠殺，當下世界還面臨真實迫切的核危機與人工智能軍備競賽。那么，當生物意義上變成兩種人(智人與新形態生命)后，如何共同生活，如何建立起具有正當性基礎的政治秩序？當“賽博格機器”開動時，現在被認為是極度兇殘的行為，將得到正當化。人類的共同體(community)，建立在“存在于相同中”(being-in-common)上——作為亞里士多德眼里具有“政治”能力的動物，人類的漫長政治史中這個“同”從血脈、宗族、地域、國家一直擴展到“人”。然而當正在出現的新形態生命不再認為自己和智人“同”屬一類，那么共同體的群處生活(政治生活，bios)是否還可能？

與此同時，作為人工智能“指數級”發展的一個社會結果，在不遠的未來，99%的人很快將變成“無用之人”。不要說出租車司機這種工作，連今天還看上去很高大上的醫生、律師等工作，人工智能做得都將遠比人好，沒有人再會找醫生看病，因為后者比起人工智能醫生來，誤診比例高出太多太多。大量的人變成徹底多余、徹底無用后，人的大把時間可以用來無止境地玩VR(Virtual Reality的縮寫)游戲，或者去商業街排隊5小時買杯“網紅飲品”。蓋茨提出的對機器人收稅，實質上是試圖用政治干預的方式(收稅)來延緩人的無用化速度。但是該建議就算被采用，人的無用化進程究竟能被阻擋多久？“或許，智人也到了該退休的時候。”(赫拉利語)但問題在于，未來那些徹底無用的人，還真的會被繼續賦予民主的投票權，尤其是當“人類學機器”升級成為“賽博格機器”后？吳軍在其《智能時代》一書中提出“2%的人將控制未來，不成為他們或被淘汰”。那么問題是，淘汰下來的人怎么和那2%控制未來的人共同生活？這才是最為關鍵的政治問題。

那些“無用之人”，就是未來社會中的“神圣人”——在共同體中，他們以被排除的方式而被納入，成為沒有政治生活的“裸命”。一個可以想象的前景是，“無用階級”唯一之“用”是作為器官的供應者而被養著，像大白豬一樣吃好喝好，在引“人”入勝的“虛擬世界”整日游戲，直到被“用”的那一天……20年前的卓沃斯基姐弟(Andy & Lana Wachowski)執導的電影《黑客帝國》(Matrix)，就提供了這樣一個黑暗景象。對于該影片，齊澤克(Slavoj ?i?ek)提出了以下這一質問：為什么“母體”需要人的“能源”？齊氏認為，從純粹的(“科學”的)“能源解決方案”角度出發，“母體”能夠很容易地找到其他更為可靠的能源來源，且來得“方便”和“安全”——不需要專門為億萬的人類生命體單位而創立(并時刻調整與維護)那一整套極度繁復的虛擬的“現實世界”。在我看來，齊澤克的這個問題其實不難解釋：“母體”并非是無機的人工智能，而是掌握在馬斯克式“賽博格生命”手中的統治機器——賽博格因其碳基生命的物理基底，在基因工程與再生醫學邁過一個臨界點之前，仍然需要以智人作為移植器官之供應對象、實驗對象(甚至食用對象)……

赫拉利已經為未來的超強賽博格們，保留了一個格外符合“賽博格機器”之邏輯的名稱：“神人”(homo deus)。在這個“后人類”未來，神人居于生命等級制上端，俯視所有其他物種蒼生。智人肯定會因為多種原因而被繼續容許存活，但地位同今天的肉豬差不多，唯一可能有的變化是，按照今天虛擬游戲的發展(以及電影《黑客帝國》的引導)，神人很可能會“人道主義”地提供給智人一個完整的“虛擬現實世界”，里面具有自由、民主、人權、法治、資本主義等我們今天所熟悉的政治-經濟要素(當然，這樣的“虛擬世界”也可以有中世紀封建版或其他版本)……在這樣一個陰暗前景中，“人類學機器”最終把人自身吞滅：人本身，是這臺絞肉機最后的目標對象。對未來社會有一個觀點認為，屆時“無用階級”也不會全部沉迷VR游戲，而是會把時間大把地用于搞革命。然而，科耶夫(Alexandre Kojève)早已說了，歷史終結時代，人將成為“動物”或者說“自動機器”，而管理“終極國家”的方式便是極權主義：“‘健康’的自動機器是‘滿意的’(運動、藝術、性事等等)，而‘有病的’自動機器則關起來。”并且，當“賽博格機器”一旦啟動后，人就是當年“人類學機器”里的肉豬，我們“文明史”里面何曾看到肉豬成功革命？完全可以想象，未來的賽博格們會拍一部類似《猩球崛起》(RiseofthePlanetoftheApes)這樣的電影供他們自娛自樂：某個“肉人”突然獲取比“阿爾法狗”更厲害的智能，他/她領導那些已經成為寵物、食材或器官供應源的肉人們發動了一場“肉人崛起”的革命……然而，這樣的電影恰恰是拍給賽博格們看的，就像《猩球崛起》是拍給我們看的，而不是真拍給猩猩看的。

對“后人類”未來的上述政治哲學反思，其政治-實踐的信息就是：這個世界真正的政治行動者們(政治家、政治學者)實則在和推進“腦機融合”等技術的馬斯克們進行一場激進的賽跑，即：窮盡一切努力在未來幾十年間，真正在政治層面建立起“共富國”(commonwealth)，使得所有人都有平等機會享用到生物工程、仿生工程與人工智能工程領域諸種新技術帶來的最新利好。否則，未來的世界很可能不是硅基生命統治人類，而是馬斯克式“賽博格”統治一切。

從20世紀猶太人到未來“無用階級”

我們已經走到“人類紀”的邊緣。只要“人類學機器”在運轉，這個機器的絞肉機馬上要絞向人類自己，不管最后動手的是誰——未來具有“意識”的人工智能硅基生命(有可能)，賽博格人機一體“神人”(極其有可能)，又抑或智能的“猩人”革命性地崛起(極其不可能)……

提出“人類學機器”這個概念的阿甘本，并沒有在“人工智能”的討論語境中來思考它的操作，然而，他提出了如下洞見：該機器“這樣發生功能：將一個已經是人的存在從人類自身那排除出來，作為(仍)未是人的存在，亦即，將人動物化，將人之中的非人(無言語的低級人或猩人)隔離出來”。納粹政治便是建立在這臺機器之上的：從人類自身中排除出猶太人，將其隔離開并下降到動物的維度。

“人類學機器”對于阿甘本而言，實質上就是一臺制造維度區隔的機器，而我在本文中進一步提出，它是一個生產倫理-政治正當性的機器。在那正快速到來的“智能時代”，“無用階級”將被排除出來，成為“無智能的低級人”“猩人”；而高貴的“賽博格”(新“雅利安人”)對“無用階級”的任何行徑，都將變得正當。機器人(“機奴”)因為其高效優質的服務能力，將在未來繼續以被納入的方式被排除，而無用的智人則成為新一代神圣人(“猶太人”)，以被排除的方式被納入，亦即遭到“棄置”，即便被殺、被實驗、被取器官也將被視為正當。

而當賽博格們不再以“人”這個標簽作為自我標識(或接受赫拉利慷慨送上的“神人”標簽)時，“人類學機器”這臺絞肉機就將徹底吞噬人自身。那一刻確實可以被視作“奇點”，之后人類主義一切敘事都將徹底煙消云散(“人類學機器”彼時已成為“賽博格機器”)。也許半個世紀前的福柯是對的：他在《事物的秩序》最后聳人聽聞地寫下，“人將被抹除，就像畫在海邊沙灘上的一張臉”。

如果亞里士多德“人依其自然是政治的動物”這句論斷在今天還有任何意義的話，那么它就體現為這樣一個實踐性的要求：我們每個人——作為政治的動物——皆有責任去承擔阿甘本所說的“針對區隔的實踐-政治謎團的一個史無前例的研究”，從而更好地抵抗那不斷制造區隔(雅利安人/猶太人、白人/黑人/華人、1%/99%、神[神人]/人/奴隸/動物……)的話語機器。當下關于人工智能的討論，唯有加入這個政治向度，我們才有可能在那即將到來的“后人類”(非人類主義)未來中，加入一絲人類之光。

注釋：

①See Jeremy Davis,TheBirthoftheAnthropocene, University of California Press, 2016.

②庫茲韋爾：《奇點臨近》, 機械工業出版社2011年版，第1—5頁。

③一個人植入心臟起搏器，實質上就是初級款的“賽博格”了。

④“理論工具箱”，是福柯與德勒茲在一個對談中提出的研究方式。兩位思想家強調，“理論不是為了自身而存在”，“理論應該有用”。參見福柯、德勒茲：《知識分子與權力》，謝靜珍譯，載杜小真編：《福柯集》，上海遠東出版社1998年版，第206頁。

⑤這個評語引自基希克。參見David Kishik,ThePowerofLife:AgambenandtheComingPolitics, Stanford University Press, 2012, p. 39。

⑥Alex Murray and Jessica Whyte (eds.),TheAgambenDictionary, Edinburgh University Press, 2011.

⑦Giorgio Agamben,TheOpen:ManandAnimal, trans. Kevin Attell, Stanford University Press, 2004, p. 16.

⑧《荀子·王制》。

⑨參見《狗狗會吃掉主人的尸體嗎？嘗到血腥味后自動開始吞食》，新浪科技，http://tech.sina.com.cn/d/a/2017-07-18/doc-ifyiakwa4315629.shtml(于2017年9月7日訪問)。

⑩德里達在自己的自傳影片里曾說，他某次洗完澡裸著身體出浴室，盡管家里就他自己，但當他發現他的寵物貓正在看著他，在那一瞬間他忽然感到不適、并立即用浴巾遮蓋住了自己的裸體，只因他想到了如下問題——在這只貓的眼睛里，自己究竟是一個怎樣的“怪物”？