AI會演變成一種新人類嗎？

一

最近這些年，最火熱的技術好像是兩種：生物工程技術和人工智能技術。這兩大門類的技術都很了得，不僅將大規模改變世界的面貌，而且將改變人自身。我常說，這是兩面夾擊，人工智能要把機器變得越來越像人，生物工程要把人變得越來越像機器。

生物工程技術和人工智能技術，兩廂相比，我估計，生物工程技術帶來的變化會更根本。據說，生物工程技術不用多久就能夠讓人長生不老。在很多人看來，長生不老是所有愿望里最大的愿望——無論什么愿望，都得人活著才能實現。但退開一步想，人終有一死，才會去努力實現愿望，真若永無死日，那還急什么？今天、明天或任何一天，所有的日子都一樣。人想多活幾天，人有這個愿望大概是事實。不過，長壽作為一種可欲的東西，在各種文化里地位不同，好像在咱們中國擺的位置最高，在古希臘，極流行的觀念是人過完了青壯年就該去死了。我其實挺懷疑人是不是真的都愿意長生不老。看著一群活蹦亂跳的孩子，大家都開心，看著年輕人旺盛生長，大家都開心，我們老年人要是都不讓出地方，孩子和青年往哪兒長呢？

不過，今天的主題是人工智能，還是回到這個題目上來。我們街上的老百姓，說到人工智能，首先想到的大概是科幻電影里的電腦人。電腦真能變成人嗎？

人工智能進步飛快，在很多特定方面已遠遠強于人類。但我以為，電腦不會成為人。人工智能跟人的智能有根本的區別。人類智能是有機體的智能，所以，人類智能連著意識，連著欲望和感覺等等。我們需要有智能才能制做衣裳，才能生火，而這智能是跟感知連在一起的。我們知冷知熱，感知到降溫了，于是要添加衣服或生火。我們之所以感知到降溫了，那因為我們是恒溫動物。溫度計可以測量溫度，但它不感知冷熱。我們感知這個世界，因為我們是有機體，有血有肉，有各種各樣的欲望。所謂智能，并不只在腦力里，智能體現在手和腳上，體現在人的方方面面，比如，體現在說話的聲調里。

總之，計算能力這種“智能”跟人類智能不是一回事。人的智能跟感知連在一起，感知跟欲望連在一起，欲望跟血肉連在一起。智能在人身上很突出，但它仍然是人這個有機體的一個方面。

所以，我倒不像有些人那樣擔心電腦人有朝一日會統治人類。他們說，人工智能的威脅與原子彈的威脅不同類，原子彈的危險是毀滅人類，電腦人的危險是另一種，它們將超過人類，成為一個“更高”的群體，成為人類的統治者。可機器為什么要控制人類呢？人要控制別人，因為他要利用別人，人對人工智能毫無用處，他干嗎要控制人類呢？人要控制別人，因為他害怕，人工智能沒有fear，他干嗎要控制人類呢？電腦人控制人類，那只是科幻電影的遐想。

二

但機器人能不能發展出感覺、欲望、感情呢？就說自保這種欲望吧。就我們人類之為動物而言，自保是一種基本的欲望，有了這種欲望，就會生出其他多種多樣的欲望，例如，口渴了要喝水，肚子餓了要吃飯，受到侵害要奮起反抗。

也許，有朝一日，我們會為電腦也設置自保的程序。有了這個基本的程序，它也許會自己生成其他程序，電池缺電了它就設法充電，受到侵害就奮起反抗，等等。這的確是可能的。但我們仍然不可能為電腦設置總體的自保程序。或這么說，總體上的自保根本不是設置出來的，對有機體來說，自保是構成性的，是有機體的定義的一部分，不需要設置。而對電腦來說就不是這樣，自保不是它的一部分，所謂給電腦設置自保的程序，指的本來就是設置一系列缺電了就設法充電之類的程序。

我們也許可以承認，按照我們今天所理解的欲望，電腦人不會產生這樣的東西。那我們能不能重新定義欲望？我們不可能單單重新定義欲望，為此，我們需要重新定義感知、感情、理解、理想、精神，一句話，我們需要重新定義人。

我并不是在主張有一種亙古不變的人性。今人的人性不是一萬年前智人的人性。在那時的智人看來，今人的人性已經面目全非。不過，人性的改變和技術造就的改變不是同種類型的改變——人性的改變不是設計出來的（歷史上不止一次有政治家和思想家企圖通過設計來改變人性，但他們無一例外都失敗了）。簡單說，人性的改變坐落在人性的連續性之中，這樣的改變我們稱作生長。對這種連續性的變化，調整定義是有意義的，但對人工智能，干嗎非要用它來重新定義人呢？

我不怎么擔心電腦會變成人，變成一種超級人類，然后來統治人。但我倒相信，人工智能技術會大規模地改變現有的人類，最后變得面目皆非。

技術當然不是今天才有的，不過，今天的技術不同于以往的技術。粗略說來，人類技術經歷了三個大階段。最初，技術是工匠們琢磨出來的。后來，十八、十九世紀以來，技術是科學技術——現代技術不再是匠人摸索出來的，而是基于科學原理發明出來的。工業革命依賴的是這樣的技術。

人工智能代表的是第三波技術發展。這一波與前兩波的主要區別在于它做的是“腦力勞動”。人的能力可以粗分為體力和腦力。工業革命引入了一系列新能源、新機器，它們把很多體力勞動接過去了。人工智能將把很多腦力勞動接過去。人們預料，人工智能將比工業革命給社會帶來更劇烈的改變。因為體力本來就不是人的特長，腦力才是，柏拉圖在《普羅泰戈拉篇》里就說過，人沒有翅膀四足尖牙，勝過動物的只在于才智。要是腦力也用不著人了，人還能干什么呢？

腦力和體力的區分有時有點兒誤導。剛才我說，智能并不只在腦力里，我們一投手一投足，動手動腳，都體現智能。這意味著，所謂腦力勞動不只是腦子的勞動，人類的一切活動，都有腦力在內。結果，人工智能有可能把幾乎所有勞動都接過去。

人類發明各種技術，本來就因為技術可以代替人類勞動。但也有人擔心，人工智能技術只有少數精英能夠掌握，大多數人參與不到其中。一方面，他們的勞動將越來越“不值錢”。另一方面，他們的生活將越來越依賴于少數精英的發明。社會結構因此會發生巨大變化，只有少數人是有用的，大多數人變成了“無用階級”。

我們也許覺得這是杞人憂天，不勞動了，還可以玩嘛。我們可以把世上的事情分成我愛干的和我不愛干的，有了電腦人，我們就可以把我們不愛干的事情派他去干，然后把時間省下來干我們愛干的那些事，比如說打球、聽音樂會、談戀愛。談戀愛我就不派電腦人去，這么好的事派它去干嗎啊？

我們是可以區分哪些事是我們不得不做，哪些事是我們樂意做的，但是這種區分挺有限的。比如說帶孩子，換尿布不愛干，逗孩子笑愛干。但你不給孩子換尿布，逗孩子玩就沒那么樂。好玩的事情怎么跟有點兒苦有點兒累的事情連在一起，我們弄不大清楚，但我們大致知道，你為孩子付出了很多辛苦，你跟他的相處就會有一些不同的品質。等到把不愛干的事情都交給機器人以后，剩下的愛干的事情的性質也會改變，你作為一個人的品質總體上也會改變。

我們勞作得很辛苦，難免有時會希望別人做這些工作，我們來享受勞動成果。不過，如伯納德·威廉斯指出的，人并不是只要享受的生物，我們不僅希望獲得結果，我們也希望這些結果是親力親為的結果。馬克思認為，勞動創造了人，勞動是人的基本需求。勞動與享受割裂開來，勞動由機器完成，人單單享受結果，人的定義就改變了。

三

我們實際上正在經歷這個過程。我們對世界的感知越來越集中到結果這一端。我們住在樓房里，不知道樓房是怎樣蓋起來的，打開餐盒，里面是大米飯，但我們沒見過水稻長在地里是什么樣子的。我們通過各種屏幕看到海底世界、太空、非洲的動物、世界各地的騷亂，但沒有哪樣事情是我們親歷的，沒有哪樣東西是我們親力親為的結果。不斷進步的技術把人類勞動一項一項接過去了，我們不必經歷勞動的艱辛就能夠享受勞動的成果，這讓技術樂觀主義者歡欣鼓舞——技術把苦活累活難活都干了，我們享受成果，有何不好？但事情還有另一面，那就是，我們只享受結果，不再能感知產生結果的過程。僅僅感受結果是薄瘠的感受，而我們的感受正在變得越來越薄。

現在哲學界討論人類智能和人工智能的區別，很大一部分集中在人具有意識這一點上，而所謂意識，被說成是主觀體驗，是跟什么東西都不相連的qualia。人不再是欲望、勞作和結果之間的聯系，人變成VR游戲室里一堆主觀體驗，當然，人的定義就變掉了。

人工智能發展起來，不僅社會結構會發生很大變化，人自身也會發生很大變化。技術不只是我們可加以利用的東西，技術改變我們自身。有一些改變是明顯的。我們習慣了GPS定位，我們的方位感就可能退化。等我們習慣了讓電子設備來采集關于自己身體的數據，我們對自己身體的感知很可能變得越來越遲鈍。技術改變我們與世界相處的方式，隨著與世界相處方式的改變，我們自己也在改變。

我不認為人工智能會演變為一種新人類，但人工智能倒是很可能把人變成新人類。

技術進步會改善人類生活，同時使未來面對更大風險。可我說的好像都是風險那一面，這并不奇怪。有人把知識人的任務設想為指導社會發展。我倒覺得，知識人從來沒有成功地指導過社會的發展。社會自行發展。知識人的任務與其說是指導社會，毋寧說在于指出這個發展過程中的危險。是啊，社會自行發展，這可不一定是朝著良好的方向發展。

海德格爾就是這樣看的，他說，技術是這個時代的存在天命，技術發展，你喜歡也罷不喜歡也罷，技術仍將征服世界。是啊，人能夠控制其他人，控制異端思想，唯獨控制不了技術的發展。如果有一天，人類只享受結果，產生結果的過程都交給人工智能去施行了，真到了心想事成那一天，那么我們就不得不說，技術主宰了人。

借助技術，我們把過程和結果分離開來，我們只要得到結果就好了。這一點，在人工智能那里最為突出。

AlphaGo戰勝了李世石。有意思的不是人工智能贏了——這只是早晚的事兒。我覺得最有意思的，是AlphaGo的設計者并不知道它是靠什么理路贏下來的。我跟圍棋高手下棋，不論他多高，我們兩個都是在用同樣的“圍棋語言”思考。而AlphaGo依靠的根本不是我們的思維方式，而是一種我們無法理解的思維方式——如果還叫它思維的話。

人們從各個角度思考人工智能，怎么提高人工智能的水平，人工智能會怎樣改變我們的社會，改變我們自己，等等。我自己的興趣則在另外一個方面。

我更關心的是我們已有的東西，想要更恰當地理解我們已有的東西。比如，通過對人工智能的了解，更恰當地理解人類自己的智能。按現在流行的看法，人工智能的發展讓我們看到，智能的本質是計算。我的看法正相反，通過圍棋程序的發展，我們能夠看得更加清楚，人類智能的本質并不是計算，而是對話，是互相理解。下棋是一種對話——圍棋也叫“手談”。實際上，人的所有智能都是一種對話，哪怕我是一個人在思考。我獨自證明了費馬大定理，最后一刻我說，我明白了；我明白了什么？我看到了過程與結論之間的聯系。因此，我明白了，我也可以讓別人明白。然而，我們并不知道在AlphaGo那里，過程和結論之間是個什么聯系。在我看，這才是人類智能和人工智能的本質區別。

（摘自上海文藝出版社《走出唯一真理觀》）