人工智能時代應該思考三個問題

胡泳

一、從與機器賽跑到第二次機器革命

每一次技術的變革都將在市場掀起翻天覆地的變化。近些年，以人工智能為代表的高科技革命正在逐漸改變人們的生活，并在市場上開辟出新的賽道。未來，技術與市場將擦出怎樣的火花？工業革命最早以技術——蒸汽機為開端，我們稱為第一次技術革命。蒸汽機擔任了一個重要角色。第二次技術革命是電力工業革命，美國是其中最大的受益國。像愛迪生等人在第二次技術革命時創辦的公司目前仍處于市場重要位置。第三次技術革命與我們息息相關。事實上，第三次技術革命已經進入尾聲，我們所說的移動互聯網、智能手機都是第三次技術革命的產物。在信息革命巔峰時期，主要以移動互聯網和智能手機為代表，因為智能手機是移動互聯網的承載體。事實上，從2010年開始，我們已經開始受到以人工智能為代表的高科技革命的影響，即AI革命，也被稱作是第四次工業革命。

1.第四次工業革命

第四次工業革命不同于之前的地方在于技術融合。融合是一個關鍵詞，模糊了物理、數字、生物領域之間的界限。而目前最受關注的是“網絡物理系統”，它代表著一系列的技術：納米、量子計算、生物技術、物聯網、工業互聯網、5G通訊技術，我們稱之為“第四次工業革命”。

2.第二次機器革命

這只是一個分法。人類發明各種各樣的東西，對我們所面臨的現象進行各種各樣的劃分。先不討論幾次工業革命的問題，我再來引入另一個劃分。

麻省理工學院的兩位教授合著的一本書叫《第二次機器革命》。這本書里給了另一種分法。

第一次機器革命核心討論的是人與機器的關系，那個時代人和機器是一種互補的關系。到第二次機器革命的時候，可能不是互補關系，而是替代關系。

3.第二次機器革命的邏輯

《第二次機器革命》的兩位作者認為基本邏輯就三個。

第一個，指數級增長。眾多例子證明，世界萬物很多是呈指數級增長的，導致一個想象力的極限問題，一個敏感的初始值問題。

第二個，數字化進步。多年來，我們通過數字化把大量的信息積攢起來，到底有沒有產生智慧？如果能夠把這些智慧挖掘出來，又有什么作用？

而這兩位作者通過選取一些關鍵詞，做成一個模型，用這個模型預測三個月之內美國某個地方房價的增長，發現預測的結果很精準。通過數字化信息轉換成智慧，他們叫做數字化進步。

第三個，組合式創新。創新是組合式創新，只要把積木的數量不斷擴大，反復搭來搭去，就是創新，這也就證明了融合的重要性。

這三點就是他們認為的第二次機器革命的邏輯，正是因為這個邏輯，我們不能夠簡單地跟機器賽跑了。

二、人們信仰的不同

1.人工智能與人類工作

這種情況下，大家非常在意的就是將來可能沒有工作，大部分人將會成為“無用階級”。

而這個觀點來自歷史學家尤瓦爾·赫拉利。赫拉利認為，未來的人工智能會導致無用的人類，21世紀最重要的不是反抗剝削而是反抗無用。無用的問題可能比剝削嚴重很多倍，工作在很多時候是每一個人的尊嚴所在，是人的價值所在。如果沒有工作，這個人可能失去尊嚴和價值。對此觀點，我們依然要劃一個很大的問號。

當然，有人反對這樣的觀點，代表性的人物就是李開復。李開復說：“赫拉利聳人聽聞，赫拉利雖然是一個歷史學者，但是他不懂技術。”李開復認為必須停止煽動人類對于AI的恐慌，而且“無用階級”這個說法本身是對人的巨大打擊，不可以隨便說人是無用的，有些事情AI無法替代人類。

但是李開復僅僅代表爭論的一方。討論AI對人類的影響這個話題，我們并非針對普通人，因為普通大眾對AI也不太了解。然后我們要看人類的精英是如何看待這個問題的，因為是他們在創造未來的世界。

但是在這個問題上，人類的精英們是分裂的。

2.兩個陣營

有一部分精英認為AI有非常大的問題，比如霍金。霍金說人工智能有可能會毀滅整個人類文明。

霍金去世前特別關心的是劍橋大學的未來研究中心，他說：“以往的人類研究歷史發現的真相只有一個，人類的歷史就是一部愚蠢的歷史，我們能不能反過來想一下人類在什么時候能夠不愚蠢？”所以劍橋大學建立的未來研究中心有一個非常簡單的使命，就是研究人工智能在未來會不會毀滅人類。

霍金曾經講了一段話：人工智能的發展可能幫助人類消滅疾病、消滅貧困、阻止氣候變化，但也可能產生人們不愿意看到的種種后果，包括產生自主武器，造成經濟災難，包括與人類發生沖突時擁有自己意愿的機器。

所以未來研究中心給歐洲議會寫報告，比如機器人會不會有電子人格，這是一個很嚴肅的問題。如果機器人有電子人格，我們造機器的時候一定要附加一個最后的開關，能夠讓機器人停止做某種事情。

大家可能看過克拉克的著名科幻片的《2001太空漫游》，其中的人工智能電腦哈爾因為不能控制那個開關，結果把人類毀滅了。也就是說，如果機器有自己的人格，甚至企圖對創造它的人造成傷害，我們該怎么辦？這是霍金擔憂的問題。

剛才說到精英群體觀點的分裂，還有其他的代表人物，比如埃隆·馬斯克。馬斯克一邊在研究AI，一邊在談AI的危險。他說：“人工智能的危險大于核武器的危險。”因為他認為人工智能專家未必懂AI，人類天生有過度自信的思維陷阱。還有比爾·蓋茨，他說：“我不知道大家為什么在現在還對這個問題毫不擔心，我不理解為什么有些人對于人工智能的未來毫不擔憂。”

這是我說的精英的一個陣營，另外一個陣營幾乎也同樣強大。比如扎克伯格。在人們討論人工智能可能造成人類末世場景的時候，扎克伯格說這種討論是毫不負責任的。人工智能領域最牛的華人之一吳恩達說他不擔心人工智能成為惡魔的原因就像他不擔心火星上會人口過剩一樣。

我特別喜歡的一個人工智能的專家佩德羅·多明戈斯，他看到馬斯克發了推特之后說：“我沒有什么話可說，只有一個詞叫做嘆息。”他認為馬斯克說的完全不對。

3.普通人該如何自處

這個問題似乎看上去是無解的，包括剛才講的人工智能到底會毀滅工作，還是創造工作。

有關AI的爭論一定是不會休止的，我們普通人應該如何自處，這是一個很嚴肅的問題。

4.信仰不同產生觀點分裂

事實上不光是人類的未來，或者人類工作的未來，也包括機器會不會有意識等等。當我們產生這些惶恐，問題不能得到解答的時候，其實有一個出路。這個出路就是要意識到，這些專家之所以對未來的前景產生不同意見，不是因為他們知道什么，而是因為他們的信仰不一樣。

為什么我強調這個觀點非常重要，我最后主題會落到這里。

比如那些預測我們一定會造出有意識的機器人的專家，是因為他相信一個非常基本的假設——人類在本質上是機器。如果人類是機器，我們當然最終可以建立一個有意識的機器人。而那些認為機器永遠不會產生意識的人，也不是因為他是意識專家，而是因為他相信人不可能是純粹的機械生物。

我說到這里大家可能會很疑惑，它不是一個意識問題，而是一個信仰問題。

如果一旦談到信仰問題，討論人工智能問題一定要解構一些最基本的東西，不能就事論事討論人工智能，而是要回到歷史上、回到整個技術的發展歷程上去解構一些最基本的東西。

三、人工智能時代必須思考的三個問題

1.三個問題

最終要解構的東西就是三個基本問題。

第一個問題，宇宙的構成是什么？這是從古希臘以來就爭論不休的一個事情。

第二個問題，我們是什么？我們是什么的問題就是人類是什么。

第三個問題，不是一個集體概念，是一個個體概念，而且是自我的問題。我是什么？

為什么這三個問題在今天變得如此重要，更多的是一個哲學的思考？

其實你會發現有關這三個問題的回答都不是單一答案，全部都是多重選擇題。

2.兩種思想流派的矛盾

舉一個簡單的例子。比如宇宙的構成，一直有兩種思想流派。一種認為宇宙的構成就是原子，單一的物質。從德謨克利特開始就認為，作為一個人在這里思考就是原子在運動，這叫一元論。另外一派人堅決不同意，認為的確有原子，但是人不只是由原子構成的，總還有點別的東西。科學家幾乎都支持一元論。科學家認為世界的萬事萬物都可以還原，如果不還原，這件事就沒辦法解釋。所以必須找到一個解釋，通過還原論來講，就一定能夠找到這個事情物質的原因。但是二元論者認為這是不對的。當然這里有很多的哲學思考。為什么有的人會相信二元論，有的人會相信一元論？其實本質上我們歸結為他們對現實本質的信仰是什么。

再次回到信仰問題，我們會說一元論是理性和現代的，但是這個世界上永遠有人相信理性和現代的東西是不對的，還有很多東西是精神的，是原子解釋不了的。這就是一元論和二元論的矛盾。

3.人類的信仰會決定人工智能怎么應用

因此我想說，以上三個問題是今天人工智能時代必須思考的三個問題，而它的思考方向本質上是要討論人類的信仰到底是什么。人類信仰的問題以往是哲學家們、神學家們的專利，但是今天的人工智能把這個問題推到所有人面前。那些做人工智能的人尤其需要考慮這個問題：你是秉持著一種什么樣的信仰在創造這個東西。因為這會決定這個東西將來會達到什么程度，會怎么樣應用。