赫拉利：AI對人類有哪些危險(xiǎn)

關(guān)于AI時(shí)代，我認(rèn)為需要探討三個(gè)關(guān)鍵問題：一是AI的本質(zhì)究竟是什么；二是AI給人類帶來了哪些危險(xiǎn)；三是在AI時(shí)代，人類如何實(shí)現(xiàn)繁榮發(fā)展。

首先，讓我們來談?wù)勈裁词茿I。

當(dāng)下，AI概念被廣泛炒作，幾乎所有機(jī)器都被貼上AI的標(biāo)簽，使其真正含義模糊不清。其實(shí)，AI并非簡單的自動(dòng)化。AI意味著一種主體性和主動(dòng)性，不是人類手中被動(dòng)的工具，而是一個(gè)智能體。一個(gè)機(jī)器要成為AI，必須具備自我學(xué)習(xí)、自我改變、自主決策的能力，甚至能夠發(fā)明新的想法。

以咖啡機(jī)為例，當(dāng)你按下按鈕，咖啡機(jī)按照預(yù)設(shè)程序制作一杯咖啡，這只是普通的自動(dòng)化設(shè)備，并沒有創(chuàng)造新事物。然而，若當(dāng)你走近咖啡機(jī)，它便說道：“我已監(jiān)測你數(shù)周，基于我對你和其他人的了解，推測你可能想要一杯意式濃縮咖啡或美式咖啡?！边@就體現(xiàn)了AI的學(xué)習(xí)能力，學(xué)習(xí)和創(chuàng)造新的東西。

倘若第二天，它又聲稱創(chuàng)造出一種名為“Best"Espresso”的新咖啡口感還優(yōu)于普通咖啡，這便是AI自我創(chuàng)造的體現(xiàn)。

從主體性角度來看，AI是一種異質(zhì)的非有機(jī)智能體，其智能不同于人類智能，甚至超越了有機(jī)體的智能范疇。它能夠作出決策、產(chǎn)生想法，而且這些想法可能是人類難以想象的。

就像2016年Alpha"Go擊敗人類圍棋冠軍，其意義在于它發(fā)明了一些前所未有的策略，這是數(shù)千年來人類棋手從未想到過的。如今，AI能創(chuàng)造新的游戲方式、咖啡品種或許無關(guān)緊要。但設(shè)想一下，未來它若能發(fā)明新的軍事戰(zhàn)略、金融策略、新型武器、全新貨幣甚至新的意識(shí)形態(tài)或宗教呢？

不可否認(rèn)，AI具有巨大的積極潛力，它能夠在諸多領(lǐng)域助力人類，比如發(fā)明新藥，以及應(yīng)對氣候變化。然而，AI也帶來了諸多挑戰(zhàn)與威脅。其作為一種異質(zhì)性智能體，具有不可信和不可預(yù)測的特性。

其次，AI帶來的危險(xiǎn)到底是什么？

在全球旅行期間，我常常詢問那些主導(dǎo)AI發(fā)展的人士兩個(gè)問題。第一個(gè)問題是，為何在風(fēng)險(xiǎn)眾多還要如此快速地發(fā)展AI。他們回答，盡管有危險(xiǎn)，最好能謹(jǐn)慎前行并加大安全投入，但如果放慢速度，競爭對手卻不停步，就會(huì)在AI競賽中落敗，所以必須加快發(fā)展。接著，我會(huì)問第二個(gè)問題：你覺得可以信任正在開發(fā)的超智能AI嗎？有趣的是，同樣是這些人不信任人類競爭者，卻聲稱可以信任AI，這無疑是一個(gè)悖論。

人類相互交往已有數(shù)千年歷史，我們對人類的心理、生理，以及人類對權(quán)力的渴望和控制權(quán)力欲望都有一定了解，并且也探索出了許多建立信任的方法。

而如今，眾多能夠連接全球80億人的合作網(wǎng)絡(luò)不斷涌現(xiàn)，這些陌生人能夠攜手為人類生產(chǎn)食物、研發(fā)藥物、提供保護(hù)。盡管人類之間的信任問題尚未完全解決，但至少我們清楚面臨的挑戰(zhàn)是什么。

相比之下，人類與AI打交道的經(jīng)驗(yàn)幾乎為零。雖然我們剛剛發(fā)明了AI的最初原型，但它們已經(jīng)出現(xiàn)撒謊、偏離預(yù)期的情況。倘若未來有成百上千萬的超級智能AI與人類進(jìn)行互動(dòng)，將難以預(yù)測這些AI智能體之間以及其與人類間的互動(dòng)會(huì)有何結(jié)果。

誠然，目前是人類發(fā)明并設(shè)計(jì)了AI，努力讓其對人類安全。但要知道，AI具備學(xué)習(xí)和自我改變的能力，無論如何設(shè)計(jì)，它們都可能以不可預(yù)測的方式發(fā)生改變。

可以將AI革命類比為外星人入侵。想象一下，"2030年高智力的外星人軍艦將抵達(dá)地球，他們或許能幫助我們治愈癌癥，讓世界變得更加和平繁榮。但大多數(shù)人憑直覺就能明白，將未來完全寄托于外星人的善意是一場巨大的賭博。

同樣，若認(rèn)為所開發(fā)的AI值得信任，會(huì)成為人類的忠實(shí)奴仆，這也可能是一個(gè)巨大的錯(cuò)誤。

最后，如何在AI時(shí)代實(shí)現(xiàn)繁榮發(fā)展？

答案很簡單，那就是人類只有團(tuán)結(jié)協(xié)作，才能夠控制AI；反之，如果人類相互爭斗，那么AI將反過來控制我們。所以，在開發(fā)超級智能AI之前，首先需要在人類之間建立更多的信任。

然而，令人遺憾的是，當(dāng)前人類之間的信任在瓦解，國際機(jī)制的基本范式和規(guī)則遭到破壞。從本質(zhì)上講，合作是生存的必要條件。舉例而言，我們每秒鐘都在呼吸，每一次呼吸都是一種信任——信任外界的空氣。這種信任和呼吸是生命的象征，如果失去對外部世界的信任，停止呼吸，生命也將終結(jié)。

每個(gè)人都屬于某個(gè)族群，所有人都屬于人類大家庭。在AI時(shí)代，如果我們忘記共同的遺產(chǎn)，不信任他人，就會(huì)成為失控AI的犧牲品。

許多人認(rèn)為歷史遺留下來的只有痛苦和恐怖，因此想要擺脫過去的恐懼。當(dāng)人們看向其他國家和其他人時(shí)，心中或許只剩下焦慮。誠然，這種對恐懼的焦慮對于生存至關(guān)重要，在某些時(shí)候還能保護(hù)我們。但歷史告訴我們，信任比恐懼更為重要。為什么地球是由人類主宰？并非是因?yàn)槿祟惐绕渌麆?dòng)物更聰明，而是因?yàn)槲覀兏萌绾闻c陌生人建立信任并展開合作，這種能力經(jīng)過了數(shù)千年的錘煉。

在AI時(shí)代，想要生存和繁榮，我們需要更加信任他人，這一點(diǎn)比信任AI更為重要。

（本刊記者謝瑋據(jù)演講整理，未經(jīng)本人審核）

責(zé)編：孫庭陽""suntingyang@ceweekly.cn

美編：孟凡婷