人工智能會給人類帶來怎樣的未來？

《智人之上：從石器時代到AI時代

的信息網絡簡史》

[ 以色列] 尤瓦爾·赫拉利 著

林俊宏 譯

中信出版社

2024年9月

2023年，全球多個國家共同簽署了關于人工智能的《布萊切利宣言》，宣言中寫道：“這些人工智能模型所具備的最重要的功能可能會造成嚴重的甚至是災難性的傷害，無論是有意的還是無意的。”人工智能的持續發展，會給人類帶來怎樣的未來？是否會像好萊塢電影里那樣，造反的機器人在街上追殺人類？

歷史學家尤瓦爾·赫拉利在《智人之上》一書中寫道：“雖然以上使用的是這種仿佛描述世界末日的語詞，但專家與政府并不是讓人聯想到那些好萊塢電影的畫面。這種情節一來實在不太可能發生，二來只會讓人們忽略真正的危險。”

在他看來，專家真正要警告的是另外兩種情況——第一，人工智能的力量可能會大幅加劇人類既有的沖突，讓人類形成內斗。

第二，硅幕所分隔的或許不是彼此敵對的人類，而是一邊為所有人類，另一邊為我們新的人工智能霸主。不論在哪里生活，我們都可能被一張看不透的算法大網束縛，它控制著我們的生活，重塑著我們的政治與文化，甚至是去改造我們的身體與思想，但人類卻再也無法理解這些控制著我們的力量，更別說加以阻止了。

在過去的十萬年里，智人一步步積蓄著力量，掌控著地球的變化。但持續不斷的征服和發明，也讓人類進入生存危機。全球生態問題的凸顯、虛假信息的泛濫，都困擾著人類。人工智能時代的前景也晦暗不明，它當然有令人振奮的進步一面，卻也讓人懷疑其是否會成為毀滅人類自身的殺手。

赫拉利在探討人工智能的問題時，并未將之作為新技術孤立看待，而是將其拉入人類社會歷史進程的大框架之下，從信息的歷史角度剖析世界和未來。

人工智能的本質是信息，人類社會的形成從未離開信息。赫拉利認為最初的信息模式和技術是“故事”，在他看來，故事是人類在遠古時代就發展出的生存手段和信息處理方式，也是最符合人類心智和思維習慣的溝通手段。故事的誕生是人類“認知革命”開始的標志，發生在大約七萬年前。

從口口相傳的故事，到文字書寫和印刷術的普及，再到互聯網和人工智能，不同時期構建的信息網絡塑造了人類世界，并將人類黏合為一個個社群。神話與官僚制度、智慧與權力、信息與真相之間，關系始終復雜，也因此影響著社會結構和不同路徑。就如赫拉利所言：“數萬年來，智人正是靠著發明與傳播各種虛構故事幻想和大量的錯覺——內容可能關于神祇、魔法掃帚、人工智能和取得許多其他事物來打造并維持諸多的大規模網絡。”只是，他隨即引用喬治·奧威爾的名言來形容智人這一行為的最終結果：“無知就是力量，無知無法通向任何地方。”

信息并不總會帶來真相，這絕不是網絡時代的癥狀，而是人類社會自使用信息以來就不可避免的暗面，人類對信息的利用，也從不是單純為了真相，而是為了實現各種不同目的、獲取各種利益，形成各種組織和網絡。歷史上對官僚制度和話語體系的構建，或是為了統治而創造的各種神話故事，都是維護秩序的信息網絡，它們也總是會為了秩序的維系而犧牲真相。

真理固然也能帶來權力，但在人類歷史上的大多數時間里，掌握權力的都是那些知道如何創造意識形態以維持秩序的人，意識形態本身也是信息的一部分。

也就是說，信息的首要作用是“連接”。赫拉利認為，古代社會的連接受制于人類無法突破的地理環境，呈現兩種形態：一種是早熟的政治體，依托于大區域和豐富物產，有效降低了統治成本，形成中心式網絡；一種是博弈的政治體，因為地域零散而邊緣，形成分布式網絡，彼此博弈。

前者更容易形成思想的統一，以穩定和秩序為優先項，形成專制政體，也從此難免治亂興衰的輪回。后者則通過博弈，逐漸推動信息與真相的接近，因此產生共和政體。英國就是后者的典型例子，《大憲章》是博弈的結果，百年戰爭讓它遠離歐洲大陸政治，大航海和煤炭推動了生產力。

而在工業革命后，分布式網絡曾經的優勢被中心式網絡學走，輔以中心式網絡原本的高效，使得不少國家實現了迅速轉型。但這種以專制為底色，以工業為推手的變革，正是阿倫特所說的“極權主義的起源”，也為人類帶來了巨大災難。

如今的算法和人工智能同樣是對分布式網絡的沖擊，對于有心獨裁的人來說，算法和人工智能堪稱中心式網絡的最好加持，是推動專制、塑造烏托邦的最有力武器。而且，信息的力量不再僅僅屬于掌控資源的國家，也屬于那些控制信息的公司和組織。科技巨頭控制著全球信息，構建了比歷史上任何帝國都更具影響力的數字帝國，影響著全球的政治經濟和文化。

《智人之上》提到，臉書、亞馬遜這些科技巨頭，絕不只是像忠仆一樣滿足著用戶的奇思妙想，遵循著政府的法規，而是正在越來越多地塑造著這些奇思妙想與法規。這些企業不但能直接聯絡到全球最強大的政府，還能投下巨額資金進行游說，以阻撓那些可能破壞其商業模式的法規。比如，它們曾經極力維護1996年《美國電信法》第230條，該條款規定線上平臺無須對用戶在平臺發布的內容負責，正是這則條款讓臉書無須在羅興亞人沖突這件事上負責任。

各大科技巨頭也能直接影響民眾的情感系統，而且它們還是操控用戶與選民想法的大師。在這種情況下，科技巨頭企業正在做的并非人類世界的真相，而是給人類強加一個扭曲的新秩序：“社交媒體算法只把人看成礦井，想要‘開采’更多的注意力。人類有豐富的情感，如愛、恨、憤慨、喜悅、困惑，但算法把一切簡化成一件事——參與度……正因為對人類的理解如此狹隘，所以算法創造了一個新的社會系統，鼓勵我們順從人類最基本的本能，同時阻礙我們發揮人類完整的潛能。”

與此同時，因為獨裁本身的脆弱與不合理性，人工智能也會制造反噬，為人類帶來禍患。在赫拉利看來，獨裁政權成為算法傀儡的風險遠高于民主政權，這是因為獨裁者需要維持脆弱的平衡，既要壟斷信息的發布，又要控制信息的口徑，操作難度比過往更大。

當然，人工智能并不是洪水猛獸。在人類社會的歷史上，所有威力強大的信息網絡都沒有天生的好壞之分，它總是取決于人們的設計和使用方式。赫拉利提到，金屬活字印刷術曾為歐洲帶來一場信息革命，使得基礎教育得以普及，宗教無法繼續壟斷知識，民眾也可以更為自由地交流信息。但這場革命也帶來了各種陰謀論，讓各種謊言流傳甚廣，比如獵巫事件便基于《女巫之錘》的傳播。

同樣，報紙和廣播等大眾媒體的發明，推動了社會議題的建設與傳播，促進了人類的大規模民主。但與此同時，專制集權同樣可以利用大眾媒體形成所謂的共識。也就是說，信息傳播的便利，對各種障礙的一步步消除，固然是人類的一次次巨大進步，但它未必會帶來真相和真理，也可能帶來謊言。所以，僅僅讓信息傳播更快更自由是不夠的，人們還需要科學解決“人會犯錯”這個基本問題，即通過構建網絡協同、能夠證偽的糾錯機制，實現事實與真相的發現和傳播機制。

與宗教不同，科學的核心恰恰在于自我修正的能力。科學之所以能推動人類知識的進步，是因為它允許質疑和挑戰，結論可以被推翻。赫拉利寫道：“自我修正機制需要不同的機構制度互相制衡。政府、法院、媒體、學界、民間企業，以及非政府組織，都可能犯錯、可能貪腐，因此都該由其他機構來制衡監督。而為了彼此監督，這些機構就必須擁有獨立獲取信息的能力。要是所有報紙都只從政府那里取得信息，就不可能揭露政府的貪腐內幕。要是學界的研究都只能依賴單一商業巨頭的數據庫，學者還敢批評該公司的運作嗎？而且，如果只有單一數據庫，想要審查就會易如反掌。”

赫拉利認為，人工智能的行為很可能不再受制于人類，甚至可能會構建數字屏障，將人類社會分割為敵對陣營，讓人類失去對自身命運的控制。在面對人工智能這一關乎人類存亡的重大技術革命時，人們需要全面的協作和更加謹慎的篩選與糾錯。