21世紀人類滅絕的風險水平是六分之一

托比·奧德

今天核武器造成的生存性風險很可能依然來自美國和俄羅斯龐大的核武儲備。洲際導彈的研發使雙方都有能力摧毀對方的大部分導彈，這一過程中的預警時間只有30分鐘。因此兩國都把很多導彈調整為“一觸即發”的響應等級——10分鐘內就能發射。處于這種響應等級的導彈非常容易誤射，也可能因為誤報警而被有意發射出去。正如我們將在第四章里看到的，冷戰結束時還發生了一系列可怕的誤報警事件。從更長的時間尺度來看，還會有其他風險出現：其他國家可能發展起龐大的核武儲備，軍事技術創新有可能削弱核威懾原則，地緣政治局勢改變也許會再次引發大國之間的軍備競賽。

核武器不是人類面臨的唯一威脅。只因為核武器是首個威脅到人類的風險，所以才會至今仍是我們的關注焦點。然而，其他風險也還是存在的。

工業革命帶來的繁榮程度指數式上升的背后，是二氧化碳排放量的迅速增加。工業化進程的小小副作用，最后竟演變成對健康、環境、國際穩定的威脅，甚至可能危害到人類自身。

核武器和氣候變化有明顯的相似和不同之處。它們都會大幅改變地球溫度，從而對人類造成威脅，但一個是使溫度降低，另一個是升高。一個作為意料之外的科研突破產物橫空出世，另一個則是舊有技術在數個世紀里持續擴大規模的結果。一個驟然加劇為災難的風險程度較高，另一個則是持續漸進的過程，其影響遲遲才開始產生，但必然會造成某種程度上的災難，主要不太確定的是會糟糕到何種地步。一個涉及機密的軍事技術，由一小部分手握大權的實施者控制，另一個則牽涉到全世界每個人的選擇所帶來的微小效應的總和。

隨著技術繼續進步，前方出現了新的威脅。比起氣候變化，這些威脅可能跟核武器更像：由意外的突破、驟然發生的災難和一小批實施者采取的行動引起。我尤其關注兩種新興技術，本書第五章將談到它們。

自農業革命以來，我們一直在改造周圍動植物的基因以適應我們的需要。但是，遺傳密碼的發現，以及讀寫遺傳密碼的工具的發明，讓我們為了新目標而重塑生命的能力出現了大爆發。生物科技將帶來醫藥、農業和工業方面的重大進步，但它也會給文明和人類自身帶來風險：不管是合法研究中的事故，還是經過基因改造的生物武器，都會帶來風險。

我們還見證了人工智能系統能力的快速發展，人工智能在認知、學習、通用智能等傳統上薄弱的領域產生了巨大進步。專家們認為，人工智能有可能在21世紀就在通用智能方面超越人類水平——具備克服各種困難以實現目標的能力，而不僅僅是在有限的領域里領先。把人類提升至掌控萬物的地位的正是我們得天獨厚的腦力，如果我們把這種能力傳給我們的機器，那么占據這種獨特位置的將會是它們。這種情況讓我們不禁思考人類還能不能繼續掌握主導權。我們必須學會如何讓越來越聰明、自動化水平越來越高的機器和人類的利益保持一致，并且需要在這些機器變得比我們更強大之前做到。

人類面臨的這些威脅，以及我們應對它們的方式，定義了我們這個時代。核武器在20世紀出現，帶來了可能導致人類滅絕的真實風險。在技術持續加速發展的情況下，如果不為保護人類做出真正的努力，那么我們有充分理由相信風險在21世紀會更高，而在下個世紀里，隨著技術不斷進步，風險還會增加。人類自身造成的種種風險超過了所有自然風險的總和，因此，人為風險決定了人類還剩多長時間可以懸崖勒馬。

我不認為科學進步必然導致人類滅絕，甚至說這并不是最有可能出現的情況。我要提出的是，在人類力量的增長中有一股強有力的趨勢，當這股趨勢到達某個節點時就會對我們的生存造成嚴重的威脅。我們如何應對這類風險取決于我們自身。

我也不反對技術。技術已經證明其本身對提升人類生存狀況有巨大價值，而且，技術是人類實現長期發展潛力的基礎。沒有技術，我們會在小行星撞擊之類不斷累加的自然風險中滅亡;沒有技術，我們將無法實現本有能力實現的高度繁榮。

真正的問題與其說是技術的泛濫，不如說是人類智慧的缺乏。卡爾·薩根說得很好：

我們面臨的很多危險實際上源于科學與技術——但更根本的問題是，我們變得更強大，卻沒有相應地變得更有智慧。技術賦予我們改變世界的力量，手握這種力量的我們需要具備從前不曾有過的深思熟慮和高瞻遠矚。

甚至有位美國總統在任時也提倡這種理念：

人類這個物種特有的那些閃光點——我們的思維、我們的想象、我們的語言、我們使用工具的能力、我們獨立于自然并根據自己意愿改造自然的能力，恰恰也是它們賦予我們造成最大破壞的力量…… 技術的發展若不伴隨人類制度的相應進步，就會使我們遭遇滅頂之災。有了能實現原子裂變的科學革命，也應該有一場道德革命。

我們必須獲得這種智慧，進行這場道德革命，因為我們無法從滅絕中重生，我們不能坐以待斃——我們必須積極行動起來。而且，由于獲得智慧和發起道德革命都需要時間，我們必須馬上行動。

我認為我們可以渡過這個難關。不單因為這些挑戰較小，還因為我們會奮起反擊。正因為這些風險是人為造成的，所以人類也有辦法應對它們。失敗主義的情緒毫無必要，只會適得其反——讓預言自我實現。相反，我們應當在需要保護的長期未來積極愿景的指導下，以清晰而嚴謹的思考正面迎接這些挑戰。

這些風險到底有多大？很難給出精確的數字，因為這些風險是復雜的（因此無法應用簡單的數學分析），也是空前的（因此無法通過長期頻率來估計）。不過，至少有必要試著進行量化估算。“人類滅絕的嚴峻風險”這類定性說法代表的風險水平，可以理解為1%～99% 這個區間內的任何一個數字，這只會讓人更加困惑。因此我將提供量化的估計，當然，估計不可能精準，有待進一步修正。

據我推測，20世紀人類滅絕或發生不可恢復的文明崩潰的風險水平是1%。根據我目前掌握的所有信息，我認為21世紀人類滅絕的風險水平大概是1/6：一次俄羅斯輪盤賭。如果我們不齊心協力，如果我們繼續讓自身力量的增長超過智慧的提升，我們在下一個世紀面臨的風險會更高，而且還會不斷增加。

這些是我們面臨的最大風險。如果我對風險規模的測算大致沒錯的話，我們是不可能在這些風險中生存太久的。這是一種不可持續的風險水平。因此這段生存期無論如何也不可能持續超過若干個世紀。

人類要么掌控住風險并將其降低至使人類可持續生存的水平，要么自取滅亡。

若將人類歷史比作一次穿越荒野的壯游，行程中必有誤入歧路和艱難跋涉的時候，但也會有突飛猛進和邂逅美景的時候。20世紀，我們已翻越崇山峻嶺，并且發現前面只有一條崖邊小道：緊臨搖搖欲墜的險境邊緣。往下面的深淵望去，會令人頭暈目眩。如果我們掉落下去，一切都將終結。我們不知道掉下去的概率有多高，但這是我們遇到過的最大危機。

在人類歷史中，這段相對短暫的時期構成了特殊的挑戰。我們的應對方式將定義我們的故事，未來的歷史學者將為這個時期命名，學童們將學習這段過往。但我想我們現在就該給它一個名字，我稱之為“危崖時期”。

危崖時期給我們的時代賦予了巨大意義。在歷史的漫長過程中（如果我們能夠存續那么久），這正是讓后人銘記我們這個時代的東西：因為這個時代危機重重，也因為人類打開了視野，開始成熟起來并確保自身的長期未來能豐饒昌盛。這就是我們這個時代的意義。

我并不是在美化或抹黑我們的時代，我想表達的是，我們的行動事關重大。我們是偉大的還是可怖的將取決于我們如何利用這個機會。我希望我們能生存下來，告訴子孫后代我們沒有袖手旁觀，而是利用這個機會完成了歷史賦予我們的任務。

保護人類免遭這些風險應當是我們這個時代的中心和首要任務。我并不是說全世界只有這么一個議題，人們應當放下其他一切重要的事情。但如果你發現自己能發揮某種作用，比如你有相關的技能，或者你年紀尚輕，可以塑造自己的道路，那么我認為保護人類度過這段危機歲月是你所能追求的最崇高的意義。

（責編：栗月靜）

人們越來越清晰地認識到，人類活動是塑造環境的支配力量。科學家認為，人類不但就其自身而言很重要，也在客觀上對生物、地質和氣候等影響重大。如果在遙遠的未來有地質學家的話，他們會辨別出我們這個時代的地質巖層和以往形成的巖層相比發生了根本性的變化。

因此，當代地質學家正在考慮正式命名這種變化——改變地質年代的分類方式，引入一個名為“人類世”的新世代。科學家提議作為這一世代開端的事件有巨型動物的滅絕、農業革命、穿越大西洋、工業革命、早期核武器試驗等。

這個“人類世”和“危崖時期”一樣嗎？如何區分兩者？

人類世是人類對環境產生深刻影響的時期，而危崖時期則是人類自我毀滅風險極高的時期。

人類世是地質年代，地質年代通常持續數百萬年，而危崖時期是人類歷史中的一個時期（類似于啟蒙運動或工業革命），很可能在幾個世紀內就結束了。

兩者都可以用第一次原子彈爆炸試驗作為開端，但這樣劃分的原因是不同的。人類世以核爆為開端主要是為了定年方便，危崖時期始于核爆則是因為核武器對我們的生存造成了威脅。