超越人類的科學

當人工智能主導科學實踐時，我們或許會發現研究結果變得奇怪而難以理解，我們應該為此感到擔心嗎？

我們這個時代的科學是計算驅動的。如果沒有模型、模擬、統計分析和數據存儲等技術，我們對于世界的認知就會緩慢得多。幾十年來，人類的求知欲在很大程度上借助硅基芯片和軟件得到了滿足。

已故哲學家保羅·漢弗萊斯（PaulHumphreys）將這個階段的科學稱為“混合式科學”，即科學發展進程中的一部分工作被外包給了計算機。然而，他認為這種情況可能不會再持續很久。早在十多年前，遠早于生成式人工智能興起之前，漢弗萊斯就有遠見地意識到，人類主導科學進程的時間已屈指可數。他設想了一個更進一步的發展階段，并稱之為“自動化科學”，即計算機將全面接管科學工作。屆時，計算機在科學推理、數據處理、建模和理論構建方面的能力將遠遠超過人類，以至于人類不再是不可或缺的。機器將繼續推進我們所開創的科學事業，并把我們的理論帶向全新的、不可預見的高度。

一些資料顯示，人類在知識獲取上的主導地位即將終結。最近一項針對人工智能研究人員的調查顯示，未來一百年內，人工智能有 50% 的可能性取代人類而從事所有工作（即便有些崗位我們更傾向于保留給人類自己，比如陪審員）。也許你對這樣的未來是否會成真或何時成真持有不同看法，但我希望你能暫時擱置這些成見，設想一下超級人工智能最終確實可能出現的情景。這將意味著我們可以把科學工作交給那些認知能力優于我們的新生代們，而它們將以我們難以想象的速度和效率完成這項工作。

這無疑將是一個陌生的世界。一方面，人工智能可能會探索人類科學家此前從未關注或缺乏動力去研究的領域，從而開辟全新的發現路徑。它們甚至可能獲得超出人類理解范圍的知識。那么，這會將人類置于何處？人類又該如何應對？我認為，我們現在就需要開始思考這些問題，因為用不了幾十年，我們熟知的科學就可能發生根本性的轉變。

盡管這聽起來像是科幻小說里的內容，但漢弗萊斯所說的“自動化科學”其實是人類科學發展長期趨勢中的又進一步。人類從未真正獨立完成過科學工作，我們一直依賴工具拓展觀察世界的能力，比如顯微鏡、望遠鏡、標準尺和燒杯等等。許多自然現象，如果沒有借助溫度計、蓋革計數器、示波器、熱量儀等儀器，我們是無法直接或精確地觀測到的。

當人工智能的貢獻開始以“數億年”來衡量時，人類就仿佛成了那個小組項目中最拖后腿的一員

計算機的引入，代表著人類在科學領域地位的進一步邊緣化，也就是漢弗萊斯所說的“混合式科學”階段?，敻晏亍ぶx特利（MargotShetterly）所著的《隱藏人物》（HiddenFigures，2016）一書（以及后來改編的電影）中有一個突出的例子：美國最初的太空飛行任務需要由包括凱瑟琳·約翰遜（KatherineJohnson）在內的人類數學家們進行計算工作，而在不到十年后的美國登月任務中，大部分計算任務已交由計算機執行。

隨后幾十年里，計算機的處理能力與運算能力呈指數級增長，而計算的成本卻大幅下降?，F如今，我們似乎已經進入了一個更高維度的“混合式科學”階段，對計算系統的依賴程度前所未有。例如，哲學家瑪格麗特·莫里森（MargaretMorrison）指出，計算模擬對于希格斯玻色子的發現至關重要，它幫助科學家識別目標信號，并從高能粒子碰撞中篩選出有用數據。

現在，人工智能已經開始深刻影響科學發展。例如，AlphaFold是一款基于蛋白質的化學組成，幫助預測蛋白質折疊結構的人工智能系統。雖然人類也能獨立于計算機完成這項任務，但過程費時費力且成本高昂。AlphaFold的開發者谷歌DeepMind公司稱，該系統幫助科學節省了“數億年的科研時間”。類似的好處也出現在多個領域：天文學與基因組學的大數據分析、數學新定理的證明、天氣預報、新藥研發等等。

當人工智能的貢獻開始以“數億年”來衡量時，人類就仿佛成了那個小組項目中最拖后腿的一員。我們不禁發問，人類是否已經進入了“自動化科學”的時代？然而，答案是否定的。目前，人類在科學中的作用仍然關鍵，我們提出問題、解讀結果，并最終決定科學發展的方向。

如果沿著漢弗萊斯的思路繼續推演，人類徹底讓出知識王座的時刻，將在更遠的未來到來。到那時，超級人工智能不僅能夠完成人類所設定的任務（這是對“混合式科學”階段的延續），還將具備自主設定任務的能力一它們會自己確定課題、收集數據、建立模型、發展理論，按照它們自身的價值判斷建立屬于它們的科學體系。

至此，我們有必要稍作停頓，去想象一個超級人工智能所特有的、不受人類生理和認知局限限制的廣闊可能性。許多科學研究工作之所以從未被嘗試，并非因為它們在理論上不可行，而是因為缺乏資金支持或是人類的興趣不足。舉個例子，當我寫下這段文字時，正看著院子里一片部分腐爛的葉子。也許一個超級人工智能會對建立一種預測模型感興趣，這種模型能精確到秒地解釋任意一片葉子的腐敗過程與速率，具體結果取決于樹種差異、葉型大小、微生物接觸歷史、是否具備陽光與水分等多種變量。這個問題雖然極其復雜，但對人類而言，似乎并無明顯價值。又或者，也許會有一個超級人工智能能夠構建模型，并精確地預測出他放在山中的雪球中的水分子何時會隨河流流經我家。這樣的精準預測需要對流域系統、流體動力學、氣候條件等進行極端復雜的建模。

我們人類并非無法解答這些問題。我相信只要投入足夠的精力和資源，科學家完全有可能開發出有效的預測模型來研究這些深奧的現象。但現實是，我們不會這么做。科學的發展從來就不是純粹理性的過程，它深受各種人為因素的影響，例如經濟價值、政治優先級、職業前景、文化趨勢以及各種偏見與信念。試想一下，如果這些“包袱”都能被拋棄，科學會變成什么樣？

“自動化科學”不僅使我們得以高效地探索那些我們曾經無法或不愿涉足的研究領域，還有可能徹底打破人類已有的理論范式。盡管人工智能最初可能會沿用人類的理論框架，但它們沒有義務一直這樣做，它們可能會很快轉向全新的世界觀。同樣地，盡管它們可能使用人類熟悉的數學語言和符號，但它們也不必受這些慣例的限制，完全有可能發展出全新的數學體系和表達方式。

考慮到人工智能很可能會迅速擺脫人類的認知包袱，我們可以借用維特根斯坦（LudwigWittgenstein）的觀點看待這一未來，把“自動化科學”場景看作人工智能開始說話并發展出獨立的新科學語言的階段。維特根斯坦在《哲學研究》（PhilosophicalInvestigations，1953）中有一句名言，“如果一頭獅子能說話，我們也無法理解它”。這句話看似矛盾，實則揭示了語言的意義深深植根于說話者的內在經驗之中?？茖W也是如此。當超級人工智能開始自主設定并執行研究流程時，它們的科研成果對我們來說，將變得晦澀而無法理解，因為我們缺乏必要的內在視角把握它們的科學邏輯。對于我們而言，那是一種“目標不明”的科學、“目的不清”的研究、“解讀方式未知”的知識體系。

我們必須承認，人類的認知能力可能是有限的。有些數學概念我們永遠無法理解，有些多維世界的現象超出了我們三維體驗的范疇。正如其他動物也有認知邊界一樣（哪怕是最聰明的黑猩猩也無法理解相對論），人類也可能存在類似的智力上限，我們無法掌握那些過于復雜艱澀的思想。即便我們并不受限于先天認知能力，那也存在一個問題，即在實踐中超級人工智能的推理過程也可能遠遠超出我們的理解范圍。例如，要理解“自動化科學”的成果，可能需要同時處理上百個復雜模型，每個模型都有上百個參數，而這些參數彼此聯系的方式與任何熟知的人類概念都毫無關聯。即便我們能單獨理解其中某些參數或模型，也很難將它們全部整合在一起。

如果你對科技、人工智能和“奇點”持不同態度，上述情景可能會讓你感到沮喪，抑或者會讓你充滿希望。于我而言，它更像是一幅陌生圖景。如果“全自動化科學”的成果已經超出了我們的理解范圍，我們為何還要投入資金和智力去推動它的到來？盡管常有人以“不管我們喜歡與否，未來無論如何都會來”為由來回避這個問題，但我認為，在我們主動放棄科學認知主導權之前，有必要認真思考我們有何理由走向這個未來。

其中一個可能的理由是，我們相信隨之而來的是積極進步。也許超級人工智能偶爾會創造出一些東西，譬如新技術、新資源或是新的問題解決方式。由于我在前文中已經做了大量預測，所以我對這些新發展究竟意味著什么持有開放態度，這里只是想指出，人工智能可能會偶爾地給予人類一些它們認為對人類有價值的東西。屆時，人類工程師（如果還有人未被人工智能取代的話）可以接手這些技術并加以應用，即使他們并不完全理解其中的原理。這類似于我雖然不懂顯示器或文字處理器如何生成和顯示文檔，但我仍然可以用它寫這篇文章。這項工作將不再像今天的科學與工程那樣依賴人的系統性理解，而是類似某種原始發現，譬如古人偶然發現藤蔓可用于捆綁樹枝、搭建庇護所；或是在世界上偶然發現某種資源或物質，譬如無意間發現了煤炭或青霉素等等。此外，也許會出現其他類型的科學，即我們試圖逆向解析人工智能贈予我們的成果，借此提升人類自身對于世界的理解與認知。這是一種回溯式的科學實踐，是對超級人工智能的“饋贈”進行再加工與再理解。

推動超級人工智能主導科學實踐的另一個動機，可能來自審美層面。對我個人而言，在思考我們社會為何要資助科學研究時，審美本身就是一個具有強大的驅動力的因素。雖然我沒有時間也沒有能力去理解所有的科學知識（誰又能做到呢？），但我仍覺得他們的求知渴望是一件美好且值得支持的事。即使這些研究并不一定直接影響我的生活或世界觀，但是知道這個世界正在被認知、被研究、被理解，這種想法本身就令人愉悅。那么，這種美感是否也能延伸到非人類的科學家身上呢？這也許不是立刻就能實現的。然而，未來那些與人工智能共存的人類后代們或許會將這個超越人類理解的社會視為理想社會。

當然，人類也可能出于自身的善意，從而推動“自動化科學”的發展，也許我們認為讓超級人工智能去發展它們自己的高階科學是件好事。盡管我們會因為人工智能掌握了我們無法理解的知識而感到困擾，甚至不安，但我們仍可能出于道德責任或對“人造后代”的善意而繼續推進這一進程。

還有其他動機可能會意外導向“自動化科學”的結果。比如說，我們或許認為向宇宙傳播智慧是人類的道德義務或責任使命。如果這些智慧恰好在星際旅途中選擇了“自動化科學”，那就順其自然吧。

同樣地，我們也有很多理由選擇不去推動“自動化科學”。例如，超級人工智能發現并傳授給我們的知識，可能會催生新的可怕的武器；又或是我們擔心，人工智能的內部自主性與缺乏監管機制，可能會增加末日災難發生的風險，如人類被奴役或滅絕；再或者，我們只是擔憂某些人工智能可能會表現出令人不安的人類式傲慢，在危險的、不道德的或違背人類價值觀的方式下進行實驗。

盡管存在這些擔憂，但如果技術上可行，我們恐怕很難阻止“自動化科學”時代的到來?？梢哉f，最有可能導致“自動化科學”出現的原因，并非深思熟慮后的決定，而是資本和競爭的力量使然。我們可能會在毫無準備的情況下進入這個階段，僅僅是由于我們“有能力”這么做，或是因為有人想第一個把它造出來。無論我們是否真正想要這樣的未來，它都可能會降臨。

細心的讀者會注意到，在列舉的關于推動“自動化科學”的動機中，有一些關鍵的“原因”被忽略了，那就是我們今天從事科學的初衷：渴望增進對世界的理解、提供對自然現象更有力的解釋、獲得更強的干預自然的能力。而這些恰恰不能成為推動“自動化科學”的理由，因為它本質上排除了“自動化科學”將從人類手中奪走認知權的王座使得我們無法真正理解那些復雜到超出我們認知范疇的新發現

人類參與科學實踐的可能性。“自動化科學”將從人類手中奪走認知權的王座，使得我們無法真正理解那些復雜到超出我們認知范疇的新發現。因此，它并不能滿足我們對理解、解釋、知識或控制的渴望。也許隨著時間的推移，我們可以學會放棄這些欲望，變成一個不再好奇、不再追問的物種。但我認為，就像未來總會到來一樣，無論我們是否喜歡這些欲望，它們也會不可避免地與我們共存。

那么，我們人類該何去何從？在最初提出“自動化科學”設想時，漢弗萊斯曾大膽預測它將取代人類科學，而我并不同意這一觀點。只要人類仍然保有對理解、解釋、知識與掌控的渴望，我們就無法停正行動，也就不會停正從事科學研究。我們人類創造美，追求友情與愛情，努力在生活中尋找意義與建構意義。同樣的道理也適用于我們追求科學的動機，我們注定會帶著好奇心去探索、解釋我們身處的自然世界。

如果“自動化科學”真的到來，它應該是一條全新的、可替代的、次要的發展路徑，并非取代人類科學，而是作為人類科學的補充。人類科學與“自動化科學”是兩種研究范式，以不同的動機、興趣、框架和理論，并肩作戰，共同展開科學探索。也許有些領域，人工智能根本就不感興趣，就比如人類對自身心智、選擇、關系和健康的探索。

的確，如果我們還想保持人性（我也只能希望如此），我們就必須繼續從事科學。如果我們不再是那個追尋美、建立友情、建構意義、對一切充滿好奇的物種，我們又到底是什么呢？也許是我的想象力有限，無法想象人類徹底放棄這些基本欲望的未來是什么樣的。當然，也有許多超人類主義者持不同觀點。但我并不認為堅持看到美、愛、意義與科學中的善，是一種缺乏創造力的表現。恰恰相反，我偏偏是在無望的好奇心中，保有對人類未來的絲絲希望。

資料來源Aeon