人工智能、物理學、宇宙和科幻

2018年5月28日，復旦大學舉辦的上海論壇進行了題為“腦科學與機器學習：下面是什么？”（Brain Science and Machine Learning：What Next？）的高端對話，由復旦大學新聞學院教授張力奮主持，演講嘉賓包括英國皇家學會院士、2017年“大腦獎”得主彼得 · 達揚（Peter Dayan），倫敦大學學院計算機系教授李兆平，復旦大學物理學系教授施郁，復旦大學哲學學院教授徐英瑾，小i機器人公司CEO朱頻頻。我的演講主要討論了人工智能與物理學的交叉。

在演講后的對話環節，張教授問：“兩年以后，人工智能會發生一些什么？”我的回答是：“可能會有初步幫助科學研究的人工智能軟件或者平臺出現。” 在演講最后，我也暢想了人類的終極未來。當宇宙局部乃至整個宇宙不允許人類作為生物體繼續生存時，也許我們只好將意識上傳到能在宇宙中存在下去的其他介質。即使不能意識上傳，也可以讓人工智能繼續我們探索宇宙規律的使命。作為宇宙的一部分，人類對科學規律的探索使得宇宙更有意義。

最近幾年，相關領域的進展與我的討論和展望很契合，特別是機器學習與人工智能在各領域的應用情況。機器學習的應用如雨后春筍，數不勝數，“用于科學的人工智能”（AI for Science）得到了蓬勃發展，在諸如材料和藥物設計、精確醫療、天文學數據處理、計算機軟硬件設計、與腦科學的交叉、生產效率的提高、自動駕駛等方面得到長足的發展，可解釋性和倫理問題也得到了更多的關注。除了快速有效地處理和分析海量數據，識別數據中的模式和關聯，人工智能和機器學習還被用于實驗的控制和優化，甚至用于協助科學家做出假說，比如為數學證明提供參考意見。生成式人工智能能夠在不同理論中識別出最符合數據的理論。這些進步將逐步改變科學家的工作方式，也加快科學進步的步伐。對于依賴大量數據的復雜性科學問題，例如氣候和天氣問題、傳染病問題等等，人工智能更是能發揮巨大作用。

我所展望的用人工智能協助發現物理定律，包括我具體設想的人工智能發現日心說乃至引力定律方面，也取得了初步成果。有一個研究小組的神經網絡對于所輸入的地球參照系的太陽和水星位置數據，能夠自動轉換到太陽參照系的水星和地球位置數據。不過我認為，這離發現日心說還相距甚遠。

人工智能與其他技術（比如互聯網）的結合也得到很大發展，包括幫助科學研究的人工智能軟件或者平臺，也就是上述我在對話中預見的“初步幫助科學研究的人工智能軟件或者平臺”。這包括著名的人工智能聊天機器人程序聊天生成預訓練轉換器（Chat Generative Pre-trained Transformer，ChatGPT）。ChatGPT是生成式人工智能的產物，基于監督和強化機器學習技術，用大型語言模型來強化學習訓練，以文字方式交互，可以生成文本、回答各種問題、提供文字服務，編寫計算機程序、總結文獻和科研結果，等等。在對大量文獻和數據的學習基礎上，ChatGPT將對科學研究產生影響。

人工智能與物理學

作為一名物理學工作者，我尤其關注機器學習和人工智能在科學研究中的應用，所以我從與物理學相關的進展談起，討論機器學習和人工智能與物理學乃至整個基礎科學研究的聯系，并展望未來。

人工智能，特別是機器學習，在物理學研究中得到越來越多的應用。我們知道，機器學習由數據驅動——機器從數據中學習，從而逐步改進性能，基于數據給出預測。機器學習不是對靜態程序的執行，而是從模式識別發展而來。因此自然地，目前機器學習在科學研究中的應用大多與分類和模式識別有關。

例如，在天文學中，機器學習被用于各種天體的識別和分類。一個具體的例子是系外行星，這是圍繞其他類似太陽的恒星運轉的行星。天文學家用機器學習來幫助對系外行星進行識別和分類。

凝聚態物理和材料科學對于物質的相很感興趣。相是指物質的形態，比如冰、水、水汽是同樣的水分子組成的物質的三個不同的相。已知某物質由很多原子或者分子組成，也知道原子或者分子之間的相互作用，如何預言它在某個條件下，處于哪種相？機器學習幫助我們回答這個問題，識別物質的不同相。

機器學習也應用于高能物理，也叫粒子物理。粒子物理研究組成物質的基本粒子，需要用到一些大型的加速器，最大的是位于瑞士和法國交界的歐洲核子研究中心（CERN）的大型強子對撞機（LHC），它代表了物理學在微觀尺度上的實驗前沿。所謂的“上帝粒子”，即希格斯（Higgs）粒子，就是2012年在那里發現。現在這個對撞機的探測器上也在配置機器學習的技術，從而可以更快速地確定高能粒子碰撞的產物。

對于機器學習在物理學研究中的應用，我再舉量子物理研究中的一例。量子物理告訴我們，世界在微觀層次上本質是隨機的。愛因斯坦為此感到困惑，他雖然承認量子力學的計算結果是對的，但是認為，也許背后存在某些未知因素，決定了量子物理里面的隨機性。物理學家設計了一些實驗來檢測是不是這樣。典型的方法是，將兩個互相之間具有量子糾纏的粒子分離開來，分別獨立地以自由隨機選擇的方式對其測量。為了保證測量方式的選擇是真正隨機的，2018年國際上12個實驗室合作進行了一個實驗項目，包含13個實驗。為了確保所做的選擇是自由隨機的，是完全由人的自由意志做出的，他們通過網絡，在全世界找了10萬名志愿者，每位志愿者參加一個網絡游戲，提供一組隨機的二進制數字，即比特，也就是一串由0和1組成的數字。這些隨機的比特傳送給世界上的12個實驗室，用來決定測量方式的選擇。而在隨機數的產生過程中，用到了機器學習技術。具體來說，為了確保輸入的數據完全隨機，沒有任何規律，這個網絡游戲使用機器學習來分析輸入的數據是否真的是隨機的，而且還提醒志愿者，要輸入盡量隨機的數。

談到量子物理，這將帶到我要說的第二點，即量子物理學家正在將機器學習與量子計算聯系起來。這說明，物理學也可以反過來為機器學習的發展作出貢獻。

量子計算是一種全新的計算方法，基于量子力學的基本原理，通過量子疊加態，實現所謂的量子并行，對于一些計算問題，比如找出一個大奇數的因子，能夠指數級提高計算速度。傳統的計算可以表示成對比特0和1組成的二進制數進行運算，而量子計算則對量子比特組成的量子態進行量子演化。單個量子比特的量子態不一定是0態或者1態，一般是它們的疊加態。傳統計算中，找到大奇數的因子很慢，所需的時間是數字位數的指數函數，信用卡的保密正是基于這個事實。而量子計算所需的時間只是數字位數的多項式函數，因此很快就能找到大奇數的因子。因此將來有了量子計算機后，信用卡目前的保密方案就失效了。量子計算已經成為目前的一個研究熱點。當然，物理上要造出能有效解決大奇數因子化問題的量子計算機，還有一段艱難的道路要走。

在這樣的背景下，量子計算與機器學習這兩個研究熱點有所結合。人們提出了加速機器學習的量子算法，比如量子基本線性代數子程序，以及簇分配與聚類發現的量子算法。有些專用量子處理器，比如量子退火器、可編程光學點陣，可以匹配深度學習的架構。當然，實驗上將這些實現出來還需要努力。

人工智能具有人腦所不具備的一些性質。在人工智能中，我們可以加入量子計算的成分。但是，大腦中是否有量子信息和量子計算的實質性成分？這是一個還沒有解決的問題，而且還處于當今主流腦科學之外。另一方面，計算機器和人工智能還需要向大腦學習很多方面。事實上，在工作方式上，大腦與計算機和人工智能之間有很多不同。比如，大腦的體積如此之小，耗費的能量如此之少，然而卻如此富有智慧，而計算機需要消耗很多電力，在這個方面有很多值得研究的地方。為什么大腦會運作得那么高效？向大腦學習有助于計算機原理的革新，也許是克服摩爾定律的另一條路。例如，人們在發展神經形態處理器，模仿大腦中的神經回路。

反過來，腦科學也可以向人工智能學習。2018年贏得圍棋比賽的AlphaGo人工智能技術，即深度學習，被用于模擬大腦的空間導航。人工智能系統發展了一個空間的網格，非常相似于人腦中的網格細胞。這說明人工智能已經與大腦有一些相似之處。

講到未來，最讓我感興趣的問題是，人工智能是否能夠具有進行科學研究、發現自然定律的能力。比如，將太陽系各行星的軌道數據給人工智能，它能否發現開普勒定律，即行星圍繞太陽運動的基本定律？給人工智能一定的運動數據，它能不能發現牛頓運動定律？在牛頓運動定律和開普勒定律的基礎上，人工智能能否發現萬有引力定律？

如果這樣的人工智能出現，基于已有的實驗和觀測數據，它們也許能發現我們忽略的自然定律。另一方面，基于新的實驗和觀測，它們也許能比科學家更好地發現新的自然定律。如果這樣，科學家將做什么？我們會失業嗎？科學家（scientist）會類似計算機那樣，成為一種機器的名稱嗎？如果是，scientist的中文大概要改稱為科學機。

機器和我們的大腦都由原子構成，歸根到底由相同的電子以及其他微觀粒子構成，服從同樣的基本物理規律。在此相同的還原論基礎上，我們大腦的智能是一個復雜系統的層展現象，大腦也可以看成一個智能機器。實現具有創造性和發現自然定律能力的人工智能，原則上似乎沒有一個終極的阻礙，當然肯定要有非常漫長的道路要走。但是請注意，現代人類只有20萬年左右的歷史，而在我們的地球變得不宜居之前，還有漫長的10億年，所以我們還有很長很長的時間來發展包括人工智能在內的科學技術。

強人工智能

強人工智能，即能夠像人類那樣具有意識、能夠思考的人工智能，還只是猜想。如果強人工智能真的實現，能否對人類構成威脅？我認為，即使人工智能在很多方面比我們更智能，它們并不分享我們的價值觀，不管是好的還是壞的，除非制造者特意賦予他們以某種價值觀。我們的價值觀來自我們的演化史以及生存競爭。強人工智能之間的互動影響他們自己的價值觀。不過，人工智能對人類的危險性會發生在以下的情況：一是有人用人工智能對付其他人，比如在不同人群或者國家之間發生沖突的時候；二是有人將人的價值觀賦予人工智能的時候。這與核武器對于人類的危險性不無類似。因此，為了消除人工智能的危險性，人類應該成為團結合作的整體，避免使用強人工智能來互斗，至少應該建立各種倫理規則，正如人類已經建立了關于核武器和生物工程的倫理規則。

理想的情況是，我們將認為強人工智能只是我們的工具，雖然在很大程度上世界由它們運轉。這就類似于無人駕駛汽車。因此，即使科學研究大多由人工智能來做，我們仍然認為是我們使用它們來做，是我們自己做出了科學發現，強人工智能只是我們的工具，類似于現在我們在工作中使用計算機。因此，人類科學家仍將存在，任務也許差不多是理解人工智能的發現。只有我們理解了，一個發現才能足以被我們認為是一個發現。另一個可能是，將我們的智能與人工智能結合，例如，在腦中植入芯片，或者將我們的大腦與人工智能連接起來。

在遙遠的未來，人類智能與人工智能結合也許出現一個極端情形，將人腦的信息、思維和意識上傳或者轉移到另一個媒介或機器，簡稱意識上傳。談到信息處理的媒介或機器，現在是電子計算機。但是在遙遠的未來，會有其他的可能性。

前面提過，關于意識和思維是否是量子力學過程，科學上還沒有定論。微觀上，以化學和電過程為基礎的大腦活動當然可以歸結于電子和原子核的量子運動，然而現在大多數科學家認為，思維和意識本質上只是在更高層次上的經典信息過程。這是復雜系統的層展現象，就好比，雖然電子計算機里的計算過程歸根到底也是電子和原子核的量子運動，但是作為信息處理，計算過程本質上只是經典邏輯線路上的經典計算，原則上也可以用其他物理過程（比如機械計算機）實現。如果意識本質上是經典的，上傳就是經典信息的傳輸或者復制。原則上，意識上傳后，原來的人沒有改變，只是意識多了一個數字拷貝，其后，腦中的意識和數字拷貝可以獨立發展。不夠完善的技術也許奪走原來的人的生命。但這是技術問題。

但是有少數科學家認為，意識和思維本質上是量子過程，甚至類似于量子計算。如是，意識上傳就必須是量子態的轉移。量子信息學告訴我們，量子態不能復制。因此，意識上傳后，原來的人的意識將變成在嚴格字面意義上一片空白。具體的上傳過程也許可以基于量子隱形傳態，當然也可能有其他方法。不論具體用什么方法，量子態的轉移比經典信息的傳送或復制難度大得多。

即使思維和意識本質上是高層次上的經典信息過程，仍然基于微觀的量子過程，所以保險但是也困難得非常多的方法是將整個微觀量子態全部轉移。微觀到什么層次，取決于從什么層次開始的物理過程對意識活動有本質影響。

長期來說，十億年以后，我們的地球就不再適合居住，也許那時我們可以暫時遷移到太陽系的另一個行星；幾十億年之后，太陽將會死亡，成為紅巨星時就會吞噬地球，我們勢必不能在太陽系繼續生存，至遲那時候就要離開太陽系。而且整個宇宙在演化，很久很久之后，我們注定不能在宇宙中任何一處生存。到那個時候，很可能我們的意識將上傳到機器。不管有沒有上傳我們人類的意識，智能機器必然將繼續我們的使命，即理解宇宙，這使得宇宙本身更有意義。

人工智能與科幻

最近的科幻電影《流浪地球2》中的數字生命也與我所暢想的部分情景有相似之處。

物理學告訴我們，宇宙終將不適合人類或者其他生命生存，那么科學的使命如何繼續？為了將科學事業繼續下去，屆時意識上傳到其他載體是一個選項。因為那是非常非常遙遠的終極未來，所以很可能屆時能實現，但是也有不上傳的可能性。

我用的詞是“意識上傳”，沒有用“數字生命”這個詞。《流浪地球2》里的數字生命包含了意識上傳，雖然它沒有用這個詞。數字生命的字面含義是用數字方法實現人工生命，強調生命。目前這方面是有常規研究的，但是往往是用計算機模擬各種生命過程，比如繁殖、遺傳、進化。

數字生命既然用了生命這個詞，也可以是有死亡的。《流浪地球2》里的臺詞提到過“完整的一生”，說明它所說的數字生命確實有死亡這一生命特性。作為生命，既然有死亡，那也可以有繁殖和出生。這在電影里沒有觸及。

單純的意識上傳并不要求上傳后還有其他生命屬性。事實上，有人希望以此實現數字永生。當然，所有這些都是對遙遠未來的猜想。不過，這個猜想與很多現實的科學技術是相關的，除了計算機科學和人工智能方面，還有腦科學方面，比如對大腦信息的提取和模擬，以及對動物腦及其活動的測繪以及模擬。

很多科學家同意，智能、思維和意識是大腦這個物質的功能，是復雜系統的層展性質，好比計算機里的軟件、信息和計算。如果確實如此，那么原則上，意識上傳就有可能，好比同樣的軟件、信息和計算可以負載于不同的計算機，可以用不同的物理過程。當然，這是非常遙遠的事情，不僅很多科學問題還沒有搞清，比如自我意識是如何產生的，而且技術障礙也十分巨大。意識本質上是不是量子過程？目前大多數科學家認為不是，但是也有少數科學家認為可能是。如果是，還需要進行量子態的傳送，也許可以通過量子隱形傳態。即使意識本質上不是量子過程，鑒于大腦一切的活動在微觀上都基于構成大腦的微觀粒子的運動，如果將這些微觀粒子的量子狀態全部上傳，那也就實現了意識上傳。但是從微觀上“一鍋端”，難度又增加了很多很多很多數量級。另外，量子態不能復制，傳上去以后，大腦意識就真正一切空白了。注意，我這里只是對非常非常非常非常遙遠的未來的猜想。

數字生命和人工智能，兩者不一樣，但也有共同點。“數字生命”包含了意識上傳，將人腦里的信息上傳到了計算機中，另外可能還有生命的其他性質。意識上傳與人工智能都是計算機里的智能，有共性，前者可以看成一種特殊的強人工智能。強人工智能是指像人那樣有意識的人工智能，目前還只是猜想。至少目前人工智能不是來自意識上傳，往往也不是對具體某個人的智能和意識的仿真，雖然原理和設計上借鑒人腦。

此外，如果上傳的不僅是記憶，而是包括整個意識，那么數字化后，很多方面類似強人工智能。如果原來的人的意識還活著，可以腦機結合，用這個方式增強原來人的能力，數字部分成為人的附件。但是在遙遠的未來，原則上沒有必要一定腦機結合，上傳以后的數字意識可以獨立于原來的人，原來的人在意識上傳以后，也可能就不在了。大概會有各種情形吧。

有人覺得，意識上傳的不過是一個復制品、冒牌貨，基因儲存才是人類的前途。我認為，有幾種情況下可能出現數字生命。一方面，如果原來的有機生命體甚至任何有機生命體不能繼續存活了，只能借助數字生命延續意識和生命，如果有這個能力。另一方面，如果真的完美實現了意識上傳，從信息的角度，上傳后的意識與負載在原來有機生命體上的意識基本上沒有本質區別。保存基因，如科幻電影《星際穿越》中提到過的，當然是很好的選項，技術上也比意識上傳容易得多，能保存當然要保存。但是假如DNA沒法保存，或者有機生命體無法生存，無法產生后代呢？基因的信息也可以保存在計算機或其他媒介上。另外，數字生命或者數字意識原則上可以永生，當然這是在意識載體存在的前提下，也要求有能源、能保持有序度，從而數字意識得以維持。

當然，數字生命這項技術如果真的存在，會有很多很多、各種各樣的倫理問題，特別是要防止有人利用這項技術來侵犯其他人。屆時需要明確原則，確定規則。這項技術特別適合于迫不得已時，比如人類在自然環境無法生存時。在此之前，如果使用，也肯定會有各種規定。另外，相比整個意識和大腦信息活動的上傳，單純的記憶上傳容易得多，可以將人的記憶提取出來，特別是去世的人。現在還是要區分對遙遠未來的猜想或者科幻與現實中已有的科學技術。