機器智能的另類性：從科技到社會

專家名片

" 陳小平：中國科學技術大學教授，中國科學技術大學機器人實驗室主任、廣東省科學院人工智能首席科學家、中國人工智能學會人工智能倫理與治理工委會主任、CAAI Fellow。獲中科大“杰出研究校長獎”、機器人世界杯冠軍、最佳論文獎、行業年度十大科技進展及其他國內外學術榮譽20余項。

回顧人工智能的發展，特別是考慮大型語言模型的出現，盡管人工智能在過去70多年中取得了巨大的進步，但它始終遵循著奠基者圖靈和其他先驅者所提出的基本原理，這就是機器智能的另類性。

到底什么是人工智能？怎么理解人工智能？人們通常將“人工”和“智能”這兩個概念的常識性理解結合起來，形成對人工智能的常識性理解。然而，圖靈在1950年發表的著名論文中第一個自然段，就否定了這種字面意義上的理解。可以認為圖靈的一個重要理由是——任何科學技術不應局限于常識概念。以牛頓力學為例，它并非基于物理常識，而是基于四條基本原理，即牛頓運動三定律和萬有引力定律。通過數學和邏輯推理，從四條基本原理可以推導出牛頓力學的所有定理。

在圖靈的機器智能觀中，首先有一個潛在的假說，可以通過計算機即圖靈機來模仿人的智能行為，如推理、決策、學習等功能的組合。但是，他并沒有直接使用假說這個詞，為什么呢？因為，如果把這句話當作一個假說，就犯了一個錯誤，也就是他一開始就否定的那個錯誤，即用常識性概念來定義機器智能。因此，他通過圖靈測試來替代圖靈假說。圖靈測試本身包含許多內容，但并沒有完全表達出圖靈的真實想法。圖靈的真實想法是通過圖靈測試來證明他的假說是否成立。在1948年的報告中，圖靈認為，機器智能的工作原理可以與人類智能的工作原理相同，也可以不同。我將這種相同稱為“原理模擬”，而將不同稱為“功能模仿”。這是圖靈關于機器智能的一個基本觀點，正是這個觀點決定了機器智能的另類性。

根據圖靈機器智能觀進一步分析后，我認為每一種智能原理都有其先天的局限性，因此是不同的智能，不同的智能不會完全等同。所以，不必焦慮機器智能完全取代人類智能。但是，機器智能能夠取代人類的大量工作，這才是真正值得重視的問題。

既然人工智能的原理與人類智能的原理不同，那么它的原理究竟是什么？每當開發出一個人工智能系統比如大模型，它就有一套相應的原理。這些原理是什么？是否突破了智能的傳統邊界？人們該如何把握它們？這些問題非常重要。

根據對大模型底層原理的分析，我提出了一個科學假說，稱之為LC假說。當時支持這一假說的證據較少，然而自從在學術期刊上發表后，深度測試越來越多，而且大部分深度測試結果都支持這一假說。大量深度測試結果表明，傳統的科學理論、數學、計算機科學以及傳統人工智能中的強力法，都是基于概括性和強共識性的。這表明，人工智能研究已經超越了科學技術的傳統邊界，已經步入了“無人區”。

大模型技術體系主要包括三大塊：一是預訓練；二是后訓練；三是激發（通常稱為提示）。通過分析，我發現這三個部分中有兩個部分共享一個共同的基礎設施或基本機制，即關聯度預測。

從類LC的三條公理出發，經過邏輯和數學推導，可以得出關聯度預測的一些基本性質。其中一個性質被稱為實例性或語境糾纏性。這個性質意味著，大模型的底層機制具有語境糾纏性。然而抽象運算如計數和邏輯否定不是語境糾纏的，比如一個文本里有27個“～”，這個數目不受文本里其他符號的影響，不會由于文本里其他符號的改變而變多或變少。這是所有抽象運算的一個基本特性。然而大模型卻無法確保正確地實現抽象運算，因為它的數學原理決定了它必然是語境糾纏的。此外，大模型在奇偶性、因果關系和反思能力等方面也存在同樣的問題。

事實上，圖靈在1948年的報告里就指出，機器的行為和這些行為給人的感覺都是“智能”的組成部分，這恰恰構成了智能的復雜性。分析表明，大模型的這一表現證明了圖靈在1948年的判斷是正確的。

工業革命的核心是機器在許多特定領域中替代了人類的體力勞動。這些機器的體力功能并不是通用的，而是專用的，但它們取代了人類的大量體力工作，引發了工業革命。我在《企業改革與發展》2024年11期的文章中提出了一個觀察：工業革命之所以成功，依賴于熊彼特經濟閉環。這個閉環的運作機制是：隨著生產力的提升，機器數量增多，而機器的增多又需要更多的人來操作，這導致就業增加；就業增加后，工資隨之增長；工資增長又帶動消費增長；消費增長創造了更大的市場；而更大的市場需求又刺激生產力進一步提升。這樣就形成了熊彼特經濟閉環。由此可見，工業革命的邏輯簡單明了。

那么，智能革命的特點又是什么呢？預期在許多特定的領域中，機器不僅在體力功能上超越人類，而且在智力功能上也超過人類，于是大多數機器不再需要人的操縱，這是根本性的不同。人們常常擔心通用人工智能帶來的問題，其實不必擔心，因為專用的人工智能強大到一定程度之后，問題就已經出現了。一旦大量專用智能機器超過多數人的能力，熊彼特經濟閉環就不再成立，即生產力的提升不再帶來更多的就業機會。如果真是這樣，那么未來世界就會發生根本性變化。

人工智能將如何重塑人類的文明？我將這個想法表達在《企業改革與發展》文章的最后一段話中：“工業革命向智能革命的過渡將導致‘科技進步’向‘科技重塑’的變遷。智能革命不是用更強大的技術手段，在舊世界里展開更殘酷的內卷，而是顛覆舊世界、再造新世界。人類面臨的最大課題是：通過智能革命，重新塑造一個什么樣的新世界？”

近年來，中國在人工智能和大模型研究中進步很快，取得了一大批成果，但主要集中在技術創新方面。對于大模型這樣的大型AI系統，工程創新比技術創新的作用更大。工程創新需要以應用為導向，組織實施大量技術創新并組合技術創新成果，以實現大模型性能的較大提升。在大模型的工程創新方面，國內一些企業進行了積極探索，取得了很好的進展。

科學導報記者楊洋根據錄音整理