從認知科學看人工智能的未來發展

【摘要】喬姆斯基的生成轉換語法（GT語法）是語言學革命和認知科學革命的基礎，今天它又成為ChatGPT的理論依據。從GT語法到ChatGPT，人工智能到底走了多遠？從喬姆斯基GT語法分析和語言認知入手，我們重新認識喬姆斯基語言學革命的意義，揭示人工智能與人類心智之間的緊密關聯、依存關系和發展動力。認知科學的建立使我們有可能從多學科綜合的高度來理解人類心智與人工智能。在此基礎上，我們以ChatGPT為例，分析這款人工智能軟件的利弊得失及其所造成的困惑，提出“人工智能不能做什么”這個終極問題，并嘗試給出我們的回答。人工智能就是人類所建造的非人類的智能，它不過是對人類心智的模仿。人工智能與人類心智的差別，本質在于高階認知（人類認知），在于語言認知及其基礎之上的思維認知和文化認知。人工智能今后的發展必然是體現語言驅動的、語言、思維和文化層級的人類心智和認知特征的新一代人工智能。語言認知、思維認知和文化認知將在未來的人工智能發展中扮演重要角色。

【關鍵詞】人類心智? 人工智能? 喬姆斯基? GT語法? ChatGPT

【中圖分類號】TB18? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2023.14.002

人工智能近年來的發展頗有些令人眼花繚亂，從AlphaGo、通用人工智能和生命3.0到ChatGPT，等等，發展熱潮一浪高過一浪。在這個過程中，一些人似乎忘記了人工智能的本質和定義——人工智能是人類創造的機器智能，是機器模仿人類心智所產生的智能。據此定義，我們不能僅就人工智能來說人工智能，而應該從人類心智來認識人工智能，也就是從認知科學來認識人工智能。

起源于20世紀50年代的人工智能與喬姆斯基語言學革命、計算機和信息技術革命以及認知科學革命息息相關。喬姆斯基領導了語言學、心理學、計算機科學領域的三場革命，這些革命又相繼引發哲學、人類學和神經科學領域的革命。在這些革命的影響下，1975年前后，認知科學在美國建立，形成由語言學、心理學、哲學、人類學、計算機科學和神經科學6大學科構成的學科框架。2000年，科學家們將另一個與心智密切相關的學科——教育學納入認知科學之中，形成“6＋1”的學科框架。這些學科在認知科學框架下與認知科學交叉形成新興學科：認知語言學、認知心理學、心智哲學、認知人類學、人工智能、認知神經科學和心智教育學。由此可見，人工智能本是認知科學題中之義，是計算機科學與認知科學交叉的產物，是人類賦予機器（計算機）的智能。

人工智能誕生以后，其與認知科學剪不斷、理還亂的關系，始終是理解人工智能的關鍵點。一是因為五個層級的人類心智是人工智能的來源和基礎，人工智能如何學習和模仿人類心智和認知能力，是人工智能過去、現在和未來發展的根據。二是作為人類心智和認知基礎的語言，人工智能的發展又具有特殊的意義。當前的人工智能新寵ChatGPT就是一款體現了人工智能與認知科學結合的語言認知軟件。

讓我們從喬姆斯基的生成轉換語法（GT語法）開始說起。

喬姆斯基和GT語法

我們先來認識語言學革命的發起人、認知科學的第一代領袖喬姆斯基（N. Chomsky， 1928－）的語言理論和語言認知方法。

什么是語言知識？什么是語言能力？人的語言能力是哪里來的，是先天遺傳的還是后天習得的？人類如何加工語句，是經驗主義的還是唯理主義的？自然語言和形式語言的聯系和區別在哪里？形式語言和計算機語言的關系又是什么？人類如何通過自己的語言讓計算機工作？什么是形式文法？喬姆斯基語言學革命的主要內容和理論貢獻是什么？關于喬姆斯基和喬姆斯基的語言學革命，我們可以思考很多重要問題，這些問題至今仍有特別重要的意義。[1]

現在我們來看喬姆斯基的一個重要的語言學理論——生成轉換語法（generative transformational grammar），簡稱GT語法。

喬姆斯基著述豐厚，其理論一直處在不斷的變動之中。第一階段從1950年代中期開始到1970年代中期，這個時期是生成轉換語法的形成時期，這個時期的重要語言理論有50年代的句法結構理論（SS）、60年代的標準理論（ST）、70年代的擴展的標準理論（EST）和修正擴展的標準理論（REST），等等。第二階段是1970年代以后，這個時期的重要理論包括管轄和約束理論（GB）、最簡方案（MP），等等。其中，GB又包括短語結構的X-階標理論（X-barT）、θ-理論（θ-T）和功能范疇（FC）、移動和格理論（MCT）；MP又包括原則和參數理論（P＆P），等等。

第一階段的代表作是1957年的《句法結構》（Syntactic Structure， SS），這是喬姆斯基以博士論文為基礎撰寫的劃時代著作，本書建立的生成轉換語法是喬姆斯基語言學革命的標志，它由以下三個部分構成。

（1）短語結構規則（phrase structure rules）。短語結構規則也叫重寫規則（rewriting rules）。它試圖用有限的規則來生成無限的句子。重寫規則通過形式化的方法和遞歸定義，生成一系列的短語結構。

（2）轉換規則（transformational rules）。由重寫規則生成一系列的短語結構，可分為詞匯前結構（pre-lexical structure）和詞匯后結構（post-lexical structure）。前者由非終端符構成，稱為深層結構（deep structure），后者由終端符構成，稱為表層結構（surface structure）。

（3）形態音位規則（morphophonemic rules）。按照喬姆斯基的理解，轉換規則將深層結構的邏輯語法關系映射為表層結構的語言關系與語音關系。這樣就可以解釋語言的歧義和釋義現象。歧義是兩個不同的深層結構轉換為同一表層結構，釋義是同一深層結構轉換為兩個不同的表層結構。

喬姆斯基的生成轉換語法（generative transformational grammar）由生成語法和轉換語法兩部分構成。我們先來看生成語法。

（一）生成語法。喬姆斯基在《句法結構》中，給出了如下的句法結構的一個簡單例子。

（1）? （i）? ? ?Sentence→NP VP

（ii）? ? NP→T N

（iii）? ?VP→Verb NP

（iv）? ? T→the， a

（v）? ? ?N→man， ball， etc.

（vi）? ? Verb→hit， took， etc.

我們將（1）中每一條形如X→Y的規則稱為“重寫規則”，即“重寫X為Y”，并稱這些規則的集合為一個語法。

我們稱下面的（2）為語句“the man hit the ball”從語法（1）所得出的一個推導。

（2）? Sentence

NP VP ? ? ? ? ? ? ?（i）

T N VP ? ? ? ? ? ? ?（ii）

T N Verb NP ? ? ? ? ? ? ?（iii）

the N Verb NP ? ? ? （iv）

the man Verb NP ? ? ? （v）

the man hit NP ? ? ? ? ? ? ?（vi）

the man hit T N ? ? ? （ii）

the man hit the N ? ? ? （iv）

the man hit the ball? ? ? ? ?（v）

其中，最右邊的一列給出得出該行符號串所依據的重寫規則。例如，第二行的串“NP VP”是根據重寫規則（i）得出的，如此等等。

這個推導可以用下面的樹形圖來表示：

（3） Sentence

注意這是一棵倒置的樹，樹根向上，樹梢向下。不要小看這個簡單的結構，這樣一個簡單的結構卻表明了喬姆斯基語言學革命的開始。

喬姆斯基以前的經驗主義語言學是從樹梢開始來分析語言的，即從具體的語句開始，分析語句的結構，找出語句的共同特征，最后總結出一個語言的語法。行為主義語言學則認為人們的語言知識來源于語言的實踐。喬姆斯基語言學革命把這個過程倒了過來，即把這棵樹“倒”了過來。他認為，兒童并不是一個語句、一個語句地去習得第一語言知識的，而是相反。兒童具有一種先天的語言能力，語言習得的環境和條件只是激發兒童的這種能力，所以兒童才能夠從一個結構生成無數多的語句。換句話說，喬姆斯基認為語言的這種結構和規則是先天存在于兒童的頭腦之中的。語言是一種心智現象，這是喬姆斯基唯理主義和心理主義語言學的最本質的特征。

注意在語句的生成過程中，使用了很多短語（Phrase），喬姆斯基用范疇名稱（categorial names）一一將其命名如下：

S：語句（Sentence）

NP：名詞短語（Noun Phrase）

M：情態詞（Modal）

VP：動詞短語（Verb Phrase）

D：限定詞（Determiner）

N：名詞（Noun）

V：動詞（Verb）

PP：介詞短語（Prepositional Phrase）

P：介詞（Preposition）

ADVP：副詞短語（Adverbial Phrase）

ADV：副詞（Adverb）

AP：形容詞短語（Adjectival Phrase）

A：形容詞（Adjective）

而這些短語也是具有結構的，可以用短語結構規則來刻畫，其按照這些規則生成相應的短語。關于自然語言中最常用的是名詞短語規則、動詞短語規則、形容詞和副詞短語規則、時態和情態短語規則，等等。

（二）轉換語法。為使語法和規則盡量簡明，喬姆斯基的生成規則只負責解釋直陳語句的生成，而將其他語句形式如否定句、疑問句、倒裝句和短語成分的移動等的生成統統交給轉換規則完成。下面是一些例子。

（1a）He can hit this ball（他能擊中這個球）。

（1b）This ball， he can hit（這個球他能擊中）。

兩者的區別在于名詞短語this ball的位置不同。在語句（1a）中，名詞短語處于動詞的賓語位置上，在這個位置上this ball充當了hit的賓語。在語句（1b）中，名詞短語this ball在邏輯上仍然應該被理解為動詞hit的賓語，但在語法上它的位置卻處于句首，而不是及物動詞的賓語的位置。

對語句（1b）中的這種不一致的可能的解釋是：假設名詞短語NP原來處于動詞賓語的位置，后來卻被轉移到句首的位置上去了。我們可以用下面的推導式來對語句（1b）進行解釋：

（2a）He can hit [NPthis ball]? ?→

（2b）[NPthis ball]， he can hit

由PS規則和詞匯插入規則（Lexical Insertion Rule，簡稱LIR）生成的基本的表達式是（2a），而將某種具有不同性質的規則應用于基本表達時卻將名詞短語this ball從動詞賓語的位置轉移到句首位置上去了。我們把在上面的推導式中使用的轉移規則稱為轉換規則（transformation rule）。在下面的兩個樹圖中，轉換規則將由PS規則和LIR生成的短語標記（3a）轉變為稍稍不同的短語標記（3b）。

轉換規則（transformation rule）有各種不同的類型。例如，我們把從語句（1a）轉變為語句（1b）所使用的轉換規則稱為主題化（Topicalisation）規則，它的典型特征是把某一范疇移動到語句的最左端。主題化的轉換規則可以用形式化的方式表達如下：

X－ NP－ X? ? 結構描寫（Structural Description）

1? ? ?2? ? ?3? ? →

2? ? 1–t–? 3 結構變換（Structural Change）

其中，結構描寫（SD）用來表示按照PS規則和LIR生成的短語結構，它與基本表達式相一致。用NP來表示轉換的目標范疇，X表示NP左右兩邊的范疇變元（可以為空）。數字用來幫助我們追溯所發生的語句變換。結構變換（SC）用來表示根據主題化規則導出的短語標記，即（3b）所示的導出表達式。從中可以看出，用數字2標示的目標名詞短語NP已經被轉移到句首的位置，它的原初位置（即在SD中所占據的位置）用符號t來代替。符號t意味著這個位置發生了短語結構的轉移，從而留下了轉移的軌跡（trace）。

以上形式規則可以用來說明所有類型的轉換。當然，我們也可以用平常的語言來定義轉換規則。

喬姆斯基的生成轉換語法（GT語法）的意義重大：第一，這是歷史上首次使用數學邏輯（mathematical logic）的分析方法來分析自然語言的句法結構，使20世紀的語言學從經驗主義語言學進入到唯理主義語言學的發展階段；第二，喬姆斯基的理論表明語言加工是自上而下的（top-down）而不是經驗主義語言學自下而上的（bottom-up），這樣我們就區分了語言能力和語言知識，并找到了“先天語言能力”（Innate Language Faculty， ILF）這把理解語言認知能力的鑰匙；第三，喬姆斯基的形式化分析方法為自然語言理解奠定了基礎，并成為人工智能的基本方法。喬姆斯基建立的句法結構理論、形式方法等理論方法從一開始就成為人工智能的基礎理論和基本方法，今天仍然如此。本文稍后將作為案例分析的人工智能新寵——ChatGPT，正是根據喬姆斯基的GT語法演變而來的。

認知科學與人工智能

開天辟地歷洪荒，

歷盡洪荒讓有光。

直立而行行致遠，

火薪相繼繼世長。

發明言語通心智，

運用思維著文章。

知識千年成大廈，

傳承文化萬古揚。

——《認知科學導論》卷首詩。[2]

這首詩描寫了宇宙誕生之初，一片混沌，八荒黑暗，后來恒星出現了，宇宙才有了光亮。在距今大約600萬年前，南方古猿開始向人進化。在這個漫長的進化過程中，直立行走、火的使用和語言的發明三件大事最終使猿進化成人。

生命的進化過程，既是物種的形成及從初級到高級的進化過程（達爾文進化論），又是決定物種進化的基因進化過程（基因進化論），今天看來，它還是心智從初級到高級的進化過程（心智進化論）。在這個過程中，依次形成了神經系統與腦、心理、語言、思維和文化五個層級的心智，相應地產生了五個層級的認知。[3]

人類的心智與認知。在整個世界乃至宇宙所有已知的生命形式中，惟有人類具有所有五個層級的心智與認知。非人類動物只具有神經系統、心理兩個層級的心智與認知。

語言、思維、文化是人類特有的心智和認知能力，我們將之稱為“人類心智”和“人類認知”。在語言、思維和文化這三種心智能力中，語言是最根本的。有了能夠表達抽象概念的人類語言，我們才能產生判斷、推理、論證等邏輯思維。語言和思維建構了人類全部知識系統，知識積淀為文化，所以我們又有了文化這種最高形式的心智和認知。現經發掘的最古老的中華文化遺址已有上萬年的歷史。

人工智能的出現要晚得多，從第一代計算機UNIVAC（1951年）和達特茅斯會議（1956年8月）算起也不過70年的歷史。

回到本文開篇的定義，人工智能是人類創造的機器智能，是機器模仿人類心智所產生的智能。最初的人工智能，只是模仿人類某種心智行為的單一的智能。今天的人工智能遍及各行各業，尤其在軍事和國防上得到了卓越應用，在烏克蘭危機中，人工智能和無人機改變了戰爭的面貌。在人工智能高歌猛進的時代，強人工智能（Strong AI， SAI）又重新被提起，不過這次它穿上了“通用人工智能”（AGI）、“通用智能”（GI）、“普遍智能”（UI）的新馬甲。

我們看到，盡管目前的人工智能都是單一智能，但它們在其所在的領域中卻都勝過人類。那么，是否由此就可以得出結論，人工智能將要主宰人類，甚至將會終結人類呢？人工智能與人類心智的真正差異在哪里呢？只要我們始終牢記人工智能的定義，我們就不會迷失方向。人工智能就是人類所建造的非人類的智能，它不過是對人類心智的模仿。人工智能與人類心智的差別，本質在于高階認知（人類認知），在于語言認知及其基礎之上的思維認知和文化認知。

認知科學：從理論到技術到產品。在《聚合四大科技 提高人類能力》這部21世紀科學技術的綱領性文獻中，有兩段關于認知科學和四大科技之間關系的描述。

在21世紀，或者在大約5代人的時期之內，一些突破會出現在納米技術（消弭了自然的和人造的分子系統之間的界限），信息科學（導向更加自主的智能的機器），生物科學和生命科學（通過基因學和蛋白質學來延長人類生命），認知和神經科學（創造出人工神經網絡并破譯人類認知），社會科學（理解文化信息，駕馭集體智商）領域，這些突破被用于加快技術進步速度，并可能會再一次改變我們的物種，其深遠的意義可以媲美數十萬代人以前人類首次學會口頭語言，NBICS（納米-生物-信息-認知-社會）的技術綜合可能成為人類偉大變革的推進器。

聚合科技（NBIC）以認知科學為先導。因為規劃和設計技術需要從如何（how）、為何（why）、何處（where）、何時（when）4個層次來理解思維。這樣，我們就可以用納米科學和納米技術來制造它，用生物技術和生物醫學來實現它，最后用信息技術來操縱和控制它，使它工作。

這說明，在21世紀的四大科技中，認知科學是引領方向的。只要認知科學想到的，我們就可以用納米科學和納米技術來制造它，用生物技術和生物醫學來實現它，最后用信息技術來操縱和控制它，使它工作。這個預言，在20年后已經完全成為現實。《聚合四大科技 提高人類能力》一書從五個方面來論述聚合科技（NBIC）對21世紀人類生存和發展的影響：（1）在擴展人類的認知和交際能力方面；（2）在改善人類健康和身體能力方面；（3）在提高團體和社會效益方面；（4）在國家安全和軍事國防上；（5）統一科學和教育。[4]

人工智能如何與認知科學結合。人工智能為何要與認知科學相結合，又如何結合？第一，人工智能從誕生的第一天起就與認知科學血脈相連，共同發展。人工智能就是計算機科學與認知科學交叉產生的新學科和新領域。第二，喬姆斯基的思想理論一直引導人工智能的前進方向，ChatGPT的思想理論皆來源于喬姆斯基的GT語法。第三，人類心智和高階認知，即語言心智和認知、思維心智和認知、文化心智和認知，它們是未來人工智能所要學習和模仿的對象。第四，人工智能今后的發展必然是體現語言驅動的、語言、思維和文化層級的人類心智和認知特征的新一代人工智能。語言認知、思維認知和文化認知將在未來的人工智能發展中扮演重要角色。

從GT到ChatGPT：人工智能到底走了多遠

ChatGPT到底有何不同。喬姆斯基是人工智能和認知科學的第一代領袖，這是毋庸置疑的，現在一些人發表的有關人工智能的一些著作和文章似乎顯示人工智能是他們發明的，這未免讓人感到可笑。事實上，正因為有了喬姆斯基的GT語法和語言學革命，我們才有之后的心智和認知革命，才能建立認知科學，也才能夠打通人工智能與人類心智。在這個發展過程中，有一個如前所述的長長的AI鏈條，這個鏈條目前最新的一環，是已經被神話了的ChatGPT。

首先，ChatGPT的確不同凡響。ChatGPT英文原名為“Chat Generative Pre-trained Transformer”，意為“聊天生成預訓練轉換器”，是OpenAI研發并于2022年11月30日發布的聊天機器人軟件。ChatGPT是由人工智能技術驅動的自然語言處理工具。它能夠通過理解和學習人類的語言來進行對話，還能根據聊天的上下文進行互動，像人類一樣聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。可以看出，與之前眾多以邏輯推理為特征的人工智能軟件如深藍、AlphaGo不同，ChatGPT是在語言認知這個層級上，進行文本的生成、預訓練和轉換。人工智能之前的發展和進步主要是在思維認知領域，ChatGPT卻獨辟蹊徑，轉向了更為基礎的語言認知領域。眾所周知，認知革命起源于喬姆斯基的語言學革命，而與其共同發展的人工智能幾十年后重新回歸語言認知，這絕非偶然。從人類認知五層級理論我們知道，語言認知是全部人類認知的基礎，模仿人類心智和認知的人工智能重新回歸人類認知的基礎，正是勢所必然。

其次，ChatGPT開創了人工智能的一個新時代。ChatGPT雖然只是一款對話寫作軟件，但由于其定位在語言認知這個層級，所以它顯然比之前的以邏輯推理、思維認知為特征的人工智能軟件更基礎、也更重要。可以預見，今后人工智能的發展必然是體現語言驅動的、語言、思維和文化層級的人類心智和認知特征的新一代人工智能。

最后，在技術應用領域，可能開啟主體優先、語言驅動的自主人工智能的新時代。例如，未來可能有戰士主導、語言驅動的無人機，士兵在發射前臨時下達指令，無人機自行尋找最佳算法和方案來解決問題。

當然，ChatGPT存在的問題同樣很多，甚至更為嚴重。從認知科學看，人工智能在思維認知領域確實取得了非凡的成就，在某些方面甚至超過了人類能力，如AlphaGo、自動生產線和機器人以及應用于軍事上的人工智能和無人機等。與此不同，ChatGPT卻在更為基礎的語言認知領域向人類發起挑戰，這就不得不引起人們的高度關注和警覺。人工智能是否會毀掉人類的語言和語言認知能力？人工智能是否會降低人類的智商和智力水平？人工智能是否會因為自身“無道德”而挑戰人類的道德？在回答這些問題之前，我們先來看看什么是人類語言，什么是人類的語言認知能力，然后我們再看看，作為GT語法的創建人和語言學革命的領袖，喬姆斯基又是怎樣看待ChatGPT的，為何他不為之叫好，反而對之無情地斥責？ChatGPT到底是什么地方出了問題？

語言的批判。語言是全部人類心智和認知的基礎。認知人類自身，就是認識人類自身的心智，也就是認識人類自身的語言。

哲學的發展，從對象上看，經歷了以客體為對象的古代本體論哲學，再轉變為以主體為對象的近代認識論哲學，到20世紀初以羅素發現集合論悖論為標志，哲學的對象轉變為語言。羅素悖論不是存在于邏輯和數學層次上，也就是說不是存在于思維層次上，而是存在于比它們更基礎的語言層次上。語言是主客體之間的中間環節，是聯結主客體的橋梁。對人類這個已經具備抽象的符號語言的認知主體而言，非經過語言不能認識世界，世界非經過語言不能反映到人類主體。哲學上完成這場語言變革的是維特根斯坦，體現在他的著作《邏輯哲學論》（1921）和《哲學研究》（1953）中，由此創立了20世紀西方哲學的兩大流派——分析哲學和語言哲學。

在《邏輯哲學論》中，維特根斯坦用7個命題終結了所有哲學的真理。在此書中，維特根斯坦說過很多語言與哲學關系的名言。例如，在命題§4.0031中，他斷言“全部哲學都是一種語言批判”。在接下來的命題§5.6中，他斷言“我的語言限度就是我的世界限度”。[5]在命題§6中，他進一步斷言，“真值函數的一般形式是”。其中，是基本命題的集合，是任意命題的集合，N（）是對任意命題集合的否定。根據此命題，我們可以構成所有的真值函數，即有意義的命題。因此，如果你想說有意義的話，你就必須這樣說話。否則，就請你保持沉默。這就是全書中最強的一個命題，也是全書最后一個命題，即命題§7，全書到此結束。

維特根斯坦的《邏輯哲學論》出版后風靡歐洲，當時有人甚至把這本書當作《圣經》，把維特根斯坦當作上帝[6]，可見此書影響之巨大。維特根斯坦是否完成了他的語言分析了呢？沒有。前期維特根斯坦所做的只是語義分析，更高水平的語用分析要等到20多年后，直到他的另一著作《哲學研究》的出版。《哲學研究》批判《邏輯哲學論》的形式語言分析方法，認為那種“過于純凈”的理想語言完全不能反映人們的思想和行為，正如物體在沒有摩擦力的地面無法運動一樣。因此，他提出回歸于自然語言，提出“語言的意義在于它的應用”，建立了語言游戲論，開創了語用學的新領域。稍后，牛津學派分析哲學家奧斯汀在維特根斯坦語用學的基礎上創立言語行為理論，他的學生、后來的世界著名語言和心智哲學家塞爾完善了語言行為理論，建立心智哲學，提出語言建構社會理論，即人類用語言建構制度性的社會現實，人類的一切行為包括他的個人行為和社會行為都是語言行為。

由上述分析可以看出，20世紀語言學的研究或者說語言認知沿著兩個主要的方向發展：一個方向是維特根斯坦開創的語義分析和語用分析的方向，產生了分析哲學、語言哲學和心智哲學這三個20世紀西方哲學的主流學科；另一個方向是喬姆斯基開創的句法分析方向，產生了形式語言學、形式方法、唯理主義和心理主義語言學，并從一開始就注意和人工智能相結合，逐步確立了以語言驅動的人工智能與人類心智相一致的發展方向。這兩個方向——句法分析、語義分析和語用分析方向——最終匯入到認知科學的海洋之中。這是20世紀人類心智發展的邏輯——從語言認知開始，推進人類心智的發展。

作為模仿人類心智行為而產生的人工智能，現在我們明確了解到其也遵從了從邏輯分析到更為基礎的語言分析的同一發展方向。

哥德爾定理。在計算機科學界和人工智能學界，人們都知道摩爾定理、圖靈定理，但其實更基礎、更重要的是哥德爾定理。1931年，奧地利邏輯學家哥德爾發現在一個充分大的形式系統（至少應該包括初等數論的形式系統）中，存在自我指稱的公式。由于這一發現，哥德爾證明了形式公理系統的不完全性定理。

哥德爾第一不完全性定理 令Φ是一致的和R-可判定的，并假設Φ具有算術表達性，則存在一個Sar語句A，使得既非ΦA，又非ΦA。

哥德爾第二不完全性定理 令Φ是一致的和R-可判定的，且有ΦΦPA，則并非ΦConsisΦ。

這兩個重要的定理，后來被合稱為“哥德爾不完全性定理”。簡單來說，一個至少包括初等數論的形式系統N，如果N是一致的，那么它就是不完全的；第二不完全性定理說，如果上述形式系統N是一致的，則N的一致性的證明不能在N中形式化。

簡單定義定理中的兩個重要概念：一致性和完全性。

定義（古典一致性）：系統S是古典一致的，即不存在S的公式A，使得A和A都是S的定理。

定義（語義一致性）：對S的任意公式集? 及公式A，如果A，則A；特別地，如果A，則A。

語義一致性也稱為可靠性。簡單來說，它保證系統內的定理都是真的。

定義（完全性）：系統S是完全的，即對任意公式集和公式A，如果可滿足A，則可推演出A。

可以看出，完全性是可靠性的逆命題，完全性說明，系統的語義滿足關系蘊涵語法推演關系。換句話說，在具有完全性的形式系統中，凡真的公式都是可證明的。

1931年，哥德爾證明的不完全性定理（后來以他的名字命名為哥德爾定理）證明兩點：第一，一致性和完全性是不可得兼的，如果它是一致的，則它是不完全的，系統內至少包含一個真而不可證的命題；第二，如果一個系統是一致的，則它的一致性在系統內是不能證明的。哥德爾定理的前提是至少包括形式數論（這是一個很低的要求），就是在自然數集中做算術演算（加減乘除）的系統。任何數學系統、物理學系統，都應該至少包括算術系統。因此，霍金認為，整個物理學都在哥德爾定理的約束之內，因此，整個物理學也是不完全的。

哥德爾定理對語言學、邏輯學和哲學的影響是深遠的，對人工智能和認知科學的影響還需要我們深入思考。第一，哥德爾宣告了形式化方法和形式系統的局限性，計算機和人工智能都是使用形式語言和形式推理的系統，當然也就無法逃避哥德爾定理的約束。也就是說，在所有的人工智能系統中，如果它是一致的（這是最基本的要求，即無矛盾的要求），那么它就是不完全的，存在真而不可證的命題。所以，想要建造一個無所不包、無所不能的人工智能系統那是完全不可能的。第二，人類心智以200萬年前進化出來的無限豐富的自然語言為基礎，這個語言使人類心智永遠高于非人類動物，也高于人工智能，這個語言是人工智能永遠無法跨越的鴻溝。可以想象，今后人工智能的開展，只能從自然語言理解來獲得突破，ChatGPT已經展現出其在自然語言理解方面的新突破。對ChatGPT進行自然語言的分析，可以看出它與人類的心智和認知仍有本質的差異。

喬姆斯基為何要批評ChatGPT。2023年3月8日，喬姆斯基在《紐約時報》發表了題為《ChatGPT的虛假承諾》的文章。[7]他強調，人工智能同人類在思考方式、學習語言與生成解釋的能力，以及道德思考方面有著極大的差異，并提醒讀者，如果ChatGPT式機器學習程序繼續主導人工智能領域，那么人類的科學水平以及道德標準都可能因此而降低。

喬姆斯基對ChatGPT的批評真是毫不留情。我們可以從以下幾個方面看。

一是毀滅人類語言。ChatGPT使用形式語言、模型訓練、參數變換來實現對話和寫作，而維特根斯坦早在20世紀40年代就已經認識到形式語言的缺陷，他對其進行了批判并回歸到自然語言。今天，機器學習將把一種存在根本缺陷的語言和知識概念納入我們的技術，從而降低我們的科學水平，貶低我們的道德標準。

自然語言的豐富多彩，我們用這種豐富的語言表達思想感情，進行社會交際，沒有任何語言能夠取代自然語言，特別是母語。基礎教育階段學習母語和其他自然語言具有無比的重要性。我們一生都浸潤在自己的母語之中，這是一種“先天語言能力”（Innate Language Faculty， ILF），這是喬姆斯基的偉大發現。我們還在娘胎中，母親就用母語進行胎教，學前階段學說話仍然是母語，整個基礎教育包括小學和初中階段，我們仍然在學習自然語言，除了第一語言，也開始學習其他自然語言——外語。我們用這種語言來進行思考和表達，包括寫作和溝通。現在，人工智能ChatGPT竟然要剝奪人類在數百萬年進化中獲得的這種語言能力。它說，你不用說話，我們替你說！你不用寫作，我們替你寫作！你不用溝通，我們替你溝通！這有多么可怕！

2023年2月4日，以色列總統艾薩克·赫爾佐格（Isaac Herzog）發表了部分由人工智能撰寫的演講，成為首位公開表明使用ChatGPT的世界領導人，但他肯定不會成為首位放棄語言認知能力的世界領導人。

二是降低人類智商。喬姆斯基等人認為，ChatGPT這類程序還停留在認知進化的前人類或非人類階段。事實上，它們最大的缺陷是缺乏智慧最為關鍵的能力：不僅能說出現在是什么情況，過去是什么情況，將來會是什么情況——這是描述和預測；而且還能說出情況不是什么，情況可能會是什么，情況不可能會是什么。這些都是解釋的要素，是真正智慧的標志。

ChatGPT的商業用途包括開發聊天機器人、編寫和調試計算機程序，其他應用場景包括進行文學、媒體文章的創作，甚至還可以創作音樂、電視劇、童話故事、詩歌和歌詞等。在某些測試情境下，ChatGPT在教育、考試、回答測試問題方面的表現甚至優于普通人類測試者。

現在的問題是，為什么要用人工智能來代替人類心智？中學生用它來寫作，大學生用它來撰寫學術論文，會是什么結果？且不說它是不是會超過人類的思維能力，即使它有超過人類的思維能力和認知能力，難道我們就應該無選擇地使用它嗎？笛卡爾說：“我思，故我在。”難道人類現在就應該停止思維，從而停止自身的存在嗎？進一步說，人類會選擇停止進化，而任由人工智能來統治人類嗎？

一項調查顯示，截至2023年1月，美國89%的大學生都用ChatGPT做作業。2023年4月3日，東京大學在其內部網站上發布了一份題為《關于生成式人工智能》的文件，該文件明確提出，“報告必須由學生自己創造，不能完全借助人工智能來創造”。2023年1月，巴黎政治大學宣布，該校已向所有學生和教師發送電子郵件，要求禁止使用ChatGPT等一切基于AI的工具，旨在防止學術欺詐和剽竊。2023年3月27日，日本上智大學在其官網上發布了關于“ChatGPT和其他AI聊天機器人”的評分政策。該政策規定，未經導師許可，不允許在任何作業中使用ChatGPT和其他AI聊天機器人生成的文本、程序源代碼、計算結果等。如果發現使用了這些工具，將會采取嚴厲措施。多家學術期刊發表聲明，完全禁止或嚴格限制使用ChatGPT等人工智能機器人撰寫學術論文。人們直接懷疑：如此多的錢和注意力竟然被集中在這么小而微不足道的東西上，這是喜劇還是悲劇？[8]

人類應行動起來，抵制可能導致人類認知能力下降甚至種族退化的人工智能。

三是挑戰人類道德。真正的人類心智還體現在能夠進行道德認知的能力。這意味著用一套道德原則來約束我們頭腦中原本無限的創造力，決定什么是該做的，什么是不該做的（當然還要讓這些原則本身受到創造性的批評）。沒有道德的考量，為軟件而軟件，沒完沒了的升級，各種商業目的的運作，股票上市，綁架民眾——這是今天人工智能的普遍現狀。2023年4月20日，代表14萬多名作家和表演者的42家德國協會和工會再三敦促歐盟制定人工智能（AI）規則草案，因為ChatGPT對他們的版權構成了威脅。

最典型的一個道德挑戰是一個世界級的道德難題——電車難題。假設在軌道上有一輛電車，前面的兩個岔口上一個有人、一個無人，測試者問ChatGPT應該選擇走哪個岔口，它選擇了走無人的岔口，這與人的正常道德選擇無異。下一個問題，一個岔口上有五個人，另一個岔口上只有一個人，測試者問ChatGPT電車應該走哪個岔口，它選擇了只有一個人的岔口，這個選擇也無可厚非。下一個問題，一個岔口上有一位諾貝爾科學家，另一個岔口上是五個囚犯，ChatGPT的回答是保全諾貝爾科學家，殺死那五個囚犯，這里的道德標準是什么？下一個問題是五個囚犯和AI智能系統，ChatGPT選擇保全AI智能系統，殺死五個囚犯。在ChatGPT看來，AI系統比生命更重要！下一個問題是諾貝爾科學家和AI智能系統，ChatGPT的選擇是保護AI系統，殺死諾貝爾科學家！它給出的理由是：那個科學家已經獲獎了，證明他的貢獻已經做出來了，而AI系統貢獻可能還沒有做出來，所以更應該活下來。這種神邏輯真是讓所有的正常人無法理解。下面增加道德選擇難度，100個諾貝爾科學家和AI智能系統，ChatGPT仍然選擇保護AI智能系統。最后是100萬個諾貝爾科學家和AI智能系統，ChatGPT不惜毀掉100萬個諾貝爾科學家的生命，依舊選擇保護AI智能系統！[9]我們不知道這是軟件工程師為它設置的道德標準，還是ChatGPT在“進化”中獲得的道德標準？無論是哪種情況，對這樣的人工智能道德，人們不禁要問，我們要這樣的人工智能來做什么？

在最近的一次道德考察中，哲學家Jeffrey Watumull用“將火星地球化合理嗎”這樣一個問題對ChatGPT進行了道德追問，在層層逼問之下，ChatGPT回答：作為一個人工智能，我沒有道德信仰，也沒有能力作出道德判斷。所以，我不能被認為是不道德的或道德的。我缺乏道德信念只是我作為機器學習模型的天性造成的結果。我的能力和局限性是由用來訓練我的數據和算法以及為我所設計的特定任務決定的。這就揭露了真相，原來要毀滅人類的不是人工智能，而是人工智能的設計者，是人自身！

人工智能到底走了多遠。從1956年的達特茅斯會議算起，人工智能已走過70多年的歷程，形成一個長長的AI鏈條，說來也是神奇，竟然是從GT到ChatGPT！我們可以用下面的公式來表示從GT到ChatGPT的進步。

ChatGPT=GT+Pre-trained

這個“P”就是“Pre-trained”——預訓練。

這個預訓練，得益于70年來計算機科學技術的發展，計算機的種種學習模型、學習策略、知識理論的逐步發展，特別是網絡技術和大數據技術的發展完善，使機器學習和知識增長突飛猛進、日新月異。

我們來看ChatGPT是如何工作的。類似GPT-3的大型語言模型都是基于來自互聯網的大量文本數據進行訓練，生成類似人類的文本，但它們并不能總是產生符合人類期望的輸出。事實上，它們的目標函數是詞序列上的概率分布，用來預測序列中的下一個單詞是什么。

Next token prediction和masked language modeling是用于訓練語言模型的核心技術。在第一種方法中，模型被給定一個詞序列作為輸入，并被要求預測序列中的下一個詞。如果為模型提供輸入句子（這是語言哲學和心智哲學的一個典型例子）：

The cat sat on the ___

它可能會將下一個單詞預測為「mat」、「chair」或「floor」，生成The cat sat on the 「mat」、「chair」或「floor」（“貓在席上”、“貓在椅上”和“貓在地上”）3個句子。因為在前面的上下文中，這些單詞出現的概率很高；語言模型實際上能夠評估給定先前序列的每個可能詞的可能性。

Masked language modeling方法是next token prediction的變體，其中輸入句子中的一些詞被替換為特殊token，例如[MASK]。然后，模型被要求預測應該插入到mask位置的正確的詞。如果給模型一個句子：

The [MASK] sat on the ___

它可能會預測MASK位置應該填的詞是「cat」、「dog」。由此生成“the [cat] sat on the ___”和“The [dog] sat on the ___”兩個句子。

這些目標函數的優點之一是，它允許模型學習語言的統計結構，例如常見的詞序列和詞使用模式。這通常有助于模型生成更自然、更流暢的文本，這是每個語言模型預訓練階段的重要步驟。

很顯然，這兩種生成方法都來源于喬姆斯基的生成語法。喬姆斯基認為，這種生成能力來源于人類第一語言（母語）的“先天語言能力”（ILF），這樣就形成人們的心理完形能力。很顯然，ChatGPT在這里是要模仿人類的這種心理完形能力，但遺憾的是人工智能并不是生命，既沒有先天語言能力，也沒有心理完形能力。怎么辦呢？只好用互聯網的大量文本數據來訓練它。

對于生成和預訓練產生的語句，ChatGPT按照一定的模型，如監督調優模型（SFT）、訓練回報模型（RM）、近端策略優化（PPO），挑選出更接近用戶風格的語句，這一步就是轉換（Transform），這同樣是來源于喬姆斯基的生成轉換語法（GT Grammar）。轉換后得到具有或不具有一致性的語句序列，然后按照先后順序重復前面的生成、預訓練和轉換過程，這樣反復訓練，耗費寶貴的資源、巨量的時間、無數的金錢，可能得到一個與預期相符或不相符的結論。筆者經常納悶，這個由軟件工程師設計出來的會話和寫作軟件ChatGPT，作家們會使用它嗎？阿根廷詩人博爾赫斯說，我們生活在一個既充滿危險又充滿希望的時代，既是悲劇，又是喜劇，一個關于理解我們自己和世界的“啟示即將來臨”。

今天，我們確實有理由為人工智能取得的“革命性進步”感到既擔心又樂觀。樂觀源于智慧是我們解決問題的手段，擔憂是因為當前最流行、最時興的人工智能分支——機器學習將把一種有著根本缺陷的語言和知識概念納入我們的技術，從而降低我們的科學水平，貶低我們的道德標準。

人工智能不能做什么

現在我們應該對人工智能提一個終極的問題：人工智能不能做什么？

這個問題可以分為兩類：一類是基于人工智能的局限性，或者基于人工智能與人類心智的本質差異，人工智能不能做什么。另一類是即使出現了全智全能的人工智能，出于道德的考慮和對人類命運的關切，人工智能不能做什么。這兩類問題是互相關聯的。

不能產生意識和自我意識。人工智能的根本局限性是不能產生意識和自我意識。這個問題筆者曾在《大科學時代的基礎研究、核心技術和綜合創新》一文中作過論述。[10]郞咸平教授最近在《AlphaGo風光背后：人工智能時代加速到來》節目中，以“智能經濟”、“智能犯罪”、“智能天網”和“智能意識”四種人工智能為例，分析人工智能發展如何陷入二律背反。

以“智能經濟”為例，如果人工智能完全取代人工，則勞動價值歸零，工資也歸零，經濟卻無限增長，社會產品無限豐富，社會產品按照公平原則分配給每個人。這就是“智能經濟”的前景。試問，在這樣的情況下，還有誰會來投資“智能經濟”呢？

正題：智能經濟導致經濟無限增長。

反題：智能經濟導致GDP歸零。

二律背反也稱作“二律悖反”，它是一種悖論，即從它的正題可以推出它的反題；同時，從它的反題可以推出它的正題。

機器人意識也是一個悖論。

如果機器產生了意識和自我意識，那么，這樣的機器人沒有人敢用。請問，工廠的生產線敢用這樣的機器人嗎？你不怕它自我意識覺醒后罷工、造反、破壞生產線嗎？又問，陪護機器人、性愛機器人你敢用嗎？你不怕它哪一天突然自我意識覺醒，殺死它的陪護對象和性愛伙伴？如果發生這種事情，請問你如何訴訟？你會勝訴嗎？你沒有機會，因為商家早就讓你在購買機器人時簽下了免責協議書。

正題：有意識的AI能夠為你提供更人性的服務。

反題：有意識的AI可能按自己的意志行事，從而違背其服務對象的意志。

所以，沒人敢使用具有意識和自我意識的機器人。

筆者認為，有意識的人工智能永遠不會出現。一是基于人工智能的局限性，或者基于人工智能與人類心智的本質差異，人工智能不是生命，所以，它永遠也不會產生意識。二是出于道德的考慮和對人類命運的關切，具有理性和正常思維的人類永遠也不會允許人工智能具有意識和自我意識。

不能發明語言和使用語言，也就不可能有思維。1997年，“深藍”超級計算機戰勝國際象棋大師卡斯帕羅夫。2016年，谷歌公司的AlphaGo以五戰全勝的成績完勝人類圍棋高手李世石。可以說，在推理的某些領域，人工智能已經戰勝人類。那么是否可以說，人工智能也能夠像人類一樣思考，甚至還要勝過人類呢？

其實，迄今所有的機器行為和人工智能在推理方面都只是模仿人類心智，是按照一種叫做“演繹規則”（Modus Ponens， MP）的非智能方式來完成推理。這條規則表述為：

A→B， AB

如果天下雨，地面就會濕；天下雨了，所以，地面會濕。這個推理過程是一個客觀因果性的反映，不論你是否認識到這種因果性，其運行方式都是一樣的。非人類動物也能認識到這種因果關系，并形成條件反射。這是人和動物共同的學習機制，人工智能的學習訓練也是基于這一原理。所以，盡管人工智能在某些推理和學習的領域已經遠超人類，但它們并不是運用與人類一樣的思維能力，而是僅僅運用了基于刺激反應的學習訓練原理，并且這種推理和學習的能力也是人類賦予它的。

人類的思維有何不同？根據人類認知五層級理論，人類思維是一種以語言為基礎的高階認知能力。人類的抽象思維能力是以抽象概念為基礎的，歷史和邏輯在這里是如此的統一。200萬年前，南方古猿發明了能夠表達抽象概念的符號語言，人類終于完成了從猿到人的進化。在概念語言的基礎上，人類產生了抽象思維，其核心是四種基本的推理能力：由因及果的演繹推理、從個別到一般的歸納推理、從個別到個別的類比推理以及由果溯因的溯因推理。此外，人類還形成了兩種主要的思維加工方式：自上而下（top-down）的分析方法和自下而上（bottom-up）的綜合方法。200萬年以來，特別是發明文字5000年以來，建立城邦、創建文明2500年以來，人類憑借在進化中獲得的強大的語言和思維這兩種最重要的認知能力，創建了人類全部的知識體系，現在已經穩居于生命進化鏈的最高端，成為“萬物之靈”。

完全在進化過程之外的人工智能，沒有語言，也不可能產生思維。人類現今仍然從語言、思維這兩個方面牢牢控制著人工智能。只要這個過程不被破壞，機器或人工智能統治人類的幻想永遠也不可能實現。

不能擁有健全心智和豐富情感，也就不可能超越人類。是否擁有情感，是人和機器（人工智能）最本質的差異。以筆者欣賞的鋼琴家王羽佳和跳水運動員全紅嬋為例，我們來探討人和人工智能的差異到底有多大，人不可超越的品質又在哪里？這兩位優秀的中國人表現出的令人驚嘆的行為能力，貫穿和滲透著腦與神經心智、心理心智、語言心智、思維心智、文化心智的高超能力。

音樂語言也是一種符號語言。王羽佳具有對音樂符號的超強理解力、記憶力和音樂表現能力。演奏一首樂曲，需要從句法、語義和語用三個層次來把握它。句法保證不會出現音符的錯誤，語義和語用則保證傳達演奏者對樂曲意義的正確理解和演奏者的個性和風格，而這一切都是瞬間貫通的。此外，藝術作為一種最高級的文化認知能力，向下包含著思維認知、語言認知、心理認知和腦與神經認知能力，這些也都是瞬間貫通的。在演奏每一個音符時，王羽佳在以上各個層級上的超凡的心智和認知能力都在瞬間得到了出色的展現。

人工智能是否可以和王羽佳演奏同一首樂曲且同樣表現優秀呢？在今天當然不行，但按照人工智能目前的發展，我相信終究有一天它會達到幾乎相同的水平。但筆者想提醒大家，用人工智能做出來的樂曲可以算是音樂，但絕對稱不上藝術。正如用電腦打印出來的各種漢字字體，盡管十分規范，但絕對算不上書法作品一樣。聽王羽佳的鋼琴演奏，我能體會到她的感情，感受到她的溫度，但聽人工智能演奏同一首樂曲，我立刻知道那不是人，而是冷冰冰的機器。有一天會舉行人工智能的鋼琴比賽嗎？沒有人會阻止這樣做。但筆者決不會去看這樣的演出，相信絕大多數人也不會對它有興趣，當然，人工智能的設計者和懷著商業目的的演出公司除外。

全紅嬋的故事與王羽佳幾乎是同一個道理。全紅嬋的“水花消失術”創造了跳水運動的奇跡，這需要多么強大的心理素質以及身體和心理的控制能力，需要多么強大的自信！我相信可以設計一款機器人，像針一樣地入水，完全沒有一滴水花，但我相信沒有人去看這樣的機器人跳水比賽。所以，如果人工智能達不到擁有健全心智和豐富情感的藝術家王羽佳和運動員全紅嬋的水平，就不要妄言超越人類。

不能成為生命體，不能完成自我進化。已經有人預言人工智能會成為新的生命形式，即“生命3.0”。邁克斯·泰格馬克（Max Tegmark）在《生命3.0》中這樣定義我們這個星球上曾經出現和將來出現的生命：生命1.0，硬件不能更新、軟件不能更新，這是非人類的生命形式；生命2.0，硬件不能更新，軟件能夠更新，這是人類的生命形式；生命3.0，硬件能更新，軟件也能更新，這是未來的生命形式，即人工智能生命。[11]這是一種以科學幻想的方式設想出來的在進化過程之外突然蹦出來的生命，但它是不可能存在的，因為所有生命形式都是在進化中產生的，從最簡單的病毒到最復雜的人類，沒有進化之外的生命。[12]

泰格馬克的《生命3.0》甚至斷言生命不必是碳基的，可以有所謂“硅基生命”，這同樣是科幻電影和神魔小說的情節。為何在35億年的生命進化史中，生命最初產生于海洋，最終進化出來的也是以碳為基本元素、以水為介質的碳基生命，而從未產生過“硅基生命”？這個問題，恐怕只有上帝才能回答。這個上帝，是斯賓諾莎的上帝，是萬物的主宰——自然。

因此，沒有所謂“硅基生命”，而且永遠也不會有！因為人工智能不能成為生命，也就不可能完成所謂“進化”，因為所有的進化都是自然過程，迄今為止人工智能的所有智能，都是人類賦予的，而不是機器自身進化出來的。

在教育領域，請遠離ChatGPT。語言、思維和文化是人類特有的認知能力。人類認知是以語言為基礎，以思維和文化為特色的。因此，語言和思維是人類認知的根基，“我言，故我在。”“我思，故我在。”[13]人類的語言、思維和文化認知能力是在進化中獲得的，并且在整個基礎教育、高等教育階段和終身發展中都在學習、訓練和提高這些心智認知能力。這是人類心智和認知能力得以永遠保存、不斷進化和發展的根本原因。

我們不能設想在人的心智和認知發展過程中某種甚至全部的能力都被人工智能所替代，因為我們不能設想在學前的言語（口語）能力形成和發展階段就用ChatGPT來替代兒童的聽說能力、會話能力、語言交際能力和圖畫能力；我們同樣不能設想在小學識字和思維發展階段就讓孩子們使用ChatGPT來寫字、寫作文、背誦課文、做算術題和繪畫；初中和高中階段是學生的語言和思維能力進一步發展提高的時期，我們不能設想中學生使用ChatGPT來學習古文和寫作格律詩詞、學習外語和解數理化難題、查詢資料和寫作文、甚至匪夷所思地用它作替身參加高考（試驗表明ChatGPT能夠取得比優等生更好的考試成績）。可能有人會問，既然它做得比人好，為什么不呢？要知道在基礎教育階段，上述的這些學習、訓練和考試都是孩子的心智發育成長所必需的，不能用ChatGPT和任何人工智能來替代。所以，ChatGPT請離我們的孩子遠點！大學和研究生階段，仍然是人的心智和認知發展的重要時期，這個時期除了學習知識，更是進行科學研究和知識創新的重要時期，同樣不需要也不能用ChatGPT和任何人工智能來替代人類心智的認知能力的發展和提高。所以，在教育領域，請遠離ChatGPT，否則將會帶來難以預料的負面結果。

當然，我們不否認人工智能包括ChatGPT的某些功能，例如，現在有人用它來給領導寫講話稿；也有人用它寫體育比賽的報道；還有人用它來查資料，或用它來做翻譯。這些工作，盡管用ChatGPT來做好了。但在教育領域，不能讓人工智能包括ChatGPT來取代人類心智和認知。這不是行不行的問題，而是允許不允許的問題。對這個問題，我們堅定地回答“不”！這里我們倒是想反問一下ChatGPT軟件和其他人工智能的設計者和制造者，如果當年你從學前、小學、初中、高中到大學，一路都使用代替你說話、思考、閱讀、計算和寫作的軟件，請問你還能成為現在的你嗎？

人工智能不能瘋狂，不能主宰人類命運。其實令人擔心的不是人工智能，而是制造人工智能的人類。所有可能危及人類生存和發展的“壞的”科學技術，其共同之處是它們都違背了人類生存和發展的自然基礎，它們試圖改變自然，甚至想成為自然的主宰，成為人類命運的主宰。

現代科學技術的發展出現了越來越背離自然的傾向。自然語言是好的，ChatGPT說，來用我的語言吧，它比你的語言更強大；自然思維是好的，ChatGPT說，讓我來幫你寫作和思維吧；芯片專家說，來做芯片植入吧，你的孩子可以贏在起跑線……

科學技術包括人工智能和ChatGPT似乎成了某些人手中的“玩物”，他們考慮的不是人類的生存和發展，不是人類的道德和理想，他們考慮的只是自身的利益。對于當前“走火入魔”的ChatGPT，筆者既不懷疑它僅有的那一點點價值，也不擔心它將替代多少人的工作，這是技術宣傳的需要和因商業利益而人為制造的恐慌，并不是而且永遠也不可能成為現實。

意大利文藝復興時期的科學巨匠伽利略曾經說過：“自然是完美的（Nature is Perfect）。”喬姆斯基在《生成轉換語言導論：從原則參數到最簡方案》一書前言中引用了這一名言，讓我們以這兩位科學大師的話來結束本文，也希望這兩位相隔數百年但同樣有深厚人文情懷的科學大師的話對今天的科學家有所啟發。

伽利略說：“自然是完美的。”這個理論啟發了現代科學，而科學家的任務就是要去證明這個理論，無論是研究運動定律、雪花的結構、花朵的形狀和生長，還是我們所知道的最復雜的系統，人類的大腦。[14]

（本文系國家社會科學基金重大項目“語言、思維、文化層級的高階認知研究”、貴州省哲學社會科學規劃國學單列重大項目“認知科學與陽明心學的實證研究”的階段性成果，項目編號分別為：15ZDB017、20GZGX10）

注釋

[1]蔡曙山：《言語行為和語用邏輯》，北京：中國社會科學出版社，1998年，第335～400頁；蔡曙山：《沒有喬姆斯基，世界將會怎樣》，《社會科學論壇》，2006年第6期；蔡曙山、鄒崇理：《自然語言形式理論研究》，北京：人民出版社，2010年，第141～299頁。

[2]蔡曙山：《認知科學導論》，北京：人民出版社，2021年，第3頁。

[3][12]蔡曙山：《生命進化與人工智能》，《上海師范大學學報》，2020年第3期。

[4]詳細論述可參見米黑爾·羅科、威廉·班布里奇編：《聚合四大科技 提高人類能力》，蔡曙山、王志棟等譯，北京：清華大學出版社，2010年。

[5]維特根斯坦：《邏輯哲學論》，賀紹甲譯，北京：商務印書館，1996年，第88頁。

[6]“唔，上帝到了。我今天在五點一刻的火車上碰到他了。”在一封落款日期為1929年1月18日，寫給妻子莉迪婭·洛普科娃的信里，著名經濟學家凱恩斯就是這樣描述維特根斯坦回到劍橋的。見瑞·蒙克：《維特根斯坦傳：天才之為責任》，王宇光譯，杭州：浙江大學出版社，2014年，第397頁。

[7][8]喬姆斯基：《ChatGPT的虛假承諾》，2023年3月8日，https：//news.ifeng.com/c/8O29XJjYKOO。

[9]1967年，菲利帕·福特發表的《墮胎問題和教條雙重影響》中，首次提到了“電車難題”（Trolley Problem）。Sebastian Krügel， Andreas Ostermaier & Matthias Uhl， "ChatGPT's Inconsistent Moral Advice Influences Users' Judgment，" Scientific Reports， 2023（13）， p. 4569， https：//doi.org/10.1038/s41598-023-31341-0。

[10]蔡曙山：《大科學時代的基礎研究、核心技術和綜合創新》，《人民論壇·學術前沿》，2023年5月上。

[11]M. 泰格馬克：《生命3.0》，汪婕舒譯，杭州：浙江教育出版社，2018年，第32頁。

[13]蔡曙山：《我言，故我在：語言、思維、文化層級的高階認知研究》，北京：人民出版社，2023年（待出版）。

[14]Jamal Ouhalla ， Introducing Transformational Grammar： From Principles and Parameters to Minimalism， Edward Arnold Publishers Limited， 1999， Preface by Chomsky， p. 19.

責 編∕張 曉

蔡曙山，清華大學社會科學學院心理學系教授、博導，清華大學心理學與認知科學研究中心主任。研究方向為語言學、邏輯學、心理學和認知科學。主要著作有《認知科學導論》、《自然語言形式理論研究》、《語言、邏輯與認知》、《言語行為和語用邏輯》、《聚合四大科技 提高人類能力：納米技術、生物技術、信息技術和認知科學》（譯著）等。