對李德毅院士關于“新一代人工智能十問”的哲學思考

魏屹東

（1. 山西大學 哲學學院, 山西 太原 030006; 2. 教育部人文社會科學重點研究基地, 山西 太原 030006）

關于智能的基本共識，李德毅院士做了很好的總結：“智能是學習的能力以及解釋、解決問題的能力；人工智能是脫離生命體的智能，是人類智能的體外延伸?！痹谌斯ぶ悄芎驼J知科學領域，這意味著智能是一種包括學習、解釋和解決問題的認知能力，人工智能是人類智能的衍生智能或離身智能。而所謂的“通用人工智能”就是在不同情境中能夠完成各種認知任務的普遍智能，在專門領域（如計算、下棋）可超過人類智能。

李院士針對新一代人工智能提出的“十問”和相應的十個基礎問題非常具有挑戰性，不僅激發了對人工智能的科學技術研究，也激發了對人工智能的哲學思考。20 多年來，筆者致力于自己提出的“認知哲學”的研究，其認識論和方法論的核心是“適應性表征”（自組織系統特別是認知系統，具有在特定環境或語境中自主地表征目標對象的能力，且這種能力能夠隨著環境或語境的變化而自主調整和提升）。這里筆者運用適應性表征概念以哲學的方式嘗試回應李院士的“十問”。

“一問”：意識、情感、智慧和智能，它們是包含關系還是關聯關系？是智能里面含有意識和情感，還是意識里面含有智能？

答：從認知哲學來看，意識、情感、智慧和智能等是具身的心理或精神屬性，也就是基于生命體的高級認知屬性，區別于低級的感覺或感知屬性。意識是生命體將自身與外部環境區分開來（如人們從睡眠中醒來，兒童區分生命體與非生命體）的基本認知功能或屬性。情感（在抑制和激活意義上）是有意識的狀態，如喜怒哀樂。智慧是有意識的巧妙策略或計謀，與直覺相關，往往無章可循，類似于哲學上的“洞見”、科學上的“奇思妙想”或“啊哈”現象。人類智能是基于知識的認知能力，如符號操作、知識表征和問題解決，而人工智能則是剝離了心理屬性的純粹符號操作和知識表征。這些心理屬性（除了人工智能）都屬于認知范疇，既有包含關系（如情感中有意識），也有關聯關系（如智慧是基于意識的）。這樣看來，意識是高級認知屬性所依托的基質，或者說意識是其他高級心理屬性展現的一個平臺。而意識又是基于感覺（feelings）和感知（perception）的。所以，感覺和感知是生命體更基本、更普遍，也就是更通用（所有生命體都有）的屬性，而認知能力只有高級物種特別是人類才有的。人工智能是人類智能的衍生物，其智能是抽象符號表征意義上的，這種符號表征能力是比意識、情感更高級的認知能力（意識、情感可以不依賴語言）。所以，這些描述心理屬性的概念，是相互包含的，也就是混合的。當然，這些概念涉及大眾心理學、認知學科和人工智能等學科，需要做進一步的澄清。從適應性表征的角度看，認知行為，無論是低級還是高級屬性，都是適應性表征的不同表現方面。因此，適應性表征是一切自組織系統，尤其是認知系統的“共通性”或“通用性”，在概念上是統攝自然智能和人工智能的統一范疇。

“二問”：如何理解通用智能？通用智能一定是強智能嗎？通用和強是什么關系？

答：“通用”有兩層意思：一是“普遍的”（universal）或“廣義的”，即在時空上是遍歷的，如宇宙（universe）；二是“一般的”或“概括的”（general），即哲學上的高度提煉，如世界統一于物質。根據這兩層意思，通用智能就是在所有領域能夠解決問題或完成任務的認知能力。按照筆者的理解，人工智能是相對于自然智能（人和動物）而言的，在計算主義語境中特指“機器智能”，如圖靈機，在“計算”意義上這兩種智能是相通的（否則人就造不出計算機）。人工智能的強弱之分，據筆者的考察，來源于哲學家塞爾在20 世紀80 年代對試圖制造人類水平或超人類水平人工智能的稱呼?！皬姟钡暮x是指讓機器智能達到甚至超越人類智能，包括有意識、有情感甚至有道德感；“弱”的含義是讓機器能夠在一定程度上模擬人類的智能行為，如功能模擬（如物理符號假設）、結構模擬（如人工神經網絡）和行為模擬（如感知行動），不要求有意識。目前，弱人工智能（計算意義上）已經實現，強人工智能（有意識意義上）還遙遙無期。簡單來說，強人工智能=理性能力（計算、推理）+心理能力（意識、情感），弱人工智能=理性能力（計算、推理）。通用人工智能（general artificial intelligence, GAI 或universal artificial intelligence,UAI）和人工通用智能（artificial general intelligence,AGI）在人工智能文獻中都出現過，通常不加區別，它是相對狹義（窄）人工智能而言的。這里的“通用”與“廣義”或“寬”意思相近。粗略來說，通用人工智能對應于強人工智能，狹義人工智能對應于弱人工智能。不過，在筆者看來，通用人工智能與強人工智能還是有所區別的，這主要表現在兩方面：一是在時間上，強人工智能概念早于通用人工智能，前者是塞爾提出的，后者是美國通用智能研究所的本·格策爾（Ben Goertzel）和佩納欽（Pennachin）2007 年提出的；二是在含義上，強人工智能強調機器智能的類人心理屬性，目標是實現人類水平甚至超人類水平的“具身智能”，而通用人工智能強調在感知層次實現通用性和自主性的“離身智能”，不強求有意識和情感。在這個意義上，通用人工智能稍弱于強人工智能，或者說，通用人工智能介于強人工智能和弱人工智能之間。相同之處是它們本質上都具有跨學科的特點。

“三問”：目前幾乎所有人工智能的成就都是在計算機上表現出來的“計算機智能”，存不存在更類似腦組織、能夠物理上實現的新一代人工智能？

答：目前的計算機和人工智能的實質是模擬自然智能。在方法論上是功能主義或行為主義。從哲學上來看，人工智能是“好像”（as-if ）智能，或“假裝”（make-believe）智能，也就是模擬出的“虛擬智能”，不是基于肉體的“真正的”人類智能。也就是說，計算機只能執行設計者預先設定的程序（算法）和目標，不具有“真正的”人類智能。在這里認知科學中的“硬件要緊”是一個關鍵，即構成認知主體或智能主體的組成成分很重要（碳基的還是硅基的）。這意味著人類智能和人工智能借以實現的物理載體完全不同。于是問題來了，組成成分完全不同的人腦和電腦是否一定不能實現相同的認知任務？答案是否定的，人腦和電腦都能執行計算任務，就如同飛機與鳥飛行的原理完全不同，但都能執行“飛行”任務。然而，目前的人工神經網絡不論多么復雜，都無法與人腦相提并論。如果有一天人工神經網絡也達到人腦神經元的量級（1011），情形會怎樣呢？筆者無法預測結果。但可以肯定，即使機器智能、機器意識等人工制品實現了類似人類意識的東西（如感受性），我們也不知道，就如同我們不知道他人的感受一樣。這意味著人工神經網絡生成的東西，本質上不同于生命體擁有的東西（生命、意識、心靈），盡管功能上甚至結構上相似或相同。

“四問”：機器人不會有七情六欲，還會有學習的原動力嗎？如果沒有接受教育的自發性，還會有學習的目標嗎？

答：這個問題涉及認知的具身性（embodiment）和本能（instincts）。生命體是具身的，其功能大多是本能（遺傳決定的或先天的），我們人類也不例外。機器人是離身的（disembodiment），其智能是人類智能的體外延展，這是當代認知科學的具身認知和延展認知觀。這里的問題的邏輯是：情感（興趣）是學習的原動力，機器人沒有情感（興趣），自然不會有學習的動力。情感是否是學習的原動力學術上是有爭議的。在筆者看來，除了興趣外，目標追求也是學習的動力之一。只要人工智能是目標導向系統，或者是我主張的適應性表征系統，它就是自我學習系統，如機器學習中的無監督學習。人類的學習（主動的或被動的）在很大程度上是后天教育的結果（語境化），機器人雖然缺乏人類的先天自發性和接受后天教育的主動性（非語境化），但目標導向的系統使其具有了學習的目標（人為機器設置語境，如知識庫）。這是筆者主張的人工智能的自語境化能力。人類是自語境化的（自我融入新情境），如果讓機器人也擁有了自語境化能力，它就會自主融入新情境（從一個情境進入另一個情境）。這種自語境化能力就是適應性表征能力。

“五問”：人的偏好和注意力選擇是如何產生的？新一代人工智能如何體現這一點？

答：人的偏好和注意力是有意識的認知行為。偏好是興趣引導或目標導向的，注意力是意識的聚焦問題。根據巴爾斯的認知理論，注意力就是意識的“聚光燈”，舞臺背景包括劇務人員就是意識的“語境”，這種語境支撐著作為意識的注意力。由此給筆者的啟發是，未來的人工智能的認知架構可能是：語境（知識庫）+感受器（輸入）+控制器（中樞系統）+執行器（輸出）。強化學習就是運用“獎勵”（偏好）的方法。如果能讓強化學習與語境化方法相結合，也就是將強化學習“語境化”，新一代的人工智能就會更接近甚至達到人類智能。

“六問”：如果說計算機語言的元語言是數學語言，數學語言的元語言是自然語言，前一個比后一個常常更嚴格、更狹義。那么，人工智能怎么可以反過來要用數學語言或者計算機語言去形式化人類的自然語言呢？

答：這是一個關乎人工智能如何表征的問題。在筆者看來，人工智能總體上是理性的事業，理性原則上是排除非理性的，如意識、情感、自我、心靈、自由意志等。在這個意義上，智能機器無需意識、心靈這些帶有神秘色彩的非理性東西。理性的呈現或表征方法主要是數學和邏輯語言，即形式語言。而形式語言是高度抽象的符號表征，這是人類理性的最高認知境界。人工智能就是這種抽象認知的結晶。從人類語言形成與發展的歷史看，先有口語、再有書面語（自然語言），然后才有了數學和邏輯，才有了科學理論（數學語言書寫的）。語言的這種生成過程是不可逆的，這與人類社會的發展是同步的，即從低級到高級。人工智能能否反過來形式化自然語言呢？我認為可以，雖然語言的自然形成是不可逆的（進化選擇和文化選擇），但高級認知能夠表征低級認知，比如自然語句的命題邏輯表達、自然現象的數學刻畫。這似乎回到了古希臘哲學家畢達哥拉斯關于宇宙是“數的和諧”的思想。如果“數的和諧”假設是對的，那么用數學語言或編程語言表征自然語言就不是問題。

“七問”：如何體現新一代人工智能與時俱進的學習能力？

答：筆者的看法是通過適應性表征。與時俱進的學習能力就是適應性表征能力，因為適應性意味著進化適應，表征意味著目標導向的語言表達。我們只要讓認知機器人或社交機器人具有適應性表征能力，它們就能夠完成人類為其設置的目標，至于它們有無意識和情感，則無關緊要。這個問題也是人工心理學、人工認知神經科學、具身人工智能以及認知哲學要研究的。

“八問”：在新一代人工智能架構的機器人中，基本組成最少有哪幾種？各部分中的信息產生機制與存在形式是什么？它們之間的信息傳遞是什么樣的？

答：根據人類智能的構成，筆者認為人工智能的認知架構至少要有一個智能體（人工腦）、身體（物理載體）和模擬對象（環境）3 個部分，而且它們之間的交互是必須的，因為極有可能正是交互（大腦、身體和環境的耦合）才涌現出了智能。由于交互是一個動力學過程，這個過程必然包含時間。若加上時間因素，人工智能的認知架構就有4 個基本組成成分。雖然交互中的信息產生的機制和智能生成之間有密切的關聯，但二者是不同的，也就是說，信息產生不等于智能生成，畢竟大多物理系統都有信息產生但沒有智能（如溫度計、恒溫器）。筆者不是人工智能研究者，具體的技術細節并不清楚，但筆者直覺地認為，人工智能架構不論是什么，“適應性表征”可能是其運作的內在機制以及不同部分之間的交互環節，因為適應性表征在同層次和不同層次之間（物理的、生物的、認知的）都存在。

“九問”：新一代人工智能如何具有通用智能？不同領域的專用智能之間是如何觸類旁通、舉一反三、融會貫通的？如何體現自身的創造力，如能不能形成自己軟件的編程能力？

答：通用人工智能或人工通用智能是一個跨學科領域，其最終目標是實現人類水平或超人類水平（某些方面）的智能。要實現這個目標，“通用”應該是人類和機器人共享的屬性或特征。問題是：什么是人機的共享屬性呢？筆者認為最基本的才是通用的，這種最基本屬性就是感知（人是感官系統，機器是感受器）；什么是兩種智能都共有的呢？筆者認為是適應性表征。即使是各類專家系統或專用智能（下棋、掃地、家庭服務等機器人），其智能體（agent）必須是適應性表征系統，即完全圍繞要完成的目標來行動，如掃地機器人要能夠執行保證房間干凈的目標。這意味著有了適應性表征能力，就有了某種創造力，因為適應是與新奇（意外）相關的，新奇（意外）是創造性的源頭，而表征本身就是再創造（呈現新奇現象的方式），如量子力學的不同表征（狄拉克標記法和薛定諤方程）。至于智能機器人能否自己擁有創造力、自己編程，這與機器人的自主性問題（哲學上是主體性問題）有關。筆者看來，只要機器人以某種程度的獨立性或自主性進行一些操作，如抓取東西，我們就應該認為它們具有一定的自主性，就像計算機病毒自復制一樣。有了自主性才會有創造性（必要條件）。這就要求人工智能研究者想方設法讓機器人有自主性（一種適應性表征能力）。從協同涌現的視角看，單一智能體恐怕沒有創造性，創造性應該是多智能體交互的一個整體特征。如果是這樣，我的想法是：人工智能的創造力要通過多智能體的協同來實現（產生“交互”意識），單個智能體很難擁有創造力（這和一個人有創造力不同）。

“十問”：基于新一代人工智能機器人，存不存在停機問題？機器人的“發育”，即軟硬件的維修管理和擴充升級，如何解決？

答：在邏輯上，停機問題本質是高階邏輯的不自洽和不完備問題，在人工智能中是判斷一個程序是否會在有限時間之內結束運行的問題。如果哥德爾不完備定律是正確的，人工智能中的停機問題原則上是存在的，就像人的認知能力有至上性（有限性）一樣。至于機器人的“發育”（自生長、自修復、自提升），我認為，只要機器人有了適應性表征能力，就可通過具身性和適應性表征來解決。在這個問題上，筆者持樂觀主義的態度。

概言之，新一代人工智能要實現“通用”，也就是在不同層次系統（物理的、生物的、認知的）、不同學科和社會領域都是適用的，筆者認為適應性表征是其“通用的”實現機制和統一解釋的概念框架。“通用”意味著最基本和最普遍，也就是適用于所有系統，如能量守恒定律適用于物理系統、生物系統和智能系統。因此，一個人工智能體，無論它最終是否有意識、有情感、有道德感，這都不重要，重要的是，它必須擁有適應性表征能力。