從可解釋人工智能視角看因果科學革命

任曉明 邢萬成

(四川大學 哲學系,四川 成都 610065)

ChatGPT這款當今最火爆的語言生成模型,由美國人工智能研究公司OpenAI(Open Artificial Intelligence)于2022年11月底發布后迅速火遍全球。多年來被智能語音助手傻瓜式回答所困擾的那些人發現,ChatGPT出人意料地聰明:它可以創作故事、撰寫新聞、回答問題、聊天解悶、編寫代碼,等等。ChatGPT之所以具有這些強大功能,在于它“瀏覽”了互聯網上的大量數據,并在非常復雜的模型之下進行深度學習。雖然從底層技術看,這還算不上真正意義上的自主創新,但其社會影響遠遠超出了人們的預期。此外,ChatGPT為何成為熱門話題?除了商業營銷以外,還與它更友好的交互界面和能廣泛應用的特點相關聯。正是憑借這一特點,ChatGPT得到了公眾的追捧。然而,學界對它卻不乏理性拷問:它是可解釋人工智能嗎?它是經驗主義的一次勝利嗎?這是聯結主義戰勝符號主義的標志嗎?機器學習模型與人類大腦相比,有什么優勢和局限?它對因果科學哲學的發展將產生什么啟示?這是下文所要探討的主要問題。

一、可解釋性問題:從語言生成模型的角度看

2023年1月23日,筆者曾經與ChatGPT對話,想看看它到底有多神奇,實錄一段如下:

非單調推理主要用于數學、邏輯學等領域,尤其在證明數學定理時非常常用。非單調推理并不是演繹推理的一種,而是歸納推理的一種。歸納推理是一種從具體到抽象的推理方式,在歸納推理中,研究者會先通過具體的實例來證明命題的正確性,然后推廣到更廣泛的范圍。

因果學習中使用的推理方法并不一定是演繹推理,而是因果推斷,它是一種獨特的統計學方法,主要用于識別和分析因果關系。因果推斷的結論并不是絕對確定的,而是在統計學上是有可能性的,因果學習的結論通常都是在概率下的。

因果學習確實有其邏輯基礎,它使用的方法是因果推斷,它基于因果圖和統計學的理論來推斷和識別因果關系,這些都是有著嚴格的數學和邏輯基礎的。

通過以上幾輪對話,筆者的直觀感受是:ChatGPT作為一個生成式語言模型,酷似一個無所不通的怪才,它能不知疲倦地輸出所知曉的內容,雖“飽學”網絡知識但不求甚解;不僅“對答”如流,還能對提問者“投其所好”,并“知錯就改”,看起來接近甚至超過人類智能的平均水平。

雖然ChatGPT的能力是驚人的,但它的缺陷也是明顯的。作為一種基于深度學習技術的語言生成模型,ChatGPT通過對大規模語料庫的學習,能夠完成一些自然語言處理的任務,如文本生成、文本分類、語言翻譯,而且它在某些任務上表現得非常出色,甚至能夠通過圖靈測試,但它離實現強人工智能還有一定距離。ChatGPT看起來很有“邏輯”,甚至可以作因果推理,但在上述與筆者的聊天過程中表現出來的因果推理能力,大多來自人類語料庫里已有的內容,即使有一些內容生成,但可能還算不上自主創新。ChatGPT并沒有深度探索人腦結構和認知機制,它仍然是一種基于統計學習的黑箱模型,尚不能夠解釋其內部的工作機制。盡管它具有一定的自注意能力,但它缺乏自主意識、自主情感和自主創造能力。不過,后來推出的GPT-4在解決復雜問題(比如數學、編程、視覺、醫學、法律等領域的問題)時,比ChatGPT有了較大進步,在某些方面的表現驚人地接近了人類水平,從而引起了科學家們對這種擁有超級能力的智能機器人的高度警惕,并呼吁對這種智能機器加以規制,這當然是有道理的,但也應該看到,這種類似人類的智能機器目前在可解釋性方面仍然表現欠佳。

2023年3月,美國國家科學院院士羅伯特·戴西蒙(Robert Desimone)在接受我國媒體采訪時坦承,GPT系統面對的最大挑戰就是發展出具有人類水平的推理能力,而不僅僅是輸出語言;它的根本缺陷是它不明白自己在說什么,就像人們常說的,有時候這種模型是在一本正經地胡說八道。盡管戴西蒙的觀點失之偏頗,但他揭示了ChatGPT作為一個語言生成系統面臨的問題主要在于語言理解,比如意義的主觀解釋、語境中的歧義消解、難以跨越的隱喻鴻溝、不可避免的悖論,等等。

2023年6月9日,在北京智源大會開幕式上,研究機器學習的三巨頭之一楊立昆(Yann Lecun)發表了題為《朝向能學習、思考和計劃的機器進發》(Towards machines that can learn, reason, and plan)的演講。在這場演講中,楊立昆一針見血地指出GPT模型的缺陷——這類模型沒有推理的能力。單純根據概率生成自回歸的語言模型根本解決不了出現幻覺和錯誤的問題,在輸入文本增大的時候,錯誤的幾率也會呈指數級增長,這就是所謂的“指數爆炸”問題。

目前流行的對話機器,看起來似乎可以拆解任務,分步解釋復雜問題,也可通過語言拓展模型讓它看起來有推理能力,但楊立昆指出,那不過是它們借助搜索和其他工具讓自己看起來可以推理而已,并不是依靠自身對世界的理解來進行自主推理。

另外,人工智能和人類之間的差距正是由于缺乏常識造成的,理解常識對于人類來說易如反掌,對于機器來說則是困難的。因為顯而易見的事情人類一般不會說出來,每一個規律都有無窮無盡的例外,而且常識往往不具有普適性以及數學和邏輯那樣的精確性。這種缺陷在 ChatGPT 這樣的系統中很明顯,它生成的文本常常語法正確,但在邏輯問題上易犯嚴重錯誤,還可能作出前后不一致的陳述。楊立昆對當前智能系統的基本判斷是:性能驚人,但使用范圍狹窄;完全不如人類智能,而且存在著無法解決的bug。換言之,這類系統不僅面臨“指數爆炸”等困難,而且面臨可解釋性差的困境,這些困難正是聯結主義人工智能固有的缺陷。解決這類問題的出路是什么?有人提議說:是不是需要考慮符號主義和聯結主義結合的可能性?楊立昆的回答很簡單:不可能,因為二者不兼容。筆者認為,二者能不能融合另當別論,但找到問題的癥結才是關鍵。

二、癥結:從語言生成模型的深度架構和底層邏輯看

ChatGPT 爆火后,楊立昆在一次會議上稱其算不上是有重大進展的科研成果,尤其是就底層技術而言。確實,即使是目前最先進的深度學習系統也有著與早期機器學習模型類似的缺陷。

回顧早期機器學習模型,不難看出,在機器學習過程中,不僅需要提出一些假設,而且需要優化算法,這就涉及一個重要的定理,即“沒有免費的午餐”定理(No Free Lunch Theorem),它是沃爾帕特(Wolpert)和梅瑟岱(Macerday)提出的,其含義為:若對所有可能目標概念加以平均,任何學習算法在先前未觀察測試樣例上的表現都是隨機猜測的[1]722。

“沒有免費的午餐”定理意味著,沒有其它任何算法能夠比搜索空間的線性列舉或者純隨機搜索算法更優。其重要意義在于,在脫離實際背景的情況下,空泛地談論哪種算法最優是毫無意義的,要談論算法優劣就必須針對具體學習問題。這無疑增加了對所學知識加以解釋的復雜程度。為了減少復雜程度,機器學習中還采用一些化繁為簡的方法,比如奧卡姆剃刀原理:給定兩個模型,它們在訓練樣本上具有相同的誤差,選擇其中最簡單的模型[1]723。

不難看出,機器學習模型作為一個統計模型,擅長從樣本中發現平滑規律,比如通過足夠多的人類對話找到下一句該說什么的規律或者通過描述性的文字找到對應的圖像生成規律。就像“猴子和打字機”思想實驗所預言的:如果把一只假想的猴子放在打字機前,在無限長的時間里,猴子最終會寫出莎士比亞的十四行詩。機器的這些能力可以通過更大的語言模型、更多的優質數據,通過強化學習和人類增強的方式獲得,如ChatGPT。

ChatGPT的底層架構是機器(深度)學習,而深度學習屬于聯結主義人工智能。我們都知道,符號主義人工智能擅長解決精確問題,能夠較好地再現人類的邏輯思維能力和數學思維能力,比如,如何查詢數據庫、如何運用邏輯推理分析問題、如何建構知識工程等。聯結主義雖然在表達上絲滑流暢,但邏輯較差,如果沒有正確“理解”,其輸出的結果往往并不精準甚至還會出錯。可解釋性正是聯結主義最不擅長的。這樣的底層架構,在一些聊天類問題上尚可應對,但在需要邏輯嚴密性和數學精確性的問題上則難以勝任。因此,想讓ChatGPT更有邏輯、更具可解釋性,僅僅依靠對現有模型進行優化是不行的,其底層架構決定了它的性能,必須更新換代。

過去的10年,人工智能取得的重大成功幾乎都是由深度學習推動的。通過研究大量的數據,這種機器學習系統可以學習如何把一個事物與另一個事物相關聯,隨后把這些習得的關聯性投入實際應用中,這就是基于統計相關的機器學習的底層邏輯。但事實上,相關性不等于因果性,習得相關性只是登上了智能梯子的第一階,要習得因果性還需要登上更高階梯,即因果人工智能奠基者朱迪亞·珀爾(Judea Pearl)所說的“深度理解”(deep understanding)。通過因果建模才能使系統基于當前對世界的理解去確定干預的效果,而不必一切從頭開始、重新學習。也就是說,要想讓智能機器作出決策,就需要理解因果。

雖然機器學習算法能在大量任務中發揮較大的作用,但是對學到的假設加以理解通常比較困難,這就涉及到可解釋性問題。比方說,即使一個算法能夠以較高的正確率來確定某一給定文本作者的性別,但要理解算法基于何種標準來實現,則需要付出更多的努力。在這方面,使用演繹邏輯的優勢是顯而易見的:如果輸出假設是謂詞邏輯的一個公式,那么我們對此比較容易理解,但是,如果輸出假設來自歸納邏輯編程領域中的決策樹或者算法,那么就會面臨一些問題,比如大多數普遍陳述并不適用于特殊情況,此外經典邏輯不能夠提供任何實用的方法,從而對適用于“一般情況”(normal case)的陳述加以闡明。因此,有的機器學習研究者嘗試用非單調推理方法來解決這類問題,但是機器學習的實際運作不僅面臨非單調性問題,還面臨上文暗示的隨機性問題、語境依賴性問題,特別是可解釋性問題。

當前最先進的深度學習模型不僅承襲了早期機器學習模型的缺陷,而且使某些缺陷暴露得更充分。珀爾長期致力于研究非單調推理,他用華納兄弟電影公司出品的動畫片中的小明星翠迪鳥(tweety bird)來測試ChatGPT系統的推理能力:

然后機器不停給出反例,但就是沒有確定的答案。

珀爾的測試結果是:ChatGPT擅長列舉反例,避免給出確定結論,在推理方面的能力不足。為此,珀爾指出了ChatGPT 存在的兩大缺陷:第一,無法進行控制實驗,難以判斷因果關系;第二,無法進行非單調推理,特別是在處理自指(self-referential)語句時會出現無限循環。實際上,難以判斷因果關系、推理受限等正是當前機器學習的短板,說到底,就是可解釋性差。

總之,語言模型以及深度學習系統的缺陷在于:

(1)缺乏抽象概念: 像 ChatGPT 這樣的深度學習系統,在處理計數、分類等基本概念時照樣力不從心。

(2)難以進行自主推理: 大型語言模型無法推導基本的事實,有時甚至違背常識。

(3)適應性差: 人類能夠通過不斷適應來維護不完美的世界,大型語言模型則不然。它們不能通過提供新的事實來逐步更新自己的認知,而是需要無數次接受再培訓,才能吸收新知識。

(4)局限于統計相關性推理,缺乏因果思維能力。

為什么 ChatGPT 會產生違背常識的答案?這其中的癥結也許就是:只考慮統計相關性,不考慮因果性。化解這一癥結的出路是什么?下文將給出答案。

三、擺脫困境:第一次因果革命的興起

鑒于機器學習所面臨的困局,珀爾明確指出:“從當前的實踐效果來看,機器學習無法產生智能決策所需的理解能力。”[2]序5珀爾還指出:“從數據擬合到數據理解的轉變不僅僅涉及技術上的轉變,還意味著更加深刻的范式轉換。”[2]序5這場科學上的巨變,珀爾稱之為“因果革命”(causal re-volution),也就是本文所說的第一次因果革命。

什么是第一次因果革命?在筆者看來,它是使因果研究從哲學思辨變成科學的范式變革。在當下這樣一個大數據和深度學習成為時尚的智能時代,我們越發感到建立一門關于因果關系的新科學的重要性。盡管現代統計學的創立源自關于遺傳的因果問題,但其奠基人弗朗西斯·高爾頓(Francis Galton)卻遺憾地與創立因果新科學失之交臂,轉而去發展不涉及因果關系的統計學。在此之前,因果性問題往往被看作“非科學”的論題,因果關系術語被科學界禁用了半個多世紀。例如,某些統計學老師不讓學生說“甲是乙的原因”,只許他們說甲與乙“相關”或“存在關聯”。按照珀爾的說法,直到今天,這種只討論相關性、不討論因果性的觀念“還在陰魂不散”[3]3-6。

當然,珀爾也認識到,檢驗因果關系確實很困難,而發現結果的原因就更難了。但因果關系不是神秘的或形而上學的,它可以用簡單的過程來理解,可以用友好的數學語言來表達,以此為計算機分析做好準備。正如珀爾所說:因果概念正在“從一個被神秘面紗籠罩的概念轉變為一個具有明確語義和邏輯基礎的數學對象”,“因果性的研究經歷了一次重大轉變”[2]序11。因果理論的這種數學化,徹底改變了以往人工智能因果研究的面貌。此前,人工智能中的因果研究處于邊緣化地位,占支配地位的是概率和統計研究;而且,在以往的人工智能研究中,因果推理的研究雖然通過因果模態邏輯初步建立了形式系統,但語義上不夠明確,邏輯和數學基礎顯得薄弱。第一次因果革命的最大進步就在于實現了因果研究的數學化,為因果研究的算法化和系統化奠定了基礎。此外,根據現有人工智能的推理模式,在“因果革命”浪潮中,那些因果推理將在內涵和外延方面得以擴展,比如實現反事實算法化;或者在不同推理模式的融合中形成新的推理模式,比如形成因果強化推理模式,逐步實現推理模式和研究范式的變革。

珀爾在機器學習研究中逐漸意識到,在人工智能世界,只有當你能夠教會機器人理解某個主題,你才能說得上真正了解了它;而智能機器缺乏對因果關系的理解,這也許是阻礙其實現相當于人類水平智能的最大障礙[3]10-11。因果革命對人工智能的最大影響,就是使得強人工智能成為一個有可能實現的目標。更重要的是,真正理解了因果思維背后的邏輯,才可以在計算機上模擬,進而創造一個“人工科學家”[3]1-2。實際上,第一次因果革命的目標是讓“人工智能體”成為“人工科學家”,它所要解決的問題是智能系統的透明性問題、適應性問題,特別是可解釋性問題。

如何擺脫智能系統的可解釋性困境?在珀爾看來,“概率關系只是因果關系的表面現象,而因果關系才是我們理解世界的基礎和推動力”[2]序12。珀爾能得出這一科學判斷,是由于機器學習研究中盛行“數據擬合”的思維方式,這與著眼于因果推斷的“數據解釋”思維方式是迥然不同的。2011年,珀爾因為提出了概率和因果推斷演算法,獲得了“圖靈獎”。珀爾還描述了人類推理的三個層次:

第一個層次是“觀察”,并通過觀察在事物之間建立聯系。現今的人工智能系統在這方面非常擅長。

第二個層次是“做”或者“干預”。這是現今的人工智能系統并不擅長之處。人工智能系統可以通過檢查干預措施建立因果模型,即一個變量的變化如何影響另一個變量。與此前人工智能為變量之間的關系只創建一個統計模型不同,這種系統創建了多個統計模型。在每一個模型中,保持變量之間的關系不變,但改變其中一個或幾個變量的值,這樣的改變可能會導致新的結果,所有這些都可以用統計學中的分析方法來評估,這就是因果研究的數學化過程。

實際上,珀爾和他的追隨者已經在用訓練神經網絡的方式來生成因果圖,這是一種描述因果關系的方式。簡單來說,如果一個變量是另一個變量的原因,就用一個箭頭從前一個變量指向后一個變量;如果因果關系反過來,那么箭頭也要反過來;如果兩者沒有關聯,它們之間就不會有箭頭。隨機生成一個因果圖以后,再檢查它與給定數據集的兼容性,如果一些圖比其他圖能更好地擬合數據,那么這些圖通常會更精準。通過神經網絡學習生成更多類似的圖,目的就是找出能最佳擬合數據的那個圖。這種方法類似于人類解決問題的方式:人們生成可能的因果關系,并假設那些最符合觀察結果的因果關系最接近事實。例如,人們發現,玻璃杯跌落到水泥路面就會破碎,這可能會使人知曉堅硬表面的沖擊與玻璃杯破碎之間的因果聯系。把玻璃杯換成其他物品,或者把水泥地面換成柔軟的地毯,或者嘗試從不同高度上跌落,都能讓一個人改進因果關系模型,更好地預測一旦失手掉東西的后果,這顯然是因果推斷優于統計推理的地方。

第一次因果革命的積極影響在于,它可以讓智能系統更有能力應對不斷變化的環境。如果智能系統只根據數據中的關聯進行預測,那么它極易受到這些變量相互關聯方式所產生變化的影響。當學習關系的統計分布發生變化時,由于時間推移、人類行為或其他外部因素影響,智能系統的預測將變得不那么準確。

例如,我們可以在中國內地的道路上訓練一輛自動駕駛汽車,汽車的智能系統知道如何安全駕駛,但如果將同樣的系統嫁接到中國香港,它會立即失靈,原因很簡單:中國內地的汽車是靠右行駛的,而香港的汽車是靠左行駛的,此前智能系統學到的一些規則可能需要反過來。雖然可以利用香港的數據從頭再次訓練人工智能,但這不僅需要時間,還意味著由于新模型取代了舊模型,該軟件將不再適用于中國內地。但是,引入了因果模型就有可能快速適應變化。比如,一個中國內地司機來到中國香港,只需花幾分鐘調整一下,就可以在右舵的路面上完美駕駛。在香港,駕車右轉時才需要處理路徑交叉問題,這與中國內地情況不同,但它對駕駛員轉動方向盤時的預期以及輪胎如何與路面相互作用,都沒有影響。這就是說,因果建模使系統基于當前對世界的理解就能確定干預的效果,而不需要對任何事都從頭開始、重新學習。因此,因果建模在適應性方面明顯優于現有的機器學習模型。

第三個層次是“反事實推理”,即擁有“想象”和“反思”能力。反事實推理能力在珀爾的因果推斷層次結構中處于最高層,比如,一個人可以想象,如果自己走上一條不同的道路,他的生活會是什么樣子。這就是計算機科學家想用因果模型去復制的東西,即提出“如果……會如何?”這樣的假設問題的能力。

我們可以想象出如果我們采取不同的行動,結果會是更好還是更糟,這是人類學習的一個重要方式。想象不同情景的能力有助于克服現有智能系統的局限性,這種局限性主要表現為難以應對罕見事件。比如,一個駕駛員可以想象從未見過的場景,比如一架小飛機迫降在公路上,在這個突發事件中,駕駛員可以基于自己對異常事件如何應對的理解,定制化地設計自己的策略。如前所述,如果一輛自動駕駛汽車沒有因果推理的能力,那么它最多只能對路上的物體作出一般性的響應;若通過使用反事實來學習如何自動駕駛汽車,則自動駕駛汽車可以更好地為罕見事件做準備。從因果規則出發,而不是從一系列已經發生過的案例列表出發,將會使系統更容易泛化和遷移,這就是第一次因果革命帶來的變化。簡言之,通過發現因果關系,將極大地改善智能機器的穩健性和可遷移性,提高泛化能力。將因果關系整合到人工智能中,將成為科學界和哲學界備受矚目的課題。然而,一方面,ChatGPT等智能系統產生的實際效果大大刷新了人們對可解釋智能系統的期待;另一方面,雖然第一次因果革命在機器智能的穩健性和可遷移性方面取得了較大的進展,但是它在解決機器智能可解釋性問題上仍顯得力不從心。在這種背景下,第二次因果革命應運而生。

四、出路:迎接第二次因果革命的到來

2021年,珀爾在《因果論:模型、推理和推斷》一書中大膽預測,在下一個10年里,這個因果框架將與現有的機器學習系統結合,從而可能引發“第二次因果革命”[2]序5。珀爾和他的研究團隊主張在因果推斷框架中借鑒機器學習,通過將二者結合產生新一輪范式轉換,激發了一系列智能科學技術的進步,如研發出開源的因果模塊“Ananke”。《因果推理與大型語言模型:開辟因果關系的新前沿》一文深入探討了大語言模型及其因果推理能力問題[4],在這項研究中,基于大語言模型的方法在多個因果基準測試任務上表現出更高的準確性。對于這項研究成果,珀爾在推特上發文稱,非常棒,很深刻,在CI任務中運用大語言模型顯然有很大潛力,有可能導致一個新的層級或一個新的階梯的誕生,其輸入的不是“數據”,也不是“實驗”,而是“關于數據和實驗的文本”。換言之,大語言模型引入一種基于文本和元數據的新推理方式來實現這一目標,稱之為基于知識的因果推理(knowledge-based causal reasoning),這與現有的基于數據的推理方法有所不同。在這種意義上,可以說大語言模型擁有迄今為止被認為只有人類才具有的能力,比如使用知識生成因果圖,或從自然語言中識別背景因果關系。在這里,大語言模型可以作為人類領域知識的代理,這對通常依賴于人類輸入的因果任務來說是一個重大變革。通過捕捉關于因果機制的常識和領域知識,并支持自然語言與形式方法之間的轉換,大語言模型為推進因果關系的理論研究和實踐應用開辟了新方向。第二次因果革命探索了更高更新的層級和階梯,是新一輪因果研究的變革。

現在的問題是:什么是第二次因果革命?在筆者看來,它是在當今智能科學取得巨大進展,在語言大模型和大系統層出不窮、不斷迭代的背景下產生的新一輪范式變革。與第一次因果革命相比,它不僅在規模上,而且在研究的深度和影響的廣度上,都達到了前所未有的水平,并具有以下三個特征:

其一,第二次因果革命首先從因果理論與機器智能的融合實踐開始。這種融合實踐并不局限于第一次因果革命中因果理論與機器智能的理論整合,而是擴展到一種理論和實踐的深度融合。它為在復雜多變的世界中模擬實現不同路徑與不同效果提供了可行之策,不僅為推理決策、人機交互等多個場景帶來深刻影響,而且給機器賦予數據理解、知識表達、復雜邏輯推理等方面的能力,為實現可解釋人工智能奠定了基礎。換言之,實踐優位是第二次因果革命的第一特征。

其二,因果研究與機器學習特別是大規模機器學習系統的深度融合,使人工智能成為當代科學技術發展的直接推動力。一方面,這種融合導致跨學科分支的融合,例如,因果學習與強化學習結合,產生因果強化學習理論;因果學習與反事實條件句研究融合,產生因果反事實研究。另一方面,這種融合導致跨領域的融合,如數字智能與生物智能融合,產生進化邏輯和遺傳計算的研究;生成認知科學與智能科學融合,產生生成式智能系統。

其三,因果研究與機器學習的深度融合旨在提高智能系統的可解釋性,嘗試為建立可解釋的智能系統、進而為推動通用人工智能的發展奠定基礎。

新一輪因果革命帶來的影響主要體現在邏輯技術、哲學研究等方面。

第一,它可以使智能系統的靈活度、可靠性和創新性達到一個更高的水平。如果研究人員能夠成功地將因果納入計算,那么智能系統的靈活度將會達到一個全新的水平:機器人可以更便利地為自己導航;自動駕駛汽車可能會變得更加可靠;評估基因活性的計劃可能產生對生物機制新的理解,進而轉化為更新、更好的研究成果。

第二,它可以使智能系統更有邏輯性、避免自相矛盾和違反常識。像 ChatGPT 這類流行的自然語言生成模型,要是能夠讓生成的文本讀起來像是人寫的一樣,就可以通過納入因果從而從中獲益。目前已有的算法有時會自我背叛,它可能會寫出自相矛盾的文字,或者其表述可能會違背人類所知世界的真相,而納入因果的 ChatGPT則可以為其試圖表達的內容構建一個前后一貫的計劃,并確保它與人類的常識相一致。

第三,它將催生一系列因果邏輯系統的誕生。這些系統包括概率因果邏輯系統、反事實因果邏輯系統、非單調因果邏輯系統、因果認知邏輯系統,等等,這些新的因果邏輯系統是各個不同邏輯分支融合的結果。它還將催生進化邏輯、生物目的性邏輯等生物智能模型以及其他數字智能模型,這是對原有邏輯范圍的新拓展,盡管它們還不夠成熟,但發展前景是值得期待的。

第四,它將導致因果科學哲學研究范式的深刻變革。一方面,它會引起科學哲學、語言哲學、邏輯哲學、知識論和方法論的巨大變革;另一方面,它會引起思想文化領域的深刻變革,其影響不可限量。在這一新范式下,我們的問題是:知識到底是結構化信息還是一種語言哲學中的“意義”?如果它不是“知其然”而是“知其所以然”,那么這種知識就是因果性知識。我們能否打破經驗主義與理性主義截然二分、符號主義人工智能與聯結主義人工智能二元對立的教條?如何在因果性與概然性、歸納法與演繹法的對立兩極之間保持必要的張力?

第五,東方智慧對可解釋人工智能和因果革命帶來深刻的啟示。印度各派哲學家和中國藏傳佛教哲學家對因果關系都有過深入的研究,但新正理派哲學家的因果思想別具特色。新正理派基于對原因的常識性視角去理解因果關系,按照他們的經驗主義立場,因果關系可以被看作一種不變的序列。而我們對因果性的解釋依賴于時間性,即特定的結果發生在特定的時刻,這種時間性意味著結果依賴于其自身以外的其他東西。在正理派哲學家看來,因果關系不過是一種強制性的依賴,這有點類似于哲學家大衛·劉易斯(David Lewis)的因果依賴思想。

新正理派對因果關系的處理很有意思,他們把不變序列解釋為保持在一般性之中而不是特定事件之中的概念,于是他們將一個原因定義為屬于一個類的原因,這個類的個別成員總是先于另一個類的個別成員,即相關的結果類。不變序列的概念來自經驗,這一思想與西方近代哲學家對因果概念的解釋有相似之處。對休謨(David Hume)而言,只有心靈才能將自己傳播到外部對象上,將它們作為因果聯系起來,而它們之間并沒有真正存在的東西可以如此結合。對于正理派而言,不變的序列是通過思考發現的,但它存在于精神外的現實之間,如普遍性和類特質。正理派在堅持普遍性或共性的同時,回避了休謨問題。新正理派哲學家比如烏陀衍那(Udayana)堅持認為,因果關系的某些類的特質是真實的,確定因果關系標準的理論可以與休謨的有關理論形成鮮明對照。

新正理派哲學家對休謨問題的解決特別具有啟發性。長期以來,哲學家們對因果關系探討的絕望歸因于休謨對因果關系經驗分析的嚴格要求。休謨用相似性來進行經驗分析,新正理派則引入了真實的普遍性和類的特質的概念,避免了經驗主義的困境。在正理派哲學家看來,如果不訴諸因果概念,那么就無法解決相關性概念帶來的困難[5]。顯然,新正理派因果思想與可解釋人工智能的理論和實踐存在著微妙的不謀而合。由此看來,像一些東方思想家那樣跳出經驗主義的窠臼,也許是擺脫人工智能可解釋困境的出路之一。

綜上所述,本文所理解的可解釋性主要指“深度理解”,可解釋人工智能就是深度理解的人工智能,因此,可解釋人工智能與因果革命有一定的聯系,而第二次因果革命,即深度學習與因果學習的融合,將使這種聯系更加密切。我們相信,因果革命將為可解釋人工智能的發展開辟一條新路。建立可解釋人工智能是否會成為第二次因果革命的一個成果?未來會告訴我們答案。目前有待進一步探討的問題是:新一輪因果革命的可能性、必然性和現實性何在?因果科學革命對于建立可解釋人工智能有何意義?這為我們今后的研究指明了方向。