數(shù)據(jù)驅(qū)動與知識引導相互結(jié)合的智能計算

吳飛

（1.浙江大學 人工智能研究所, 浙江 杭州 31027; 2.浙江大學 上海高等研究院, 浙江 杭州 31027）

在“數(shù)據(jù)是燃料、人工智能是引擎”的數(shù)據(jù)驅(qū)動機器學習時代，人工智能正在經(jīng)歷“大數(shù)據(jù)、小任務；小數(shù)據(jù)、大任務”的涅槃，如何從嫻熟于“煉金術”的調(diào)參師向篤定于“厚積薄發(fā)”推理機邁進，是面臨的巨大挑戰(zhàn)。機器學習(machine learning)這一單詞首次出現(xiàn)時被定義為“不需要確定性編程就可以賦予機器某項技能的研究領域”，其目標是構(gòu)造一種學習機器(learning machine)，使之像人一樣具有“l(fā)earning to learn”的能力。人類學習離不開數(shù)據(jù)、知識以及與環(huán)境交互等，本文探討數(shù)據(jù)驅(qū)動與知識引導相互結(jié)合的智能計算這一問題，希望這一模式將推動更通用(more general)計算范式躍變。

1 四種人工智能計算范式

圖靈獎獲得者 Jim Gray 曾說，人類社會已經(jīng)經(jīng)歷了4種計算范式。第一種是從實驗觀測中進行科學發(fā)現(xiàn)。比如，從比薩斜塔上同時扔下兩個質(zhì)量大小不一的鐵球，這兩個鐵球會同時落地。通過這個實驗觀測可知，對于同樣的下落距離，不管物體質(zhì)量多大、只要初速度相同，會用同樣時間經(jīng)過同樣的路途距離，于是發(fā)現(xiàn)重力加速度相同這一規(guī)律。第二種范式是從數(shù)據(jù)中進行模型歸納和方程推導。比如，一段電流通過指南針，磁鐵的南北極會發(fā)生變化，奧斯特由此發(fā)現(xiàn)了電生磁現(xiàn)象，法拉第隨后發(fā)現(xiàn)了磁生電現(xiàn)象。麥克斯韋從電生磁和磁生電中歸納出了麥克斯韋方程組，以一種近乎完美的方式統(tǒng)一了電和磁，并預言光就是一種電磁波，這是物理學家在統(tǒng)一之路上的巨大進步。在科學發(fā)現(xiàn)的壯美征途上，牛頓統(tǒng)一了力，麥克斯韋統(tǒng)一了電，愛因斯坦統(tǒng)一了場，這都是從數(shù)據(jù)中進行方程歸納，來刻畫現(xiàn)象后面所隱藏的隱秩序。第三種范式是虛擬仿真，即搭建計算系統(tǒng)去模擬復雜的客觀物理世界，從仿真系統(tǒng)中觀測各種因素的此消彼長，再指導客觀物理世界的改造。

Jim Gray 認為現(xiàn)在進入了被稱為數(shù)據(jù)密集型計算的第四范式階段。在數(shù)據(jù)密集型計算時代，隨著物聯(lián)網(wǎng)、5G和傳感器等技術進步，可以史無前例獲得記錄人類社會生產(chǎn)、生活和工作等方面海量數(shù)據(jù)。從這些海量數(shù)據(jù)出發(fā)，挖掘其結(jié)構(gòu)、模式和規(guī)律等知識，從數(shù)據(jù)到知識、從知識到?jīng)Q策與服務是數(shù)據(jù)密集型計算要解決的難點問題。2021年7月，李國杰院士在《中國計算機學會通訊》上發(fā)表了“有關人工智能的若干認識問題”文章，圍繞AlphaFold這一任務所帶來的啟示，提出了“科學研究第五范式雛形”的思想，這一思想很重要的一點就是將領域知識(或者人類先驗知識)與算法模型緊密結(jié)合起來，以更好解決領域問題。

2 人腦三類記憶體的啟示

神經(jīng)科學家指出：人類大腦有三種記憶體，分別是瞬時記憶、工作記憶和長期記憶。我們可以眼觀六路、耳聽八方，瞬時感覺到所處空間各種信息，這就是瞬時記憶在起作用。只有那些引起瞬時記憶關注的信息，才會被輸送給工作記憶體。

人類直覺、頓悟和因果等智能活動均在工作記憶體中完成。但是，工作記憶不是僅僅處理瞬時記憶所傳送而來的“感興趣信息”，而是從長期記憶體中喚醒或激活與這些“感興趣信息”相關的信息，整合起來一起處理。這就是我們常言的“弦外之音、畫外之意”。即智能體在處理信息時不是就事論事或就數(shù)據(jù)論數(shù)據(jù)，而是會將與之相關的信息綜合起來進行處理。因此，我們可從“此弦”知曉“外之音”、從“此畫”洞悉“外之意”。

長期記憶體中所存儲的“相關信息”以怎樣形式存在是值得探索的問題。或許這些潛在信息是常識性知識(common sense)或背景性知識或暗知識。這些知識我們無法用言語來明確表達、機器也無法解釋，但人的大腦可以很好地存儲下來(并且以恰當范方式處理)。既然人腦是這樣的活動模式，現(xiàn)在的智能計算可否仿照人腦這一計算模式或思維模式呢？

DeepMind 在 2016 年發(fā)表了一篇《神經(jīng)圖靈機(Neural Turing Machine)》的文章，將傳統(tǒng)圖靈機模型與人腦思維機制進行融合，將其稱為深度神經(jīng)推理(deep neural reasoning)。

我們知道圖靈機包括一條兩端無限長的紙帶，紙帶上面有非常多方格。我們可以將計算任務和所需數(shù)據(jù)放在紙帶上，然后數(shù)據(jù)或事件觸發(fā)圖靈機中已經(jīng)寫好的程序來完成計算任務。在這個過程中，難以用到紙帶上以外的數(shù)據(jù)或信息。但是，神經(jīng)圖靈機外接了一個外在記憶體(external memory)，不斷從外在記憶體中激活與當前處理數(shù)據(jù)相關的信息，以對當前數(shù)據(jù)更好學習和理解，取得更佳效果。這篇文章發(fā)表后，Nature 期刊為其撰寫了一篇社論，稱其為深度神經(jīng)推理(deep neural reasoning)，而不是平常的推理機制。

現(xiàn)在出現(xiàn)了一個現(xiàn)象，只要有一個X算法，一定會把這個算法拓展為deep+X算法或neural+X算法。比如有n-gram的自然語言處理算法，就出現(xiàn)了 neural language model；有強化學習，就有deep reinforcement learning。這不是故作懸殊，不是單純追求從淺層模型到深層模型的轉(zhuǎn)變，而是在這個轉(zhuǎn)變過程中，巧妙融合數(shù)據(jù)、知識和交互經(jīng)驗，體現(xiàn)多種學習手段的集成式融合。

3 邁向新計算范式的科學計算

科學計算是將數(shù)據(jù)驅(qū)動和知識引導進行結(jié)合的重要研究領域。自然(Nature)雜志在2018年發(fā)表了一篇題為Machine learning for molecular and materials science的文章，指出在分子與材料等物質(zhì)合成領域先后出現(xiàn)了三代計算方法：第一代是給定一個結(jié)構(gòu)，研究預測該結(jié)構(gòu)性質(zhì)的算法；第二代是給定物質(zhì)的若干組成成分，去重建該物質(zhì)的組成結(jié)構(gòu)，然后基于重建的結(jié)構(gòu)預測其性質(zhì)；第三代是給定海量數(shù)據(jù)，從中辨析哪些成分可通過怎樣的反應生成結(jié)構(gòu)，推理該結(jié)構(gòu)的性質(zhì)。第三代計算方法是當前人工智能重要發(fā)展方向。

AlaphaFold 是 1972 年諾貝爾獎獲得者克里斯蒂安·安芬森(Christian Anfinsen)）所提出的一個猜想。當時，克里斯蒂安·安芬森在諾獎頒獎典禮上提出如下猜想：一個蛋白質(zhì)的氨基酸(amino acid)序列應該能完全決定這個蛋白質(zhì)的結(jié)構(gòu)，蛋白質(zhì)作為生命的基本構(gòu)件，其結(jié)構(gòu)與生命的各種功能息息相關。因此，可否從氨基酸序列出發(fā)，預測蛋白質(zhì)的三維結(jié)構(gòu)，從而形成“從數(shù)據(jù)到結(jié)構(gòu)到功能”的科學研究范式？

傳統(tǒng)通過實驗來解析蛋白質(zhì)結(jié)構(gòu)的方法往往耗時長、成本高、難度大，如X線晶體衍射圖譜法、核磁共振法、冷凍電鏡法等。2021年8月，《自然》和《科學》均發(fā)表了有關蛋白質(zhì)三維空間結(jié)構(gòu)預測的文章。前者是Deepmind公司完成的AlphaFold、后者是西雅圖華盛頓大學蛋白質(zhì)設計研究所完成的 RoseTTAFold。在這兩篇論文中，AlphaFold 和 Rose TTAFold 都非常強調(diào)學習注意力(attention)，即蛋白質(zhì)結(jié)構(gòu)中不同變量之間的關聯(lián)依賴關系。

比較有趣的，Rose TTAFold 的第一作者認為Rose TTAFold 的性能不如 AlphaFold，其原因在于Rose TTAFold所在實驗室沒有研究深度學習的工程師，只是化學家應用深度學習工具來做蛋白質(zhì)三維空間結(jié)構(gòu)預測的工作。從這里可以看出，AI研究一定要和X領域任務結(jié)合，形成AI+X的態(tài)勢，才能更好解決領域問題。

人工智能是使能之術，其一定是與來自不同領域工程師一起協(xié)作，才能解決領域問題，這也可回應為什么李國杰院士說人工智能上不了天、落不了地，因為要解決場景的任務，一定要和場景的工程師，以及人工智能專家結(jié)合起來。

4 結(jié)論

諾貝爾物理學獎獲得者、量子力學的奠基者之一保羅·狄拉克(Paul Adrien Maurice Dirac)在1929年一篇題為Quantum mechanics of many-electron systems(《多電子系統(tǒng)的量子力學》)文章中寫道：支撐大部分物理學和化學所發(fā)展的數(shù)學理論已經(jīng)完成了，目前只需要解決刻畫精確定律的復雜方程求解問題。

將數(shù)據(jù)驅(qū)動的歸納抽象和知識引導的演繹推理與物理定理的約束優(yōu)化結(jié)合起來，圍繞具體場景問題開展場景人工智能研究，是推動人工智能發(fā)展的一種手段。英國數(shù)學家理查德森(Richardson)1922年提出來“預報工廠(forecasting factory)”的夢想，被認為是科學計算思想的萌芽。1953年9月30日，理查森在睡眠中平靜去世，其夫人回憶說，理查森留給她終生難忘的一句話是：我們?nèi)松呢熑问且獮楹笕肆粝赂篮玫氖挛铩?/p>

人工智能賦能科學發(fā)現(xiàn)，科學計算促進了人工智能本身深入發(fā)展，人工智能又重塑不同學科研究的范式革命，美人之美，美美與共，留美于世！