要重視AI基礎(chǔ)理論的創(chuàng)新
——記姚期智院士在2020世界人工智能大會(huì)上的演講

◆記者 蔚子 / 文

7月9日，圖靈獎(jiǎng)獲得者、中國科學(xué)院院士姚期智在2020世界人工智能大會(huì)開幕式上發(fā)表主題演講。他強(qiáng)調(diào)：要重視AI基礎(chǔ)理論的創(chuàng)新，并指出了人工智能理論研究的三個(gè)新方向。

在題為《人工智能理論的新方向》的主題演講中，他說：“AI在現(xiàn)實(shí)世界已經(jīng)有了廣泛應(yīng)用，在這場(chǎng)大會(huì)中也能看到AI應(yīng)用的新進(jìn)展。但是我想說明的是，所有的這些進(jìn)展都來自于基礎(chǔ)科學(xué)。也就是說，AI領(lǐng)域在很多年前就已經(jīng)打下了理論基礎(chǔ)。這給我們的啟示是，一定要讓理論研究不斷發(fā)展。”

他指出：當(dāng)前AI面臨的很多問題和挑戰(zhàn)，都可以用理論來進(jìn)行分析。通過理論分析，我們能更清楚地知道我們面臨的挑戰(zhàn)的本質(zhì)，以及解決這些挑戰(zhàn)的方法。同時(shí)，他還指出了“AI是跨學(xué)科的行業(yè)”這個(gè)特點(diǎn)。他說，當(dāng)前在AI中獲得的一些成果，其所處的領(lǐng)域很多是和AI幾乎不搭邊的學(xué)科。

在這次演講中，姚期智著重闡述了人工智能理論研究三個(gè)新方向：一是神經(jīng)拓?fù)浣Y(jié)構(gòu)，是神經(jīng)網(wǎng)絡(luò)研究的新視角；二是與密碼學(xué)息息相關(guān)的隱私保護(hù)學(xué)習(xí)；三是可控的超級(jí)人工智能，要研究如何設(shè)計(jì)有益的超級(jí)智能。

關(guān)于“神經(jīng)拓?fù)浣Y(jié)構(gòu)”，他追問了“深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)在很多年里都沒有進(jìn)展，后來卻意外地在AI應(yīng)用上獲得了成功。可是神經(jīng)網(wǎng)絡(luò)的力量到底來源于哪里？”的問題。他說，神經(jīng)網(wǎng)絡(luò)如此強(qiáng)大的理論原因直到現(xiàn)在還是個(gè)迷。如果能找到原因，這對(duì)神經(jīng)網(wǎng)絡(luò)的改善、應(yīng)用無疑是個(gè)突破。

他還舉例說明了神經(jīng)網(wǎng)絡(luò)的應(yīng)用。他說，氣象圖數(shù)據(jù)是“波動(dòng)”的，現(xiàn)在需要“算法”分析圖片中展現(xiàn)的氣候形式，即分析圖片中的天氣是暴風(fēng)還是正常。人類工程師通常觀察氣象圖的二維或者三維的表現(xiàn)，然后從中找到范式，判斷是否符合風(fēng)暴的特點(diǎn)。而機(jī)器學(xué)習(xí)的標(biāo)準(zhǔn)做法是通過處理高維度的數(shù)據(jù)，將數(shù)據(jù)分為不同的數(shù)據(jù)集類別。這個(gè)數(shù)據(jù)集可能是暴風(fēng)天氣的圖像，也可能是正常天氣的圖像。而高維度數(shù)據(jù)集正是數(shù)學(xué)家關(guān)注多年的一個(gè)方向，拓?fù)鋵W(xué)中貝蒂數(shù)的概念就可以應(yīng)用于高維度子集。

他說：“神經(jīng)網(wǎng)絡(luò)的核心問題是，如何設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)的深度和大小，才能夠?qū)?shù)據(jù)進(jìn)行分類。把數(shù)學(xué)和神經(jīng)網(wǎng)絡(luò)的能力結(jié)合起來，有助于我們了解什么樣的數(shù)據(jù)集更便于神經(jīng)網(wǎng)絡(luò)去識(shí)別。這也給了我們一個(gè)啟發(fā)，解決AI問題的方法可以從其它學(xué)科的角度考慮。”

二是“隱私保護(hù)”，這也是當(dāng)前人工智能理論研究主要的新方向之一。姚期智認(rèn)為，人工智能+MPC（多方計(jì)算）學(xué)習(xí)的現(xiàn)行技術(shù)，讓密碼學(xué)的應(yīng)用有了實(shí)現(xiàn)的可能。“通過多方密碼的做法，我們可以將多個(gè)當(dāng)事方的數(shù)據(jù)結(jié)合在一起交給AI來挖掘價(jià)值，但過程中又不會(huì)暴露數(shù)據(jù)的來源。這樣就能在實(shí)現(xiàn)高質(zhì)量學(xué)習(xí)的同時(shí)保護(hù)數(shù)據(jù)隱私，對(duì)金融科技、藥物研發(fā)非常有用。”

他說，隱私保護(hù)與密碼學(xué)息息相關(guān)。例如，他曾在1982年提出的安全多方計(jì)算就是相關(guān)理論方向。多方計(jì)算主要研究在私有信息不被泄露的前提下，多個(gè)互不信賴的參與者如何協(xié)作進(jìn)行計(jì)算。通過使用多方計(jì)算，多個(gè)數(shù)據(jù)庫可以聯(lián)合計(jì)算一個(gè)函數(shù)卻不會(huì)透露各自的數(shù)據(jù)。

三是通用的超級(jí)人工智能何時(shí)到來？這是人工智能理論亟待研究的主要方向之一。

關(guān)于這點(diǎn)，姚期智很直接地說：“我的答案是不可預(yù)知。”他解釋說：“因?yàn)楝F(xiàn)在的AlphaZero、人臉識(shí)別雖然很牛，但僅適用于特定領(lǐng)域。正如1977年，John McCarthy曾經(jīng)說過‘我們需要概念上的突破，1.7愛因斯坦+0.3曼哈頓項(xiàng)目，可能需要5～500年時(shí)間’。”

他說，最新的“超級(jí)AI理論”的提出，是在2019年。他介紹了伯克利大學(xué)Stuart Russell的書。書中提到，雖然超級(jí)人工智能不知道什么時(shí)候到來，但是我們必須做好準(zhǔn)備。在書中他設(shè)定了三個(gè)原則，每一個(gè)原則都要用嚴(yán)格的數(shù)學(xué)方法來實(shí)現(xiàn)。這三個(gè)原則分別是：1.利他的——人的利益凌駕于機(jī)器利益；2.謙卑的——機(jī)器不能自以為是；3.盡心的——機(jī)器能學(xué)懂人的偏好。此外，Stuart Russell還提出了許多方法論，涉及概率理論和博弈論。

姚期智最后說：“我想表達(dá)的是，現(xiàn)在的AI應(yīng)用來自過去的理論研究，AI的一些進(jìn)步也正來自跨學(xué)科領(lǐng)域。今日的理論探索，正為未來的偉大應(yīng)用奠定良基！”