人工智能及其社會(huì)化應(yīng)用的現(xiàn)狀和未來(lái)
——《全球傳媒學(xué)刊》就社會(huì)化智能信息服務(wù)專(zhuān)訪(fǎng)孫茂松教授

孫茂松， 金兼斌

近年來(lái)，隨著智能算法推薦在購(gòu)物、內(nèi)容生產(chǎn)、消費(fèi)、社交乃至自動(dòng)駕駛、智能家居等領(lǐng)域應(yīng)用的深入，人們已經(jīng)切實(shí)感受到人工智能對(duì)我們?nèi)粘Ｉ钏鶐?lái)的巨大影響。現(xiàn)實(shí)生活已經(jīng)高度數(shù)據(jù)化：一方面，日常生活本身日益依賴(lài)于信息傳播系統(tǒng)作為中介來(lái)組織和展開(kāi)；另一方面，我們的日常生活又在不知不覺(jué)中以數(shù)字印記的方式被社會(huì)的多層次立體化監(jiān)測(cè)系統(tǒng)進(jìn)行著準(zhǔn)全息式的記錄。近年來(lái)，大數(shù)據(jù)和計(jì)算能力成為人工智能快速發(fā)展的雙重引擎，社會(huì)化智能信息服務(wù)水平的提升，正在給社會(huì)的整體形態(tài)、行業(yè)結(jié)構(gòu)、組織管理方式、權(quán)力分配帶來(lái)深遠(yuǎn)的影響。在某種意義上，人工智能正在深刻影響社會(huì)運(yùn)作所依賴(lài)的基本要素之內(nèi)涵及其相對(duì)重要性，行業(yè)、工種、職業(yè)以及包括工作和休閑之間的界限在內(nèi)的各種邊界，都面臨重新劃分或洗牌的可能。以信息內(nèi)容生產(chǎn)和傳播為安身立命之本的新聞傳播業(yè)，從行業(yè)整體結(jié)構(gòu)到依附于其中的個(gè)體的命運(yùn)，近年來(lái)所經(jīng)歷的那種不以個(gè)人意志為轉(zhuǎn)移的演變和變遷，充其量只是這波正在浩浩蕩蕩推進(jìn)的技術(shù)與社會(huì)雙向形塑過(guò)程中的一個(gè)折射而已。

果如是乎？

“不識(shí)廬山真面目，只緣身在此山中。”環(huán)顧現(xiàn)實(shí)，放眼未來(lái)，也許現(xiàn)在我們除了對(duì)“人工智終將給我們帶來(lái)什么”進(jìn)行展望外，也應(yīng)該對(duì)我們當(dāng)下所處的階段有清醒的認(rèn)知。

2018年最后一期《全球傳媒學(xué)刊》正是在這樣的背景下，選擇“人工智能與社會(huì)”作為其專(zhuān)題。配合這期專(zhuān)題研究，《全球傳媒學(xué)刊》執(zhí)行主編金兼斌教授代表學(xué)刊，就社會(huì)化智能信息服務(wù)的現(xiàn)狀和未來(lái)，書(shū)面訪(fǎng)談了我國(guó)人工智能領(lǐng)域的著名專(zhuān)家、清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系孫茂松教授。

訪(fǎng)談嘉賓簡(jiǎn)介：

孫茂松，清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系教授，清華大學(xué)人工智能研究院常務(wù)副院長(zhǎng)，清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)位評(píng)定分委員會(huì)主席。2007—2018年任計(jì)算機(jī)科學(xué)與技術(shù)系系主任、黨委書(shū)記。主要研究領(lǐng)域?yàn)樽匀徽Z(yǔ)言處理、互聯(lián)網(wǎng)智能、機(jī)器學(xué)習(xí)、社會(huì)計(jì)算和計(jì)算教育學(xué)。國(guó)家重點(diǎn)基礎(chǔ)研究發(fā)展計(jì)劃(973計(jì)劃)項(xiàng)目首席科學(xué)家，國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目首席專(zhuān)家。在國(guó)際刊物、國(guó)際會(huì)議、國(guó)內(nèi)核心刊物上發(fā)表論文200余篇，Google Scholar論文引用數(shù)6800余次。

問(wèn)： 金兼斌教授

答： 孫茂松教授

問(wèn)： 您是計(jì)算機(jī)科學(xué)家、計(jì)算語(yǔ)言學(xué)博士，您所領(lǐng)導(dǎo)的實(shí)驗(yàn)室名為“自然語(yǔ)言處理與社會(huì)人文計(jì)算實(shí)驗(yàn)室”，您還成功申請(qǐng)到全國(guó)哲學(xué)社會(huì)科學(xué)基金重大項(xiàng)目“基于大規(guī)模社交媒體的漢語(yǔ)模因傳播機(jī)理量化研究”。可以說(shuō)，跨學(xué)科是您身上特別明顯的氣質(zhì)和特色，您的學(xué)生、如今已然成長(zhǎng)為國(guó)內(nèi)自然語(yǔ)言處理領(lǐng)域引人注目的新秀的劉知遠(yuǎn)老師曾評(píng)價(jià)您是“計(jì)算機(jī)學(xué)者中少有的有著深厚文化底蘊(yùn)的老師”。我在您的微信朋友圈中，也不時(shí)能看到您以古體詩(shī)的方式對(duì)學(xué)術(shù)人生進(jìn)行抒懷和評(píng)論，文采斐然。您如何看待您作為計(jì)算機(jī)科學(xué)家身上的這種人文符號(hào)和氣質(zhì)？這種人文底蘊(yùn)是如何影響您在專(zhuān)業(yè)領(lǐng)域的研究的？就人工智能研究下一階段的突破而言，基于不同學(xué)科的科學(xué)家間的合作，以及兼具人文社科和信息科學(xué)乃至生命科學(xué)知識(shí)背景學(xué)者的跨界合作，是否注定將扮演越來(lái)越重要的角色？

答： 對(duì)于“計(jì)算機(jī)學(xué)者中少有的有著深厚文化底蘊(yùn)的老師”之類(lèi)的說(shuō)法，實(shí)不敢當(dāng)。其實(shí)，我對(duì)文化或者人文的了解只是停留在感興趣的階段，遠(yuǎn)談不上有什么深度。計(jì)算機(jī)科學(xué)的發(fā)展日新月異，新思想、新算法、新技術(shù)層出不窮，需要時(shí)刻通過(guò)學(xué)習(xí)來(lái)不斷更新自己，同時(shí)研究任務(wù)也很繁重，每天應(yīng)付這些，已然精疲力竭。最近若干年，我用于閱讀人文圖書(shū)的“常規(guī)時(shí)段”通常有兩個(gè)：一是如廁時(shí)；二是上床睡覺(jué)前。還有一個(gè)就是坐飛機(jī)時(shí)堅(jiān)持不看專(zhuān)業(yè)圖書(shū)，而是瀏覽一些報(bào)紙雜志之類(lèi)。我的主要精力都集中于計(jì)算機(jī)主業(yè)上，對(duì)人文知識(shí)的學(xué)習(xí)與跟進(jìn)僅此而已。

從根本上說(shuō)，計(jì)算機(jī)科學(xué)同數(shù)學(xué)之間的關(guān)系最為密切，計(jì)算機(jī)科學(xué)的大師級(jí)人物多是數(shù)學(xué)出身，數(shù)學(xué)造詣都很精深。計(jì)算機(jī)科學(xué)與人文科學(xué)在學(xué)理上并沒(méi)有太直接的關(guān)系(當(dāng)然也不能一概而論，如世界級(jí)語(yǔ)言學(xué)大師喬姆斯基提出“喬姆斯基形式文法體系”以及與上下文無(wú)關(guān)文法相關(guān)的“喬姆斯基范式”，就對(duì)計(jì)算機(jī)科學(xué)產(chǎn)生了深遠(yuǎn)影響)。從這個(gè)角度來(lái)看，“人文底蘊(yùn)”對(duì)計(jì)算機(jī)科學(xué)整體上貌似幫助不大。

隨著人工智能的蓬勃發(fā)展，上述情形正在發(fā)生一些變化。變化主要反映在兩個(gè)層次上，一個(gè)是人工智能原創(chuàng)理論層次，需要具有頂級(jí)數(shù)學(xué)功底的計(jì)算機(jī)科學(xué)家同神經(jīng)和認(rèn)知頂級(jí)科學(xué)家通力合作，以期對(duì)計(jì)算機(jī)科學(xué)領(lǐng)域產(chǎn)生變革性的影響；另一個(gè)是人工智能應(yīng)用層次，也就是所謂的“人工智能+X”，需要計(jì)算機(jī)領(lǐng)域的優(yōu)秀學(xué)者同其他學(xué)科領(lǐng)域的優(yōu)秀學(xué)者通力合作，以期對(duì)其他學(xué)科領(lǐng)域產(chǎn)生變革性的影響。這兩種跨界合作將注定扮演越來(lái)越重要的角色。

我從小就對(duì)人文，尤其是中國(guó)古代文化和歷史感興趣。這一點(diǎn)對(duì)我在三十年前選擇自然語(yǔ)言處理這個(gè)專(zhuān)業(yè)方向上確實(shí)發(fā)揮了至關(guān)重要的作用，也是我這些年來(lái)比較喜歡從事與人文乃至社會(huì)科學(xué)大跨度交叉研究的源泉所在。

問(wèn)： 您擔(dān)任首席科學(xué)家的973項(xiàng)目“面向三元空間的互聯(lián)網(wǎng)中文信息處理理論與方法”中，把人類(lèi)認(rèn)知空間、網(wǎng)絡(luò)空間和現(xiàn)實(shí)世界空間一起統(tǒng)稱(chēng)為“三元空間”，這背后的邏輯是什么？這個(gè)雄心勃勃的973項(xiàng)目希望在融合“三元空間”的海量知識(shí)獲取與組織、大規(guī)模中文深度分析與內(nèi)容理解方面有所突破，目前取得了哪些重要進(jìn)展？這些進(jìn)展對(duì)于我國(guó)在中文信息處理領(lǐng)域的發(fā)展及社會(huì)化智能信息服務(wù)的提升方面有什么重要意義？

答： 實(shí)際上，“三元空間”是973指南里的要求，對(duì)其內(nèi)涵存在著若干種解讀可能性。我在申請(qǐng)項(xiàng)目時(shí)，針對(duì)語(yǔ)言信息處理的特點(diǎn)，把“三元空間”定義為網(wǎng)絡(luò)空間、現(xiàn)實(shí)世界和人類(lèi)認(rèn)知。以人類(lèi)語(yǔ)言為紐帶，把如上定義的“三元空間”聯(lián)系到一起，其背后的邏輯是不言而喻的。

經(jīng)過(guò)5年的不懈努力，這個(gè)項(xiàng)目取得了顯著進(jìn)展，完全實(shí)現(xiàn)了預(yù)期目標(biāo)。簡(jiǎn)而言之，其標(biāo)志性成果有三：一是提出了融合大規(guī)模知識(shí)的中文語(yǔ)義表示學(xué)習(xí)方法體系，努力將中文各個(gè)語(yǔ)言層次，即字、詞、詞義、語(yǔ)、句等形式化地表示在一個(gè)統(tǒng)一的計(jì)算框架中；二是提出了語(yǔ)義驅(qū)動(dòng)的中文語(yǔ)義依存分析算法，將中文在這方面的自動(dòng)分析能力提升到了與英文相當(dāng)?shù)乃剑蝗墙⒘耸澜缟弦?guī)模最大的中文語(yǔ)言知識(shí)資源和中文知識(shí)圖譜。這些進(jìn)展對(duì)于我國(guó)在中文信息處理研究領(lǐng)域的發(fā)展以及社會(huì)化智能信息服務(wù)的提升方面，起到了積極的推動(dòng)作用。

問(wèn)： 《未來(lái)簡(jiǎn)史》的作者尤瓦爾·赫拉利(Yuval Noah Harari)認(rèn)為，工業(yè)時(shí)代普通民眾因?yàn)閾?dān)綱社會(huì)的主要?jiǎng)趧?dòng)力和戰(zhàn)時(shí)兵力，“無(wú)論哪種政體的國(guó)家，都極為重視國(guó)民的健康、教育和福利，因?yàn)樗鼈冃枰獛装偃f(wàn)健康的勞動(dòng)者在生產(chǎn)線(xiàn)工作，需要幾百萬(wàn)忠誠(chéng)的士兵在戰(zhàn)壕里作戰(zhàn)”，因此，20世紀(jì)有一大部分時(shí)間是在縮小階級(jí)、種族和性別之間的不平等。但人工智能的興起可能會(huì)讓大多數(shù)人不再擁有經(jīng)濟(jì)價(jià)值和政治力量。同時(shí)，生物技術(shù)的進(jìn)步則可能將經(jīng)濟(jì)上的不平等轉(zhuǎn)化為生物體上的不平等，即富人和知識(shí)精英具有更多機(jī)會(huì)強(qiáng)化自己的生物機(jī)能乃至腦力和智慧，馬太效應(yīng)成為一種社會(huì)自然演變之后的主導(dǎo)機(jī)制。他由此預(yù)言，21世紀(jì)的人類(lèi)社會(huì)可能會(huì)是人類(lèi)歷史上最不平等的社會(huì)，人類(lèi)整體出現(xiàn)生物種姓并非不可能。您如何看待人工智能和生物技術(shù)發(fā)展對(duì)人類(lèi)社會(huì)結(jié)構(gòu)形態(tài)帶來(lái)的長(zhǎng)遠(yuǎn)影響？

答： 對(duì)上述觀(guān)點(diǎn)，如“人工智能的興起可能會(huì)讓大多數(shù)人不再擁有經(jīng)濟(jì)價(jià)值和政治力量”，“21世紀(jì)的人類(lèi)社會(huì)可能會(huì)是人類(lèi)歷史上最不平等的社會(huì)”等，我完全沒(méi)有研究，很難做出評(píng)論。我個(gè)人認(rèn)為，互聯(lián)網(wǎng)時(shí)代具有雙重性，雙面重要作用都不容小覷：一是使得世界日益成為平的；二是馬太效應(yīng)確實(shí)在不斷增強(qiáng)，這又使得差異日益擴(kuò)大。我們有必要對(duì)這一深刻的矛盾予以足夠關(guān)切。

總體來(lái)看，人工智能技術(shù)還處于初級(jí)發(fā)展階段。目前這一代人工智能技術(shù)是以借重于大數(shù)據(jù)的深度學(xué)習(xí)算法為核心的，在圍棋、圖像識(shí)別、語(yǔ)音識(shí)別、機(jī)器翻譯等人工智能經(jīng)典任務(wù)上確實(shí)表現(xiàn)出了異乎以往的能力，催生了如雨后春筍般勃興的人工智能創(chuàng)新企業(yè)，但是，其適用范圍實(shí)際上存在著嚴(yán)重局限。它的現(xiàn)有能力被大大高估了，領(lǐng)域內(nèi)的專(zhuān)家反倒比較謹(jǐn)慎。那么，人工智能對(duì)人類(lèi)社會(huì)結(jié)構(gòu)形態(tài)會(huì)帶來(lái)怎樣的變化呢？由于目前這一代人工智能技術(shù)的“本事”還十分有限，所以其短期影響雖然十分明顯，會(huì)給人以“橫掃千軍如卷席”之感，但總體上看其影響應(yīng)該還是局部性的，而不是全局性的。至于其長(zhǎng)遠(yuǎn)影響，現(xiàn)在還說(shuō)不準(zhǔn)，取決于人工智能理論和方法是否有新的實(shí)質(zhì)性突破。這種突破的可能性，現(xiàn)在看來(lái)尚屬可望而不可及。

問(wèn)： 自動(dòng)駕駛一度成為近年來(lái)令人矚目的熱點(diǎn)，不少公眾對(duì)之充滿(mǎn)期待。鑒于駕駛?cè)蝿?wù)本身對(duì)行動(dòng)者和環(huán)境互動(dòng)的極高要求，自動(dòng)駕駛一直被看作是衡量人工智能發(fā)展水平的重要標(biāo)尺之一。國(guó)內(nèi)外尖端技術(shù)公司如百度和Google都在大力研發(fā)自動(dòng)駕駛。不少公司甚至把2019年作為全自動(dòng)駕駛汽車(chē)投入運(yùn)營(yíng)的關(guān)鍵年。但最近，自動(dòng)駕駛領(lǐng)頭羊Waymo掌門(mén)人John Krafcik承認(rèn)，自動(dòng)駕駛汽車(chē)在路上普及還要幾十年；蘋(píng)果聯(lián)合創(chuàng)始人Steve Wozniak也認(rèn)為，自動(dòng)駕駛汽車(chē)不可能在不久的將來(lái)實(shí)現(xiàn)。這其中的一個(gè)原因是，自動(dòng)駕駛的場(chǎng)景太多元太復(fù)雜，算法達(dá)不到要求，即自動(dòng)駕駛技術(shù)還沒(méi)有達(dá)到在任何天氣和任何條件下都能駕駛的最高等級(jí)L5。您如何看待諸如自動(dòng)駕駛這樣將深刻影響人們生活方式的智能技術(shù)和產(chǎn)品的發(fā)展前景？在自動(dòng)駕駛情景下，我們將根據(jù)什么原則來(lái)認(rèn)定可能發(fā)生的交通事故的責(zé)任主體？

答： 近年來(lái)，我在幾個(gè)公開(kāi)學(xué)術(shù)報(bào)告中都提及過(guò)，完全意義的自動(dòng)駕駛無(wú)法在不遠(yuǎn)的將來(lái)實(shí)現(xiàn)。根本原因在于當(dāng)前這一代人工智能技術(shù)的“本事”還十分有限。正如清華大學(xué)人工智能研究院院長(zhǎng)張鈸院士很早前敏銳指出的那樣：它(人工智能)能做得比人好的任務(wù)場(chǎng)景，必須滿(mǎn)足一些重要的性質(zhì)(為了下文表述方便，不妨稱(chēng)之為“目前人工智能技術(shù)的若干適用性質(zhì)”)，如：任務(wù)的邊界是確定的；任務(wù)的解空間是有限的、可預(yù)期的(即使空間無(wú)比巨大)；執(zhí)行任務(wù)的規(guī)則是明確的；任務(wù)執(zhí)行過(guò)程中的信息是完全的；對(duì)任務(wù)結(jié)果的最終得失評(píng)估也是可精確量化的。其中任意一條不滿(mǎn)足，現(xiàn)有的人工智能技術(shù)就會(huì)遭遇很大的困擾。充足的大數(shù)據(jù)可以在相當(dāng)程度上克服這些困擾，但其性能會(huì)大打折扣，通常不可能做得比人好(但在某些應(yīng)用場(chǎng)景下，做得比人的平均水平好并不困難)。圍棋滿(mǎn)足上述所有性質(zhì)，所以人工智能的性能超越了人類(lèi)棋手。自動(dòng)駕駛基本上都不滿(mǎn)足上述性質(zhì)，并且屬于所謂的“生死攸關(guān)”任務(wù)，幾乎不容許犯任何錯(cuò)誤(人類(lèi)對(duì)機(jī)器性能的可靠性要求往往比對(duì)人的要求更為嚴(yán)苛)，這是當(dāng)前人工智能技術(shù)的“阿喀琉斯之踵”，所以我才有如上判斷。當(dāng)然這并不否定自動(dòng)駕駛在特定受限場(chǎng)景中仍然會(huì)有廣泛應(yīng)用的前景。

需要特別強(qiáng)調(diào)的一點(diǎn)是，作為人工智能的基本前沿課題之一，對(duì)自動(dòng)駕駛的基礎(chǔ)性研究需要進(jìn)一步強(qiáng)化和深化。什么時(shí)候才可能有完全意義的自動(dòng)駕駛？還是前面那句話(huà)，取決于人工智能理論和方法是否有新的實(shí)質(zhì)性突破。對(duì)自動(dòng)駕駛各種關(guān)鍵問(wèn)題的深入探索將成為下一代人工智能理論和方法發(fā)展的一個(gè)重要推動(dòng)力和試金石。

問(wèn)： 關(guān)于智能內(nèi)容生產(chǎn)。在新聞傳播領(lǐng)域，人工智能的發(fā)展正在深刻改變這個(gè)以生產(chǎn)新聞和各種內(nèi)容為主的行業(yè)的生態(tài)。在諸如氣象、環(huán)保、體育、財(cái)經(jīng)等領(lǐng)域的報(bào)道中，機(jī)器新聞寫(xiě)作，至少是機(jī)器輔助寫(xiě)作(robot-aided writing)，已然在世界各大通訊社的新聞生產(chǎn)和各種商業(yè)機(jī)構(gòu)的公關(guān)寫(xiě)作中得以試水和推行。在剛剛結(jié)束的烏鎮(zhèn)世界互聯(lián)網(wǎng)大會(huì)上，畢業(yè)自貴系的搜狗公司CEO王小川與新華社副社長(zhǎng)劉思揚(yáng)聯(lián)合攜“一位”人工智能合成主播驚艷亮相，引發(fā)廣泛關(guān)注。您如何看待人工智能對(duì)寫(xiě)作、創(chuàng)作、表演這些傳統(tǒng)意義上人類(lèi)所獨(dú)有行為和能力所帶來(lái)的影響？如何看待人工智能將對(duì)創(chuàng)意產(chǎn)業(yè)和內(nèi)容生產(chǎn)行業(yè)可能帶來(lái)的深遠(yuǎn)影響？一個(gè)國(guó)家的社會(huì)文化景觀(guān)將因此發(fā)生怎樣的變化？

答： 受囿于我前面所說(shuō)的當(dāng)前人工智能技術(shù)的局限性(“目前人工智能技術(shù)的若干適用性質(zhì)”)，人工智能在新聞傳播領(lǐng)域的應(yīng)用范圍和程度一定是局部的、有限的，不會(huì)導(dǎo)致全局性質(zhì)變。機(jī)器自動(dòng)新聞寫(xiě)作只是在由數(shù)據(jù)表格生成文本這個(gè)受限任務(wù)中取得了不錯(cuò)的效果。但要像高水平的記者一樣寫(xiě)出有深度的新聞及評(píng)介，在可預(yù)見(jiàn)的將來(lái)，機(jī)器還做不到(借助機(jī)器輔助寫(xiě)作是另外一回事)。人工智能播音這一任務(wù)比自動(dòng)寫(xiě)作簡(jiǎn)單得多，但要超越人類(lèi)頂尖主播，也不太可能。

不過(guò)，人工智能輔助寫(xiě)作、創(chuàng)作、表演，輔助創(chuàng)意產(chǎn)業(yè)和內(nèi)容生產(chǎn)，以一種人機(jī)協(xié)同的方式大幅提高工作效率和質(zhì)量，是完全具備現(xiàn)實(shí)性的，會(huì)給相關(guān)行業(yè)(尤其是中低端行業(yè))帶來(lái)廣泛影響。

問(wèn)： 關(guān)于算法與用戶(hù)內(nèi)容消費(fèi)。近年來(lái)，借助于大數(shù)據(jù)和云計(jì)算的不斷改進(jìn)升級(jí)，各種內(nèi)容算法推薦——主要是基于用戶(hù)過(guò)往消費(fèi)行為和基于用戶(hù)社交關(guān)系網(wǎng)中其他人的消費(fèi)偏好進(jìn)行的內(nèi)容和商品推薦——席卷各種內(nèi)容、購(gòu)物和社交平臺(tái)。基于用戶(hù)行為、場(chǎng)景特點(diǎn)、社交圈結(jié)構(gòu)的算法推薦一方面因其精準(zhǔn)傳播(precision messaging)，實(shí)現(xiàn)對(duì)用戶(hù)需求和偏好的深刻洞察而備受平臺(tái)、商家和用戶(hù)青睞，但另一方面，算法推薦所導(dǎo)致的“繭房”(information cocoons)效應(yīng)，又容易讓人們耽于既有審美、關(guān)注點(diǎn)、品位乃至視野之囿而不自知，不僅心智成長(zhǎng)和審美拓展會(huì)受到影響，更容易造成同輩抱團(tuán)、對(duì)他群聲音充耳不聞的“回音壁效應(yīng)”(echo chamber effect)，甚至?xí)觿∩鐣?huì)民眾的階層分化并導(dǎo)致社會(huì)撕裂。作為一名人工智能領(lǐng)域前沿專(zhuān)家，您認(rèn)為智能算法推薦是否會(huì)對(duì)普通民眾信息、內(nèi)容消費(fèi)方式帶來(lái)深層次、結(jié)構(gòu)性影響？這種影響主要表現(xiàn)在哪些方面？

答： 內(nèi)容算法推薦并不完全滿(mǎn)足“目前人工智能技術(shù)的若干適用性質(zhì)”，但由于此類(lèi)平臺(tái)天然擁有大數(shù)據(jù)(特別是用戶(hù)行為數(shù)據(jù))，也不屬于“生死攸關(guān)”的任務(wù)，所以比較適合人工智能，能夠?qū)崿F(xiàn)用戶(hù)還算滿(mǎn)意的個(gè)性化推薦效果，這一點(diǎn)不足為奇(何況人去做這件事也不是很有理?yè)?jù)的，帶有很強(qiáng)的主觀(guān)性)；通過(guò)進(jìn)一步改進(jìn)算法增加推薦的多樣性，有效應(yīng)對(duì)“繭房效應(yīng)”和“回音壁效應(yīng)”，也是可以預(yù)期的。

人們對(duì)智能算法推薦表現(xiàn)出足夠關(guān)切是完全必要的，也是完全可以理解的。例如，平臺(tái)出于自身利益的考量，算法推薦可能會(huì)出現(xiàn)廣泛性偏誤，或者過(guò)度推薦。所發(fā)生的這些現(xiàn)象，有些是目前智能推薦算法一時(shí)難以克服的深刻困難(涉及語(yǔ)義理解這一難點(diǎn))所致，有些則可能是有意為之。

問(wèn)： 讓我們來(lái)展望一下社會(huì)計(jì)算的極限問(wèn)題。您是否同意這樣的看法，即人工智能的上限本質(zhì)上取決于社會(huì)計(jì)算的計(jì)算能力？無(wú)論是情感還是價(jià)值判斷，無(wú)論是藝術(shù)創(chuàng)意還是審美趣味，無(wú)論是解釋還是推理，一切人之為人的特質(zhì)，是否最終都能夠被“計(jì)算能力”一一解析并復(fù)盤(pán)？在前不久的一次采訪(fǎng)中，您提到目前人工智能總體上依舊處于無(wú)理解的人工智能階段，下一個(gè)挑戰(zhàn)是有理解能力的人工智能，要想實(shí)現(xiàn)“有理解力”還很難。在無(wú)理解的人工智能和有理解的人工智能之間，在計(jì)算的此岸和生命的彼岸之間，注定是深不見(jiàn)底無(wú)可逾越的鴻溝——如0和1之間的差別——還是其實(shí)最終有什么橋梁可以跨越和架接，也即借助于不斷累積的計(jì)算能力和模型改進(jìn)，以及實(shí)時(shí)數(shù)據(jù)采集反饋系統(tǒng)的改進(jìn)，在物質(zhì)和意識(shí)之間終究可以曲徑通幽，加以打通？

答： 我第一次聽(tīng)到“人工智能的上限本質(zhì)上取決于社會(huì)計(jì)算的計(jì)算能力”這個(gè)表述，不很清楚其含義，難以評(píng)論。是的，現(xiàn)在看到的人工智能所取得的成功，大都屬于無(wú)理解的人工智能。此類(lèi)算法本質(zhì)上都是針對(duì)某一特定任務(wù)，從相關(guān)大數(shù)據(jù)中學(xué)習(xí)一個(gè)高度復(fù)雜的非線(xiàn)性函數(shù)，而這個(gè)函數(shù)可以看作是一個(gè)“黑箱”，缺乏可解釋性。接下來(lái)的重大挑戰(zhàn)是解決有理解的人工智能問(wèn)題，讓機(jī)器具有同人一樣的感知和認(rèn)知能力、推理能力、判斷和決策能力。無(wú)理解的人工智能和有理解的人工智能兩者之間存在本質(zhì)上的深刻差異，因而跨越起來(lái)極其困難。再?gòu)?qiáng)大的計(jì)算能力也解決不了這個(gè)問(wèn)題，反之，我們需要人工智能算法在思想和理論上的深刻創(chuàng)新，其中的關(guān)鍵橋梁之一就是人類(lèi)語(yǔ)言理解。語(yǔ)言是人類(lèi)區(qū)別于動(dòng)物的唯一標(biāo)志。機(jī)器對(duì)語(yǔ)言不能理解，很難說(shuō)有比較高級(jí)的智能。而語(yǔ)言理解的邊界是完全開(kāi)放的，所以非常具有挑戰(zhàn)性。機(jī)器要在物質(zhì)和意識(shí)、思維之間自由地騰挪輾轉(zhuǎn)，必須首先打通語(yǔ)言理解這一關(guān)，否則根本談不上“曲徑通幽”。

問(wèn)： 預(yù)言了地球村的媒介學(xué)者馬歇爾·麥克盧漢(Marshall McLuhan)曾經(jīng)形象地把媒介稱(chēng)為“人的延伸”。事實(shí)上，隨著生物技術(shù)特別是腦科學(xué)領(lǐng)域的研究突破，從智能芯片的人體植入到未來(lái)人機(jī)不同比例的混搭，麥克盧漢所謂的“媒介是人的延伸”的論述將很有可能從比喻演變?yōu)楝F(xiàn)實(shí)。您如何看待人工智能技術(shù)對(duì)人體先賦能力的后天補(bǔ)強(qiáng)？這種嫁接了人工智能的“超自然”人類(lèi)改良技術(shù)的出現(xiàn)和應(yīng)用，會(huì)帶來(lái)怎樣的社會(huì)和倫理后果？就像愛(ài)因斯坦作為質(zhì)能方程的提出者為原子核聚變反應(yīng)奠定理論基礎(chǔ)，卻為核武器的出現(xiàn)而感到惴惴不安一樣，您覺(jué)得如今人工智能領(lǐng)域的科學(xué)突破，是否也應(yīng)該對(duì)技術(shù)的社會(huì)倫理后果有更多的自覺(jué)？

答： 我基本贊成“媒介是人的延伸”這個(gè)說(shuō)法。其實(shí)飛機(jī)、輪船等就是人的體力延伸，人工智能則是人的智力延伸，兩者的目的都是為了幫助人，也就是你在提問(wèn)中所說(shuō)的對(duì)人體先賦能力不足的后天補(bǔ)強(qiáng)。單純使用目前的人工智能技術(shù)應(yīng)該還不致帶來(lái)嚴(yán)重的社會(huì)和倫理后果，不必過(guò)于不安——那將是下一代人工智能必須關(guān)切的，且無(wú)法回避的問(wèn)題。然而，人機(jī)混搭的智能正在日益朝現(xiàn)實(shí)邁進(jìn)，在發(fā)展過(guò)程中無(wú)疑會(huì)產(chǎn)生以前沒(méi)有遇到過(guò)的社會(huì)和倫理問(wèn)題，必須加強(qiáng)相關(guān)研究，特別是對(duì)什么是禁區(qū)要做到心中有數(shù)，進(jìn)而達(dá)到趨利避害。

問(wèn)： 基特勒(Fredirch Kittler)認(rèn)為，數(shù)字媒介的硬件和軟件都具有隱蔽性。在軟件的遮蔽下，用戶(hù)看不到自己受到了硬件的限制；而軟件雖然使得用戶(hù)可以與計(jì)算機(jī)進(jìn)行互動(dòng)交流，但用戶(hù)卻常常感覺(jué)不到其背后的結(jié)構(gòu)和邏輯乃至所內(nèi)嵌的價(jià)值觀(guān)偏向?qū)ψ约盒袨楹褪澜缬^(guān)造成的潛移默化的規(guī)制、影響和形塑。這也正是勞倫斯·萊斯格(Lawrence Lessig)在其著名的《代碼》(Code)一書(shū)中所表達(dá)的擔(dān)憂(yōu)。您如何看待代碼所構(gòu)建的“系統(tǒng)”——這雙“看不見(jiàn)的手”對(duì)用戶(hù)和民眾的控制能力乃至權(quán)力主導(dǎo)？更有甚者，當(dāng)基于代碼的系統(tǒng)具備了深度學(xué)習(xí)的能力，結(jié)合海量的動(dòng)態(tài)語(yǔ)料和分布式計(jì)算的迭代升級(jí)，我們現(xiàn)在衣食住行日益依賴(lài)的不少系統(tǒng)，是否最終會(huì)成為具有一定自在性和自主性的行為和責(zé)任主體，或至少是和平臺(tái)擁有方、開(kāi)發(fā)者并置的責(zé)任主體？

答： 實(shí)際上，現(xiàn)代社會(huì)經(jīng)濟(jì)生活中存在著形形色色的“看不見(jiàn)的手”，我們或多或少地受到其操縱而不能自拔。代碼所構(gòu)建的“系統(tǒng)”借重于算法和大數(shù)據(jù)的強(qiáng)大力量也具有這一特點(diǎn)，這本身沒(méi)有什么可奇怪的。需要關(guān)切的是，我們應(yīng)對(duì)此類(lèi)控制力乃至權(quán)力主導(dǎo)保持足夠的警惕，不能在無(wú)意識(shí)中一味地被“系統(tǒng)”背后的小團(tuán)體利益所裹挾。

問(wèn)： 最后還是回到您和您團(tuán)隊(duì)的研究，來(lái)聊聊“詩(shī)和遠(yuǎn)方”。您的實(shí)驗(yàn)室開(kāi)發(fā)機(jī)器詩(shī)人“九歌”，與您平時(shí)愛(ài)吟詩(shī)作詞不無(wú)關(guān)聯(lián)吧？2017年，“九歌”亮相央視《機(jī)智過(guò)人》節(jié)目，按照比賽規(guī)則接受圖靈測(cè)試，九歌以一首“機(jī)心造化本無(wú)私，智略工夫巧笑時(shí)。過(guò)客不須頻眺處，人間天上有新詩(shī)”順利通過(guò)圖靈測(cè)試，展現(xiàn)了很高程度的“智能”水平？您怎么看待和評(píng)價(jià)九歌真實(shí)的智能水平？您曾經(jīng)說(shuō)過(guò)“計(jì)算機(jī)作詩(shī)在科學(xué)研究上很有意義”，為什么？

答： 必須澄清一點(diǎn)：以一首詩(shī)的結(jié)果，絕對(duì)不能說(shuō)“九歌”(https://jiuge.thunlp.cn)通過(guò)了圖靈測(cè)試。必須通過(guò)大量的實(shí)際測(cè)試，才敢在古詩(shī)創(chuàng)作是否通過(guò)圖靈測(cè)試這一點(diǎn)上給出結(jié)論，現(xiàn)在還遠(yuǎn)不敢說(shuō)。我感覺(jué)，當(dāng)下“九歌”的真實(shí)智能水平只能達(dá)到古詩(shī)愛(ài)好者人群(包括詩(shī)人)內(nèi)的中上水平。自動(dòng)作詩(shī)這個(gè)任務(wù)在好幾項(xiàng)上都不滿(mǎn)足“目前人工智能技術(shù)的若干適用性質(zhì)”(例如，對(duì)自動(dòng)作詩(shī)結(jié)果優(yōu)劣的評(píng)價(jià)見(jiàn)仁見(jiàn)智，并不存在絕對(duì)標(biāo)準(zhǔn))，因此是非常困難的問(wèn)題，其本質(zhì)上不可能超越頂尖詩(shī)人。正因?yàn)槠淅щy，所以與之相關(guān)的研究對(duì)探索下一代人工智能很有意義。

我領(lǐng)導(dǎo)的實(shí)驗(yàn)室研發(fā)機(jī)器詩(shī)人“九歌”，與我以及主創(chuàng)人員之一，也是我的學(xué)生矣曉沅喜歡古典詩(shī)詞不無(wú)關(guān)聯(lián)。我們的初心是探索人工智能在自由式文本生成這一類(lèi)問(wèn)題(而不是由數(shù)據(jù)表格生成新聞文本的那類(lèi)問(wèn)題)上的算法解決方案。同圍棋類(lèi)似，古典詩(shī)歌的開(kāi)拓空間也是非常廣袤的，古人只是創(chuàng)作出了其中微乎其微的一小部分，絕大部分空間還有待于我們?nèi)グl(fā)現(xiàn)。怎樣去發(fā)現(xiàn)呢？我們希望利用人工智能算法，基于已知的古人詩(shī)歌創(chuàng)作對(duì)浩瀚的未知空間進(jìn)行合理的推衍，期待能達(dá)到的效果是利用機(jī)器把古人尚未來(lái)得及寫(xiě)出的詩(shī)“挖掘”出來(lái)，大底上就是陸游所說(shuō)的“文章本天成，妙手偶得之”的意思。此外，古詩(shī)創(chuàng)作帶有強(qiáng)烈的傳統(tǒng)文化色彩，容易引起公眾的關(guān)注，進(jìn)而會(huì)給予我們的研究以某種無(wú)形壓力，鞭策我們不斷地改進(jìn)算法、提升性能。這也是我們選擇以這個(gè)問(wèn)題作為算法攻關(guān)任務(wù)的原因之一。當(dāng)然，自動(dòng)作詩(shī)只是我領(lǐng)導(dǎo)的實(shí)驗(yàn)室中眾多人工智能研究方向的一支。