人工智能驅(qū)動科學(xué)研究的機遇、挑戰(zhàn)與對策

摘要：近幾十年來，科學(xué)家做出重要科學(xué)發(fā)現(xiàn)的年齡呈不斷增長趨勢，而科學(xué)論文的獨特性與創(chuàng)新性呈下降趨勢，科學(xué)家做出重要科學(xué)發(fā)現(xiàn)似乎越來越困難。隨著人工智能的快速發(fā)展與廣泛應(yīng)用，科學(xué)家越來越多地將其應(yīng)用于科學(xué)研究之中，以期提高科研生產(chǎn)率，幫助科學(xué)家做出重要的科學(xué)發(fā)現(xiàn)。但是，人工智能驅(qū)動科學(xué)發(fā)展是有限度的，我們必須在承認(rèn)人工智能擁有強大功能的同時，清醒地看到它可能具有的局限性及其引發(fā)的重大挑戰(zhàn)。由于人工智能在靈活性、理解力、創(chuàng)造性等方面的不足，使得人工智能驅(qū)動的科學(xué)研究在相當(dāng)長的時間內(nèi)可能還是以人類科學(xué)家為主導(dǎo)，人工智能系統(tǒng)處于輔助性地位。我們需要從重視基礎(chǔ)設(shè)施建設(shè)、強化多主體合作以及加強對科學(xué)研究的倫理治理等多個方面入手，充分發(fā)揮人工智能促進科學(xué)研究的潛力，同時規(guī)避倫理風(fēng)險。

關(guān)鍵詞：人工智能驅(qū)動科學(xué)；科學(xué)家；限度；挑戰(zhàn)；治理

中圖分類號：TP18；TP391.1；G301文獻標(biāo)識碼：ADOI：10.3969/j.issn.1003-8256.2025.02.001

基金項目：國家社會科學(xué)基金重大項目（20amp;ZD041）

將人工智能研究成果應(yīng)用于科學(xué)研究一直是人工智能發(fā)展中的一項重要內(nèi)容。只不過囿于技術(shù)成熟程度和其他多種因素的限制，人工智能在二十世紀(jì)的科研活動中并未受到普遍重視。近些年來，隨著人工智能科技的快速發(fā)展與廣泛應(yīng)用，人們越來越深刻地認(rèn)識到人工智能對人類社會的革命性作用。不同領(lǐng)域的科學(xué)家也逐漸認(rèn)識到人工智能對科學(xué)研究的影響，并自覺將其應(yīng)用到具體的科研活動當(dāng)中，甚至不少學(xué)者對人工智能寄予厚望。2016年，日本學(xué)者北野宏明（Hiroaki Kitano）建議開發(fā)一種人工智能系統(tǒng)，使其能夠在生物醫(yī)學(xué)領(lǐng)域做出重大科學(xué)發(fā)現(xiàn)，甚至獲得諾貝爾獎金[1]。他后來提出諾貝爾圖靈挑戰(zhàn)（Nobel Turing Challenge），其目的在于開發(fā)人工智能科學(xué)家，它不僅能夠高度自動化地完成科研活動，還能夠做出戰(zhàn)略性決策，并對其行動進行解釋與說明。北野宏明認(rèn)為這將創(chuàng)造科學(xué)發(fā)現(xiàn)的新形式，是科學(xué)研究中的范式轉(zhuǎn)換[2]。

2019年7月至10月，總共超過一千名科學(xué)家與工程師在美國阿貢、橡樹嶺和伯克利國家實驗室相繼召開四次學(xué)術(shù)會議，其主要目的是探討未來十年內(nèi)在人工智能、大數(shù)據(jù)等領(lǐng)域中的科學(xué)機遇與挑戰(zhàn)。學(xué)者們明確提出了人工智能驅(qū)動科學(xué)（AI for Science）的術(shù)語，用以表征計算領(lǐng)域中新的研究方法與科學(xué)機遇，包括試圖推進科學(xué)研究的人工智能方法（比如機器學(xué)習(xí)、深度學(xué)習(xí)、統(tǒng)計方法、數(shù)據(jù)分析、自動控制以及相關(guān)領(lǐng)域）的開發(fā)與應(yīng)用[3]1。2023年12月13日，Nature評出2023年度十大科學(xué)人物，除了十位科學(xué)家之外，還意味深長地加上了ChatGPT，足見人工智能對科學(xué)研究影響之深刻。2024年諾貝爾化學(xué)獎揭曉后，人工智能驅(qū)動科學(xué)研究更是受到媒體熱捧。本文嘗試探討人工智能驅(qū)動科學(xué)的歷史背景與現(xiàn)狀，分析其限度與哲學(xué)挑戰(zhàn)，并針對當(dāng)前的若干重要問題提出應(yīng)對策略，以期使人工智能更好地服務(wù)于科學(xué)研究。

1歷史背景與現(xiàn)狀

十九世紀(jì)末至二十世紀(jì)初，一場由物理學(xué)革命為先導(dǎo)的科學(xué)革命不僅在科學(xué)史上留下了濃墨重彩的一筆，同時也深刻地改變了二十世紀(jì)的人類社會面貌。不少人期望在二十世紀(jì)末至二十一世紀(jì)初發(fā)生類似的科學(xué)革命，以此深刻地改變二十一世紀(jì)的人類社會。但是，二十一世紀(jì)即將過去四分之一，人們似乎還看不到類似一百多年前科學(xué)革命的跡象。與此相反的是，不少研究表明，科學(xué)家做出重要的科學(xué)發(fā)現(xiàn)似乎越來越困難。

1.1科學(xué)研究變得更加困難了嗎

首先，科學(xué)家做出重要發(fā)現(xiàn)的年齡呈增長趨勢。通過對1901—2013年獲得諾貝爾科學(xué)獎的統(tǒng)計研究表明，自20世紀(jì)20年代以后，諾貝爾獎獲獎?wù)呷〉毛@獎成果時的年齡呈現(xiàn)上升的趨勢，從38.6歲上升到42.3歲[4]。通過對1901—2019年諾貝爾經(jīng)濟學(xué)獎、化學(xué)獎、生理與醫(yī)學(xué)獎、物理學(xué)家等獎項，從成果發(fā)表到獲獎之間的時間間隔統(tǒng)計表明，自20世紀(jì)50年代以后，二者之間的間隔呈現(xiàn)出明顯的延長趨勢，從13年延長至29年[5]。重大科研成果從發(fā)表到獲獎時間的延長，一方面意味著學(xué)術(shù)界對重大科研成果的檢驗難度越來越大，檢驗的時間亦越來越長，另一方面也可能意味著科學(xué)界新近的重大科學(xué)發(fā)現(xiàn)的數(shù)量呈下降趨勢。

美國學(xué)者瓊斯（Benjamin Jones）認(rèn)為，諾貝爾獎獲得者與重大技術(shù)發(fā)明家取得其重大成就的平均年齡，在整個20世紀(jì)內(nèi)增長了6歲。他認(rèn)為，年齡的增長并不簡單地因為人口的老齡化，而是因為偉大的科學(xué)家與發(fā)明家需要在年輕時花費更多的時間來進行必要的知識積累[6]。瓊斯稱之為“知識負擔(dān)”（The Burden of Knowledge）。在瓊斯看來，科學(xué)家的知識負擔(dān)越重，用于從事前沿創(chuàng)新研究的時間就相應(yīng)減少。

其次，科學(xué)論文的獨特性與創(chuàng)新性呈下降趨勢。雖然從事科學(xué)研究的學(xué)者數(shù)量在不斷增長，發(fā)表的學(xué)術(shù)論著也持續(xù)增加，但主要根據(jù)學(xué)者和論著的數(shù)量增加并不能真實反映科學(xué)研究進步的情況。有學(xué)者將科學(xué)論文標(biāo)題中包含的獨特性術(shù)語的數(shù)量稱為“認(rèn)知廣度（cognitive extent）”，以此為標(biāo)準(zhǔn)判斷科學(xué)進步的情況。根據(jù)科學(xué)網(wǎng)（Web of Science）從1900—2020年發(fā)表的論文數(shù)量統(tǒng)計表明，科學(xué)論文數(shù)量呈指數(shù)趨勢增長。但是，論文的認(rèn)知廣度基本上呈現(xiàn)出線性增長趨勢。1910—1965年，科學(xué)的認(rèn)知廣度呈現(xiàn)較快的增長趨勢，但1965年之后增速明顯下降，2004—2020年甚至出現(xiàn)倒退的趨勢。當(dāng)然，不同學(xué)科之間的情況略有差異，其中物理學(xué)、天文學(xué)和生物學(xué)有一定增長，數(shù)學(xué)、社會科學(xué)、計算機科學(xué)和心理學(xué)增長緩慢，地球科學(xué)、化學(xué)、農(nóng)學(xué)和工程學(xué)基本停滯[7]89-97。

其他相關(guān)研究亦揭示了類似的特征。有學(xué)者對科學(xué)網(wǎng)1945—2010年發(fā)表的2 500萬篇論文，以及美國專利與商標(biāo)局?jǐn)?shù)據(jù)庫中1976—2010年授予的350萬項專利進行了研究，根據(jù)多種不同的對開創(chuàng)性論文和專利的界定標(biāo)準(zhǔn)進行統(tǒng)計分析，均發(fā)現(xiàn)近幾十年來開創(chuàng)性論文和專利的創(chuàng)新程度呈現(xiàn)明顯的下降趨勢[8]。各個領(lǐng)域的論文引用情況似乎也印證了這一觀點。通過對經(jīng)管、數(shù)學(xué)、計算機科學(xué)、物理學(xué)、環(huán)境科學(xué)、工程學(xué)、社會科學(xué)、農(nóng)學(xué)、化學(xué)、生物學(xué)與醫(yī)學(xué)等領(lǐng)域1960—2020年發(fā)表論文的引用情況的統(tǒng)計研究表明，所有領(lǐng)域的論文引用近五年、近十年發(fā)表的較為新近論文的比例均呈現(xiàn)穩(wěn)定下降的趨勢[9]。

需要指出的是，科學(xué)論文數(shù)量的大幅增長，并不意味著科學(xué)家的生產(chǎn)率大幅度提升。1900—2015年，科學(xué)論文的增長數(shù)量與科學(xué)家的人數(shù)增長基本接近。也就是說，科學(xué)論文數(shù)量的增長主要是由作者數(shù)量的增長所導(dǎo)致的。1900—2015年，平均每位科學(xué)家發(fā)表的論文數(shù)量從每年2篇緩慢增長至每年大約2.5篇[10]。

為何科學(xué)研究會變得越來越困難？導(dǎo)致這一現(xiàn)象的原因是多方面的。自然科學(xué)發(fā)展到現(xiàn)在，無論是研究對象、研究工具、研究機構(gòu)還是科學(xué)家共同體，較之一百多年前都發(fā)生了很大的變化。就研究對象而言，人類對自然規(guī)律的認(rèn)識日趨深入，認(rèn)識對象趨于復(fù)雜化。自然規(guī)律總量可能是有限的，一些相對簡單的科學(xué)規(guī)律被人們發(fā)現(xiàn)之后，要發(fā)現(xiàn)更深層的規(guī)律自然愈加困難。從科學(xué)家的角度看，從事前沿性、原創(chuàng)性、基礎(chǔ)性的科學(xué)研究周期長、難度大、失敗率高，加上受科研機構(gòu)廣泛應(yīng)用的績效考核的影響，使得不少科學(xué)家更樂于選擇相對容易的增量科學(xué)。

1.2人工智能驅(qū)動科學(xué)的現(xiàn)狀與優(yōu)勢

工欲善其事，必先利其器。科學(xué)史研究表明，一些重要研究工具的發(fā)明，對科學(xué)研究會產(chǎn)生極大的推動作用，比如玻璃透鏡的發(fā)明對于天文學(xué)、生物學(xué)的意義，玻璃器具的發(fā)明對化學(xué)的影響是不言而喻的。雖然人工智能作為一門學(xué)科已經(jīng)經(jīng)歷了近七十年的發(fā)展歷史，但它對科學(xué)研究產(chǎn)生深刻影響是近十余年來的事情。特別是2006年辛頓（Geoffrey Hinton）等人在深度神經(jīng)網(wǎng)絡(luò)方面取得突破性進展之后，人工智能在科學(xué)研究中的應(yīng)用逐漸擴散開來。人們迫切希望在人工智能的助力下，改變當(dāng)前科學(xué)研究的困局，提升科學(xué)研究的效率[11]。

從應(yīng)用范圍的角度看，目前，人工智能在信息科學(xué)、數(shù)學(xué)、醫(yī)學(xué)、材料科學(xué)、地球科學(xué)、生命科學(xué)、物理學(xué)、化學(xué)等領(lǐng)域均有廣泛應(yīng)用，將人工智能融入各個自然科學(xué)領(lǐng)域是一種新的研究趨勢[12]。新近受到廣泛關(guān)注的大語言模型GPT-4已經(jīng)廣泛應(yīng)用于醫(yī)學(xué)、生物學(xué)、計算化學(xué)、材料設(shè)計與數(shù)學(xué)等多個領(lǐng)域。雖然GPT-4在化學(xué)、數(shù)學(xué)等領(lǐng)域的精確度還有待提高，但它已經(jīng)在自然語言的理解、生成與翻譯等方面表現(xiàn)出優(yōu)異的能力[13]。

從具體功能的角度看，人工智能驅(qū)動科學(xué)的功能表現(xiàn)在：輔助科學(xué)研究的數(shù)據(jù)收集與整理，包括數(shù)據(jù)選擇、數(shù)據(jù)標(biāo)注、數(shù)據(jù)生成與數(shù)據(jù)精化；科學(xué)數(shù)據(jù)的意義表征，即通過深度學(xué)習(xí)在不同的抽象層次上提取科學(xué)數(shù)據(jù)的意義表征，并對其進行優(yōu)化；科學(xué)假設(shè)生成，包括生成數(shù)學(xué)公式、化學(xué)分子與生物學(xué)中的基因變體等多種形式的科學(xué)假設(shè)；人工智能驅(qū)動的實驗及模擬，可以在一定程度上替代昂貴的、現(xiàn)實中無法進行的實驗室實驗，而且可以具有更高的效率和更大的靈活性，同時人工智能還可以將實驗結(jié)果與科學(xué)假設(shè)聯(lián)系起來進行分析[14]。

總的來看，人工智能驅(qū)動科學(xué)的主要特征與優(yōu)勢至少表現(xiàn)在以下三個方面。

其一，處理和分析大量科學(xué)數(shù)據(jù)，克服“維數(shù)災(zāi)難”[15]。人工智能可以快速有效地處理海量數(shù)據(jù)，并從中提取分析出重要規(guī)律與趨勢，協(xié)助科學(xué)家做出新的科學(xué)發(fā)現(xiàn)。鑒于海量數(shù)據(jù)在科學(xué)研究中的基礎(chǔ)性作用，而且這一特點是之前的科學(xué)研究所不曾具有的，因此有學(xué)者將數(shù)據(jù)驅(qū)動的科學(xué)研究稱為“第四種范式”[16]。

其二，減輕科學(xué)家的“知識負擔(dān)”。隨著科學(xué)文獻的大幅增加，科學(xué)家需要閱讀和了解的文獻數(shù)量也急劇增加，但科學(xué)家的閱讀時間是較為有限的。據(jù)2014年1月Nature的新聞報道，美國自然科學(xué)家和社會科學(xué)家平均每個月閱讀論文22篇（每年平均264篇），這個數(shù)字與2005年的調(diào)查結(jié)果沒有顯著差異。但是，在二十世紀(jì)八十和九十年代，科學(xué)家閱讀的文獻數(shù)量一直處于增長趨勢。也就是說，現(xiàn)在科學(xué)家們可能已經(jīng)達到了其閱讀極限。人工智能很容易通過數(shù)據(jù)挖掘和深度學(xué)習(xí)等技術(shù)，從科學(xué)文獻中獲取科學(xué)家需要的重要知識，減輕科學(xué)家的“知識負擔(dān)”。

其三，提高科學(xué)研究的自動化、智能化水平，提高科研效率。智能機器可以代替人類科學(xué)家完成大量重復(fù)性的繁瑣工作，而且人工智能的快速發(fā)展使人們普遍相信智能系統(tǒng)可以完成更多更復(fù)雜的常規(guī)性工作。目前人工智能科學(xué)家或機器人科學(xué)家在化學(xué)領(lǐng)域取得了較快的發(fā)展。2018年英國格拉斯哥大學(xué)團隊制造了用于有機合成的智能機器人，2022年開發(fā)出集文獻閱讀、方案制定、化合物合成與表征于一體的智能系統(tǒng)。中國科學(xué)技術(shù)大學(xué)于2022年研制出基于科學(xué)數(shù)據(jù)智能驅(qū)動的全流程人工智能化學(xué)家，可以完成化學(xué)研究中的常規(guī)性任務(wù)[17]。韓國科學(xué)家研制了一種自主合成機器人，可以根據(jù)科學(xué)目標(biāo)自主規(guī)劃方案、開展實驗并進行優(yōu)化與驗證[18]。

鑒于人工智能在科學(xué)研究中的強大影響力，不少國家將人工智能驅(qū)動科學(xué)研究上升為國家科技發(fā)展戰(zhàn)略。2021年，日本研究開發(fā)戰(zhàn)略中心發(fā)布戰(zhàn)略提案報告《人工智能與科學(xué)：以AI數(shù)據(jù)驅(qū)動科學(xué)促進科學(xué)發(fā)現(xiàn)和理解》，闡述了日本對人工智能自動化科研周期體系建議的戰(zhàn)略方針[19]。2023年3月，中國科技部會同國家自然科學(xué)基金委員會啟動“人工智能驅(qū)動的科學(xué)研究”專項部署工作。緊密結(jié)合數(shù)學(xué)、物理、化學(xué)、天文等基礎(chǔ)學(xué)科關(guān)鍵問題，圍繞藥物研發(fā)、基因研究、生物育種、新材料研發(fā)等重點領(lǐng)域科研需求展開，布局“人工智能驅(qū)動的科學(xué)研究”前沿科技研發(fā)體系。

2限度與挑戰(zhàn)

毋庸置疑，人工智能已經(jīng)成為推動科學(xué)研究的強大力量。但是，在人工智能快速發(fā)展時期，人們很容易高估其短期影響，而低估其長期影響。因此，我們必須在承認(rèn)人工智能擁有強大功能的同時，清醒地看到它可能具有的局限性及其引發(fā)的重大挑戰(zhàn)。

2.1限度分析：人工智能的輔助性、工具性地位

從人工智能技術(shù)固有特征的角度看，在科學(xué)研究中發(fā)揮重要作用的人工智能系統(tǒng)仍然無法擺脫其內(nèi)在缺陷。比如，DeepMind開發(fā)的AlphaFold2雖然功能強大，但也擁有某些潛在的不足。AlphaFold2可以準(zhǔn)確、快速地預(yù)測蛋白質(zhì)結(jié)構(gòu)，能夠極大地加快包括新藥研發(fā)在內(nèi)的多種研究，受到學(xué)界的高度重視與普遍贊譽。毫無疑問，AlphaFold與AlphaGo一樣，的確是人工智能領(lǐng)域的標(biāo)志性成果，它也是人工智能驅(qū)動科學(xué)研究的典型代表之一。但是，與其他人工智能技術(shù)一樣，AlphaFold2的性能仍然不可避免地受到訓(xùn)練數(shù)據(jù)集與模型架構(gòu)中可能存在的缺陷的影響。研究表明，AlphaFold2在不同類型氨基酸和二級結(jié)構(gòu)之間的預(yù)測可靠性存在系統(tǒng)性差異。同時，蛋白質(zhì)大小對3D結(jié)構(gòu)預(yù)測的可信度產(chǎn)生了顯著影響。與較小或較大的蛋白質(zhì)相比，AlphaFold2對中等大小的蛋白質(zhì)表現(xiàn)出更強的預(yù)測能力[20]。從科學(xué)理論的角度看，結(jié)構(gòu)生物學(xué)中蛋白質(zhì)折疊問題并不是一個新問題，而是分子生物學(xué)和計算機科學(xué)共同合作了數(shù)十年的研究領(lǐng)域。雖然以AlphaFold為代表的人工智能系統(tǒng)對新藥研發(fā)的確有很大的幫助，但它們所能發(fā)揮的作用對新藥研發(fā)可能并非是革命性的[7]74。另外，也有科學(xué)家報道稱ChatGPT-4在醫(yī)學(xué)應(yīng)用中表現(xiàn)出一定程度的種族與性別偏見，等等。

從人工智能與人類智能的本質(zhì)差異的角度看，人類科學(xué)家的科研活動是受個人情感、思維方式、文化氛圍與社會環(huán)境等多種因素影響的社會活動，而人工智能科學(xué)家主要是基于統(tǒng)計、歸納或演繹的程序運作，局限在人類科學(xué)家設(shè)定的框架之內(nèi)進行工作。波普爾（Karl Popper）[21]認(rèn)為，每一個科學(xué)發(fā)現(xiàn)都包含“非理性因素”，或者在柏格森意義上的“創(chuàng)造性直覺”。因此，人類的某些智慧是人工智能很難擁有的，人工智能幾乎不可能做出重大的原創(chuàng)性的科學(xué)發(fā)現(xiàn)。不少學(xué)者認(rèn)為，人工智能雖然功能強大，但不大可能具備人類的意識與情感，對于人類科學(xué)家擁有的直覺、靈感、頓悟等創(chuàng)造性思維很難進行模仿。目前科學(xué)研究廣泛應(yīng)用的人工智能技術(shù)是深度學(xué)習(xí)，李德毅等[22]認(rèn)為“深度學(xué)習(xí)是記憶驅(qū)動的經(jīng)驗認(rèn)知模式，本質(zhì)是歸納”。歸納法雖然是一種重要的科學(xué)研究方法，但很多原創(chuàng)性科學(xué)理論很難通過歸納得到。愛因斯坦[23]557曾說“在我們的思維和我們的語言表述中所出現(xiàn)的各種概念，從邏輯上來看，都是思維的自由創(chuàng)造，它們不能從感覺經(jīng)驗中歸納得到”。

從庫恩（Thomas Kuhn）科學(xué)哲學(xué)的角度看，人工智能系統(tǒng)實現(xiàn)的自動化研究，都是在相對固定的范式內(nèi)進行的常規(guī)科學(xué)范圍內(nèi)的解題或解謎活動，很難做出革命性的科學(xué)發(fā)現(xiàn)。導(dǎo)致科學(xué)革命的原創(chuàng)性的科學(xué)發(fā)現(xiàn)通常是科學(xué)家在面對新的問題、新的科學(xué)事實，或者是從新的角度去看待以前的科學(xué)理論與事實而做出的。庫恩[24]認(rèn)為，在科學(xué)發(fā)展過程中的危機時期，科學(xué)家經(jīng)常訴諸哲學(xué)分析來解決問題；而且，科學(xué)家經(jīng)常通過精心設(shè)計的思想實驗來揭示危機的根源，這些都不是在實驗室中完成的。就目前人工智能的工作特點來看，它主要是依賴于人類已有的科學(xué)理論進行的，擅長對已有理論的精確應(yīng)用與對數(shù)據(jù)的高效處理，在面對新的問題、新的科學(xué)事實時很難具備人類科學(xué)家那樣的敏感性與洞察力。也就是說，當(dāng)前人工智能驅(qū)動科學(xué)主要是理論驅(qū)動、數(shù)據(jù)驅(qū)動，但庫恩科學(xué)哲學(xué)除了強調(diào)科學(xué)發(fā)展中的理性因素之外，還重視社會文化等非理性因素的驅(qū)動作用。

科學(xué)家群體對人工智能對科學(xué)研究的積極與負面影響的認(rèn)知情況也表現(xiàn)出類似的立場。2023年，Nature對世界范圍內(nèi)超過1 600名科學(xué)家進行了調(diào)研，結(jié)果表明，科學(xué)家認(rèn)為人工智能對科研的積極影響主要表現(xiàn)在“提高數(shù)據(jù)處理速度與計算速度、節(jié)約研究者時間與經(jīng)費、自動數(shù)據(jù)獲取”等方面，而科學(xué)家們選擇“人工智能可以做出新的發(fā)現(xiàn)，生成新的假設(shè)”的比例最低；負面影響則主要是“導(dǎo)致更多地依賴模式識別而不是理解、研究結(jié)果可能強化某些數(shù)據(jù)中的偏見與歧視、使欺騙變得更容易，以及導(dǎo)致研究的不可重復(fù)性”等[25]。

總之，人工智能可以在數(shù)據(jù)收集、計算以及重復(fù)性操作方面給予人類科學(xué)家極大的幫助，但囿于靈活性、理解力、洞察力、創(chuàng)造性、適應(yīng)性等方面的不足，以及人工智能系統(tǒng)本身固有的局限性，使得人工智能驅(qū)動的科學(xué)研究在相當(dāng)長的時間內(nèi)可能還是以人類科學(xué)家為主，人工智能系統(tǒng)為輔。當(dāng)然，毋庸置疑的是，人工智能可以使人類科學(xué)家從繁瑣的重復(fù)性工作中解放出來，更好地發(fā)揮人類科學(xué)家的創(chuàng)造性，提高科學(xué)研究的生產(chǎn)率。

2.2哲學(xué)挑戰(zhàn)：可重復(fù)性、可解釋性與濫用問題

第一，可重復(fù)性問題。可重復(fù)性是指獨立的科研人員根據(jù)其他科研人員分享的原始文獻，從實驗中得出相同結(jié)論的能力[26]。科研成果的可重復(fù)性是科學(xué)研究的根基所在，是保證科學(xué)客觀性、生命力、解釋力的前提，也是判決科學(xué)假說與理論可接受性的基本手段。近幾年來，不少學(xué)者認(rèn)識到，人工智能在飛速發(fā)展的同時也正面臨著可重復(fù)性危機，科研人員發(fā)現(xiàn)很難重復(fù)一些關(guān)鍵性的結(jié)果，其主要原因在于研究人員通常不愿意分享其源代碼[27]。人工智能的可重復(fù)性問題涉及多個領(lǐng)域，包括自然語言處理、生成對抗網(wǎng)絡(luò)、推薦系統(tǒng)、深度強化學(xué)習(xí)以及圖像識別等[7]262。導(dǎo)致人工智能不可重復(fù)性的原因是多方面的，除了不分享源代碼以及訓(xùn)練數(shù)據(jù)等因素之外，主要在于實驗設(shè)計的方法論問題，以及無法合理解釋由算法應(yīng)用導(dǎo)致的某些變化[28]。

在科學(xué)研究中應(yīng)用人工智能系統(tǒng)自然也會影響到科研成果的不可重復(fù)性。除去前文提及的因素之外，科研人員對人工智能系統(tǒng)的簡單使用甚至主觀故意等也是重要原因。普林斯頓大學(xué)的計算機科學(xué)家卡普爾（Sayash Kapoor）和納拉亞南（Arvind Narayanan）[29]指出，數(shù)據(jù)泄露問題（用于訓(xùn)練人工智能系統(tǒng)的數(shù)據(jù)與用于測試它的數(shù)據(jù)之間沒有進行足夠的分離）在他們所研究的17個領(lǐng)域造成了可重復(fù)性問題，影響了數(shù)百篇論文。他們認(rèn)為，科研人員對人工智能的簡單使用導(dǎo)致了可重復(fù)性危機。另外，人工智能可以使科研人員更容易欺騙自己，去尋找某種特定的結(jié)果。多倫多大學(xué)計算機科學(xué)家海貝·凱因斯（Benjamin Haibe-Kains）認(rèn)為，人工智能具有高度的靈活性與可調(diào)整性，同時開發(fā)相關(guān)模型缺乏嚴(yán)謹(jǐn)性，給科研人員提供了極大的便利[30]。

第二，可解釋性問題。可解釋的人工智能近些年來是學(xué)術(shù)界關(guān)注的一個焦點問題。我們可以從不同的角度來理解可解釋人工智能的內(nèi)涵，從科研人員的角度來看，可解釋人工智能主要意味著我們需要揭示人工智能內(nèi)部的因果機制；從用戶或非專業(yè)人士的角度看，可解釋人工智能主要意味著我們可以理解人工智能系統(tǒng)輸出某種結(jié)果的原因及其關(guān)鍵性影響因素。從人工智能推動科學(xué)研究的角度看，可解釋人工智能主要強調(diào)其因果性方面，因為自然科學(xué)所追求的正是自然界的因果律。當(dāng)科研人員開發(fā)人工智能模型時，關(guān)注可解釋性的一個重要原因是它可以確保由那些有意義的變量來推斷出結(jié)果，也就是保證在模型推理中存在根本性的真實的因果性[31]。

但是，以數(shù)據(jù)驅(qū)動的人工智能主要關(guān)注的是相關(guān)關(guān)系，即使把關(guān)聯(lián)性看作是因果關(guān)系，它也是最初級、最簡單的因果關(guān)系。珀爾（Judea Pearl）[32]認(rèn)為，因果關(guān)系的學(xué)習(xí)者需要掌握三種不同層級的認(rèn)知能力：觀察能力、行動能力和想象能力，分別對應(yīng)因果關(guān)系之梯的三個層級：關(guān)聯(lián)因果關(guān)系、干預(yù)因果關(guān)系和反事實因果關(guān)系。他把當(dāng)前的人工智能置于因果關(guān)系之梯的最底層，因為當(dāng)前的機器學(xué)習(xí)程序（包括應(yīng)用深度神經(jīng)網(wǎng)絡(luò)的程序）幾乎仍然完全是在關(guān)聯(lián)模式下運行的。目前科研人員已經(jīng)開始重視將因果性融入人工智能系統(tǒng)之中，但總的來說這還是一個較新的領(lǐng)域，還有很多問題需要解決[14]。

第三，對人工智能的誤用、濫用與惡意使用問題。不少科學(xué)家擔(dān)心，科研人員對人工智能的不當(dāng)使用，導(dǎo)致了許多不可靠的甚至是無用的研究。牛津大學(xué)羅伯茨（Michael Roberts）等[33]檢查了62項使用機器學(xué)習(xí)從胸部X射線或CT掃描中診斷新冠患者的研究，他們認(rèn)為，由于方法論方面的缺陷以及圖像數(shù)據(jù)集中的偏見等原因，62項研究中沒有一個人工智能模型在臨床研究中是有用的。

對人工智能的誤用導(dǎo)致的影響主要局限在科學(xué)共同體內(nèi)部，人們更擔(dān)心的是將本來用于輔助科學(xué)研究的人工智能系統(tǒng)用于恐怖襲擊與軍事目的等方面。在新藥研發(fā)中，科研人員用機器學(xué)習(xí)模型建構(gòu)毒靶來檢驗藥物治療效果，以用于協(xié)助新藥設(shè)計，但是，這些技術(shù)有可能被惡意使用。不法分子可能應(yīng)用人工智能系統(tǒng)合成有毒分子，全球有數(shù)百家商業(yè)公司提供化學(xué)合成服務(wù)，而該領(lǐng)域的監(jiān)管非常薄弱，因此人工智能有可能被用于制造生化武器[34]。人工智能是一種關(guān)鍵性兩用技術(shù)（dualuse technology），既可以用于和平事業(yè)，也可以用于軍事目的。而且，相比較于其他技術(shù)而言，人工智能技術(shù)更容易通過互聯(lián)網(wǎng)泄露或被竊，導(dǎo)致“雙重使用困境（dualuse dilemma）”[35]。近幾年來，一些國際人工智能會議要求作者對科研成果的社會影響進行自我評估，不少學(xué)者明確表示擔(dān)心自己的研究成果被用于軍事目的。

3對策與建議

針對前述的人工智能驅(qū)動科學(xué)研究的探討，結(jié)合當(dāng)前人工智能科技發(fā)展趨勢，我們至少需要做好以下幾個方面的工作，以期更好地發(fā)揮人工智能推進科學(xué)研究的功能，實現(xiàn)高水平科技自立自強，進而推動經(jīng)濟發(fā)展與社會進步。

第一，充分肯定人工智能的優(yōu)勢及其重要性，同時澄清其潛在的局限性。當(dāng)前人工智能技術(shù)的快速發(fā)展及其在科學(xué)研究中的應(yīng)用，已經(jīng)展示其擁有的強大能力，使我們更加清楚地看到人工智能的優(yōu)勢與人類智能的某些不足。正如阿爾法圍棋在一定程度上改變?nèi)藗儗宓恼J(rèn)知那樣，人工智能驅(qū)動科學(xué)也可能改變?nèi)藗儗茖W(xué)發(fā)現(xiàn)的理解，其重要性自不待言。同樣重要的是，我們也需要澄清其潛在的局限性。人工智能的本意，就是希望模仿人類智能，雖然人工智能已經(jīng)取得巨大進步，但仍存在諸多困難與障礙。事實上，人工智能的模仿在很大程度上主要是功能與行為方面的，而這些主要是人類智能的外部表現(xiàn)。比如，情感計算其實計算的并不是情感而是表情，表情只是情感體驗的某種并不嚴(yán)格的外顯表現(xiàn)[36]。科學(xué)家通常強調(diào)想象力在科學(xué)研究中的重要性，比如愛因斯坦曾說，想象力比知識更重要，是知識進化的源泉，是科學(xué)研究中的實在因素[23]409。當(dāng)前人工智能技術(shù)還很難表現(xiàn)出人類所擁有的豐富的想象力。雖然有學(xué)者認(rèn)為當(dāng)前最新的人工智能技術(shù)已經(jīng)擁有一定程度的通用性，但這種通用性與人類智能的通用性相距甚遠，更何況科學(xué)家的智慧還在普通人之上。從科學(xué)研究的靈活性、主動性的角度看，正如愛因斯坦所言，科學(xué)家在科學(xué)研究中不能過分拘泥于一種認(rèn)識論體系，科學(xué)家在不同的情形下可能是實在論者、唯心論者、實證論者、柏拉圖主義者或畢達哥拉斯主義者[23]643。當(dāng)前的人工智能基本上無法體現(xiàn)出這種靈活性與創(chuàng)造性。

第二，重視基礎(chǔ)設(shè)施建設(shè)。人工智能基礎(chǔ)設(shè)施建設(shè)是我國目前最為重要、最為緊迫的基礎(chǔ)設(shè)施建設(shè)。人工智能技術(shù)競爭將是一場長期而非短期的競爭，因此，我們需要靜下心來，扎實做好相關(guān)的基礎(chǔ)設(shè)施建設(shè)。眾所周知，數(shù)據(jù)與算力是驅(qū)動人工智能發(fā)展的基礎(chǔ)。我們首先需要重視高質(zhì)量的數(shù)據(jù)庫建設(shè)。2019年，在美國召開的人工智能驅(qū)動科學(xué)系列會議的報告強調(diào)，需要自動化、大規(guī)模地創(chuàng)建可查找（findable）、可獲取（accessible）、可互操作（interoperable）和可重復(fù)使用（reusable）的“FAIR”數(shù)據(jù)[3]5。2024年1月，國家數(shù)據(jù)局等部門聯(lián)合印發(fā)《“數(shù)據(jù)要素í”三年行動計劃（2024—2026）》，強調(diào)要充分發(fā)揮數(shù)據(jù)要素乘數(shù)效應(yīng)，賦能經(jīng)濟社會發(fā)展。其中重點行為包括“數(shù)據(jù)要素í科技創(chuàng)新”，提出“以科學(xué)數(shù)據(jù)助力前沿研究，面向基礎(chǔ)學(xué)科，提供高質(zhì)量科學(xué)數(shù)據(jù)資源與知識服務(wù)，驅(qū)動科學(xué)創(chuàng)新發(fā)現(xiàn)。”我們需要進一步建設(shè)并完善以人工智能驅(qū)動科學(xué)為目標(biāo)的數(shù)據(jù)基礎(chǔ)設(shè)施，為推進科學(xué)研究提供數(shù)據(jù)支撐。其次，為人工智能驅(qū)動科學(xué)提供算力支持。根據(jù)國際數(shù)據(jù)公司（IDC）、浪潮信息、清華全球產(chǎn)業(yè)院聯(lián)合發(fā)布的《2022—2023年全球計算力指數(shù)評估報告》，算力指數(shù)中美依然是領(lǐng)跑者，但中美之間有一定差距，美國算力指數(shù)為82分，排名第一，中國則比美國低11分，為71分。目前，包括英國、加拿大、美國在內(nèi)的多個國家競相加大投資，致力于發(fā)展國家級人工智能“研究資源”，為人工智能科研人員提供強大算力。2023年1月，根據(jù)美國國會要求，美國國家科學(xué)基金會與其他部門研究制定了國家人工智能研究資源（National AI Research Resource，NAIRR）基礎(chǔ)設(shè)施建設(shè)路線圖，建議在未來六年內(nèi)投資26億美元用于NAIRR建設(shè)。相關(guān)人員表示，未來會有更多的資金投入。英國在2023年也宣布，將投入3億英鎊用于改造英國的算力[37]。我國必須盡快建設(shè)一批高水平智能算力中心，為人工智能驅(qū)動科學(xué)提供強大的算力支持。再次，在若干重點領(lǐng)域建設(shè)自我驅(qū)動（self-driving）的實驗室與機器人（人工智能）科學(xué)家。根據(jù)不同學(xué)科或研究領(lǐng)域的特點，結(jié)合人工智能驅(qū)動科學(xué)的發(fā)展趨勢，重點建設(shè)若干自動化、智能化的自我驅(qū)動的實驗室和機器人科學(xué)家，實現(xiàn)從人在決策環(huán)中到人工智能系統(tǒng)自主完成包括規(guī)劃、操作與評價等在內(nèi)的全流程科學(xué)活動。

第三，建立并完善多主體合作機制。首先，在宏觀層面上，推動政府管理部門、教育科研機構(gòu)與企業(yè)的合作。從各類主體擁有不同優(yōu)勢的角度看，教育科研機構(gòu)擁有大量的基礎(chǔ)性科學(xué)數(shù)據(jù)與科研工作人員，政府管理部門主導(dǎo)大型基礎(chǔ)設(shè)施的建設(shè)與管理，科技企業(yè)則掌握著部分人工智能關(guān)鍵技術(shù)。教育科研機構(gòu)與政府管理部門本身就有發(fā)展科學(xué)研究的內(nèi)在動力，目前的重點與難點工作是激發(fā)科技企業(yè)的科學(xué)研究熱情。可能因為基礎(chǔ)科學(xué)研究越來越難等原因，科研成本大幅提升，導(dǎo)致目前大型科技企業(yè)不太熱衷于基礎(chǔ)科學(xué)研究。但是，一些關(guān)鍵性人工智能技術(shù)，比如近來受到廣泛關(guān)注的人工智能大模型，主要掌握在大型科技企業(yè)手中。需要通過多種途徑，使科技企業(yè)、政府管理部門與教育科研機構(gòu)充分發(fā)揮各自優(yōu)勢，精誠協(xié)作，形成合力，才能更好地發(fā)揮人工智能驅(qū)動科學(xué)研究的功能。其次，從微觀層面上看，在具體的科研項目執(zhí)行過程中，人工智能驅(qū)動科學(xué)研究需要包括具體領(lǐng)域的科學(xué)家、人工智能以及人文社會科學(xué)等領(lǐng)域在內(nèi)的不同學(xué)科的學(xué)者共同協(xié)作，才能更好地推動交叉研究，及時發(fā)現(xiàn)并解決科學(xué)研究中的各種不確定性與挑戰(zhàn)，同時規(guī)避科技風(fēng)險，實現(xiàn)科技向善。

第四，人工智能技術(shù)本身的發(fā)展進步。從更好地驅(qū)動科學(xué)研究的角度看，當(dāng)前人工智能技術(shù)至少需要關(guān)注以下幾個方面。首先，將專業(yè)知識融入人工智能系統(tǒng)，提升人工智能系統(tǒng)的可預(yù)測性與可重復(fù)性。盡管人工智能大模型的通用性引起廣泛關(guān)注，但對于科學(xué)研究而言，專業(yè)性精確性的要求更甚于通用性。科學(xué)家已經(jīng)開始重視將各個學(xué)科的基礎(chǔ)性知識融入人工智能系統(tǒng)之中，但具體的知識范圍與融入模式仍有待深入探索。其次，嘗試發(fā)展基于模擬的人工智能進路。神經(jīng)網(wǎng)絡(luò)中的數(shù)學(xué)和計算表征與物理世界中的狀態(tài)與現(xiàn)象并不存在直接對應(yīng)關(guān)系，我們可以嘗試發(fā)展基于模擬的人工智能進路（simulation-based approaches）。與當(dāng)前主要基于統(tǒng)計的進路不同，基于模擬的人工智能進路可以在一定程度上克服機器學(xué)習(xí)的黑箱性質(zhì)，更好地處理科學(xué)研究中的因果關(guān)系，從而為科學(xué)研究提供更優(yōu)的研究工具[38]。再次，提升人工智能系統(tǒng)的穩(wěn)健性。訓(xùn)練數(shù)據(jù)的特性對機器學(xué)習(xí)的性能影響較大，如果訓(xùn)練數(shù)據(jù)與應(yīng)用數(shù)據(jù)有一定差別時，可能會明顯影響系統(tǒng)的穩(wěn)定性與可靠性。谷歌健康研究人員開發(fā)的人工智能用于分析視網(wǎng)膜圖像，以尋找糖尿病視網(wǎng)膜病變的跡象。當(dāng)谷歌健康團隊成員在泰國診所試用它時，由于該系統(tǒng)接受了高質(zhì)量圖像的訓(xùn)練，它拒絕了許多在次優(yōu)條件下拍攝的圖像，導(dǎo)致產(chǎn)生了不必要的額外工作量[30]。通過發(fā)展人工智能系統(tǒng)的終生學(xué)習(xí)能力，可以在一定程度上克服數(shù)據(jù)的變化導(dǎo)致的災(zāi)難性遺忘，提升人工智能系統(tǒng)的穩(wěn)健性[39]。需要強調(diào)的是，從科學(xué)哲學(xué)的角度看，科學(xué)發(fā)現(xiàn)的邏輯無法定論，科學(xué)研究的復(fù)雜性、多樣性、靈活性等因素決定驅(qū)動科學(xué)研究的人工智能技術(shù)與路徑也必定是多種多樣的，在取得最終成功之前，誰也無法預(yù)料哪種路徑是最佳的，因此各種嘗試均應(yīng)該得到支持與鼓勵。

第五，加強對科學(xué)研究的倫理治理，前瞻性防范倫理風(fēng)險。首先，通過多種途徑提高科研成果的可重復(fù)性。人工智能科研人員普遍認(rèn)識到，公開源代碼與數(shù)據(jù)可以明顯提高人工智能的可重復(fù)性。有學(xué)者對前些年某個重要的人工智能會議中的400篇論文進行統(tǒng)計發(fā)現(xiàn)，只有6%的論文提交了算法代碼，大約30%的論文提交了訓(xùn)練數(shù)據(jù)，54%的論文提交了算法的簡單摘要[27]。越來越多的學(xué)者認(rèn)為，使用人工智能的研究論文應(yīng)該公開其研究方法和訓(xùn)練數(shù)據(jù)。2019年，國際人工智能頂級會議之一——神經(jīng)信息處理系統(tǒng)大會（NeurIPS）開始重視論文的可重復(fù)性問題，會議通過制定代碼提交政策、科學(xué)共同體范圍內(nèi)的可重復(fù)性挑戰(zhàn)，以及提供可重復(fù)性檢測清單等多種手段，嘗試提升論文的可重復(fù)性。雖然會議對論文作者提出了更高的要求，但當(dāng)年論文提交量增長了近40%，而且提交代碼的論文比例從前一年的不到50%提升到近75%[40]。因此可見，人工智能科研人員對可重復(fù)性問題持普遍認(rèn)同態(tài)度。其次，強化對人工智能的倫理評估與倫理審查。近五年來，越來越多的國際人工智能會議要求論文作者對自己的科研成果進行倫理評估，分析其潛在的社會影響，并提出相應(yīng)的解決策略。我國政府亦高度重視對人工智能等新興科技倫理評估與審查。2021年9月，中國國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》，在第三部分“研發(fā)規(guī)范”中明確要求“加強人工智能研發(fā)相關(guān)活動的自我約束，主動將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)，自覺開展自我審查”，同時強調(diào)“在數(shù)據(jù)采集和算法開發(fā)中，加強倫理審查”。 2023年10月，科技部、教育部等十部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，對我國的科技倫理審查工作進行了全面部署。隨著科技倫理治理制度日趨完善，相關(guān)治理實踐日趨深入，我們可以在很大程度上規(guī)避人工智能的誤用與濫用風(fēng)險。

4結(jié)語

隨著科學(xué)研究的深入進行，取得重大科研成果的難度可能在不斷加大。人工智能的快速發(fā)展與巨大潛力有目共睹，在科學(xué)研究中越來越多地引入人工智能是大勢所趨。我們在充分認(rèn)識并利用人工智能驅(qū)動科學(xué)的優(yōu)越性的同時，也應(yīng)該清醒地看到機器智能的局限性，不能陷入“唯工具論”。人工智能可能會深刻地改變科學(xué)研究模式，但科學(xué)家仍然占據(jù)主導(dǎo)地位，人工智能主要處于輔助性地位。由于人工智能潛在的局限性，它不大可能推動產(chǎn)生新時期的“牛頓”“愛因斯坦”。科學(xué)研究是高度復(fù)雜性的活動，需要人類與人工智能各自揚長避短、充分發(fā)揮自身優(yōu)勢。因此，與其說是“人工智能驅(qū)動科學(xué)研究”，還不如說“人機協(xié)同驅(qū)動科學(xué)研究”。我們需要通過多方努力，努力發(fā)揮人工智能在科學(xué)研究中的潛力，同時要明確其適用范圍與能力限度，并且全力防范可能的倫理風(fēng)險，在實現(xiàn)科技自立自強的同時推動科技向善。總之，我們應(yīng)該重視考量人工智能驅(qū)動科學(xué)研究的哲學(xué)意義，使科學(xué)哲學(xué)研究與科學(xué)前沿發(fā)展趨勢保持一致。

參考文獻：

[1]KITANO H.Artificial intelligence to win the Nobel prize and beyond[J].AI Magazine，2016，37（1）：39-49.

[2]KITANO H. Nobel turing challenge：creating the engine for scientific discovery[J]. NPJ Systems Biology and Application，2021，7（29）：1-12 .

[3]STEVENS R，TAYLOR V，NICHOLS J，et al.AI for science[M]. Argonne：Argonne National Laboratory，2019.

[4]顧家山.諾貝爾科學(xué)獎與科學(xué)精神[M].合肥：中國科學(xué)技術(shù)大學(xué)出版社，2014：21-22.

[5]MITSIS P. The Nobel prize time gap[J]. Humanities amp; Social Sciences Communications，2022，9（407）：1-11.

[6]JONES B.Age and great invention[J].The Review of Economic and Statistics，2010，92（1）：1-14.

[7]LEVINE J. Artificial intelligence in science[M]. Paris：OECD Publishing，2023.

[8]PARK M，LEAHEY E，F(xiàn)UNK R.Papers and patents are becoming less disruptive over time[J].Nature，613：138-144.

[9]CUI H C，WU L F，EVANS J.Aging scientists and slowed advance[EB / OL].[2022-02-08]（2024-01-26）. https：//arxiv. org / abs / 2202.04044

[10]WANG D，BARABASI A. Science of science[M]. Cambridge：Cambridge University，2021：9.

[11]HINTON G，SALAKHUTDINOV R.Reducing the dimensionality of data with neural networks[J].Science，2006，313（5786）：504-507.

[12]XU Y J，LIU X，CAO X，et al. Artificial intelligence：a powerful paradigm for scientific research[J].The Innovation，2021，2（4）：1001791-10017921.

[13]MICROSOFT RESEARCH AI4SCIENCE，MICROSOFT AZURE QUANTUM. The impact of large language models on scientific discovery：a preliminary study using GPT-4[EB/OL].[2023-12-08]（2024-01-26）.https：//arxiv.org/abs/2311.07361.

[14]WANG H C，F(xiàn)U T F，DU Y Q，et al.Scientific discovery in the age of artificial intelligence[J].Nature，2023，620：47-60.

[15]王飛躍，繆青海，張軍平，等.探討AI for Science的影響與意義：現(xiàn)狀與展望[J].智能科學(xué)與技術(shù)學(xué)報，2023，5（1）：1-6.

[16]TOLLE K，TANSLEY S，HEY A. The fourth paradigm：dataintensive scientific discovery[J].Proceedings of The IEEE，2011，99（8）：1334-1337.

[17]ZHU Q，ZHANG F，HUANG Y，et al.An all-round AI-chemist with a scientific mind[J].National Science Reivew，2022，9（10）：1-11.

[18]HA T，LEE D，KWON Y，et al. AI-driven robotic chemist for autonomous synthesis of organic molecules[J].Science Advances，2023，9（44）：1-9.

[19]李沫.人工智能驅(qū)動科學(xué)研究視角下的日本戰(zhàn)略提案研究[J].科技資訊，2021，19（27）：171-173.

[20]ABBAS U，CHEN J，SHAO Q. Assessing fairness of Alphafold2 prediction of protein 3D structures[EB/OL].[2023-06-01]（2024-01 - 26）. https：//www. biorxiv. org / content / 10.1101 / 2023.05. 23.542006v2.full.pdf.

[21]波普爾.科學(xué)發(fā)現(xiàn)的邏輯[M].查汝強，邱仁宗，萬木春，譯.杭州：中國美術(shù)學(xué)院出版社，2008：8.

[22]李德毅，劉玉超，任璐.人工智能看智慧[J].科學(xué)與社會，2023，13（4）：131-149.

[23]愛因斯坦.愛因斯坦文集（第一卷）[M].許良英，李寶恒，趙中立，等，譯.北京：商務(wù)印書館，2009.

[24]庫恩.科學(xué)革命的結(jié)構(gòu)[M].張卜天，譯.北京：北京大學(xué)出版社，2022：141-142.

[25]NOORDEN R，PERKEL J.AI and science：what 1600 researchers think[J].Nature，2023，621：672-675.

[26]GUNDERSEN O.The fundamental principles of reproducibility[J]. Philosophical Transactions A，2020，379：1-15.

[27]HUTSON M.Artificial intelligence faces reproducibility crisis[J]. Science，2018，359（6377）：725-726.

[28]GUNDERSEN O，COAKLEY K，KIRKPATRICK C，et al.Sources of irreproducibility in machine learning：a review[EB/OL].[2023-04-14]（2024-01-26）.https：//arxiv.org/abs/2204.07610.

[29]KAPOOR S，NARAYANAN A. Leakage and the reproducibility crisis in machine-learning-based science[J]. Patterns，2023，4：1-12.

[30]BALL P.Is AI leading to a reproducibility crisis in science？[J]. Nature，2023，624：22-25.

[31]ARRIETA A，DIAZ-RODRIGUEZ N，SER J，et al. Explainable artificial intelligence：concepts，taxonomies，opportunities and challenges toward responsible AI[J].Information Fusion，2020，58：82-115.

[32]珀爾，麥肯齊.為什么：關(guān)于因果關(guān)系的新科學(xué)[M].江生，于華，譯.北京：中信出版集團，2019：6-10.

[33]ROBERTS M，DRIGGS D，THORPE M，et al.Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans[J].Nature Machine Intelligence，2021，3（3）：199-217.

[34]URBINA F，LENTZOS F，INVERNIZZE C，et al. Dual use of artificial-intelligence-powered drug discovery[J].Nature Machine Intelligence，2022，4（3）：189-191.

[35]UENO H. Artificial intelligence as dual-use technology[C]？ HATZILYGEROUDIS I，et al.（eds.）Fusion of Machine Learning Paradigms，Cham：Springer，2023：7-32.

[36]李其維.“認(rèn)知革命”與“第二代認(rèn)知科學(xué)”芻議[J].心理學(xué)報，2008（12）：1306-1327.

[37]JONES N.Powerful computing efforts launched to boost AI research[J]. Nature，2023，623：229-230.

[38]LAVIN A，KRAKAUER D，ZENIL H，et al.Simulation intelligence：towards a new generation of scientific methods[EB/OL].[2022-11-27]（2024-01-26）.https：//arxiv.org/abs/2112.03235.

[39]PARISI G，KEMKER R，PART J，et al.Continual lifelong learning with neural networks：a review[J]. Neural Networks，2019，113：54-71.

[40]PINEAU J，VINCENT P，SINHA K，et al.Improving reproducibility in machine learning research[J]. Journal of Machine Learning Research，2021，22（1）：7459-7478.

AI for Science：Opportunities，Challenges and Strategies

DU Yanyong

（School of Humanities，Tongji University，Shanghai 200092，China）

Abstract：In recent decades，the age at which scientists make important scientific discoveries has been increasing，while the uniqueness and innovativeness of scientific papers have been declining. It seems that making important scientific discoveries is becoming increasingly difficult for scientists.With the rapid development and widespread application of artificial intelligence，scientists are increasingly incorporating it into scientific research to improve research productivity and assist in making important scientific discoveries. However，the role of artificial intelligence in driving scientific development is limited.While acknowledging the powerful functions of AI，we must also be aware of its potential limitations and the significant challenges it may pose.We need to focus on strengthening infrastructure construction，enhancing multiparty cooperation，and strengthening ethical governance of scientific research，to fully tap into the potential of artificial intelligence in promoting scientific research while avoiding ethical risks.

Keywords：AI for science；scientist；limitation；challenge；governance