人工智能視域下學術(shù)倫理治理問題的挑戰(zhàn)及對策建議
—— 以生成式人工智能為例

葛慧林

（江蘇科技大學，江蘇鎮(zhèn)江 212100）

人工智能（Artificial Intelligence，AI）已經(jīng)成為推動新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，同時也給現(xiàn)有科技管理體制帶來了新的挑戰(zhàn)。通過大規(guī)模語言模型（Large Language Model，LLM）的訓練，生成式人工智能(Generative Artificial Intelligence，GAI)具備了嚴密的邏輯推理能力和強大的文本生成能力，使得開放式理解和生成連貫文本成為可能。這種技術(shù)的實際應用開始對學術(shù)研究產(chǎn)生巨大助力[1]。例如，Conroy 等人利用ChatGPT 在一個小時內(nèi)完成了一篇流暢、富有洞察力的研究論文。隨著GAI 在學術(shù)研究中的實際應用迅速普及，并贏得廣泛輿論贊譽，學者們的擔憂也隨之而來。研究表明，以ChatGPT 代表的生成式人工智能語言模型在學術(shù)研究中存在著信效度不足、權(quán)責不清、倫理失位等學術(shù)倫理問題[2-4]。在科學技術(shù)更加開放的同時，也面臨著顛覆性但尚未成熟的階段。在面對潛在的技術(shù)失控和學術(shù)倫理失序時，需要深刻審視GAI 引起的學術(shù)倫理問題，并正確處理它與學術(shù)發(fā)展之間的辯證關(guān)系。基于此，本文系統(tǒng)分析人工智能視域下學術(shù)研究面臨的新學術(shù)倫理問題，剖析GAI 在學術(shù)研究中所能提供的價值與風險，并進一步提出對策建議，以促進學術(shù)研究的健康發(fā)展。

1 人工智能視域下的學術(shù)研究新形勢

1.1 人工智能的發(fā)展

AI 有多種定義，雖然各有不同，但都與“如何創(chuàng)造一些計算機程序或機器，使其具備被視為智能行為”的概念相關(guān)。德勤有限公司給出的實用定義是：“AI 是關(guān)于計算機系統(tǒng)如何執(zhí)行只有依靠人類智慧才能完成的任務的理論研究”[5]。得益于2004 年后相關(guān)領(lǐng)域技術(shù)例如深度學習、云計算等的突破革新，AI得以在安防、教育和機器人等多個領(lǐng)域廣泛應用[6]。當前，自然語言處理（Natural Language Processing，NLP）技術(shù)的進步使得大型語言模型（Large Language Model，LLM）能夠?qū)崿F(xiàn)開放式理解和生成連貫的文本，理論算法開始得到實際應用，以ChatGPT 代表的GAI 在學術(shù)研究中的應用迅速普及。

1.1.1 生成式人工智能的實質(zhì)

GAI 是運用大語言模型與生成式預訓練轉(zhuǎn)換模（Generative Pretrained Transformer，GPT）結(jié)合，通過海量數(shù)據(jù)存儲和高效設計架構(gòu)理解和解讀用戶請求，進而以近乎人類自然語言的方式生成具有“較高復雜度的回應文本”[7]。具體而言，GAI 通過大規(guī)模語料訓練，將不同語言中的字、詞表征映射到更高維語義空間中，然后基于生成式預訓練轉(zhuǎn)換模型，采用“強化學習與人類反饋”（RLHF）的訓練方式，通過不斷迭代來提升生成答案的評判能力，從而往往能夠產(chǎn)生符合人類常規(guī)認知和需求的回答[8]。

1.1.2 ChatGPT 類生成式人工智能的比較

2022 年11 月，美國人工智能研究實驗室發(fā)布了大型語言對話模型ChatGPT，上線不到一周用戶數(shù)就突破了100 萬，兩個月時間吸引了超過1 億活躍用戶，成為歷史上增長速度最快的應用程序。ChatGPT 是一種具有思考能力的人工智能聊天機器人程序，基于GPT-3.5 架構(gòu)的大型語言模型通過強化學習得到訓練后幾乎可以處理任何基于文本的請求。ChatGPT 被專門設計為以對話風格生成類似人類的文本，能夠回答連續(xù)提出的問題、生成文本摘要、翻譯文檔、對信息進行分類和編寫代碼等任務，同時也能夠承認錯誤、對不正確的前提進行質(zhì)疑，并拒絕不合適的請求。此外，麻省理工學院借助深度學習模型識別分子結(jié)構(gòu)之間的相關(guān)關(guān)系成功研發(fā)新型抗生素Halicin 的案例說明了以ChatGPT為代表的生成式人工智能可以通過明確相關(guān)關(guān)系，提升科研質(zhì)量[9]。

在ChatGPT 發(fā)布之前，谷歌曾在2021 年推出大語言模型LaMDA，并在此基礎上開發(fā)了Bard，其可以將信息知識和大語言模型的智能相結(jié)合，提供新鮮且高質(zhì)量的回復。而在2022 年8 月，基于自主研發(fā)的產(chǎn)業(yè)級大模型ERNIE，百度推出AI藝術(shù)創(chuàng)意輔助平臺——文心一格，其通過文心大模型準確的語義理解和生成圖片，為用戶提供豐富多樣的創(chuàng)意，幫助創(chuàng)作者打破創(chuàng)作瓶頸。2022年11 月，Meta 的人工智能實驗室Meta AI 發(fā)布了AI 系統(tǒng)“Make-AVideo”，它能夠根據(jù)自然語言文本生成一段大約5 秒鐘的短視頻，同時還可以從圖像和視頻中生成視頻。在ChatGPT 4 發(fā)布的第二天，百度揭開了其最新產(chǎn)品“文心一言”的面紗。作為國內(nèi)首個類ChatGPT 產(chǎn)品，百度文心一言定位于人工智能基座型的賦能平臺，致力于推動金融、能源、媒體和政務等領(lǐng)域的智能化變革[10]。

與LaMDA、ERNIE 和XLNet等其他語言模型及其產(chǎn)出相比，ChatGPT 和其基于的GPT-3 語言模型具有明顯的優(yōu)勢。ChatGPT 擁有數(shù)十億個參數(shù)，并且可以訪問大量數(shù)據(jù)，能夠高精度地執(zhí)行各種語言相關(guān)任務。其次，GPT-3 的語言模型具有很高的通用性，可以適應各種任務，例如翻譯、摘要和問題回答。此外，ChatGPT 能夠高效利用數(shù)據(jù)，用較少的訓練數(shù)據(jù)就能取得良好的結(jié)果。

1.2 生成式人工智能在學術(shù)研究中的價值

當代世界科學技術(shù)正處于前所未有的突破性發(fā)展階段，科技社會一體化、科學文化和人文文化逐漸從對立走向融合。為解決社會復雜需求問題而誕生的跨學科研究，以往需要積累多學科知識，聚集多學科人才，并構(gòu)建跨學科研究組織來解決的問題，現(xiàn)如今借助ChatGPT 卻有望實現(xiàn)更具突破性的學術(shù)成果[11]。

降低獲取知識的難度。ChatGPT 等AI 通過模擬人類學習過程，閱讀理解不同語言和文獻資料庫，在快速總結(jié)文獻異同的同時，實現(xiàn)對不同學科知識成果的同構(gòu)，進而協(xié)助研究者完成跨學科深度對話和知識融合創(chuàng)新。與此同時，其還能將其他學科專業(yè)知識轉(zhuǎn)述為簡單語言，降低獲取知識的難度，在為研究者提供更多學術(shù)研究方向的同時，保證了研究力度和深度，在一定程度上也推動了學科進步和知識創(chuàng)新，提升了學術(shù)研究的效率。

便于研究內(nèi)容的梳理。AI 可以自動解析文獻、高效提取關(guān)鍵知識，按需總結(jié)比較不同研究成果的異同，為研究者節(jié)省檢索整理時間。此外，它還能在此基礎上構(gòu)建引文推理網(wǎng)絡，清晰展示知識的產(chǎn)生、流傳與演變，為研究者提供有依據(jù)的客觀觀點和學科間知識交叉與融合的趨勢。而當研究者對寫作內(nèi)容不確定時，其還能提供相關(guān)理論、數(shù)據(jù)、案例與文獻支持，為研究者的觀點提供第三方驗證與學術(shù)支撐。

促進研究內(nèi)容的完善。當科研人員向AI 提交研究成果后， AI 能夠根據(jù)使用者的輸入的相關(guān)要求，對研究成果進行檢測，就拼寫、語法等方面提供反饋意見及根據(jù)不同領(lǐng)域和功能調(diào)整寫作重點。它在快速翻譯中文研究成果為其他語言時，還可以學習各領(lǐng)域權(quán)威期刊的征稿要求為研究者提供幫助。此外，其能夠解析和提取各領(lǐng)域?qū)W術(shù)論文的關(guān)鍵知識，并根據(jù)不同應用場景及學科領(lǐng)域調(diào)整內(nèi)容、篇幅和側(cè)重點。在大語言模型的支持下，研究者可以優(yōu)化研究成果的傳播機制，增進學術(shù)合作并促進研究成果轉(zhuǎn)化，進一步提升學術(shù)研究效用[12]。

（3）利于研究數(shù)據(jù)的分析。以ChatGPT 為代表的AI 擁有強大的算法和算力，往往能夠較好的完成數(shù)據(jù)收集、數(shù)據(jù)分析、數(shù)據(jù)可視化等復雜數(shù)據(jù)處理工作，把握受實驗條件或計算能力等限制所遮蔽的相關(guān)關(guān)系，獲得有助于取得研究新發(fā)現(xiàn)，新成果的啟示。

2 人工智能視域下的學術(shù)倫理新問題

2.1 智能剽竊，隱蔽難以檢測

研究發(fā)現(xiàn)，將大量由GAI 創(chuàng)建的論文摘要提交給學術(shù)審稿人，被發(fā)現(xiàn)的比例不超過63%[13]。因GAI可以在較短時間內(nèi)整合和產(chǎn)生大量知識與信息，并根據(jù)需要生成個性化結(jié)果。從某種程度上來說，GAI產(chǎn)出的科研論文仍然只能算是高度集成產(chǎn)品，其內(nèi)容和觀點通常來自他人作品，雖然在整合中模糊了模仿和抄襲邊界，但其非原創(chuàng)的本質(zhì)未變。此外，由于GAI 是基于自然語言產(chǎn)出的結(jié)果，這與學者自行思考并收獲啟發(fā)的基本邏輯相似，而當GAI 在轉(zhuǎn)碼過程中隱藏了抄襲的事實，學者通常也難以分辨哪些內(nèi)容是需要進一步甄別是否存在抄襲，這導致剽竊呈現(xiàn)出無意識特征。此外，GAI 利用反饋學習獲得學者思想內(nèi)容后，再面向其他學者進行二次創(chuàng)作，是否也涉嫌剽竊先前使用者的思想？

事實上，學者用GAI 輔助學術(shù)研究的過程，是學者與GAI 協(xié)同完成研究任務的過程。但人類語言亦具有復雜性，語種語義、表達方式、詞性特征、用語習慣等均會影響交流。實踐證明，GAI 會受到提問者所提供信息的影響，在回答問題過程中，極易形成迎合偏好的回答。更值得注意的是，在與學者進行深度對話時，GAI 會固化提問者所自帶的認知與偏見，強化偏離本意的意識[14]。最后，在評價由GAI 輔助的研究成果時，是否應當將GAI 的輔助效果考慮其中。由于GAI 的輔助效果因其資本密集導向而具有不公平性，而現(xiàn)有學術(shù)評價標準缺乏對GAI 在協(xié)作過程中貢獻價值的度量，阻礙了評價的準確性與公平性。

2.2 智能奪權(quán)，批判創(chuàng)造失去主導

美國在線課程網(wǎng)站Study.com開展的一項調(diào)查顯示，超過89%的學生使用ChatGPT 來完成家庭作業(yè)，48%的學生用ChatGPT 完成小測驗，53%的學生用ChatGPT 寫論文，22%的學生用ChatGPT 生成論文大綱[15]。過去，學者需要大量閱讀，進行深度思考，并提出創(chuàng)新性的觀點和解決方案才能完成撰寫論文的工作。現(xiàn)如今GAI 的出現(xiàn)徹底顛覆了這一傳統(tǒng)方式，學者不再需要花費時間梳理相關(guān)文獻，整合關(guān)鍵知識，只需把問題提交給GAI 便能解決。

ChatGPT 等GAI 能應是協(xié)助人類在多領(lǐng)域知識唾手可得的情況下，仍保持敏銳洞察力、靈活適應性和創(chuàng)新思維方式的工具，而非剝奪取代學者獨立思考和解決問題能力的思維替代者。在現(xiàn)如今這種信息爆炸的時代，人類面臨的問題和挑戰(zhàn)日益復雜多變，具備批判性思維和創(chuàng)造性思維就顯得尤為重要。批判性思維能夠?qū)π畔ⅰ⒄摀?jù)和觀點進行深入評估，從而形成明確、準確和有根據(jù)的判斷，更為有效地應對復雜問題、降低誤判風險，并在日常生活和工作中作出明智的決策。創(chuàng)造性思維則鼓勵人們跳出傳統(tǒng)思維模式的限制，嘗試以新的方法和角度來解決問題，從而生成新的、獨特的和有價值的想法、解決方案或觀點。批判性思維評估已有的知識和策略；創(chuàng)造性思維創(chuàng)造出不存在的知識和策略。兩者相輔相成，才會有新知識的產(chǎn)出[16]。但隨著學者對ChatGPT 等GAI 的不斷依賴，其自身正在不自覺地讓渡思維的主導權(quán)，思維模式逐漸由人類向AI 轉(zhuǎn)移，由機器思維取代人類思維。在這種情況下，機器意志將可能取代人的意志，出現(xiàn)主導權(quán)喪失的問題[17]。

2.3 智能迭代，信效度難以認定

由于GAI 的實質(zhì)是將語言向語義空間進行轉(zhuǎn)換，并根據(jù)需求運用多個算法迭代重組重構(gòu)，但其在深度學習中還存在過程算法不透明、數(shù)據(jù)不完整、訓練不完善等問題[12]，導致最終生成結(jié)果的信效度難以認定。其一，在深度學習過程中，大量參數(shù)會隨著訓練自動迭代調(diào)優(yōu)，其變化機制難以用邏輯解釋。因此，導致GAI 無法清晰解釋其生成結(jié)果的理由，學者也無法根據(jù)邏輯判斷生成結(jié)果的正確性。其二，GAI 生成的結(jié)果卻決于訓練數(shù)據(jù)的深度和廣度。然而，當前的訓練數(shù)據(jù)難以覆蓋所有學科所有領(lǐng)域，使得生成結(jié)果存在數(shù)據(jù)偏差。

3 對策及建議

學術(shù)倫理是開展科研等活動需要遵循的價值理念和行為規(guī)范，是促進學術(shù)研究健康發(fā)展的重要保障。現(xiàn)如今，ChatGPT 類生成式人工智能領(lǐng)域的“領(lǐng)頭羊”發(fā)展態(tài)勢已然良好，伴隨著科技的不斷進步，更尖端復雜的人工智能技術(shù)預期只會更加頻繁地滲透并運用在研究領(lǐng)域，但當前的學術(shù)倫理制度已無法滿足飛速發(fā)展的技術(shù)應用需求。亟需進一步完善學術(shù)倫理制度，防控學術(shù)倫理風險，實現(xiàn)高效、道德及健康地人工智能技術(shù)應用。

（1）建立檢測識別機制。為了實現(xiàn)高水平的學術(shù)誠信和提高學術(shù)創(chuàng)新能力，防止剽竊的發(fā)生，相關(guān)學術(shù)機構(gòu)應建立或更新審查機制，以檢測研究者提交的論文是否是基于GAI 的模擬學術(shù)論文，并對其進行評估或分級。學者和人工智能生成的內(nèi)容存在著顯著語言差異的。另外，生成式人工智能生成的語言指紋具有反直覺的特性，它是通過將不同的論點分成段落來提供清晰的邏輯結(jié)構(gòu)，從而減少了對話語標記的需求，這與人類的寫作邏輯背道而馳[18]。通過建立檢測識別機制，將有助于維護學術(shù)機構(gòu)的權(quán)威性，促進產(chǎn)出更多的原創(chuàng)性學術(shù)成果[19]。

（2）建立學術(shù)倫理制度。對于目前“人機共研”現(xiàn)狀下所涉及的學術(shù)倫理建設，應對技術(shù)與倫理雙方進行理性地審視，建立行之有效的學術(shù)倫理制度。首先，應加強AI技術(shù)應用領(lǐng)域的學術(shù)倫理研究，立足人機融合新圖景，判定阻礙學術(shù)研究高質(zhì)量發(fā)展的“被調(diào)適方”，并基于此構(gòu)建學術(shù)倫理的建設思路。其次應成立科研技術(shù)倫理委員會，在技術(shù)專家、倫理學者的共同努力下，修訂現(xiàn)有的科技倫理與學術(shù)倫理審查制度，使技術(shù)符合學術(shù)倫理的規(guī)約，并及時更正技術(shù)中不適應學術(shù)倫理的行為，為新應用場景提供結(jié)構(gòu)性制度保障。此外，研究者本身應始終保持能動性，以主體姿態(tài)，將以ChatGPT 為代表的人工智能視為認知工具，堅定研究立場，并承擔起數(shù)字素養(yǎng)所對應的社會文化修養(yǎng)、道德規(guī)范和行為自律等責任，使其真正為學術(shù)研究所用[12]。

（3）加強學術(shù)倫理引導。為了實現(xiàn)更高質(zhì)量可持續(xù)發(fā)展的人工智能技術(shù)，還應該加強學術(shù)倫理引導。AI 逐漸改變了當前的學術(shù)研究模式，而作為學術(shù)研究的主體，科研人員的學術(shù)倫理引導一直都是學術(shù)倫理治理的起點。因此，可以鼓勵學會、協(xié)會、學校等組織加強對科研人員針對性的對當前AI 沖擊下的學術(shù)倫理進行引導，科研人員共同監(jiān)督并抵制學術(shù)倫理違規(guī)行為。

（文責自負）