“助”與“替”：生成式AI對學術研究的雙重效應

摘"" 要： 生成式AI應用于學術研究，揭開了知識生產的新篇章，它可以通過“助”讀、“助”知、“助”寫和“助”思來助力人的學術研究，自動化一些準備性或輔助性的工作，減輕人的認知負荷，使人將主要精力集中學術創新的關鍵環節，提高學術知識生產的效率。但對于生成式AI輔助功能的過度使用，可能導致“替”讀、“替”知、“替”寫、“替”思等負面效應，帶來人的學術能力多向度退化。如何“助而不替”地合理使用生成式AI，是智能時代人機合作進行學術知識生產的新課題。

關鍵詞： 生成式AI；大模型；文本生成；學術研究；知識生產；人機結合

中圖分類號：TP18"" 文獻標識碼：A 文章編號：1004-8634（2024）02-0065-（10）

DOI：10.13852/J.CNKI.JSHNU.2024.02.006

學術研究是人所從事的具有知識生產屬性的認識活動。哲學認識論揭示：使用認識工具是認識活動必不可少的手段，認識工具不同，認識的方式和效果也不同。人工智能作為重要的認識工具，對學術研究無疑具有重要的意義，這在“人工智能驅動的科學研究”（“AI for Science”）中已有充分體現。生成式AI1 作為人工智能發展的前沿成果，具有與人進行流暢對話的功能、文本生成能力和相關的理解和推理能力，從而在此基礎上具有進行知識生產的效能，使其可以被應用于人類的學術研究，發揮前所未有的作用。同任何技術的使用都包含積極和消極的雙重效應一樣，生成式AI作為學術研究的新型工具被使用時，也具有雙重效應：“助力”和“替代”?？陀^地認識這種雙重效應，對于更好地發揮其在學術研究中的積極作用具有重要意義。

一、從“助”讀到“助”思：生成式AI助力學術

研究的積極效應

生成式AI具有廣泛的功能，它在學術研究中的使用對人類知識生產活動具有變革性影響，這種影響的積極方面通常被概括為它所提供的多種多樣的幫助，費克爾（Benedikt"Fecher）等人列舉了如下的幫助：文本改進、文本摘要、文本分析、代碼編寫、想法生成、文本翻譯。2本文認為，可以將生成式AI對學術研究乃至人類知識生產活動的積極效應歸結為對研究者提供“助”讀、“助”知、“助”寫和“助”思等多向度幫助，在這些幫助下，研究者在進行學術研究時可以實現眼界更寬、效率更高、成果更好。

1.“助”讀

學術研究是一項探新或創造活動，在初始階段需要以大量的文獻閱讀、信息檢索和資料整理作為必不可少的準備條件?？梢哉f，傳統的學術研究耗時最多的就是相關文獻的閱讀、理解和整理，這個過程也是知識的學習、資料的搜集、視野的拓展、問題的發現乃至觀點的形成和理據的尋獲過程，因此，閱讀量與研究質量密切相關。足夠的閱讀才能明了研究的現狀，找出未解決的問題所在，從而確定合適的研究主題，并通過旁征博引為自己主張的觀點獲取支持，如此等等。同時，如果用于閱讀的時間和精力過多，必然減少其他環節的投入，從而影響學術研究的“產出效率”。更何況，在信息和數據呈海量增長的背景下，人們常常感到學術性閱讀無從下手，僅靠常規的、傳統的閱讀很難窮盡所有的相關文獻，或者對文獻的相關程度難以分辨。為此，生成式AI的介入，可以在“助”讀上為人提供新的幫助。

例如，用大數據訓練生成式AI大模型，形同讓它儲存和“閱讀”海量的學術文獻，可以幫助人們分析某一課題的大量文本和數據，提取其中有價值的信息和關鍵的資料，輔助人們快速找到所需要的學術資源和內容。借助它來“助”讀學術論文，可以幫助人們對論文進行總結或概括，或從長篇文章中歸納提煉出核心思想或觀點，使人迅速直達其要義，形成對文章要點的快速把握；它甚至可以“一網打盡”地采集和提供所需資料，并能對資料加以梳理，如對其自動化分類、標注和索引，從而幫助人們有效管理和組織大量的文獻資料。另外，整合了搜索引擎的生成式AI，還可以幫助人們及時獲得最新的相關信息，掌握最新的學術前沿。通過凡此種種的助讀，生成式AI可以助力人們有效應對信息爆炸的挑戰，大大降低學術研究中信息獲取和處理的時間和成本，幫助研究者擴展閱讀面，提高閱讀速度，加深和加快對相關領域的理解和掌握，為盡早進入學術創新的環節提供條件。

目前，不少生成式大語言模型在輸入論文后，可以為人們自動產生論文摘要，精準快速地描繪出論文的核心內容。針對具有多輪對話記憶功能的大模型，使用者還可以輸入某一領域多篇重要文獻，通過大模型對其異同加以比對，由此從傳統的“讀一篇”的低效方式推進為“讀一片”的高效方式，從而快速了解某一學術領域的動態演變過程。生成式AI在獲取、瀏覽、概括、濃縮、提煉、歸納海量學術資源上的能力，以及瞬間抓取全域網絡材料的能力，可以在閱讀資料的環節上對學術研究的準備工作提供強大的幫助。

2.“助”知

學術研究是利用已知（已經掌握的知識）求解或達及未知的過程，是一種利用知識來說話或敘事的活動。由于每個研究者的知識都是有限的，使得作為個體的人在學術研究中常常會遭逢層出不窮的知識盲點，會感到既有知識的不足，因此需要不斷學習來補充所需的知識，其實前文所說的文獻閱讀就伴隨這樣的知識學習過程。知識的學習與獲取，常規的途徑是“請教”他人或求助書本，求助書本在網絡時代還進一步延伸為求助于搜索引擎。但是，這些常規的途徑均受限較大，如一些知識點無論在書本上還是搜索引擎所覆蓋的網絡資源庫中，均無現成答案，所求教的人類老師也存在知識不足的問題。但生成式AI則提供了一種新的獲知方式，這就是與智能系統的問答方式，來快速了解和把握相關領域的專業知識，更容易地獲取并理解不同學科領域的專業知識，節省了研究人員搜索并學習其他學科知識的時間。

生成式AI在訓練和使用中也在不斷學習和“增長”知識。目前，生成式AI普遍采用了大模型技術，通過對來自不同來源的混合文本數據進行訓練，它“掌握”了訓練數據集所能涵蓋的所有知識，從而獲得了廣泛的知識范圍。1 一些高端的大模型甚至越來越趨向于用人類所有的知識作為語料來進行訓練，當其和互聯網接駁后，還可以隨時更新自己的知識，在這個意義上它幾乎可以掌握人類的全部知識，包括最新的知識。所以，大模型的“知識化”過程，實質上就是將人類創造的知識集約化為智能機器系統所儲存的知識，由此成為使人類知識對象化的“新型知識庫”或“知識壓縮器”。作為個體的人一旦與生成式大模型聯通，就如同與人類級別的群體智能相連接，與幾乎能蘊藏人類所有知識的知識庫接通，可以從中汲取源源不斷的知識養料。以往在跨學科、交叉性的學術研究中，通常要由不同學科的研究者組成研究團隊，以提供不同領域的視界與知識。但在生成式AI出現以后，其可以扮演不同學科的專家角色，為研究者提供不同學科的理論與知識。1 生成式AI在實現技術迭代的同時也擴充了訓練數據集的語料庫，從而也可以為跨學科的學術研究提供全面的知識庫參考。2

使用大模型來助知，還能使研究人員獲得良好的用戶體驗。例如，由于富集的知識量巨大，大模型面對個體時表現出“無所不知”，從而對人在知識方面的提問可以有問必答、有求必應，由此可以解決既往的求知面臨的“有求無應”問題。又如，它的進入門檻極低，幾乎人人都能通過與大模型的對話來得到知識方面的解惑答疑，使知識的獲取變得極為容易，甚至可以“信手拈來”，所以生成式AI也被視為一種革命性技術，因為它重新定義了知識的獲取方式。再如，它作為機器，可以不分晝夜、不知疲倦地工作，從而對人可以做到“百問不倦”，人也不會因為在機器面前提出哪怕是“膚淺的”或“基礎性”的知識類問題而感到有失顏面或尊嚴，從而消除了向他人求教時需要克服一定的心理障礙才能做到的“不恥下問”。

生成式AI作為隨時待命的不受時間和師資限制的“知識服務器”，可以在人的操作中“一鍵生成”回應，所以人可以通過與智能機器的對話快速取得求知的效果，克服用其他方式獲取知識時所需的長時耗與低效率。凡此種種，生成式AI成為比人類老師和搜索引擎更優越的求知手段，它作為一個無窮無盡、源源不斷而又毫無架子的知識提供者，在幫助研究者獲取所需的知識、消除學術研究中的知識盲點、避免學術成果中的知識硬傷等方面，提供了空前強大而又便捷及時的支持。

3.“助”寫

文本寫作（生產）是一項關鍵性的學術活動。一方面，寫作就是使思想條理化、結構化、流暢化的過程，另一方面，寫作也是學術成果形成的最后環節，是學術活動社會化并進入傳播和交流的必經階段。因此，寫作體現了組織語言和表達思想的能力，是決定學術研究質量的重要因素。在生成式AI出現之前，寫作只能由人去完成，并且通常需要耗費人的大量心血和時間才能完成。作為大型語言模型的生成式AI所具有的文本的生成功能，可以把復雜的信息總結成連貫的敘述，形成包含特定內容的文本，即文章，使其具有對于學術研究的“助”寫功能，即可以幫助人們完成文本的寫作，從而更快、更易甚至更好地表達和傳播自己的學術思想和觀點。

自動生成文檔是生成式AI最顯著的功能，也是目前被應用最多的功能，它可以按用戶的需求快速生成高質量的內容，如文章、摘要、評論等，這對于需要大量內容創作的領域，如新聞、廣告、媒體等非常有用。在專門的學術研究中則可以用它來撰寫小論文、文獻綜述等，或為人寫的論文加以潤色，包括從用詞、語氣、語法、結構和風格等方面對文章進行修改，尤其是對文本進行自動校正，檢查語法、拼寫、標點等錯誤，提高寫作的質量，3 甚至還可以用它來提高文本的清晰度。4 一些學者評論道：在生成措辭得體、易于理解的文本時，使用ChatGPT可能會有潛在的好處；ChatGPT生成的文章格式可以用作撰寫文章擴展版本的草稿模板，文章的語言、語法和拼寫檢查可以同時進行。5 更廣泛地看，生成式AI還可以用于擴寫、縮寫、編輯、潤色等，借助其幫助來形成重點突出、格式清楚、直接可用的文本。

生成式AI之所以能夠為人助寫，是因為無論從整體上還是細節上，它對語言具有把握與平衡的能力，能夠在繁雜凌亂的資料中清晰地提取重點，能通過思維鏈技術提供的推理能力來較好地理解人類的寫作意圖，并使其變得便捷和高效。一方面為寫作注入新的活力，另一方面節省了用于文本寫作的時間，尤其是可以自動化一些常見的寫作流程，如排版、格式化等，由此提高寫作的效率和便捷性，使研究人員能夠專注于研究本身。

與此同時，人類還可以利用人工智能所生成的內容，加入自己的特色和創造性，使作品更具有創見和價值。這種“人機合作”的寫作方式可以極大地拓展人類的創造性思維和創新能力，實現人機協同的文本寫作和知識生產。這種“人機合作”的寫作，無疑是寫作的新形式，是將機器的寫作能力傳遞給人，使人在寫作能力（尤其是寫作效率）上如虎添翼，擺脫因寫作效率低下而對學術研究形成的制約，從而提升學術研究的整體能力。

4.“助”思

生成式AI在為學術研究提供助讀、助知、助寫的基礎上，還可以會聚性地形成“助”思的功能，也就是幫助研究本身的進行，尤其助力于學術研究中的創新或創造，其中既有直接的幫助也有間接的幫助。

從直接幫助來說，生成式AI可以根據研究者的需求，通過學習和分析大量的文獻、書籍和資料，為人推薦相關的素材、主題和思路；通過挖掘數據中的潛在信息，發現其中所蘊含的新關聯性，由此激發研究者的創新思維。由于大模型中涵蓋了多個學科領域的數據和信息，這也有助于研究者進行跨學科思考：通過將不同學科的知識和思維方式結合起來，由此更加全面地理解所研究的對象和問題，發現新的探索方向和領域。借助智能機器來拓寬人們的思路，啟發人們形成新的觀點和看法，它在幫助人們學習知識的基礎上還可以幫助人們捕獲靈感。同樣，助寫也可以導向助思，如機器生成人們所需要的文本，人們將這種文本作為自己進行知識生產的新起點，由其啟發、激發人們進行新的學術探索，生成新的見識或思想，創造出新的學術成果。

生成式大模型是基于前所未有的大算力和大數據訓練的產物，其中凝結了對象化或物化的人類智能和科技力量，會聚了人類規模的群體智能，所以當其被應用于學術研究時，也會將這些智能或力量傳導給相關的學術活動，抑或說大模型背后的群體知識生產力向使用者形成了無形的“注入”。使用大模型就是使用者在與其中匯集的群體智能相交互，實際上也是個體智能與集體智能的彼此碰撞和相互激蕩，由此形成“頭腦風暴”的效果，1 激發出更多的創意或啟發更多的創見。使用生成式AI的人機對話，實際是改變了形式的人際對話或交流，是作為個體的人與整個人類集體所進行的交互，個體所受的啟示和激發無疑得到了空前的拓展，此時富集群體智能的大模型發揮著巨大的助思功能，尤其是幫助學術研究者提出有價值的研究課題，產生合理的想法和思路。2

從間接幫助來說，生成式AI在學術研究中的使用，可以幫助人類快速獲取相關領域的知識和信息，縮短學習和理解的時間，或將各種準備性和輔助性的工作交由智能機器去高效完成，還可以將那些規范化、形式化（如文獻綜述）的寫作部分交由大模型來助寫，避免人陷入過多的非創造性勞動，極大地減少在非關鍵環節上的認知負荷，從而有更多的精力投入學術研究的主干環節，尤其是集中于學術思想的創新環節。如同隆德（Lund BD）等人所概括的那樣：學者們使用生成式AI時，可以將那些平凡、重復或乏味工作自動化，使人們能夠專注于創造性和非重復性活動。3

集合上述特點和功能，生成式AI可以幫助人按自己的興趣和特點去學習、探索和發現新知識，去進行知識生產的學術研究，并走向更個性化、更高效也更有可能創新的學術研究。可以說，對于從事學術研究的人來說，生成式AI既是助理，也是顧問，還是秘書；它既無所不知，也任勞任怨，集多種有效功能和“優秀品質”于一體，為人提供空前強大的幫助，借助它無疑可以將人類的學術研究推進到一個新的階段和水平。

二、由“助力”而“替代”：生成式AI對學術研究的

負面效應

任何技術都會因為其不完善性從而具有對人的負面效應。生成式AI也存在種種局限，從而對人們的學術研究可能造成不利的影響。費克爾以ChatGPT為例列舉了生成式大模型的如下五種局限：（1）缺乏透明度，因為不清楚模型的輸出基于哪些數據；（2）不正確，尤其是在文獻參考和傳記信息方面，這可能會影響生成文本的可靠性；（3）缺乏創造力，因為 ChatGPT 嚴重依賴現有模式，可能難以生成全新的內容；（4）過時，特別是因為本研究中使用的 ChatGPT 版本依賴于一個只到 2021 年的數據庫；（5）不具體，即大模型產生的膚淺文本沒有深入或詳細地解決主題。1 本文結合前面的“四助”，從與其對應的“四替”來分析生成式AI對于學術研究的負面效應。

1.“替”讀

助讀的過度使用或極端泛化，就是“替”讀：人將學術研究中的文獻閱讀完全交由智能機器去完成，人則只利用由智能機器概括的要點與結論，只接受大模型為其提煉或“濃縮”出來的“精華”，久而久之就可能喪失閱讀能力，也喪失基于閱讀而帶來的知識增長和能力提升。

閱讀的過程也是學習的過程，閱讀就是通過新信息的輸入來激活既有知識結構，進而產生如同皮亞杰所說的“同化與順應”交織的觀念建構過程，這就是生成新知識的過程。如果用生成式大模型完全替代人的閱讀，就會使人失去在不斷的“同化與順應”過程中建構新知識的機會?！皺C器讀原文，人只讀要點”的閱讀方式，也不利于人對知識的全面吸收，猶如只喝濃縮的果汁而不吃原生的水果，也形同只輸營養液而不吃食物來獲得養分，久而久之必然會導致知識上的“營養不良”。

通過閱讀不僅能學習知識，也訓練思維，還可以在獲取知識的過程中增強人的多種能力（如概括能力、記憶能力、理解能力等）。例如，人類在閱讀文獻時，需要通過深入思考、理解和分析來獲取更加深入和全面的知識，而替讀則會使人不再使用這些能力，從而不再有這些方面的能力增強機會，甚至在歸納和概括等方面的能力因為“用進廢退”而發生嚴重的退步。此外，閱讀也是與作品（如論文）的作者一起經歷對思想或觀點進行論證的過程，而交由機器替讀后人就不再能體驗或經歷這樣的過程，對作品的觀點至多只能是知其然而不知其所以然，或在論證能力上得不到沉浸式閱讀時所受到的熏陶與演練，在闡釋學術觀點時就會“只有主張，沒有證成”，即不能習得完整的學術研究能力。

閱讀的另一個強大功能在于可以從閱讀中受到啟發，甚至作為“消遣”的閱讀，也可能有意想不到的觸類旁通的效果，以致可以啟發靈感，生成新看法、新思想。如達爾文正是在“閑讀”馬爾薩斯的《人口論》時，將生物進化的機制歸結為“自然選擇”和“適者生存”。可以想象，如果由機器來替讀，人只了解一下摘要或要點，這樣的靈感難以被啟發出來。因此，如果將機器的助讀極化為替讀，人不僅體驗不到閱讀原文的“原始樂趣”和精微感受，更會失去在細讀中受到啟發、形成聯想而收獲的靈感與新思的機遇。

學術研究還離不開對重要文獻（如學術論文）的細讀、精讀。施一公認為，一些重要的科研論文，“必須逐字逐句地讀”，在“理解細節”的基礎上“完全讀懂”，并在讀懂的基礎上關聯自己研究的課題進行舉一反三的延展性思考，進而還要批判性地閱讀，由此提出新的問題，尋求新的發現。2 顯然，這樣的閱讀方式和效果都必須由人去“親身閱讀”才能達成，用機器去替讀無疑不可能有這樣的學術收獲。更有甚者，替讀還可能使人失去閱讀原文的能力，從“替”讀進一步走向棄讀，從此只會接受由機器歸納的現成要點，導致學術研究人員閱讀和分析科研文獻能力的降低。3

替讀還可能引發誤讀，如當今的生成式大模型普遍存在“幻覺”或“杜撰”事實的缺陷，提供錯誤知識的比例還不低，其中包括引用了不存在的科學研究，1 提供不存在的論文題錄信息， 甚至“偽造”學術資源，為學術研究提供子虛烏有的根據和來源，以至于在不少學者看來，生成式大模型在為學術研究查找信息和搜索書目數據庫時，至少在目前還不能進行任何真正的文獻檢索。2 因此，如果將閱讀和尋找學術資源的工作全部交由生成式大模型所代替，將會使學術研究的成果在真實性和準確性上大為受損。在這個意義上，即使在學術研究的資料準備階段，智能機器的替讀也是極不可靠的。

總之，生成式AI具有一定的助讀功能，即幫助人高效快速地大致了解某一問題的研究概況，類似于通過廣泛的閱讀而形成的概括性了解。但它并不能代替人的閱讀，尤其是不能代替人從細讀、品讀中所能受到的啟發、得到的收獲，所以不能從借助生成式AI的助讀走向極端化的替讀，進而導致棄讀，后者會帶來人的學術研究能力的退步。

2.“替”知

生成式AI的助知功能，可以在人機交互中以 “即問即答”的方式為人提供所需的知識，正是在這種背景下，關于未來的教育或知識傳授的方式將發生顛覆性的變化正在成為共識。

生成式AI的助知，通過知識可以從人機對話中“信手拈來”而幫助人變得更加博學，并擺脫需要死記硬背一些知識的重負，有效應對知識爆炸給人帶來的應接不暇，將更多的精力和智慧用于新知識的創造，形成更豐碩的學術創新成果。但這種助知也可能超過合理的限度而被過度地泛化，此時人就很可能將“減輕死記硬背過多知識”的重負變為將一切知識的記憶和掌握（即“記住知識”）都交由機器去代替自己完成，人將“博學”的使命完全托付給機器。當一切都可以通過詢問大模型而“知道”時，人對知識學習、掌握的積極性可能會降低，尤其是對那些需要下功夫才能記住的知識，就很難愿意付出艱辛的努力去刻意學習和加固記憶了，甚至對基礎知識也懶于通過漫長的演練去掌握。如同帕斯克（Gordon Pask）等人早在信息時代來臨時就揭示的：“當數據庫中存有萬倍于人腦中的信息，而且又容易存取時，這時獲取知識還有什么意義呢？當計算機更有效地，更合適地運用知識時，為什么人們還去運用獲取的知識呢？也許對于未來的后代來說，所有人們目前稱作知識的東西都是枯燥乏味，毫無價值的?！? 在生成式AI時代來臨后，知識更容易獲得，這使得“機器學習”有可能更多地取代人的學習，人所應知應會的知識越來越多地寄存到機器的存儲系統中去。生成式AI原本對人的“助”知使用不當就可能演變為對人的“替”知，人可能不再愿意像先前那樣花那么大的力氣去學習和掌握知識。

其實，人掌握知識的過程，是一系列相關能力得到使用、訓練和增強的過程，也是記憶力、理解力的使用和不斷進化的過程，此時，“我所知道的就是我能記住和理解的”。一旦智能機器的替知大行其道，人們記住的和理解的知識就會越來越少，就會演變為“我所知道的就是智能機器所能告訴我的”。久而久之，人就會變得“有了大模型就無所不知”，“離開大模型就一無所知”，這種情形和人依賴其他技術所導致的能力退化一樣，成為一種嚴重的“AI異化”，即人在免除對知識死記硬背的重負的同時，在知識上也走向對智能機器的嚴重依賴。所以，人們要在大模型行將改變教育方式的同時，也要警惕將其作為取消知識學習的借口。

3.“替”寫

生成式AI通過算法和模型可以自動化創作文本，一方面可以助力人的表達，條理化人的所思所想，高效地幫助人進行寫作，包括學術研究中的論文寫作；另一方面也有替代寫作即“替”寫的可能。

將ChatGPT等生成式AI作為“寫作裝置”來進行替寫，具有多方面的負面效應。其一是會導致抄襲，也就是將大模型生成的內容簡單地加以復制，在沒有可靠地引用原始來源或作者的情況下，將人工智能生成的文本當作自己的“研究成果”。由于AI生成的文本是從它所訓練的數據庫中概括總結而成的，所以不加注明地“據為己有”就形同剽竊了許多未知的文本，這無疑是一種新型的抄襲，必然導致公眾對學術界的信任危機。其二是由于大模型的幻覺或杜撰現象的存在，由AI替寫而生成的學術成果還可能導致“謬種流傳”。如 ChatGPT 在某些情況下難以避免地會寫出似是而非的錯誤或者荒謬的答案，生成缺乏科學內容的科學論文。1 一項調查顯示，70%的受訪者對ChatGPT能夠提供準確的信息幾乎不信任或根本不信任，因為ChatGPT會產生幻覺或編造出一些東西。受訪者還認為無法檢測到的錯誤信息對社會構成了巨大危險，這些模型產生的文本對于關鍵應用來說是不可信或不安全的。2 其三，學術審查更為困難，尤其是論文的自動化生成，加重了為保證學術質量而進行的學術審查的負擔。例如，要發現一篇文章是否抄襲了大模型所生成的文本，會由于作為文本來源的語料庫太大而難以分辨出它的抄襲對象是誰。也就是說，“抄襲的形式演變得更難以察覺和分辨，判定ChatGPT 是否參與知識創作的邊界將變得模糊，例如在人機對話的過程中，人形成的科學研究觀點，是否受到ChatGPT 的滲透影響，人與機器之間是否存在觀點抄襲等問題都將變得難以界定”。3目前，開發出識別抄襲的有效工具存在較大的難度，由此引發了人們對這些方法在準確區分由大模型生成的文本和由人生成的文本上的可靠性的擔憂，4 或者說目前要識別出由大模型生成的文本還具有挑戰性。5 專家們還擔心當ChatGPT被植入搜索引擎界面時，可靠的事實核查將是不可能的。6 另外，如果需要量化大模型在寫作方面的幫助程度，那么什么是可以接受的，什么是不可接受的？這也是目前還未達成共識的方面。7

寫作出靈感，寫作可以促進思考尤其是深思，寫作可訓練組織和邏輯化思想觀點的能力，寫作本身還是創造的過程，而替寫將使人失去獲得這些能力的鍛煉機會。由此引發的質疑是：當人們不必自己寫任何東西時，會有一個什么“結局”呢？8如果學術研究邁過寫作的階段直接通過生成式大模型的替寫而得到結果，“那么可能會導致學術失范，出現‘機器越來越聰明，人類越來越懶、越來越笨’的局面，學術研究的意義和價值將會被消解”。9 曾幾何時，當人們用計算機的鍵盤輸入代替手寫時，導致越來越多的字不再會寫的“失寫癥”，而今當大模型可以替代人們寫出種種文檔時，難免不會擔心文字上的“失寫癥”會進一步延展為內容上的“失寫癥”，這可能是使人的退化更加嚴重的“失寫癥”。

同時人們還需要看到，替寫并不能生成人們所需要的真正能代表人類水平的學術成果或其他作品。盡管生成式AI可以通過學習和分析大量的文獻、書籍和資料來推斷其中的模式和規律并生成內容（這些內容通常是基于算法、模型、規則等預先設定的），但不具備人類獨有的主觀體驗、具身經驗和豐富情感，因此無法完全滿足人們對于更深入、更個性化寫作的需求。此外，生成式AI還可能存在數據偏見和不準確性等問題，這些問題也會影響大模型的生成結果。基于它只能是在既有內容上的生成，并不能進行真正的創造——不具有人所具有的那種從0到1的創造，即“無中生有”的創造，至多是進行從1到N的生成，這也是影響學術成果是否具有創造性的重要因素。所以，現有的生成式大模型難以完全替代人類的寫作，由它來替寫必然會降低學術成果的水平，尤其會損害創造性的質量，它“只能作為學者寫作的中介要素，不能作為論文最終文本形態的生成方式”。 1

4.“替”思

如同三助（助讀、助知、助寫）的會聚是助思，上述的“三替”之集合效應也是對應的“替”思：面對所要探討和解決的問題，直接從AI系統中去獲取自動的回應，用“一鍵生成答案”的便捷方式替代人依靠自己勤奮思考的過程，而且還隔斷了向他人請教的人際互動。可以說，這也是濫用或過度使用生成式大模型助思的負面效應。

通常情況下，思想形成的過程就是提出問題和解答問題的過程。生成式大模型應用于學術研究時，人提出的問題均可以從智能系統中去尋獲答案，省略了先前需要人所親歷的漫長或艱深的思考過程，甚至有的大模型還會在回答問題的同時，自動生成新的問題，并提供關于這些新問題的答案，使得連提出問題的思考活動也可以由機器代勞。于是，本來貫穿于學術研究中的核心能力和關鍵過程——提出問題與回答問題，至此似乎可以全部交由機器去替代人們完成。這種“全自動化”的“學術研究”或“知識生產”，看上去是完全地“解放”了人，實則是全面剝奪了人的功能和價值，或稱之為對人的徹底的“去技能化”。當生成式大模型可以為人提供快速簡潔的答案時，人的批判性思考與解決問題的能力很難不被削弱；過度依賴大模型來提出論點和文本的結果，也很難不會降低或削弱研究人員的洞察力。2 凡此種種，都會對人的創造力帶來破壞的效應。這些連帶效應的一個總體的結果，即生成式大模型的助思被極端為“替”思之后，不再思想的人無疑在最終就會成為“無思”之人：起初是不愿意去進行艱深的思考，然后是不再具有思考的能力，達到這樣的無思狀態，無疑就失去了人的本質，就導向了最深層的人文負效應。

另外，人機之間的問答，并不能完全取代人與人之間的問答。人與人之間的問答，如蘇格拉底式的問答，可以形成人與人之間的互相學習和啟發，這能為知識生產或學術活動注入強大的活力。而人機之間的對話，由于生成式大模型目前所具有的如前所述的種種局限性，還無法造就一種在功能上能夠匹配人與人對話的那種智能生態效應，如它的靈動性、場景性、個體性、傳神性等遠不及人與人之間交流時的豐富生動，由此帶來的“助”思（啟發和激蕩思考）效果還較為欠缺，所以，人與人之間面對面的“現場”的學術交流是人機問答式的交流所不能取代的，將需要從人與人的直接交流中獲取的思維啟發全部用人機問答中的“一鍵生成答案”來取代，也會喪失在人際交互中所獲得的生動鮮活的啟發與激勵。

三、走向對生成式AI的合理使用

生成式AI的前述助力作用，使其成為一種新工具、一種可以對人類知識生產提供更多幫助的新手段，這種新手段甚至在一定意義上重新定義了學術研究。從供給側看，生成式AI介入學術研究之中，從實質上就是將大模型所富集的群體智能并入人的學術研究之中，形成對人的認識和創造能力的新型賦能，提高其發現新知識、構建新思想的效能。但由于其尚存的局限性，加之對其不合理使用，可能對學術研究乃至更多人類活動造成負面效應。鑒于此，如何恰當地使用生成式AI，成為一個擺在人們面前的重要問題。

無疑，一概禁止使用或毫無限制地使用生成式大模型，都不是合理的態度。合理地使用它，首先要合理地理解人與生成式大模型之間的雙向賦能關系，并堅守人機分工的基本原則。生成式AI對人的種種助力或幫助，通常是在人機對話的互動中進行的。人提出問題，智能機器通過學習和分析相關領域的數據集、模型和規律來生成新的內容，然后將這些內容作為答案返回給人類，即回答人的問題。整個過程涉及人類和智能機器之間既分工又互補的合作關系，其中一些需要大量重復、簡單或標準化的工作可交由智能機器去進行，而核心的關鍵的工作（如提出問題，確定研究方向與課題，形成創新觀點，判斷結論是否正確等）仍由人來把控，由此形成一種人機合作與協同的學術研究新模式，這也是更加人性化的知識生產新模式，由此翻開人機合作新篇章。這也是合理使用生成式大模型的總體性原則。

在這一總體性原則的引導下，對于智能機器在目前尚存的局限性，還要相信隨著技術水平的不斷提高，將得到改進和完善。事實上，不斷迭代的大模型，其新產品與前期產品相比，在編造或杜撰事實方面的現象就大幅下降，生成的毒內容變得更少，所生成的回答更具有用性和真實性。1 當然，從總體上人們需要對目前的生成式大模型的技術功能保持清醒的認識，尤其是不能過度夸大它的作用。例如，目前的生成式大模型還只能在收集和整理資料、形成綜述類或知識介紹類文本上為人提供學術上的幫助，還不能用它來替代人們去創建新觀點新思想，由此決定了人們也不能將學術研究或知識生產的過多任務交給大模型去完成，否則就會因其不勝任而降低人類學術研究的水平。在當前，學術研究人員合理使用生成式AI的重要一環，就是根據其技術性能，學會如何正確利用提示詞（prompt）來調動和開發大模型的場景知識與能力。因為大模型的通用知識由預訓練所確定，領域能力由微調所確定，而針對某一任務的知識和能力則由提示詞所調動，所以，掌握好提示詞的使用藝術才能使大模型為自己更好地提供個性化幫助。同時，還要始終保持批判性思維，理解模型的局限性，對大模型生成的“發現”或“見解”進行驗證，以確保準確性和可靠性。2

動態地看，隨著生成式AI技術的不斷發展和應用場景的拓展，人類將會更多地依靠生成式AI的幫助，并通過與智能機器的合作關系，實現更多的價值和創新。然而，無論人工智能發展到什么程度，人類都不能完全依賴它或將其視為解決問題的唯一方法；即使在未來，更先進的人工智能也不能完全取代人類的閱讀、寫作和思考過程；人借助人工智能所卸載的只能是自己所不擅長的工具性的工作，是將學術研究中的平庸之事交由機器去完成，自己則將精力集中和轉向更有價值之事，從而在自己擅長的探索和創新方面永葆優勢，這也是人作為主體所具有的不可替代的地位與優勢。

一個結論性的看法就是：在學術研究或知識生產中，要“助而不替”地使用生成式AI。其功能需要定位為“助力”而不是“代替”，要用其來增強人的學術能力，而非用其在學術研究中“走捷徑”或“偷懶”；要用它來啟示、激發人們更多的靈感和新見，而不是用它來替代人們的思考……正因如此，學術界有了這種強烈的呼吁：應采取及時和堅定的立場，避免在學術研究中過度依賴大模型，要在大模型時代促進負責任的學術研究和科學活動，否則，就會有危及科學知識可信度的風險，而實現這一目標的第一步就是嘗試以現實的方式設計大語言模型的使用政策。3 其中，包括要找到有效使用它們的方法，使對它們的使用不構成剽竊（盡管它們可能會產生剽竊文本）；還需要量化它們的偏見，警惕它們在準確性上的偏差，4 如此等等?？梢哉f，技術本身就有使人退化的負面功能，人們要警惕這種功能的后果在現實中過多或過度地發生。只有做到助而不替，才能使生成式AI真正成為人的學術能力（也是認識能力）增強的工具，否則就會成為在學術創造能力乃至全部能力上致人退化的催化劑?？梢?，防止從助到替，將新一代人工智能定義為人的助手而不是替手，是大模型時代學術研究的新課題，也是生成式AI介入包括學術研究在內的人類認識活動所需要關注的新問題。

當然，“助”和“替”之間的界限往往具有模糊性，人工智能和許多技術一樣，起初是“介入”人們的活動，然后發展為“介導”人們的活動，最后成為“限定”人們生活的“座架”，其間發生技術對人的替代和異化，這往往是一個由量變到質變的過程。為了警惕這樣的可能性變為現實，對生成式大模型在學術研究或知識生產中的“介入”或“介導”需要事先“設限”。例如，雖然目前難以判別使用大模型中的抄襲，但仍然不能放棄在技術上解決這一問題的努力。伴隨這一類技術上的努力，人們還需要繼續去深度思考和謹慎處理微觀層面的“助”與“替”的關系問題，如哪些是可交由機器去幫助人們閱讀和寫作的內容，哪些知識可以寄存于機器之中，哪些信息內容的加工可由機器輔助人們完成，哪些是人們不愿意和不應該失去的能力？隨著在這些微觀問題上取得共識，人們對于如何合理地使用人工智能大模型這一問題才能逐漸了然于胸。

“Assistance” and “Replacement”： The Dual Effects of Generative AI

on Academic Research

HUANG Shijin

Abstract： The application of generative AI in academic research has opened a new chapter in knowledge production. It can assist people in academic research through “reading assistance”， “knowledge assistance”， “writing assistance”， and “thinking assistance”， automate some preparatory or auxiliary work， reduce human cognitive load， enable people to focus their main energy on the key links of academic innovation， and improve the efficiency of academic knowledge production. However， the excessive use of generative AI auxiliary functions may lead to negative effects such as “reading replacement”， “knowledge replacement”， “writing replacement”， and “thinking replacement”， resulting in multi-dimensional degradation of human academic abilities. How to use generative AI effectively with “assistance rather than replacement” is a new topic of human-machine cooperation for academic knowledge production in the age of intelligence.

Key words： generative artificial intelligence; big model; text generation; academic research; knowledge production; human-machine cooperation

（責任編輯：蘇建軍）