AIGC驅動學術出版變革的挑戰與應對

【摘 要】AIGC改變了傳統的知識生產與學術出版生態，擴展了知識生產主體與學術出版邊界。AI不僅能夠作為科研助手協助科研工作者分析科研數據，還可以協助編輯進行選題策劃，確保內容和質量符合學術標準，重新定義人機協作在學術出版中的角色。這一范式變革對學術出版倫理、學術誠信以及版權法規等造成了沖擊。要應對這些挑戰，需要堅守出版意識形態，創新出版生態環境，建立和完善AI指導原則，把握技術賦能和學術出版倫理之間的平衡，有效推動學術出版倫理和政策機制的實踐落地。

【關" 鍵" 詞】學術出版；AIGC；知識生產；人機協作；數字出版

【作者單位】鄭泉，中國科協學會服務中心，中國自然辯證法研究會；賴明東，寧波大學人文與傳媒學院。

【中圖分類號】G239.2 【文獻標識碼】A 【DOI】10.16491/j.cnki.cn45-1216/g2.2024.23.009

隨著新一代信息技術與人工智能技術的發展，出版業正在經歷一場前所未有的產業變革。《出版業“十四五”時期發展規劃》明確提出，要強化新一代信息技術支撐引領作用，推進出版產業數字化和數字產業化，大力提升行業數字化、數據化、智能化水平，系統推進出版深度融合發展，壯大出版發展新引擎。在智能技術賦能出版融合的背景下，出版產業體系正朝著智能化方向不斷發展，出版過程逐漸自動化、自主化和智能化，人機協作已經成為人工智能在學術出版領域應用的核心特征。然而，隨著生成式AI技術的不斷發展，其在學術出版中的廣泛應用不僅引發了學術界的熱議，也在學術誠信、出版倫理、知識產權和高等教育等多個層面引起了諸多爭議。因此，亟須厘清生成式AI帶來的知識生產變革，深入探討如何在人機協作模式下，有效應對學術出版領域面臨的挑戰和變革。

一、AIGC時代學術出版的范式變革

在傳統出版、數字出版和人工智能出版的三個階段中，知識的傳播范式不斷被重塑。過去以計算機視覺、自然語言處理、機器學習等弱人工智能為代表的AI技術，逐漸向強人工智能方向發展［1］。隨著以ChatGPT為代表的大語言模型的崛起，出版業的內容生產從傳統的“作者—出版機構”共同體互動，擴展到“作者—出版機構—人工智能大模型—受眾”共同體之間的互動，形成人機協同生產、智能編輯和傳播出版知識的全新流程。

1．擴展知識生產主體與學術出版邊界

生成式AI與人類在知識生產中的廣泛融合，塑造了一種由人、機、環境系統相互作用而產生的新型認知形式，它既不同于人類認知，也不同于機器認知，而是充分結合了人與機器的認知特征。這種混合認知模式徹底改變了之前的人或者機器作為單一行動者的局面［2］。機器學習通過大量數據構建認知模型，實現了數據挖掘、分析預測、搜索排序、關聯推薦和自動化處理，為出版選題策劃、內容生成、產品營銷和用戶服務等多個環節提供支持，從而擴展了出版邊界［3］。例如：智能推薦公司Intellogo通過運用機器學習機制，通過有效的分類、興趣和內容的有效匹配，有針對性地向讀者推薦需要的圖書［4］；作為全球領先的科技出版商，Elsevier不僅開發了ScienceDirect、Scopus等數字平臺，還與多家科技公司合作，利用大數據技術創新知識服務能力，推動文章開放獲取和數據的共享。作為一種新興的學術出版模式，開放獲取不僅擴展了學術出版的邊界，促進了跨學科的交流與合作，還提升了數據驅動的科學發現的透明性和可信度。

人機協作已成為智能出版時代的必然選擇。機器學習作為一種新型技術介入出版活動中，推動了出版范式的變革。此前在“作者—出版機構”共同體中形成的出版文化，逐漸擴大到更加廣泛的社會語境中，從而促進多元知識生產共同體的形成，推動出版資源共享的發展。例如，AI可以為特定主題生成相關內容或提出新穎的觀點，擴展作者的思路，還可以通過分析讀者反饋和市場數據，支持出版商從海量數據中提取有價值的信息，制定數據驅動的個性化出版策略。資源共享和合作不僅增強了出版內容的多樣性與創新性，還促進了知識的廣泛傳播，推動了出版范式的變革。

在傳統出版階段，作者、編輯和出版機構作為傳播知識的主體，一般是通過報紙、電視等靜態傳統媒介進行傳播，是從主體到受眾的靜態單向傳播；數字出版通過改變知識生產的渠道，突破了傳統紙質載體的束縛，形成了新的出版文化形態。雖然其依托信息技術進行多維傳播，但本質上仍然是從傳播主體到受眾的單向傳播。而智能出版階段，依托大數據、云計算、區塊鏈等技術，機器學習實現了虛擬空間和物理現實空間的相互聯結，人、機、環境三者相互作用，突破了傳統出版和數字出版階段的單向傳播范式，使得每個用戶都能參與知識的生產與編輯，促成主體之間的互動。例如，牛津大學出版社通過與開發大型語言模型的公司合作，改進內容審核和生產流程，探索負責任的開發和使用方式。

2．重塑編輯出版全流程

AI與智能算法應用到出版內容生產的全過程，不僅可以幫助作者收集資料和提供寫作思路，還可以幫助編輯在選題策劃、內容審核、出版傳播等方面進行決策。在選題策劃階段，AI技術能夠結合數字平臺資源、出版定位和讀者需求，分析當前熱點話題和學術趨勢。例如，Yewno公司的知識發現工具通過從大量的非結構化和結構化數據中提取知識，生成知識圖譜，幫助課題研究和選題策劃［5］。

此外，AI還可幫助編輯制定長期出版策略，通過識別跨學科主題之間的聯系輔助專題策劃。在同行評議階段，AI可以根據論文內容和審稿人的專業背景，自動化匹配合適的審稿人，從而提高評審質量。施普林格·自然已經引入AI輔助同行評審，并在2022年推出開源軟件PySciDetect，可在稿件提交階段識別虛假研究和數據［6］。2023年，Springer Nature推出兩款定制的AI工具Geppetto和SnappShot，以支持識別包含 AI 生成的虛假內容和或存在問題的圖像論文［7］。在出版傳播階段，AI可以基于自動翻譯功能進行多語種傳播，以及基于用戶畫像實現內容的精準分發與推送［8］，不僅優化了信息的獲取和處理流程，還增強了內容的可訪問性、相關性和吸引力。

二、人機協作對學術出版倫理的挑戰

1．對傳統出版意識形態和價值導向的挑戰

傳統的以“作者—出版機構”為核心的共同體形成一個知識生產的微觀生態系統，學術評價由編輯與專家共同完成。人工智能系統的引入使得這一共同體擴大為人機協同，機器和算法成為知識生產實踐的一部分。然而，由于智能算法目前尚不能作為承擔責任的主體，從而使得責任歸屬問題難以界定。這種新型的知識生產模式帶來了諸多挑戰，包括缺乏事實驗證、透明度不足、算法的解釋能力不足以及數據源的偏見等。由于數字出版產業具有文化屬性與意識形態屬性，除考慮出版內容價值外，還需兼顧所處環境的文化與政治意識形態［9］。而生成式AI的輸出不可避免地受到訓練數據的影響，從而對出版內容造成一定程度的沖擊與挑戰。因此，將出版的策劃與決策權完全交給人工智能，將會引發一系列結構性問題，編輯的主體地位得不到重視。

作為我國文化建設的重要力量，出版業肩負著知識傳播和價值引導的重要責任。在當前學術出版中，尤其不可忽視新興技術帶來的出版價值問題。從關系的角度來看，價值代表著主客體關系中的一種狀態。出版作為一項集體事業，代表著出版共同體的理性認知，是以特定出版價值觀和方法論為指導的集體實踐。因此，出版的價值正義凸顯了出版的核心價值觀，強調的是“主流價值引領，堅持使命感和專業性”［10］。隨著AI技術的介入，出版流程和知識生產模式被重塑，AI的應用貫穿于選題策劃、編校、發行、知識服務等各個環節，因此必須警惕在新的出版流程中出現的不良價值導向，如在知識服務平臺、新聞資訊平臺中運用用戶的認知缺陷推送各種虛假信息等。

有研究指出，當前社交平臺中普遍采用的推薦算法在滿足用戶個性化需求的同時，也會因為追求流量而產生負面作用，包括放大用戶的認知缺陷等。如“信息繭房”效應導致用戶思維固化，使用戶潛移默化中只接受他們想看到的內容，一定程度上“損害了用戶的知情權和信息選擇權，消減了用戶的人文價值判斷和社會責任意識”［11］。算法通過對用戶行為數據、社交媒體活動、購買記錄等進行分類、清洗和預處理，可能會導致數據代表性不足，進一步加劇出版領域的知識分配不公。同時，過度依賴算法輔助決策會使編輯陷入思維定式，造成出版模式和內容的單一化，無法滿足多元受眾需求。

2．對科研誠信與版權法規的挑戰

在人機協作模式下進行論文寫作和出版等活動，將給科研誠信與出版倫理帶來一系列挑戰。

首先，科研誠信涉及與數據有關的問題，包括收集、管理、儲存、共享和所有權［12］。AI生成內容往往依賴于其訓練數據和算法，如果AI使用的數據不準確或帶有偏見，那么其生成的內容也可能存在問題。有研究指出，大語言模型訓練數據和編碼過程中存在的偏見，將對科學的完整性構成威脅，給學術出版中的“馬太效應”帶來潛在影響［13］。如果模型傾向于引用高引用率的文章或知名研究人員的成果，將會導致這些研究人員和機構獲得更多的曝光，而忽視了新興或小眾領域的研究，從而加劇學術界的不平等，限制多樣化的研究成果和觀點的傳播。還有學者指出，伴隨著AIGC的使用，科研工作將面臨更嚴重的失信問題，以及引發抄襲剽竊、誘發無實質貢獻論文、形成虛假研究成果等。同時，AIGC的大范圍使用也給科技期刊出版的署名規范、引用規范、檢測技術帶來挑戰［14］。

其次，AI生成內容涉及知識產權問題，AI創作的文本能否作為著作權法上的作品予以保護還存在很大爭議。由于算法可解釋性不足，很難確定是因算法設計缺陷、數據偏見或訓練不當而導致違規行為，還是因技術使用不當而產生的錯誤。此外，AI創作的作品是否適用現有版權法，以及AI如何適應版權法的規定（如版權登記、版權期限等），也是一個亟待探討的領域。現有的版權和許可法律體系對于AI創作的作品模仿原作風格這一新形式缺乏明確規定。AI通過學習和吸收大量原作進行創作時，涉及的版權歸屬和合法性便成了新的挑戰。

從價值導向和出版倫理的角度出發，評估AI生成內容的標準可能需要重新定義。例如，當評價由AI生成的學術文章時，傳統的同行評審過程可能需要調整，以適應AI的特性。這不僅需要考慮算法的透明度、數據集的代表性和數據來源的驗證等問題，同時還需妥善解決版權問題，以確保學術出版的責任和道德性。為了維護科研誠信和出版的倫理標準，必須在AI技術應用中保持審慎，確保其符合學術界和出版業的基本價值和規范。

三、人機協作模式下學術出版變革的應對路徑

1．堅守出版意識形態，創新出版生態環境

學術出版活動從選題策劃、內容把關到知識傳播的每一個環節，都離不開對價值因素的考量。出版業作為文化事業的重要組成部分，肩負傳承文化、塑造社會主義核心價值觀的重要責任。為此，在通過智能算法提升出版業經濟效益的同時，出版業必須保持對其文化使命的敏感性，促進新興文化形式的創新。

一方面，堅守出版意識形態。不論是傳統出版還是數字出版，學術出版的內容質量始終是出版企業的核心競爭力。學術出版機構應堅持把社會效益放在首位，把握正確的政治方向，堅持正確的學術出版價值導向，實現意識形態價值、智能技術價值、經濟價值和文化價值的多效統一；不僅要把學術出版工作的核心價值觀和用戶的多樣化需求前置性地嵌入出版物的設計和技術邏輯中，彰顯新時代的出版價值，還需采用新型的開源方法和技術消除算法偏見，構建公平公正的“算法價值觀”。例如，微軟在2019年發布的開放源代碼工具包Fairlearn，可用于讓AI系統開發人員評估系統的公平性。目前，開源社區（open source community）已被證明在經過嚴格測試的機器學習工具方面非常有效，可以進行消除偏見測試［15］。這些開源工具的使用，不僅提升了算法的透明度和可靠性，還為推動AI技術在學術出版等領域的應用提供了重要支持。

另一方面，打造人工智能出版安全生態環境。中國信通院《人工智能白皮書（2022年）》指出：“可信理念逐漸深入到人工智能全生命周期……行業組織要多方參與和協同，推進打造人工智能安全可信生態。”［16］為此，學術出版的知識生產與服務環節應強化“算法推薦+人工”的審核把關，實現可信的學術出版產品與業態創新。2019年4月，歐盟委員會發布《可信賴的人工智能倫理準則》（Ethics Guidelines for Trustworthy AI），提出了實現可信賴人工智能的七個要素，明確了“可信賴人工智能”的核心內涵：合法、道德、穩健。相關研究表明，信任與可理解性、可預測性密切且正相關，算法設計者需要與技術同行建立合作關系，理解算法偏差的來源，積極尋求解決偏見的可行性操作方法。出版機構可通過和學界、企業建立合作，在機器學習上探索開源方法對抗算法偏見，通過技術和內容融合的方式建立值得信賴的人工智能體系，及時阻斷具有負面價值導向的內容傳播。

2．科學審慎AI應用，把握技術賦能和學術出版倫理之間的平衡

（1）建立和完善AI指導原則

為了有效應對AI技術給學術出版帶來的挑戰，政府、相關部門和學術出版單位應建立一套全面的AI使用指導原則和具體的實施框架。這些原則應涵蓋AI的透明度、可解釋性、數據質量和數據來源的道德性等方面，用于指導出版者和研究人員合理、有效、道德地利用AI技術，確保知識和數據的真實性和可靠性。具體而言，透明度和可解釋性意味著在學術出版中，AI的使用方式、算法和處理數據的方法應公開和可審查。其中包括在出版文章中明確標明AI的使用范圍，提供足夠的信息，讓學者能理解AI如何影響研究結果。數據質量和來源道德性意味著使用的數據應準確和具有代表性并符合倫理標準，以確保個人隱私和數據安全。

在學術出版領域，數據已成為提升出版競爭力的關鍵性生產要素和戰略性資源，改變了傳統知識生產、發展與傳播的方式，推動出版業態向數據驅動的范式轉變［17］。正如Mactores 首席執行官Bal Heroor所言，當前出版業正面臨來自數據分析方面的挑戰，需要優化流程和增強用戶參與度。數字出版業現在比以往任何時候都擁有更多的工具和資源，可用來改善工作流程和創造性產出［18］。在此背景下，AI的透明度、可解釋性及數據倫理問題愈發凸顯。目前，美國、英國、加拿大等國已在AI倫理方面建立了多樣化的政策框架。如施普林格·自然集團把以人為本的價值觀置于負責任地使用人工智能的核心，并對AI的使用制定了五項指導原則，其中包括尊重和尊嚴、最小化傷害，公平、透明度和問責制以及隱私和數據治理等，旨在通過AI提升出版流程的效率，增強內容的可訪問性和開放性，維護學術記錄的完整性，確保AI技術的使用有利于科學發現，并符合倫理標準［19］。此外，為了確保AI技術在學術出版領域的負責任應用，施普林格·自然集團還建議設立由專門機構和多學科專家組成的審查委員會，以對AI技術在學術出版領域的應用進行持續的監管和評估。其中包括評估AI技術的影響、監測潛在的風險，以及提出應對策略，防止AI在復制、修改和發布學術作品時的濫用和誤用，確保AI技術的使用不僅能促進知識創新和傳播，還能維護學術誠信與倫理標準。

（2）多元主體協作推動學術出版倫理和政策落地

隨著生成式AI的快速發展，過度依賴技術可能會阻礙科學知識創新。盡管以ChatGPT為代表的AI大模型在知識生成和處理中發揮著越來越重要的作用，但人類在決策、倫理判斷和批判性思維方面的作用依舊不可替代。因此，應警惕AI成為認知權威，提升學術出版者的科學推理能力和批判性思維。在人機協作關系中，出版機構應發揮主導作用，確保AI技術的使用符合出版價值觀和社會倫理，通過提高數據解讀、統計分析和邏輯推理能力，提高對AI輸出的批判性分析。此外，還應鼓勵跨學科研究，結合數據科學、計算機倫理學和學術出版知識，探討AI在特定學科如社會科學的應用及其挑戰，共同探討和解決AI在知識生產中引發的倫理、法律和社會問題；通過制定生成式AI的學術規范和研究倫理標準，加強技術監督，為制定相關政策和規范提供支持。

從人機協作的層面看，數據獲取者、出版商、研發人員以及其他利益相關者等需要明確自身的責任，加強協同合作。學術出版商應充分發揮聯結技術供應商和研究人員的橋梁作用，統籌考慮出版內容的多樣性和社會效益，提升自身的風險判斷力和出版倫理道德素養，建立新的合作模式；及時反思AI的不足與缺陷，通過開發相關知識庫完善人工干預和用戶自主選擇機制，優化人機協作界面，從場景、產品、思維、模式等層面探索更為和諧的人機協作模式。此外，還應兼顧社會的共性信息需求和個性化需求，發揮用戶的主體能動性，把科技向善的理念貫穿到學術出版的各個環節。

｜參考文獻｜

［1］薛東海. 人工智能與教育出版融合發展探析［J］. 中國出版，2022（14）：46-49.

［2］鄭泉. 生成式人工智能的知識生產與傳播范式變革及應對［J］. 自然辯證法研究，2024（3）：74-82.

［3］張世欽. 機器學習驅動下的教育出版新機遇［J］. 中國出版，2017（10）：22-25.

［4］Intellogo：為自出版平臺提供優化工具［EB/OL］. （2016-01-19）［2024-08-07］. http：//m.cptoday.cn/news/detail/780.

［5］Yewno. Yewno - Transforming Information into Knowledge ［EB/OL］. （2022-12-01）［2024-08-07］. https：//www.yewno.com/about.

［6］尹琨. 施普林格·自然：探索 AI 技術對出版流程與服務模式變革［N］. 中國新聞出版廣電報，2022-08-01.

［7］Springer Nature unveils two new AI tools to protect research integrity［EB/OL］. （2024-06-12）［2024-08-07］. https：//group.springernature.com/gp/group/media/press-releases/new-research-integrity-tools-using-ai/27200740.

［8］劉廣東. 出版再想象：AI與內容生產變革［J］. 數字出版研究，2023（2）：15-20.

［9］張寧，西蒙·馬奧尼. 大語言模型賦能數字出版的機遇與挑戰［J］. 編輯之友，2023（11）：45-51.

［10］屈明穎. 出版業如何以新質生產力服務高質量發展［J］. 出版廣角，2024（9）：50-56.

［11］許向東，王怡溪. 智能傳播中算法偏見的成因、影響與對策［J］. 國際新聞界，2020（10）：69-85.

［12］麥克里那. 科研誠信：負責任的科研行為教程與案例（第3版）［M］. 何鳴鴻，陳越，等，譯." 北京：高等教育出版社，2011.

［13］BRADY D. LUND， TING WANG， NISHITH REDDY MANNURU， ET AL." ChatGPT and a New Academic Reality： Artificial Intelligence-Written Research Papers and the Ethics of the Large Language Models in Scholarly Publishing［J］. Journal of the Association for Information Science and Technology，2023（5）：570-581.

［14］AIGC技術在學術出版應用的學術誠信與風險管控研討會在京舉行［J］. 科技與出版，2024（3）：95.

［15］JUSTIN SHERMAN. AI and machine learning bias has dangerous implications［J/OL］. （2018-01-11）［2024-08-07］. https：//opensource.com/article/18/1/how-open-source-can-fight-algorithmic-bias.

［16］中國信通院發布《人工智能白皮書（2022年）》［EB/OL］. ［2022-04-15］（2024-08-07）. https：//

m.thepaper.cn/baijiahao_17636029.

［17］周榮庭. Web3.0時代的數據出版：共創與協作的新生態構建［J］. 編輯之友，2024（7）：38-44.

［18］LAUREN HALL. Digital Publishing Trends of 2023［EB/OL］. （2023-05-19）［2024-08-07］." https：//www.stateofdigitalpublishing.com/digital-publishing/digital-publishing-trends/.

［19］AI PRINCIPLES. ［EB/OL］.（2024-08-07）. https：//group.springernature.com/gp/group/ai/ai-principles.