生成式人工智能技術對數(shù)字出版發(fā)展的潛在風險與應對策略研究

白龍

［摘要］隨著ChatGPT為代表的第三次人工智能發(fā)展浪潮的出現(xiàn)，推動了數(shù)字出版業(yè)的智能轉型。但機器出版物的潛在風險隨之浮現(xiàn)，主要體現(xiàn)在造成機器與人類的知識版權歸屬糾紛、機器集成式出版物存在剽竊與抄襲行為，以及大量循環(huán)使用二手文本內容損害知識創(chuàng)新等問題。文章認為應時提出生成式人工智能的數(shù)字出版使用指南、加強反剽竊的雙重把關和設置人機出版物分離的分級評價體系，是應對生成人工智能對數(shù)字出版發(fā)展的潛在風險的有力措施。

［關鍵詞］ChatGPT；數(shù)字出版；機器剽竊；機器出版物

過去十年間，隨著機器深度學習技術獲得突破性發(fā)展，人工智能技術被廣泛運用在包括出版業(yè)在內的各個領域。特別是以ChatGPT為代表的聊天生成型預訓練變換模型，在出版市場上備受矚目，其能夠自主地從海量文本數(shù)據(jù)集中通過學習訓練，快速生成智能化、規(guī)范化的印刷文本，從而應用于圖書出版，提供學術知識生產服務。基于強大的生成邏輯使ChatGPT能自主生成看似人類書寫的文本內容，凸顯寫作風格擬人化。基于先進的大型語言模型，以ChatGPT為代表的生成式人工智能技術正逐步顛覆傳統(tǒng)的出版業(yè)規(guī)則。由機器主導的全域智能化新格局成為數(shù)字出版的新引擎，人工智能的全局性知識服務也逐漸替代傳統(tǒng)的人工知識服務，機器出版物將成為出版行業(yè)的主流產品。

里夫金在《工作的終結》曾預測，人類終會從根本上重組社會，因為在生產、搬運產品和提供服務方面，越來越多的人工被機器所替代，機器讓所有人都無事可做［1］。全能的算法機器加速了后人類社會的到來，智能機器工具拼接組合碎片化的人類知識，等同于已有知識的重新輸出。但圄于信息不對稱和知識層斷裂，個人對算法機器重新組裝的知識出版服務依然充滿需求。人工智能的自主文本生成功能，將知識創(chuàng)作從一門傳統(tǒng)手藝變成出版服務，乃至一種流通的出版商品。于是人類知識服務被取代和接替，將逐步讓位于機器知識服務。機器出版憑借高度集中化的知識累積能力，成為出版業(yè)的主流形態(tài)。但正如新勒德主義所告誡的，技術存在非中立性且形成不可抗拒的力量，人們對新技術的未知風險要保有預防姿態(tài)，特別要重視顛覆式革新技術對人類社會帶來的負面影響。面對ChatGPT迅速流行于出版業(yè)的發(fā)展趨勢，出版從業(yè)者應及時限制ChatGPT的技術濫用和反思出版?zhèn)惱怼?/p>

一、版權之爭：機器的著作署名爭議與知識版權歸屬糾紛

ChatGPT究竟是否能作為作者署名引發(fā)出版業(yè)廣泛討論。持肯定態(tài)度的人重視機器內容生成的貢獻價值，他們認為機器是創(chuàng)造出版內容的核心要素，理應支持機器在出版物上署名的權利，出版業(yè)人機融合寫作的大趨勢不會更改。但持否定態(tài)度的人占絕大多數(shù)，許多著名出版商公開反對機器的特殊署名，強調機器在內容生產中只能是“人造”的工具，它無法擺脫作為人類產物的事實。

（一）接納機器獲得特殊創(chuàng)作身份作者署名

對機器作為作者署名持肯定觀點的出版商，承認人工智能聊天機器人對創(chuàng)作出版作品的實際貢獻，認為賦予機器作者身份能體現(xiàn)其對研究過程的真正參與價值。生成式人工智能輔助寫作促進自助出版圖書的激增。亞馬遜電子書城商店中已有超過200多本電子書將ChatGPT列為作者或合著者，甚至開設一個完全由ChatGPT生成的圖書子欄目［2］。無獨有偶，機器署名作者的學術出版作品也逐漸涌現(xiàn)。已刊發(fā)的機器署名文章譬如《護理教育中的開放人工智能平臺：學術進步的工具？還是濫用？》《ChatGPT在美國執(zhí)業(yè)醫(yī)師資格考試的表現(xiàn)：醫(yī)學教育上使用大型語言模型AI輔助的潛力》《GPT-3能否以最少的人工輸入自行撰寫學術論文》等，都將ChatGPT列為聯(lián)合署名作者，部分學者或學術編輯認為機器的學術生產將是一種不可逆的潮流。

（二）反對機器與人類獲同等身份的署名作者

傾向于反對ChatGPT成為獨立作者的人占絕大多數(shù)，他們普遍將ChatGPT視為一種輔助性的機器寫作工具，認為其不能夠與人類作者平起平坐，取代不了人類寫作獨有的核心地位。因為人工智能聊天機器人自動生成的文本，是不受版權保護的作品，不能承擔法律責任就不能滿足作者的資格標準［3］。《自然》《科學》等多家權威期刊明確拒絕將人工智能聊天機器人列為論文的作者。愛思唯爾出版集團強調，作者在稿件中應明確披露人工智能技術的使用，并對其負有最終責任。人工智能技術輸出內容不能取代類似數(shù)據(jù)解析、總結結論等關鍵研究任務，也不應將人工智能聊天機器人列為作者或合作者［4］。可見，機器之所以不符合獨立作者的身份標準，是因為它無法對科學出版物的內容和完整性負責。機器生成的出版物究其根本也是以人類思想為指導，由人類意志編寫程序后按照預期目標所達成的產物。

（三）欠缺獨創(chuàng)性的知識版權爭議

雖然ChatGPT生成的作品具有高級智能化的特點，但并不意味著它能滿足法律的要求，與人類一樣享有權利主體的地位［5］。從出版物的版權法理上看，將機器視為作者不具備獨創(chuàng)性的條件。獨創(chuàng)性是著作權存在的主要條件之一，受版權保護的數(shù)字出版物至少在“獨”與“創(chuàng)”兩方面符合基本要求。一方面，數(shù)字出版物須由作者獨立完成，不允許復制、抄襲他人觀點論斷；另一方面，數(shù)字出版物要體現(xiàn)作者的智力創(chuàng)作，包含創(chuàng)作者的真實意圖、個性主張、精神貢獻與主體身份等重要因素［6］。ChatGPT在協(xié)助人類寫作時打破了著作的獨創(chuàng)性，利用機器生成內容并進行個人署名，或將機器生成內容大量使用在個人署名的作品中，以不誠實的行為隱瞞公眾，違背獨立完成原則。此外，越發(fā)智能、越接近人類寫作風格的機器生成內容，融入人類數(shù)字出版作品中，將導致難以區(qū)分人與機器的參與比例，人類思維的創(chuàng)新性隨著大量的機器生成內容融入被消解。

二、隱藏的出版剽竊：機器生成的集成剽竊與檢測困境

ChatGPT與網(wǎng)絡搜索引擎相比更為精準和有效，改變人們以往檢索獲取出版資源的方式，使作品被快速復制、抄襲的風險增高。人工智能聊天機器人在出版業(yè)的可用性越來越高，如科幻雜志《克拉克世界》，僅在2月份就收到超過500篇被標記為人工智能聊天機器人抄襲的文章，在毫無解決方案之下只能暫時關閉投稿途徑［7］。人類與機器的混合創(chuàng)作內容，無法用統(tǒng)一的尺度來衡量剽竊或輔助行為的標準。實際上，人工智能聊天機器人的功能強大已經(jīng)遠超輔助人類創(chuàng)造知識的服務范疇，為滋生剽竊行為提供了數(shù)字化路徑。

（一）生成內容的集成式剽竊機理

機器生成內容是基于海量數(shù)據(jù)信息內容的集成式剽竊過程。ChatGPT的能力是大規(guī)模的數(shù)據(jù)集訓練得出的結果，且數(shù)據(jù)的收集方式不受任何限制。類似OpenAI這樣人工智能機器人的研發(fā)公司，數(shù)據(jù)收集的透明度一直都十分欠缺。大量數(shù)據(jù)集的采集是未經(jīng)同意從互聯(lián)網(wǎng)上“竊取”的文本，有相當一部分來自受版權保護的作品。顯然機器生成內容事實上并沒有獲得版權許可，無疑侵犯了版權所有者的專有權。快速生成內容的智能機器作為大量出版成果“收割機”，儼然違反了著作權保護法，盜用已出版或人類已創(chuàng)造的顯性知識。在原始的學術生態(tài)之中，ChatGPT提供難以檢測出剽竊的代寫服務，蒙蔽審稿人和編輯，變成眾人皆可利用的寫作“代工廠”。人工智能聊天機器人的剽竊內容識別難度大，剽竊手段更為隱秘，它擅長將海量信息（含受版權保護的作品）重組拼湊成看似全新的文本。機器生成內容存在未進行學術倫理審查的漏洞，這可能導致未經(jīng)授權盜用他人智力成果的行為出現(xiàn)。即便機器作為一種工具不存在主動、故意侵犯著作權的自主意志，但當機器生成的侵權內容被使用到出版物中，就已經(jīng)發(fā)生剽竊、抄襲他人的原創(chuàng)成果行為，屬于一種客觀過錯。

（二）生成內容剽竊的審查檢測困境

機器生成內容對人工審查而言，因文本信息高度接近人工寫作的風格，導致編輯無法分辨段落文章是由真人創(chuàng)作還是AI生成。不僅于此，機器生成的文本內容，在機器學習的版本或問答時間上存在差異，答案無存檔站點且無法統(tǒng)一，給編輯查驗帶來困難。未升級的剽竊檢測工具難以精準審查作品的原創(chuàng)性，無法檢測到與現(xiàn)有受版權保護的書面文本相匹配的信息。受到版權保護的出版作品，在機器生成內容之時已經(jīng)被拆散整合和重新拼湊，連貫輸出的文本就可能被替換成重新?lián)Q詞描述的句段，這無疑增加了檢測和打擊抄襲的難度。目前，ChatGPT生成的內容缺少可靠的原始參考文獻來源，對聊天機器人學習訓練的數(shù)據(jù)來源不進行準確論證，就可能導致引用出處的虛假風險。人工智能聊天機器人無法辨識部分有偏見或誤導性的內容，機器學習的數(shù)據(jù)可能來源于虛假新聞或偽造的信息，存在歪曲科學事實的嫌疑。盡管部分學術出版集團要求作者提供個人聲明并注明機器生產內容引用出處，便于編輯識別剽竊行為，但僅憑作者的個人學術倫理來實現(xiàn)剽竊的自我審查不切實際，個體的道德自律無法從根本上杜絕剽竊行為的發(fā)生。

三、喪失創(chuàng)新，循環(huán)使用二手文本內容損害知識出版的原創(chuàng)性

按照庫茲韋爾的觀點，ChatGPT的智能優(yōu)勢在具備利用有限的資源，在雜亂無序的海量知識文本中發(fā)現(xiàn)規(guī)律的能力［8］。以ChatGPT為代表的人工智能聊天機器人，展現(xiàn)了智能傳播時代的知識可供性。它拓展出版知識傳播的邊界并加速人類知識的獲取，創(chuàng)造一種人機混合的知識供應模式，搭建了用戶與知識的全新連接關系。知識鏈雖有革新，能夠快速生產大量文本信息并響應用戶的知識訴求，但人類的知識創(chuàng)造原動力遭到破壞。只整合不創(chuàng)造的機器生成內容，使人類持續(xù)探求知識的深度和質量不斷降低，是對人類知識原創(chuàng)性的不尊重。

（一）生成式機器作為機械復制的信息整合工具

在本雅明看來，機械復制時代具有摧毀原創(chuàng)獨特性的危害，衰落枯萎的是原創(chuàng)作品的光環(huán)［9］。后工業(yè)社會，機器的大規(guī)模使用，也為作者提供了最便捷的機械復制手段。這會導致人類過度依賴機器生成內容從而放棄艱巨的腦力勞動，以最小的付出謀求最大的利益回報。機器生成內容的便利誘發(fā)人類的惰性，使知識被鎖在給定的答案范疇之內，人的創(chuàng)造力和想象力就會受到影響，從而導致原創(chuàng)知識出版停滯，阻礙人類探求知識的欲望。隨著人工智能技術的快速迭代升級，人類社會的知識結構越來越像芒福德所提出來的“巨機器”，這種巨機器所使用的技術越來越單一，導致人們只能等待機器的知識投喂，逐漸淪為技術的奴隸［10］。出版作為一種知識生產活動，創(chuàng)造累積的知識讓社會從蒙昧走向文明，是推動人類知識發(fā)展的動力所在。但ChatGPT對原有知識的復制拷貝，并不會產生新的知識。機器生成的內容并非是新知識的生成，只是依靠智能整合編造知識，使其成為串聯(lián)文本信息的工具。

（二）機器出版物損害知識出版的原生動力

機器出版物基于已創(chuàng)造或既有數(shù)據(jù)生成的文本，是整合網(wǎng)絡數(shù)據(jù)資源的再利用，這無疑忽視了人類社會知識的獨創(chuàng)性，損害了人類原創(chuàng)思想和知識體系。之所以人們會對ChatGPT有新鮮感，是因為它會輸出我們所不知情的觀點或知識罷了。ChatGPT生成的知識信息來自當下或曾為人類做出知識貢獻的互聯(lián)網(wǎng)節(jié)點。換句話來說，每個創(chuàng)造互聯(lián)網(wǎng)內容的人都可能是ChatGPT的作者，知識變成了所有人共享的集體智慧。但與羅蘭·巴特反對作者成為作品唯一解讀者的傳統(tǒng)觀點不同，如今ChatGPT將海量的互聯(lián)網(wǎng)文本與作者完全分隔開并進行技術轉換，這種技術導致作者被徹底隱藏。作者名義的大規(guī)模消逝換來的是無名的知識圖譜和知識庫，生成式人工智能一旦成為百科全書式的解決方案，是否還會有人愿意耗費大量精力、時間，將自己的思考和經(jīng)驗知識出版發(fā)行？當人類原創(chuàng)知識內容的稀缺性被逐漸消解，其含金量就會降低。當人類本能地利用高科技來避免累積和創(chuàng)造知識，就標志著出版作為知識生產與傳播的意義茫然無存。

四、生成式人工智能應用風險的應對策略

ChatGPT作為智能出版輔助角色，為出版業(yè)的智能化轉型、機器與人工協(xié)同的發(fā)展補充更多活力，譬如協(xié)助編輯在學術格式規(guī)范、例行數(shù)據(jù)收集、語法詞匯校對等方面的工作。隨著人工智能技術迭代加快，人工智能聊天機器人還將進一步發(fā)展到設計實驗、撰寫和完成全文稿件，實現(xiàn)同行評議甚至指導編輯是否接受或拒絕手稿的程度［11］。機器出版物將成為數(shù)字出版業(yè)的新增長點，大規(guī)模使用機器輔助出版的趨勢不可避免。面對不斷涌現(xiàn)的風險，出版界應正視機器輔助工作成為行業(yè)趨勢的事實，并給出一套合理的管理模式。面對出版行業(yè)的生成式人工智能應用風險，業(yè)界可從三個方面突破改進。

（一）提出人類作者為責任主體的生成式人工智能使用指南

以人類作者作為責任主體意味著由人類作者全權承擔出版物的版權責任，人類作者是第一責任人，也是唯一責任人，作者直接對整個文本內容準確性和完整性負責。當出版作品存在人類與機器兩種作者身份時，所有的責任均由人類承擔。這是因為人類作者直接從智力生產中受益，機器不能夠從人類發(fā)表的作品中獲得學術價值，也就無法承擔由此帶來的責任。無論是《保護文學和藝術作品伯爾尼公約》還是《中華人民共和國著作權法》第二條的規(guī)定，都表明享有著作權的創(chuàng)造主體應當是人類，機器不具備法律主體屬性。目前，出版業(yè)亟須達成行業(yè)共識，盡快出臺生成式人工智能使用指南，以具體條款約束人們使用人工智能聊天機器人的行為，明確人類作者的主體責任，預防因權責不明導致的侵權風險。

（二）更新迭代反剽竊技術，實現(xiàn)編輯與智能檢測雙重把關

目前，已有多種反作弊檢測器被運用于識別機器生成的文本。如普林斯頓大學研發(fā)的反作弊檢測器DetectGPT和GPTZeroX，OpenAI推出的人工智能文本分類器，抄襲檢測服務公司Turnitin研發(fā)的AI寫作檢測工具等，在一定程度上能夠識別人工智能的抄襲痕跡，檢測出任何未做聲明和標識的人工智能生成內容。另外引入反剽竊的元數(shù)據(jù)水印技術可有效檢測人工智能的生成內容。ChatGPT中的水印文本，涉及嵌入單詞、字母和標點符號模式的密碼學，更改生成內容中使用的單詞是一種為文本加水印的方法，使系統(tǒng)可檢測其是否為AI文本生成器的產物［12］。通過人工智能輸出檢測器與編輯共同檢查審閱，能夠有效辨別文本內容是否屬于原創(chuàng)以及識別出疑似剽竊的文本。

（三）設置機器與人類出版物的分級評價體系，定位機器的輔助屬性

機器出版物的大量涌現(xiàn)已成為一種不可逆轉的趨勢，因為讀者對快餐式的出版物有著強烈的產品需求，它是填補出版市場空白的新增長點。但機器生成內容的核心是預測與描述，并不在于創(chuàng)造新知識。創(chuàng)造性思考的欠缺，使得機器出版物無法與知識密集型的人類出版物相提并論，出版業(yè)要想廣泛應用生成式人工智能技術，就必須制訂出機器與人類出版物的兩套評價體系。人機有別的評估體系旨在說明人類出版物的貢獻價值和評價起點始終要在機器出版物之上，機器出版物只能是人工智慧成果的一種附屬產品，在出版物的社會影響力、口碑指數(shù)、學術貢獻度等指標評估上要將機器出版物進行單列，把機器生成的作品特別標注出來，能夠凸顯人類出版物的知識稀缺性和原創(chuàng)性。

［參考文獻］

［1］里夫金.工作的終結：后市場時代的來臨［M］.王寅通，譯.上海：上海譯文出版社，1998.

［2］GREG BENSINGER.ChatGPT launches boom in AI-written e-books on Amazon［EB/OL］.（2023-02-22）［2023-08-25］.https：//www.rappler.com/technology/chatgpt-launches-boom-artificial-intelligence-written-ebooks-amazon/.

［3］HUH S.Emergence of the metaverse and ChatGPT in journal publishing after the COVID-19 pandemic［J］.Science Editing，2023（10）：1-4.

［4］ELSEVIER.Publishing ethics［EB/OL］.［2023-08-25］.https：//www.elsevier.com/about/policies/publishing-ethics.

［5］顧駿，許春明.意志與責任：法律人工智能［M］.上海：上海大學出版社，2020.

［6］李曉宇.元宇宙下賽博人創(chuàng)作數(shù)字產品的可版權性［J］.知識產權，2022（07）：20-46.

［7］LOH M.The editor of a scifi magazine says he's getting flooded with plagiarized story stories as AI tools take off：‘It quickly got out of hand［EB/OL］.（2022-02-22）［2023-08-25］.https：//owlver.com/businessinsider/stories/chatgpt-ai-written-stories-publisher-clarkesworld-forced-close-submissions-2023-2#.

［8］魏佳，王方，孫為.視聽藝術空間的數(shù)字化重構［M］.北京：中國傳媒大學出版社，2019.

［9］海伍德.造假：藝術與偽造的權術［M］.殷凌云，畢夏，譯.北京：商務印書館，2017.

［10］秦學智.波斯曼傳媒與教育思想［M］.太原：山西人民出版社，2020.

［11］VAN DIS E A M，BOLLEN J，ZUIDEMA W，et al.ChatGPT： five priorities for research［J］.Nature，2023（7947）： 224-226.

［12］MONTTI ROGER.How The ChatGPT Watermark Works And Why It Could Be Defeated ［EB/OL］.（2022-12-30）［2023-08-25］.https：//www.searchenginejournal.com/ChatGPT-watermark/475366/#close.