智能出版倫理本質、風險與治理研究

摘 要：智能出版是人工智能技術應用于出版業融合發展而形成的新型出版模式，是數字出版發展的高級階段。智能出版具有先天的技術發展優勢，但也存在技術引發的不確定性。正是這種不確定性導致了智能出版的倫理問題，因而需要回答智能出版如何規范化發展，即智能出版“應該做什么”與“不應該做什么”。根據智能出版活動中人的主體行為不當與智能出版技術應用引發的不確定性，智能出版倫理風險包括技術發展失控，技術誤用、濫用與應用后的負面影響，以及管理不當和管理欠缺造成的問題。針對智能出版現存或潛在的倫理風險，需要構建智能出版倫理體系，通過其倫理使命、準則與細則形成有機體，發揮系統性作用機制，最大程度實現人工智能技術在出版業的向善發展，促進智能出版生態創新。

關鍵詞：智能出版；出版倫理；人工智能；治理；倫理風險

DOI： 10.3969/j.issn.2097-1869.2024.03.007 文獻標識碼：A

著錄格式：吳亮芳，羅群群，趙星宇.智能出版倫理本質、風險與治理研究[J].數字出版研究，2024，3（3）：56-64.

1 智能出版倫理研究的理論缺失與實踐需求

1956年被認為是人工智能元年。這一年夏天，在美國召開的著名的達特茅斯會議（Dartmouth Conference）上，信息論創始人克勞德·香農（Claude Shannon）見證了人工智能學科的誕生，并完成與約翰·麥卡錫（John McCarthy）、馬文·明斯基（Marvin Minsky）、赫伯特·西蒙（Herbert Simon）、艾倫·紐厄爾（Allen Newell）等新一代人工智能學術領袖的傳承。之后，人工智能的發展就與其他新事物一樣，并非一帆風順，而是歷經“三起兩落”的曲折歷程后才成為全世界關注的焦點。

出版是一個技術驅動的行業，自然不會錯失與人工智能融合發展的機遇。兩者的融合發展不斷催生出新的應用場景，促使出版產品、出版服務與出版生態的創新與變革，進而引發智能出版學理探討。早在2005年，朱李莉等[1]就提出了網絡出版的商務智能模型，但并未提及智能出版概念。直到2018年，劉華東等[2]在文章中提到“智能出版”，并指出“智能出版將會成為新聞出版業的未來發展趨勢”。同年，宋偉等[3]在分析人工智能與數字出版業融合發展現狀的基礎上首次提出了智能出版概念，并認為智能出版專指“人工智能+數字出版”。之后，有關智能出版的研究文獻迅速增多，據不完全統計，短短5年中已有百余篇論文，還有1部專著，研究內容涉及智能出版的概念、技術原理、流程變革、現實困境、實現路徑等方面。具體到智能出版倫理研究，已有劉寧[4]、劉海明[5]、吳煒華[6]、李華君[7]等展開研究，主要觀點為智能出版技術的泛化與過度使用引發出版主體身份焦慮、內容文化屬性偏離、算法關系黑箱等倫理風險。除此之外，還有部分研究成果探討人工智能技術在學術出版等具體領域中的應用引發的倫理風險，如張萍等[8]指出機器參與論文寫作會造成“數據倫理問題、學術創新爭議、算法黑箱與偏見問題、引用問題和署名問題”。這些研究成果大多建立在已有人工智能技術應用于出版業的現實基礎上，進而分析、歸納出倫理風險，具有開拓價值，但還需系統性深化，以滿足智能出版高質量發展要求。

2022年11月，隨著具有多模態生成能力的ChatGPT成功出圈，智能出版發展更加迅速，涌現諸多智能化應用場景。依據傳統出版流程，智能技術在出版業中的應用場景涵蓋了選題策劃、內容創作、編輯校對、發行、營銷等關鍵環節。然而，由于生成式人工智能技術比以往的科學技術更具有類人化與智能性，其所引發的智能出版倫理問題更為復雜。事實上，除了已有研究文獻歸納的倫理風險以外，還可能存在難以預知的倫理風險。可以說，智能出版倫理風險預防難度極大，而現有防范機制有待完善，而且隨著技術不斷發展，更多未知的倫理風險還將不斷涌現。因此，須對智能出版倫理追本溯源，探究其本質，對其風險進行立體化分析，并構建治理體系，以確保智能出版業健康、有序地發展。

2 本質：智能出版的“應該做”與“不應該做”

本質是指“事物本身所固有的，決定事物性質、面貌和發展的根本屬性”。智能出版倫理本質是其獨有的特性，而這種特性源于人工智能技術在出版業中的應用。為了厘清智能出版倫理本質，以下采用追根溯源的方式，按照“倫理—人工智能倫理—智能出版倫理”的邏輯逐級展開分析。

倫理本意是指事物的條理，引申為人倫道德之理。在我國，“倫理”一詞最早見于秦漢時期的《禮記· 樂記篇》：“樂者，通倫理者也。”在《說文解字》中，“倫理”一詞解釋為“倫，從人，輩也，明道也；理，從玉，治玉也”，這是最早將“倫理”界定為人與人的關系的規范記載。在西方，“倫理”一詞來源于古希臘，本意是指一群人居住的地方，后來其意義擴大為一群人的性格、氣質、風俗習慣、思想方式等，并演繹為人與人之間的關系及其規范。盡管倫理的內涵在我國的演化路徑不同于西方國家，但逐漸趨于一致，都是指人與人的關系和規范。隨著人類文明的發展，人際關系和人類事務越來越復雜，倫理問題產生的具體情境越來越具有特殊性，因而倫理的內涵也越來越豐富，外延也不斷拓展。一般認為，倫理概念有廣義和狹義之分。狹義的倫理主要關涉道德本身，包括人與人、人與社會、人與自身的關系和規范；而廣義的倫理除了人與人、人與社會、人與自身的關系和規范外，還包括義務、責任、價值、正義等一系列價值觀[9]。

20世紀60—70年代，應用倫理學興起，研究范圍關乎一切具體并具爭議的道德應用問題，包括科技倫理、生命倫理、動物倫理、生態倫理、環境倫理、藝術倫理等。其中，科技倫理指各種科學技術發展所引發的倫理問題，涉及基因編輯、克隆、納米、互聯網及人工智能等多種科學技術發展和應用領域。可見，科技倫理是倫理學的一個分支，人工智能倫理屬于科技倫理范疇。作為一種科學技術，人工智能越來越具有類人化與智能性特征。正是這種類人化與智能性使得人工智能倫理問題要比其他科技倫理更復雜，也更受關注。根據倫理概念，結合人工智能倫理問題的復雜性，人工智能倫理也有廣義和狹義之分。狹義的人工智能倫理是指人與人工智能技術系統、智能機器的關系及其使用所引發的涉及人類的倫理道德問題，屬于應用倫理學；廣義的人工智能倫理是指人與人工智能系統、人與智能機器、人與智能社會之間的倫理關系，以及超現實的強人工智能倫理問題，包括人工智能系統與智能機器對于人類的責任、安全、正義等范疇[9]。

根據概念邏輯關系，智能出版倫理與人工智能倫理為從屬關系，智能出版倫理是人工智能倫理的下位概念。結合人工智能倫理定義與智能出版活動特點，智能出版倫理是關于智能出版活動主體間的關系，同樣也有廣義和狹義之分。狹義的智能出版倫理是指出版活動中的人與智能出版技術、出版活動中的人與智能出版生態之間的關系；廣義的智能出版倫理除了包括狹義的定義外，還包括智能出版技術對國家、社會的責任、安全等使命。

相比人工智能倫理，智能出版倫理的特性是由人工智能技術應用于出版活動而引發的。正是基于人工智能技術，智能出版一方面具有先天的發展優勢，另一方面由人工智能技術引發出許多不確定性。這種不確定性就是智能出版倫理問題的起源，需要回答智能出版應該如何規范化發展，具體為如何處理智能出版活動中的人與智能出版技術、智能出版生態系統等之間的關系。從倫理主體間的關系出發，智能出版倫理本質就是，智能出版活動中的人應該做什么、不應該做什么，智能出版活動中的人讓智能出版技術應該做什么、不應該做什么。 智能出版倫理的“應該做”與“不應該做”，源自道德的社會責任、出版業的社會使命，以及智能出版的社會價值。其中，“應該做什么”是智能出版活動中的人從文化傳承、知識服務與智能出版生態創新的使命出發，指導智能出版技術的設計、開發和應用，使智能出版帶來積極的影響，成為新質生產力發展的重要載體和發展方向，屬于“正”的一面；“不應該做什么”是智能出版活動中的人違背其出版使命，主觀或客觀性地錯誤設計、開發與應用智能出版技術，使智能出版產生負面影響，屬于“反”的一面。這兩方面相輔相成、無法分割，共同構成了智能出版倫理的本質內涵。

3 風險：智能出版技術的失控、應用與管理

智能出版倫理風險由出版活動中的人與智能出版技術、智能出版生態間關系不確定性引發，表征為智能出版活動效益與人工智能技術應用目的之間的不確定性。那么，產生這種不確定性的原因是什么，又有哪些不確定性？這是應對智能出版風險真正要探尋的問題。

人工智能研究產出了許多技術途徑，其中占據主導地位的兩大途徑是強力法和訓練法。強力法利用顯式表達的知識進行推理來解決問題，是可解釋的，其常用的知識表示和推理方法基于形式化邏輯、概率論、決策論規劃、狀態空間上的搜索等；訓練法利用人工標注的數據訓練人工神經網絡（或其他類型的隱式知識表示模型），用訓練好的人工神經網絡來解決問題。深度學習是訓練法的一個著名例子[10]。一般認為，人工智能技術強力法和訓練法的應用場景只要符合封閉性準則就不存在技術風險，也不存在倫理風險。智能出版符合強力法的封閉性準則有三個條件：（1）影響智能出版應用場景的多個因素能簡化為有限確定要素，從而可在一個有限確定的范圍進行設計；（2）智能出版應用場景中的所有影響因素都服從出版領域定律，并用智能出版模型表達出來；（3）智能出版模型符合該應用場景的需求、應用場合和應用條件等所有因素要求。智能出版符合訓練法的封閉性準則同樣“以設計和評價準則為出發點，以結果導向的方式開展研發，不需要把握領域定律，只要測試結果達到了評價準則的要求就算成功”[11]。然而在實踐中，智能出版的封閉性應用場景雖可由強力法和訓練法技術結合加以解決，但仍然存在不確定性：封閉性準則下，強力法技術應用中難以找出完整的領域定律，訓練法技術應用中具有不可解釋性并缺乏巨大的代表性數據集。另外，封閉限制則可能因出現更強大的人工智能技術而被突破，出現難以控制的技術風險，從而引發倫理風險。除人工智能技術應用于出版業引發不確定性之外，還有智能出版活動中的人的主體行為不當而引發的倫理風險。基于此，智能出版倫理風險主要體現為以下三個方面。

3.1 智能出版技術的失控問題

人工智能技術失控不是智能出版的專有風險，而是人工智能技術發展的潛在問題，實質是人工智能技術的主體性倫理風險。從發展歷程來看，人工智能技術越發具有類人化與智能性特征，特別是以ChatGPT、文心一言等為代表的大語言模型的成功出圈，引起許多人擔憂人工智能技術有可能超越人類的控制能力，并擺脫人類的控制而獨立發展，甚至反過來控制人類。正如美國當代著名技術哲學家蘭登·溫納（Langdon Winner）指出，技術有時并不能服務于人類，反而會失去控制，甚至會導致災難。人類對人工智能技術失控的擔憂遠勝于其他技術，這是因為人工智能技術失控與其他技術失控之間存在本質區別：其他類型技術失控多為結果的不可控，而人工智能技術失控是人類對技術控制權的喪失[12]。對智能出版來說，若有一天發生人工智能技術的失控，那么可能出現人類知識存儲、社會歷史等被篡改為有利于人工智能統治的社會文化。可以肯定的是，受強力法封閉性與訓練法封閉性的限制，現階段這類技術失控的風險不可能存在。但未來如果封閉性制約被超級強大的人工智能技術突破時，就需要應對這種技術失控風險。正因如此，當前我國智能出版應抓住歷史性機遇，研發符合封閉性準則的智能出版應用場景，并進行大規模應用，實現彎道超車。

3.2 智能出版技術的應用問題

這類問題主要包括技術誤用、技術濫用，以及技術應用后產生的社會性負面影響。技術誤用為無意為之，是在不知道會產生風險的情況對人工智能技術的錯誤應用；技術濫用則為有意為之，是在知道會產生風險的情況毫無節制地應用人工智能技術。對于智能出版來說，這兩種情況都存在。智能出版技術誤用和濫用引發的倫理風險主要為出版用戶隱私問題、出版內容質量問題與算法公平問題等。其一，關于出版用戶隱私問題。大數據是人工智能發揮技術功能的基礎條件之一，沒有質量合格、數量足夠的出版大數據資源，智能出版技術的運作也就成了“無本之木”，技術社會價值的發揮也就無從談起。出版大數據是由各類出版信息組成的數據集，包含出版物市場信息、出版單位信息和讀者信息等[13]。一方面，出版數據越齊全，智能出版技術就可以更加有效、精準地運作；但另一方面，技術本身的商業屬性及出版大數據本身所包含的巨大經濟價值，使得在出版大數據的采集與使用過程中很有可能發生用戶信息外泄。其二，關于出版內容質量問題，主要包括內容失真和碎片化。一方面，出版物是傳播知識的重要載體，其內容的正確性關系著社會公共利益和穩定。但無論技術發展到什么程度，智能生成內容在重組知識時都有可能產生謬誤與偏差，從而導致出版物內容失真，以及虛假信息的廣泛傳播；另一方面，智能出版技術往往基于特定的數據模式和用戶行為來生成內容，會忽略對整體性和連貫性的考慮，導致出版物內容的碎片化和淺顯化。其三，關于算法公平問題。算法公平指在機器學習算法的設計和應用過程中，確保預測和決策不對特定群體產生不公平的影響。由于日常生活中的數據常常包含了人類社會固有的隱性偏見，包括文化、語言和意識形態偏見，性別和種族偏見，權威和群體思維偏見及算法自身的偏見[14]，一旦接觸這些數據，智能生成內容便有可能重復或加劇這些偏見。

3.3 智能出版技術的管理問題

智能出版作為數字出版的高級階段和出版業的新業態，必定對出版產業升級、對中華優秀傳統文化的傳承與弘揚、對提升國家文化軟實力產生深遠影響。然而，目前我國對智能出版還缺乏管理經驗，也很難直接從國外借鑒經驗。截至目前，我國出臺了《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學技術進步法》等法律，以及《新一代人工智能發展規劃》《促進大數據發展行動綱要》《生成式人工智能服務管理暫行辦法》等文件。這些法律法規與政策文件為防范智能出版倫理風險提供了基礎工具，但缺乏具有直接性與針對性的防范措施。新中國成立以來，我國出版業已出臺系列法律法規、規章制度及許多政策文件等，如《中華人民共和國著作權法》《出版管理條例》《印刷業管理條例》《音像制品管理條例》等，但對智能出版倫理管理顯然不適用。2019年8月，科技部等六部門聯合發布了《關于促進文化和科技深度融合的指導意見》，為智能出版的發展提供了良好的政策環境。在國外，許多權威出版機構對人工智能的管理政策提出了不同看法，BMJ出版集團指出，如果可以保證內容的透明度和合理度，可以考慮使用人工智能生成內容[15]；Science、Korean Journal of Radiology等期刊則明令禁止在未經許可的情況下使用人工智能生成內容。2023年9月，中國科學技術信息研究所聯合Elsevier、Springer Nature、Wiley等國際出版集團共同出臺《學術出版中AIGC使用邊界指南》。但總體而言，國內外對智能出版都還存在較大的管理政策缺失。智能出版作為新業態，其風險比以往出版業態倫理風險更復雜，因此我國亟須對智能出版風險管理問題進行深入探討，提出適合智能出版健康發展的監管措施和管理機制，避免陷入倫理危機。

4 治理：智能出版倫理體系構建

智能出版倫理問題的治理是一項系統工程，需要以人工智能倫理治理理論為基礎，結合智能出版的實際情況，提出系統性的解決方案。目前，人工智能倫理治理已經在人工智能技術發展的必要性、人工智能倫理準則這兩個方面基本達成共識。隨著以ChatGPT、文心一言為代表的生成式人工智能技術的成熟，人工智能倫理體系構建成為重要議題。依托人工智能倫理建設的經驗和成果，智能出版倫理問題的治理可直接進入體系構建階段。

智能出版倫理體系的構建需要弄清楚兩個重要問題，即智能出版倫理體系作用的對象是什么？智能出版倫理體系的作用機制是什么？

4.1 智能出版生態系統

智能出版倫理體系的作用對象與人工智能出版技術應用于出版的直接目的具有一致性，即促使智能出版生態系統形成并不斷創新。按照人工智能產業生態系統創新的社會需要、研究與應用三個環節，智能出版生態系統的形成與發展以智能出版產業發展需要、智能出版技術應用及倫理研究、智能出版的應用場景形成循環演進的閉環。在這個循環演進的閉環中，智能出版產業的形成與發展需求推動其技術應用及倫理研究，而成熟的研究成果經過產業化運作實現應用場景落地，應用場景的實際應用又可引發新的發展需求，進一步促進智能出版產業發展。這正是智能出版倫理體系作用對象的具體化。而智能出版生態系統中的應用場景包括但不限于選題策劃、內容創作、智能編校、智能發行、智能營銷等環節。

4.2 智能出版倫理機制

厘清了智能出版倫理體系的作用對象后，再探討智能出版體系的作用機制，這也是其倫理體系的核心部分。探究智能出版倫理體系的作用機制需要回答兩個問題，即針對智能出版倫理問題采用哪些措施？如何發揮其系統性作用以確保智能出版體系發揮最大價值？據此，結合人工智能倫理體系的基礎架構[11]構建的智能出版倫理體系由智能出版生態系統和智能出版倫理機制組成。智能出版倫理機制是核心部分，由智能出版倫理使命層、準則層與細則層構成有機整體（見圖1）。

4.2.1 智能出版倫理使命

智能出版倫理的基本使命，與智能出版的社會價值直接相關，可定義為“為文化傳承、知識服務和智能出版生態創新發展提供倫理支撐”。出版以文化傳承作為本質功能和職責使命。從歷史上看，無論是春秋時期孔子及其弟子編纂《六經》，還是近代張元濟主持編校《四部叢刊》，以及新時代《復興文庫》的編纂出版，都充分展示了出版在思想文化傳承與發展中的基礎性作用。這種對于文化傳承的承載與推動作用，構成了出版業有別于其他文化產業的核心特征。因此，智能出版倫理體系要確保智能出版活動在文化傳承、知識服務和智能出版生態創新發展上符合道德準則和倫理規范，為智能出版的健康、可持續發展提供倫理指引。

4.2.2 智能出版倫理準則

智能出版準則是人工智能技術在出版領域的應用規范，是智能出版基本使命的具體化。隨著人工智能的持續發展，全球各國家和地區、社會組織、行業紛紛對人工智能的技術發展和倫理問題給予高度關注。據不完全統計，迄今已有50多個機構或組織提出了各自的人工智能倫理準則[11]。如2017年，全球工會聯合會出臺《合倫理的人工智能十大原則》[16]；2019年，歐盟出臺《可信賴的人工智能倫理準則》，中國出臺《新一代人工智能治理原則——發展負責任的人工智能》等。從這些倫理準則的內容來看，雖然各個國家文化背景有所不同，但在制度層面的倫理關注有其共性，即都考慮到了問責機制、公平、安全性、可控性、隱私保護和社會福祉等要點。這些人工智能倫理準則為智能出版倫理提供了基礎，特別是我國提出的“增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養”[17]等六項基本倫理要求是智能出版需要遵循的基本原則。在這些基本原則基礎上，結合智能出版自身特點，本文認為，智能出版倫理準則主要包括堅持主體地位、堅守文化使命、遵守道德規范、責權歸屬明晰、保障讀者權益。

堅持主體地位，指智能出版應該尊重作者在內容創作與編輯在出版活動中的主體地位，而不能由人工智能技術主導出版生產環節，替代作者和編輯的身份和職責。堅守文化使命，指智能出版也應回歸出版的本質，將傳承文化、積累文化、傳播文化、發展文化、創造文化作為追求的目標[18]，避免利益驅動下出版大量毫無價值或存在負面價值導向的內容。遵守道德規范，指在開展智能出版活動時，各技術活動主體具備一定的倫理意識和較高的倫理素養，將“善”的道德觀念作為行動立足點，保證智能出版更好地為社會和人民服務。責權歸屬明晰，指應該明確參與智能出版流程的利益相關者的責任，明晰責任關系歸屬，達成著作權和署名權等權利認定的共識，建立權責分明的智能出版風險問責與追責機制。保障讀者權益，指智能出版要充分尊重讀者信息知情、同意等權利，保障其隱私與數據安全，不得損害其合法數據權益和侵害隱私權。

4.2.3 智能出版倫理細則

智能出版倫理細則又是倫理準則的具體化，要將其細化為具有針對性、強制性、可操作性的具體規范。智能出版倫理細則的范圍廣泛，只要是為保障智能出版活動健康、有序開展而制定、能具體落實到智能出版應用場景中的實施細則，皆可納入其中。在此，著重介紹四類細則。

一是完善智能出版倫理法律法規。主管部門可根據《中華人民共和國數據安全法》《互聯網信息服務算法推薦管理規定》《生成式人工智能服務管理暫行辦法》等法律和行政法規，制定和完善智能出版領域的專項法律法規，明確智能出版活動各方的權利、義務和責任，保障人與技術的合法利益。

二是建立智能出版倫理監管機制。主管部門應設立專門的倫理監管機構，對智能出版活動進行全方位、全過程的監督和管理；同時建立針對生成式人工智能技術風險的動態評估體系，實時關注并分析相關倫理風險，以確保監管機制能夠及時調整并保持有效性。此外，還應鼓勵社會各界參與智能出版倫理監管，建立舉報機制，及時發現和糾正違反倫理準則的行為。

三是制定智能出版倫理行業規定。出版業內的相關組織和機構應合作制定出一份行業內普遍認可且具有約束力的智能出版倫理行業規定，包括但不限于人工智能技術使用范圍、數據使用和保護、用戶權益保障等，通過強制性的規定以確保所有參與智能出版活動的組織和個人都能夠遵守和執行。

四是構建智能出版倫理標準體系。要立足于對智能出版的深入理解，厘清智能出版工作中涉及的主體、對象、環境和流程，確保該標準體系在整體上具有關聯性，在實際操作中具備可行性。一方面，應在國家標準的基礎上，構建包括行業標準、團體標準及企業標準在內的多層次標準體系。在內容上，該類標準宜包含人工智能在出版領域的應用邊界、實施流程、主體責任、風險防范舉措等，為智能出版的應用制定行為規則。在團體標準方面，2023年12月20日，中國音像與數字出版協會發布《出版業生成式人工智能技術應用指南》，為出版機構應用生成式人工智能技術提供了重要指導。而在企業標準方面，各大出版機構尚未發表相關標準，因此在研發垂直類大模型的過程中，出版機構或其他相關組織可制定相應企業標準，并通過標準信息公共服務平臺，向社會公開披露模型功能效果、測試數據等關鍵信息，為國家標準、行業標準的制定提供實踐依據。另一方面，標準體系還應包括智能出版技術標準、產品標準與治理標準等。技術標準應以算法、算力和數據等技術為本位，明確擴展現實與算法數據、知識圖譜、虛擬現實（VR）、增強現實（AR）等技術在出版業中的應用規制；產品標準則應關注智能出版模型或產品的設計、生產和推廣等全過程，針對某一具體的智能出版模型或產品，如蜜度文修、BooksGPT等，確保服務質量、權責明晰和數據安全；治理標準則應以保障出版內容質量、保護知識產權、確保數據安全、防范技術風險為核心，制定智能出版內容審核標準、數據安全標準、知識產權保護標準、風險評估與應對標準等，如2019年國際保護知識產權協會（AIPPI）發布的《人工智能生成物的版權問題決議》對人工智能生成物的版權進行了說明和限制。

需注意的是，制定智能出版倫理細則應充分參考和借鑒國際標準和實踐經驗，不可閉門造車。全球人工智能倫理治理已經從原則共識走向了治理實踐。聯合國教科文組織在2021年11月發布《人工智能倫理問題建議書》，標志著全球倫理治理達成了政府間最廣泛的倫理共識，它是全球人工智能發展的共同綱領，將為進一步形成人工智能有關的國際標準、國際法等提供強有力的參考。我國的倫理治理也在不斷呈現制度化、法律化的趨勢。例如，我國已經組建國家科技倫理委員會，負責指導和統籌協調推進全國科技倫理治理體系建設工作。2022年，中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的意見》，對落實科技倫理治理作出了頂層設計和全面部署。具體的法律法規和規范性文件，如《中華人民共和國數據安全法》《互聯網信息服務算法推薦管理規定》《關于加強互聯網信息服務算法綜合治理的指導意見》等，則對數據和算法活動提出了科技倫理治理的要求和措施。可見，這些具有相對普適性的倫理細則為智能出版倫理細則的制定提供了參照和依據。前文提到的《學術出版中AIGC使用邊界指南》對學術出版中人工智能生成內容的使用邊界、標注、責任劃分等問題展開詳細研究，并為相關利益主體提供規范的使用指導。除此之外，我國智能出版倫理細則還不多見，但可預見，隨著智能出版的發展，相應的倫理細則會逐漸涌現。

5 結語

2022年4月，中共中央宣傳部印發《關于推動出版深度融合發展的實施意見》明確指出要“充分發揮技術支撐作用”，“強化大數據、云計算、人工智能、區塊鏈等技術應用，創新驅動出版深度融合發展”[19]，這為智能出版的蓬勃發展提供了良好的政策環境。在政策導向與技術賦能的雙重加持下，智能出版必將迎來繁榮興盛期，助力我國出版業數字化轉型升級、高質量發展與出版強國建設。在智能出版的快速發展過程中，現存的和潛在的倫理風險不可忽視。應對智能出版倫理風險，需要構建智能出版倫理體系，協同使用法律法規、行業規范、技術等多種治理手段，也需要政府機構、出版行業、科研機構及社會組織等多元主體共同參與。

為了確保智能出版的健康發展，只有探尋智能出版倫理問題的深層邏輯，從智能出版倫理使命、準則與實施細則三個層面落實智能出版倫理體系構建，才能應對智能出版帶來的倫理挑戰，構建人與技術的良性關系，真正實現人工智能技術在出版領域的向善發展。智能出版倫理研究是一個動態過程，隨著技術的不斷進步和社會價值觀的變化，需要不斷更新和完善智能出版倫理問題的相關研究。同時，也要積極借鑒國際經驗，加強國際合作，共同推動智能出版倫理的研究和實踐。

作者簡介

吳亮芳，女，博士，湖南師范大學新聞與傳播學院副教授、碩士生導師，湖南師范大學文化和旅游研究院副院長。研究方向：數字出版、文化產業融合與新業態、文化治理與跨文化傳播。

羅群群，女，湖南師范大學新聞與傳播學院碩士研究生。研究方向：數字出版。

趙星宇，女，湖南師范大學新聞與傳播學院碩士研究生。研究方向：數字出版。

參考文獻

朱李莉，盧冰原，彭揚.網絡出版的電子商務智能模型的研究[J].價值工程，2005（7）：71-73.

劉華東，馬維娜，張新新.“出版+人工智能”：智能出版流程再造[J].出版廣角，2018（1）：14-16.

宋偉，劉禹希，王金金.智能出版：開啟后數字出版新業態[J].傳媒觀察，2018（8）：24-29.

劉寧，周宇豪.智能出版的技術圖景：產業鏈、倫理困境與紓解路徑[J].出版廣角，2023（19）：54-58.

劉海明，馬皖雪.ChatGPT應用于數字出版的倫理風險與倫理原則[J].數字出版研究，2023，2（2）：21-26.

吳煒華，黃珩.智能創作、深度融入與倫理危機：ChatGPT在數字出版行業的應用前景新探[J].中國編輯，2023（6）：40-44.

李華君，雷月秋.智能出版的技術特征、倫理風險與編輯把關[J].中國編輯，2024（1）：33-37，48.

張萍，張小強.機器參與論文寫作的出版倫理風險與防范對策[J].中國科技期刊研究，2022（4）：439-449.

莫宏偉，徐立芳.人工智能倫理導論[M].西安：西安電子科技大學出版社，2023：2-3，15.

陳小平.人工智能中的封閉性和強封閉性：現有成果的能力邊界、應用條件和倫理風險[J].智能系統學報，2020（1）：114-120.

陳小平.人工智能倫理導引[M].北京：中國科學技術出版社，2021：10，14，224.

李勝疆.人工智能技術發展的內在風險及三級防范機制[J].科技廣場，2020（3）：63-71.

吳亮芳，羅紫初.論出版信息資源的概念、類型及特點[J].出版科學，2012（2）：44-48.

郭小東.生成式人工智能的風險及其包容性法律治理[J].北京理工大學學報（社會科學版），2023（6）：1-18.

MACDONALD H， ABBASI K. Riding the whirlwind： BMJ’s policy on artificial intelligence in scientific publishing[J].BMJ，2023（382）：1923.

白鈞溢.教育人工智能倫理治理：現實挑戰與實現路徑[J].重慶高教研究，2024，12（2）：37-47.

中華人民共和國科學技術部.《新一代人工智能倫理規范》發布[EB/OL].（2021-09-26）[2024-07-30]. https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html.

聶震寧，謝迪南.文化：出版的本質，出版企業的終極目標[N].中國圖書商報，2007-04-17（2）.

中共中央宣傳部. 中共中央宣傳部印發《關于推動出版深度融合發展的實施意見》的通知[EB/OL].（2022-04-24）[2024-07-30]. https：//www.nppa.gov.cn/xxfb/tzgs/202204/t20220424_666332.html.

Research on Essence， Risks and Governance of Intelligent Publishing Ethics

WU Liangfang1， 2， LUO Qunqun1， ZHAO Xingyu1

1. School of Journalism and Communication， Hunan Normal University， 410081， Changsha， China;

2. Institute of Culture and Tourism， Hunan Normal University， 410081， Changsha， China.

Abstract： Intelligent publishing is a new publishing mode developed by integration of artificial intelligence technology and publishing industry， and it is an advanced stage of digital publishing development. It has inherent technological advantages， but there are still uncertainties caused by technology， which lead to ethical problems. Therefore， it is necessary to figure out how to realize standardized development of intelligent publishing， that is， what should be done and not done. According to the uncertainty caused by improper behavior of human subjects and application of intelligent publishing technology in intelligent publishing activities， ethical risks of intelligent publishing include the out-of-control development， misuse and abuse of technology and their negative impacts， and other problems caused by improper or insufficient management. Given these existing or potential ethical risks， it is necessary to build an ethical system of intelligent publishing， to form an organism through its ethical mission， guidelines and detailed rules， playing a systematic mechanism to maximize the development of artificial intelligence technology in publishing industry and promote ecological innovation of intelligent publishing.

Keywords： Intelligent publishing; Publishing ethics; Artificial intelligence; Governance; Ethical risk