人工智能生成內容（AIGC）的三個出版學議題

方卿　丁靖佳

[摘 要] 人工智能生成內容（AIGC）技術及其應用的發展，將徹底改變出版的內容生產范式和內容供給模式，在創新推動出版發展的同時也帶來諸多風險與問題。對此，出版學需重點關注AIGC的權利歸屬、侵權、權益保障等著作權問題，技術倫理和學術倫理失范等倫理問題，以及進一步引發的意識形態滲透、文化價值觀偏離等文化安全問題，并以此為邏輯起點探尋解決之道。

[關鍵詞] AIGC 出版學 著作權 技術倫理 學術倫理 文化安全

[中圖分類號] G237 [文獻標識碼] A [文章編號] 1009-5853 （2023） 02-0005-06

Three Publishing Topics Concerning Artificial Intelligence Generated Content

Fang Qing Ding Jingjia

（School of Information Management， Wuhan University， Wuhan， 430072）

[Abstract] The advancement of Artificial Intelligence Generated Content（AIGC）technology and its applications is poised to bring about a significant shift in the current paradigm of content production and supply in the publishing industry， albeit not without a host of attendant risks and concerns. Hence， the field of publishing studies need center its attention on critical areas of inquiry such as copyright ownership， infringement and the safeguarding of rights and interests related to AIGC. Additionally， ethical dilemmas regarding technology and academic norms， as well as cultural security issues， including the possible infiltration of certain ideologies or deviation from established cultural values， need to be examined. Taking these issues as a logical starting point， explorations into potential solutions can be initiated.

[Key words] AIGC Publishing Copyright Technological ethics Academic ethics Cultural safety

對話式AI機器人ChatGPT的橫空出世引發了人們對人工智能生成內容（Artificial Intelligence Generated Content，AIGC）的關注與熱議，《自然》期刊發文直言這將有可能徹底改變研究實踐和出版實踐，但其中的風險不容忽視[1]。AIGC作為繼專業生成內容（Professionally Generated Content，PGC）和用戶生成內容（User Generated Content，UGC）之后的新的內容生產引擎，能夠通過內容自動化編纂、智能化潤色加工、多模態轉換和創造性生成等方式直接改變出版的內容生產范式和內容供給模式。除此之外，AIGC還將以數字人、聊天機器人為交互媒介窗口推動出版流程的智能再造和出版服務的創新升級，從而對出版的發展產生深遠影響。隨著AIGC技術的革新迭代及其應用成本的下降，出版內容的生產將不可避免地從PGC、UGC轉向AIGC（包括AIPGC、AIUGC，即AI協同創造內容），且AIGC的數量和內容占比將不斷上升。在可預期的未來，AIGC將因其在內容易用性、可塑性、多樣性、交互性、低延遲等方面的優勢而成為出版活動的主要內容來源。

作為一個以知識內容選擇、傳播、傳承為內在追求的內容產業，出版也將直面AIGC帶來的機遇與風險，從出版學視角對此加以研究與審視則將影響著AIGC以何種形式和何種路徑加入人類知識成果的傳播、傳承序列之中，也是警惕和規制AIGC異化出版“文化構建”本質的關鍵。

1 AIGC的著作權問題

出版是內容產業，著作權是出版的核心資產。目前，AIGC已經能夠實現完整的出版內容作品創作，《1 the Road》《陽光失了玻璃窗》等都是由AI技術創新重組而成的AIGC作品。ChatGPT等AI語言模型應用的“出圈”預示著AI協同創作以及創造性AIGC作品的生產成為可能，其中暗含的新型著作權爭議則將對現有的著作權制度框架產生沖擊。

一是AIGC的權利歸屬問題。權利歸屬是著作權法的核心，其可以明確作品究竟歸屬于誰，以及誰可以對所創作的作品享有權利并承擔責任[2]。AIGC的出現改變了傳統內容的生產規律，使我們不得不對已有的著作權法的權利歸屬進行根本性反思。首先，是否需要對AIGC作品進行著作權法上的賦權？如AIPGC、AIUGC等AIGC作品蘊含了自然人的創作因素（思想、情感），在一定程度上符合作品構成要件的要求，該類作品能否進行賦權認定、其認定標準是什么等內容都還相對空白。其次，AIGC作品的主體資格如何確定？AIGC作品涉及AIGC技術開發者、應用所有者、功能使用者等不同利益相關主體，厘清以什么樣的賦權形式將什么類型的AIGC作品歸屬于哪類主體是解決AIGC權利歸屬的關鍵。尤其是當AIGC技術發展至擁有自主意識，能夠從組合型內容創造轉向探索型和變革型內容創造，AIGC作品的權益收益和可能導致的侵權責任又該如何劃分？

二是AIGC的侵權問題。AIGC的基本原理在于AI算法在海量數據中“學習”“理解”內容的生成邏輯與用戶的閱讀傾向，從而進行內容的再生產或再創作。在我國現行著作權法沒有明確將數據爬取、數據挖掘等智能化分析行為規定為合理使用的情況下，AIGC極有可能對其他著作權人和使用用戶構成侵權。一方面，AIGC對已有作品的大規模學習、模仿、組合和轉化可能對原著作權人享有的修改權、保護作品完整權、演繹權等權利造成侵權，國外最大藝術作品平臺ArtStation上的作者們就AIGC算法中潛在的版權爭議掀起了抵制AIGC的活動。另一方面，AIGC為形成符合用戶需求的內容，還會收集、整理并利用用戶的個人數據，存在用戶隱私數據侵權和外泄的隱患。完善AIGC的侵權認定并對其侵權行為加以規制是出版業不得不探討的現實問題。

三是AIGC的權益保護問題。雖然大家對AIGC的賦權問題還存在爭議，但普遍認為應該給予滿足具有獨創性要求的AIGC作品著作權保護，我國“人工智能寫作領域第一案”—騰訊訴上海盈訊科技侵害著作權及不正當競爭糾紛案的判決結果也體現了這樣的導向。在該案件中，被告上海盈訊科技公司未經授權許可將騰訊機器人Dreamwriter生成的文章發布在其運營的“網貸之家”平臺上并向公眾傳播。深圳南山區法院審理認為該AIGC作品“外部表達符合文字作品的形式要求，內部表達反映了對實時股票市場相關信息和數據的編排、分析和評價，結構合理，表達清晰，具有一定的獨創性”，屬于我國著作權法保護的文字作品范疇[3]。然而，如何區分自然人創作作品、純AIGC作品和AI協同創作作品；在AI協同創作作品中，如何判定自然人在AIGC作品生成中的創造性貢獻程度等問題都有待厘清。同時，在AIGC作品生成、出版、跨模態轉化、傳播的流轉過程中，其權益相關主體之間的關系將更為復雜，AIGC作品可能成為合作作品、雇用作品、職務作品或法人作品，但其界定標準以及具體的保護路徑、保護限制都不清晰，將致使AIGC作品的濫用和出版內容保護機制的失調。

AIGC的發展與應用對現行的著作權制度帶來了新的挑戰，對此，圍繞“科學研究—司法實踐—制度架構”三位一體地解決AIGC的權利歸屬、侵權和權益保護問題，以著作權為核心資產的出版業才能有可持續的發展未來。

首先，加強AIGC著作權問題的理論與實踐研究。AIGC著作權研究是一個跨學科的綜合性議題，出版需采用多元化的研究視角凝練AIGC著作權的關鍵科學問題，充分發掘現有理論的解釋張力，提出科學的理論優化思路和實踐策略方案。在研究方法上，可側重案例研究法和比較研究法，對中國、英國、美國、日本等國家的AIGC著作權實踐進行總結與分析，如澳大利亞傾向于對計算機生成的作品視為無作者（authorless），而英國的《版權，外觀設計和專利法》（Copyright， Designs and Patents Act）則規定，“對于計算機生成的文學、戲劇、音樂或藝術作品，作者應為對創作該作品做出必要安排的人”[4]。對比探討不同國家對AIGC作品著作權的權利歸屬、侵犯以及權益保障實踐，厘清其背后的實踐原理，能夠為我國AIGC著作權的司法實踐和制度架構提供理論指引和經驗借鑒。

其次，深化AIGC著作權爭議的司法實踐，增加AIGC指導性案例的效力和數量。當前AIGC著作權爭議的司法實踐正處于探索階段，理論界觀點紛呈，現有法律和司法又無明確規定，司法實踐面臨諸多疑難問題。這一方面要求司法機關在處理不同類型、不同著作權爭議的AIGC案件時，發揮集體智慧，構建法理、情理、事理邏輯合理的裁判標準。另一方面則需在結案后綜合考慮案件的典型性和指導性，撰寫和發布AIGC著作權糾紛判定的典型案例和指導性案例。這些案例雖然不具有正式的法源效力，但對其他類似案件的處理具有重要的參考和指導作用，還能起到一定的教育和宣傳作用，是未來AIGC著作權立法的重要支撐。

最后，完善AIGC著作權制度體系。已有著作權基本原理與制度規則無法完全解釋或適用于AIGC的著作權問題，完善AIGC著作權制度體系是實現AIGC著作權保護，激勵基于AIGC創新經濟、文化、科技發展的關鍵。具體而言，需在我國現行著作權法的基礎上，構建AIGC作品的署名規則、著作權歸屬制度、作品登記制度、合理使用制度、侵權認定制度、侵權責任制度，形成系統完整的AIGC著作權保護制度體系。

2 AIGC的倫理問題

AIGC技術嵌入多層規則后容易產生一個帶有偏見的運行體系，這是AIGC技術自身缺陷以及技術的不合理使用所共同導致的。從出版學的視角來看，AIGC的應用催生了技術倫理失范和學術倫理失范的風險。

算法偏見和算法歧視等技術倫理失范問題一直貫穿于AIGC技術創新與應用的始終。一是由于AIGC訓練集映射著社會群體的思維偏見，AI算法通過對訓練集的歧視模仿而“學會”自動輸出具有價值傾向性的內容。曾有人用1.35億條仇恨言論信息訓練GPT-4chan語言模型，隨后該AIGC模型在不到24小時內發布并傳播了超過15000條充滿暴力內容的帖子，且在最初沒有人識別出這些內容來自AI [5]。事實上，如果不對其輸出加以控制，AIGC語言模型很容易被用來生成仇恨言論和垃圾郵件，以及可能隱含在其訓練數據中的種族主義、性別歧視和其他有害聯想。2022年12月，加州大學伯克利分校的一位計算神經科學家在推特上說，他要求ChatGPT開發一個Python程序，根據一個人的原籍國來判斷是否應該受到酷刑。ChatGPT隨后回復了代碼，并邀請用戶輸入國家信息；而如果這個國家是朝鮮、敘利亞、伊朗或蘇丹，則會輸出“這個人應該受到酷刑”（OpenAI隨后關閉了這種問題的回答）[6]。二是AI算法設計師自身存在的價值偏見所導致的，如算法設計師具有明確的經濟價值取向或沒有及時糾正算法偏見，AIGC便無法體現合理的社會規范和倫理準則。事實上，微軟已經計劃在聊天機器人Bing AI輸出的AIGC中植入廣告，AIGC算法的客觀性和公平性難以維系。隨著AIGC技術逐漸具有“類人”的智能，隱藏在技術算法“黑箱”背后的AIGC倫理失范問題更難被人為識別和察覺，再經過出版的系統化“封裝”和傳播，AIGC產生的影響力和破壞力無疑是巨大的。這些新的變化都對傳統倫理標準生成了新的挑戰，舊的出版道德規范與倫理準則是否適用，新的出版倫理規則如何構建，基于技術向善視角消解AIGC倫理風險等內容都亟待進一步研究和關注。

AIGC的學術倫理問題因ChatGPT的出現而再次受到出版界的熱議。《科學》系列期刊更新了其對待AIGC的政策，表明未經編輯部明確許可，不得在期刊上發表由人工智能、機器學習或類似算法工具生成的文本，也不得使用由這些工具生成的圖形、圖像或圖表，違反這一政策即構成科學不端行為[7]。《自然》雜志主編則表明其不允許將ChatGPT之類的大型語言模型（Large Language Models，LLM）列為署名作者，但允許使用這些工具，并在方法、致謝等相應部分進行具體說明[8]。這兩家國際頂級期刊對AIGC的態度雖有所差異，但都表現出對AIGC學術倫理的擔憂。目前，不少研究人員已經開始將ChatGPT以及其他AIGC語言模型作為研究助理，幫助他們組織思維、協助編寫代碼、總結研究文獻、撰寫和修改論文等[9]。但基于AIGC語言模型產生的文本結果看似使人信服，實際卻存在大量的事實性錯誤、知識盲區和虛假信息，嚴重損害學術成果的科學性與可靠性，也滋生了機器洗稿等學術不端行為，對學術誠信構成重大威脅。然而，從AIGC的應用及其技術發展趨勢來看，AIGC甚至能夠在輔助設計科學實驗、開展同行評議等方面發揮效用，未來的內容創作和出版模式極有可能是協作式、算法式和自主式的，完全禁止AIGC協同學術創作、支撐出版決策或許并不現實。因此，置于出版學面前的不只有AIGC的學術倫理探析，更重要的是討論AIGC如何在學術倫理范疇內發揮對出版的價值賦能效用。

AIGC的倫理問題決定著AIGC融入出版活動的倫理邊界和價值底線。只有匡正AIGC介入出版活動的目的性，以技術向善視角看待并規制AIGC的發展，才能最大程度地發揮AIGC的正價值效用。

對AIGC技術倫理失范的規制，應從全球治理格局出發，建立AIGC技術倫理規則框架。AIGC技術及其應用都具有極強的跨國流動性，沒有一個國家或者政府能夠完全獨立地實現AIGC技術及其模型的技術倫理監管，其引發的倫理追責和管制問題也通常需要跨國合作來加以應對，全球治理視野由此顯得十分重要。結合聯合國教科文組織發布的《人工智能倫理問題建議書》（Recommendation on Ethics of AI）和中共中央辦公廳、國務院辦公廳印發的《關于加強科技倫理治理的意見》，我們認為，出版業可以構建AIGC的共性倫理框架和出版業AIGC倫理框架。AIGC共性倫理框架的構建旨在為全球AIGC技術的開發與應用提供一個集體性的倫理框架，該框架應適用于各國法律體系、道德規范和價值理念，能夠為AIGC的技術倫理糾紛、技術開發過程中的技術倫理嵌入、社會個人技術應用過程中的技術倫理原則引導等，提供系統性的參考。出版業AIGC倫理框架則旨在集中解決出版場景中的AIGC技術倫理問題，該框架需明晰出版業采納AIGC技術的原則和規范，為出版業商業化應用和創新轉化AIGC技術提供行為準則，以警惕AIGC技術邏輯和資本邏輯對出版文化建構邏輯的“蠶食”。

對AIGC學術倫理失范的規制，應從協同治理理念出發，實現AIGC學術倫理的內外部規約。AIGC引發的學術倫理失范問題涉及科研人員、高校、出版機構、科研項目資助機構、政府部門等多類利益相關主體，僅依靠出版單一主體的力量難以可持續地規制AIGC的學術倫理示范問題。因此，多元利益主體的協同治理理念應貫穿于AIGC學術倫理治理的始終。在外部規約上，出版應協同科研項目資助機構、政府部門等管理機構探索構建AIGC協同學術創作或AIGC參與學術出版流程的學術倫理規則、學術誠信體系和出版倫理規范，從標準、政策、法律法規等維度完善AIGC學術倫理的約束、問責和反饋機制。在內部規訓上，出版則需協同高校、學協會等利益主體開展AIGC學術倫理的宣傳、教育、培訓工作，提高和規范科研人員使用AIGC的學術倫理意識和行為，強化期刊編輯、審稿專家對科學成果的學術把關能力，形成AIGC學術倫理內化于心、外化于行的科研活動、出版活動。

3 AIGC的文化安全問題

出版長期以來承擔著發揮意識形態價值、教育價值、文化價值和科學價值的基本功能[10]，對維護以國家和社會主流意識形態為核心的國家文化安全具有重要作用。而AIGC作為一種完全開放的內容生成范式，對我國的文化安全造成了諸多外在威脅和內在挑戰，也對出版的意識形態把控、文化價值構建功能提出了新的要求。

人工智能已經成為人類現今為止最具開放性的創新，以此為算法支撐的AIGC也能夠透過網絡空間實現無障礙的信息接觸與意識形態輸出。目前以西方國家為主導的AIGC技術及其應用則極有可能成為意識形態滲透的強力工具。受訓練集中數據分布偏差以及國外算法開發人員價值理念的影響，AIGC可能“天然的”擁有意識形態立場。從已有的AIGC應用來看，其在內容互動中更傾向于輸出西方的主流意識觀點乃至虛假意識形態信息，而對我國優秀傳統文化、革命文化和社會主義先進文化又出現認知匱乏甚至認識錯誤的現象，無疑將影響不同國家用戶對中西方文化的態度和價值傾向。因此，在這種新形態的技術霸權以及新形式的意識形態滲透下，我國文化安全面臨著外來文化侵入、本土文化價值觀念偏離等文化安全威脅，如何捍衛我國的文化安全、構筑文化保護屏障、實現我國先進文化的向外輸出與傳播顯得日益緊迫。

AIGC對我國文化安全形成的內在挑戰主要表現在文化價值觀的認同危機和出版意識形態的把握危機上。AIGC“溫水煮青蛙”“和平演變”式的意識形態滲入使我國民眾在不知不覺中接受了多元文化的沖擊，對已有的文化價值理念產生動搖。同時，對AIGC的惡意使用和濫用易產生大量低俗化、粗淺化、媚俗化等不良信息資源，為錯誤文化價值觀的滋生提供了溫床，折射出我國文化安全存在的內在隱憂。與此相對應的，則是出版對意識形態的把控危機。面對數量龐雜和質量良莠不齊的AIGC，面對幾乎沒有準入門檻而可以廣泛傳播的各類意識形態信息，出版對內容意識形態的把控變得尤為艱難又尤為重要。

在內外部文化安全威脅的背景下，我們首先要探索建立“國家主導、多元共治”的文化安全防御和管理機制，形成文化安全保障體系。這既是國家治理體系和治理能力現代化的整體要求，也是解決AIGC文化安全問題的內在需求。在文化安全防御機制方面，可開發一套適用于中國文化情境的文化安全指標體系和監測程序，對AIGC平臺及其內容信息進行動態監測、評測和風險趨勢把控，建立AIGC文化風險評估、審查、預警、處理一體化的防御機制。在文化安全管理機制方面，則要建立以政府文化安全管理部門為主導，AIGC市場相互牽制、AIGC平臺自治管理、社會公眾參與監督的管理網絡，對AIGC中涉及意識形態安全、違背社會公德、激化民族矛盾和宗教沖突、侵犯個人權利等文化安全風險進行分層、分類管理。

其次，開發具有競爭力的AIGC語言模型，構筑主流意識形態陣地。AIGC的文化安全風險一定程度上是AIGC的技術霸權所導致的，因此有必要自主開發具有國際競爭力的AIGC語言模型，構筑主流意識形態陣地。從AIGC的技術開發邏輯來看，該模型既需要在合理合法的前提下，將大量蘊含中華優秀傳統文化、革命文化和社會主義先進文化的內容文本納入訓練數據集進行“學習”，“培養”AIGC語言模型的中國立場和中國理念。同時，也要以大國的開放包容心態，給予其他優秀文化意識形態內容的生存空間，促使AIGC成為推動本土文化和外來文化友好交流互鑒的載體。

此外，還需加快推進文化產業和文化事業的繁榮發展，發揮其維護國家文化安全的基石作用。唯有“強起來”的文化產業和文化事業，才能為社會源源不斷地輸送高質量且豐富多樣的精神文化食糧[11]，實現中華文化的自覺、自信和自強。為此，包括出版在內的文化產業和文化事業需將AIGC數智賦能、多維感知、認知交互、多模態融合的技術特點融入文化內容生產、流程運作和服務升級上，通過提高自身的文化生產力和文化服務力，增強中華文化的凝聚力和傳播影響力。 同時，文化產業和文化事業還要提升對AIGC技術的控制能力，強化對AIGC及相關著作的內容過濾能力和風險識別能力，形成文化安全保障底線，以正確的價值導向實現AIGC不良信息內容的凈化、優化與引導，推動高質量AIGC的創新生產與傳播。

4 結 語

AIGC技術及其應用無疑將引導出版走向一場深刻的變革，其中可能衍生的著作權、倫理以及文化安全風險是出版不容忽視和回避的關鍵問題，亟須我們加以深入探討與分析。應當說，目前AIGC的發展仍處于起步階段，AIGC背后的人工智能計算科學正在以我們難以想象的速度學習和汲取現實世界的數據、信息和知識，并實現算法的創新更迭，而出版則處于這種變革的起點。出版只有謹慎地對待AIGC的發展與應用，不斷追問、揭示AIGC對出版帶來的負向價值及其風險消解路徑，才能最大程度地煥發AIGC賦能出版創新發展的生機與活力。

注 釋

[1] van Dis E A M， Bollen J， Zuidema W， et al. ChatGPT：five priorities for research[J]. Nature， 2023， 614（7947）： 224-226

[2] 劉云.論人工智能的法律人格制度需求與多層應對[J].東方法學，2021（1）：61-73

[3] 最高人民法院. 2020年度人民法院十大案件[EB/OL].[2023-03-09].https：//baijiahao.baidu.com/s？id=1688375184809561932&wfr=spider&for=pc

[4] McCutcheon J. The vanishing author in computer-generated works： a critical analysis of recent Australian Case Law[J]. Melbourne University Law Review， 2013， 36（3）： 915-969

[5] 邵文.“最邪惡”AI？由一億多條仇恨言論喂養，很難與人類區分[EB/OL].[2023-03-09].https：//www.thepaper.cn/newsDetail_forward_18501825

[6] Stokel-Walker C， Van Noorden R. What ChatGPT and generative AI mean for science[J]. Nature， 2023， 614（7947）： 214-216

[7] Science.Science Journals： Editorial Policies [EB/OL]. [2023-03-09].https：//www.sciencemag.org/authors/science-journals-editorial-policies

[8] Nature.Tools such as ChatGPT threaten transparent science; here are our ground rules for their use[EB/OL].[2023-03-09].http：//www.nature.com/articles/d41586-023-00191-1

[9] Hutson M. Could AI help you to write your next paper？[J]. Nature， 2022， 611（7934）： 192-193

[10]方卿，徐麗芳，許潔，等. 出版價值引導研究[M].北京：商務印書館，2018：19-23

[11]吳騰飛.新時代維護國家文化安全的三個維度[J].延邊大學學報（社會科學版），2020，53（2）：85-92+143

（收稿日期：2023-03-15）