ChatGPT應用于數字出版的倫理風險與倫理原則

劉海明 馬皖雪

摘 要：ChatGPT帶動了新一輪人工智能革命浪潮，數字出版如何面對技術帶來的挑戰和機遇成為無法回避的問題。ChatGPT在數字出版中具有重要的應用價值，能夠在組織架構、決策管理與內容生態等層面產生積極影響。但在數字出版中嵌入ChatGPT模型，必須綜合研判其可能引發的個人層面的角色退化與利益侵犯、行業層面的人才流失與價值失序、社會層面的道德下沉、國家層面的意識形態入侵與數據主權安全風險。建議通過構建必要性、實驗性、尊重性與限制性的倫理原則，以更好發揮ChatGPT在我國數字出版中的技術效用，推動數字出版高質量發展。

關鍵詞：ChatGPT；數字出版；人工智能；風險治理；倫理原則

D O l ： 1 0 .3 9 6 9 /j .i s s n .2 0 9 7 -1 8 6 9 .2 0 2 3 .0 2 .0 0 4

黨的二十大報告提出“實施國家文化數字化戰略”。作為文化產業數字化布局的重要一環，數字出版建設是構建公共數字文化資源、實現數字文化成果共享、落實國家文化數字化戰略的關鍵驅動力。數字技術的推動與賦能，促使數字出版蓬勃發展[1]，互聯網、大數據、云計算、人工智能等新一代信息技術的迭代創新，不斷為數字出版業帶來了新的挑戰與機遇。如何有效運用數字化技術拓展出版邊界、發展出版新業態，備受業內關注。

被認為是“新一代技術革命”的ChatGPT發布僅兩個月，月活躍用戶就超過了1億，成為有史以來用戶增長速度最快的應用程序之一。作為人工智能生成內容（AIGC）的一種，ChatGPT在給人類帶來“超模擬”驚喜體驗的同時[2]，也引發了人們對于技術發展的倫理考量，許多國家對于ChatGPT的引入持審慎態度，有的國家還設定一系列限定規則。

不可否認的是，ChatGPT已經成為人工智能發展從專用人工智能開始走向通用人工智能，從小眾應用進入真正的大眾化應用的引爆點[3]。基于此背景，ChatGPT被許多行業視為開辟產業新業態的重要支撐，數字出版未來發展與ChatGPT等AIGC相關產品的聯結就成為無法回避的問題。

數字出版的發展離不開與時俱進的技術變革，ChatGPT作為人工智能的最新迭代與標志性突破，其深度的語言交互能力、高效的信息驅動能力及精密的算法運行能力[4]，為數字出版行業的組織架構、決策管理與內容生態等層面提供了廣泛的應用潛力和想象空間。但ChatGPT模型在與數字出版融合的過程中，也將在不同層面引發新的倫理風險。因此，ChatGPT作為新一輪技術革新，為數字出版未來發展帶來了諸多可以討論的問題：如何搭上新一輪技術快車，開辟“ChatGPT+數字出版”的新模式？ChatGPT技術應用于數字出版存在哪些倫理風險，又如何應對？為此，本文重點分析ChatGPT應用于數字出版的倫理風險，并探討其技術使用的倫理原則，以期為未來數字出版建設提供有益借鑒。

1 ChatGPT應用于數字出版的倫理風險

ChatGPT的技術優勢在為數字出版帶來了諸多層面的發展機遇的同時，也伴隨著技術應用給多個層面帶來了倫理風險，這些隱含的倫理風險將會深刻影響數字出版的變革。因此，對技術應用的倫理風險進行審視具有重要意義。

1.1 主體裂變：技術圖景中作者角色的退化

ChatGPT介入數字出版的技術圖景中，內容的創作將不再僅以人為主體，而是加入了ChatGPT的技術“代筆”。隨著ChatGPT“創作”的書籍涌入市場，作者原先在文學作品中享有的“唯一主體性”地位被動搖[5]。作者的創作速度有限，ChatGPT卻能在幾個小時內創作完整作品；出版機構一般要為作者支付稿酬（在特定時空范圍內買斷版權），ChatGPT只需要支付固定的技術成本便可以循環創作。對比之下，未來數字藝術領域中類ChatGPT的產品應用很有可能成為新的創作主體，人的角色逐漸退場為內容的提問者與引導者，失去了傳統主體角色的功能意義。作者角色的功能意義是作為專業人士與其他職業進行社會比較的重要屬性，是維護職業邊界和可持續性的重要基石。如今，作者用來構建角色邊界的區隔被消解，面對人工智能技術的飛躍性發展，作者角色的主體地位出現裂變的危機。

然而，內容創作主體的裂變會衍生一系列倫理風險。第一，ChatGPT的內容創作本質上還是在人類創作的數據基礎上進行二次創作，這就面臨著版權歸屬問題，即借用的數據是否侵犯作者的權益，機器能否署名成為著作權的保護對象等。第二，ChatGPT內容生成的“提示者”如何進行地位歸屬，內容審查的主體責任如何界定，這些都是亟須討論的問題。第三，人類自身的思維與創新存在多維差異，這種差異超越機器的“思想”實驗與模擬。如果作者角色的功能意義被ChatGPT等人工智能產品替代，文化的個性化與豐富性發展將受到嚴重威脅。

1.2 價值裂變：技術決策中編輯身份的消解

嵌入數字出版流程中的ChatGPT產品能與管理者、作者、用戶等進行深度交互對話、交換信息、發布指令；搜集整理歸納出版市場的關鍵信息；通過設置的自動評估系統對作品進行校對、排版、審核把關等。原本應由編輯承擔的工作，或許未來在人工智能技術的發展中將逐漸被替代，這種趨勢隨著ChatGPT的應用開始成為現實。編輯職業身份的消解看似簡化了數字出版管理結構、降低了數字作品出版成本，但背后存在專業人才流失與數字文化價值分裂的倫理風險，真正的行業危機也會隨之顯現。

人才與價值理念是行業可持續發展的支撐。

如果編輯等出版人才被技術取代，一是將會造成大批技術人員代替傳統編輯人員的現象，引發行業人才流失與社會就業危機。二是完全智能化、程序化的生產流程將會消解行業的人文價值。缺少編輯價值判斷的技術決策可能出現數據與效益層面的偏向，對文學作品意義價值的衡量也將部分轉向商品的經濟價值，忽視更深層次的數字出版價值。三是ChatGPT的文化作品如果無序生長，當無序度達到系統的極值，便會引發行業的生存危機。當ChatGPT等產品融入數字出版行業時，傳統的人才結構如何發揮最大價值，編輯如何在智能生產流程中找尋職業身份價值，成為行業與個人需要思考的問題。

1.3 信任裂變：技術秩序中主體道德的下沉

ChatGPT的技術秩序中重要的是對問題的處理與回答，雖然能夠在設定的道德標準中拒絕回答某些問題，但是有關抄襲的指令具有價值指向性不明確、難以被辨別的特點，ChatGPT通常無法自主拒絕相關指令。只需輸入指令就可以獲取富有邏輯與創意的文學作品，低成本、難辨真偽的內容生成，創作出版就能見收益，這些就像“智慧果”一般誘惑著人類作者，挑戰著人類作者的誠實底線，給內容創作帶來了信息裂變危機。例如，作者借助ChatGPT創作卻標榜內容的原創與獨立性，學界借助ChatGPT對大量現有文章進行抄襲、整合與降重，不法分子誘導ChatGPT傳遞虛假信息等，這些問題都挑戰著人與人之間的信任，動搖社會的信任基礎。

低成本抄襲挑戰作者的誠信道德底線，作者將抄襲來的山寨版作品兜售給讀者，加劇了數字出版實踐者的道德滑坡現象。如果將ChatGPT的“洗稿”功能應用至科學研究領域，將產生不可預估的后果，引發不可預估的社會信任危機與危害。當ChatGPT的數據庫實現聯網，算法更精準，內容生成更靈活、更“真實”時，個體將擁有更多的可控資源，道德自覺性更易動搖。在這種背景下，學術界與文藝界獲取讀者信任的成本增加了，數字出版行業也將面臨巨大的信任危機與精準審核把關的考驗。

1.4 情感裂變：技術監控中數字資本的入侵

法國哲學家福柯在《規訓與懲罰》一書中借用“全景敞視監獄”的概念探討權力的運作方式和思維邏輯[6]，認為在監控下每個人都處在觀看與被觀看的機制中，處在“權力的眼睛”中的人們，在被凝視中自我規訓。隨著數字化時代的發展，“全景監獄”概念被引申為技術背景下的監控，傳統的社會權力轉換為更隱蔽的數據控制，無所不包的數據催生了一種全新的數據權力，通過對個體生活的追蹤與監控，進而通過注意力和思維兩個層面的規訓實現對整個社會的規制和重塑[7]。ChatGPT等AIGC產品技術實現的背后是海量數據的支撐，這些數據的制定標準與算法運行規則由數字資本規定，這種隱性權力的操控也預示著ChatGPT的潛在威脅。

數字出版產業承擔著重要的認知導向功能，ChatGPT的內容生成看似為出版業帶來智能體驗與便利，也可能因為數據的偏差與不準確而產生具有錯誤和偏見的內容。同時，ChatGPT是由國外的人工智能研究機構研發的，數據源偏向國外的資源庫。使用主體在一問一答中產生認知，情感與思維被數據與算法的規則重塑，不僅可能導致意識形態被入侵，威脅、挑戰主流意識形態，還有可能產生數據被竊取與泄漏等風險，這些都給國家數據主權安全帶來挑戰。

2 C h a t G P T應用于數字出版的倫理原則

善用ChatGPT能夠使數字出版行業實現優質發展，而濫用產生的倫理風險則會加速行業的衰落。應及時對ChatGPT在數字出版應用中的倫理風險進行綜合研判，構建完善的倫理原則，實現ChatGPT技術應用價值的最大化。

2.1 必要性原則：堅持人的主體性實踐

人在社會實踐關系中因為價值能動而形成價值主體，價值在文化中的主體意義也會以人的存在方式體現出來[8]。然而，ChatGPT等機器智能體正逐漸深入數字出版的諸多環節，人類創作的特殊性與價值創造的唯一主體性的地位不斷受到挑戰。關于智能系統是否具備“主體”條件、承擔道德主體責任，從目前社會各界的爭論來看，并沒有統一的定論[9]。雖然不可否認智能系統在某些領域展現出人類所不能及的能力，但是文明成果根植于人類現實的物質實踐活動之中，脫離人類生產勞動實踐的后人類社會面臨著文明異化的風險。康德視“人”是“目的”，強調人的理性與尊嚴，揭示了人作為有意識的存在者，在任何時候都同時當作目的，絕不僅僅當作手段來使用[10]。堅持人的主體實踐，不僅關系著文明發展的向度，也是對理性主體道德能力的尊重。

堅持人的主體性實踐對數字出版行業應用層面有著積極的意義，因為ChatGPT最優文本的生成是基于優質數據的“喂養”和高質量的內容提示，這些數據是人類的智慧創新成果，所以人類的內容生成越全面、質量越高，ChatGPT的內容生成就更智能化、更智慧化。ChatGPT數字作品的創作既離不開大量優質作者的原創內容，也離不開作者與編輯的高質量提問和內容篩選。本質上，ChatGPT的內容生成還是以人類為主體的生成機制，機器仍然居于輔助性的客體地位。

偉大的作品最終是由人來判斷的，作品判斷的標準不僅包括內容層面，還摻雜著寫作者所處的社會背景和心境，其中富含不同時代的意義隱喻與生活感悟，一部偉大的作品既需要精妙的內容，也離不開寫作者的心路歷程。因此，即使有技術加持的作品，人作為創作主體的地位也不能被忽略。一方面，作者應時刻堅持創作的主體地位，創新出技術難以模擬甚至無法模擬的創作思路，而不是迎合機器的創作模型成為“機器作家”。另一方面，數字出版行業應時刻堅持以人為主體的內容創作地位，在對技術保持包容吸納態度的同時，大力扶持優質原創作者，給原創作品更多的出版機會。

2.2 實驗性原則：科學分級探索“ChatGPT+數字出版”模式

技術的發展是科技進步的必然，未來還會出現更多的智能工具，暫停或者完全排斥人工智能的發展并不能解決問題，關鍵是以何種方式最大化地利用技術。ChatGPT新興技術的飛速發展，引發了新一輪的技術焦慮，面對即將來臨的生成式人工智能時代，各行業如何掌握核心技術、發揮技術優勢成了熱議的問題。實驗性原則為我們提供了很好的技術探索模式，也可將其視為試錯原則。該原則要求在智能體系全面應用之前，可以選擇先在一個可控的環境里觀察相關應用創新， 判斷和分析技術效果， 并合理評估創新帶來的收益及風險， 從而基于“風險—收益”的比較來調整相應的應用[11]。

就數字出版而言，探究“ChatGPT+數字出版”模式是行業應對技術發展的必然，但在模式探索時應秉持包容審慎的科學態度，遵循實驗性原則，在可控環境中由低層次到高層次分級展開。一是因為ChatGPT處于發展階段，還存在數據不完整、算法不完善等技術漏洞。二是因為ChatGPT技術應用對數字出版行業而言是全新的嘗試，目前業內尚未有很好的實證案例，其對數字出版生產模式的影響存在未知性。三是因為出版產業與互聯網行業的融合催生了數字出版產業，也促進了數字出版產業分工與細化[12]。不同分工和環節對于技術的需求是不同的，應用的數據范圍與算法邏輯也存在差異，隱含的技術使用風險的程度也不同。在此基礎上，由低層次到高層次分級實驗性的探索既能最大化探究技術的使用價值，也能及時了解不同生產環節可能產生的倫理風險，并適時調整技術的使用規則。

2.3 尊重性原則：強化道德主體意識與智能識別工具

尊重性原則是研究倫理與寫作倫理的基本原則，既要尊重技術的價值屬性與發展屬性，又要尊重創作的原創性與規則性。科學技術的發展對人類與社會的作用和意義是有目共睹的，絕對的技術禁令并不可取，應以尊重技術的價值屬性為前提，從技術的發展中尋求解決問題的方法。ChatGPT的開發原理是OpenAI 研發團隊利用“人類反饋強化學習”的機器學習機制進行數據訓練。從理論層面看，語料庫與模型量級的持續提升與更新，能夠為社會提供具有積極影響的全面準確回答[13]。因此，在應用AI技術的過程中，技術的規范是一方面，而在技術應用之前強化道德主體意識，形成道德自覺，同樣重要。

將Chat GP T模型嵌入數字出版，尊重性原則主要體現在主體的道德自覺與技術應用的開發層面。ChatGPT并不是在任何場景都適用的，尤其是在學術研究中，部分學校與期刊已經明確規定使用ChatGPT的限制與原則。例如，香港大學向全體師生發出禁止在所有課堂、作業和評估中使用ChatGPT或其他AI工具的通告，否則將被視為抄襲[14]。全球知名出版集團施普林格·自然（Springer Nature）的旗艦期刊《自然》公開發表社論，聲明了在使用生成式AI時的兩條原則：（1）不接受任何LLM工具作為對研究論文有貢獻的作者；（2）使用LLM（大型語言模型）工具的研究人員應在方法或致謝部分中聲明[15]。目前，各國學術界、出版商對于ChatGPT的應用有著不同程度的限制。不過，對作品進行技術標識或聲明是應用ChatGPT或其他AI工具的基本原則，也是任何寫作者都應該自覺遵守的原則。

在內容創作中，寫作者應該自主強化道德意識，尊重平臺對技術使用的規則；數字出版平臺與相關部門應盡快發布ChatGPT等工具的使用規則，規范道德主體的行為標準。不過，這些規則實現的前提是相應的智能識別工具的開發與應用，即平臺是否有足夠識別文本是由人類還是機器撰寫的能力，以及平臺是否有對應的數據模型。如果沒有針對ChatGPT等人工智能技術的識別工具與數據基礎，那就難以檢驗規則應用的效果，因此盡快引入智能識別工具是數字出版平臺的重要應對舉措。

2.4 限制性原則：完善ChatGPT引入的邊界性與平衡性

ChatGPT掀起了以AIGC為代表的大模型的技術“狂飆”，成為國內外企業爭相布局的風口。百度上線AI聊天機器人“文心一言”，阿里達摩院、科大訊飛、騰訊、華為、字節跳動、京東、360、快手、網易等10余家中國互聯網企業均在AIGC領域有所涉足，開發相關產品[16]。人工智能技術發展具有戰略性意義，國內對于人工智能技術的開發關系著經濟、科技與國際競爭力等層面的建設。需要注意的是，技術發展之外的無序擴張與濫用將會引發一系列倫理風險，各行業還需要進一步考量技術發展的縱深度與引入的尺度。

數字出版行業的內容布局關乎文化產業的發展，是新時代出版工作的重要使命與任務。數字出版生產對內發揮聚民心、育新人、興文化的價值導向作用，對外承擔展形象、展示文化自信、提升文化話語權的傳播責任。如前文所述，技術的使用具有雙面性，既不能完全忽視技術的應用，也需要在安全的領域內發揮技術的最大價值，這就需要在引入ChatGPT時及時完善邊界性與平衡性。

首先，ChatGPT并不適用于數字出版行業的所有題材，尤其是關涉國家安全的重要數據資源。面對相關領域的內容建設，數字出版行業需要具有數據安全的敏感性，應及時創建防火墻和限制禁令，樹立明確的使用邊界。其次，在引入ChatGPT產品時應以了解數據標準與算法運作邏輯為前提，并與技術平臺合作構建適合國內數字出版領域的數據庫資源，平衡數據資源偏差，提升數據準確性，避免數據偏差和算法歧視等問題導致的不良導向的回答與作品。

3 結語

當下，ChatGPT作為人工智能領域的最新技術突破，面臨巨大的社會爭議，在給人類帶來智能體驗的同時，也引發了人們對于技術的恐慌，甚至被多個國家和機構下發“驅逐令”。各行業對ChatGPT技術應用存在觀望、積極接納或否定的態度，貿然使用與杜絕都不是最好的選擇，客觀辯證考量才能讓技術更好地服務于人類。

ChatGPT在數字出版領域具有廣泛的應用價值，能夠在組織架構、決策管理與內容生態等層面產生積極影響，與此同時，也會在個人、行業、社會與國家等層面產生倫理風險，因而需要構建相應的倫理原則進行技術規制，以保障ChatGPT技術應用能夠發揮最大價值。因此，在包容接納新技術的同時，也要保持審慎的態度綜合研判技術的應用風險，唯有堅持技術應用的倫理原則，人工智能技術才能真正助益數字出版行業的發展。

Chat GPT只是一個開始，未來Chat GPT技術所引發的新一輪人工智能競爭會對各行業、各領域乃至世界產生何種影響還是未知。不過，以ChatGPT技術為代表的AIGC正在各領域掀起新一輪AI浪潮，激發對AI時代的種種想象。AI究竟會給人類帶來怎樣的變革？是對時間與空間的進一步壓縮或延展，還是思維的進一步升維或退化，抑或是出現新的數字鴻溝？它又會在何種程度上影響人類的勞動實踐與社會架構？這些都是需要思考與討論的問題。

作者簡介

劉海明，男，重慶大學新聞學院教授、博士生導師。研究方向：新聞倫理。

馬皖雪，女，重慶大學新聞學院碩士研究生。研究方向：新聞倫理。

參考文獻

[1] 劉九如.新技術賦能，數字出版呈現新業態[J].出版廣角，2022（9）：44-49.

[2] 王建磊，曹卉萌. C h a t G P T的傳播特質、邏輯、范式[J].深圳大學學報（人文社會科學版）， 202 3，40（2）：144-152.

[3] 鐘祥銘，方興東，顧燁燁.ChatGPT的治理挑戰與對策研究：智能傳播的“科林格里奇困境”與突破路徑[J].傳媒觀察，2023（3）：25-35.

[4] 周智博.ChatGPT模型引入我國數字政府建設：功能、風險及其規制[J].山東大學學報（哲學社會科學版），2023（3）：144-154.

[5] 孫偉平.人工智能與人的“新異化”[J].中國社會科學，2020（12）：119-137，202-203.

[6] 米歇爾·福柯.規訓與懲罰[M].劉北成、楊遠嬰，譯.北京：生活·讀書·新知三聯書店，2007：219.

[7] 葉娟麗，徐琴.移動互聯網·大數據·智能化：人工智能時代權力的規訓路徑[J].蘭州大學學報（社會科學版），2020，48（1）：46-55.

[8] 徐椿梁.認知·實踐·主體：價值在文化存在中的三重意義[J].求索，2020（6）：77-83.

[9] 張晉銘，徐艷玲.智能社會的“勞動”窘境及其化解[J].貴州社會科學，2022（10）：4-13.

[10] 康德.康德著作全集：第4卷[M].李秋零，譯.北京：中國人民大學出版社，2005：436-437.

[11] 李瑛.金融科技風險下的監管轉型研究[J].當代經濟管理，2022，44（2）：87-96.

[12] 池仁勇，阮鴻鵬，王昀.數字出版產業持續創新能力及提升路徑[J].中國出版，2019（12）：28-31.

[13] 令小雄，王鼎民，袁健.ChatGPT爆火后關于科技倫理及學術倫理的冷思考[J].新疆師范大學學報（哲學社會科學版），2023，44（4）：123-136.

[14] 港大禁用ChatGPT等AI工具，為全港大學首例 [EB/OL]. （2023-02-19）[2023-04-10].https：//m.gmw.cn/baijia/2023-02/19/1303288091.html.

[15] ChatGPT對學術出版影響幾何？出版商已明確幾條原則 [EB/OL]. （2023-02-17）[2023-04-10].https：//baijiahao.baidu.com/s？id=1758074768204761293&wfr=spider&for=pc.

[16] 王飚，毛文思.2022年我國數字出版發展態勢盤點及2023年發展展望[J].科技與出版，2023（3）：6-19.

A b s t r a c t ： C h a t G P T h a s d r iv e n a n e w w a v e o f a r t if ic ia l in t e llig e n c e r e v o lu t io n . H o w d ig it a l p u b lis h in gf a c e s t h e c h a ll e n g e s a n d o p p o r t u n i t i e s b r o u g h t b y t e c h n o lo g y h a s b e c o m e a n u n a v o i d a b l e i s s u e .C h a t G P T h a s im p o r t a n t a p p l i c a t i o n v a l u e i n d i g i t a l p u b l i s h i n g a n d p o s i t i v e l y im p a c t s o n t h eo r g a n i z a t i o n s t r u c t u r e ， d e c i s i o n -m a k in g ， a n d c o n t e n t e c o l o g y . H o w e v e r， e m b e d d in g t h e C h a t G P Tm o d e l in d ig it a l p u b lis h in g r e q u ir e s a c o m p r e h e n s i v e a s s e s sm e n t o f t h e p o t e n t ia l r o le d e g r a d a t io na n d in t e r e s t s in t r u s i o n a t t h e in d i v id u a l le v e l， t a le n t lo s s ， a n d v a lu e d is o r d e r a t t h e in d u s t r ia l le v e l，m o r a l d e g r a d a t io n a t t h e s o c ia l le v e l， a n d id e o lo g ic a l in f ilt r a t io n a n d d a t a s o v e r e ig n t y s e c u r it y r is k s a tt h e n a t io n a l le v e l. It is s u g g e s t e d t h a t t h e e t h ic a l p r in c ip le s o f n e c e s s it y ， e x p e r im e n t a t io n ， r e s p e c t ， a n dr e s t r ic t io n b e c o n s t r u c t e d t o b e t t e r u t iliz e t h e t e c h n ic a l e f f e c t o f C h a t G P T d ig it a l p u b lis h in g a n d t op r o m o t e t h e h ig h -q u a lit y d e v e lo p m e n t o f d ig it a l p u b lis h in g in C h in a .

K e y w o r d s ： C h a t G P T ; D ig it a l p u b lis h in g ; A r t if ic ia l in t e llig e n c e ; R is k m a n a g e m e n t ; E t h ic a l p r in c ip le