“人—技”關系視域下AI在出版行業的創新應用

【摘 要】人工智能對重塑內容生產力產生了深遠影響，AI在出版行業的選題策劃、內容生產、內容審校等各個環節可提供強有力的支持，重構出版流程。新技術的應用引發“人—技”關系錯位，技術控制力不足導致內容準確性降低、知識產權保護不力、用戶隱私安全受到威脅等倫理問題。對此，應厘清“人—技”關系，從保障人的主導位置、提升內容篩選檢測力度、提高知識產權保護能力、強化用戶隱私安全意識等方面入手，防范AI應用風險，實現人與技術的同生共進。

【關 鍵 詞】AI應用；人工智能；出版；“人—技”關系

【作者單位】王飚，中國新聞出版研究院數字出版研究所；魏婧，北京語言大學出版社。

【中圖分類號】G230.7 【文獻標識碼】A 【DOI】10.16491/j.cnki.cn45-1216/g2.2024.13.003

人工智能（AI）引領新一輪的內容創作技術革新，深刻改變著內容的生產方式，對重塑內容生產力產生了深遠影響。2022年11月，OpenAI引入了一款先進的AI聊天機器人——ChatGPT，其具備與用戶實時互動的能力，并能自動生成流暢且邏輯清晰的自然語言回應。ChatGPT功能豐富多樣，無論是解答基礎問題，還是創作詩歌、故事，編寫程序代碼，乃至進行語言翻譯、編寫文本摘要、撰寫行業分析與商業計劃書，其均能勝任。ChatGPT的推出引發了社會各界對AI的廣泛關注，隨后，眾多AI工具不斷涌現，并逐漸成為內容生產的重要基礎設施，廣泛應用于廣告、媒體、教育、藝術等諸多領域。在出版領域，AI主要在內容策劃、生產、審校等各個環節提供支持。

值得注意的是，AI給出版行業帶來的影響是雙面的。一方面，AI簡化了出版生產流程，為各環節提供技術支持，將出版從業人員從重復勞動中解放出來，提供更豐富的社會發展信息、科學文化信息、市場信息并進行智能分析，對出版行業生產力提高具有重要作用；另一方面，AI深度介入出版流程，引發“人—技”關系異化的問題，出版行業亟須關注技術應用中的倫理失范現象并予以應對。

一、AI應用：人工智能技術重構出版流程

傳統的出版流程包括選題策劃、組稿、編輯加工、審校等多個環節，完成整個流程需要耗費大量時間和人力以保證出版物質量。AI技術的應用可重構出版流程，降低出版運行成本，提高出版工作效率。

1．AI在選題策劃方面的應用

在選題策劃環節，AI可以幫助內容策劃者全方位地收集信息，有針對性地進行分析并作出決策，充分、準確地把握用戶需求和市場趨勢，預測未來市場表現和潛在風險，為出版選題策劃提供依據。

第一，AI可以針對選題策劃全方位地收集信息。人工智能技術可以采集并分析大量數據，包括消費者行為、相關用戶畫像、社會熱點話題、市場發展趨勢、同類內容市場表現、作者信息等。借助這些數據，編輯可以在選題策劃過程中更好地確定目標受眾、了解受眾需求，并快速生成文本、圖表等可視化內容以為選題決策提供依據，進而策劃出社會效益和經濟效益并重的內容選題。

第二，AI可以助力拓展選題內容和拓寬選題思路。在已有選題的情況下，AI可以通過對大量數據進行學習和分析，對已有選題進行深入挖掘和內容拓展，生成潛在的新選題；幫助編輯發現新的視角，拓寬選題思路，增強內容策劃的創意性和多樣性，從而提高內容的吸引力和受眾的參與度。

第三，AI可以對所策劃內容進行預測分析。一方面，AI可預測內容的市場表現，幫助編輯提前了解出版物面世后可能達到的效果，然后及時調整內容生產策略，避免資源浪費；另一方面，AI可預測內容潛在的風險和危機，為編輯提前預警或幫助編輯預先準備應對方案，避免可能產生的負面影響［1］。

2．AI在內容生產方面的應用

隨著AI對圖文聲像處理能力和學習能力的不斷增強，其可根據用戶需求短時間內生成文章、詩歌、音樂、視頻、動畫等多種內容形式，在使用者的引導下完成多樣化的內容創作。基于此，編輯運用AI在內容生產方面可以實現自動內容生成、智能細節優化以及輔助創作等，獲得豐富的內容資源。

在語言處理方面，AI能夠實現新聞稿撰寫、論文寫作等專業方面的自動化應用。通過自然語言處理和訓練，AI可以快速地分析大量數據，提取關鍵信息并生成結構清晰、語言流暢的文章［2］。應用在出版領域，如撰寫出版物營銷廣告文字方面，AI可以實時抓取網絡信息，結合社會熱點話題生成相關文案，還可以根據不同平臺需求轉換文字風格，快速創作符合互聯網傳播規律的內容，增強營銷文案的傳播效果。在出版物輔文等相關內容的創作中，AI可以幫助編輯梳理出版物的主要內容，抓取內容亮點，生成參考樣例，提高編輯工作效率。

在視覺處理方面，AI通過語音識別和圖像識別，可自動將文字稿轉化為視頻腳本，并生成相應的畫面和音效。這不僅提高了視頻制作的效率和質量，還為創作者提供了更多的創意空間。目前，一些研究團隊和公司已經利用深度學習和生成對抗網絡（GANs）等技術，開發生成高質量的動態交互性3D模型，這對數字出版中的教育、科普、互動故事書等方面的內容制作有很大助益。

在內容生成后，AI可以通過用戶反饋，對生成的內容進行自動化、智能化的優化修改。在傳統的創作過程中，創作者收到受眾反饋后需要手動對作品進行修改和調整，而AI可以通過分析反饋數據，自動識別作品中存在的問題和不足，并給出具體的修改建議。這使得編輯能夠更快速地響應受眾需求，提高作品的質量和用戶滿意度。同時，AI還可以作為內容生成的輔助工具。在傳統的內容生產中，不會編寫計算機語言的創作者無法運用代碼制作網頁，但借助AI，創作者不再需要自己編寫代碼，只要能讀懂代碼，就可以向ChatGPT等AI工具發送制作指令，由AI生成所需代碼，并將生成代碼粘貼進HTML文件，優化調整后即可完成簡單的網頁制作，為數字出版的內容生產注入新的活力。

總體而言，AI在內容生產方面的應用已經深入到自動生產、智能優化以及輔助創作等各個環節，這些應用既提高了內容生產的效率和質量，又為出版從業人員帶來了更多的創作便利性。

3．AI在內容審校方面的應用

內容審校是出版物生產過程中的一個重要組成部分，對出版物質量把控有著不可忽視的作用。內容審校需要耗費大量的人力和時間，盡管已有自動化工具應用于字詞、標點、敏感詞等方面的輔助審校，一定程度上提高了內容審校的工作效率，但難以對深層知識性錯誤進行校核，對數字化時代的多媒體內容也無法準確識別，這增加了編輯審校工作的難度。AI技術的介入構建了更加完善的知識庫，在智能審校的語義分析和知識性檢測等方面大幅提升了編輯的工作效率。AI可以通過圖像識別、計算機視覺、自然語言處理等技術手段，對圖片、音頻、視頻等多種類型的內容進行自動化審核；通過訓練模型能識別違規信息，如色情、暴力、虛假廣告等，從而實現對違規內容的快速攔截和過濾。

二、倫理失范：技術控制力度引發應用風險

從技術哲學主客二分的理論框架來看，在“人—技”關系中，人應該處于主體地位，是有意識、能思考的存在，技術則應該處于客體地位，是被創造、被統治的事物，是一種為人使用和提供服務的工具性質產物［3］。AI應用中表現出的“人—技”關系異化主要體現在人對技術的控制力度不足，容易產生一系列內容安全隱患。

1．個體自主性問題

AI在內容生成上的廣泛應用不僅會對出版內容及相關數據產生沖擊，對處于出版流程中的個人也將帶來影響，尤其是直接使用AI輔助創作的編輯和作者。越來越多的內容可以通過AIGC完成，生產過程更加快速、高效。這種現象會導致創作者更加依賴人工智能，減少自身的思考和創作，作為創作的主體意識日趨減弱，逐漸讓渡自身作為內容創作者的主體地位，讓AI從輔助工具發展成為創作主體工具，淡化人的自主性［4］。

2．內容準確性問題

盡管AI生成內容高效便捷，但也可能存在知識性、科學性、事實性等方面的錯誤。一是由于世界在不斷變化發展中，信息也在不斷地更新迭代，AI的訓練數據往往難以做到實時更新，這就意味著AI生成的內容可能無法及時反映最新的知識、科學成果或事實真相。基于原本數據的生成方式，使得AI在應對快速變化的信息環境時，往往力不從心。因此，AI生成的內容可能在一定程度上存在滯后性，甚至可能誤導用戶。二是數據質量問題會導致AI生成內容出現錯誤。AI的訓練數據來源于多個渠道，這些數據的質量參差不齊，有的可能存在錯誤、誤導性或偏見。當AI模型基于這些數據進行訓練時，就有可能將這些錯誤或偏見帶入生成的內容中，這不僅影響了AI生成內容的準確性，還可能誤導公眾，對輿論環境和社會穩定造成不良影響［5］。三是AI算法復雜且運行透明度低，生成過程不可控，內部運行機制有時難以被理解和解釋。如ChatGPT是通過自動生成的大預言模型來回復用戶提問，但其并不具備推理能力，只能根據上下文語境來回答問題，但不對答案的真實性進行驗證，導致錯誤答案的產生。這一過程無法被用戶識別和干預，且生成內容看似合理且連貫，容易被用戶接受［6］。

3．知識產權保護問題

AI作為一種技術工具，其內容生產活動被視為中立行為，然而，如果AI被用于大規模的內容生產，將面臨一系列知識產權問題。這些問題主要包括三個方面。一是AI作品是否符合原創性要求。版權法認定的作品需要具有一定的原創性，而AI創作內容建立在學習了大量現有作品的基礎上，這些新作品是否具有獨創性有待商榷。二是侵權責任認定。如果AI在內容生產過程中有對他人作品過度引用或模仿行為，侵犯了他人現有的知識產權，侵權責任歸屬于AI開發者還是使用者，尚無定論。三是AI作品的版權歸屬。當AI創作出一部作品，如小說、歌曲或畫作，傳統意義上的“作者”或“創作者”概念變得模糊，AI創作的作品版權歸屬于AI的開發者、使用者還是AI本身，在法律上的界定尚不明確［7］。

4．用戶隱私安全問題

數據隱私與安全問題是AI在應用過程中必須面對的挑戰。AI需要處理大量的用戶數據，包括個人信息、瀏覽記錄、搜索歷史等，這些數據的采集可能未經用戶同意，一旦被泄露或濫用，將給用戶帶來極大的隱私風險。同時，AI模型本身也可能存在安全漏洞。由于人工智能技術的復雜性和不斷更新換代的特性，其代碼和算法可能存在未知的缺陷和漏洞。這些漏洞一旦被黑客發現并利用，可能會導致AI系統被攻擊或濫用，這會給內容生產者帶來重大的經濟損失。

三、原則規范：出版流程人機協同防范技術問題

在當前技術發展中，基礎的倫理問題是人與技術的關系，只有深刻認識這個問題，才能正確處理“人—技”關系，讓技術為生產生活賦能。AI應用于出版領域，需要強調人的主體地位，以人為本，以技為用，由人控制技術應用的全過程，加強內容控制，防范技術風險。

1．保障“人—技”關系主導地位

發展技術的目的是幫助人進行自我完善，解決生產生活中遇到的問題，提高工作效率，人工智能技術存在的意義應是為人服務，在技術倫理道德規范下，人要控制技術，在“人—技”關系中處于主導地位。首先，確定人的主導地位。在使用AI的過程中，要明確AI是作為輔助工具延伸人的感知力、強化人的能力，為人的需求服務。其次，維護人的主導地位。AI的不斷發展對編輯、作者等AI使用者的科學素養尤其是科技創新能力提出了更高的要求，因此，AI使用者應不斷提升素養，追蹤和掌握AI相關知識，增強對AI的認知和理解，學會正確應用和控制AI工具，保持對AI的批判性思維。最后，防止技術倫理失范。人在AIGC使用中要增強風險憂患意識，注意防范預警。如英國技術哲學家大衛·科林格里奇在《技術的社會控制》（1980年）提出的“科林格里奇困境”：在技術發展的早期控制其應用方向相對容易，但此時決策者缺少合理控制的專業知識；當技術應用的風險顯露時，對它的控制卻幾近不可能［8］。因此，要時刻保持前瞻意識，盡早識別、預防并制定相應的措施，以應對未來可能引發的新的倫理失范現象。

2．提升內容篩選監測力度

人作為“人—技”關系的主體，要對AI生成內容質量負責，尤其是在對內容質量要求更高的出版領域，需要出版從業人員在內容生成過程中承擔數據優化、數據把關的責任，這可以從源頭數據篩選和生成結果監測兩方面入手。一是進行嚴格的訓練數據篩選。AI生成內容存在導向性偏差和知識性錯誤等問題，往往是因為訓練數據質量參差不齊。因此，為確保生成內容的準確性和可靠性，需要選取高質量的預訓練數據進行數據清洗，檢查數據的完整性、準確性、時效性、多樣性等，并時刻保持其更新狀態，防止偏見、誤導等信息。這不僅能顯著提升大模型的內容生成質量，還有助于防范隱私數據的誤用。二是加強對生成內容的監測。既要從數據源頭著手，有效防范相關風險，又要加強對AI生成內容的實時監測與檢查，如開發自動監測工具，追蹤生成內容的來源和生成過程，記錄AI工具的版本、數據來源和生成內容的上下文，以及時發現并處理AI運行過程中可能產生的算法歧視、算法偏見等安全隱患，確保生成內容的安全與合規。

3．提高知識產權保護能力

加強AI在內容生產領域的知識產權保護是一項艱巨且復雜的任務，不僅需要出版從業人員的努力，還需要多方共同協作。首先，應完善法律法規，通過制定或修訂現行知識產權法律，明確AI創作成果的版權歸屬、責任劃分及侵權處置機制。在此過程中，應著重探討AI本身是否具備成為版權主體的資格，以及如何界定AI與人類共同創作作品的版權歸屬問題。其次，應從技術層面出發，提升AI內容生產過程的透明度，或研發新型技術工具以追蹤和監控AI生成內容，確保其具備可審計和可審查性。這將有助于確定內容的來源及創作流程，進而在發生侵權事件時能夠迅速追溯責任主體。最后，應倡導并鼓勵AI生成內容的所有者進行版權登記，以便有效證明其所有權及創作時間，既便于防止AI生成內容被不當使用，又能在遇到法律糾紛時提供確鑿證據。

4．強化用戶隱私安全意識

加強數據與隱私保護是有效解決用戶隱私安全問題的重要措施，這是出版企業應當肩負的責任，也體現了社會的廣泛共識。在使用AI進行內容生產的過程中，出版從業人員必須嚴格遵循數據保護相關的法律法規，建立完善穩健的數據保護機制，如制定詳盡且全面的數據保護政策，以明確數據收集、存儲、使用以及共享等各環節的規范與要求，確保用戶數據的安全性和隱私性得到切實保障。此外，應致力于提升用戶的隱私保護意識，加強隱私教育工作。當前許多用戶對數據保護與隱私安全的認識尚不足，容易忽視自身的隱私權益，需要通過宣傳教育、專業培訓等多種途徑，深化用戶對數據保護與隱私安全的認識，并引導其重視和關注自身的隱私權益，從而營造一個安全、可信賴的數據使用環境。

四、結語

從實用的角度出發，AI技術為內容創作者提供了更豐富的信息和更廣闊的創作空間。從PGC、UGC到AIGC，越來越多的人加入內容創作領域，互聯網內容不僅在數量上實現了指數級增長，其類型和風格也展現出愈發包容與多元的生態格局。如果說AI對普通用戶的增益效果是從0到1的躍升，那對專業人士的增益效果可能就是QyiJiJeSsHZj1sj45xECisTWSN7FbMyp1ozvgZuWXj8=實現從1到10的跨越。高效的AI工具使內容生產者能夠集中精力處理更為核心、更具價值的工作內容，出版從業人員應當培養自身使用、善用人工智能技術的職業能力，挖掘AI潛能，讓AI賦能出版流程。

從長遠來看，人工智能技術的深度融合與不斷革新為出版領域的內容生產與創新活動注入源源不斷的活力，并有望推動其發展進程進一步加速。但我們也應該清醒地認識到，在享受AI帶來的便捷與高效的同時，要深刻認識并厘清“人—技”關系，高度重視并強化倫理和法律問題，確保AI的發展和應用始終在可控、合法的軌道上運行。只有打造健康的AI應用生態，注重人與技術和諧共生，才能真正解放創作者的生產力，提高內容生產效率，讓技術真正為人類社會的進步貢獻力量。

｜參考文獻｜

［1］ 王峻峰. 人工智能生成內容（AIGC）及其在圖書出版中的應用探討［J］. 傳播與版權，2023（10）：48-51.

［2］ChatGPT之后，AI如何革新數字內容創作［EB/OL］.（2023-05-16）［2024-07-01］ . https：//mp. weixin.qq.com/s/SHzgUvFNXcCWIBN15TpbkQ.

［3］張培. 技術倫理視角下的VR廣告“人—技”關系研究［D］. 太原：山西大學，2021.

［4］劉珺. “人工智能+”背景下視聽媒體內容生產的創新和隱憂［J］. 中國傳媒科技，2024（6）：7-13.

［5］ 矣曉沅，謝幸. 大模型道德價值觀對齊問題剖析［J］. 計算機研究與發展，2023（9）：1926-1945.

［6］陳建兵，王明. 負責任的人工智能：技術倫理危機下AIGC的治理基點［J］. 西安交通大學學報（社會科學版），2024（1）：111-120.

［7］ 史鑫鑫，生奇志. 生成式AI：ChatGPT爆火背后的知識產權問題探析［J］. 科技傳播，2023（9）：80-83.

［8］卡爾·米切姆，朱勤. 關于技術與倫理關系的多元透視［J］. 哲學研究，2007（11）：79-82.