AIGC在數字文藝創作領域面臨的倫理風險

李師哲

摘要：AIGC作為一種新興的創作形式在網絡空間得到廣泛應用，不斷沖擊我國的原創數字文藝創作領域。AIGC的使用正面臨歸屬權不明確、掠奪個人創作成果、造成價值偏頗和虛假信息、違背文藝創作初衷等倫理風險。作為實質是以營利為目的的工業化生產手段，AIGC對于我國文藝創作領域的生產消費產生了消極影響，擠壓了原創文藝作品市場，也帶來了人類創作可能被取代的隱憂、私人信息泄露和信息造假的威脅，影響了人的主體性。因此，必須通過出臺相關的法律法規和行業標準、引入版權許可和收益分享機制、加強對AIGC技術的倫理和道德教育并明確對AIGC內容的標注等路徑降低其倫理風險，為新時代我國數字文藝創作領域的健康可持續發展保駕護航。

關鍵詞：AIGC；倫理風險；數字文藝創作

隨著人工智能技術的不斷發展和應用，AIGC作為一種新興的創作形式，正在不斷沖擊原創文藝創作領域。AIGC使用方式便捷，操作門檻低，應用范圍廣泛，已在我國數字文藝領域掀起新的革命，其來勢不可阻擋。但AIGC的興起也帶來了一些對現有生活方式和文化行業的威脅，在互聯網空間引發重重亂象。“文化興則國運興，文化強則民族強。”黨的十八大以來，以習近平同志為核心的黨中央強調要大力發展網絡文藝。2023年10月，全國宣傳思想文化工作會議上首次提出了習近平文化思想，總結了新時代黨領導人民群眾進行文化建設的實踐經驗，強調了文化建設的重要性。數字文化是當今時代文化發展的重要場域，為了響應習近平文化思想的號召，推進數字文化產業繁榮發展，保障人民群眾享有積極健康的精神文化產品，讓AIGC成為人類進步發展的輔助工具而不是奴役人民群眾的機器，保證人的主體性不受到侵犯，同時助力 “文化+科技”融合發展，讓數字真正賦能文化產業，AIGC在數字文藝創作領域面臨的倫理風險必須被正視并警惕。

一、AIGC的運作方式及特點

（一）AIGC的運作方式

AIGC （Artificial Intelligence Generated Content）又稱生成式人工智能，以生成對抗網絡、大型預訓練模型等人工智能的技術方法為基礎，學習和訓練已有數據，以一定泛化能力生成需求內容。[1]AIGC技術能生成具有一定創新性和實用性的內容，其運作流程包括四個步驟：一是數據收集，即從已有的人類創作中選擇符合要求的內容并將之收集形成數據庫；二是模型訓練，即機器學習過程，通過對數據庫中大量資料進行學習模仿并產生 “理解”；三是內容生成，根據用戶要求生成相應的創作內容；四是反饋與優化，即程序制作人員根據用戶反饋調整訓練模型。目前，AIGC仍處于發展初期，尚不具備獨立產出邏輯復雜的完整電影或內容繁復的精細圖形的能力，面臨一些技術限制，不能完全與人類創作媲美，一些批判使用AIGC的群體掀起一場浩浩蕩蕩的 “鑒AI”活動，通過對文本邏輯的審視和挑剔圖像線條結構的不合理來辨識作品是否為AI創作，不過目前許多人仍然沉浸在參與合成創作的趣味之中。

（二）AIGC的運作特點

AIGC運作思路是模擬人類行為邏輯，以計算機為載體創造類人類的 “虛擬思維”，它的運作具有獨立性、創造性、高效性和價值中立性四個特點。一是AIGC在一定程度上獨立于人類思維，有自我訓練和完善功能，可以針對特定任務進行微調，以滿足不同研究應用的需求；二是AIGC也不是直白的對過去信息進行簡單的復述拼接，而是經由 “算法迭代”和 “代碼轉換”創造出具有新特點的產出，甚至可以實現對不同模型的轉化，還具有海量的數據儲存能力，能反芻自己生產的海量內容，并駕馭多種語言，適應復雜文化背景，盡管它還無法充分確證事實知識，但具有基本的社會認知力與社會行動力，也可以通過文本和圖像在一定程度上識別和反饋情緒。[2]同時，它本身只是一種信息科技和人造工具，并不談及倫理、價值和意識形態等上層建筑，只是對具象事實、信息和數據進行實證性處理。

（三）AIGC的廣泛應用

AIGC在我國的文藝創作、媒體宣傳、自動駕駛、金融風控、健康醫療、物聯網、安防監控等領域已獲得廣泛應用。[3]在數字文藝創作領域，AIGC無疑降低了創作的門檻，提高了創作效率和包容性。它在商業領域展現了極大優勢，足以完成大部分設計、寫作訴求。大量企業選擇把插畫文稿、宣傳視頻交給AIGC，減少了重復性的工作，提高了工作效率。長遠來看，AIGC改變了當今社會的生產關系，促使社會生產力產生重大進步，信息數據成為堪比煤電的搶手資源，推進人類社會信息化轉型。

AIGC的這些特點無疑帶來了一場新的產業革命，但也隱含可能給數字文化產業帶來的倫理風險。它不會被具體的個人掌控，具有一定的創新重組能力，且無法真正識別價值對錯，只是冷冰冰的機器和代碼，無情地生產大批量自身也無法真正道出來龍去脈的 “作品”。

二、AIGC可能涉及的倫理問題

當新型的生產技術的高速更新迭代超越現有倫理架構時，由于人趨利的本性，在新技術使用時會難以避免地產生大量侵害他人權利的行為，造成社會矛盾。AIGC的大規模興起也已經引起了數字文化領域相當一部分生產者的聲討。為了把握中國特色社會主義基調下數字文化建設的特點和規律，AIGC存在的倫理問題值得持續深入探討。

（一）歸屬問題：AIGC歸屬權不明確

傳統的文藝作品由人創作，其著作權和知識產權歸屬明確，相比之下，AIGC作品的權屬難以確證，AI技術模型、程序員、藝術家、作家以及終端用戶都會對生成內容產生影響。《中華人民共和國著作權法》明確規定著作權人僅包括 “作者、其他依照本法享有著作權的公民、法人或者其他組織”，因此AIGC的版權不屬于計算機本身。賦予AIGC終端用戶著作權會導致用戶借助AIGC奪取原創作品的市場利潤，將AIGC作品的版權無主化則會引發創作者的強烈異議，創作者普遍篤定納入AIGC訓練數據集的作品應當擁有著作權。AIGC的歸屬權不斷引發現實紛爭，如一起案件中原告起訴被告將AIGC圖片在另一網站無授權使用，北京互聯網法院一審判定AIGC圖片應當受到著作權法保護，但更多人認為版權不能歸屬于原告，因為涉案作品實際上是用他人作品融合生成，是 “小偷偷走了另一個小偷的東西”。

AIGC的版權歸屬至今依然是一個懸而未決的難題，還需追隨時代步伐，盡快對AI創作的著作權界定、著作權轉讓與許可、機器學習數據集的使用版權等法律法規進行修訂和完善。[4]部分平臺也不得不重視用戶訴求而再次審視AIGC的權力邊界，為原創作者提供 “NoAI” （拒絕AI）的服務協議，打造更尊重文藝工作者的數字文化交流服務平臺。

（二）侵權問題：個人無法抵抗AIGC的掠奪

AIGC的本質是機器學習，通過互聯網從現有文藝作品的圖文中提取內容進行訓練，這些 “靈感”的爬取無須經過原作者的許可，它史無前例的融合能力使證據收集困難，原創作者既無法維權或收回作品，也不能防止AI繼續獲取，這讓更多人注意到AIGC的倫理風險，反抗這場 “不打招呼且規模浩大的掠奪”。

國內數位原創創作者發現小紅書官方發布的AIGC圖片明顯拷貝了自己的作品，認定該平臺侵犯了自己的著作權并將小紅書及其AI模型庫告上法庭。這些原創作者希望該起案件能為我國原創數字文化作品及AIGC行業樹立新的法律邊界，推進著作權相關法律標準更新，為廣大數字文藝創作者提供更有保障的文化生態。除了創作者的權益在AIGC的使用過程中可能遭到掠奪之外，還有個人肖像和隱私信息被無授權獲取的問題。如在AIGC合成視頻和影像時使用AI換臉或者將數據庫中的人物臉譜當成素材挪用至其他場景，AIGC數據庫中的面孔來源甚至可能對自己的肖像使用完全不知情，也無法抵抗這種掠奪，其他隱私信息包括聲音、行程、地址等信息也是如此，可能會無條件地展現在終端用戶眼前。

（三）道德失范：AIGC造成價值失序且生成虛假信息

在AIGC生成過程中，由于輸入關鍵詞、風格偏好、限定要求等方面因素的影響，AIGC生成的作品可能出現不符合社會主義價值觀的內容，必須關注AIGC應當承擔的社會責任，防范其帶來潛在的負面影響，目前AIGC引發的較為突出的道德失范問題主要是價值失序和虛假信息。

“對他者心靈的感知，無論是對人類還是人工物，都會對主體的社會行為產生重要影響。”[5]AIGC價值失序包含多種影響社會穩定的有害價值取向，通過終端的集中輸出生成可能造成算法歧視，其將良莠不齊的互聯網內容不經篩選地作為素材庫，經過學習模仿引入性別、地域或其他偏見。[6]在AIGC撰寫新聞時也面臨類似忽視道德情感、意識形態、社會習俗等價值失序的問題，如果新聞界高度依賴AIGC模型則可能會形成技術型路徑依賴，產生追求流量而捏造非正義現象的可能。

AIGC合成的虛假信息更復雜棘手，已經有不法分子利用AIGC合成人臉動態視頻、AI換臉、音頻進行詐騙、破解身份核驗、售賣低俗色情圖像視頻等犯罪活動。[7]不少受害者發現詐騙視頻或低俗視頻中出現的形象和音色幾乎就是自己或親友的，完全真假難辨。這種利用虛假信息的違法犯罪行為給社會治安帶來了新挑戰，需要相關機構嚴格限制技術使用的方式和門檻，加強網絡安全監管。

（四）違背文藝創作的初衷：以營利為目的的工業化生產

AIGC為所有人提供了輸出權利，但這個過程與其說是創作，不如說是工業生產，與文藝創作的獨特性相悖。塞尚認為：“一件藝術作品不是從情感開始的，這不是藝術。”創作基于個體對生活的經驗感知，是人生感悟的實體化再現，而AI作為一種客觀的數據運算，無法真正復現創作中的人類思考。人類的創作作品通常包含個人對人生境遇和時代浪潮的思考，存在現實的靈感來源和完整的構思脈絡，而AIGC的作品常呈現出邏輯斷裂的問題，即無法闡述完整的創作意圖和構思邏輯，人類思考的邏輯性無法在數據運算中得到復現，機器無法推測邏輯思考后事件發展的合理程度，也因此，在文學創作和影視劇生成中AIGC技術運用仍然無法獨自運行。AIGC在圖文音頻領域對現實勞動生產的取代使生產效率達到人類的數百倍，用流水線化的、沒有 “靈魂”的作品占據更大的數字文藝市場，此時AIGC的目的不再是 “表達”，而是通過非正當競爭擠壓傳統創作的市場，達到營利目的。

三、AIGC對我國數字文藝創作產生的消極影響

（一）對數字文藝創作領域的生產消費產生消極沖擊

AIGC可能對數字文化產業的生產消費產生一些負面影響。一是它可能使傳統創作者失去原有的個人風格和特色，陷入被AI剽竊學習或對AIGC作品的虛假浮夸的創作風格盲目追逐的困境，造成同質化現象，不利于文化產品的差異化發展；二是AIGC的流行使文藝工作者對AIGC技術過度依賴，不正當使用AIGC技術蒙騙消費者，擾亂市場，抑制原創文化創作動力；三是可能使消費者對于藝術作品的評價和接受出現更多的誤解和偏見，消費者辨別能力不足受到欺騙，受大量AIGC作品蒙蔽而難以提升文藝鑒賞水平，對集體審美建構和文藝思考產生消極影響，從而整體上影響真正有價值的文藝作品的傳播和影響力，不利于我國數字文化話語體系構建。[8]

（二）帶來替代原創創作的隱憂

AIGC這一科技革命成果給公眾生活帶來了諸多福音，但也造成了對人的主體性的挑戰。AIGC的應用和發展替代勞動者完成了工作中機械煩瑣、技術含量低的部分，但也奪走了不少文藝工作者的努力和成果，讓人擔憂過度使用AI會被反向馴化為技術的奴隸，創造力退化，影響數字文化領域生態，阻礙文化產業高質量發展。

在馬克思看來，“人的主體性就是要通過主觀能動性實踐來充分張揚人性，凸顯人相對于其他一切存在獨一無二的特性，并在實踐過程中實現人的自由而全面的發展”。馬克思認為勞動是構建人類社會性的根本手段。“勞動創造了人本身。”[9]且這種勞動必須是以自然界客體為對象的實際勞動，而非虛擬生產，這體現了馬克思對歷史唯物主義的貫徹。未來隨著我國法規制度的完善和價值引導的加強，公眾擔憂會有所減輕，但由于AI大規模應用時間較短、易用性高、成本低廉、受到商業市場青睞，著作權法沒能及時更新，倫理規范沒有得到普及，目前仍有許多創作者感到焦慮悲觀。

（三）帶來信息泄露和信息造假的威脅

AIGC由于并不能明辨是非判斷價值，在學習網絡信息之后可能將個人信息融合扭曲，輸出給陌生用戶，這種個人信息的泄露可能造成人身安全和財產安全等方面的威脅，黑客可能分析作品中隱含的信息，對毫不知情的受害者進行 “人肉”，造成隱私侵害。[10]AIGC生成的價值失范內容對公眾的誤導、欺騙也會逐漸消減公共領域的理智德行。在信息造假的問題上，公眾目前還無法脫離 “有圖有真相”的經驗思維，對海量真假難辨的信息難以招架，因此可能產生針對個人或集體的誹謗事件，因此及時更新法律、完善行業規范勢在必行。[11]另外，AIGC已經開始了對于真實內容數據庫的信息污染，在自然人文攝影和科普知識領域，AIGC已經生產了大批足以以假亂真的照片，這些圖片流入書籍素材庫，對科普攝影書籍的編寫造成了巨大的障礙，也無益于歷史檔案構建和高質量文化產品的輸出。

四、減少文藝創作領域AIGC引發的倫理風險的路徑

為了貫徹以人民為中心的價值理念，滿足人民日益旺盛的精神需要和物質需要，在數字文化領域建設時必須把社會效益放在首位，實現社會效益和經濟效益相統一，AIGC生產必須明確邊界，成為文藝創作領域繁榮興盛的催化劑，而不是絆腳石。

（一）盡快制定AIGC相關的法律法規和行業標準體系

對技術應用邊界的思考和倫理法規框架的更新不能過遲，否則將會引發技術倫理危機。面對AIGC的興起，一是要盡快成立專業化監管部門，針對應用AIGC的各個領域精細化商定相應法律法規，應對不同的應用場景，行業標準也要盡可能貼合現實；二是要盡快出臺并落實相關的政策，使AIGC在版權方面的義務得到充分體現，如遵循自愿性原則，賦予創作者把作品納入數據庫的知情權和拒絕權，以此尊重和保護知識產權，為數字文藝創作領域的健康發展提供法律保障，也為創作者維護權益提供法律武器，提升建設高質量數字文化的積極性；三是對互聯網平臺嚴格監管，互聯網是不可或缺的作品分享展示平臺，加強監管有利于減少AIGC亂象、避免網絡平臺針對創作者個人的霸王條款，清明網絡生態，維護線上創作分享環境，還公眾一個更加理性舒適的公共空間；四是嚴格對AIGC產出發布之前的倫理審查，減少不符合道德規范的AIGC作品傳播，以免造成公共不良影響，目前國內外已經有措施限制AIGC的終端低俗內容的輸入以優化其應用領域。

（二）引入版權許可和AIGC收益共享機制

在音樂、電影等領域AIGC技術的引入時間較早，如運用電腦合成與人類藝術家風格技法相似的歌曲音樂、人聲和樂器音色，這些AIGC內容已經普遍融入了音樂創作的生產流程，也產生了相對完整的收益共享流程。在其他創作領域也可以適當引入這些先驅經驗。例如，在文學繪畫創作中引入版權許可和收益共享機制，許諾作品納入AIGC數據庫的原創者以相應的收益分成，確保當AIGC利用原創作品生成新的AI作品時原作者的權益得到保障，讓更多創作者在AIGC創作領域發展過程中獲益，避免原創積極性降低或原創作品市場萎縮，同時也能激勵更多創作者主動共建AIGC領域，在面對版權糾紛時也能依據規則獲得合理有效的賠償。

（三）加強對從業者的倫理和思想道德教育

AIGC作為機器本身不具備判斷價值的能力，但從業者可以采用手段引導機器的學習偏好和輸出。對于工具輸出的價值把控是在新技術風暴席卷時人類掌握自身主體性的重要體現。因此，建設數字文藝創作領域必須強化對AIGC從業者的思想道德素養和工作規范教育。[12]一是通過對從業者進行思想道德教育，通過充分的社會責任引導，確保AIGC技術在數字文藝創作領域的規范使用，如限制終端不符合價值導向的關鍵詞輸入，不執行違背公序良俗的要求；二是通過算法優化，提高AIGC對道德法則的鑒別能力，在訓練中加入道德倫理實踐與德行學習，從而對德性行為、情感與動機進行有效識別；三是要注重數據過濾，嚴格對失德信息的篩選，拋棄其中可能與公眾價值導向相悖的內容，避免其成為AIGC的數據來源，在模型中加入社會主義核心價值的規訓；四是除了文藝創作之外，從業者和使用者也要謹慎選擇AIGC的應用領域，尤其是在涉及數據記載、學術研究等方面。

（四）明確對AIGC內容的標識

由于AIGC技術飛速發展，當前公眾已經沒有能力快速精準地辨別AIGC作品，因此也無法可靠辨別內容真實性，對AI作品的特殊標注尤為必要，否則會導致有需求通過文藝作品鑒賞提升審美能力或學習文藝作品的人無從辨別真正的創作邏輯和作品背后的情感哲思。為了引導積極的文化消費，規范文化消費市場的健康可持續發展，必須明確對AIGC作品的特殊標注，嚴格規范其用途，以防消費者受到欺騙或者價值誤導，避免機器對人類審美能力的反向馴化和信息污染，使數字文藝創作市場風清氣正，充滿活力，創作出更多具有對新時代社會的價值思考和情感認同的精美數字文化作品。

五、結束語

AIGC在各個領域的應用是大勢所趨，盡管爭議此起彼伏，但時代浪潮滔滔向前，風口已至，新技術也不會因部分人的質疑而停止發展，創作者創造的多種藝術形式和數年磨煉創作的心血成果也不會僅因為一種新興技術而付之一炬。人類作品所反映的歷史文化語境、其中蘊含的情感價值和審美意義是目前AIGC難以企及的，“人是媒介的尺度”，美學脫離人類主體將毫無意義，只要人類還需要創作來傳達思想情感，就永遠不會被替代。

習近平總書記提出要適應形勢發展，抓好網絡文藝創作生產。為了踐行習近平文化思想，促進文藝創作活力涌現，數字文化產業繁榮發展，網絡空間文明交流互鑒，我們應當在數字文藝創作方面謹慎使用AIGC，明晰定位，挖掘潛能，規范內容，挖掘新的創作形式，確保技術為人服務、不會對人類的利益和價值產生消極影響，為人民群眾的精神世界創造新的財富。AIGC是一把 “雙刃劍”，但技術本質與倫理道德并不背反，不必以二元對立的方式來看待這項新興技術，只有突破學科邊界，建立新的倫理規范，把工具緊握在自己手中，才能彰顯人的主體地位，促進中華優秀傳統文化創造性轉化和創新性發展，打造自信繁榮的數字文化，在新時代彰顯 “科技+文化”創新協同力量，書寫網絡文藝新篇章。

參考文獻：

[1] 郭全中，張金熠.AI+人文：AIGC的發展與趨勢[J].新聞愛好者，2023（03）：8-14.

[2] 俞鼎，李正風.生成式人工智能社會實驗的倫理問題及治理[J].科學學研究，2023（12）：6.

[3] 曹建峰.人工智能治理：從科技中心主義到科技人文協作[J].上海師范大學學報（哲學社會科學版），2020，49（05）：98-107.

[4] 劉嬙.AI繪畫：藝術革命還是倫理危機？[N].光明日報，2023-04-02（001）.

[5] 陳巍.擬人化人工智能：神經基礎與倫理承諾[N].中國社會科學報，2022-12-13（007）.

[6] 扶暄澤.AIGC元年背景下人工智能繪畫的突破、爭議與反思[J].新美域，2023（09）：25-28.

[7] 葉桐瑞，劉明洋.生成式AI的技術滲透與新聞業的倫理反思[J].青年記者，2023（16）：89-91.

[8] 楊宇鶴.AI繪畫的演化、影響與思辨[J].傳媒，2023（17）：52-55.

[9] 馬克思恩格斯文集[M].北京：人民出版社，2009.

[10] 胡正榮，李涵舒.顛覆與重構：AIGC的效用危機與媒介生態格局轉化[J].新聞與寫作，2023（08）：48-55.

[11] 徐暢，杜欣澤，于凱迪.AIGC在設計行業應用中的挑戰與策略[J].人工智能，2023（04）：51-60.

[12] 錢佳，康寧.AIGC視域下藝術與傳媒專業融合創新與重構研究[J].傳播與版權，2023（14）：114-116+120.