從ChatGPT火爆看智能生成內容的風險及治理

金雪濤 周也馨

【摘要】人工智能技術的發(fā)展，為內容生產領域帶來了生產力和生產關系的變革，智能生成內容（AIGC）成為繼專業(yè)生成內容（PGC）、用戶生成內容（UGC）后全新的內容生產模式，各類AIGC應用在海內外市場上廣受關注。文章從關鍵技術、生產主體、版權主體/確權、市場主導力量、虛實關系等方面入手，廓清AIGC帶來的產業(yè)結構性變革，對AIGC所帶來的加劇“信息繭房”、造成信息失真、產生技術倫理及增大版權管理難度等問題進行說明，進而提出基于風險分類的動態(tài)治理、基于主體職責的系統(tǒng)管理、基于全球視角的協(xié)同治理等措施，以期為AIGC治理提供一定的參考。

【關鍵詞】AIGC GPT 算法 版權歸屬 技術倫理 綜合治理

【中圖分類號】G206 【文獻標識碼】Ａ 【文章編號】1003-6687（2023）11-029-07

【DOI】 10.13786/j.cnki.cn14-1066/g2.2023.11.004

2023年年初，ChatGPT一躍成為AI技術應用的頂流，學界、業(yè)界對生成式預訓練語言模型的智能程序、生產內容及各類影響進行了激烈和廣泛的討論，話題持續(xù)升溫。ChatGPT是基于自然語言處理和深度學習的對話式人工智能模型，[1]帶來AI內容創(chuàng)作領域生產力和生產關系的新變革。在深度學習的強大語言模型以及人類反饋強化學習技術加持下，ChatGPT能夠獨立進行問答互動、文字翻譯及代碼撰寫等工作，在媒體、教育、醫(yī)療、游戲等行業(yè)具有廣泛的應用前景。換言之，以ChatGPT為代表的智能生成內容正在成為AI領域的商業(yè)新前沿。

自ChatGPT在市場中應用以來，內容供給和需求方就將其視為內容生產中降低成本、提升效率的重要工具，對其未來的業(yè)務模式拓展及商業(yè)模式創(chuàng)新充滿期待，但也需關注智能技術的應用在逐漸取代人的決策和行為時所帶來的技術負外部性問題。具體到ChatGPT帶來的AIGC熱潮，其所帶來的風險既包含以往人工智能固有的問題，也具備新的特征。

本研究基于內容生成的演進路徑，分析人工智能在生成文本、圖像、音頻、視頻以及多模態(tài)內容中的不同應用場景，探究AIGC在助力內容孿生、內容編輯、內容創(chuàng)作過程中顯現(xiàn)出的加劇“信息繭房”、造成信息失真、產生技術倫理、增大版權管理難度等問題，進而提出基于風險分類的動態(tài)治理、基于主體職責的系統(tǒng)管理、基于全球視角的協(xié)同治理等措施，為AIGC的發(fā)展提供參考。

一、內容生成的演進特征：從Web1.0到Web3.0

盡管在Web1.0階段，互聯(lián)網(wǎng)也是一對多的傳播媒介，但其強大的多樣態(tài)內容集成功能使其一出現(xiàn)便超越了報紙、廣播、電視等一對多傳播的傳統(tǒng)媒體。當數(shù)字技術推動互聯(lián)網(wǎng)從多元互動的Web2.0階段演進到智能化的Web3.0階段，互聯(lián)網(wǎng)已成為連接人與人關系的重要媒介。在互聯(lián)網(wǎng)的發(fā)展歷程中，內容生產模式不斷迭代升級，從Web1.0的PGC，到Web2.0的UGC+PUGC，再到延續(xù)至今的Web3.0的AIGC主導，內容生產的關鍵技術、生產主體、版權主體/確權、市場主導力量、虛實關系等都發(fā)生了巨大變化（見表1）。

1. Web1.0：專家生成內容時代

Web1.0時代，用戶通過Web瀏覽器單向獲取內容，搜索技術、即時通信技術以腳本語言技術為重要基礎，具有高度中心化的特征。內容生產主體為具備相關知識的專業(yè)機構或團隊，專業(yè)生產內容成為主要內容生產模式，互聯(lián)網(wǎng)呈現(xiàn)出多樣態(tài)內容可讀形態(tài)，非交互性明顯。在PGC模式下，版權主體多為機構，版權的確權需通過權威的第三方機構，具有中心化的特征，PGC的典型場景依托主要門戶網(wǎng)站，市場主導力量是網(wǎng)站等數(shù)字化平臺。從虛實間關系來看，此時的線上世界還不能即時即刻地反映現(xiàn)實世界，也較難實現(xiàn)互動操作，很多線上內容是用戶離場的非親歷（非具身）的信息或數(shù)據(jù)，也即用戶與事件在時空上不同步。

2. Web2.0：用戶生成內容時代

當技術實現(xiàn)了網(wǎng)絡上的供求交互，Web2.0走向成熟，社交媒體隨之產生，這也標志著互聯(lián)網(wǎng)從一對多的傳播轉向了多對多的互動。互聯(lián)網(wǎng)技術的不斷進步，打破了傳受雙方的界限，受眾在被動接受內容的同時，開始注重自身的主動性，逐漸具備創(chuàng)作意識。

此時，內容的呈現(xiàn)不再單單依賴腳本語言，而是使用內容聚合技術。用戶成為內容的產消者，用戶生成內容成為新興的網(wǎng)絡信息資源創(chuàng)作與組織模式，[2]Web2.0呈現(xiàn)出多樣態(tài)內容可讀可寫可交互形態(tài)。從版權主體和確權過程看，UGC、PUGC的版權主體多為用戶或用戶與簽約公司共有，確權及版權保護依然依賴于權威的第三方機構。用戶可根據(jù)所創(chuàng)作內容自發(fā)組建不同的網(wǎng)絡社群，社群經濟、粉絲經濟隨之誕生。此環(huán)境下，典型場景依托移動互聯(lián)網(wǎng)和社交媒體，“數(shù)字化平臺+數(shù)字化社群”成為Web2.0時代的市場主導力量。從虛實間關系看，在AR、VR、全息影像等技術的加持下，用戶離場但具身感受虛擬場景（如云上博物館），或被中介化在場具身體驗真實場景（如遠程醫(yī)療手術），實現(xiàn)了用戶與事件在時間上同步但空間上不同步。Web2.0呈現(xiàn)出內容+應用的主要特征，但由于UGC的低門檻，導致互聯(lián)網(wǎng)中的內容質量參差不齊、內容更新時間不固定，因此在專業(yè)機構指導下的用戶內容生成應運而生，成為用戶、平臺甚至社會新的需求。

3. Web3.0與元宇宙：人工智能生成內容時代

如果說Web1.0是可讀的互聯(lián)網(wǎng)，Web2.0是可讀、可寫的互聯(lián)網(wǎng)，那么Web3.0則是可讀、可寫、可擁有的互聯(lián)網(wǎng)。隨著區(qū)塊鏈、AR、VR、MR、XR、AI等技術的發(fā)展，去中心化的網(wǎng)絡逐漸形成。伴隨2014年深度學習算法生成對抗網(wǎng)絡的推出，深度學習在人工智能機器層面的應用加快。以數(shù)字內容為支撐的元宇宙，需要在保證內容質量的基礎上提高內容生產效率。受創(chuàng)作者水平、激勵措施等因素的影響，[3]PGC與UGC供給逐漸乏力，AIGC成為繼PGC、UGC之后以模型為主導的新型內容生產模式。

AIGC的內容生產行為主體不再是人，而是算法與智能機器。盡管機器是否可成為版權所有者依然存在爭議，但在區(qū)塊鏈技術的加持下，去中心化的確權、信息安全及可追溯、智能合約自動執(zhí)行版權分配及保護已經實現(xiàn)。元宇宙成為Web3.0的市場主導力量，“基礎設施+應用”成為Web3.0顯現(xiàn)出的主要特征。從虛實關系看，AIGC所適應的元宇宙已從增強現(xiàn)實技術演進到模擬技術，新興的數(shù)字技術實現(xiàn)了對現(xiàn)實世界的孿生（鏡像世界），未來將創(chuàng)造出與現(xiàn)實世界互相交融和操作的虛擬世界。在這個集體虛擬共享的空間中，用戶可通過元宇宙提供的虛擬世界引擎創(chuàng)造實景的在場具身感受，也可以離場具身或中介化具身，相互交互和探索相關聯(lián)的虛擬世界，也即用戶與事件可以在時空上同步，或時間上同步但空間上不同步。當前，代表AIGC最新進展的應用就是OpenAI公司研發(fā)的ChatGPT，其完成了機器學習算法中自然語言處理技術的大幅度跨越，實現(xiàn)了人工內容生成模式向機器內容生成模式的轉換。雖然仍處于初級階段，但在資本的加碼和應用場景的不斷擴大中，AIGC發(fā)展態(tài)勢持續(xù)向好。

二、智能生成內容的應用場景分析

基于算力、預訓練模型和多模態(tài)技術的不斷升級與發(fā)展，AIGC可生成四種基本的內容形式，即文本、音頻、圖像、視頻，在此基礎上進行跨模態(tài)生成，應用場景豐富。目前，不同的內容生成模式已廣泛應用于傳媒、影視、電商、游戲等數(shù)字化程度高且需求旺盛的行業(yè)。

1. 生成文本：降本增效

語言模型是增強AIGC認知能力的關鍵。通過AI技術智能生成文字，可降低人工和時間成本，實現(xiàn)降本增效。文本生成分為交互式與非交互式，非交互式包括輔助性寫作、結構化寫作、非結構化寫作。用戶輸入一段描述或要求，AI可從數(shù)據(jù)庫中自動抓取相關內容，根據(jù)指令完成文字創(chuàng)作。當前，作為AI交互性文本的代表性應用，ChatGPT擁有文本理解的能力，可根據(jù)聊天語境與用戶交流，并具有論文撰寫、搜索引擎功能。此外，在電商行業(yè)，AI客服可與消費者進行實時交流，從而提高購物轉換率。在教育領域，AI中文寫作智能輔導系統(tǒng)“小花獅”可實時批改作業(yè)，提高學習效率。AI非交互性文本集中應用于媒體行業(yè)。在新聞采編過程中，媒體可借助結構化寫作快速生成新聞作品，提高效率。例如，在2017年四川阿壩州九寨溝地震中，機器人僅用25秒就完成540字的新聞稿件，極大地增強了新聞時效性。此外，字幕自動生成器、語音智能轉換文字軟件也被應用于媒體作品制作環(huán)節(jié)。在影視行業(yè)，借助AIGC的非結構化寫作功能，可實現(xiàn)劇情續(xù)寫，如《你好，李煥英》《流浪地球》等影視作品都加入了AI創(chuàng)作內容。

2. 生成音頻：個性化定制

智能音頻生成是利用深度神經網(wǎng)絡模型對大量音頻數(shù)據(jù)進行訓練學習，[4]使AI具備語音識別、對話生成的能力，自動生成高質量音頻，包括音樂、語音及定制話語等。在音樂領域，AI借助大規(guī)模Transformer模型，可預測序列中的下一個音符，智能生成音樂。如OpenAI研發(fā)的MuseNet，可用10種不同樂器生成4分鐘的音樂作品。智能音頻生成技術可在不同場景中對生成音頻進行定制化處理，滿足用戶需求。例如，高德地圖通過語音克隆，建立明星音頻庫，根據(jù)用戶需求模仿不同明星的聲音提供導航服務。如喜馬拉雅等有聲閱讀平臺借助TTS（Text-to-Speech）技術使聲音成為更智能的數(shù)字產品，拓展“耳朵經濟”的商業(yè)化探索，聲音定制化成為新趨勢。[5]此外，在醫(yī)療領域，情緒療愈機器人Emohaa可構建以生成對話為核心的交互式數(shù)字診療方案，及時提供針對性的情緒支持與心理疏導，使患者保持心理健康。

3. 生成圖像：提升品質

生成式對抗網(wǎng)絡是AIGC使用的關鍵算法，極大地提高了生成圖像的逼真度。生成圖像的類型包括圖像數(shù)據(jù)集的生成、圖像聯(lián)想創(chuàng)作、圖像修復等。圖像數(shù)據(jù)集主要是指AI通過提取用戶輸入圖像的特征形成新的圖像合集，如谷歌的Deep Dream Generator可上傳圖像并選擇風格，生成新圖像。圖像聯(lián)想創(chuàng)作包括照片編輯、照片轉換卡通頭像、人體新姿勢生成、照片融合、不同年齡段圖片生成等，豐富了網(wǎng)絡用戶的娛樂生活，F(xiàn)ace、美圖秀秀、醒圖等圖像編輯軟件的美顏、換膚、換發(fā)型、加濾鏡等功能，深受用戶喜愛。在圖像修復方面，利用AI進行畫質增強修復已得到普遍應用，如在2022百度世界大會上，通過AI完美地修復了《富春山居圖》殘卷，從視覺上提高了作品的觀賞價值。在網(wǎng)絡視頻行業(yè)，優(yōu)酷、愛奇藝等綜合視頻平臺通過對部分經典劇進行畫質增強，提升影片清晰度，增強用戶黏性。

4. 生成視頻：釋放創(chuàng)意潛力

視覺模型是增強AIGC感知能力的關鍵。AIGC+視頻生成技術是基于多個卷積神經網(wǎng)絡、循環(huán)神經網(wǎng)絡、生成式對抗網(wǎng)絡、變分自動編碼器的組合。[6]生成視頻包括生成型、編輯型、定制型、數(shù)字虛擬人型。在電商行業(yè)，虛擬主播帶貨、商品虛擬試戴是智能生成視頻的典型應用。多數(shù)品牌推出在線虛擬試戴功能，用戶可了解商品與自身的適配度，提升在線購物體驗。媒體行業(yè)也積極布局AI虛擬主播技術，將其應用于重要活動的報道或主持中，以推動傳統(tǒng)媒體的數(shù)字化發(fā)展。編輯型生成視頻主要應用于AI換臉。在影視行業(yè)，影視劇通過AI換臉替代劣跡藝人或“復活”已故藝人，從而保證影片順利播出，如《流浪星球2》利用AI“復活”已故演員吳孟達。另外，影視公司也可通過AI直接生成視頻內容。例如，IBM Watson制作出電影Morgan的預告片，極大地提高了創(chuàng)作效率。在游戲行業(yè)，AIGC的NPC邏輯自動生成技術不僅可以完成游戲內部場景和故事的搭建，還可以在游戲中建立代表自我的數(shù)字人，獨立完成活動任務。[7]例如，《黑客帝國：覺醒》通過虛擬引擎技術實現(xiàn)游戲中車輛行人獨立于玩家操控變動。

5. 生成多模態(tài)內容：升級AIGC創(chuàng)作能力

在大數(shù)據(jù)模型的不斷訓練中，AI模型知識積累量遠大于人類，逐漸由單模態(tài)向多模態(tài)方向發(fā)展。多模態(tài)大模型是AIGC原生性創(chuàng)作的關鍵，既可以尋找不同模態(tài)之間的對應關系，也可以將不同模態(tài)的數(shù)據(jù)進行轉化。當前，多模態(tài)模型生成內容已廣泛應用于媒體、影視、互聯(lián)網(wǎng)、游戲等行業(yè)。例如，在電商行業(yè)，圖片搜索引擎已得到廣泛應用；在新媒體行業(yè)，九錘配音、加音、XAudioPro、剪映等媒體公司可基于文檔自動生成解說配音。AI繪畫是不同模態(tài)相互轉化的典型應用，為創(chuàng)意產業(yè)提供了新的靈感，如2022年8月，美國游戲設計師Jason Allen憑借AI繪畫作品《太空歌劇院》擊敗人類畫家作品。在3D物體生成方面，AIGC的2D圖像生成3D模型主要是GANverse3D建立在2D照片基礎上訓練的生成對抗網(wǎng)絡，通過合成數(shù)千個對象的多個視圖來預測3D幾何、紋理和零件分割標簽，如英偉達的GANverse3D可利用汽車照片生成3D模型，并在NVIDIA Omnivers中行駛。

三、存在問題及風險

神經網(wǎng)絡等數(shù)字技術的迭代升級助力AIGC內容孿生、內容編輯與內容創(chuàng)作三大功能的綜合應用。內容孿生能力是將現(xiàn)實世界中物理屬性和社會屬性高效、可感知地進行數(shù)字化；內容編輯能力是通過高效率仿真和低成本試錯，為現(xiàn)實世界的應用提供快速迭代能力，打通現(xiàn)實與虛擬的通道；內容創(chuàng)作能力指通過機器深度學習和算法構建形成自我演化支持海量內容生產。這三大能力在支持全新內容生產力、服務人類社會經濟各方面的同時，帶來加劇“信息繭房”、造成信息失真、產生技術倫理、增大版權管理難度等問題。

1. 加劇“信息繭房”

AIGC的內容孿生功能依賴于現(xiàn)實場景中的原始數(shù)據(jù)重構逼真的數(shù)字世界，原始數(shù)據(jù)的完整度影響所孿生的數(shù)字內容。一方面，大數(shù)據(jù)時代，算法推薦成為數(shù)字媒體平臺的基礎功能，用戶數(shù)據(jù)為算法推薦積累了豐富的原材料，算法通過加工原材料洞悉用戶的行為特征、心理特征，進行有針對性的內容生產。算法推薦所具有的突出性、排他性、隱蔽性，將用戶馴化為信息的奴隸，用戶成為被潛化的對象性工具，經過篩選的原始數(shù)據(jù)所造成的“信息繭房”問題也被帶入AIGC所孿生的數(shù)字世界。另一方面，GPT的出現(xiàn)一定程度上打破了搜索時代的“信息繭房”，但又建立起基于深度學習、深度計算和深度投喂的新型信息壁壘。GPT的運行離不開大語言模型與其背后強大的數(shù)據(jù)庫，算法程序的運行逐漸切斷了用戶與原始信息的連接，GPT在一次次的迭代中掌握使用者的偏好，從而產生偏見，將用戶籠罩在其所建造的新的“繭房”中，形成認知困境。

2. 造成信息失真

以ChatGPT為代表的對話式機器人依靠自身強大的互動模式，影響了現(xiàn)有搜索引擎的業(yè)務體系。但它不能像傳統(tǒng)搜索引擎一樣隨時調取互聯(lián)網(wǎng)信息，實時更新數(shù)據(jù)庫，而是基于語言模型，通過調用過去的大量文本進行數(shù)據(jù)處理，在不需要理解對話內容的前提下與用戶進行擬人化溝通。公開資料顯示，ChatGPT的訓練數(shù)據(jù)是由OpenAI團隊訓練和提供的，是對2021年及以前的數(shù)據(jù)內容進行學習、分析和再造，具有滯后性。機器所生成的內容并不能與人類語料同步，由此導致內容嚴謹性缺失。與此同時，算法歧視一直貫穿人工智能技術發(fā)展的整個過程。相關技術或因控制人員通過計算機禁止命令輸出帶有主觀價值的內容，或因抓取數(shù)據(jù)時的語料限制，無法避免算法闡釋的偏見甚至出現(xiàn)歧視性言論，例如微軟機器人Tay曾出現(xiàn)過極端暴力言論，這一問題不容忽視。

此外，深度偽造技術令機器可通過樣本學習，借助神經網(wǎng)絡技術將人類的容貌、聲音或肢體動作等合為一體，形成新的人體圖像或直接進行AI換臉。由于所合成媒體作品的高度真實性與擬人化，其內容在傳播中對受眾的思想、社會行為甚至企業(yè)的經濟活動產生顯著影響，以至于在面臨造假風險的同時，既可能造成個人名譽受損，也存在媒體喪失公信力的風險。

3. 產生技術倫理問題

AI產生的倫理問題主要包括個人隱私泄露和技術成癮等。正如前文所述，AIGC的內容編輯是在語義理解的基礎上，對原有內容進行編輯或再生成，那么數(shù)據(jù)所有者面臨主體控制權喪失，導致個人數(shù)據(jù)或隱私被泄露和不當利用風險；[8]當人們過度沉浸于網(wǎng)絡世界，會產生對互聯(lián)網(wǎng)的依賴，長期使用電子設備會產生電子設備依賴，導致心理問題和過度疲勞綜合征；同樣，AIGC的便利也會蠶食相關領域工作者獨立思考的能力，使其喪失自主求知欲，特別是知識獲取的便利性和零成本會導致學習者陷入技術依賴和AI上癮的陷阱，[9]從而在數(shù)字世界形成虛假信息的堆積。當前，學界和業(yè)界都在深入思考與辯論，未來機器智能是否會全面代替人類智能，從而引發(fā)社會秩序混亂的風險。

4. 增大版權管理難度

在知識產權法的規(guī)則內，著作權法保護作品一定是來源于人的創(chuàng)作。在算法與深度學習技術的助力下，AI通過模仿和概念學習實現(xiàn)內容創(chuàng)作，不可避免地出現(xiàn)著作權（版權）問題及算法風險。自人工智能出現(xiàn)，學界對于智能生成內容可否作為作品的爭論從未停止。有學者認為，人工智能生成內容在著作權法上可視為代表設計者或訓練者意志的創(chuàng)作行為，[10]滿足獨創(chuàng)性要求，即具備可版權性。[11]由此，可認為人工智能生成內容屬于知識產權保護下的作品。但更多學者與知識產權保護部門認為，人工智能生成內容的著作權歸屬問題尚未解決。

一方面，ChatGPT由GPT-3.5系列提供技術支持，參數(shù)量超過1 750億，[12]巨大的參數(shù)使其可以理解人類不同指令的含義，處理多元化的任務，生成內容使用的是由機器深度學習所進化的算法，未曾被控制者所預見。也就是說，ChatGPT在非結構化寫作中，開始具備創(chuàng)意，所生成內容具有創(chuàng)新性。從此角度看，AIGC版權可歸屬AI。另一方面，以ChatGPT為代表的人工智能生成內容雖然由機器生產，但其背后仍包含著設計者或控制者的思維邏輯，機器只是代碼轉換的工具，并不具備自我意識，人工智能仍是服務于人類的工具。[13]即便現(xiàn)階段的人工智能通過算法優(yōu)化實現(xiàn)感知，擁有深度學習能力，但在人機交互的過程中也只能最大化地模擬人類進行交流，無法擺脫機器屬性，因此AIGC版權應歸屬人類。此外，雖然ChatGPT在文本生成中是對原始材料進行合理修改，但原始材料的作者是否授權無法保證，存在侵犯著作權風險。

四、關于智能生成內容治理的思考

如今，在以信息革命為主的第四次工業(yè)革命中，智能生成內容帶來了一場巨大的生產力變革，越來越多的行業(yè)使用人工智能進行內容生產。AIGC在內容生產的過程中產生了難以預測的新風險，相關治理迫在眉睫。

1. 基于風險分類的動態(tài)管理

當前，由于AIGC自身技術不斷升級更新，加之與外部應用的連接端口逐漸開放，導致不可預測的風險頻發(fā)。考慮到技術的負外部性導致的風險程度有所不同，對于AIGC的治理不可一刀切，而是應根據(jù)實際風險程度進行差異化治理。

2023年6月14日，歐盟通過的《人工智能法案》確立了基于風險的人工智能治理范式，將人工智能劃分為四個不同的風險類別：最小風險、有限風險、高風險和不可接受風險，并針對各個等級制定實施差異化監(jiān)管。[14]該法案提出，將對人工智能進行區(qū)別管理，按照人工智能的新發(fā)展新場景新應用劃分不同的風險類別，風險較高的應用程序將面臨更嚴格的管理，需要更高的透明度和準確性，這在一定程度上為智能生成內容提供了治理思路。

需要指出的是，《人工智能法案》中對于風險的規(guī)劃可視為對于人工智能進行風險預測，而預測風險屬于靜態(tài)過程，還需從靜態(tài)的風險劃分轉為動態(tài)的風險監(jiān)測。[15]2023年7月13日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣播電視總局發(fā)布《生成式人工智能服務管理暫行辦法》，其中規(guī)定了暫行辦法的適用范圍是“利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務”，同時更多體現(xiàn)了對新技術應用的鼓勵和審慎的監(jiān)管思路，如要求生成式人工智能提供者要對相關生成性文本、圖片、聲音、視頻等內容進行標識，保護個人隱私，采取有效措施防止沉迷等。但未來還需要在風險分類的基礎上建立人工智能風險評測平臺，有針對性地創(chuàng)建風險監(jiān)測模型，將其納入AIGC的生成步驟中，在持續(xù)的動態(tài)過程中，針對不同風險情況制定相應的治理措施。這種技術治理技術的方式將成為人工智能產業(yè)賦能各行各業(yè)持續(xù)健康發(fā)展的基礎保障。

2. 基于主體職責的系統(tǒng)化管理

基于強大的語言處理與深度學習能力，AIGC呈現(xiàn)出鮮明的類人化特征。面對技術效能爆發(fā)式增長的生成式人工智能，封閉、單一、傳統(tǒng)的監(jiān)管運行機制難以從“政府—市場”這一傳統(tǒng)二元架構下汲取足夠的監(jiān)管資源。[16]對于AIGC的治理，不能再局限在數(shù)據(jù)篩選或算法邏輯等上中游階段，而應將治理范疇拓展至場景應用的下游階段，重點關注內容輸出主體，明確責任劃分體系，建立基于主體的體系化管理系統(tǒng)。所謂系統(tǒng)化管理，既需要技術和服務提供的經濟主體內部自我規(guī)制，又需要來自政府的外部規(guī)制，兩者共同發(fā)力，構建以主體為核心的問責機制。

AIGC內部自我規(guī)制主體包括技術開發(fā)者和服務提供者。對于技術開發(fā)者，要明確的是，新興技術發(fā)展與人的主觀意志尤其是人的倫理道德素質密切相關，使得技術倫理風險的產生具有一定主觀性，[17]人工智能所輸出內容的文化價值偏向意味著AIGC模型開發(fā)者的算法素養(yǎng)。只有主體以社會責任為導向進行算法技術更新，才能同時提高內容生產效率和質量。服務提供者多是從商業(yè)角度出發(fā)，為獲取經濟利益進行市場活動，因此，自我規(guī)制的重點在于所提供服務的安全性以及社會責任。如微軟、谷歌等國外一些大型數(shù)字平臺已經通過設置內部道德委員會來進行自我監(jiān)管，[18]避免其在商業(yè)領域的濫用。此外，在各種AIGC軟件不斷開放的環(huán)境下，用戶作為重要的參與主體，由于人工智能素養(yǎng)參差不齊，所創(chuàng)作的內容質量、AIGC的用途各不相同，那么P-AIGC也許可以成為繼PUGC之后的一種內容復合生成模式，通過發(fā)揮機構的力量保障內容的品質及機構應承擔的社會責任。

性別歧視、刻板印象、數(shù)據(jù)泄露等問題，依靠企業(yè)或行業(yè)的自律性管控還遠遠不夠，需要來自政府的外部規(guī)制共同施力，相關法律法規(guī)的制定與實施至關重要。2021年10月29日，國家市場監(jiān)督管理總局發(fā)布了《互聯(lián)網(wǎng)平臺落實主體責任指南（征求意見稿）》，明確提出平臺企業(yè)應落實主體責任。2022年3月1日實施的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》明確規(guī)定了算法推薦服務提供者的算法安全主體責任。由此可看出，基于算法主體的治理是國內人工智能治理的重要發(fā)展方向。同時，國家市場監(jiān)督管理總局公布的《互聯(lián)網(wǎng)平臺分類分級指南（征求意見稿）》將互聯(lián)網(wǎng)平臺分為三級六類。不同類型、不同等級的平臺所承擔的主體責任不同，只有將主體責任和公共治理進行有機結合，才能實現(xiàn)協(xié)同治理。總之，在基于主體責任的體系化管理中，政府、企業(yè)、社會可以嘗試分享監(jiān)管權并建立合作，形成監(jiān)管的互動機制，促進開放式的多元主體協(xié)同治理。

3. 基于全球視角的協(xié)同治理

英國哲學技術家大衛(wèi)·克林格里奇在《技術的社會控制》中提出“克林格里奇困境”，即如果過早對技術實施控制，技術難以創(chuàng)新和發(fā)展；如果控制過晚，技術容易走向失控，并帶來昂貴的治理成本，甚至難以改變。可見，技術管控的介入時間尤為重要。就AIGC而言，一方面，其正值發(fā)展上升期；另一方面，風險與危害層出不窮，具體的法律和規(guī)則尚不明晰。若想促進AIGC的可持續(xù)發(fā)展，應推進全球技術發(fā)展與治理的協(xié)同，積極尋求二者的協(xié)調與平衡。

從微觀出發(fā)，AIGC產業(yè)鏈包括上游的數(shù)據(jù)服務、中游的算法模型與下游的應用拓展。當前智能治理的關鍵在于所有與技術治理相關的事物，均被轉化為同質的可計算數(shù)據(jù)信息。[19]如今爆火的ChatGPT，就是在大量數(shù)據(jù)驅動下的生成內容。基于智能生成內容一直存在的版權問題，可考慮通過數(shù)據(jù)所有權進行版權的分割。2023年3月，中共中央、國務院印發(fā)了《黨和國家機構改革方案》，國家發(fā)展和改革委員會管理機構組建國家數(shù)據(jù)局，負責協(xié)調推進數(shù)據(jù)基礎制度建設，統(tǒng)籌數(shù)據(jù)資源整合共享和開發(fā)利用，統(tǒng)籌推進數(shù)字中國、數(shù)字經濟、數(shù)字社會規(guī)劃和建設等。[20]以此來看，國家數(shù)據(jù)局不僅可以改善市場上數(shù)據(jù)壟斷的問題，也為AIGC的版權問題提供了新思路。

從宏觀出發(fā)，技術的管理模式應結合不同的國情加以選擇和調適，統(tǒng)籌多種實施戰(zhàn)略。諸種戰(zhàn)略的運行都應具有本土化特色，既不存在某一種普適戰(zhàn)略（如計劃），也不存在某種全球通用的唯一模式。因此，應從全球治理格局出發(fā)，加強國際國內交流，根據(jù)各國的法律規(guī)范、道德體系等取最大公約數(shù)，制定合理的人工智能治理公約。在具體的實施中，根據(jù)各國情況進行本地化改進，提升治理效果。面向國內，想要完善智能式內容生成的監(jiān)管生態(tài)，需加快推進人工智能立法進程。伴隨我國《生成式人工智能服務管理暫行辦法》的出臺，在國際交流中，我國應積極搭建開放式參與平臺，在國際生成式人工智能治理進程中貢獻中國力量。

結語

當前，AIGC發(fā)展仍處于初級階段，關鍵技術尚不成熟，各種風險難以預測。為了更好地推動技術發(fā)展與治理并行，可嘗試將靜態(tài)的風險預測轉變?yōu)閯討B(tài)的風險監(jiān)測。在各類應用場景中，根據(jù)用戶反饋及時進行技術升級，從而提高風險識別能力與治理效率。進一步明確界定AIGC的責任主體邊界，厘清主體責任，促進市場主體與政府主體的協(xié)同規(guī)制，同時推廣P-AIGC模式，發(fā)揮機構的作用，保障內容的品質及機構應承擔的社會責任。在全球AIGC技術不斷發(fā)展的背景下，不同國家的技術開發(fā)者與政策制定者應通力合作，共同制定相應的管控措施，政府也應將倫理考量納入AI發(fā)展的生命周期之中，加強對相關利益群體的倫理教育，形成多主體共治、全球系統(tǒng)共治的局面。在技術和商業(yè)模式不斷更新迭代之下，應在AIGC的技術創(chuàng)新與技術治理之間尋找平衡點，使兩者更好地可持續(xù)發(fā)展。

參考文獻：

[1] Chatterjee J， Dethlefs N. This new conversational AI model can be your friend， philosopher， and guide……and even your worst enemy[J]. Patterns， 2023， 4（1）： 1-3.

[2] 趙宇翔，范哲，朱慶華. 用戶生成內容（UGC）概念解析及研究進展[J]. 中國圖書館學報，2012（5）：68-81.

[3] 陳永偉. Web 3.0：變革與應對[J]. 東北財經大學學報，2022（6）：27-39.

[4] 路遠，胡峰. AIGC技術在智慧廣電與網(wǎng)絡新視聽中的應用探析[J]. 影視制作，2023，29（3）：43-47.

[5] Sharma Ankit， Kumar Puneet， Maddukuri Vikas， et al. Fast Griffin Lim based waveform generation strategy for text-to-speech synthesis[J]. Multimedia Tools and Applications， 2020， 79（41-42）： 30205-30233.

[6] Ian Goodfellow， Jean Pouget-Abadie，Mehdi Mirza，et al.Generative Adversarial Networks[J]. Communications of the ACM， 2020， 22（10）： 139-144.

[7] Sagredo-Olivenza I，Gomez-Martin·P. P， Gomez-Martin·M. A， et al. Trained Behavior Trees： Programming by Demonstration to Support AI Game Designers[J]. IEEE Transactions on Games， 2017， 11（1）： 5-14.

[8] 金雪濤. 算法治理：體系建構與措施進路[J]. 人民論壇·學術前沿，2022（10）：44-53.

[9] 鄧建鵬，朱懌成. ChatGPT模型的法律風險及應對之策[J]. 新疆師范大學學報（哲學社會科學版），2023（5）：1-11.

[10] 吳漢東. 人工智能生成作品的著作權法之問[J]. 中外法學，2020，32（3）：653-673.

[11] 熊琦. 人工智能生成內容的著作權認定[J]. 知識產權，2017（3）：3-8.

[12] Zhang M， Li J.A commentary of GPT-3 in MIT Technology Review 2021[J]. 自然科學基礎研究（英文版），2021，1（6）：3.

[13] 叢立先. 人工智能生成內容的可版權性與版權歸屬[J]. 中國出版，2019（1）：11-14.

[14] 曾雄，梁正，張輝. 歐盟人工智能的規(guī)制路徑及其對我國的啟示——以《人工智能法案》為分析對象[J]. 電子政務，2022（9）：63-72.

[15] 張璐. 通用人工智能風險治理與監(jiān)管初探——ChatGPT引發(fā)的問題與挑戰(zhàn)[J]. 電子政務，2023（9）：1-11.

[16] 張欣. 生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管[J]. 現(xiàn)代法學，2023，45（3）：108-123.

[17] 安慧影，黃朝峰，李陽.新興技術倫理風險協(xié)同治理研究[J/OL].[2023-03-25].https：//kns.cnki.net/kcms2/article/abstract？v=3uoqIhG8C45S0n9fL2suRadTyEVl2pW9UrhTDCdPD65alre2xrs7D5YM7fFBga-VUamlQwPeUH8XvSCMUnFynLNTjI4GjS06&uniplatform=NZKPT.

[18] Lewis D， Moorkens J. A Rights-Based Approach to Trustworthy AI in Social Media[J]. Social Media+Society， 2020， 6（3）： 1-13.

[19] 劉永謀. 智能治理的哲學反思[J]. 中國人民大學學報，2022，36（3）：46-55.

[20] 中共中央 國務院印發(fā)《黨和國家機構改革方案》[EB/OL].[2023-03-16].http：//www.gov.cn/gongbao/content/2023/content_5748649.htm.

基金項目：亞洲傳媒項目“中日韓文化領域數(shù)字藏品（NFT）的應用與平臺架構比較研究”（AMRC2022-2）；國家社會科學基金一般項目“數(shù)字經濟背景下我國體育服務業(yè)與新媒體融合效果及融合創(chuàng)新研究”（20BTY052）

作者信息：金雪濤（1973— ），女，北京人，中國傳媒大學國際傳媒教育學院教授、博士生導師，主要研究方向：數(shù)字經濟、傳媒經濟；周也馨（1997— ），女，內蒙古呼倫貝爾人，中國傳媒大學經濟與管理學院博士研究生，主要研究方向：傳媒經濟學。