生成式人工智能賦能新質生產力的隱私風險及協同治理

中圖分類號：D923 文獻標志碼：A 文章編號：2096-9783(2025)03-0070-

新質生產力是科技創新在其中發揮主導作用的生產力，是經濟高質量發展和社會深刻變革的重要基礎2]。生成式人工智能(ArtificialIntelligenceGen-eratedContent，以下簡稱AIGC)作為推動新質生產力的重要力量，通過自然語言生成、圖像生成、自動編程等技術手段，在制造業、醫療、教育、金融和文化創意等領域，優化資源配置、提升生產效率和增強創新能力，為全球數字經濟崛起和國家競爭力提升注人了強大動力[3]。例如，在制造業中，AIGC通過自動化設計提升產品研發效率；在醫療領域，AIGC輔助診斷和藥物開發縮短了研發周期；在教育領域，個性化學習方案提高了教育資源的利用率。然而，AIGC的廣泛應用也伴隨著隱私保護方面的嚴峻挑戰，其模型訓練高度依賴大規模數據收集，跨區域、跨領域的數據共享增加了個人信息泄露的風險，同時現有隱私保護技術難以全面應對，導致隱私治理滯后成為新質生產力發展的瓶頸。為解決這一挑戰，亟須構建以協同治理為核心的多層次隱私保護框架，通過差分隱私、聯邦學習等隱私增強技術4，結合《中華人民共和國數據安全法》（以下簡稱《數據安全法》）《生成式人工智能服務管理暫行辦法》等法律法規，推動行業自律和公眾參與，增強數據處理的透明度和安全性，在隱私保護與技術創新之間實現平衡，確保AIGC技術與新質生產力的可持續協同發展。

一、AIGC賦能新質生產力的隱私風險

（一）數據過度收集與數據最小必要原則的沖突

在新質生產力發展的推動下，AIGC通過自然語言生成、圖像生成和自動編程等技術，實現了生產效率的提升、資源配置的優化及創新能力的增強。然而，這些技術高度依賴大規模數據的獲取和處理5]，尤其在跨領域應用中，其對多樣化數據的需求常突破數據最小必要原則。平臺通常通過整合社交媒體數據、匿名化信息，甚至推測用戶敏感數據以優化模型訓練效果，盡管提升了技術能力，卻顯著增加了個人隱私泄露的風險。同時，AIGC的“自我學習\"和“反饋優化\"機制進一步擴大了數據收集范圍，用戶對其信息的流動和用途缺乏有效控制。部分平臺在數據收集中未明確告知用戶具體用途，通過隱蔽方式收集數據，嚴重侵害用戶的知情權和選擇權。例如，蘋果公司的Siri和亞馬遜的Alexa在未經用戶知情情況下自動記錄和存儲語音數據，并上傳云端優化服務。這些現象挑戰了個人信息最小化原則的法律要求，加劇了隱私保護與技術發展的矛盾，成為新質生產力發展的嚴重隱患。這不僅是技術與法律之間的沖突，也揭示了在數據驅動社會中，權利保障與技術進步之間難以調和的深層張力。

第一，AIGC系統對多樣化數據的依賴直接違背個人信息最小化原則。AIGC需要處理的大量個人信息涉及文本、圖像、用戶行為、偏好和情感等，這與《中華人民共和國個人信息保護法》以下簡稱《個人信息保護法》)的隱私保護原則直接矛盾。《個人信息保護法》第六條要求數據收集應符合必要性和合法性，但平臺為提升技術效果，常擴大數據收集范圍。例如，2023年4月，意大利數據保護機構暫時禁止ChatGPT，原因在于其未經用戶同意收集個人數據，且未能證明大規模收集的合理性，違反了最小化原則和透明性要求。這表明，AIGC為完成復雜任務所需的數據常超出用戶預期，違反了最小化原則。

第二，AIGC的復雜算法加劇了數據用途的不透明性，使用戶難以掌控數據處理方式。AIGC系統依賴復雜算法生成結果，自動化處理的高度復雜性讓用戶難以了解數據如何被使用。《個人信息保護法》第七條要求數據處理需遵循透明原則，明確告知用戶數據的用途和方式。然而，許多平臺僅通過模糊隱私政策讓用戶同意，未說明具體用途。例如，谷歌的AI產品Bard曾因未明確告知用戶而收集對話數據用于模型訓練，引發爭議。這種隱私政策中的“灰色地帶”使用戶的數據易被平臺和第三方濫用，增加信息泄露的風險[8]。

第三，數據保護與技術發展的矛盾在AIGC的迭代升級中尤為顯著。AIGC依賴大量數據輸人和多次迭代提升模型智能化水平，但《個人信息保護法》和GDPR要求數據處理遵循最小化原則，限制數據收集范圍。這種限制直接影響了AIGC模型的訓練質量。例如，為符合GDPR要求，OpenAI限制了ChatGPT的數據收集，尤其是在用戶生成內容和敏感信息方面，導致模型在某些任務中的表現受限，影響其在歐洲市場的泛化能力。

（二）生成內容不可預測性與信息控制權的沖突

在新質生產力的應用場景中，AIGC內容的不可預測性愈加突出。依托復雜算法和海量數據，AIGC在生成文本、圖像和視頻等內容時，其路徑和結果往往超出預期，導致信息控制權面臨全新挑戰。這種不可預測性表現為：一方面，AIGC整合多樣化數據生成內容時，可能涉及用戶未授權的信息推測和數據挖掘，削弱個人隱私和商業秘密保護；另一方面，生成內容可能誤導用戶或引發倫理爭議，尤其是在醫療健康、金融分析等依賴精確數據的領域。此外，內容歸屬和責任界定的模糊性，使信息主體難以掌控自身數據的使用情況。

第一，AIGC內容的不可預測性源于其依靠深度學習、自然語言處理等算法自動生成文本、圖片和視頻。這種生成方式需要處理海量數據，通過模型參數和算法實現數據轉換與推演，因此生成內容無法完全預測[]。與傳統人工生成方式不同，AIGC基于多樣化輸入數據，可能生成包含隱私信息、誤導性商業數據或不符合道德規范的內容。這直接削弱了信息主體對生成內容的控制能力，使其在保護個人信息和權益時面臨更大的不確定性。例如，AIGC可通過整合互聯網數據生成涉及個人隱私的內容，這些內容并非信息主體直接提供，而是通過公開數據或第三方數據推測得出，導致信息主體難以預見哪些信息會被生成。此外，生成內容可能被進一步商業化或用于數據挖掘，信息主體對此不知情，進一步削弱其控制權。

第二，AIGC發展打破了信息控制權的傳統法律框架。信息控制權通常指信息主體對其個人信息享有的知情權、同意權、訪問權、刪除權和修改權等，確保信息合法使用。在傳統法律環境下，信息主體通過授權允許特定用途下的數據使用，且有權要求刪除或停止處理。但AIGC不僅基于合法收集的數據生成內容，還可能通過算法推演生成未經授權的衍生信息，這意味著信息主體不再完全擁有對生成內容的控制權。尤其當生成內容涉及個人隱私或商業秘密時，主體難以掌控。例如，某些AI系統生成文本時可能無意中引用或推測出信息主體未公開的私人信息，信息主體對此無能為力。這表明，AIGC時代挑戰了傳統信息控制權概念，現有法律框架難以充分保護信息

主體的權利。

第三，信息控制權與生成內容不可預測性產生直接沖突。首先，AIGC的不可預測性使信息主體難以控制生成內容，尤其當系統依賴龐大數據集推演時，主體難以掌握內容的形式和范圍，削弱了數據使用權。《個人信息保護法》第四十四條規定個人有權知曉、決定、限制或拒絕對其信息的處理，但AIGC的自動化特性削弱了這些權利。例如，2016年微軟AI聊天機器人Tay在吸收用戶輸入后迅速生成偏見內容，導致公關危機[2]，凸顯AIGC系統對信息控制權的侵蝕。其次，AIGC生成內容的法律歸屬模糊。傳統法律賦予信息主體對個人數據的控制權，但生成內容由多方數據和復雜算法生成，難以歸屬至某一主體。《中華人民共和國著作權法》第十條規定作者享有署名權，但AIGC生成內容是否構成作品仍存爭議。例如，2023年GettyImages對StabilityAI的訴訟反映了AIGC生成內容歸屬問題的法律盲區[13]。此外，即使內容與信息主體原始數據相關，其高商業價值可能引發新的控制權問題。最后，隱私保護與生成內容中的潛在風險并存。AIGC系統可能在生成內容時無意中泄露隱私或敏感信息。《個人信息保護法》第五十一條規定數據處理者應防止信息泄露，但AIGC的自動生成特性使主體難以監控內容。例如，OpenAI發布的GPT-2模型因可能生成私人對話記錄而被限制公開[14]。這表明，AIGC生成內容可能泄露未經授權的隱私信息，而信息主體對此無法掌控，面臨隱私權被侵害的風險。

（三）數據共享與個人信息知情同意原則的沖突

新質生產力以數據驅動和協同共享為核心，通過多主體協作提升生產效率并推動經濟高質量發展。然而，這種以數據共享為基礎的生產模式與個人信息保護中的知情同意原則產生了嚴重沖突。AIGC作為新質生產力的重要工具，在跨行業、跨領域的數據共享過程中，用戶個人信息的流轉范圍常超出其知情和掌控能力。復雜的共享網絡使用戶難以明確其數據在多平臺間的具體流向，導致知情同意名存實亡；同時，企業為優化服務精準度和實現個性化功能，擴大數據使用范圍，侵蝕用戶隱私保護權[15]。此外，企業對商業利益的追求加劇了信息濫用和安全問題，使隱私風險進一步升級。這種沖突已成為AIGC賦能新質生產力的核心法律挑戰，急需通過技術手段和制度創新加以平衡。

第一，法律層面的沖突：知情同意原則的有效性受限。知情同意作為個人信息保護的重要基石，源于信息主體對其信息的控制權。然而，在復雜的數據共享環境中，知情同意的有效性受限。《個人信息保護法》第六條要求個人信息處理應遵循合法、正當和必要原則，并基于明示同意。但AIGC系統中，由于大量數據共享與平臺間復雜交互，信息主體難以掌握其信息的流轉過程。例如，在公共法律服務中，用戶的行為數據和服務記錄常在多個平臺間交換，盡管提升了個性化服務，但用戶往往不清楚數據的具體流向。《個人信息保護法》第三十八條規定跨境數據流動需取得單獨同意，但在電子商務和國際交易中，用戶數據常被未經充分告知的情況下共享。Facebook數據泄露事件即為典型案例[1，暴露了用戶對數據跨境流動的掌控力不足，知情同意原則在這種復雜環境中受到了極大挑戰。

第二，實踐操作中的沖突：用戶選擇權的弱化。AIGC系統通過隱私政策隱藏和復雜條款，使用戶對數據共享的知情同意流于形式，選擇權受限。《個人信息保護法》第十七條要求以顯著方式告知用戶數據處理目的和方式，并提供行使選擇權的途徑。但許多平臺通過默認勾選或不透明條款，難以讓用戶清楚了解數據具體流轉路徑。例如，一些法律服務平臺使用AIGC技術生成個性化解決方案，將用戶行為數據與第三方共享，而用戶僅通過隱蔽條款授權了全面流轉，失去對具體使用環節的控制。2023年，OpenAI的ChatGPT被用于生成法律文件和個性化服務，但用戶并未完全知曉其信息如何被使用，這種隱蔽操作削弱了用戶選擇權，加劇了隱私風險。

第三，社會影響層面的沖突：商業利益與個人隱私的權衡。數據已成為推動商業發展的關鍵要素，企業通過用戶行為數據分析提供個性化服務并實現精準營銷。但這種數據共享模式直接侵害了用戶隱私權。《個人信息保護法》第五十一條要求數據處理者確保數據安全，但企業在追求商業利益時常忽視隱私保護。例如，滴滴出行涉嫌將用戶出行記錄與第三方共享，且未充分告知用戶具體范圍，被監管機構調查[7]。這種商業行為雖提升了效率，卻犧牲了用戶對個人信息的控制權，并引發信息濫用風險。近年來，數據泄露事件頻發，Facebook和滴滴等案例表明，企業安全保障機制的不完善會嚴重侵害個人隱私。

二、AIGC協同治理的邏輯證成

(一)AIGC協同治理的內涵

協同治理的理念源于復雜社會系統對有效治理的需求[18]，也是促進新質生產力健康發展的關鍵路徑。在全球化與科技發展的背景下，特別是數字經濟與人工智能技術的廣泛應用，傳統單一主體的監管模式難以應對AIGC帶來的隱私風險與法律挑戰[19]。通過政府、企業、學術機構、技術社區和公眾等多主體協作，協同治理能夠整合資源，解決技術快速發展中的復雜問題，實現隱私風險的有效防控，為新質生產力的高效、安全發展提供制度保障。AIGC協同治理以多主體參與、技術與法律融合、數據透明化和公眾廣泛參與為核心。各方需共同制定標準與規范，并推動AIGC技術為新質生產力提供具體賦能。例如，政府通過政策引導和監管，確保數據共享和使用合法合規；企業采用技術手段如數據加密和差分隱私工具，加強對個人信息的保護；行業技術社區和公眾共同參與，提升治理透明度和社會信任度。這一模式將隱私風險降至最低，為AIGC技術的發展創造健康、可持續的環境，同時將新質生產力的創新目標融人治理體系。

第一，AIGC協同治理的核心是多主體參與的動態機制。傳統自上而下的監管模式強調政府主導、單向控制和強制執行[20]，而協同治理要求政府、企業和社會組織通過對話與合作，共同制定規則。政府不僅提供政策框架，還須推動企業和技術社區承擔更多社會責任。具體的技術實施規范由技術社區和行業標準組織共同制定，使治理機制更具靈活性和適應性。

第二，AIGC協同治理強調技術與法律的融合。AIGC技術的復雜性要求法律保障與技術手段相結合。例如，數據隱私保護僅依賴法律規范難以解決問題，需要結合加密算法和人工智能的自律機制。推動技術自我調節和風險防范是協同治理的重要內容，技術企業應引入倫理和合規考量，確保在設計階段實現個人數據保護與最小化處理等原則。

第三，協同治理中的數據共享和透明性是重要組成部分。AIGC的廣泛應用涉及跨平臺數據共享和使用，協同治理需確保數據的透明化和合規性。例如，在公共法律服務領域，AIGC可自動生成法律建議或文書，這些過程常涉及用戶數據的跨平臺傳輸和處理。通過平臺透明化和數據可追溯機制，確保數據共享每一環節符合法律規定，保護用戶隱私和知情權。

第四，協同治理要求公眾和用戶的廣泛參與[2]。用戶作為AIGC內容的生成者和受益者，其參與不僅是治理的倫理基礎，也是治理有效性的保障。協同治理目標是確保用戶對AIGC技術的充分知情，并賦予其選擇權與監督權。平臺需在隱私政策和數據使用條款方面更加透明，同時通過用戶教育和技術普及，讓公眾了解AIGC技術的潛在風險和權利保障途徑。

（二)AIGC協同治理的必要性

AIGC技術的快速發展在推動技術進步和經濟效益提升的同時，也帶來了隱私保護和法律合規的挑戰，成為制約其賦能新質生產力的重要瓶頸。如果缺乏有效的隱私風險治理，可能導致用戶信任流失、數據共享受阻以及法律問題累積，從而阻礙技術創新應用和推廣。《數據安全法》《個人信息保護法》等法規為構建協同治理框架提供了法律基礎，強調通過多主體協作應對隱私風險，保障AIGC的可持續發展。

第一，法律基礎為協同治理提供支撐。《數據安全法》第二十七條要求數據處理者建立覆蓋數據全生命周期的安全管理制度，包括收集、存儲、傳輸、處理和共享等環節，確保數據合法性和安全性。第二十九條進一步要求強化風險監測，在安全事件發生時及時補救并向用戶和監管部門報告。第三十條要求企業對重要數據定期評估并提交報告。這些條款為協同治理構建了“政府、企業和第三方\"協作框架，明確了各主體職責，為多主體參與提供了法律依據和操作指引。

第二，數據依賴與治理需求的沖突。AIGC技術對海量數據的依賴與法律規定的最小必要原則形成矛盾。《數據安全法》第三十二條要求數據收集必須合法、正當，《個人信息保護法》第二十九條則規定敏感個人信息的處理需取得用戶單獨同意。然而，AIGC在醫療健康和金融服務等領域的模型訓練需求，往往突破法律許可范圍，增加隱私泄露和數據濫用風險。這種沖突凸顯協同治理的必要性。通過政府嚴格審查、企業內部自律和第三方獨立評估，可以平衡技術發展與法律合規需求，為技術創新和隱私保護提供保障。

第三，構建協同治理的閉環機制。協同治理核心在于“政府監管、企業自律、公眾參與、第三方監督\"四位一體的閉環機制。《數據安全法》第三十三條和第三十四條要求數據交易中介機構審核數據來源并保存交易記錄，同時政府需定期檢查數據交易合規性。政府監管機構負責數據處理的前置審查，要求企業提交詳盡的數據處理計劃并持續報告合規性；企業通過內部審查和動態風險監控，及時糾正潛在問題；第三方機構通過外部審計和用戶反饋，增強治理透明度和問責性。此外，公眾參與在這一閉環中不可或缺，通過透明界面設計和落實知情權提升社會監督力度，強化數據治理合法性。

第四，國際合作與社會責任的必要性。在全球化背景下，AIGC技術的競爭不僅是國家科技實力的較量，更是國際合作與治理的重要內容22]。AIGC協同治理的需求還延伸至國際層面，中國應推動全球治理規則的形成，同時確保技術應用的公平與透明，避免算法歧視或數據濫用引發社會信任危機。例如，金融領域需保障決策過程公平，避免數據偏差損害弱勢群體利益。通過多主體協同，中國在全球技術治理中不僅能發揮領導作用，還能推進技術的社會責任落實，促進經濟和社會可持續發展。

（三）AIGC協同治理的可行性

AIGC協同治理的可行性體現在其能夠在推動技術賦能新質生產力的同時，又能平衡隱私保護與創新發展的需求。通過政府、企業、學術界和公眾的多方協作，協同治理為技術發展與法律規范之間的矛盾提供了解決路徑，也為社會責任與技術創新的持續發展奠定了基礎。

第一，理論基礎：多方互動與合作性[23]。AIGC技術的復雜性和廣泛影響決定了單一主體無法全面監管其應用及衍生問題，協同治理因此成為應對隱私風險和技術挑戰的必要手段。《數據安全法》第二十七條要求數據處理覆蓋全生命周期，強調多主體協作。這種互動包括政府制定政策和監管框架，企業及技術社區參與標準制定和自律管理，公眾通過監督機制保障合法權益。協同治理通過多層次合作，平衡技術發展與社會責任，確保治理效果的系統性和全面性。

第二，法律法規支撐：制度保障。在《個人信息保護法》《數據安全法》《生成式人工智能服務管理暫行辦法》等法規框架下，AIGC的協同治理得到了強有力的法律支持。《數據安全法》第二十九條強調風險監測和應急響應，而《個人信息保護法》第六條和第十三條明確了數據處理的合法性和必要性原則，特別是敏感數據需獲得明確同意。這些法律為多主體協作提供了操作指引，確保各方在法律框架下規范參與治理，防止數據濫用或隱私泄露，提高數據處理活動的透明度和合法性。

第三，政策導向：高質量發展與現代化治理。黨的二十屆三中全會提出“高質量發展必須以現代化的治理能力為支撐”，為AIGC協同治理指明了方向。完善的法治體系和多方協同機制能夠在保障隱私和數據安全的同時促進科技創新。例如，在醫療和金融等敏感領域，政府通過政策引導，結合企業技術應用與公眾監督，實現技術創新與社會責任的平衡。這種治理模式為AIGC在健康可控環境中的發展奠定了基礎，并助力中國式現代化。

第四，行業自律與技術標準：企業和技術社區的責任。行業自律和技術標準是協同治理的重要支柱，2024年發布的《生成式人工智能行業自律倡議》要求企業遵守數據安全與隱私保護法律，通過建立統一標準和自律機制減少隱私和數據安全風險。同時，技術社區推動技術透明化與創新解決方案，進一步增強協同治理的規范性和可操作性。

第五，公眾參與：知情與監督的機制保障。公眾作為數據提供者和隱私保護的核心利益方，其參與是協同治理的關鍵。《個人信息保護法》第四十四條規定公眾享有個人信息處理的知情權和選擇權。通過透明的界面設計和信息披露，公眾能夠了解數據處理情況并監督技術應用。這種廣泛參與不僅提升了治理的民主性和開放性，還強化了社會對技術進步的信任，確保技術開發與社會利益的平衡。

三、協同治理下AIGC隱私風險的治理機制

（一）多主體數據審查與權限分配機制

在多主體數據審查機制(見圖1)中，政府通過預審查與定期報告，落實《數據安全法》第二十七條關于“建立健全全流程數據安全管理制度\"的要求，并依據第三十條推動企業對重要數據定期開展風險評估與合規報告。這不僅明確了數據使用邊界，還保障了數據處理活動的合法性與安全性，滿足AIGC對高質量數據的需求，為新質生產力的創新發展奠定基礎。企業通過內部審查與動態監控，履行《數據安全法》第二十九條“數據風險監測與補救”的義務，既能降低隱私泄露風險，又能通過動態調整與技術優化滿足新質生產力對實時數據的需求。此外，第三方機構通過獨立審查與用戶反饋機制，加強了外部監督的透明性與社會參與的廣泛性，在平衡數據合規要求與技術創新動力的同時，提升了治理的公信力與實效性。

在權限分配機制方面，分級數據訪問權限符合《數據安全法》第二十七條規定的技術安全要求，通過精準劃分敏感數據訪問權限，既提升了隱私保護水平，又確保了關鍵數據的高效流轉，從而支持新質生產力對數據共享與協作的需求。同時，多因素驗證與動態權限管理結合了《數據安全法》第二十八條中“數據處理活動需符合社會公德和倫理\"的原則。這一機制在保障數據訪問安全性的同時，允許根據任務需求動態調整權限，最大化支持AIGC在多場景中的創新應用。尤其是在第三方數據處理環節，實時監督與自動化權限管理機制不僅符合《數據安全法》第三十三條與第三十四條的要求，還通過高效的權限分配與合規審查，確保了數據使用的合法性和合理性，為新質生產力的發展提供了重要支撐。

1.多主體數據審查機制

《數據安全法》第二十七條要求建立全流程數據安全管理制度，并采取必要措施保障數據安全。《個人信息保護法》第六條和第十三條進一步規定，數據處理活動需遵循合法、正當、必要原則，確保數據收集不

超出實現處理目的的范圍。然而，AIGC技術對海量數據的依賴可能導致企業突破“最小必要原則”，甚至出現過度數據收集問題。為此，應建立多主體數據審查機制，在數據收集與處理的各個環節引入嚴格的前置和后續審

查24，形成由政府監管機構主導全局監管、企業合規部門加強動態自律以及獨立第三方審查機構與用戶反饋補充監督的監管閉環。

第一，政府監管：預審查與定期報告。國家互聯網信息辦公室等機構需主導數據管理，要求企業在數據收集前提交詳細處理計劃[25]，包括目的、范圍、期限和方式。前置審查機制提升數據使用透明度，避免企業在數據收集初期違反最小必要原則。同時，定期審查與合規性報告能確保數據處理過程符合法律規定。尤其是在處理敏感數據時，如健康信息和金融數據，企業需制定專門審查流程以保障合規。

第二，企業自律：內部審查與動態監控。企業需建立自我審查機制，定期檢查數據存儲、傳輸和共享的合規性，并對潛在風險進行動態監控。特別是在AIGC系統開發與應用中，新數據的收集與處理必須經過合規評估，并向政府提交報告。企業還需加強員工培訓和責任追溯，確保相關人員熟悉法律要求，及時發現并糾正違規行為。

第三，第三方審查與用戶參與。獨立的第三方機構可對企業數據處理行為進行客觀評估，發現問題后及時采取糾正措施，為企業提供雙重監督。此外，用戶參與機制確保其知情權和決策權，用戶可通過透明界面查看數據使用情況，并隨時調整或撤回授權。用戶反饋還能為第三方審查提供參考，提升數據治理透明性和合法性。例如，GDPR要求企業在收集用戶數據前進行數據影響評估(DPIA），以確保數據處理風險可控[2。結合我國《個人信息保護法》和《數據安全法》的要求，尤其在處理跨境數據和AIGC數據訓練時，通過嚴格的第三方審計和用戶監督，有助于減少隱私風險，增強數據處理的合規性。

2.權限分配機制

第一，嚴格分級數據訪問權限。在AIGC系統中，分級管理是確保數據隱私和安全的基礎。高敏感性數據如個人身份信息、健康記錄、財務數據等，必須采用加密、匿名化或去標識化方式處理，且僅限特定任務所需人員訪問。《個人信息保護法》第四

十四條要求，敏感數據處理必須遵循最小化原則，防止過度收集和濫用。企業應采用強制加密、端到端加密及數據分塊加密等多重保護措施，以防數據在傳輸和存儲過程中被截取或泄露。同時，定期審核權限設定，確保訪問權限合理，并嚴格按照規定使用數據，避免敏感數據被不必要地訪問。

第二，多因素驗證與動態權限管理。為增強數據訪問安全，企業應采用多因素驗證(MFA)與零信任安全框架。這些措施結合密碼保護、生物識別(如指紋或面部識別）、驗證碼及硬件令牌等多種驗證方式，確保僅合法授權用戶可訪問數據。在AIGC系統中，鑒于數據量大且敏感度高，此類驗證機制尤為重要，可有效防止因權限泄露導致的隱私風險。此外，企業應采用動態權限管理系統，通過實時監控與審查，根據實際需求調整權限。例如，任務完成后自動收回數據訪問權限，避免長期開放帶來的風險，定期清理歷史權限可進一步保障數據安全。

第三，外部審查機制與第三方數據處理。企業與第三方共享數據時需設定嚴格邊界，確保第三方僅訪問必要數據。《數據安全法》和《個人信息保護法》要求，涉及用戶個人信息的第三方服務（如支付處理或數據分析)需經過嚴格合規審查，并簽訂明確的法律協議，規范數據使用范圍與目的[27]。企業應通過訪問日志記錄與監控系統實時追蹤第三方的數據使用行為，確保其合規操作。此外，第三方需接受定期獨立審計以驗證數據使用合法性和合規性。企業還應引入自動化權限管理工具，及時更新和核查第三方權限，防止權限超出范圍。若發現第三方濫用數據，需立即凍結其權限并啟動內部調查，保障用戶隱私權不

受侵害。

（二）動態生成監督與跨部門合規責任機制

動態生成監督與跨部門合規責任機制（見圖2）以現行法律為基礎，并結合創新實踐，為AIGC賦能新質生產力提供隱私保護與合規發展的雙重保障。此外，在動態生成監督方面，《數據安全法》第二十七條要求建立全流程安全管理制度，第二十八條強調數據處理需符合社會公德與倫理；《個人信息保護法》第二十九條明確處理敏感數據時需具備實時監測與補救能力。這些法規為動態生成監督和實時預警機制奠定了法律依據。基于此，本文引入自動化工具提升監測效率，并結合人機協作，實現多層次監督，確保生成內容的精準性與靈活性，同時滿足新質生產力的數據需求。

1.動態內容生成監督機制

第一，自動化監測與篩查工具的應用。AIGC技術依賴復雜算法和海量數據生成內容，其不可預測性對用戶隱私和信息控制權構成挑戰。為此，平臺應通過自動化監測和篩查工具進行實時分析。這些工具利用機器學習和人工智能技術，識別潛在隱私泄露或法律風險，尤其針對個人信息和敏感數據進行自動監測。例如，當系統檢測到未經授權的個人數據被用于生成內容時，可自動觸發警報并暫停發布。這種機制符合《個人信息保護法》第六條的數據最小化要求，有效減少用戶數據的濫用風險，特別是在處理醫療數據和殘障人數據等敏感信息時，確保每一生成階段符合法律規范。

第二，實時預警與暫停機制。針對AIGC生成內容可能引發的隱私或法律問題，平臺需建立實時預警和暫停機制。通過敏感內容識別模塊，系統在發現未經授權的個人信息被利用時，需立即暫停內容生成或發布[28]。這種機制不僅可保護個人隱私，還能防止生成不當或違法內容。例如，在生成法律文件或公共信息時，通過多層次的內容預警和暫停操作，可避免自動化生成導致的錯誤傳播。

第三，人機協作的多層次動態監督。盡管自動化工具在內容監督中發揮重要作用，但僅依賴自動化可能不足。在處理復雜問題時，需引入人機協作的多層次監督機制。平臺應配備專業人員，在系統無法自動處理或識別潛在風險時進行人工干預和審核。例如，在法律、金融和公共服務等高敏感領域，引入人工審核機制確保生成內容符合法律和行業標準。通過人機協作，平臺可保障內容的技術、法律和倫理合規性，降低因自動化判斷失誤帶來的風險。

2.跨部門合規責任機制

第一，政府監管主導與合規標準制定。政府監管機構應主導制定法律合規標準和實施細則，涵蓋隱私保護、數據使用和內容生成等領域29，確保法律規范與AIGC技術特點相結合。例如，國家互聯網信息辦公室和市場監管機構應針對算法透明性和生成內容的合規性制定專項監管政策。這些政策要求平臺在內容生成前進行風險評估，并備案涉及用戶敏感信息的操作，確保生成內容的每個環節均符合合規要求。

第二，企業內部合規部門與自律審查。企業需設立專門的合規部門，動態監督AIGC內容生成的全過程，確保技術系統符合法律要求[30]。合規部門需定期對生成內容的合規性進行審查，并為敏感數據的生成和使用建立詳細記錄以供追溯。此外，企業應定期提交合規報告，與監管機構保持合作，確保法律動態與合規策略同步。例如，在生成法律服務類內容時，企業應建立專門的合規審核小組，逐一審查生成內容，以避免隱私侵害和法律違規。

第三，第三方審計與責任追蹤機制。引入獨立審計機構對AIGC內容生成流程進行定期審查，確保企業遵守法規和標準[3]。獨立審計不僅監督企業行為，還提供公平透明的合規環境。責任追蹤機制需明確生成內容責任的歸屬，并為每份生成內容建立詳細的合規記錄，確保在問題發生時迅速找到責任主體，減少法律糾紛。這一機制通過多方監督與追蹤，不僅防止合規失誤，還能提升公眾對AIGC平臺的信任。

（三）透明的數據共享協作與分階段同意機制

透明的數據共享協作與分階段同意機制（見圖3）的設計，旨在平衡數據共享的合規性與隱私保護的有效性，為AIGC賦能新質生產力提供數據支持。在透明的數據共享機制中，《數據安全法》第二十七條要求建立全流程數據安全管理制度，第三十二條明確數據合法、正當使用的規定，要求數據處理者履行信息公開和透明管理義務；多主體協作機制則依據第二十九條和第三十條，通過動態風險監控與定期評估，確保數據共享的合法性與安全性。此外，通過持續監控與自動化預警機制，利用技術手段實時控制風險，進一步提高數據共享過程的監管效率。在分階段同意機制中，分階段授權與用戶撤回權的設置滿足了《個人信息保護法》第二十九條和第四十四條的法律要求，并通過個性化選擇功能，賦予用戶調整隱私偏好的靈活性，從而實現隱私保護與數據共享的平衡。這一機制既支持新質生產力對數據高效流轉的需求，又增強了隱私保護的廣度與深度。

1.透明的數據共享機制

第一，數據共享的透明框架與信息公開。在數據共享過程中，建立透明框架尤為重要。平臺和企業應向用戶清晰披露數據的收集、存儲、處理和共享情況，包括數據類型、共享對象、目的、使用期限及處理方式32]。這些信息應通過用戶友好的界面展示，方便用戶了解其數據的使用情況并追蹤數據流動。此外，區塊鏈等技術可作為技術保障，確保共享環節的可追溯性，避免未經授權的使用或數據篡改。這一機制不僅符合《個人信息保護法》和《數據安全法》的要求，還能增強用戶對平臺數據處理的信任。

第二，多主體數據共享協作機制。數據共享涉及多個主體和平臺，需要明確各方的責任與角色。政府機構應制定數據共享的標準與規則，企業需確保共享過程符合法律要求并接受外部審查。同時，平臺可與第三方審計機構合作，定期對數據共享過程進行獨立評估，保障合規性與透明性。這種多主體協作機制有效減少數據泄露風險，防止數據被過度使用或非法傳播，同時明確各方責任。

第三，持續監控與自動化風險預警系統。平臺需建立持續監控與自動化風險預警系統，確保數據共享的合法性和安全性。通過機器學習和人工智能技術，實時監控數據使用情況，尤其針對敏感數據和個人信息，應設立監控機制以確保數據共享符合既定目的和法律要求。當出現不當使用或超出范圍的共享行為時，系統應自動報警并暫停相關操作。此外，平臺需定期向用戶和相關方提供數據使用報告，展示數據流動情況及合規性審核結果。此類監控與預警系統有助于確保共享過程的安全性，降低法律風險與數據泄露隱患。

2.分階段同意機制

第一，分階段授權與數據處理透明化。分階段同意機制要求用戶對每個數據處理階段單獨授權，而非一次性授權整體使用。平臺需在每個階段操作前明確告知數據的使用目的、處理方式及涉及的第三方，使用戶清楚了解數據如何被利用，并根據實際需求作出決策。例如，在廣告投放、個性化推薦或跨境數據傳輸等場景，用戶應被告知具體操作信息，確保在充分知情的情況下進行選擇。此透明化過程不僅符合《個人信息保護法》對知情同意的要求，也能有效防止數據被濫用或超出用戶預期。

第二，用戶控制的靈活性與撤回權。分階段同意機制的核心是賦予用戶靈活調整和撤回授權的權利。平臺應提供簡便的操作界面，使用戶能在數據處理的各階段實時修改或撤回授權。例如，用戶在數據被第三方處理前決定撤回授權時，平臺需立即停止數據使用并刪除存儲。這種靈活性機制增強了用戶對數據的控制感，同時符合法律關于數據撤回的規定，有效保護用戶的個人信息權利。

第三，用戶授權管理與個性化選擇機制。平臺需為用戶提供個性化的數據授權管理選項，允許其根據數據類型或用途設定授權條件[33]。例如，用戶可選擇允許平臺基于行為數據提供個性化內容，但拒絕共享個人身份信息給第三方廣告商。通過詳細的授權選擇界面，用戶可以靈活調整隱私偏好。此機制不僅提升了數據使用的合規性，還為用戶提供更精準和靈活的隱私控制方式，同時增強對平臺數據處理行為的信任。

四、結語

AIGC技術的快速崛起正推動新質生產力的變革，但同時也帶來了隱私風險和治理挑戰。黨的二十屆三中全會強調在推進中國式現代化中統籌發展和安全，為AIGC的隱私治理指明了方向。生成內容的不確定性、數據處理的復雜性和跨領域數據共享性，模糊了個人信息的邊界，進一步加劇了隱私泄露和信息控制權的沖突。傳統法律框架難以全面應對這些新問題，迫切需要從治理機制和法律制度上進行調整。基于協同治理理念，AIGC隱私治理應重點關注多主體數據審查、動態內容生成監督和跨部門合規責任機制。通過實時監督與多方協同治理，能有效應對生成內容的不確定性，保障用戶信息控制權，降低隱私侵權風險。此外，應堅持包容審慎的監管理念，通過分階段用戶同意機制和多層次責任分配，確保AIGC技術在推動新質生產力發展時，兼顧隱私保護與社會責任，實現技術進步與社會安全的平衡。

參考文獻：

[1]習近平經濟思想研究中心.新質生產力的內涵特征和 發展重點（深人學習貫徹習近平新時代中國特色社會 主義思想)[N].人民日報，2024-03-01(09).

[2]侯冠宇，張震宇.新質生產力賦能共同富裕的理論邏 輯、關鍵問題與現實路徑[J].云南民族大學學報(哲學 社會科學版)，2024，41(3)：93-100.

[3]黃旭，洪美玲.生成式人工智能助力數字經濟高質量 發展的影響機制與提升路徑[J].南方經濟，2024(8)：23-44.

[4] BANSE A， KREISCHER J. Federated Learning with Differential Privacy[EB/OL]. (2024-02-03) [2024-09-03]. https: //doi.org/10. 48550/arXiv. 2402. 02230.

[5] KUNG TH，CHEUNG S，LIN Y.Performance of ChatGPT on usmle:Potential for AI-Assisted Medical Education Using Large Language Models[J]. PLOS Digital Health， 2022(2): 1-12.

[6] BRAUNLEIN F，FRERICHS L. Smart Spies: Alexa and Google Home Expose Users to Vishing and Eavesdropping[EB/OL]. (2019-10-20)[2024-09-27]. https: //www. srlabs. de/blog-post/smart-spies.

[7] GARANTE P. Intelligenza Artificiale: Il Garante Blocca Chatgpt. [EB/OL]. (2023-03-31)[2024-09-01]. https: // www.garanteprivacy.it/home/docweb/-/docweb-display/ docweb/9870847.

[8] CHEN J， HE J，CAI L， et al. Disclose more and risk less: Privacy preserving online socialnetwork data sharing[J]. IEEE Transactions on Dependable and Secure Computing，2018(6): 1173-1187.

[9]WACHK，KUPRIANOVA，ZHANG T.The dark side of generative artificial intelligence: A critical analysisof controversiesand risks of ChatGPT[J]. Entrepreneurial Business and Economics Review，2023，11(2): 1-3.

[10]蒲清平，向往.生成式人工智能——ChatGPT的變革 影響、風險挑戰及應對策略[J].重慶大學學報(社會科 學版)，2023，29(3):102-114.

[11]劉士國.信息控制權法理與我國個人信息保護立法[J]. 政法論叢，2021(3):80-91.

[12]WAKEFIELDJ.Microsoft chatbot is taught to swear on Twiter[EB/OL]. (2016-03-24)[2024-09-20].https: // www.bbc.co.uk/news/technology-35890188.

[13] SALHAN K. Copyright law to be tested in AI High Court case[EB/OL]. (2023-12-19)[2024-09-20]. https: //gowlingwlg.com/en/insights-resources/articles/2023/copyrightlaw- to-be-tested-in-ai-high-court-case.

[14]HERNA.NewAiFake TextGenerator MayBe Too Dangerous to Release，Say Creators[EB/OL]. (2019-02-14) [2024-09-20]. https: //www. theguardian. com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincingnews-fiction.

[15]田野.大數據時代知情同意原則的困境與出路- 以生物資料庫的個人信息保護為例[J].法制與社會發 展，2018，24(6): 111-136.

[16] CONFESSORE N. Cambridge Analytica and Facebook: The Scandal and the Fallout So Far[EB/OL]. (2018-04- 04)[2024-09-22]. https: //www. nytimes. com/2018/04/ 04/us/politics/cambridge-analytica-scandal-falout. html.

[17]國家石聯網信息辦公室有關負責人就對滴滴全球股 份有限公司依法作出網絡安全審查相關行政處罰的 決定答記者問[EB/OL]. (2022-07-21)[2024-09-20]. https: //www.cac. gov.cn/2022-07/21/c_166002153436 4976. htm.

[18] ANSELL C. Collaborative governance in theory and practice[J].Journal of Public Administration Research and Theory，2008(4): 543- 571.

[19]胡穎廉.推進協同治理的挑戰[EB/OL].(2016-01-25) [2024-09-21]. http: //theory. people.com.cn/n1/2016/ 0125/c49150-28081271. html.

[20]黃曉春，周黎安.政府治理機制轉型與社會組織發展[J]. 中國社會學，2017(11): 118-138.

[21] ANSELL C. Collaborative governance in theory and practice[J].Journal of Public Administration Research and Theory，2008(4): 543- 571.

[22]方興東.從人工智能大模型看大國科技博弈態勢[J]. 人民論壇·學術前沿，2024(13):44-56.

[23]劉瓊蓮.中國社會治理共同體建設的關鍵：信任與韌 性[J].學習與實踐，2020(11):29-39.

[24]中共中央國務院關于構建數據基礎制度更好發揮數 據要素作用的意見[EB/OL].(2022-12-19)[2024-09- 20].https://www.gov.cn/zhengce/2022-12/19/content_ 5732695. htm.

[25]馬允.政府獲取平臺數據權力的構造與邊界[J].山西 大學學報(哲學社會科學版)，2024(2): 49-59.

[26]DASHTI S.Tool-Assisted Risk Analysis for Data Protection Impact Assessment[C]. Privacy and Identity Management.Data for Better Living:AI and Privacy. Cham: Springer，2020:308-324.

[27] SCHNEIDER M.Protecting customer privacy when marketing with second-party data[J]. International Journal of Research in Marketing，2017(4): 593-603.

[28] STRATTA M.Automated content warnings for sensitive posts[C]. CHI EA'2O: Extended Abstracts of the 2020 CHI Conference on Human Factors in Computing Systems.New York:ACM，2020:1-8.

[29] HACKER P. Regulating ChatGPT and Other Large Generative AI Models[C]. FAccT'23:Proceedings of the 2023 ACM Conference on Fairness，Accountability，and Transparency，2023:1112-1123.

[30]張欣.生成式人工智能的算法治理挑戰與治理型監 管[J].現代法學，2023，45(3):108-123.

[31]RAJIID，MITCHELL M， SMITH JM， et al.Outsider oversight: Designinga third party audit ecosystem for AI governance[C]. Proceedings of the 2022 AAAI/ACMConference on AI，Ethics，and Society.New York:ACM， 2022: 231-242.

[22]范為+數氓葉代個Ⅰ自但忙的敗徑重均環球

法律評論，2016，38(5):92-115. [33]MERLECMM，LEEYK，HONGSP，etal.Asmart contract-based dynamic consent management system for personal data usage under GDPR[J]. Sensors，2O21(23): 1-24.

Privacy Risks and Collaborative Governance of Artificial Intelligence Generated Content Empowering New Quality Productivity Forces

Yang Qingwang，Tang Qian

(LawSchool，Central SouthUniversity，Changsha41oo83，China）

Abstract:Generative AI playsacriticalrole indriving the development ofnewquality productive forces，significantly enhancingproduction eficiencyand innovation capacity.However，itsheavyrelianceondata alsobrings seriousprivacy risks.The application of generative AI in new quality productivity forces scenarios requires large scale，highprecisiondata，often exceeding thescopeof thedataminimizationprinciple，therebyincreasing the likelihoodof excessive datacollction.Aditionally，thecomplexityof algorithmsandthe unpredictabilityof generated content weaken user control over personal information，leading to insuffcient transparencyandexacerbating privacy risks.Moreover， cross-industryandcross-regional data sharing makes it dificult to fullyachieve informed consent.Toaddress these challenges，acollborative governance model is needed，ensuring dataminimizationthrough multi-stakeholderdatareview and permisson allcation mechanisms，thereby reducing theriskof excessive data colection.Dynamic content generation supervision and cross-departmental compliance responsibility mechanisms can strengthen the regulation of generated content，enhancing user control over their information.Transparent data-sharing cooperation and phased consentmechanisms willensure that users efectivelycontrol their information in cross-industryand cross-regional data flows，ultimately achieving a balance between the development of AIGC technology and privacy protection.

Keywords:generative Inteligence;new quality productivity forces;personal information protection; privacy protection; collaborative governance