生成式人工智能應用中個人信息保護檢察公益訴訟之應對

摘 要：生成式人工智能給傳統個人信息保護模式帶來多維度挑戰，與其他類型公益訴訟相比個人信息保護領域公益訴訟制度體系尚不完善，規范構建缺位、訴權主體順位界定模糊、定義損害限縮保護效能等。數字時代個人信息保護被納入檢察公益訴訟管轄范疇成為應有之義，檢察機關應基于生成式人工智能侵犯個人信息的特點，完善多維度法律保障體系、強化檢察機關非備位訴權主體定位、明晰妨害與損害界限進行預防性規制、跨越“信息孤島”引入多元協同治理理念等，優化個人信息保護檢察公益訴訟效能，維護個人信息安全與國家公共安全。

關鍵詞：個人信息保護 檢察公益訴訟 生成式人工智能 多元協同

一、問題的提出

在致第二十二屆國際檢察官聯合會年會暨會員代表大會的賀信中，習近平總書記提到 ：“檢察官作為公共利益的代表，肩負著重要責任。”［1］《個人信息保護法》的實施為檢察機關提起個人信息保護公益訴訟提供了訴權基礎與制度依據：即個人信息屬性由私權向公共利益升級、由私法保護向公法保護擴張。［2］當前生成式人工智能軟件的推廣使得個人信息侵權“大規模與小侵害”的特點愈加明顯［3］，也使得違法獲取、非法操控、買賣數據等行為更加便利。個人信息保護公益訴訟的發展歷史要比其他類型公益訴訟短很多，2024年1月13日召開的全國檢察長會議，通報1月至11月辦理食品安全領域公益訴訟2.3萬件，辦理個人信息保護領域公益訴訟4848件。［4］盡管個人信息保護公益訴訟案件量實現了零突破并且在增加，但仍然遠少于其他類型公益訴訟辦案量。［5］筆者認為，新質生產力背景下，檢察機關借鑒消費者保護、環境保護公益訴訟制度等進行個人信息保護公益訴訟制度補強，成為當前應對數字時代發展變化的緊要任務。

二、生成式人工智能應用中個人信息保護檢察公益訴訟應對必要性

2024年12月，杭州深度求索人工智能基礎技術研究有限公司推出Deep—V3，引發熱潮，該模型訓練“喂料”的數據量級達到前所未有之大，但當前涉及到用戶個人信息內容生成的算法設計、用戶侵權指令及侵權行為的識別反饋機制還存在缺陷，對傳統個人信息保護提出了新的挑戰：第一，生成式人工智能輸出鏈條前端“喂料”過程中，其內容往往包含大量的具有身份識別性質的個人信息，而因其“喂料”數據之龐大，期待“喂料”端口團隊識別所有的個人信息并履行告知義務并不現實，若采用傳統的告知同意原則，要求每一次訓練“喂料”都盡到告知義務，可能會阻礙生成式人工智能發展。［6］第二，“喂料”的數據集絕大部分來自于已經公開的數據，針對使用者對其進行使用何種程度上達到侵害公共利益程度、何時需要檢察機關以公益訴訟職能方式介入履職尚不明確。第三，隨著大數據模型的快速迭代升級，傳統定義個人信息為私益采用點對點進行保護的基礎模式已無法有效應對生成式人工智能侵犯個人信息的集中度高、規模大、領域拓展性強的特點。［7］第四，面對強大智能“對手”，因證據掌握無優勢、損失賠償難確定等原因，私益救濟動力式微，采公益訴訟方式優勢逐漸體現。基于檢察機關線索發現、證據掌握等的優勢與特點，在既有檢察實踐及其他類型公益訴訟保護基礎上，于個人信息保護領域引入檢察公益訴訟制度來應對數字背景下公共利益保護之挑戰，是檢察機關作為法律監督機關融入國家治理體系和治理能力現代化進程的應有之義。［8］

三、生成式人工智能應用中個人信息保護檢察公益訴訟應對困境

（一）法律規范構建缺位

一方面規制生成式人工智能產業鏈前端“喂料”與末端輸出的法律法規供給不足，僅僅散見于《生成式人工智能服務管理暫行辦法》等規章中。另一方面關于個人信息保護檢察公益訴訟法律法規供給不足：從審前磋商、制發檢察建議，再到訴訟請求、懲罰性賠償，到末端的履責效果評判、賠償金后續使用的追蹤等，一直處于搭《民事訴訟法》《行政訴訟法》便車的規范闕如狀態，缺乏系統成文的規范性表達。當然這與生成式人工智能僅在短時間內就崛起以及個人信息保護近幾年才從私法保護過渡到公法保護有關，新質生產力的躍進及理念的擴張導致難以及時匹配完善的規范體系在情理之中。但法律法規供給不足的狀態也確實使得司法實踐中新的問題無法得到解決，給當前科技發展背景下個人信息保護檢察公益訴訟帶來了困惑。

（二）有權提起公益訴訟主體界定模糊及順位存爭議

首先，《個人信息保護法》中未明確說明具有起訴資格的主體是否有順序要求，無法明確檢察機關是單獨第一順位還是與法律規定的消費者組織和由國家網信部門確定的組織兩個主體并處第一順位。其次，并未指出中國互聯網協會個人信息保護工作委員會、國際信息系統安全協會（ISSA）等近幾年新成立的個人信息保護相關組織是否擁有提起訴訟的資格，且《個人信息保護法》第70條只提到“法律規定的消費者組織”可提起公益訴訟，而近兩年人工智能“喂料”的預訓練階段對個人信息的收集，如醫療類人工智能APP對患者病例資料等的收集、教育類購物類等智能軟件都存在著類似通過網絡爬蟲技術侵犯個人信息的風險，僅對消費者組織作出主體資格規定已經不符合當下的新興技術產業發展環境。

（三）妨害異化為損害限縮檢察機關個人信息保護效能

生成式人工智能對個人信息的侵犯著重表現在算法侵害上，而算法侵害又包括了算法損害和算法妨害，對比損害與妨害，損害是一種已然發生的結果，有具體的損害后果。［9］而妨害是“基于風險或過程的抽象性侵害”，包括過程，指正在發生的但是尚未造成實際損害的卻已經暗含侵犯個人信息既定權利和法益風險具有潛在危險的侵權行為［10］，如個人信息僅僅處在被非法收集的階段還沒被非法濫用，此時檢察機關以公益訴訟方式介入履職的條件就不能以損害結果的發生作為唯一判斷標準，應考慮如果當下風險已經超出了預估的閾值，那么就應當將個人信息的妨害也納入到公益訴訟的保護范疇。［11］例如，國家網信辦2022 年公布的案例：某打車軟件過度收集乘客人臉識別、“家”和“公司”打車地址信息等，如果仍然以《個人信息保護法》規定的訴訟事由損害為判斷標準而忽略已經非常高的風險閾值，無疑會窄化檢察機關的職責范圍，不能及時啟動公益訴訟程序，面對生成式人工智能驚人的傳播速度和破壞能力，對侵害個人信息的行為難以做到有效打擊。［12］

四、生成式人工智能應用中個人信息保護檢察公益訴訟優化進路

（一）完善多維度生成式人工智能應用中個人信息公益訴訟保護法律保障體系

2024年12月20日上午，檢察公益訴訟10周年座談會在最高檢召開，會上提到檢察公益訴訟法立法工作目前正在有序順利推進。乘著公益訴訟的立法春風，可以專章的形式體現對生成式人工智能侵犯個人信息的規制，例如明確該類智能軟件收集個人信息來源的合法性標準，嘗試構建分層次治理模式；完善該類智能軟件用戶責任體系，形成智能產業鏈全鏈條鏈接點的多方權責機制，促進侵權風險責任承擔的有效合理分配。［13］此外，還應當完善檢察公益訴訟程序和實體規則提高履職可操作性及實效性，回應社會對于個人信息是否能夠從“私益”過渡到“公益”進行保護的爭議，例如在法條中明確個人信息能夠納入檢察公益訴訟治理的范疇，包括定位、原則、管轄、受案范圍、證據、調查權配置、期間、審判程序和執行程序等；可以“一般＋特別”“重點列舉＋概括兜底”的方式，在總原則中將個人信息保護納入受案范圍［14］；同時吸取其他類型公益訴訟實踐經驗教訓，簡化訴訟審前程序、縮短公告期限、減少審批環節等加快訴訟進程，提高個人信息保護公益訴訟效率。

（二）強調檢察機關非備位訴權主體定位及明確其他有權提起訴訟主體

首先，一方面應當明確檢察機關作為個人信息保護公益訴訟核心適格主體的定位。《中共中央關于加強新時代檢察機關法律監督工作的意見》明確指出要以實踐先于立法的模式探索新質生產力等新領域公益損害案件，因此面對結合人工智能背景的個人信息保護檢察公益訴訟新模式，有待于檢察機關作為最主力主體的探索與實踐總結。另一方面應當明確檢察機關起訴順位的優先性。結合訴訟提起率、訴訟勝訴率、資源經驗擁有優勢等因素，重點考慮檢察機關在應對生成式人工智能個人信息侵權特點時的功效發揮程度，確認其于新型公益訴訟中“急先鋒”角色化備位為優先位，使其更好發揮社會治理領域利刃功能。其次，要充分重視社會組織如2024年成立的廣東省網絡數據安全和個人信息保護協會、開放網絡安全協會（OWASP）等這些行業自律組織的角色［15］，考慮其規模力量、專業資質等，發揮它們在線索發現、專業知識掌握等方面的資源優勢，使其能成為聯結生成式人工智能軟件與司法機關的良性渠道；同時拓寬“法律規定的消費者組織”等類型的訴權主體，加入當前社會生活領域新出現的相關主體，可在法律法規中采上文提過的“重點列舉＋概括兜底”的方式進行明確。［16］

（三）明確把損害定義為妨害進行預防性規制

預防性規制的核心在于明確救濟的三大節點，即事前、事中、事后救濟，面對大數據模型可能造成個人信息侵權難以有效補救的不可逆性，檢察機關應從結果導向向預防規制導向轉變，將訴訟事由由損害定位為妨害，利用自身資源優勢協同各處理信息的機關、團體、個人等，秉持風險意識及時發現可能發生的個人信息被非法收集、使用和泄露的問題，包括嘗試引入糾紛調解機制，與各方主體合作通過多種手段如審前磋商等將損害的苗頭遏制住，即檢察機關一旦發現風險閾值高的危險情形，就應當主動發起公益訴訟，通過分階段有層次的方式，提升個人信息領域的治理效能。此方式或既可以緩解司法流程力有不逮的窘迫，同時將《個人信息保護法》中規定的有權監管的主體納入調解機制當中發揮其調解者的角色調動行政監管主體的積極性。

（四）打破“信息孤島”引入多元協同治理理念

結合跨領域、多模態前端個人信息“喂料”大數據模型訓練特點，科技時代“信息孤島”“數據壁壘”等因素對個人信息保護公益訴訟提出更高挑戰，亟需打破“孤島”以多元協同作為檢察監督職能與社會公共利益保護的耦合點，致力于形成公權力與私有主體協同的有機治理體系。［17］應當鼓勵起訴主體多元化，促成成立生成式人工智能個人信息保護協會等行業協會組織，在調查取證、提供專業意見等方面獲取幫助支持；建立與其他部門的信息共享機制，例如市場監督管理部門、大數據管理部門、地方網信辦等，及時共享案件線索、調查進展等信息，整合資源力量提高執法效率；當然檢察機關還應當充分發揮橫向一體化優勢，加強刑事檢察、公益訴訟檢察等各業務部門間的銜接合作，共同應對新質生產力下的個人信息侵權風險。

五、結語

生成式人工智能引發的社會轉型伴隨著個人信息利益受損的公共性危機，而“公共利益守護者”的職能要求檢察機關對新業態及時作出快反應，在推動解決個案爭議的基礎上，有效填補司法實踐及法律法規空白助推形成個人信息保護公益訴訟長效機制，切實把制度優勢轉化為保護國家公共利益的司法效能。［18］未來隨著相關法律法規的不斷完善和實踐經驗的積累，檢察機關應持續探索創新個人信息保護機制，加強與各方主體的協同合作，充分發揮檢察公益訴訟職能，應對好個人信息保護領域的新挑戰，為個人信息安全筑牢堅實的司法保護屏障，推動數字時代個人信息保護法治建設不斷前進。