論生成式人工智能時代的被遺忘權*

商建剛

(上海政法學院,上海 201701)

一、問題的提出

ChatGPT等生成式人工智能應用帶來了“用戶提示—AI生成”的新場景,被遺忘權項下的“刪除權”和“解除索引權”無法實施。早在2017年,谷歌研究人員構建了Transformer模型(1)See Vaswani,etal,“Attention is all your need.”arXiv:1706.03762 [cs.CL](2017).,在生成式人工智能領域形成了“預訓練+微調”的開發范式(2)See OpenAI:Introducing ChatGPT, https://openai.com/blog/chatgpt/, last visited on February 27, 2023.,可在超大數據量下,對尚未進行標注的語料庫進行學習,并通過微調快速適用于下游任務。“預訓練+微調”的AI開發范式極大地節約了開發成本,產生了諸如ChatGPT、BERT、Midjourney、文心一言等生成式人工智能應用。可以說,人類已經進入生成式人工智能時代,數據基礎制度的核心已從保護轉向運用(3)商建剛,馬忠法.數據權益的實現:從保護到運用[J/OL].社會科學輯刊:1-12[2023-05-14].。然而,生成式人工智能的自學習模式將未標注的個人原始信息變成一碗“數據湯”(4)See ChatGPT vs GDPR - what AI chatbots mean for data privacy,https://www.information-age.com/chatgpt-vs-gdpr-what-ai-chatbots-mean-for-data-privacy-123501570/,last visited on 10 March 2023.,其濫用個人信息方式具有無形性、潛伏性、未知性等特征(5)田野.風險作為損害:大數據時代侵權“損害”概念的革新[J].政治與法律,2021,(10):25-39.,以至信息主體面臨“告知—同意”失效、司法救濟難等困局(6)張濤.探尋個人信息保護的風險控制路徑之維[J].法學,2022,(6):57-71.,給個人信息權利的保護帶來了極大挑戰。

我國法學界對被遺忘權的法律屬性、理論基礎、制度內涵尚未形成共識。我國沒有采用歐盟《通用數據保護條例》(簡稱GDPR)中擦除權(“被遺忘權”)的提法,而是在《民法典》從賦權的角度在第1037條第2款規定了自然人的信息刪除權,《個人信息保護法》從數據保護的角度在第47條對刪除權作了細化規定,由此產生了被遺忘權和刪除權的法律概念之爭。主要有三類觀點:第一類觀點認為,被遺忘權是刪除權的上位概念(7)段衛利.被遺忘權的概念分析——以分析法學的權利理論為工具[J].河南大學學報(社會科學版),2018,58(5):17-24.。持該觀點的學者認為,被遺忘權包含刪除權,刪除權是手段,被遺忘權是目的。第二類觀點認為,刪除權是被遺忘權的上位概念(8)薛麗.GDPR生效背景下我國被遺忘權確立研究[J].法學論壇,2019,34(2):100-109.。持該觀點的學者認為,根據GDPR第17條所采取的“刪除權(被遺忘權)”命名方式,刪除權是根本,被遺忘權是補充。第三類觀點認為,刪除權和被遺忘權等同(9)程嘯.論《個人信息保護法》中的刪除權[J].社會科學輯刊,2022,(1):103-113+209.。持該觀點的學者認為,被遺忘權的重點在于刪除而非遺忘,過于文學化、充滿感性的表達無法反映被遺忘權的本質,其實質是刪除權(10)鄭志峰.網絡社會的被遺忘權研究[J].法商研究,2015,32(6):50-60.。在生成人工智能技術出現之前,基于個人對數據的控制,行使刪除權和被遺忘權的主體均為自然人,刪除權和被遺忘權的目的都在于維護人類的人格尊嚴,實施主體和內容并無本質區別,對兩者進行嚴格區分并非迫切。然而,在生成式人工智能時代,數據湯現象導致刪除信息已難以實現,被遺忘權更能體現被遺忘的立法目的和概念內涵。因此,本文以被遺忘權作為概念統攝進行論述。現有對于被遺忘權的研究多基于用戶被動接受信息或用戶主動生成內容的傳統場景展開(11)如丁曉東.被遺忘權的基本原理與場景化界定[J].清華法學,2018,12(6):94-107;劉文杰.被遺忘權:傳統元素、新語境與利益衡量[J].法學研究,2018,40(2):24-41.等。,然而生成式人工智能技術削弱了自然人對個人信息的控制,個人信息保護陷入新的困境,我們必須追問被遺忘權在人工智能時代該如何實現。

二、數據湯:被遺忘權的窘境

生成式人工智能采取“用戶提示—AI生成”交互路徑,這種交互方式縮短了從問題到答案的“距離”。在信息的壓縮(輸入)與復現(輸出)過程中,以“刪除”和“斷鏈”為主要實現方式的被遺忘權,已經無法適用。在技術上,生成式人工智能帶來了“數據湯”現象。在法律上,“刪除權”與“解除索引權”的實現路徑已被架空。

(一)被遺忘權遭遇數據湯的窘境

技術革新帶來法律應用場景的變化,法律應隨之發展。智能科技以其“智能技術范式”構成了對人公開的或隱蔽的宰制(12)孫偉平:人工智能與人的“新異化”[J].中國社會科學,2020,300(12):119-137+202-203.,這種權力具有隱蔽性,一種形象的表述是“谷歌決定了你是誰”(13)See Meg Leta Ambrose, You Are What Google Says You Are:The Right to be Forgotten and Information Stewardship, 17 Int’l Rev. Info. Ethics 21,22 (2012).。因此,數字時代的個人權利保障一直是數據法學的研究重點。值得注意的是,現有被遺忘權更多規范的是“顯性數據”,例如個人發布的信息、鏈接等,而在生成式人工智能語境下,神經網絡“黑箱”的運行機制將導致被遺忘權面對無法處理“隱性數據”的窘境。

基于涌現現象,ChatGPT產生了“心智理論”(Theory of Mind,ToM),原理在于對“隱性數據”的利用。心智理論,即具有理解和推斷他人心理狀態的能力,這通常被認為是人類的特征。GPT-1和GPT-2均沒有表現出心智能力,但2022年1月和11月相繼發布的GPT-3和GPT-3.5分別在心智測試方面展現出與七歲和九歲兒童相匹配的心智能力(15)See Michal Kosinski, Theory of Mind May Have Spontaneously Emerged in Large Language Models, arXiv:2302.02083.。大語言模型可以涌現心智理論,以人類語料庫為數據集的大語言模型產生了理解人類心理狀態的能力。心理學家弗洛伊德將意識分為前意識、潛意識和意識,與之類似,ChatGPT等生成式人工智能應用具有利用“隱性數據”的能力。

涌現現象以及心智理論的產生是一種“算法黑箱”,生成式人工智能的記憶與遺忘過程與非生成式人工智能相應過程不同,人類無法也不能感知相關數據的利用狀態。事實上,設計者并沒有賦予ChatGPT遺忘的能力。盡管OpenAI給出了通過注銷賬戶刪除全部數據以及通過申請刪除選定數據兩種刪除數據路徑,但OpenAI并沒有對刪除方式和是否確保數據能被完全刪除進行說明(16)See OpenAI:API data usage policies, https://openai.com/policies/api-data-usage-policies.last visited on April 16, 2023.。從現有的技術表現來看,生成式人工智能時代下“數據湯”現象的出現與“隱性數據”被利用密切相關,被遺忘權如何規制隱形數據是必須回應的時代命題。

(二)人工智能時代“刪除權”和“解除索引權”的實現路徑落空

關于是否需要創設被遺忘權,美國尚處于言論自由、公眾知情權與個人信息權利平衡的博弈過程中,尚未在全美范圍內設立被遺忘權制度。我國與歐盟則承認被遺忘權,在立法中體現為刪除權。結合司法實踐,被遺忘權可以通過“刪除權”和“解除索引權”兩種路徑實現(17)就美國立法來看,美國仍在討論要不要建立被遺忘權制度,目前尚未在全美范圍內承認被遺忘權,僅《加利福尼亞州消費者隱私保護法案》和《弗吉尼亞州消費者數據保護法》確立了類似被遺忘權的制度。主要原因在于,美國憲法第一修正案禁止國會剝奪言論自由、新聞自由,這是反對在美國構建被遺忘權制度最重要的理由之一。。被遺忘權確立于歐盟2014年谷歌西班牙訴岡薩雷斯案中(18)Case C-131/12, Google Spain SL v. González.,我國則于2015年出現被遺忘權第一案(19)參見北京市第一中級人民法院(2015)一中民終字第 09558 號民事判決書。。上述案例已被廣泛討論,基本確定了行使被遺忘權的“刪除”路徑,即刪除所有相關信息的“刪除權”,在此不再贅述。然而,被遺忘權還有另一種行使路徑即“斷鏈”或者稱為解除索引權。

歐盟法院在司法實踐中確立了被遺忘權的“解除索引權”(Right to request delisting)權能。歐洲數據保護委員會(EDPB)認為“解除索引權”形成于岡薩雷斯案(20)See DEPB:Guidelines 5/2019 on the criteria of the Right to be Forgotten in the search engines cases under the GDPR(part 1), 17 February 2020.,然而該項權利在歐盟經歷了長時間的討論才最終被確認。2015年5月21日,法國數據保護監管機構國家信息技術與自由委員會(Commission nationale de l’informatique et des libertés,CNIL)要求谷歌將應刪除信息的刪除范圍擴大至搜索引擎的全部域名。CNIL認為,谷歌通過地理封鎖技術,阻止本地IP地址對應刪除信息的訪問并不足以履行被遺忘權,這些信息仍然能被非本地IP地址訪問,從而使得被遺忘權落空。谷歌則辯稱,消除自然人與信息之間的聯系“并不一定要求不受地域限制地在所有的搜索引擎域名中刪除相關鏈接。CNIL無視國際公法所認可的原則,過度侵犯了表達、信息、通信和新聞自由。”歐盟法院進行考量后支持了谷歌的辯護意見,認為僅刪除該用戶所在國相對應的搜索引擎版本中的應刪除信息即可認為落實了被遺忘權(21)Case C-507/17, Google LLC, v. CNIL.。換言之,谷歌訴CNIL一案實際上承認了谷歌采取“斷鏈”的行為符合被遺忘權的要求,確定了被遺忘權“斷鏈”的新路徑,即被遺忘權之“解除索引權”。

然而,面對生成式人工智能時代“數據湯”的新場景,現有“刪除權”或“解除索引權”均不存在技術上實現的可能。對“刪除”路徑而言,生成式人工智能存在利用“隱性數據”的可能,已經被生成式人工智能“記住”的信息無法被刪除。即便Open AI公司宣稱采取了刪除措施,也無法進行驗證。對“斷鏈”路徑而言,生成式人工智能的價值在于不會像傳統搜索引擎一樣提供“鏈接”。即便對于Newbing等確實會提供鏈接的應用而言,由于即便“斷鏈”本質上也沒有刪除信息,生成式人工智能強大的搜集能力仍然可以檢索到相關信息,并重新組合成為不同的表現形式再次呈現給用戶,通過“斷鏈”的方式無法實現自然人的被遺忘權。由于“刪除”與“斷鏈”在新場景中失效,被遺忘權亟需理論和制度重構。

三、被遺忘權在生成式人工智能時代的再定位

被遺忘權是新興權利,與隱私權、名譽權、個人信息自決權等權利緊密相關,在理論定位上尚存爭議。首先,被遺忘權是程序性權利還是實體性權利?其次,被遺忘權如果是一項獨立的權利,其理論依據是什么?關于前者,有學者認為,被遺忘權無法像個人信息權等絕對性實體權利一樣提起侵權訴訟,固其是一種程序性請求權,而非實體權利(22)李立豐.本土化語境下的“被遺忘權”:個人信息權的程序性建構[J].武漢大學學報(哲學社會科學版),2019,72(3):145-155.。如果僅規定了程序上能夠進行刪除,則并非賦予被遺忘權實體權利地位(23)羅勇.論我國個人信息保護立法中“被遺忘權”制度的構建[J].暨南學報(哲學社會科學版),2018,40(12):69-80.。反對者則認為,按現有國內外的立法范式,被遺忘權存在實體法、程序法、信息法三種劃分方式(24)張建文.俄羅斯被遺忘權立法的意圖、架構與特點[J].求是學刊,2016,43(5):102-110.,我國已經形成了“以憲法為基礎、以實體法為依據、以程序法為保障、以規章及條例為補充”被遺忘權體系(25)劉學濤,李月.大數據時代被遺忘權本土化的考量——兼以與個人信息刪除權的比較為視角[J].科技與法律,2020,(2):78-88.。以上可見,被遺忘權是一種程序性權利還是實體權利尚存爭議。

關于后者,被遺忘權的理論基礎在于個人信息自決,但學界尚未就此形成共識。反對的觀點認為,被遺忘權的執行主體是搜索引擎公司等數據處理者,是否刪除信息完全由數據處理者決定,這種情況下,追求信息自決的權利是一種幻象(26)劉澤剛.過度互聯時代被遺忘權保護與自由的代價[J].當代法學,2019,33(1):91-100.。換言之,被遺忘權在技術上無法實現。還有學者認為,我國對于被遺忘權的法律規定、立法建議以及司法判決未將被遺忘權作為天然權利賦予個人,行使被遺忘權要滿足“違反法律、行政法規的規定”等前置條件,被遺忘權的權利基礎不是個人信息權,而是規制信息流通(27)丁曉東.被遺忘權的基本原理與場景化界定[J].清華法學,2018,12(6):94-107.。這種觀點否定了被遺忘權是一項獨立權利。此外,以隱私權理論、個人身份建構理論等作為被遺忘權的理論基礎也得到相當多的學者支持。由此可見,被遺忘權是否為一項獨立權利在理論界仍有分歧。

被遺忘權應當作為一項獨立權利來建構。首先,在Web2.0時代,既有判決認定刪除、斷鏈作為被遺忘權的技術實現方式,實現被遺忘權存在現實可能。在互聯網時代追求信息自決的權利不僅不是一種幻象,還是人類自我管理的能力體現。人工智能發展會導致人的主體性缺失,技術物化會對人的能力“殖民化”,主體信息面臨去隱私化抑或透明化。作為應對,必須堅持工具理性與價值理性的統一,確保科技向善(28)張海濤,周桃順.馬克思主義異化論視域下人工智能的“人文困境”與反思[J].浙江理工大學學報(社會科學版),2023,50(1):96-102.。其次,提出將被遺忘權建立在規制信息流通基礎之上的構想,試圖在信息的合理流通與人們的合理預期之間找到制度平衡,缺乏理論支撐,將造成相關制度成為無源之水、無本之木,在操作層面也缺乏統一的執行標準。最后,被遺忘權已經寫進我國《民法典》《個人信息保護法》的實體法中,而非規定在訴訟程序法中。為此,被遺忘權應當作為獨立的實體權利來討論。

低地竹占竹林總面積70%，分布于本香古勒-古木茲、奧羅莫、阿姆哈拉等州海拔540～1 750 m、年降雨量1 500 mm、年均溫23 ℃的地區，是一種非常耐旱的竹種。旱季時葉子全部枯黃，雨季時重新萌發新葉。稈高6～10 m，直徑4～8 cm，壁厚或實心，節長20 cm。主要用作房屋、籬笆、家具和薪材，鮮葉喂驢、羊、牛等家畜。為竹炭和竹漿生產的優質原料。

被遺忘權的理論基礎值得進一步討論。通過對隱私權、名譽權的體系化考察發現,被遺忘權實際上突破了隱私權和名譽權的概念范疇,其價值功能和立法目的在于在私密信息以及過時負面信息之外,規制已經進入公共領域的個人過時信息。在生成式人工智能時代,隱私權、名譽權、被遺忘權分別針對私密信息、過時負面信息、過時信息三類不同的信息。三種權利基于各自不同的法學理論各自成立、各自獨立、各有分工,從三個不同角度維護人類尊嚴,豐富人格權權利體系。

(一)隱私權理論與被遺忘權

大數據時代,個人隱私保護和新技術運用與商業便利之間的沖突更為激烈,隱私權理論一度成為被遺忘權的理論基礎。塞繆爾·沃倫(Samuel Warren)和路易斯·布蘭代斯(Louis Brandeis)是最早研究信息隱私的學者,他們認為個人享受新技術和商業便利等利益的渴望,與個人隱私免受窺探的本能之間存在著明顯的緊張關系(29)See Samuel Warren &Louis Brandeis, The Right to Privacy, 4 Harv. L. Rev. 193 (1890).。隱私權理論認為,被遺忘權是隱私權的延伸(30)彭支援.被遺忘權初探[J].中北大學學報(社會科學版),2014,30(1):36-40.。但該權利已經不再保護傳統意義上的隱私,而是隨著立法與實踐的變革更多指向個人信息控制(31)劉文杰.被遺忘權:傳統元素、新語境與利益衡量[J].法學研究,2018,40(2):24-41.。

通過對歐盟被遺忘權的制度起源進行考察發現,被遺忘權實際上擴大了傳統隱私權的范疇,令隱私權可針對已公開的過時信息進行保護。不少學者認為被遺忘權的前身——刪除權最早出現在1995年歐盟《個人數據保護指令》(簡稱《95指令》)中。但實際上,早在1981年歐盟《關于在自動處理個人數據方面保護個人的公約》(簡稱《108號公約》)中便出現了刪除權的概念。《95指令》明確其保護個人權利和自由的原則是對《108號公約》中相關原則的放大,并同樣規定了刪除權,強調進行個人數據保護(32)See Directive 95/46/EC on the protection of individuals with Regard to the Processing of Personal Data and on the Free Movement of Such Data.。在《95指令》的基礎上,2012年《通用數據保護條例(草案)》發布,延續了刪除權的規定,并提出了被遺忘權的概念。2015年,歐盟委員會對被遺忘權進行了進一步解釋,即“當個體不再希望其數據被處理,且沒有合理理由繼續保留數據時,數據應當被刪除。該權利在于保護個人隱私,而不是為了消除過去的事件或限制新聞自由。”(33)See European Commission:Questions and Answers—Data protection reform, https://ec.europa.eu/commission/presscorner/detail/en/MEMO_15_6385, last visited on April 16, 2023.2016年GDPR正式發布,其內容并無原則性的更改。從立法路徑上看,從《108號公約》中刪除權的出現,到GDPR中被遺忘權的正式確立,其原則一脈相承,被遺忘權實質上擴張了刪除權對隱私的保護,不僅可以針對自然人自主發布的信息,還可針對轉發、他人自認自主發布的信息進行刪除。

然而,作為一種傳統的人格權,隱私權所固有的法律屬性和概念內涵會限制了其對過時的公開信息的規制能力,隱私權理論因此不能成為被遺忘權的理論基礎,隱私權與被遺忘權應分立為兩項獨立的平行權利。隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息。個人不愿意公開披露且不涉及公共利益的都可以成為個人隱私,在上述范圍他人“訪問”自身時,個體具有衡量和控制權力(34)See Salomé Viljoen, A Relational Theory of Data Governance, 131 Yale L.J. 573, 587 (2021)。前生成式人工智能時代,這種保護個人“安寧空間”的權利與被遺忘權的權利設計之間并不矛盾。在實踐中,用戶可以采取刪除被收集的數據、更改用戶畫像等措施實現“抵御算法規訓”,這是先前保護個人生活安寧權利的隱私權之擴張(35)姜野.算法的規訓與規訓的算法:人工智能時代算法的法律規制[J].河北法學,2018,36(12):142-153.。然而,在生成式人工智能時代,以隱私權為權利基礎的被遺忘權已經暴露了其設計缺陷,即對匿名化信息所導致的個人信息權利侵害無能為力。“數據湯”的存在使生成式人工智能應用可通過匿名化的方式儲存個人信息,生成式人工智能具有“復現”的能力,通過對“隱性數據”的挖掘可生成侵犯個人信息權利的內容,表現為不同匿名化的“隱性數據”可相互勾勒出清晰的個人信息,匿名化能保護個人隱私的神話已然被打破(36)胡玲,馬忠法.論我國企業數據合規體系的構建及其法律障礙[J].科技與法律(中英文),2023,14(2):42-51.。然而,根據我國《個人信息保護法》第4條第1款的規定,匿名化的信息不屬于個人信息,因此無法以隱私法主張權利。值得注意的是,我國《民法典》第1034條第3款已經確立了私密信息應優先適用隱私權保護的適用規則,實質上已暗含被遺忘權與隱私權分立的立法思路,也就是說,如果個人信息達到私密信息的程度就應當考慮用隱私權進行保護,對于未達到私密程度的過時信息應適用被遺忘權進行保護。

(二)社會身份構建理論與被遺忘權

被遺忘權的另外一個理論來源是社會身份建構理論。正如《洛杉磯時報》專欄記者尼古拉斯·戈德堡(Nicolas Goldberg)所言,在非互聯網時代,與個人有關的信息會出現在報紙上,但不久之后這些信息的載體——報紙就會被用于包裹魚或鳥籠,這些信息只能以微縮膠卷或膠片的形式在檔案館中找到,但互聯網時代的信息永遠都不會消失(37)See Nicholas Goldberg, Some Newspapers Are Deleting Old Crime Stories to Give People Fresh Starts. Is That Wise?, https://www.latimes.com/opinion/story/2021-02-07/newspapers-rewrite-histoy, last visited on April 16, 2023.。信息一經產生就會在網絡上裂變式傳播,最終形成對個人的社會評價,成為構建個人的社會身份特征的原始信息源。該情況下,自然人應當有重新構建自己社會身份的權利,遺忘能給所有人以“重啟人生”的機會(38)See Aurelia Tamò& Damian George, Oblivion, Erasure and Forgetting in the Digital Age, 5 J. Intell. Prop. Info. Tech. Elec. Com. L.71, 72 (2014).。

“重啟人生的機會”對犯罪嫌疑人和受害人及其家屬尤為重要。對犯罪嫌疑人而言,即使被無罪釋放或作出不起訴決定,過時負面信息的失控傳播也將導致個體受到不公平的批判,對其社會身份造成負面影響,進一步影響就業等正常生活的展開。對過時負面信息的持續暴露造成受害者及其家屬的二次傷害,但網絡平臺的運營者不僅不會主動刪除這些內容,甚至會推動這些內容的傳播。在美國,犯罪嫌疑人的個人影像一旦曝光將被各種網絡平臺爬取并持續展示(39)See Lisa Loving, New Movement Emerges to Beat Down Mugshot “Racket”Skanner News,https://www.theskanner.com/news/northwest/15003-new-movement-emerges-to-beat-down-mugshot-racket-2012-07-12, last visited on April 16, 2023.,這些信息處于失控傳播狀態。然而根據美國憲法第一修正案,相關網站享有受保護的言論自由,發布已經公開的信息不會改變已有社會評價,以至于付費刪除上述信息已經成為一種慣例(40)See Jessica Ronay,Adults Post the Darndest Things:[Ctrl + Shift] Freedom of Speech to [Esc] Our Past,46 U. Tol. L. Rev.73 (2014).。負面信息的失控傳播導致自然人被不公平地對待,例如美國平等就業委員會要求雇主不得因逮捕記錄解雇求職者,于是雇主在申請階段便會拒絕有逮捕記錄者的求職。盡管有一些平臺,例如谷歌意圖在其搜索結果中刪除復仇式色情圖片(41)See Amit Singhal,“Revenge Porn”and Search, Google Public Policy Blog,https://publicpolicy.googleblog.com/2015/, last visited on April 16, 2023.,但由于信息的傳播失控特性,網絡空間中的類似信息無法被全部刪除。對此,美國進行了一系列的針對復仇式色情的立法,以保障受害人的隱私利益,并認為受害者的隱私利益高于美國憲法第一修正案所規定的言論自由權利(42)See Danielle Citron, Debunking the First Amendment Myths Surrounding Revenge Porn Laws, https://www.forbes.com/sites/daniellecitron/2014/04/18/debunking-the-first-amendment-myths-surrounding-revenge-porn-laws/, last visited on April 16, 2023.,還有些州立法要求刪除被無罪釋放人員的相關照片(43)See Megan Deitz, A Crime Remembered, The Possible Impact of the “Right to Be Forgotten” in the United States for Crime Victims, Criminal Defendants, and the Convicted Note, 9 Ala. C.R. &C.L.L. Rev. 197 (2018).。

上述案例說明自然人都應具有“重新開始”的權利,并由此形成了被遺忘權的權利基礎來源于個人對其身份構建之觀點(44)楊立新,韓煦.被遺忘權的中國本土化及法律適用[J].法律適用,2015,(2):24-34.,然而針對侵犯個人社會身份建構權利的行為,應當采取名譽權的規范方式,而不能納入被遺忘權的范疇。我國最高法院《〈關于審理名譽權案件若干問題的解答〉的理解與適用》認為,“名譽是人們對一個公民或法人的品德、才干及其他素質的綜合的社會評價。這種社會評價是會隨著時間和這個人的行為發生變化的。一個人15歲時和35歲時的社會評價可能很不一樣。如果有人因無關社會公共利益的原因擅自公布其15歲時的不名譽的事,使人們對這個人的社會評價發生扭曲,無疑是侵害了他人的名譽權。”該觀點與當下在先信息泛濫、個人信息無序流通影響社會身份構建的情形高度耦合,所謂“不恰當的、過時的、繼續保留會導致其社會評價降低的信息”,本質上是對名譽權而非信息權的侵犯,不在被遺忘權的規制范圍內。

同時,以被遺忘權規制侵犯社會身份構建權利的行為既不能充分保障自然人的社會身份構建權益,也會與自然人的名譽權產生法律競合。谷歌訴CNIL案宣判后不久,在伊娃-格拉維什尼格-皮斯切克訴Facebook愛爾蘭分公司一案中,歐盟法院卻給出了相左的裁定。該案原告伊娃認為,被告Facebook的用戶在被告的平臺發布具有詆毀性質的文章侵犯了原告的權益,遂要求被告刪除該用戶的文章鏈接。奧地利法院認為該文章具有詆毀性質,支持了原告的訴請并要求歐盟法院對該文章的刪除范圍作出說明,歐盟法院認為該文章應當在全球范圍內進行刪除(45)Judgment of 3 October 2019, Glawischnig-Piesczek (C-18/18) EU:C:2019:821.。本案的判決結果似乎與谷歌訴CNIL案“斷鏈”路徑存在同案不同判,然而事實上,兩案存在較大差異。其最大不同是奧地利法院認定了涉案信息內容具有惡意,并根據《歐盟電子商務指令》而非GDPR進行裁決。歐盟的兩則司法實踐說明,以誹謗、詆毀、捏造等作為主要內容的過時負面信息不應在被遺忘權的規制范圍內。如果采用被遺忘權對該案進行判決,那么詆毀當事人社會評價的信息只能在當事人所在國家通過“刪除”或“斷鏈”的方式進行遺忘,這種在所在國刪除的遺忘程度明顯不足以對當事人社會評價進行充分救濟,而采取名譽權進行規制,則可在全球范圍內進行相關信息的遺忘,充分保護自然人的社會身份。總之,在已經有名譽權救濟路徑的情況下,將過時負面信息在互聯網上的滌除納入被遺忘權的范疇,會產生名譽權與被遺忘權的重疊。

另外,從維護權利所支持的成本角度,采取名譽權范式會存在保護力度不足問題。如果采取名譽權的保護范圍,需要評估提請刪除的過時負面信息是否對自然人當下的社會評價造成負面影響。這勢必對權利人提出了較高的舉證要求,從而產生保護力度不足的問題。事實上,在人工智能時代,被遺忘權對存在不堪往事、期望徹底刪除負面信息的人影響更大,相較于傳播媒體的力量,個人更需要被遺忘權來進行權益斗爭。

(三)基于個人信息自決理論的被遺忘權

過時信息僅具有單純的信息屬性,并非一律具有影響隱私、身份建構的能力,隱私權理論和社會身份建構理論均不能作為人類控制過時信息的理論基礎,以個人信息自決理論作為被遺忘權的理論基礎具有可行性。事實上,隱私權保護解決的是非公開信息被公開時產生的人格權侵權問題,社會身份構建權利則更多指向體現名譽權的社會評價。而被遺忘權解決的是已經自主公開的信息需要恢復至未公開狀態問題(46)羅勇.論我國個人信息保護立法中“被遺忘權”制度的構建[J].暨南學報(哲學社會科學版),2018,40(12):69-80.。換言之,隱私權和名譽權無法覆蓋單純的過時信息。正如王利明教授所言,被遺忘權是民事權益、人格權益,在行使權利過程中,其目的在于維護信息完整、準確和個人信息自決(47)王利明.論個人信息刪除權[J].東方法學,2022,(1):38-52.。在該視角下,被遺忘權和個人信息權產生了實質性聯系,成為了個人信息自決的程序性救濟手段(48)李立豐.本土化語境下的“被遺忘權”:個人信息權的程序性建構[J].武漢大學學報(哲學社會科學版),2019,72(3):145-155.。也就是說,個人信息權和被遺忘權形成了“權利—權能”的架構(49)葉名怡.論個人信息權的基本范疇[J].清華法學,2018,12(5):143-158.,二者具有強相關性。

被遺忘權的權利基礎脫離隱私理論和社會身份建構理論轉至個人信息自決權理論,具有獨立的社會價值。在當今信息泛濫時代,公眾對隱私與名譽的認知正被模糊,隱私與名譽的概念可能正在縮小,例如在公眾平臺分享日常生活逐漸被認為是正常現象,而非對個人隱私的過多暴露。如果以隱私權或名譽權作為被遺忘權的權利基礎,這兩種傳統權利的固有屬性和構成要件會限制被遺忘權的行使,無法通過擴張這兩種傳統權利來實現過時信息的刪除。突破既有法律原則對這兩種傳統權利進行擴展解釋,將會導致法律適用的不穩定性。德國學者施泰姆勒(Steinmuller)提出的信息自決學說強調對個人信息的絕對控制(50)See Steinmuller, Lutterbeck, Mallmann, Harbort, Hob, Schneider, Grundfragen des Datenschutzes, GutachtenimAuftrag des Bundesministeri-ums des Inneren, 1972,BT-Drucksache VI 3826, 1. Aufl,S. 87.,包括信息公開前的控制和信息公開后的控制,這種制度設計才可以滿足現代信息社會的需求(51)雖社會發展,傳統個人信息保護的觀點發生了變化,此外,制度設計本身也有問題。謝遠揚.《民法典人格權編(草案)》中“個人信息自決”的規范建構及其反思[J].現代法學,2019,41(6):133-148.。現有立法實踐已經基于個人信息自決理論構建被遺忘權。2010年,GDPR仍在立法過程中,時任歐盟委員會副主席的維維亞娜·雷丁強調,引入被遺忘權的原因在于個人需要對其數據進行控制,以應對數據保護實踐中的不清晰、不透明、不合規問題(52)See Viviane Reding, Privacy matters—Why the EU needs new personal data protection rules.The European Data Protection and Privacy Conference,Brussels, 30 November 2010.。法國2016年10月發布的《數字共和國法》已經凸顯了個人信息自決權的特殊地位,《數字共和國法》直接規定了自然人的信息自決權,并在后列出自然人享有包括被遺忘權在內的各項自然人信息權利,甚至規定了自然人的死后數據控制權利。CNIL在對該法案的評論中強調,這一規定受到德國憲法規定的信息自決權啟發。此外,我國《個人信息保護法》第47條基于“知情同意”原則,規定了行使被遺忘權的四種情形。無論是處理目的已實現、無法實現或者為實現處理目的不再必要,還是個人信息處理者停止提供產品或者服務,或者保存期限已屆滿。抑或個人撤回同意及個人信息處理者違反法律、行政法規或者違反約定處理個人信息,均體現著自然人對信息的控制權,而非對隱私、名譽的期望。上述立法實踐說明,被遺忘權的權利基礎來源于個人信息自決理論更能符合現行立法制度的設計。

綜上,通過對被遺忘權、名譽權、隱私權的體系化考察發現,被遺忘權不應是一種相對權而是以個人信息自決理論為基礎的獨立權利和絕對權。當然,以個人信息自決作為被遺忘權的權利基礎可能會導致漫無邊際的權利要求,德國聯邦憲法法院也明確拒絕絕對的個人信息自決權(53)楊芳.個人信息自決權理論及其檢討——兼論個人信息保護法之保護客體[J].比較法研究,2015,(6):22-33.。被遺忘權也應當受到一些限制。

四、構建生成式人工智能時代的被遺忘權

盡管被遺忘權是絕對權,但被遺忘權的權利行使并非沒有邊界。信息與數據存在內容與載體的關系,數據的多屬性限制了被遺忘權邊界,試圖建立統一、簡單的被遺忘權對所有數據進行規制只會致使自然人不同權益的過強或過弱保護(54)商建剛.數據產品及服務權益認定的理論與制度綜述研究[C]//上海市法學會.《上海法學研究》集刊2022年第20卷——數據合規流通論壇文集.。故此,在行使被遺忘權的過程中,通常需要兼顧公共利益屬性與遺忘成本和可能。為此,需解決被遺忘權在生成式人工智能時代下的適用困境。

(一)公共利益對被遺忘權的限制

保護公共利益通常作為限制被遺忘權的最主要理由之一,其中最核心的問題是保護言論自由,面對言論自由和被遺忘權的公共利益衡量問題,美國與歐盟的觀點并不統一。歐盟認為,在某些情況下,被遺忘權有高于言論自由的價值(55)薛麗.GDPR生效背景下我國被遺忘權確立研究[J].法學論壇,2019,34(2):100-109.。被遺忘權被認為是一種基本人權,在谷歌西班牙訴岡薩雷斯案中,法院特別指出,歐盟公民的被遺忘權不僅凌駕于搜索引擎運營商的經濟利益之上,而且還凌駕于公眾知情權的公共利益之上,如果數據處理者拒絕刪除該信息,則需證明該信息對保護公共衛生、歷史、科學等方面的公共利益或為履行保留數據的法律義務是必要的(56)Case C-131/12, Google Spain SL v. González.。美國視角下,言論自由具有高于被遺忘權的價值屬性。被遺忘權早期來自于隱私權,對隱私權的限制邏輯同樣適用于被遺忘權。盡管1965年的格里斯沃爾德訴康涅狄格州案認為美國憲法第十四修正案的正當程序條款中保障了基本的隱私權,據此能由憲法推理出公民具有隱私權(57)Griswold v. Connecticut, 381 U.S. 479, 485 (1965).,但隱私權并沒有被直接規定在憲法中,而第一修正案卻明確了新聞和言論自由權,二者的法律地位有差別。在考克斯廣播公司訴科恩案中,美國最高法院裁定,在發布有關犯罪的公開信息時,言論自由和新聞自由超過了隱私權(58)Cox Broad. Corp. v. Cohn, 420 U.S. 469, 496 (1975).。1989年,美國最高法院就確認,一般情況下,記者不會因發布真實信息而受到處罰。由該結論可推導出被遺忘權違反美國憲法,因為政府永遠無法強迫網站刪除內容(59)Florida Star v. B.J.F., 491 U.S. 524 (1989).。由此可見,在隱私權理論基礎上的被遺忘權不足以對抗言論自由以保護個人信息(60)劉洪華.被遺忘權立法的美國模式及其立法啟示——以加州被遺忘權立法為研究背景[J].時代法學,2022,20(1):93-105.。

盡管歐盟與美國立法思路上存在差異,但基于公眾利益考量均對被遺忘權作出了限制,這為生成式人工智能時代的被遺忘權建構提供了基本遵循,即新時代的被遺忘權建構也不能突破言論自由的公共利益限制,需要在保護個人信息自決權和公共利益之間取得平衡。

(二)遺忘成本與遺忘可能性的限制

被遺忘權在實施過程中需要結合遺忘成本、遺忘可能等進行綜合判斷。實踐中,遺忘成本較高限制了被遺忘權的適用。2014年岡薩雷斯案裁決生效,但歐盟法院并未就如何執行被遺忘權進行說明,谷歌公司承擔了大部分的履行責任(61)See Letter from Peter Fleischer, Global Privacy Counsel, to Isabelle Falque-Pierrotin, Chair, Article 29 Working Party, at 4-5 (July 31, 2014).。為執行被遺忘權,谷歌通過在線表格于歐盟范圍內收集意圖主張被遺忘權的用戶之申請,并對申請人的訴求逐一評估。為充分進行評估,谷歌的首席執行官兼法務擔任召集人,邀請八位獨立專家組成顧問委員會并按四個步驟展開評估(62)谷歌:被遺忘權概述,https://support.google.com/legal/answer/10769224,最后訪問日期2023年5月10日。。在評估過程中,谷歌會判斷該信息是否包含過時或者有關個人的不準確信息,并對該信息是否涉及金融詐騙、瀆職、刑事案件等公共利益進行考量(63)谷歌:個人數據移除要求表單,https://reportcontent.google.com/forms/the RTBF,最后訪問日期2023年5月10日。。一旦谷歌形成決議,就會通過郵件通知申請人,不同意刪除的會給出反對理由。相應的,申請人可以要求當地數據保護機構對谷歌的決議進行審查。由此可見,該過程十分繁瑣,具有較高地評估成本,以至于該制度在實踐中表現不佳。微軟也采取了相同模式,2014年5月至2022年12月期間,微軟收到的歐盟與俄羅斯地區被遺忘權申請中,僅有占申請刪除總量的47%不被刪除(64)See Microsoft:Right to be Forgotten Request Reports, https://www.microsoft.com/en-us/corporate-responsibility/right-to-be-forgotten-removal-requests-report, last visited on April 30, 2023.。這表明一半以上的申請都不滿足執行被遺忘權的條件,徒增遺忘成本。

在生成式人工智能時代,被遺忘權還面臨數據可能無法遺忘的問題。數據專家Miguel Luengo Oroz(米格爾·盧恩戈·奧羅茲)認為,人工智能不會忘記所接受過的訓練,如果需要完全消除生成式人工智能的記憶,只能對模型進行重新訓練,出于成本考量,最好的方式是令人工智能模型在學習新信息時會忘記以前的信息,也即形成動態學習能力,令其能夠在被允許使用的數據集中開展學習(65)See Forbes:We Forgot To Give Neural Networks The Ability To Forget. https://www.forbes.com/sites/ashoka/2023/01/25/we-forgot-to-give-neural-networks-the-ability-to-forget/?sh=77ca042e6853,last visited on April 16, 2023.。總之,被遺忘權的建構過程中需要考量如何有效控制遺忘成本并解決信息可能無法遺忘的問題。

(三)生成式人工智能時代被遺忘權的新權能:禁止生成權

生成式人工智能時代下,算法模型通過學習現有數據集,已成為“數據湯”,“刪除”與“斷鏈”無法滿足被遺忘權要求。被遺忘權的適用過程中存在公共利益限制、成本過高、執行不可能等情況,不僅無法直接對其中的數據進行刪除,也無法通過簡單的斷鏈進行權益實現,被遺忘權亟需被賦予新的內涵。

禁止生成權能通過對我國《個人信息保護法》第47條第2款的解釋獲得。該款規定,“法律、行政法規規定的保存期限未屆滿,或者刪除個人信息從技術上難以實現的,個人信息處理者應當停止除存儲和采取必要的安全保護措施之外的處理。”何謂停止除存儲和采取必要的安全保護措施之外的處理?筆者認為,在生成式人工智能時代,事實層面的遺忘已然不可能,應當增加被遺忘權的新方式——禁止生成權,以實現結果層面遺忘的效果。禁止生成權是指,在《個人信息保護法》第47條第1款規定的情形下,數據處理者不能直接或間接生成包含自然人過時信息的內容。該權利主要保護自然人對其過時信息通過隱性數據復現的控制權。該權利設計能滿足自然人所期待的信息控制權,同時不會侵犯言論自由的公共利益,兼顧考量了遺忘成本與遺忘可能性。

禁止生成權已經體現在我國生成式人工智能的治理規范中。2023年4月11日互聯網信息辦公室關于《生成式人工智能服務管理辦法(征求意見稿)》第4條(五)對生成式人工智能的生成內容進行了規定,即AIGC需要“尊重他人合法利益,防止傷害他人身心健康,損害肖像權、名譽權和個人隱私,侵犯知識產權”。此外,生成式人工智能時代下被遺忘權的行使應當采用“行政保護先置”的路徑。從自然人行使被遺忘權的角度,如數據處理者未能維護自然人的被遺忘權,最終承擔產品責任(66)商建剛.算法決策損害責任構成的要件分析[J].東方法學,2022,90(6):44-57.。在法律實施的制度設計方面,法國的個人數據保護制度值得借鑒。1978 年 1 月出臺的《信息技術和自由法》確立了數據保護的專職機構——國家信息技術和自由委員會。國家信息技術和自由委員會屬于獨立的行政機構,該委員會肩負的幾項主要職責包括:告知并協助公民行使權利、履行義務,對保護個人數據有關的法令文件進行規范,核查信息處理進程的合法性,并在發現違法行為時予以處罰,向政府提出能促使保護隱私和技術發展二者相適應的立法措施等。我國國家數據局已經成立,尚未明確其“個人數據守門人”的職能,可作為專門的行政機構保護個人數據權利,監督數據處理者維護自然人的被遺忘權,及時刪除自然人的過時信息。被遺忘權的禁止生成權建構以及形成保護先置的行使路徑,是生成式人工智能風險治理元規則的具體體現,符合倫理先行和協同共治元規則,具有積極的實踐意義(67)商建剛.生成式人工智能風險治理元規則研究[J/OL].東方法學:1-14[2023-05-14].。

五、結論

在生成式人工智能時代,“用戶提示—AI生成”的全新場景導致了“數據湯”的出現,現有被遺忘權無法滿足自然人的信息控制需求。自歐盟確立被遺忘權以來,實踐中被遺忘權由刪除權衍生出了解除索引權,形成了“刪除”和“斷鏈”為核心的刪除權及解除索引權。同時,被遺忘權的權利基礎也由原來的隱私理論、社會身份構建理論,逐漸轉向對個人信息進行控制,成為一種基于個人信息自決權的絕對權。在個人信息保護過程中,應基于隱私權理論、社會身份構建理論、個人信息自決理論區別保護。構成隱私的信息應當優先適用隱私權進行保護;不構成隱私信息但能影響社會身份建構的過時負面信息適用名譽權進行救濟;不滿足上述兩種情況的過時信息可基于個人信息自決權,通過被遺忘權維護自然人信息權益。沿著該路徑分析,生成式人工智能時代下被遺忘權應當進一步產生新的內涵,即禁止生成權。該權利可兼顧自然人的信息控制利益、公眾利益以及遺忘成本和可能,是對我國《個人信息保護法》第47條第2款的明確。數據處理者應當負有禁止生成涉及自然人相關信息內容的義務,當數據處理者未主動履行時,自然人有權請求履行。為確保權利高效行使并節約司法資源,被遺忘權的執行應采取行政先置的模式,通過賦予國家數據局等行政主體執法權地位以監督法律實施。