論停止侵害責任在AIGC著作權侵權案件中的適用

【摘 要】為了更好地應用AIGC，促進社會生產效率的提高，探討AIGC著作權侵權案件中停止侵害的措施具有一定的意義。人工智能生成內容容易與訓練語料構成“作品再現”，具有侵犯著作權的較高風險。由于人工智能大模型基于概率預測輸出內容，不存在對訓練語料的直接復制，其構成訓練語料的“模仿性再現”，而非“復制性再現”，侵權程度并不嚴重，不宜一律適用停止侵害。在具體的停止侵害措施方面，做出停止侵害承諾這種方式過于容易，難以達到停止侵害的效果，司法可要求服務提供者引入過濾機制，但不得要求其達到完全防止再次生成侵權內容的程度。刪除侵權語料并更新模型、銷毀或者停用模型這兩種措施或違背利益平衡，或履行成本過高，不宜采用。

【關" 鍵" 詞】生成式人工智能；著作權；侵權；停止侵害措施；模仿性再現

【作者單位】方貴敏，武漢大學法學院。

【基金項目】國家社會科學基金重大項目“網絡化開放創新范式下企業知識產權市場化保護與價值轉化法律機制研究”階段性成果（21amp;ZD141）。

【中圖分類號】D923.41 【文獻標識碼】A 【DOI】10.16491/j.cnki.cn45-1216/g2.2024.23.012

生成式人工智能是具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。采用生成式人工智能技術所生成的內容一般被稱為人工智能生成內容（AI Generated Contents，全文簡稱AIGC）。自OpenAI于2022年底發布ChatGPT以來，人工智能大模型在全球范圍內掀起了有史以來規模最大的浪潮，各種國內外大模型相繼面世，競爭日益激烈，引發了侵權方面的擔憂。研究顯示，AIGC容易與訓練語料構成“作品再現”，即人工智能大模型容易生成與部分訓練語料內容相似的內容［1］。當人工智能生成內容與他人作品構成實質性相似時，可能侵犯著作權。

一旦構成著作權侵權，生成式人工智能的開發者、用戶或者其他服務提供者可能需要承擔停止侵害等侵權責任。參考廣州互聯網法院（2024）粵0192民初113號判決書，在我國廣州互聯網法院審理的“AIGC服務提供者著作權侵權第一案”中，原告主張被告應停止生成侵權圖片并將原告享有著作權的物料從訓練集中刪除。法院認定構成著作權侵權后，要求服務提供者承擔停止侵權的民事責任，即被告應當停止生成，具體應達到不能生成與受保護的奧特曼形象實質性相似的圖片的程度，但不支持原告將物料（訓練語料）從訓練集中刪除的請求。在AIGC著作權侵權案件中，哪些措施能夠實現停止侵害？停止侵害這一責任承擔方式在生成式人工智能著作權侵權的場合是否應當有所限制？本文對上述問題展開探討。

一、網絡環境中著作權侵權停止侵害的復雜性

停止侵害是民事權利排他性的具體體現，是民事權利效力的必然延伸［2］。根據《中華人民共和國民法典》第179條，停止侵害是民事責任的承擔方式之一，《中華人民共和國著作權法》第52條亦將停止侵害作為著作權侵權的主要責任承擔方式之一進行了明確規定。

在物理世界中，一般存在清晰可見的侵權材料、侵權產品以及易于識別的侵權行為，停止侵害的方式一般較為直接且便于操作。然而，在網絡環境中，侵權行為與網絡技術緊密交織，傳統的物理措施往往難以達到停止侵害的效果，被侵權者必須借助網絡技術措施或者其他措施停止侵害。在此背景下，依附于計算機軟硬件條件的“刪除”“屏蔽”“斷開鏈接”成為網絡侵權案件中停止侵害責任方式的具體適用方法［3］。隨著網絡技術的深度發展，其他新措施也可被用于制止侵權。根據《生成式人工智能服務管理暫行辦法》第14條，“停止傳輸”“停止生成”等措施為生成式人工智能實現停止侵害提供了可能。

如果說在現實世界中實現停止侵權的技術難度較低，那么現代網絡技術的復雜性以及網絡環境中侵權行為的隱秘性則大大增加了特定技術措施達到停止侵權效果的不確定性。除非對技術原理有著較為深入的理解，裁判者難以判斷特定措施是否能夠達到停止侵害的效果，一旦裁判不當，則可能打破網絡創新生態。

二、AIGC著作權停止侵害的措施梳理

生成式人工智能的開發和運用涉及模型設計者、訓練數據來源者、服務提供者、用戶等主體。由于參與主體的多元性，在AIGC構成著作權侵權的場合，并非都由單一主體承擔侵權責任。然而，用戶等其他主體承擔停止侵害責任的方式較為直接，服務提供者承擔停止侵害責任的方式較為復雜。鑒于此，本文主要探討服務提供者承擔停止侵害責任的具體措施。總的來說，服務提供者承擔停止侵害的責任方式主要包括做出停止侵害承諾、引入內容過濾機制、刪除侵權語料并更新模型、銷毀或停用模型這幾種，下文分別展開討論。

1．做出停止侵害承諾

在人工智能生成內容最終被認定為侵權時，未盡到合理注意義務的服務提供者應當做出不再出現相同內容的承諾，而非直接刪除侵權內容。該種主張的主要理由是人工智能生成內容僅為特定用戶所接觸，其傳播范圍僅限于發出生成指令的特定用戶，未達到公開狀態，也不會留存于公開平臺［4］。關于應當承諾不再出現相同內容還是相似內容，該種觀點認為，相似的承諾太過寬泛和模糊，會讓服務提供者承擔過于嚴苛的責任，因而服務提供者承諾不再出現相同內容即可［4］。

對服務提供者來說，承諾不再出現相同內容的侵權責任承擔方式成本較低，且易于承擔，是否實際兌現承諾以及采取何種措施實現停止侵害完全由服務提供者自行決定。該種責任方式有利于促進生成式人工智能的發展，但力度輕乎其微，極易被規避而無法達到停止侵害的效果。由于承諾的模糊性以及負擔的有限性，生成式人工智能的服務提供者實際上可能不會兌現承諾。此外，大模型具有高度自主性，幾乎不會生成完全相同的內容，如果僅限于承諾不出現相同的侵權內容，極有可能會讓承諾無法發揮應有的效果。

2．引入內容過濾機制

通過引入內容過濾機制，大模型能夠識別潛在的侵權內容并在前端阻止結果輸出。在生成式人工智能場合，內容過濾機制能夠作用于兩個環節：一是模型訓練階段，二是服務提供階段。由于本文討論的重點是侵權責任，此處主要涉及服務提供階段的內容過濾機制。

傳統過濾技術主要包括URL過濾技術、關鍵詞過濾技術及其二者的結合［5］。如今，隨著計算機技術的深入發展，以分類模型為代表的深度學習模型也能實現內容過濾的功能，且效率更高。全國網絡安全標準化技術委員會在其發布的國家標準文件《生成式人工智能服務安全基本要求》明確要求，服務提供者在向使用者提供服務時“應采取關鍵詞、分類模型等方式對使用者輸入信息進行檢測”。然而，該標準并非國家強制性標準，因而不具有強制約束力。

從目前的技術發展成熟度來看，引入內容過濾機制存在難以克服的矛盾。一方面，成本較低的普通過濾技術無法完全過濾侵權內容。另一方面，過濾效果較為優越的新型過濾技術成本過于高昂，服務提供者難以負擔。關鍵詞過濾的基本技術原理主要涉及創建關鍵詞庫和算法模型，該算法能夠檢索特定文本內容是否包含違規關鍵詞，并決定是否進行過濾或屏蔽。在生成式人工智能的場合，關鍵詞過濾技術使得大模型能夠識別含有侵權內容的指令并迅速響應，一旦特定關鍵詞觸發警戒機制，系統便會發出異常提示。然而，由于享有著作權的作品及作品元素數不勝數，雖然服務提供者可以及時更新關鍵詞庫，但是仍然無法囊括所有享有著作權的作品名稱等關鍵信息。此外，當涉及同一作品名稱存在多種表達方式以及被譯為其他語言版本的作品時，關鍵詞庫也無法囊括作品的其他表達及其各種譯文，因而無法完全避免再次生成相同或者類似侵權內容的情況。新型過濾技術包括梯度方法、在上下文中遺忘等深度學習模型，這些技術雖然能夠讓大模型“忘記”某些內容，但是存在消耗過多計算資源、實施成本較高的問題［6］。

在司法裁判中，裁判者可以要求服務提供者引入過濾機制，但不宜要求其達到不得再次生成相同或者類似侵權內容的效果。在“AIGC服務提供者著作權侵權第一案”中，被告在被訴后已經采取了關鍵詞屏蔽措施，不過未能完全達到預防再次侵權的效果。具體而言，被告已經引入關鍵詞過濾機制，并將“奧特曼”設置為關鍵詞，然而可能未將奧特曼的不同系列名稱均設置為關鍵詞，包括“迪迦”“泰羅”“雷歐”等，案件審理時裁判人員輸入“迪迦”仍然會產生相關圖片。客觀而言，由于奧特曼系列涉及眾多名稱，服務提供者難以考慮到所有相關關鍵詞并將其加入詞庫。盡管服務提供者可以通過對關鍵詞進行語義關聯擴大關鍵詞涵蓋范圍，但仍然無法窮盡所有關鍵詞。可見，關鍵詞過濾技術較為煩瑣復雜，難以完全實現停止生成侵權內容。雖然服務提供者通過可編程接口（以下簡稱API）提供服務，但其并未參與模型的開發工作，并不掌握模型使用的語料，其采取一般的過濾措施即可滿足停止侵害要求。

3．刪除侵權語料并更新模型

在傳統的網絡著作權侵權案件中，服務提供者可以在后臺執行刪除或者斷開鏈接的措施以實現停止侵害。然而，在生成式人工智能場景中，其內容是即時生成的，并非由網絡用戶提前上傳，服務提供者無法直接刪除侵權內容。鑒于訓練語料與生成內容具有密切關聯，生成式人工智能的服務提供者可通過刪除侵權語料實現停止侵權。

在模型訓練者與服務提供者不是同一主體且服務提供者不具備模型微調能力時，司法不應要求服務提供者采取這一停止侵害措施。在“AIGC服務提供者著作權侵權第一案”中，原告主張將奧特曼語料從訓練集中刪除。不過，從最終判決來看，法院并未支持刪除語料的請求。遺憾的是，判決書中未說明不支持該項措施的理由，可能原因是涉案的被告是API服務提供者，而非直接參與模型開發與訓練的主體，其在技術上無法進行刪除侵權語料這一操作，所以法院未支持該項請求。

有學者提出，在訓練語料持有人與模型持有人分離的情況下，即收集訓練語料的主體與使用語料進行訓練的主體不相同時，刪除侵權語料難以實現［7］。本文認為，該種觀點并不成立。即使大模型的訓練語料為交易所得，也并不妨礙大模型訓練者對語料進行適當的處理。即使大模型訓練者不具備直接處理數據的能力，其也可以通過合同安排要求訓練語料的提供者對數據進行必要處理。

刪除侵權語料面臨的適用障礙是識別及準確刪除侵權語料的技術難度較大，以及更新模型的成本較高。刪除侵權語料的前提是識別侵權語料，而識別語料在技術上并不容易實現。大模型的訓練語料涉及書籍、網頁、百科知識、代碼等，訓練語料大小達到TB（太兆字節）級以上，在包含海量內容的訓練集中識別享有著作權的特定內容并非易事。再加上大模型訓練內容多數為未標注數據，加大了識別特定內容的難度。可見，若沒有功能強大的識別算法的支持，訓練語料的提供者很難識別特定侵權內容。在識別特定侵權內容之后，精準地刪除特定侵權語料亦需要復雜且強大算法的支持。

需要強調的是，僅刪除侵權語料而不更新模型無法達到預防再次侵權的目的。由于在先語料已被大模型吸收學習并形成了參數，刪除語料后只有讓大模型重新學習才能夠生成新的參數，從而抹去此前的學習痕跡，降低再次生成侵權內容的可能性。大模型的重新訓練與初次訓練一樣，需要耗費巨大的算力，成本很高。研究顯示，訓練1個包含1.1億個參數的模型需要耗費0.25萬美元至5萬美元，訓練1個包含3.4億個參數的模型需要耗費1萬美元至20萬美元，訓練1個包含15億個參數的模型需要耗費8萬美元至1600萬美元［8］。可見，要求服務提供者更新模型相當于讓其重新訓練模型，成本過于高昂。

4．銷毀或停用模型

基于阻止侵權結果繼續擴大、防止侵權行為再次發生、剝奪侵權人的侵權能力等考量，權利人往往會提出銷毀侵權物品或者侵權工具的主張。銷毀模型是最具威懾力的停止侵害責任承擔方式。在紐約時報訴OpenAI案中，紐約時報主張摧毀所有ChatGPT模型以達到停止侵害的目的。此外，雖然目前尚未有權利人提出徹底停用大模型這一主張，其也無疑屬于停止侵害的有力措施之一。

現實情況是，銷毀或者停用模型的主張很難得到法律支持。除非被專門用于實現侵權，在一般情況下，人工智能大模型應被定性為侵權工具，而非侵權物。關于侵權工具，《與貿易有關的知識產權協議》第46條規定，可以責令將其清除出商業渠道，未提供銷毀這一處置措施。《中華人民共和國著作權法》第52條有關民事責任的部分亦未列出銷毀這一做法，僅在第53條中規定侵權行為同時損害公共利益的，由主管著作權的部門責令停止侵權行為，予以警告，沒收違法所得，沒收、無害化銷毀處理侵權復制品以及主要用于制作侵權復制品的材料、工具、設備等。可見，摧毀大模型這一責任承擔方式過于嚴重。徹底停用大模型則意味著大模型將由一分鐘能夠輸出上千個字的活體模型轉變為沉睡模型，如此一來，大模型的實用價值無法得到體現，投資者也難以收回投資成本。總之，摧毀或者停用模型違背提供侵權救濟應當與保護權益平衡的救濟原則。

客觀來說，摧毀大模型也具有操作難度。部分大模型基于開源大模型訓練而來，如果開源大模型使用了包含著作權的訓練語料，其又被其他主體用于優化訓練并獲得新的大模型，此時要求所有后續模型開發者都摧毀模型并不現實。總之，摧毀或者停用模型會造成社會資源的嚴重浪費，可能會產生因維護個別權利人的利益而損害公共利益的消極后果。

三、停止侵害在AIGC著作權侵權案件中的限制適用理由

與不動產具有清晰的權利邊界相比，包括著作權在內的知識產權的權利邊界具有高度不確定性，作品的創作建立在合理借鑒前人作品的基礎上。以著作權為代表的知識產權權利邊界的模糊性會導致一味適用財產規則而產生效率低下的后果［9］。與人身權、物權等最基本的民事權利具有極強的排他性不同，知識產權的排他性不是絕對的，知識產權的價值需要通過作品傳播才能夠實現，不應一律適用停止侵害的措施［10］。此外，知識產權本質上是一種競爭工具，知識產權排他權的過度行使可能會導致競爭效率降低［11］。

在生成式人工智能著作權侵權案件中，停止侵害責任應當被限制適用，主要理由在于：人工智能生成內容為模仿性再現而非復制性再現，生成過程存在模型開發者等主體的貢獻。目前來看，大模型侵害著作權的程度并不嚴重。在此前提下，司法可以要求服務提供者引入內容過濾機制，但不得要求其達到完全防止再次生成侵權內容的程度。刪除侵權語料并更新模型、銷毀或停用模型這兩種停止侵害措施或違背利益平衡，或履行成本過高，不宜采用。

1．從侵權內容的性質上看，AIGC為模仿性再現

從著作權權利客體形式和實質的結構出發，可將著作權侵權行為分為復制性再現與模仿性再現兩種，其分別對應著再現和傳播兩種使用權利客體的行為［12］。對于復制性再現，由于整個復制、再現及傳播的過程中行為人沒有任何獨創性的貢獻及值得保護的利益，在認定侵權行為成立后，應該以唯一確定的方式承擔停止侵害責任，立即停止對作品的使用，包括但不限于銷毀侵權復制品、斷開和刪除網絡鏈接等［12］。對于模仿性再現，應當以侵權判斷標準為依據，即根據實質性相似的程度與可能性確定不同的適用方式，停止侵權責任并不適用［12］。

從生成式人工智能的生成原理來看，生成內容屬于模仿性再現，而非復制性再現，因而生成式人工智能著作權侵權場合不宜直接適用停止侵權這一責任方式。具體到人工智能大模型，根據OpenAI官網的介紹，大模型是由大量的參數以及執行參數的代碼組成的，大模型在訓練階段并不會存儲或者復制訓練語料中的內容。大模型開發者在廣泛收集語料、組建語料庫之后，會將包含各種內容的語料打碎成最小（不可拆分）的語義可識別單元，然后大模型會通過自注意力機制學習、記憶這些最小語義單元之間的關聯，以學習詞元之間如何銜接以及哪些詞元最有可能被組合到一起。不存在一個囊括各種內容的數據庫可以讓大模型直接調取、復制并拼湊內容，大模型在生成內容時基于概率預測下一個單詞，如此循環往復生成較連貫通順的回答［13］。如學者所言，在生成內容時，ChatGPT對訓練數據庫中作品內容的學習利用，可以理解為細化到海量作品中每一個字的引用，而不會復現特定作品，甚至不會直接復現特定作品中的段落和語句。所以，ChatGPT實際上不存在對在先訓練作品的實質性引用，從而不會侵犯在先作品中受著作權法保護的外在表達［14］。由于人工智能生成內容與人類作品構成模仿性再現，而非復制性再現，不得在AIGC著作權侵權場合直接適用停止侵害這一責任。

2．違背利益平衡原則或者履行成本過高

當存在事實上或者法律上無法做到停止侵害、履行成本過高，以及違背利益平衡原則或者損害公共利益等情形時，司法裁判不應適用停止侵害的責任承擔方式［15］。判決生成式人工智能服務提供者銷毀或者停用模型屬于過于偏向權利保護的做法，違背利益平衡原則。除此之外，在生成式人工智能著作權侵權案例中，要求服務提供者停止侵害可能履行成本過高，法院在判決中應謹慎適用停止這一侵權責任。

履行成本過高是一個相對概念，應以權利人因侵權人不停止侵害而可能遭受的損失為參照［15］。如同多數知識產權侵權一樣，著作權人因人工智能大模型生成與其作品相似的內容而遭受的損害常常難以精確計算，這也解釋了目前在幾乎所有關于生成式人工智能的訴訟中，原告均主張適用法定賠償。但是，如果僅有作品被大模型訓練使用或大模型生成了相似內容的行為，而生成內容未被另行大規模商業化利用，著作權人遭受的損失一般不多。相比之下，AIGC服務提供者承擔停止侵害的成本十分高昂。如前所述，刪除侵權語料并更新模型的費用動輒幾千萬美元，能夠承擔如此巨額成本的服務提供者寥寥無幾。此時，可以引導服務提供者與權利人充分協商，自行確定許可費以解決糾紛，而非判決停止侵害，引入責任規則比依賴財產規則更為合適［16］。法院可適當提高賠償數額，謹慎適用停止侵害這一侵權責任方式。

根據上文分析，表1列出了生成式人工智能停止侵害各項措施在技術難度等級、履行成本高低以及嚴厲程度等級的情況。由表1可以看出，做出停止侵害承諾的技術難度最低，履行成本也較低。但是也屬于最為“軟弱無力”的措施，威懾力不強，難以實現停止侵害效果。銷毀或者停用模型的技術難度也較低，但過于嚴厲，履行成本高，一般也不宜適用。過濾機制的技術難度、履行成本以及嚴厲程度均處于中等水平（普通過濾措施較為容易實施，但是以深度學習為代表的新型過濾措施則難度較高，成本也較高），可以要求服務提供者引入過濾機制以實現停止侵害，但鑒于難以構建完整的關鍵詞詞庫且大模型具有自主性，不得要求過濾機制達到完全防止再次生成侵權內容的程度。刪除侵權語料及更新模型的履行成本高，法院應當謹慎判決適用這類措施。

值得一提的是，除了上述措施，還存在一些其他新型遺忘技術能夠在不重新訓練模型的前提下消除侵權語料對大模型的影響。例如，微軟研發了一種遺忘受著作權保護作品語料的前沿技術。這種技術包含3個關鍵點：一是使用受版權保護的增強模型來識別需要刪除的語料元素；二是將相關元素替換為通用性表達，使模型生成替代性表達；三是根據替代性表達對模型進行微調，使模型能夠有效擦除原始的語料文本［17］。該種遺忘技術能夠在不更新訓練模型的情況下擦除享有著作權的內容，所消耗的訓練資源較少，實踐性更強，未來若能在實踐中應用，或可成為服務提供者承擔停止侵害責任的有效方式。

四、結語

生成式人工智能是人類社會發展的一大突破。通過輔助人類完成內容檢索、內容理解、內容生產等任務，生成式人工智能能夠顯著提高重復性勞動的效率，助力發展數字時代下的新質生產力，提高社會生產效率。生成式人工智能在給社會帶來福音的同時，也給法律適用帶來了挑戰。侵權責任的承擔事關生成式人工智能技術的發展空間，通過剖析生成式人工智能生成內容的技術原理，系統分析停止侵害的具體措施，裁判者應在AIGC著作權侵權案件中限制適用停止侵害的責任形式，防止高昂成本成為這一前沿技術的發展桎梏。

｜參考文獻｜

［1］NICHOLAS CARLINI，JAMIE HAYES，MILAD NASR，et al. Extracting Training Data from Diffusion Models［J］.arXiv preprint，2023（1）：1-31.

［2］楊濤. 知識產權法中的停止侵害救濟制度［J］. 法律科學（西北政法大學學報），2017（5）：101-114.

［3］張新寶. 侵權責任法［M］. 5版. 北京：中國人民大學出版社，2020.

［4］陳兵. 促進生成式人工智能規范發展的法治考量及實踐架構：兼評《生成式人工智能服務管理暫行辦法》相關條款［J］. 中國應用法學，2023（4）：108-125.

［5］宋振源. 計算機信息網絡內容過濾技術探析［J］. 中國科技信息，2009（23）：86.

［6］從訓練好的LLM中消除受版權保護的數據：可能嗎？［EB/OL］. （2024-03-22）［2024-11-25］.

https：//blog.csdn.net/L1558198727/article/details/136925287.

［7］SAMUELSON PAMELA.How toThink about Remedies in the Generative AI Copyright Cases［J］.Communications of the ACM，2024（7）：27-30 .

［8］OR SHARIR，BARAK PELEG，YOAV SHOHAM. The Cost of Training NLP Models：A Concise Overview［J］. arXiv e-prints，2020（4）：1-6.

［9］陳武. 權利不確定性與知識產權停止侵害請求權之限制［J］. 中外法學，2011（2）：357-368.

［10］唐義虎. 知識產權侵權責任研究［M］. 北京：北京大學出版社，2015.

［11］李揚，許清. 知識產權人停止侵害請求權的限制［J］. 法學家，2012（6）：75-92.

［12］楊淦. 知識產權停止侵害責任適用方式的類型化構造［J］. 上海交通大學學報（哲學社會科學版），2023（10）：80-94.

［13］肖仰華. 生成式語言模型與通用人工智能：內涵、路徑與啟示［J］. 社會科學文摘， 2024（4）：17-19.

［14］司曉. 奇點來臨：ChatGPT時代的著作權法走向何處：兼回應相關論點［J］. 探索與爭鳴，2023（5）：79-86.

［15］何懷文，陳如文. 我國知識產權停止侵害請求權限制的法律原則［J］. 浙江大學學報（人文社會科學版），2015（2）：133-150.

［16］劉云開. 人工智能生成內容的著作權侵權風險與侵權責任分配［J］. 西安交通大學學報（社會科學版），2024（6）：166-177.

［17］YUANSHUN Yao，XIAOJUN XU，YANG LIU. Large Language Model Unlearning［J］. arxiv，2024（2）. https：//arxiv.org/abs/2310.10683.