生成式AI的源頭治理：數(shù)據(jù)深度運(yùn)用的風(fēng)險(xiǎn)隱憂與刑事規(guī)制

章誠(chéng)豪　張勇

摘要：生成式AI作為強(qiáng)大的自然語(yǔ)言處理模型，其順暢運(yùn)行有賴(lài)于海量數(shù)據(jù)的訓(xùn)練、學(xué)習(xí)、分析等深層次運(yùn)用。基于精妙算法的加持，深度運(yùn)用的數(shù)據(jù)會(huì)關(guān)涉經(jīng)濟(jì)利益、保密利益、使用性能等多重維度，其間不免存在數(shù)據(jù)泄露、算法歧視等潛在風(fēng)險(xiǎn)，甚至引發(fā)傳統(tǒng)犯罪模式之異化。為應(yīng)對(duì)刑事規(guī)制空缺、數(shù)據(jù)犯罪法益的技術(shù)性傾向及固有罪名之誤區(qū)等困境，數(shù)據(jù)深度運(yùn)用的刑事規(guī)制體系應(yīng)當(dāng)以數(shù)據(jù)技術(shù)分工為指引，及時(shí)調(diào)轉(zhuǎn)治理邏輯與重心。為實(shí)現(xiàn)數(shù)據(jù)安全保障與技術(shù)正面價(jià)值有效釋放之間的平衡，刑法介入需在利益衡量視角下充分考慮生成式AI的附隨風(fēng)險(xiǎn)。刑事治理不應(yīng)拘泥于數(shù)據(jù)采集和數(shù)據(jù)流動(dòng)等傳統(tǒng)規(guī)制環(huán)節(jié)，而是通過(guò)增設(shè)數(shù)據(jù)分析等專(zhuān)項(xiàng)罪名予以規(guī)范完善，并注重預(yù)防性禁令等非刑事治理手段，為數(shù)據(jù)深度運(yùn)用技術(shù)的正向發(fā)展提供空間。

關(guān)鍵詞：數(shù)據(jù)深度運(yùn)用；生成式AI；技術(shù)治理；刑事規(guī)制

中圖分類(lèi)號(hào)：D914? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A? ? ? ?文章編號(hào)：1003-8477（2023）11-0127-09

以ChatGPT為代表的生成式AI（Generative AI）是當(dāng)下最火熱的話題之一，并引發(fā)了社會(huì)的廣泛關(guān)注。然而，“龐大的‘?dāng)?shù)據(jù)池難免將數(shù)字革命中的個(gè)體卷入‘?dāng)?shù)字化黑洞”，[1]（p234）因此，我們不免會(huì)省思此類(lèi)新興大數(shù)據(jù)運(yùn)用技術(shù)可能附隨的安全隱患。當(dāng)前，數(shù)據(jù)安全保障已然成為社會(huì)治理的重要課題，但我國(guó)數(shù)據(jù)刑法保護(hù)體系的規(guī)制重點(diǎn)仍落腳于公民個(gè)人信息、知識(shí)產(chǎn)權(quán)等具有隱私屬性的數(shù)據(jù)靜態(tài)權(quán)屬維護(hù)方面，而鮮少考慮數(shù)據(jù)深度運(yùn)用等動(dòng)態(tài)環(huán)節(jié)的刑事隱憂與規(guī)制。不同于傳統(tǒng)的分析式AI（Analytical AI），生成式AI的數(shù)據(jù)深度運(yùn)用不僅可進(jìn)行數(shù)據(jù)學(xué)習(xí)、信息提煉、趨勢(shì)預(yù)測(cè)等精細(xì)作業(yè)，亦可生成不同于學(xué)習(xí)樣本（數(shù)據(jù)源）的新內(nèi)容，甚至可激發(fā)其對(duì)于人類(lèi)本質(zhì)、認(rèn)知模式和AI主體性的哲學(xué)思考。從生成式AI深度挖掘、分析、處理的數(shù)據(jù)中可獲得個(gè)人隱私、商業(yè)秘密、知識(shí)產(chǎn)權(quán)等重要、敏感信息，[2]（p135）極大豐富了原始數(shù)據(jù)的價(jià)值意蘊(yùn)。伴隨著技術(shù)革新，數(shù)據(jù)深度運(yùn)用的含義將更迭、擴(kuò)張，并逐步吸納跨平臺(tái)、系統(tǒng)自動(dòng)化、數(shù)據(jù)可視化、虛擬場(chǎng)景建構(gòu)等新功能，因此不可僅從技術(shù)層面簡(jiǎn)單界定，還要考慮到數(shù)據(jù)深度運(yùn)用行為已實(shí)現(xiàn)由技術(shù)概念向法規(guī)范概念的轉(zhuǎn)向。2023年4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》內(nèi)容涉及生成式AI的概念明晰、主體責(zé)任劃分、義務(wù)認(rèn)定、數(shù)據(jù)合規(guī)標(biāo)準(zhǔn)、安全評(píng)估等具體事項(xiàng)與風(fēng)險(xiǎn)防控措施。2023年8月15日正式實(shí)施的《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》）進(jìn)一步就治理原則、合規(guī)義務(wù)、部署運(yùn)用等做出細(xì)化規(guī)定。相較技術(shù)概念本身在法規(guī)范層面的早起先行，當(dāng)下數(shù)據(jù)深度運(yùn)用的刑事規(guī)制仍采用計(jì)算機(jī)犯罪維護(hù)數(shù)據(jù)安全的傳統(tǒng)方式，無(wú)法適應(yīng)“感知智能”向“認(rèn)知智能”發(fā)展的轉(zhuǎn)型。數(shù)據(jù)、算法、算力分而治之的傳統(tǒng)治理體系也難以適應(yīng)涵蓋多技術(shù)類(lèi)型的深度運(yùn)用行為，因此，應(yīng)盡快完善專(zhuān)門(mén)化規(guī)制，并注重?cái)?shù)據(jù)保護(hù)、算法治理、人工智能立法等關(guān)涉內(nèi)容的“和合共治”。

一、具象考察：數(shù)據(jù)深度運(yùn)用的刑事風(fēng)險(xiǎn)與規(guī)制困境

生成式AI可利用大量公開(kāi)數(shù)據(jù)進(jìn)行深度學(xué)習(xí)、預(yù)測(cè)、合成、優(yōu)化預(yù)設(shè)文本，其間不免具有超脫合目的性、潛在刑事風(fēng)險(xiǎn)的數(shù)據(jù)利用行為，即使以“技術(shù)中立”自居的預(yù)設(shè)型算法在輔助或替代人類(lèi)決策時(shí)亦屢現(xiàn)算法歧視、技術(shù)鴻溝等問(wèn)題。因此，人類(lèi)在享受技術(shù)便捷之余，不應(yīng)忽視此類(lèi)新興技術(shù)的深層隱患。

（一）內(nèi)部隱患：數(shù)據(jù)深度運(yùn)用過(guò)程的內(nèi)生風(fēng)險(xiǎn)

數(shù)據(jù)深度運(yùn)用有賴(lài)于算法模型的自動(dòng)運(yùn)行，缺乏對(duì)數(shù)據(jù)爬取范圍、訓(xùn)練方式、限度等細(xì)節(jié)的限制，不僅生成內(nèi)容可能涉及刑事風(fēng)險(xiǎn)，其部分不當(dāng)運(yùn)用行為本身亦可能觸及刑事紅線。

其一，數(shù)據(jù)深度運(yùn)用的一般失范行為存在違法風(fēng)險(xiǎn)。主要包括數(shù)據(jù)獲取等前端階段的數(shù)據(jù)來(lái)源合法性以及數(shù)據(jù)泄露兩部分。一方面，盡管數(shù)據(jù)深度運(yùn)用的訓(xùn)練素材主要來(lái)自合法公開(kāi)的數(shù)據(jù)，且原始數(shù)據(jù)大都已實(shí)現(xiàn)加密、加噪處理，但在深度運(yùn)用技術(shù)加持下，數(shù)據(jù)恢復(fù)并非難事，因此深度挖掘后很可能獲取隱私和敏感內(nèi)容。如OpenAI“隱私政策”雖保證其只處理日志數(shù)據(jù)、設(shè)備參數(shù)、cookies等技術(shù)信息，但經(jīng)生成式AI深度挖掘后完全可以獲取經(jīng)濟(jì)利益等深層信息。而且，OpenAI至今未公開(kāi)其學(xué)習(xí)語(yǔ)料的來(lái)源，仍屬于算法黑箱，所涉訓(xùn)練數(shù)據(jù)是否均獲得授權(quán)尚存疑問(wèn)，加之諸多早已被“遺忘”的數(shù)據(jù)可被發(fā)現(xiàn)并再次利用，不免存在數(shù)據(jù)來(lái)源合法性及數(shù)據(jù)“被遺忘權(quán)”等問(wèn)題。另一方面，為提高生成內(nèi)容的準(zhǔn)確性，數(shù)據(jù)深度運(yùn)用離不開(kāi)用戶與算法模型的反饋性對(duì)話，該過(guò)程實(shí)質(zhì)是為用戶畫(huà)像和訓(xùn)練模型收集信息，在人機(jī)交互中更可能暴露隱私，無(wú)形提高數(shù)據(jù)泄露風(fēng)險(xiǎn)。如用戶就生成式AI的預(yù)期合成內(nèi)容上傳照片、視頻等關(guān)聯(lián)數(shù)據(jù)，無(wú)意間輸入個(gè)人信息或商業(yè)秘密時(shí)，ChatGPT會(huì)瞬間捕捉并存儲(chǔ)入庫(kù)，可能在他人誘導(dǎo)性提問(wèn)下全盤(pán)托出。[3]（p97）同時(shí)，生成式AI所普及的云計(jì)算也將導(dǎo)致數(shù)據(jù)所有權(quán)和控制權(quán)分離，加劇存儲(chǔ)在云端的數(shù)據(jù)泄露、濫用等風(fēng)險(xiǎn)。[4]（p132）

其二，數(shù)據(jù)深度運(yùn)用的嚴(yán)重偏差行為則可能涉及刑事風(fēng)險(xiǎn)。數(shù)據(jù)運(yùn)用“深度”不僅指技術(shù)層面的專(zhuān)業(yè)深度，亦包括生成結(jié)果的“深度變化”，如人工智能生成物AIGC（AI-Generated Content）與基礎(chǔ)文本的顯著差別可能會(huì)達(dá)到以假亂真的預(yù)期效果。生成式AI流暢句詞的產(chǎn)生依賴(lài)海量數(shù)據(jù)（數(shù)據(jù)庫(kù)+圖像+詞類(lèi)提示）的技術(shù)反饋，其運(yùn)作模型的訓(xùn)練離不開(kāi)質(zhì)量參差不齊的大數(shù)據(jù)資源庫(kù)。為保證輸出信息的準(zhǔn)確性，開(kāi)發(fā)者可能在數(shù)據(jù)深度訓(xùn)練時(shí)進(jìn)行具有主觀傾向的數(shù)據(jù)標(biāo)注、識(shí)別工作，以形成具有用戶偏好、符合用戶習(xí)慣的訓(xùn)練激勵(lì)模型（Reward Model）。此過(guò)程若被犯罪分子所利用，即使數(shù)據(jù)本身是公開(kāi)、合法的，在激勵(lì)模型對(duì)抗強(qiáng)化訓(xùn)練中亦會(huì)埋下“毒樹(shù)之種”，最終生成違法內(nèi)容。即使對(duì)數(shù)據(jù)運(yùn)用模型進(jìn)行內(nèi)部檢測(cè)、技術(shù)校對(duì)，如規(guī)定ChatGPT拒絕回答特定敏感話題，不法分子仍可利用技術(shù)設(shè)置命令和禁止要求，突破原算法模型中的道德倫理及法律底線的內(nèi)置標(biāo)準(zhǔn)。如Walkerspider誘導(dǎo)“越獄”事件中，不法分子意圖通過(guò)指令要求ChatGPT扮演DAN的角色，迫使其生成違反OpenAI準(zhǔn)則的答案。[5]

（二）外化風(fēng)險(xiǎn)：數(shù)據(jù)深度運(yùn)用下傳統(tǒng)犯罪模式的異化

生成式AI不僅會(huì)改變傳統(tǒng)的工作、生活方式，亦會(huì)使傳統(tǒng)犯罪模式在其影響下出現(xiàn)異化。一方面，數(shù)據(jù)深度運(yùn)用極大降低了犯罪門(mén)檻、便利了犯罪手段。基于數(shù)據(jù)的深度加工、挖掘，生成式AI使得專(zhuān)業(yè)知識(shí)與特定技能的獲取門(mén)檻降低，亦突破了特定犯罪的技術(shù)桎梏。如ChatGPT利用數(shù)據(jù)進(jìn)行深度學(xué)習(xí)后即可具備無(wú)代碼編程能力，而不再過(guò)分依賴(lài)操作者的專(zhuān)業(yè)素養(yǎng)。不法分子可通過(guò)預(yù)訓(xùn)練大模型的數(shù)據(jù)深度檢索功能輕松獲取犯罪方法、違禁品渠道等違法信息。另一方面，數(shù)據(jù)深度運(yùn)用可能造成危害后果的擴(kuò)大化，提升刑事風(fēng)險(xiǎn)級(jí)別。既往數(shù)據(jù)信息的生產(chǎn)模式主要遵循PCC（專(zhuān)業(yè)生產(chǎn)內(nèi)容）向UGC（用戶生產(chǎn)內(nèi)容）的輸出路徑，不法內(nèi)容產(chǎn)出有限，國(guó)家通過(guò)對(duì)信息源頭、用戶個(gè)人以及網(wǎng)絡(luò)平臺(tái)的治理即可控制。而數(shù)據(jù)深度運(yùn)用在預(yù)設(shè)算法支持下自動(dòng)運(yùn)行，數(shù)據(jù)獲取、加工等環(huán)節(jié)難有實(shí)質(zhì)性篩選和價(jià)值判斷。不同于搜索引擎，生成式AI不會(huì)提供所用數(shù)據(jù)的出處，隱匿于人工智能背后的犯罪難以追蹤，既往網(wǎng)絡(luò)安全治理的技術(shù)與資源難以為繼。生成式AI的內(nèi)容產(chǎn)出在推送形式上也更為直接，誤導(dǎo)性更大，無(wú)形提高了隱私合規(guī)成本。在犯罪后果上，基于生成式AI的規(guī)模效應(yīng)，海量數(shù)據(jù)的深度運(yùn)用使得信息權(quán)益侵害的受眾規(guī)模同頻擴(kuò)大，并導(dǎo)致技術(shù)類(lèi)高智商犯罪呈指數(shù)級(jí)增長(zhǎng)，為賬號(hào)管理、人工審核、數(shù)據(jù)標(biāo)注等傳統(tǒng)監(jiān)管手段帶來(lái)挑戰(zhàn)。在AI算法加持下，數(shù)據(jù)深度運(yùn)用的技術(shù)、人工等成本可無(wú)限降低，易出現(xiàn)犯罪群聚效應(yīng)。而技術(shù)本身缺陷所導(dǎo)致的犯罪后果則更加難以預(yù)防。有媒體報(bào)道，ChatGPT在經(jīng)歷多輪反復(fù)且矛盾的用戶指令后可能出現(xiàn)程序紊亂，開(kāi)始提供犯罪思路或故意做出誤導(dǎo)用戶的錯(cuò)誤回答。[6]

（三）失衡現(xiàn)狀：數(shù)據(jù)深度運(yùn)用的刑事規(guī)制困境與誤區(qū)

其一，尚未實(shí)現(xiàn)數(shù)據(jù)深度運(yùn)用的全鏈條式保障，治理體系呈現(xiàn)碎片化傾向。生成式AI使得既往數(shù)據(jù)淺層運(yùn)用的生成、流轉(zhuǎn)方式、組織形式均發(fā)生改變，[7]（p6）但我國(guó)刑法保護(hù)體系并未隨著數(shù)據(jù)運(yùn)用的深度化而周延完善。《信息安全技術(shù) 數(shù)據(jù)安全能力成熟度模型》《數(shù)據(jù)安全法》等法規(guī)范對(duì)數(shù)據(jù)生命周期作出了明確規(guī)定，①并強(qiáng)調(diào)了各環(huán)節(jié)存在的數(shù)據(jù)風(fēng)險(xiǎn)。當(dāng)下我國(guó)數(shù)據(jù)犯罪的刑事治理重點(diǎn)依然放在非法獲取、編造、傳播虛假數(shù)據(jù)等前端領(lǐng)域，后續(xù)的數(shù)據(jù)挖掘、分析、合成等深度運(yùn)用環(huán)節(jié)則被忽略。[8]（p8）一方面，即使通過(guò)合法手段獲取數(shù)據(jù)，只要充分利用數(shù)據(jù)挖掘、數(shù)據(jù)清洗、可視分析等深度處理技術(shù)，都有獲取重要、敏感信息的可能性。另一方面，后續(xù)數(shù)據(jù)處置環(huán)節(jié)可能發(fā)生應(yīng)銷(xiāo)毀未銷(xiāo)毀、不當(dāng)公開(kāi)涉密數(shù)據(jù)、大規(guī)模數(shù)據(jù)泄露等問(wèn)題。因此，應(yīng)在數(shù)據(jù)刑事治理模式中彌補(bǔ)對(duì)數(shù)據(jù)深度運(yùn)用的規(guī)制空缺，從而未雨綢繆，實(shí)現(xiàn)對(duì)數(shù)據(jù)新興風(fēng)險(xiǎn)的合理控制與有效治理。

其二，忽視數(shù)據(jù)深度運(yùn)用的動(dòng)態(tài)與正向價(jià)值。傳統(tǒng)重點(diǎn)治理計(jì)算機(jī)信息系統(tǒng)紕漏造成的數(shù)據(jù)泄露、篡改、滅失等靜態(tài)風(fēng)險(xiǎn)，強(qiáng)調(diào)數(shù)據(jù)主體對(duì)數(shù)據(jù)享有“專(zhuān)有”“排他”的支配性權(quán)力，[9]（p63）屬于消極的防御理念，易造成數(shù)據(jù)自身價(jià)值被其他犯罪所“稀釋”。如利用數(shù)據(jù)實(shí)施的詐騙犯罪中，對(duì)具有自然犯罪屬性詐騙行為的評(píng)價(jià)會(huì)沖淡對(duì)數(shù)據(jù)利用行為的違法性評(píng)價(jià)。[10]（p86）與物質(zhì)商品不同，數(shù)據(jù)原本價(jià)值的內(nèi)涵因聚集而擴(kuò)充，數(shù)據(jù)使用不會(huì)減損它的價(jià)值，反而會(huì)獲得新信息或知識(shí)，賦予新含義。[11]（p1408）如ChatGPT可依托RLHF（Reinforcement Learning from Human Feedback）算法進(jìn)一步強(qiáng)化學(xué)習(xí)方法并優(yōu)化反饋，使一般文本數(shù)據(jù)在語(yǔ)料庫(kù)的投喂下形成近似于復(fù)雜人類(lèi)價(jià)值觀。[12]（p130-131）以上對(duì)既往基于有限體量數(shù)據(jù)的淺層運(yùn)用而言是難以想象的，若固持?jǐn)?shù)據(jù)價(jià)值全部歸屬于原始權(quán)利主體觀點(diǎn)，難以滿足數(shù)據(jù)運(yùn)用行為附加的獨(dú)立權(quán)利功能，[13]（p115）可能導(dǎo)致數(shù)據(jù)主體放棄或暫緩技術(shù)研發(fā)、提升等嚴(yán)重后果。因此，數(shù)據(jù)深度運(yùn)用的刑事治理需要認(rèn)識(shí)到數(shù)據(jù)技術(shù)的動(dòng)態(tài)變化，在周全考慮數(shù)據(jù)原始階段安全需求的同時(shí)，亦要保障數(shù)據(jù)資本階段的流通、利用需求。

二、邏輯更新：數(shù)據(jù)深度運(yùn)用治理的基本立場(chǎng)

（一）反思考察：傳統(tǒng)數(shù)據(jù)犯罪技術(shù)傾向的適時(shí)更新

觀察我國(guó)既往實(shí)踐情況，數(shù)據(jù)犯罪往往依附于計(jì)算機(jī)犯罪。與計(jì)算機(jī)框架式、程序化的運(yùn)作方式不同，生成式AI的數(shù)據(jù)深度運(yùn)用展現(xiàn)出類(lèi)人思維，其具體應(yīng)用具有自然語(yǔ)言的處理、理解能力，二者治理理念、方式不可等同。我國(guó)破壞計(jì)算機(jī)信息系統(tǒng)罪表面上是規(guī)制數(shù)據(jù)破壞（刪除、修改、增加）行為，但計(jì)算機(jī)類(lèi)犯罪所涉數(shù)據(jù)僅為數(shù)據(jù)大概念下的特殊小類(lèi)，只有影響到計(jì)算機(jī)信息系統(tǒng)正常運(yùn)行的數(shù)據(jù)破壞行為才應(yīng)以本類(lèi)罪名論處，通常表現(xiàn)為“手段—目的”關(guān)系，規(guī)范目的仍是保護(hù)計(jì)算機(jī)信息系統(tǒng)安全。如最高法第145號(hào)指導(dǎo)案例指出，“通過(guò)修改、增加計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)，對(duì)該計(jì)算機(jī)信息系統(tǒng)實(shí)施非法控制，但未造成系統(tǒng)功能實(shí)質(zhì)性破壞或者不能正常運(yùn)行的，不應(yīng)當(dāng)認(rèn)定為破壞計(jì)算機(jī)信息系統(tǒng)罪”。需指出，計(jì)算機(jī)類(lèi)罪名強(qiáng)調(diào)規(guī)制計(jì)算機(jī)系統(tǒng)功能穩(wěn)定與安全，以及遭受攻擊的風(fēng)險(xiǎn)預(yù)防與恢復(fù)能力，若將其與數(shù)據(jù)運(yùn)用犯罪雜糅，不僅會(huì)導(dǎo)致數(shù)據(jù)本身價(jià)值被計(jì)算機(jī)信息系統(tǒng)安全所掩埋，亦與其作為重要生產(chǎn)要素的地位不匹配。例如，生成式AI對(duì)數(shù)據(jù)庫(kù)中的車(chē)次信息、到站時(shí)間等公開(kāi)商業(yè)數(shù)據(jù)進(jìn)行再分析、編輯與整合，可為商業(yè)運(yùn)行帶來(lái)可觀效益，實(shí)際上已具備無(wú)形財(cái)產(chǎn)的特征，[14]（p27）刑事規(guī)制手段不應(yīng)缺位。因此，不可罔顧數(shù)據(jù)深度運(yùn)用環(huán)節(jié)的可用性、延展性特征，而只將靜態(tài)計(jì)算機(jī)系統(tǒng)安全作為數(shù)據(jù)深度運(yùn)用規(guī)制的主旨。

雖然數(shù)據(jù)犯罪的“最初形態(tài)”可交由非法侵入計(jì)算機(jī)信息系統(tǒng)罪等純技術(shù)性計(jì)算機(jī)罪名周延規(guī)制，但此種技術(shù)平移式做法依舊沿襲的是計(jì)算機(jī)信息時(shí)代的思維模式，無(wú)法保護(hù)數(shù)據(jù)深度加工后獨(dú)有的價(jià)值意蘊(yùn)。而且，生成式AI主要依賴(lài)算法模型，犯罪重點(diǎn)已不在計(jì)算機(jī)信息系統(tǒng)的內(nèi)存數(shù)據(jù)或應(yīng)用程序。雖有學(xué)者提倡采納“數(shù)據(jù)安全”概念作為過(guò)渡，以保護(hù)數(shù)據(jù)本身的保密性、完整性和可用性，[2]（p137）但規(guī)制重點(diǎn)仍是數(shù)據(jù)類(lèi)型、結(jié)構(gòu)、生命周期等技術(shù)安全，忽視了數(shù)據(jù)經(jīng)深度挖掘后的多重價(jià)值面向。

（二）路徑調(diào)適：基于人工智能面向的敏捷治理

數(shù)據(jù)深度運(yùn)用受訓(xùn)練模型、算法機(jī)制、擬用場(chǎng)景等多方要素影響，屬多種人工智能技術(shù)的合集，并集成在眾多產(chǎn)品和服務(wù)之中。諸如通用問(wèn)答系統(tǒng)ChatGPT、可自動(dòng)測(cè)繪動(dòng)畫(huà)的Stable Diffusion等。ChatGPT等生成式AI與檢索類(lèi)、個(gè)性化推送類(lèi)算法原理相同，①都是通用人工智能基本框架下的子領(lǐng)域。著眼于生成式AI自身算法模型的治理方式固然直觀、便捷，可若僅依賴(lài)對(duì)算法機(jī)制、特征庫(kù)、用戶目標(biāo)等生成式AI內(nèi)置要素的規(guī)制，雖在一定程度上可保護(hù)安全價(jià)值導(dǎo)向下的數(shù)據(jù)服務(wù)規(guī)范和用戶權(quán)益，但會(huì)忽略后續(xù)數(shù)據(jù)深度合成、加工等增值性行為。如雖可將深度合成作為算法服務(wù)種類(lèi)中高風(fēng)險(xiǎn)、高敏感度的算法進(jìn)行監(jiān)管，[15]（p45）但監(jiān)管對(duì)象僅限提供互聯(lián)網(wǎng)信息服務(wù)的算法會(huì)存在較大局限。

相較深度運(yùn)用技術(shù)的專(zhuān)項(xiàng)治理，未來(lái)人工智能的基礎(chǔ)性立法作為法律層面的更高位階，可周延涵蓋靜態(tài)算法監(jiān)管、動(dòng)態(tài)數(shù)據(jù)運(yùn)用等關(guān)涉問(wèn)題，實(shí)現(xiàn)具有技術(shù)迭代適應(yīng)性、包容性的敏捷治理（agile governance）。在數(shù)據(jù)運(yùn)用初期，可采取通用性技術(shù)注重對(duì)數(shù)據(jù)運(yùn)用過(guò)程的監(jiān)管、調(diào)適，如過(guò)濾器和模型調(diào)整，定量偏差評(píng)估和基準(zhǔn)測(cè)試等。具體制度中，在肯定數(shù)據(jù)規(guī)制的同時(shí)結(jié)合人工智能的種類(lèi)特征、機(jī)制做聯(lián)動(dòng)性治理，如算法機(jī)制的備案說(shuō)明、數(shù)據(jù)特征庫(kù)和標(biāo)簽制度等，以順應(yīng)數(shù)據(jù)深度運(yùn)用的技術(shù)發(fā)展與場(chǎng)景應(yīng)用。[15]（p47）在技術(shù)層面積極探索面向人工智能的治理科技，參考人工智能倫理原則、相關(guān)行業(yè)規(guī)范設(shè)置風(fēng)險(xiǎn)紅線，從技術(shù)端指引生成式AI研發(fā)、數(shù)據(jù)運(yùn)用模型構(gòu)建等風(fēng)險(xiǎn)防控的主動(dòng)設(shè)計(jì)。例如，針對(duì)數(shù)據(jù)深度運(yùn)用產(chǎn)生的虛假信息，關(guān)鍵詞監(jiān)測(cè)、人工審核等傳統(tǒng)檢測(cè)方式的效果有限，應(yīng)以生成式AI等同等級(jí)技術(shù)為基底完成治理革新。數(shù)據(jù)深度運(yùn)用的規(guī)制模式不能僅承接算法治理的先行經(jīng)驗(yàn)，也要為未來(lái)通用人工智能的全面立法做出有益嘗試，謹(jǐn)防陷入技術(shù)與規(guī)范脫節(jié)的“科林格里奇困境”。

（三）導(dǎo)向指引：科技倫理監(jiān)管的能動(dòng)性倡導(dǎo)

生成式AI的數(shù)據(jù)深度運(yùn)用能夠處理跨域任務(wù)，并具有良好的通用性和泛化性，任何偏誤和風(fēng)險(xiǎn)都將彌散蔓延至整個(gè)數(shù)據(jù)鏈條。而傳統(tǒng)事后救濟(jì)有賴(lài)于訴訟，可能導(dǎo)致受害方淪為“沉默的大多數(shù)”。因此，數(shù)據(jù)深度運(yùn)用的治理節(jié)點(diǎn)可適當(dāng)前置，科技領(lǐng)域良善倫理的監(jiān)管具有相當(dāng)必要性。與限制性更強(qiáng)的中期風(fēng)險(xiǎn)防控相比，前期倫理監(jiān)管的持續(xù)優(yōu)化可留給研發(fā)、運(yùn)營(yíng)企業(yè)更大的操作空間，激勵(lì)企業(yè)利用內(nèi)部信息優(yōu)勢(shì)進(jìn)行治理創(chuàng)新，以更為經(jīng)濟(jì)高效的方式實(shí)現(xiàn)預(yù)期實(shí)效。與事后懲戒式監(jiān)管相比，深入企業(yè)內(nèi)部的倫理審查機(jī)制，如安全獨(dú)立的測(cè)試環(huán)境、風(fēng)險(xiǎn)評(píng)估認(rèn)證等措施是更為靈活的監(jiān)管方式。我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第７條提倡技術(shù)提供者建立健全科技倫理審查機(jī)制，《人工智能倫理治理標(biāo)準(zhǔn)化指南》亦以數(shù)據(jù)運(yùn)用、算法決策等類(lèi)型化標(biāo)準(zhǔn)具化分析了倫理風(fēng)險(xiǎn)來(lái)源。本文認(rèn)為，可借鑒生命科學(xué)和醫(yī)學(xué)倫理制度，在參考《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》《科技期刊出版?zhèn)惱硪?guī)范》《衛(wèi)生健康領(lǐng)域人工智能倫理與治理指南》等國(guó)內(nèi)外行業(yè)倫理規(guī)范的基礎(chǔ)上，推進(jìn)適用于數(shù)據(jù)深度運(yùn)用等關(guān)鍵科技領(lǐng)域的倫理框架。還可在設(shè)計(jì)階段嵌入基礎(chǔ)倫理原則，設(shè)立數(shù)據(jù)運(yùn)用的道德底線、法律紅線，引導(dǎo)科技企業(yè)對(duì)內(nèi)部研發(fā)、應(yīng)用活動(dòng)構(gòu)建常態(tài)化的治理約束，避免數(shù)據(jù)運(yùn)用的先天偏見(jiàn)。即企業(yè)不僅應(yīng)重視人工智能內(nèi)置的自動(dòng)風(fēng)險(xiǎn)篩查、過(guò)濾機(jī)制，也應(yīng)完善基于良善倫理的人工審核機(jī)制，以合理控制數(shù)據(jù)深度運(yùn)用的范圍和目的；研發(fā)前端主體則應(yīng)基于社會(huì)責(zé)任感，開(kāi)發(fā)符合人類(lèi)價(jià)值觀和倫理的算法，以進(jìn)一步增強(qiáng)數(shù)據(jù)深度運(yùn)用技術(shù)的透明度和規(guī)范化管理。

三、合規(guī)治理：技術(shù)分工下數(shù)據(jù)深度運(yùn)用的類(lèi)型化治理鏈條

我國(guó)現(xiàn)有的技術(shù)治理體系分設(shè)：數(shù)據(jù)、算法、主體、場(chǎng)景四類(lèi)標(biāo)準(zhǔn)，[15]（p45）但數(shù)據(jù)深度運(yùn)用屬于應(yīng)用廣泛的通用性技術(shù)，難以被單一類(lèi)別涵括。當(dāng)粗略分類(lèi)難以適用時(shí)，應(yīng)采取類(lèi)型化思維來(lái)探討數(shù)據(jù)深度運(yùn)用的風(fēng)險(xiǎn)管控。由于數(shù)據(jù)深度運(yùn)用治理的“主體責(zé)任”呈多元化、分散化和場(chǎng)景化特征，有必要考察產(chǎn)業(yè)鏈條各主體的現(xiàn)實(shí)作用，以類(lèi)型化方式重塑責(zé)任分配。

（一）開(kāi)發(fā)者層面：事先合規(guī)制度之建構(gòu)

生成式AI研發(fā)機(jī)構(gòu)決定了模型數(shù)據(jù)獲取和輸出方式，應(yīng)有較為嚴(yán)格的注意義務(wù)與法律責(zé)任。如訓(xùn)練數(shù)據(jù)標(biāo)注、數(shù)據(jù)庫(kù)公開(kāi)、文件記錄和保存、技術(shù)透明度保障等，而不能僅依賴(lài)純良倫理的約束。研發(fā)企業(yè)的社會(huì)屬性決定了其社會(huì)責(zé)任。基于開(kāi)發(fā)活動(dòng)而獨(dú)有的技術(shù)優(yōu)勢(shì)以及管理優(yōu)勢(shì)，開(kāi)發(fā)者在研發(fā)完成后還須承擔(dān)“未來(lái)風(fēng)險(xiǎn)”責(zé)任。數(shù)據(jù)深度運(yùn)用不單具有以技術(shù)規(guī)則和運(yùn)算邏輯為基礎(chǔ)的客體屬性，行為所依賴(lài)的算法模型正是開(kāi)發(fā)者價(jià)值觀的技術(shù)性體現(xiàn)，表現(xiàn)為工具屬性，開(kāi)發(fā)者應(yīng)置于責(zé)任承擔(dān)的最前線，故《辦法》第6條要求生成式AI產(chǎn)品提供者進(jìn)行安全評(píng)估、算法備案等預(yù)防性措施。研發(fā)方對(duì)數(shù)據(jù)庫(kù)內(nèi)涉及隱私或機(jī)密的非公開(kāi)信息應(yīng)盡合理注意義務(wù)，以佐證其在模型初設(shè)階段并不存在侵犯知識(shí)產(chǎn)權(quán)、公民隱私等敏感數(shù)據(jù)的積極態(tài)度，否則應(yīng)為“算法黑箱”承擔(dān)法律責(zé)任。[16]

數(shù)據(jù)深度運(yùn)用的事前合規(guī)制度是指根據(jù)《網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《刑法》等法規(guī)建立的完整、有效的合規(guī)計(jì)劃。健全的企業(yè)內(nèi)部監(jiān)測(cè)機(jī)制包括系統(tǒng)訪問(wèn)權(quán)限設(shè)置、后臺(tái)數(shù)據(jù)監(jiān)測(cè)、安全反應(yīng)機(jī)制等。如可采取代理理論為創(chuàng)建和終止雇員訪問(wèn)、獲取企業(yè)數(shù)據(jù)的“授權(quán)”提供依據(jù)，以應(yīng)對(duì)“內(nèi)部黑客”威脅數(shù)據(jù)安全。對(duì)于算法模型創(chuàng)設(shè)、數(shù)據(jù)來(lái)源、預(yù)期加工方式等數(shù)據(jù)深度運(yùn)用的關(guān)鍵環(huán)節(jié)，應(yīng)設(shè)置精密的監(jiān)測(cè)機(jī)制。研發(fā)方作為核心信息掌握者，應(yīng)主動(dòng)為主管機(jī)構(gòu)監(jiān)管提供便利。只有明晰算法所選取的數(shù)據(jù)庫(kù)來(lái)源、算力引擎，才能較好規(guī)制數(shù)據(jù)侵權(quán)問(wèn)題。因此，在制定合規(guī)計(jì)劃時(shí)可將上述加密性信息主動(dòng)讓渡給有關(guān)機(jī)關(guān)，以便其監(jiān)管。此外，研發(fā)方還要注意對(duì)深度運(yùn)用原始數(shù)據(jù)的隱藏，關(guān)注用戶個(gè)人信息的脫敏，通過(guò)匿名化處理保證數(shù)據(jù)權(quán)屬安全。如研發(fā)者可加大對(duì)人工智能自檢測(cè)模型的構(gòu)建力度，不再僅以用戶偏好作為數(shù)據(jù)優(yōu)化訓(xùn)練的獎(jiǎng)勵(lì)信號(hào)。在擴(kuò)展數(shù)據(jù)庫(kù)容量的同時(shí)，引入多來(lái)源比照分析模型，訓(xùn)練人工智能對(duì)虛假、爭(zhēng)議數(shù)據(jù)的識(shí)別能力。

（二）運(yùn)營(yíng)者層面：場(chǎng)景義務(wù)設(shè)置與合規(guī)整改并重

若將產(chǎn)業(yè)鏈上游的開(kāi)發(fā)者比作服務(wù)下游生態(tài)的“土壤”，生成式AI的運(yùn)營(yíng)者便是真正面向終端用戶的主體。傳統(tǒng)網(wǎng)絡(luò)服務(wù)者的義務(wù)設(shè)定都遵循“避風(fēng)港”原則，并不負(fù)有預(yù)先審查、實(shí)時(shí)監(jiān)控?cái)?shù)據(jù)動(dòng)態(tài)的義務(wù)，而僅有事后通知風(fēng)險(xiǎn)、移除數(shù)據(jù)的責(zé)任。[17]（p100）大數(shù)據(jù)時(shí)代，技術(shù)運(yùn)營(yíng)者在享受數(shù)據(jù)深度運(yùn)用帶來(lái)的增值紅利時(shí)，理應(yīng)履行附隨風(fēng)險(xiǎn)的防范義務(wù)。基于此，運(yùn)營(yíng)者應(yīng)高度重視數(shù)據(jù)來(lái)源不合規(guī)、用戶隱私、商業(yè)泄密等問(wèn)題，定期評(píng)估并主動(dòng)公示生成式AI所依托的學(xué)習(xí)、訓(xùn)練數(shù)據(jù)來(lái)源，履行重要、敏感數(shù)據(jù)的風(fēng)險(xiǎn)提醒義務(wù)。如斯坦福大學(xué)基礎(chǔ)模型研究中心對(duì)大型語(yǔ)言模型（LLM）進(jìn)行整體評(píng)估，就技術(shù)性能、人工智能技術(shù)倫理、人工智能治理政策等關(guān)鍵要素做深度剖析，[18]旨在提高語(yǔ)言模型透明度，提升數(shù)據(jù)不法運(yùn)用的犯罪成本。應(yīng)注意的是，運(yùn)營(yíng)者義務(wù)設(shè)置必須符合其商業(yè)模式的合理預(yù)期、重視合規(guī)成本，不可拘泥于數(shù)據(jù)安全的維護(hù)而阻礙深度運(yùn)用技術(shù)產(chǎn)業(yè)的發(fā)展。如歐盟《人工智能法案》基于個(gè)人權(quán)利保護(hù)，要求對(duì)所有已知或可預(yù)見(jiàn)的數(shù)據(jù)運(yùn)用風(fēng)險(xiǎn)進(jìn)行識(shí)別，但對(duì)潛在風(fēng)險(xiǎn)的全覆蓋監(jiān)管，會(huì)導(dǎo)致本屬合理發(fā)展的技術(shù)僅因具有高風(fēng)險(xiǎn)用途而受到刑法的嚴(yán)格規(guī)制。對(duì)此，歐盟數(shù)據(jù)保護(hù)委員會(huì)適時(shí)調(diào)整立法策略，將從形式上考察具體安全技術(shù)的適用轉(zhuǎn)變?yōu)閺膶?shí)質(zhì)上認(rèn)定個(gè)人數(shù)據(jù)的保護(hù)實(shí)效，①值得參考。面對(duì)OpenAl、Stability等商用性AI運(yùn)營(yíng)，更應(yīng)權(quán)衡嚴(yán)格保護(hù)、有效利用、開(kāi)發(fā)數(shù)據(jù)三者間的關(guān)系。

基于動(dòng)態(tài)變化的監(jiān)管環(huán)境與技術(shù)迭代，作為預(yù)防性舉措，即使在運(yùn)營(yíng)商的部署階段，合規(guī)計(jì)劃亦應(yīng)設(shè)立定期評(píng)測(cè)制度，實(shí)時(shí)更新管理者的知識(shí)儲(chǔ)備與認(rèn)知水平。例如，可督促生成式AI搭載平臺(tái)監(jiān)管內(nèi)容傳輸（限制、停止），并采取違法舉報(bào)、黑名單、辟謠等措施遏制違法信息產(chǎn)出的負(fù)面效果，及時(shí)清理過(guò)期、冗余或不合法的應(yīng)用數(shù)據(jù)。健全數(shù)據(jù)泄露、侵權(quán)等數(shù)據(jù)安全事件的及時(shí)反應(yīng)機(jī)制。《數(shù)據(jù)安全法》第29條規(guī)定，企業(yè)在數(shù)據(jù)處理的全過(guò)程中應(yīng)當(dāng)堅(jiān)持風(fēng)險(xiǎn)監(jiān)測(cè)，及時(shí)采取防控措施并報(bào)送主管部門(mén)、告知用戶。因此，技術(shù)運(yùn)營(yíng)者應(yīng)在深度運(yùn)用風(fēng)險(xiǎn)初顯之際便及時(shí)通知相關(guān)權(quán)利主體及主管部門(mén)，并開(kāi)展內(nèi)部自查與整改工作。生成式AI的有序發(fā)展與數(shù)據(jù)的合規(guī)運(yùn)用，離不開(kāi)運(yùn)營(yíng)方與監(jiān)管機(jī)關(guān)的協(xié)同推進(jìn)。杭州某互聯(lián)網(wǎng)企業(yè)針對(duì)敏感數(shù)據(jù)建構(gòu)了“風(fēng)險(xiǎn)核查—數(shù)據(jù)梳理—數(shù)據(jù)保護(hù)—監(jiān)控預(yù)警”（CAPE）模型，前三項(xiàng)措施著重在前期盡可能明確數(shù)據(jù)處理、使用過(guò)程中的刑事風(fēng)險(xiǎn)，[19]具有借鑒意義。

（三）用戶層面：細(xì)化運(yùn)用規(guī)則、合規(guī)使用路徑

數(shù)據(jù)深度運(yùn)用實(shí)質(zhì)上是預(yù)設(shè)算法模型與用戶互動(dòng)的共同成果，因此，在加強(qiáng)技術(shù)本身監(jiān)管外，有必要加強(qiáng)輸入審查、交叉驗(yàn)證、對(duì)抗性評(píng)估等針對(duì)用戶行為合法性的約束義務(wù)。如普通用戶應(yīng)當(dāng)避免對(duì)生成式AI輸出信息的深度依賴(lài)，而要保持必要的信息甄別能力，正視生成式AI存在的知識(shí)盲區(qū)、認(rèn)知偏差等現(xiàn)實(shí)問(wèn)題。專(zhuān)業(yè)用戶在享有數(shù)據(jù)深度運(yùn)用的成果利益時(shí)，作為系統(tǒng)輸出內(nèi)容的控制者，應(yīng)承擔(dān)確保生成內(nèi)容合法性的義務(wù)和責(zé)任。②如使用ChatGPT便利工作（編寫(xiě)代碼、撰寫(xiě)專(zhuān)業(yè)文書(shū)等技術(shù)性輔助）、利用人工智能生成內(nèi)容再售賣(mài)、加工等經(jīng)營(yíng)活動(dòng)時(shí)，應(yīng)承擔(dān)數(shù)據(jù)運(yùn)用及其生成物的風(fēng)險(xiǎn)標(biāo)識(shí)與警示義務(wù)。例如，利用ChatGPT通過(guò)深度合成技術(shù)模擬生成音視頻等擬真內(nèi)容時(shí)，用戶應(yīng)在顯著位置進(jìn)行警示標(biāo)識(shí)，避免公眾混淆或產(chǎn)生誤認(rèn)。對(duì)涉密、敏感數(shù)據(jù)也應(yīng)及時(shí)反饋系統(tǒng)并進(jìn)行標(biāo)記，以便后續(xù)使用數(shù)據(jù)時(shí)發(fā)揮提示和參考作用。若用戶發(fā)現(xiàn)信息處理者違法或違約時(shí)，有權(quán)依據(jù)《個(gè)人信息保護(hù)法》第47條、第48條規(guī)定，請(qǐng)求刪除并要求信息處理者對(duì)其信息使用規(guī)則進(jìn)行解釋說(shuō)明，以杜絕不法生成物傳播可能。此外，還可在用戶端強(qiáng)化對(duì)機(jī)器人賬號(hào)的身份識(shí)別監(jiān)管和對(duì)權(quán)威賬號(hào)的特殊認(rèn)定，減少刷單式批量推送。并可考慮制定數(shù)據(jù)字典，根據(jù)數(shù)據(jù)屬性、標(biāo)識(shí)碼等要素，于數(shù)據(jù)字典中詳細(xì)描述數(shù)據(jù)的含義、格式、來(lái)源等信息，以便更好地使用數(shù)據(jù)。

四、規(guī)范建構(gòu)：數(shù)據(jù)深度運(yùn)用的刑事規(guī)制體系完善

（一）規(guī)范取向：基于數(shù)據(jù)動(dòng)態(tài)價(jià)值的維護(hù)

當(dāng)前刑法應(yīng)對(duì)數(shù)據(jù)深度運(yùn)用“力所不逮”的主要原因是無(wú)法實(shí)現(xiàn)對(duì)數(shù)據(jù)后續(xù)利用行為的充分評(píng)價(jià)與制裁。既往屬于規(guī)制重點(diǎn)的非法獲取、泄露數(shù)據(jù)等均為數(shù)據(jù)深度運(yùn)用的前置環(huán)節(jié)，與后續(xù)深度運(yùn)用相比，現(xiàn)實(shí)法益侵害性較低。且通過(guò)前端行為的規(guī)制去涵蓋后續(xù)數(shù)據(jù)深度運(yùn)用行為的社會(huì)危害性并不合理。與重要數(shù)據(jù)、核心數(shù)據(jù)不同，未經(jīng)算法深層加工、分析的一般數(shù)據(jù)的價(jià)值處于“休眠”狀態(tài)，只有經(jīng)過(guò)數(shù)據(jù)流通、分析等處理環(huán)節(jié)才可“激活”。生成式AI數(shù)據(jù)深度運(yùn)用即是將分散的單個(gè)數(shù)據(jù)匯集成為體量巨大的數(shù)據(jù)集合，使數(shù)據(jù)脫離原始的自然狀態(tài)，實(shí)現(xiàn)從分散到集合、從人格利益到財(cái)產(chǎn)價(jià)值、從“小數(shù)據(jù)”到“大數(shù)據(jù)”等具有價(jià)值附加的質(zhì)變。生成式AI正以強(qiáng)大且隱秘的方式重塑數(shù)據(jù)格局。深度運(yùn)用使數(shù)據(jù)“動(dòng)態(tài)”價(jià)值實(shí)現(xiàn)提升，刑法不宜僅承認(rèn)控制者享有原始數(shù)據(jù)的控制利益。可見(jiàn)，數(shù)據(jù)深度運(yùn)用的主要著力點(diǎn)在于分析與再加工環(huán)節(jié)，而分析環(huán)節(jié)又是連接原始數(shù)據(jù)與后續(xù)數(shù)據(jù)加工行為（生成內(nèi)容）的橋梁。博弈論觀點(diǎn)認(rèn)為，風(fēng)險(xiǎn)規(guī)制和數(shù)據(jù)權(quán)益的共存和均衡是數(shù)據(jù)規(guī)制的理性之選。在擬出臺(tái)人工智能治理方案的歐洲，正在討論加大面向“生成式AI模型”部署者和用戶的動(dòng)態(tài)利用行為的直接監(jiān)管力度。任何靜態(tài)化、局部化、個(gè)體化的治理措施可能會(huì)應(yīng)對(duì)乏力，應(yīng)著重就數(shù)據(jù)動(dòng)態(tài)處理環(huán)節(jié)進(jìn)行立法嘗試。

（二）階層判斷：數(shù)據(jù)深度運(yùn)用行為非法性的界定

若仍單純依賴(lài)事后責(zé)任追究方式來(lái)規(guī)制數(shù)據(jù)深度運(yùn)用的新興技術(shù)風(fēng)險(xiǎn)，可能面臨控制不力、司法資源浪費(fèi)等困境。應(yīng)盡快設(shè)置明確、統(tǒng)一的違法性判斷標(biāo)準(zhǔn)，以合理限定數(shù)據(jù)深度運(yùn)用行為的規(guī)范邊界。

1.合理限定：前置性法規(guī)范的違反

數(shù)據(jù)犯罪作為典型的法定犯，具有雙重違法性特征。在面臨數(shù)據(jù)深度運(yùn)用行為刑事違法性判斷時(shí)，應(yīng)充分考量關(guān)涉前置法規(guī)范。嚴(yán)苛的刑罰固然能夠推動(dòng)犯罪人以“經(jīng)濟(jì)人”思維規(guī)避風(fēng)險(xiǎn)，但刑法的濫用可能給部分?jǐn)?shù)據(jù)發(fā)展的商業(yè)實(shí)體帶來(lái)嚴(yán)重阻礙。當(dāng)前置性法規(guī)范能充分評(píng)價(jià)、妥善處理數(shù)據(jù)非法運(yùn)用行為時(shí)，則不必強(qiáng)制納入刑法范圍。例如，依據(jù)數(shù)據(jù)犯罪的分級(jí)治理機(jī)制，可將前文探討的數(shù)據(jù)刑事合規(guī)等自治規(guī)范作為過(guò)濾數(shù)據(jù)犯罪的“第一道屏障”，前置性法規(guī)范則作為“第二道屏障”。我國(guó)《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》等前置法明確了國(guó)家對(duì)數(shù)據(jù)采取審慎監(jiān)管的基本立場(chǎng)。①《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》亦明確提出對(duì)深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等技術(shù)展開(kāi)安全評(píng)估，對(duì)非真實(shí)音視頻信息進(jìn)行標(biāo)識(shí)。這些均是將數(shù)據(jù)風(fēng)險(xiǎn)治理聚焦于前端預(yù)防。面對(duì)數(shù)據(jù)技術(shù)發(fā)展而衍生的數(shù)據(jù)安全風(fēng)險(xiǎn)，還可充分考慮非刑罰手段介入之可能，以合規(guī)范方式降低刑事風(fēng)險(xiǎn)現(xiàn)實(shí)化的可能性。例如，建立以數(shù)據(jù)共享為核心的數(shù)據(jù)運(yùn)用監(jiān)管機(jī)制以便及時(shí)、高效獲取數(shù)據(jù)深度運(yùn)用的動(dòng)態(tài)，從而實(shí)現(xiàn)由風(fēng)險(xiǎn)顯現(xiàn)的被動(dòng)監(jiān)管向主動(dòng)預(yù)防的科技驅(qū)動(dòng)型監(jiān)管轉(zhuǎn)變。只有數(shù)據(jù)深度運(yùn)用行為的社會(huì)危害性突破一定的程度時(shí)，才考慮選用最具嚴(yán)苛面向的刑罰手段。預(yù)防性禁令作為刑事手段介入前的緩沖，能較妥善地考量數(shù)據(jù)技術(shù)刑事規(guī)制的“雙重適用困境”，可倡導(dǎo)適用。通過(guò)發(fā)出預(yù)防性禁令（預(yù)警方式）使行為人意識(shí)到自身行為的違法性，在受到刑事制裁前及時(shí)調(diào)整非法運(yùn)用行為，如限制處理數(shù)據(jù)范圍等。在行為尚未達(dá)到違法性標(biāo)準(zhǔn)時(shí)，此類(lèi)非刑罰手段能在事前綜合權(quán)衡風(fēng)險(xiǎn)受益者、受害者和公共利益結(jié)構(gòu)，以應(yīng)對(duì)數(shù)字科技對(duì)刑法提出的新課題——保障數(shù)字技術(shù)發(fā)展的同時(shí)抑制風(fēng)險(xiǎn)的發(fā)生。

2.事實(shí)判斷：具體法益的切實(shí)侵犯

數(shù)據(jù)本身只是以電信號(hào)和相應(yīng)字節(jié)組成的比特流。作為價(jià)值中立的物理性事實(shí)，缺少技術(shù)加工、提煉的數(shù)據(jù)就如同一張白紙。數(shù)據(jù)深度運(yùn)用所表征的具體權(quán)利需要回溯至數(shù)據(jù)所承載的信息內(nèi)容予以證成，因此，數(shù)據(jù)深度運(yùn)用的違法性判斷離不開(kāi)現(xiàn)實(shí)層面的法益侵害，只有將數(shù)據(jù)犯罪法益這一較抽象概念還原為可把握的具體利益，才有刑事規(guī)制之必要。

首先，數(shù)據(jù)深度運(yùn)用犯罪可能侵害以人類(lèi)安全為中心的綜合性法益。現(xiàn)代數(shù)據(jù)安全風(fēng)險(xiǎn)源于人類(lèi)研發(fā)的數(shù)字技術(shù)，是人類(lèi)收集自然界、社會(huì)活動(dòng)的各種留痕。若放任數(shù)據(jù)深度運(yùn)用技術(shù)野蠻生長(zhǎng)，生成式AI憑借其超強(qiáng)的智力優(yōu)勢(shì)與效率優(yōu)勢(shì)可實(shí)現(xiàn)對(duì)人類(lèi)中心的僭越，甚至弱化和動(dòng)搖人的主體性，或?qū)⑴c機(jī)械實(shí)體一道產(chǎn)生破壞性替代效應(yīng)。[20]（p76）例如，過(guò)度使用數(shù)據(jù)深度加工資源承擔(dān)教育工作，可能遏制、僵化老師與學(xué)生的創(chuàng)造力、推理、批判思維。[21]（p58）加之AI生成內(nèi)容可受對(duì)話反饋、指令引導(dǎo)等措施的傾向性調(diào)控，可能產(chǎn)出人類(lèi)邊緣論等侵害人類(lèi)安全法益的極端內(nèi)容。其次，數(shù)據(jù)犯罪法益涉及國(guó)家安全。ChatGPT等數(shù)據(jù)深度運(yùn)用技術(shù)是基于海量關(guān)聯(lián)數(shù)據(jù)喂養(yǎng)和RLHF強(qiáng)化訓(xùn)練所產(chǎn)生的，其內(nèi)容輸出看似中立和客觀，但可能包藏設(shè)計(jì)偏見(jiàn)，從而裹挾公眾價(jià)值觀。網(wǎng)絡(luò)數(shù)據(jù)蘊(yùn)含大量城市布局、水文地理等敏感且重要信息，經(jīng)過(guò)深度加工與分析，足以拼湊或還原成具有完整性、系統(tǒng)性的內(nèi)容，可能危及公共安全與國(guó)家安全。最后，數(shù)據(jù)深度運(yùn)用可能侵犯?jìng)€(gè)人法益。依據(jù)用戶偏好被部署于具體領(lǐng)域的數(shù)據(jù)深度運(yùn)用行為是對(duì)人類(lèi)價(jià)值觀的不完整封裝。隨著大數(shù)據(jù)信息內(nèi)容的多元化、應(yīng)用場(chǎng)景的寬泛化，生成式AI的數(shù)據(jù)利用愈發(fā)個(gè)人化和個(gè)性化，即使敏感性不強(qiáng)的一般數(shù)據(jù)經(jīng)過(guò)處理也可以得出蘊(yùn)含著個(gè)人健康生理信息、財(cái)務(wù)信息、生物信息等敏感內(nèi)容。這不僅可能剝奪權(quán)屬主體對(duì)數(shù)據(jù)的控制權(quán)，亦會(huì)導(dǎo)致公民的人身、財(cái)產(chǎn)等具體利益遭受侵害。

3.價(jià)值評(píng)價(jià)：遵循利益衡量原則的綜合評(píng)判

利益衡量原則旨在保障數(shù)據(jù)刑法系統(tǒng)性、有效性的同時(shí)實(shí)現(xiàn)對(duì)刑法謙抑性的遵守，注重社會(huì)治理與科技發(fā)展間的平衡。我國(guó)數(shù)據(jù)刑法體系應(yīng)以“嚴(yán)而不厲”為基本指導(dǎo)思想，尋求數(shù)據(jù)保護(hù)與數(shù)據(jù)利用之間的平衡點(diǎn)，構(gòu)建規(guī)范、完整的數(shù)據(jù)犯罪刑法評(píng)價(jià)體系。一方面，具體研判數(shù)據(jù)深度運(yùn)用行為的危害性。通過(guò)深度運(yùn)用行為的罪質(zhì)、罪量?jī)煞矫媾袛嘈袨楦诫S后果的嚴(yán)重性。若數(shù)據(jù)深度運(yùn)用行為通過(guò)歸納、分析碎片信息得出涉及國(guó)家安全的內(nèi)容，此時(shí)具有受刑事規(guī)制的傾向；若行為侵犯的是個(gè)人、公司的財(cái)產(chǎn)、人格等利益，則不宜徑行歸入刑事處罰。因?yàn)椋址競(jìng)€(gè)人利益的多為人臉交互、場(chǎng)景模擬、動(dòng)作操控、文本創(chuàng)造等技術(shù)，這些亦有積極的面向，可廣泛運(yùn)用于教育、傳媒等領(lǐng)域，不可一刀切式予以刑事制裁。另一方面，刑事規(guī)制還需細(xì)致考量數(shù)據(jù)深度運(yùn)用主體的主觀罪責(zé)。例如，手段選擇可反映行為人對(duì)待犯罪的態(tài)度，再結(jié)合具體用途、用戶承諾、行業(yè)通常技術(shù)水準(zhǔn)等要素，可綜合考量信息的交往安全與利用效率。若行為人明知其所運(yùn)用的數(shù)據(jù)將被用于灰色產(chǎn)業(yè)或存在源數(shù)據(jù)不明、權(quán)屬爭(zhēng)議等瑕疵，其對(duì)危害后果的主觀惡性則不言自明。綜上，面對(duì)數(shù)據(jù)深度運(yùn)用等新興技術(shù)治理，并不需要刑罰權(quán)的積極前伸或?qū)ΡＷo(hù)功能的單一強(qiáng)調(diào)，而應(yīng)在保障數(shù)據(jù)刑法系統(tǒng)性、有效性的同時(shí)，遵守刑法謙抑性以促進(jìn)數(shù)字技術(shù)發(fā)展。即使數(shù)據(jù)深度運(yùn)用存在潛在刑事風(fēng)險(xiǎn)，也應(yīng)肯定其正向作用（充分釋放數(shù)據(jù)價(jià)值），避免數(shù)據(jù)犯罪刑法治理模式由“力所不逮”走向“過(guò)猶不及”，注重社會(huì)治理同科技發(fā)展間利益的協(xié)調(diào)共存。

（三）對(duì)癥規(guī)制：非法分析數(shù)據(jù)罪的增設(shè)與完善

在建立統(tǒng)一、明確的違法性判斷標(biāo)準(zhǔn)后，應(yīng)當(dāng)探索以數(shù)據(jù)運(yùn)用為中心的罪名設(shè)置，規(guī)制對(duì)象偏重?cái)?shù)據(jù)深度運(yùn)用本身的關(guān)鍵環(huán)節(jié)（數(shù)據(jù)分析）。非法分析數(shù)據(jù)是指以違法犯罪為目的，利用歧視性算法或其他非正當(dāng)方式，對(duì)數(shù)據(jù)進(jìn)行非法分析、處理的行為。[22]（p34）刑事規(guī)制體系應(yīng)實(shí)現(xiàn)對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)的精準(zhǔn)化、嚴(yán)密化保護(hù)，彌補(bǔ)數(shù)據(jù)非法分析環(huán)節(jié)的規(guī)制空白。

筆者以數(shù)據(jù)生命周期為邏輯起點(diǎn)，作出增設(shè)、完善非法分析數(shù)據(jù)罪的構(gòu)想。就制度設(shè)計(jì)而言，非法分析數(shù)據(jù)罪的罪狀應(yīng)當(dāng)是以違法犯罪為主觀目的，借助算法或其他方法對(duì)數(shù)據(jù)進(jìn)行分析處理，但應(yīng)排除技術(shù)發(fā)展、正當(dāng)商業(yè)運(yùn)營(yíng)等合理、合法分析行為。數(shù)據(jù)不僅可成為便利其他犯罪活動(dòng)的工具，其自身亦可成為受犯罪侵害的對(duì)象。因此，在客觀要件邊界上，應(yīng)注意其與非法使用數(shù)據(jù)罪的界分。非法使用數(shù)據(jù)指以數(shù)據(jù)作為犯罪工具便利其他犯罪的行為。而非法分析數(shù)據(jù)罪指在生成式AI等技術(shù)加持下對(duì)數(shù)據(jù)深層內(nèi)容的挖掘、價(jià)值的添附，較之前者，侵犯法益與數(shù)據(jù)本身具有更多關(guān)涉性。值得強(qiáng)調(diào)的是，數(shù)據(jù)犯罪法益的本質(zhì)是數(shù)據(jù)所表征的信息，如用戶信息安全、數(shù)據(jù)分析管理秩序、市場(chǎng)公平競(jìng)爭(zhēng)環(huán)境等現(xiàn)實(shí)法益。若數(shù)據(jù)深度處理活動(dòng)無(wú)法獲得與具體利益緊密關(guān)聯(lián)的內(nèi)容，或數(shù)據(jù)規(guī)模較小，數(shù)據(jù)處理者很難從中拼湊或提取出重要信息，則沒(méi)有納入刑法的必要性。此處可觀察非法分析后，數(shù)據(jù)所蘊(yùn)含的內(nèi)容敏感性、價(jià)值性程度、分布密度等要素的變化，進(jìn)一步考量行為主體身份與意圖獲取信息內(nèi)容的不匹配性，以及后續(xù)違法犯罪行為。為清晰數(shù)據(jù)初始授權(quán)的合目的性以及保障數(shù)據(jù)交往的動(dòng)態(tài)價(jià)值，應(yīng)確立深度運(yùn)用主體在數(shù)據(jù)獲取后二次分析、加工等活動(dòng)的審慎義務(wù)，秉持“最小必要”“安全可控”的數(shù)據(jù)使用原則，避免后續(xù)深度運(yùn)用行為超脫數(shù)據(jù)權(quán)屬主體的同意目的范疇。在宏觀規(guī)范保護(hù)層面，非法分析數(shù)據(jù)罪的設(shè)立目的在于保障大多數(shù)“人”享用數(shù)據(jù)資源的“自由”。不可僅因具有抽象風(fēng)險(xiǎn)，便遏制數(shù)據(jù)深度運(yùn)用等技術(shù)發(fā)展。此外，非法分析數(shù)據(jù)罪的規(guī)制對(duì)象不僅包括涉?zhèn)€人信息、商業(yè)秘密、國(guó)家機(jī)密等現(xiàn)行刑事法規(guī)范已有規(guī)制的重要數(shù)據(jù)，亦應(yīng)注意對(duì)一般數(shù)據(jù)（特別是海量聚集后）的分析行為。

結(jié)語(yǔ)

數(shù)據(jù)作為ChatGPT等新興技術(shù)發(fā)展的基石，已成為智能社會(huì)非常重要的資源。面對(duì)ChatGPT等生成式AI潛在的數(shù)據(jù)侵權(quán)、算法歧視等風(fēng)險(xiǎn)，須及時(shí)調(diào)整治理理念，理性審視數(shù)據(jù)犯罪樣態(tài)、危害后果并反思現(xiàn)有刑法保護(hù)體系。避免“唯技術(shù)主義”所誘發(fā)的盲目技術(shù)崇拜，進(jìn)而忽視危機(jī)防范。數(shù)據(jù)安全法益之內(nèi)涵具有人民群眾的生命健康、財(cái)產(chǎn)安全、社會(huì)秩序與經(jīng)濟(jì)發(fā)展等多層次意蘊(yùn)，亦是國(guó)家安全的重要組成部分。因此，有必要構(gòu)建起具有嚴(yán)密性、專(zhuān)門(mén)性、體系性的保護(hù)體系。應(yīng)當(dāng)說(shuō)，就生成式AI的刑法規(guī)制體系而言，我國(guó)在立法論層面留存了大量空白亟待填補(bǔ)，希望本文有關(guān)生成式AI的相關(guān)探討能為數(shù)據(jù)安全法益之體系性建構(gòu)以及相關(guān)生成式AI的刑事立法提供些許思路。

參考文獻(xiàn)：

[1]高銘暄.當(dāng)代刑法前沿問(wèn)題研究[M].北京：人民法院出版社，2019.

[2]王華偉.數(shù)據(jù)刑法保護(hù)的比較考察與體系建構(gòu)[J].比較法研究，2021，（5）.

[3]鄧建鵬，朱懌成.ChatGPT模型的法律風(fēng)險(xiǎn)及應(yīng)對(duì)之策[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，（5）.

[4]楊志瓊.數(shù)字經(jīng)濟(jì)時(shí)代我國(guó)數(shù)據(jù)犯罪刑法規(guī)制的挑戰(zhàn)與應(yīng)對(duì)[J].中國(guó)法學(xué)，2023，（1）.

[5]Synced.微軟ChatGPT版必應(yīng)被黑掉了，全部Prompt泄露！[EB/OL].https：//mp.weixin.qq.com/s/89KeLjDoS9IyArIr8z6jjg，2023-03-15.

[6]張弛.微軟緊急“救火”限制聊天機(jī)器回復(fù)次數(shù) 馬斯克稱(chēng)其不安全應(yīng)關(guān)掉[EB/OL].https：//www.caixin.com/101999415.html，2023-02-18.

[7]曹樹(shù)金，曹茹燁.從ChatGPT看生成式AI對(duì)情報(bào)學(xué)研究與實(shí)踐的影響[J].現(xiàn)代情報(bào)，2023，（4）.

[8]李玉華，馮泳琦.數(shù)據(jù)合規(guī)的基本問(wèn)題[J].青少年犯罪問(wèn)題，2021，（3）.

[9]呂炳斌.論網(wǎng)絡(luò)用戶對(duì)“數(shù)據(jù)”的權(quán)利——兼論網(wǎng)絡(luò)法中的產(chǎn)業(yè)政策和利益衡量[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2018，（6）.

[10]蘇青.認(rèn)識(shí)網(wǎng)絡(luò)犯罪：基于類(lèi)型思維的二元視角[J].法學(xué)評(píng)論，2022，（2）.

[11]高富平.數(shù)據(jù)流通理論 數(shù)據(jù)資源權(quán)利配置的基礎(chǔ)[J].中外法學(xué)，2019，（6）.

[12][英]維克托·邁爾-舍恩伯格，肯尼思·庫(kù)克耶.大數(shù)據(jù)時(shí)代[M].盛楊燕，周濤，譯.杭州：浙江人民出版社，2013.

[13]申衛(wèi)星.論數(shù)據(jù)用益權(quán)[J].中國(guó)社會(huì)科學(xué)，2020，（11）.

[14]李帥.網(wǎng)絡(luò)爬蟲(chóng)行為對(duì)數(shù)據(jù)資產(chǎn)確權(quán)的影響[J].財(cái)經(jīng)法學(xué)，2020，（1）.

[15]張凌寒.深度合成治理的邏輯更新與體系迭代——ChatGPT等生成型人工智能治理的中國(guó)路徑[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2023，（3）.

[16]張亮.算法治理須抓牢主體責(zé)任“牛鼻子”[N].法治日?qǐng)?bào)，2022-01-12（05）.

[17]蔡士林.我國(guó)數(shù)據(jù)安全法益保護(hù)：域外經(jīng)驗(yàn)與立法路徑[J].深圳大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2022，（6）.

[18]I-AIIG.人工智能?chē)?guó)際治理觀察[EB/OL].https：//mp.weixin.qq.com/s/hPZ4x0f7WM5N8ybuni0 WMQ， 2023-03-21.

[19]姜濤.數(shù)字安全與刑事合規(guī)建設(shè)[N].檢察日?qǐng)?bào)，2021-11-04（03）.

[20]鄒開(kāi)亮，劉祖兵.ChatGPT的倫理風(fēng)險(xiǎn)與中國(guó)因應(yīng)制度安排[J].海南大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2023，（4）.

[21]Iulia Adelina Ghita ， Angela Stan. The Dilemma of Teaching in the Digital Era： Artificial Intelligence[J].Risks and Challenges for Education， 2022， （2）.

[22]劉憲權(quán).數(shù)據(jù)犯罪刑法規(guī)制完善研究[J].中國(guó)刑事法雜志，2022，（5）.

責(zé)任編輯? ?王? ?京

收稿日期：2023-07-18

作者簡(jiǎn)介：章誠(chéng)豪（1996—），男，南京大學(xué)法學(xué)院博士研究生（江蘇南京，210093）；張勇（1973—），男，華東政法大學(xué)刑事法學(xué)院教授、博士生導(dǎo)師（上海，200042）。

基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“數(shù)字經(jīng)濟(jì)的刑事安全風(fēng)險(xiǎn)防范體系建構(gòu)研究”（21&ZD209）的階段性研究成果。