999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

犯罪經(jīng)濟(jì)學(xué)視野下網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露治理研究

2021-11-20 06:14:08郭川陽(yáng)
關(guān)鍵詞:網(wǎng)絡(luò)平臺(tái)用戶

郭川陽(yáng)

(中南財(cái)經(jīng)政法大學(xué),湖北 武漢 430073)

網(wǎng)絡(luò)平臺(tái)是信息技術(shù)應(yīng)用于商業(yè)社會(huì)之后的產(chǎn)物,①在不同語(yǔ)境下“網(wǎng)絡(luò)平臺(tái)”有多種不同含義,即便是在互聯(lián)網(wǎng)環(huán)境下也沒(méi)有一個(gè)統(tǒng)一的概念界定和類(lèi)型劃分。本文所稱“網(wǎng)絡(luò)平臺(tái)”,既包括采全國(guó)人大常委會(huì)法制工作委員會(huì)刑法室在對(duì)《刑法修正案(九)》第二十八條作出說(shuō)明時(shí)提出的“網(wǎng)絡(luò)服務(wù)提供者”的范疇,即“通過(guò)計(jì)算機(jī)互聯(lián)網(wǎng)、廣播電視網(wǎng)、固定通信網(wǎng)、移動(dòng)通信網(wǎng)等信息網(wǎng)絡(luò),向公眾提供網(wǎng)絡(luò)服務(wù)的機(jī)構(gòu)和個(gè)人”,又涵蓋通過(guò)互聯(lián)網(wǎng)辦公、經(jīng)營(yíng),依托互聯(lián)網(wǎng)建立、使用服務(wù)器等網(wǎng)絡(luò)設(shè)備的機(jī)構(gòu)。[1]其興起被視為“數(shù)字革命”的三大標(biāo)志性事件之一。[2]網(wǎng)絡(luò)平臺(tái)的崛起一方面“極大地改變了我們的生產(chǎn)和生活,它以空前的力量將人們連接在一起,為我們展示了一種更為有效的組織形式”,[3]另一方面也增大了存儲(chǔ)于計(jì)算機(jī)系統(tǒng)和全球數(shù)據(jù)網(wǎng)絡(luò)中的數(shù)據(jù)面臨著的安全風(fēng)險(xiǎn),特別是近年來(lái),與網(wǎng)絡(luò)平臺(tái)相關(guān)的大型數(shù)據(jù)泄露事件高發(fā)頻發(fā),引起社會(huì)廣泛關(guān)注。“我們生活在一個(gè)數(shù)據(jù)驅(qū)動(dòng)的世界里,數(shù)據(jù)的價(jià)值無(wú)可限量,因此,數(shù)據(jù)泄露能夠造成顯著的影響。”[4]以網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露為主的網(wǎng)絡(luò)犯罪的經(jīng)濟(jì)影響沒(méi)有減緩,網(wǎng)絡(luò)數(shù)據(jù)泄露的嚴(yán)峻態(tài)勢(shì)必須加以遏制。本文嘗試借鑒諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者、著名經(jīng)濟(jì)學(xué)家加里·S·貝克爾提出的犯罪經(jīng)濟(jì)學(xué)理論[5],探尋一種治理涉網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的“最優(yōu)”決策,使數(shù)據(jù)泄露“造成的社會(huì)損失降至最小”。[6]

一、網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的現(xiàn)狀與特征

網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露屬于侵害計(jì)算機(jī)數(shù)據(jù)和計(jì)算機(jī)系統(tǒng)的保密性、完整性和可用性的犯罪范疇,是典型的網(wǎng)絡(luò)犯罪。網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)之所以會(huì)成為犯罪分子垂涎的重要目標(biāo),一方面與數(shù)據(jù)本身急劇膨脹的經(jīng)濟(jì)價(jià)值和社會(huì)價(jià)值密切相關(guān),互聯(lián)網(wǎng)中產(chǎn)生、流轉(zhuǎn)的各類(lèi)數(shù)據(jù)儼然成為信息時(shí)代最重要的生產(chǎn)要素,被視為“數(shù)據(jù)資產(chǎn)”、“新興財(cái)富”;另一方面與互聯(lián)網(wǎng)的體系架構(gòu)以及網(wǎng)絡(luò)平臺(tái)在網(wǎng)絡(luò)社會(huì)所處地位密不可分。“網(wǎng)絡(luò)空間首先構(gòu)造了一個(gè)信息環(huán)境。它包括了數(shù)據(jù)的創(chuàng)建、存儲(chǔ)及更為重要的是分享。”“對(duì)計(jì)算機(jī)目前只有三件事情可以做:竊取數(shù)據(jù),竊取憑證和劫持資源。不幸的是,我們對(duì)信息系統(tǒng)的依賴意味著,一個(gè)熟練的攻擊者可以通過(guò)做這些中的任何一個(gè)而造成很大的傷害。”[7]網(wǎng)絡(luò)平臺(tái)是“網(wǎng)絡(luò)社會(huì)運(yùn)作的關(guān)鍵單元”,“是廣大社會(huì)公眾進(jìn)入網(wǎng)絡(luò)社會(huì)的入口和享受各種網(wǎng)絡(luò)服務(wù)的平臺(tái)”,[8]提供整體性的平臺(tái)架構(gòu)和服務(wù),互聯(lián)網(wǎng)上的數(shù)據(jù)都通過(guò)各類(lèi)網(wǎng)絡(luò)平臺(tái)構(gòu)建、聚合、存儲(chǔ)、處理和傳輸,“數(shù)據(jù)的集中和數(shù)據(jù)量的增大給產(chǎn)業(yè)鏈中的數(shù)據(jù)安全保護(hù)帶來(lái)新的威脅,數(shù)據(jù)開(kāi)始成為主要的攻擊對(duì)象”,[9]犯罪分子緊緊抓住這個(gè)絕佳的機(jī)會(huì),通過(guò)各種非授權(quán)或者是非正常授權(quán)的手段獲取網(wǎng)絡(luò)平臺(tái)數(shù)據(jù),很輕易地挖掘到一筆又一筆“數(shù)據(jù)的金礦”。據(jù)統(tǒng)計(jì),自2013 年以來(lái)全球已有近150 億條數(shù)據(jù)泄露。2017 年是一個(gè)拐點(diǎn),全球數(shù)據(jù)泄露事件數(shù)量開(kāi)始呈現(xiàn)爆發(fā)式增長(zhǎng)。2018 年上半年,每天有超過(guò)2500 萬(wàn)條數(shù)據(jù)遭到入侵或泄露,也就是每秒291 條。①Varonis.2018 Data Breach Investigations Report.https://info.varonis.com/hubfs/2018%20Varonis%20Global%20Data%20Risk%20Report.pdf.金融行業(yè)、醫(yī)療保健行業(yè)、交通運(yùn)輸行業(yè)、教育行業(yè)、餐旅娛樂(lè)業(yè)、通信運(yùn)營(yíng)商網(wǎng)站、互聯(lián)網(wǎng)企業(yè)都位居數(shù)據(jù)泄露榜前列。這些網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露給全球造成的經(jīng)濟(jì)損失驚人。根據(jù)IBM Security 和Ponemon Institute 發(fā)布的《2018 數(shù)據(jù)泄露損失研究》評(píng)估,2018 年全球數(shù)據(jù)泄露的平均成本為386 萬(wàn)美元,百萬(wàn)條記錄可致?lián)p失4000 萬(wàn)美元,5000 萬(wàn)條記錄可致?lián)p失3.5 億美元。

本文收集了2012 年—2019 年我國(guó)發(fā)生的5 起網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露案件和2017—2019 年境外發(fā)生的8 起大規(guī)模網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件(其中“德國(guó)大型數(shù)據(jù)泄露事件”已被德國(guó)聯(lián)邦刑警局BKA定性為犯罪),②本文采用貝克爾犯罪經(jīng)濟(jì)學(xué)的觀點(diǎn),在分析研究時(shí)將“犯罪”進(jìn)行泛化,并不局限于刑法規(guī)定的犯罪,而是包括所有的違法行為。經(jīng)過(guò)分析概括出如下特征。

(一)犯罪對(duì)象:以網(wǎng)絡(luò)平臺(tái)用戶個(gè)人信息為主,數(shù)據(jù)量極大且絕大多數(shù)未經(jīng)加密

從上表所列13 例網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露案件的犯罪對(duì)象屬性來(lái)看,涉案的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)主要是與網(wǎng)絡(luò)平臺(tái)業(yè)務(wù)運(yùn)營(yíng)相關(guān)的用戶個(gè)人信息。這些數(shù)據(jù)主要是用戶在使用網(wǎng)絡(luò)平臺(tái)提供的各種服務(wù)時(shí)主動(dòng)提供的個(gè)人信息,比如姓名、家庭住址、電子郵箱地址、電話號(hào)碼、身份證號(hào)碼和信用卡相關(guān)信息,當(dāng)然,也有一部分信息是用戶被動(dòng)留下的,如“瑞智華勝數(shù)據(jù)竊取案”中惡意程序自動(dòng)清洗用戶流量而獲取的用戶cookie、訪問(wèn)記錄等。用戶個(gè)人信息泄露在域外又被稱為“用戶身份盜竊”,自2013年金雅拓首次開(kāi)始追蹤數(shù)據(jù)泄露事件至今,有關(guān)用戶身份盜竊的記錄占所有被盜記錄的87%以上,比如2018 年發(fā)生的Facebook 和Twitter 事件,泄露的個(gè)人數(shù)據(jù)條數(shù)分別超過(guò)22 億和3.36 億。除了用戶個(gè)人信息外,網(wǎng)絡(luò)平臺(tái)的財(cái)務(wù)數(shù)據(jù)也是泄露的大頭,僅2018 年上半年泄露條數(shù)就高達(dá)3.59億。①aronis.2018 Data Breach Investigations Report.https://info.varonis.com/hubfs/2018%20Varonis%20Global%20Data%20Risk%20Report.pdf.從安全性上來(lái)看,這些數(shù)據(jù)絕大多數(shù)未經(jīng)過(guò)加密,或者僅是簡(jiǎn)單加密。國(guó)外有研究報(bào)告稱,近年來(lái)網(wǎng)絡(luò)平臺(tái)泄露的數(shù)據(jù)只有不到百分之一的經(jīng)過(guò)加密。Varonis 發(fā)布的《2018 年全球數(shù)據(jù)風(fēng)險(xiǎn)報(bào)告》分析發(fā)現(xiàn),包括信用卡信息以及健康記錄等在內(nèi)的62 億份文件中,有高達(dá)21%的文件是不受任何安全保護(hù)的開(kāi)放文檔,可供任何人訪問(wèn)。②aronis.2018 Data Breach Investigations Report.https://info.varonis.com/hubfs/2018%20Varonis%20Global%20Data%20Risk%20Report.pdf.

(二)犯罪主體:以匿名“黑客”為主,還包括一些網(wǎng)絡(luò)平臺(tái)內(nèi)部工作人員

國(guó)外有關(guān)機(jī)構(gòu)對(duì)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的犯罪主體組成情況進(jìn)行了調(diào)查研究,得出的結(jié)論是:外部人員是數(shù)據(jù)泄露的罪魁禍?zhǔn)祝急?5%,另外25%則是內(nèi)部人員。③lare Ward,Nilesh Pritam.Cyber espionage and ransom ware attacks are on the increase warns the Verizon 2017 Data Breach Investigations Report,2017-04-27.上表所列13 例網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露案件所反映的完成印證了這一結(jié)論。以“黑客”為犯罪主體的案件數(shù)量達(dá)到11 起,其中匿名“黑客”作案6 起,他們攻擊網(wǎng)絡(luò)平臺(tái)獲取數(shù)據(jù)都是出于惡意目的。另外2 起案件則分別是由內(nèi)部員工(“勾結(jié)前同事下載客戶數(shù)據(jù)售賣(mài)換錢(qián)案”)或與公司有合作關(guān)系的“裙帶機(jī)構(gòu)”(“Facebook用戶數(shù)據(jù)泄露事件”)引發(fā)的,他們故意泄露網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的犯意也是惡意的。前述國(guó)外機(jī)構(gòu)調(diào)研結(jié)果還顯示,內(nèi)部人員造成的數(shù)據(jù)泄露事件有五成以上(56%)是出于故意,比如報(bào)復(fù),或者是非法利用,其它情況則是由于疏忽等過(guò)失原因?qū)е碌摹"躠ronis.2018 Data Breach Investigations Report.https://info.varonis.com/hubfs/2018%20Varonis%20Global%20Data%20Risk%20Report.pdf.

(三)犯罪方式:因不同犯罪主體而異,“黑客”主要是通過(guò)互聯(lián)網(wǎng)發(fā)起網(wǎng)絡(luò)攻擊,內(nèi)部人員更多的是違規(guī)操作竊密

前述國(guó)外有關(guān)機(jī)構(gòu)對(duì)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的犯罪方式進(jìn)行了調(diào)查研究,發(fā)現(xiàn)“黑客”通常采取“惡意手段”,這些“惡意手段”幾乎包括了所有常見(jiàn)的網(wǎng)絡(luò)攻擊方式,比如惡意軟件、WEB 攻擊、拒絕服務(wù)、釣魚(yú)和社會(huì)工程、惡意代碼、勒索軟件、僵尸網(wǎng)絡(luò)。⑤onemon Institute.2017 COST OF CYBER CRIME STUDY-INEIGHTS ON THE SECURITY INVESTMENTS.https://www.accenture.com/t20171006T095146Z__w__/us-en/_acnmedia/PDF-62/Accenture-2017CostCybercrime-US-FINAL.pdf#zoom=50.上表所列11 起“黑客”作案的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露案件,他們采取的手段正是一般“黑客”慣用的網(wǎng)絡(luò)攻擊方式,如“12306 數(shù)據(jù)泄露案”蔣某某、施某某使用的“撞庫(kù)”攻擊(屬于典型的社會(huì)工程),“瑞智華勝數(shù)據(jù)竊取案”瑞智華勝使用的惡意程序攻擊,“Uber大規(guī)模數(shù)據(jù)泄露事件”兩名不知名“黑客”使用的非授權(quán)登錄、“美國(guó)信用機(jī)構(gòu)Equifax用戶數(shù)據(jù)泄露事件”等6 起案件“黑客”使用的漏洞攻擊。而內(nèi)部人員往往以合法授權(quán)的方式非法竊取數(shù)據(jù),這屬于典型的監(jiān)守自盜,或是將自身掌握的賬號(hào)、密碼、令牌等交由外部人員使用,非法登錄授權(quán)訪問(wèn)網(wǎng)絡(luò)平臺(tái)的信息系統(tǒng)來(lái)獲取數(shù)據(jù)。“勾結(jié)前同事下載客戶數(shù)據(jù)售賣(mài)換錢(qián)案”龔某的犯罪方式就屬于后一種,她把自己的賬號(hào)、密碼、Token 令牌提供給衛(wèi)某某,以便衛(wèi)某某非法登錄公司后臺(tái)系統(tǒng)盜取數(shù)據(jù)。

(四)犯罪結(jié)果:給網(wǎng)絡(luò)平臺(tái)和數(shù)據(jù)主體造成經(jīng)濟(jì)等方面的重大損失,違法者自身獲取經(jīng)濟(jì)等方面的巨大利益

圖1 網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露造成的犯罪結(jié)果

如上圖所示,網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件會(huì)引起四種不同結(jié)果。這四種結(jié)果既有可能是單獨(dú)發(fā)生,也有可能是在同一犯罪鏈條上前后相繼發(fā)生。

一是直接侵犯數(shù)據(jù)主體的隱私權(quán),進(jìn)而造成數(shù)據(jù)主體的財(cái)產(chǎn)損失或者精神損失。比如“萬(wàn)豪喜達(dá)屋客戶信息泄露事件”中的違法人利用泄露的數(shù)據(jù)偽造、盜用客戶的信用卡。

二是導(dǎo)致網(wǎng)絡(luò)平臺(tái)遭受重大經(jīng)濟(jì)損失。比如“Facebook 數(shù)據(jù)泄露事件”曝光第二天(2018 年3月19 日),F(xiàn)acebook 股價(jià)就大跌7%,市值縮水360 多億美元。“萬(wàn)豪喜達(dá)屋客戶數(shù)據(jù)泄露事件”發(fā)生后,眾多消費(fèi)者向萬(wàn)豪提起訴訟,索賠金額高達(dá)125 億美元。“Uber 大規(guī)模數(shù)據(jù)泄露事件”令Uber不得不支付1.48 億美元給美國(guó)各州,以求事件和解。

三是違法主體自身獲取經(jīng)濟(jì)利益、精神利益。第一種情況是犯罪主體直接銷(xiāo)售牟利。上表案件中有4 起案件的違法人在非法獲取網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)后直接銷(xiāo)售以換取金錢(qián),比如“勾結(jié)前同事下載客戶數(shù)據(jù)售賣(mài)換錢(qián)案”中犯罪嫌疑人薛某通過(guò)QQ 群尋找買(mǎi)家,將非法獲取的客戶數(shù)據(jù)出賣(mài)獲利3.7萬(wàn)元;“華住數(shù)據(jù)泄露案”中犯罪嫌疑人劉某某在境外網(wǎng)站兜售泄露數(shù)據(jù)(未遂);“Saks 和Lord&Taylor 數(shù)據(jù)泄露事件”中黑客集團(tuán)在暗網(wǎng)出售數(shù)據(jù)。第二種情況是犯罪主體向網(wǎng)絡(luò)平臺(tái)敲詐勒索。上表案件中有3 起案件的違法人利用數(shù)據(jù)泄露事件向擁有數(shù)據(jù)的網(wǎng)絡(luò)平臺(tái)進(jìn)行敲詐勒索,比如“Uber大規(guī)模數(shù)據(jù)泄露事件”中Uber 公司被迫向黑客支付10 萬(wàn)美元以換取數(shù)據(jù)的安全;“Saks 和Lord &Taylor 數(shù)據(jù)泄露事件”中黑客警告Ticketfly 并要求其支付贖金。第三種情況是將泄露的數(shù)據(jù)作為犯罪工具繼續(xù)從事其它犯罪。“瑞智華勝數(shù)據(jù)竊取案”中犯罪嫌疑人利用非法竊取的30 億條用戶數(shù)據(jù),操控用戶賬號(hào)進(jìn)行微博、微信、QQ、抖音等社交平臺(tái)的加粉、刷量、加群、違規(guī)推廣,非法獲利,旗下一家公司一年?duì)I收就超過(guò)3000 萬(wàn)元。

四是造成一定的社會(huì)影響。上表案件中有5 起案件的違法人利用泄露的數(shù)據(jù)制造各類(lèi)不良影響,其中典型的是“德國(guó)大型數(shù)據(jù)泄露事件”和“Facebook用戶數(shù)據(jù)泄露事件”,前一案中違法者正是通過(guò)數(shù)據(jù)泄露發(fā)起“一次帶有政治傾向的攻擊,就是想讓人名譽(yù)掃地”,后一案中違法者利用在Facebook 上獲得的5000 萬(wàn)用戶的個(gè)人資料數(shù)據(jù),來(lái)創(chuàng)建檔案、并在2016 美國(guó)總統(tǒng)大選期間針對(duì)這些人進(jìn)行定向宣傳,直接影響了大選進(jìn)程。

二、網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的犯罪成因分析

犯罪經(jīng)濟(jì)學(xué)理論的首創(chuàng)者是貝克爾。作為一名經(jīng)濟(jì)學(xué)家,貝克爾將犯罪“看作是一種重要活動(dòng)或‘產(chǎn)業(yè)’”,認(rèn)為“犯罪行為只是更為一般的理論的一部分”,“當(dāng)某人從事違法行為的預(yù)期效用超過(guò)將時(shí)間及另外的資源用于從事其他活動(dòng)所帶來(lái)的效用時(shí),此人便會(huì)從事違法,由此,一些人成為‘罪犯’……在于他們的利益同成本之間存在差異”。[10]易言之,理性的違法者(犯罪人)在決定是否實(shí)施犯罪行為時(shí),都會(huì)考慮并計(jì)算犯罪的收益和成本,權(quán)衡利弊得失,并最終決定是否犯罪以及采用何種方式來(lái)實(shí)施犯罪。[11]具體來(lái)說(shuō),違法者考慮的犯罪收益主要是因犯罪而獲得的利益,包括經(jīng)濟(jì)收益、精神收益以及其它各種利益;考慮的犯罪成本則主要包括兩個(gè)方面,一方面是為確保犯罪活動(dòng)圓滿完成而支付的“投資性”成本,包括為實(shí)施犯罪所做的物質(zhì)準(zhǔn)備、完成犯罪的難易程度等;另一方面是由于實(shí)施犯罪行為而受到的“懲罰性”成本,比如逃避逮捕的機(jī)會(huì)、定罪可能性以及判定有罪后的懲罰等。下面按照這三個(gè)大的方面對(duì)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的犯罪成因進(jìn)行詳細(xì)分析。

(一)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的收益:高

信息技術(shù)的發(fā)展和普及,使得網(wǎng)絡(luò)數(shù)據(jù)逐漸成為極為重要的生產(chǎn)要素之一。由于信息技術(shù)革命所帶來(lái)的生產(chǎn)生活方式的根本性轉(zhuǎn)變,以能源、資本為核心的工業(yè)時(shí)代的經(jīng)濟(jì)發(fā)展模式,已經(jīng)開(kāi)始向著以網(wǎng)絡(luò)大數(shù)據(jù)及其控制權(quán)為核心的經(jīng)濟(jì)發(fā)展模式轉(zhuǎn)變。在這一變革過(guò)程中,形式各異的網(wǎng)絡(luò)數(shù)據(jù)將逐步成為生產(chǎn)生活的重要組成內(nèi)容,并逐漸被賦予更多的經(jīng)濟(jì)價(jià)值。[12]特別是網(wǎng)絡(luò)平臺(tái)中大量集中存儲(chǔ)的個(gè)人信息數(shù)據(jù)、企業(yè)財(cái)務(wù)數(shù)據(jù),具有“含金量”非常高。正如法彥有云:有利益的地方就有犯罪人。貝卡里亞也認(rèn)為,“個(gè)人之所以為自己的享樂(lè)而破壞社會(huì)契約,是因?yàn)橹淦湫袨榈氖恰镔|(zhì)和精神世界所共有的渙散原則’。”[13]違法者選擇實(shí)施網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪,也是出于非法獲取利益的考慮。

從類(lèi)型上看,這些利益至少包括:(1)經(jīng)濟(jì)利益。根據(jù)Verizon 發(fā)布的《2018 年數(shù)據(jù)泄露調(diào)查報(bào)告》(DBIR,2018 Data Breach Investigations Report)顯示,2018 年發(fā)生的數(shù)據(jù)泄露事件,有76%都是由于違法者為了獲取經(jīng)濟(jì)利益而制造的,①erizon.2018 Data Breach Investigations Report,11th edition.https://enterprise.verizon.com/resources/reports/DBIR_2018_Report_execsummary.pdf.這一比例較2017 年上升約兩成。通過(guò)出售或者非法利用泄露網(wǎng)絡(luò)平臺(tái)數(shù)據(jù),違法者可以獲取到巨額的經(jīng)濟(jì)利益。(2)政治利益。違法者可以利用泄露的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)制造某些政治影響,達(dá)到一定的政治目的。最典型的就是“Facebook 用戶數(shù)據(jù)泄露事件”,據(jù)《紐約時(shí)報(bào)》《衛(wèi)報(bào)》等報(bào)道,從2014 年起,由兩位特朗普的支持者Robert Mercer 和史蒂夫·班農(nóng)(前白宮首席策略師)作為幕后人士的Cambridge Analytica,利用Facebook 的開(kāi)放平臺(tái)協(xié)議獲取了超過(guò)5000 萬(wàn)用戶的資料(其中大部分是美國(guó)選民),從而幫助特朗普在2016 年的大選中獲勝。②《Facebook 數(shù)據(jù)泄漏事件始末,以及我們應(yīng)該從中思考些什么?》,https://www.sohu.com/a/226232509_465303,2020 年12 月10 日訪問(wèn)。作為一款知名網(wǎng)絡(luò)社交平臺(tái),F(xiàn)acebook的用戶大數(shù)據(jù)能夠快速關(guān)聯(lián)更多用戶的數(shù)據(jù),進(jìn)而被利用來(lái)分析用戶們的行為模式、性格特征、價(jià)值觀取向、成長(zhǎng)經(jīng)歷,然后有針對(duì)性地推送信息和競(jìng)選廣告,以影響美國(guó)選民在競(jìng)選中的投票。(3)精神需要。除了上述兩種情況外,還有一部分違法者策劃、實(shí)施網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪是為了情感的刺激和精神的滿足,這和早期“黑客”犯罪的目的極為相似。早期的“黑客”更多的是出于技術(shù)挑戰(zhàn)、戲謔取趣和搗亂破壞的目的而實(shí)施網(wǎng)絡(luò)攻擊行為。[14]由于網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)涉及用戶數(shù)量多,一旦公開(kāi)影響面廣,“黑客”才會(huì)利用這些數(shù)據(jù)作為威脅、泄憤的籌碼。比如“CSDN 網(wǎng)站用戶信息泄露案”的犯罪嫌疑人曾某曾在網(wǎng)站發(fā)帖自曝掌握CSDN 數(shù)據(jù)庫(kù),要求與該公司合作未果,才將600 余萬(wàn)個(gè)明文注冊(cè)郵箱賬號(hào)和密碼在網(wǎng)上公開(kāi),引起網(wǎng)民的極大關(guān)注,正好也滿足了自己從報(bào)復(fù)之心。

從難易程度上看,在全球化網(wǎng)絡(luò)化環(huán)境下,違法者可以利用互聯(lián)網(wǎng)等技術(shù)條件“安全快捷”地獲取利益。“安全”是指出售或者非法利用網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的途徑安全,通過(guò)互聯(lián)網(wǎng)等網(wǎng)絡(luò)交易平臺(tái),違法者既可以在不露面的情況下與對(duì)方進(jìn)行數(shù)據(jù)交易,又可以與網(wǎng)絡(luò)平臺(tái)有關(guān)人員聯(lián)系,實(shí)施敲詐勒索。“快捷”是指非法交易或非法利用的速度快,收益轉(zhuǎn)化快。以非法交易網(wǎng)絡(luò)平臺(tái)泄露數(shù)據(jù)為例,隨著“暗網(wǎng)”的崛起,①所謂“暗網(wǎng)”(Deep Web,又譯“深層網(wǎng)絡(luò)”),是與“明網(wǎng)”(Surface Web,又譯“表層網(wǎng)絡(luò)”)相對(duì)的互聯(lián)網(wǎng)部分。“明網(wǎng)”指的是通過(guò)超鏈接可以被傳統(tǒng)搜索引擎(如百度)搜索到的頁(yè)面的集合;而“暗網(wǎng)”則是搜索引擎無(wú)法搜索到的部分,包括各種存儲(chǔ)在數(shù)據(jù)庫(kù)里的資料,還有需要注冊(cè)才能瀏覽的論壇頁(yè)面等,這個(gè)部分要比“明網(wǎng)”巨大得多。違法者充分利用其匿名和虛擬貨幣交易不受監(jiān)管的特質(zhì),搭建了一個(gè)更為安全、便利的銷(xiāo)售網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的“市場(chǎng)”。近年來(lái)報(bào)道的“華住數(shù)據(jù)泄露案”、“800 萬(wàn)條ACfun 網(wǎng)站用戶數(shù)據(jù)泄露事件”、“1.27 億條Ixigo、Houzz 等8 個(gè)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件”中,違法者都是利用“暗網(wǎng)”發(fā)布買(mǎi)賣(mài)信息,進(jìn)行非法交易的。這些交易使用的貨幣不再是現(xiàn)實(shí)社會(huì)流通的傳統(tǒng)貨幣,而是比特幣。

從大小上看,違法者能夠通過(guò)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪獲取的利益是十分巨大的。前述案例分析已有顯示。再以通過(guò)暗網(wǎng)銷(xiāo)售網(wǎng)絡(luò)平臺(tái)泄露數(shù)據(jù)事件為例,“華住數(shù)據(jù)泄露案”中的數(shù)據(jù)標(biāo)價(jià)為8 個(gè)比特幣(約合5.6 萬(wàn)美元),“800 萬(wàn)條ACfun網(wǎng)站用戶數(shù)據(jù)泄露事件”中的數(shù)據(jù)售價(jià)為1.2 萬(wàn)人民幣,“1.27 億條Ixigo、Houzz等8 個(gè)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件”中的數(shù)據(jù)售價(jià)是2.909 比特幣(約合1.45 萬(wàn)美元)。至于違法者通過(guò)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露獲取的政治利益更是驚人,比如“Facebook 用戶數(shù)據(jù)泄露事件”中,Cambridge Analytica通過(guò)對(duì)非法獲取的用戶數(shù)據(jù)進(jìn)行分析和利用,改變了美國(guó)大選的結(jié)果,幫助特朗普反敗為勝,這種政治獲利是無(wú)法用金錢(qián)估量的。

(二)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的“投資性”成本:低

犯罪經(jīng)濟(jì)學(xué)認(rèn)為,在違法者考慮的犯罪成本中,有一部分是在準(zhǔn)備和實(shí)施犯罪活動(dòng)以及承擔(dān)犯罪后果時(shí),必須付出或可能付出的人力、物力、財(cái)力資源成本和時(shí)間機(jī)會(huì)成本,以及行為性成本、智能成本和心理感受成本。[15]試想,如果實(shí)施某一犯罪既容易上手又容易得手,那違法者還不趨之若鶩?從這一角度考察,違反者會(huì)毫不猶豫地選擇實(shí)施網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪主要是以下兩個(gè)方面的原因。

一方面容易上手。對(duì)于網(wǎng)絡(luò)平臺(tái)外部的“黑客”而言,實(shí)施網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪“易如反掌”。第一,攻擊技能是“天生”的。“黑客”通常是指“對(duì)于計(jì)算機(jī)及計(jì)算機(jī)網(wǎng)絡(luò)內(nèi)部系統(tǒng)運(yùn)作特別感興趣并且有深入理解能力的一種人”,②FC1392,the Internet Users'Glossary,usefully amplifies this as:A person who delights in having an intimate understanding of the internal workings of a system,computers and computer networks in particular.他們往往熱心于計(jì)算機(jī)技術(shù)、水平高超,能很容易地實(shí)施入侵網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)庫(kù)、流量分析等非法行為。第二,攻擊工具和方法是現(xiàn)成的。比如“特洛伊木馬”、郵件炸彈、網(wǎng)絡(luò)嗅探器等黑客工具都能在互聯(lián)網(wǎng)上免費(fèi)下載或是付費(fèi)購(gòu)買(mǎi)到,還有一些專門(mén)的互聯(lián)網(wǎng)站甚至是“黑客學(xué)校”為希望成為“黑客”的熱衷者傳授技術(shù)知識(shí)、提供技術(shù)支持。[16]第三,心理感受是輕松的。作為網(wǎng)絡(luò)犯罪的一種,網(wǎng)絡(luò)空間的虛擬性和匿名性本身也給涉案人員帶來(lái)犯罪行為非常隱蔽的心理感受,[17]相比殺人、強(qiáng)奸、搶劫等傳統(tǒng)暴力犯罪,心理承受的壓力和罪惡感要輕很多。[18]對(duì)于網(wǎng)絡(luò)平臺(tái)內(nèi)部的人員而言,實(shí)施網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪就是“監(jiān)守自盜”。他們本是網(wǎng)絡(luò)平臺(tái)的合法授權(quán)者,按照工作職責(zé)理應(yīng)掌握網(wǎng)絡(luò)平臺(tái)相關(guān)服務(wù)器的數(shù)據(jù)獲取權(quán)限,但是出于報(bào)復(fù)泄憤或是圖取私利的目的,他們既可以自己使用合法授權(quán)身份登錄網(wǎng)絡(luò)平臺(tái)服務(wù)器,獲取數(shù)據(jù),如“Facebook用戶數(shù)據(jù)泄露事件”中的Cambridge Analytica 利用“thisismydigitallife”應(yīng)用獲取Facebook 數(shù)據(jù)庫(kù)中的用戶數(shù)據(jù);也可以將自己的合法授權(quán)身份借予他人,“偽”授權(quán)后登錄網(wǎng)絡(luò)平臺(tái)服務(wù)器,獲取收據(jù),如“勾結(jié)前同事下載客戶數(shù)據(jù)售賣(mài)換錢(qián)案”中的龔某將自己在該網(wǎng)絡(luò)公司內(nèi)部管理開(kāi)發(fā)系統(tǒng)的賬號(hào)、密碼、Token 令牌違規(guī)提供給衛(wèi)某某。

另一方面容易得手。從網(wǎng)絡(luò)攻擊竊密的角度看,第一,相對(duì)“黑客”的網(wǎng)絡(luò)攻擊技術(shù),網(wǎng)絡(luò)平臺(tái)安全技術(shù)防護(hù)往往顯得十分薄弱,“道高一尺魔高一丈”。比如“瑞智華勝數(shù)據(jù)竊取案”中,瑞智華勝將自主編寫(xiě)的惡意程序放在運(yùn)營(yíng)商內(nèi)部的服務(wù)器上,自動(dòng)對(duì)用戶流量進(jìn)行清洗,相關(guān)運(yùn)營(yíng)商對(duì)此卻毫不知情,也沒(méi)有啟動(dòng)任何自動(dòng)防御措施。第二,部分網(wǎng)絡(luò)平臺(tái)疏于安全管理,平臺(tái)存在沒(méi)有及時(shí)修補(bǔ)的漏洞,容易被“趁虛而入”。前文表1 所列13 個(gè)案例中,有8 例都是因?yàn)榫W(wǎng)絡(luò)平臺(tái)存在漏洞而遭“黑客”攻擊。更為嚴(yán)重的是,有些網(wǎng)絡(luò)平臺(tái)在明知自身存在安全漏洞的情況下,依然視而不見(jiàn),不采取任何修復(fù)補(bǔ)救措施,造成更加嚴(yán)重的數(shù)據(jù)泄露結(jié)果。2018 年4 月,美國(guó)面包連鎖店P(guān)anerabread旗下網(wǎng)站panerabread.com 泄露了3700 萬(wàn)用戶信息。隨后,安全機(jī)構(gòu)KrebsOnSecurity 表示,他們?cè)谠缭?017 年8 月2 日就曾發(fā)現(xiàn)了Panerabread 網(wǎng)站的漏洞,告知對(duì)方后并沒(méi)有進(jìn)行及時(shí)修復(fù),造成數(shù)據(jù)持續(xù)泄露超過(guò)8 個(gè)月的嚴(yán)重結(jié)果。第三,網(wǎng)絡(luò)平臺(tái)中的數(shù)據(jù)都是集中存儲(chǔ),容易被“一網(wǎng)打盡”。在現(xiàn)有主流技術(shù)環(huán)境下,網(wǎng)絡(luò)平臺(tái)中包括許多數(shù)據(jù)庫(kù)應(yīng)用和應(yīng)用服務(wù)器在內(nèi)的應(yīng)用都是直接連接到存儲(chǔ)器上的,相關(guān)數(shù)據(jù)也是傳輸并集中存儲(chǔ)在其中的。這就導(dǎo)致存儲(chǔ)服務(wù)器一旦被非法入侵,里面存儲(chǔ)和傳輸其中的數(shù)據(jù)就全部失去保護(hù),可以被違法者盡收囊中。前文表1 所列案例都是這種情況。第四,部分網(wǎng)絡(luò)平臺(tái)疏于內(nèi)部管理,給了違法者泄露數(shù)據(jù)的可乘之機(jī)。比如前述“Uber 大規(guī)模數(shù)據(jù)泄露事件”,Uber 在一個(gè)外部代碼托管網(wǎng)站存儲(chǔ)工程師在AWS 上的賬號(hào)密碼;“南非Dracore Data Sciences 數(shù)據(jù)泄露事件”,該企業(yè)該的GoVault 平臺(tái)居然有一臺(tái)完全未經(jīng)保護(hù)的Web 服務(wù)器。第五,絕大多數(shù)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)未加密,一旦泄露毫無(wú)秘密可言,對(duì)用戶來(lái)說(shuō)就容易被“一覽無(wú)余”。基于信息安全考慮,數(shù)據(jù)加密技術(shù)通常用于增強(qiáng)數(shù)據(jù)庫(kù)內(nèi)部和外部的安全性,防止數(shù)據(jù)被破譯。[19]前文表1 所列案例所涉泄露的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)都沒(méi)有經(jīng)過(guò)加密,因此泄露即公開(kāi),違法者可以隨意利用這些數(shù)據(jù)從事任何違法活動(dòng)。

表1 國(guó)內(nèi)外大型網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件(案件)基本情況

(續(xù)表)

除了以上因素外,大量的非法地下交易市場(chǎng)和專業(yè)化的分工讓違法者非法獲取到泄露的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)后能夠很快地“零成本”銷(xiāo)贓套現(xiàn)。比如暗網(wǎng)銷(xiāo)售交易、電信詐騙、信用卡詐騙等各成體系、大行其道,使得違法者沒(méi)有“后顧之憂”,只要泄露數(shù)據(jù)在手,完全不用考慮也不用花時(shí)間費(fèi)精力在如何用數(shù)據(jù)“換錢(qián)”“逐利”上面。

(三)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的“懲罰性”成本:低

貝克爾在其《犯罪與懲罰》一文中提出,違法同逃避逮捕的機(jī)會(huì)、定罪可能性以及判定有罪后的懲罰也是存在著某種關(guān)聯(lián)。這種關(guān)聯(lián)可以表述為:逃避逮捕的機(jī)會(huì)越大、定罪可能性越低、判定有罪后的懲罰越輕,違法者選擇違法的可能性越大。[20]也就是說(shuō),實(shí)施犯罪的“懲罰性”成本越低,比如實(shí)施犯罪后如果很容易就逃脫法律懲罰,或是只需要承擔(dān)較輕的刑罰,違法者就越容易甘冒風(fēng)險(xiǎn)去實(shí)施犯罪。對(duì)比分析這三個(gè)因素不難發(fā)現(xiàn),在現(xiàn)有刑事司法環(huán)境下,實(shí)施網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的“懲罰性”成本是相對(duì)較低的。

第一,逃避逮捕的機(jī)會(huì)大。作為一種網(wǎng)絡(luò)犯罪,網(wǎng)絡(luò)數(shù)據(jù)泄露具有極強(qiáng)的隱蔽性,通常較難被發(fā)現(xiàn)。由于網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的易復(fù)制性,導(dǎo)致“盜竊”或者是“泄露”數(shù)據(jù)的行為中缺少“占有”要素,數(shù)據(jù)被盜了、泄露了,不像盜竊傳統(tǒng)的錢(qián)包、鈔票等可見(jiàn)有形物會(huì)發(fā)生轉(zhuǎn)移,容易被發(fā)現(xiàn),容易被監(jiān)控。Ponemon《2018 年度數(shù)據(jù)泄露成本分析報(bào)告》顯示,過(guò)去一年對(duì)于數(shù)據(jù)泄露事件的MTT(I平均識(shí)別/發(fā)現(xiàn)時(shí)間)是197 天,①onemon Institute.2017 COST OF CYBER CRIME STUDY-INEIGHTS ON THE SECURITY INVESTMENTS. https://www.accenture.com/t20171006T095146Z__w__/us-en/_acnmedia/PDF-62/Accenture-2017CostCybercrime-US-FINAL.pdf#zoom=50.也就是說(shuō),網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件往往需要半年甚至更長(zhǎng)時(shí)間才能被發(fā)現(xiàn),這種情況下違法者不僅能在這段很長(zhǎng)時(shí)間里導(dǎo)致更多數(shù)據(jù)泄露,而且能夠順利完成后續(xù)的違法犯罪行為,最后“全身而退”。“時(shí)間是偵查計(jì)算機(jī)相關(guān)犯罪的一個(gè)重要因素”,必須采取足夠迅速的偵查手段以獲取網(wǎng)絡(luò)犯罪的證據(jù),否則就會(huì)因計(jì)算機(jī)數(shù)據(jù)“轉(zhuǎn)瞬即逝”的本質(zhì)特征影響案件偵查。[21]退一步說(shuō),即便網(wǎng)絡(luò)數(shù)據(jù)泄露事件被網(wǎng)絡(luò)平臺(tái)或是有關(guān)監(jiān)管機(jī)構(gòu)發(fā)現(xiàn)了,但發(fā)動(dòng)網(wǎng)絡(luò)攻擊的外部違法者是“黑客”,并且很多是故意匿名的“黑客”,他們利用計(jì)算機(jī)網(wǎng)絡(luò)隱藏自己的身份,或者利用“跳板”技術(shù)、“僵尸網(wǎng)絡(luò)”隱藏攻擊源,用一般的偵查手段難以“追根溯源”,精準(zhǔn)定位,違法者就可以在開(kāi)放性、分散性極強(qiáng)的互聯(lián)網(wǎng)絡(luò)中“逃之夭夭”。前文表1 所列案例中凡是“匿名黑客”作案的,都沒(méi)有逮捕到犯罪嫌疑人,因此國(guó)外這類(lèi)案件都只是定性為網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件,而沒(méi)有以“犯罪”論。

第二,定罪可能性偏低。在網(wǎng)絡(luò)攻擊引起的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件中,由于互聯(lián)網(wǎng)數(shù)據(jù)傳輸速度極快,人們可以輕易刪除、改變或移動(dòng)數(shù)據(jù)的位置;“記錄文件”(log files)即使存在,也只是保存在有限的時(shí)間內(nèi);顯示交流鏈條(chain of communication)來(lái)源和路徑的“往來(lái)數(shù)據(jù)”也只是短期保存。這種緊張關(guān)系給有效的偵查造成嚴(yán)重的后果。在刑事追訴中,必須確認(rèn)犯罪行為人,并提供其犯罪行為的確鑿證據(jù)。[22]因此,在司法實(shí)踐中,司法機(jī)關(guān)會(huì)因?yàn)槿鄙僮銐虻淖C據(jù)而影響對(duì)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件的定罪。比如表1 所列案例中的“德國(guó)大型數(shù)據(jù)泄露事件”,盡管德國(guó)聯(lián)邦刑警局BKA 已將該事件定性為犯罪,多個(gè)部門(mén)已聯(lián)合對(duì)該案展開(kāi)調(diào)查,也抓獲了一名犯罪嫌疑人,但是對(duì)于犯罪主體到底是“黑客團(tuán)隊(duì)”還是個(gè)人,作案目的到底是出于政治動(dòng)機(jī)還是其它,犯罪方式到底是攻擊某些大型數(shù)據(jù)庫(kù)還是攻擊個(gè)人賬號(hào)并整合相關(guān)信息,都沒(méi)有準(zhǔn)確一致的定論。

第三,即便判定有罪,違法者所受的懲罰也不是很重。從我國(guó)刑法立法現(xiàn)狀來(lái)看,網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪可適用的法條有:第253 條之一“侵犯公民個(gè)人信息罪”、第285 條第1 款“非法侵入計(jì)算機(jī)信息系統(tǒng)罪”、第2 款“非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪”。這三項(xiàng)罪名的量刑上限都不高,“侵犯公民個(gè)人信息罪”最高刑期為七年,“非法侵入計(jì)算機(jī)信息系統(tǒng)罪”最高刑期為三年,“非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪”最高刑期為七年。盡管這三款罪名都可以并處罰金,但是相對(duì)大規(guī)模網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露已經(jīng)造成和可能造成的潛在社會(huì)危害來(lái)說(shuō),都顯失衡。

三、網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的防控對(duì)策

貝克爾的犯罪經(jīng)濟(jì)學(xué),“研究的方法是建立違法造成的社會(huì)損失的公式,并找出使這一損失減至最低的資源支出與懲罰規(guī)模的公式”。[23]對(duì)于犯罪人來(lái)講,犯罪是一種高風(fēng)險(xiǎn)投資,是成本分析的結(jié)果。犯罪人在實(shí)施犯罪行為以前是要充分評(píng)估其犯罪成本的,犯罪活動(dòng)是犯罪人權(quán)衡犯罪的收益與犯罪的成本之后做出的選擇。如果犯罪的收益大于犯罪的成本,潛在犯罪人就很有可能選擇犯罪,成為現(xiàn)實(shí)的犯罪人。如果犯罪所付出的成本遠(yuǎn)遠(yuǎn)超過(guò)犯罪所獲得的收益,潛在犯罪人就很有可能不會(huì)選擇犯罪。所以,降低犯罪收益,增加犯罪成本,是減少潛在犯罪人成為現(xiàn)實(shí)犯罪人的最優(yōu)之策。

對(duì)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪而言,降低犯罪收益的難度較大。因?yàn)殡S著社會(huì)發(fā)展,網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的價(jià)值只會(huì)越來(lái)越大,數(shù)量只會(huì)越來(lái)越多。不能單純寄希望于網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)量減小、價(jià)值降低以達(dá)到預(yù)防和控制網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的目的,因?yàn)檫@會(huì)在一定程度上影響網(wǎng)絡(luò)平臺(tái)正常運(yùn)營(yíng)。能爭(zhēng)取做到的是在控制網(wǎng)絡(luò)平臺(tái)存儲(chǔ)、管理數(shù)據(jù)的數(shù)量和價(jià)值基礎(chǔ)之上,切斷網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露后的價(jià)值“兌現(xiàn)”之路,降低乃至徹底消減泄露的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)價(jià)值,而這一“兌現(xiàn)”之路實(shí)際上反映為違法者銷(xiāo)贓的過(guò)程,在犯罪經(jīng)濟(jì)學(xué)理論中屬于“投資性”成本的范疇。而與降低犯罪收益較為困難相比,提高網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的成本則相對(duì)容易。因?yàn)闊o(wú)論是“投資性”成本,還是“懲罰性”成本,都與網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)自身價(jià)值無(wú)關(guān),控制這兩類(lèi)成本不會(huì)對(duì)網(wǎng)絡(luò)平臺(tái)生存以及經(jīng)濟(jì)社會(huì)發(fā)展產(chǎn)生不良影響。因此,我國(guó)可以按照“適當(dāng)降低犯罪收益、盡量增加犯罪成本”的原則,制定網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的防控對(duì)策。

(一)適當(dāng)降低犯罪收益:控制網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的再利用價(jià)值,打擊下游犯罪

從上文對(duì)犯罪結(jié)果的分析來(lái)看,利用網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的價(jià)值實(shí)施后續(xù)犯罪行為才是網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露真正造成社會(huì)危害的主要原因,真正體現(xiàn)違法者的主觀惡性。因此,應(yīng)當(dāng)切斷網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的后續(xù)延伸,防止數(shù)據(jù)價(jià)值“兌現(xiàn)”,從而降低違法者能夠通過(guò)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪獲取的收益,讓其即使非法獲取到網(wǎng)絡(luò)平臺(tái)數(shù)據(jù),也僅僅只是一堆含金量極地甚至根本無(wú)法再利用的數(shù)據(jù)而已,最終產(chǎn)生犯罪收益太低、“犯不著”去實(shí)施犯罪的認(rèn)識(shí),起到積極預(yù)防網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的作用。基于上述考慮,建議從以下兩個(gè)方面著手來(lái)降低網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪的收益。

一方面需要控制網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的再利用價(jià)值。通過(guò)要求網(wǎng)絡(luò)平臺(tái)履行一定的數(shù)據(jù)保護(hù)義務(wù),減小網(wǎng)絡(luò)平臺(tái)獲取并管理用戶數(shù)據(jù)的數(shù)量,防止其無(wú)限度地獲取用戶數(shù)據(jù)。這樣即便發(fā)生數(shù)據(jù)泄露事件,因?yàn)閿?shù)據(jù)關(guān)聯(lián)主體的數(shù)量和價(jià)值都不大,就盡可能地降低了數(shù)據(jù)泄露的影響范圍和危害程度,犯罪收益自然也就隨之降低。我國(guó)《網(wǎng)絡(luò)安全法》第四章“網(wǎng)絡(luò)信息安全”對(duì)網(wǎng)絡(luò)運(yùn)營(yíng)者的用戶個(gè)人信息的保密、收集、使用義務(wù)作出了較為明確的規(guī)定,應(yīng)當(dāng)嚴(yán)格遵守。除此之外,建議適當(dāng)參考?xì)W盟General Data Protection Regulation(GDPR),進(jìn)一步強(qiáng)調(diào)網(wǎng)絡(luò)平臺(tái)個(gè)人數(shù)據(jù)的收集、處理規(guī)則,①DPR 第6 條規(guī)定,只有符合以下條件之一,收集、處理個(gè)人數(shù)據(jù)的行為才是合法的:用戶為了一個(gè)或者多個(gè)明確目的,同意處理其個(gè)人數(shù)據(jù);為了履行用戶與企業(yè)之間的合同必須處理其個(gè)人數(shù)據(jù),或者為了基于用戶請(qǐng)求而簽訂合同必須處理其個(gè)人數(shù)據(jù);處理行為對(duì)于企業(yè)遵守其所負(fù)擔(dān)的法律義務(wù)是必要的;處理個(gè)人數(shù)據(jù)是為了保護(hù)該用戶或者其他自然人的重大利益;處理個(gè)人數(shù)據(jù)是為了公共利益;處理行為對(duì)于企業(yè)或者第三方所追求的合法利益目的是必要的,除非該利益屈從于需要保護(hù)其個(gè)人數(shù)據(jù)的自然人的利益或者基本權(quán)利和自由,尤其是當(dāng)其是兒童時(shí)。此外,對(duì)于表征人種或者種族起源、政治意見(jiàn)、宗教或者哲學(xué)信仰、商會(huì)會(huì)員、基因、生物特征、健康狀況、性生活等事項(xiàng)的特殊類(lèi)別的個(gè)人數(shù)據(jù)(個(gè)人敏感數(shù)據(jù)),除非獲得用戶明確同意,或者具有其他正當(dāng)理由,否則禁止收集、處理上述個(gè)人數(shù)據(jù)。增加通過(guò)設(shè)計(jì)以默認(rèn)方式保護(hù)數(shù)據(jù)的義務(wù)(參考GDPR 第25 條)和通知受到實(shí)質(zhì)性影響的用戶的個(gè)人數(shù)據(jù)泄露的通知義務(wù)(參考GDPR 第34 條)。增加前一義務(wù)意在通過(guò)“假名化”等方式保護(hù)數(shù)據(jù),確保個(gè)人信息不被歸屬到一個(gè)已被識(shí)別或者可被識(shí)別的自然人;增加后一義務(wù)意在及時(shí)通知相關(guān)用戶已經(jīng)發(fā)生數(shù)據(jù)泄露,可以提醒用戶及時(shí)修改某些個(gè)人關(guān)鍵數(shù)據(jù),比如銀行卡密碼。

另一方面要嚴(yán)厲打擊下游犯罪。在難易程度上,打擊冒頭的下游犯罪遠(yuǎn)比打擊隱藏深、發(fā)現(xiàn)難的網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露犯罪要容易得多,無(wú)論是違法者利用網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露敲詐勒索網(wǎng)絡(luò)平臺(tái),還是進(jìn)行非法傳播、非法銷(xiāo)售、信用卡詐騙、電信詐騙等,這些都是“面上”的犯罪,看得見(jiàn)、抓得著,易偵察、易追訴、易定罪、易處罰。建議司法機(jī)關(guān)加大對(duì)涉及網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)相關(guān)犯罪的打擊力度,這些犯罪主要包括:利用網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)對(duì)網(wǎng)絡(luò)平臺(tái)實(shí)施的敲詐勒索罪;故意傳播網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)構(gòu)成的侮辱罪;非法銷(xiāo)售網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)構(gòu)成的侵犯公民個(gè)人信息罪;非法使用網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)構(gòu)成的盜竊罪、詐騙罪、信用卡詐騙罪。值得重點(diǎn)關(guān)注的是對(duì)暗網(wǎng)非法交易網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)犯罪的打擊。前文分析了暗網(wǎng)作為違法者進(jìn)行網(wǎng)絡(luò)平臺(tái)泄露數(shù)據(jù)非法交易的原因及其危害,由于暗網(wǎng)服務(wù)器都在境外,涉及交易雙方也在全球分布,建議采取國(guó)際合作的方式打擊地下黑市、震懾暗網(wǎng)數(shù)據(jù)非法交易。[24]

(二)提高犯罪的“投資性”成本:強(qiáng)化網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)保護(hù)責(zé)任,打擊上游犯罪

無(wú)論采用哪種行為方式,要使網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露,都必須突破網(wǎng)絡(luò)平臺(tái)技術(shù)或者管理方面的安全保護(hù)屏障,這就需要違法者為實(shí)施犯罪付出相應(yīng)的“投資性”成本。如果讓網(wǎng)絡(luò)平臺(tái)的安全保護(hù)屏障“加固”,同時(shí)不讓違法者輕易得到攻破屏障的技術(shù)方法或者是授權(quán),更不能如“探囊取物”般輕易導(dǎo)致數(shù)據(jù)泄露,在這種“彼長(zhǎng)此消”的對(duì)比中,違法者無(wú)法利用自身掌握的或是能夠獲取的技能、手段成功實(shí)施犯罪,產(chǎn)生不了數(shù)據(jù)泄露的結(jié)果,徒勞無(wú)功“不能犯”,自然就不再策劃實(shí)施犯罪“不想犯”。

首先要切實(shí)強(qiáng)化網(wǎng)絡(luò)平臺(tái)的數(shù)據(jù)保護(hù)責(zé)任。網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)的實(shí)際控制和管理者是網(wǎng)絡(luò)平臺(tái),理應(yīng)承擔(dān)數(shù)據(jù)保護(hù)的責(zé)任,做好具體工作,讓違法者既無(wú)法通過(guò)外部網(wǎng)絡(luò)攻擊的方式制造網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件,又難以在內(nèi)部實(shí)施違規(guī)操作使網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露。按照現(xiàn)有法律法規(guī)并借鑒域外有關(guān)立法規(guī)定,提出如下兩點(diǎn)建議。

第一,要求網(wǎng)絡(luò)平臺(tái)落實(shí)數(shù)據(jù)保護(hù)措施。按照《網(wǎng)絡(luò)安全法》和《信息安全等級(jí)保護(hù)管理辦法》等現(xiàn)有法律法規(guī)并借鑒域外有關(guān)立法規(guī)定,建議網(wǎng)絡(luò)平臺(tái)從管理和技術(shù)兩個(gè)維度加強(qiáng)對(duì)網(wǎng)絡(luò)平臺(tái)內(nèi)存儲(chǔ)、處理、傳輸?shù)臄?shù)據(jù)的保護(hù)。管理方面,基本原則是要落實(shí)信息安全等級(jí)保護(hù)制度,要制定網(wǎng)絡(luò)平臺(tái)內(nèi)部安全管理制度和操作規(guī)程,落實(shí)網(wǎng)絡(luò)安全保護(hù)責(zé)任,重點(diǎn)加強(qiáng)對(duì)網(wǎng)絡(luò)平臺(tái)所屬各應(yīng)用系統(tǒng)、數(shù)據(jù)庫(kù)使用、管理人員的教育和管理,增強(qiáng)合規(guī)意識(shí)。技術(shù)方面,重點(diǎn)采取防火墻、病毒查殺等技術(shù)措施,防范計(jì)算機(jī)病毒和網(wǎng)絡(luò)攻擊、網(wǎng)絡(luò)侵入等危害網(wǎng)絡(luò)安全的外部行為,以及身份鑒別、訪問(wèn)控制等技術(shù)措施,防范非授權(quán)獲取登錄、非授權(quán)訪問(wèn)數(shù)據(jù)等危害數(shù)據(jù)安全的內(nèi)部行為;同時(shí)采取數(shù)據(jù)傳輸加密、數(shù)據(jù)存儲(chǔ)加密、數(shù)據(jù)完整性鑒別和密鑰管理技術(shù),提高網(wǎng)絡(luò)平臺(tái)和數(shù)據(jù)的安全性和保密性,防止數(shù)據(jù)被外部非授權(quán)獲取后破譯;建議還要積極采用安全分析、UEBA、安全編排與自動(dòng)化(SOA)、機(jī)器學(xué)習(xí)等新興技術(shù),最終實(shí)現(xiàn)低投入、高回報(bào)的安全技術(shù)投資效益。①onemon Institute.2017 COST OF CYBER CRIME STUDY-INEIGHTS ON THE SECURITY INVESTMENTS. https://www.accenture.com/t20171006T095146Z__w__/us-en/_acnmedia/PDF-62/Accenture-2017CostCybercrime-US-FINAL.pdf#zoom=50.

第二,加重網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的法律責(zé)任。通過(guò)加重網(wǎng)絡(luò)平臺(tái)因數(shù)據(jù)泄露而承擔(dān)的法律責(zé)任,威懾、警示、引導(dǎo)、教育網(wǎng)絡(luò)平臺(tái)遵守有關(guān)規(guī)定。對(duì)因拒不履行法律、行政法規(guī)規(guī)定的信息網(wǎng)絡(luò)安全管理義務(wù),致使用戶數(shù)據(jù)泄露,構(gòu)成犯罪的,應(yīng)當(dāng)依照刑法第286 條之一“拒不履行網(wǎng)絡(luò)安全管理義務(wù)罪”的規(guī)定對(duì)網(wǎng)絡(luò)平臺(tái)進(jìn)行相應(yīng)處罰。對(duì)因調(diào)查取證存在困難無(wú)法證明相關(guān)犯罪事實(shí)的,可以依照《網(wǎng)絡(luò)安全法》第59 條對(duì)出現(xiàn)數(shù)據(jù)泄露事件的網(wǎng)絡(luò)平臺(tái)進(jìn)行行政處罰。但是鑒于當(dāng)前網(wǎng)絡(luò)平臺(tái)在經(jīng)濟(jì)社會(huì)中的重要地位,建議借鑒GDPR 的立法經(jīng)驗(yàn),提高網(wǎng)絡(luò)平臺(tái)違規(guī)的經(jīng)濟(jì)處罰標(biāo)準(zhǔn),①DPR 第83 條規(guī)定,對(duì)于違反GDPR 的行為,嚴(yán)重違規(guī)者將被處以最高達(dá)2000 萬(wàn)歐元或該企業(yè)全球年?duì)I業(yè)額的4%(以兩者較高者為準(zhǔn))的行政罰款;一般違規(guī)者將被處以最高達(dá)1000 萬(wàn)歐元或該企業(yè)全球年?duì)I業(yè)額的2%(以兩者較高者為準(zhǔn))的行政罰款。以便更好起到威懾和警示力度,提高網(wǎng)絡(luò)平臺(tái)對(duì)履行網(wǎng)絡(luò)安全保護(hù)義務(wù)必要性和緊迫性的認(rèn)識(shí)。

同時(shí)要堅(jiān)決打擊網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露上游犯罪。網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的上游犯罪是指為危害網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)安全犯罪行為提供用于破壞計(jì)算機(jī)信息系統(tǒng)功能、入侵計(jì)算機(jī)信息系統(tǒng)的程序、工具或者技術(shù)幫助的行為。如前文分析的,這類(lèi)行為極大降低了網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的難度,因此,應(yīng)當(dāng)堅(jiān)決打擊這類(lèi)犯罪行為:一是充分利用刑法第285 條第3 款“提供侵入、非法控制計(jì)算機(jī)信息系統(tǒng)的程序、工具罪”和第287 條之二“幫助網(wǎng)絡(luò)犯罪活動(dòng)罪”,嚴(yán)厲打擊提供黑客工具、傳授黑客技術(shù)、租借“僵尸網(wǎng)絡(luò)”、出售網(wǎng)絡(luò)漏洞信息等違法犯罪行為。二是加強(qiáng)網(wǎng)絡(luò)治理,及時(shí)清理黑客網(wǎng)站、論壇、群組以及發(fā)布的相關(guān)信息。

(三)提高犯罪的“懲罰性”成本:增強(qiáng)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露監(jiān)測(cè)預(yù)警和有關(guān)部門(mén)的技術(shù)偵查能力

提高犯罪“懲罰性”成本的目的是為了讓違法者不敢冒被逮捕和定罪的風(fēng)險(xiǎn)去實(shí)施違法行為。違法者一旦認(rèn)識(shí)到其實(shí)施違法行為后越是容易被迅速逮捕,越是容易按照司法程序定罪處罰,那么他就不會(huì)冒這個(gè)風(fēng)險(xiǎn),從而放棄實(shí)施犯罪。至于犯罪后所受刑罰的嚴(yán)厲程度對(duì)違法者違法行為的影響,貝克爾認(rèn)為,在既有刑法立法前提下,“人們認(rèn)為違法行為對(duì)定罪可能性變化的反應(yīng)比對(duì)懲罰的反應(yīng)更為敏感”,“定罪可能性比罪行懲罰更有威懾力”。[25]綜上,建議從該事件能否被及時(shí)發(fā)現(xiàn)(逃避追捕)和犯罪證據(jù)能否被有效獲取兩方面入手來(lái)提高網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露的犯罪“懲罰性”成本,讓違法者不敢選擇實(shí)施犯罪。具體提出如下兩點(diǎn)建議。

一是提高網(wǎng)絡(luò)平臺(tái)的監(jiān)測(cè)預(yù)警能力,及時(shí)發(fā)現(xiàn)網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)泄露事件。網(wǎng)絡(luò)平臺(tái)對(duì)數(shù)據(jù)泄露的發(fā)生具有第一時(shí)間感知和發(fā)現(xiàn)的能力,從技術(shù)實(shí)現(xiàn)上考慮,主要是要增強(qiáng)網(wǎng)絡(luò)平臺(tái)的入侵檢測(cè)能力。入侵檢測(cè)是“對(duì)企圖入侵、正在進(jìn)行的入侵或已經(jīng)發(fā)生的入侵進(jìn)行識(shí)別的過(guò)程”,[26]通過(guò)從網(wǎng)絡(luò)平臺(tái)的若干關(guān)鍵點(diǎn)收集信息并進(jìn)行分析,能夠及時(shí)準(zhǔn)確地中發(fā)現(xiàn)網(wǎng)絡(luò)平臺(tái)中的內(nèi)部人員違規(guī)操作和針對(duì)平臺(tái)的外部網(wǎng)絡(luò)攻擊。建議落實(shí)網(wǎng)絡(luò)安全態(tài)勢(shì)感知監(jiān)測(cè)預(yù)警措施,建設(shè)網(wǎng)絡(luò)安全防護(hù)管理平臺(tái),對(duì)網(wǎng)絡(luò)運(yùn)行狀態(tài)、網(wǎng)絡(luò)流量、用戶行為、網(wǎng)絡(luò)安全案事件等進(jìn)行動(dòng)態(tài)監(jiān)測(cè)分析,并與同級(jí)公安機(jī)關(guān)對(duì)接,按照規(guī)定向同級(jí)公安機(jī)關(guān)報(bào)送網(wǎng)絡(luò)安全監(jiān)測(cè)預(yù)警信息,報(bào)告網(wǎng)絡(luò)安全事件。②年6 月公安部公布的《網(wǎng)絡(luò)安全等級(jí)保護(hù)條例(征求意見(jiàn)稿)》第24 條、第30 條對(duì)第三級(jí)以上網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)履行的網(wǎng)絡(luò)安全態(tài)勢(shì)感知監(jiān)測(cè)預(yù)警義務(wù)提出了明確要求。

二是提高公安等部門(mén)的技術(shù)偵查能力,及時(shí)鎖定犯罪對(duì)象,有效獲取犯罪證據(jù),便于實(shí)施對(duì)違法者的逮捕、起訴。此外,基于網(wǎng)絡(luò)平臺(tái)的技術(shù)能力和協(xié)助公安部門(mén)偵破案件的需要,有必要強(qiáng)化網(wǎng)絡(luò)平臺(tái)的協(xié)助調(diào)查義務(wù)。建議要求網(wǎng)絡(luò)平臺(tái)在處置網(wǎng)絡(luò)安全事件的同時(shí)應(yīng)當(dāng)保護(hù)好現(xiàn)場(chǎng),記錄并留存相關(guān)數(shù)據(jù)信息并對(duì)公安機(jī)關(guān)依法進(jìn)行案件調(diào)查提供支持和協(xié)助。

猜你喜歡
網(wǎng)絡(luò)平臺(tái)用戶
網(wǎng)絡(luò)平臺(tái)支持下初中語(yǔ)文翻轉(zhuǎn)課堂教學(xué)研究
甘肅教育(2021年12期)2021-11-02 06:30:06
一種基于5G網(wǎng)絡(luò)平臺(tái)下的車(chē)險(xiǎn)理賠
網(wǎng)絡(luò)平臺(tái)補(bǔ)短板 辦學(xué)質(zhì)量穩(wěn)提升
網(wǎng)絡(luò)平臺(tái)打開(kāi)代表履職新視窗
關(guān)注用戶
關(guān)注用戶
關(guān)注用戶
依托網(wǎng)絡(luò)平臺(tái),構(gòu)建學(xué)習(xí)評(píng)價(jià)新模式
Camera360:拍出5億用戶
100萬(wàn)用戶
主站蜘蛛池模板: 久久永久精品免费视频| 黑色丝袜高跟国产在线91| 在线国产91| 伊人AV天堂| 亚洲国产午夜精华无码福利| 欧洲av毛片| 亚洲天堂2014| 超碰色了色| 精品久久香蕉国产线看观看gif| 啊嗯不日本网站| 国产打屁股免费区网站| 亚洲午夜天堂| 国产欧美日韩精品第二区| a亚洲视频| 在线视频精品一区| 亚洲av片在线免费观看| 婷婷99视频精品全部在线观看| 欧美精品一区在线看| 色综合天天操| 色偷偷一区二区三区| 久久国产亚洲偷自| 久久国产精品娇妻素人| 午夜毛片免费观看视频 | 暴力调教一区二区三区| 亚洲日韩精品无码专区| 国产麻豆另类AV| 999精品视频在线| 欧美日韩另类国产| 久久人妻xunleige无码| 日韩a级毛片| 欧美一区二区三区不卡免费| 日本不卡在线播放| 国产美女在线免费观看| 亚洲日本精品一区二区| 九色91在线视频| 久久精品无码专区免费| 伊人久久久大香线蕉综合直播| 欧美一区二区啪啪| 亚洲黄色网站视频| 亚洲国产日韩在线观看| 国产资源免费观看| 91精品国产麻豆国产自产在线| 日本精品影院| 青草视频免费在线观看| 一级毛片中文字幕| 国产精品无码一二三视频| 欧美日韩亚洲国产| 日韩精品免费一线在线观看| 538国产视频| 波多野结衣第一页| 亚洲侵犯无码网址在线观看| 国产亚洲一区二区三区在线| 欧美亚洲日韩不卡在线在线观看| 久久综合伊人 六十路| 欧美中文字幕在线二区| 亚洲第一视频网站| 国产精品无码一区二区桃花视频| 草草线在成年免费视频2| 成人中文在线| 欧美成人精品欧美一级乱黄| 九九香蕉视频| a级毛片一区二区免费视频| 亚洲精品福利视频| 国产成人无码综合亚洲日韩不卡| 亚洲国产成人综合精品2020| 久久成人18免费| 国产精品无码制服丝袜| 刘亦菲一区二区在线观看| 久久综合五月| 亚洲免费毛片| 国产麻豆aⅴ精品无码| 日韩免费毛片视频| 1769国产精品免费视频| a级高清毛片| 98超碰在线观看| 国产在线精品99一区不卡| 无码不卡的中文字幕视频| 亚洲精品午夜无码电影网| 波多野结衣视频网站| 亚洲国产欧美中日韩成人综合视频| 天堂久久久久久中文字幕| 精品国产www|