999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

數據跨境傳輸的法律規制

2020-12-19 13:55:03翁國民
關鍵詞:人工智能經濟

翁國民 宋 麗

(1.浙江大學 經濟學院, 浙江 杭州 310027; 2.澳門科技大學 法學院, 澳門 999078)

一、 引 言

人工智能技術的發展推動數字經濟成為世界貿易的強大驅動力。各國紛紛搶占人工智能技術的制高點以贏得經濟競爭優勢,我國在國家戰略上也積極部署人工智能技術基礎設施建設,工信部于2019年6月向四家基礎電信運營商發放5G商用牌照,助力我國從“互聯網+”邁向“人工智能+”。人工智能技術在世界貿易領域的應用,推動了數字經濟的蓬勃發展。數字經濟的全球化發展使數據跨境傳輸不可避免,而由此產生的數據自由流動與數據安全威脅這對矛盾將深刻影響未來數字經濟的走向。如何平衡數據流動與數據保護兩者之間的矛盾,是邁向“人工智能+”時代亟待思考與解決的問題。

數據跨境流動問題并不是一個新論題,早在1998年就有學者提出應對跨境數據進行法律監管[1]。數據流動問題與互聯網的發展相伴相生,我國學者對此做了大量有價值的研究。隨著云計算、物聯網、大數據等技術的出現與發展,已有不少研究對數據本地化政策的國際規則[2-5]和個人隱私保護[6-8]方面進行了有益探討,同時也從國家安全、公共利益、個人數據保護和知識產權四個角度對跨境數據流動進行了系統梳理(1)參見張舵《跨境數據流動的法律規制問題研究》,對外經濟貿易大學2018年博士學位論文。。以上探討的落腳點大都是對數據跨境自由流動進行限制,但目前國際政策與經濟形勢已發生很大改變,如作為論述基礎的《跨太平洋戰略伙伴協定》(簡稱《TPP協定》)由于美國的退出而使數據本地化政策確定性不明,同時在數字經濟的國際背景下,如果對數據跨境傳輸進行過多限制,則會極大阻礙數字貿易的發展。

本文在已有研究成果的基礎上,結合實際情況,提出在人工智能時代背景下應適應世界數字經濟新形勢,支持數據跨境自由流動以推動中國數字經濟的發展,提高中國在世界數字貿易中的競爭力。文章分三個部分進行論述,首先指出人工智能時代數據的特殊性,與互聯網時代相比,不僅有用戶個人的信息數據,還有人工智能技術自身作為知識產權保護的技術數據,在其跨境流動過程中會產生信息數據泄露、技術數據被竊取等數據安全問題;其次闡述歐盟與美國數據跨境流動的路徑選擇對其自身數字經濟發展的影響;最后結合世界數字經濟發展趨勢和我國數字經濟發展現狀,提出我國應著力推動數據跨境自由傳輸的中國選擇,并提出在規則和標準層面支持數據跨境自由傳輸的中國方案。

二、 人工智能時代數據跨境傳輸博弈: 數據紅利與數據安全

(一) 人工智能時代的數據及其跨境傳輸

隨著早期“阿爾法狗”“索菲亞”機器人的出現,人工智能技術開始進入人們視野,之后迅速從專業技術領域應用到工作生活領域,以不可阻擋的氣勢改變著人們的生活。如2019年6月17日22時55分,以人工智能技術為核心的地震預警系統成功預警宜賓地震,并借助物聯網技術多途徑發出預警信號,全方位啟動緊急處理機制以最大限度地減少人員傷亡并降低經濟損失。新興技術的發展促使“人們未來會在‘萬物皆互聯,無處不計算’的環境下精準生活”[9]23。人工智能技術的核心驅動力是算法和數據,數據的大規模存在為算法提供了大量可用的原材料,也即算法的粗糙或精良依賴于數據的存量與精確度,離開數據,人工智能的算法便不復存在。本文根據人工智能時代數據的不同性質,將其分為人工智能產品依托的信息數據與人工智能技術自身作為知識產權保護的技術數據,這是本文論述的邏輯基礎。

1.信息數據

在信息時代,根據所收集的個人數據的不同性質,數據類型分為基礎未編輯的隱私數據、加工后去識別化的信息數據、深度算法加工并匿名化的商業應用數據。有學者認為人工智能時代的數據不是簡單的“拿來主義”,而是在基礎數據上經過深度加工后具有獨創性的數字產品[10]。但無論是敏感的個人隱私數據還是經過加工去識別化的數據,抑或是經過算法加工后又匿名化的數據,均會在一定程度上產生數據權屬與數據使用問題。有學者從合理使用的角度出發,認為個人隱私數據需經數據主體的同意才可使用,經加工后去標識化的數據因其安全性更高可以不經數據主體同意而合理使用,匿名化處理的數據因無法識別數據主體身份故可以不經同意直接使用且無須考慮合理使用問題[11]。也有學者從知識產權付出勞動的視角,認為個人隱私信息應屬于數據主體,而數據是一種非物質財產,企業所付出的收集、整理、加工的勞動應受法律的保護[9]17。無論學者所持觀點是否相同,都無法改變一個事實:隨著技術進一步發展,即使是經過深度算法加工并匿名化的數據,只要加上一些其他信息便可再次被識別。所以,在未來“人工智能+”時代,對數據類型做此區別不再有必要,本文亦采個人信息的大范疇。

人工智能技術的數據來源多樣,數據抓取在日常生活中很常見:當我們在網上沖浪時,會有數百個電子追蹤器通過cookies來對個人數據進行抓取;網上購物時會形成購物記錄;網上瀏覽廣告時,cookies會記錄用戶對哪些感興趣,對哪些不感興趣,甚至會記錄在頁面上的停留時間;當消費者拿會員卡去超市購物時,每一條購買記錄都會在零售商那里留下痕跡[12]9。人工智能時代背景下信息數據的紅利主要是通過對信息數據的收集、整理、加工,從而形成符合市場與社會需求的數據產品,再通過數據產品的流通與精準投放進入消費從而實現其價值的過程。因此,信息數據的紅利只有通過流動與消費才能實現。

2.技術數據

在數字經濟時代,推動數據發展的動力一開始是以消費者為中心的互聯網模式。大量的消費者個人數據匯聚成大數據海洋,可以通過對其進行精密的算法計算來制定個性化的商業模式,對消費者進行廣告精準投遞從而實現贏利。而在人工智能技術推動下的數字經濟時代,所有技術的核心歸根結底都是一個個計算機代碼形式的數據,在此我們稱其為技術數據。

隨著關鍵通信基礎設施(如5G技術)、人工智能技術、物聯網技術的融合,人工智能開始全方位改變人們的生活,不僅體現在各類過去只能紙質化存儲的信息開始進行數據化存儲,還體現在數據的上傳與流動。靜態的數據并不能發揮其作用,比如過去國家行政機關對人口信息的統計僅作為統計數據使用時并不會產生經濟效益。數據只有流動才能產生效益,與此同時,數據的流動必須依靠連接,5G技術就解決了數據上傳的連接問題。2019年6月我國5G商用牌照的發放,標志著我國正式進入5G商用元年(2)詳見劉園園《不只是網速快,5G還有這些重大價值》,2019年6月25日, http://www.cac.gov.cn/2019-06/25/c_1124662421.htm, 2019年12月23日。。5G作為新的通用技術,構成現代數字經濟的關鍵基礎設施,也構成整個人工智能社會的基礎。大數據、人工智能、物聯網、云計算的發展推動了5G技術,事實上無論是物聯網、云計算還是人工智能,本質上都必須依托5G基礎設施技術。與此同時,以5G技術網絡為核心的新一代關鍵通信基礎設施,也在通過其強大的網絡通信能力助力人工智能完成整個社會的數字化變革,推動社會邁向數字化時代。未來更多的數字信息將由機器產生而不是由人產生。將視角從信息數據擴大到技術本身的核心數據將有利于把握數字經濟的未來走向。

3.數據的跨境傳輸

人工智能技術的基礎是數據,海量數據的收集、存儲、分析推動了算法的優化,提高了人工智能技術對海量數據的提取、分析、識別和建構體系的能力。人工智能時代的數據跨境傳輸有以下三方面的特殊性。

第一,數據跨境傳輸體量大、速度快,更加難以控制。隨著人工智能技術在經濟領域的運用,通過對大數據的分析,每個用戶都會被系統自動畫像,享受定制化的服務,實現了以消費者需求為導向的智能制造和精準營銷[13]。人工智能技術對數據的挖掘、分析和傳輸的能力日益增強,增加了數據跨境傳輸的體量,加快了數據跨境傳輸的速度。在人工智能技術推動下,全球數據呈現爆發式增長,數據流增長速度遠超全球商品流、貿易流和資金流(3)參見中國信通院《數字經濟治理白皮書(2019)》,2019年12月26日, http://www.caict.ac.cn/kxyj/qwfb/bps/201912/t20191226_272660.htm, 2020年1月12日。。同時,算法的精細化使得數據的可利用性增大,個人信息數據也愈加透明,數據的流動走向也更加復雜,在跨境傳輸過程中,若發生數據安全事件,對個人隱私安全的威脅更大。

第二,人工智能技術存在未知風險,應對的經驗較少。截至目前,人工智能技術尚未解決其可靠性問題,且由于其所依賴的數據和算法具有極強的可復制性,一旦被外界非法獲得,其高度擴散的風險甚至將直接影響一國的經濟安全、政治安全和軍事安全。人工智能技術導致的風險是一個較新的風險領域,當前世界各國規制這種風險的經驗不足,很難從過往吸取經驗,這就要求國家層面應謹慎將人工智能技術運用到社會領域,同時亦對國家的管控能力提出新的要求。

第三,人工智能數據流動的全球化趨勢與數據監管的國別化存在沖突,故而難以在國際層面平衡數據安全與數據流動的關系。在互聯網的推動下,人工智能技術的發展和運用也呈現全球化的態勢[14]。數據的收集抓取、分析應用也呈現全球化趨勢,而數據的監管沒有跟上全球化的步伐,依然采取國別監管的模式,各國之間尚未達成統一規則。在各國對跨境數據流動采取不同規制路徑的背景下,數據安全與數據流動之間的關系難以平衡。

(二) 數據跨境的經濟紅利

數據只有流動才能產生經濟紅利。如上所述,靜態的數據除了有利于國家內部的有效監管以外,對社會的收益很少能夠得到明顯體現。而當數據處于流動狀態時,通過收集、整理、加工使其成為有利可圖的數字產品時,則會給社會帶來巨大的紅利。隨著人工智能技術及智能產品的跨國流動,需要對人工智能數據跨境流動所帶來的社會紅利進行探討。

所謂數據紅利,就是鼓勵對盡可能多的信息進行分析識別,然后將其用于實現各種社會發展的目的[7]94。大數據、人工智能、云計算等新技術的進步,使世界各國開始充分認識到數據的跨境傳輸帶來的實際好處。各類先進技術自身的特征也在深刻影響數字經濟的發展:大數據體量巨大、來源廣泛的特征使得數據收集更加全面;人工智能自身優良的算法,也使數據的運用更加具有針對性、明確性、高效性、便捷性;云計算作為互聯網應用程序的延伸,其數據儲存與處理的高速化推動社會走向數字化世界。

國內層面數據紅利體現在社會治理紅利與商業及生活發展紅利兩個方面。在社會治理紅利方面,如騰訊公司人臉識別系統在幫助全國公安系統尋找被拐賣兒童方面做出了巨大貢獻。在商業及生活發展紅利方面,如通過人工智能技術對各類醫療數據進行大數據分析后得出的針對特定類型疾病的精準治療方案,也在改變和推動著醫療技術的發展;再如智能家居的出現讓人們在戶外即可控制家中的一切,使得生活更便捷、愜意。可見,通過數據在境內的傳輸流動,既可以推動社會治理方式的進步,亦可以推動商業模式的改善和生活質量的提高。

國際層面數據的跨境流動將促進數字經濟紅利釋放。全球電子商務發展20年來,已經深刻地改變了全球商業格局。在新一代數字經濟的推動下,跨境電商、外貿服務經濟已經成為新一輪經濟風口。作為新時代數字經濟的最大受益者,美國認為數據和信息的自由流動是21世紀貿易協定的基礎,因為數據和信息的跨境自由流動是互聯網全球化的前提和基礎(4)參見中國信息通信研究院互聯網法律研究中心《數字貿易的國際規則》,(北京)法律出版社2019年版,第93頁。。在現實生活中,隨著全球互聯網的普及,人工智能技術依托互聯網服務,開始進入世界各國千家萬戶的生活。在未來,人工智能技術不再局限于某種特殊技能智能水平的提升,而是通過數據分析和精準預測帶來實在的經濟效益[15]。通過對人工智能時代數據特征的分析可以看出,在弱人工智能時代,數據跨境傳輸帶來的經濟紅利主要體現在通過數據流動在市場經濟條件下實現資源在全球范圍內的有效配置,解決市場經濟條件下信息不對稱問題,提高資源的利用效率,在整體上提高社會的發展水平,從而實現可持續發展;在強人工智能時代,隨著大數據的不斷發展,世界各國的數據將為算法提供其特有的經濟價值,促進算法的不斷精良,那么數據跨境傳輸帶來的經濟紅利則體現在通過互聯網實現數據在全球的自由流動,從而極大地促進世界各國的貿易往來,打破阻礙世界貿易自由發展的貿易壁壘,實現全球數字貿易的便捷化,從而促進世界經濟貿易總量的增長。

(三) 數據跨境的安全威脅

數據的跨境傳輸已經成為世界貿易往來過程中一個不可或缺的關鍵環節,極大地促進了國際貿易水平的提高,實現了全球數字經濟的持續性增長。數據的跨境流動在帶給全球不可估量的產業紅利的同時,亦產生了日益突出的數據安全問題。

1.信息數據被不當使用

隨著大數據、云計算等技術的發展,無論是大公司還是小公司可能都會將收集到的用戶消費數據作為其經濟戰略的一部分。數據的不當使用表現為許多公司在經濟利益的驅使下,出售消費者的個人數據以增加本公司的額外收入,盡管各大公司在收集消費者數據時大多聲稱會進行匿名化處理,即當公司向外出售消費者數據時,會用計算機自動生成的代碼代替消費者的實際姓名,從而消除與消費者個人基本信息相關的任何鏈接與數據[12]192。但消費者作為弱勢群體,根本無從得知這些公司如何對數據進行匿名化處理,而行政監管機關對此也沒有統一的匿名化認定標準,這就導致數據不當使用與用戶隱私數據的安全威脅,出現消費者或者其他網絡用戶的個人數據被泄露、被釣魚網站竊取等數據安全問題。境內的數據流動尚存在日益嚴重的數據安全問題,那么隨著數字經濟的加速發展,數據跨境流動日趨頻繁,數據的流向與應用領域更加難以控制,保護信息數據安全的形勢將會更加嚴峻。

2.技術數據遭知識產權侵害

人工智能技術推動數據跨境自由流動,而當前數據竊取、數據泄露等安全問題日益突出。在數字貿易全球化發展進程中,數據竊取行為更加頻繁,各類技術企業為占據全球市場,激烈爭奪商業資源,使得這種以不合法手段獲得商業利益的動機更強,竊取技術數據、侵犯知識產權的行為猛增。而當前數字貿易發展過程中,數字產品的無形性、非物質性也使得這種數據竊取行為成本低廉,甚至復制無需任何成本,致使知識產權侵權行為更加普遍和難以預測。大到著名的跨國公司遭遇黑客攻擊網絡竊取其用戶數據,導致數據大量泄漏,造成巨額經濟損失;小到不知名的小型外貿公司,由于其本身防御性技術較差,技術性安全保護欠缺,更容易成為黑客竊取數據的新目標,面臨著數據安全的巨大威脅。

與此同時,面對全球范圍內技術數據被竊取的現象,國際上尚沒有統一適用的規則。在國際上,美國多次揮舞其國內法大棒,適用“301條款”“特別301條款”“337調查”對其自認為侵犯到美國知識產權的國家或私人進行制裁。美國的國內貿易法的適用,賦予了其單方面認定他國及私人是否侵犯其國內知識產權的權力,是對其他國家不公平的待遇,帶有明顯的單邊主義意味,本質上是借知識產權保護之名來行貿易保護之實,所以美國霸權主義做法只會導致國際規則適用的混亂,不利于國際數字貿易時代數據保護規則的形成。

全球范圍內形成的數據竊取的黑色產業鏈,使得技術數據安全問題大量涌現,風險抵御能力的較弱的中小企業面臨巨大挑戰,同時,由于利用互聯網竊取用戶數據導致用戶信息泄露問題的出現,也降低了人們對互聯網和數據安全的信任度(5)Meltzer J.P., ″A New Digital Trade Agenda,″ 2015-08, http://e15initiative.org/publications/a-new-digital-trade-agenda/, pp.1-16, 2019-12-23.。數字經濟的良性發展離不開數據安全,防止技術數據的竊取與侵害成為世界各國共同面臨與亟待解決的難題。

三、 歐美的路徑選擇

在數字經濟背景下,數據跨境流動有利于優化全球資源配置、促進互聯網企業精準投遞廣告、有效利用數據產品、促進智能生活等,但技術標準與政策規則的不健全使得數據安全威脅在世界范圍內不斷增加,數據跨境流動的保護問題需要引起世界各國的普遍重視。而目前尚沒有統一的規則,下面就歐盟和美國對跨境數據流動的態度及其路徑選擇進行探討,并分析其路徑選擇對該地區數字經濟發展的影響。

(一) 歐盟嚴格限制數據流動

歐盟是特別注重保護公民信息權利的地區。1995年制定的《關于個人數據處理保護與自由流動的指令》(簡稱“95指令”),是歐盟地區關于個人信息保護的基礎性立法,2012年歐盟委員會對95指令進行修訂,于2016年4月通過最終版本《一般數據保護條例》(簡稱“GDPR”),并于2018年生效。GDPR實現了隱私法與數據保護領域的革新,創新了“被遺忘權”“攜帶權”等新型權利,成為全球個人數據保護最重要的立法之一[16]。95指令雖對歐盟區內成員國具有指導性意義,但仍需轉化為國內法進行適用,而2016年通過的GDPR則無須轉化,可直接適用于各成員國,客觀上提高了嚴格限制數據跨境流動相關規定的適用效力。歐盟對數據的跨境流動采取了審慎的態度,采用單邊倒逼機制,其他想和歐盟進行貿易往來的國家和地區必須要先達到歐盟GDPR的保護標準,從而嚴格保護公民個人信息。

歐盟嚴格限制數據跨境流動,一方面源于其地區內人權優先的理念,格外注重公民個人信息保護;另一方面,歐盟亦有意通過推行嚴格規制跨境數據流動的法律來提高其在域外的監管能力,進而提升其在規制跨境數據流動的國際規則制定中的話語權[17]。該規制路徑在理論上有其積極的意義,因為智能技術的核心驅動力就是算法和數據。對算法來說,數據的大量存在是為算法提供原材料來促進算法的精良發展,嚴格規制數據保護也就意味著從源頭上影響了人工智能技術的良性發展。

歐盟通過95指令、GDPR試圖打造歐盟區內單一數字市場,并試圖將歐盟標準推向多邊層面,而這種規制路徑的缺陷亦十分明顯。首先,歐盟試圖打造歐盟區內單一數字市場,雖有其政治考量,但卻與數據自由跨境流動的本性相違背,亦不符合數字經濟全球化發展的趨勢;其次,試圖將歐盟標準推向多邊層面的預想并未實際發生,《跨大西洋貿易與投資伙伴協定》(簡稱《TTIP協定》)談判的停滯即是例證,并且隨著日本、中國等國家數字經濟的進一步發展,其在國際規則制定中的話語權的提升將大大削弱歐盟單一標準的適用度;最后,歐盟對數據跨境自由流動的限制也給歐盟地區數字經濟的發展帶來極大的障礙,即對數據嚴格保護、限制數據的跨境自由傳輸,形成新型的政策壁壘,使得外國企業進入歐盟市場的合規成本大大提高,極大地限制了其他國家與歐盟企業的商業貿易往來,其他國家的高新科技企業在同等競爭水平下將很難進入歐盟數字市場,由此而帶來的負面效應是全球先進的科技企業不再將目標放在歐盟市場,致使歐盟地區科技企業接觸不到全球先進的技術,不利于該地區互聯網等科技企業的全球化發展,這將大大削弱歐盟企業在數字貿易市場上的國際競爭力。

(二) 美國支持數據自由流動

美國為促進本國企業在數字經濟環境下的發展,對數據的跨境流動采取寬松的政策,鼓勵數據自由流動。但美國寬松的數據跨境流動政策的形成并不是一帆風順的。過去幾十年,美國國內科技企業由于不能適應外國嚴格的數據保護政策,在全球進行數字貿易的過程中遭遇諸多壁壘,既包括傳統的關稅壁壘,也有限制跨境數據流動、不同的個人信息保護標準等新時期的貿易壁壘。這促使美國積極倡導數字產品的“零關稅”待遇、允許數據跨境流動、統一個人信息保護標準等國際規則,如自《美國—智利自由貿易協定》以來的所有協定都規定了締約國不得對通過電子傳輸的數字產品的進出口征收關稅、手續費或其他費用,即永久性零關稅[18]。目前隨著云計算及各類App的飛速發展,美國開始重新審視這些貿易壁壘。作為互聯網大國,美國支持跨境數據自由流動的態度是鮮明的。美國支持數據跨境流動的立場體現在其長期的對外政策中,以及簽訂的自由貿易協定中。在奧巴馬政府時期,其主導的《TPP協定》即積極倡導數據跨境流動,雖然特朗普政府上臺后在2017年宣布退出此協定,但該協定的電子商務相關內容仍被許多國家視為談判的模板,其內容翔實且支持數據跨境流動,限制數據本地化措施。不僅如此,美國在其新簽訂的《美墨加協定》(USMCA)中更是嚴格限制數據本地化,由此可見,美國支持數據跨境流動的立場明確且堅定。

美國擁有大量互聯網企業,更擁有谷歌、臉書等互聯網巨頭公司,為保障本國互聯網企業的高速發展,美國對跨境數據流動的政府監管一直較少,堅定地推行支持數據跨境流動的政策。美國的產業政策多以美國企業的利益訴求為核心,體現出美國的國際規則立場與國內法的緊密結合與相互統一[19]。美國在其寬松的跨境數據保護政策下,促進了國內數字經濟貿易的大發展大繁榮。《世界互聯網發展報告2018》顯示,2017年全球數字經濟總量規模近13萬億美元,美國排名世界第一位(6)http://www.wicwuzhen.cn/web18/achievements/report/201811/t20181108_8698949.shtml, 2019-12-23.。美國作為超級大國,在數字經濟時代積極抓住世界經濟新機遇,迅速投入數字貿易競爭,成為數字貿易規則的主導國家。美國大力支持數據跨境流動,使美國企業在數字經濟競爭中取得了巨大的比較優勢,也使美國成為當前數字貿易的最大受益者。當前各國紛紛加速技術研發,釋放數字經濟的全球化產業紅利,未來有關數字貿易環境下數據本地化的政策與嚴格的跨境數據保護制度將會受到極大的挑戰。

綜上,歐盟采取嚴苛的限制跨境數據流動的政策,并企圖將嚴格的歐盟標準推向多邊,以取得域外的監管權,最終達到將歐盟標準轉化為國際統一標準的目的,而歐盟此種政治考量并沒有得到其他國家的認同,且歐盟標準的嚴苛性提高了其市場準入門檻,增加了外國企業的合規成本,客觀上導致歐盟數字經濟的發展更加緩慢。美國為保護本國互聯網企業的高速發展,對跨境數據流動采取寬松的政策,鼓勵數據跨境流動,支持人工智能技術、物聯網、大數據等高新技術的應用,通過互聯網的全球化帶動人工智能等高新技術的全球化發展,進一步加速了本國數字經濟的發展。同時,美國的路徑是在各個場合均主張數據自由流動政策。美國與歐盟直接博弈的《TTIP協定》,由于美國堅定推行跨境數據自由流動政策,歐盟認為這項基本權利不可談判,雙方難以達成一致意見。美國便在其他協定中推行其主張,不僅在其已經退出的《TPP協定》中支持數據跨境流動,而且也在其新簽訂的《美墨加協定》中要求跨境數據流動更加自由。美國寬松的國內政策和堅定支持跨境數據自由流動的對外立場,不僅為本國數字企業的發展提供了溫床,也使本國數字經濟發展保持著體量世界第一的地位。

值得一提的是,國際規則制定權往往是大國的權利,一國的經濟實力在很大程度上決定其在國際規則制定中的話語權。當前世界經濟呈多極化發展,新興經濟體以及眾多發展中國家都在利用先進科技來發展本國經濟,隨著新興經濟體和發展中國家經濟水平和科學技術的提高,其在國際規則制定中的話語權也在逐漸提高。目前在跨境數據流動尚未達成國際統一規則的背景下,中國作為新興經濟體,應在保障數據安全的前提下,采取寬松的國內政策,抓住機遇,借助人工智能等新興技術,大力發展本國數字經濟。

四、 中國規制數據跨境傳輸的路徑選擇

(一) 中國數字經濟的發展與數據保護

1.中國數字經濟發展面臨的數據安全問題

一方面,用戶個人信息形成的海量信息數據構成了企業互聯網、人工智能、大數據技術的基礎原材料。科技互聯網公司,無論從事什么業務,都在收集用戶的個人信息,與此相對應的一個問題是用戶是否同意企業、平臺收集他們的個人信息?答案是肯定的。比如阿里支付經常推出一系列無償使用的產品和服務,前提是獲取用戶的個人數據,從支付寶擁有近10億用戶即可看出消費者是愿意讓渡自己的部分個人信息來換取免費產品和服務的;又如口碑外賣推出每日大額紅包供用戶在購買商品時進行抵用以獲取用戶位置等個人信息,將收集到的位置信息進行深度分析以指導特定區域的餐廳布局等。這類現象稱為“浮士德式交易”,即在免費的互聯網平臺服務模式下,這些公司、平臺向用戶提供免費服務,作為交換,用戶自愿交出自己的個人信息并愿意接受廣告[12]34。大數據企業有能力收集消費者的信息數據,將收集到的信息進行存儲、加工處理變成有經濟效益的數字產品,并將數字產品出售給有需要的企業或消費者;消費者愿意讓渡自己一部分信息權利來獲取眼前的利益,也愿意去消費數字產品,企業與消費者之間便形成了良性互動。同時,中國具有龐大的人口基數,可提供海量的數據,這是我國發展數字經濟天然的基礎。

另一方面,加大對技術數據的保護力度為數字經濟發展提供了動力。作為知識產權保護的技術數據是一個企業甚至是一個國家科技的核心競爭力,我國已經深刻認識到加大知識產權保護的重要性,也在逐步提高知識產權的保護水平。我國知識產權保護水平在過去曾被發達經濟體詬病,它們指責我國對知識產權保護不力,并試圖通過國際倒逼機制改變我國知識產權保護水平。而隨著經濟的發展,我國意識到知識產權保護對技術創新、社會進步的重要性,為了適應國際經濟新形勢,我國主動修改多部知識產權法律,國家知識產權局啟動面向2035年的國家知識產權強國戰略綱要的制定,未來十年知識產權將會發揮越來越重要的作用。同時,根據《數字經濟治理白皮書(2019)》,2018年我國數字經濟總量達到31.3萬億元,占GDP比重為34.8%,高于同期GDP名義增速約11.2個百分點,在全球經濟下行壓力加大的形勢下,數字經濟的持續穩定快速發展成為穩定經濟增長的重要動能(7)中國信通院《數字經濟治理白皮書(2019)》,2019年12月26日, http://www.caict.ac.cn/kxyj/qwfb/bps/201912/t20191226_272660.htm, 2020年1月12日。。這與我國不斷增強技術數據知識產權保護的措施是分不開的。

綜上,我國充分具備發展數字經濟的天然條件和技術條件,用戶愿意讓渡一定信息權可以為企業提供大量有用的信息數據,國家高度重視對技術數據的知識產權保護可以為企業進一步提高技術水平保駕護航。

2.國內數據規制現狀

數據跨境流動問題在我國出現較晚,發展時間短但發展迅速。目前我國在數據安全方面的立法剛剛起步,比如《民法總則》第一百一十一條僅僅規定了個人信息受法律保護的原則性規定,并沒有具體說明什么數據屬于個人信息,如何進行保護。當前我國關于數據安全的最高層級立法是《網絡安全法》,其雖對跨境數據流動從原則上確定了管理的方向,但這些規定過于原則化,而跨境數據流動管理的每種手段和方式都需要有具體的操作細則予以規定,如何將《網絡安全法》落實到具體部門中實施,還需要進一步的立法完善。綜上,我國關于數據跨境流動保護的問題尚沒有統一的立法,僅有一些分散的關于跨境數據流動的層級較低的規范性文件,缺乏統一的部署。

研究歐盟對數據權利的規制將會促使我國在未來積極參與數據流動規則的制定[20]。鑒于此,我國網信辦于2019年6月13日發布了《個人信息出境安全評估辦法(征求意見稿)》(以下簡稱《辦法》)。《辦法》是對個人信息出境進行具體規定所做的一次有益嘗試,《辦法》第二條第一款規定網絡運營商將個人信息傳輸出境前要進行安全評估,可能影響國家安全、損害公共利益或者難以有效保障個人信息安全的,不得出境。該條體現了我國對數據跨境流動的嚴格保護態度。《辦法》第十三條要求個人信息出境前,網絡運營商與個人信息的境外接收者要簽訂合同,并對合同內容進行了細致規定,同時規定了責任承擔,即網絡運營者與境外接收者對境內個人信息主體的權益造成侵害時應承擔過錯推定責任。《辦法》第十七條重點關注了網絡運營者和境外接收者的網絡安全能力,通過對數據控制主體雙方的網絡安全能力進行評估,有利于客觀上減少數據跨境傳輸中的安全風險。《辦法》第二十一條分別對網絡運營者、個人信息、個人敏感信息做了明確定義,厘清了一直以來適用概念不清的問題。

《辦法》借鑒了歐盟對數據跨境流動嚴格限制的態度。原則上我國相關的數據只能在境內存儲、處理,不得向境外提供,部分數據如果要向境外傳輸必須經過安全評估。而數字經濟時代背景下,各種細節都需要具體規定,《辦法》雖然是對《網絡安全法》《民法總則》《電子商務法》等原則性規定的一個具體實施辦法,但相對目前數字貿易環境的需求來說仍然過于原則化,比如安全評估的標準不夠明確具體;哪些數據傳輸出境情形屬于達到了難以有效保障個人信息安全的程度,《辦法》沒有給出統一的評估標準;如何對境外接收者的網絡安全能力進行評估也沒有具體規定。

3.中國的應然選擇:支持數據跨境流動

數據跨境流動釋放的數字經濟紅利與數據威脅導致的數據安全問題之間的利益平衡是世界各國共同面臨的難題。但由于各國對該問題的認知和理念、產業利益以及在該領域的國際競爭力等的不同,各國采取的政策千差萬別。有些國家和地區出于隱私保護、國家安全等考慮,對數據流動嚴格限制,如歐盟的政策,其有利之處在于通過對跨境數據流動的限制保障了本地區公民隱私安全、國家數據安全,其弊端則是導致本地區數字經濟發展緩慢,國際競爭力不足;有些國家則積極推動數據跨境流動,如美國寬松的數據跨境流動政策使其成為當前數字貿易中的最大受益者。

中國關于此方面的研究尚在起步階段,從目前立法狀況來看,我國對數據跨境流動的限制相對比較嚴格,而在數字經濟時代,貿易投資自由化的發展需要數據跨境自由流動作為基礎。當前由人工智能技術推動的數字經濟的發展出現諸多新動向與新趨勢。人工智能、5G技術、物聯網、大數據等新技術的深度融合,促成了新一輪科技產業發展的風口。科技企業自身技術的突破,技術產品在生產生活中的應用,正在引領世界數字經濟的新風向,全球科技企業巨頭的發展更是在重構世界經濟貿易市場版圖,數字經濟已然成為世界經濟的新動力,數字經濟要發展,前提就是實現數據的跨境流動。我國必須在國家層面上進行戰略布局,支持數據的跨境流動,不應對數據流動進行過多限制,以支持我國科技互聯網企業爭奪技術競爭、數據競爭、數字貿易競爭的制高點,推動我國數字經濟走向世界。

(二) 數據跨境流動規制的中國方案

1.規則層面:以規則引導數據流動

(1)國際層面:積極參與數據跨境流動規則制定

在數字經濟的大背景下,對數據跨境流動的規制過于嚴格或過于寬松都是不可取的。過于嚴格地限制數據跨境流動,會極大地阻礙數字經濟的發展;而若對數據跨境流動的規制過于寬松,則會增加數據的安全風險,不僅會遭到國內消費者的反對,亦會遭到國家安全層面上的反對。同時,對跨國企業或數據收集公司來講,目前急需一個透明的、具有可操作性的、標準化的國際統一規則,從而降低其在跨國貿易中的成本,減少在國際貿易中遭遇的政策風險。歐盟單方面推行嚴格的數據保護制度的單邊主義做法,不僅不利于數字經濟的全球化發展,亦有違當前WTO積極倡導的自由公平的貿易規則,在此不對單邊主義進行探討。

目前并沒有統一適用的多邊協定。對數據規制稍有體現的是WTO的自由貿易規則和美國早期主導的《TPP協定》,但是這兩個規則都沒有對數據跨境流動做出統一規定。WTO成立之初,人工智能、云計算技術還沒有發展,甚至連互聯網也只是處于萌芽階段,所以WTO的自由貿易規則無法涵蓋對數字貿易環境下的數據跨境流動的規制。《TPP協定》雖然在電子商務相關內容中對數據跨境流動做出了有約束力的承諾,并在促進數據跨境流動和確保數據安全之間進行了平衡,一方面要求各締約方允許出于開展業務所進行的電子信息跨境轉移,另一方面允許各國有各自的監管要求[21]94,但由于美國的退出,該協定的實施處于不穩定狀態,甚至成員國日本一方直言,沒有美國的存在,《TPP協定》沒有意義。所以到目前為止,對數據的跨境流動仍沒有統一適用的規則。

比較典型的經濟體之間的雙邊協定是2000年美國商務部與歐盟委員會達成的《安全港協議》,其核心內容就是七項隱私權規則。出現棱鏡門事件后,因個人信息保護問題,歐盟與美國之間關系緊張,美國為保證其國內企業能夠繼續在歐盟開展貿易,迅速與歐盟磋商,雙方于2016年達成新的框架性協議,即我們所熟知的《隱私盾協議》,彌補了《安全港協議》的缺陷和弊端。該協議對美國入盾企業提出新要求,即要求美企對歐盟公民數據實行更充分的保護。協議從實質上看仍舊是美國與歐盟之相互妥協的結果,但在客觀上提高了美國國內對數據的保護水平[6]。歐盟一直以來對數據嚴格保護,美國則一直奉行寬松的數據保護政策。歐盟不要求入盾企業一定要達到GDPR的要求,但要求至少達到《隱私盾協議》的要求;美國也在客觀上提高了國內對數據的保護,并做出了妥協和讓步。這是一個很好的信號,通過雙邊協定的達成可以實現雙贏,也即至少可以在兩個經濟體之間實現數據跨境流動與數字經濟發展的平衡。但雙邊協定的談判成本高、時間長且只能適用于雙邊也是需要注意的問題。

在此背景下,各國紛紛開始尋求多方磋商,舉辦各類互聯網大會、數字經濟大會等尋求解決問題的統一規則。2019年6月9日在日本召開的二十國集團貿易和數字經濟部長級會議討論了跨境電子交易的規則制定問題,并首次討論了人工智能問題,提出解決與AI相關的隱私保護與數據安全問題。這是一次有益的嘗試,將困擾世界各國的數字經濟發展趨勢、人工智能技術與安全風險、跨境電子交易規則制定、公平與自由的貿易環境、WTO改革問題放在世界級平臺上進行探討磋商,這些問題無一不關乎世界各國的共同利益,需要各國共同參與,提出本國方案,在各方利益平衡的基礎上達成多邊貿易協定,以制定一個全球統一適用的新規則。但仍應注意到,一項多邊規則的產生并不是一蹴而就的,它需要多方共同努力并達成一致。中國要發展本國的數字經濟,就必須在國際層面上積極參與規則制定,提升在規則制定中的話語權,以期能夠制定出一套符合中國現階段發展利益的統一適用的國際規則,這也是未來中國在國際談判中應當秉持的立場與原則。

(2)國內層面:借鑒域外經驗統一立法

對于人工智能時代數據跨境流動,我國尚未形成統一的法律規制體系,而是分散在各部門規章、地方性規章等規范性文件中。從目前立法狀況看,我國對數據跨境流動的限制比較嚴格,而貿易自由化的發展客觀上需要數據可以更自由地跨境流動,如果制定過于嚴苛的限制數據跨境流動的法律制度,則在很大程度上會限制本國互聯網等相關企業的科技創新與可持續發展。我國應借鑒國外有益的經驗與實踐,如美國互聯網企業的快速發展就得益于其自由的數據流動政策,而歐盟嚴苛的數據保護制度則限制了本地互聯網企業和數據收集傳輸企業的發展,故在未來我國針對數據跨境流動統一立法時,應充分思考這個問題。

第一,我國立法可借鑒美國自由的對外貿易政策。

美國持自由的對外貿易政策,這是因為美國國內法是與國際法緊密聯系的。美國的國內立法很大程度上是基于國內企業的利益訴求,由于美國是互聯網大國,其將互聯網企業的利益納入對外貿易政策的制定中。其國內對互聯網企業的約束較少,規定的責任范圍較窄,減少政府對數據流動的監管,從而為國內企業的發展創造自由寬松的社會環境。反映到國際層面就表現為美國政府為支持其本土企業的對外擴張,力推數據跨境自由流動,為企業的全球化布局提供政策保障,這為其國內企業及國家帶來巨大的收益,比如全球互聯網巨頭大多來自美國。通過借鑒美國國內立法經驗,不僅可以推動中國數字貿易的發展,也可以平行對接美國立法中有關數據跨境自由流動的標準,提高互認度與互操作性,這樣將會降低中國企業在美國運作的合規成本,甚至在未來中國企業和美國企業可以在技術層面強強聯合,中國數字企業、互聯網企業的國際競爭力將會大大增強。

第二,我國可借鑒歐盟立法的及時性,加速立法進程,在客觀上提升我國國際規則制定的話語權。

盡管歐盟域內極其嚴苛的數據跨境流動政策與我國實際不符,但不可否認,歐盟根據其盟區內情況進行的立法,在某種程度上主導了在數據跨境自由流動層面的規則制定權。2016年,在歐盟通過GDPR之后,美國各州也開始修訂本州的法律,中國、日本、新加坡等眾多國家以GDPR及其附屬文件為藍本,制定修訂了自身的數據保護規則,GDPR在客觀上成為數據保護領域的“達摩克利斯之劍”(8)中國信通院《數字經濟治理白皮書(2019)》, 2019年12月26日, http://www.caict.ac.cn/kxyj/qwfb/bps/201912/t20191226_272660.htm, 2020年1月12日。。歐盟通過頒布GDPR統一了歐盟市場,其實是利用區域的市場準入來擴大其域外監管的權力,提升了歐盟利用市場標準參與全球事務的話語權[17]28。歐盟通過及時的域內立法,掌握了對歐盟以外獨立的第三國關于數據保護“充分性”的評估權,客觀上擴大了歐盟在國際規則制定中的影響力。

當前正處于世界數據跨境流動規則制定的關鍵期,各主要國家都在努力構建國內制度、政策模板,企圖通過擴大自身在數據流動領域影響力的方式,將國內政策導向推向國際規則層面。此時,在歐盟與美國分歧較大且短期內無法達成一致的情況下,中國應抓住機會,明晰方向,及時立法,以擴大中國的影響力,進而抓住未來數字經濟的時代紅利。

第三,我國立法應把握世界經濟發展的未來趨勢,順勢而為。

我國立法在關注有利于產業利益的對外貿易政策的同時,亦應考慮行業發展的前景以及世界經濟未來的發展趨勢。世界經濟未來的發展趨勢就是在人工智能、大數據等信息技術的推動下的數字貿易,整個人類也正在邁入數字全球化時代,那么就不能逆時代潮流,而應積極擁抱數字全球化,支持數據的跨境自由流動,通過國家立法的方式,將鼓勵數據跨境自由流動的貿易政策固定下來,為我國數字企業的發展保駕護航。

與此同時,我國在立法時也應注意,如果可通過其他方式來維護國內公共利益、網絡安全、國家安全,那么就應減少數據本地化措施立法。我國高度重視公共利益、網絡安全、國家安全,提出“網絡安全就是國家安全”,提出數據本地化的措施,加強數據的傳輸本地化、存儲本地化。而這種做法容易被美國等鼓吹數據跨境自由流動的國家詬病為“數據保護主義”“數字貿易壁壘”,從而使我國企業被限制,這既不利于我國企業參與國際數字貿易競爭,亦不利于我國爭取國際規則制定的話語權。每一個國家都有義務維護國家安全,而維護國家安全、網絡安全、社會公共利益并不是只有通過明面上的立法才能實現。國內數據本地化立法不僅收益甚微,客觀上也對中國企業走向世界造成實實在在的阻礙。所以,通過扎扎實實提高技術水平來保障數據安全,遠比通過出臺容易遭人詬病的法律來得實在。我們不應主次顛倒,舍本逐末,而應在認清世界經濟未來趨勢,提高我國科技水平、信息技術水平的基礎上,制定出“良法”,如加強消費者隱私保護、加強知識產權保護等,既能維護我國網絡安全、社會公共利益,又符合國際對一個法治國家的要求,而不是實行簡單粗暴的數據本地化措施。我國應通過國內立法的完善,將國內法推向國際多邊層面,從而提升中國在數據跨境自由流動方面的規則制定的話語權。

鑒于人工智能時代數據跨境流動的特殊性,針對數據類型中信息數據范疇,應將立法的重點放在個人隱私保護、創設專門機構監管上;針對作為知識產權保護的技術數據范疇,則應提高我國知識產權保護的標準和保護力度。同時應制定促進國內數據自由流動的政策,使我國國內的技術數據可以形成強大的凝聚力,參與全球數字經濟市場的競爭。

2.標準層面:標準助力數字經濟發展

(1)統一通用標準

通用標準的統一,將會為企業大幅降低政策成本與運營成本,從而使企業可以更好地參與數字經濟的競爭。我國《新一代人工智能發展規劃》明確提出了建立人工智能技術標準和知識產權體系,并逐步在隱私保護、網絡安全等方面形成新標準,但《人工智能標準化白皮書(2018)》提出了標準化面臨的挑戰,落腳點在于我國技術水平的限制導致無法統一人工智能的標準。即使目前我國技術水平沒有達到世界先進水平,在有些領域我國也是有發言權的,比如華為的5G技術將推動世界通信基礎設施的巨大進步,我們應在自己有能力的、具有發言權的科技領域積極參與并先行制定通用標準,因為在數字經濟背景下,世界經濟局勢風云變幻,及時搶占人工智能等先進技術的高地,才有可能爭奪新一輪數字經濟競爭及世界貿易規則制定的主動權與話語權。

國內要統一標準,在企業間形成凝聚力。我國人工智能、大數據等技術的發展如火如荼,但國內各大數據公司收集的豐富的大數據資源并沒有匯聚成一片海洋,而是以碎片化方式形成了一個個“數據孤島”[22]。所以在通用技術標準層面,我國不僅應主動參與國際人工智能等技術標準的制定,在國內也應積極推動擁有人工智能、互聯網、云計算、大數據等先進技術的各企業形成技術聯盟,使得國內的技術數據可以在我國企業內部之間自由流動,避免在我國企業間形成技術限制,從而在國內形成凝聚力,使各企業共享數據流動帶來的紅利,提高我國企業在國際數字經濟市場的整體競爭力。

(2)提高應對數據安全事件的能力

在數據跨境傳輸過程中有一個問題需要引起我們的重視,即在歐盟GDPR中提到的“被遺忘權”,案例起源于西班牙谷歌案,該權利內容指當個人數據對于實現其被收集或處理的相關目的不再必要時,數據主體有權要求數據控制者刪除關于其個人的數據[23]。該案例從側面說明個人數據一旦被收入互聯網便會一直存在于網絡空間,因為我們通過現有的技術是無法精準跟蹤該數據去過哪些網站、經過哪些渠道,這就使數據不會從根本上被刪除,意思是即使通過谷歌網站刪除該數據主體的個人數據鏈接,也可能會從其他網站查詢到該數據,目前最先進的人工智能技術、物聯網技術、云計算技術等都對其收集的數據不具有真正的控制權,數據收集者或使用者不可能對數據實現真正的控制,一旦數據進行跨境流動,則面臨更加嚴峻的數據控制難題。這就要求如果要通過數據流動釋放數字經濟的紅利,同時又要確保數據安全,那么核心路徑就是提高技術水平,只有這樣才能應對目前數據跨境流動下嚴峻的數據安全形勢。

人工智能技術在經濟領域的運用,使得跨境數據不僅包含消費者個人信息數據,亦包含技術數據本身。當前各國紛紛將人工智能、大數據、云計算當作當今世界貿易市場中的核心競爭力,中國也不例外,我國將人工智能視為下一個趕超西方發達國家的重要途徑,因此在推動上不遺余力,而當前中國人工智能法律在實踐中遇冷,某種程度上更多的是技術而非觀念所致[24],如不能妥善處理好數據安全事件,將會對我國的科技實力、綜合國力產生重大影響,亦會嚴重影響我國數字經濟的發展。技術是目前一個國家科技最核心的競爭力。

在當前國內環境下,國家應加大對數據基礎設施的投入,加速5G商用進程,并由互聯網巨頭企業牽頭帶動其他企業改進技術,積極建立數據基礎設施的互操作性連接,促進國內通用技術數據在國內企業之間的自由流動,形成全方位聯動機制,使企業內部形成有效的統一體,提高整體應對數據安全事件的能力,從而確保數據流動的安全。另外,要加大對技術人才的培養,將高等院校的科研成果及時轉化為技術支持,提高技術水平,加快科研人才在企業之間的流動,促使國內各企業共享技術發展帶來的產業紅利,從而提高我國在世界數字經濟時代的整體競爭力,提升在國際規則制定中的話語權。

五、 結 語

迅猛發展的數字經濟日益成為世界經濟發展的強大驅動力,數字經濟的全球化使得數據的跨境流動不可避免,數據跨境傳輸在釋放大數據紅利的同時,亦面臨技術數據被竊取、信息數據被泄露的數據安全問題。本文通過分析典型地區和國家對數據跨境流動的態度,以及我國數字經濟發展現狀與規則,提出我國在現階段應支持數據跨境流動,并在此基礎上提出支持數據跨境流動的中國路徑:在規則層面上,我國在國際上應積極參與數字貿易規則與數據跨境流動規則的制定,在國內應盡快出臺規制數據跨境流動的法律及相配套的具體實施辦法;在通用技術標準層面,應通過先進技術來保證數據跨境流動的安全,在我國有實力提出國際技術標準的技術領域要敢于創立國際新標準,并在國內形成整體競爭力,共同助力我國數字經濟的大發展。

猜你喜歡
人工智能經濟
“林下經濟”助農增收
今日農業(2022年14期)2022-09-15 01:44:56
我校新增“人工智能”本科專業
增加就業, 這些“經濟”要關注
民生周刊(2020年13期)2020-07-04 02:49:22
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
人工智能與就業
IT經理世界(2018年20期)2018-10-24 02:38:24
民營經濟大有可為
華人時刊(2018年23期)2018-03-21 06:26:00
分享經濟是個啥
西部大開發(2017年7期)2017-06-26 03:14:00
數讀人工智能
小康(2017年16期)2017-06-07 09:00:59
下一幕,人工智能!
南風窗(2016年19期)2016-09-21 16:51:29
下一幕,人工智能!
南風窗(2016年19期)2016-09-21 04:56:22
主站蜘蛛池模板: 亚洲最新在线| 国产乱子伦视频三区| 国产玖玖玖精品视频| 欧美中文字幕一区二区三区| 手机精品视频在线观看免费| 国产成人成人一区二区| 国产精品香蕉| 五月婷婷导航| 男女男精品视频| 亚洲人成网站日本片| 精品国产欧美精品v| 色135综合网| 就去色综合| 亚洲无码视频图片| 97青草最新免费精品视频| 一本大道视频精品人妻 | 无码免费试看| 国产产在线精品亚洲aavv| 亚洲成A人V欧美综合天堂| 国产91成人| 国产色伊人| 青青草国产在线视频| 亚洲色图另类| AV片亚洲国产男人的天堂| 亚洲—日韩aV在线| 91精品国产情侣高潮露脸| 国产啪在线91| 日韩A级毛片一区二区三区| 国产第三区| 欧美一级99在线观看国产| 亚洲bt欧美bt精品| 中国国语毛片免费观看视频| 一级毛片不卡片免费观看| 亚洲综合在线最大成人| 久久精品一品道久久精品| 国产拍在线| 国产老女人精品免费视频| 亚洲第一视频免费在线| 婷婷丁香在线观看| 自拍中文字幕| 国模极品一区二区三区| 国产爽妇精品| 日韩福利视频导航| 国产精品99久久久久久董美香| 久久精品丝袜| 亚洲成人福利网站| 日韩国产综合精选| 国产成人a在线观看视频| 国产高颜值露脸在线观看| 日韩中文精品亚洲第三区| 亚洲专区一区二区在线观看| 精品精品国产高清A毛片| 精品91视频| 无遮挡国产高潮视频免费观看| 欧美a级在线| 欧美精品黑人粗大| 美女视频黄频a免费高清不卡| 日韩小视频在线观看| 色综合激情网| 国产高清精品在线91| 一级香蕉视频在线观看| 国产1区2区在线观看| 久久国产精品嫖妓| 亚洲手机在线| 一级一级一片免费| 中文字幕日韩丝袜一区| 国产无人区一区二区三区| 欧美一级在线看| 伊人91在线| 亚洲国产中文精品va在线播放| 国产女人18水真多毛片18精品 | 久久精品国产免费观看频道| 国产精品成人啪精品视频| 夜夜操天天摸| 亚洲中文字幕国产av| 91国语视频| 茄子视频毛片免费观看| 色有码无码视频| 亚洲中文字幕97久久精品少妇| 欧美日韩激情| 亚洲无码视频图片| 在线观看的黄网|