999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

自動駕駛汽車數(shù)據(jù)安全風險及其治理

2025-09-30 00:00:00張先貴邱炳晟
安徽師范大學學報 2025年5期

關(guān)鍵詞:自動駕駛汽車;數(shù)據(jù)安全;行政審批;公私合作;數(shù)據(jù)跨境傳輸摘要:自動駕駛汽車存在數(shù)據(jù)過度收集、數(shù)據(jù)泄漏和重要數(shù)據(jù)外流風險。知情同意原則對數(shù)據(jù)收集者約束力薄弱、數(shù)據(jù)存儲和使用未受體系化監(jiān)管以及數(shù)據(jù)跨境流通規(guī)范過于模糊是數(shù)據(jù)安全風險的主要成因。對此,消解數(shù)據(jù)安全風險應(yīng)基于合作治理的底層理論,秉持持續(xù)治理的基本理念,遵循安全原則、比例原則和平等原則,同時恪守正義、自由和秩序價值。在制度供給方面,宜運用行政審批制重塑數(shù)據(jù)收集法律關(guān)系;通過公私合作模式構(gòu)建自動駕駛數(shù)據(jù)存儲中心;基于“三級三類”的風險分層理論厘清重要數(shù)據(jù)之內(nèi)涵,羅列數(shù)據(jù)跨境傳輸“白名單”、打造“數(shù)據(jù)聯(lián)盟”。

中圖分類號:D922.16 文獻標識碼:A 文章編號:1001-2435(2025)05-0125-11

Data Security Risksand Governance in Autonomous Vehicles

ZHANGXiangui,QIUBingsheng(LawSchool,ShanghaiMaritimeUniversity,Shanghai 2O1306,China)

Keywords:autonomous vehicle;data security;administrativeapproval; public-private partnership;cross-border data transmission

Abstract:Autonomousvehiclesfacesignificant datasecurityrisks,including excessvedatacollction,data breaches, andthe unauthorized transferof critical dataabroad.The primary causes stem from the weak binding forceof the informed consent principle,the lack ofasystematicregulatory framework fordata storageandusage,andambiguous rules goveming crossborder data flows.To mitigate these risks,a governance approach rooted incollaborative theory andguided bythe principlesofcontinuous oversight is essential.Thisapproach should adheretothe principles of security,proportionality,andequality,whilealsoupholding thecorevalues ofjustice,freedom,andorder.Intermsof institutional design,datacollectionrelationshipsshould berealigned throughadministrativeapproval procedures;data storagecenters forautonomous vehiclesshould beestablishedviapublic-privatepartnerships;thedefinitionof critical datashouldbeclarifiedbasedon\"three-tier,three-category\"risk stratificationtheory;anda \"white list\"forcross border data transmission should be complied alongside the formation ofa \"data alliance.\"

一、問題的提出

數(shù)據(jù)之于自動駕駛汽車而言意義重大。研發(fā)階段,算法工程師需要給自動駕駛系統(tǒng)投喂大量數(shù)據(jù)來完成算法訓練。使用階段,駕駛系統(tǒng)將收集道路、天氣等數(shù)據(jù)以完成駕駛?cè)蝿?wù)。行程結(jié)束后,駕駛數(shù)據(jù)還可能會被上傳至運營商的“云端”服務(wù)器。因此,數(shù)據(jù)的質(zhì)量自然決定了自動駕駛汽車的表現(xiàn)。但需要注意的是,除數(shù)據(jù)質(zhì)量之外,數(shù)據(jù)安全同樣值得關(guān)注。如果說,數(shù)據(jù)是自動駕駛汽車的“驅(qū)動力”,那么,數(shù)據(jù)安全便是自動駕駛汽車的“生命線”。2023年12月18日,SOCRadar公司的安全研究員Can Yoleri在一次例行掃描中發(fā)現(xiàn),寶馬公司由于云存儲中的配置錯誤,導致一個存儲數(shù)據(jù)的“桶”(bucket)變成公開訪問狀態(tài)。①該起數(shù)據(jù)事故敲響自動駕駛汽車數(shù)據(jù)安全風險之警鐘。自動駕駛汽車所存儲的數(shù)據(jù)既可能包括個人數(shù)據(jù),也可能包括一些敏感單位、機構(gòu)的機密數(shù)據(jù)。不論是過度收集用戶個人信息②,還是經(jīng)處理后的數(shù)據(jù)泄露,抑或?qū)匾獌?nèi)容的數(shù)據(jù)跨境傳輸,都會給個人、國家?guī)砭薮蟀踩[患。

目前,學界在數(shù)據(jù)安全方面的研究已初具規(guī)模。有學者認為數(shù)據(jù)安全治理應(yīng)從“回應(yīng)型治理”與“集中式治理”過渡至“敏捷治理”。③有學者將數(shù)據(jù)安全保護之義務(wù)主體定位至“數(shù)據(jù)處理者”且將保護義務(wù)涵蓋到最廣義的數(shù)據(jù)處理活動。④有學者將研究延展至“聚合平臺”,探究其數(shù)據(jù)安全義務(wù)內(nèi)容和履行方式。此外,還有學者關(guān)注到數(shù)據(jù)犯罪問題,通過數(shù)據(jù)安全法益化重塑數(shù)據(jù)犯罪之構(gòu)成要件。同時,域外數(shù)據(jù)安全的研究成果也較為豐富。比如,丹尼·索沃夫認為應(yīng)以危害和風險而非敏感度來實現(xiàn)數(shù)據(jù)安全。再如,威廉·麥格弗倫致力于通過“傳統(tǒng)法律框架 + 行業(yè)標準”來框定數(shù)據(jù)安全義務(wù)之內(nèi)涵。綜觀之下,學界對數(shù)據(jù)安全的研究尚集中于宏觀層面,未拓展至應(yīng)用場景之維。就自動駕駛汽車而言,相關(guān)的研究雖并非空白但著墨不多。本文聚焦于自動駕駛汽車的數(shù)據(jù)安全問題,擬對其面臨的數(shù)據(jù)安全風險提供一套成體系且可行性較強之方案。

二、自動駕駛汽車數(shù)據(jù)安全風險的樣態(tài)識別

自動駕駛汽車的數(shù)據(jù)安全風險在具體應(yīng)用場景中形式各異。本文擬從自動駕駛汽車數(shù)據(jù)的三個關(guān)鍵環(huán)節(jié)出發(fā),以類型化方法來觀察和概括自動駕駛汽車的數(shù)據(jù)安全風險。自動駕駛汽車數(shù)據(jù)安全之風險鏈分布于“收集”“保存”以及“傳輸”環(huán)節(jié),自動駕駛汽車數(shù)據(jù)安全風險由此主要表現(xiàn)為:駕駛系統(tǒng)運行階段的數(shù)據(jù)過度收集風險、數(shù)據(jù)使用和管理階段的泄漏風險以及全球化時期的重要數(shù)據(jù)外流風險。

(一)數(shù)據(jù)過度收集風險

較之與傳統(tǒng)汽車,自動駕駛汽車的數(shù)字化程度更高,其對數(shù)據(jù)的依賴性遠超傳統(tǒng)汽車。因此,自動駕駛汽車廠商與數(shù)字服務(wù)商有更為充分的邏輯理據(jù)對數(shù)據(jù)收集范圍進行擴張。與此同時,不斷在原有基礎(chǔ)上拓展收集邊界亦符合私營部門的經(jīng)濟利益需求。比如,自動駕駛汽車廠商挖掘用戶出行規(guī)律和行動軌跡以分析其消費偏好。越接近核心隱私的數(shù)據(jù),其潛在經(jīng)濟價值就越發(fā)高昂。對此,亦有學者認為物聯(lián)網(wǎng)時代以來消費者數(shù)據(jù)已具“商品化”趨勢。③在此背景下,以自動駕駛汽車為代表的新一代“數(shù)據(jù)利維坦”或難以保持收集理性、恪守合理的數(shù)據(jù)收集邊界。

就自動駕駛汽車而言,數(shù)據(jù)過度收集的具體種類可分為地理數(shù)據(jù)、生物數(shù)據(jù)以及行為偏好數(shù)據(jù)。具體來講,地理數(shù)據(jù)是指自動駕駛系統(tǒng)收集的用戶住址坐標、出行路線以及特定地點訪問頻次等具有隱私屬性的數(shù)據(jù)。①生物數(shù)據(jù)是指車輛保有人、其他使用者和乘坐者的包括面部成像、體型和聲紋特征在內(nèi)的具有生物識別屬性的數(shù)據(jù)。②而行為偏好數(shù)據(jù)則是指用戶的駕駛習慣、消費習慣、車內(nèi)娛樂數(shù)據(jù)、出行規(guī)律等不具生物屬性但仍可作為“用戶畫像”的衍生類數(shù)據(jù)。③需指出的是,自動駕駛汽車數(shù)據(jù)過度收集風險系屬混合性風險:一方面,過度收集本身已是實害狀態(tài);另一方面,過度收集亦是數(shù)據(jù)存儲、傳輸過程中泄漏的“根風險”,亦即距離風險源最近之風險。

(二)數(shù)據(jù)泄漏風險

自信息時代開啟以來,數(shù)據(jù)泄漏久為大型企業(yè)所困擾。諸如雅虎、索尼和匯豐銀行等大型跨國企業(yè)都曾發(fā)生過嚴重的數(shù)據(jù)泄漏事件。④數(shù)據(jù)泄漏風險亦是我國智能汽車產(chǎn)業(yè)所必須直面之挑戰(zhàn)。2023年初,蔚來首席信息安全專家盧龍披露,公司收到一封郵件,對方聲稱持有蔚來內(nèi)部數(shù)據(jù)并要求支付225萬美元的比特幣。⑤

從傳統(tǒng)定義上看,數(shù)據(jù)泄露是指非數(shù)據(jù)合法持有方獲得數(shù)據(jù)的事實狀態(tài)。自動駕駛汽車的數(shù)據(jù)泄漏風險具有危害性高、預防和救濟困難的特點。首先,在自動駕駛汽車語境之下,數(shù)據(jù)泄漏的內(nèi)涵亦覆蓋公共道路安全風險,即自動駕駛汽車的數(shù)據(jù)泄漏在社會危害性上顯著高于一般數(shù)據(jù)泄漏。自動駕駛汽車的算法數(shù)據(jù)被截取后還可能導致自動駕駛系統(tǒng)被黑客遠程操控從而形成被“劫持”的危險狀態(tài)。其次,自動駕駛汽車數(shù)據(jù)泄露在預防上難度較大。數(shù)據(jù)泄漏風險一般可分為內(nèi)部風險和外部攻擊風險。即便技術(shù)層面上保持較高水準,也難以完全消除內(nèi)部人為操作失誤所致之數(shù)據(jù)泄漏。?最后,自動駕駛汽車的技術(shù)專業(yè)性較強且涉及車輛生產(chǎn)者、系統(tǒng)開發(fā)者以及第三方技術(shù)支持等多方共同參與,因此自動駕駛汽車數(shù)據(jù)泄漏的救濟成本高昂。其中的經(jīng)濟成本包括專家費用、成立跨企業(yè)調(diào)查專項小組以及持續(xù)消除影響的復合成本。③此外,自動駕駛汽車數(shù)據(jù)泄露事件中的受害者規(guī)??赡茌^大,故還會產(chǎn)生司法資源占用的附隨風險。概括而言,自動駕駛汽車數(shù)據(jù)泄漏風險在本質(zhì)上是“系統(tǒng)性風險”,亦即除造成經(jīng)濟損失外還將導致自動駕駛汽車市場信任程度驟降進而形成對數(shù)字駕駛技術(shù)的抗拒狀態(tài)。③

(三)重要數(shù)據(jù)外流風險

基于自動駕駛的技術(shù)特征來看,自動駕駛系統(tǒng)運行期間必須對道路、建筑等物理單位進行掃描分析。自動駕駛汽車駛過政府部門、軍事區(qū)域以及關(guān)鍵基礎(chǔ)設(shè)施時亦會對相應(yīng)建筑、路段的三維空間數(shù)據(jù)進行掃描分析。若前述若干數(shù)據(jù)流向海外將嚴重損害國家安全,特別是在數(shù)據(jù)以及人工智能等數(shù)字技術(shù)正轉(zhuǎn)變?yōu)榍閳蠓治龅男滦万?qū)動力的時代背景下。然而,自動駕駛汽車在硬件和軟件層面皆與全球化深度綁定。首先,我國在高端制造業(yè)領(lǐng)域起步較晚,在尖端芯片制造上與發(fā)達國家尚有差距,因此在短時間內(nèi)難以實現(xiàn)整車國產(chǎn)化。其次,國外所開發(fā)的自動駕駛系統(tǒng)亦有可能在我國投用,如特斯拉FSD(Full-SelfDriving)自動駕駛系統(tǒng)。我國亦有可能與國外共同合作開發(fā)自動駕駛汽車的軟硬件。同時,我國電動汽車在海外市場保有量逐年上升,而未來在銷往海外以及在海外生產(chǎn)的電動汽車上亦有可能裝載我國已完成數(shù)據(jù)投喂和訓練的自動駕駛系統(tǒng)。也就是說,自動駕駛汽車的數(shù)據(jù)跨境傳輸在客觀上難以避免。綜上,自動駕駛汽車數(shù)據(jù)跨境傳輸兼具必要性和風險性,故對數(shù)據(jù)跨境傳輸予以正視實屬必要。

客觀而言,數(shù)據(jù)跨境傳輸已成全球關(guān)注之焦點。比如,有海外學者指出基于“區(qū)域貿(mào)易協(xié)定(RTA)”的數(shù)據(jù)跨境傳輸在推動數(shù)據(jù)商品化的同時忽略了數(shù)據(jù)主體權(quán)利之保護。①亦有學者倡議效仿《服務(wù)貿(mào)易總協(xié)定(GATS)》的形式在世貿(mào)組織中舉行全球數(shù)據(jù)隱私協(xié)商。②“數(shù)據(jù)主權(quán)”的概念就是在此背景下被提出的。就數(shù)據(jù)安全角度而言,數(shù)據(jù)主權(quán)旨在保護敏感數(shù)據(jù)并使之受規(guī)范框架之庇護,因此一國可能推行數(shù)據(jù)本地化處理抑或要求外國數(shù)據(jù)中心須符合本地數(shù)據(jù)駐留規(guī)范。③以特斯拉完全自動駕駛FSD系統(tǒng)為例,在國內(nèi)地圖數(shù)據(jù)方面,特斯拉公司選擇與我國百度公司合作。④另外,特斯拉建設(shè)于臨港的數(shù)據(jù)中心早在2021年就已啟用。③國外也有學者主張運用“個人數(shù)據(jù)云”來消解跨境數(shù)據(jù)風險。上述做法皆屬于“數(shù)據(jù)本地化”之范疇。然而,數(shù)據(jù)本地化不意味著數(shù)據(jù)跨境傳輸所面臨的風險即告解除。有學者將數(shù)據(jù)跨境治理稱為“不可能三角問題”。①數(shù)據(jù)具有較強的可復制性和流動性,自動駕駛汽車的數(shù)據(jù)從時間維度上看必然長期處于增量態(tài)勢。概言之,就自動駕駛汽車而言,單一的數(shù)據(jù)本地化無法從根本上消除重要數(shù)據(jù)外流的風險。

三、自動駕駛汽車數(shù)據(jù)安全風險治理現(xiàn)狀及法理檢討

在應(yīng)對自動駕駛汽車數(shù)據(jù)安全風險方面,我國立法并未滯后,學界討論也從未停止。然而,既有實定法及相關(guān)理論在應(yīng)對自動駕駛汽車的數(shù)據(jù)安全風險上尚顯薄弱,于法理方面還缺乏對自動駕駛汽車數(shù)據(jù)安全風險的深人審思。因此,當前亟須對自動駕駛汽車數(shù)據(jù)安全風險的治理現(xiàn)狀進行梳理并展開法理檢討來為其“把好脈”,進而才能討論如何“下對方”。

(一)知情同意原則對收集者的約束弱

數(shù)據(jù)權(quán)利保障久存“重私法,輕公法”之方法傳統(tǒng),③知情同意原則便為典例。知情同意原則框架下,用戶的同意更像是“被同意”。此種被同意則主要表現(xiàn)為,收集方提供專業(yè)性較強且篇幅較長的隱私政策,而用戶往往難以對其中的條款內(nèi)容和法律后果作出理性判斷。③《個人信息保護法》第16條規(guī)定:“個人信息處理者不得以個人不同意處理其個人信息或者撤回同意為由,拒絕提供產(chǎn)品或者服務(wù);處理個人信息屬于提供產(chǎn)品或者服務(wù)所必需的除外。”然而,實踐中“要么同意,要么離開”的“二選一困境”卻不乏其例。比如,用戶選擇開啟自動駕駛系統(tǒng)時必須同意數(shù)據(jù)收集條款。甚至,對自動化級別較高的自動駕駛汽車而言,拒絕數(shù)據(jù)收集條款可能意味著用戶無法啟動汽車。數(shù)據(jù)收集的現(xiàn)狀概括起來便是,數(shù)據(jù)收集方異化知情同意原則的原始內(nèi)涵,將原本非法的過度收集行為合理化。概言之,知情同意原則已被“工具化”。在“數(shù)據(jù)個人控制論”語境下,用戶對數(shù)據(jù)的控制始終無法落到實處。誠如索沃夫所言,知情同意原則不停地驅(qū)趕人們從一個陷阱到另一個陷阱,永不停歇。①海外有學者將該種情形稱為“數(shù)據(jù)排除”,即用戶無以知悉數(shù)據(jù)收集之范圍而又對后續(xù)數(shù)據(jù)保管、處理和傳輸環(huán)節(jié)缺乏參與。誠然,知情同意原則秉持私法自治理念,其確為我國早期的數(shù)據(jù)收集提供了指導性價值。至少,其傳遞了“欲取數(shù)據(jù)者,同意為必要\"的基本準則,但同時其亦疏忽了“雙方平等為同意之必要前提\"的法理基礎(chǔ)。換言之,知情同意原則本質(zhì)上是一種\"話語權(quán)友好型\"制度,其天然利好于相對強勢的收集方。用戶或許在形式上享有接受或者拒絕的權(quán)利,但實質(zhì)上卻缺少行使權(quán)利的實質(zhì)條件。進言之,以知情同意原則為代表的“數(shù)據(jù)權(quán)利機制”難以從根本上保障數(shù)據(jù)安全。③

學術(shù)界不乏對知情同意原則的聲討和建議。比如,丁曉東主張解綁告知與同意,加強告知力度的同時適當放寬同意要求④。再如,王俐智運用格式條款來平衡收集方和用戶之間不平等的地位。此外,高富平的“動態(tài)同意說”和索沃夫的“模糊同意說”①都主張對同意進行彈性化解釋??梢姡瑢W界已敏銳地意識到知情同意原則之桎梏。然而,前述方案仍未緩解收集方與被收集方話語權(quán)不平等的矛盾關(guān)系。不平等之地位既預示了知情同意在數(shù)據(jù)治理方面的必然失敗,也是數(shù)據(jù)收集協(xié)議的法律性質(zhì)存在爭議的現(xiàn)實注腳。③

綜上所述,知情同意原則對數(shù)據(jù)收集方的約束較為孱弱。法理上,運營方和使用者處于不對等狀態(tài)。因此,至少對自動駕駛汽車來講,數(shù)據(jù)收集協(xié)議不宜被認定為純粹的合同。事實上,國外亦有學者認為涉及隱私、消費者私人數(shù)據(jù)交易的法律正在從傳統(tǒng)契約式框架轉(zhuǎn)向更具實質(zhì)性意義的框架。③概言之,以意思自治為內(nèi)核的契約式數(shù)據(jù)收集協(xié)議有內(nèi)生缺陷,不利于數(shù)據(jù)安全保障。

(二)數(shù)據(jù)存用尚未形成體系化監(jiān)管

預防數(shù)據(jù)泄漏風險有技術(shù)工具和政策工具兩種。相比于技術(shù)工具,政策工具具有成本低、預防效率高的特點。而我國在數(shù)據(jù)安全上所采納的技術(shù)工具和政策工具明顯失衡,對政策工具的重視程度不足。目前,我國對企業(yè)數(shù)據(jù)存儲和使用的監(jiān)管較為寬松。從實踐經(jīng)驗來看,企業(yè)數(shù)據(jù)存儲與使用多被納入企業(yè)內(nèi)部事項之范疇。目前我國并未就企業(yè)基于產(chǎn)品或服務(wù)所形成的數(shù)據(jù)如何存儲和使用作出統(tǒng)一規(guī)定,各企業(yè)對數(shù)據(jù)的管理和使用方式呈現(xiàn)“各自為營”之狀態(tài)且缺乏透明性??梢灶A見,若不及時對自動駕駛行業(yè)進行有效的數(shù)據(jù)規(guī)范,我國自動駕駛汽車的數(shù)據(jù)存用也會進人“黑箱狀態(tài)”。法律層面,我國《個人信息保護法》《數(shù)據(jù)安全法》和《網(wǎng)絡(luò)安全法》的相關(guān)規(guī)定在內(nèi)容上均具有高度概括性特征,缺乏可操作性。規(guī)章層面,《汽車數(shù)據(jù)安全管理若干規(guī)定(試行)》的內(nèi)容設(shè)計更為具體,但其效力位階不高且難以同頻覆蓋自動駕駛汽車的特殊數(shù)據(jù)安全需求??梢?,我國自動駕駛汽車的數(shù)據(jù)監(jiān)管尚處于高度概括的“義務(wù)模式”且于自動駕駛汽車語境之下還存在法律空白。

值得指出的是,2022年2月,我國市場監(jiān)管總局、工信部、交通運輸部、應(yīng)急部和海關(guān)總署共同發(fā)布了《關(guān)于試行汽車安全沙盒監(jiān)管制度的通告》。在學界,沙盒監(jiān)管亦頻被提起。①沙盒監(jiān)管本質(zhì)上是一種圈地試驗的方法,其運用真實數(shù)據(jù)測試,同時又以“隔離墻”來防止風險外溢??陀^而言,沙盒監(jiān)管在自動駕駛汽車數(shù)據(jù)安全治理方面確實有其優(yōu)勢。比如,其能夠在小范圍模擬情況并根據(jù)測試結(jié)果來決定是否在全國推行,容錯率較高。然而,沙盒監(jiān)管或許難以運用在自動駕駛汽車的數(shù)據(jù)治理之上。首先,我國幅員遼闊,各地數(shù)據(jù)治理能力差異較大,試驗地的結(jié)果未必能在全國范圍內(nèi)復現(xiàn)。其次,沙盒監(jiān)管依托于地方,而地方監(jiān)管者易被廠商“俘獲”。最后,沙盒監(jiān)管的時間成本沉重。為了確保試驗效果,沙盒監(jiān)管應(yīng)持續(xù)較長時間,而較長周期的反復試驗易對自動駕駛汽車產(chǎn)業(yè)產(chǎn)生抑制效應(yīng)。

(三)數(shù)據(jù)跨境流通的法律規(guī)范模糊

隨著技術(shù)發(fā)展以及數(shù)據(jù)安全愈發(fā)受到重視,數(shù)據(jù)主權(quán)這類概念逐漸興起,③我國也在數(shù)據(jù)跨境流通方面積極跟進立法。然而,我國數(shù)據(jù)跨境流通的法律規(guī)范依舊處于“粗線條”時期。具體而言,2024年3月22日,《促進和規(guī)范數(shù)據(jù)跨境流動規(guī)定》(以下簡稱“促進規(guī)定”)正式生效施行。與之前的《數(shù)據(jù)出境安全評估辦法》不同,本次《促進規(guī)定》多次提及“免予申報”,這表明數(shù)據(jù)跨境流通開始呈現(xiàn)二元化趨勢。對于重要數(shù)據(jù),依然“從嚴”;對于非重要數(shù)據(jù)則秉持“從寬”態(tài)度。因此,“重要數(shù)據(jù)”事實上已成為數(shù)據(jù)跨境流通的關(guān)鍵分界點。比如,《汽車數(shù)據(jù)安全管理若干規(guī)定(試行)》第3條就以“列舉 + 彈性條款”來定義重要數(shù)據(jù)。然而,該種方式也有其缺陷。列舉并非窮舉,現(xiàn)存分類標準是否可長期適用還有待商榷。從邏輯層面上講,如若不能精準錨定重要數(shù)據(jù)特別是涉及國家安全的數(shù)據(jù)類別,自動駕駛汽車數(shù)據(jù)跨境傳輸時產(chǎn)生重要數(shù)據(jù)外流的風險亦會隨之升高。還需指出,數(shù)據(jù)跨境傳輸規(guī)范的理論構(gòu)造勢必要與實踐經(jīng)驗有機整合以完成合理性證成。但受制于法律規(guī)范模糊,我國缺乏在數(shù)據(jù)跨境傳輸方面的實踐經(jīng)驗。自動駕駛汽車數(shù)據(jù)較之于一般數(shù)據(jù)而言,具有數(shù)據(jù)總量規(guī)模大、信息含量廣、時效性較強等特點,因此,對跨境傳輸?shù)膶嵺`需求更高。此外,缺乏實踐反饋還會進一步加劇數(shù)據(jù)跨境傳輸規(guī)范方面的理論可行性。

四、自動駕駛汽車數(shù)據(jù)安全風險治理的基本遵循

以法律為代表的規(guī)范性治理工具是治理理念和具體制度的復合產(chǎn)物。同理,疏解自動駕駛汽車的數(shù)據(jù)安全風險亦有其基本遵循。風險治理的基本遵循本質(zhì)上是一種方法論,其內(nèi)核邏輯在于推動數(shù)據(jù)安全治理在觀念范式上的更新。

(一)底層邏輯

1.合作治理

在用戶和運營方構(gòu)成的二元框架中,用戶傾向盡可能保護自身數(shù)據(jù),而自動駕駛汽車的數(shù)據(jù)收集主體則期望更廣泛、更高效地獲得用戶數(shù)據(jù)。在該格局之下,數(shù)據(jù)收集方系屬強勢主體,而公權(quán)主體加入其中所形成的三元框架更有利于數(shù)據(jù)安全。此謂之“合作治理”,即公權(quán)主體、運營主體和用戶群體在數(shù)據(jù)安全方面以非對抗式的姿態(tài)相互配合、彼此合作。然而,由于公權(quán)主體和用戶個體之間天然處于保護和被保護的特殊關(guān)系,屆時數(shù)據(jù)收集方將居于不利地位。因此,為維持三方結(jié)構(gòu)之穩(wěn)定與公平性,公權(quán)主體在數(shù)據(jù)安全的三邊關(guān)系中宜秉持理性原則以避免過度限制自動駕駛汽車數(shù)據(jù)收集方。此外,在合作治理模式中,公權(quán)主體宜深度參與數(shù)據(jù)治理,④而社會資本力量亦應(yīng)積極輔助公權(quán)主體履行治理職責。合作治理的理論框架之下,用戶數(shù)據(jù)將得以最大限度保護,國家可借助私有資本的技術(shù)優(yōu)勢進行數(shù)據(jù)治理,自動駕駛車企等私主體亦能通過參與公共事務(wù)獲得政府與用戶信任。

2.持續(xù)治理

與傳統(tǒng)治理對象不同,數(shù)據(jù)并非消耗品,其永遠處于“增量”狀態(tài)。換言之,自動駕駛汽車的數(shù)據(jù)安全治理并非一蹴而就。傳統(tǒng)意義上的數(shù)據(jù)治理流程鏈一般包括收集階段、存儲階段和流轉(zhuǎn)階段。然而,數(shù)據(jù)一旦失去經(jīng)濟價值,數(shù)據(jù)處理者的治理積極性便會斷崖式下降。如一批自動駕駛汽車運行屆至報廢年限后,此類“過期”數(shù)據(jù)可能會被統(tǒng)一放入一個安全等級次于前期的數(shù)據(jù)庫中,也可能會直接被倒賣。因此,為防范數(shù)據(jù)安全風險于未然,不宜以數(shù)據(jù)價值為中心進行數(shù)據(jù)治理,而應(yīng)恪守“頭尾并重”的數(shù)據(jù)治理理念,此謂之“持續(xù)治理”。進言之,持續(xù)治理理念下的數(shù)據(jù)治理具體可以從三個方面來理解:其一,數(shù)據(jù)治理應(yīng)貫穿從數(shù)據(jù)收集到最后價值減損的全生命周期。①其二,數(shù)據(jù)治理的力度應(yīng)始終維持在同一標準。其三,在數(shù)據(jù)退出利用周期后,亦應(yīng)對之妥善處理,防范數(shù)據(jù)還原再識別風險。

(二)基本價值

1.正義價值

平等為法之標尺,程序乃法之保障,而正義則是法的“終點站”。②正義價值既是歷史悠久的法律傳統(tǒng),亦在社會治理活動中發(fā)揮重要作用。我國數(shù)據(jù)治理實踐也應(yīng)遵循正義之價值內(nèi)核。在自動駕駛汽車數(shù)據(jù)治理語境中,正義價值包括了分配正義、算法正義和國際正義三重內(nèi)涵。首先,在數(shù)據(jù)產(chǎn)權(quán)歸屬尚未明確之前,不宜采取“一刀切”式的做法將自動駕駛汽車的數(shù)據(jù)權(quán)屬明確給任意單一主體。③其次,應(yīng)對自動駕駛汽車算法數(shù)據(jù)進行積極監(jiān)管,避免基于駕駛數(shù)據(jù)而出現(xiàn)的“算法歧視”。最后,自動駕駛汽車數(shù)據(jù)的跨境傳輸多與地緣政治密切相關(guān)。在此背景下,在自動駕駛汽車數(shù)據(jù)對外傳輸和對內(nèi)接收時應(yīng)秉持國際正義價值,對欠發(fā)達國家和地區(qū)應(yīng)施之以適當援助。同時,應(yīng)堅決抵制“國際數(shù)據(jù)壟斷”與“數(shù)據(jù)跨境傳輸制裁”等非道義做法。

2.自由價值

自由主義本質(zhì)上是圍繞國家學說展開的,其核心議題則是梳理國家和個人之間的關(guān)系。④然而,法治意義上的自由與廣義的自由概念并不等同。自由主義“脫韁”后極易異化為激進主義與極端個人主義,故自由邊界成為近代最具警示意義的哲學、政治和法學議題。法治層面的自由多是關(guān)于“可為”與“不可為”間界限的求索。以自由邊界為理論基底的消極自由和積極自由共同組成數(shù)字社會中的數(shù)據(jù)自由維度。自動駕駛汽車的數(shù)據(jù)安全治理與公共利益、公共安全和國家安全之間具有強關(guān)聯(lián)關(guān)系,故數(shù)據(jù)治理更倚重消極意義上的數(shù)據(jù)自由。概言之,無邊界之自由易加劇數(shù)據(jù)安全風險,應(yīng)對數(shù)據(jù)自由并加以適度規(guī)范,以守護更深層次的自由價值。

3.秩序價值

秩序是法律的基礎(chǔ)性價值。從程序法的角度來看,秩序是司法規(guī)律運作的重要事實狀態(tài),無秩序則無司法。從實體法的角度來看,秩序是權(quán)利(力)義務(wù)分配妥當后的理想狀態(tài)。秩序價值之于數(shù)據(jù)治理有何意義?首先,秩序價值明確了國家主導數(shù)據(jù)治理的地位。數(shù)據(jù)治理是一項龐大的工程,國家行政力量在政策推進、資源調(diào)配和計劃實施方面均存獨特優(yōu)勢。其次,秩序價值課以公權(quán)主體一項重要義務(wù),即帶領(lǐng)全社會完成數(shù)據(jù)治理從“自然秩序(自發(fā)秩序)”到“法律秩序”的轉(zhuǎn)型。最后,秩序價值有助于激發(fā)非公權(quán)主體參與數(shù)據(jù)治理的積極性。對若干數(shù)據(jù)相關(guān)主體而言,自覺維護數(shù)據(jù)治理秩序便是維護自身數(shù)據(jù)權(quán)益的邏輯起點和必由路徑。此外,國與國在數(shù)據(jù)問題上也應(yīng)尊重國際秩序,各國應(yīng)承認并尊重他國數(shù)據(jù)主權(quán)和司法制度,克制“長臂管轄”與“數(shù)據(jù)霸權(quán)”之欲。③

(三)一般原則

1.安全原則

就數(shù)據(jù)安全風險而言,其原命題指向科技與法律的復雜關(guān)系。本質(zhì)上,法律對科技的作用體現(xiàn)為規(guī)制和促進,但有時二者亦表現(xiàn)出矛盾勢態(tài)。而科技和法律的理想關(guān)系是“以規(guī)促進”,即通過標準化、程序化的規(guī)范來促進科技發(fā)展。在這一理論邏輯之中,安全原則是科技發(fā)展之紅線所在,亦即底線原則。循此,自動駕駛汽車數(shù)據(jù)安全治理亦需框定安全原則作為首要原則?!鞍踩卑ê暧^層面的國家整體數(shù)據(jù)安全、中觀層面的數(shù)據(jù)利用周期安全以及微觀層面的個人和企業(yè)的數(shù)據(jù)安全。此外,安全原則在自動駕駛汽車數(shù)據(jù)治理背景下亦包括“安全優(yōu)位原則”,即技術(shù)安全優(yōu)先于技術(shù)發(fā)展,當二者矛盾時優(yōu)先保障安全。同時,應(yīng)對安全原則之語義內(nèi)涵作擴張解釋。在此背景下,數(shù)據(jù)安全和道路安全皆屬安全之范疇,不宜基于功利主義的視角對二者進行比對。①

2.比例原則

以“禁止過度”為核心的比例原則不僅是公法基本原則,亦對其他領(lǐng)域的法律運用有重要指導意義。②凡需權(quán)衡法益與價值之處,皆存比例原則適用之可能。③比如,比例原則可調(diào)和數(shù)字政府的公權(quán)控制與私權(quán)限制。④同理,在科技法領(lǐng)域,科技發(fā)展的節(jié)奏與法律規(guī)制的強度也有呈比例關(guān)系之可能。數(shù)據(jù)安全治理路徑亦可參考比例原則的方式,形成數(shù)據(jù)安全領(lǐng)域的規(guī)、促相稱。數(shù)據(jù)安全制度亦應(yīng)遵循傳統(tǒng)三階比例原則,即適當性、必要性以及均衡性。另外,自動駕駛汽車生產(chǎn)者、系統(tǒng)提供者等數(shù)據(jù)相關(guān)方的合法利益應(yīng)建立在比例原則之基礎(chǔ)上,亦即數(shù)據(jù)收集、使用和跨境傳輸均應(yīng)限縮于合理限度之內(nèi)。簡言之,數(shù)據(jù)治理中所言及之比例原則的核心要義便是通過三階要素來實現(xiàn)理性數(shù)據(jù)治理以避免治理錯位之虞。

3.平等原則

平等原則為近現(xiàn)代法治基石之一,貫穿于現(xiàn)代法律體系的諸環(huán)節(jié),系立法、執(zhí)法以及司法的價值準繩。法理上,平等原則可切分為實質(zhì)平等和形式平等。以大數(shù)據(jù)為代表的數(shù)字技術(shù)在根本屬性上具有濃厚形式判定色彩,以正確性為綱的形式平等不斷在實踐中沖擊以正當性為內(nèi)核的實質(zhì)平等。因此,在自動駕駛汽車語境之下,數(shù)據(jù)治理更宜突出實質(zhì)層面的平等,以實現(xiàn)實質(zhì)平等和形式平等的再均衡。換言之,可基于實用主義方法論根據(jù)不同情形靈活調(diào)整標準從而增強治理韌性。比如,可規(guī)定高齡駕駛?cè)说葦?shù)字不敏感群體在勾選“同意”之前應(yīng)先向國家數(shù)據(jù)機構(gòu)尋求建議,抑或要求數(shù)據(jù)收集主體單獨為其制定簡化版數(shù)據(jù)收集條款和界面。再如,針對一些特殊群體如曾有危險駕駛記錄的用戶,應(yīng)適當增加數(shù)據(jù)收集的項目和總量以滿足司法矯正之需。

五、自動駕駛汽車數(shù)據(jù)安全風險治理的具體路徑

理論嚴密的基本遵循和體系化的制度供給是自動駕駛汽車數(shù)據(jù)安全風險治理的雙重保障。就具體路徑安排而言,自動駕駛汽車數(shù)據(jù)治理可從數(shù)據(jù)收集范式調(diào)整、公私合作數(shù)據(jù)存儲模式構(gòu)建以及數(shù)據(jù)跨境傳輸規(guī)范化和實踐化三方面展開。

(一)“審批 + 備案”雙軌制的數(shù)據(jù)收集目錄

行政審批源于計劃經(jīng)濟時期,為我國行政管理的重要舉措之一。從范圍上看,行政審批主要集中于自然資源、公共資源以及城建規(guī)劃等泛公共領(lǐng)域。在比較法上,行政審批制同樣是重要行政管理工具,如美國環(huán)境署通過國家排污許可項目(NPDES)對污染源進行監(jiān)管。①行政審批是現(xiàn)代國家行政之普遍做法,但學界對行政審批的批評從未停止。有學者指出行政審批改革并未打破政府對資源和生產(chǎn)經(jīng)營領(lǐng)域之壟斷。②但行政審批制度有靈活性強、衡平屬性突出以及風險控制力度高的優(yōu)勢。結(jié)合自動駕駛汽車數(shù)據(jù)安全風險特點來看,行政審批適宜作為疏散數(shù)據(jù)過度收集風險的制度方案。

首先,行政審批制更契合數(shù)據(jù)安全風險治理的時效性需求。法律具有不周延性特征,傳統(tǒng)立法模式本質(zhì)上是漸進式改革,而技術(shù)發(fā)展周期較短,這便易導致技術(shù)和規(guī)范存在時間差距從而致使規(guī)制實效不佳。傳統(tǒng)“逐案設(shè)法”的規(guī)制模式不適應(yīng)自動駕駛汽車數(shù)據(jù)安全風險迭代的周期性規(guī)律。較之于傳統(tǒng)立法,行政審批的靈活性較高,其能夠?qū)?shù)據(jù)過度收集風險作出“敏捷式”回應(yīng)。其次,行政審批制可打破自動駕駛汽車數(shù)據(jù)收集方和用戶之間的實質(zhì)不平等關(guān)系。在此情形下,審批單位成為用戶和數(shù)據(jù)收集方的媒介,對過度收集的數(shù)據(jù)項目進行駁回。最后,行政審批控險力度更高。自動駕駛汽車的數(shù)據(jù)收集方不僅應(yīng)滿足審查單位事先列明的收集范圍,同時審查單位還將對其所遞交的收集申請二次檢驗。由此形成的標準與核查的雙重結(jié)合可最大限度避免數(shù)據(jù)過度收集風險。

此外,“私人自決”是現(xiàn)代法律發(fā)展的一個基本趨勢,即個人基于意思自治自決事務(wù)之范圍將愈發(fā)寬泛。有鑒于此,宜對一些具有良好信用背景的企業(yè)適度放寬政策,即以“資質(zhì)一備案”為例外。具體來講,可對該類企業(yè)進行資質(zhì)審核,審核通過后可繼續(xù)按照當前知情同意原則收集自動駕駛汽車的數(shù)據(jù),但同時應(yīng)履行備案義務(wù)。另外,不論是審批制抑或備案制,對不影響汽車核心功能的數(shù)據(jù)都應(yīng)堅持默認不收集原則。③還需要注意的是,即便已經(jīng)通過數(shù)據(jù)收集審核也應(yīng)在數(shù)據(jù)收集時說明收集原因并征求用戶同意。

(二)通過公私合作模式搭建自動駕駛數(shù)據(jù)中心

2014年5月,國家發(fā)展和改革委員會發(fā)布《首批基礎(chǔ)設(shè)施等領(lǐng)域鼓勵社會投資項目的通知》,其中,附件項目表第二大類是信息基礎(chǔ)設(shè)施,“數(shù)據(jù)中心”赫然在列。之后國務(wù)院又發(fā)布了《關(guān)于創(chuàng)新重點領(lǐng)域投融資機制鼓勵社會投資的指導意見》。2023年11月,國務(wù)院向各省、自治區(qū)、直轄市政府轉(zhuǎn)發(fā)了發(fā)改委和財政部的《關(guān)于規(guī)范實施政府和社會資本合作新機制的指導意見》,數(shù)據(jù)中心項目仍在項目清單之中。此外,與數(shù)據(jù)中心項目一起出現(xiàn)的還有智慧交通、人工智能算力基礎(chǔ)設(shè)施項目和民用空間基礎(chǔ)設(shè)施項目等。可見,運用公私合作模式搭建自動駕駛汽車數(shù)據(jù)中心并不缺乏政策基礎(chǔ)。在實踐探索方面,我國北京地鐵4號線的成功以及全球新冠疫情期間COVAX疫苗的研發(fā)和投產(chǎn)運用皆為公私合作模式的有力背書。④然而,公私合作模式也受到過質(zhì)疑。比如有研究指出,公私合作在發(fā)展中國家的表現(xiàn)未及預期,經(jīng)濟和行政成本遠超所得利潤。③再如,有學者認為公私合營存在內(nèi)生矛盾,它既需要明確區(qū)分公共和私人領(lǐng)域的法律框架,本質(zhì)上卻又扭曲這種區(qū)分,政府機構(gòu)在合作中通常居于被動。而地方政府隱性舉債等問題頻發(fā)亦說明此類觀點并非空穴來風??梢哉f,我國公私合作模式的探索經(jīng)歷了“風雨的十年”。①另外,國外也有學者指出由于公私合作模式的合約期一般較長,中標企業(yè)在此時期內(nèi)構(gòu)成“準壟斷”,故可能會對創(chuàng)新有一定的抑制。②因此,運用公私合作模式構(gòu)建自動駕駛汽車數(shù)據(jù)存儲中心應(yīng)格外審慎。換言之,宜對傳統(tǒng)的公私合作模式進行適度改造,避免重蹈公私合作既往之覆轍。

具體而言,在自動駕駛汽車數(shù)據(jù)存儲中心的公私合作項目中,宜明確政府機構(gòu)的最終解釋權(quán),承認政府機構(gòu)在合作項目中的行政強勢屬性。于此,可防范地方企業(yè)借經(jīng)濟優(yōu)勢向地方政府施壓,同時也利好于政府協(xié)調(diào)參與建設(shè)項目各方的糾紛。申言之,公私合作模式是政府行政之手段、方法,其精髓在于功能主義,故并無爭論政府在該模式下法律地位之必要。③另外,參與項目建設(shè)之私人資本方的權(quán)利義務(wù)應(yīng)當明確具體以免爭議滋擾。④為避免“管理游說(Managed Lobbying)”③導致地方政府向本地企業(yè)傾斜,還需加強中央政府對地方政府的監(jiān)管力度以防止公眾利益受損?;趯俚毓芾砗驮囧e成本的考量,自動駕駛數(shù)據(jù)中心還宜采取循序漸進做法,即先在數(shù)字化程度較高的地區(qū)試點,不宜過早準備國家級數(shù)據(jù)中心。需要注意的是,不應(yīng)對中小型自動駕駛汽車企業(yè)設(shè)置歧視性門檻。同時,亦不宜強制此類企業(yè)向數(shù)據(jù)中心分享數(shù)據(jù)。短期來看,強制共享數(shù)據(jù)有利于數(shù)據(jù)積累,但長遠來講,會削弱這些企業(yè)在數(shù)據(jù)安全研發(fā)方面的積極性。進言之,政府不宜強制調(diào)用社會資源,否則便會喪失正義的基本價值。

在模式選擇上,自動駕駛數(shù)據(jù)中心項目宜選取BTO(build-transfer-operate)模式。先由私人資本方出資修建數(shù)據(jù)中心,地方政府取得建成后的數(shù)據(jù)中心所有權(quán),交付后由政府與私人資本方共同運營數(shù)據(jù)中心。最重要的是,宜從根本上轉(zhuǎn)變公私合作中政府的“出資模式”。以往經(jīng)驗表明,公私合作總被視為政府融資的工具。另外,公私合作項目總是呈現(xiàn)一種重建設(shè)而輕經(jīng)營的畸形樣態(tài)??梢?,既往之公私合作模式冠以合作之名而乏合作之實。鑒于此,自動駕駛數(shù)據(jù)存儲中心建設(shè)移轉(zhuǎn)完成后,政府和社會資本方的合作應(yīng)更深入。由此,政府便不再以債務(wù)人的方式和社會資本方合作,而是以政府公信力作為保障與社會資本方構(gòu)成實質(zhì)意義上的合作關(guān)系。此將促成自動駕駛汽車數(shù)據(jù)成體系化管理,同時為嗣后大數(shù)據(jù)時代的公私合作模式提供范本。

(三)解釋“重要數(shù)據(jù)”+羅列“友好名單”

重要數(shù)據(jù)本質(zhì)上是一個抽象法律概念,不經(jīng)解釋則無以適用。作為數(shù)據(jù)跨境傳輸關(guān)鍵合規(guī)點的重要數(shù)據(jù)亟須進一步澄清內(nèi)涵。為降低自動駕駛汽車數(shù)據(jù)跨境傳輸過程中重要數(shù)據(jù)外流,宜進一步細化“分級制度”。本文建議,可嘗試通過以風險分層理論為基礎(chǔ)的“三級三類”框架來劃分數(shù)據(jù)傳輸?shù)娘L險等級并實行對應(yīng)的傳輸標準。涉及國家安全以及我國公民身份識別信息的自動駕駛汽車數(shù)據(jù)對應(yīng)“禁止性風險”,即此類數(shù)據(jù)禁止跨境流通;視自動駕駛汽車所收集的一般駕駛數(shù)據(jù)(如匿名化后的駕駛習慣、娛樂軟件偏好)為“預防性風險”,未經(jīng)國家嚴格審查和批準不得出境;自動駕駛汽車在運行過程中產(chǎn)生的車輛數(shù)據(jù)(如硬件磨損、勻速等)則對應(yīng)“可容忍風險”,即經(jīng)審批后方可跨境傳輸。此外,在實踐中還應(yīng)采取爭議升格的做法,若對某一類數(shù)據(jù)歸為何類有爭議的,均應(yīng)上升一檔風險級別。

此外,我國目前建立的數(shù)據(jù)跨境傳輸制度具有高度的預設(shè)性質(zhì),而同時又缺乏數(shù)據(jù)跨境流通的實踐經(jīng)驗。因此,宜羅列自動駕駛汽車數(shù)據(jù)跨境流通的“白名單”:先選取一些與我國在軍事、情報和經(jīng)濟方面有密切合作的國家(如東盟數(shù)字經(jīng)濟體)①作為“數(shù)據(jù)傳輸合作國家(地區(qū))”,積極開展自動駕駛汽車數(shù)據(jù)跨境傳輸試驗,以檢驗我國現(xiàn)行數(shù)據(jù)跨境傳輸制度并為后續(xù)政策的出臺與完善供以實踐依據(jù)。其中,對個別友好國家可給予一定程度的“優(yōu)惠政策”,比如,由專項小組負責數(shù)據(jù)跨境傳輸?shù)母咝徟?,而不賦予其絕對的數(shù)據(jù)豁免權(quán)。②在具體操作時,還應(yīng)當將法律和計算機技術(shù)結(jié)合,借助技術(shù)手段(如“假名化”)進行數(shù)據(jù)加密,以防止傳輸過程中的數(shù)據(jù)泄露、還原。③此外,在不涉及國家安全、主權(quán)等核心利益時,還可以運用國際仲裁來解決跨境數(shù)據(jù)傳輸?shù)募m紛。④

六、結(jié)論

數(shù)據(jù)并非石油,而是社會現(xiàn)實同法律秩序共同作用的產(chǎn)物。③數(shù)據(jù)治理的興起是科技沖擊社會之后的剛性需求。自動駕駛汽車的數(shù)據(jù)治理雖然強調(diào)秩序,卻不反對數(shù)據(jù)自由流通,更不等同于在數(shù)據(jù)上搞“小院高墻”。盡管自動駕駛汽車數(shù)據(jù)治理強調(diào)實踐的重要性,亦不否認其自身需遵循一定的理念、原則和價值。數(shù)據(jù)治理是一門平衡各方利益與需求的藝術(shù)。本文認為,消解自動駕駛汽車數(shù)據(jù)安全風險應(yīng)做到以下三點:其一,自動駕駛汽車數(shù)據(jù)收集需要完成行政審批,對商業(yè)信譽和市場評價較高之企業(yè)適用“備案制”,對其他企業(yè)則需要獲得批準后才能制定、增修數(shù)據(jù)收集的類目、范圍。其二,地方政府和車企在政府主導的公私合作模式框架下合作建立自動駕駛汽車數(shù)據(jù)中心以實現(xiàn)數(shù)據(jù)存用的體系化監(jiān)管。其三,需借助“三級三類”理論框架澄清自動駕駛汽車語境之下重要數(shù)據(jù)的內(nèi)涵,同時劃定一份數(shù)據(jù)跨境流通“白名單”,逐步推進自動駕駛數(shù)據(jù)跨境傳輸試驗。最后,基于對數(shù)據(jù)收集、數(shù)據(jù)存用和數(shù)據(jù)跨境傳輸方面的經(jīng)驗積累,我國數(shù)據(jù)治理還需要積極培育“本土意識”,探索出一套符合我國國情和數(shù)據(jù)實踐的最佳方案,避免對國外的“布魯塞爾效應(yīng)”形成路徑依賴。

責任編輯:張昌輝

主站蜘蛛池模板: 97久久精品人人| 免费在线国产一区二区三区精品| 亚洲国产中文在线二区三区免| 日韩欧美国产中文| 香蕉综合在线视频91| 亚洲精品手机在线| 久久精品国产999大香线焦| 久久国产精品嫖妓| 色综合激情网| 国产99精品久久| 久久99蜜桃精品久久久久小说| 亚洲综合18p| 成人字幕网视频在线观看| 少妇极品熟妇人妻专区视频| 中文字幕av无码不卡免费| 亚洲热线99精品视频| 国产精品爆乳99久久| 国产sm重味一区二区三区| 色香蕉网站| 国产二级毛片| 国产精品久久久久无码网站| 亚洲精品日产AⅤ| 成人免费黄色小视频| 欧美亚洲日韩不卡在线在线观看| 亚洲第一视频网| 亚洲色偷偷偷鲁综合| 國產尤物AV尤物在線觀看| 久久精品中文字幕免费| 国产精品亚洲欧美日韩久久| 欧洲亚洲一区| 97在线国产视频| 国产视频一区二区在线观看| 四虎成人精品| 亚洲首页在线观看| 国产情侣一区二区三区| 红杏AV在线无码| 久久性妇女精品免费| 二级特黄绝大片免费视频大片| 最新亚洲人成无码网站欣赏网| 精品国产中文一级毛片在线看| 综合色婷婷| 无码中文字幕加勒比高清| 国产成人高清在线精品| 97久久免费视频| 欧美日韩在线亚洲国产人| 99久久国产综合精品2023 | 亚洲Av激情网五月天| 日韩毛片基地| 日韩在线播放中文字幕| 久久免费看片| 久久亚洲中文字幕精品一区| 99久久国产综合精品女同| 激情爆乳一区二区| 欧美精品亚洲二区| 国产成人无码Av在线播放无广告| 日韩精品无码免费专网站| 国精品91人妻无码一区二区三区| 国产成人精品一区二区| 午夜毛片免费观看视频 | 国产精品林美惠子在线观看| 亚洲精品色AV无码看| 久久www视频| 国产成人综合网| 波多野结衣的av一区二区三区| 国产免费久久精品44| 三上悠亚精品二区在线观看| 99精品免费在线| 香蕉国产精品视频| 国产91精选在线观看| 在线欧美日韩国产| 亚洲AV永久无码精品古装片| 91亚洲精选| 91精品国产91欠久久久久| 精品欧美视频| 男女性午夜福利网站| 97久久免费视频| 国产午夜看片| 伊伊人成亚洲综合人网7777| 成年人国产网站| 国产精品观看视频免费完整版| 激情综合图区| 亚洲精品自拍区在线观看|