999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

超級平臺算法價格歧視的反壟斷規制*

2023-03-09 09:43:54程雪軍
法治研究 2023年1期
關鍵詞:人工智能消費者法律

程雪軍

一、問題之緣起

近年來,在網絡數據日益沉淀以及人工智能技術深化發展的驅動下,各個生活消費場景(如電子商務、智能出行、餐飲外賣、旅游酒店以及網絡游戲等)紛紛出現各種超級平臺,并且形成了各具特色的平臺類型與功能。然而,什么是超級平臺?目前學術界與實務界并沒有達成統一定義。不過,根據國家市場監管總局于2021 年頒布的《互聯網平臺分類分級指南(征求意見稿)》(以下簡稱《征求意見稿》)可知,所謂超級平臺,它是指同時具備超大用戶規模、超廣業務種類、超高經濟體量和超強限制能力的平臺:在用戶規模上,其年度活躍用戶數不得低于5 億人;在業務種類上,其核心業務不得低于兩類;在經濟體量上,其市值或估值不得低于1000 億元;在限制能力上,其具有強有力的限制平臺商戶接觸消費者的能力。誠然,超級平臺企業基于大數據、人工智能等技術手段通過算法(Algorithm)優勢為消費者提供了豐富多樣的產品或服務,為社會經濟發展創造了一定價值,具有相當程度的正外部性。然而,超級平臺企業并非總是具有正外部性,它們同樣可能過度使用人工智能算法技術,存在著較為嚴重的侵害消費者權益的行為,從而引發學術界與實務界的廣泛關注。一方面,“大數據殺熟”、網絡消費算法促銷、電商平臺搜索競價排名、網絡直播算法推送等違反法律規定與公序良俗的事件層出不窮;另一方面,超級平臺企業通過刷好評隱差評使消費者評價的結果失真,利用人工智能算法技術限制消費者交易與價格歧視事件等屢見不鮮。究其本源,這些問題的核心在于超級平臺企業通過對算法技術的濫用,攫取產品或服務的超額利潤,并損害消費者權益。

隨著大數據、人工智能等信息技術的日益興起,人工智能算法逐步滲透到社會經濟發展的全流程,覆蓋到人們生活的每個角落。各種智能終端(電腦、智能手機、智能手表等)為“算法社會(Algorithm Society)”提供了智能硬件設備,各種軟件應用程序為“算法社會”提供了智能軟件程序,從而極大地增強了百姓融入“算法社會”的可能性,并成為超級平臺企業應對激烈市場競爭的重要手段。然而,當冰冷的算法技術直入火熱的消費社會時,一些消費者被算法技術“牢牢綁定”,另一些消費者被算法技術“排斥出局”。其中,與每個消費者日常生活息息相關的便是算法價格歧視(Algorithm Price Discrimination,簡稱APD)。關于算法價格歧視,目前并沒有形成統一的法律定義,不同學者對其稱呼有所不同,有“大數據殺熟”①參見詹馥靜、王先林:《反壟斷視角的大數據問題初探》,載《價格理論與實踐》2018 年第9 期。、大數據價格歧視②參見付麗霞:《大數據價格歧視行為之非法性認定研究:問題、爭議與應對》,載《華中科技大學學報(社會科學版)》2020 年第2 期。以及人工智能時代個性化定價③參見承上:《人工智能時代個性化定價行為的反壟斷規制——從大數據殺熟展開》,載《中國流通經濟》2020 年第5 期。④參見周圍:《人工智能時代個性化定價算法的反壟斷法規制》,載《武漢大學學報(哲學社會科學版)》2021 年第1 期。等,也有更精確一些的“算法消費者價格歧視(簡稱ACPD)”⑤參見喻玲:《算法消費者價格歧視反壟斷法屬性的誤讀及辨明》,載《法學》2020 年第9 期。或算法價格歧視(APD)⑥參見趙海樂:《當權利面對市場:算法價格歧視的法律規制研究》,載《華中科技大學學報(社會科學版)》2021 年第3 期。。總體來說,現有研究通常將算法價格歧視看作一種行為或相似行為在不同語境下的表述,不過大部分研究者在對其研究時,常常將其區分為“算法”和“價格歧視”的方式來進行理解:一方面,所謂算法(Algorithm),它是計算機科學背景下一系列解決問題的步驟指令,亦是通過編程衍生的計算程序。⑦參見馬長山:《邁向數字社會的法律》,法律出版社2021 年版,第55 頁。算法技術深度應用于社會經濟發展之中,形成了算法社會,杰克·巴爾金(Jack Balkin)將其定義為由算法、機器人和人工智能圍繞社會、經濟發展決策所組成的社會。⑧參見[美]杰克·巴爾金:《算法社會中的三大法則》,劉穎、陳瑤瑤譯,載《法治現代化研究》2021 年第2 期。算法技術同時也成為超級平臺企業參與社會市場競爭的技術“武器”。另一方面,所謂價格歧視(Price Discrimination),它是經濟學背景下的一種價格差異,可將其分為一級、二級與三級價格歧視。其中,三級價格歧視是一種群體歧視,即對不同市場中的群體性參與人員所采取的歧視(如貸款優惠券、老人票);二級價格歧視是一種銷量歧視,即側重于數量方面的價格歧視,采取薄利多銷方式給予更多購買量的標價更低;一級價格歧視是一種完全價格歧視(個體歧視),它是指消費者購買同一件商品或者服務,超級平臺企業依照不同消費者的個人數據信息而“因客定價”,令消費者按照其可以接受的最高價格購買。那么,超級平臺算法價格歧視是否一定違反了反壟斷法?在2022 年6 月《反壟斷法(修正案)》通過之前,我國《反壟斷法》第17 條明文禁止差別待遇,即禁止“沒有正當理由,對條件相同的交易相對人在交易價格等交易條件上實行差別待遇”,該條款被視為規制算法價格歧視的主要依據。⑨參見許身健、郜慶:《反壟斷視閾下的算法價格歧視問題》,載《中國法律評論》2022 年第3 期。但是,反壟斷法能不能對人工智能技術興起下的超級平臺算法價格歧視行為進行有效的規制呢?對于這個問題,我國于2022 年6 月正式頒布《反壟斷法(修正案)》,通過新增第9 條“經營者不得利用數據和算法、技術、資本優勢以及平臺規則等從事本法禁止的壟斷行為”,首次確立了防止數據與算法壟斷行為。

通過參照計算機科學層面的算法、經濟學理論層面的價格歧視以及《反壟斷法(修正案)》層面的定義,本文將超級平臺算法價格歧視定義為市場經營者(超級平臺)以大數據與人工智能為技術依托,根據消費者的消費水平、消費習慣、消費偏好等因素繪制“個性化消費肖像”,通過算法技術對不同消費者分別實施“個性化定價”,從而實現其利潤最大化(一級)的價格歧視行為。綜合而言,超級平臺算法價格歧視具有幾個顯著特點:一是法律主體是超級平臺經營者;二是法律載體上以超級平臺為依托,通過人工智能算法技術工具,對消費者信息進行深度分析;三是法律行為上表現為不同主體不同價格,最常見的是“大數據殺熟”;四是超級平臺算法價格歧視主要針對的對象是各類消費者。由于當前《反壟斷法(修正案)》及其相關法律規范對于超級平臺算法價格歧視行為缺乏必要的反壟斷規制,而人工智能技術背景下的超級平臺算法價格歧視行為又無處不在,且嚴重地侵害了消費者合法權益并破壞了市場公平競爭秩序,基于此,本文從超級平臺視角切入,通過探求其算法價格歧視的興起、成因與異化風險,從而積極構建超級平臺算法價格歧視的反壟斷規制體系。

二、超級平臺算法價格歧視的興起與成因

(一)算法價格歧視的技術基礎

“算法”原本是計算機學科上的概念,具有學科專業性。隨著人工智能時代下信息化進程的加快,“算法”也逐漸步入民眾的生活。目前,學術界對于算法的定義主要從技術角度展開,美國學者克里斯托弗·斯坦納(Christopher Steiner)在《算法帝國》中指出:“算法的核心就是按照設定程序運行以期獲得理想結果的一套指令。”⑩[美]克里斯托弗·斯坦納:《算法帝國》,李筱瑩譯,人民郵電出版社2014 年版。以色列學者尤瓦爾·赫拉利(Yuval Harari)在《未來簡史》中指出“算法并不是單指某次獨立的運算,而是計算時所采用的方法。”?[以色列]尤瓦爾·赫拉利:《未來簡史》,林俊宏譯,中信出版社2017 年版。我國有些學者認為“算法是指從待求解問題出發,將解決問題的過程模式化的一系列步驟指令。”?杜宴林、楊學科:《論人工智能時代的算法司法與算法司法正義》,載《湖湘論壇》2019 年第5 期。然而,如何從法律層面對算法作出具體的界定?本文認為算法屬于計算機數據的一種,它是指任何以電子或非電子形式對信息的記錄。從本質上看,算法是一種特殊的“電磁記錄”。假如從經濟法視角剖析超級平臺算法價格歧視行為,那么算法價格歧視至少在兩個層面會受到經濟法規制:一方面,算法可以被視為《反不正當競爭法》中的商業秘密,理應受到《反不正當競爭法》的法律規制。根據《最高人民法院關于審理侵犯商業秘密民事案件適用法律若干問題的規定》:“與技術有關的……算法、數據、計算機程序及其有關文檔等信息,人民法院可以認定構成反不正當競爭法第九條第四款中所稱的技術信息”;另一方面,誠如英國學者阿里爾·扎拉奇(Ariel Ezrachi)在《算法的陷阱:超級平臺、算法壟斷與場景欺騙》中所描述的,算法驅動型經濟(Algorithm-driven Economy)下的超級平臺為民眾帶來普惠與便利之時,也會帶來算法壟斷。在我國《反壟斷法(修正案)》通過之后,算法價格歧視可能構成“利用數據和算法……等從事本法禁止的壟斷行為”,理應受到《反壟斷法》的法律規制。

從算法技術的特征來看,它具有中立性、確定性以及隱秘性。首先,算法具有中立性。算法本身是由一系列技術信息構成的,它的本質具有中立性,受到“技術中立原則”的保護。從技術的基本原理看,算法理應具有一種中立的非侵權用途,但一旦將算法與海量數據相結合,超級平臺便可通過算法技術形成高價值數據資源,侵權與否還需要考察技術使用者的主觀狀態及客觀行為。此時,超級平臺基于自身逐利性的屬性,可能對廣大消費者以及其他經營者權益造成侵害。算法本身沒有是非之分,一項包含算法的行為既可能被用以助力市場經濟發展也可能被當作一種侵權的手段,而具體如何定性則需要結合技術開發者、運營商的主觀狀態、客觀行為以及主客觀之間存在的不一致性來進一步判斷。其次,算法具有確定性。所謂算法的確定性,它是指人工智能算法在運行過程中每個步驟與步驟之間必須具有較強的緊密聯系,各個步驟之間應當環環相扣、邏輯嚴密,即前一步驟的算法指令的成功運行是后一步驟的算法指令的前提,后一步驟算法指令的高效執行是前一步驟算法指令運行的必然結果。算法最后指令的執行完成輸出的結果必須是確定的而不能是模棱兩可的。最后,算法具有隱秘性。算法是隱藏在表面之下的運作程序數據,除了專業技術開發人員,普通用戶基本上很難接觸到算法。因而算法對包括消費者在內的社會大眾而言是不透明不公開的,這一狀況又被稱為“算法黑箱(Algorithm Black Box)”。何謂“黑箱”?通常認為它是指那些不為人所知的不能打開、不能從外直接觀內狀態的系統。?參見張淑玲:《破解黑箱:智媒時代的算法權力規制與透明實現機制》,載《中國出版》2018 年第7 期。正因為人工智能算法猶如一個黑暗而不可知的“未知之幕”,所以學術界與實務界將其稱之為“算法黑箱”。算法的隱秘性會帶來一系列問題,如“算法價格歧視”“算法監獄”以及“算法暴政”等。

(二)超級平臺算法價格歧視的成因

在激烈的市場競爭中,各種超級平臺型企業通過深度應用互聯網、大數據與人工智能等新一代信息技術,形成本平臺的數據與算法優勢,基于規則引擎與算法模型,向消費者采取各種算法(包括推薦、價格以及流量算法等),對其推送相關的產品與服務,產生算法價格歧視(見下圖1):一方面,超級平臺向消費者推送個性化商品與服務,可以滿足消費者利益訴求,但可能侵犯消費者的自主選擇權及其隱私權;另一方面,通過算法模型向消費者實施“個性化定價”,這種“因客定價”模式既可能滿足市場經營者訴求,也可能對消費者帶來潛在的算法價格歧視。其中,“大數據殺熟”是超級平臺算法價格歧視最典型的表現形式。目前,無論國內還是國外的超級平臺企業,都常常曝出其利用消費數據進行個人消費習慣側寫,從而進行針對性定價,不斷攫取消費者的剩余價值,從而實現其自身的“算法超額利潤”。?參見程雪軍:《我國監管科技的風險衍生與路徑轉換:從金融科技“三元悖論”切入》,載《上海大學學報(社會科學版)》2022年第1 期。究其本質原因,可以將其概括為以下四個方面。

圖1:超級平臺算法價格歧視的成因路徑

1.技術手段隱蔽性高

在當前的技術背景下,雖然部分算法可以由自動編程系統編寫而得,但是絕大部分算法的源代碼仍然是編程者自身意志的衍生。換言之,對于絕大多數算法而言,它們可被人為控制其編程內容,旨在達到某一預設目的。然而,這種算法技術目的并不是通過傳統商業手段針對社會大眾的一般性調整予以達成,而是掩藏在紛繁復雜的海量數據中并通過個別性調整來實現。由此可見,人工智能算法技術更為精準和隱蔽,但它同時更加容易形成“算法黑箱”下的各種算法暗算、算法歧視與算法不公,而且不當牟利甚至交易欺詐在所難免。?參見賈媛媛:《區塊鏈融合驅動下的信用法治模式建構》,載《湖南社會科學》2021 年第4 期。此時,即使市場經營者(如超級平臺企業)被發現實施算法價格歧視,它們也可以通過人工智能算法技術手段及時隱藏,并且以價格波動及價格差異等原因對市場及其監管者進行辯解。人工智能算法因其技術復雜性以及可實現的“個性化”價格調配,無論是違法行為抑或是損害結果都難以令人發覺。

2.缺乏針對性條款規制

目前,我國多部法律規范均有涉及價格歧視問題的條款,但是這些法律規范有一個同樣的問題,即它們沒有從人工智能算法背景下對超級平臺價格歧視問題作出明確的法律規范,缺乏法律層面的針對性與可操作性。

第一,從《消費者權益保護法》角度來看,它側重于以消費者的公平交易權、知悉真情權范圍為核心,預防與制止對消費者實施價格歧視;第二,《價格法》作為專門規范價格的法律規范,盡管該部法律通過第14 條對不當價格行為作出了說明,但是這些羅列的法律規定并沒有涵蓋算法價格歧視問題;第三,我國于2019 年初正式實施《電子商務法》,該法第18 條指出電子商務經營者(如各級超級平臺)根據消費者個人特征(如消費習慣、興趣、偏好等)提供搜索結果時,應同時向消費者提供不針對個人特征的選項,并且在第77 條規定了配套的行政處罰責任,這是法律規范層面首次對算法背景下“個性化推薦”所作出的初步規制;第四,我國于2022 年6 月正式通過《反壟斷法(修正案)》,其第22 條第1 款第6 項并沒有對此前《反壟斷法》規定內容進行修正,依然規定“沒有正當理由不得對交易條件相同的相對人在交易價格上實施差別待遇”,該條被認為是算法價格歧視的反壟斷法規制之源。不過,《反壟斷法(修正案)》第22 條新增第2款:“具有市場支配地位的經營者不得利用數據和算法、技術以及平臺規則等從事前款規定的濫用市場支配地位的行為”,該條可視為對人工智能算法技術背景下超級平臺(具有市場支配地位的經營者)利用數據與算法等從事算法價格歧視行為的最新補正,彌補了此前《反壟斷法》的反壟斷規制漏洞。綜上所述,這些法律規范從本質上看都未對超級平臺算法價格歧視及其行為類型作出相對明確的法律規定,更別提進行有效的反壟斷法規制。

3.法律規制部門缺乏統一

由于法律規范對超級平臺算法價格歧視問題的規制比較散亂,導致法律執行與適用等過程中“多頭規制”的出現。在《電子商務法》中,對算法價格歧視行為進行執法并負責的機關為市場監督管理職責部門;在《價格法》中,對算法價格歧視行為有權監督檢查的部門是縣級以上人民政府價格管理部門。

不僅如此,行政執行機關在算法價格歧視行為上的執法力度、執法手段均有不同表現,而且權力責任的邊界具有模糊性:一方面,這導致市場參與主體(尤其是消費者)在面臨超級平臺的算法價格歧視行為時,實行法律救濟的難度顯著加大;另一方面,這也導致超級平臺的算法價格歧視行為存在著較大的違法“黑數”。眾多周知,現階段互聯網、大數據行業迭代速度非常快,而且高度依賴于外部投資,短期內唯有那些經濟效益好抑或是現金流量大的企業方能生存下去,而算法價格歧視正是助力超級平臺企業在短期內得到較快營收增長的途徑之一。倘若我國缺乏統一性的反壟斷法律規制部門,這可能導致市場上各類超級平臺濫用數據與算法資源廣泛實施算法價格歧視行為,牟取不當高額利潤,進而在市場上形成一種“劣幣驅除良幣”的發展態勢,最終對市場正常經營秩序造成沖擊。

4.企業內部管理機制失靈

在計算科學領域,算法本質上是一系列計算步驟的序列,它主要運用于復雜數據處理及其自動推理領域。?參見李帥:《共享經濟信息不對稱環境下的決策算法規制——以區塊鏈共識模型為規制思路》,載《財經法學》2019 年第2 期。從算法的技術屬性分析,它是人工智能技術的核心,是超級平臺企業收集、分析與處理數據并形成算法價格歧視的技術之路;從算法的發展重要性分析,它是各種超級平臺型企業在激烈的市場競爭中取勝的“技術法寶”以及“核心秘密”,其商業秘密與算法技術具有先天的“厭公開性”。

現在主流的超級平臺企業具有相當大的用戶與經濟體量規模,而且具備超廣的業務種類,這導致超級平臺企業的內部具有眾多部門,不同部門受制于考核機制的異同,對非核心且會損害部門經濟效益、改善用戶體驗的行為一般惰于協調。超級平臺企業合規部門抑或是客服部門作為邊緣部門,它們在同業務、技術部門談判時,其話語權一般不具有對等性,因此即使超級平臺企業的合規部門或客服部門能夠發現問題,也難以從企業內部進行解決,從而導致企業內部管理機制失靈,無法從企業自治層面預防與制止壟斷行為的發生。

三、超級平臺算法價格歧視的異化風險

(一)利用算法價格歧視侵害消費者權利的風險

關于超級平臺的算法價格歧視,是指超級平臺經營者通過大數據和人工智能算法技術對不同客戶實行“千人千面”的畫像,進而針對不同類型的客群收取不同價格的行為。不過,算法價格歧視是否屬于“獵巫”?當前政策乃至學術界關于利用數據與算法等資源濫用市場支配地位的認定,是否忽視了業界一些客觀合理的運營模式?

關于超級平臺的算法價格歧視問題,國務院反壟斷委員會于2021 年初頒布《關于平臺經濟領域的反壟斷指南》(以下簡稱《反壟斷指南》),指出基于大數據和人工智能算法技術對平臺用戶實行具有差異性的交易價格是判斷市場經營者是否構成差別待遇的判定條件之一。一方面,市場經營者(超級平臺)基于其在數據與算法資源層面的稟賦優勢,通過對不同消費者的價格接受程度進行深度的大數據分析與算法推送,便于其將消費者的消費剩余完全剝奪,給消費者的權益帶來較大侵害;?參見張江莉、張鐳:《平臺經濟領域的消費者保護——基于反壟斷法理論和實踐的分析》,載《電子政務》2021 年第5 期。另一方面,在市場經營者(超級平臺)的數據處理與算法定價過程中,容易形成網絡效應與規模效應等產業特點,使得消費者很難發現,也很難避免此類算法價格歧視,加劇了市場經營者對消費者消費剩余的剝奪。?參見申文君:《大數據經營者濫用市場支配地位的認定與規制》,載《中國流通經濟》2021 年第7 期。

關于算法價格歧視案例,通過中國裁判文書網搜索關鍵詞“算法價格歧視”可知,該類案件在國內超級平臺企業上屢見不鮮。當前,在旅游平臺(攜程網)、外賣平臺(美團、餓了么)、投資平臺(萬得投資管理公司)領域都存在算法價格歧視的相關案例,其中主要訴訟理由包括針對老客戶的定價通常高于新用戶,昂貴手機用戶定價高于廉價手機用戶,會員用戶費用明顯高于非會員用戶費用等。當一種算法價格歧視行為極難界定是否合法與合理時,那么對其進行法律規制便具有較大的復雜性:其一,由于這種基于大數據與算法技術而衍生的算法價格歧視行為過于狡猾,因此難以有效界定;其二,由于算法價格歧視行為的前置判斷(合法、合理性)具有較為嚴重的模糊性,導致缺乏有效的法律規制。

(二)利用算法價格歧視形成超級平臺的壟斷風險

對于超級平臺而言,算法技術可以幫助其自動執行常見的法律合規任務,降低自身的運營風險并嚴格遵循監管規章,但“做效率高的事”并不意味著總是“做正確的事”。?See Packin,Nizan Geslevich ."Regtech,Compliance and Technology Judgment Rule." Social Science Electronic Publishing,2017.法律合規是法律要求被監管機構(超級平臺)應當怎么做,但是超級平臺卻常常利用算法技術試探法律的界限,比如對消費者實施算法價格歧視行為。具言之,倘若我國缺乏統一規則對超級平臺濫用人工智能算法技術實施有效的反壟斷規制,那么各種超級平臺在逐利性與競爭性的刺激下,將會借助數據與算法優勢,采取各種算法模型(推薦、價格以及流量算法等),濫用市場支配地位并攫取“算法超額利潤”,從而可能形成算法壟斷。其中,最為常見的算法壟斷就是利用算法價格歧視損害交易相對方(消費者)的權益、鞏固其自身的市場地位,進而可能會出現算法壟斷風險等問題。

近年來,無論國內還是國外的超級平臺企業,都時常曝出各種利用消費者數據進行消費習慣分析事件,其目的在于對交易相對方(消費者)采取有針對性的算法壟斷定價。如果不對這些超級平臺企業的算法價格歧視實施反壟斷規制,那么這些平臺企業將會繼續加強在金融、實體與技術行業等層面的數據沉淀,通過“數據—網絡效應—算法—業務”的閉環效應產生算法價格歧視等新型算法壟斷,而且這種算法壟斷風險的危害性比傳統壟斷更大,因為它既可以是技術、金融與實體數據層面的集中壟斷,也可以是傳統壟斷形式的“混合壟斷”。

四、超級平臺算法價格歧視的反壟斷規制體系建構

隨著人工智能技術的不斷發展,傳統經濟增長點有所放緩。然而,在算法技術與資本無序擴張的驅動下,我國平臺經濟尤其是超級平臺經濟呈現出快速發展態勢。具體來說,這些平臺經濟利用技術創新快速崛起,憑借平臺企業內部的數據以及算法技術優勢,通過制定算法歧視性價格等手段來攫取巨額利益,從原先的小平臺企業逐步發展成為如今的超級平臺型企業,它們一方面給市場經濟的創新發展帶來了正外部性,另一方面也給市場經濟的公平有序發展帶來了負外部性。基于此,我國有必要從反壟斷規制原則與路徑層面,全面構建超級平臺算法價格歧視的反壟斷規制體系,促進超級平臺型企業的穩健化發展。

(一)算法價格歧視的反壟斷規制原則

1.從數據保護到算法規制原則

數據是人工智能算法技術創新發展的基礎。數據保護原則的理論依據來源于消費者作為數據生產者所享有的數據權利,數據權屬的明確是數據交易活動的基礎,而數據安全則是數據交易與利用的制度保障。?參見武長海、常錚:《論我國數據權法律制度的構建與完善》,載《河北法學》2018 年第2 期。在歐盟法律制度框架下,用戶數據權作為個人信息權與隱私權,被《歐盟基本權利憲章》(Chapter of Fundamental Rights of the European Union)視為一種“基本權利”,其法律性質等同于憲法所賦予的基本權利。從數據保護原則對算法價格歧視規制的實踐效果來看,歐盟以《通用數據保護條例》(General Data Protection Regulation,簡稱GDPR)為中心,通過賦予消費者一系列相關的數據權利,從而使得消費者有能力對抗超級平臺利用算法技術清洗、整合數據并施以差別待遇的行為,21參見成曼麗《:大數據時代算法歧視的協同治理》,載《中國流通經濟》2022 年第1 期。從法律制度上盡可能保護消費者在超級平臺交易過程中免受算法價格歧視的威脅。實際上,數據保護原則傾向于從權利角度出發對消費者的數據權益開展“賦權式”保護,進而對超級平臺算法價格歧視起到間接的限制作用。從數據保護原則的本質上看,其核心邏輯在于擴張個人權利抑制超級平臺的“算法權力”。

然而,數據保護原則作為一種權益救濟保障方式,并不能夠針對算法技術進行直接規制,進而導致數據保護措施對超級平臺算法價格歧視的法律規制效果欠佳。一方面,“賦權式”的保護路徑通常要求被賦權方(如消費者)在尋求權利救濟時應承擔相應的舉證證明責任,但由于算法具有天然的隱秘性和超強算力等特點,超級平臺的算法價格歧視往往操作于無形的動態變化之中。比如,相較于傳統超級市場中的商品定價,絕大部分電子商務平臺的商品定價信息可能隨著不同變量的設置而處于實時變化當中,22參見朱建海:《“大數據殺熟”反壟斷規制的理論證成與路徑優化》,載《西北民族大學學報(哲學社會科學版)》2021 年第5 期。這便導致消費者很難在超級平臺(如電子商務平臺)的網絡鏈接中截留并保存完整的證據,加之消費者在交易過程中存在的信息偏差以及舉證能力較弱等問題,僅憑碎片化的零散證據難以形成完整的證據鏈條,從而可能導致消費者有關證據因證明力不足而失效。在法律的具體實踐中,雖然法律規范可以通過舉證責任倒置的規則設定加以彌補,但是這依然無法改變數據保護對算法價格歧視側重事后規制和間接規制的效果。另一方面,“賦權式”的保護路徑不能排除消費者在尋求法律救濟的過程中可能因涉案范圍廣、案情復雜、舉證困難等因素而面臨漫長的司法流程。由此可見,從數據保護角度出發對超級平臺算法價格歧視的法律規制效果日漸式微,所以本文認為對超級平臺算法技術創新施以直接的糾偏與矯正,采取適當的算法規制措施就顯得尤為必要了。概言之,針對超級平臺算法價格歧視的算法規制原則主要表現為兩個子原則,即算法透明原則以及算法非歧視原則。

首先,無論從政治學、經濟學還是法學視角分析,透明原則均已成為現代政府規制的基本準則之一。23參見沈偉偉:《算法透明原則的迷思——算法規制理論的批判》,載《環球法律評論》2019 年第6 期。從透明原則的助益效果上看,算法透明不僅可以保護消費者的知情權,保護消費者免遭人工智能算法的決策擺布,還可以增強超級平臺“算法權力”的可問責性。算法透明原則旨在通過對自動化決策系統施以規制,即對超級平臺“數據輸入——算法運算——結果輸出”行為的全過程開展透明化的監督和管理,從而確保這一由超級平臺所主導的交易過程能夠達到平臺與用戶雙方權益平衡的標準。算法透明原則要求超級平臺在與消費者建立交易關系之前,必須履行將自動化決策系統的產品向消費者履行必要的告知義務,消費者有權要求超級平臺針對其輸出的個性化定制結果做出進一步的解釋和說明。此外,算法透明原則還應當賦予有關監管部門相應的審查權,監管部門除了能夠監測與管理算法代碼的構建邏輯之外,還能夠對超級平臺輸入算法運行程序的數據源進行把控,進而對超級平臺的數據使用起到監督和限制作用。總而言之,算法透明原則將超級平臺算法價格歧視的法律規制從事中事后階段提前至事前階段,并以更加主動的視角對超級平臺的算法價格歧視施以約束和限制,在很大程度上提升了法律尤其是反壟斷法規制的效率。

其次,在算法帶來的諸多法律挑戰中,“非歧視”已經成為各國政府部門、科研機構以及企業組織高度關注的議題并達成一定的共識。24參見李成:《人工智能歧視的法律治理》,載《中國法學》2021 年第2 期。算法非歧視原則要求超級平臺在算法運行的過程中不得施加任何帶有歧視性或偏向性的影響因素,不得使用錯誤信息誤導用戶做出決策。25參見朱巧玲、楊劍剛《:算法陷阱與規制跨越》,載《經濟學家》2021 年第1 期。從本質上看,算法非歧視原則有助于制衡平臺的“算法權力”。26參見曹博:《算法歧視的類型界分與規制范式重構》,載《現代法學》2021 年第4 期。超級平臺通過算法價格歧視將大量用戶數據截留在其平臺或關聯平臺內部,借由人工智能算法達到對某個市場或局部市場要素的絕對支配,從“算法權力”擴張至“平臺權力”,進而瘋狂攫取消費者剩余利益和價值。算法規制原則中的算法非歧視子原則強調通過制衡“算法權力”,緩解超級平臺對不同消費者群體在不同決策場景中的差別待遇情況,從而有效保障消費者福利的實現。對此,基于算法非歧視原則指導下的反壟斷法規制,需要重點從以下兩個方面展開:一方面,超級平臺作為技術開發者與應用者,有必要在事前算法風險評估階段引入算法非歧視原則,加強超級平臺企業自治,即在算法技術效果相類似的情況下,超級平臺應當優先選擇更有利于促進交易公平正義的方案,而不是算法歧視性方案;27同注前24。另一方面,有關監管部門也應當定期對超級平臺算法決策系統的技術方案、參數設置以及運算過程等方面展開非歧視性監測與評估,并進一步擬定人工智能算法的非歧視行業合規標準,以此加強對超級平臺算法價格歧視行為的反壟斷法規制。

2.反壟斷法與算法的二元共治原則

當市場“看不見的手”自治失靈時,法律規制作為“看得見的手”就應該及時出現,在不打壓人工智能算法技術創新發展的前提下加強法律規制,實現法律與算法的二元共治。隨著超級平臺經營業務跨行業、跨部門的混合發展趨勢,單一的競爭規制路徑已難以應對日漸復雜的平臺型經濟模式,超級平臺所引發的包括算法價格歧視在內的許多新型市場問題,不僅涉及市場主體間的公平競爭利益,還涉及市場基礎的社會公共利益,因為算法價格歧視直接影響的對象是廣大消費者群體,它們是市場經濟發展的重要基石。因此,針對超級平臺的算法價格歧視行為,我國不應再拘泥于傳統的歧視性定價或價格差別待遇的反壟斷規制,而應當將其置于超級平臺算法應用的特殊場景下綜合考慮,轉向反壟斷法與算法的二元共治之路。

從反壟斷法與算法的二元共治的理論基礎來看,在面對超級平臺算法價格歧視問題時,反壟斷法規制與算法規制具有目標上的趨同性和手段上的互補性。首先,從規制目標上看,反壟斷法規制的宗旨在于矯正超級平臺通過算法價格歧視排除或限制競爭,從而有效保護市場的公平競爭以及有序運行,切實維護消費者權益與社會公共利益;而算法規制的宗旨在于規范超級平臺的技術應用行為,保證算法技術作用于不同場景時的合法合規邊界,避免算法技術觸發倫理道德問題,侵害消費者權益。雖然反壟斷法規制與算法規制可能在規制階段上有一定的錯層,但是兩者形式上的差異并不妨礙其最終目的均落腳于消費者權益保護的本質。其次,從規制手段上看,作為素來有“經濟憲法”之稱的反壟斷法,其在市場規制法領域的基礎性地位是毫無疑問的。反壟斷法通過一般性的中立視角對超級平臺的算法價格歧視與算法壟斷行為進行規制,這種反壟斷法規制是相對宏觀層面的法律規制;而算法規制能夠更加精準地切入平臺技術應用的本質,從算法如何進行價格歧視的技術根源上尋求規制進路,這種規制是相對微觀層面的技術規制。總的來說,反壟斷法規制側重對市場主體即超級平臺企業宏觀層面的法律規制,算法規制強調對超級平臺企業微觀層面的技術規則。反壟斷法與算法二元共治的原則,充分體現了宏觀層面與微觀層面相結合的規制思路,具有明顯的規制互補效應。

從反壟斷法與算法二元共治的實踐依據來看,二元共治原則主要來源于對超級平臺壟斷行為規制理念的轉變。《反壟斷指南》將平臺定義為“通過網絡信息技術,使相互依賴的雙邊或者多邊主體在特定載體提供的規則下交互,以此共同創造價值的商業組織形態”。根據國家市場監管總局2021 年發布的《征求意見稿》,其明確指出超級平臺是兼具超大用戶規模、超廣業務種類、超高經濟體量、超強限制能力屬性的平臺。在國外,學術界與實務界一般將超級平臺稱之為大科技平臺(BigTech),即在數字服務市場中占有一席之地并擁有成功數字平臺的科技公司,比如美國的亞馬遜(Amazon)、臉書(Facebook)和谷歌(Google)等;在國內,學術界與實務界一般將此類平臺稱之為互聯網平臺或超級平臺,比如百度、阿里巴巴與騰訊。28See René M.Stulz ."FinTech,BigTech,and the Future of Banks." NBER Working Paper No.26312,2019.在超級平臺經濟興起之初,由于其在發展上具有盲目性和模糊性等特征,導致學術界與實務界在一定程度上夸大了反壟斷法對平臺的規制作用。不過,隨著超級平臺利用數據資源與算法技術優勢,逐步擴張其平臺業務領域版圖之后,某個國家僅靠單一的反壟斷法律政策與規范似乎略顯“單薄”。近年來,法律政策制定者逐步意識到對超級平臺施以多元化、綜合化規制措施的必要性,并進一步在若干政策領域采取行動,比如市場競爭、數據保護、數據共享、業務操作以及金融穩定等。29See Juan Carlos Crisanto,Johannes Ehrentraud,Aidan Lawson and Fernando Restoy ."Big tech regulation:what is going on?." FSI Insights on policy implementation .2021.2022 年1 月,國家發改委等九部門聯合印發《關于推動平臺經濟規范健康持續發展的若干意見》(以下簡稱《若干意見》),指出針對平臺企業應當從競爭監管、金融監管、數據和算法安全監管三個方面出發,以多元、綜合的視角對超級平臺的經營活動行為進行規制。2022 年6 月,我國《反壟斷法(修正案)》在最新的法律修訂中同樣體現了針對新型算法壟斷行為(如算法價格歧視)的規制原則和精神,進一步印證了反壟斷法與算法二元共治的實踐訴求。

基于此,對于超級平臺算法價格歧視的規制,需要堅持反壟斷法與算法的二元共治原則。一方面,針對超級平臺算法價格歧視異化的算法壟斷風險,我國應當加強反壟斷法規制。對于超級平臺利用人工智能算法定價和共謀定價所衍生出的算法價格歧視與算法壟斷風險,雖然反壟斷法規制的對象系超級平臺的行為,而非技術本身,但面對人工智能算法運行過程中所牽涉要素的復雜性,反壟斷法在規制超級平臺算法價格歧視時,應注重與相關數據法之間的聯動,規范超級平臺對數據的采集、分析與處理,強化超級平臺的數據合規建設,從而促進超級平臺企業的反壟斷合規,從企業自治層面達到源頭治理的效果。30參見王先林、曹匯:《平臺經濟領域反壟斷的三個關鍵問題》,載《探索與爭鳴》2021 年第9 期。例如,2022年5 月4 日,德國聯邦卡特爾局(簡稱FCO)認定臉書(Facebook)母公司元宇宙平臺(Meta Platform)已經觸犯了《德國反限制競爭法》第19a 條有關超級平臺的規制要求,因為它們不當地獲取與組合數據、妨礙產品服務的互操作性,可能利用“數據+算法”的模式快速取得壟斷地位阻礙相關市場公平競爭,這將直接影響數據的可攜帶性,對此FCO 表明在未來5 年中將對Meta Platform 實行特殊的反壟斷事前行為監管,并對其展開更為嚴格的執法調查與處罰力度。31參見袁嘉、劉新月《:德國監管機構對Meta 等超級平臺實施反壟斷事前監管的大幕開啟》,載《Internet Law Review》(2022-07-05),https://mp.weixin.qq.com/s/aLM9gHYqWvIuojSLuFPmhg.此外,在分析超級平臺的算法價格歧視是否達到排除限制競爭的效果時,按照傳統反壟斷法的定性分析路徑,實際上很難與數字經濟時代下算法價格歧視具有的新特點保持邏輯上的閉環連接。因此,在認定超級平臺存在算法價格歧視并排除、限制市場競爭的相關因素時,我國需要根據《反壟斷指南》與《反壟斷法(修正案)》中最新法律規制的新思路,綜合考慮技術壁壘、網絡效應、鎖定效應、跨界競爭等多種影響因素,對超級平臺的算法價格歧視與算法壟斷問題加以綜合判斷。另一方面,針對超級平臺利用算法實施價格歧視的行為,我國應當同時施以算法規制。反壟斷法規制雖然考慮了技術帶來的壟斷影響,但并不能對算法技術的運行起到直接的約束作用,因此,通過規制算法的技術性操作進而規范超級平臺對海量數據的使用亦顯得尤為必要:一是需要建立健全算法的透明和公開制度,授權監管部門對超級平臺人工智能算法的定價程序進行定期測評、定價過程開展全程監督,將超級平臺的算法歧視性定價從事中事后規制前移至事前規制;二是應當強化對消費者進行“賦權”以對抗超級平臺“算法權力”,不斷完善事后救濟與保障措施。其中,美國2021 年通過頒布《平臺競爭和機會法案》(Platform Competition and Opportunity Act,簡稱PCOA),賦予任何因平臺違法行為而遭受業務或財產上損害的受損者,都有權向被告所在地區的任何地區法院提起訴訟并請求三倍懲罰性賠償和禁令救濟等。32See Platform Competition and Opportunity Act,Article7,2021.簡言之,PCOA 在反壟斷法規制上的前瞻性,對我國進一步完善算法規制有一定的借鑒意義。

(二)算法價格歧視的反壟斷規制路徑

1.加強超級平臺企業的數據合規建設

隨著數據服務的場景日益拓寬,人工智能算法技術給市場經濟發展帶來了效率與普惠效果。數據成為重要的生產要素,儼然成為社會共識。其中,超級平臺企業作為數據資源的“集大成者”,具有數據與算法資源方面的優勢,但同時涌現數據交易、權屬與合規問題。

現有單向的傳統法律規制模式,可能已經難以適應不斷發展的人工智能產業。為促進超級平臺企業良性發展,就必須從算法價格歧視的源頭出發,加強超級平臺企業內部的數據合規建設:其一,超級平臺企業需要根據“信息安全三法”(《網絡安全法》《數據安全法》《個人信息保護法》)等制定消費者信息保護合規政策,從企業自治層面清晰地界定企業自身經營的行為邊界,建立健全完整的數據保護合規政策,履行數據安全管理義務。其二,超級平臺企業應當從數據收集、使用與處理的全流程強化企業數據合規建設。在數據收集層面,超級平臺企業需要合理限定收集信息的范圍,將收集信息的頻率與數量控制在合理限度內。在數據使用層面,超級平臺企業應根據實際需要,對消費者信息“去標識化”,在傳輸和存儲消費者信息時采取加密措施并設置相應的訪問權限,而且超級平臺企業向他人提供消費者信息需要經過被收集者(消費者)同意與授權。在數據處理層面,未經被收集者(消費者)同意與授權,超級平臺企業需要對所提供的信息進行匿名化處理,或者經過處理無法識別特定個人并且具有不可復原性。另外,超級平臺企業應當盡量對合作伙伴或第三方開展盡職調查,確保它們具有合法使用目的,避免消費者信息被用于違法犯罪活動。33參見陳瑞華:《大數據公司的合規管理問題》,載《中國律師》2020 年第1 期。其三,超級平臺企業(如銀行、證券、電商等)內部人員的違法犯罪行為,已經成為監管執法和刑事偵查的重點領域。為防范內部人員的數據犯罪風險,超級平臺需要通過技術保證數據方位的可回溯性,以便企業發生數據泄露時,能夠通過審查訪問日志等技術手段找到對應的數據泄露人員。

總而言之,我國需要倒逼超級平臺企業的數據合規建設,從多層次對超級平臺企業的數據合規問題進行法律規制,并為超級平臺企業建立具體的數據管理合規指引。

2.對消費者數據賦權以對抗“算法權力”

隨著人類社會逐步進入算法時代,對消費者進行信息保護已成為國際趨勢。在國外,歐盟與美國近年來陸續頒布了《通用數據保護條例》(GDPR)以及《加州消費者隱私權法案》(CCPA);在國內,我國自2003 年啟動個人信息保護立法研究以來,陸續通過《網絡安全法》《數據安全法》《個人信息保護法》,加強對消費者等個人的數據信息保護。

在平臺經濟發展中,個人信息的收集、分析與處理主要聚焦于信息所有者(消費者)與信息使用者(超級平臺企業)之間,因為兩者在正常的民商事交易過程中具有平等的人身與財產關系,因此它們在傳統法律規制范疇內常常被界定為私法規制領域。然而,隨著人工智能算法的興起與深度利用,以超級平臺為代表的信息使用者獲得快速發展,而且消費者信息利用場景發生顯著變化,此時傳統私法規制模式難以為消費者信息提供足夠的法律保護。第一,信息所有者(消費者)與信息使用者(超級平臺企業)之間的市場力量具有顯著差異,消費者在平臺經濟時代的力量更為弱小,倘若采取平等的私法規制,可能難以有效保護消費者信息權,反而加重兩者之間的實質不平等。第二,人工智能算法技術的深化與市場經濟的強化,使得消費者信息保護與利用在平臺經濟發展中充滿現實的張力,傳統私權規制模式無力調和信息所有者(消費者)與信息使用者(超級平臺企業)之間的利益沖突與權利緊張,容易造成消費者信息流動失序。第三,相對于人身與財產性侵害,消費者信息侵害大多是輕微的社會性侵害,而且具有間接性與隱秘性,消費者作為受害人常常怠于行使自身的訴訟權利,導致事后法律救濟往往面臨失靈的境況。由此可見,傳統民商法下的個人本位理念與私法進路,已經難以滿足算法時代下個人信息保護的現實需要,因為數據信息既可能增進與發展消費者權利,也可能威脅與侵蝕消費者權利,超級平臺等數據使用者對所有者信息的濫用確實已不再是簡單的信息本身問題,而是對算法時代中主體身份構建、自由平等和自主性的嚴重侵蝕,34參見馬長山:《智慧社會背景下的“第四代人權”及其保障》,載《中國法學》2019 年第5 期。對此我國亟需轉變法律保護思維,賦予信息主體以更多權能,35參見王懷勇、常宇豪:《個人信息保護的理念嬗變與制度變革》,載《法制與社會發展》2020 年第6 期。從而對抗超級平臺“算法權力”,切實地維護消費者的綜合權益。

在具體的法律權利內容上,我國可以有選擇地借鑒歐盟《通用數據保護條例》(GDPR),該條例給數據主體賦予了持續了解其數據被收集和使用情形的權利(知情權和訪問權),糾正被用于識別分析的個人數據的錯誤的權利(更正權),同時在滿足一定條件時取回數據控制人處理后的數據并轉移給其他人的權利(數據移轉權),最后在特定情形下,數據主體還具有中止、拒絕處理甚至清除其數據的權利(限制處理權、拒絕權和清除權)。36參見高富平:《同意≠授權——個人信息處理的核心問題辨析》,載《探索與爭鳴》2021 年第4 期。只有不斷完善消費者作為信息所有者的數據權利保障體系,加強超級平臺企業內的消費者數據賦權,才可以在一定程度上對抗超級平臺企業的“算法權力”,37參見張凌寒:《“算法權力”的興起、異化及法律規制》,載《法商研究》2019 年第4 期。從而逐步提升消費者權利的私人救濟。

3.加強反壟斷法與算法的共同治理

目前,法律上面對算法價格歧視所存在的種種問題,主要缺乏對算法價格歧視的整體性把握。算法作為一種涉及公權力與私權利融合的新型交互性技術,倘若對超級平臺算法價格歧視進行合法合理的全面規制,那么我國需要逐步建立健全算法公開制度。對于算法公開制度而言,該制度存在的前提是有特定指向與意義的決策體系公開,而非一般性的算法框架或源代碼的公開與解釋。因為人工智能算法技術具有高度的專業性,盲目將其全面公開,社會一般公眾和普通執法部門也難以理解,所以應當有選擇地對算法公開,這要求數據控制者(超級平臺)在利用算法自動化決策時,應當以保護數據所有者(消費者)的正當權益作為出發點,并開展相對公開與可理解的解釋。參照域外法律規制經驗,美國《算法問責法2019(草案)》的立法宗旨在于要求平臺型企業研究并修復對消費者造成不公平、歧視或錯誤的算法,并對這些企業的違法違規算法行為依法予以問責;《數據問責和透明度法》(2020)禁止通過使用個人信息在住房、聘用、信用與公開推薦等方面開展歧視,并對數據透明度作出相應的法律要求;英國《數字服務法(草案)》對大型互聯網平臺等利用算法向用戶推送內容等操作提出了公平透明的要求,并要求說明信息提供的限制及審核信息的方法。我國近年來日益重視數據信息層面的立法,其中《個人信息保護法》明確規定“利用個人信息進行自動化決策,應當保證決策的透明度和處理結果的公平合理”的原則,從法律實踐層面要求自動化決策的商業信息推送應同時提供非個性化選項。

其次,我國需要加快超級平臺算法價格歧視的反壟斷執法構建。一方面,就反算法歧視保護消費者合法權益而言,通過前文所述的算法公開以及數據賦權,可以相對明確地認識到算法中存在的不公平現象。然后,這迫切要求我國在具體的反壟斷執法過程中設立專職部門,由具體的專職部門承擔超級平臺算法價格歧視的反壟斷監管職責,才能將法律規定落實。另一方面,面對日新月異的信息技術與快速變化的市場環境,作為科層制的公共權力機關即使擁有專業部門,從根本上來說依然難以有效應對,執法中極易形成“一管就死、一放就亂”的局面,這迫切要求我國反壟斷執法部門提升監管水平,綜合應用監管科技(RegTech),助力監管機構、被監管機構等共同參與并密切協作,38參見程雪軍、尹振濤、李心荷:《金融科技創新與監管路徑探尋:基于監管科技的研究視角》,載《電子政務》2021 年第1 期。全面推動超級平臺算法價格歧視行為的算法規制。具體而言,我國可以從宏觀與微觀兩個視角開展相關工作:在宏觀層面,對算法技術施以一般性規制,主要包括算法開發與變更、程序和數據訪問以及算法運行等方面;在微觀層面,對超級平臺算法進行應用操作上的規制,旨在審查與監管數據輸入、處理及輸出的整體邏輯銜接和內在因果聯系,這既有利于及時發現并遏制超級平臺的算法價格歧視,也有助于后續責任追究與權益救濟的有效實現。

總之,我國平臺型經濟近年來從包容發展走入規范發展的階段,已有反壟斷法律實踐可以為國內超級平臺企業算法價格歧視問題提供諸多反壟斷規制經驗,即我國需要緊密結合市場經濟發展的需要以及平臺型經濟發展的階段,靈活科學地開展反壟斷執法;同時需要加強反壟斷的經濟分析與算法規制,提升反壟斷的執法效率。

五、結語

算法價格歧視不僅為法律所禁止,在道德倫理層面亦不被允許,禁止歧視是人類文明歷經千年所達成的共識。人們常常認為隨著互聯網信息技術的不斷發展與進步,尤其是機器學習、深度學習、算法決策等人工智能技術的應用,社會將變得越來越公平,越來越完美。39參見徐琳:《人工智能推算技術中的平等權問題之探討》,載《法學評論》2019 年第3 期。然而,實際情況卻并非如此,基于人工智能技術而得出的算法決策并非客觀公正,可能會出現更為隱蔽和嚴重的算法價格歧視行為。超級平臺企業基于數據與算法資源優勢,不免通過人工智能算法技術采取所謂的個性化定價方式來攫取不正當利益,而這種行為一方面是由于企業趨利性的本能所導致,另一方面還存在新技術對舊有法律秩序的沖擊影響,超級平臺企業利用算法價格歧視帶來相關的異化風險。當市場這只“看不見的手”自治失靈時,反壟斷規制作為“看得見的手”就應該及時出現,在不打壓超級平臺創新技術發展的前提下加強反壟斷規制,實現反壟斷法與算法的二元共治。唯有如此,才能避免超級平臺的算法濫用與價格歧視,真正實現消費者合法權益保護,促進平臺型經濟公平有序地發展。

猜你喜歡
人工智能消費者法律
法律解釋與自然法
法律方法(2021年3期)2021-03-16 05:57:02
消費者網上購物六注意
今日農業(2020年20期)2020-12-15 15:53:19
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
人工智能與就業
IT經理世界(2018年20期)2018-10-24 02:38:24
知識付費消費者
數讀人工智能
小康(2017年16期)2017-06-07 09:00:59
下一幕,人工智能!
南風窗(2016年19期)2016-09-21 16:51:29
悄悄偷走消費者的創意
悄悄偷走消費者的創意
讓人死亡的法律
山東青年(2016年1期)2016-02-28 14:25:30
主站蜘蛛池模板: 综合人妻久久一区二区精品| h视频在线播放| 亚洲人成影院午夜网站| 国产超碰在线观看| 另类专区亚洲| 午夜啪啪网| 久久毛片基地| 国产一区免费在线观看| 污网站免费在线观看| 好紧好深好大乳无码中文字幕| 日韩免费毛片| 欧美日韩激情在线| 欧美国产在线一区| 少妇精品在线| 美女被操黄色视频网站| 欧美日韩国产综合视频在线观看| 亚洲无码精彩视频在线观看| 久久亚洲精少妇毛片午夜无码| 久久国产V一级毛多内射| 欧美日韩北条麻妃一区二区| 婷婷六月天激情| 欧美日韩v| 亚洲中文字幕23页在线| 中文字幕免费视频| 国产福利免费在线观看| 成人午夜天| www.亚洲色图.com| 国产爽爽视频| a欧美在线| 露脸国产精品自产在线播| 国产亚洲成AⅤ人片在线观看| 国产精品漂亮美女在线观看| 国产欧美日韩91| 精品久久国产综合精麻豆| 国产精品久久自在自2021| 精品国产自在现线看久久| 97无码免费人妻超级碰碰碰| 青青草原国产| 四虎永久在线| 伊人久久福利中文字幕| 色丁丁毛片在线观看| 日本道综合一本久久久88| 六月婷婷精品视频在线观看| 精品人妻系列无码专区久久| 亚洲福利视频一区二区| 色欲综合久久中文字幕网| 亚洲永久免费网站| 伊在人亞洲香蕉精品區| 日本免费新一区视频| 精品精品国产高清A毛片| 无码丝袜人妻| 白浆视频在线观看| 国外欧美一区另类中文字幕| 88av在线| 成年av福利永久免费观看| 99re这里只有国产中文精品国产精品| 亚洲国产清纯| 人妻出轨无码中文一区二区| 亚洲免费毛片| 手机精品福利在线观看| 中字无码精油按摩中出视频| 美女国产在线| 国产最新无码专区在线| 国产成人综合亚洲欧美在| 亚洲国产欧美自拍| 亚洲欧美h| 欧美日韩综合网| 国产一区二区丝袜高跟鞋| 91香蕉国产亚洲一二三区| 午夜国产精品视频黄| 色偷偷综合网| 午夜国产在线观看| 中文字幕第1页在线播| 亚洲中文字幕国产av| 国产精品高清国产三级囯产AV| AV老司机AV天堂| 在线毛片网站| 91精品国产丝袜| 国产丝袜91| 国产Av无码精品色午夜| 精品国产免费第一区二区三区日韩| 99热这里只有精品免费国产|