大數據背景下“算法殺熟”的法律規制

黃 毅 宋 子 寅

“算法殺熟”是大數據背景下一種典型的價格歧視行為，其以電子商務平臺為基本場域，以交互頻次高、價格敏感度低的平臺用戶為侵害對象，通過數據畫像進行歧視性定價，在攫取消費者剩余的同時侵害消費者的知情權與平等交易權。“算法殺熟”是一種新問題，難以簡單歸入傳統法律體系予以調整。隨著《個人信息保護法》的出臺以及國家互聯網信息辦公室等四部委聯合發布《互聯網信息服務算法推薦管理規定》等規范性文件的實施，我國對算法監管已初見成效，但仍存在預防機制缺失、算法解釋機制不健全、相關救濟機制不明晰等問題。本文采用成本—效益分析(cost-benefit analysis)方法，在謹慎把握權利保護與技術創新、消費者正當利益與商家經營自由相平衡的基礎上，探究規制“算法殺熟”的法律路徑。

一、“算法殺熟”的產生與危害

“算法殺熟”是價格歧視在數據算法加持下的異化表現。為把握其行為特性，對其設定合理的規制框架，需要分析其產生的機理，厘清其具體危害，進而劃定規制的邊界。

1.“算法殺熟”的產生

“算法殺熟”主要發生于電子商務領域，其實施主體是利用互聯網技術為商品或服務的供給側與需求側提供聚合化鏈接機會的經營者——電子商務平臺。電子商務平臺在延續傳統商務平臺撮合交易的基本功能之外，利用其龐大的用戶體量及用戶的高交互頻次，拓展平臺的信息聚合能力，通過整理用戶使用平臺所產生的電子痕跡，與其他數據庫對撞共享，得出可供分析利用的數據集，繼而利用算法從數據集中挖掘數據價值，評估、預測用戶的消費偏好與消費能力，完成對消費主體的數據畫像，使消費主體在平臺視角下呈現出標簽化、量級化的數字人格。同時，平臺擺脫了“單純通道”(mere conduit)的束縛，不再局限于作為用戶的媒介，而是在商品展示、商品定價、交易規則制定等方面扮演積極的角色。平臺掌握、甄別消費主體的購買意愿及保留價格的能力，具備商業自主定價的權能，由此具備實施“算法殺熟”的基礎條件。

市場具有自發的逐利性。電子商務平臺獲得收入的一般模式是，向商品或服務的賣方收取定額的平臺使用費或參與賣方分成，并基于用戶流量而獲得廣告費用。電子商務平臺服務的高度同質化及平臺用戶的多屬行為，“導致平臺企業面對平臺賣家采用了完全競爭市場的均衡定價，即均衡價格等于平臺服務零邊際成本”。如果平臺追求企業利益最大化，其就會轉向消費端獲取剩余價值，通過控制商品定價，設置歧視性價格。電子商務平臺作為獨立經營、自負盈虧的市場主體，具有追求利益最大化的本性和通過算法定價攫取消費者剩余的資源基礎，在此情勢下，必然產生“算法殺熟”現象。

2.“算法殺熟”的具體危害

“算法殺熟”較之傳統的價格歧視，除了實施手段高度技術化，還有三方面特點。第一，涉及范圍廣。數字化的虛擬性帶來網絡空間的跨時空性，人們不再需要以身體的實際嵌入作為交易的前提，只需注意力在場即可實現交易目的，交易模式從賣家與買家“點對點”發展為電商平臺與消費者“點對面”。平臺無須與作為交易對象的消費者提前熟識，就能通過換取其他平臺的數據庫等方式判斷某一新用戶的消費能力，價格歧視的影響空間由此拓寬。第二，隱蔽性強。數字化交易中消費者在物理空間上相互分隔，缺乏進行現實交流、比價的機會。以往的價格歧視缺少智能化的定價模型和便捷化的改價機制，集中表現為直接定價差異，即不同消費者報價不同。平臺將數據算法引進交易市場后，折扣、優惠、返現各不相同的間接定價差異得以凸顯。第三，準確度高。目前，“算法殺熟”多表現為根據消費者需求彈性不同而分類定價的三級價格歧視。隨著數據畫像技術的發展，平臺可以提高消費者標簽化的分類度及預測支付意愿的精準度，“算法殺熟”將逐漸走向按消費者支付意愿的上限定價，從而完全攫取消費者剩余的一級價格歧視。

平臺合理運用數據算法技術，有助于挖掘消費者需求，提供更加個性化的服務，進而提升自身市場競爭力。但是，平臺所提供的定制化服務與已經形成的個性化數據會產生較強的鎖定效應，加大用戶在不同平臺系統間切換、轉移的成本，使用戶難以擺脫被歧視的困境。“當倫理困境不再處于矛盾狀態時，這個決策就因為機器算法而具有唯一性，其結果一旦被法律所采納，對于被犧牲的一方來說會在法律的框架下被‘合法’地歧視。”“算法殺熟”較之傳統價格歧視更具危害性，必須施以必要的法律規制，使定價算法朝著正確的方向發展。

二、“算法殺熟”的相關規制檢視

伴隨著社會各界對“算法殺熟”的廣泛關注，相關規范性文件陸續出臺。然而，我國針對“算法殺熟”的規范體系仍處于基礎架構階段，內容覆蓋并不全面且缺少一些必要的機制。

1.“算法殺熟”的規制狀況

近年來，我國已有一些法律、行政法規對“算法殺熟”進行規制。2020年文化和旅游部發布的《在線旅游經營服務管理暫行規定》第15條規定，“在線旅游經營者不得濫用大數據分析等技術手段，基于旅游者消費記錄、旅游偏好等設置不公平的交易條件，侵犯旅游者合法權益”。該規定旨在遏制旅游平臺的“算法殺熟”行為。2021年國務院反壟斷委員會發布的《關于平臺經濟領域的反壟斷指南》，從維護市場競爭秩序方面對“算法殺熟”進行限制。在大數據背景下，“算法殺熟”會阻止平臺經濟市場上的新進入者并妨礙創新，鑒于此，該指南第17條限制具有市場支配地位的平臺組織對同等條件的交易相對人實施差別待遇。我國《個人信息保護法》從個人信息保護的角度對“算法殺熟”進行規制，其中第24條第1款要求“個人信息處理者利用個人信息進行自動化決策，應當保證決策的透明度和結果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇”，第66條明確了違反該條款的法律責任，第69條設置了有利于消費者的舉證責任倒置規則。國家互聯網信息辦公室等四部門發布的《互聯網信息服務算法推薦管理規定》自2022年3月1日起施行，從算法管理層面細化了《個人信息保護法》關于“算法殺熟”的規定。其中第21條規定：“算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。”該規定通過推進針對算法推薦服務的綜合治理，遏制“算法殺熟”行為。

2.“算法殺熟”的規制困境

“算法殺熟”帶來的風險是人工智能時代數據算法高度技術化風險的一種表現。算法既是風險的成因，也是規制風險的主要手段。我國現行法律規范中對“算法殺熟”已有初步的監管模式，但相關內容的原則性較強，缺乏一些必要的機制。

(1)消費者福利調控之困：缺乏事前的政府監管機制。“算法殺熟”與以往反不正當競爭法重點關注的排他性價格歧視不同，其直接指向終端消費者，造成的損害主要存在于經營者與終端消費者之間。在“算法殺熟”的影響下，每個消費者以趨近于其保留價格的消費意愿購得產品，平臺通過定價殺熟使消費者剩余向生產者剩余轉移。不能單純依靠平臺之間的自然競爭來維護消費者獲得福利的秩序，還需通過政府部門“看得見的手”對算法定價加以引導與合理規制。對于數據算法的監管，《互聯網信息服務算法推薦管理規定》第23條建立了分級分類安全管理制度，根據算法推薦服務的內容類別、用戶規模等對算法推薦服務的提供者實施分級分類管理；第28條要求網信部門會同電信、公安等有關部門依法開展安全評估。這種監管針對算法的安全性而非算法的合理性，并不能將“算法殺熟”行為納入監管范圍。“算法殺熟”被發現時往往已造成極大的損害，因而應由政府部門建立事前監管機制予以調控。

(2)消費者信息知情之困：缺乏事中的算法解釋機制。網絡平臺經濟的一個顯著特征是消費信息不對稱加劇，消費者缺乏對商品或服務定價因素的了解。在傳統消費模式下，關于價格的消費信息不對稱主要源于商品或服務的技術專業性及地域障礙，消費者缺乏對商品本身和市場整體的了解。隨著平臺經濟的興起，產生了新的信息鴻溝——算法定價導致消費者難以驗證平臺產品價格的合理性。平臺與消費者作為市場核心主體，能夠獲得的信息數量、質量、范圍不同，導致信息地位不平等。消費者處于信息弱勢地位，無法基于充足、準確的信息作出意思表示，平臺則利用自身信息優勢轉嫁成本。這種消費信息的不對稱，源于定價算法的不透明性。算法不透明性的原因有三方面：其一，算法可能作為商業秘密被納入法律保護范圍，產生法定的不透明；其二，算法本身的“專業槽”使得其內在機理和運作過程很難被理解，產生技術的不透明；其三，算法的開發使用者有限地公開數據輸入與結果輸出的處理路徑及對應關系，產生披露的不透明。算法作為技術工具涉及平臺進行商業角逐的核心競爭力，其運算模型的生成與設置通常處于秘密狀態。消費者對平臺商品或服務的價格形成機制難以了解，將影響消費決策的質量，甚至引起消費環境惡化。針對算法透明度不高的問題，我國《個人信息保護法》第48條規定了信息個體要求個人信息處理者對其信息處理規則進行解釋說明的權利，《互聯網信息服務算法推薦管理規定》第16條設置了算法推薦服務提供者對算法推薦服務的基本原理、目的意圖及主要運行機制的告知義務。前者屬于被動說明，后者屬于主動公開。不過，這兩個條款都沒有具體要求說明與公開的明確度。如果說明與公開的信息十分模糊，難以為消費者理解，仍然無法消除消費信息不對稱。因此，應當設立事中的算法解釋機制，將消費者的知情權落到實處。

(3)消費者平等維權之困：缺乏事后的侵權救濟機制。“算法殺熟”帶來交易上的不平等。這既源于平臺追求市場擴張、占有消費者財富的經營目的，又源于平臺缺乏成本依據的差別定價模式。算法的設計和使用內含著設計者與使用者的個人價值觀念與期待偏好，在平臺的利益取向與消費者的利益取向并不一致甚至背道而馳的情況下，算法在客觀上會幫助平臺實施差別定價，造成“算法殺熟”，侵犯消費者的平等交易權。對此，應當賦予消費者尋求事后救濟的權利。我國《個人信息保護法》第69條規定的舉證責任倒置規則有利于對消費者進行傾斜保護，但消費者作為個人面對平臺企業仍顯勢單力薄，還需要第三方主體協助、社會問責等救濟機制。“算法殺熟”的危害主要表現為平臺資本的逐利性對消費者權利保護造成不利影響。為改變消費者權利保護不足的狀況，有必要通過法律手段對平臺行為進行規制，確保定價算法的合理性。

三、“算法殺熟”的法律規制路徑優化

數據算法有其獨特的價值，相關法律規制應既能避免算法被濫用，又能保證合理的規制限度以增進社會福祉。筆者認為，合理的規制路徑應當是：采用成本—效益分析方法把控規制的限度，綜合研判算法對經濟運行效率及社會發展的影響、對經營者商業運營與創新能力的影響、對社會公共利益及消費者合法權益的影響等方面情況，避免應對科技風險所采取措施的成本過高。具體而言，應當設立政府監管機制、算法解釋機制與侵權救濟機制，使之作用于平臺經濟中算法運行的不同階段并予以全程監管，鼓勵多元主體參與解決算法的合理性問題，最終實現對“算法殺熟”的合理規制。

1.構建政府監管機制，實現消費者福利與生產者福利的平衡

目前，我國對“算法殺熟”采取多部門聯合監管的規制方式，“這表面上體現了對相關問題的重視，但有時卻可能恰恰暴露了沒有哪一個部門能夠真正對該問題負責”。因此，需明確一個具體的監管部門，將規制措施統一于一個法律制度框架內。為此，可采取兩種思路：一是依據現有行政規制體系，將防范算法風險的職責劃歸行政職能與此最相符合的部門或機構；二是突破現有行政規制體系，設立一個新的行政部門，專門負責防范算法風險。從目前的相關實踐來看，可采取前一種思路，由商務部電子商務和信息化司具體負責算法風險的防范。從長遠來看，隨著數據算法技術的進一步發展，其所帶來的技術風險會更多顯現，有必要設立一個具有前瞻性、針對性的專門部門或機構，以紓解技術風險的張力、彌補規制體系的不足。該部門的主要職責是：為數據算法制定行為準則；確保個人數據與匿名數據的安全性；設定算法設計與操作的標準。

政府監管的重點在于合理利用調控手段，從社會整體視角對各方權益進行平衡保護。價格是市場經濟的核心要素，規制“算法殺熟”應從價格角度展開。在監管工具方面，應采取動態的價格管理方式，為算法定價提供行動指引。在環境建設方面，靈活運用“控制—命令”型施壓機制與“激勵—誘導”型促進機制，給予外部壓力時不忽略供給側和需求側刺激，發掘算法設計與控制者的內生動力，推動商業模式與技術模式合理化。在監管能力方面，可采取吸收化模式，在監管制度設計中注意發揮技術手段對平臺的監督功能，以降低監管成本、合理配置執法資源并提高行政效率。“反觀人類技術的發展規律，當立法設計更加主動、動態地響應技術發展時，技術創新和應用才有可能帶來更為積極的整體社會效用。”政府監管不會減損技術發展的自主性，反之，通過協調頂層設計、統合監管部門與監管政策、合理配置調控手段，能夠在鼓勵技術創新的同時弱化甚至消除技術異化對消費者福利的影響。在定價算法的政府監管方面，也是如此。

2.構建算法解釋機制，實現保護消費者知情權與平臺創新動力的平衡

應當設定合理的公開方式，將算法的透明度提升至合理的范圍內，確保算法的運行過程與運行結果可信可責，從而彌合技術鴻溝、保障消費者知情權。在構建信息披露機制時，要確保有關主體權責平衡、解釋標準科學合理。為促進信息從優勢方向劣勢方流動，有學者提出賦予用戶算法解釋權，以矯正其信息劣勢地位。但是，這一權利配置并不能有效制約算法的隱蔽性，“算法監管措施與算法責任的配置主要解決的是算法監管的便利性及可得性問題”。讓平臺承擔算法解釋責任并由行業組織予以監督，可以消除算法不可解釋之隱憂。第一，基于平臺解釋的便利性，將解釋義務分配給平臺具有合理性。平臺無論是作為算法的設計者與使用者，還是單純作為算法的使用者，其輸入數據、配比權重并導出結果，較之其他主體，具備解釋算法決策過程與決策結果的便利性。第二，將算法監管職責劃歸行業組織，符合行業自律的要求。較之普通用戶和政府部門，平臺行業組織擁有充分的算法技術知識，能夠結合產業信息，辨識平臺披露算法的充分性與完整度；其設立行業標準無須遵循嚴格的法律程序，可以在發揮靈活性優勢的同時設計較高的行業行為標準，以強化行規約束。政府部門無須事必躬親，也無須過多賦權消費者，只需發揮行業自律、技術標準等規制機制的作用，鼓勵平臺與行業組織自我建構算法解釋機制。這符合社會效益優先的理念，也符合簡政放權的要求。

為防范算法解釋流于形式，需要為不同的算法內容設置不同的價值項。根據功能定位的不同，可將算法內容分為算法架構信息與算法權重信息，前者包含建模工具、預定義模型、模型設計原理、決策樹類別、運行邏輯等算法系統架構的基礎信息；后者包含特定決策規則、功能加權、價值定義標準、關鍵變量值等使算法作出具體的自動化決策的價值信息。針對前者，需采取可判斷性標準進行解釋，披露內容僅需達到技術人員可基于此實現算法安全認證及故障診斷修復的解釋程度；針對后者，需采取可理解性標準進行解釋，披露內容需達到平臺用戶與政府部門可基于此判斷用戶數據信息類別與決策結果之間邏輯權重關系的解釋程度。算法解釋是實現消費者知情權與平臺商業利益的結合點，政府應鼓勵平臺行業建設自治性監督管理機構，促進行業內部形成統一的算法規范，“切實賦予主體知曉并理解算法運行邏輯的權利，進而為公眾踐行正當程序權利提供行動基礎”。

3.構建侵權救濟機制，實現消費者平等交易與平臺自主定價的平衡

為彌補政府監管在數據算法場景下的效用不足，需引入多元社會主體，形成社會規制體系。社會監管主體主要包括消費群體和第三方組織。作為消費者的用戶是“算法殺熟”的直接侵害對象，也是直接對抗或排斥“算法殺熟”的重要力量，較之其他主體具有更大的糾偏動力。但是，由于平臺經濟對用戶的區隔、算法定價的高頻變更以及“算法殺熟”極具隱蔽性，消費者很難在特定交易中識別“算法殺熟”。引入學術組織、媒體等第三方作為算法識別的外部力量，可以彌補消費者自我識別的能力不足。

在救濟方式上，依據我國《個人信息保護法》第69條規定的“根據實際情況確定賠償數額”，可以構建以市場價為基礎的用戶利益損失計算標準，促進平臺方積極賠付。同時，暢通用戶申訴渠道，由消費者協會對用戶的投訴內容進行整理核實，突破傳統的“權利保護—司法救濟”方式，在算法造成顯著損害前介入規制，并賦予消費者對算法程序質疑的權利。第三方組織可以建立自主評估結果公示平臺，通過專業人員驗證電子商務經營者進行算法披露的真實性與可信度，建立失信平臺黑名單，強化社會監督的作用。當平臺運營受到社會化監管時，不僅能增強算法結果的透明度與可責性，還可使定價算法在整個運行周期內都受到監管評估。

四、結語

“社會的進步離不開先進技術的開拓者，更離不開基本價值的守望者。”在保障社會安全、維護公共秩序、增進人民福祉的前提下進行技術創新，是網絡經濟發展的應有之義。我們應以發展的眼光和理性的態度看待數據算法的效應。作為一項先進技術，算法有助于提供個性化的購物建議，降低檢索與交易成本，促進消費增長，但也可能導致利益失衡。應當針對數據算法的特性，設計具有謙抑性的法律制度，使算法技術回歸其本來目的——使我們的生活更美好。為此，應當構建政府監管調控機制、算法解釋機制、侵權救濟機制相協調的系統的規制體系。其中，政府實施強制與激勵雙重監管，平臺增強算法的透明度與可解釋性，社會力量進行事前事后監管。政府為平臺自我約束提供柔性環境，為社會監管提供規范依據，形成多元共治體系，有效應對算法定價帶來的風險。

①消費者剩余是指，消費者消費一定數量的某種商品愿意支付的最高價格與這些商品的實際市場價格之間的差額。②參見汪旭暉、張其林：《平臺型網絡市場“平臺—政府”雙元管理范式研究——基于阿里巴巴集團的案例分析》，《中國工業經濟》2015年第3期。③徐琳：《人工智能推算技術中的平等權問題之探討》，《法學評論》2019年第3期。④消費信息不對稱是指，生產經營者對商品擁有比消費者更多的知識和信息，包括產品的質量、原料構成、性能、制作方法、用途、生產成本等，由此形成一種在信息占有上賣方具有優勢、買方則處于劣勢的不均衡狀態。參見劉大洪、廖建求、劉建新：《消費信息不對稱的法律規制》，《法學論壇》2003年第4期。⑤李洪雷：《論互聯網的規制體制——在政府規制與自我規制之間》，《環球法律評論》2014年第1期。⑥⑨張欣：《算法解釋權與算法治理路徑研究》，《中外法學》2019年第6期。⑦參見張凌寒：《商業自動化決策的算法解釋權研究》，《法律科學(西北政法大學學報)》2018年第3期。⑧蘇宇：《算法規制的譜系》，《中國法學》2020年第3期。⑩[德]馬克斯·韋伯：《論經濟與社會中的法律》，張乃根譯，中國大百科全書出版社，1998年，第63頁。