基于算法個性化技術邏輯特征的損害剖析

段屹甲

一、問題的提出：算法個性化技術崛起的法律挑戰

自互聯網發明以來，人們的社會生活愈發離不開網絡，隨著大數據時代的到來，算法逐漸成為法律規制的對象。海量的數據為算法個性化技術提供了信息基礎，互聯網的發展為算法個性化技術提供了科技支持，算法技術在為社會經濟帶來促進效果的同時，也因其自身的結果隱蔽性等特征飽受爭議。痛斥“大數據殺熟”“信息繭房”的呼聲四起。算法個性化技術在不知不覺中造成了對消費者利益的損害，而且這一技術采用自動化的機器決策，消費者通常處于不知情狀態。故算法個性化技術在各個不同商業場景之下被予以使用的同時，對社會的損害也不可忽視，算法個性化技術正在挑戰社會的一些基本規則。

算法因其不透明性和風險系統性引起了學界的關切，對于算法的規制路徑為何？算法的技術邏輯和技術特征為何？算法個性化技術的應用形式有哪些？算法個性化技術帶來的損害為何？類似問題皆因算法技術未受到更加具體規制，成為當下尖銳的課題。本文擬從算法個性化技術的商業應用場景切入，對算法個性化技術的技術特征與邏輯予以描繪，將其對消費者與競爭秩序的損害予以分析，從社會層面予以思考，應以何種姿態來應對算法個性化技術帶來的規制挑戰，以期增強算法個性化技術的正向效應，謹防算法權力的不當蔓延。

二、算法個性化技術邏輯和技術特征

算法個性化技術的技術邏輯體現在購物類、內容類、媒介類和生活類等場景下的商業應用當中，從流程上看，算法個性化技術包括三個流程：

第一步，收集用戶信息，獲取用戶數據。如今各大軟件在初次使用時，都會與用戶簽訂諸如“隱私協議”一類的條款，以此來保證自己獲取用戶信息的暢通無阻，在獲得了用戶的“同意”后，算法將會開始收集用戶信息，作為后續個性化技術應用的數據基礎。第二步，構建用戶畫像，打上個性標簽。在收集用戶信息后，個性化技術會將用戶的特點予以標注，為其“量身定制”一個用戶畫像，至此，用戶在技術后臺內已成為一串“代碼”，算法通過將用戶喜好、興趣進行標注，為接下來的內容推送打下技術基礎。第三步，推送定制信息，實施算法推薦。在為用戶打上標簽以后，用戶在算法程序中就是一個十分明了的代碼或是數字，算法技術可以通過將用戶代碼與信息、商品或是服務進行匹配，將用戶最為感興趣的信息或是商品推送給用戶，以此來促成交易或吸引用戶注意力。

算法個性化技術的特征表現為：（1）龐大數據性。算法是依仗大數據而運行的，而大數據是指無法在一定時間范圍內用常規軟件工具進行捕捉、管理和處理的數據集合。大數據需要新處理模式才能成為具有更強決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。算法和大數據互相依存，如若缺少算法，龐大的數據量將無法被分析；缺少大數據，算法就失去了數據來源，失去了運行基礎，也沒有了發展空間。算法執行的結果依賴于初始數據，不同的初始數據將會推導出不同的結果。如果數據量過小，容易導致算法運行結果缺乏說服力，可能導致無法執行。而且簡單的算法模型往往更容易獲取大量數據，其最終表現將超越僅掌握了少量數據的復雜算法。（2）高度可行性。算法想要正常運轉，在邏輯和數據上必須是通徹的。實際上，算法只是一種編程的思想，縱觀歷史，直至21世紀，算法方才發展至現在的規模，只因其需要具備兩個條件：其一，特定的技術條件和社會環境；其二，海量的數據。算法并不能獨自發揮作用，而是需要結合其他各類程序以及數據才能發揮其功效，算法必須在運行方式上是通順的，并且要適應現有的技術條件，擁有和現有技術匹配的運行機制，再加上其物化的表現——硬件設施，以及海量的數據基礎，才能夠發揮其作用。（3）時間有窮性。算法以其精準和迅速著稱，其運行過程必須是極為迅速的，相較于人工運算機制而言，算法最根本的優勢就是顯著的高效率運作機制，倘若算法運行機制反應緩慢，其也就失去了算法本身的意義。（4）結果隱蔽性。從千人一面到千人千面，通過算法為消費者勾勒畫像，精確掌握消費者喜好，是阿里巴巴、亞馬遜等現代零售巨頭成功的關鍵。

三、算法個性化技術的法律風險：消費者損害與競爭秩序破壞

1.損害消費者利益

作為支撐平臺經濟快速增長的應用技術，個性化技術被視為一種強有力的工具，同時，個性化技術能夠解決工業社會定價難以最優的難題，因此為平臺普遍采用。與此同時，其也因侵犯消費者權利、減少消費者福利和顯著增加數字平臺的跨界擴張速度而備受爭議。具體而言，個性化技術給消費者帶來的損害主要有以下表現：

第一，侵犯消費者的公平交易權。從經濟理性而言，個性化定價能為經營者增加財富、實現利益最大化，同時，大數據價格歧視行為使所有消費者都獲得了其經濟承受范圍內的最高限度購買價格。例如，某產品原先針對的是消費能力在1000 元以上的消費者，在實行個性化定價后，消費能力在500 ～800 元的消費者也能在自身承受的最高價格800 元左右購買該產品，這導致原本只針對高消費群體的經營者也開始涉足低消費市場，其所針對的消費群體范圍得到了擴張，使得以消費等級劃分的市場規劃失去了意義，經營者之間的市場競爭更加激烈。這種價格歧視雖然拉動了消費，刺激了生產，增加了市場活力，但卻也導致消費者剩余被“榨干”，削弱了消費者進行其他消費活動的可能性，進而導致消費者福利的下降。

第二，侵犯消費者個人信息安全。對消費者個人數據的收集與分析是算法進行個性化技術商業應用的前提條件，收集和分析的個人數據越復雜越龐大，算法個性化分析就越精確。經營者趨于逐利本性，為了達到更加精細化的算法分析效果，通常會采集消費者允許范圍之外的個人數據，例如，手機型號、通話記錄等，算法根據私密信息為消費者構建更為精確的用戶畫像，經營者借此向消費者推送個性化廣告，私密信息成為經營者提升消費吸引力的工具，這明顯超出了數據收集的合理范圍，存在侵犯消費者個人隱私的嚴重風險隱患。

第三，侵犯消費者的知情權。算法個性化技術具有結果隱蔽性，在其收集數據、運算數據以及得出結果的過程之中，消費者無法得知經營者所使用的算法運行機制以及算法收集了哪方面的數據，消費者處于信息劣勢一方，對經營者的行為往往是不知情的。算法在消費者使用程序之時就通過技術手段獲取消費者的個人信息，從而對消費者進行畫像定制，針對其個體采取獨一無二的個性化技術，以此來促成交易或是掌握更多數據信息，這一行為顯然侵犯了消費者的知情權。

2.破壞競爭秩序

伴隨著平臺規模的擴大，超級平臺時代正在到來，反競爭的隱憂日益凸顯，算法給平臺帶來了更為便利的擴張條件。全球市值前五的位置長期處于蘋果、谷歌、微軟、亞馬遜和臉書等超級平臺的掌握之下；在中國，阿里巴巴和騰訊的市值相繼突破4000 億美元，加上市值已突破500億美元的百度、京東、滴滴等平臺，中國將全面邁入超級網絡平臺主導的新階段，2019年貴士移動（Questmobile）報告顯示，百度、阿里、騰訊三家巨頭公司的滲透率分別為89.4%、95.5%、97.8%，遠遠超過其他公司，成為國內的流量“黑洞”。超級平臺通過“代理人壟斷”等方式，踏足每一個其所能觸碰到的領域，技術的進步和數字通信的實現，為平臺迅速擴張達成了前提條件，給整個競爭秩序帶來了不利影響。然而平臺的消極影響與少數超級平臺市場集中度提高密切相關，多邊市場的規模效應和網絡效應會構造出相應的市場壁壘，加速形成“贏者通吃”的市場形態。為實現平臺利益的穩固化，保持平臺獨占性，超級平臺近年來出現的不規范競爭行為引發了國家市場監管難題。

贏家通吃。互聯網平臺屬于信息社會新興的產物，其與傳統的實體經濟產業不同的一點是，剛剛踏入此行業的新興企業往往可能因其獨特的經營理念和過人的技術應用而吸引極高的流量，但其同時也面臨著大型平臺所帶來的風險。大型平臺通常有著雄厚的資金底蘊，可以通過平臺資金補貼來降低整個市場的利潤，打壓新興企業，提高行業進入壁壘，逼迫小型企業退出市場或被兼并。

劣幣驅逐良幣。進駐平臺的商家往往對平臺有著極強的依賴性，商家往往不具備與平臺平等談判的地位，只能接受平臺給出的條件。“平臺二選一”廣為人知，平臺禁止經營者在競爭對手平臺上從事經營活動，如果駐平臺商家能夠自由選擇平臺從事銷售，就可以擁有更多用戶群體，給平臺施壓，促使平臺給予更好的優待以挽留商家，促進互聯網平臺間的競爭。隨著平臺壟斷能力不斷擴大，平臺對于商家的操控能力會逐漸變強，支付更高價格的商家會獲得更靠前的排名和更高的曝光度，一方面，這進一步壓縮了商家的利潤空間，使商家逐步淪為平臺的賺錢工具，另一方面，部分商家為了保證自己的利潤空間，會將成本轉移到消費者身上或降低商品或服務的質量，從而出現“劣幣驅逐良幣”的現象。

四、結語

本文以算法個性化技術的商業應用場景為基礎，剖析了該技術對消費者以及競爭秩序的損害，研究表明：（1）算法個性化技術以海量數據和高超技術作為基礎，對消費者和社會造成的影響是隱性不為人知的，算法技術一旦產生風險，將會是系統性且不可顛覆的。（2）算法個性化技術促進效率的同時，對消費者的損害集中在知情權、公平交易權、自主選擇權上，而消費者往往是不自知的，這將會導致算法在某種程度上會對消費者產生“支配效果”的決定性影響，進而有改變社會結構的風險。

新興事物的發展總是一波三折，作為二十一世紀最為核心的“算法”，其必然經歷復雜的發展路徑，對待算法個性化這一技術，我們應當懷揣審慎與包容的態度，在對其予以必要規制的同時鼓勵其健康發展，以期算法技術能夠引領社會主義市場經濟的發展。