韓世鵬
(廈門大學臺灣研究院,福建 廈門 361005)
算法價格歧視又稱“大數據殺熟”,相較于“傳統殺熟”,此類行為準確度更高、隱蔽性更強、涉及面更廣、規制難度更大。經營者利用算法與大數據,突破場景限制,將之前為完成消費服務而收集的消費者個人數據信息,用于對消費者精準“畫像”并據此攫取“價格剩余”,最終實現“千人千價”“看人下菜”。算法價格歧視不僅違反商業倫理道德,更涉嫌侵犯用戶的隱私權、知情權、公平交易權、反悔權等一系列權利,在某些情形下甚至可能構成欺詐與壟斷。在學界,對于算法價格歧視,基于《平臺經濟領域的反壟斷指南》以及《中華人民共和國反壟斷法》(以下簡稱《反壟斷法》)修訂這一背景,已有研究成果傾向于通過經濟法的思路予以規制,諸如對“交易相對人”進行擴張解釋、將消費者福利作為反壟斷法的規制目標等。事實上,算法價格歧視的本質在于數據濫用與定價算法,而“算法黑箱”的存在導致消費者與執法機構無法窺探自動化定價的原理,這也意味著對其指控往往缺乏足夠專業的證據支撐。因此,如何針對算法技術本身的“祛魅”,實現對算法價格歧視穿透性監管,成為亟待考量的問題。
人工智能時代下,大數據已然成為一項新興、核心、高價值的資產。算法的深度學習、無監督學習不再單純地依靠決策樹、預定義模型以及分類結構等人為設定權重要素的信息,而是借助算法程序指引自動選擇數據特征,通過對每一項數據屬性進行觀察、描述、反饋、分析、歸類、畫像,實現自我設定標準、自我遴選數據以及自我評估結果[1]。在交易消費領域,大數據與算法的結合使精準營銷和個性化服務成為可能的同時,也為經營者侵蝕消費者利益提供了機會,算法價格歧視便是這一問題的真實寫照。
算法價格歧視,又常被稱為大數據殺熟,是指平臺經營者通過搜集、分析消費者消費行為的相關信息,推導出消費者可接受價格的范圍區間,從而進行區別定價的行為[2]。事實上,價格歧視雖然帶有“歧視”字眼,但在經濟學上,該詞卻是中性的。隨著數字經濟的蓬勃發展,算法價格歧視具有“一展拳腳”的技術條件與市場條件,并逐漸成為商家剝削消費者的代名詞。一方面,大數據和算法使得平臺具備實現一級價格歧視的技術條件。算法通過抓取、分析用戶瀏覽的關鍵詞,推測用戶的興趣偏好,從而實現精準“投喂”。同時,平臺深度分析注冊用戶的使用習慣與消費偏好,配置更容易被其接受的價格,最終實現一人一價,無限接近于一級價格歧視[3]。另一方面,雙邊市場屬性使得平臺具有實施價格歧視的市場條件。數字平臺呈現典型的雙邊特征,即平臺向兩個相互區別且相互聯系的客戶群提供服務,這類情形以平臺內商家與消費者為典型代表。雙邊平臺可以通過算法程序快速匹配交易對象,壓縮溝通成本,實現雙邊客戶的獲益。
不難發現,傳統商業實踐中的“殺熟”行為是個別、粗糙和高風險的,而算法價格歧視由于算法與大數據的加入而更為隱蔽與智能。具體而言,第一,隱蔽性。這種隱蔽性由兩個方面導致:一方面,算法價格的自動化決策往往發生在電子商務領域,尤其是日常生活消費。由于每個消費者在購買、使用商品或者接受服務時均處于相對獨立的狀態,消費者之間彼此隔離,難以實現及時的溝通對比;或者彼此溝通對比的代價很大,導致算法歧視很難被發現[4]。另一方面,基于信息不對稱的優勢,算法解釋權牢牢掌握在商家一端,普通消費者難以識別、理解價格構成以及浮動邏輯。第二,廣泛性。算法自動化定價的運行邏輯在于算法設計者提前輸入算法程序,任何消費者的行為滿足參數要求時便會自動觸發系統運行,最終系統完成運算并展現“相應的價格”。不難發現,算法歧視針對的是整個平臺內所有的消費者;而由于我國網民基數極為巨大,這就使得算法價格歧視的輻射范圍非常廣泛。第三,舉證困難。一方面,誠如前文所述,算法決策的隱蔽性使得消費者難以發現價格歧視,而算法黑箱的存在導致消費者無法有效舉證價格歧視的不利后果,商家反而會以價格測試、系統失靈、商業秘密等理由抗辯。另一方面,學界對算法價格歧視的概念尚無統一意見,司法人員更難以準確判定該類行為的內涵與邊界,這將使得消費者的舉證過程舉步維艱。
算法價格歧視的目的是經營者借助算法對支付意愿較高、價格承受能力較強的消費者提升價格的同時,保留對價格敏感的低端消費者群體,實現整體利潤的提升。這一過程中,消費者的公平交易權、知情權、自由選擇權等正當權利受到限制;更為關鍵的是,平臺商家有通過算法合謀剝削用戶、實施壟斷的嫌疑。
首先,算法價格歧視強化了平臺剝削性濫用程度。算法價格歧視可以擴大產出,滿足更多消費者需求;還能促進競爭,當行業內的經營者均采取相同策略時,價格歧視將導致整個行業價格下降;甚至創造動態激勵,從而提升企業生產的效率[5]。但其負面影響同樣明顯,尤其表現在反壟斷領域,即算法價格歧視往往被認定為企業榨取利潤、擴大優勢的強力工具。一方面,算法程序的隱蔽性、高效性以及技術中立性,可以對經營者的壟斷合謀提供便利條件,破壞公平的市場競爭環境[6]。另一方面,算法價格歧視同樣存在實施差別待遇、謀求超額利潤的嫌疑[7]。無論是互聯網巨頭還是中小型企業,適用算法的成本較低,收益卻十分巨大。因此,主導企業常對忠誠客戶索取高價,對其他客戶索取低價,從而排擠競爭對手,這也可能會因限制了競爭而對消費者產生間接損害。因此,在缺乏正當理由的情況下,平臺對終端消費者實施的差別待遇極有可能構成剝削性濫用行為[8]。
其次,算法價格歧視使得消費者剩余與社會整體福利沖突加劇。反對算法價格歧視的最有力的理由是該行為減少了消費者剩余[9]。盡管表面上弱勢群體數量更為龐大,社會總體福利似乎有所提高,實則不然,原因在于廠商借助價格歧視總能確保這部分增加的剩余全部以利潤的形式流向企業,保留價格較高的消費者在統一定價下可享受的消費者剩余不復存在,消費者整體將受到“損害”。因此,一旦頭部消費者喪失對經營者的信任,非理性拒絕交易或者提起訴訟,經營者所仰賴的算法程序無法妥善處理消費者的不滿情緒,最終付出的成本將可能遠遠高于既得利益[10]。彼時,利益相互抵消,即便是低端消費者也會成為算法價格歧視的犧牲品[11]。
最后,算法價格歧視是對私法價值的嚴重背離。算法價格歧視違反了私法公平與誠實信用原則。一方面,算法價格歧視違反了公平原則。民法的私人自治理念要求賦予民事主體權利的自由,但這種自由并非毫無邊界,而是由另外一項原則——公平原則所限制。原因在于,基于經驗、地位,尤其是信息、技術的不對稱,民事活動往往出現諸多不正義的結果,公平原則便是保證結果正義的強力工具。在算法價格歧視中,囿于算法黑箱的存在,消費者無法掌握經營信息以及算法定價邏輯,進而難以發現自身在交易活動中可能遭受的人格與財產損害,最終產生買賣合同結果上的不正義,違反了公平原則。另一方面,算法價格歧視同樣違反了誠實信用原則。盡管學界對算法價格歧視能否被認定為“價格欺詐”尚有爭議,但隨著大陸法系以及民事理論的發展,“善意”的內涵被引入誠實信用原則中,使得其成為規制算法價格歧視的有力依據。誠實信用原則中的善意要求當事人在民事活動中不能侵犯他人與社會公共利益[12]。算法價格歧視實際上是對不特定多數人權利的侵害行為,同時主觀上存在惡意,非常明顯違反了消費者對于“善意”的期待。
如前所述,算法價格歧視加劇了消費者與經營者關系的失衡狀態,尤其是單個消費者失去了與經營者博弈的空間,從而使得消費者剩余被肆意侵蝕,對該類行為的規制必要性愈發凸顯。遺憾的是,面對算法價格歧視帶來的挑戰,以《反壟斷法》、《中華人民共和國消費者權益保護法》(以下簡稱《消費者權益保護法》)、《中華人民共和國民法典》(以下簡稱《民法典》)、《中華人民共和國價格法》(以下簡稱《價格法》)等為核心架構的消費者保護體系卻呈現不敷適用的困境。
雖然《消費者權益保護法》《價格法》是與消費者權益直接相關的規范,但其在行為定性、損害賠償等方面仍然無法滿足消費者權益的保護需要。具體而言:
首先,有學者認為,使用算法的經營者利用自動化定價程序對“熟客”提升價格,從而使“熟客”對價格基于錯誤認識而購買,涉嫌價格欺詐[13]。算法價格歧視中的經營者主觀上具有欺詐的直接故意、客觀上實施了隱瞞真情的區別定價行為、結果使消費者遭受財產損失,構成法律意義上的價格欺詐,同時也侵害了消費者的合法權益。事實上,價格欺詐的行為定性存在理論上的缺陷。原因在于,在算法價格歧視中,經營者沒有虛構事實,沒有告知其他消費者的交易價格也談不上隱瞞真實情況,因此算法價格歧視不構成法律意義上的價格欺詐[14]。而且,無論是《消費者權益保護法》《價格法》等法律,還是《關于商品和服務實行明碼標價的規定》《禁止價格欺詐行為的規定》等規范,對于經營者運用算法進行個性化定價的行為并沒有具體規定。
其次,《消費者權益保護法》救濟制度難以解決被“殺熟”消費者的損害賠償問題。基于“誰主張,誰舉證”的規則,消費者請求賠償的前提自身遭受到損害,而這里的損害不能簡單地認定為,自己被“殺熟”而支付的高價減去接受同一商品或服務的其他消費者支付的低價的落差。因為此類落差如果是偶爾的技術性偏差所導致,并不具有持續性,更不會對市場整體的競爭環境造成損害,那么這種算法價格歧視現象是否存在違法性值得懷疑。
再次,反悔權的主張無法得到司法支持。反悔權指消費者在購買符合法律規定的特定類型商品或服務之后,依照法定程序,在一定期限內享有無條件退貨或退出服務的權利。算法價格歧視往往存在于網絡消費領域,形式上完全符合反悔權的適用要件。遺憾的是,網絡消費者一般不會刻意去“比較價格”,無法及時得知自己被“殺熟”。而且,算法價格歧視常常多發于機票、酒店、電影、電商、出行等在線消費領域,上述消費存在即時性的特征,即便消費者立刻察覺到“殺熟”行為,相關產品或服務往往已經被消耗或享受,反悔權的主張往往不被司法實踐接納。
最后,個人信息權利保護的進路“遇挫”。在算法價格歧視中,經營者收集、使用消費者個人信息通常征得了后者同意,經營者不存在泄露、出售或者非法向他人提供消費者個人信息的行為,也沒有向消費者發送商業信息。可見,“殺熟”行為不符合《消費者權益保護法》第29條規定的經營者侵害消費者個人信息權利的任一情形,個人信息保護條款無法適用于算法價格歧視。
基于《平臺經濟領域的反壟斷指南》以及《反壟斷法》修訂這一背景,已有的研究成果傾向于通過經濟法的思路予以規制,即將算法價格歧視行為歸類為濫用市場支配地位中的差別待遇。事實上,無論是主體、行為、支配地位、競爭效果還是抗辯理由,算法價格歧視尚不滿足差別待遇的構成要件。
第一,主體層面,“交易相對人”為經營者而非消費者。最新修訂的《反壟斷法》第22條第1款第6項就差別待遇行為進行了規定,根據體系解釋以及反壟斷法維護市場競爭的要旨,作為差別待遇對象的“交易相對人”僅指經營者,并不包括終端消費者。原因在于:一方面,根據體系解釋,《反壟斷法》第18條關于壟斷協議的規定也使用了“交易相對人”的表述,這里的“交易相對人”通常不包括終端消費者。根據一致用法推定的解釋原則,詞語應被推定在同一法律文本中具有相同的含義,那么《反壟斷法》規定的“交易相對人”也不應包括終端消費者。另一方面,根據反壟斷法維護市場競爭的目的,差別待遇被《反壟斷法》禁止的原因在于該行為會“致使有的交易相對方處于不利的競爭地位”,這意味著“交易相對人”僅指經營者,而不包括消費者[15]。綜上,基于規范解釋,消費者難以被歸為差別待遇的保護對象。
第二,市場支配地位層面,諸多電商平臺并不具備支配地位。指控經營者實施差別待遇行為的前提是該經營者具有市場支配地位。由于自動化定價往往發生在生活消費領域,中小型企業與商家占絕大部分比例,無論參考市場份額還是其他市場要素,上述經營者均不具備市場支配地位,因而無法被認定為差別待遇[16]。
第三,行為層面,差別對待行為事實存疑。前文業已提及,數字經濟時代下,算法與數據的獲取成本變得極為低廉,這就導致大量的小眾平臺企業得以生長,它們的存在可以滿足消費者的多樣性需求,從而形成長尾市場。由于平臺多樣,平臺定位各異,同一商家提供的同一商品或者服務在不同平臺的價格可能有所不同,例如拼多多內部的智能算法,更側重于廉價銷量,而天貓、京東的智能算法更傾向于好評、店鋪規模和品牌,價格上也會高于前者。
第四,競爭效果層面,一般價格場景下的算法個性化定價不具有排除限制競爭的實質危害性。反壟斷法意義上的排除、限制競爭的效果往往發生在經營者之間,對消費者的差別定價無法直接破壞競爭秩序。而且,《反壟斷法》的內在邏輯在于恢復扭曲的競爭機制,不能也不應該涉足即使是正常市場機制也無法解決的領域[17]。因此,類比格式合同附隨條款因缺乏關注而易形成壟斷均衡之情形,普通消費者難以關注算法價格歧視的發生,這意味著即使由《反壟斷法》調整并恢復至自由競爭市場,也無法完全“消滅”此類行為[18]。
第五,正當理由層面,經營者抗辯理由充足。證明差別定價的最后一道門檻是“經營者無正當理由”,此處的正當理由需要根據行為是否為法定,對社會公共利益的、經濟運行效率與經濟發展、經營者業務發展與創新方面的影響,與經營者正常經營及實現正常效益的相關性等因素做出綜合判斷。在算法價格歧視中,面對消費者的“詰難”,經營者往往以定價算法測試、優惠活動、程序錯誤,以及商業秘密等抗辯,尤其是商業秘密的抗辯屢試不爽,普通消費者的權益依舊得不到有效保障。
消費者通過網絡購買行為與商家事實上訂立了電子商務合同,而算法價格歧視可能涉及認識錯誤、合同欺詐、顯失公平等情形,因此可以主張合同歸于無效,從而維護消費者的合法權益。但上述觀點同樣經不起推敲。首先,經營者對某些消費者在價格上的區分對待即便稍有差異,但對于交易本身公示的價格而言,消費者并沒有認識上的錯誤。其次,消費者支付對價的行為基于自愿,價格上小幅高于其他消費者,并不會違反等價有償原則,不存在脅迫或者顯失公平的情形。最后,民法上的欺詐是指故意隱瞞真實情況或者故意告知對方虛假的情況,誘使對方做出錯誤的意思表示而與之訂立合同。在算法價格歧視情形中,經營者沒有義務告訴特定消費者其與其他消費者的交易信息,熟客完成支付即表明認可了商品或者服務的對價,因此,經營者很難“隱瞞真實情況或者故意告知虛假情況”。更為重要的是,經營者“明碼標價”,消費者并沒有因為“欺騙”而做出錯誤的意思表示,因此,一旦發生糾紛,消費者主張錯誤、欺詐、脅迫以及顯失公平難以維護自己的權益。
既然民法典合同編難以提供有效救濟,可否借助民法總則的兜底條款——誠實信用原則予以規制呢,筆者以為同樣不妥。經營者對“熟客”隱瞞商品或者服務真實價格并故意提高成交價格的行為,非常明顯地違背了商業道德與交易慣例。但是如果消費者僅以“違反誠實信用”原則為由主張撤銷合同、退款乃損害賠償,往往不會得到法院的支持。原因在于,誠實信用原則僅作為原則化的兜底條款,具有補充性,承擔“最后保護線”的角色。除非適用具體法律規定將導致明顯不公平的裁判,否則法官不會將誠實信用原則作為裁判的直接依據。
誠如前文所述,《反壟斷法》《消費者權益保護法》《民法典》等應對算法價格歧視皆陷入不敷適用的困境,而部門法規制思路的“遇挫”為學界目光轉向算法技術治理本身提供了契機,算法解釋權便是其中頗為值得關注的一點。事實上,算法價格歧視本質上是算法自動化決策在市場交易中的典型表現。2016年,歐盟議會通過了《通用數據保護條例》(GDPR),該條例在2018年正式實施。條例強調當自動化決策對數據主體產生顯著影響時,算法相對人可以請求算法決策主體對具體的決策邏輯、過程進行解釋。基于此,國內外諸多學者將條例賦予的算法相對人要求算法設計者、使用者提供自動化決策的運行邏輯以及可能產生的重大影響等信息的權利定義為算法解釋權。筆者以為,算法解釋權的底層邏輯與權利張力正是規制算法價格歧視的有效參考,至少可從算法技術倫理、實體權利內涵滿足救濟預期以及技術性正當程序三個層面逐一探討解釋權視角下的規制正當性。
算法價格歧視對消費者人格權與財產權的自治需求造成了不小的挑戰,而算法解釋通過權利內涵的擴張消弭了實然權利與應然權利之間的價值鴻溝。一方面,算法解釋權有助于保持消費者人格利益的獨立性。面臨不同的語境,“隱私”這個語詞常被賦予不同的價值內涵,如安全、尊嚴、私人、自主等[19]。然而,市場中的算法使用者通過對消費者個人數據的深度挖掘持續進行用戶畫像,并予以數據標注。這種依靠算法與數據“滋養”的個性化服務給消費者帶來諸多便利的同時,也無時無刻不在消解著他們的個人隱私,對消費者人格權益的獨立性造成重大沖擊。參考算法解釋權的觸發標準,此時,作為算法自動化決策的價格歧視行為已然對算法相對人造成顯著影響,這種影響不僅是經濟上的損失,更與人格利益息息相關。算法相對人便可據此向算法決策主體提出異議以及就決策邏輯進行解釋,并要求其修改算法程序或錯誤數據。因此,算法解釋權在促進消費者人格權自治層面具有得天獨厚的優勢。
另一方面,算法解釋權維護了消費者財產權的自主性。前文提到,算法價格歧視的法律行為定性面臨模糊不清的困境,但無論是價格欺詐、差別定價還是對誠實信用、公平公正之私法原則的違背,最終的結果都指向了消費者財產權的損害。而且單個消費者的損害數額可能無足輕重,但算法針對的是不特定的多數人,個體的損害被無限放大,這無疑對消費者財產權的自主性造成了損害。對此,消費者可通過行使算法解釋權要求經營者對定價算法程序解釋和修正,刪除帶有歧視性因素的代碼與數據,并通過損害賠償實現個人財產利益的補救。具言之,算法解釋權并非單一的解釋請求權,而是知情、刪除、更改等一系列的子權利,因此,其既可以被動地防御對個人財產權利的損害,也可以積極主動干預經營者可能的越界行為。
算法解釋權對消費者救濟層面的價值主要體現在兩個方面。一方面,破除算法黑箱,提升交易透明度。信息不對稱產生了算法黑箱,算法黑箱則進一步加劇了算法決策主體與算法相對人的不平等地位。算法解釋可以促使信息從優勢方向劣勢方流動,從而實現雙方信息資源掌控的總體均衡。另一方面,算法解釋權的觸發條件、解釋標準對消費者更為友好。算法解釋權的觸發條件相對寬松,即算法對算法相對人造成顯著影響時便可觸發。而算法價格歧視不僅對消費者財產利益造成損害,還有可能侵犯個人隱私,顯著影響的觸發條件已然實現。同時,算法解釋權的解釋標準也更為“照顧”消費者。例如,算法解釋權不僅要求形式可被理解,實現解釋的可讀性與可理解性;在實質內容上,算法解釋權要求對算法運行的基本邏輯而非結果進行解釋,在保證算法相對人知情權的前提下協助后者獲取更有利的決策結果。
算法黑箱、算法使用者抗辯以及監管難以問責成為消費者行使知情權、參與權、救濟權的主要障礙[20]。首先,算法黑箱的存在導致外部人員難以理解自動化定價算法的技術邏輯,即便是“愛學習”的消費者執意鉆研,其付出的時間成本也異常高昂。其次,消費者洞悉算法運行原理的情況下,使用算法的商家同樣會以算法程序錯誤、價格測試、商業秘密等進行抗辯,拒絕披露基礎的參數與程序。最后,監管機構難以有效問責。同消費者一樣,技術鴻溝導致監管者在面對自動化定價系統時往往力不從心。此種監管困境傳導至市場,容易反向激勵商家,導致商家利用定價算法收割消費者時更加無所顧忌。引入算法解釋權可以有效回應上述難題。第一,不同于知情權與隱私權,算法解釋權最基礎的權利便是解釋與控制。權利重心在于知情與理解,更正、補充、刪除更多的是充當算法決策主體的附隨義務,無論在權利內涵的廣度還是深度,算法解釋權優勢明顯。第二,《個人信息保護法》與《民法典》人格權編、侵權責任編規定的個人信息保護的內容僅是防御性的保護。反觀算法解釋權,其既可以被動地防御對個人信息的損害,也可以積極主動干預信息主體的越界行為,可以有效預防可能遭受的價格歧視行為。第三,算法解釋權不僅僅是消費者的權利,監管機關同樣可以要求商家進行解釋或者利用科技賦能監管手段,這將有利于監管效率的提升,有效規制濫用定價算法的行為。
行文至此,至少可以明確算法解釋權的理論正當性與賦權合理性。但算法價格歧視的有效規制,必須基于對算法權力本身的治理思路,同時考量責任分配的規則體系,如此,方能實現對消費者權益的整體維護。
美國著名計算機科學教授本·施奈德曼提議設立算法安全委員會,對算法的設計、開發、使用進行監督、審計與許可[21]。算法審查委員會不僅可以作為算法解釋審查的專門機關,也可以監督算法權力不被濫用,堅守技術中立原則,切實保障消費者的合法權益。筆者以為,算法審查委員會的構建同樣與我國算法產業的規制需求相契合,在具體監督內容方面,建議分為事前、事中、事后三個階段。事前階段,構建算法適用標準。算法審查委員會應當根據不同行業特點制定個性化的算法使用準則。同時,算法審查委員會還應對投入使用前的算法進行評估,及時阻止并公布危害消費者人格、財產利益的算法程序。事中階段,強化監督過程。由于事前監督可能因為學習數據的錯誤或使用者故意隱瞞真實數據等因素而異化,亟待外部監督機關對運行中的算法進行動態追蹤與定期檢查,以實現算法的高效、健康發展[22]。事后階段,行使行政處罰權威懾潛在的侵權行為。如果缺乏必要的行政手段作為保障,即便事前、事中的規制再精細也無濟于事。因此,通過立法賦予算法審查委員一定的行政執法權,是值得考量的進路。行政處罰權的設計可以大幅提升經營者的違法成本,威懾潛在的侵權行為人。當然,為防止算法審查委員會濫用行政權力,保障經營者的合法權益,應當允許經營者對審查與處罰行為進行投訴,相關部門及時處理投訴結果并予以公布。
權利構造的合理設計能夠發揮制度功能的最大作用,算法解釋權有效落實的前提是必須明確適用范圍、權利主體、解釋標注以及觸發機制等要素,如此,方可糾正消費者權利畸輕的現狀。
(1)算法解釋權的形式規制。算法解釋權的形式規制內容,包括算法解釋權的主體與內容兩個方面:一方面,在算法價格歧視場景中,算法解釋權的主體應為受到自動化定價不利決策的消費者。除此之外,若消費者因算法黑箱難以理解解釋內容,則算法審查委員同樣可以作為消費者的代理人,對解釋的內容進行審核與驗證。負有解釋義務的主體為使用定價算法的經營者,當算法的使用者無法進行解釋時,算法的開發者、設計者應當履行協助義務,提供更為詳細的解釋[23]。另一方面,算法解釋的標準必須以消費者為基礎,滿足可理解性與必要性。可理解性要求解釋應當簡單易懂,方便消費者自主理解算法。例如:算法經營者在對算法基本原理進行解釋時應當盡量用簡樸的語言對算法的運作過程、功能與目的進行解釋,增強解釋的可讀性與可理解性。為實現上述目的,算法解釋主體應盡量以書面形式作出解釋,方便數據主體留存證據[24]。在必要性方面,筆者主張將基本邏輯作為解釋的主要內容。具言之,算法決策主體必須對算法運行的基本邏輯而非結果進行解釋,在保證算法相對人知情權的前提下協助后者獲取更有利的決策結果。值得注意的是,此處的基本邏輯并不意味著披露算法的源代碼,更不意味著完全忽視了商業秘密的存在價值。
(2)算法解釋權的實質規制。算法解釋權的實質規制是指消費者在何種情形下方能要求經營者進行算法解釋,即算法解釋權的觸發條件為何。一般情形下,算法決策已經對或者可能對相對人造成顯著影響時,便可以喚醒請求權。關鍵的問題是,如何理解“顯著的影響”這一權利觸發前提。“顯著影響”是一種主觀性判斷,需要算法相對人提供一定證明力的證據,但相對人不可避免地帶有情緒化的偏見,進而會影響法官的裁判。因此,比較穩妥的做法是立足一般理性人的視角,評估算法結果是否損害或者可能損害數據主體的圓滿的利益狀態。基于此,筆者建議在程度、效果以及內容三個方面進行判定:其一,程度要素。重大影響必須是直接的影響,這就排除了不可控的間接損失或者純粹經濟損失。其二,效果要素。算法錯誤決策影響的具體權利必須被法律所評價,這就排除了其他非法定權益。其三,內容要素。算法決策的對象必須是較為敏感的信息,包括但不限于身份、基因、定位以及健康狀態等,而與上述敏感信息密切相關的算法表現在權重排名、分類評價、相關預測以及信息屏蔽等。
責任機制與消費者能否切實、全部獲得損害賠償息息相關,而對于責任機制的構建宜從實體和程序兩個方面予以考量。在實體層面,綜合考慮主體數量、相互關系以及對算法利用程度等確定算法設計者、平臺、商家等責任份額,同時適用過錯推定原則,如此方能貫徹法律保護弱者的基本精神;在程序層面,基于算法價格歧視違法認定標準的模糊性與舉證成本過高、數據信息專業化水平較高等情形,實行舉證責任倒置,更有利于實現法律追求的公平正義。
(1)多元主體責任份額的分配。算法價格歧視運行過程涉及算法設計者、互聯網交易平臺以及商家。因此,對算法歧視責任主體的考量應當厘清各類主體的法律關系,尤其關注主體參與程度、利益關系、風險防控、主觀過錯以及算法自主性等因素。具體而言:第一,若算法價格歧視是由算法設計者在設計之初基于自身偏見形成的,此時責任主體的厘清需要考慮算法設計者與算法平臺之間的關系。若兩者是合作關系,則算法的設計者、平臺與經營者之間是不真正連帶責任,經營者承擔責任之后,可向平臺或者算法的設計者進行追償。若兩者是委托關系,算法設計者僅依據平臺與經營者的要求,簽訂算法開發技術合同并交付算法系統,則平臺與經營者承擔不真正連帶責任。至于算法設計者與平臺之間的責任,按照兩者之間的約定處理。第二,若算法僅是經營者攫取超額利潤的工具,其間算法設計者、開發者、其他算法使用者等并未參與。如此,算法價格歧視行為是由經營者利用平臺的算法實現的,則經營者構成價格欺詐行為,直接由經營者就算法價格歧視造成的損害承擔賠償責任,且視情節輕重分配具體份額。第三,算法價格歧視行為違背了經營者的主觀意愿,是算法程序運行中的錯誤代碼所引發的,則此次行為不構成價格欺詐,但是經營者或設計者要為自己的過失就消費者的損失承擔賠償責任。經營者承擔賠償責任后,若有證據證明算法價格歧視行為系算法設計者、開發者的設計、開發行為不當,則可向后者進行追償。
(2)過錯推定原則的適用邏輯。算法價格歧視的目的是獲取更大的消費者剩余,本質上是一種“反向歧視”,即惡意指向于“條件較好的”一方。它的主觀惡性不僅僅體現在表面上的對公平原則的破壞,更實質性地反映了對消費者乃至其他經營者的剝削。另外,基于信息不對稱與算法技術復雜性的考量,消費者在舉證過程中處于較為被動的局面,因此,歸責原則似乎適用無過錯原則更為適宜,這也是社會法“傾斜保護原則”的重要體現。無過錯原則固然可以實現對消費者權益的深度保護,但其以受損消費者的主觀感知為要件,具有較強的不確定性;同時此類歸責原則對算法商家較為嚴苛,不僅容易誤傷正常的算法定價行為,導致“假陽性”執法錯誤;還會抑制企業創新積極性,引發市場“寒蟬”效應。因此,算法價格歧視的歸責仍應當堅守過錯原則,建議關注算法本身的特點以及對算法商家合理兼顧,采用過錯推定原則。即價格歧視行為一旦對消費者造成人格權益或財產權益的損害,應當推定算法商家有過錯,但允許其進行抗辯。當然,執法者應當著重考量算法商家的抗辯事由,嚴格審查諸如定價測試、算法程序故障等理由的充足性與科學性,切實保障消費者權益。
(3)舉證責任倒置原則的適度擴張。一般而言,民事侵權糾紛堅持一般舉證規則,即由原告承擔舉證責任,在環境污染侵權、動物侵權、醫療行為侵權等特殊情形中適用舉證責任倒置。但在算法價格歧視中,自動化定價算法具有較強的技術性、隱蔽性與抗辯性,普通消費者難以發現權利受到侵害。即便發現了自己遭遇了價格方面的差別待遇,經營者也會以定價測試、優惠活動、程序故障等進行抗辯,而且“算法黑箱”的存在導致消費者無法觸及定價算法的運作原理,舉證將異常艱辛。更為重要的是,消費者即使可以舉證,高昂的調查與訴訟成本也會迫使多數消費者考慮預期收益能否“回本”,最終的結果往往是不了了之,這也進一步助長了經營者逃避法律責任的僥幸心理。因此,為了降低消費者的維權成本,保證契約實質正義的實現,必須重新審視經營者與消費者證明責任的分配規則。筆者以為,基于算法價格歧視違法認定標準的模糊性與舉證成本過高的現狀,當前應將舉證責任倒置規則擴展到算法價格歧視場景中去,即經營者應當證明自動定價行為與損害結果之間不存在因果關系、受害人有過錯或者第三人有過錯。