算法歧視對金融消費權益的損害與保護

程峰 劉暢

平臺經濟下的算法歧視問題

平臺經濟方興未艾

自2012年以來，我國陸續實施“互聯網+”行動和“國家大數據”等國家戰略，有力推動了互聯網平臺經濟蓬勃發展。尤其是2020年以來，雖然實體經濟受到新冠肺炎疫情的影響和沖擊，但平臺經濟逆勢而上，仍然呈現持續高速增長的態勢。中國信息通信研究院發布的數據顯示，截至2020年底，我國市場價值超10億美元的數字平臺企業達197家，較2019年增加23家;價值規模達3.5萬億美元，同比增長56.3%。在推動平臺經濟高速發展壯大的過程中，大數據無疑起到了巨大的驅動作用，甚至扮演著關鍵生產要素的角色。對于普通受眾而言，在享受大數據帶來的便利的同時，也不可避免地面臨著“大數據殺熟”、個人信息濫用、數據壟斷等問題。

平臺金融消費領域特殊性

根據中國互聯網絡信息中心發布的《第47次中國互聯網絡發展狀況統計報告》，截至2020年末，我國網民規模達9.89億，其中使用過網絡支付等金融服務的用戶規模已達8.54億，占網民整體數量的86.4%，我國通過網絡進行金融消費的群體數量巨大。借助平臺經濟發展的東風，加之馬太效應的影響，大型互聯網平臺對市場份額的占有越發集中，對于消費者的影響也越來越大。與其他消費領域略有差別，大型互聯網平臺金融消費領域總結起來具有以下特點：一是涉及金額較大。尤其是網絡借貸、資產管理等業務，所涉金額遠遠高于生活類消費。二是消費應具備專業知識較多。由于金融業務的專業性，提供金融產品或服務的機構往往以消費者同意簽訂相關知情書、協議為前提而進行交易，但通過網絡進行金融消費的群體，金融知識良莠不齊，很難對文書范本進行充分閱讀和理解，對點擊“我同意”選項后所確認的權利義務關系一知半解。三是將對消費者生活產生持續性影響。絕大多數金融消費并非一次性交易，特別是當對消費者個人征信產生影響時，不良記錄將持續困擾消費者生活的方方面面，引發重重矛盾。四是相關業務屬于金融監管范疇。通過大型互聯網平臺開展金融業務，沒有改變金融的本質，亦即仍然需要防范相關金融風險，需要實施金融監管。也正是基于以上這些特點，該領域的消費者保護工作顯得尤為重要。

算法歧視的表現及多發領域

參考《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》相關內容，可將算法歧視簡單描述為，設定特定的數據管理方式，在無正當理由的情況下對交易條件相同的對象實施差別待遇，侵害消費者合法權益的行為。這種不公平的差別待遇一般體現在排序策略、交易條件、差別定價等方面。在金融消費權益保護領域，大型互聯網平臺實施算法歧視侵害消費者權益的情況近年來逐漸引起重視，應進一步關注并加以規制。

平臺利用算法歧視侵害金融消費者權益的重災區，集中在互聯網金融尤其是平臺金融領域。究其原因：一方面是互聯網金融企業急需大型互聯網平臺客戶資源拓展業務，并且事實上多數大型互聯網平臺爭先拓展出金融業務以充分挖掘并利用客戶資源，泛金融化趨勢加劇，如阿里旗下的螞蟻集團、百度旗下的度小滿金融、京東旗下的京東金融等;另一方面，出于風險和成本控制等方面的考慮，商業銀行等傳統金融機構主要通過專屬手機App、網站等提供網絡金融產品和服務，較少以大型互聯網平臺充當業務媒介。

算法歧視侵害金融消費者權益情況

針對消費者本身的算法歧視。此類行為主要表現為價格歧視，即沒有正當理由而對交易條件相同的消費者提供差別定價，據以設定差別定價的數據可能是個體消費者的網絡活動歷史軌跡、交易習慣、聯網設備等信息，甚至還可能是性別、種族等敏感信息。此類現象大多出現在大型互聯網平臺的關聯金融業務中，例如，2019年11月，戴維·海涅邁爾·漢森（David Heinemeier Hansson）在推特（Twitter）上宣稱，蘋果公司與高盛集團推出的Apple Card信用卡服務算法歧視了他的妻子，因為雖然他和妻子結婚多年且共用銀行和其他信用卡賬戶，但Apple Card給他的信用額度是妻子的十倍多。此舉引發了許多用戶的共鳴，抱怨女性的Apple Card信用額度低于男性。盡管2021年3月紐約州金融服務局發布報告稱Apple Card不存在非法歧視，但同時也承認信貸系統本身仍存在歧視現象（美國信用評分系統對白人男性給予優待）。在我國，“大數據殺熟”近年來持續引發熱議，投訴集中在網絡購票、游戲抽獎、打車等領域，在金融消費方面也不鮮見。例如，2018年小米公司接到429起關于P2P的投訴，投訴人稱小米在其各類平臺上以“米粉專享”“米粉任務”形式針對VIP用戶推薦P2P產品并造成用戶損失，涉及總金額約4億元。

針對第三方的算法歧視。該種行為主要表現為不公平的排序、限定交易等，是平臺針對提供金融服務和產品的機構實施算法歧視而間接減損了消費者權益的情況。相對于直接針對消費者個體的算法歧視，該種行為不區分具體受眾，顯然會產生更大的影響力和不良后果。比如，2015年2月媒體報道的微信封殺支付寶紅包事件，許多用戶反映通過微信公眾平臺開設的店鋪無法繼續使用支付寶收付款，即被受眾質疑平臺涉嫌限定支付方式。另外，在排序策略方面飽受爭議的百度競價排名業務，自“魏澤西事件”后曝光于公眾視野，并在互聯網金融高速發展后被許多P2P機構所用。例如，媒體曾報道在百度搜索某中等規模的P2P平臺時，搜索結果的前8條全部是其他P2P平臺的推廣信息，并且有5條信息雖然在鏈接文字上標注某中等規模的P2P平臺字樣，但點擊進去卻跳轉到其他P2P平臺。上述行為在被質疑不正當競爭、壟斷的同時，也涉嫌侵害了金融消費者的知悉真情權以及自主選擇權。

保護金融消費權益的路徑探索

在法律規制方面，除普適性維護消費者權益的民法典、消費者權益保護法等法律外，近年來我國網絡法治的專門立法不斷完善，尤其在較高法律層級對消費者個人信息數據安全加強規制。涉及到的立法有網絡安全法、數據安全法以及已經進入立法程序的個人信息保護法（草案）。具體到金融消費權益領域，主要的規章有《中國人民銀行金融消費權益保護實施辦法》《銀行業保險業消費投訴處理管理辦法》等，且《中國人民銀行金融消費權益保護實施辦法》第四十條明確將“通過電子商務、網絡交易購買、使用金融產品或者服務的”金融消費者納入保護范圍。

在監管互聯網平臺行為方面，除適用反壟斷法、反不正當競爭法、價格法等法律外，2021年2月7日，國務院反壟斷委員會印發了《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》（以下簡稱《指南》），雖然不屬于立法文件，但對平臺經濟下的壟斷行為明確了執法規則，是實施監管的重要依據。《指南》中對平臺相關概念的界定、濫用市場支配地位的認定、不公平價格行為的認定、差別待遇的認定等內容，都與金融消費者的切身利益密切相關，在一定程度上有利于消費者免受平臺算法歧視之害。

總體來說，可以看到我國立法對網絡安全、個人信息安全、平臺經濟監管方面關注度較高，法治進程明顯加快，已在逐步落實《法治社會建設實施綱要（2020～2025年）》提出的“建立健全網絡綜合治理體系”要求。不過，由于相關立法實施時間尚短或還處于立法程序中，其應用情況和執法效果仍有待在實踐中接受檢驗。為進一步探索行之有效的算法歧視治理方式，充分保護金融消費者合法權益，建議綜合考慮從以下幾個方面強化規制。

加強立法保障。與其他領域一樣，立法保障是最根本的保障。雖然當前我國在網絡安全、個人信息安全、平臺經濟監管方面立法進程較快，但其中涉及算法歧視問題的極少。算法具有技術性和隱蔽性，許多情況下還屬于被依法保護的知識產權，其屬性決定了不宜對算法本身進行過度審查。因此，建議立法從算法設計應遵循的公平原則、算法應用不得產生的損害后果兩方面來預防和糾正算法歧視問題，從立法層面明確遏制算法歧視。

開展綜合監管。在大型互聯網平臺泛金融化的當下，傳統的監管模式也面臨變革，有學者將其概括為“傳統的以中心化和實體化為主的金融監管秩序面臨著以去中心化和數字虛擬化為表征的金融業務的挑戰”。此種情況下，單純的行業監管在執法力度和效果上都顯得較為乏力。為有效保護金融消費者權益，建議建立金融監管與反壟斷監管相補充、相結合的綜合監管模式，從維護金融穩定和良好的市場競爭秩序兩方面共同規制算法歧視問題。

實行行業自律。隨著平臺經濟的發展，頭部平臺資源聚集加劇，大型互聯網平臺的壟斷問題越來越受到重視，而壟斷行為則是滋生算法歧視的溫床。創新賦予了平臺經濟發展的強大活力，因此行政機關在進行監管時往往面臨著矯枉過正的風險，僅依賴強監管手段難免會造成過多的束縛，并且許多平臺的技術壁壘也造成了監管的失效。因此，實施行業自律是互聯網平臺的必要治理措施。在多部門共同行政指導推動下，截至2021年4月，已有百度、京東、字節跳動、拼多多、美團、騰訊、滴滴、快手、嗶哩嗶哩等20多家平臺企業發布了合規經營承諾，承諾書中將個人信息保護、反壟斷、反不正當競爭作為重點，其中明確提到算法問題的僅有4家，這也表明平臺企業尚未充分意識到或尚未承認算法歧視的危害性，應結合實際進一步擴充行業自律的內容，自發規范行業秩序。

（作者單位：中國人民銀行佳木斯市中心支行）