數(shù)字平臺的誘導(dǎo)、操縱風(fēng)險與暗模式監(jiān)管
——流量劫持、算法俘獲與界面設(shè)計陷阱

張海汝，李勇堅

(1.中國社會科學(xué)院大學(xué) 應(yīng)用經(jīng)濟學(xué)院，北京 102488； 2.中國社會科學(xué)院 財經(jīng)戰(zhàn)略研究院，北京 100006)

一、引 言

隨著平臺智能算法、大數(shù)據(jù)分析、用戶界面設(shè)計等技術(shù)不斷革新，建立在代碼編程與軟件開發(fā)架構(gòu)上的數(shù)字平臺可以設(shè)計多種類、超現(xiàn)實的網(wǎng)絡(luò)功能和虛擬場景，這在很大程度上便利了數(shù)字平臺的多邊市場主體。一方面，用戶(消者者(1)本文未嚴(yán)格區(qū)分用戶、消費者兩個概念，文中按日常習(xí)慣交替使用。)和商戶的需求和使用感受得到更為貼切的滿足和提升；另一方面，數(shù)字平臺自身也可以通過網(wǎng)絡(luò)功能和場景設(shè)計更好地落實其商業(yè)意圖與策略，從而謀求企業(yè)發(fā)展。但是，科學(xué)技術(shù)在滿足人類各種需求的同時，又將人類置于風(fēng)險之中。數(shù)字平臺可以利用流量劫持、算法俘獲和界面設(shè)計陷阱誘導(dǎo)和操縱消費者行為，以強化其自身市場勢力，帶來侵害消費者利益的風(fēng)險。例如，數(shù)字平臺頁面上某些按鈕設(shè)計得要比其他按鈕明顯，很多用戶會下意識點擊更顯眼的按鈕(此類顯眼的按鈕通常是商家所期望用戶點擊的選項)；確認(rèn)訂閱的時候很順利，但取消訂閱的時候很麻煩，用戶可能會因此放棄取消訂閱。

這類誘導(dǎo)或操縱消費者行為的設(shè)計稱為暗模式(Dark Patterns)，這類設(shè)計旨在迎合利益相關(guān)者——數(shù)字平臺或企業(yè)，而不在于提高消費者和社會的福利[1]，并可能令消費者喪失大量隱私數(shù)據(jù)[2]，危害消費者的數(shù)據(jù)安全，而數(shù)字平臺或企業(yè)往往從中得到利益并實現(xiàn)自我強化。暗模式已成為數(shù)字平臺自我強化的新方式，其負(fù)外部性會引發(fā)一系列損害與風(fēng)險，不利于平臺經(jīng)濟良性發(fā)展，因而評估和探析數(shù)字平臺暗模式的風(fēng)險對中國平臺經(jīng)濟健康有序發(fā)展具有重要意義。目前，學(xué)界已對暗模式展開大量研究，其研究內(nèi)容主要為暗模式表現(xiàn)分類、情景實驗、合法性與訴訟案例等。本文從數(shù)字平臺的風(fēng)險角度出發(fā)，基于消費者有限理性理論分析數(shù)字平臺暗模式的特征、形成根源，以及所引發(fā)的損害與風(fēng)險，并在總結(jié)和梳理國內(nèi)外暗模式相關(guān)監(jiān)管經(jīng)驗的基礎(chǔ)上，探尋數(shù)字平臺暗模式監(jiān)管與風(fēng)險規(guī)避之道。

二、數(shù)字平臺暗模式的內(nèi)容框架

(一)暗模式定義

1999年，Hanson和Kysar[3]首次專門分析企業(yè)利用用戶認(rèn)知局限和偏見影響消費者決策從而牟利的手段，并稱之為市場操縱(Market Manipulation)。隨著數(shù)字經(jīng)濟時代的到來，界面設(shè)計與功能交互更加豐富多彩，更多隱藏在交互界面“別有用心”的設(shè)計也被發(fā)現(xiàn)。例如，購物網(wǎng)站上商家為商品增加稀缺性標(biāo)簽，購買、添加購物車的按鈕被設(shè)計成引人注目的樣式等。此類特殊設(shè)計對消費者有著很強的吸引力[4]，這些現(xiàn)象逐漸引起學(xué)界重視。2010年，用戶體驗專家Brignull[5]將網(wǎng)絡(luò)環(huán)境中各種“別有用心”的設(shè)計正式命名為暗模式，用以描述網(wǎng)絡(luò)環(huán)境中在用戶交互界面上對用戶的行為及決策產(chǎn)生不利影響的設(shè)計，涵蓋了平臺及應(yīng)用程序中各種誘導(dǎo)或操縱用戶進(jìn)行點擊、瀏覽、購買、注冊、開放隱私數(shù)據(jù)權(quán)限等消費者本不會進(jìn)行的行為設(shè)計，并將暗模式總結(jié)為五大類及十六種變體。許多學(xué)者在Brignull分類的基礎(chǔ)上對暗模式進(jìn)行了進(jìn)一步的豐富和匯總[6-7]。本文以平臺誘導(dǎo)目的為依據(jù)，結(jié)合中國實際情況，將暗模式簡化為五大類，包括誘導(dǎo)點擊與瀏覽[1,5]、誘導(dǎo)交易與持續(xù)交易[1,2,5]、增加轉(zhuǎn)換困難[1,2,5]、利于隱私數(shù)據(jù)收集[1,5,8]和其他輔助功能[1,2,8]，具體如表1所示。

表1 數(shù)字平臺暗模式表現(xiàn)與類型

(二)暗模式的特征

第一，多樣性。數(shù)字平臺暗模式涉及各個交互界面和使用環(huán)節(jié)，在實現(xiàn)功能上包含誘導(dǎo)點擊瀏覽、促進(jìn)交易與持續(xù)交易、減少轉(zhuǎn)換行為、利于隱私數(shù)據(jù)收集和其他輔助功能等多種類型，并且隨著算法與界面交互設(shè)計的不斷發(fā)展，暗模式的表現(xiàn)與種類也將更加復(fù)雜多樣。

第二，靈活性。暗模式誘導(dǎo)或操縱消費者作出數(shù)字平臺期望行為的策略是十分靈活的，數(shù)字平臺往往在不同的情景下使用并組合多種暗模式設(shè)計，且有非固定的表現(xiàn)樣式和組合方式，具有輔助功能的暗模式靈活性更高。例如，在具有歧義的復(fù)雜問題表述中預(yù)設(shè)默認(rèn)值、在取消阻礙中往往使用情感操縱以增加取消難度等。

第三，隱蔽性。暗模式極具隱蔽性，不易被察覺。一方面，數(shù)字平臺將暗模式理念內(nèi)化于算法設(shè)計并最終由算法實現(xiàn)，由于算法及其設(shè)計規(guī)則的非公開性與復(fù)雜性，暗模式難以被察覺；另一方面，一些暗模式設(shè)計得過于微小，消費者本身缺乏對暗模式的認(rèn)知[9]，往往沉浸于場景化的體驗中不容易注意到暗模式的存在，或者即使注意到也不會意識到這是數(shù)字平臺故意設(shè)計的誘導(dǎo)或操縱方式。

第四，誘導(dǎo)性。數(shù)字平臺往往利用暗模式誘導(dǎo)用戶產(chǎn)生更多點擊和瀏覽、持續(xù)交易、開放隱私權(quán)限等行為，從而塑造市場勢力和提高收益，因而暗模式都帶有極強的誘導(dǎo)性。但是，誘導(dǎo)性并非等同于損害性，數(shù)字平臺的一些暗模式也存在有利于消費者減少行為成本、降低認(rèn)知負(fù)擔(dān)等提升福利的情況。有學(xué)者認(rèn)為平臺的一些設(shè)計是為了引導(dǎo)用戶作出符合其偏好或客觀改善福利的決定[10]，如默認(rèn)選項可以幫助用戶快速熟悉新平臺，刪除信息時多次詢問有助于減少用戶誤刪、誤觸的可能性[11]。因此，暗模式雖具有極強的誘導(dǎo)性，但在是否存在損害性的問題上，不能一概而論。

(三)數(shù)字平臺暗模式的形成來源

1.消費者有限理性特征

暗模式的設(shè)計原理來自于消費者本身具有的認(rèn)知限制、心理偏見等，因而暗模式的形成來源可以基于消費者有限理性理論進(jìn)行解釋。根據(jù)Simon[12]所提出的有限理性理論，個體在現(xiàn)實環(huán)境下并非古典經(jīng)濟學(xué)所假設(shè)的那樣——“個體是完全理性決策，偏好穩(wěn)定且一致，且具備無限精力、能力與意志力”，個體反而常常無法作出最優(yōu)決策，其原因在于個體在現(xiàn)實環(huán)境中的意志力、認(rèn)知、信息處理能力等都存在限制，而且存在著大量的心理偏見和啟發(fā)式，(2)啟發(fā)式最早由Simon 提出，他認(rèn)為人類的理性永遠(yuǎn)受認(rèn)知的限制，為了節(jié)省認(rèn)知資源，人類發(fā)展出了一套高效率的認(rèn)知結(jié)構(gòu)，即啟發(fā)式。人們會用啟發(fā)式來幫助自己理解看到的東西，從而迅速作出決策，但啟發(fā)式的有用性和準(zhǔn)確性很依賴于良性的環(huán)境。因而消費者的現(xiàn)實決策模式往往是在有限計算的情況下，伴隨著心理偏見和啟發(fā)式作出的次優(yōu)選擇。

在快速高效的數(shù)字平臺環(huán)境下，消費者所面臨的信息處理和決策環(huán)境與傳統(tǒng)線下環(huán)境相比更為復(fù)雜。由于消費者充分處理信息的能力有限，面對海量可供決策的信息，短時間內(nèi)極容易產(chǎn)生超負(fù)荷的“信息凝固”現(xiàn)象[13]。因此，在數(shù)字環(huán)境下，花費較少的決策成本以快速獲得相對滿意的決策結(jié)果(次優(yōu)決策)的現(xiàn)象更為普遍。根據(jù)有限理性理論，個體的心理偏見或啟發(fā)式在節(jié)約有限認(rèn)知能力方面有巨大幫助，基于心理偏見和啟發(fā)式的決策系統(tǒng)要比基于理性計算的決策系統(tǒng)所花費的時間和精力成本要小得多[14-15]，因而個體的心理偏見和啟發(fā)式將更容易被調(diào)用以應(yīng)對數(shù)字信息環(huán)境下的決策困境。此外，數(shù)字平臺消費模式的躍遷也沖擊著消費者傳統(tǒng)理性決策框架。基于消費者資源(注意力等)付費的“免費”模式導(dǎo)致人們的預(yù)算約束敏感度下降，消費者傳統(tǒng)理性決策框架與基準(zhǔn)受到?jīng)_擊，消費者有限理性特征更加明顯。復(fù)雜數(shù)字環(huán)境與平臺消費模式的躍遷構(gòu)成了暗模式利用消費者有限理性的基本環(huán)境條件。

2.數(shù)字平臺技術(shù)發(fā)展

數(shù)字平臺技術(shù)的發(fā)展使得數(shù)字平臺利用暗模式觸發(fā)消費者有限理性更具可實現(xiàn)性、靈活性與隱蔽性。消費者有限理性特征是可以被主動觸發(fā)的，廣泛應(yīng)用于消費交易等商業(yè)場景中且效果顯著，但常常被古典經(jīng)濟學(xué)理論模型所忽略。例如，消費者的雙曲貼現(xiàn)、稟賦效應(yīng)等心理偏見會使得產(chǎn)品捆綁和搭售行為、“忠誠計劃”等行為相較于新古典經(jīng)濟學(xué)反壟斷模型所預(yù)期的結(jié)果更具“鎖定”與“粘性”效應(yīng)[16]。

數(shù)字經(jīng)濟時代，數(shù)字平臺技術(shù)的發(fā)展使數(shù)字平臺的運營思想和價值導(dǎo)向內(nèi)化于編制軟件代碼的智能算法和用戶界面設(shè)計之中，平臺可以利用代碼算法編寫、用戶界面設(shè)計等方法實現(xiàn)暗模式的功能。例如，基于消費者隱私信息及行為數(shù)據(jù)，精確地識別消費者的心理偏見和啟發(fā)式，并主動觸發(fā)消費者的有限理性特征，從而誘導(dǎo)或操縱消費者行為，如同意隱私權(quán)限、持續(xù)訂閱、瀏覽及下單等行為。依靠智能算法和界面設(shè)計，暗模式甚至可以實現(xiàn)引導(dǎo)社會輿論與用戶認(rèn)知的效果，有意識地從認(rèn)知價值觀層面操縱消費者[17]。因此，數(shù)字平臺暗模式的產(chǎn)生不僅在于消費者本身具有的有限理性特征，還在于數(shù)字平臺主動利用算法和用戶界面設(shè)計觸發(fā)消費者有限理性特征。

三、數(shù)字平臺暗模式的損害及風(fēng)險分析

(一)暗模式對個人層面的損害及風(fēng)險

1.福利、權(quán)利損害

對于受暗模式誘導(dǎo)或操縱的消費者而言，在有限認(rèn)知和心理偏見的作用下所作出的次優(yōu)決策與行為將存在低于消費者理性決策和自由選擇下福利水平的可能性，因而暗模式的誘導(dǎo)或操縱會令消費者的福利、權(quán)利面臨風(fēng)險。一是在消費者經(jīng)濟福利方面，暗模式誘導(dǎo)或操縱消費者非理性消費，存在利益損失的風(fēng)險。暗模式的設(shè)計初衷在于迎合數(shù)字平臺或商家的利益，而非消費者的利益，因而在數(shù)字平臺暗模式的誘導(dǎo)或操縱下，消費者的經(jīng)濟福利將受到損失[2]。例如，“網(wǎng)紅打卡”等從眾性、沖動性消費成為新趨勢，消費者往往購買或過多購買自己不需要、不期望的產(chǎn)品和服務(wù)[18-19]。因此，消費者的經(jīng)濟福利在暗模式誘導(dǎo)或操縱下難以得到保證。二是關(guān)于消費者民主權(quán)利方面，暗模式存在輿論引導(dǎo)和詐騙欺詐的風(fēng)險。數(shù)字平臺使用暗模式影響社會輿論和消費者認(rèn)知的形成。例如，暗模式可以通過外觀操縱突顯有利信息或隱藏不利信息以引導(dǎo)輿論走向，通過社交信息等促使消費者產(chǎn)生從眾行為，從而影響其認(rèn)知形成等[20]。有研究發(fā)現(xiàn)，暗模式甚至?xí)粦?yīng)用于影響政治選舉，如在民主政治選舉的電子郵件當(dāng)中，用戶被誤導(dǎo)性的界面設(shè)計誘導(dǎo)投票、籌款[21-22]。一些在線廣告也涉及了政治操縱[23]。例如，通過算法和界面設(shè)計引導(dǎo)輿論環(huán)境、壓制政治言論等，侵害了選民的民主自由權(quán)。此外，暗模式導(dǎo)致消費者輕易泄露隱私信息還極易引發(fā)詐騙等安全風(fēng)險，如詐騙人員可以通過模仿政治候選人及其組織誘導(dǎo)或操縱消費者。

2.數(shù)字成癮問題

數(shù)字成癮(Digital Addiction)已經(jīng)成為被廣泛關(guān)注的平臺經(jīng)濟發(fā)展問題，平臺利用消費者心理局限正在逐漸讓用戶上癮并侵蝕其思考能力。在免費模式的平臺經(jīng)濟下，算法俘獲利用“癮性經(jīng)濟”和人的心理偏見，通過數(shù)字內(nèi)容方式吸引、誘導(dǎo)消費者注意力和時間，對用戶思考和計算能力進(jìn)行定向狙擊[24]。數(shù)字平臺利用暗模式誘導(dǎo)用戶上癮，用戶同樣也會掉入浪費時間的癮性陷阱[25]，可能產(chǎn)生過度使用、過度消費等行為，甚至引發(fā)精神障礙、注意力缺乏等生理損害[26-27]。例如，利用暗模式誘導(dǎo)和欺騙消費者點擊瀏覽、交易與持續(xù)交易、阻止轉(zhuǎn)換；游戲化和情感操縱則將消費者鎖定在當(dāng)前平臺，同時誘導(dǎo)消費者提交隱私數(shù)據(jù)強化用戶推薦、個性化服務(wù)。數(shù)字平臺依靠暗模式誘導(dǎo)用戶所產(chǎn)生的行為數(shù)據(jù)進(jìn)一步強化了對消費者行為的了解與控制，這都將引發(fā)和加強消費者數(shù)字成癮問題。

3.隱私數(shù)據(jù)安全

根據(jù)《網(wǎng)絡(luò)安全法》，網(wǎng)絡(luò)隱私安全包括網(wǎng)絡(luò)個人資料信息搜集的知悉權(quán)、選擇權(quán)、控制權(quán)等。為保證消費者的網(wǎng)絡(luò)隱私安全，網(wǎng)絡(luò)經(jīng)營者必須具有用戶網(wǎng)絡(luò)個人資料信息安全權(quán)利的各項授權(quán)。不具有用戶相關(guān)授權(quán)的隱私信息收集、使用，以及處理用戶隱私信息的行為則涉嫌侵害消費者網(wǎng)絡(luò)隱私安全。為合法收集、使用及處理用戶隱私數(shù)據(jù)，數(shù)字平臺通過暗模式操縱用戶減少隱私管理與控制，并誘導(dǎo)用戶進(jìn)行相關(guān)的隱私授權(quán)或同意。一是影響用戶的隱私知悉權(quán)。任何單位及個人在搜集使用個人數(shù)據(jù)資料時，必須向資料的所有者及時準(zhǔn)確地告知相關(guān)隱私政策。數(shù)字平臺將隱私政策及條款的內(nèi)容以小號字體等外觀操縱暗模式形式進(jìn)行告知，并沒有達(dá)到法律要求意義上的告知行為，這將構(gòu)成對用戶隱私知悉權(quán)的損害。二是影響用戶的隱私選擇權(quán)。用戶的隱私控制權(quán)體現(xiàn)在用戶是否同意和授權(quán)數(shù)字平臺對個人隱私數(shù)據(jù)的收集使用。數(shù)字平臺利用暗模式將處置個人隱私數(shù)據(jù)的相關(guān)權(quán)利與平臺的服務(wù)使用聯(lián)系起來，使消費者的隱私披露成為不可抗拒的選項。例如，數(shù)字平臺暗模式中的強制用戶注冊問題。數(shù)字平臺在隱私數(shù)據(jù)收集方面對消費者而言擁有絕對的話語權(quán)，消費者要么同意平臺的隱私政策，要么不使用該平臺，這也將對消費者的隱私權(quán)形成危害。三是影響用戶的隱私控制權(quán)。用戶擁有通過合理途徑訪問、查閱被搜集和整理的網(wǎng)絡(luò)個人信息資料的權(quán)利，并擁有對錯誤的個人信息資料進(jìn)行修改、補充、刪除的權(quán)利，以保證網(wǎng)絡(luò)個人信息資料的完整、準(zhǔn)確。數(shù)字平臺暗模式中的不朽賬戶設(shè)置往往禁止用戶刪除個人賬戶及相關(guān)隱私數(shù)據(jù)，構(gòu)成對用戶隱私控制權(quán)的損害。

(二)暗模式對行業(yè)層面的損害及風(fēng)險

1.混淆市場信息

當(dāng)前，數(shù)字平臺的競爭模式已轉(zhuǎn)變?yōu)閲@流量數(shù)據(jù)的競爭模式，價格競爭和質(zhì)量競爭已經(jīng)被逐漸模糊和混淆。為了在流量至上的行業(yè)競爭中謀求更多交易機會，數(shù)字平臺利用暗模式干擾市場信號、混淆市場信息，使得消費者難以根據(jù)市場信息作出理性決策。例如，價格透明度是保證市場自由競爭的關(guān)鍵，而數(shù)字平臺往往利用比較阻礙等混淆信息的暗模式來增加用戶進(jìn)行價格比對的難度。一是復(fù)雜優(yōu)惠規(guī)則。數(shù)字平臺企業(yè)在“雙十一”等購物節(jié)時會發(fā)放大量優(yōu)惠券，優(yōu)惠券的種類繁多，優(yōu)惠條件復(fù)雜化的趨勢愈演愈烈。單以優(yōu)惠券的種類為例就達(dá)十多種，包括購物津貼、滿減優(yōu)惠、店鋪優(yōu)惠券、品類優(yōu)惠券、直播紅包、主播紅包、倒計時紅包、品類補貼等。此外，優(yōu)惠條件也愈發(fā)復(fù)雜，如為獲取紅包或津貼，需要消費者耗費大量精力參與游戲、打擂臺、獲取積分、拼單拉人、瀏覽一定量的商品或店鋪等。數(shù)字平臺通過復(fù)雜的優(yōu)惠規(guī)則促使消費者無心兼顧多個平臺，比價過程也愈發(fā)困難，從而影響消費者的理性決策過程。二是復(fù)雜計價規(guī)則。商品差異化后，不同類產(chǎn)品往往難以進(jìn)行價格比較，但對于同類產(chǎn)品，平臺往往也會通過捆綁銷售、多維度產(chǎn)品等方式進(jìn)行計價復(fù)雜化，消費者難以在短時間內(nèi)迅速作出理性決策。例如，對于某一品牌的洗衣液，在A平臺為“買一送一”，在B平臺則為“買三送二，再送柔順劑”，在C平臺則為“預(yù)付50元抵100元”，此時再加之復(fù)雜的優(yōu)惠規(guī)則，消費者所需要耗費的計價精力與時間成本上升，這對消費者的理性決策過程產(chǎn)生極大的阻礙。三是阻礙在線比價。為了混淆價格信息，平臺通常會拒絕向比價網(wǎng)站透露產(chǎn)品信息，或者用戶需要支付一定的費用才可使用比價服務(wù)。而且對于比價相對容易的標(biāo)準(zhǔn)化產(chǎn)品，或者消費者的線上搜索慣性大于線下搜索慣性的產(chǎn)品，常常不會被放在線上銷售。值得注意的是，這種復(fù)雜信息的行為會隨著市場競爭激烈程度和市場內(nèi)企業(yè)數(shù)量的增加而增加，最終的結(jié)果是平臺會追求最大的復(fù)雜性[28]。

2.無序競爭威脅

近年來，互聯(lián)網(wǎng)技術(shù)創(chuàng)新帶來的市場紅利逐漸消失，資本短期牟利的屬性導(dǎo)致數(shù)字平臺開始探索如何在不謀求產(chǎn)品及服務(wù)研發(fā)創(chuàng)新的基礎(chǔ)上快速獲取最多的利潤，因而引發(fā)數(shù)字平臺競爭亂象頻發(fā)，“燒錢”補貼、虛假宣傳等搶奪流量的模式在各類平臺中大量存在，暗模式也是數(shù)字平臺基于算法俘獲技術(shù)的無序競爭方式之一。暗模式的形成根源在于數(shù)字平臺技術(shù)觸發(fā)消費者有限理性特征，出發(fā)點并非是引導(dǎo)消費者依據(jù)產(chǎn)品及服務(wù)質(zhì)量作出理性決策，而是不斷誘導(dǎo)消費者作出平臺所期望的瀏覽、加購、平臺忠誠等偏差行為，且效果十分顯著。對于競爭企業(yè)而言，如果要做到研發(fā)創(chuàng)新下的有序競爭，不僅要承擔(dān)研發(fā)創(chuàng)新周期長的時間成本，還需要花費更多流量競爭成本，這會降低企業(yè)進(jìn)行產(chǎn)品研發(fā)創(chuàng)新和有序競爭的積極性。因此，從社會總福利層面講，暗模式并非是數(shù)字平臺在產(chǎn)品和服務(wù)提質(zhì)方面的研發(fā)創(chuàng)新，而是加劇了平臺經(jīng)濟無序競爭風(fēng)險的短視行為。

3.平臺壟斷風(fēng)險

數(shù)字平臺壟斷風(fēng)險已成為數(shù)字經(jīng)濟發(fā)展和平臺風(fēng)險防范的重點內(nèi)容。流量、數(shù)據(jù)及算法作為數(shù)字平臺自我強化、鞏固市場勢力、進(jìn)行行業(yè)壟斷的關(guān)鍵要素，數(shù)字平臺將不斷利用各種手段和方式加強對流量、數(shù)據(jù)及算法的控制力。暗模式作為數(shù)字平臺誘導(dǎo)或操縱消費者決策和行為的有力工具，將為數(shù)字平臺進(jìn)一步控制流量、數(shù)據(jù)及算法提供幫助，因而暗模式也存在形成和加強數(shù)字平臺壟斷的風(fēng)險。

在流量壟斷風(fēng)險方面，暗模式是數(shù)字平臺分流、控流的有效工具。數(shù)字平臺實質(zhì)是控制平臺流量入口的關(guān)鍵設(shè)施[29]，擁有對流量的巨大影響力和控制力。除了網(wǎng)絡(luò)效應(yīng)及規(guī)模效應(yīng)等流量影響力，數(shù)字平臺還借助暗模式利用消費者有限理性進(jìn)行流量操縱：一方面，暗模式可以有效地吸引消費者注意力，并將消費者注意力引導(dǎo)到特定商品或服務(wù)[30]，甚至是利用暗模式進(jìn)行自我優(yōu)待；另一方面，數(shù)字平臺通過暗模式阻礙用戶轉(zhuǎn)換平臺，減少用戶使用其他平臺的可能性，從而完成用戶鎖定和截流。因此，暗模式將加強數(shù)字平臺分流、控流的操縱勢力，完成流量自我強化。

在數(shù)據(jù)壟斷風(fēng)險方面，暗模式是數(shù)字平臺進(jìn)行和加強隱私數(shù)據(jù)控制的重要方式。在各平臺數(shù)據(jù)相互割裂的行業(yè)競爭環(huán)境中，擁有更多用戶隱私數(shù)據(jù)的數(shù)字平臺可以向競爭對手施加數(shù)據(jù)優(yōu)勢，提高競爭對手進(jìn)入相關(guān)市場的門檻，并有利于自身跨行業(yè)集成。因此，數(shù)字平臺熱衷于誘導(dǎo)用戶減少隱私顧慮、提交更多隱私信息，以及交付更多隱私授權(quán)和同意。例如，利用少量利益優(yōu)惠騙取用戶自愿提交隱私信息、開通隱私權(quán)限，誘導(dǎo)用戶注冊以獲取更多新用戶的隱私數(shù)據(jù)，不朽賬戶阻止用戶刪除自身隱私信息，以及將隱私選項設(shè)置為默認(rèn)開通、接受隱私條款等。這些暗模式進(jìn)一步加強了數(shù)字平臺對用戶隱私數(shù)據(jù)的控制能力，這將加劇數(shù)字平臺的數(shù)據(jù)壟斷風(fēng)險。

在算法壟斷風(fēng)險方面，暗模式可以為數(shù)字平臺實現(xiàn)算法“干中學(xué)”提供支持。消費者行為分析是數(shù)字平臺智能算法和界面設(shè)計優(yōu)化的重要途徑之一，暗模式對消費者的誘導(dǎo)行為數(shù)據(jù)和利用暗模式所獲得的消費者隱私數(shù)據(jù)是消費者行為分析的重要組成部分，可以幫助算法迅速學(xué)習(xí)消費者的心理偏見與行為弱點，便于進(jìn)一步實施暗模式、大數(shù)據(jù)殺熟等濫用市場地位的行為。例如，數(shù)字平臺分析并利用消費者常常發(fā)生的選擇過載心理，為消費者提供數(shù)千種選擇，消費者因選擇過載常常選擇默認(rèn)選項[2]。因此，基于暗模式誘導(dǎo)用戶所產(chǎn)生的行為數(shù)據(jù)和所獲得的隱私數(shù)據(jù)，數(shù)字平臺可以實現(xiàn)“干中學(xué)”優(yōu)化歧視消費者的算法，從而引發(fā)算法壟斷風(fēng)險。

四、對暗模式進(jìn)行監(jiān)管的國際經(jīng)驗和政策建議

(一)暗模式合法性判定與監(jiān)管

目前，已有不少國家和地區(qū)對數(shù)字平臺的暗模式設(shè)計行為展開了訴訟與監(jiān)管程序，但并未形成具有針對性的監(jiān)管準(zhǔn)則與體系。具體體現(xiàn)在暗模式并未作為獨立的監(jiān)管概念，未頒布暗模式專項監(jiān)管政策與法令，未形成暗模式監(jiān)管機構(gòu)和機制，未達(dá)成違法性暗模式類型和表現(xiàn)的共識。目前各個國家和地區(qū)對暗模式的監(jiān)管實踐以具體數(shù)字平臺訴訟案件為基礎(chǔ)，依靠相關(guān)領(lǐng)域的法令規(guī)定進(jìn)行調(diào)查和判決，也有國家和地區(qū)已經(jīng)開始針對暗模式實施專項監(jiān)管行動。

1.美國：暗模式標(biāo)準(zhǔn)制定與實驗調(diào)查

最初，美國聯(lián)邦貿(mào)易委員會(FTC)對多家涉及暗模式設(shè)計的互聯(lián)網(wǎng)企業(yè)提起訴訟，主要借鑒了美國《聯(lián)邦憲法》中關(guān)于不公平貿(mào)易的行為規(guī)定(目前仍應(yīng)用于行為不公平的判定)，即滿足：對消費者造成或可能造成實質(zhì)性傷害(多為金錢損失，且如果對大部分人造成了輕微傷害，意味著整體損害很嚴(yán)重)；消費者自身無法合理避免；對消費者的反補貼利益不會超過不公平貿(mào)易行為。但是，在訴訟過程當(dāng)中，關(guān)于暗模式的“實質(zhì)性傷害”與“大部分人傷害”問題難以衡量與舉證，因而依據(jù)《聯(lián)邦憲法》對暗模式進(jìn)行不公平貿(mào)易的判定存在較大困難。此后，依據(jù)網(wǎng)絡(luò)消費監(jiān)管類法案的暗模式訴訟案件獲得了勝訴。例如，依據(jù)《恢復(fù)網(wǎng)上購物者信心法案》(ROSCA)中的相關(guān)條款，隱藏成本和強制連續(xù)性的暗模式涉嫌違法；《電子通信隱私法》《特殊生物識別隱私法》(BIPA)中的相關(guān)規(guī)定可對隱私詐騙、強制注冊等涉及用戶隱私信息收集的暗模式作出違法判決。截至目前，根據(jù)美國關(guān)于暗模式的訴訟案件判決結(jié)果，虛假證明、取消阻礙、隱藏成本、強制連續(xù)性、外觀操縱、預(yù)選默認(rèn)值、歧義表達(dá)、變相廣告等暗模式已經(jīng)被判定為欺騙行為，提供虛假行為信息、私自加購、誘餌和開關(guān)、強制注冊和催促等暗模式被認(rèn)定為符合欺詐行為的某些條件，需要在滿足條件的情況下判定為違法行為，而多次詢問、價格比較阻礙、中間貨幣、情感操縱等暗模式目前還未確定是否違反美國相關(guān)法律。

由于以上所依據(jù)的法案各歸屬于不同的領(lǐng)域，無法提供一個統(tǒng)一明確的暗模式評判依據(jù)，美國開始實施對數(shù)字平臺暗模式的專項治理行動。美國參議院正在準(zhǔn)備一個涉及164項的兩黨立法《減少在線用戶欺騙體驗法案》(DETOUR)，以專門禁止暗模式。根據(jù)擬議的法案，主要涉及的監(jiān)管措施為：鼓勵創(chuàng)建一個標(biāo)準(zhǔn)制定機構(gòu)，該機構(gòu)應(yīng)持續(xù)為大型在線運營商的技術(shù)產(chǎn)品開發(fā)和設(shè)計制定方針和明確規(guī)則；指示該行業(yè)機構(gòu)定義具有損害用戶自主權(quán)和決策權(quán)的目的或?qū)嵸|(zhì)性影響的行為。例如，基于測試消費者偏好(包括不同的樣式、布局或文本)實驗的最小用戶界面變化衡量，此類行為不在于進(jìn)一步獲得用戶同意、用戶數(shù)據(jù)及建議默認(rèn)設(shè)置，而是增強用戶的隱私保護或以其他方式增強其自主性和決策能力，同時通過精心設(shè)計的調(diào)查研究可以區(qū)分試圖破壞普遍偏好的暗模式和試圖滿足消費者需求的服務(wù)，以方便暗模式訴訟案件的合理判定。

2.歐盟：重視心理偏見與監(jiān)管廣泛參與

在歐盟，對于暗模式的監(jiān)管準(zhǔn)則主要依靠消費者保護制度及相關(guān)政策體系，側(cè)重考慮消費者實際受到的環(huán)境及心理影響。歐盟的《不正當(dāng)商業(yè)行為指令》(UCPD)包含了較多判定數(shù)字平臺暗模式違法性的條款和思想，包括強調(diào)公平在合同簽訂前環(huán)境中的作用，規(guī)定了信息透明度的具體要求，禁止利用消費者公認(rèn)的心理偏見的商業(yè)行為。歐盟的《消費者權(quán)利法》也對企業(yè)做了一系列肯定性披露和獨立同意要求的約束，一些涉及單方面隱藏行為的暗模式(私自加購、隱藏訂閱、隱藏成本等)則被定義為構(gòu)成對消費者知情和獨立同意權(quán)限的侵害行為。此外，根據(jù)歐盟2018年頒布的《通用數(shù)據(jù)保護條例》(GDPR)中在數(shù)據(jù)自由給予、知情和主動同意方面規(guī)定，歧義表達(dá)和外觀操縱等涉及視覺干擾的暗模式屬于違法行為。此外，歐盟并未在設(shè)立專門監(jiān)管暗模式監(jiān)管機構(gòu)方面作出更大的努力，而是選擇提倡相關(guān)各方廣泛參與監(jiān)管。依據(jù)歐盟的《不正當(dāng)商業(yè)行為指令》(UCPD)，不僅是消費者、消費者保護機構(gòu)及國家監(jiān)管部門，競爭對手也可以以“直接或間接損害”為由對數(shù)字平臺暗模式等不正當(dāng)行為提起訴訟，以防止競爭對手使用暗模式，形成全社會廣泛參與的監(jiān)管治理環(huán)境。

3.中國：不得干擾、欺騙和誘導(dǎo)消費者

目前，中國關(guān)于數(shù)字平臺暗模式的監(jiān)管與訴訟經(jīng)驗還較少，對于暗模式的監(jiān)管一般歸屬于數(shù)字平臺不正當(dāng)競爭行為的監(jiān)管范圍，如涉及欺詐消費者，侵犯消費者知情權(quán)、選擇權(quán)、不公平交易等行為。2021年8月，市場監(jiān)管局發(fā)布《禁止網(wǎng)絡(luò)不正當(dāng)競爭行為規(guī)定(公開征求意見稿)》，其中特別強調(diào)“經(jīng)營者不得利用數(shù)據(jù)、算法等技術(shù)手段，對交易條件相同的交易向?qū)Ψ讲缓侠淼靥峁┎煌慕灰仔畔ⅲ趾灰讓Ψ降闹闄?quán)、選擇權(quán)、公平交易權(quán)等”。此外，《禁止網(wǎng)絡(luò)不正當(dāng)競爭行為規(guī)定(公開征求意見稿)》也指明數(shù)字平臺不得惡意誘導(dǎo)消費者，即“經(jīng)營者不得采取下列方式，對經(jīng)營者自身或者其商品的性能、功能、質(zhì)量、曾獲榮譽、資格資質(zhì)等作虛假或者引人誤解的商業(yè)宣傳，欺騙、誤導(dǎo)消費者或者相關(guān)公眾”，以及“經(jīng)營者不得利用數(shù)據(jù)、算法等技術(shù)手段，通過影響用戶選擇或其他方式，實施流量劫持、干擾、惡意不兼容等行為，妨礙、破壞其他經(jīng)營者合法提供的網(wǎng)絡(luò)產(chǎn)品或者服務(wù)正常運行”。2021年11月，國家網(wǎng)信辦、工信部、公安部和市場監(jiān)督局發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，明確規(guī)定不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等違反法律法規(guī)或違背倫理道德的算法模型，并且鼓勵算法推薦服務(wù)提供者綜合運用內(nèi)容權(quán)重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對用戶產(chǎn)生不良影響。因此，暗模式中涉及不公平交易侵害、虛假宣傳、誤導(dǎo)欺騙消費者，以及惡意妨礙、干擾用戶選擇的行為，都屬于監(jiān)管部門對數(shù)字平臺不正當(dāng)行為的監(jiān)管范圍。值得注意的是，中國所頒布的與暗模式相關(guān)的政策法規(guī)中，針對面向未成年人和老年人等群體的算法要求更為嚴(yán)格，以防范暗模式對易感人群的危害。

(二)暗模式監(jiān)管的困境與難點

目前，各國對于暗模式的實際監(jiān)管行動主要以起訴、罰款處理、合同認(rèn)定無效與解除為主，平臺利用暗模式誘導(dǎo)消費者的行為越來越得到監(jiān)管部門的重視。2018年，對于美國AMG公司所涉及的強制連續(xù)性、取消阻礙等暗模式，美國法院給出了12.7億美元罰款的判決。就針對暗模式的實際監(jiān)管而言，還存在諸多困境和難點：

第一，在監(jiān)管暗模式的重視程度方面，暗模式還未得到理論界和監(jiān)管部門足夠的重視。暗模式自2010年作為獨立概念被提出后，盡管在學(xué)術(shù)研究領(lǐng)域得到了一定的重視和發(fā)展，但在實際的監(jiān)管和訴訟過程中，暗模式作為一種利用消費者有限理性進(jìn)行誘導(dǎo)的新型平臺行為模式，只是被歸為不正當(dāng)競爭和損害消費者權(quán)益的行為進(jìn)行監(jiān)管和治理，在數(shù)字平臺監(jiān)管領(lǐng)域并未得到足夠的重視，也未形成獨立完整的政策與監(jiān)管體系。其原因在于兩方面，一是從理論研究方面，消費者有限理性的經(jīng)濟學(xué)假設(shè)還未在平臺經(jīng)濟領(lǐng)域產(chǎn)生足夠的影響力，基于消費者有限理性理論的暗模式概念、分類、表現(xiàn)和影響研究還不夠深入和統(tǒng)一，不足以設(shè)置專項監(jiān)管政策和方案。二是從市場監(jiān)管方面，暗模式是數(shù)字平臺的特殊商業(yè)行為之一，將商業(yè)目的內(nèi)化于復(fù)雜的算法和用戶界面設(shè)計具有很強的隱蔽性和靈活性，數(shù)字平臺對消費者進(jìn)行的誘導(dǎo)行為和因此產(chǎn)生的影響不明顯，容易被忽視。

第二，在監(jiān)管暗模式的專門機構(gòu)方面，缺乏專業(yè)的專項監(jiān)管機構(gòu)是亟待解決的問題。暗模式不同于傳統(tǒng)行業(yè)的商業(yè)行為，涉及消費者行為決策、算法編譯和功能實現(xiàn)、交互界面布局及企業(yè)競爭等多種問題，因而對于暗模式的監(jiān)管和治理涉及心理學(xué)、行為經(jīng)濟學(xué)、計算機算法、界面設(shè)計及法學(xué)等領(lǐng)域的相關(guān)知識。設(shè)立暗模式專項監(jiān)管和治理機構(gòu)，一方面可以有效識別和發(fā)現(xiàn)數(shù)字平臺暗模式；另一方面也可以制定專項暗模式行業(yè)標(biāo)準(zhǔn)，從而預(yù)防數(shù)字平臺進(jìn)行惡性暗模式設(shè)計，從而對平臺經(jīng)濟發(fā)展產(chǎn)生損害和風(fēng)險，發(fā)揮良性暗模式設(shè)計對消費者權(quán)益和平臺經(jīng)濟發(fā)展的益處。

第三，在暗模式的監(jiān)管標(biāo)準(zhǔn)方面，暗模式難以確定統(tǒng)一明確的監(jiān)管實施標(biāo)準(zhǔn)。首先，因為一些暗模式的設(shè)計太過微小，如外觀操縱、情感操縱，無法保證能夠提出根本性補救措施(如解除合同)，監(jiān)管成本過高。其次，有一些暗模式的性質(zhì)不明，如多次詢問、中間貨幣、情感操縱等暗模式也有良性的一面，如何定性難以抉擇。再次，難以確定一個公認(rèn)的中立基準(zhǔn)，如兩種選擇按鈕——“是”與“否”的外觀設(shè)計上都容易達(dá)成共識，但三種及以上的選擇按鈕該如何設(shè)計。最后，由于消費者群體有限理性的異質(zhì)性，在易感消費者所占比例、有限理性消費者特征的衡量、對消費者權(quán)益造成的損害程度、是否造成“實質(zhì)性損害”等具體標(biāo)準(zhǔn)的制定方面都提高了暗模式監(jiān)管的難度。

第四，在監(jiān)管暗模式的錯誤成本方面，數(shù)字平臺暗模式實際監(jiān)管效果難以把握。在評估政策執(zhí)行的過程中，往往需要考慮錯誤成本(Error Cost)，包括“誤報”成本(將沒有損害的行為錯誤認(rèn)定為具有損害、壟斷性質(zhì)的成本，即假陽性成本)、“漏報”成本(對具有損害的行為沒有能夠識別出來的成本，即假陰性成本)，以及與啟動法律程序相關(guān)的監(jiān)管成本。由于暗模式的監(jiān)管標(biāo)準(zhǔn)難以確定和統(tǒng)一，因而對于暗模式的監(jiān)管政策往往容易產(chǎn)生錯誤成本。一方面，對具有一定損害性質(zhì)的暗模式進(jìn)行實際監(jiān)管，有限理性消費者將提高自身福利，但可能對理性消費者產(chǎn)生困擾，如禁止數(shù)字平臺進(jìn)行預(yù)選隱私設(shè)置，理性消費者不得不進(jìn)行繁雜冗長的隱私設(shè)置，這就將產(chǎn)生“誤報”成本；另一方面，一些暗模式過于微小難以發(fā)現(xiàn)且直接損害程度小，監(jiān)管成本過高，往往不納入監(jiān)管范圍，如多次詢問等類型的暗模式，容易產(chǎn)生“漏報”成本，如果不加以監(jiān)管和規(guī)制也將產(chǎn)生諸多損害和風(fēng)險。

(三)政策建議

1.推進(jìn)暗模式理論研究，完善暗模式監(jiān)管頂層設(shè)計

針對暗模式對數(shù)字平臺風(fēng)險的影響，以及暗模式在實際監(jiān)管中的困境與難點，亟需學(xué)界、市場監(jiān)督等各相關(guān)部門加強關(guān)注。一方面，要努力推進(jìn)暗模式領(lǐng)域研究發(fā)展，在將消費者有限理性納入到平臺經(jīng)濟研究范式的基礎(chǔ)上，深入探析暗模式的商業(yè)行為性質(zhì)、實施意圖及更多的表現(xiàn)形式，判斷對消費者福利、行業(yè)內(nèi)競爭者及平臺經(jīng)濟整體發(fā)展的影響和風(fēng)險；另一方面，將數(shù)字平臺暗模式理論研究成果落實到暗模式監(jiān)管政策領(lǐng)域，結(jié)合消費者權(quán)益保護、商業(yè)不正當(dāng)競爭監(jiān)管與數(shù)字平臺反壟斷政策，加強各方領(lǐng)域政策法規(guī)的協(xié)調(diào)與整合，構(gòu)建暗模式監(jiān)管和治理的政策體系，多層次全方位完善暗模式監(jiān)管的頂層設(shè)計。

2.加強暗模式自治與約束，防范數(shù)字平臺風(fēng)險

由于暗模式性質(zhì)不一，在不同的情景下可能存在不同的效果，因而需要設(shè)立專門標(biāo)準(zhǔn)制定機構(gòu)考察、測試、制定數(shù)字平臺行業(yè)設(shè)計標(biāo)準(zhǔn)與準(zhǔn)則，在合理、適度的水平上對平臺暗模式加強監(jiān)管與約束。一方面，降低數(shù)字平臺對個人層面所造成的數(shù)字成癮、福利權(quán)益及隱私安全的侵害和風(fēng)險；另一方面，防范數(shù)字平臺利用暗模式混淆市場信息、無序競爭及形成平臺壟斷的風(fēng)險。杜絕暗模式惡性使用所產(chǎn)生的風(fēng)險，同時促進(jìn)暗模式良性運用，進(jìn)一步貼近消費者需求，提高數(shù)字經(jīng)濟發(fā)展效率。同時，還需加強數(shù)字平臺暗模式治理環(huán)境與機制，鼓勵數(shù)字平臺承擔(dān)市場“守門人”的責(zé)任和義務(wù)，加強對行業(yè)內(nèi)暗模式的自治整頓，配合多方監(jiān)管和治理，建立數(shù)字平臺、用戶、第三方機構(gòu)、政府機構(gòu)等多方協(xié)同的治理框架，鼓勵暗模式治理主體多樣化、治理機制靈活化。

3.提高消費者理性決策意識，保護消費者自身利益

數(shù)字平臺暗模式的實質(zhì)是在利用消費者的有限理性，而消費者往往意識不到暗模式的存在，忽視和低估了暗模式對自身福利的威脅。因此，在加強數(shù)字平臺暗模式監(jiān)管的同時，應(yīng)提高消費者對數(shù)字平臺誘導(dǎo)行為的警惕意識和數(shù)字素養(yǎng)，加強消費者在數(shù)字平臺決策環(huán)境中的理性意識，避免被數(shù)字平臺誘導(dǎo)產(chǎn)生利益損失和成癮行為，克服跟風(fēng)式、沖動式、惰性式消費，提高保護自身隱私數(shù)據(jù)的安全意識，從根源上防范對消費者層面的損害和風(fēng)險。