大數(shù)據(jù)背景下算法失衡的挑戰(zhàn)與應(yīng)對(duì)

摘要：在大數(shù)據(jù)時(shí)代，算法的廣泛運(yùn)用給消費(fèi)者權(quán)益帶來(lái)了新挑戰(zhàn)。盡管現(xiàn)有法律提供了一定保護(hù)，但仍有局限。因此，需要采取更多措施來(lái)保護(hù)消費(fèi)者權(quán)益。政府應(yīng)加強(qiáng)算法監(jiān)管，確保其公平和透明。企業(yè)應(yīng)探索減少算法偏見(jiàn)和歧視的技術(shù)手段，并加強(qiáng)數(shù)據(jù)安全保護(hù)。消費(fèi)者也應(yīng)提高對(duì)算法的認(rèn)知和意識(shí)，了解自己的權(quán)益和保護(hù)方式。只有這樣，我們才能更好地應(yīng)對(duì)算法挑戰(zhàn)，保護(hù)消費(fèi)者權(quán)益。

關(guān)鍵詞：算法失衡；算法規(guī)制；算法黑箱；司法規(guī)制困境

中圖分類號(hào)：F25文獻(xiàn)標(biāo)識(shí)碼：Adoi：10.19311/j.cnki.16723198.2024.15.011

1國(guó)內(nèi)算法法律規(guī)制發(fā)展的現(xiàn)狀

1.1《個(gè)人信息保護(hù)法》與國(guó)內(nèi)算法法律規(guī)制的發(fā)展

《個(gè)人信息保護(hù)法》施行至今，已逾兩載。在此期間，我國(guó)對(duì)個(gè)人信息保護(hù)的監(jiān)管力度持續(xù)加大，法律體系也日趨健全。“截至2020年12月，我國(guó)網(wǎng)民規(guī)模達(dá)989億，互聯(lián)網(wǎng)普及率達(dá)704%。”個(gè)人信息保護(hù)面臨著挑戰(zhàn)，且低文化網(wǎng)民數(shù)量多，初中、小學(xué)及以下網(wǎng)民占比分別為405%和192%，對(duì)網(wǎng)絡(luò)個(gè)人信息了解不足。僅188%的人受過(guò)85PVZ6VfQDfcR3Q+2xEN6ggm3WzAaQzLyCxE+7Pi+5o=大專及以上教育，對(duì)網(wǎng)絡(luò)個(gè)人信息了解有限。

《個(gè)人信息保護(hù)法》對(duì)“個(gè)人信息”的定義進(jìn)行了完善，與《民法典》和《網(wǎng)絡(luò)安全法》中的定義不同，明確經(jīng)匿名化處理后不屬于個(gè)人信息。該法第24條增加了算法平臺(tái)對(duì)重要事項(xiàng)的說(shuō)明義務(wù)，旨在制約算法權(quán)力擴(kuò)張。此外，我國(guó)還通過(guò)規(guī)定個(gè)人信息的采集和使用等方面，對(duì)算法使用實(shí)施間接限制，實(shí)現(xiàn)多層次的算法治理。

1.2我國(guó)基層司法判例現(xiàn)狀

在大學(xué)生創(chuàng)新創(chuàng)業(yè)項(xiàng)目調(diào)研期間，項(xiàng)目成員接觸了大量新型案件。這些案件涉及隱私權(quán)和信息安全侵犯以及原告信息被平臺(tái)公開(kāi)等。從請(qǐng)求權(quán)基礎(chǔ)角度看，平臺(tái)沒(méi)有合同或類合同請(qǐng)求權(quán)，但當(dāng)事人擁有信息自決請(qǐng)求權(quán)。根據(jù)民法典1037條，當(dāng)事人可以申請(qǐng)更正信息，如果平臺(tái)處理不及時(shí)，則構(gòu)成侵權(quán)行為。《個(gè)人信息保護(hù)法》出臺(tái)后，使用者維權(quán)意識(shí)增強(qiáng)。新型案件中，個(gè)人對(duì)平臺(tái)的訴訟案件開(kāi)始出現(xiàn)，當(dāng)事人認(rèn)為平臺(tái)不應(yīng)收集過(guò)多個(gè)人信息，在法院調(diào)研期間，我們發(fā)現(xiàn)大平臺(tái)都進(jìn)行了個(gè)人信息模塊更新，但功能仍需細(xì)化。比如APP將讀取設(shè)備內(nèi)信息作為必選條件，不同意就無(wú)法使用APP。這種授權(quán)看似給用戶主動(dòng)權(quán)，實(shí)際上仍是強(qiáng)制使用個(gè)人信息，且無(wú)法關(guān)閉，這種授權(quán)為算法失衡現(xiàn)象提供了土壤。

1.3算法對(duì)個(gè)人用戶的滲透影響

算法在現(xiàn)代生活中占有重要地位，對(duì)個(gè)人和社會(huì)產(chǎn)生影響。新經(jīng)濟(jì)模式下，算法被用于評(píng)估個(gè)人社會(huì)信用和標(biāo)簽化個(gè)體。作為信息中介的算法，還影響著人們對(duì)信息的獲取。我們小組通過(guò)問(wèn)卷調(diào)查收集了大量數(shù)據(jù)，發(fā)現(xiàn)算法在大數(shù)據(jù)時(shí)代已深入人們的日常生活。

在調(diào)研對(duì)象的社會(huì)身份里，將近一半的調(diào)研對(duì)象是大學(xué)生，高校教師、法律工作者、公共專業(yè)類或者會(huì)計(jì)專業(yè)類人士占總數(shù)的4成、退休人員、中學(xué)生、其他占比1成。

調(diào)研圖2顯示，網(wǎng)購(gòu)平臺(tái)已成為人們生活中的必需品，因此，如何把控好平臺(tái)對(duì)個(gè)人用戶的數(shù)據(jù)收集變得至關(guān)重要。同時(shí)，圖3顯示，超過(guò)一半的用戶因?yàn)樾枰褂胊pp而不得不讓渡個(gè)人信息。因此，探索算法的規(guī)制路線成為大數(shù)據(jù)時(shí)代的首要任務(wù)。

最后，我們?cè)谠L談“對(duì)電子個(gè)人信息被侵權(quán)的現(xiàn)象有什么意見(jiàn)想法”中，得到以下這些建議：加強(qiáng)個(gè)人隱私的保護(hù)，加大對(duì)個(gè)人信息使用范圍的監(jiān)管，明晰使用企業(yè)的責(zé)任，倡議用戶不要亂點(diǎn)鏈接，系統(tǒng)減少個(gè)性化推薦等。

2歐美日算法法律規(guī)制的發(fā)展及經(jīng)驗(yàn)借鑒

2.1歐美日的個(gè)人信息保護(hù)發(fā)展

歐盟在2019年發(fā)布《算法責(zé)任與透明治理框架》，要求公共部門將各責(zé)任主體帶進(jìn)算法評(píng)估機(jī)制，對(duì)私營(yíng)部門使用分級(jí)管理方案；2021年4月發(fā)布《歐洲議會(huì)和理事會(huì)關(guān)于制定人工智能統(tǒng)一規(guī)則（人工智能法案）和修訂某些歐盟立法的條例》，對(duì)人工智能系統(tǒng)定義，表明算法失衡規(guī)制對(duì)象不僅包括黑箱AI，還包括傳統(tǒng)邏輯推理、線性回歸等算法，對(duì)私營(yíng)部門作系統(tǒng)性管理規(guī)定。

美國(guó)在立法方面不斷完善算法的監(jiān)管機(jī)制。早在1914年所制定的《聯(lián)邦貿(mào)易委員會(huì)法》中指出，F(xiàn)TC有權(quán)“防止商業(yè)中或影響商業(yè)的不公平的競(jìng)爭(zhēng)方法和不公平或欺騙性的行為或做法”。該法案明確了責(zé)任歸屬，也為FTC有權(quán)介入算法的監(jiān)管提供了依據(jù)。2017年，全美第一部《算法問(wèn)責(zé)法》在紐約市通過(guò)；2019年，《2019年算法問(wèn)責(zé)法案》指示FTC制定評(píng)估規(guī)則，要求各公司評(píng)估自身算法的缺陷；同年，《過(guò)濾泡沫透明度法案》則以AI算法（系統(tǒng)）設(shè)計(jì)相關(guān)要求的視角去規(guī)制算法；2022年，美國(guó)國(guó)會(huì)提出的《算法問(wèn)責(zé)法案》相較于2019年的法案，仍在《聯(lián)邦貿(mào)易委員會(huì)》框架內(nèi)設(shè)計(jì)，但更加精細(xì)化地對(duì)算法進(jìn)行監(jiān)管。

1988年，日本制定了第一部有關(guān)數(shù)據(jù)安全的法律《行政機(jī)關(guān)持有的計(jì)算機(jī)處理個(gè)人信息保護(hù)法》，但此法僅針對(duì)行政機(jī)關(guān)；2001年，出臺(tái)了提出保護(hù)用戶信息安全的《高度信息通信網(wǎng)絡(luò)社會(huì)形成基本法》；2021年，頒布了從各方面對(duì)數(shù)字平臺(tái)進(jìn)行了規(guī)劃的《數(shù)字社會(huì)形成基本法》；日本最新的《改善特定數(shù)字平臺(tái)上的交易的透明度和公平性法》是以事中監(jiān)管式和事后救濟(jì)式的視角出發(fā)，通過(guò)日本經(jīng)濟(jì)產(chǎn)業(yè)省部檢查年度報(bào)告以及用戶報(bào)告去監(jiān)管特定數(shù)字交易平臺(tái)。

2.2經(jīng)驗(yàn)借鑒

2.2.1治理主體：責(zé)任主體明確，多元化

歐盟在《通用數(shù)據(jù)保護(hù)條例》中授予各數(shù)據(jù)主體可獲取相關(guān)信息的權(quán)限；美國(guó)明確責(zé)任部門FTC對(duì)算法影響評(píng)估進(jìn)行監(jiān)管，以及各企業(yè)應(yīng)承擔(dān)的職責(zé)；日本在2019年通過(guò)內(nèi)閣發(fā)布文件，由政府各責(zé)任部門對(duì)其所負(fù)責(zé)板塊進(jìn)行監(jiān)管。

2.2.2治理工具：算法影響評(píng)估

算法影響評(píng)估要求設(shè)計(jì)或運(yùn)營(yíng)算法的主體闡述算法系統(tǒng)的技術(shù)特征和實(shí)現(xiàn)目標(biāo)，識(shí)別潛在風(fēng)險(xiǎn)，準(zhǔn)備補(bǔ)救措施。歐盟和美國(guó)的《算法責(zé)任與透明治理框架》與《2019年算法問(wèn)責(zé)法案》，前者提出了算法評(píng)估機(jī)制，后者明確了算法評(píng)估規(guī)則，二者都從算法影響評(píng)估入手，從目的、設(shè)計(jì)、數(shù)據(jù)及個(gè)人信息獲取安全問(wèn)題等多方面、多維度對(duì)算法進(jìn)行規(guī)制。

2.2.3治理對(duì)象：多層次、多方面、多角度

歐盟通過(guò)立法規(guī)定將公共部門和私營(yíng)部門列入算法治理監(jiān)管范圍內(nèi)，要求各部門承擔(dān)相應(yīng)責(zé)任；美國(guó)紐約通過(guò)第一部《算法問(wèn)責(zé)法》，其對(duì)政府及司法部門進(jìn)行算法監(jiān)管，而在《2019年算法問(wèn)責(zé)法案》中則是囊括網(wǎng)絡(luò)平臺(tái)的各公司；日本最新的《改善特定數(shù)字平臺(tái)上的交易的透明度和公平性法》是以事中監(jiān)管式和事后救濟(jì)式的視角出發(fā)，通過(guò)日本經(jīng)濟(jì)產(chǎn)業(yè)省部檢查年度報(bào)告以及用戶報(bào)告去監(jiān)管特定數(shù)字交易平臺(tái)。

3現(xiàn)有電商平臺(tái)算法規(guī)制實(shí)踐之困境

隨著算法權(quán)力的擴(kuò)張，導(dǎo)致信息不平等和算法失衡等問(wèn)題。為此，需要對(duì)算法進(jìn)行有效的規(guī)制。當(dāng)前的算法規(guī)制方式包括算法透明、反算法歧視和個(gè)人數(shù)據(jù)賦權(quán)三大類，但這些手段在實(shí)際應(yīng)用中存在局限性，難以全面適應(yīng)現(xiàn)實(shí)需求。

3.1算法透明的規(guī)制方式可行性與效益不足

針對(duì)算法黑箱的問(wèn)題，提高算法透明度有助于降低不確定性，但實(shí)施面臨挑戰(zhàn)。公開(kāi)算法代碼與知識(shí)產(chǎn)權(quán)保護(hù)存在沖突，企業(yè)如淘寶、拼多多、京東等將其算法視為核心競(jìng)爭(zhēng)力并采取措施確保機(jī)密性，所以公開(kāi)算法可能影響企業(yè)競(jìng)爭(zhēng)優(yōu)勢(shì)。2019年，日本政府試圖立法要求亞馬遜等平臺(tái)公開(kāi)其A9推薦算法的具體內(nèi)容和運(yùn)作機(jī)制，但實(shí)施過(guò)程中面臨阻力，未能如愿。于消費(fèi)者，公開(kāi)算法無(wú)實(shí)質(zhì)性意義，因?yàn)榕都夹g(shù)秘密僅涉及保密內(nèi)容，而算法黑箱與商業(yè)秘密的原理存在差異，主要源于編程設(shè)計(jì)的復(fù)雜性。因此，對(duì)不具備專業(yè)知識(shí)的消費(fèi)者公開(kāi)算法源代碼和架構(gòu)無(wú)實(shí)質(zhì)性益處。

3.2反算法歧視規(guī)制措施未能根治問(wèn)題

個(gè)性化推薦算法的歧視主要分為算法人格歧視和算法價(jià)格歧視。本文將重點(diǎn)探討算法價(jià)格歧視，它涉及到消費(fèi)者權(quán)益。電商平臺(tái)利用個(gè)性化推薦算法搜集消費(fèi)者信息，為其賦予標(biāo)簽并進(jìn)行分類，根據(jù)消費(fèi)習(xí)慣、能力和身份特征等因素進(jìn)行自動(dòng)化決策，實(shí)施定向內(nèi)容推送和差異化定價(jià)策略。

雖然我國(guó)法律框架下已有規(guī)范實(shí)踐，但實(shí)際效果不理想。電商平臺(tái)現(xiàn)在采用更難以察覺(jué)的方式進(jìn)行“價(jià)格殺熟”，例如針對(duì)特定用戶發(fā)放定向優(yōu)惠券、實(shí)施價(jià)格組合等策略，導(dǎo)致不同用戶購(gòu)買同一商品或服務(wù)的價(jià)格差異過(guò)大且難以察覺(jué)，同時(shí)也規(guī)避了相關(guān)法律規(guī)范的要求，使得法律難以有效實(shí)施監(jiān)管。

3.3個(gè)人數(shù)據(jù)賦權(quán)規(guī)制的成效尚不顯著

近年來(lái)，全球各國(guó)圍繞個(gè)人數(shù)據(jù)賦權(quán)核心，強(qiáng)化個(gè)人信息保護(hù)及對(duì)算法的約束。歐盟和德國(guó)分別頒布了《通用數(shù)據(jù)保護(hù)條例》（簡(jiǎn)稱GDPR）和《聯(lián)邦數(shù)據(jù)保護(hù)法》等法律法規(guī)，賦予用戶知情選擇權(quán)、刪除請(qǐng)求權(quán)、被遺忘權(quán)等多項(xiàng)權(quán)利。個(gè)人數(shù)據(jù)賦權(quán)模式既明確了用戶的主體權(quán)利，又為數(shù)據(jù)收集、處理者及算法持有者設(shè)定了相應(yīng)責(zé)任，要求其在協(xié)助個(gè)人行使數(shù)據(jù)權(quán)利的同時(shí)，保障數(shù)據(jù)安全。

我國(guó)《民法典》和《個(gè)人信息保護(hù)法》也確立了個(gè)人信息受法律保護(hù)原則和“同意+告知”的個(gè)人信息利用模式，賦予個(gè)人算法解釋請(qǐng)求權(quán)和算法排除權(quán)。然而，實(shí)際操作中個(gè)人數(shù)據(jù)賦權(quán)對(duì)算法的規(guī)制作用有限，用戶對(duì)隱私風(fēng)險(xiǎn)的認(rèn)知也有限，企業(yè)利用優(yōu)勢(shì)地位實(shí)施“選擇綁架”，用戶反對(duì)權(quán)無(wú)法真正落實(shí)，且個(gè)人數(shù)據(jù)賦權(quán)面臨救濟(jì)困境。

4電商平臺(tái)算法困境的治理路徑

在大數(shù)據(jù)時(shí)代，隨著算法應(yīng)用范圍的不斷拓展，無(wú)序發(fā)展可能導(dǎo)致的風(fēng)險(xiǎn)和危害將進(jìn)一步加劇。為此，我們應(yīng)秉持發(fā)展與監(jiān)管并重的原則，一方面積極推動(dòng)算法相關(guān)技術(shù)的進(jìn)步，另一方面強(qiáng)化對(duì)算法的監(jiān)管及對(duì)算法所引發(fā)困境的治理。

4.1算法公開(kāi)不如特定監(jiān)管

算法公開(kāi)本質(zhì)是為了防治算法黑箱的問(wèn)題，大多數(shù)消費(fèi)者難以發(fā)現(xiàn)在消費(fèi)過(guò)程中網(wǎng)站的“殺熟”行為，僅僅意識(shí)到自身消費(fèi)或許與周圍新用戶的金額相比較高，但并不理解其核心問(wèn)題，更不知維護(hù)的權(quán)利是什么，去哪維權(quán)以及如何維權(quán)。因此，與其將算法給看不懂的人看，不如政府發(fā)揮職能，在市場(chǎng)監(jiān)督局內(nèi)部讓專門的人員對(duì)算法進(jìn)行定期審查，吸收日本讓日本經(jīng)濟(jì)產(chǎn)業(yè)省部對(duì)各企業(yè)的算法報(bào)告進(jìn)行審查的制度，通過(guò)事中監(jiān)管和事后救濟(jì)的手段去治理算法黑箱問(wèn)題。

4.2算法歧視問(wèn)責(zé)

對(duì)于反算法歧視規(guī)制會(huì)導(dǎo)致算法歧視“隱蔽化”的問(wèn)題，算法歧視在實(shí)踐中的問(wèn)題不可估量且屢禁不止，企業(yè)為爭(zhēng)奪經(jīng)濟(jì)效益對(duì)群眾利益進(jìn)行損害，被發(fā)現(xiàn)也只是不了了之，所以，應(yīng)當(dāng)建立相關(guān)政策對(duì)算法歧視問(wèn)題進(jìn)行處罰，可以借鑒美國(guó)的《算法問(wèn)責(zé)法案》，對(duì)發(fā)生了算法歧視的企業(yè)進(jìn)行罰款整改等行政處罰，通過(guò)事后救濟(jì)和后果震懾的方式對(duì)算法歧視進(jìn)行規(guī)制。

4.3個(gè)人數(shù)據(jù)賦權(quán)與倫理結(jié)合

個(gè)人數(shù)據(jù)賦權(quán)需要?jiǎng)討B(tài)調(diào)控和倫理約束，為算法高效運(yùn)作創(chuàng)造條件。過(guò)去數(shù)十年間，算法進(jìn)展有限，提高準(zhǔn)確率主要依賴于大數(shù)據(jù)的發(fā)展。大數(shù)據(jù)核心特征為全面性、復(fù)雜性和關(guān)聯(lián)性。因此，部分法律原則如目的限制原則和限期存儲(chǔ)原則不適應(yīng)大數(shù)據(jù)時(shí)代算法運(yùn)作規(guī)律。

面臨大數(shù)據(jù)時(shí)代的算法挑戰(zhàn)，個(gè)體難以有效行使多項(xiàng)數(shù)據(jù)權(quán)利。在這一背景下，法律應(yīng)更多地對(duì)數(shù)據(jù)控制者和處理者履行職責(zé)，而非僅依賴個(gè)人數(shù)據(jù)控制。過(guò)度依賴個(gè)人對(duì)數(shù)據(jù)的控制可能導(dǎo)致個(gè)體陷入無(wú)法有效維護(hù)合法權(quán)益的困境，同時(shí)數(shù)據(jù)收集和處理者也可能失去對(duì)數(shù)據(jù)與算法進(jìn)行有效治理的積極性。

為實(shí)現(xiàn)通過(guò)個(gè)人數(shù)據(jù)進(jìn)行算法治理的實(shí)際效果，有必要將責(zé)任倫理融入數(shù)據(jù)收集、流通和處理的各個(gè)環(huán)節(jié)，從而推動(dòng)算法治理。在此基礎(chǔ)上，企業(yè)和個(gè)人共同參與數(shù)據(jù)與算法的協(xié)同治理，既能確保個(gè)人權(quán)益得到保障，又能促進(jìn)數(shù)據(jù)資源的合理利用和共享。

5結(jié)語(yǔ)

在大數(shù)據(jù)時(shí)代，算法與生活緊密相連。面對(duì)算法，我們應(yīng)積極應(yīng)對(duì)其問(wèn)題和挑戰(zhàn)，對(duì)于算法失衡產(chǎn)生的新問(wèn)題，我們不能直接用理論處理案件，而應(yīng)在案件中總結(jié)共性，結(jié)合我國(guó)國(guó)情進(jìn)行處理，為構(gòu)建法治社會(huì)貢獻(xiàn)力量。

參考文獻(xiàn)

[1]丁曉東.論算法的法律規(guī)制[J].中國(guó)社會(huì)科學(xué)，2020，（12）：138159+203.

[2]喻玲.算法消費(fèi)者價(jià)格歧視反壟斷法屬性的誤讀及辨明[J].法學(xué)，2020，（09）：8399.

[3]梅傲，李坤佳.日本數(shù)據(jù)安全治理制度述評(píng)及其啟示[J].情報(bào)理論與實(shí)踐，2023，46（07）：195200.

[4]張惠彬，何易平.平臺(tái)算法監(jiān)管的困境與出路——基于美國(guó)算法監(jiān)管模式的研究[J/OL].科學(xué)學(xué)研究：125[20231210].

[5]曾雄，梁正，張輝，等.歐美算法治理實(shí)踐的新發(fā)展與我國(guó)算法綜合治理框架的構(gòu)建[J].電子政務(wù)，2022，（07）：6775.