怎樣應(yīng)對(duì)“大數(shù)據(jù)殺熟”

武鳳珠

“年齡25—35周歲，多數(shù)為女性，60%以上生活在二三線城市”“40周歲以上男性居多，平均年收入為30萬(wàn)—50萬(wàn)元，企業(yè)中高級(jí)管理人員占比約為33%”……許多企業(yè)通過(guò)計(jì)算機(jī)程序進(jìn)行大數(shù)據(jù)分析后，會(huì)為產(chǎn)品或服務(wù)勾勒出一幅客戶“畫(huà)像”。

這些“畫(huà)像”，是企業(yè)根據(jù)客戶性別、年齡、職業(yè)、居住地等個(gè)人信息，經(jīng)過(guò)一系列數(shù)據(jù)分析后得出的客戶群概況。伴隨互聯(lián)網(wǎng)技術(shù)進(jìn)步、商業(yè)營(yíng)銷(xiāo)向精準(zhǔn)化方向發(fā)展，通過(guò)分析潛在客戶個(gè)人信息實(shí)現(xiàn)廣告精準(zhǔn)推送、客戶精準(zhǔn)鎖定，成為許多平臺(tái)與企業(yè)降低營(yíng)銷(xiāo)成本、獲得優(yōu)質(zhì)客源的“常規(guī)舉措”。

在購(gòu)物網(wǎng)站查看過(guò)某一類(lèi)商品后，不斷收到類(lèi)似商品的產(chǎn)品信息推送;在新聞網(wǎng)站瀏覽過(guò)某一條新聞后，手機(jī)推送中的新聞信息便出現(xiàn)大量類(lèi)別相近的信息……大數(shù)據(jù)對(duì)互聯(lián)網(wǎng)用戶“畫(huà)像”的細(xì)致分析、精準(zhǔn)推送，使互聯(lián)網(wǎng)時(shí)代的個(gè)人猶如生活在“信息繭房”中，信息接收渠道被與個(gè)人特征、個(gè)人喜好等高度相關(guān)的各種自動(dòng)推送緊密包裹。

通過(guò)計(jì)算機(jī)程序?qū)€(gè)人行為習(xí)慣、興趣愛(ài)好、經(jīng)濟(jì)狀況、健康情況、信用狀況等進(jìn)行自動(dòng)分析、評(píng)估并進(jìn)行決策的過(guò)程，便是自動(dòng)化決策過(guò)程。建立在個(gè)人信息收集基礎(chǔ)上的自動(dòng)化決策，正在加速非法交易個(gè)人信息產(chǎn)業(yè)鏈的擴(kuò)張。

11月1日施行的《中華人民共和國(guó)個(gè)人信息保護(hù)法》，對(duì)個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策作出規(guī)范：應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正;通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷(xiāo)，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)或向個(gè)人提供便捷的拒絕方式;個(gè)人信息處理者應(yīng)當(dāng)事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，并對(duì)處理情況進(jìn)行記錄……

“個(gè)人信息保護(hù)法關(guān)于自動(dòng)化決策的條文雖然相對(duì)較少，但是建立了包括預(yù)防、合法程序、個(gè)人權(quán)利等在內(nèi)的多維度規(guī)制框架，對(duì)于重點(diǎn)問(wèn)題都有所涉及。在未來(lái)落地的過(guò)程中，還需要通過(guò)相應(yīng)配套規(guī)則的建立和執(zhí)法活動(dòng)的開(kāi)展進(jìn)一步細(xì)化。”中國(guó)人民大學(xué)法學(xué)院未來(lái)法治研究院執(zhí)行院長(zhǎng)、中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副秘書(shū)長(zhǎng)張吉豫表示。

免于接受自動(dòng)化決策，是個(gè)人信息保護(hù)法賦予公民的權(quán)利

“為保證良好的用戶體驗(yàn)，盡可能地減少與您無(wú)關(guān)的廣告對(duì)您造成的侵?jǐn)_，我們一直在改進(jìn)和優(yōu)化廣告推薦機(jī)制。您可以選擇對(duì)不感興趣的標(biāo)簽進(jìn)行為期6個(gè)月的關(guān)閉。選擇關(guān)閉部分興趣類(lèi)別后，不會(huì)停止您的信息收集，但是，所收集的信息都不會(huì)用于向您推薦個(gè)性化廣告內(nèi)容。”淘寶APP將推送廣告劃分為“創(chuàng)意禮品”“廚房用品”“園藝生活”“糧油米面”等50個(gè)類(lèi)別，用戶只需要點(diǎn)擊類(lèi)別按鈕，便可以停止接收這一類(lèi)別的個(gè)性化廣告推薦。

通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷(xiāo)，應(yīng)當(dāng)向個(gè)人提供不針對(duì)個(gè)人特征的選項(xiàng)或便捷的拒絕方式，這是個(gè)人信息保護(hù)法關(guān)于互聯(lián)網(wǎng)平臺(tái)自動(dòng)化決策的明確規(guī)定。“這一規(guī)定是2019年1月1日起施行的《中華人民共和國(guó)電子商務(wù)法》‘電子商務(wù)經(jīng)營(yíng)者根據(jù)消費(fèi)者的興趣愛(ài)好、消費(fèi)習(xí)慣等特征向其提供商品或服務(wù)搜索結(jié)果的，應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng)這一條款的延續(xù)，同時(shí)建立了使個(gè)人擁有免于接受自動(dòng)化決策權(quán)利的機(jī)制。”張吉豫說(shuō)。

在張吉豫看來(lái)，商業(yè)廣告進(jìn)行個(gè)性化推送有合理、正當(dāng)?shù)木売桑怯纱藥?lái)的“大數(shù)據(jù)殺熟”“信息繭房”等問(wèn)題也確實(shí)受到社會(huì)公眾熱議，并得到立法部門(mén)的高度關(guān)注。“在經(jīng)過(guò)討論達(dá)成共識(shí)的基礎(chǔ)上，可以將廣告推送、商業(yè)營(yíng)銷(xiāo)確立為一種特殊情況。個(gè)人信息保護(hù)法的相關(guān)規(guī)定，是針對(duì)這種特殊情況使個(gè)人免于接受自動(dòng)化決策的規(guī)則。”

而提供不針對(duì)個(gè)人特征的選項(xiàng)和提供便捷的拒絕方式，是法律規(guī)則列明的、在自動(dòng)化決策中實(shí)現(xiàn)個(gè)人信息保護(hù)的兩條可行路徑。張吉豫認(rèn)為，相比直接拒絕，提供不針對(duì)個(gè)人特征的選項(xiàng)保留了信息推薦的可能性，二者適用于不同的應(yīng)用場(chǎng)景。“比如在根據(jù)個(gè)人信息決定能否發(fā)放貸款的場(chǎng)景下，不針對(duì)個(gè)人特征的計(jì)算機(jī)算法設(shè)計(jì)就不太具有可行性。但是在商業(yè)營(yíng)銷(xiāo)等信息推送情形下，就存在推送不針對(duì)個(gè)人特征信息的可能性，只是這種不針對(duì)個(gè)人特征的推薦，個(gè)人的歡迎度或許并不高。”

張吉豫表示，個(gè)人信息保護(hù)法的這一機(jī)制設(shè)計(jì)有助于促進(jìn)不同算法間的競(jìng)爭(zhēng)。“??一方面是推送針對(duì)個(gè)人特征的信息，另一方面是推送??不針對(duì)個(gè)人特征的信息。如果個(gè)人信息保護(hù)法有效實(shí)施，不僅能夠?qū)︶槍?duì)個(gè)人特征的算法起到修正作用，也能夠?qū)φ幱诎l(fā)展過(guò)程中的算法設(shè)計(jì)起到推進(jìn)作用。”

關(guān)于個(gè)人對(duì)以自動(dòng)化決策方式推送信息的拒絕，個(gè)人信息保護(hù)法明確：通過(guò)自動(dòng)化決策方式作出的決定，如果將對(duì)個(gè)人權(quán)益產(chǎn)生重大影響，個(gè)人有權(quán)要求個(gè)人信息處理者予以說(shuō)明，并有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。“對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人信息保護(hù)法雖然沒(méi)有進(jìn)行明確，但是結(jié)合學(xué)界意見(jiàn)，這些決定應(yīng)當(dāng)包含兩個(gè)方面：一是對(duì)法律權(quán)利或法律效果有明確影響的，二是??對(duì)個(gè)人經(jīng)濟(jì)地位、社會(huì)地位、長(zhǎng)期評(píng)價(jià)等可能產(chǎn)生影響的。在法律落實(shí)過(guò)程中，個(gè)人信息處理者提供的說(shuō)明必須是對(duì)決策有意義的信息，??而不能是簡(jiǎn)單、泛泛的電商信息。”張吉豫分析道。

??引入人工干預(yù)，可以增強(qiáng)自動(dòng)化決策對(duì)人的關(guān)懷

保障個(gè)人真正獲得拒絕自動(dòng)化決策的??權(quán)利，是個(gè)人信息保護(hù)法關(guān)于自動(dòng)化決策條款最重要的設(shè)計(jì)目的之一。個(gè)人信息保護(hù)法明確，個(gè)人有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。

“這就需要給條款中‘僅通過(guò)自動(dòng)化決策的方式一個(gè)恰當(dāng)?shù)慕忉專(zhuān)荒懿扇—M義的解釋。”張吉豫表示，如果有一個(gè)人工參與到??自動(dòng)化決策過(guò)程中就視之為??不是僅通過(guò)自動(dòng)化決策方式，條款可能被架空。“比如，對(duì)算法決策??的結(jié)果只是人工簡(jiǎn)單復(fù)核一遍，這就不能認(rèn)為人工對(duì)決策過(guò)程產(chǎn)生了實(shí)際影響，而仍然應(yīng)當(dāng)視之為??通過(guò)自動(dòng)化決策方式作出的決定。”

在張吉豫看來(lái)，??引入人工干預(yù)可以增強(qiáng)自動(dòng)化決策對(duì)人的關(guān)懷。“引入對(duì)決策結(jié)果產(chǎn)生實(shí)際影響的人工干預(yù)不僅會(huì)提升算法的準(zhǔn)確度，更重要的是，在決策中加入人的判斷可以體現(xiàn)出人格尊嚴(yán)。”

那么，??引入人工干預(yù)是否會(huì)影響自動(dòng)化決策效率，增加決策的不確定性，或者導(dǎo)致決策結(jié)果不公正的情況出現(xiàn)？對(duì)此，張吉豫表示，在尚處于智能設(shè)備初期階段的當(dāng)下，計(jì)算機(jī)算法本身仍然存在很大的改進(jìn)與提升空間。“人工干預(yù)環(huán)節(jié)的引入，其實(shí)是算法多元治理的一個(gè)必要環(huán)節(jié)，這也能夠?yàn)樗惴ǖ母倪M(jìn)提供??一個(gè)有益途徑。算法在現(xiàn)階段一些生活典型場(chǎng)景的應(yīng)用中，其實(shí)都存在一定程度的人工干預(yù)。引入人工干預(yù)，可以為自動(dòng)化決策提供合理的補(bǔ)充，也是切實(shí)落實(shí)保障個(gè)人免于接受自動(dòng)化決策的可行途徑。”

張吉豫認(rèn)為，個(gè)人信息處理者在事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估時(shí)，就應(yīng)當(dāng)考慮未來(lái)如果個(gè)人權(quán)益受到重大影響應(yīng)當(dāng)提供的說(shuō)明與解釋?zhuān)肴斯じ深A(yù)則可以為此提供更多保障。“個(gè)人免受自動(dòng)化決策權(quán)益的保障，應(yīng)該從個(gè)人信息保護(hù)影響評(píng)估階段??就開(kāi)始建立。建立人工干預(yù)機(jī)制，匹配建立情況分析說(shuō)明機(jī)制和根據(jù)個(gè)人事宜進(jìn)行考察改進(jìn)的機(jī)制，都是在個(gè)人信息保護(hù)影響評(píng)估環(huán)節(jié)就應(yīng)當(dāng)著重開(kāi)始設(shè)計(jì)的。”

個(gè)人信息保護(hù)影響評(píng)估也涉及個(gè)人信息法要求的決策透明、結(jié)果公平公正等，對(duì)此都應(yīng)當(dāng)進(jìn)行相應(yīng)的設(shè)計(jì)。“這一環(huán)節(jié)不僅包括利用個(gè)人信息進(jìn)行自動(dòng)化決策會(huì)對(duì)個(gè)人信息權(quán)益產(chǎn)生怎樣的影響、面臨何種風(fēng)險(xiǎn)等，企業(yè)是否??采取了適當(dāng)、??有效的風(fēng)險(xiǎn)處理機(jī)制也應(yīng)當(dāng)包含在內(nèi)。”張吉豫說(shuō)。