算法社會下個人信息保護的難題

王智慧

（湘潭大學，湖南 湘潭 411105）

一、引言

“我們正生活在一個算法社會（algorithmic society）”[1]，算法應用于人類生活的各個領域。智能搜索引擎、智能電器、智能APP、智慧法院，從日常生活到法律決策，算法都扮演著重要的角色。

如在消費領域，在算法出現之前，消費者看到的是千篇一律的廣告宣傳和優惠，但是算法的出現改變了這一現象，通過算法分析消費者的歷史瀏覽頁面、搜索內容、購買記錄、金額等等，從而有針對性地向不同的消費者推薦不同的商品和服務。消費者下一步的購買或者搜索行為又會給算法以新的分析數據，這種定制化推薦使得算法越來越了解每一位消費者。經過三年的使用，亞馬遜的數據開采引擎已對我的信息做了忠實的記錄，并能向我推薦我應該買的東西。它會向我發廣告，但這些廣告（與我在現實空間所見99%的廣告都不同）實際上是專門為我定制的，它們說的是我想聽的東西?！盵2]

算法在消費領域的應用極大地節約了宣傳的成本，算法應用之前，我們無法確切了解每個消費者的需求，但現在我們可以清晰地向不同用戶投放其所需要的內容。使得消費者免于在不情愿的事情上浪費時間[3]。

算法的重要作用還可以體現在法律領域。我國部分城市的法院已經開始運用人工智能算法輔助辦案，“如海南法院使用的智能量刑系統，使用該系統后，法官辦理量刑規范化案件、制作裁判文書、制作程序性法律文書的時間大大縮短，減輕了法官量刑辦案的工作量?！盵4]“浙江省高級人民法院與阿里巴巴達成戰略合作，法院利用算法和阿里各大平臺的數據，獲取涉案當事人的身份信息、聯系電話和地址、消費情況等，解決了因當事人填寫虛假地址而無法送達文書的難題，而在法院的不良記錄也會限制當時的網上消費，從而推動涉案當事人盡快執行判決。”[5]

二、個人信息保護在算法社會面臨的挑戰

算法社會確實給我們帶來了各種便利，我們可以隨時隨地了解來自世界各地的消息，享受各種個性化推薦和服務。但是也有人開始質疑這種廣泛的應用?！耙恍┤撕ε逻@種永久的監控系統會使我們失去隱私，另一些人擔心這種要什么給什么的系統會使個體之間日漸疏遠?！盵6]但算法提供個性化的商品和服務，只是其根據個人的歷史記錄和搜索行為進行分析，并給予每個人定制化安排，這是算法運用的初級階段。更令人擔憂的是，為了使預測的結果更加準確、能夠得到更多的支持和采納，算法可能會轉向對人的行為進行控制。如“劍橋分析事件”就是一個典型的例子。“劍橋分析”公司利用5000 萬Facebook 用戶的信息，操縱美國大選及英國脫歐公投。

所有這些算法的應用都基于我們的個人信息，個人信息可被共享、被泄露、被交易。在算法社會里，收集個人信息似乎更加容易，我們的個人身份信息、搜索信息、購買信息、瀏覽記錄被算法所收集存儲，除了給我們提供個性化的商品和服務外，這些信息是否也被用于控制我們的行為或者其他不法用途呢？這個時候我們必須開始思考：個人信息安全在算法社會到底面臨什么樣的挑戰？

1.過度收集個人信息。2019 年3 月，一則名為美團、餓了么否認偷聽的微博熱搜引發了廣泛討論。事情起源于2018 年，一位讀者于2018 年11 月的投訴引起了記者的注意，他懷疑外賣APP 在“偷聽”自己說話。隨后，《IT 時報》記者耗時三個多月的時間，通過模擬用戶使用場景，對安卓手機、蘋果手機、蘋果平板電腦上的餓了么和美團外賣進行多輪測試。從測試情況來看，在隨后數分鐘到數小時的時間里，出現相關推薦的概率高達60%-70%。對此，餓了么和美團回應：不存在“偷聽”！之后，記者更新了最新iOS 版美團外賣、餓了么，它們都不再索取麥克風權限，不過安卓版里的錄音權限依然存在。相信很多人都有過類似的經歷，剛說了想吃什么，手機里就蹦出了它的推薦；剛說了要買什么，就出現了廣告；剛談論到某個明星，一些APP 上就推薦了他的故事。種種不可思議的現象，難道只是巧合嗎？到底有多少APP 在我們不知道的情形下收集我們的信息？我們是否授權APP 通過監聽我們的日常對話來給我們推薦商品和服務？我們授予了軟件錄音權限，僅僅是允許該軟件語音輸入功能的使用，并不希望該軟件私自后臺運行該功能“偷聽”自己講話。

目前，大多數APP 都存在過度收集信息的情形。許多APP 的使用和獲取信息是捆綁在一起的。多數APP 在使用時必須勾選同意獲取定位權限、訪問聯系人、訪問信息等相關權限的授權，如果點擊拒絕，APP 就會自動退出，再次打開依舊需要進行選擇。一部分APP，拒絕授權后，某些功能將會限制使用。還有一部分APP 拒絕授權不影響使用，但是之后每次打開都會彈出授權頁面。

“2018 年11 月中國消費者協會曾對10 類共100 款常用APP 的隱私政策進行測評，結果顯示：在參與測評的APP 中，有91 款存在過度收集或使用個人信息的情況；59 款未明確告知收集個人信息的類型，且收集敏感信息時未明確告知用戶信息的用途；42 款對外提供個人信息時不會單獨告知并征得用戶同意。2019 年7 月APP 專項治理工作組通報了天天酷跑、探探等20 款APP，要求用戶一次性同意開啟多個收集個人信息權限的情況，如果用戶不同意那么就無法使用該APP 的全部功能?！盵7]至于這些信息是否被用于軟件的運行，運營商能否保證信息主體的信息安全，用戶并不知情。

2.非法出售個人信息。算法社會個人信息的不當使用滋生了許多非法交易，例如淘寶詐騙，現在有許多專門的淘寶詐騙團伙，他們首先收購淘寶客戶信息，冒充客服與淘寶客戶進行聯系，以商品有問題需要退款或者取消會員為由，誘導受害者在螞蟻借唄等借貸平臺上借錢，再把錢打入偽造的商戶平臺以流入詐騙團伙支付寶賬戶。央視新聞此前曾披露，在互聯網平臺“轉轉”上，10 元可買5000 多張人臉照片，在百度“快眼”貼吧上，也有人在售賣人臉數據，將信息主體的姓名、身份證照片、銀行卡和手機號等信息低價打包銷售。經調查，這些信息并沒有經過當事人的授權允許。在算法社會，人們之間的交流、學習、娛樂大都轉移到了網絡之上，我們的照片、聯系方式、聊天記錄、購買記錄等信息也在網絡上流傳。這些信息被一些企業運用算法聚合收集在一起之后，出售給有需要的商家，部分商家根據這些信息向消費者投放特定的商品廣告。而有些信息被用來注冊軟件，給當事人的日常生活帶來困擾?！澳壳埃W絡交易平臺上存在專門收集、出售個人信息的企業，有些個人信息是通過在公開網站上收集獲得，有些則是利用技術手段非法抓取?！盵8]

3.個人敏感信息的濫用。算法社會中的個人信息具有廣泛性的特征，它不僅包含信息主體的個人基本信息，還包括信息主體在算法社會一系列的活動記錄，如網上交易記錄、網上搜索記錄等。目前，我國法律并沒有明確區分個人一般信息和個人敏感信息，僅對個人信息的含義進行了規定。按照《信息安全技術個人信息安全規范》解釋來說，個人敏感信息是指一旦泄露、非法提供或濫用可能危害人身和財產安全，極易導致個人名譽、身心健康受到損害或歧視性待遇等的個人信息。而在算法社會，個人敏感信息更加容易被泄露、利用、交易。我們所熟知的算法歧視問題，一方面是由于算法制度本身的不透明性；另一方面，也是由于信息主體的個人敏感信息被收集濫用。什么是算法歧視？我們都知道，算法相比于人類的判斷，最重要的特征就是批量化、程序化，算法判斷全部依賴于輸入的信息。我們對是否屬于算法歧視的認定是否摻雜了價值判斷？有關于是否屬于算法歧視主要有兩種不同的聲音：第一種主張算法歧視不存在，這種主張主要是從技術論出發，認為技術是中立的，算法是一種自主學習和數據反饋的機制，算法歧視問題是人類已有偏見的擴大；第二種主張從結果論出發，主張算法歧視存在。認為已經產生了許多現實存在的歧視問題：①價格歧視：也即我們所熟知的“大數據殺熟”。如許多商業平臺采用動態定價方案，針對不同消費者的消費水平顯示出的價格是不同的，這種價格歧視行為被稱作“大數據殺熟”[9]。②人格歧視：如谷歌推出的機器人誤把兩名黑人標注為“大猩猩”，微軟公司推出的聊天機器人，被認為是集反猶太人、性別歧視、種族歧視于一身的“不良少女”[10]。

筆者認同第二種觀點，商家通過收集消費者的個人敏感信息，采用動態定價方案，使消費者的財產受到了損害，也侵害了消費者的平等權。而一些軟件通過算法分析信息主體的肖像、聊天記錄，將黑人標注為“大猩猩”，侵害了其名譽和身心健康。如果法律禁止企業或網絡運營商收集這些個人敏感信息，或者禁止其不當使用個人敏感信息，這些歧視問題將不會出現。

三、現行法律制度對個人信息保護的情況及困境

（一）我國法律對個人信息保護的現狀

目前，我國關于個人信息保護還沒有專門的立法，有關其規定散見在相關部門法之中。但部門法規定并不是很齊全，大多數法律只規定了原則性內容，如《民法總則》第一百一十一條主要規定了自然人的個人信息受到法律的保護，他人應當依法獲取并保障信息安全，不得非法利用個人信息；《關于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》主要定義了個人信息的含義以及規定了提供個人信息違反法需要承擔的法律責任；《中華人民共和國網絡安全法》第四十一、四十二、四十三、四十四、四十五條主要規定了網絡運營者收集、使用個人信息需要遵循的原則，網絡運營商對個人信息負有的義務；《全國人民代表大會常務委員會關于加強網絡信息保護的決定》第五條、第八條主要規定了網絡服務提供者對其用戶的信息負有相關的管理義務；《刑法修正案九》則對網絡服務提供者的個人信息泄露情形提出量刑標準。這些法律中有關個人信息具體分類、個人信息收集利用具體標準、信息主體的權利等規定并不是很詳細。

而全國信息安全標準化技術委員會于2017 年發布、2018 年5 月1 日實施的《信息安全技術個人信息安全規范》，對于一些具體概念、行為的分類定義更加清晰，如個人信息和個人敏感信息；個人信息主體和個人信息控制者；收集、刪除、公開披露等；還對一些專有名詞如匿名化、去標識化、明示同意等含義進行界定。雖然這個文件對于企業制定信息保護政策，對于行政機關執法認定具有參考作用，但是由于文件缺乏強制力，在發生糾紛時，信息主體或企業無法依據此文件維護自身權益。

除此之外，2019 年中央網信辦、工信部、公安部、市場監管總局等四部門聯合發布《APP 違法違規收集使用個人信息行為認定方法（征求意見稿）》，其中詳細規定了APP 違法違規收集個人信息的7 大情形，以及每種情形所包含的具體內容。2019 年國家互聯網信息辦公室發布《數據安全管理辦法（征求意見稿）》，對個人信息的收集使用處理規則；個人敏感信息的收集使用；網絡運營商利用算法定向推送、發布信息等行為做了相對詳細的規定。但這兩個文件目前還只是征求意見稿，并沒有實施。

（二）困境

總體來說我國現有的個人信息保護模式可以總結為：“概括授權＋例外”。對于信息的收集需要經過信息主體的同意，法律規定的除外。但是這種概括授權模式無法為個人信息提供較好的保護。目前，我國個人信息保護的困境主要體現在以下幾個方面：

1. 算法的不透明性加大了個人信息保護的難度。有學者總結了算法中三種形式的“不透明性”，第一種是“故意不透明”，即因商業秘密或者國家秘密而產生的不透明性；第二種是“文義上的不透明”，是因技術了解程度不同而產生的不透明性；第三種是“固有的不透明”，由算法本身的復雜所帶來的不透明性。

算法的不透明導致我們無法具體了解到算法運作的方式方法。這也就意味著我們不能清楚地知道算法在何時收集了我們的信息，將我們的信息用作何處。算法的這一特性不僅使得信息主體無法真實的了解其信息的運用，在發生侵權行為時，信息主體收集證據也較為困難。

2.用戶沒有主動權。算法社會下，個人信息的價值越來越高。而網絡運營商和信息主體地位極其不平等，運營商掌握眾多的資源，導致信息主體沒有主動權。為了收集用戶更多的個人信息使其利益最大化，許多運營商將非必要的授權與軟件運行捆綁在一起。而信息主體為了獲取必要的資源，大多數情形下都是被迫同意，無法依據自己的想法進行選擇。而且對于運營商所告知的信息使用范圍，信息主體亦無法得知其使用的真實情況，從而導致信息主體的權益得不到保障。

3.企業不正當競爭。目前，有很多企業單純的追求商業利益，而他們之間的不正當競爭最終會使信息主體的權益受到損害。也有越來越多的犯罪團伙，專門運用非法手段獲取信息，之后用于犯罪活動。還有一些企業專門收集信息進行出售。這些情形都較大的侵犯了信息主體的權益。然而在算法社會，信息收集、交換、流轉更加容易，也更加隱蔽，所以給相關政府部門的執法活動造成了很大的障礙。

4.個人信息分類不明確。我國法律并未明確規定個人一般信息和個人敏感信息的具體內容，對一般信息和敏感信息的收集使用授權標準并未進行區分。因此，企業和運營商在收集信息時，往往要求信息主體打包授權。但個人一般信息與個人敏感信息不能用同樣的制度來規制，敏感信息的授權應當有更加嚴格的規定。

四、算法社會個人信息保護路徑思考

算法社會，個人信息對于信息主體、企業、政府等都有重要的作用。如何平衡各方利益，運用法律規制個人信息的收集使用，保護信息主體的權益，促進多方主體利益的共同發展，是目前急需思考解決的問題。算法社會下，個人信息的收集、傳播都有了新的方式和特點，我們需要轉變傳統個人信息保護思路，結合算法社會個人信息所遇到的新挑戰，探索內外共同規制的保護路徑，以期更好地促進社會整體發展。

1.完善相關法律規定。我國現行法律體系對個人信息的保護更多的是統一的原則性標準和處罰，缺乏根據具體行為的類型、性質所做的具體區分。而對個人信息規定更為詳細的《APP 違法違規收集使用個人信息行為認定方法（征求意見稿）》和《數據安全管理辦法（征求意見稿）》還未開始實施。而且二者的法律位階較低，對于個人信息保護所起作用大小我們還無法預測。

隨著社會科學技術的不斷發展進步，個人信息侵權形式也有了較大的變化，信息主體的個人信息權益保護也受到了較大的挑戰。而我國一直缺乏一部有關于個人信息的綜合性保護法律，《個人信息法》也尚未出臺。但出于加強對公民個人信息保護、遏制算法社會個人信息侵權大規模發生的社會需要，我們可以根據目前的實踐經驗，制定一部專門保護個人信息的法律，而這部有針對性的法律至少應該包含以下幾個方面的內容：

（1）完善個人信息的分類。個人一般信息與個人敏感信息應該做明確的區分，相關主體可以收集運用個人信息的范圍也要做相應限制，這一點我們可以借鑒歐盟的相關規定。歐盟《通用數據保護條例》第九條規定：對揭示種族或民族出身，政治觀點、宗教或哲學信仰，工會成員的個人數據，以及以唯一識別自然人為目的的基因數據、生物特征數據，健康、自然人的性生活或性取向的數據的處理應當被禁止。但是如果一些敏感信息的收集是必須的，企業或運營商可以明確征得信息主體同意后，向相關部門報備。

（2）強化明示同意原則。信息主體同意企業或網絡運營商對其個人信息的收集和利用，是建立在其充分了解該運營商所提供的隱私服務和說明條款。但現實中企業或網絡運營商往往將隱私條款說明放在相對隱蔽的位置，或者將一些基本情況說明和非常重要的個人信息運用提示說明放在一起。對此，應該嚴格要求企業或運營商在收集使用信息時，將一些重要的條款以清晰明了、更加突出的方式展示給信息主體。也可以用一種強制閱讀的方式，使信息主體了解相關條款。

（3）必要性原則。企業或網絡運營商收集運用個人信息應遵循合法合理且必要的原則。目前，有很多主體為了商業利益，收集了許多和其產品或服務不相關的信息。對此，必須嚴格規范相關主體收集個人信息的行為。在算法社會，企業或運營商運用由便易途徑收集到的信息，可以為其帶來更高的價值回報。但是出于對信息主體個人信息權益的保護，以及個人信息一旦被濫用可能產生的風險和危害，企業或網絡運營商不得不加限制的對個人信息加以收集。

2.建立內外雙重監督機制。我們可以運用“算法＋專門機關”的監督模式，從事前預防到事中矯正再到事后救濟全方位監督。算法在某些方面的運用確實有著人類無法比擬的效果，如速度快、效率高、相對客觀等。我們可以合理的利用算法的這一優點來監督信息的收集利用行為。除此之外，可以設立專門的機構，一方面對企業或網絡運營商的收集利用行為進行雙重監督，另一方面可以對算法的運行進行監管。在企業或網絡運營商收集信息之前，運用算法記錄企業收集信息的范圍和用途，然后分析企業的收集行為是否違反法律法規。之后，運用算法來監督企業或運營商使用信息的全過程，一旦發現違法違規行為，可以事中介入，及時制止和矯正企業或運營商的不當行為。為了更好的保障信息主體的知情權，可以要求企業或運營商定期出具報告分析，方便信息主體及時了解信息運用動態。也方便專門機構的核查和社會公眾的監督。

3.加強公民個人信息保護和維權意識。算法社會中有太多設備、軟件在“監視”著我們的一舉一動，我們每個人的行為都被詳細的記錄著。目前，大量的信息泄露事件中，有一部分原因是因為信息主體自身的疏忽。我們應當清楚的認識到，在算法社會，可能自己的一條朋友圈，一則微博動態，一個位置定位，都有可能使我們的個人信息被泄露，被收集，被流傳。因此，提高公民對個人信息保護的意識，減少因個人疏忽導致的信息泄露至關重要。而政府應當發揮其帶頭作用，利用算法社會中大眾傳媒的力量，讓公民盡可能多的了解算法社會個人信息可能的泄露方式、信息泄露的危害性，明白個人信息的重要性。在發生個人信息侵權事件時，及時尋求法律的救濟，避免損失擴大。

五、結語

在我們面前有兩種未來。一種是我們正在成就的未來，另一種是我們能夠成就的未來。我們正在成就的未來描述起來相對簡單，算法、大數據、人工智能，我們將科技與生活緊密的結合在一起，生產出許多智能產品。企業不用再將相同的內容重復發給多個人，而是可以按照他們的需求，精確的向將用戶投放定制內容。我們可以輕松地獲取我們想要的信息，但我們同時也在被各種信息充斥。第二種未來，是我們能夠成就的未來。這種未來是未知未來，因為我們幾十年前無法想到的事情現在發生了，所以我們的社會能夠發展到什么程度，任何人都不敢對其作確定的描述。但可以確定的是，人一直是社會的主體，法律應當保障人的合法權益。在這個被信息充斥的算法社會，國家應適應社會需要，及時完善法律以更好地保障公民的權利；社會公眾應當發揮其監督功能，營造更好的社會環境；信息主體要充分了解這個社會的特點，多利用信息為自己服務，避免讓信息侵害自己，在分享生活點滴的同時，也要學會保護個人信息，避免成為算法社會中的“透明人”。