人工智能技術嵌入思想政治教育的隱私風險與防范

劉佳星 王 玥 祝大勇

習近平總書記指出：“中國高度重視人工智能技術對教育的深刻影響，積極推動人工智能和教育深度融合，充分發揮人工智能優勢，加快發展伴隨每個人一生的教育、平等面向每個人的教育、適合每個人的教育、更加開放靈活的教育。”[1]當今世界科學技術加速發展，人工智能以增強人類認識與改造世界能力的生命樣態而存在。思想政治教育在人工智能時代實現轉型創新，必然要主動契合這一智慧生態語境的現實變化，“借助人工智能的賦能，實現價值引領和人的發展。”[2]眾所周知，人工智能技術的基礎是大數據，人工智能憑借其強大的計算能力可以精準、即時地實現海量數據的分析，辨析每個數據的價值，助力實現精準化的思想政治教育價值，但采集、分析和運用海量數據，很容易對個人隱私權構成侵犯，背離思想政治教育在場的價值初衷。總而言之，人工智能技術嵌入思想政治教育所引發的數據隱私風險問題集中體現了人工智能技術在應用于思想政治教育方式方法與目標效用上的錯位，如果不能及時地加以防范和引導，放任其發展，必然會制約思想政治教育價值的實現。

一、人工智能技術嵌入思想政治教育引發的隱私風險問題

“共產黨員如果想做宣傳，就要看對象。”[3]想要提升思想政治教育效果，必須對受教育者進行精準的識別分類和認知把握，但思想政治教育具有特殊性和復雜性，傳統的思想政治教育通常以場域、年齡、專業為標準來區分教育對象，不能準確匹配思想政治教育的復雜性[4]。思想政治教育實現精細化育人就有必要應用人工智能技術，需要識別作為用戶的受教育者身份，收集其信息并實時記錄其行為，這意味著受教育者瀏覽的網頁、關注的內容、購買的商品等隱私內容有可能會被分析記錄，成為教育者掌握的大數據信息，這就有可能影響個人隱私權，引發隱私意外泄露、個人信息被非法盜取等問題，導致受教育者消極心理感受，降低思想政治教育過程運行質量，妨礙育人效果的實現。

(一)個人隱私信息在未知情狀態下被過度收集帶來思想政治教育主客體信任關系的松動

隨著信息技術的加速發展，數據逐漸演變為思想政治教育過程中聯結教育者和受教育者的重要中介。部分數據因承載個人重要身份信息而與人格尊嚴密切相關，建立尊重個人隱私數據基礎上的相互信任顯得格外重要。數據可以幫助教育者更好地教育引導受教育者，因此受教育者愿意提供必要的身份信息以獲取更多成長機會，但可能會出現受教育者信息數據被過度采集的問題。例如在高校智慧思政教室，人工智能可以全過程無死角地監測受教育者的學習，教育對象每個細微的情緒、動作、表情都會被捕捉記錄，儲存為新的數據并與現存數據進行對比分析，受教育者在不知情的情況下被收集個人信息，也不了解這些信息的去向、用途。比如在借助智能平臺開展思想政治教育活動時，智能平臺和應用程序通常會要求受教育者進行“注冊”“登錄”操作，受教育者需要進行人臉識別、語音識別、指紋驗證或輸入手機驗證碼等數據錄入，才能完成用戶身份識別。在此過程中一些與實現教育目標關聯性并不緊密的信息，如手機號碼、通信錄、短信記錄、消費記錄、網絡瀏覽歷史、綁定的社交媒體賬戶、活動軌跡、所在位置等信息會被智能系統收集，盡管一些智能平臺在登錄時會提示所需權限，但是就用戶而言，人工智能就像一個黑箱，用戶同意授權給智能信息收集系統，就等同于把自家大門的鑰匙上交，這使得智能信息系統具有了自由獲取用戶隱私信息的權限[5]。“人工智能具有自主學習自我完善的技術特色，可以通過算法將看似雜亂無章的數據進行整合分析，從中篩選出受教育者隱私數據，生成個人‘數據畫像’。”[6]但如果受教育個人在不自知的情況下被過度收集信息以至于有濫用之可能，會造成思想政治教育發生效用的信任基礎發生斷裂，出現信息和情感互動的中斷、過濾、屏蔽等狀況，影響后續線上乃至線下思想政治教育的效果。

(二)隱私數據所有權和使用權歸屬模糊，未經允許用于商業用途導致育人公益屬性的偏離

思想政治教育就其本質而言，具有強烈的政治性、思想性和社會性，不能受到絲毫資本增殖邏輯宰制，一旦被資本邏輯侵入，就會喪失其育人價值本質。思想政治教育者承擔著妥善保管受教育者個人信息的義務，不能用于任何商業用途。但是隨著智能平臺、互動程序、“學習APP”、虛擬現實等人工智能技術應用于思想政治教育領域，現實情況是部分思想政治教育智能系統的研發、運行和維護都是外包給第三方商業公司進行的，受教育者的數據通常都是以第三方云端的形式進行儲存，這些包含個人特征分析的隱私數據具有極高的商業價值，如可以出賣給廣告商進行個性化的廣告推送，在此過程中存在數據所有權和使用權轉移和責任不清的問題，從而使個人隱私數據有未經允許而被商業應用之可能。資本的逐利性加之缺乏數據所有和使用的明確歸屬易致使受教育者的隱私遭泄漏和非法商業使用，云端數據安全面臨新的隱患，例如“高校兩萬名學生信息遭泄露”[7]等事件。一旦這些涉及受教育者隱私的數據信息遭到泄露或盜取，將會引發嚴重的信息安全、財產安全和其他相關安全的問題[8]。發生數據泄漏將會長時間地影響受教育者，更何況隱私數據流入非法市場，借助人工智能技術，教育對象的數據還會經過多次重新挖掘和分析，導致二次侵權和傷害。受委托完成特定功能而進行數據采集和分析的商業公司在進行數據運營時，往往為了壓縮成本，會放松監管，降低數據保護的安全標準，致使云端數據易遭黑客攻擊盜取。盡管當今可以基本實現對個人數據的匿名化處理，使得無法識別出生成數據的原始自然人，但是這種匿名化的處理并非一勞永逸、絕對安全。隨著技術的迭代升級，傳統的匿名化保護技術已經失效，人們可以通過去匿名化的技術手段，恢復被刪除的諸如姓名、身份證號等個人信息進而應用于商業用途。思想政治教育具有突出的社會屬性、階級屬性，同時也具有突出的非盈利的公益屬性，完全不以經濟利潤為目的，但一旦出現上述情況，就會偏離立德樹人的根本目標，背離思想政治教育的價值本質。

(三)惡意侵權行為隱蔽，侵權追責和補償難度大引發思想政治教育生態的運行風險

與現實生活中對隱私侵權行為的認定相比，運用人工智能技術實施隱私侵權行為更加隱蔽和不易察覺。侵權行為主要發生在教育主客體雙方進行單次互動交流過程之后，受教育者主動或被動向智能平臺和智能系統上傳個人信息，在此過程中個人信息的儲存、處理、分析、共享脫離受教育者本人的授權和監督，教育者或者第三方應用平臺心中稍有歪念，就會造成侵權傷害，而且非常隱蔽難于發現，難以界定侵權主體和責任方，追責和舉證會變得非常困難，當受教育者提出維權訴求時，很難獲得法律支持，同時因為缺少人工智能侵權補償救濟制度，侵權損失難以挽回。比如一些涉及受教育者個人隱私和敏感的信息如家庭背景、心理狀況、生理缺陷等被采集后會加劇受教育者的心理負擔，這些個人敏感信息經由人工智能的分析處理，將最終呈現在思政工作者的面前，必然涉及對受教育者隱私的侵犯，甚至還可能會在無意中形成對部分群體的偏見。再比如，算法和大數據等技術可以實現對受教育者進行精準的分類和“群體畫像”，這些“群體畫像”的特征被別有用心的組織和個人掌握，通過精準推送施加影響，部分群體易受暗示，變得極端、沖動，滋生群體性事件，造成極其惡劣的社會負面影響，進而“惡化思想政治教育的生態”[9]，如果不及時妥善處理，可能會導致事態擴大，影響政府威信，制約思想政治教育目標的實現，甚至起到反面效果。

二、人工智能技術嵌入思想政治教育帶來隱私風險問題的三重根源

2020年“二十款教育類APP泄露個人信息”和2021年“兩萬名高校學生信息遭泄露”的新聞引發了社會對人工智能技術侵犯隱私問題的廣泛擔憂。目前，在將人工智能技術和思想政治教育相結合的過程中，隱私風險問題的主要癥結在于缺乏對人工智能技術應用邊界的明確界定、數據信息采集能力與個體防護能力不對等以及缺少配套的人工智能信息保護問責機制法規等。

(一)邊界不清：人工智能技術嵌入思想政治教育領域的適用性問題

借助人工智能先進技術更好展開思想政治教育的前提是，將包含個人隱私的相關數據信息變為借助人工智能工具開展精準思政所必要的“數據原料”，這種數據采集分析使個人信息原本的“隱私性”“自決性”特點轉變為“社會性”和“公共性”特點。思想政治教育是遵照一定的政治和道德要求對受教育者進行教育的活動，具有很強的政治性和階級屬性，涉及重要的價值判斷，然而人工智能本身并不涉及道德的考量和選擇，它只會把涉及道德倫理和法律的問題程序化、簡單化為結構化的算法技術問題，這種算法規則決定了何種關系、判斷和存在物會被排除在數據結構之外，何種關系、判斷和存在物能夠被儲存和分析[10]。由于人工智能天生具有功利性的特點，其會自動地傾向于應用最簡單且能實現利益最大化的既定程序[11]。正是由于人工智能技術本身不具有立場分析和價值判斷能力，只能按預設程序執行，其自身靈活性不足以匹配復雜且漫長的收集與分析受教育者個人數據的全過程，所以人工智能技術應用于思想政治教育領域就具有先天的靈活性不足問題。這種技術局限使得其在辨析隱私數據，確定信息收集邊界顯得無能為力。可見，人工智能技術進行的數據收集是沿著人類預先設計的一套算法和程序進行的，如果人工智能遇到了預設程序范圍之外的問題，無法通過自身算法來解決時，就會選擇把抉擇權交給智能平臺的運營第三方，后者出于本能追逐商業利益，傾向于“一切以利潤為導向”，將數據進行資本化和市場化操作使用。

(二)實力懸殊：人工智能強大數據處置能力的絕對強勢問題

作為人類的創造物，人工智能沒有作為人的高級情感，卻具有強大的數據處置能力，其設計理念就是為了更加便捷的收集和處理數據。相對于其強大的數據處置能力，人工智能技術收集個人信息過程中受到的外在規制卻嚴重不足，缺乏對隱私風險防范的提前介入。數據分析結果成為關注的焦點，而信息采集的過程則容易被忽視，侵權行為無法及時得到遏制。當前我國尚未形成完善的人工智能行業數據采集和隱私權保護自律監督機制，與人工智能強大的數據收集和分析能力相比，受教育者很難依靠個人的能力來維護自身隱私權。隨著人工智能在思想政治教育中的應用越來越廣泛，個人數據信息保護的主體責任以及體制機制不健全的問題愈發凸顯，追責補償機制亟待完善。如果在思想政治教育過程中發生了嚴重的大規模隱私泄露事件，那誰應該為這些事故承擔責任？如果事先沒有明確劃分責任主體，那么潛在責任方就很可能會相互推卸責任而均受影響，思想政治教育者的公信力會大大折扣，維護人工智能應用的第三方運營平臺有可能會被完全棄用，受教育者人工智能技術素養欠缺，有效保護個人隱私的實際方法不足，缺乏在人工智能時代更好地保護自己隱私的意識和能力，在隱私遭到侵犯后，也不知道如何進行補救和追償，最終導致的結果是既無法實現人工智能技術的完美嵌入，又影響思想政治教育精細化育人效果。

(三)法規缺位：數據隱私保護立法的滯后性問題

如同蒸汽時代的蒸汽機、電氣時代的發電機、信息時代的計算機和互聯網等相關技術，如今人類進入智能時代的推動性力量就是人工智能技術。但相對于技術的快速迅猛發展，涉及個人隱私保護立法卻存在滯后性問題。按照傳統法學理論，隱私權被定性為私權屬性。雖然《民法典》《個人信息保護法》對個人信息保護與隱私權保護進行了詳細界定，但在現實生活中個人的私密信息與法規所保護的私密信息還是略有不同，隱私保護面臨的新問題就是如何鑒別這類私密信息。人工智能侵權形式多樣且復雜，目前在法律層面上暫未有一個實用的隱私概念來保護人工智能時代人們的隱私，造成現實情況是目前得到規制的只有部分顯而易見隱私侵權行為。“顯然現行律關于隱私界定的局限會導致個人隱私權保護的不足。”[12]當前各個企業均有自己對隱私的界定和劃分，不同企業擁有不同的隱私服務協議，但是對比不同企業的隱私政策，就會發現這些企業表面程序上遵循了相關政策法律，也提前獲取了用戶的授權同意，但是這種知情同意是用戶為了使用軟件而被迫的“同意”，代價就是“用戶在程序上宣布同意放棄自己的‘隱私’”。此種情況下企業的用戶協議和所謂的用戶知情同意則完全淪為擺設，沒有對用戶起到相應的保護作用，反而成為“企業在法律層面獲取的‘免罪金牌’。在知情同意和用戶協議的保護下企業可以開脫甚至掩蓋自身的一些操作和行為，由此可以看出在合乎法律規范的背后實則存在許多隱秘的操作”[13]。將智能APP應用在思想政治教育活動中同樣面臨這種尷尬，受教育者能否真正行使知情權，個人隱私數據能否真正獲得合理規范地應用，都暫時缺乏清晰明確的共識和約定。

三、人工智能時代保護思想政治教育受教育者隱私的有效策略

“思想政治教育就是不斷提高受教育者思想、政治、道德素質和促進全面發展的過程。”[14]在這一過程中更好地保障受教育者隱私，更好地實現思想政治教育的育人目標，需要從多方面多角度尋求應對策略、探究治理路徑。

(一)加強人工智能技術創新，用主流價值觀引領人工智能技術發展

在人工智能背景下更好地保護受教育者的隱私權，首先是離不開人工智能技術本身的創新發展，特別是研發過程中嵌入主流價值，體現尊重隱私的人文情懷。開發設計適應人工智能嵌入思想政治教育所必需的個人信息匿名化處理技術，研發個人隱私信息保護技術。借助區塊鏈、“NFT”(即Non Fungible Token，非同質化代幣，可以買賣的數字資產唯一加密貨幣令牌，會匹配個人信息，相當于數字身份證)等技術對數據收集者進行溯源、身份信息認證，明確數據責任主體。運用信息安全技術保護個人隱私，通過完善技術來規避數據收集、分析、儲存過程中的系統漏洞。其次是應設計開發用以監督隱私侵權數據收集行為的人工智能監督技術，用人工智能技術來監督人工智能技術。設計研發數據泄漏被盜風險的事前研判預警機制，及時發布侵權預警信息，定期對人工智能平臺漏洞風險進行自查自糾，創設隱私信息應用動態監管制度，將侵權發生概率降到最低，促使相關行業良性發展。優化思想政治教育過程中信息收集流程，針對性優化算法增強人工智能的能力，在不影響思想政治教育效果的前提下減少對信息的收集。再次是應該對受教育者的部分隱私數據，如家庭背景、生理缺陷等進行安全分級，對敏感度高的信息進行更高程度的加密保護，防止隱私信息泄露造成“數據災難”。最后是應當加強價值引領，以思想政治教育主流價值駕馭人工智能。必須堅持以人為本、技術為用的理念，既不能為了追求技術優勢而忽視對個人隱私的保護，也不能因為強調保護個人的隱私而放棄人工智能技術的應用，把握好“工具理性”與“價值理性”之間的度，避免人工智能技術侵犯隱私造成對受教育者的負面影響。要以社會主義核心價值觀引領人工智能技術創新，這需要在人工智能設計、開發、應用和監管的全過程中嵌入和體現主流價值觀，摒棄其天然的逐利性，堅守服務于思想政治教育的初心和使命。

(二)提升教育主客體人工智能素養，發揮好思想政治教育工作者“把關人”作用

首先，應充分發揚人文精神，發揮人的作用。人工智能是由人類所創造的，在其融入思想政治教育的過程中必須把人放在核心位置，給予受教育者情感關懷，人與人之間交流反饋的“感性溫度”是人工智能所不具備的。我們必須合理利用人工智能的技術優勢，圍繞立德樹人根本任務，不能本末倒置。其次，彌補人工智能技術存在的天然缺陷，需要思想政治教育者具備強烈的使命感和責任感。人工智能借助對受教育者的個人信息數據的挖掘分析來掌握人們的思想動態。而人的思想發展具有復雜性，這就迫使人工智能為了實現預設教育目標不得不擴大數據收集范圍。這就需要思想政治教育者扮演好“把關人”的角色，對人工智能侵犯隱私的行為及時進行干預和糾正，守好信息收集的“大門”。再次，應建設專業化的隱私信息審核團隊，加強對思想政治教育過程中隱私信息的審核，確定合理的信息采集范圍，及時調整信息采集程序，與全社會共建隱私信息保護平臺，加強對人工智能的管理和控制。思想政治教育者作為“把關人”必須對思想政治教育過程中的隱私信息風險做出預測和判斷，及時對系統漏洞和信息泄漏做出反應和處理。最后，加強人工智能素養教育，提升受教育者在人工智能時代的信息保護意識，對于人工智能潛在的侵權行為保持警惕，經常關注自己個人信息的使用情況和流向，確保受教育者在保護個人隱私的前提下又能享受到人工智能的便利。培育受教育者的維權意識，建設便捷高效的維權渠道，讓受教育者學會主動運用法律武器在隱私權遭到侵犯后積極地捍衛自己的合法權益，提升受眾價值判斷力和自主學習能力，提高運用人工智能的媒介素養。

(三)健全隱私保護法律法規，用完善的制度規范保障受教育者隱私權

2017年國務院發布《新一代人工智能發展規劃》，提出“加強前瞻預防與約束性引導，最大限度降低風險，確保人工智能安全、可控發展”[15]。為此，要以法律規范算法數據的使用，必須將隱私數據排除在算法“數據池”之外。首先，制定和完善人工智能方面的法律法規，通過法律手段解決隱私侵權問題，要通過立法對人工智能平臺進行規范，以制度保障受教育者的隱私權。同時要強化人工智能法律制度的貫徹落實，加大對侵犯隱私的懲罰力度，對可能侵犯受教育者隱私權的操作進行攔截，阻止其進入后臺數據庫，實現治標與治本相結合。其次，建立健全人工智能管理的行業標準，思政教育工作者應與相關高校、科研單位、社會組織共同探討，建立隱私侵權行為常態化管理機制，制定行業內部信息收集原則和行業自律標準，明確受教育者個人大數據采集、利用權限和信息保密義務，為人工智能在思想政治教育中的數據采集行為劃定界線。例如，明確規定在何種情況下，思政工作者有權獲取教育對象的某類特定信息。建立問詢追責制度，落實權利主體，對收集、處理學生數據企業和個人劃定明確的責任和權利范圍，規范化制度化信息處理的每一環節，對侵犯個人隱私和泄漏個人信息的行為追責到底，給予現行相關法律法規制度下更為嚴厲的處罰，使違法違規的相關企業和個人不敢再犯。最后，完善受教育者信息保護機制，對涉及個人身份、特殊經歷等隱私信息加密匿名化存儲，使任何主體使用受教育者隱私數據的全流程都做到公開透明，確保信息可追溯，必須保障受教育者的同意知情權，要以簡潔明了的方式告知用戶平臺的隱私條款和信息采集項，讓用戶真正有權刪除、修改自己的個人信息，在解綁平臺后，要在云端刪除用戶的個人信息數據，最大限度保障個人隱私和數據信息安全。

總之，人工智能是時代發展的大勢所趨，應高度重視人工智能與思想政治教育的融合創新。應用人工智能技術卻拒絕分享任何個人數據無異于因噎廢食、剖腹藏珠，因此，在充分保障個人隱私權利不受侵犯的前提下，對數據進行合理規范的開發與利用，是利用人工智能提升思想政治教育效果的關鍵所在。