算法嵌入智慧政府治理的風險研究

黃騰達,邢文明,陳繼麗

(湘潭大學 公共管理學院,湖南 湘潭 411100)

0 引言

黨的二十大報告指出“要貫徹總體國家安全觀,健全國家安全體系。”總體國家安全觀作為維護我國國家安全和經濟發展的重要指導思想,囊括了社會、科技、網絡、人工智能等重點發展領域的安全問題。而智慧政府是提升我國政府治理能力、推進國家治理體系現代化建設的重要內容。智慧政府的數據安全治理是總體國家安全觀的重要組成部分之一。當前,人工智能逐漸成為提高智慧政府治理能力和智慧水平的關鍵力量,將人工智能關鍵算法應用到政府智能治理以及智慧政府建設成為我國政府數字化建設的重要目標[1]。算法技術在賦能政府治理的過程中也引發了算法偏見、減損政府公信力、社會民生、隱私安全等一系列風險問題[2]。其中,用戶隱私問題、政府信息安全更是當前各級政府部門和社會重點關注的話題。因此,全面研判算法嵌入智慧政府的風險,通過有效手段來提高智慧政府的數據安全防范能力,推進國家安全治理體系和治理能力現代化,維護公民利益和國家安全是現如今我國智慧政府建設必須要面對的重要議題。

1 算法嵌入智慧政府引發的隱私風險

從數據全生命周期和用戶維度出發,將算法嵌入智慧政府引發的隱私風險分為政府數據問題引發的風險、隱私泄露引發的用戶情緒風險等方面。

1.1 算法收集數據引發的隱私風險

先進的算法模型需要采集各種類型的政府數據,在這一過程中可能會引發用戶隱私泄露風險。在智慧政府的運行過程中,算法對政府數據的收集主要是通過爬蟲技術來進行,收集人臉識別、互聯網、移動設備等數據,這些數據使得用戶的生物信息和社會關系等全被政府所知。由于政府的權利,公眾的許多數據被算法強制地收集起來。這一系列的數據收集過程使用戶隱私全部被分析和挖掘,一旦政府的算法在數據收集過程中出現差錯,用戶的個人信息就很容易被泄露,從而造成隱私風險。尤其是在目前的智慧政府建設過程中,由于技術限制,智慧政府的算法設計和運行權利仍掌握在私人技術公司手上[3],這意味著算法收集到的用戶數據由于私人公司的疏忽極易落到不法分子手中。譬如:一些互聯網企業以及黑客過分地進行收集、竊取和倒賣個人的隱私數據信息[4]。

1.2 數據存儲過程存在的隱私風險

政府的智能治理和政務處理離不開數據庫的支持,這些數據庫中存儲著大量的數據,算法通過利用這些數據來為政府工作服務,政府及大型企業往往會將數據存儲在云端服務器上,利用人工智能技術將這些數據保護起來。然而,在數據存儲過程中,人工智能技術所采取的匿名技術、加密措施等保護手段變得容易被破解,同時像政府這樣大規模的數據存儲需要用到十分嚴格的身份認證管理和訪問控制,政府的云端數據、網絡、算法及人工智能的管理難度將會變大,造成數據隱私泄露的因素增多,從而加大了隱私泄露的風險[5]。如2022年紅十字國際委員會的數據庫泄露事件,來自全球至少60多個紅十字會組織,超過50萬用戶的個人信息和隱私數據遭到泄露[6]。

1.3 算法利用數據造成的隱私風險

在智慧政府的工作中,需要利用算法技術來對數據進行篩選和應用,算法對數據進行自動篩選。政府通過算法利用數據的過程中會留有痕跡,有關用戶行為模式、生物特征等信息會被記錄。在算法的幫助下,用戶隱私信息被大量地挖掘和聚集起來生成“數據畫像”,用戶信息變得更加透明化,極大地增加了用戶隱私泄露的風險[7]。譬如,2015 年重慶、上海等超 30個省市衛生和社保系統中的數千萬用戶社保信息被泄露,其中包括社保參保、房屋等敏感信息[8]。除此之外,政府在通過算法利用數據時不能保證數據被全部利用,算法不重視的數據相應的防護措施也比較低,很容易造成用戶隱私信息泄露風險。

1.4 數據銷毀過程中產生的隱私風險

算法技術作為人工智能的核心要素之一,加強算法在智慧政府建設中的應用是我國政府數字化和政府智能化的重要工作。而作為政府數字化的重要因素,算法在參與智慧政府建設的過程中也會出現數據被永久“記憶”的情況。正如維克托·邁爾-舍恩伯格所言:“數字化的技術已經逐漸讓我們這個社會擁有了完美的記憶功能,但遺忘的能力卻在漸漸喪失。”[9]沒有被遺忘和徹底銷毀的數據在今后可能會引發用戶隱私風險。例如在一些用戶畫像的應用場景中,雖然用戶姓名、電話、IP等關鍵隱私數據已經銷毀,但是信息處理者通過算法技術仍能實現對用戶行為偏好等隱私信息的分析[10]。因此,在算法嵌入智慧政府的過程中,政府關注用戶數據銷毀過程中“被遺忘的權力”在很大程度上能夠有效地降低用戶隱私泄露的風險。

1.5 用戶隱私泄露引發用戶情緒風險

將算法嵌入智慧政府建設中引發的隱私風險不僅僅只是用戶的隱私泄露問題,同時還伴隨著隱私泄露引發的用戶情緒風險。其一,隱私風險引發的用戶顧慮情緒。隱私顧慮亦稱隱私關注,一般被定義為個人將其數據提供給某個組織后,對組織如何使用及保護個人信息的擔憂程度[11]。在信息系統管理研究領域,隱私顧慮被表述為用戶對互聯網上控制、收集和使用其個人信息的關注[12]。而將算法嵌入智慧政府中也可被看作是一個大型信息管理系統,政府利用算法進行治理會應用大量的用戶數據,這些大量用戶數據的使用極易引發用戶對自身隱私安全的顧慮情緒,用戶這種顧慮情緒的出現使用戶更加地關注和保護個人隱私安全問題。其二,隱私安全引發用戶對政府的信任危機。政府在利用算法進行治理的過程中,由于“算法黑箱”的存在公眾無法了解智慧政府算法設計的具體意圖和運行機制,公民在知情權上受到一定程度的遮蔽,出于對算法嵌入智慧政府合理性的擔憂,容易引起用戶對政府的信任危機[13]。如智能移動設備在智慧政府建設中的廣泛應用使得大量的用戶敏感信息被政府掌握,容易在未經授權的情況下將用戶數據提供給第三方,從而導致用戶隱私泄露的風險。

2 算法嵌入智慧政府過程中隱私風險形成的原因

智慧政府在享受算法帶來便利的同時,在應用過程中也存在許多局限性。將算法嵌入智慧政府中引發數據收集、應用、保存、銷毀以及用戶情緒等一系列的隱私風險是在眾多因素的共同作用下引起的。主要包括技術因素、環境因素和自身因素等。

2.1 技術原因誘發用戶隱私風險

第一,算法技術應用過程中引發的風險。在現實的政府工作中,由于大量的數據匯集在一起,政府的算法無法對所有數據進行篩選和整理。一旦在智慧政府運行過程中,算法無力承擔巨大的工作量或者應用不當將極大增加用戶個人數據泄露的風險。第二,算法技術的局限性導致“算法黑箱”問題。由于某些數據以及企業的一些數據屬于機密范圍,這就使得政府在算法的使用過程中具有不透明性以及機器學習內涵的自主性,導致了這種“黑箱”特性[14]。

2.2 環境因素提升用戶隱私風險

將算法嵌入智慧政府的治理過程中要考慮外部環境對算法應用的影響。面對諸多環境變化,同樣的運行規則運用到不同的時代、環境中可能就會在某一過程中出現缺陷而導致用戶的隱私安全受到威脅。信息技術的快速發展伴隨著隱私竊取技術的快速發展。不法分子利用先進的技術對用戶個人數據進行攻擊,導致用戶隱私受到威脅。同時,國際環境的不斷變化也是用戶隱私安全受到威脅的重要原因。一些敵對國家利用本國最先進的技術對我國的用戶數據進行攻擊,不僅對用戶的信息安全,而且對國家安全都構成極大威脅。除此之外,法律環境對用戶的隱私安全也有極大影響。目前,我國針對人工智能的數據安全、算法的隱私安全都沒有具體的法律和政策規定,用戶隱私安全受到侵犯時得不到有效保障,法規政策缺失問題也提升了用戶的隱私風險。

2.3 自身原因導致用戶隱私泄露

政府自身的素養無法與先進的算法相匹配可能會引發用戶的隱私風險,用戶自身由于缺乏相應的安全保護意識而提升了自身隱私安全泄露的風險。一方面,算法在政府工作中的應用,數據化、信息化等新名詞的出現使得一些政府中沒有相關學習背景的工作人員無法正確地利用相關的算法技術來進行正確操作,對算法的理解也比較模糊,這就會導致算法在運行過程中出現紕漏,從而造成隱私泄露的風險。同時,政府的組織制度和數據審查標準尚未更新,很多內容已經無法與現在的算法規則相契合。另一方面是由于用戶自身問題導致的。用戶自身對個人隱私信息的不重視、隱私安全意識的不足等因素也增大了算法嵌入智慧政府的隱私風險。用戶在進入網站、使用社交軟件的過程中由于對個人隱私的保護意識不足,未閱讀隱私條款等情況下極易造成隱私泄露。

3 智慧政府隱私安全風險的應對策略

隱私安全作為近年來公眾關注的重點問題,算法嵌入智慧政府引發的隱私安全問題也受到了普遍的關注。通過對引發隱私風險的原因進行分析,可以通過樹立安全觀念、提高技術手段、完善隱私制度等策略來降低算法嵌入智慧政府帶來的隱私風險。

3.1 樹立正確的安全治理理念

將算法嵌入智慧政府中引發的隱私風險最根本的原因就是隱私安全觀念不足。因此,在算法廣泛應用到各個行業時,在管理者和用戶之間樹立正確的安全治理理念是各個機構和行業的首要任務。

3.1.1 構建政府安全治理共同體理念

在人工智能、算法技術快速發展和應用的年代,僅僅依靠政府的力量是遠遠不夠的,必須創新政府安全治理理念,確保政府的數據安全、用戶的隱私安全[15]。一方面要形成人人有責的安全治理意識。公眾要樹立人工智能時代隱私安全防護的觀念,提高自身的隱私安全意識,增強對隱私保護工具的重視心理和正確應用。另一方面包括政府在內的各組織機構要人人盡責。政府要充分發揮數據安全頂層設計優勢,根據算法技術的特點、運行模式等因素對隱私風險的防范進行戰略規劃,將智慧政府的安全問題上升為國家戰略,實現國家層面的統籌規劃[16]。同時,要以智慧政府的業務為導向,逐步實現數據安全治理的“縱向大聯動,橫向大合作”,群眾、政府、高校等機構多方參與形成智慧政府安全治理共同體,有效防范智慧政府安全風險,人人享有智慧政府成果。

3.1.2 提高政府組織培養能力

完善的政府組織保障體系能夠有效提升政府的安全風險應對能力,要提高政府的組織培養意識,通過優秀的人才隊伍和部門執行力來保障智慧政府的安全。一方面政府要加強人才培養,提高政府工作人員的安全防范意識。其中,網絡安全技術人才是保障網絡隱私安全的關鍵性要素,是提升網絡隱私安全、保障競爭力的核心要義[17]。另一方面要提高政府部門的執行力,保障算法嵌入智慧政府的安全風險防范效力。政府要注重對智慧政府運行過程中各個環節數據安全的監督,當算法嵌入智慧政府產生安全風險時,政府通過各部門的組織協調能力,合理分工,高效應對政府面臨的安全風險。

3.2 提高智慧政府建設科技水平

3.2.1 提升智慧政府基礎設施建設效能

算法在政府治理過程中的高效運行離不開智慧政府基礎設施建設。首先,提高智慧政府信息資源利用水平,需要建立一套完整的基礎設施安全體系,通過更加完善的基礎設施安全體系政府能夠更加有效地抵御外來的數據侵犯行為。除此之外,政府要加強各地互聯網基礎設施的建設。5G基礎設施的建設也是保障用戶隱私安全的有效措施。構建專業的智慧政府數據安全防控體系以及全流程的數據安全治理平臺,能夠幫助人工智能對隱私侵權行為更加快速地做出反應。

3.2.2 完善算法嵌入智慧政府風險研判軟硬件建設

政府自身硬件和軟件的升級也是有效保護用戶隱私安全的重要手段。政府傳統設備大多已經不能夠再繼續支撐算法對政府數據的收集和運算,因此政府要對自身的硬件和軟件設備做好升級工作。政府應該分析對隱私風險的威脅程度,對政府目前的軟件和硬件系統進行評估,根據具體的技術應用環境對政府的軟硬件進行升級。比如:設置更加高等級的防火墻、使用更加嚴格的用戶隱私監控系統等先進的硬件和軟件技術。

3.3 完善智慧政府隱私安全制度

算法嵌入智慧政府的建設中,用戶的隱私安全離不開相關的法律法規和政府相關政策的保護,法律法規和相關政策是用戶隱私安全的基本保障。

3.3.1 完善政府用戶隱私安全法律法規

依據算法嵌入智慧政府的具體應用情況,不斷完善用戶隱私安全保護的法律法規和實施細則。隱私權是我國《民法典》規定的一項民事權利,“但是在‘大數據時代’,公民個人信息隱私已從傳統法律界分‘隱私權’的‘私域’中‘溢出’,向‘公域’延伸,從而成為橫跨‘公私兩域’的‘復合性’權利”[18]。《個人信息保護法》作為一部集公法規范與私法規范為一體的法律,盡管其中的一些條文也承擔了一定的保護隱私、規制算法的任務,但因其堅持“個人信息”與 “隱私”和“數據”的界分,而使其在保護數據隱私、規制算法方面具有一定局限性。

3.3.2 建立健全政府用戶隱私安全保護制度

政府應該結合自身的情況建立一套合理的用戶隱私安全保護制度。各級政府結合自身情況,建立完整的用戶信息、用戶數據保護制度以及相關的用戶數據安全審查制度和數據分級分類制度,能夠大大降低用戶的隱私風險。除此之外,政府內部應該設置分工合理的安全組織機構。國際上,英國政府設置了內閣辦公室、“信息專員總署”、英國披露與限制服務中心等機構來保護政府用戶的隱私安全。我國政府應通過建立一套合理的安全制度,同時在相應的安全組織機構的協助下,有效保障算法嵌入智慧政府帶來的隱私風險,滿足智慧政府安全治理需求。

4 結語

本文從算法嵌入智慧政府的角度出發,從算法數據的收集、數據的存儲、數據的利用、數據的銷毀、標準規范、用戶情緒等方面分析了用戶隱私存在的風險,從技術、環境、政府、用戶自身等方面分析了這些風險存在的原因,提出了相應的應對策略以提高政府對算法帶來的隱私風險的應對能力。政府要通過相應的對策來降低這些風險的發生,維護新時期貫徹國家總體安全觀背景下我國政府的信息安全。