人工智能數據安全治理與技術發展概述

郭云

【摘?要】近年來，經濟的發展，促進我國科技水平的提升。當前，隨著計算能力的大幅提升和數據規模的暴增，人工智能技術獲得快速發展，成為全球各國高度重視和競相發展的帶有“頭雁”效應的引領型技術 . 與此同時，數據作為人工智能技術發展的重要資源，其重要價值進一步凸顯，但也由此引發了一系列對于數據安全和隱私保護的擔憂，數據安全問題已然成為人工智能全面發展的重要制約瓶頸和亟需突破的關鍵挑戰。本文就人工智能數據安全治理與技術發展展開探討。

【關鍵詞】人工智能;數據安全;隱私保護;全球治理

引言

隨著越來越多智能應用的出現，而形成了海量數據，這些數據又在人們的生產、生活場景中不斷被收集與利用，在此過程中如何兼顧數據安全和人工智能技術發展，并探尋人工智能數據安全影響因素逐漸成為了當前國內外研究的焦點。

1全球人工智能數據安全治理國家戰略層面

2017年7月，國務院發布《新一代人工智能發展規劃》，在人工智能數據安全治理方面提出了多項要求，包括“強化數據安全與隱私保護，為人工智能研發和廣泛應用提供海量數據支撐”“開展與人工智能應用相關的民事與刑事責任確認、隱私和產權保護等法律問題研究，建立追溯和問責制度”“加大對數據濫用、侵犯個人隱私、違背道德倫理等行為的懲戒力度”“打造人工智能基礎數據與安全檢測平臺，建設面向人工智能的公共數據資源庫、標準測試數據集、云服務平臺”。在國家人工智能發展戰略的指引下，我國相關部門在金融科技、智慧城市、自動駕駛等應用領域紛紛出臺了相應的規范性文件，強調要加強人工智能的相關數據安全研究和管控。如在金融科技場景，2018年4月，中國人民銀行、中國銀監會、中國證監會和國家外匯管理局共同發布了《關于規范金融機構資產管理業務的指導意見》，在第23條對運用人工智能技術開展投資業務進行了相應規定，要求金融機構應當向金融監督管理部門報備人工智能模型的主要參數以及資產配置的主要邏輯，并向投資者充分提示人工智能算法的固有缺陷和使用風險。2019年8月，中國人民銀行發布《金融科技（FinTech）發展規劃（2019— 2021年）》，提出要“加強金融領域人工智能應用潛在風險研判和防范，確保把人工智能金融應用規制在安全可控范圍內”。整體來看，我國目前尚未形成體系完善的人工智能數據安全法律法規。雖然《數據安全法（草案）》和《個人信息保護法（草案）》已發布，但其落實尚需要一系列配套法規、部門規章和規范性文件提供支撐。同時由于上位法尚未出臺，人工智能場景化立法的步伐也相對滯后，數據安全并未在相關人工智能應用行業的規范性文件中得到足夠的重視和明確的規制要求。未來，我國還需要在《網絡安全法》《數據安全法（草案）》和《個人信息保護法（草案）》的體系框架下，加快生物特征識別、工業互聯網、智能網聯汽車、數字內容精準推送等人工智能重點應用領域的場景化立法，構建完備的人工智能數據安全法律體系。

2人工智能技術自身面臨的數據安全風險

（1）訓練數據污染可導致人工智能決策錯誤。數據投毒通過在訓練數據里加入偽裝數據、惡意樣本等破壞數據的完整性，進而導致訓練的算法模型決策出現偏差。隨著人工智能與實體經濟深度融合，醫療、交通、金融等行業訓練數據集建設需求迫切，為惡意、偽造數據注入提供機會，使得從訓練樣本環節發動攻擊潛在危害增大。例如，在對話機器人領域，訓練數據投毒可導致機器人發表歧視性、攻擊性的不當言論;在自動駕駛領域，訓練數據投毒可導致車輛違反交通規則甚至造成交通事故。（2）運行階段的數據異常可導致智能系統運行錯誤。一是人為構造對抗樣本攻擊，導致智能系統產生錯誤的決策結果。例如在生物特征識別應用場景中，對抗樣本攻擊可欺騙基于人工智能技術的身份鑒別、活體檢測系統。二是動態環境的非常規輸入可導致智能系統運行錯誤。人工標記數據覆蓋不全、訓練數據與測試數據同質化等會導致人工智能算法泛化能力不足，智能系統在動態環境實際使用中決策可能出現錯誤。（3）模型竊取攻擊可對算法模型的數據進行逆向還原。攻擊者可通過公共訪問接口對算法模型的輸入和輸出信息映射關系分析，構造出與目標模型相似度非常高的模型，實現算法模型竊取，進而還原出模型訓練和運行過程中的數據以及相關隱私信息。（4）開源學習框架安全風險可導致人工智能系統數據泄露。人工智能開源學習框架集成了大量的第三方軟件包和依賴庫資源，相關組件缺乏嚴格的測試管理和安全認證，存在未知安全漏洞。360、騰訊等企業安全團隊曾多次發現 TensorFlow、Caffe、Torch 等深度學習框架及其依賴庫的安全漏洞，攻擊者可利用相關漏洞篡改或竊取人工智能系統數據。

3技術發展策略

3.1標準制定與監管

人工智能安全標準制定。人工智能安全標準，是與人工智能安全、倫理、隱私保護等相關的標準規范。從廣義來說，人工智能安全標準涉及人工智能本身、平臺、技術、產品和應用相關的安全標準。國內外對人工智能標準化工作也越來越重視。中國也應針對技術應用風險，嚴格人工智能標準制定和行業監管，確保人工智能良性發展。加強人工智能安全監管與預警。加強人工智能安全的研究與監管，全面審查、分析人工智能技術及系統的安全性，包括審查民用人工智能產品的安全性和穩定性，特別是涉及人身安全的人工智能產品;審查人工智能在軍事應用中的風險，以及軍事智能化對國際法的影響;審查人工智能在國家安全和國防中的倫理道德問題。建立人工智能安全預警機制，對人工智能安全風險進行監控和掃描，識別脆弱點、風險與威脅，建立風險數據庫。重點關注人工智能技術的新發展與新應用，維護國家總體安全。

3.2基于差分隱私的隱私保護技術

在許多人工智能應用中，機器學習需要基于敏感數據開展訓練，例如照片等。在理想情況下，機器學習模型參數代表的應該是通用模式，而不是關于特定個人數據主體的信息。在這種情況下，差分隱私作為一種隱私保護技術可以提供有效的隱私保護。差分隱私是在統計和機器學習分析的背景下對隱私的一個強有力的數學定義。當基于隱私數據進行訓練時，差分隱私能夠保證模型不會學習或記住任何特定數據主體的細節信息。

3.3推動高質量數據資源建設，降低數據濫用泄露帶來的安全隱患

高質量數據集是提升人工智能算法準確性、模型合理性至關重要的因素，只有當人工智能系統獲取更為準確、及時、一致的高質量數據，才能提供更高效、更可靠的智慧化服務，因此推進高質量數據資源建設是解決人工智能數據安全的重要手段之一。

結語

人工智能數據安全挑戰會隨著人工智能技術的發展突破、應用行業的不斷深入擴大等因素加快演變，其對于人類現實社會的外溢和威脅將是一個復雜的長期過程。因此，我國必須要在人工智能的動態發展中實現對數據安全風險整體的可知可控，確保人工智能數據在采集、標注、處理、存儲、流動、共享和場景應用的全生命周期安全，不斷提高人工智能企業的數據安全能力，增強人工智能數據安全供給鏈的連續性和可用性。

參考文獻：

[1]朱天清，何木青，鄒德清 . 基于差分隱私的大數據隱私保護[J]. 信息安全研究，2018，1（3）.

[2]郝英好.人工智能安全風險分析與治理[J].中國電子科學研究院學報，2020（6）：501-505.

[3]魏薇，景慧昀，牛金行.人工智能數據安全風險及治理[J].中國信息安全，2020（3）：82-85.