信息泄露、算法歧視、數字資產風險……數字信任如何建立？

陳冰

“給你看條我前兩天剛收到的彩信，用我的身份證照片合成了一張勒索照片，讓我趕緊跟他聯系，不然后果自負！”上海市數字證書認證中心有限公司總經理崔久強回憶遭遇時不禁感慨，所謂眼見為實、耳聽為虛，而今已經做不到了。“人臉識別是人工智能技術應用最先取得商業化成功的領域，但AI如果開始做壞事，比如各種偽造攻擊等，后果很嚴重。”

作為數字安全專家，也免不了被詐騙分子盯上，這樣的“黑色故事”幾乎每天都在我們身邊上演。除了電信詐騙，平臺壟斷、算法歧視、假冒偽劣商品、刷單炒信……我們每個人每天都在通過數字身份與網絡設備連接，在數字空間中主動或被動留下通信、社交、交易、搜索、娛樂、身份驗證等各種活動伴生的大量數據，由此不可避免地帶來了關于數據、隱私、安全等風險問題。

9月1日，正值我國《數據安全法》施行兩周年之際，2023“浦江護航”數據安全上海論壇在上海舉辦，來自數字信任和網絡安全領域的重量級專家學者、行業精英現場論道，圍繞AIGC（生成式人工智能）大模型時代的數據安全、零信任下企業安全邊界的構建，上海數字信任的創新實踐以及數據資產的治理、后量子時代的密碼技術進行深度探討。

這些前沿而重大的議題不僅僅關乎技術層面的挑戰，更關乎在宏觀層面構建和諧、透明、安全的數字社會。只有通過政府、企業、研究機構和社會組織等各方共同努力，才能建立更高效、可靠、透明的數字信任體系。

為什么數字信任很重要？

無論是小農經濟還是市場經濟，“信任”都是人類文明進步和經濟發展的基礎，在社會財富創造和經濟穩健增長中發揮著重要作用。隨著經濟生產、社會治理、城市生活等各領域的數字化轉型全面啟動，萬物智聯世界加速形成，“信任”也在人際關系、制度契約的基礎上，被注入新的數字文明內涵。

然而，隨著數據開放流動，網絡邊界日趨模糊，云計算、AI等新技術給數據安全帶來嚴峻挑戰。數據泄露、網絡安全事故、數據篡改、大數據殺熟、惡意軟件、個人信息倒賣等亂象頻發，對人類社會的外溢影響不斷加深，嚴重削弱社會主體的安全感，進而抑制科技創新與數字化轉型的步伐。因此，構建新型數字信任關系，夯實數字社會和數字經濟發展基本面成為擺在各國面前的一項迫切任務。正如諾貝爾經濟學獎獲得者保羅·羅默在《全球數字經濟發展洞察》中所言，“在數字平臺的發展中，信任和規則的建立同樣重要”。

《中國數字經濟發展研究報告（2023年）》顯示，2022年我國數字經濟規模達到50.2萬億元，同比增長10.3%，GDP占比提升到41.5%。數字經濟快速發展下，數字化發展成為國家戰略，推動數實深度融合，加速企業與組織的數字化轉型，被視為是我國新一輪產業結構轉型升級和經濟高質量發展的必由之路。

其中，數字信任體系的構建又是數字化轉型的一塊重要基石。業內專家表示，10%的信任提升帶來 36%的經濟效益提升。

出席2023“浦江護航”數據安全上海論壇的崔久強在接受記者專訪時指出，數字信任是一個很新的概念，在2020年被他們首次提出。它以可信數字身份、可信數據流通為兩大核心，通過制度、管理、技術等一系列組合手段減少一切映射到數字空間的網絡實體進行數據交互的安全風險，并形成數字社會安全交互、高效運行的機制。

“從數字治理的角度講，它聚焦網絡安全底座，能夠防止城市數據泄露，還能夠將城市多源數據打通，實現城市公共數據的共享開放；從數字經濟的角度講，它能夠降低數字經濟交易成本，支撐數據市場要素建設，減少黑色產業與不正當競爭，推動數字市場經濟發展；從數字生活的角度看，它能夠確保數字應用來源可靠，支撐多樣場景全程線上化，防止個人隱私泄露，賦能城市生活透明化。”

以電信和互聯網企業為例，他們承載著大量用戶個人信息和業務數據，占全國行業機構產生數據的總量超過四分之一，具有極高價值，但也成為網絡攻擊的主要目標，勒索病毒、數據泄露等安全事件時有發生，總體形勢依然嚴峻。其中，上海承擔著護衛數據安全的重要角色。上海市政府辦公廳副主任張宇祥在論壇上透露，上海建設了上海數據交易所，組建上海數據集團，積極發展數據要素市場。截至去年底，上海數字經濟核心企業已突破1200家，核心產業規模近3400億元。與此同時，上海還出臺了《上海數據條例》完善數據治理體系，加強安全技術運用，實現互聯網安全攻擊態勢的智能分析、全天候安全監控。

建立數字信任有多難？

相信很多人都有這樣的體會，剛剛和家人說了談論了某件事之后，再次登錄某些平臺的時候就會收到相同主題的商品或服務推薦。雖然科技巨頭們對于監聽一事早就多次予以否認，但并沒有打消人們的疑慮。與此同時，許多民眾對人工智能算法下的定向廣告推送持負面看法。最經典的一個案例是，十年前一位網友因好奇心作祟在某購物軟件上搜索“棺材”，沒想到被“骨灰盒”的廣告騷擾了一個月。現在的精準推送，比十年前有過之而無不及。

自2016年“劍橋分析公司”丑聞曝光以來，公眾對社交媒體平臺的質疑和擔憂與日俱增。但是，在另一方面，絕大部分的人如今又都無法避免使用社交媒體，日常溝通聯絡、工作學習、購物娛樂和資訊傳播等幾乎都與這些平臺相關。“既不相信，又無法擺脫”的困境正日益侵蝕著數字時代的廣泛信任基礎，進而衍生出更多社會問題。

數字時代，新興技術的應用導致“個人數據”的邊界日益模糊。大量涉及個人信息的數據正不斷被抽取、拆分、匯合成支撐社會持續運轉的龐大信息流，導致按照傳統原則劃分個人數據權利邊界的難度明顯增加。“一個最簡單的例子，現在大家都覺得刷臉進小區非常方便，可是這些涉及你絕對隱私的信息就保存在小區物業的機器上，就是一般的人都可以輕易盜取，別說高級黑客了。這些信息到底該怎么保存怎么使用，大家還缺少共識。”崔久強說。

去年11月以來，以ChatGPT為代表的生成式人工智能等新技術、新業務的發布，引發行業變革，但也為數據安全保護和監管帶來新挑戰。崔久強指出，除了用AIGC（生成式人工智能）偽造圖像之外，大模型中隱含著許多敏感數據。不久前韓國三星一技術人員因寫代碼受困，求助于ChatGPT，將企業生產的核心代碼也上傳了，使個人、企業及國家敏感數據不斷處于風險之下。因此，如何做好數據的防泄密以及統一的數據管控，非常關鍵。

我們都知道區塊鏈技術是一種分布式、去中心化的信任機制建立，借助于區塊鏈技術可以實現數據和信息的不可篡改和可追溯性，從而確保數字信息的真實性和可靠性，為數字信任的技術實現提供了可行性的路徑。這一特性使得區塊鏈技術在數字信任領域具有廣泛的應用前景，包括身份認證、數據管理、供應鏈管理和金融交易等領域。

“利用區塊鏈的特性，有人做奢侈品、鉆石珠寶的溯源。本來這是一個讓買家覺得更加安全可信的交易方式，但是如果上鏈的數據就是假的，這不是更助長了奢侈品的造假嗎？”崔久強指出，這就對監管提出了更高的要求。更別說如果是被假數據訓練出來的大模型，那得出的結論得錯得多離譜？

中國科學技術大學教授左曉棟分享了一個關于數據泄密的案例，更加凸顯了數據問題的復雜性。在去年國家安全日之前，《焦點訪談》節目披露了一個案件，境外機構和境內機構相勾結，由境內機構在高鐵沿線放置信號采集設備，竊取高鐵運行數據，后來案子破獲。此案被譽為《數據安全法》實施以來，首例涉案數據被鑒定為情報的事例，同時涉案人員被定罪為為境外提供非法情報罪。

當時有人疑問，高鐵運行信號為什么要被稱為情報，原因是什么？或者說背后的邏輯是什么？實際上這也是無奈之舉。我們翻遍刑法，沒有適用于這個案例的罪名。《刑法》有關于竊取國家相關秘密的罪名，但是高鐵數據不是國家秘密，《刑法》后來為了保護個人信息有侵害公民信息罪，但是高鐵數據顯然也不是個人信息，怎么辦？但是它危害國家安全了，最近的罪名就是“情報”。“這說明在我們現有的制度設計，包括法律法規中我們對于數據安全保護的重點還不夠。再確切一點說，我們以前認為這個數據影響了國家安全，毫無疑問那就是國家秘密。問題是，非國家秘密中是不是有影響國家安全的數據？是不是應當加以保護？這個問題自然就產生了。”

事實上，在當前千行百業的數字化轉型中，無論是數據的復雜度，還是信任主體的類型與數量，抑或是各種新老場景對于數字信任的需求，均遠勝過往。這意味著過去的數字信任建設模式、單獨一個產品或者一個基礎設施，很難匹配上數字化轉型的長期需求。

如何建立數字信任？

無論是政府企業，還是普通市民，都需要一個信任的數字空間，如果沒有數字信任，我們必然會面臨著各種挑戰和風險。

“以上海市數字證書認證中心有限公司為例，我們是中國第一家專業的電子認證服務機構，給全市乃至全國的幾百萬企業，大概上億人口提供基于數字身份的信任服務。我們如何建立一個可靠的數字身份體系？通過AI、區塊鏈、5G、隱私計算等技術的銜接來形成新的數字信任底座。”

崔久強說，大家一直苦惱自己的購物信息、興趣愛好、社交特性似乎都被大數據拿捏得死死的，如果有一種方式既不泄露個人的敏感信息，但是又能提供你想要的結果，這就是現在非常前沿的隱私計算技術。實際上，經過處理的數據，可以只顯示某些特征，卻不暴露個人的重要隱私，從而讓數據能夠流動起來，實現開放共享。

“比如，孩子留學，需要提供各種房產證明、存款證明給留學中介，如果提供了自己在黃浦江畔有一套500平方米的房子的證明，但是不提及具體的住房地址，是不是就能有效保護自己的隱私？同樣，針對刷臉進出小區的新需求，其實可以在前端采集的時候通過個體特征去比對，眼距、顴骨高度、人中長短之類的，這樣就不用存儲個人的照片信息在物業了。再比如，我們去看病產生了大量的診療數據，醫藥廠商或者醫生拿到這些數據，可以研究更好的治療方法，研發更有針對性的藥物，如果沒有隱私計算，就會泄露病人的很多隱私，但是現在我們搭建了一個新型的信任計算平臺，既可以保證信息是真實的，可以放心使用，但是又可以防止敏感信息被泄露。”

崔久強介紹，在推出個人、法人和公務人員身份認證的服務之后，眼下他們正在上海推廣居委會的投票系統。之前，投票都需要居委會或者物業人員上門搜集投票結果，現在通過小程序投票，結合隱私保護和密碼技術，既能夠保證一家只有一名業主投票的身份真實性，又能夠保證投票的匿名性，“讓投票變得輕松又高效”。

2022年12月19日，中共中央、國務院發布《關于構建數據基礎制度更好發揮數據要素作用的意見》，針對數據基礎制度建設，《意見》從數據產權、流通交易、收益分配、安全治理等方面，提出二十條政策舉措意見。今年兩會期間，全國政協委員、致公黨上海市委會專職副主委邵志清提交了《加快建設國家數字信任平臺》的提案，他在提案中指出，《網絡安全法》《數據安全法》《個人信息保護法》和《關鍵信息基礎設施安全保護條例》《數據出境安全評估辦法》等初步建立了數據要素流通的法律保障體系。在大數據、可信計算、區塊鏈等技術加持下，數字信任能力顯著提升。但對于區塊鏈技術、AI應用倫理和算法的安全性等，缺乏全國性規則和一致性監管方案，尚未建立數據要素可信流通體系。

為此，他建議統籌規劃數字信任制度體系和技術體系，建立數據安全、權利保護、跨境傳輸管理、交易流通、開放、共享、安全認證等基礎制度和標準規范，建立統一、規范的數字身份和數據安全合規監管體系。自主突破區塊鏈、AI、隱私計算、量子密碼等技術關鍵點，加強對區塊鏈、AI等技術的安全合規體系建設，建立自主可控、安全可靠的數字信任創新技術體系。

（摘自《新民周刊》2023年第34期。作者為該刊記者）