AI火進元宇宙，安全問題敲警鐘

陳冰

上個月剛剛結束的人工智能大會，站在C位的不是AI，而是元宇宙。

進入上海世博中心，迎面而來的就是元宇宙展區。其實這一點也不讓人意外。從人工智能大會召開的第一年開始，AI一直就是當之無愧的主角，AI+行業的號角吹遍會場的每一個角落，以商湯、云從、依圖和曠視為代表的AI四小龍一時風頭無兩，在AI的賦能之下，金融、醫療、安防等領域的應用遍地開花。

5年之后，人們忽然發現，AI技術似乎成了一種基礎配置，各行各業都在大力引入AI，于是風向悄悄變成了行業+AI。而眼下，最火爆的科技話題無疑是元宇宙。所以，AI搭上元宇宙也就顯得順理成章。

與會者一致指出，以元宇宙為代表的智能技術及其產業應用，正在激發虛擬世界與現實社會的共生蝶變，徹底改變人們的生活、社交和生產經營方式。與此同時，不斷發展的虛擬世界也滋生出更加嚴峻的安全挑戰，催生了包括利用元宇宙概念炒作、非法集資、侵害個人隱私、數字身份竊用和遠程網絡欺詐等在內的元宇宙安全風險。

2022世界人工智能大會以“智聯世界 元生無界”為主題，搭建鏈接全球的“無界”平臺，充分討論展示描繪“AI+元宇宙”最新實踐和未來圖景。

如何構筑面向未來的數字空間規則，促進元宇宙相關產業健康持續發展，面對由元宇宙等智能化技術引發的一系列復雜和深遠的安全和治理挑戰，更是當前決策者和產業界共同關注的重要議題。

主辦方專設立了一個“WAIC元宇宙展區”，阿里、百度、華為、網易、快手、商湯等大廠都展示了“元宇宙”概念下一些VR/AR、數字人等應用。

作為人類未來生活、工作的第二平行時空，元宇宙正在成為眾多產業數字化轉型的焦點。2021年底百度發布了元宇宙產品希壤。此番，希壤協同世界人工智能大會帶來首創WAIC元宇宙會場。大會基于百度希壤的元宇宙底座能力，結合Cocos、Unity等多引擎打造了Android、iOS和VR版本，同時使用Unity引擎推出了云渲染版本，用戶可以通過瀏覽器、手機等不同的端口直接進入元宇宙世界。

用戶自定義構建虛擬角色后，就開始元宇宙參會之旅。全新大會大廳、全景論壇看板、高清畫質沉浸體驗、人物穿梭、動態留言，觀眾可在元宇宙會場中瞬間抵達開幕式，與近萬名觀眾共同體驗各個論壇。

當然，在展現巨大應用前景的同時，虛實相生的元宇宙世界在具體的實踐落地過程中卻也面臨著不小的現實挑戰。百度副總裁馬杰指出，現階段困擾元宇宙體驗的三座技術大山——視覺、聽覺和交互，分別對應在元宇宙世界中實現更為沉浸的效果、更為擬真的體驗和更為自然的交互。在馬杰看來，基于AI 技術，百度要完善元宇宙的基礎設施。而在終端設備實現重大創新之前，元宇宙的產業落地應首先關注于效果和體驗之間的平衡，并以開放的合作模式推動元宇宙應用的快速發展。

2022世界人工智能大會于9月1日開幕，世博中心為主會場，浦東張江和徐匯西岸設立東西分會場，大會以“WAIC元境星球”概念和“元宇宙會場”的形式，沉浸式打造元宇宙虛擬世界。

正在進入科創板上市進程的AI大數據公司“合合信息”，繼去年的甲骨文識別之后，今年又將智能文字識別技術應用到了一篇鐫刻在西周青銅鼎面的鐘鼎文（金文）識別上，可謂難度更高。

在沒有人工干預的狀態下，鐘鼎文從內凹狀態被拉平，并被轉譯成簡體字，“克曰穆朕文且師華父悤譲氒心寧靜于猷淑哲氒”等原本連在一起的復雜語句，經過“AI斷句”功能自動處理后被區分開來，翻譯成方便大眾理解的字句。現場觀眾紛紛贊嘆：這屆世界人工智能大會實在太“卷”，竟然能讀懂古文。

在鐘鼎文的處理過程中，合合信息重點展示了智能文字識別技術的應用，通過以“彎曲矯正”為代表的智能圖像處理，基于深度學習的復雜場景文字識別，自然語言處理（NLP）三大核心技術層，向曲面、模糊、陰影、非常規文字影響下的識別難題發起挑戰，精準實現復雜場景中的多語言識別。

鐘鼎文字形小而細密，其載體青銅鼎面存在彎曲、反光、凹凸不平的狀況，識別難度極大。從一只鼎出發的文字識別技術可廣泛應用于識別不同卡證、票據，以及手寫體文檔字符等領域。

互聯網詐騙層出不窮。犯罪團伙常用PS工具對個人證件、票據及各類商業材料進行修改偽裝，受害者不計其數。合合信息推出的“PS篡改檢測”技術主要采用AI技術，及時判斷圖片是否被篡改，并以熱力圖的形式鎖定修改區域，檢測準確率遠超傳統技術方法和人眼判斷。

這項“PS篡改檢測”技術還能對增值稅發票、普通發票、醫療發票、小票、合同等多種文檔類別進行檢測，已經應用于保險、銀行、證券、政務等多種場景之中。

特別值得一提的是，AI 還在加速生物醫藥行業的發展進程，在蛋白質合成新藥領域彰顯強大實力。預測蛋白質的結構一直是生物學的重大挑戰之一，眼下AI已經預測超過2億個蛋白質結構，這意味著新藥研發的進程將大大加快。突如其來的新冠疫情更是為“AI + 生物醫藥”提供大量試驗機會。從新冠小分子藥物到抗體藥和疫苗研發，AI 技術助力了多款新藥的研發。

9月2日，致力于蛋白質生命科學研究的天壤XLab在世界人工智能大會發布了基于AI的蛋白質設計工作臺 CREATOR，可為蛋白質研究者提供系統性支持，一站式解決算法、數據和算力問題，加速蛋白質設計工作的大規模開展和落地。

“我們在研究過程中，發現AI能夠為蛋白質設計提供前所未有的生成能力，這將使新藥研發從發現轉變為發明。抗體、多肽、酶也可以用這一全新的方式設計出來。這無疑會開啟一個充滿想象力的蛋白質世界，我們希望借助這個工作臺，能有更多的科研工作者一起加入進來。”天壤創始人、首席執行官薛貴榮博士表示。

而在WAIC生物計算論壇上，分子之心創始人兼首席科學家許錦波透露，他領銜的分子之心團隊，目前已在蛋白質從頭設計、蛋白質優化、抗體重設計、蛋白質以及復合物結構預測、蛋白-蛋白對接、蛋白質側鏈預測、蛋白質功能預測、蛋白質語言模型等關鍵領域，開發出十余項世界領先的 AI 算法，計算結果遠超文獻報道及全世界已公開發表的最好結果。

業內人士指出，藥物研發的流程是復雜的，相對耗時耗力，特別是人體實驗環節;而通過 AI 技術模擬抗原免疫原性篩選系統以后，工作量可以減少很多。這項工作非常有意義，它實際上給生物制藥、化學制藥行業帶來顛覆性的改變。

今年4月，一款VR游戲突然火了起來，讓它爆紅的原因不是游戲品質有多高，而是在游戲中，一位女性網友受到了侵犯。

這個被稱為“VR強奸”的事件發生在一個叫《VRchat》的在線VR角色扮演游戲中。游戲的玩法很簡單：你可以在游戲中打造自己的虛擬角色，隨后在游戲內與其他玩家進行社交活動。

而正因為加入了VR元素，所以你只要佩戴上VR設備，你在現實中做的動作，游戲人物就會無縫同步，例如眨眼、口型、手勢等，當然，如果你睡覺的時候戴著VR，那么游戲里的角色也會進入“VR睡眠”。

2022世界人工智能大會緊抓“元宇宙”機遇，集中展示全球人工智能發展成果。圖為展會現場的人機互動吸引觀眾。

這位女性網友控訴當她正在“VR睡眠”時，她VR游戲中的一位好友，悄悄進入了她的房間，并跨在她的身上擺動腰肢對她進行了猥褻。對于突然遭遇的“VR強奸”，她指出雖然沒什么肉體上的傷害，但心理上仍然很難受。

實際上，VR性侵并非孤例。一位21歲的女士在Meta的《地平線游戲》（《Horizon Venues》）里也經歷了類似的遭遇。她聲稱在進入游戲后的1分鐘多一點的時間內，受到了三四個男性玩家的挑逗和猥褻騷擾。考慮到“性侵”的風險，Meta公司在2022年2月趕緊增加了一項打擊虛擬現實騷擾的功能。這項名為“個人邊界”的功能，在VR“化身”周圍創建了一個無形的虛擬屏障，防止其他人靠得太近。

這大概可以被看作是元宇宙的規范性起源。可是即便如此，虛擬世界的強奸、猥褻行為，目前也很難被定義為真正的“強奸”“猥褻”。這還只是元宇宙安全的冰山一角。如何防止人們的尊嚴、財產在虛擬世界中受到侵害，這條路任重道遠。

在上個月結束的世界人工智能安全高端對話論壇上，上海艾策通訊科技公司的創始人王勇指出，全球有700多萬基站，而中國就有400多萬基站，作為全球寬帶基礎設施最好的國家，我國面臨著比其他國家更嚴重的網絡生態治理問題。

一是我國網民數量很高，二是暴力、恐怖、淫穢色情和虛假謠言特別多，再加上隨著人工智能（AI）、區塊鏈、虛擬貨幣等新技術的應用，層出不窮的詐騙正讓人“防不勝防”。比如騙子完全可以用人工智能對人臉、聲音等個人隱私敏感信息進行深度偽造，輕松騙取受害人信任。

在編寫、發布詐騙引流信息時，詐騙團伙已開始使用自動化腳本執行工具，這大大提高了詐騙信息發布的效率;在與被害人批量溝通時，詐騙團伙會利用AI機器人進行智能聊天，使用云手機、虛擬機和群控設備等方式降低人工成本。于是，電詐成本越來越低，作案手法越來越隱蔽，執法成本也越來越高。

從個人層面講，個人信息的泄露風險最大;對企業和國家而言，以人工智能、大數據、云計算、虛擬現實為代表的一些數字技術快速發展，在給生產生活帶來便利的同時，也大大增加了安全風險。

2020年疫情期間，多個國家以及地區就對我國國內的一些網站發動了網絡攻擊。不久前，還爆發出大規模的信息泄露事件，臺積電甚至發生了因為出現勒索病毒而導致整個生產停擺的安全事件。隨著數據流通的不斷加大，進一步加劇了數字安全保護的難度。

眼下，面對不斷“進化”的網絡犯罪，相關部門和企業都在積極應對，試圖用魔法打敗魔法。

中科院聲學所團隊創立的聲智科技開發了AI反詐外呼數字人，每天能撥出去六七萬通勸阻電話;搜索巨頭百度推出基于AI技術的深偽檢測平臺，對于各種人臉識別、語音識別有99%以上的準確率。螞蟻集團的“智能風險感知與響應聯合反詐系統”，每天會用電話、彈窗提示、防詐騙答題等方法聯系到40萬被認為是電詐受害者的用戶，牽扯的金額達2000萬元，其中有8萬用戶會收到系統撥出的AI電話，這種AI電話有著20%—30%的完播率，收到電話后，七八成的人會放棄當前的轉賬、付款行為，如果是老年人，放棄轉賬的概率可以提升到90%。

隨著元宇宙從概念到規模化的應用，虛實結合的網絡空間對于安全的依賴將越來越深。當辦公、社交、娛樂等生活及生產場景轉移到元宇宙中，元宇宙平臺的價值勢必引來攻擊者的覬覦。所有現實世界可能發生的網絡犯罪，同樣也會在虛擬世界上演，漏洞、木馬、勒索軟件等攻擊手段將成為元宇宙世界面臨的網絡安全的巨大風險。

隨著技術的發展，元宇宙帶來了更具沉浸式的體驗，同時也帶來了新型安全風險、倫理風險、金融風險等諸多的挑戰，現實中的秩序規范逐漸無法應對這些虛擬世界中的新問題，因此，在倫理道德和法律規范上，都應當盡快進行完善和升級。

為應對元宇宙帶來的“雙刃劍”效應，在上海推出《培育“元宇宙”新賽道行動方案》之際，世界人工智能安全高端對話組專家，聯合元宇宙領域的專家學者和業界同仁，共同發起《元宇宙安全治理上海倡議》。

“倡議”以塑造秩序規范、安全可靠、具有互操作性和包容性的虛實共生世界為宗旨，指出應與時俱進、把握機遇迎接元宇宙中的新挑戰，積極開展合作并主動參與建設風險可控的元宇宙，探索構建元宇宙新標準新規范，并在相關國際對話中發出有力的上海聲音、中國聲音。

所有現實世界可能發生的網絡犯罪，同樣也會在虛擬世界上演，漏洞、木馬、勒索軟件等攻擊手段將成為元宇宙世界面臨的網絡安全的巨大風險。

“倡議”關注元宇宙安全治理，探索如何以安全、可靠、合規、可互操作和包容的方式開發元宇宙的技術和環境，提出“虛實共進、保障秩序、強韌發展、規范建制、尊重隱私、守護未來、理性務實、開放協作”八大目標原則及其基本要求。

《倡議》提出，元宇宙需要穩固的數字底座作為支撐，元宇宙作為下一代可交互式互聯網，集合了多種創新技術，對于底層技術的穩定性、魯棒性和安全性要求極高。因此，為了保障元宇宙的安全和穩定，在發展技術的同時，應當關注彈性網絡的建設，加強元宇宙的自動恢復能力和風險防護能力。

與此同時，元宇宙的發展應當以實為本，著力解決人類現實世界難題，以虛強實促進現實社會的經濟發展和生產力升級，防止脫實向虛、以元宇宙替代真宇宙。此外，倡議還提倡數字產權保護、尊重用戶隱私、兼顧創新和監管、關心未成年人福祉、防止數字成癮，致力于保護人們在虛擬世界中的各項權利。