人工智能技術背景下新型網絡犯罪的治理創新
——第二屆新型網絡犯罪治理智庫論壇綜述

徐永勝 馮 俊 張 敏

為了深入學習貫徹習近平總書記關于打擊治理電信網絡詐騙犯罪的重要指示批示精神,堅持“四專兩合力”(1)“四專兩合力”是指“專題研究、專門隊伍、專案攻堅、專業技術,抓好內部合力、促成外部合力”。的總體思路,推動全面落實《中華人民共和國反電信網絡詐騙法》(以下簡稱《反電信網絡詐騙法》)和中共中央辦公廳、國務院辦公廳《關于加強打擊治理電信網絡詐騙違法犯罪工作的意見》(以下簡稱《意見》),本文基于第二屆新型網絡犯罪治理智庫論壇(2)2023年7月15日,全國新型犯罪研究中心浙江分中心、浙江警察學院新型犯罪研究中心在杭州舉辦了第二屆新型網絡犯罪治理智庫論壇。與會領導、專家聚焦“人工智能技術背景下新型網絡犯罪的創新治理”這一新時代命題,深入研討新型網絡犯罪治理的理論構建與實踐探索。新型網絡犯罪治理智庫論壇每年舉辦一次,旨在匯聚各方才智,共同探討新型網絡犯罪治理的新思路、新方法、新舉措,并形成智庫研究報告,報送上級公安機關作為決策咨詢參考。論壇搭建政府部門、公安機關、科研院所、行業企業等研討平臺,形成常態機制,以進一步凝聚共識、形成合力,為推動新型網絡犯罪治理工作科學化、技術化和法治化作出積極貢獻。的主要學術觀點,以綜述形式研究人工智能技術背景下新型網絡犯罪的態勢特征和規律,探討打擊治理新型網絡犯罪的新策略、新技術和新方法。

一、當前新型網絡犯罪的發案形勢、存在問題及刑事政策選擇

(一)新型網絡犯罪的態勢和特征

浙江省公安廳刑偵總隊副總隊長王火劍介紹了浙江省電信網絡詐騙犯罪發案量的變化趨勢,指出當前電信網絡詐騙犯罪案件整體處于高位運行,損失數和發案數不斷攀升,新型網絡犯罪案件占比不斷提高。

杭州市人民檢察院法律與政策研究室副主任董彬梳理概括了杭州市新型網絡犯罪案件的特征。一是網絡犯罪案件在審查起訴案件總量中的比重持續提高;幫助信息網絡犯罪活動罪成為網絡犯罪的第一大罪;上游犯罪持續增加、電信詐騙案件數量持續下降。二是電信網絡詐騙犯罪被害人來源多元化。犯罪人通過網絡爬蟲、釣魚網站、短視頻、直播等方式將被害人引流至犯罪場域。三是犯罪人詐騙工具多樣化,包括批量注冊賬號、嗅探工具等。四是洗錢方式多渠道。除了傳統洗錢方式之外,還包括“空包”交易、虛擬商品交易和直播代幣打賞洗錢等新渠道。

(二)打擊治理新型網絡犯罪過程中發現的問題

關于案件高發多發的原因,王火劍認為主要是公民個人信息泄露嚴重、犯罪引流層出不窮、洗錢方式多種多樣、一條龍式的犯罪技術支撐服務、詐騙窩點盤踞境外、相關部門監管履職不到位和群眾防騙意識不夠等方面。浙江警察學院偵查系副主任徐永勝副教授認為,當前打擊側的主要問題是“打不著、打不到、打不深、打不透和打不完”。“打不著”是偵查能力問題,“打不到”是司法管轄權問題,“打不深”是考核問題,“打不透”是法律問題,“打不完”是龐大的犯罪人口問題。事物的性質是由主要矛盾和矛盾主要方面決定的,電信網絡詐騙犯罪持續“高發多發”“打不勝打”“防不勝防”的矛盾主要方面就是存在數量龐大的犯罪人口問題。蘇州市公安局法制支隊支隊長周祺海認為,當前電信網絡詐騙犯罪手法層出不窮、犯罪高度融合互推,以及黑灰產業推波助瀾、犯罪日趨專業精準、網絡侵財犯罪持續攀升、被害人不穩定情緒的醞釀爆發等因素,增加了偵查打擊的難度。中國建設銀行浙江省分行反洗錢中心主任金蔚琳分析了商業銀行在反詐騙工作的痛點,包括支付結算與反電信網絡詐騙(以下簡稱“反電詐”)的矛盾、商業銀行盡職調查身陷困境、信息壁壘影響風險防控成效、各自為政、難以形成打防合力等。

(三)刑事政策選擇

浙江警察學院院長金誠教授提出,從戰略上看,要將壞事變為好事,新型網絡犯罪發展態勢將倒逼公安機關體制、機制和技術變革,打擊治理新型網絡犯罪必須堅持總體國家安全觀,以科技驅動變革推進公安工作現代化,依靠人才、技術和法治來化解新型網絡犯罪形成的風險與挑戰,不斷健全共建共治共享的新型網絡犯罪治理制度,提升治理效能,盡快遏制新型網絡違法犯罪蔓延擴張的態勢。

王火劍闡述了浙江省公安廳打擊治理電信網絡詐騙犯罪的基本思路:“打防治并舉,以防為主,以打為要,以治為基。”在這一思路指引下,新型網絡犯罪治理的主要策略包括三個方面。一是推進反電詐綜合治理體系化。開展反電詐指數評價機制、追贓挽損機制、創新省域合作集群打擊機制和嚴格執行《反電信網絡詐騙法》等機制建設;建立省、市、縣貫通的反電詐體系,構建省、市、縣高水平研判梯隊,構建完善的督導考核體系。二是開展反電詐綜合應用集成改革、警企融合技術反制等改革創新。三是抓好重點工作。打擊治理電信網絡詐騙犯罪的重點工作包括預警勸阻、資金管控、重點打擊、灰產治理、技術反制、重點人員管控和宣傳防范等。

徐永勝評析了近10年來打擊治理電信網絡詐騙犯罪的刑事政策。一是刑事立法政策突出預防性立法傾向。《中華人民共和國刑法》系列修正案不斷將預備行為(3)參見陳興良:《網絡犯罪的類型及其司法認定》,《法治研究》2021年第3期。和幫助行為正犯化,(4)參見熊亞文:《從共犯論到法益論:幫助行為正犯化再審視》,《法學》2021年第8期。導致輕刑配置的罪名大量適用,幫助信息網絡犯罪活動罪已經成為打擊新型網絡犯罪適用較多的第三大犯罪類型。這可能導致公安機關在實踐中為優先滿足考核而選擇最容易打擊的涉“兩卡”、架設“線路”、提供互聯網賬號等幫助行為,而相對忽視或者減少對核心犯罪團伙的偵查打擊,導致對新型網絡犯罪疑難案件偵查能力的弱化。二是刑事司法政策堅持少捕慎訴慎押政策。最高人民法院于2010年印發《關于貫徹寬嚴相濟刑事政策的若干意見》,實行寬嚴相濟的刑事政策,而當時的背景是傳統犯罪即將達到頂峰,新型網絡犯罪正蓄勢待發。公安機關作為犯罪前端感知部門,判斷電信網絡詐騙犯罪將來勢兇猛。為此,公安機關積極發揮大兵團作戰優勢,堅持產業鏈打擊策略,不惜通過“遠洋捕撈”方式抓獲了龐大的詐騙集團,但是,大量犯罪嫌疑人被人民檢察院、人民法院以弱關聯、缺乏本地被害人而缺乏管轄依據等為由拒絕受理。這表面上是公檢法缺乏統一執法思想,實際上是司法資源配置存在問題。實際上,檢法司法資源配置地方化無力消化新型犯罪網絡化帶來的龐大犯罪人口問題。在當前新型網絡犯罪高發多發的情況下,我國的刑事政策需要調整。以電信網絡詐騙為代表的新型違法犯罪規模、犯罪能力水平、犯罪數量和犯罪組織程度、發展速度等已經超越現有刑事政策可承受的限度,國家需要采取比較嚴厲的刑事反應,針對“亂世”需要用重典、出重拳、下重手。(5)參見徐永勝、許韜:《跨境電信網絡詐騙犯罪規律特征與對策研究》,《青少年犯罪問題》2021年第4期。三是刑事社會政策執行表現為從傳統價值觀失控到犯罪群體失控,再到蠻力勸返。當前,我國傳統犯罪減少,新型網絡化犯罪增加,傳統價值觀失控,部分地區的犯罪群體深受犯罪亞文化支配,體現出群體無意識的特征,大量基于地緣、親緣、血緣等社會關系的人員以集體組團方式實施犯罪。全國多地的犯罪群體管控失靈,從東南沿海到中西部地區形成了若干個地域性職業犯罪群體。(6)參見徐永勝、徐公社、韓冰:《地域性職業電信網絡詐騙犯罪及其偵防對策研究》,《山東警察學院學報》2018年第1期。國務院打擊治理電信網絡詐騙犯罪聯席會議辦公室對電信網絡詐騙犯罪群體集中的重點地區和突出地區進行掛牌整治。之后,全國多地陸續對非法滯留緬甸北部、阿聯酋、金三角地區等境外國家(地區)人員作出懲戒決定,采取強力措施,例如一律注銷戶籍、暫停電話卡業務等。在這一刑事社會政策執行過程中,新型網絡詐騙犯罪行為人主要從我國臺灣地區開始出現,之后發展到大陸東南沿海地區的人員參與,再蔓延形成全國性、地域性職業犯罪群體,并向東南亞、非洲、中亞、歐洲等世界多地轉移。核心的犯罪人口還是大規模存在,詐騙集團金主隱藏得很深。尤其是緬甸詐騙園區問題的存在,(7)參見周鑫:《緬北民族地區跨境詐騙問題及其治理》,《廣西警察學院學報》2021年第2期。導致從事詐騙的犯罪人口居高不下。

基于當前背景下打擊治理新型網絡犯罪的未來刑事政策選擇,徐永勝建議,將“降低電信網絡詐騙犯罪人口”作為犯罪防控的第一戰略。這一戰略圍繞“降低犯罪人口”,具體包括刑事司法機關統一執法標準、公安機關建立和完善遠程打擊機制、公安機關持續推進打擊偷越國邊境犯罪、公安機關依法實施限制出境措施、地方政府依法持續實施勸返工作、政府部門建立和完善懲戒機制、地方政府建立犯罪群體預防的宣傳機制、司法機關建立犯罪群體的再犯罪風險防控機制等八大綜合性措施。

二、數字化打擊治理電信網絡詐騙犯罪的浙江模式

隨著社會數字化轉型,電信網絡詐騙犯罪實現了遠程化、工業化、智能化,給公安機關提出了嚴峻挑戰。公安部有針對性地開展了“斷卡”“斷流”“斷號”“斷鏈”等專項行動。浙江省公安機關立足數字化發展大省、數字化改革強省和數字經濟強省的地域特色,不斷推進公安數字化改革,開展以體制、機制和技術改革“三輪驅動”為主要標志的“公安大腦”建設,(8)參見林峰:《“公安大腦”建設與警務現代化:價值意蘊、邏輯建構和實踐探索》,《浙江警察學院學報》2022年第6期。使得數字化打擊治理電信網絡詐騙犯罪成為必然趨勢。嘉興市公安局刑偵支隊偵查中心專職副主任孫偉從打擊實踐出發,認為“斷流行動”是公安部堅持源頭治理、系統治理等思維,從根源上減少犯罪行為人的重大舉措。嘉興市公安局堅決貫徹公安部專項行動部署,結合浙江公安數字化改革——“公安大腦”建設,通過部督專案,總結提煉“斷流行動”數字融合戰法的基本原理、數字化偵查技術方案、步驟清晰的基本流程、多種類型應用場景、完善的配套機制等戰法框架內容,不斷豐富“斷流行動”典型經驗戰法,為全國公安機關提供“浙江方案”。

衢州市公安局刑偵支隊副支隊長李道仲總結了“斷卡”行動的數字治理模式,其基本原理為公安機關依托黨委政府的決策部署,協同銀行機構、通訊運營商、第三方支付機構等相關行業監管部門,依托大數據、互聯網、人工智能等科技手段,搭建統一歸口的數據資源庫,運用針對性算法模型實時開展數據分析,從中精準識別預備行為和犯罪行為,即時推送情報、開展落地管控,高效開展犯罪預防和精確打擊,實現涉案“兩卡”源頭管控治理。

三、商業銀行反詐騙治理實踐及政策建議

金融領域是反詐騙的三大重要領域之一,在打擊治理電信網絡詐騙犯罪中涉及盡職調查、涉詐異常賬戶識別、提供偵查溯源支撐、風險防控等制度機制建設。金蔚琳從中國建設銀行浙江省分行反電詐工作體系出發,闡述浙江省分行反賭反詐反洗錢風險防控工作專班開展客戶管理、賬戶管理、商戶管理、產品和渠道管理、反洗錢牽頭管理、中后臺支撐等工作內容,建立起“模型托底、系統支撐、機制驅動”的商業銀行反電詐工作方法。一是積極貫徹落實監管要求,主要從疑似嫌疑人角度開展工作。總結涉案賬戶特征,主動開展可疑賬戶排查與管控,加強新開戶與睡眠戶激活管理。搭建省分行特色反電詐系統,深入開展警銀合作,從疑似嫌疑人與潛在被害人兩個角度分別開展工作。積極尋求總行支持,融合疑似嫌疑人與潛在被害人兩個角度進行穿透關聯。深化金融科技應用,利用大數據技術分析疑似嫌疑人與潛在被害人的交易,深入挖掘可疑線索,有效擴展監測范圍。二是建設反詐智能系統。通過與浙江省公安廳多跨反詐聯盟鏈、衢州市公安局“智卡通”平臺、中國人民銀行“云互聯”等系統對接,實現黑灰名單、可疑賬戶、涉案賬戶、“預警碼”保護性止付等信息的實時交互。

金蔚琳提出完善反詐騙對策的五項建議。一是建議市場監管和民政部門關口前移,攔截風險,強化源頭治理。市場監管和民政部門應加強對“空殼公司”“虛假社會組織”注冊、登記審核環節的識別和攔截,從源頭把控風險。二是由于商業銀行的核心系統建設及功能優化權限均在總行層面,且省分行層面難以實現跨省管控,因此,為了實現客戶維度的統一風險管理,建議以“總對總”方式向各商業銀行法人層面推動系統建設及功能優化工作。三是針對目前不同金融機構記載交易記錄的形式各不相同,甚至個別支付機構和銀行還存在交易記錄不全的情況,建議金融監管部門對交易記錄的記載和保存要求加以統一規范,明確數據采集標準,以便對跨機構資金穿透分析。四是建議金融監管部門搭建信息交互平臺,實現所需客戶、交易信息的交互,加強同業之間信息共享、風險共治。五是鑒于浙江省分行通過“請君入甕”已攔截大量涉案資金,但后續處置方式尚不明確的情況,建議政府部門以攔截資金為基礎形成救濟金,為“因騙致貧”的人提供適當的經濟補助。

四、以被害人為中心的多維預警技術路徑構建

關于如何構建電信網絡詐騙犯罪的多維預警措施,中國刑事警察學院新時代犯罪治理研究中心執行主任劉道前教授提出以下三點建議。

首先,反電詐工作的重點是依托國務院部際聯席會議機制和公安機關“406”機制(9)“406”機制是指公安機關內部針對電信網絡詐騙案件所建立的一套快速響應、聯動處置的工作機制。,堅持“一個根本遵循、一個總體思路、兩條工作主線”,即以習近平總書記重要指示精神為根本遵循,以“四專兩合力”為總體思路,以貫徹落實《反電信網絡詐騙法》和《意見》為主線,以遏制電信網絡詐騙犯罪高發態勢。

其次,落實源頭治理、綜合治理和系統治理的理念。電信網絡詐騙犯罪在本質上與傳統犯罪相同,都是犯罪嫌疑人借助犯罪工具,侵犯被害人權益。其特點在于不斷借助新興技術實現詐騙方式的升級轉型。對此,只打擊治理電信網絡詐騙違法犯罪的某一個或幾個環節,難以遏制案件高發,無法實現打擊治理的法律效果和社會效果的有機統一。因此,打擊治理電信網絡詐騙需要落實源頭治理、綜合治理和系統治理的理念,結合電信網絡詐騙的特征,有針對性地施策。具體來說,要從嚴打擊治理犯罪主體,加強對涉詐人員的管控、懲治;逐步提高人民群眾識騙防騙的能力,有效降低被詐騙對象的數量;盡快健全金融、互聯網、通訊等領域的技術規則,避免其淪為犯罪介質;建立健全法律法規,為打擊治理電信網絡詐騙提供完善的法律支撐;適時開展“斷卡”“斷流”“斷號”“清源”“凈邊”等專項行動,做到電信網絡詐騙案件“三定五清”(10)“三定”是指定人、定案、定位;“五清”是指搞清窩點位置、窩點人員、金主、資金通道和技術開發等五個方面。。

最后,以被害人的信息為基礎構建反制技術路徑。相對于各行業、各企業監測模型產生的預警數據,來源于電信網絡詐騙案件被害人的信息最為精準。例如,詐騙團伙提供給被害人的賬戶(含銀行賬戶及支付賬戶)等資金轉移通道,與被害人建立聯系的電話號碼、即時聊天工具的賬號、互聯網賬號(戶)等通訊聯絡工具,被害人接收到的短信、鏈接、訪問過的APP、域名等,都是準確的涉詐信息,能為預警提供依據。以電信網絡詐騙案件被害人的數據信息為基礎,構建資金側、通訊側、人員側及綜合研判結果的多維預警措施。當然,落實以被害人信息為基礎的多維預警措施,需要具備一定的法律依據、政策保障及風險防控。對此,需要加強研究和論證。例如,通過研究電信網絡詐騙案件被害人的數據信息,以此類數據信息為基礎構建的資金側、通信側、人員側及綜合研判結果的多維預警措施。又如,針對個體被害人的賬戶、通信(互聯網賬戶、電話、短信、網頁)、個體生物信息(聲音、外貌或者其他生物信息)等信息為基礎構建反制技術路徑。

五、關于新型網絡犯罪的法律適用與證據體系

周祺海認為,當前打擊新型網絡犯罪的法律適用中存在共同犯罪認定困難、法律認知存在障礙和難以有效獲取證據等難點。在法律適用方面,要健全針對涉網新型犯罪的立法體系,增設相關罪名,明確法律運用的統一思維和共識;在證據證明方面,要融合偵查取證手段,依托大數據構建間接證據證明體系,構建“蜂巢型”系列性的證據體系。

董彬總結了網絡犯罪中存在的法律爭議問題,包括虛擬幣性質認定存在重大分歧、管轄爭議越來越突出和共同犯罪的賠償等,并由此提出新型網絡犯罪治理的三點建議。一是堅持全鏈條打擊,提升網絡犯罪的成本。要切斷網絡犯罪與上下游犯罪的聯系,斬斷網絡犯罪產業鏈,擊潰網絡犯罪產業鏈的中下游,揭破網絡犯罪隱蔽性的偽裝。其中,要重點打擊引流、賬號、資金三個層面。二是加大有關打擊治理網絡犯罪的宣傳力度,加強以案釋法。例如,制作防詐騙網絡犯罪小視頻、開展案例宣講會、積極回應熱點關注的自訴轉公訴的誹謗案等宣防措施。三是檢察機關要善用檢察建議,推進綜合治理。要以辦理案件為切入口,聯合行政主管部門對電信、銀行、互聯網科技公司的黑灰產業進行綜合治理。

六、關于新型網絡犯罪數字化偵查取證技術

數字化犯罪的主要表現形式是通過數據流實現犯罪,數字化犯罪的證據形式主要是電子證據。偵查起訴新型網絡犯罪主要依靠電子證據證明犯罪過程。公安機關實戰專家圍繞電信網絡詐騙犯罪中涉及的詐騙信息源頭、傳遞環節、到達被害人終端設備等進行全流程、數字化偵查取證。為此,需要發展犯罪數據采集、分析挖掘和溯源重構等技術。

(一)涉案聊天類App調證線索挖掘與數據分析

山東省濱海公安局刑偵支隊任風凱認為,在涉網新型犯罪中,犯罪人往往通過聊天類App進行引流,然后通過博彩、投資網站實施詐騙。涉案網站的服務器一般都在國外,難以實現調證和線索溯源。在這種情況下,聊天類App中嵌入的IM即時通訊服務的聊天數據就相對較為重要,不僅可以實現重要線索的溯源,而且可以實現案件的串并和預警。

(二)整合行業數據形成偵查資源庫

合肥市公安局網安支隊陸宇認為,網絡違法犯罪已經具備了“去中心化”特征。這里的“去中心化”,不是沒有中心,而是現在網絡犯罪中的每個環節都可以作為中心、單獨成案,根據需求對灰黑產的環節直接組合,多重組合的違法犯罪行為明顯。許多黑灰產從業人員利用擦邊球的方式直接或間接從事涉網絡犯罪行為。偵查部門進行體系化行業資源整合已成為打擊網絡違法犯罪的必然要求。

(三)人工智能技術在新型網絡犯罪打擊中的應用

上海市公安局寶山公安分局刑事科學技術研究所胡軼川認為,伴隨著網絡犯罪的日益增長,服務器在網絡犯罪整個鏈條中擔任了數據存儲和數據交換的重要作用。因此,服務器取證溯源已成為互聯網犯罪打擊工作中線索的重要來源。在人工智能席卷全球各行各業的浪潮下,利用人工智能技術輔助的新型服務器取證系統的需求也日益凸顯,利用“AI+服務器”取證方向包括取證輔助、攻擊行為分析、日志分析和代碼分析。

(四)關于電子數據引領新型涉網犯罪偵查工作

揚州市公安局刑偵支隊電子物證室主任石峻宇提出,偵查部門需要推廣基礎數據采集理念,以便開展解析、調證、探索分析,以提高成案效率。如何利用數據,深度挖掘涉案賬戶相關信息、日志、通訊號碼、常用設備、IP、IM內容等研制出案件情報,進而引領新型涉網犯罪偵查工作,是精準有效打擊的關鍵。

七、關于網絡暴力犯罪治理

江蘇警官學院偵查系教研室主任焦海博副教授提出,網絡暴力犯罪治理存在七個難題。一是定義難。對“暴力”“網絡暴力”“網暴與評論”“批評”等概念界定難。二是識別難。涉及“精準識別與避免誤傷”“合理識別與平衡保護”等問題識別難。三是定罪難。涉及侮辱、誹謗、尋釁滋事、故意傷害、強制猥褻等行為定罪難。四是取證難。涉及被害人自己取證、網絡服務商配合、公安機關協助取證、傷害程度等取證難。五是鑒定難。涉及身體實際傷害、精神傷害、自殺傷害等鑒定難。六是因果關系證明難。涉及網絡群體性行為、傷害來源等證明難。七是預防難。網絡暴力涉及萌芽、輕微、擴散等犯罪階段,處置涉及民行規制、教育或是懲罰、刪除信息、封賬號、罰款等環節。網絡暴力傳播速度快與處置相對滯后的矛盾,導致預防難度非常大。歸結起來看,就是語言行為規制的經典難題、暴力行為規制的經典難題、網絡行為規制的經典難題。焦海博認為,網絡暴力犯罪治理的應對策略主要在兩個層面:一是在邏輯層面,應明確治理的理念、制度、規則;二是在路徑層面,須建立事前預防機制、事中監管機制和事后追責與救濟機制。

八、AI技術發展引發的潛在風險與對策措施

(一)AI技術應用場景與潛在風險

人工智能(Artificial Intelligence,AI),是研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術及其應用系統,是新一輪科技革命和產業變革的重要驅動力。但是,AI技術也給電信網絡詐騙治理帶來了很大的挑戰。AI技術應用不僅大大提高了對潛在被害人篩選的精準度,大大提高了電信網絡詐騙的迷惑性和成功率,而且加大了電信網絡詐騙案件的打擊難度。同時,AI技術應用還有進一步擴大的風險。不僅如此,AI技術應用是基于公民個人信息的過程,這帶來了數據安全和個人隱私受侵害的問題。

國家互聯網應急中心高級工程師張震提出,ChatGPT火爆的背后隱藏著一系列風險,包括競爭模式重塑、網絡生態變化、信息安全風險、科技倫理問題和產業格局沖擊等。徐永勝認為,人工智能犯罪風險不斷增大,技術可能賦能新型網絡犯罪,人工智能犯罪構成的根本獨特性和可能威脅主要體現在利用深度學習、虛擬現實等人工智能算法深度偽造合成文本、圖像、音頻、視頻、虛擬場景等,這將不斷增強新型網絡犯罪的犯罪能力和危害后果,也對刑事法律適用和技術反制提出了重大挑戰。

中國人民公安大學偵查學院院長助理王曉偉副教授認為,AI技術安全在本質上是模型算法的安全。電信網絡詐騙行為邏輯的兩個核心點就是通訊聯絡和信任。AI技術在電信網絡詐騙中的運用主要是在引流和詐騙兩個環節。在引流環節主要有三個應用場景。一是AI模擬真人群呼。這是一個人工智能語言模擬真人聲音、支持自動撥號、自動應答。二是AI虛擬直播。運用人工合成的技術和虛擬現實技術,通過模擬主播的言行和外貌進行自動化或者半自動化的AI虛擬直播。AI主播可以根據計算機設定的程序,包括語音合成、面部表情和動作模擬完成,這可以大大降低犯罪成本,還可以實現24小時不間斷的操作。三是AI的短信群發。AI的短信群發是將文本信息轉化為云文件,或者將虛假的照片、圖片進行深度包裝,再給客戶發送短信。這樣可以實現虛假內容、虛假網站等詐騙信息的自動化群發。在詐騙階段也主要有三個應用場景。一是智能挖掘被害人。首先在網上發布各類頭像、視頻,根據所要實施的騙術,通過AI技術對詐騙對象進行網羅和篩選。先通過灰色營銷,添加眾多潛在被害人的微信、QQ,再對他們進行評估和篩選,以提高詐騙的效率。二是自助維持關系。通過AI爬蟲技術模擬機器和人的聊天,以及智能主播,將大量受害者進行自動化的關系維持。三是深度偽造個人信息。主要偽造語音、圖片。在聲音合成方面,犯罪人先借用騷擾電話去獲取聲音,從而擁有偽造的樣本去詐騙對方。包括人臉偽造,通過AI合成實時視頻。

(二)AI技術的監管制度

張震總結了各國AI的應用控制措施:意大利、德國、加拿大等國加大數據隱私保護力度,采取相關限制措施;歐洲數據保護委員會加強數據保護;歐盟議會推進歐盟人工智能法案立法,開展責任鏈條、生成式內容、基礎模型等分層監管;歐盟推出針對生成式人工智能的新版權規則;美國通過政府部門建立監管機構、監管原則、責任主體等的問責制。

針對AI發展引發的潛在風險,張震認為關鍵是要讓“價值觀合規”,確保內容安全可控。價值觀合規要求生成內容真實準確、不得含有歧視性信息、不得侵犯他人合法權益。一是要體現社會主義核心價值觀。網絡信息內容生態治理以培育和踐行社會主義核心價值觀為根本。鼓勵網絡信息內容生產者制作、復制、發布弘揚社會主義核心價值觀的相關信息內容。二是新增訓練數據要合規。不僅訓練數據來源要合規,而且訓練數據自身也要合規。三是要明確程序與實體的監管要求。具體包括申報安全評估和算法備案、用戶實名認證、信息留存限制、內容標識義務,以及防止網絡沉迷的強制性規定。四是要明確針對生成式人工智能的精細化監管要求。具體包括產品研制中的標注要求、用戶投訴及侵權內容的處理要求、服務穩定性的要求、模型優化義務和信息披露義務等。

王曉偉提出了針對涉AI技術犯罪的四個方面策略。第一,完善立法,加強監管。《生成式人工智能服務管理暫行辦法》《中華人民共和國數據安全法》《中華人民共和國公民個人信息保護法》《反電信網絡詐騙法》《互聯網信息服務管理辦法》等法律法規和部門規章初步搭建起AI技術應用及安全的框架。但是,對于相關AI技術的數據傳輸、存儲、共享環節的監督落實、對于涉詐風險較高的AI技術應用管理方式等方面仍需要完善。除了要求從事AI技術和業務的主體加強自律之外,還需要加強對重要的AI技術的監管。第二,一案雙查,聯合治理。AI換臉、云合成等技術在詐騙中的運用是以被害人親朋好友的面容、聲音這些素材為基礎的,而這些生物信息都是被法律保護的公民個人信息。在辦理案件中要堅持一案雙查,在打擊詐騙犯罪的同時,嚴厲打擊各類侵犯公民個人信息的行為。第三,加強反制,以技術對抗技術。堅持以技術對抗技術的理念,推動相關執法部門和企業加強反制技術的研發應用,如在線監測工具,加強對網站平臺信息發布的監測,用AI安全技術對抗AI詐騙技術。第四,重點宣傳,提升防范認知。對應用AI技術實施的電信網絡詐騙或是冒充領導、熟人的詐騙,都應針對性地開展宣傳,讓更多的群眾了解各類詐騙的模型和案例,認識其危害,掌握一定的詐騙識別方法,并在日常生活中做到不輕易提供人臉等個人生物信息給他人,不過度公開或分享個人信息。

九、開展網絡空間綜合立法,健全網絡綜合治理體系

浙江省社會科學院法學研究所所長王崟屾研究員認為,黨中央高度重視互聯網,發展互聯網和治理互聯網,統籌協調涉及政治、經濟、文化、社會、軍事等領域信息化和網絡安全的重大問題,逐漸形成了網絡強國戰略思想。王崟屾提出,要加強網絡綜合治理立法的浙江探索,建議開展名為《浙江省網絡綜合治理條例》的立法工作,在浙江省開展依法治網新體系建設,在構建省域依法治網體系上率先突破,全面推進網絡空間法治化。依法治網新體系主要包括完備的互聯網地方性法規的規章體系、高效的互聯網法治實施體系、嚴密的互聯網法治監督體系、完善的互聯網法治保障體系和互聯網黨內法規制度體系。作為習近平法治思想重要萌發地、網絡綜合治理體系建設先行省,浙江有條件、有能力在網絡綜合治理領域的立法方面有所突破、有所作為,為健全網絡綜合治理體系提供“浙江方案”。這是國家所需、浙江所能、群眾所盼和未來所向。王崟屾建議秉持“立足當前、著眼長遠”的基本立法理念,通過立法重點解決“誰來治理,如何治理”問題。在法律框架方面,建議采用總則、領導管理、正能量傳播、生態治理、社會協同、技術治網、法律責任等篇章。

十、關于AI背景下新公安人才培養的探索

中國人民公安大學偵查學院院長助理唐云祁副教授圍繞“數據偵查”實驗班這一人才培養新模式,提出“數據偵查學”是信息技術與偵查學、刑事科學技術最前沿的交叉融合學科,是應對新型犯罪的新興學科發展方向。“數據偵查學”是新文科與新工科建設的突破口,可以成為公安學和公安技術學科建設的重要增長點。當前,數據偵查人才是實戰單位需求迫切的人才類型。“數據偵查”實驗班開設偵查學專業、刑事科學技術專業,課程設置包括“程序設計”“數據結構與算法基礎”“概率論與數理統計”等專業基礎課;“數據偵查原理”“數據偵查工具與實踐”“電子數據取證與鑒定”“電信網絡詐騙案件偵查”等作為專業課。實驗班實行獨立建制,從大一學生中遴選學員,并配備班主任和導師。中國人民公安大學依托“數據偵查”實驗班廣泛開展校局、校企合作,拓展“數據偵查”實踐教學資源,通過以賽促學、以研促學,提升學員的“數據偵查”實踐能力。經過多期實踐,偵查學專業“數據偵查”實驗班已升格為校級創新拔尖人才班,建立了本碩一體保研機制、入黨比例優勢機制等。唐云祁重點指出,“數據偵查”實驗班人才培養模式成功的關鍵是建設好符合要求的師資隊伍。

浙江警察學院偵查系刑偵教研室主任張敏副教授總結了利用人工智能技術實施的犯罪類型,包括入侵計算機、虛擬角色類、信息搜集類和虛假信息類等。張敏認為,此類犯罪具有技術新、模式多、變化快和危害廣等特征,偵查新型網絡犯罪的難度將不斷增大。因此,人工智能時代偵查人才的能力應包括犯罪數據感知能力、犯罪數據獲取能力、犯罪數據分析能力、犯罪情報應用能力和新型犯罪案件辦理能力等。人工智能時代新偵查人才的培養,應構建“一個數字化偵查能力核心+新型犯罪偵查實戰化戰斗力新標準+N門涉網偵查新課程資源體系+校企局三方師資融合機制”的模式。