AI電信詐騙的治理難題

中國信息通信研究院

近年來，我國電信網(wǎng)絡(luò)詐騙活動猖獗，已成為影響人民群眾安全感和幸福感的一大社會公害。

技術(shù)創(chuàng)新是一把雙刃劍，人工智能技術(shù)在不斷促進防范治理技術(shù)發(fā)展和進步的同時，也開始被詐騙分子所利用，帶來了一定程度的風(fēng)險隱患。特別是隨著基于人工智能的“深度偽造”、群聊群控等詐騙手法的傳播和應(yīng)用，這些風(fēng)險被進一步集聚、放大，引起了社會各界的關(guān)注。

機遇與挑戰(zhàn)?

隨著云計算、大數(shù)據(jù)、移動互聯(lián)網(wǎng)的不斷發(fā)展，人工智能進入到了一個全新的發(fā)展階段：基礎(chǔ)算力不斷增強，核心算法不斷突破，應(yīng)用場景不斷豐富，成為引領(lǐng)創(chuàng)新發(fā)展的戰(zhàn)略性技術(shù)。人工智能技術(shù)的蓬勃發(fā)展帶來了強大的產(chǎn)業(yè)拉動效應(yīng)，不斷加速傳統(tǒng)產(chǎn)業(yè)的數(shù)字化、智能化進程，驅(qū)動產(chǎn)業(yè)優(yōu)化升級和生產(chǎn)力快速提升，在推進社會進步、經(jīng)濟發(fā)展、人民生活質(zhì)量提高等方面產(chǎn)生了深遠的影響。

同時，人工智能技術(shù)的發(fā)展也為電信網(wǎng)絡(luò)詐騙治理工作帶來了積極影響：隨著以大數(shù)據(jù)分析、機器學(xué)習(xí)、模式識別、知識圖譜為代表的人工智能技術(shù)的部署應(yīng)用，電信網(wǎng)絡(luò)詐騙技術(shù)防范系統(tǒng)的識別準(zhǔn)確度更高、監(jiān)測攔截實時性更強、防護覆蓋面更大，為治理工作的不斷推進提供了強大動力，有效降低了電信網(wǎng)絡(luò)詐騙帶來的風(fēng)險與危害。

結(jié)合電信網(wǎng)絡(luò)詐騙治理實踐，目前人工智能技術(shù)在詐騙電話檢測、惡意網(wǎng)址攔截、詐騙文本識別、詐騙風(fēng)險預(yù)警等場景下已經(jīng)有深入的應(yīng)用及探索。

人工智能在推動防范治理工作不斷前進的同時，也開始被不法分子用來實施詐騙。當(dāng)電信網(wǎng)絡(luò)詐騙用上人工智能，往往會擴大詐騙的危害廣度和深度，給防范治理工作帶來一定的風(fēng)險與挑戰(zhàn)。

電信網(wǎng)絡(luò)詐騙實施的四個主要環(huán)節(jié)。一般來講，電信網(wǎng)絡(luò)詐騙活動可以歸結(jié)為精準(zhǔn)信息獲取、詐騙腳本設(shè)計、通信聯(lián)絡(luò)誘導(dǎo)、資金支付轉(zhuǎn)移四個關(guān)鍵環(huán)節(jié)。在精準(zhǔn)信息獲取環(huán)節(jié)，詐騙分子主要非法竊取或購買社會上各行各業(yè)泄露的個人信息，包括身份證信息、電話號碼、家庭地址，以及網(wǎng)絡(luò)賬號和密碼、銀行賬號和密碼等信息。目前看，個人信息泄露是精準(zhǔn)詐騙的根源。在詐騙腳本設(shè)計環(huán)節(jié)，詐騙分子模擬真實的經(jīng)濟社會活動場景，精心設(shè)計各種詐騙腳本，如近期高發(fā)的代辦信用卡、兼職刷單、冒充網(wǎng)購客服、冒充公檢法等詐騙案件。在通信聯(lián)絡(luò)誘導(dǎo)環(huán)節(jié)，詐騙分子通過電話、短信、互聯(lián)網(wǎng)等通信渠道聯(lián)絡(luò)受害人，利用之前設(shè)計的詐騙腳本與獲取的受害人個人信息，騙取受害人信任進而實施詐騙。在資金支付轉(zhuǎn)移環(huán)節(jié)，詐騙分子引導(dǎo)受害人通過銀行轉(zhuǎn)賬、網(wǎng)上支付等方式向其指定賬戶轉(zhuǎn)款，再經(jīng)由預(yù)先設(shè)計的詐騙分贓銷贓渠道快速從指定賬戶中轉(zhuǎn)移受害人資金。

事實證明，通過利用人工智能技術(shù)，詐騙實施者在精準(zhǔn)信息獲取、詐騙腳本設(shè)計、通信聯(lián)絡(luò)誘導(dǎo)、資金支付轉(zhuǎn)移等方面的能力都有了很大的提高。這也為治理電信詐騙帶來了新的挑戰(zhàn)。

治理人工智能詐騙的經(jīng)驗

近年來，人工智能技術(shù)為防范打擊電信網(wǎng)絡(luò)詐騙工作開辟了以“智”圖“治”的治理新格局，為促進國家治理體系和治理能力現(xiàn)代化增添了新動能，但同時也逐漸成為詐騙分子實施精準(zhǔn)詐騙的“新利器”，為詐騙治理工作帶來新挑戰(zhàn)新風(fēng)險。為做好詐騙治理工作，各國政府紛紛布局，瞄準(zhǔn)精準(zhǔn)詐騙實施主要環(huán)節(jié)、關(guān)鍵要素，統(tǒng)籌推進詐騙治理工作有序穩(wěn)妥進行。

從國際上看，換臉換聲詐騙、自動刷單詐騙等一系列利用人工智能技術(shù)的新型詐騙模式進入人們的視線，成為當(dāng)前電信網(wǎng)絡(luò)詐騙治理的痛點難點。為防范治理這種新型電信網(wǎng)絡(luò)詐騙，世界主要國家和地區(qū)紛紛從深化個人信息保護、提升技術(shù)防范能力、強化企業(yè)守法自律、加強警示宣傳教育等方面著手，開展推進打擊防范治理工作，遏制人工智能詐騙活動的泛濫蔓延。

基于人工智能的電信網(wǎng)絡(luò)詐騙憑借其新穎的詐騙形式、精準(zhǔn)的詐騙腳本、逼真的偽造音視頻，讓人防不勝防，已經(jīng)嚴(yán)重影響了社會穩(wěn)定和群眾幸福感。為有效遏制基于人工智能的新型電信網(wǎng)絡(luò)詐騙產(chǎn)生蔓延，及時鏟除此類詐騙活動滋生的土壤，我國信息通信行業(yè)積極開展了行業(yè)源頭治理工作：工業(yè)和信息化部作為國務(wù)院打擊治理電信網(wǎng)絡(luò)詐騙新型違法犯罪工作部際聯(lián)席會議工作單位和行業(yè)主管部門，全面貫徹黨中央、國務(wù)院有關(guān)決策部署，在工信部網(wǎng)安局指導(dǎo)下，信息通信行業(yè)相關(guān)企業(yè)單位深入落實主體責(zé)任，縱深推進防范治理工作，形成了全鏈條多層次的治理格局。

在工信部的統(tǒng)籌部署和全行業(yè)的共同努力下，信息通信行業(yè)電信網(wǎng)絡(luò)詐騙源頭治理和綜合治理不斷向前推進，已經(jīng)取得了階段性的明顯效果。但是面對人工智能時代電信網(wǎng)絡(luò)詐騙的高隱蔽性、高危害性等特點，我國防范治理工作仍然存在著一定的難點與問題，法律法規(guī)尚需完善、行業(yè)管理范圍仍需延伸、技術(shù)反制能力亟待提高、社會宣傳引導(dǎo)和協(xié)同治理的力度和程度還有進一步強化和提升空間。

存在的問題

在法律法規(guī)方面。隨著人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙領(lǐng)域的不斷應(yīng)用，不法分子實施詐騙的精準(zhǔn)性、迷惑性、隱蔽性大大加強，直接導(dǎo)致公安和檢察機關(guān)的偵查打擊難度進一步加大，人工智詐騙治理工作所面臨的“偵查破案難、電子證據(jù)調(diào)取難、認(rèn)定處理難”等一系列問題更加突出。同時，電信網(wǎng)絡(luò)詐騙已經(jīng)呈現(xiàn)出明顯的鏈條化、平臺化作案特征。例如上游黑產(chǎn)提供各種基于人工智能技術(shù)的專用設(shè)備工具、算法，為下游電信網(wǎng)絡(luò)詐騙源源不斷地提供技術(shù)支持，危害巨大。在這個產(chǎn)業(yè)鏈中，不法分子利用互聯(lián)網(wǎng)以提供服務(wù)的方式分工配合，使得詐騙案件發(fā)生時，位于上游的不法分子完全可以以自己不知情來規(guī)避法律風(fēng)險。這種法律依據(jù)的不明確及其導(dǎo)致的上游犯罪節(jié)點定責(zé)難，是當(dāng)前電信網(wǎng)絡(luò)詐騙治理不能回避的一個重要問題。

在行業(yè)管理方面。目前以舉報通報、現(xiàn)場檢查、年度考核等多種形式構(gòu)建組成的防范電信網(wǎng)絡(luò)詐騙的企業(yè)責(zé)任落實督導(dǎo)體系在電信行業(yè)已經(jīng)比較完善和細(xì)化，但是在人工智能技術(shù)和業(yè)務(wù)快速發(fā)展的互聯(lián)網(wǎng)等相關(guān)領(lǐng)域的督導(dǎo)執(zhí)行力度仍相對較弱。此外，數(shù)據(jù)隱私泄露是“精準(zhǔn)詐騙”的源頭之一。雖然現(xiàn)有的用戶個人信息保護、數(shù)據(jù)安全等行業(yè)管理基礎(chǔ)性制度已經(jīng)具備，但在具體的企業(yè)責(zé)任落實方面，特別是對人工智能應(yīng)用在數(shù)據(jù)采集、傳輸、存儲、使用、共享等各環(huán)節(jié)的隱私保護、數(shù)據(jù)安全等方面的監(jiān)督落實力度仍需加強。最后，對當(dāng)前涉詐風(fēng)險較大的基于人工智能的群呼（GoIP、SIMBANK）網(wǎng)關(guān)類設(shè)備的監(jiān)管政策和管理方式仍需確定。

在技術(shù)利用方面。人工智能技術(shù)被不當(dāng)利用的門檻不斷降低。在軟件和算法方面，當(dāng)前大量被不當(dāng)利用的人工智能技術(shù)均以開源方式對外公開發(fā)布，不法分子可以通過互聯(lián)網(wǎng)開源社區(qū)直接獲取源代碼并進行修改使用。在硬件設(shè)備方面，GoIP設(shè)備以其遠程化、智能化的特點，成為不法分子實施詐騙、逃避追查的重要方式。此外，基于人工智能的仿冒和識別技術(shù)發(fā)展不均衡。相較于深度偽造應(yīng)用的快速發(fā)展，仿冒識別技術(shù)研發(fā)難度更高，且受限于仿冒數(shù)據(jù)集樣本不足等多種原因，其發(fā)展速度相對較慢。最后，針對人工智能為防范治理工作帶來的新風(fēng)險，已有技術(shù)平臺和策略應(yīng)對能力尚顯不足，在對電信網(wǎng)絡(luò)詐騙實現(xiàn)事前有效防范和事中事后精準(zhǔn)溯源等方面還需探索。

在宣傳引導(dǎo)方面。關(guān)于電信網(wǎng)絡(luò)詐騙風(fēng)險提示等的相關(guān)宣傳內(nèi)容仍需增加。目前面向大眾的反詐宣傳提醒以較為傳統(tǒng)的電信網(wǎng)絡(luò)詐騙手法為主，基于人工智能的詐騙的方式方法和應(yīng)對策略等相關(guān)宣傳內(nèi)容較少，一定程度上造成社會普通民眾尤其是學(xué)生、老人等重點人群對此類詐騙的特點認(rèn)知和防范意識不足。此外，關(guān)于個人信息安全保護的宣傳力度尚需加強。當(dāng)前很多用戶對人工智能時代個人隱私泄露的危害仍然認(rèn)識不夠，面對一些應(yīng)用的霸王隱私條款，往往選擇以隱私換取效率和方便。

在協(xié)同治理方面。隨著電信網(wǎng)絡(luò)詐騙治理逐步進入“深水區(qū)”，過往基于單一數(shù)據(jù)源建立的相關(guān)技術(shù)防范系統(tǒng)，已不能形成良好的協(xié)同效應(yīng)，治理效果逐步減弱。相關(guān)部門與企業(yè)、行業(yè)組織雖然建立了高效的會商和聯(lián)動處置機制，但在跨行業(yè)、跨部門數(shù)據(jù)融合共享方面尚不充分，各治理主體的反詐系統(tǒng)仍相對分散，難以對各方數(shù)據(jù)進行及時的綜合分析，一定程度上制約了整體治理效能的持續(xù)提升。此外，部分企業(yè)自律意識不足，在用戶不知情的情況下，過度收集或使用個人信息。最后，跨國協(xié)同合作仍需加強。人工智能技術(shù)的應(yīng)用使詐騙分子實施遠程精準(zhǔn)詐騙的能力越來越強。為增強隱蔽性，降低風(fēng)險，大量詐騙團伙越來越傾向于聚集在境外實施詐騙。跨國、跨境電信網(wǎng)絡(luò)詐騙的識別、攔截、追蹤和定責(zé)必須在國際協(xié)同合作的框架下解決，在已有基礎(chǔ)上進一步推動國際各方協(xié)同治理已經(jīng)成為我國電信網(wǎng)絡(luò)詐騙治理需要解決的重要問題。

編輯：張程? 3567672799@qq.com