人工智能：反詐新利器
2023-11-21 01:50:37史佳慶
瞭望東方周刊 2023年23期
關鍵詞：人工智能
史佳慶
生成式人工智能內容檢測平臺DeepReal，可鑒別AI 換聲、AI 換臉等偽造內容
據新加坡8頻道11月1日報道，印尼政府部門日前專門澄清了一段印尼總統佐科“說中文”的視頻，稱其是深度偽造視頻。
網絡上的信息來源眾多，魚龍混雜，真假難辨，人工智能會如何檢測網絡虛假信息？
近日，國家金融監督管理總局北京監管局提示了三類新型騙局：校園貸款連環套、“AI 換臉”和冒充監管行騙，并發布風險提示，樹立反詐防騙意識，謹防新型欺詐手段，提高打假維權本領，守護財產安全。
在全球化時代，社交媒體成了滋生虛假信息的溫床，憑借一段原始語音、一張原始圖片，犯罪分子就可以編造出一段真假難辨的謠言。
2023年10月11日，全國信息安全標準化技術委員會官網發布《生成式人工智能服務安全基本要求（征求意見稿）》，這是國內首個專門面向生成式AI安全領域的規范意見稿，也是對2023年7月推出的《生成式人工智能服務管理暫行辦法》的支撐。
“隨著技術的發展，生成式人工智能可以低成本快速制作以假亂真的視頻和畫面，推翻了人們眼見為實的傳統認知。”北京瑞萊智慧科技有限公司聯合創始人、算法科學家蕭子豪告訴《瞭望東方周刊》，道高一尺、魔高一丈，人工智能造假和人工智能打假將是一個持續攻防迭代的過程。
金融詐騙多發
不法分子利用人工智能技術進行違法犯罪活動，給網絡安全帶來了嚴峻挑戰。
2023年9月，江蘇省昆山市市民王先生接到公安局反詐中心96110的來電，當時他因為做生意需要資金，正在某貸款App上填寫資料。接完電話，他立即打消了從網絡平臺貸款的念頭。電話那頭及時勸住他的警官，正是AI反詐民警“鹿小安”。
據了解，通過大數據智能分析，AI民警可以快速識別正在進行的疑似詐騙行為，形成預警信息推送給一線反詐民警。這位AI民警可以根據上下文和市民進行有效溝通，其“聰明程度”不亞于人工電話員，但撥打效率卻大大提升。目前，“鹿小安”的數據庫已經深度打磨各類精準反詐話術，可做到反詐場景全覆蓋。
在這個日益數字化的時代，人們在網絡上的活動越來越頻繁，幾乎每個人每天都在生成大量的數字化信息。這為詐騙者提供了廣闊的操作空間，他們可以利用網絡平臺，配合人工智能技術，進行大規模、精準的詐騙行為。而金融，就是詐騙犯罪的重災區。
對此，蕭子豪表示，北京瑞萊智慧科技有限公司研發的人臉AI安全防火墻RealGuard，能夠在金融和政務等行業應用場景中，幫助系統有效防范以AIGC（Artificial Intelligence Generated Content，即人工智能生成內容）換臉為首的各類新型人臉攻擊，比如對抗樣本攻擊、深度偽造換臉、照片活化等，能夠實時發現惡意人臉圖像，同時支持移動端安全風險監測。
據介紹，線上銀行的人臉認證被破解后，常被用于非法轉賬等違法犯罪行為。
“而RealGuard可廣泛適用于采用人臉識別系統的全部場景，如遠程銀行開戶、身份核驗、刷臉支付等，能夠對當前業內基于開源或自研的人臉識別算法做安全補充，精準識別新型人臉識別攻擊手段，彌補早期人工智能算法系統存在的安全問題。”蕭子豪說。
目前，RealGuard已在金融、政務、互聯網等行業眾多頭部企業落地應用，為人臉識別筑牢安全防線，及時跟蹤黑產攻擊動態，幫助用戶應對各類安全威脅。
例如，在某地區政務相關的民生應用程序中，該人臉AI安全防火墻每天都對50萬次人臉識別校驗進行防護，半年來有效攔截惡意換臉攻擊數萬條，阻斷了多起冒名頂替的工商注冊、市場監督、信用服務等多種線上人臉身份驗證的風險。
警惕“AI詐騙潮”
2019年，全球首例AI詐騙案發生在英國，一名詐騙者利用先進的AI語音模仿軟件，假扮公司高層，成功騙取了一家英國能源公司總經理的22萬歐元。
隨著AI技術加速迭代，涉詐風險也在積聚。
2023年5月8日，內蒙古包頭警方通報一起利用AI實施詐騙的案件，福州市某公司法定代表人郭先生在使用微信與好友視頻聊天的短短10分鐘內被騙取了高達430萬元。據通報，不法分子通過AI換臉和擬聲技術，佯裝熟人實施詐騙。
警惕AI 換臉詐騙短片視頻截圖（圖片源自北京市公安局西城分局）
2022 年10 月22 日， 北京地鐵一號線，反電信網絡詐騙專用號碼96110 的公益宣傳廣告
該案披露后，不少報道稱需警惕“AI詐騙潮”，并曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學發語音、打視頻電話，小劉看到視頻后信以為真，“借”了6000元給騙子。
這些駭人聽聞的案例揭示了人工智能生成虛假信息所潛在的巨大社會風險，同時也讓人們對人工智能軟件被用于各類犯罪活動的可能性深感憂慮。
據統計，新浪微博在2022年處理的虛假信息超過8萬條。2023年以來，已有“中國電科員工不滿強制加班‘怒懟領導”等虛假信息在網絡上引起熱議。謠言層出不窮，單靠人力排查效率明顯不足。
2023年6月，紹興上虞區警方發現有網民發布了關于上虞工業園區發生火災的視頻，瀏覽量在短時間內迅速上升。視頻中，上虞區一工業園區內火勢猛烈，整個園區被濃煙覆蓋，現場不時傳出爆炸聲，場面驚心動魄。
民警核查發現，視頻中的建筑、森林大火場景，并非該工業園真實場景，并且疑似源自其他視頻。經分析，民警判斷該視頻是利用人工智能合成技術，將網絡上多段不同視頻剪輯拼接而成。警方經偵查，認定某網絡科技公司員工有較大作案嫌疑，立刻赴該公司所在地抓獲包括湯某在內的3名犯罪嫌疑人。
上虞區分局民警沈林豐介紹，犯罪嫌疑人首先在網上搜集熱門話題，通過生成式人工智能技術自動生成腳本，并在網上抓取相關視頻片段，利用AI軟件合成完整視頻，配上音樂、字幕。不到一分鐘，一段虛假視頻便“新鮮出爐”。
對此，北京市天元律師事務所合伙人楊虎城表示，老話說“眼見為實”，但今后眼睛看到的也不一定是真實的。未來，涉及人工智能合成技術的詐騙、敲詐勒索等違法犯罪和肖像、名譽等民事侵權問題，值得防范。
AI辨真假
隨著AIGC領域各種技術的開源，生成式人工智能走進各行各業的場景。當人們的肉眼無法分辨音視圖文等內容是否由人工智能生成時，人工智能打假平臺可以將其識別。
究其原理，生成式大模型本質上依托于一個參數量巨大的神經網絡模型，在訓練數據的過程中進行模型的推理。
“我們在訓練模型時，會將一些數據通過生成的方式為其打上標簽，告訴它哪些數據是真實的數據，哪些是假的數據。通過這種方式，我們可以讓模型進行直接的輸出，判斷真假?！笔捵雍琅e了一個例子：偽造的圖片往往會在熱力圖上露出馬腳——真實圖片的熱力圖無熱力區域，而偽造圖片會顯示有熱力區域。
2023年1月，在中國信息協會區塊鏈專業委員會的指導下，SAFEIS安全研究院發布《2022年區塊鏈安全白皮書》，顯示2022年區塊鏈安全事件涉事總金額超過753億美元。
“ 如果遇到疑似AI 換臉詐騙的情況，可以在視頻時有意識地引導對方做一些動作，如：大幅度地搖頭或張嘴。如果騙子技術手段較弱，那么我們就可能發現對方面部邊緣或者牙齒的瑕疵，從而識別出AI 換臉。不過，這個方法對于識別出‘高水平的不法分子，還存在難度?！?/blockquote>
區塊鏈技術背景下，虛擬貨幣去中心化、匿名性、交易便捷等特性及反追蹤技術的不斷升級，增加了執法機關的辦案難度。如何快速識別嫌疑人真實身份、迅速追蹤資金去向、極速跟上資金轉移速度，是辦案過程中亟待解決的幾個核心難題。
“將人工智能引擎與鏈上大數據分析技術結合，應用到案件追蹤系統中，能夠極大提高案件的偵破速度。案件追蹤系統可以自動分析和提取海量鏈上數據，將復雜的資金流向以可視化的網狀圖和樹狀圖呈現出來，使執法人員快速掌握案件的關鍵信息?！北本┐髷祿芯吭寒a業發展部主任蔡曉告訴《瞭望東方周刊》。
據蔡曉介紹，案件追蹤系統通過深度學習、分析海量案件模型，可以發現人工難以察覺的規律，再借助資深業務知識，可協助偵查人員準確判斷案情并鎖定犯罪目標，找出最終的鏈上地址并識別該地址的交易場所。
目前，深度偽造技術也在不斷自我優化、升級迭代，生成的聲音越來越自然流暢，視頻也越來越逼真，當我們無法及時使用打假平臺辨別真偽時，可以怎么辦？
蕭子豪給出了妙招：“如果遇到疑似AI換臉詐騙的情況，可以在視頻時有意識地引導對方做一些動作，如：大幅度地搖頭或張嘴。如果騙子技術手段較弱，那么我們就可能發現對方面部邊緣或者牙齒的瑕疵，從而識別出AI換臉。不過，這個方法對于識別出‘高水平的不法分子，還存在難度。”
近年來，生成式人工智能技術快速發展，為經濟社會發展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。如何統籌生成式人工智能的發展和安全，引起各方關注。
2023年7月10日，國家互聯網信息辦公室、國家發展和改革委員會等七部門聯合發布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行。出臺《辦法》，既是促進生成式人工智能健康發展的重要要求，也是防范生成式人工智能服務風險的現實需要。
隨著大模型應用越來越多，安全漏洞也在不斷增加。蕭子豪表示，人工智能有三個維度的風險：首先是算法本身；其次是數據泄露；第三是應用的問題。確保算法安全、數據安全，以及在應用中進行防御和檢測，變得尤為重要。
同樣重要的還有，在人工智能逐漸成為人們生活和工作中不可或缺的部分之際，防止AI技術濫用。
“為防止AI技術濫用，所有的人工智能軟件上線之前，都要通過嚴格的審查，才能安全上線；上線之后，相關機構也要對其運行情況進行不定時審查?！笔捵雍栏嬖V《瞭望東方周刊》，目前，我國正在推進審查工作。
事實上，關于如何確保人工智能技術的健康發展和應用，眾多企業、研究機構以及監管者也在努力探索解決方案。
清華大學人工智能國際治理研究院副院長梁正表示，對公司來講，最佳解決方案是在產品上標注“識別標記”，比如數字水印，核心是對平臺產生的內容做標注——首先，可以識別這條內容是人工智能生成的、并不是人類創作的；其次，可以識別這條內容是在哪個平臺生成的，由哪個用戶生成并傳播出去的。這樣，有清晰的追溯鏈條，就能更清晰地定義責任人。
據介紹，目前，OpenAI已經這樣做了，推出了AI識別的工具。
中國互聯網協會監管支撐部主任郝智超建議，人工智能技術發展需要相關法律法規來劃紅線、踩剎車，需要進一步加強對個人隱私數據泄露問題的關注，明確信息監管紅線，對人工智能技術的研發、傳播、使用做到有規可循，并根據技術發展實際情況，及時完善對技術服務商行為的規范引導。
“技術是一把雙刃劍。如何控制技術向善除惡，是一個需要不斷學習的課題?！笔捵雍勒f。
（本刊實習生傅熙雯對此文亦有貢獻）
猜你喜歡我校新增“人工智能”本科專業 西安航空學院學報(2022年2期)2022-07-04 07:45:42用“小AI”解決人工智能的“大”煩惱 汽車零部件(2020年3期)2020-03-27 05:30:20當人工智能遇見再制造 表面工程與再制造(2019年1期)2019-05-11 08:52:042019：人工智能 商界(2019年12期)2019-01-03 06:59:05AI人工智能解疑答問 家庭影院技術(2018年9期)2018-11-02 05:31:34人工智能與就業 IT經理世界(2018年20期)2018-10-24 02:38:24基于人工智能的電力系統自動化控制 通信電源技術(2018年3期)2018-06-26 06:33:30人工智能，來了 軍營文化天地(2018年1期)2018-02-10 05:19:25數讀人工智能 小康(2017年16期)2017-06-07 09:00:59人工智能來了 學與玩(2017年12期)2017-02-16 06:51:12
