人工智能，蒙眼狂奔

馬冬

“10分鐘被騙430萬”“9秒鐘被騙走245萬元”“楊冪走進小商家直播間”“互聯網大佬虛擬人真假難辨”……

作為普通人，我們往往是技術變革大潮里的一朵朵浪花，面對迭代速度超乎想象的AI技術，有的人正在被AI（人工智能）替代，失去工作崗位；有的人正琢磨利用AI工具掘金，為人生逆襲創造可能。

而騙子已經高效地利用了Al，侵入人際關系，用技術加持扮作你的親友熟人，騙走你的錢財。

大模型火爆了3個月之后，比之更火爆的，是動輒百萬的詐騙金額、虛假“明星臉”、真假難辨的AI生成內容、多次抵抗AI覺醒的聯名上書，連續一周的熱搜……讓人們意識到，比發展AI更重要的，是保障AI安全。

如同航空火箭正式發射之前必須要經過不斷驗證和試錯，技術進步和發展中，騙子的出現也是AI發展中重要的一環。

你的臉，值430萬元

試想一下，有人將一張“貼紙”貼在面部，就可以使人臉識別門禁系統誤認為是你，從而輕易打開你家大門；同樣是這張“貼紙”，把它貼在眼鏡上，就可以1秒解鎖你的手機人臉識別，探取隱私如入無人之境。

技術改變了生活，也改變了詐騙。

4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯系到他。兩人經過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。

好友向郭先生要了銀行卡號，聲稱已經把錢打到郭先生的賬戶上，還把銀行轉賬底單的截圖通過微信發給了郭先生。

基于視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉到后，郭先生給好友微信發了一條消息，稱事情已經辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。

郭先生撥打好友電話，對方說沒有這回事，他這才意識到可能遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

“從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉過去，而且當時是給我打了視頻的，我在視頻中也確認了面孔和聲音，所以才放松了戒備。”郭先生說。

在多方全力協助下，用時10分鐘，將該詐騙賬戶內的336.84萬元被騙資金成功攔截。但剩余款項93.16萬元至今未果。

不過，雖說是看上去離譜的小概率事件，但據相關統計，AI技術新騙局來襲后，詐騙成功率竟接近100%。

而在這起案件背后，核心涉及了AI換臉以及語音合成這2個技術。

大眾所熟知的AI換臉方面，現在即便一張2D照片，就能讓口型動起來。據了解，合成一個動態視頻，成本也僅在2元至10元。

當時涉案嫌疑人表示：“客戶”往往是成百上千購買，牟利空間巨大。

至于面向更精準、更實時的大型直播平臺，視頻實時換臉的全套模型購買價格在3.5萬元，而且不存在延遲，也不會有 Bug（漏洞）。

至于語音合成方面，技術效果也是越來越逼真，新模型和開源項目涌現。

前段時間，微軟新模型VALL·E炸場學術圈：只需3秒，就可以復制任何人的聲音，甚至連環境背景音都能模仿。

而具備語音合成功能的工具Bark，更是曾登頂GitHub（開源代碼托管平臺）榜首，除了音色接近真人，還能加入背景噪音和高度擬真的笑聲、嘆息和哭泣聲等。

在各類社交網絡上，各種小白教程也層出不窮。要是結合虛擬攝像頭，可能就更加防不勝防。只需一個軟件應用程序，就可以在視頻通話中使用任意視頻資源。

點擊接通后，對方完全不會看到播放、暫停視頻等具體操作，只會看到視頻播放的效果，“接通后看到的就是美女了”。這樣一來，不僅視頻可以通過虛擬攝像頭，隨意拍攝甚至更換，甚至連說話方式都可以真人定制。核心技術門檻的降低，也就給了犯罪分子可乘之機。

孫燕姿PK“AI孫燕姿”

“AI已經從實驗室走到了工程化時代，而且比預想中更快。”某行業從業者無限感慨。

從語音識別，到今天遍地開花的人工智能應用場景，AI歷經多年發展，結出累累碩果。

在普通人為深度偽造技術加持的詐騙行為而提心吊膽之時，這陣AI的風也吹到了公眾人物身上。

“AI孫燕姿”走紅全網。相較于真人孫燕姿，AI孫燕姿擁有幾可亂真的唱腔，還能“翻唱”任意其他歌手的歌曲，因此在B站、YouTube等平臺熱度不減，最后甚至驚動了孫燕姿本尊。

后者在5月22日晚上親自發出長文回應，其中寫道“之前我們一直堅信，思想或觀點的形成是機器無法復制的任務，這超出了它們的能力范圍，但現在它卻赫然聳現并將威脅到成千上萬個由人類創造的工作”。

在海量的AI視頻面前，她認為“人類無法超越它已經指日可待”，表示“我認為思想純凈、做自己，已然足夠”。

在視頻網站上搜索“AI孫燕姿”，不僅能看到成百上千的翻唱作品，還能看到制作教程。經過學習，每一個人都能擁有自己的定制歌手。在人工智能龐大的運算能力面前，從業23年的金牌歌手也會感到挫敗，“你并不特別，你已經是可預測的，而且不幸的是，你也是可定制的”。

感到挫敗的遠不止孫燕姿一人。

隨著人工智能的飛速發展，網友正見證著人類引以為傲的智力勞動和藝術創作領域被AI“入侵”。人類輸掉的不僅是速度與數量，還有質量。

在這個意義上，孫燕姿和“AI孫燕姿”的較量，背后是整個人類與AI的較量。這種較量具體而言，首先是一種身份的爭奪。在“AI孫燕姿”面前，我們忽然發現，曾經自認為專屬的、代表個人身份特征的聲音、面容等標識，已另有“分身”；曾經自認為獨有的歌唱、表達能力，似乎也可以被運算、模擬、定制。

從生產力強弱上來看，或許孫燕姿與“AI孫燕姿”的較量勝負已定。正如孫燕姿自嘲“你跟一個每幾分鐘就推出一張新專輯的人還有什么好爭的”。

但從身份的歸屬看，“AI孫燕姿”依然從屬于孫燕姿。是孫燕姿聽眾的需求創造了“AI孫燕姿”，是孫燕姿的聲音與唱腔教會了“AI孫燕姿”，是孫燕姿的影響力帶火了“AI孫燕姿”。

身份的爭奪，不是孫燕姿與“AI孫燕姿”的單挑。人類的情感，驅使AI去當撫慰人心的歌手；而人類的欲望，則可能會驅使AI去當不法分子的同謀。除了身份的爭奪，關于“AI孫燕姿”的作品也有侵權之嫌，今后版權歸屬問題不可回避。

或許正如有人評論的：“究竟AI是利大于弊，還是弊大于利，現在還難以斷定。唯一可以明確的是，AI的發展還在起步階段，帶給世界的震撼才剛剛開始。”

要命的AI

AI的發展速度讓外界始料未及，唱衰和警告的聲音也越來越多。

英國首相蘇納克針對AI安全性發出的一則警告：英國將帶頭限制AI可能帶來的危險。

馬斯克更極端。甚至把AI比作未來人類文明最大的風險之一，威脅程度遠高于車禍、飛機失事、毒品泛濫等，甚至比核武器都要危險得多。

這兩年談到電信詐騙就不得不提一句緬北，作為一塊事實上的“三不管”地區，緬甸北部聚攏了來自整個東南亞的“電詐精英”。無論是光明正大的在線招聘，還是同行介紹的暴富捷徑，只要一只腳踏進了緬北的圈子，那么迎接你的就是電詐一條龍式的“集中營”生活。可以說緬北的詐騙團伙已經做到了一條完整的產業鏈，除了壟斷了整個亞洲地區將近七成的詐騙案，甚至炮制了諸多讓人心驚膽寒的命案。

僅不完全統計，緬北直接從事“電詐”行業的人數高達10萬。

但規模如此宏壯，手段如此兇殘、業務如此熟練的緬北電詐集團也在2023年接軌了“新手段”——借由人工智能技術打造的“AI詐騙”。

它不僅可以做到人工費無限趨近于0，而且相比以往緬北大海撈針似的撒網式詐騙，AI詐騙的精準度和得手率簡直高得離譜。因為它可以1比1地刻畫任何人的面部動作和表達方式，甚至連嗓音的相似度都能做到95%以上。完全由AI算法生成的小視頻，和真人視頻電話的場景一模一樣。

如果一個跟你女兒音容笑貌完全一樣的人向你打來借錢電話你借不借？如果一個跟你母親長得一模一樣的人通過視頻電話告訴你她得了一場大病急需一筆住院費那你給還是不給？我相信大多數人都有可能中招，畢竟耳聽為虛，眼見為實，看得見聽得著的視頻通話還能造假不成？

結果很不幸，大量AI詐騙的受害者都是抱有這樣的心態而吃虧上當的。

AI技術仿佛在人類真正做好準備之前，就在一瞬間擁入了生活的方方面面，紅利和風險同時擺在了人們的面前。

哈利·波特中赫敏扮演者艾瑪的30秒換臉色情視頻，在各個平臺已經超過了上千萬次的播放量。（更離譜的是，這個視頻居然還是推廣AI換臉技術的App制作商投放的。）

2021年，王某因為被不法分子利用AI換臉技術合成不雅視頻而被敲詐了11萬元。

蘇州大學一名大學生多次通過惡意P圖、特效合成的手段在色情網站上傳播多位女性同學的色情內容。

隨著ChatGPT、Midjourney、Stable Diffusion這些劃時代的AI工具的誕生，利用AI技術進行犯罪的手段也開始變得越來越多，越來越高明。除了涉及應用，技術和法律層面的問題需要人們給予更多關注以外，在科技進步、信息發達的今天，年輕人“交往”的欲望越發強烈，并將這種訴求傾注在了線上。從另一個視角看，年輕人喜愛的線上熱鬧和時興的技術，不但沒拉近人與人之間的距離，反而將心推得更遠。你很難確定網線那頭是不是一只貓。

英國阿斯頓大學學者大衛·科林格里奇曾提出，這是一個探索未知的時代，一個充滿機遇和挑戰的時代，這同樣也是一個時刻被新物種顛覆的時代。

想要突破AI的“科林格里奇困境”，需要國際組織、國家機關、企業團體與個人聯合努力，攜手并進。

AI頻頻失控的當下，羅生門究竟會開向哪一邊，標準答案尚未浮現。不過，在社會高速公路上飛馳的AI，急停只會造成難以估量的損失，我們要做的，唯有認準方向，勇往直前。