美國(guó)人工智能犯罪趨勢(shì)與防范

The U.S.’s Prevention of AI Crime

近年來(lái)，以ChatGPT為代表的基于互聯(lián)網(wǎng)的生成式人工智能（指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)）工具迅速發(fā)展，很多此前需要昂貴硬件設(shè)施和大量資源的工作，如今普通人在個(gè)人電腦和移動(dòng)終端上即可簡(jiǎn)單且迅速地完成，新型生成式人工智能工具的強(qiáng)大能力，及其前所未有的便利性和普及性，引起社會(huì)各界對(duì)于其被犯罪分子利用的廣泛擔(dān)憂。美國(guó)是目前全世界首屈一指的人工智能強(qiáng)國(guó)，面臨的人工智能犯罪風(fēng)險(xiǎn)也最為嚴(yán)峻，據(jù)路透社近期的一項(xiàng)調(diào)查顯示，61%的美國(guó)受訪者認(rèn)為人工智能的快速發(fā)展可能“危及人類的未來(lái)”。有鑒于此，美國(guó)政府和學(xué)界自2010年代末以來(lái)加強(qiáng)了對(duì)人工智能犯罪的發(fā)展趨勢(shì)及應(yīng)對(duì)措施的研究。

一、人工智能犯罪的主要類型

美國(guó)主流觀點(diǎn)認(rèn)為，人工智能犯罪總體上可分為兩大類型：其一是將人工智能工具直接作為犯罪的工具或手段；二是通過(guò)攻擊政府或企業(yè)使用的人工智能系統(tǒng)達(dá)到犯罪目的。

對(duì)于將人工智能工具直接用于犯罪，目前最具威脅性的技術(shù)被稱為“深度偽造”（Deepfake）。“深度偽造”是指通過(guò)機(jī)器學(xué)習(xí)方法，使用人工智能工具生成具有極高仿真度的圖片、音視頻、敘事文本等虛假作品。美國(guó)各界最為關(guān)注的是利用“深度偽造”實(shí)施網(wǎng)絡(luò)詐騙、生產(chǎn)違法色情產(chǎn)品和制作政治性假新聞。

面向公眾的網(wǎng)絡(luò)詐騙犯罪在美國(guó)也被稱為“網(wǎng)絡(luò)釣魚”，早期犯罪分子通過(guò)大量散發(fā)包含有欺詐性內(nèi)容及有害鏈接的電子郵件和短信息，指望能“篩選”出少數(shù)受害者。由于文本內(nèi)容缺乏針對(duì)性，犯罪分子知識(shí)水平有限，此類騙術(shù)往往能被輕易識(shí)破，或被安全系統(tǒng)自動(dòng)識(shí)別攔截。但利用ChatGPT等生成式人工智能工具，僅需少量提示就可以編輯出文法正確流暢、符合特定文化背景、敘事邏輯完善的虛假文本，可幫助犯罪分子偽造天衣無(wú)縫的假身份或虛構(gòu)極具說(shuō)服力的故事情節(jié)，應(yīng)用于情感欺詐、投資欺詐、偽裝政府人員等不同場(chǎng)景。如果再利用遭泄露的個(gè)人信息，以虛假音視頻和圖片配合文本，則可以實(shí)施針對(duì)特定目標(biāo)的網(wǎng)絡(luò)詐騙即所謂“魚叉式網(wǎng)絡(luò)釣魚”。

制作、傳播、營(yíng)銷甚至閱覽、下載、保存違背當(dāng)事人意愿，以傷害他人為目的，以及含有任何未成年人內(nèi)容的色情產(chǎn)品，在美國(guó)均屬于違法犯罪。自2017年以來(lái)，不法分子出于獵奇、情感報(bào)復(fù)、家庭暴力、校園及職場(chǎng)霸凌、滿足個(gè)人欲望、獲取經(jīng)濟(jì)利益等目的，利用生成式人工智能工具，將通過(guò)合法或非法途徑獲取的圖片、視頻中非自愿、不知情或未成年受害者的形象加以修改，或?qū)⑵涿嫒荨凹藿印钡缴閳D片和視頻上，或進(jìn)行加入血腥暴力內(nèi)容等更復(fù)雜的“合成”，并將成品存儲(chǔ)在個(gè)人電子設(shè)備或進(jìn)行網(wǎng)絡(luò)傳播的違法犯罪行為開始大規(guī)模出現(xiàn)，特別是未成年人、影視明星、網(wǎng)絡(luò)“大V”和知名政治人物成為典型的受害者。截至2020年，國(guó)際互聯(lián)網(wǎng)上大約95%以上的“深度偽造”內(nèi)容都是色情內(nèi)容。

自2016年美國(guó)大選以來(lái)，利益集團(tuán)制作、傳播政治性虛假新聞以實(shí)現(xiàn)操縱輿論、煽動(dòng)民意之目的的現(xiàn)象受到美國(guó)各界的廣泛關(guān)注。自2018年以來(lái)，利用“深度偽造”技術(shù)，虛假圖片和視頻內(nèi)容的加入使虛假新聞的效果進(jìn)一步提升。這些虛假新聞中有一些是出于諷刺、宣傳目的，其內(nèi)容較為夸張或明確注明是人為編造，并非要使受眾信以為真，其影響較為可控；但由于網(wǎng)絡(luò)媒體的匿名化和“鏈?zhǔn)椒磻?yīng)”式的信息傳播方式，越來(lái)越多的旨在混淆視聽、顛倒黑白的虛假新聞在互聯(lián)網(wǎng)上病毒式傳播，特別是每當(dāng)重大政治事件發(fā)生時(shí)出現(xiàn)爆發(fā)性增長(zhǎng)，對(duì)社交媒體大面積覆蓋，挑動(dòng)社會(huì)矛盾，政府和平臺(tái)難以篩查攔截，而事后辟謠也對(duì)已造成的社會(huì)影響無(wú)能為力。目前已有大量網(wǎng)站或新媒體賬戶專門發(fā)布虛假新聞。2023年5月，專門揭露虛假新聞的“新聞衛(wèi)士”（NewsGuard）公司確定了125家網(wǎng)站的內(nèi)容全部或大部分為虛假新聞。此外，人工智能也被用于充當(dāng)“水軍”，發(fā)布評(píng)論或參與網(wǎng)絡(luò)調(diào)查。對(duì)于制作、傳播虛假新聞在“言論自由”和違法犯罪中的界定，美國(guó)各界對(duì)此尚有較大分歧，但對(duì)此類行為的嚴(yán)重社會(huì)影響和潛在危害性已予以高度重視。

當(dāng)然，利用生成式人工智能工具的違法犯罪活動(dòng)遠(yuǎn)不止此，如2023年8月，一位美國(guó)作家竟然在亞馬遜線上書店發(fā)現(xiàn)一部盜用其名義，內(nèi)容完全由人工智能工具生成的“偽書”正在發(fā)售中。又如“黑客”利用人工智能編寫難以被識(shí)別且能更好利用系統(tǒng)漏洞的惡意軟件實(shí)施破壞或勒索（一類惡意軟件可停止其所感染的計(jì)算機(jī)系統(tǒng)的全部功能，直至受害者繳納“贖金”）——IBM公司在2018年出于檢測(cè)網(wǎng)絡(luò)安全目的而開發(fā)的DeepLocker軟件展示了這種可能性。

至于針對(duì)人工智能系統(tǒng)本身的犯罪行為，其主要手段是通過(guò)將虛假或惡意信息注入以機(jī)器學(xué)習(xí)方法“訓(xùn)練”人工智能系統(tǒng)時(shí)所用的數(shù)據(jù)中，以降低人工智能系統(tǒng)的效能，或引導(dǎo)其產(chǎn)生開發(fā)者和運(yùn)營(yíng)者意料之外的有害效果。2016年，微軟發(fā)布了網(wǎng)絡(luò)智能聊天機(jī)器人Tay（可視為ChatGPT等應(yīng)用的前身），一些推特（2023年7月更名為X）賬號(hào)利用Tay的“訓(xùn)練”方法，短時(shí)間內(nèi)在推特上發(fā)布大量攻擊性內(nèi)容，并誘導(dǎo)微軟為Tay在推特設(shè)立的賬號(hào)重復(fù)這些內(nèi)容，導(dǎo)致Tay“養(yǎng)成”了攻擊性的對(duì)話習(xí)慣，迫使微軟暫停了該賬號(hào)。這只是在生成式人工智能發(fā)展早期，由業(yè)余人員出于獵奇目的針對(duì)缺乏實(shí)用價(jià)值的人工智能應(yīng)用發(fā)起的實(shí)質(zhì)影響較小的攻擊。然而，當(dāng)前人工智能系統(tǒng)已在社會(huì)生活中得到廣泛應(yīng)用，例如，基于機(jī)器學(xué)習(xí)的汽車智能無(wú)人駕駛系統(tǒng)，如果不法分子對(duì)用于“訓(xùn)練”該系統(tǒng)的數(shù)據(jù)進(jìn)行“污染”或針對(duì)性“篡改”，可能導(dǎo)致大量運(yùn)行中車輛的自動(dòng)駕駛系統(tǒng)失靈或?qū)μ囟ㄇ闆r作出錯(cuò)誤反應(yīng)，甚至可能會(huì)被用于實(shí)施破壞、暗殺或大規(guī)模恐怖襲擊。還有一類針對(duì)人工智能系統(tǒng)本身的犯罪行為是通過(guò)“黑客”手段或應(yīng)用端的特殊操作，將此前“訓(xùn)練”人工智能工具所使用的海量數(shù)據(jù)“還原”，從中獲取含有個(gè)人隱私、商業(yè)秘密或其他關(guān)系社會(huì)安全的敏感信息，將其非法出售或用于實(shí)行針對(duì)特定目標(biāo)的犯罪，研究認(rèn)為諸如人臉識(shí)別等人工智能應(yīng)用的數(shù)據(jù)面臨此類風(fēng)險(xiǎn)最高。

二、人工智能犯罪的表現(xiàn)和危害

2022年，美國(guó)電信網(wǎng)絡(luò)詐騙犯罪報(bào)案數(shù)為800944起，相比2021年下降約5%，但造成的潛在經(jīng)濟(jì)損失則從69億美元大幅增長(zhǎng)到102億美元，犯罪分子對(duì)人工智能的利用是詐騙“精準(zhǔn)性”與成功率上升的重要因素。2023年4月，犯罪分子利用“深度偽造”技術(shù)生成的虛假音頻，成功使亞利桑那州的一位女士相信她的女兒遭到綁架，并勒索到100萬(wàn)美元贖金。業(yè)內(nèi)專家表示，目前的普及型人工智能應(yīng)用只需使用時(shí)長(zhǎng)數(shù)秒到十幾秒的語(yǔ)音素材進(jìn)行“訓(xùn)練”，就足以生成以假亂真的短時(shí)間虛假音頻。實(shí)際上早在新冠疫情時(shí)期，很多犯罪分子就利用企業(yè)普遍進(jìn)行線上會(huì)議的機(jī)會(huì)，使用虛假的圖片和音視頻實(shí)施詐騙，但受當(dāng)時(shí)技術(shù)所限其質(zhì)量比較低下，以至于犯罪分子還需要用諸如網(wǎng)絡(luò)延遲等借口增強(qiáng)其說(shuō)服力，但當(dāng)前生成式人工智能的技術(shù)水平幾乎每半年就會(huì)有大幅提升。2023年7月，ChatGPT的插件“代碼解釋器”（Code Interpreter）全面部署，該插件可以幫助不掌握機(jī)器語(yǔ)言的一般公眾在對(duì)話界面使用自然語(yǔ)言命令ChatGPT執(zhí)行基于“Python語(yǔ)言”（一種常用的機(jī)器語(yǔ)言）的編程操作，美國(guó)咨詢公司“人工智能領(lǐng)導(dǎo)者”（AI Leader）的首席人工智能策略師莉莎·帕爾默警告稱，犯罪分子利用該插件強(qiáng)大的數(shù)據(jù)分析能力，可以在幾分鐘內(nèi)從海量數(shù)據(jù)中獲取其篩選受害者、偽造虛假身份、編寫詐騙文本所需要的信息，甚至直接完成這些工作。這一趨勢(shì)如果與近年來(lái)頻發(fā)的大規(guī)模數(shù)據(jù)泄露事件聯(lián)系起來(lái)——如2021年求職網(wǎng)絡(luò)巨頭領(lǐng)英（LinkedIn）泄露7億條用戶數(shù)據(jù)，2019年社交媒體巨頭臉書（Facebook）泄露5.33億條用戶數(shù)據(jù)，且這些數(shù)據(jù)都在互聯(lián)網(wǎng)上以低廉的價(jià)格公開售賣——未來(lái)電信網(wǎng)絡(luò)詐騙犯罪的威脅無(wú)疑令人擔(dān)憂。

濫用“深度偽造”技術(shù)導(dǎo)致的非法網(wǎng)絡(luò)色情內(nèi)容泛濫在美國(guó)不僅令執(zhí)法部門憂慮，甚至引起了廣泛的社會(huì)恐慌。2010年代末以來(lái)已有眾多可根據(jù)用戶喜好，根據(jù)給出的照片或圖畫，或者使用者的命令，生成多種類型寫實(shí)或卡通風(fēng)格虛假圖片的網(wǎng)絡(luò)人工智能應(yīng)用在運(yùn)營(yíng)中，其中一些或明或暗地以色情為賣點(diǎn)。美國(guó)《麻省理工學(xué)院技術(shù)評(píng)論》2022年底的一篇文章對(duì)熱門應(yīng)用Lensa AI進(jìn)行了評(píng)測(cè)，發(fā)現(xiàn)其在使用者并未作出明確命令的情況下生成了大量“裸體或帶有明顯色情特征”的圖片。目前，在互聯(lián)網(wǎng)上傳播的大多數(shù)“深度偽造”色情內(nèi)容都是以英美女性影視明星為“主角”，其中絕大多數(shù)都是未經(jīng)當(dāng)事人同意的非法作品。然而更令人擔(dān)憂的受害者是未成年人。美國(guó)1996年出臺(tái)的《兒童色情預(yù)防法案》包含有禁止“虛擬兒童色情”的內(nèi)容，但其中對(duì)“虛擬兒童色情”進(jìn)行較寬泛解釋的條款在2018年因違憲起訴而遭廢除。2023年11月，美國(guó)北卡羅來(lái)納州的兒童精神病專家戴維·塔圖姆因使用秘密錄制的、包含裸露內(nèi)容的真實(shí)兒童影像素材，利用“深度偽造”技術(shù)制作兒童色情圖片和視頻而被判處40年監(jiān)禁，但對(duì)于制作和傳播更加“虛擬”的兒童色情內(nèi)容的行為仍然難以懲罰。2023年9月，全美50個(gè)州的檢察官發(fā)表公開信敦促國(guó)會(huì)采取立法行動(dòng)加強(qiáng)對(duì)制作和傳播“深度偽造”兒童色情內(nèi)容行為進(jìn)行制裁，他們呼吁：“我們正在與時(shí)間賽跑，以保護(hù)我們國(guó)家的兒童免受人工智能的威脅。眾所周知，防線已被攻破，現(xiàn)在必須采取行動(dòng)了。”美國(guó)南卡羅來(lái)納州總檢察長(zhǎng)艾倫·威爾遜表示，現(xiàn)有法律難以制裁利用合法取得的兒童肖像制作“深度偽造”色情內(nèi)容的行為，更無(wú)法管控“完全虛構(gòu)”但足夠擬真的數(shù)字兒童色情內(nèi)容。

美國(guó)政府認(rèn)為，“深度偽造”假新聞和其他用于操縱輿論的人工智能技術(shù)，已對(duì)該國(guó)政治體制造成根本性威脅。美國(guó)前總統(tǒng)奧巴馬、特朗普，眾議院前議長(zhǎng)佩洛西等知名政治人物均已成為虛假新聞的“素材”，并引發(fā)輿論風(fēng)潮。2023年4月，美國(guó)政治顧問(wèn)協(xié)會(huì)（美國(guó)政治家組織，民主黨和共和黨在董事會(huì)各占一半名額）董事會(huì)一致譴責(zé)利用“深度偽造”假新聞?dòng)绊戇x舉的行為，表示“盡管幾十年來(lái)公眾對(duì)政治組織及其活動(dòng)的信任已經(jīng)動(dòng)搖，但‘深度偽造’虛假內(nèi)容對(duì)美國(guó)的民主構(gòu)成了截然不同的威脅”，認(rèn)為包含“深度偽造”內(nèi)容的政治廣告不屬于“言論自由”的范疇，不能被視為諷刺和宣傳，而是惡意的欺騙，主張所有媒體、平臺(tái)都應(yīng)該拒絕發(fā)布此類政治廣告。美國(guó)專家認(rèn)為新技術(shù)賦能，未來(lái)“深度偽造”假新聞不只限于傳統(tǒng)意義的媒體報(bào)道，可能出現(xiàn)如利用候選人的虛假音視頻信息誤導(dǎo)選民錯(cuò)誤投票、傳播仇恨言論、發(fā)布退出選舉的假聲明，甚至向選民發(fā)送來(lái)自其喜愛的名人的虛假通信，勸導(dǎo)其為特定候選人投票等更具破壞性的行為。在特定情況下，經(jīng)過(guò)精心籌劃，大量虛構(gòu)的戰(zhàn)爭(zhēng)、災(zāi)難、丑聞新聞可能以不同形式在同一時(shí)間聯(lián)動(dòng)推出，短時(shí)間內(nèi)“淹沒(méi)”公眾的信息源，可能直接導(dǎo)致社會(huì)動(dòng)亂。美國(guó)政界人士普遍認(rèn)為，2024年總統(tǒng)選舉將面臨來(lái)自“深度偽造”的嚴(yán)峻威脅。

就針對(duì)人工智能系統(tǒng)本身的犯罪行為而言，美國(guó)方面最擔(dān)憂犯罪分子將配備自動(dòng)駕駛技術(shù)的汽車作為“武器”。早在21世紀(jì)10年代初，高等級(jí)汽車自動(dòng)駕駛技術(shù)剛剛開始實(shí)驗(yàn)時(shí)，聯(lián)邦調(diào)查局就在憂慮道路上正在行駛的汽車突然被“黑客”控制可能導(dǎo)致的可怕場(chǎng)景，并在呈交參議院的報(bào)告中要求汽車制造商排除這種危險(xiǎn)，此后，美西方國(guó)家發(fā)生了多起通過(guò)汽車沖撞實(shí)施的恐怖襲擊并導(dǎo)致大量人員傷亡，進(jìn)一步加劇了此類憂慮。《華爾街日?qǐng)?bào)》設(shè)想了“黑客”攻擊汽車自動(dòng)駕駛系統(tǒng)的多種犯罪場(chǎng)景，如將駕駛員鎖在車中并勒索贖金。紐約大學(xué)研究人員的實(shí)驗(yàn)證明，犯罪分子可以對(duì)自動(dòng)駕駛系統(tǒng)進(jìn)行惡意“訓(xùn)練”，使其在一般情況下表現(xiàn)正常，但可被“訓(xùn)練”時(shí)預(yù)先定義的“觸發(fā)器”激活反常行為。例如，自動(dòng)駕駛汽車平時(shí)可以正常識(shí)別停車標(biāo)志并制動(dòng)，但如果在該標(biāo)志上貼一張黃色便簽紙并被汽車“看”到，則加速行駛并鎖定方向盤。目前在美國(guó)，特斯拉、福特等廠商已獲準(zhǔn)開放了允許駕駛員在公共道路上“放開方向盤”的自動(dòng)駕駛服務(wù)，盡管還沒(méi)有實(shí)質(zhì)性證據(jù)，但一些在使用自動(dòng)駕駛功能時(shí)發(fā)生的傷亡事故已引起社會(huì)上關(guān)于人工智能犯罪的討論。除此之外，美國(guó)證券交易商普遍利用人工智能系統(tǒng)輔助決策帶來(lái)了潛在的安全風(fēng)險(xiǎn)。早在2010年，交易員納文德·辛格·薩勞使用簡(jiǎn)單的自動(dòng)化程序，利用時(shí)間差進(jìn)行投機(jī)交易導(dǎo)致美國(guó)股市戲劇性崩盤。納斯達(dá)克前副主席表示，人工智能系統(tǒng)的應(yīng)用“創(chuàng)造了一個(gè)對(duì)人類而言變化太快的證券市場(chǎng)”，監(jiān)管機(jī)構(gòu)認(rèn)為如果這些系統(tǒng)發(fā)生技術(shù)故障或被犯罪分子“劫持”，事態(tài)將在幾秒鐘內(nèi)失控，交易商根本來(lái)不及作出反應(yīng)。

三、對(duì)人工智能犯罪的綜合防范措施

其一是立法控制。在聯(lián)邦層面，美國(guó)于2018年出臺(tái)《禁止惡意“深度偽造”法案》，規(guī)定對(duì)制作“深度偽造”內(nèi)容引發(fā)犯罪和侵權(quán)行為的個(gè)人，以及明知內(nèi)容為“深度偽造”還繼續(xù)分發(fā)的社交媒體平臺(tái)，可處以罰款和最高兩年的監(jiān)禁。如果偽造內(nèi)容煽動(dòng)暴力、擾亂政府或選舉，并造成嚴(yán)重后果，可處最高10年監(jiān)禁。但這部法律被認(rèn)為過(guò)多強(qiáng)調(diào)行為人的動(dòng)機(jī)，對(duì)后果考慮不足，影響了控制力度。2019年，美國(guó)出臺(tái)《“深度偽造”責(zé)任法案》要求任何創(chuàng)建“深度偽造”視頻文件的人，必須用“不可刪除的數(shù)字水印以及文本描述”來(lái)說(shuō)明該文件是篡改或生成的，否則將屬于犯罪行為；而《“深度偽造”報(bào)告法案》，明確了“數(shù)字內(nèi)容偽造”的定義，將國(guó)土安全部作為主管協(xié)調(diào)部門，要求其定期發(fā)布“深度偽造”技術(shù)相關(guān)報(bào)告，全面參與“深度偽造”技術(shù)研究。2022年，美國(guó)參議院國(guó)土安全和政府事務(wù)委員會(huì)提交了《“深度偽造”特別工作組法案》，要求設(shè)立“國(guó)家‘深度偽造’和數(shù)字生產(chǎn)工作組”。在州層面則進(jìn)行了更多、更具體的相關(guān)立法。如2019年，得克薩斯州出臺(tái)了《關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》，將制作“深度偽造”視頻等企圖干擾選舉的行為定義為刑事犯罪；弗吉尼亞州頒布了一項(xiàng)反“色情復(fù)仇”（指出于報(bào)復(fù)他人的目的制作、傳播包含其形象的非法色情內(nèi)容）修正法案，將“制作、傳播虛假的裸體或性視頻或圖像”以脅迫、騷擾或恐嚇?biāo)说男袨檎J(rèn)定為刑事犯罪，違法者將面臨最高12個(gè)月的監(jiān)禁和2500美元的罰款；加利福尼亞州則出臺(tái)法案禁止制作可能對(duì)處于60天選舉期內(nèi)的候選人產(chǎn)生負(fù)面影響的“深度偽造”音視頻內(nèi)容。與防范人工智能犯罪相關(guān)的其他重要法律則有2019年出臺(tái)的《隱私權(quán)利法案》等，該法明確定義了個(gè)人數(shù)據(jù)，還要求聯(lián)邦貿(mào)易委員會(huì)出臺(tái)立法，賦予個(gè)人若干權(quán)利，包括：接收關(guān)于數(shù)據(jù)控制者收集、使用、存儲(chǔ)和共享其個(gè)人數(shù)據(jù)通知的權(quán)利；被收集和使用個(gè)人信息時(shí)的選擇加入權(quán)；訪問(wèn)個(gè)人數(shù)據(jù)處理活動(dòng)有關(guān)細(xì)節(jié)的權(quán)利；訪問(wèn)可攜式電子表中個(gè)人數(shù)據(jù)的權(quán)利；糾正不準(zhǔn)確的個(gè)人數(shù)據(jù)的權(quán)利；要求刪除個(gè)人數(shù)據(jù)的權(quán)利等。

其二是行業(yè)自律。面對(duì)美國(guó)政府越來(lái)越嚴(yán)格的立法限制，以及社會(huì)輿論壓力，生成式人工智能工具的開發(fā)商也在采取技術(shù)措施防范自家產(chǎn)品被用于犯罪或不道德的目的，并努力形成共同遵守的行業(yè)規(guī)范。如ChatGPT可識(shí)別出用戶的指令或提示可能出于詐騙、兒童色情、虛假宣傳等目的，并拒絕作出回應(yīng)。但目前此類技術(shù)措施并不保險(xiǎn)。如2022年以來(lái)廣為流行的人工智能繪畫軟件“穩(wěn)定擴(kuò)散”（Stable Diffusion），被一些用戶“開發(fā)”出生成裸體和色情內(nèi)容的“功能”，并因此成為最受兒童色情內(nèi)容制作者喜愛的軟件，開發(fā)商緊急加入了過(guò)濾不安全和不適當(dāng)內(nèi)容的功能，但用戶可通過(guò)使用未升級(jí)的舊版本簡(jiǎn)單地繞過(guò)這一限制。ChatGPT也被發(fā)現(xiàn)可通過(guò)一定的命令及提示技巧繞過(guò)其安全措施，已令開發(fā)商防不勝防。更有甚者，由不法分子仿照ChatGPT開發(fā)，但取消了安全措施，甚至專門為實(shí)施詐騙、編寫惡意軟件等犯罪目的進(jìn)行優(yōu)化的生成式人工智能工具FraudGPT從2023年7月開始廣泛傳播，而同類工具還有WormGPT等。

其三是公眾教育。美國(guó)政府和學(xué)界正在努力通過(guò)宣傳和教育使公眾能更好適應(yīng)人工智能帶來(lái)的社會(huì)變革和潛在風(fēng)險(xiǎn)，特別是在面對(duì)“深度偽造”政治性虛假新聞等威脅的時(shí)候。在西方國(guó)家中，芬蘭被視為在這方面工作較為成功的典型，其經(jīng)驗(yàn)在于鼓勵(lì)民眾有組織地在網(wǎng)絡(luò)平臺(tái)上揭發(fā)并抵制生產(chǎn)虛假新聞的賬戶，并對(duì)轉(zhuǎn)發(fā)的媒體施加壓力以促使其加強(qiáng)自我約束；將培養(yǎng)識(shí)別虛假新聞技能的課程引入學(xué)校和成人教育機(jī)構(gòu)；加強(qiáng)對(duì)青少年的思想政治教育等。不過(guò)，僅有550萬(wàn)人口且高度同質(zhì)化，具有歐洲知名的全民閱讀傳統(tǒng)的芬蘭的經(jīng)驗(yàn)，可能并不適用于社會(huì)嚴(yán)重撕裂、居民受教育程度兩極分化的美國(guó)。畢竟很多時(shí)候，虛假新聞并不需要受眾完全信服其所捏造的事實(shí)，而只需要迎合受眾的偏激情緒、強(qiáng)化其既有立場(chǎng)即可達(dá)到目的，正如過(guò)去幾十年來(lái)美國(guó)在他國(guó)煽動(dòng)“顏色革命”時(shí)的策略一樣。如今同樣的伎倆在美國(guó)被引以為傲的人工智能技術(shù)賦能，被其國(guó)內(nèi)利益集團(tuán)出于內(nèi)部斗爭(zhēng)的需要而加諸己身，可謂是一杯不得不品嘗的苦酒。