利用AI造謠，“有圖”未必“有真相”

2025年1月7日，西藏自治區(qū)日喀則市定日縣發(fā)生6.8級地震。災(zāi)情牽動著國民的心，很多網(wǎng)友自發(fā)在社交媒體平臺上為災(zāi)民祈福。然而，與此同時，一些與地震災(zāi)情相關(guān)的虛假信息也在互聯(lián)網(wǎng)上開始傳播。其中，一張利用AI技術(shù)生成的圖片在社交媒體平臺廣泛傳播。

在這張圖片中，一個身穿彩色毛衣、頭戴彩色毛線帽的男孩幾乎全身都被壓在廢墟之下，他艱難地探出頭，黝黑明亮的眼睛里泛出淚光，顯得十分可憐、無助。在某短視頻平臺上，至少有10個以上的賬號發(fā)布了此圖片，并將此圖和西藏定日縣地震關(guān)聯(lián)。“這娃讓我哭一天。”“誰告訴我一下，這個寶寶還好嗎？”……不少網(wǎng)友將此圖片信以為真，并紛紛留言，表達關(guān)心。有的自媒體賬號憑借發(fā)布此圖片獲得了好幾萬的轉(zhuǎn)發(fā)、點贊和評論。然而，經(jīng)查證，此圖片是由AI工具合成。

如今，隨著AI技術(shù)的發(fā)展與成熟，在不少熱點事件中，人們總能看到一些人為了博取流量、獲得關(guān)注等，利用AI技術(shù)進行造謠。那么，利用AI技術(shù)造謠存在哪些法律問題？人們在上網(wǎng)時又該如何分辨利用AI技術(shù)生成的圖片、視頻？

“內(nèi)容由AI生成”的聲明不能成為“擋箭牌”

關(guān)于利用AI技術(shù)生成的圖片、視頻等“蹭”地震災(zāi)情熱度進行造謠的行為，北京周泰律師事務(wù)所律師張子航告訴《方圓》記者，此行為可能涉嫌違法。

張子航表示：“防震減災(zāi)法第29條規(guī)定，國家對地震預(yù)報意見實行統(tǒng)一發(fā)布制度。該法第52條規(guī)定，地震震情、災(zāi)情和抗震救災(zāi)等信息按照國務(wù)院有關(guān)規(guī)定實行歸口管理，統(tǒng)一、準確、及時發(fā)布。同時，防震減災(zāi)法第88條規(guī)定，違反本法規(guī)定，向社會散布地震預(yù)測意見、地震預(yù)報意見及其評審結(jié)果，或者在地震災(zāi)后過渡性安置、地震災(zāi)后恢復重建中擾亂社會秩序，構(gòu)成違反治安管理行為的，由公安機關(guān)依法給予處罰。”

張子航認為，利用AI生成的圖片、視頻等對地震災(zāi)情進行造謠者可能受到拘留等處罰。“按照治安管理處罰法第25條之規(guī)定，散布謠言、謊報險情、疫情、警情或者以其他方法故意擾亂公共秩序的，處五日以上十日以下拘留，可以并處500元以下罰款；情節(jié)較輕的，處五日以下拘留或者500元以下罰款。”

那么，如果一些自媒體博主發(fā)布的與災(zāi)情相關(guān)的AI造謠信息造成了較大的社會輿論和群體恐慌等，造謠者又該承擔哪些責任？張子航對此表示，編造虛假的災(zāi)情信息，情節(jié)嚴重的話，造謠者可能面臨刑事責任。“刑法專門規(guī)定了?編造、故意傳播虛假信息罪?。編造虛假的險情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息而故意傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑。”

《方圓》記者調(diào)查發(fā)現(xiàn)，一些自媒體博主在發(fā)布這張AI生成“埋在廢墟下的男孩”圖片時，會在作品下方標注“內(nèi)容由AI生成”的作者聲明。那么，這樣的“作者聲明”真能為其免責嗎？

對此，張子航表示，在此情況下，內(nèi)容發(fā)布者仍然需要為AI生成的圖片造成的風險和問題承擔法律責任。“按照前述法條，地震災(zāi)情信息的發(fā)布，由國家統(tǒng)一部署，由國務(wù)院歸口管理、統(tǒng)一發(fā)布。自媒體博主根本沒有發(fā)布地震信息的權(quán)利，因此，不能因為其聲明此圖片由AI制作，即可免責。”

“同時，不光內(nèi)容發(fā)布者不能因簡單的作者聲明免責，作為信息載體的社交平臺如果未能盡到合理的審核和監(jiān)管義務(wù)，導致虛假AI圖片廣泛傳播，并造成嚴重的負面影響，監(jiān)管部門有權(quán)對發(fā)布平臺作出罰款、責令整改等形式的處罰。”張子航說。

AI造謠行為可能涉嫌尋釁滋事罪

利用AI技術(shù)造謠的信息為何容易在互聯(lián)網(wǎng)上引起廣泛關(guān)注？《方圓》記者調(diào)查發(fā)現(xiàn)，這與其技術(shù)成本低、產(chǎn)量大的特點息息相關(guān)。

2023年12月19日，有網(wǎng)民在今日頭條平臺發(fā)布“廣州即將成為全國首個限制外賣配送的城市”，該條信息迅速引發(fā)網(wǎng)民關(guān)注，并形成網(wǎng)絡(luò)熱搜。經(jīng)查實，該條信息是廣東江門網(wǎng)民葉某某等人員，使用AI工具生成的虛假信息。

而值得一提的是，這條謠言的火爆并非偶然。根據(jù)公安部發(fā)布的消息，葉某某等不法分子利用AI技術(shù)大量、快速地改寫熱門文章，批量發(fā)布虛假消息，累計發(fā)布引流圖文信息50余萬條，此條信息才最終“脫穎而出”，為其賺取了網(wǎng)絡(luò)平臺的流量和收益。目前，廣州公安機關(guān)已抓獲犯罪嫌疑人6名。此案也是公安部公布的打擊整治“網(wǎng)絡(luò)水軍”違法犯罪典型案例之一。

同時，“有圖有真相”也是利用AI技術(shù)制造的謠言更容易誤導公眾的原因之一。

近日，美國洛杉磯大火災(zāi)情也在互聯(lián)網(wǎng)上引起廣泛的關(guān)注。“燃燒中的好萊塢著名標志”圖片和視頻在社交媒體平臺上廣為流傳，不少人信以為真。經(jīng)查實，此圖片也是由AI技術(shù)生成的。

“就如同‘埋在廢墟下的孩子’和‘燃燒中的好萊塢’，與文字謠言相比，圖片、視頻謠言更為直觀，也更有沖擊力，一些不了解AI生成技術(shù)的公眾，難免會被AI生成的虛假圖片、視頻所誤導。”張子航表示，在AI技術(shù)流行的今日，“有圖”也未必“有真相”，“眼見”也未必“為實”。

生成虛假的圖片、視頻也是不法分子利用AI技術(shù)進行造謠的常用手段。在公安部發(fā)布的打擊整治“網(wǎng)絡(luò)水軍”違法犯罪典型案例中，有這樣一起案子，不法分子累計發(fā)布虛假的視頻、圖文達幾百萬條。山東棗莊公安機關(guān)網(wǎng)安部門查明，某傳媒公司購買了大量已實名登記的自媒體賬號，利用AI工具編造謠言信息并批量發(fā)布，累計發(fā)布視頻、圖文300余萬條。而不法分子利用AI技術(shù)造謠的目的，也同樣是為了吸引粉絲、獲得流量。目前，棗莊公安機關(guān)已抓獲犯罪嫌疑人87名，查獲違法違規(guī)賬號近10萬個。

同時，在一些社會熱點事件中，人們也能夠看到利用AI技術(shù)制造的謠言，這類謠言往往會對公眾造成誤導，也會對事件當事人造成傷害。

2024年9月，隨著合肥三只羊網(wǎng)絡(luò)科技有限公司（以下簡稱三只羊）在直播帶貨中存在的問題不斷發(fā)酵，一段三只羊公司創(chuàng)始人盧某某的錄音在網(wǎng)絡(luò)上傳播開來。錄音中，盧某某不僅對其公司多位女主播進行人身攻擊，還對某短視頻平臺的主播和用戶進行貶低。不少網(wǎng)友紛紛感嘆：“直播帶貨圈這么亂嗎？”

然而，此段錄音也被查證為利用AI技術(shù)合成的虛假錄音。2024年9月16日，安徽省合肥市公安局高新分局發(fā)布警情通報稱，現(xiàn)已查明，王某某利用從互聯(lián)網(wǎng)下載的音視頻資料，杜撰盧某某酒后言論腳本，使用AI工具訓練生成假冒盧某某的音頻，并通過網(wǎng)絡(luò)發(fā)布，形成謠言大量傳播。目前，王某某已被依法采取刑事強制措施，案件正在進一步偵辦中。

張子航表示：“就如同‘三只羊盧某某錄音’事件，在一些社會熱點事件中，當公眾還沒有獲得完整信息的時候，一些不法分子以獵奇或者煽情等形式，利用AI技術(shù)生成事件相關(guān)人物的音頻、視頻等，博取公眾的信任，進而達到傳播虛假信息、引流的目的。”

“對于這種針對特定客體的造謠行為，造謠者可能需要承擔民事責任。”張子航表示，根據(jù)民法典第1024條規(guī)定，民事主體享有名譽權(quán)，任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽權(quán)。編造者、傳播者需要承擔的侵權(quán)責任，包括停止侵害、恢復名譽、消除影響、賠禮道歉及賠償損失等。

此外，張子航認為，此類做法也可能涉嫌犯罪。“如果造謠者發(fā)布的內(nèi)容有捏造事實誹謗他人的性質(zhì)，且情節(jié)嚴重，達到了刑事立案的標準，那么造謠者可能面臨誹謗罪的指控。而如果不法分子的行為造成了社會秩序的混亂，或者對事件相關(guān)人物的生活、工作等造成了嚴重影響，可能構(gòu)成尋釁滋事罪。按照最高人民法院、最高人民檢察院《關(guān)于辦理利用信息網(wǎng)絡(luò)實施誹謗等刑事案件適用法律若干問題的解釋》第5條之規(guī)定，利用信息網(wǎng)絡(luò)辱罵、恐嚇他人，情節(jié)惡劣，破壞社會秩序的，依照刑法第293條第1款第2項的規(guī)定，以尋釁滋事罪定罪處罰。”

擦亮雙眼，辨別AI謠言中的漏洞

在AI技術(shù)的影響下，如今“眼見”“耳聽”也未必“為實”了。那么，人們在上網(wǎng)時應(yīng)該如何分辨由AI生成的謠言呢？

對此，張子航認為：“首先，我們在上網(wǎng)獲取新聞消息時，要著重關(guān)注信息源是什么，盡量從權(quán)威的信息源處獲取消息。例如，個人根本無權(quán)發(fā)布地震預(yù)測和地震災(zāi)情信息，因此從自媒體處發(fā)出來的地震等災(zāi)情信息，我們不能輕易信以為真。同時，也不要依賴單一的信息來源，最好從多個權(quán)威渠道獲取信息。”

同時，張子航表示：“在AI技術(shù)快速發(fā)展的環(huán)境下，我們要有對AI作品進行初步分辨、鑒別的能力。許多AI生成的圖片、視頻中，可能存在人物表情僵硬、邊緣模糊、光線陰影不自然、手指等細節(jié)數(shù)量異常或扭曲等。例如，‘埋在廢墟下的男孩’這張圖片就有一個很明顯的漏洞，這個男孩的一只手上長了6根手指，這就提醒我們此圖片是有問題的，不能輕易相信。”

“網(wǎng)民在上網(wǎng)時也要保持警惕，仔細分析信息的邏輯性，若信息存在明顯漏洞、矛盾或與常理不符的地方，很可能是虛假信息，在確定信息真實可靠之前，不要隨意轉(zhuǎn)發(fā)，以免無意中成為謠言傳播的推手。同時，提醒大家在上網(wǎng)時也要注意保護個人隱私，不隨意泄露個人信息如個人照片、聲音等給不可信的網(wǎng)站或應(yīng)用程序，防止個人信息被用于生成虛假的內(nèi)容。”張子航說。

那么，作為信息載體的社交媒體平臺，應(yīng)該如何規(guī)范用戶行為，避免利用AI技術(shù)制造的謠言廣泛傳播呢？

對此，張子航提出了建議：“各個社交媒體平臺可以在用戶注冊時，重點提示發(fā)布作品需要注意的事項，例如不得編造虛假信息對公共事件進行誤導，或者對具體的法人、自然人進行人身攻擊。如有違反，平臺有權(quán)注銷其賬號；信息發(fā)布后，平臺還有監(jiān)管和審核義務(wù)，在造成嚴重負面影響之前，應(yīng)及時刪除虛假信息，正確引導用戶；最后，一旦有用戶涉嫌侵權(quán)或者犯罪，平臺應(yīng)當?shù)谝粫r間提供發(fā)布者的注冊信息，便于被侵權(quán)人維權(quán)或者公安機關(guān)開展調(diào)查。”

同時，張子航表示：“目前看來，AI造謠僅是網(wǎng)絡(luò)謠言的一種類別。看似新奇，實則并無現(xiàn)行法律法規(guī)無可奈何之處。針對AI造謠行為，相關(guān)部門可以通過司法解釋，明確現(xiàn)行刑法里面的構(gòu)罪標準，以此達到震懾效果，凈化網(wǎng)絡(luò)空間，為網(wǎng)民打造綠色、健康的網(wǎng)絡(luò)環(huán)境。”