
秘密的、專屬于男性會員的Telegram聊天室,充斥著大量被“深度偽造”(Deepfake)的女性色情圖像。這些男生,很多仍是初高中的學生;而這些女性,大多是他們的熟人,同學、老師,甚至還有家人。在這里,她們的臉,被嫁接到各種不堪入目的合成圖像中。
近期,一起大規模的深偽危機,席卷了整個韓國,也讓全世界為之震驚。
據韓國教師工會估計,有200多所學校都受到了影響,但根據一些韓國學生自發在社交媒體X上創建的受害學校清單,截至9月初,涉及的學校數量超過500所。
想要進入這些聊天室很簡單,只需要使用Telegram聊天室搭載的“機器人程序”制造10張“深度偽造”的照片,而生成一張裸體照片甚至花不了3秒鐘。
但在某些特殊聊天室中,管理者更是表明,只有提交女性家庭成員的全身照片,或是上傳自己“不恰當地觸摸妹妹或母親”的照片或視頻后,才被允許進入。
目前,已知存在兩個被廣泛使用的“機器人程序”(也就是工具bot),一個擁有22萬余名用戶,另一個則涉及40多萬人。據報道,這類工具bot可以識別上傳照片的性別,且只能合成女性的色情圖像。
直到社交媒體X上名為@Queenarchive1的賬戶開始曝光此事,更多人才得知這些聊天室的存在,很多女性才意識到自己早就成了“深度偽造”的受害者。
事實上,這起“新N號房”事件,距離上一次韓國“深度偽造”犯罪引發關注,僅僅過去了四個月。
韓國社會到底怎么了?雖然人們對韓國低生育率問題與嚴峻的性別戰爭早已習以為常,但仍震驚于這起事件背后令人膽寒的惡意。
目前,韓國總統尹錫悅表示要“徹底調查和解決這些數字性犯罪”,但考慮到他在女性議題上的不作為,很多韓國女性對此并不抱期望。
感到絕望的韓國女性,試圖通過跨國渠道來擴散信息,將事件的進展翻譯成多種語言,在各國社交平臺進行分享。面對層出不窮的性別暴力問題,在這個讓她們怒吼著“韓國女性是沒有國家”的地方,她們只能盡可能地將信息傳得更遠。
“趕快撤下你所有的露臉照片?!?/p>
在kakaotalk(韓國聊天軟件)上收到朋友發來的消息時,住在水原市的18歲華人學生小慧還沒反應過來發生了什么事。緊接著,朋友發來了關于Telegram聊天室的信息,以及受害者學校名單。
小慧在名單上看到了自己所在中學的名字。她還未來得及消化這件事帶來的沖擊,便一刻不停地刪除了社交媒體上自己所有的照片。
她才知道,自己的同學就在制造這些“深度偽造”圖像。
EpfDhh0m4F6NO4hRTqSzGg==小慧告訴《看世界》,她從來沒想過這樣的事,會發生在自己身邊。在和朋友的后續交流中,她才知道,自己的同學就在制造這些“深度偽造”圖像。
她不知道自己是否在學校中與這些人擦肩而過,也不確定是否和對方在ins上成了互關好友,但只要想到學校里存在著這樣的人,就讓她和她的朋友感到生理不適。
目前,唯一讓她們松了一口氣的是,還沒有看到和自己相關的圖像,但她也明白這種“安全”很可能只是暫時的,因為當Telegram聊天室的影響范圍如此之大時,“每個女性都是目標”。
在這段時間內,“女性安全如何保障”,成為了小慧和朋友們每天都在談論的問題。她們并不滿意學校的處理方式,也對鄰近的學校只是進一步提醒在校女生多注意自身安全的做法感到諷刺。
“他們只是讓女生在操場上集合,告訴她們要更小心,而男生在一旁踢足球”,小慧氣憤地說道,“為什么不去警告男生呢?”

在小慧和朋友們看來,問題的重點,從來不是女性應該“更小心”,只是在正常生活的她們,沒有義務更小心地生活,而“更小心”未必可以換來安全的生存環境。
到底要多小心?這次Deepfake事件爆發后,很多韓國女生紛紛站了出來,講述自己被家中哥哥、弟弟侵犯或偷拍的遭遇。在社交媒體X上,有不少女生分享自己曾被家里人侵犯的經歷—被自己的哥哥/弟弟偷拍,照片發到網上賣錢。
還有女生爆料稱,自己和哥哥的關系一直很不錯。當她在哥哥手機中發現被偷拍的照片時,她哥哥剛帶她吃了烤肉。在手機相冊中以她名字命名的文件夾里,有她睡覺的照片,換衣服的照片,還有她的大腿照。
她花了很長時間去療愈自己,但看到長得像自己哥哥的男生時,還是會下意識地感到害怕。而與此同時,已經知道發生了什么事的父母,卻還敦促她趕快與哥哥和好。
此外,還有一位女生在X上連發三十多條推文,講述自己午睡時被小一歲的弟弟撫摸并偷拍的經歷。她將事情告知母親后,還擔心弟弟會不會被打得太狠,但結果卻是自己多慮了。
“你也有問題,誰會在家里穿這么短的睡衣。”她的母親這樣說道。她想不明白為何會這樣,還在評論區發了睡衣樣式。“我穿著普通的睡衣,就在家里安心地睡著了。這是我的錯嗎?”她表示,自己大約有一年的時間都無法過上正常的生活。
這些案例中,被親人偷拍的照片,有沒有流入聊天室、成為深偽合成的素材,還屬未知,但它們卻引發了廣泛共鳴,這起Deepfake事件,影響之深遠,幾乎摧毀了受害者的信任體系和社交網絡。隨著這些故事不斷被講述,有關Deepfake更多不為人知的細節,也被勾勒了出來。
在2023年,韓國75.8%的深度偽造性犯罪嫌疑人是青少年。
就像目前案件已提交首爾法庭一審的受害女性在法庭上說的那樣,她認識被告人,她和對方是校友,她們的關系不僅涉及上課,還包括在學生餐廳用餐,完成學習小組作業等方方面面,她整個校園生活幾乎都繞不開被告人。
這也是為什么當她得知罪犯是誰時,她受到的沖擊比最開始知道自己的照片被“深度偽造”時還要大。
當受害者仍在苦苦掙扎時,很多涉事男性并沒有意識到嚴重性。
不少男生表示,這么做“只是覺得有趣”,或是“只是在開玩笑”,更有甚者,在聊天室中留下了“我不知道為什么這些女的覺得自己有人權”“女的居然想要被當做人來看待”等觸目驚心的言論。
當然,也有加害者不再滿足于語言上的宣泄。有人選擇直接聯系受害者,還在聊天室分享她們的反應,以此進一步折磨她們;也有人毫不猶豫地公布受害女性的身份,并向對方索要封口費。
雖然從表面上看,這些罪行已經顯而易見,但在實際運作中,打擊數字犯罪并不容易。一方面,參與深度偽造的加害者大多是未成年人;另一方面則在于打擊數字性犯罪存在立法缺口問題。
近幾年,與“深度偽造”相關的犯罪數量,以及青少年犯下此類犯罪的比例,都呈上升趨勢。
韓國警方表示,今年受理的深度偽造性犯罪案件已激增至297起。而在2021年,即他們首次整理這方面數據時,這一數字僅為156。在這其中,大多數受害者和加害者都是青少年。


具體來講,在2023年,韓國75.8%的深度偽造性犯罪嫌疑人是青少年。在2021年,這一數字是65.3%,2022年則為61%。
但即便問題已經如此嚴峻,想要讓這些加害者為自己的行為付出代價卻并不容易。這不僅是韓國面臨的問題,如何追蹤和證實數字犯罪,在全世界范圍內都是一個難題。這對執法機構提出了很高的技術要求。
當然,更重要的問題,來自薄弱的法律框架。雖然韓國在2020年修訂了《信息通信網絡法》等相關法律,但對何為“深度偽造”以及“未經同意”的細節界定還不夠明確,對使用深度偽造技術的處罰力度也較低。
首先,與很多國家一樣,韓國法律在未成年人犯罪的問題上并沒有設置明確的量刑標準,這使得法官在判決時具有較大的自由裁量權,且往往會采取輕罪處理。
根據韓國國家統計局的數據,在2020年,韓國有超過60%的未成年人犯罪案件被判處了非監禁類的懲罰,包括社區服務、警告和心理輔導等。對于重復犯罪或情節嚴重的案件,法院可能會判處短期的少管所拘留,但長期監禁的情況非常罕見。
此外,在韓國,即便犯下“深度偽造”罪行的是成年人,也很少有人被判入獄,大多數人都是被判處罰款與緩刑。
在首爾韓國犯罪學與司法研究所的研究員張多慧看來,之所以會出現這一情況,是因為在多數情況下,法官都傾向于認為,數字性犯罪造成的傷害,沒有涉及直接身體接觸的性暴力那么嚴重。
與其他國家相比,韓國的數字性犯罪問題一直都更為嚴峻。
根據美國初創公司Security Hero在2023年發布的全球深度偽造報告,在全球所有涉及深度偽造色情內容的案例中,有53%的受害者是韓國的歌手和女演員。
而在近期Telegram聊天室再次進入公眾視野之前,很多人都還記得在2019年底逐漸曝光的“N號房”事件。
當時,主要嫌犯趙主彬(網名“博士”)通過社交平臺Telegram建立多個秘密聊天室,將被威脅的女性(包括未成年人)作為性奴役的對象,并在聊天室內共享非法拍攝的性視頻和照片。

這些事項在尹錫悅上臺后被暫緩,或是不再作為優先事項進行處理。
這一事件的曝光,讓韓國社會一片嘩然。時任韓國總統文在寅對此表示了嚴厲譴責。他指示韓國警方和檢察機關要徹底調查此案,不僅要嚴懲直接參與犯罪的人,還要追究所有間接參與或幫助傳播的人。
在任期內,他推動了《信息通信網絡法》的修訂,以加大對數字性犯罪的懲罰力度,特別是針對涉及未成年人的犯罪行為;并支持通過《兒童青少年性保護法》修正案,進一步強化對未成年受害者的保護。
與此同時,文在寅還積極推動加強對社交媒體平臺的監管,要求這些平臺對非法內容的傳播承擔更大的責任。
只是,這些事項在尹錫悅上臺后被暫緩,或是不再作為優先事項進行處理。
當然,這種變化可能部分源于新政府的不同政策優先級,以及在數字監管和個人自由之間的政策平衡。但考慮到尹錫悅在2022年韓國總統大選期間采取的“反女權主義”性別策略,他的政策選擇并不令人意外。
只是,當如此猖獗的犯罪行為再次出現時,尹錫悅也不得不再次正視這一問題。
目前,尹錫悅總統辦公室稱,尹錫悅已在內閣會議上呼吁當局徹底調查和解決這些數字性犯罪,并承諾要進一步加強對違法內容的打擊力度,同時提升網絡平臺的監管能力,以“徹底根除它們”。
但尹錫悅仍傾向于將此次深度偽造事件視作獨立事件。即便數字性犯罪行為的性別特征如此顯著,尹錫悅仍強調,深度偽造技術的惡意,會讓“任何人都可能成為受害者”。
迄今為止,尹錫悅未曾提到這一問題背后折射出的結構性矛盾。事實上,他曾多次表示,他不認為韓國存在系統性的性別歧視問題。
(文中小慧為化名)
責任編輯何承波 hcb@nfcmag.com