韓國集中打擊“深度偽造”犯罪

2024年的前七個月，韓國共報告了297起與色情相關的“深度偽造”犯罪案件，多于去年的180起，幾乎是2021年數據首次整理時的兩倍。時下，韓國正加大對“人工智能（AI）深度偽造技術”犯罪行為的打擊力度。

監禁期限增至7年

2024年8月29日，在韓國國會舉行的緊急會議上，韓國政府和執政黨國民力量黨決定，加強對“人工智能（AI）深度偽造技術”（以下簡稱“深度偽造”）犯罪行為的打擊力度；設立一個跨部門工作組，負責領導打擊“深度偽造”犯罪工作；采取立法措施，對有關犯罪者的最高監禁期限從目前的5年提高到7年，從立法角度將“虛假視頻”傳播的刑期與“非法拍攝”等同起來。

在韓國，利用“深度偽造”制播虛假影像的行為以及由此衍生的網絡性犯罪泛濫成災，此次“深度偽造”圖像的傳播平臺是“電報”，引發社會恐慌。過去一段時間里，韓國警方發現“深度偽造”犯罪分子將女教師、女護士、女兵作為非法合成色情圖像的目標，出現了“女教師房”“護士房”“女兵”等群組。最近，以女性家人為對象的“家庭房”“近親房”等也相繼被發現。

這些群組里的淫穢影像經“深度偽造”換臉而制成，只需要上傳熟人照片，付費后5秒鐘內就能生成裸體合成圖。涉及群組的參與人數不等，少的幾百上千人，多的有數萬人，總計參與用戶多達22萬人。經初步調查，受害者80%為女性，包括大學生、教師、軍人等，甚至有不少初高中生等未成年人。

多名韓國女性接到陌生人發來的騷擾信息，她們并不知道自己的姓名、電話、就讀學校、家庭住址等個人信息已被傳遍多個聊天室。和個人信息一起被傳閱的還有她們的照片，不法分子把照片制作成涉黃圖片，供聊天室里的人們觀看。而散布這些消息的人，可能是受害者的熟人。一名小學女教師在接受采訪時告訴記者，自己被學生告知，一個聊天室里有自己的涉黃照片。讓她崩潰的是，上傳者竟是自己的學生。

“電報”成為犯罪“溫床”

所謂“深度偽造”，即使用AI生成逼真的虛假內容，通常指用于偽造人物的視頻、音頻、圖像等。一些AI生圖大模型在追求更多真實度的同時，成為了AI換臉或AI脫衣的幫兇。

“電報”平臺提供端到端加密消息傳遞，因其私密的特性而擁有大量國際用戶，但也因此成為不法行為的“溫床”。當前該平臺上有不少以AI色情為賣點的群組（類似于群聊，即韓國新聞中“房”的概念），在公開可進的群組中，一個通過AI技術偽造國內網紅色情圖片的群組成員人數達到了1.5萬人。通過交費，還可以進入更加私密、尺度更大的群組，黑灰產從業者正是以此牟利。

除了端到端加密技術外，“電報”平臺還賦予了包括“閱后即焚”“超級群組”（動輒可達十多萬人，相比之下微信群的限制是500人）。“群主設置不能復制轉發截圖”等功能，使得平臺上的一個個群組成為封閉式空間。為了使非法交易得以逃避監管，不少交易可能會通過虛擬貨幣進行。

2024年3月，“電報”平臺的創始人帕維爾·杜羅夫表示，平臺已經擁有9億用戶，且正接近盈利。8月24日，杜羅夫在法國巴黎近郊的布爾歇機場被捕，雖然后來在司法監控下獲得保釋，但不得離開法國。巴黎檢察官辦公室在一份聲明中指出，其涉嫌的違法行為包括參與出售兒童性虐待素材、販毒、欺詐，以及在法律要求時拒絕與調查人員分享信息或文件等。

其他國家“深度偽造”的受害者大多是明星網紅。而在韓國，受害者是大量的普通人。盡管韓國對于此類犯罪行為有相關的法律，然而性別歧視觀念根深蒂固，導致此類事件一再發生。一名韓國女大學生控訴道，自己有數十張裸體照片在“電報”平臺的群組中傳播，臉上寫著不堪入目的臟話，甚至還有人通過AI生成了自己的色情語音。

未成年人深受其害

韓國近期已開展集中打擊深偽性犯罪的專項行動，清查整治利用“深度偽造”制作并傳播虛假內容的行為。與此同時，將通過識別軟件對有關內容進行分析，并與國際機構合作，積極開展偵查活動。此前，韓國警方在例行記者會上介紹說，警方以涉嫌幫助“深度偽造”犯罪為由著手對“電報”平臺進行立案前調查，但該公司在提供賬戶信息等涉案資料方面不積極配合。不只是韓國警方面臨偵查難題，其他國家亦是如此。

據韓國警察廳公布的數據，2021年至2023年，共有527名“深度偽造”淫穢影像受害者報案。在最近4年被立案調查的嫌疑人中，青少年比例仍然維持在較高水平，200多所學校牽涉其中。未成年人作為加害者的涉案比例相當驚人，從2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年的前7個月則達到了73.6%。

“深度偽造”在韓國10代群體（泛指滿10歲而未滿20歲的人）之間像“游戲”一樣盲目蔓延。加之社交媒體的匿名性，犯罪者更加有恃無恐，甚至出現了“只有傻瓜才會被警察逮住”的言論。

不少青少年參與制作和傳播“深度偽造”內容，導致校園內此類犯罪行為泛濫。韓國警方7月拘捕了一名高中生，搜繳出317份涉案資料。這名嫌疑人6月7日在社交平臺上發布帖文稱，可以制作基于買家的家庭成員、熟人或其他名人，通過“深度偽造”換臉制作色情圖片，通過“電報”平臺以每張1000韓元至2000韓元的價格出售。他與買家交易了大約10次，共收到30多萬韓元。大多數色情圖片涉及的受害者是嫌疑人中學時期的熟人，包括1名教師和10名學生。隨著調查進行，受害者人數還可能增加。這名學生承認，他是在網上學會的如何制作“深度偽造”內容，從事犯罪活動是為了“輕松賺錢”。他因涉嫌違反《青少年保護法》和《性犯罪處罰法》，被立案調查。

韓國國民力量黨黨首韓東勛敦促政府迅速采取措施遏制此類犯罪行為，并強調有必要下調未成年人承擔刑事責任的年齡標準。目前，根據韓國相關法律，年齡在10—14歲之間的兒童不對自己的行為承擔刑事責任，不會被送往監獄，而是會被送去少年拘留所，或被判罰從事社區服務。鑒于這些年輕人大多數在毫無負罪感的情況下犯案，警方計劃與教育部門合作，加強收集校園犯罪信息，強化學校的數字性犯罪預防教育，包括告知學生分發非法合成材料是嚴重犯罪，以加深學生對數字性犯罪的認識。

投稿郵箱：zhanghongyuchn@hotmail.com