抖音劃定AI創作“禁區” 三類生成內容將被重點治理

3月26日，抖音安全中心發布不當利用AI生成虛擬人物的治理公告，提出將嚴格處罰違規使用AI生成虛擬人物發布違背科學常識、弄虛作假、造謠傳謠的內容。根據公告，此次抖音將重點治理利用AI生成假外國人、假精英及利用AI生成形象騙取互動等三類內容：一是生成境外虛假人設，消費愛國心理、博取關注；二是生成俊男美女虛假形象，騙取互動，交友導流；三是生成精英人士虛假人設，發布心靈雞湯、財商、偽國學、厚黑學、偽成功學等不良內容，低質吸粉，甚至引流到站外以賣課、入群等方式獲利。

除了封號等常規處罰手段，抖音此次在公告中還特別提到，“平臺已掌握部分黑產團伙不當使用AI生成虛擬人物用于犯罪的線索，將報警打擊。”