防范AI技術(shù)被濫用

近年來，人工智能（AI）技術(shù)迅猛發(fā)展，在帶來創(chuàng)新與便利的同時，也催生了侵權(quán)、詐騙等違法行為。去年，有詐騙分子利用AI換臉技術(shù)，騙取430萬元。此類案例警示，AI技術(shù)正加速向網(wǎng)絡(luò)詐騙等領(lǐng)域滲透。

AI換臉技術(shù)是通過深度學(xué)習(xí)算法，精準(zhǔn)捕捉并復(fù)制人臉特征，將一個人的臉部形象無縫替換到另一個人的臉上，生成的視頻效果逼真，非專業(yè)人士難以辨識。此外，AI擬音技術(shù)同樣令人咋舌，僅需幾秒的聲音樣本，人工智能大模型便能迅速克隆出高度相似的人聲，且操作簡便，相關(guān)軟件與教程在網(wǎng)絡(luò)上泛濫成災(zāi)。隨著AI技術(shù)門檻降低，合成效果愈發(fā)逼真，逐步向全身、3D合成發(fā)展。

技術(shù)的雙刃劍效應(yīng)日益凸顯。AI技術(shù)的濫用，不僅可能假冒公眾人物，還可能規(guī)模化發(fā)送虛假信息，嚴(yán)重擾亂社會秩序。今年4月，北京互聯(lián)網(wǎng)法院宣判的全國首例“AI聲音侵權(quán)案”，為AI技術(shù)的濫用敲響了警鐘，法院通過判決為新業(yè)態(tài)新技術(shù)劃定了應(yīng)用邊界，彰顯了保護(hù)人格權(quán)益與引導(dǎo)技術(shù)向善的司法態(tài)度。

目前，我國法律法規(guī)對AI深度偽造作出了一定規(guī)制。2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，“提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨(dú)同意”“可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識”等。

如何識別并防范AI換臉呢？相關(guān)專家指出，AI換臉生成的假人往往存在牙齒邊緣過于整齊、眼睛瞳孔顏色不一致、眨眼頻率異常等破綻。同時，民眾應(yīng)增強(qiáng)個人信息保護(hù)意識，不輕易提供人臉、指紋等生物信息，避免在社交平臺發(fā)布正面照片或視頻，妥善保管身份證、銀行卡等敏感信息，及時卸載和注銷不常用的手機(jī)App。

公安部門也提醒公眾，面對電信網(wǎng)絡(luò)詐騙，應(yīng)牢記“三不一多”原則：未知鏈接不點(diǎn)擊，陌生來電不輕信，個人信息不透露，轉(zhuǎn)賬匯款多核實。一旦發(fā)現(xiàn)詐騙行為，應(yīng)立即報警，以最大限度減少財產(chǎn)損失。

（綜合福州新聞網(wǎng)、《天津日報》）