給AI造假配上“緊箍咒”

今年伊始，DeepSeek橫空出世，各類AI應(yīng)用在中國(guó)以迅猛之勢(shì)融入了各行各業(yè)，展現(xiàn)出了驚人潛力。

然而，如同硬幣的兩面，在大眾消費(fèi)市場(chǎng)AI技術(shù)可以促進(jìn)商業(yè)發(fā)展、品牌迭代，也可能為商業(yè)造假、冒牌頂替提供技術(shù)能力。例如，有的不良商家靠AI假圖吸引消費(fèi)者下單、有的直播間用AI背景偽裝“工廠發(fā)貨”、用“AI換臉”冒充名人明星、將他人照片合成淫穢影像、利用AI生成假場(chǎng)景制造假新聞等，這些亂象讓各類平臺(tái)和消費(fèi)者深受其害。

在人工智能技術(shù)蓬勃發(fā)展的同時(shí)，我們也需警惕深度偽造、虛假信息生成、數(shù)據(jù)篡改等AI造假行為對(duì)社會(huì)信用體系形成了新挑戰(zhàn)。新事物的出現(xiàn)，必然呼喚與之相適配的新的治理方法。放任不管，或一管就死，都不是治理的目的。只有符合新時(shí)期新形勢(shì)的AI治理理念，才能為AI應(yīng)用創(chuàng)造好的發(fā)展環(huán)境。

為促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門近日聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《辦法》）。《辦法》的出臺(tái)可謂非常及時(shí)，這意味著法規(guī)正在給AI配上“緊箍咒”，規(guī)范其生成合成行為，避免其倫理失范問(wèn)題，使其更好地服務(wù)廣大受眾。

要求“自報(bào)家門”、亮明身份，打到了AI造假的“三寸”。AI生成技術(shù)是先進(jìn)工具，也是一把雙刃劍，用好了，就是解放生產(chǎn)力的神奇工具。比如，虛擬“數(shù)字人”可以助力主播從繁瑣的拍攝中解脫出來(lái)，AI翻譯能促進(jìn)文化傳播與交流，造就全新的傳播變革。AI造假，則是這一先進(jìn)技術(shù)被惡意利用生出的“惡之花”。要想?yún)^(qū)分AI工具是被善意使用還是惡意利用，關(guān)鍵的第一步，就是要讓用戶能夠清晰分辨自己所見(jiàn)內(nèi)容的真假。《辦法》要求所有AI生成的作品必須亮明身份、清晰標(biāo)識(shí)，這無(wú)疑是一個(gè)好的開(kāi)始，邁出了規(guī)范AI應(yīng)用的堅(jiān)實(shí)一步。

強(qiáng)制標(biāo)注AI生成內(nèi)容，披露算法邏輯，這樣的治理辦法堅(jiān)持了透明度原則，也充分呈現(xiàn)了AI治理的“技術(shù)向善”思維。當(dāng)前，AI正處于從低度向深度進(jìn)化的階段，人類對(duì)AI的未來(lái)有許多美好愿景，只有發(fā)揚(yáng)技術(shù)向善，才能為AI提供一個(gè)更好的訓(xùn)練數(shù)據(jù)池和應(yīng)用場(chǎng)景地，避免AI在錯(cuò)誤數(shù)據(jù)中訓(xùn)練出錯(cuò)誤的思維導(dǎo)向。如果說(shuō)商業(yè)AI造假影響的還只是當(dāng)下的消費(fèi)體驗(yàn)，那么當(dāng)造假成為數(shù)據(jù)池的重要組成部分，無(wú)法加以分辨和剔除，假數(shù)據(jù)、惡數(shù)據(jù)會(huì)給人類未來(lái)帶來(lái)怎樣的影響？實(shí)在細(xì)思極恐。

因此，從更長(zhǎng)遠(yuǎn)的角度看，給AI內(nèi)容做標(biāo)識(shí)還只是第一步，下一步還應(yīng)當(dāng)推動(dòng)AI開(kāi)發(fā)者在模型中嵌入科學(xué)倫理限制，為構(gòu)建“可信內(nèi)容生態(tài)系統(tǒng)”奠定了基礎(chǔ)。比如，讓AI模型拒絕回答可能用于偽造、詐騙的內(nèi)容請(qǐng)求，限制生成未經(jīng)授權(quán)的影響力人物圖像。在信息傳播上，則要打造“可信新聞?dòng)?jì)劃”，嵌入?yún)^(qū)塊鏈技術(shù)，避免想象式、編造式信息利用算法不當(dāng)散播。除了可信新聞?dòng)?jì)劃，還應(yīng)當(dāng)提升可信數(shù)據(jù)空間的建設(shè)力度。當(dāng)可信新聞與可信數(shù)據(jù)均在可信平臺(tái)中呈現(xiàn)的時(shí)候，人們會(huì)自然選擇可信平臺(tái)與可信內(nèi)容，避免被虛假內(nèi)容誤導(dǎo)。

當(dāng)然，治理AI造假，也離不開(kāi)公眾認(rèn)知的提升。當(dāng)前，AI步入大眾生活只是開(kāi)始，未來(lái)AI與人類生活、工作的結(jié)合必將更加緊密。強(qiáng)制平臺(tái)標(biāo)識(shí)內(nèi)容的AI身份，有助于公眾提升判斷力，未來(lái)還應(yīng)當(dāng)提供更多大眾化、普惠式的AI認(rèn)知課程，讓公眾能夠在AI時(shí)代學(xué)會(huì)善識(shí)AI、善用AI，從根本上增強(qiáng)人們防范AI造假的“免疫力”。

知善知惡是良知，為善去惡是格物。AI進(jìn)步、技術(shù)創(chuàng)新與AI倫理規(guī)范是有機(jī)統(tǒng)一的整體，只有統(tǒng)籌好發(fā)展和安全，減少技術(shù)濫用的危害，為AI良性進(jìn)步鋪路架橋，才能讓AI真正服務(wù)于人類幸福美好生活。