管理人工智能生成合成內容有“辦法”

近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。國家互聯網信息辦公室有關負責人表示，《標識辦法》旨在促進人工智能健康發展，規范人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益。

近年來，生成式人工智能、深度合成等新技術快速發展，為生成合成文本、圖片、音頻、視頻等信息提供了便利工具，在促進經濟發展、豐富網上內容、便利公眾生活的同時，也造成虛假信息傳播、破壞網絡生態等問題。社會廣泛呼吁加快專門立法、強化技術監管、壓實平臺責任。為積極響應社會關切和群眾關心，國家互聯網信息辦公室聯合工業和信息化部、公安部、國家廣播電視總局制定了《標識辦法》?！稑俗R辦法》以內容標識為抓手，細化前期相關部門規章的標識相關要求，進一步發揮內容標識提醒提示和監督溯源的技術作用，著力構建開放、公正、有效的治理機制，營造公平有序發展環境，推動人工智能產業健康有序發展。

《標識辦法》明確，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識；隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

《標識辦法》提出，按照《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》相關要求開展人工智能生成合成內容標識活動的，應當符合《標識辦法》相關要求。

《標識辦法》要求，服務提供者提供的生成合成服務屬于《互聯網信息服務深度合成管理規定》第十七條第一款情形的，應當按照要求對生成合成內容添加顯式標識；服務提供者應當按照《互聯網信息服務深度合成管理規定》第十六條的規定，在生成合成內容的文件元數據中添加隱式標識；提供網絡信息內容傳播服務的服務提供者應當采取技術措施，規范生成合成內容傳播活動。

《標識辦法》強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

配套《標識辦法》，強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》（以下簡稱《標識標準》），已由國家市場監督管理總局、國家標準化管理委員會正式批準發布（2025年第3號），2025年9月1日與《標識辦法》同步實施。

同時，全國網絡安全標準化技術委員會針對生成合成服務提供者和內容傳播服務提供者的平臺編碼，組織起草了配套實踐指南《網絡安全標準實踐指南——人工智能生成合成內容標識服務提供者編碼規則》，已于3月14日正式獲批發布（網安秘字〔2025〕29號），為相關主體開展文件元數據隱式標識提供了編碼指引。此外，全國網絡安全標準化技術委員會正在就各文件格式的元數據標識規范、各應用場景的標識方法等組織編制一系列推薦性標準、實踐指南，將在《標識辦法》發布后逐步推出。

（來源：網信中國）

鏈接

解讀《標識辦法》：“小步快走”實施AI治理

中國科學院科技戰略咨詢研究院研究員肖尤丹表示，此次新規雖然切口小，但應當把它放到生成式人工智能內容治理的總體框架里，與算法備案管理、生成式人工智能服務管理、深度合成管理相互協調、共同發揮作用的角度去理解。當前人工智能的治理，尤其是內容治理，所遵循的思路是“小步快走”，而非追求大而全。這種思路符合人工智能技術的發展現狀，也與人工智能技術在大規模應用中的產業場景相契合。

隱拓智安科技有限公司的工作人員萬嗣芳認為，今后用戶刷到AI生成的明星廣告時，一眼就會看到“AI生成”提示，會避免被虛假宣傳誤導。對于AI公司和互聯網平臺來說，直觀的影響在于，使用AI批量生成營銷內容時，必須像給商品貼成分表一樣規范標注，否則可能面臨處罰。這次文件明確要求，AI服務提供者和內容傳播平臺必須采取措施對AI生成內容進行標識?？梢灶A見，未來AI服務平臺和各類媒體平臺上都將更加清晰地展示相關標識，幫助公眾更便捷地識別AI生成內容和深度偽造信息，相應由AI偽造帶來的謠言情況也會隨之減少。

曾代理全國首例AI生成圖片著作權侵權案的律師李昀鍇認為，《標識辦法》的核心是為了遏制AI偽造內容的傳播，減少謠言、詐騙等社會危害，也能夠推動AI技術在合法框架內發展，保護公眾知情權。如果真的出現被誤導和詐騙的情況，也可以通過標識水印追溯到實際的侵權人、犯罪者。以后，各類平臺均可能強制要求標注，未合規的內容可能無法發布。不過，目前來看，隱式標識在技術上能否被有效地規避和移除可能還需要各平臺繼續探索，尋找一條技術上可行的統一路線。

（根據澎湃新聞相關報道整理）