警惕AI悄悄“偷”走你的聲音

AI（人工智能）換臉實施詐騙、AI翻唱明星歌曲、AI“復活”逝者……隨著AI技術的不斷發展，在網上“克隆”他人的容貌、聲音已非難事，相關糾紛也屢見不鮮。

北京互聯網法院一審開庭宣判全國首例AI生成聲音人格權侵權案，明確認定在具備可識別性的前提下，自然人聲音權益的保護范圍可及于AI生成聲音。AI生成聲音可識別性的認定應綜合考慮行為人使用情況，并以相關領域普通聽眾能否識別作為判斷標準。

語音合成以假亂真冒充熟人實施詐騙

在多款AI軟件中搜索發現，有不少模仿知名藝人聲音的情況。去年，“AI孫燕姿”翻唱《發如雪》等歌曲，迅速走紅網絡，多平臺播放量破百萬，熱度居高不下。之后又出現一批其他“AI歌手”，其中不乏已故歌手。隨后，大批AI翻譯作品涌現，如郭德綱用英語說相聲等。

據了解，“AI孫燕姿”使用的核心技術來源于Sovits 4.0模型。它是基于AI技術的免費學唱軟件，用戶只需輸入歌詞和曲調，就可以精準模擬人聲，自動生成一首翻唱歌曲。

在某短視頻平臺搜索發現，關于此類技術的學習教程不在少數。有業內專家指出，目前，通過AI技術，可以實現對圖像、聲音、視頻的篡改、偽造和自動生成，產生以假亂真的效果，一些不法分子很可能利用這類技術實施違法犯罪行為，危害社會公共利益。

其中，最為常見的手法是冒充熟人實施電信詐騙。江蘇的楊女士在收到自己“女兒”多條要求繳納報名費的語音后，向騙子賬戶轉賬3.5萬元。對此，辦案民警反復提醒：“遇到轉賬一定要慎之又慎，眼見不一定為實。”

“自然人的聲音也是人格權的一種，受民法典保護。任何人不得丑化、污損或者偽造他人的聲音，更不可以未經本人許可，模仿他人聲音獲利。”北京市京師律師事務所律師許浩說。

許浩介紹，和著作權不同，自然人的聲音有獨特性，在音色、語調以及發音風格等多維度上有所不同，可識別性較強，使用人工智能工具對其加工，并進行傳播獲利，則構成對人格權的侵權。

“特定人的聲音具有可以產生一定經濟價值的屬性，如果被侵犯不僅會造成人格損失，更可能造成經濟損失。”北京京本律師事務所主任連大有說，但實踐中這類案件通常面臨維權難的困境，存在取證難、舉證難、認定難等問題。

未獲得權利人同意擅自使用構成侵權

AI“復活”逝者也是頗受爭議的話題之一。

在某電商平臺上看到，不少網店專門從事AI“復活”逝者的生意，稱可以“讓動態照片開口說話，修復合成微笑定制懷念視頻”，一般標價為10元。但產品詳情頁中寫道，拍前請與客服溝通需求，具體價格根據難易程度決定。

客服介紹，簡單地讓照片動起來只需幾十元錢，稍微復雜點有表情的要上百元。如果需要采用AI換臉技術，根據相似度不同，價格在幾百元至上萬元不等，其聲音、相貌的相似度可達95%以上。

據了解，AI“復活”逝者是基于大數據分析、語音合成、機器學習等先進技術，通過對逝者生前的文字、音頻、視頻資料進行深度學習，創造出與其音容笑貌極為相似的虛擬形象。

在中國政法大學傳播法研究中心副主任朱巍看來，是否獲得權利人的合法授權，是判定是否構成聲音權益侵權的關鍵。近年來，AI語音合成技術的應用日益普遍，但編輯、使用某一自然人的聲音，需要當事人單獨同意。如果當事人已經去世，應當獲得相關權利人的授權，但此舉也有可能引發倫理問題。

朱巍認為，所謂的“復活”，本質上是利用深度合成技術生成所謂的虛擬人或者數字人，需要使用逝者的人臉、聲音等各種數據，配合自己的目的制作相應的內容。如果行為人為了悼念的目的，“復活”自己的親人，原則上不構成侵權，但若是出于營利、博眼球、詐騙等違法目的，則可能構成侵權，甚至是刑事犯罪。

“如歌迷、粉絲出于對已故偶像的喜愛，用AI技術‘復活’偶像，這種行為涉嫌違法。”連大有說，“根據民法典第九百九十四條，死者的姓名、肖像、名譽、榮譽、隱私、遺體等受到侵害的，其配偶、子女、父母有權依法請求行為人承擔民事責任；死者沒有配偶、子女且父母已經死亡的，其他近親屬有權依法請求行為人承擔民事責任。”

連大有說，利用技術“復活”死者的行為還可能涉及知識產權問題，如“復活”已故偶像，往往會使用相關的歌曲、影視、著作等知識產權。相關的知識產權可能屬于其他公司、企業等，也需要獲得其授權才能使用。

明確侵權賠償責任制定技術標準規范

對于AI語音合成技術背后的侵權風險，相關部門和網絡平臺已著手監管和規范，嘗試在技術發展和法律保障之間達到平衡。

2023年7月，國家網信辦等部門發布《生成式人工智能服務管理暫行辦法》，此舉標志著生成式AI有了專門性行政法規。

該辦法第七條規定，生成式人工智能服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動，要求必須使用具有合法來源的數據和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形。

2023年9月，科技部等10部門印發的《科技倫理審查辦法（試行）》，列出了需要開展倫理審查復核的科技活動清單，其中就包括具有社會動員能力和社會意識引導能力的算法模型、應用程序及系統研發等。

與此同時，相關平臺也在嘗試加強治理。2023年5月，抖音發布關于人工智能生成內容的平臺規范暨行業倡議。對于創作者、主播、用戶、商家、廣告主等平臺生態參與者應用生成式人工智能技術提出要求，對于違規使用AI技術的行為，一經發現，平臺將嚴格處罰。

連大有建議，在司法實踐中，要進一步細化相關法律規定，明確聲音權的范圍、侵權行為的認定標準以及賠償責任、承擔方式等。同時，還要加強宣傳教育，提高公眾對聲音權的認識和重視，營造全社會共同維護聲音權的良好氛圍。

（摘自《法治日報》）（責任編輯 張芙蓉）