妙鴨相機“踩了制度紅線”？AI換臉隱私泄露之憂

《中國經濟周刊》 記者 宋杰 | 上海報道

近期，來自上海一家企業開發的小程序“妙鴨相機”因為其高識別度而迅速走紅。花9.9 元就能擁有4 款發型的“數字分身”，選擇其中之一與現有身體模板合成，就能擁有美麗的相片。雖然目前上線的身體模板并不多，但由于該軟件識別、還原度較高，且收費不算貴，因此在朋友圈迅速流行。

同時，能以假亂真、掩人耳目的AI技術因在民事方面易引發肖像權等侵權行為，刑事方面易引發詐騙罪、侵犯公民個人信息罪等，也引發了不少爭議。記者查閱中國裁判文書網后發現，從2022 年8 月至今年4 月，共有12起由“AI 換臉”引發的民事訴訟。

體驗：想要得到“完美”數字分身，記者上傳了60 張照片

“像是像的，就是PS 得很厲害，臉型不太像，五官像，我付了9.9 元，在線上排了9 小時的隊。”熱愛拍美照的葛女士對 《中國經濟周刊》 記者說，“朋友圈里不知道的同事還問我是哪里拍的寫真，AI 感不強，因為變高清及下載都要額外費用，所以我又忍不住充了錢。”

《中國經濟周刊》 記者實測后發現，系統要求最少上傳20 張人像照片，上傳的照片分為“達標”“超棒”“完美”三個等級，為達到“完美”等級，記者前后共上傳了60 張照片，最終成功“換臉”，通過細節調整進一步生成寫真，想要高清及下載，還需要充值購買“鉆石”。

通過測試，《中國經濟周刊》記者感覺古裝的造型與本人差距較大，想聯系人工客服退款，通過小程序始終無人應答。

除了“像或不像”的問題之外，其背后的AI 技術也引發了部分用戶對隱私泄露的擔憂。有網友質疑妙鴨相機之前的用戶協議。

第一版的隱私協議如是表述：“您特此授權我方在全世界（包括元宇宙等虛擬空間）范圍內享有永久的、不可撤銷的、可轉讓的、可轉授權的、免費的和非獨家的許可，使得我方可以任何形式、任何媒體或技術（無論現在已知或以后開發）使用您的內容。”

7 月20 日，妙鴨相機通過官方微博發布公告稱：已經收到用戶關于妙鴨用戶協議的反饋，原協議內容有誤，已進行了修改。妙鴨相機同時承諾，消費者上傳的照片只會用于數字分身制作，不會提取也不會用于識別和其他用途，且分身制作完成后自動刪除。

在該條微博評論留言中，妙鴨相機回復網友時表示，即將上線注銷功能，用戶可以自主選定是否要清除自己妙鴨的所有數據信息，同時，新版隱私協議已向包括已簽署過的老用戶在內的全體用戶發起新版協議簽署流程。

7 月26 日，上海市消保委發文稱：“上海市消保委微信團隊的工作人員翻完該小程序的服務協議，并沒有找到退款相關條款。唯一跟退款相關的只有在支付下方的：一旦購買成功，不支持退款。上海市消保委認為，此項協議涉嫌侵害消費者的公平交易權。”

7 月27 日，妙鴨相機運營方未序網絡科技公司表示，目前妙鴨相機在微信公眾號端已設有客服入口，但由于團隊處于創業初期，客服人員配置不足給用戶造成了不便。對此，公司表示深感歉意，并承諾將盡快增加客服人員，同時增加小程序端客服入口，以暢通與用戶的溝通渠道，高效處理用戶反饋問題。

一旦有糾紛，法院怎么判？

記者通過查詢關鍵詞“AI 換臉”查閱中國裁判文書網后發現，已經有不少肖像權案件，最終法院判決的賠償金在1000～8000 元不等。

比如：在上海市金山區人民法院的一起關于肖像權糾紛的 《民事判決書》 中這樣寫道：“被告在原告未授權同意的情況下，在其運營的‘×××’換臉軟件中的‘古風漢服’欄目里，上傳以原告肖像為原內容的視頻提供給用戶換臉使用而非法牟利。被告通過AI 換臉技術，將該視頻開放給眾多用戶分享并允許用戶通過購買成為被告的會員后，自行制作‘換臉’后的視頻以達到使用該軟件的核心功能的目的。”最終，除被告需道歉外，法院裁定被告賠償原告5200 元。

北京德和衡（上海）律師事務所高級聯席合伙人婁鶴接受《中國經濟周刊》記者采訪時說，以妙鴨相機為代表的AI 換臉應用程序，主要存在一些個人信息保護和數據安全方面的潛在隱患。

他分析道，根據民法典第一千零一十八條：“肖像是通過影像、雕塑、繪畫等方式在一定載體上所反映的特定自然人可以被識別的外部形象。”這表明肖像權的范圍并不僅限于人的面部特征，還包括佩戴口罩、側面、形體動作等，只要能夠識別特定自然人的外部形象都受到肖像權的保護。民法典明確了侵犯肖像權的具體行為，其中包括未經肖像權人同意，丑化、污損或者利用信息技術手段偽造等方式侵犯他人的肖像權，例如使用AI 換臉技術。

“在中國，侵害肖像權的法律責任形式，主要是承擔民事責任。該民事責任方式包括停止侵害、消除影響、賠禮道歉、賠償損失。”婁鶴對記者說，在我國的司法實踐中，即使侵權人不以營利為目的，只要存在惡意毀損、玷污、丑化公民的肖像，或利用公民肖像進行人身攻擊等，也被認定為屬于侵害肖像權的行為。因此，“以營利為目的”，并不是決定是否存在侵犯公民肖像權的唯一前提和要件。在“AI 換臉”案件中，軟件公司通常都是商業運營的主體，并以獲取流量或銷售服務為目的，通常被認定為侵權主體。如果通過“AI 換臉”，尤其是利用一些明星、名人效應“吸粉”，通過互聯網傳播換臉后的圖文、視頻等，導致他人社會評價受損，則可能侵犯他人的名譽權。

近期，國家網信辦等七部門聯合公布 《生成式人工智能服務管理暫行辦法》，自2023 年8 月15 日起施行，其中就有許多關于“個人信息安全保護”的條款。出臺該辦法，既是促進生成式人工智能健康發展的重要要求，也是防范生成式人工智能服務風險的現實需要。

婁鶴認為，對于企業而言，在利用AI 技術提供服務時，應該提高合法合規意識，確保數據處理和信息生成的合法性、正當性和規范性，采取措施來落實個人信息保護的要求，提前進行風險評估，加強消費者權益保護。

同時，婁鶴建議，消費者在使用AI類產品和服務時，為了最大程度減少風險隱患，應注意以下幾點：要有風險防范意識，注重個人信息和隱私保護；在使用前仔細閱讀用戶協議和隱私政策，了解服務方對個人數據的處理和保護；選擇可信賴的服務提供商，確保其具備良好的安全措施和合規性；盡量避免上傳過于敏感的個人照片或信息；如果發現個人信息泄露或侵權事件，要積極主動維權。