當(dāng)“AI復(fù)活”變成一門生意科技倫理底線在哪兒

最近，張澤偉每天都忙得腳不沾地，行程安排滿滿當(dāng)當(dāng)，連吃飯時(shí)間都幾乎騰不出來(lái)。

張澤偉是南京“超級(jí)頭腦”的創(chuàng)始人，他們從去年3月開始涉足AI人像模擬訓(xùn)練、聲音克隆等業(yè)務(wù)，是國(guó)內(nèi)最早一批推出“AI復(fù)活”產(chǎn)品的小型團(tuán)隊(duì)。所謂“復(fù)活”，就是基于照片、視頻等歷史數(shù)據(jù)，使用AI技術(shù)重現(xiàn)已故人物的聲音、影像、行為等，生成與其相似的輸出。到目前為止，張澤偉的團(tuán)隊(duì)已完成1000多筆“復(fù)活”訂單。清明節(jié)前，他們每天都會(huì)接到四五十個(gè)咨詢相關(guān)事宜的電話。

今年以來(lái)，“復(fù)活”案例越來(lái)越多。此前，包小柏用AI“復(fù)活”病逝女兒，女兒在媽媽生日時(shí)為她唱了一首生日歌；近期，有網(wǎng)友用AI技術(shù)“復(fù)活”李玟、喬任梁等已逝明星，備受爭(zhēng)議。“AI復(fù)活”這門此前隱秘而小眾的生意，開始受到廣泛關(guān)注，不斷增加的需求同時(shí)催生了流水線的生產(chǎn)。

執(zhí)念

很多人對(duì)“AI復(fù)活”的初印象，可能是去年清明時(shí)B站UP主吳伍六“復(fù)活”已故奶奶的視頻。當(dāng)時(shí)，吳伍六用AI工具生成了奶奶的虛擬數(shù)字人，并和她進(jìn)行了對(duì)話。

視頻中，“奶奶”頭發(fā)花白，說(shuō)話時(shí)有濃重的湖北口音，像她生前一樣“嘮叨”。因?yàn)榉浅Ｋ寄钅棠蹋瑓俏榱汀澳棠獭绷牧撕芏啵热缟毤有健⒆罱纳眢w狀況等。他說(shuō)的每一句話，“奶奶”都仔細(xì)聆聽并給予回應(yīng)，或是點(diǎn)頭，或是眨眼，有時(shí)還會(huì)發(fā)出爽朗的笑聲。

談及原因，吳伍六說(shuō)，是因?yàn)樽约汉茈y接受奶奶的突然去世。去年春節(jié)，奶奶因病住院，不久后病重離世。他在病床前守了半個(gè)月，說(shuō)了很多話，但可惜奶奶那時(shí)已經(jīng)沒有什么意識(shí)了。吳伍六從小由奶奶帶大，與奶奶感情很深，“以前我遇到事都會(huì)和奶奶說(shuō)，現(xiàn)在我也不知道和誰(shuí)說(shuō)了，其實(shí)我還是很想和奶奶說(shuō)”。

和吳伍六有相似心愿的人不在少數(shù)。記者采訪了幾位用AI“復(fù)活”已逝親人的體驗(yàn)者，他們都對(duì)與親人“再見一面”有強(qiáng)烈的執(zhí)念——有的年輕人從小由爺爺奶奶帶大，卻一直遺憾沒能見到老人最后一面；有的家庭中年失獨(dú)，陷入情感泥淖的父母難以從喪子之痛中走出來(lái)；還有的人伴侶離世多年，希望重新見到日夜思念的人，哪怕只是在屏幕上短暫一瞥也能倍感慰藉。

有需求就有供給。自從生成式AI技術(shù)出現(xiàn)后，類似服務(wù)就逐漸成為一門新興的產(chǎn)業(yè)。早在2017年，HereAfter創(chuàng)始人詹姆斯·維拉霍斯根據(jù)父親生前遺留數(shù)據(jù)創(chuàng)造了聊天機(jī)器人，很快就收到了相關(guān)咨詢和定制訂單。“一開始我沒考慮過(guò)把它商業(yè)化，”他表示，“但一切都變得非常理所當(dāng)然，這就應(yīng)該是一門生意。”

生意

張澤偉是機(jī)緣巧合接觸到“AI復(fù)活”業(yè)務(wù)的。他從2012年開始創(chuàng)業(yè)，起先做的是游戲行業(yè)，2016年轉(zhuǎn)向虛擬現(xiàn)實(shí)領(lǐng)域，創(chuàng)業(yè)失敗后，2020年他回到南京從事AI相關(guān)的研究，主要方向是AI教育。

有一次，一個(gè)朋友聯(lián)系到他，朋友的父親意外去世了，全家人一直瞞著奶奶，擔(dān)心奶奶承受不住打擊。朋友問(wèn)他，有沒有可能用AI還原父親的形象，去給90歲的奶奶報(bào)個(gè)平安？張澤偉猶豫了。以前，他們做虛擬現(xiàn)實(shí)的時(shí)候，也接觸過(guò)類似的需求，但受限于技術(shù)不成熟等種種原因，嘗試并未成功。“當(dāng)時(shí)內(nèi)心比較掙扎，技術(shù)方面應(yīng)該沒什么問(wèn)題，但是我不知道這樣做對(duì)不對(duì)。”張澤偉告訴記者，當(dāng)他看到老人露出真摯的笑容，以及慈祥、安心的眼神時(shí)，他覺得自己在做很有意義的事。

漸漸地，來(lái)找張澤偉的人越來(lái)越多。其中，一部分人是為了向家屬隱瞞親人離世的真相，也有的是為了療愈傷痛，彌補(bǔ)心中的遺憾。比如，一個(gè)從小被外婆帶大的外孫女，希望去世的外婆可以出現(xiàn)在她的結(jié)婚典禮上。他們根據(jù)她提供的素材，還原了外婆生前的音容笑貌，讓她的外婆在婚禮上為她送去了鼓勵(lì)的話。

張澤偉自認(rèn)共情力很強(qiáng)。有段時(shí)間，頻繁接觸這樣破碎的故事，一度讓他非常難受，“感覺一下子就體會(huì)到幾輩子的人間疾苦”，“有時(shí)候晚上睡覺做夢(mèng)的時(shí)候都會(huì)把自己代入進(jìn)去”。不過(guò)，隨著時(shí)間的流逝，張澤偉發(fā)現(xiàn)，很多以前印象深刻的故事都慢慢模糊了，取而代之的是一種麻木感。

張澤偉不愿把“AI復(fù)活”看作一門生意，但這項(xiàng)業(yè)務(wù)確實(shí)形成了一套流水線般的固定流程。比如，委托者需提前填寫表格和約束協(xié)議，約束協(xié)議用以厘清法律風(fēng)險(xiǎn)，表格內(nèi)容涵蓋逝者的基本信息、相關(guān)生平、人際關(guān)系和重大事件等各方面。同時(shí)，委托者還需要準(zhǔn)備一個(gè)10秒以上的視頻，必須要有逝者的正面，或者至少一張正面照片，再準(zhǔn)備一個(gè)15秒以上的音頻。隨后，相應(yīng)信息會(huì)被放入數(shù)據(jù)庫(kù)去進(jìn)行大模型的調(diào)試訓(xùn)練，整個(gè)制作過(guò)程在一周左右。根據(jù)用戶需求的不同，每個(gè)訂單收費(fèi)在5000元到1萬(wàn)元不等。

技術(shù)

張澤偉從去年3月開始涉足相關(guān)業(yè)務(wù)，是國(guó)內(nèi)“AI復(fù)活”領(lǐng)域最早的一批創(chuàng)業(yè)者。他沒想到，僅僅一年時(shí)間，這條賽道上已經(jīng)擠滿了入局者。在電商平臺(tái)上搜索“AI復(fù)活”，能看到相關(guān)店鋪不少，但由于這項(xiàng)服務(wù)尚沒有統(tǒng)一的行業(yè)標(biāo)準(zhǔn)，所以收費(fèi)和服務(wù)質(zhì)量參差不齊。還有人趁勢(shì)推出了“AI復(fù)活師”的教學(xué)套餐和代理服務(wù)，大有將“AI復(fù)活”這條流水線生意延伸打造成產(chǎn)業(yè)鏈的架勢(shì)。

目前，市面上的“AI復(fù)活”產(chǎn)品，根據(jù)成本高低、技術(shù)難度，主要可分為三檔。其中最低一檔是能動(dòng)的照片，利用深度學(xué)習(xí)、圖像處理等技術(shù)，就能讓照片里的人物開口“說(shuō)話”，此項(xiàng)技術(shù)成熟且開源，單次成本可以壓縮到10元以內(nèi)。第二檔是表情捕捉驅(qū)動(dòng)的AI換臉，可以給真人模特?fù)Q上逝者的形象和聲音，進(jìn)行語(yǔ)音或視頻等互動(dòng)。這種方式比較討巧，技術(shù)不新鮮，成本在千元左右。第三檔則是今年以來(lái)大火的數(shù)字人“復(fù)活”，也是張澤偉目前主攻的方向。因?yàn)榻桓懂a(chǎn)品不一樣，成本跨度很大，總體收費(fèi)較貴。

付出了更貴的錢，卻并不一定能得到滿意的效果。“最大難點(diǎn)在于數(shù)據(jù)量。”張澤偉解釋，很多年輕人想“復(fù)活”逝去的長(zhǎng)輩，但可用的素材太少，比如只有一張老照片，或者只有嘈雜簡(jiǎn)短的語(yǔ)音，那就很難做出來(lái)，效果也不會(huì)很好。

技術(shù)不成熟是另一大難點(diǎn)。趙楠（化名）曾花費(fèi)萬(wàn)元在網(wǎng)上定制了“AI復(fù)活”服務(wù)，只為彌補(bǔ)沒有見到爺爺最后一面的遺憾。趙楠的爺爺于2022年底過(guò)世，彼時(shí)，趙楠遠(yuǎn)在英國(guó)上學(xué)，由于種種原因未能回國(guó)，這成了她心中長(zhǎng)久的痛。去年，趙楠瞞著父母偷偷定制了爺爺?shù)腁I數(shù)字人分身，想要“有儀式感地跟爺爺告別”。剛見到“爺爺”時(shí)，她很欣喜，但稍后就從神態(tài)表情和只言片語(yǔ)中看出了“濃厚的AI味”，讓她“瞬間出戲”。“說(shuō)話的時(shí)候，他對(duì)我有點(diǎn)太關(guān)心了，一直很‘嘮叨’地囑咐我，但他生前其實(shí)更偏愛弟弟。”趙楠說(shuō)。但她還是鄭重地完成了這場(chǎng)期待已久的告別儀式。結(jié)束后，她刪除了這個(gè)數(shù)字人，并大哭了一場(chǎng)，突然感到有所釋懷。

“現(xiàn)在還不到談沉迷的時(shí)候。因?yàn)锳I形象的效果，不管是聲音、動(dòng)態(tài)效果還是外貌，都距離完美的人機(jī)難辨差得很遠(yuǎn)。”張澤偉告訴記者。不僅如此，在很多交互場(chǎng)景中，如果用戶問(wèn)到數(shù)字人數(shù)據(jù)庫(kù)里沒有的信息，數(shù)字人要么不回答，要么就會(huì)跳轉(zhuǎn)到大模型，根據(jù)公開答案回答，“根本做不到沉浸式對(duì)話”。不過(guò)，很多人仍愿意接受一個(gè)存在瑕疵的數(shù)字形象。

還有一個(gè)有趣的現(xiàn)象，雖然“AI復(fù)活”“數(shù)字生命”等概念看著很超前，但與智能相比，人工有時(shí)候才是“核心競(jìng)爭(zhēng)力”。比如，為了訓(xùn)練AI語(yǔ)音，有的團(tuán)隊(duì)會(huì)專門去尋找聲調(diào)聲線和“復(fù)活者”很像的人錄制語(yǔ)音，這樣達(dá)到的相似度遠(yuǎn)高于聲音克隆。還有同樣提供“AI復(fù)活”服務(wù)的創(chuàng)業(yè)公司創(chuàng)始人告訴記者，公司運(yùn)營(yíng)成本中，人工才是支出的大頭。咨詢客戶的成功率并不高，但在篩選客戶和提供咨詢服務(wù)上的人工成本不能少。此外，做短視頻、投放廣告、宣傳稿件也都需要大量花錢。

未來(lái)

張澤偉對(duì)這個(gè)行業(yè)充滿樂(lè)觀。他認(rèn)為，隨著技術(shù)進(jìn)步，“AI復(fù)活”的概念還會(huì)持續(xù)升級(jí)，比起一段視頻、一個(gè)聊天機(jī)器人等，未來(lái)還會(huì)有數(shù)字永生、數(shù)字陪伴等更多AI數(shù)字人產(chǎn)品出現(xiàn)。同時(shí)，他還計(jì)劃“復(fù)制”自己，平時(shí)會(huì)注意留存各種資料，希望搭建一個(gè)更完美的數(shù)字人。“我覺得不用把AI這個(gè)事情想得太復(fù)雜，以前我們思念一個(gè)人的時(shí)候，會(huì)去翻相冊(cè)、找視頻，現(xiàn)在還能跟他交互了，豈不是更好？”張澤偉說(shuō)。在他的設(shè)想中，“AI復(fù)活”或許會(huì)和掃墓、鮮花一樣，成為緬懷已故親人的新方式。

無(wú)論如何，“AI復(fù)活”的爆火已經(jīng)打開了潘多拉魔盒，可以預(yù)見的是，未來(lái)的很長(zhǎng)一段時(shí)間內(nèi)，技術(shù)紅利和“次生災(zāi)害”或?qū)⑼瑫r(shí)發(fā)生。

有從業(yè)者不同意這樣的觀點(diǎn)。數(shù)字人領(lǐng)域的頭部企業(yè)硅基智能創(chuàng)始人兼CEO司馬華鵬表示，硅基智能過(guò)去克隆了約50萬(wàn)個(gè)數(shù)字人，但“AI復(fù)活”的人數(shù)不過(guò)幾千人，只占到一小部分，至少目前不是看上去那么美好的一個(gè)產(chǎn)業(yè)。“在探索相關(guān)項(xiàng)目的過(guò)程中，我們接觸下來(lái)，會(huì)發(fā)現(xiàn)很多人不愿意把親人克隆、復(fù)制出來(lái)。”在司馬華鵬看來(lái)，阻力一方面是大眾對(duì)于新事物的接受度不高，另一方面還有文化和傳統(tǒng)的問(wèn)題。司馬華鵬提到，“很多人只是在清明節(jié)這種特定的時(shí)候祭奠親人，但是平時(shí)要天天這樣溝通的話，可能帶來(lái)的就不是慰藉，反而會(huì)加深痛苦了”。

從經(jīng)濟(jì)效益來(lái)看，“AI復(fù)活”也未必是很多企業(yè)的首選。“AI復(fù)活”本就主打定制化需求，雖然已經(jīng)逐漸形成了一套標(biāo)準(zhǔn)流程，但很難有一個(gè)算法可以批量產(chǎn)出，再根據(jù)每個(gè)人的要求進(jìn)行微調(diào)，投入產(chǎn)出比偏低。有業(yè)內(nèi)人士做過(guò)測(cè)算，“AI復(fù)活”相關(guān)業(yè)務(wù)一年的收入在500萬(wàn)元～1000萬(wàn)元之間，更適合中小型團(tuán)隊(duì)涉足。司馬華鵬認(rèn)為，在國(guó)內(nèi)“AI復(fù)活”可能是一個(gè)天花板不高的產(chǎn)業(yè)，相對(duì)來(lái)講，數(shù)字人領(lǐng)域，無(wú)論是短視頻、直播，還是大模型加持下的互動(dòng)應(yīng)用，都有更大的想象空間。

此外，“AI復(fù)活”同樣面臨法律的審視。此前，網(wǎng)上“復(fù)活”李玟、喬任梁等已故明星曾引起不小的爭(zhēng)議，尤其遭到家屬的反對(duì)。我國(guó)民法典第1019條規(guī)定，任何組織或者個(gè)人，未經(jīng)肖像權(quán)人同意，不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)；第994條規(guī)定，死者的肖像等受到侵害的，其配偶、子女、父母有權(quán)依法請(qǐng)求行為人承擔(dān)民事責(zé)任。需要看到的是，“AI復(fù)活親人”與“AI復(fù)活明星”具有本質(zhì)區(qū)別，前者是逝者親屬主動(dòng)所為，而后者則是侵權(quán)行為。不過(guò)，有專家指出，前者同樣可能引發(fā)道德倫理危機(jī)，“不是所有家庭成員都能接受和理解這一新鮮事物，不同情感的碰撞下，很容易引發(fā)親人感情方面的倫理風(fēng)險(xiǎn)，影響到對(duì)逝者的尊重和家庭成員的情感關(guān)系。”

無(wú)論如何，“AI復(fù)活”的爆火已經(jīng)打開了潘多拉魔盒，可以預(yù)見的是，未來(lái)的很長(zhǎng)一段時(shí)間內(nèi)，技術(shù)紅利和“次生災(zāi)害”或?qū)⑼瑫r(shí)發(fā)生。上海大學(xué)法學(xué)院教授陳敬根認(rèn)為，“AI復(fù)活”存在詐騙的隱患，未來(lái)大量AI生成的虛假信息可能引發(fā)社會(huì)負(fù)面情緒、導(dǎo)致信任危機(jī)。為了防止“次生災(zāi)害”的發(fā)生，需要系統(tǒng)化、體系化的應(yīng)對(duì)方式。一方面，要加快AI領(lǐng)域的立法；另一方面，也應(yīng)該看到，劃出底線和紅線的“硬法”固然不可缺位，但為了彌補(bǔ)立法的滯后性，在人工智能等新興領(lǐng)域，當(dāng)前應(yīng)提倡設(shè)立更多的“軟法”，即通過(guò)行業(yè)協(xié)會(huì)、團(tuán)體組織等自發(fā)制定的規(guī)則，產(chǎn)生集體約束力，由此在法律底線之上起到行業(yè)監(jiān)管的作用。

◎ 來(lái)源|解放日?qǐng)?bào)