技術(shù)的另一面是風險

馬佳一

近日，一段美國歌手泰勒·斯威夫特“說”中文的短視頻在網(wǎng)絡刷屏，引發(fā)熱議。視頻中，泰勒·斯威夫特“說”著流利中文，音色和講母語時類似，甚至連口型都能對上。與此同時，郭德綱“講”英文相聲的視頻也引起人們關(guān)注，大家紛紛感嘆AI真是強大。

對于這樣的視頻，人們的第一反應恐怕是一愣，然后用常識就能判斷其真?zhèn)巍Ｗ鞒鲞@種鑒別并不難，難的是當“被AI”的不是明星而是身邊親朋好友，或者明星說的是本國語言時，公眾是否還具有這種鑒別力？以AI技術(shù)的發(fā)展速度看，大概不能對此“打包票”。

就此類生成式AI的技術(shù)原理而言，首先是把相關(guān)數(shù)據(jù)上傳AI模型，比如人臉的面部特征、聲音的音長音高等，再將使用者需求輸入模型由系統(tǒng)運算，最后輸出結(jié)果。如此，就能實現(xiàn)郭德綱說英文或泰勒·斯威夫特說中文的效果。這種生成式AI原來有一些技術(shù)不完善的地方，比如人體晃動時畫面掉幀、AI生成部分與本人面部邊緣處有明顯拼接痕跡等，但現(xiàn)在網(wǎng)上比較火的那幾個視頻卻似乎已經(jīng)解決了這些問題。

總之，AI正在朝著越來越智能的方向演進。可以想象一下，如果ChatGPT聊天機器人變得更加智能，響應速度更快，再把它與這項AI換臉技術(shù)相結(jié)合，是否可以形成與“泰勒·斯威夫特”自由對話的可能。這種技術(shù)想象的另一面，是信息安全風險，關(guān)乎個人的隱私權(quán)利。

在“被AI”者一端，涉及個人肖像權(quán)、聲音權(quán)。我國民法典規(guī)定了合理使用行為可以不經(jīng)肖像權(quán)人許可，但合理使用的行為要求、范圍要求都有限制。例如，民法典第一千零二十條規(guī)定，為個人學習、藝術(shù)欣賞、課堂教學或者科學研究，可以在必要范圍內(nèi)使用肖像權(quán)人已經(jīng)公開的肖像。如今，借助AI應用生成相關(guān)視頻是否屬于合理使用卻有爭議——因為肖像權(quán)人的肖像雖然是公開的，但使用者的目的并非是法定目的的任何一種，且因其向全網(wǎng)傳播，顯然也超出了民法典規(guī)定的“必要范圍”。所以，市場上各式各樣的生成式AI，其實帶有天然的侵權(quán)風險。

站在不特定的公眾一端，則有受騙的風險。這既包括利用生成式AI詐騙錢財，也包括利用生成式AI制作虛假代言廣告、進行違法犯罪活動。前不久，影星斯嘉麗·約翰遜還對一家AI應用開發(fā)商提起訴訟，事由是開發(fā)商利用其拍攝的電影花絮制作廣告。所以，盡管大多數(shù)的生成式AI還處在“玩玩而已”的范疇，卻不可忽視它已經(jīng)具備某些不太光彩的應用場景。特別是我國已經(jīng)出現(xiàn)了有人因AI換臉被詐騙、有人利用AI換臉從事淫穢色情活動的事例。對于監(jiān)管部門而言，一方面，要對違法犯罪行為嚴厲打擊，另一方面，有必要要求開發(fā)商把數(shù)字水印作為必要項，并且這個水印不能被放在視頻的邊邊角角，而應該與畫面主體有重疊，以此防備生成式AI被濫用。

技術(shù)本身并無價值觀，但操縱技術(shù)的人有。在剛剛結(jié)束的全球首屆AI安全峰會上，包括中國、美國、英國在內(nèi)的28個國家及歐盟共同簽署了《布萊奇利宣言》，呼吁以安全、以人為本、值得信賴和負責任的方式設計、開發(fā)、部署和使用AI——“負責任”即是遵守法律、合乎道德，它應當成為業(yè)內(nèi)的共識。

（選自《中國青年報》2023年11月8日，有刪節(jié)）

◆提煉

這篇時評的最大特點就是逆向思維的運用。作者沒有對公眾大為贊嘆并寄予厚望的AI生成技術(shù)一味叫好，而是冷靜思考、理性分析，指出其潛在風險。開篇敘述現(xiàn)代技術(shù)讓斯威夫特“說”中文、郭德綱“講”英語，大眾感嘆AI的強大，引出下文對其帶來的社會問題的思考，從社會對AI普遍叫好中轉(zhuǎn)入對“被AI”的真?zhèn)舞b別的思考，進而引出對AI技術(shù)導致的風險的分析。由此，可見作者獨到的眼光和求異性思維。然后從專業(yè)角度分析生成式AI技術(shù)的特點以及導致的諸多社會問題，為下文進一步分析做鋪墊。周密的分析和鋪墊，加上合理想象，水到渠成地得出自己的推論一：ChatGPT與AI技術(shù)結(jié)合會產(chǎn)生信息安全風險，可能侵犯個人隱私權(quán)，有理有據(jù)。援引民法典條文，進一步交代生成式AI制作運用可能“侵犯個人肖像權(quán)、聲音權(quán)”的法律依據(jù)。這是逆向思維的關(guān)鍵所在——言之有據(jù)。再從公眾一方分析，得出推論二：利用生成式AI進行違法犯罪活動可致公眾受騙的風險。這里以國內(nèi)外實例為論據(jù)，證明自己所言不虛；同時提出解決問題的舉措，使主題進一步拓展。結(jié)尾以新近召開的全球首屆AI安全峰會主題為例，印證使用AI技術(shù)必須遵法守德，規(guī)避風險。這篇時評不僅觀點新穎，而且論證充實、內(nèi)容雄辯、分析理性，非常豐富。

我們在借鑒運用逆向思維時，要注意以下兩個方面：

1.對求異思維的硬支撐。逆向思維的運用，會導出不合眾口的觀點。這時候我們就需要拿出過硬的論據(jù)給自己的觀點以支撐。如這則時評在分析AI生成技術(shù)可能導致的侵權(quán)行為和欺詐行為時，先是援引民法典條文，后又列舉新近發(fā)生的典型案例佐證自己的觀點，使文章有理有據(jù)，不容置辯。

2.對邏輯推理的嚴要求。求異思維需要有嚴密的邏輯推理，而非信口開河。如這篇時評，作者為了表達“技術(shù)的另一面是風險”的觀點，表現(xiàn)自己對AI技術(shù)可能導致的違法違規(guī)風險的憂慮，研究了AI技術(shù)和ChatGPT技術(shù)的特點及發(fā)展，查閱了民法典，搜集了中外與此相關(guān)的典型案例……所以推理過程環(huán)環(huán)緊扣、嚴絲合縫，具有不可辯駁的邏輯力量。