全球積極應(yīng)對智能生成視頻所涉法律風(fēng)險

孫祁

2024年初，世界經(jīng)濟論壇發(fā)布了《2024年全球風(fēng)險報告》，其中將人工智能產(chǎn)生的錯誤信息和虛假信息列為2024年世界面臨的最重大風(fēng)險之一。

sora-AI智能生成視頻是一種基于人工智能技術(shù)的視頻制作方式（圖/IC photo）

2024年2月16日，OpenAI發(fā)布了創(chuàng)新性文生視頻模型Sora，畫面效果炸裂，就連馬斯克也感嘆“人類認(rèn)賭服輸”。一方面人工智能科技正快速迭代，另一方面其背后隱藏的法律和社會問題已成為社會關(guān)注的焦點。

sora-AI智能生成視頻：從原理到應(yīng)用

通過深度學(xué)習(xí)技術(shù)，sora-AI能夠從大量視頻中學(xué)習(xí)到各種畫面和音效的規(guī)律，進(jìn)而自動生成新的視頻。具體來說，sora-AI智能生成視頻的原理可分為以下幾個步驟：

第一，數(shù)據(jù)采集與預(yù)處理。sora-AI需要大量的視頻數(shù)據(jù)來進(jìn)行學(xué)習(xí)，這些數(shù)據(jù)可以通過公開的數(shù)據(jù)集或者用戶上傳的方式獲得。在學(xué)習(xí)之前，需要對這些數(shù)據(jù)進(jìn)行預(yù)處理，包括剪輯、轉(zhuǎn)碼、標(biāo)注等操作，以便于機器學(xué)習(xí)算法的使用。

第二，深度學(xué)習(xí)模型訓(xùn)練。sora-AI的核心是深度學(xué)習(xí)模型，通過對大量視頻的學(xué)習(xí)，sora-AI能夠自動提取出視頻中的畫面和音效特征，并學(xué)習(xí)到各種畫面和音效之間的關(guān)聯(lián)。這個過程需要消耗大量的計算資源和時間，通常需要高性能的GPU或云計算平臺來完成。

第三，視頻生成。一旦深度學(xué)習(xí)模型訓(xùn)練完成，sora-AI就可根據(jù)用戶提供的信息或者根據(jù)模型自帶的生成規(guī)則來自動生成新的視頻。用戶可以根據(jù)需求選擇不同的視頻長度、畫面風(fēng)格、音效等參數(shù)，sora-AI會自動進(jìn)行視頻的剪輯、拼接、轉(zhuǎn)場等操作，最終生成完整的視頻。

在此原理基礎(chǔ)上，sora-AI智能生成視頻技術(shù)的應(yīng)用場景非常廣泛。例如，新聞報道、廣告制作、教育培訓(xùn)、電影與游戲制作等與人類生活密切相關(guān)的行業(yè)。從人工智能技術(shù)驅(qū)動的自然語言處理工具ChatGPT到如今的Sora；從自動生成文字、圖片，再到自動生成視頻；人們驚嘆于人工智能的突破性進(jìn)展，同時也關(guān)注著伴隨其左右的質(zhì)疑和擔(dān)憂，尤其是其背后帶來的倫理挑戰(zhàn)。Sora生成的視頻幾乎可以以假亂真，這是一把雙刃劍：一方面此功能可用于藝術(shù)創(chuàng)作；另一方面也可能被不法之徒濫用于造假、欺騙，甚至顛覆人們對現(xiàn)實的認(rèn)知。

智能生成視頻引發(fā)的各類法律風(fēng)險和倫理挑戰(zhàn)

Sora的出現(xiàn)意味著人工智能技術(shù)已經(jīng)發(fā)展到了一個新的高度，這對人工智能技術(shù)的監(jiān)管也提出了新的挑戰(zhàn)。不可回避的是，如果不能有效地管控Sora等技術(shù)的應(yīng)用，未來很可能會出現(xiàn)挑戰(zhàn)現(xiàn)有規(guī)則的風(fēng)險：

第一，素材侵權(quán)風(fēng)險。作為AIGC（AI Generate Content）軟件，Sora同樣需要數(shù)據(jù)收集和模型訓(xùn)練，之后才能生成內(nèi)容。因此在訓(xùn)練階段，Sora不可避免地會使用大量的視頻素材。這些素材往往是他人具有著作權(quán)的作品，擅自收集抓取，就有可能侵犯作品的復(fù)制權(quán)。基于原視頻素材進(jìn)行的加工可能侵犯作品的改編權(quán)。此外，Sora生成的視頻，將來不可避免會用于商業(yè)用途，這就超出了“合理使用”的范疇……

第二，侵犯隱私風(fēng)險。Sora可以不經(jīng)過同意就能生成包含真實個人肖像的內(nèi)容，而抓取這些個人信息并生成內(nèi)容的過程，就不可避免地會觸碰到他人隱私。在Sora正式商用后，會有更多的個人信息被抓取、被模仿，個人隱私如何保護將成為一大難點。

第三，生成內(nèi)容的真假辨別。Sora商用后，還有一個巨大的風(fēng)險，便是虛假視頻的濫用，這將衍生出一系列AI詐騙之類的法律問題。

筆者注意到，聯(lián)合國教科文組織此前發(fā)布的《人工智能倫理原則》，提出了人工智能發(fā)展的11項基本原則，包括尊重人權(quán)、促進(jìn)可持續(xù)發(fā)展、避免偏見和歧視等。目前，多個國家和地區(qū)發(fā)布了人工智能倫理規(guī)范，微軟等大型科技公司也發(fā)布了相關(guān)規(guī)范。人工智能技術(shù)日新月異，倫理規(guī)范和監(jiān)管制度難免存在滯后，加之倫理問題的復(fù)雜性以及各個國家和地區(qū)規(guī)范存在差異，還存在一些過于原則性、缺乏可操作性且難以有效落地的規(guī)則。

各國相繼出臺人工智能監(jiān)管政策或法律文件

OpenAI在Sora技術(shù)報告的標(biāo)題中寫道，視頻生成模型是“世界模擬器”。需要指出的是，盡管Sora在模擬能力方面已取得了顯著的進(jìn)展，但它目前仍然存在諸多局限性——目前的Sora還只是個視頻制作工具。要知道，視頻生成模型與當(dāng)下數(shù)字孿生、仿真技術(shù)是存在區(qū)別的。仿真和數(shù)字孿生是一種利用數(shù)字技術(shù)、通過對物理世界建模來改造人類對物理世界認(rèn)知的技術(shù)；而視頻動畫只能反映世界表象的東西，并非模型的全部，即類似的AI視頻工具大多數(shù)情況下生成的視頻并不是現(xiàn)實中存在的。綜上，Sora當(dāng)前還不能挑戰(zhàn)人類社會運行規(guī)則。但是，為應(yīng)對上述情形帶來的挑戰(zhàn)，目前世界主要大國和國際組織已相繼出臺人工智能監(jiān)管的政策或法律文件。對于社會發(fā)展來說，如何在政策監(jiān)管和技術(shù)發(fā)展之間找到平衡點，將是一大考驗——

2024年，歐洲議會、歐盟委員會和27個成員國的談判代表就歐盟《人工智能法案》達(dá)成協(xié)議，歐盟內(nèi)部市場委員蒂埃里·布雷東在社交媒體上發(fā)文說，27國一致支持這一法案，說明它們認(rèn)可“談判者在創(chuàng)新與安全之間找到了完美平衡”。此后，包括法國、德國在內(nèi)的一些國家對法案文本表達(dá)異議，擔(dān)憂法案對先進(jìn)人工智能模型的嚴(yán)格監(jiān)管將阻礙歐洲人工智能的發(fā)展。為了解決這些擔(dān)憂，歐盟委員會在人工智能領(lǐng)域推出多項支持創(chuàng)新的措施，通過建立新的監(jiān)管機構(gòu)“人工智能辦公室”來負(fù)責(zé)該法案的實施。目前，《人工智能法案》還需要提交歐洲議會批準(zhǔn)。如果獲得批準(zhǔn)，相關(guān)規(guī)則將分階段實施，其中一些禁止性規(guī)則將在該法律通過六個月后生效，其余與通用人工智能模型相關(guān)的某些規(guī)則將從2025年起適用。該法案實施后將是全球首部人工智能領(lǐng)域的法案，支持對人工智能進(jìn)行必要監(jiān)管，但強調(diào)相關(guān)法規(guī)應(yīng)該只用于規(guī)范人工智能的應(yīng)用而非技術(shù)本身。

近些年，新加坡陸續(xù)頒布了人工智能的專項法律。新加坡一直致力于有關(guān)人工智能倫理和治理的持續(xù)探索。為此，新加坡先后發(fā)布了《人工智能治理框架》《組織實施和自評估指南》以及《人工智能治理案例匯編》等人工智能治理規(guī)范與指南。同時，為了更好地幫助治理框架的落地，新加坡還發(fā)布了《組織實施和自我評估指南》，旨在為企業(yè)與各類組織提供人工智能治理的統(tǒng)一指導(dǎo)。該指南以《人工智能治理模型框架》中描述的四個關(guān)鍵領(lǐng)域為基礎(chǔ)，詳細(xì)列出了5個維度（部署人工智能的目標(biāo)、內(nèi)部治理結(jié)構(gòu)和措施、確定人類參與人工智能增強決策的程度、開發(fā)部署運營管理、利益相關(guān)者互動和溝通策略）共計60多個問題的評估清單，具有很強的指導(dǎo)性和可操作性。

英國政府于2023年發(fā)布了《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》白皮書。據(jù)該白皮書內(nèi)容顯示，其提議將在未來幾年內(nèi)塑造英國的人工智能治理框架，以提高該技術(shù)的可信度。與其他國家的版本相比，該白皮書采用了更加分散的監(jiān)管模式，為實現(xiàn)監(jiān)管目標(biāo)選擇了一條更具挑戰(zhàn)性的道路。與此同時，該白皮書承諾此種治理模式，與現(xiàn)實更相稱，也將促進(jìn)企業(yè)提高創(chuàng)新能力。此外，英國《數(shù)據(jù)保護和數(shù)字信息法案》已獲通過，其旨在減少而不是加強與人工智能相關(guān)的保障措施。

綜上，完善細(xì)化相關(guān)人工智能倫理規(guī)范，加強審查和監(jiān)管，加強相關(guān)倫理教育和宣傳，更顯迫切。筆者認(rèn)為，只有正視人工智能帶來的科技高速發(fā)展以及所面臨的倫理與法律挑戰(zhàn)，才能確保人工智能技術(shù)造福人類。

編輯：黃靈? ? yeshzhwu@foxmail.com