文生視頻模型Sora熱的冷思考

徐家林 鐘迎珍

徐家林?復旦大學法學博士，中央編譯局訪問學者，現為華東政法大學馬克思主義學院教授、博士生導師

Sora橫空出世，意味著“未來已來”，它會帶來哪些機遇，又可能引發何種風險？這不禁引發人們對人工智能的冷思考。

近日人工智能實驗室Open AI推出了旗下首款創新性文生視頻模型Sora，并發布了上百個模型生成視頻，此事引起世界廣泛關注。Sora的誕生不僅被視為文本生成視頻模型迎來重大突破，也被認為是人工智能（AI）邁向“世界模型”的關鍵一步。

Sora可能引領新一輪科技革命和產業變革

Sora是繼ChatGPT之后，大語言模型的又一現象級應用場景技術，被認為是一種革命性的技術變革。Sora的核心技術主要包括云計算、人工智能、大數據等。與以往AI視頻生成軟件相比，Sora的特點主要集中在視覺上，它不僅能夠將寥寥數語的文本描述創建為最長達1分鐘的高清數字視頻，還能想象并模擬現實世界的動態，生成更符合人類認知規律的高清視頻，因此也被人們賦予“世界模擬器”的稱號。作為Open AI最新的突破性視覺技術，Sora模型能夠通過深度學習與語義分析，準確理解用戶下達的文本指令，并在生成的視頻內容中高度還原這些指令，創造出特定的場景和角色，模擬人物與環境之間的相互作用等真實性世界運動，使生成的視頻具有高度逼真性。Sora在視頻生成的時間和質量上不僅實現了從ChatGPT-3.0到ChatGPT-4.5的迭代，也為未來視頻創作者開辟了新的道路。有人認為，Sora實現了人工智能對現實世界的學習、理解和模仿，以人工智能為核心的第四次科技革命正在席卷全球，證明人工智能所孕育的顛覆性技術和革命性產品有望成為新一輪科技革命和產業變革的“領頭羊”。

從元宇宙、ChatGPT 到 Sora，以人工智能為代表的新興產業正在重塑人們的生活方式和社會發展方向。從技術創新來看，Sora展現了新的科技力量并有引領未來科技和產業發展的趨勢。隨著文生視頻技術的日趨成熟和廣泛應用，對于高端化、智能化算力、存儲空間的需求將會持續增加，有可能會開創大模型在數學、物理、化學等基礎應用學科研究上的先河，也可能會對無人駕駛、生物醫藥等應用研究產生深刻影響。從產業發展來看，由于Sora在生成視頻長度、多角度鏡頭能力等方面有顯著優勢，勢必將賦予影視、短視頻、游戲開發、廣告營銷、教育培訓等產業更多可能性，激發更多新質生產力。從勞動力市場來看，Sora發展的預期之一就是將彌補許多領域人類勞動能力的不足，其智能化和自動化特點會進一步使許多瑣碎的工作被機器取代，人們從而可以獲得更多的時間與精力將創意視覺化，進一步提高人們認識世界和改造世界的能力。

Sora發展可能導致的倫理困境、法律與社會風險

任何新事物特別是新的產業技術的出現，免不了會對人們原有的生產方式、生活方式、價值觀念產生沖擊。Sora的出現，人們紛紛在猜測、預估和思考，Sora對人類而言究竟是福音還是災禍？其實，我們必須清醒，任何智能技術仍不過是技術，它們本身并沒有善惡之別，關鍵還在于如何運用，其善惡還是取決于運用它們的人類，所謂的技術倫理和法律問題，關注的還是人的問題，關注人如何運用這些技術的問題。

Sora可能帶來認知混亂。Sora遵循的是Open AI的規模理論——大量數據、大模型和大量算力的理論范式，利用數據與數據之間的相互關系，對現實世界進行映射、模擬，并據此制作出幾乎達到“以假亂真”的視頻。Sora的出現或將打破虛擬與現實之間的界限，人們或許會產生類似“盜夢空間”般的恍惚，導致認知模糊。不過，當我們冷靜下來思考，Sora不過是對人類世界合理性現象的再虛擬，其創造的依然是擬像化的世界，并不意味其真的已經理解且可以重新創造真實的人類世界，人類不必過于擔心擬像世界的真假難辨。

Sora可能帶來的法律風險。就目前來看，由Sora運用產生的法律問題主要涉及信息安全、數據侵權和網絡詐騙等問題。人工智能技術的迭代無疑是基于海量信息數據的收集、處理與學習，Sora作為一種大型視覺模型，其生成的視頻內容少不了對他人信息、創意等素材的收集、使用，其信息收集、處理是否規范，是否經過授權，是否存在侵權問題，如何保護人們的信息安全值得關注。同時，Sora因其生成的視頻內容為自動生成，極大降低了使用門檻，從而也降低了捏造事實、損害名譽和網絡詐騙的門檻。

Sora可能潛藏的社會風險。隨著Sora模型的日益強大，監視資本主義、數字資本主義將以更隱蔽的方式出現，勞動異化可能成為社會的重要隱患。任何技術進步，都會伴隨著不可避免的社會風險。以Sora為代表的AI技術也是如此。當其得到廣泛應用后，各類利用該技術實施不法操作甚至犯罪活動也可能會出現。同時，Sora的應用也會對就業市場造成沖擊。Sora已經開始試圖去理解客觀世界，這是技術的巨大進步。在GPT-4發布后，很多公司已經掀起了“AI代替人”的裁員浪潮，而Sora的出現，可能進一步加速一些公司人員替代的步伐。另外，由于Sora具有靈活性生成的特點，用戶在使用過程中可能會被灌輸特定的價值觀，這種隱秘的圖像意識形態滲透方式將可能影響人們的思維方式。

理性看待和沉著應對Sora帶來的新挑戰

Sora是科學技術，但又不同于傳統的科學技術。Sora在本質上是一項由人發明、受人控制、為人服務的科學技術。我們希望Sora堅持以人為本的發展思想，踐行責任倫理，實現人與機器和諧共處的美好愿景。為了避免Sora可能引發的倫理問題，國家相關部門應當進一步加強對人工智能技術的監管和審查、包括確立一套安全評估體系，對Sora在生產、銷售和維護各方面、各環節進行安全評估，確保其安全性；嚴格加強對Sora生成的視頻內容審核，加強對著作權、個人信息的保護，防止出現惡意攻擊、虛假宣傳等現象；數據訓練要遵守一定的道德準則，確保Sora的社會無害性；正確認識Sora的就業“替代論”，Sora等AI技術會推動人類就業的結構性調整，人類必須學會與AI協作；要提高人工智能科學家的道德責任，未來替代人類、傷害人類的不是Sora等AI技術，而可能是那些創造、使用這些技術及其產品的人。

相較于傳統的社會風險，Sora帶來的風險更為隱蔽，需采取綜合治理，至少需要構建完整的治理體系，堅持黨委領導、政府負責、社會協同、公眾參與、法制保障的治理體制和治理格局。國家要加快制定針對性的法律法規，形成保證Sora規范發展的法律框架，為積極有效應對Sora帶來的社會風險奠定法律和制度基礎。加強智能技術倫理的研究和宣傳力度，確立技術服務于人的基本原則，盡量避免算法歧視和算法黑箱情況的出現，最大限度降低Sora被濫用的可能。政府應加強“AI+安全”領域的實戰型、復合型人才隊伍建設，充分發揮高校、科研機構和民營企業在人才培養方面的優勢，鼓勵成立校企共同體，在實踐中培養AI人才。人工智能研發者與生產商應增強法律意識和政治意識，自覺保持對意識形態問題的高度警覺。普通公眾要提高科學文化素養和社會風險防范意識，加強對Sora的理性認知，辯證看待智能技術發展，既反對技術恐懼論，又反對技術崇拜論。

Sora雖然在算力方面有其優勢，但在情感交流、社會互動與深度思考中不及人類。Sora本身還是技術，其工具的屬性并沒有根本性的改變。無論Sora未來發展如何，它始終源于人類的創造，也始終是人類智慧的延伸。

（鐘迎珍系華東政法大學中國特色社會主義研究中心研究員）

編輯：薛華? ? icexue0321@163.com