Sora之后，我們如何拯救真相

李俠　李雙

2月15日，美國人工智能研究公司OpenAI發布人工智能文生視頻大模型Sora，該模型可深度模擬真實的物理世界，并生成包含多個角色及特定運動的復雜場景。目前，根據用戶的文本提示，Sora可以創建長達60秒的逼真視頻，這是近日互聯網上最火爆的科技新聞。兩年來，從ChatGPT3.5、GPT-4 Turbo到今日的Sora，可以說OpenAI公司正以驚人的迭代速度創造著人工智能的奇跡。

近幾日，筆者仔細翻看網絡上流傳的Sora模型制作的短視頻，高質量的畫面與周圍環境的匹配度無比“絲滑”，即便是筆者也拍不出這個效果。坦率地說，如果讓我們去鑒別其真假，相信大多數人和筆者一樣沒有能力區分。

需要說明的是，從工業化時代到互聯網時代的無數次技術變革所帶來的真假難辨現象，與今天的Sora短視頻在本質上是一樣的，不同的是隨著技術的迭代與升級，鑒別真假的難度越來越高。這就引發了一個具有普遍性的、令人焦慮的問題——Sora之后，我們如何拯救真相？

當真與假的界限崩塌之后

毫無疑問，以Sora模型為代表的人工智能是新一輪科技革命的前奏，隨著應用場景的漸次綻出、新的盈利模式的涌現以及技術迭代的加速，人工智能帶來的科技革命勢不可擋。

其廣闊的商業前景暫且不表，筆者更加關心的是其對社會觀念與群體認知造成的直接沖擊，因為Sora模型所構建的視頻或將直接模糊真與假的界限。再加上日益臨近的現實與虛擬界限的雙向滲透，這一切或將導致整個社會的認知架構崩塌，隨之而來的一系列急劇的連鎖反應可能使人猝不及防。可以說，技術又一次讓人類被動地站在轉變的關口。為此，我們不妨先設想一下當真與假的界限崩塌之后會出現什么情況。

假設詐騙分子掌握了這項技術，利用專門收集的個人信息制作短視頻，視頻中的人、地點、時間全部是真實的，就連聲音也可以通過技術處理，按照腳本設計。比如謊稱受害人遭遇車禍急需打款救治，此時受害者家屬如何鑒別真偽？相比之下，以往的電話詐騙十分低級。再比如政敵/仇家利用虛假的不良短視頻陷害競爭者，公眾如何辨之真假？在這種場景下，“眼見為實”的傳統鑒別標準已經失靈。這類場景還可以列出很多，所有這些潛在危害的實質在于真假界限崩塌所帶來的真相隱遁現象。

如果缺乏相應的強有力的監督機制，未來每個人都有可能成為新技術的受害者，這就是技術發展的吊詭之處：很多人沒有享受到技術帶來的紅利，卻無端承受了技術濫用帶來的不便，比如各種數字技術對于老年人的不友好表現。而真假界限崩塌引發的更為嚴重的問題是，它會摧毀維系社會有序運行的一系列概念與認知框架，并以多米諾骨牌的方式將整個社會推向失范與無序狀態。

眾所周知，所有的社會秩序框架與規則的底層所依托的基本概念大抵有三：真，善，美。其中“真”是最底層的基礎概念，它決定了“善”與“美”的標準的變化方向。換言之，如果真相不存在就會出現事實的建構主義，會導致認識論上的相對主義，而這種相對主義延伸到道德領域就會出現道德相對主義，即否認存在普遍的道德事實。在這種相對主義的主宰下，原本屬于主觀領域的審美就會被扭曲塑造。

具體而言，“真”在社會運行中起著確立信任體系的作用。一個社會的真相越是得到彰顯，其信任體系的半徑就越大，整個社會的交易成本也就越低，反之亦然。此即Sora等人工智能產品模糊真假邊界后，人們會產生普遍性焦慮的深層原因所在，即當矛盾律不再可靠之時，我們該以何種標準判斷世間對錯。

真相的背后尚且有真理作支撐，其標準是恒定的，如2+2=4在什么時候都不會變，但依托真理形成的“善”與“美”的標準是可變的，這就使得一旦真相隱遁，以Sora為代表的短視頻對于后者的沖擊將更為劇烈，甚至可以完全改變特定時代人們對善與美的標準。

在古希臘哲學家亞里士多德看來，美德是一種適中，好的技藝可使人置于良好的狀態，過度和不足都會使人走上惡的道路。比如愛可以使人變得柔和，可以更好地面對生活；但過度的愛會走向占有和嫉妒，不足的愛則會走向冷漠，這些壞的性質取決于人們對中庸的認知，進而影響人的行為。

人們判斷自己的行為是否失格尚且不易，機器所生成的結果更不受人控制。短視頻無數次虛假建構某種極端的行為標準，久而久之人們便會認為那是善的，而這種善的標準可能與我們現行的社會秩序是矛盾的，比如“二十四孝”在中國古代被當作善的典范，而在今天看來這些事例幾乎都是不道德的。

道德真理/道德真相是可以被塑造的。誠如英國思想家赫克托·麥克唐納所言，強大的溝通者可以鼓勵整個群體接受新的道德真理。當下，我們正處在善惡標準的變革期，如果真相以激進的方式消失了，善惡的標準將面臨大洗牌的局面。

同理，美的標準也是會變的。假如Sora產出的短視頻持續推出一種奇怪的美丑標準，人們也會在潤物細無聲的背景下改變對美的認知。如人們對于整容、鉆石、奢侈品等的非理性迷戀多是商家多年廣告營銷的結果，這樣隱蔽的推廣形式以消費主義的姿態出現，更容易確立一種畸形的審美標準。

審美本應是多元化的個體體驗，但如今的大模型憑借其強大的自主學習能力，基于對個人數據的充分掌握，可以實現圍繞個體偏好的精準定向“投喂”，從而以信息繭房的模式塑造一個時代的美丑標準。

審美本應是多元化的個體體驗，但如今的大模型憑借其強大的自主學習能力，基于對個人數據的充分掌握，可以實現圍繞個體偏好的精準定向“投喂”，從而以信息繭房的模式塑造一個時代的美丑標準。這些標準沒有人知道對錯，甚至無人意識到它們的存在，這就使得它們帶來的危害更難被消除。想想歷史上環肥燕瘦的審美標準的變遷，而裹小腳的陋習又戕害了多少女性的一生。

從這個意義上說，拯救真相就是拯救我們的社會秩序及認知。

分布式真相拯救機制

哲學家波普爾在鑒別理論的真假時曾提出過一個概念——逼真度，即兩個理論相比較時逼真度高的理論就是好的理論。在拯救真相的征途上，我們可以有限地借用逼真度這個概念。逼真度之所以有限，是因為未來即便技術專家去鑒別由Sora升級版制作的這些視頻，也不能保證完全可以鑒別出來，只能說他們比普通人的鑒別更可靠一些，也就是逼真度更高一些而已。

因此，從根本上解決真相的隱遁現象，還是要從制度上來考量。例如可以設立第三方機構，由它們推出針對Sora短視頻的輔助鑒別模型，從而形成雙方力量的均衡，這樣從理論上就可以最大限度拯救真相。

但是引入輔助鑒別模型又會帶來兩個潛在問題。

其一，技術的軍備競賽。短視頻生產方會不斷加快技術迭代的速度，從而超越鑒別模型現有的技術水平、引發鑒別模型的升級，如此循環往復。

如果視頻生產方的迭代速度超過鑒別模型的迭代速度，在這個間隔期仍然會存在真相隱遁現象。從過往的歷史經驗看，資本總會跑向生產方以超越監管方，利用時間差賺取超額利潤，這就是技術自身發展無法克服的逐利邏輯。對于大力出奇跡的Sora模型更是如此，不用說，資本骨子里就青睞于大數據、算法與算力這些具有盈利能力的資源。

其二，監督的第三方會帶來無窮倒退的可能性。換言之，如何保證作為第三方的鑒別模型擁有者不會謀取私利？為了防止這種情況的發生，我們又會被迫引入第四方來監督第三方，如果沒有一種暫停機制，這個循環會導致無窮倒退，現實生活中不乏這樣的事例。

鑒于以上種種，筆者建議，為了徹底拯救被技術吞噬的真相，可以采用分布式真相拯救機制，每一方都負起拯救真相的責任，從而全方位捍衛真相，即短視頻生產方推出產品時必須標注真假（可以通過立法強制性要求）；作為監督方的第三方必須履行自身職責，為公眾守護真相；整個社會作為消費者必須承擔起監督與批評的責任（這是全方位、全天候的監督，體現集體智慧），由此，一個分布式的真相拯救鏈條得以確立。

借用英國咨詢專家麥克唐納的名言，這是一個后真相的時代。但是，只要我們未雨綢繆，每一次技術變革所帶來的沖擊終將被人類所化解，所不同的只是成本與代價的大小而已。

◎ 來源|中國科學報