對(duì)人工智能火熱發(fā)展的冷思考

朱榮生?王豪

2023年11月2日，首屆人工智能安全峰會(huì)在英國(guó)布萊奇利莊園舉行，峰會(huì)發(fā)布《布萊奇利宣言》。

2月16日，美國(guó)OpenAI發(fā)布文生視頻大模型Sora。從OpenAI官網(wǎng)的介紹來(lái)看，Sora可以根據(jù)人類(lèi)輸入的文字生成播放順暢的虛擬影片。這一文生視頻技術(shù)的進(jìn)步再次激發(fā)了社會(huì)各界關(guān)于人工智能（AI）將對(duì)人類(lèi)社會(huì)產(chǎn)生何種影響的討論。輿論在熱議AI時(shí)代的美好前景同時(shí)，也擔(dān)憂(yōu)人類(lèi)社會(huì)是否有足夠的能力和韌性來(lái)適應(yīng)技術(shù)變革。這種期待與焦慮交織的感受長(zhǎng)期伴隨著人們對(duì)AI技術(shù)發(fā)展及其影響的討論。

文生視頻“GPT3”時(shí)刻的期待與焦慮

在2023年，產(chǎn)業(yè)界研發(fā)的生成視頻模型主要包括Runway的Gen-2、Stability的Stable Video Diffusion、谷歌的Video Poet。這些模型大多僅支持生成時(shí)長(zhǎng)2至20秒的視頻，而Sora突破了當(dāng)前視覺(jué)大模型生成“60秒超長(zhǎng)視頻”的瓶頸。從這一角度看，文生視頻似乎較快進(jìn)入了“GPT3時(shí)代”。

AI技術(shù)將加速迭代，并帶來(lái)社會(huì)效率的提升。360集團(tuán)創(chuàng)始人兼董事長(zhǎng)周鴻祎認(rèn)為，Sora的出現(xiàn)意味著通用人工智能出現(xiàn)的時(shí)間將從十年縮短到一年。有“通用人工智能之父”之稱(chēng)的美國(guó)科學(xué)家本·戈澤爾更加樂(lè)觀(guān)地評(píng)估道，AI即將迎來(lái)指數(shù)級(jí)“智能爆炸”，在未來(lái)三到八年時(shí)間里達(dá)到人類(lèi)智慧的水平。當(dāng)前的文生視頻技術(shù)的賦能性效果可能更多體現(xiàn)在提高工作效率方面，可以通過(guò)算法自主學(xué)習(xí)快速合成影視作品的場(chǎng)景、角色和動(dòng)作，進(jìn)而減少自動(dòng)化剪輯、特效渲染等工作的成本。特別是，文生視頻技術(shù)可以讓缺少經(jīng)驗(yàn)和資源的創(chuàng)作者制作出令人驚嘆的高質(zhì)量視頻。從這一技術(shù)賦能的路徑看，一個(gè)“人人都是影視創(chuàng)作者”的時(shí)代即將到來(lái)。

在顛覆性技術(shù)概念不斷涌現(xiàn)的當(dāng)下，技術(shù)變革所產(chǎn)生的不確定性也催生了某種焦慮情緒。AI大模型從實(shí)現(xiàn)流暢的人機(jī)對(duì)話(huà)到生成視頻的快速發(fā)展，再次觸發(fā)了人們對(duì)新興技術(shù)沖擊部分傳統(tǒng)行業(yè)、加大失業(yè)就業(yè)失衡、加劇虛假信息泛濫等社會(huì)穩(wěn)定方面挑戰(zhàn)的擔(dān)憂(yōu)。從國(guó)家間關(guān)系的角度看，AI“強(qiáng)者先行”的發(fā)展特點(diǎn)也將強(qiáng)化國(guó)際競(jìng)爭(zhēng)壓力。在2024年世界政府峰會(huì)上，英偉達(dá)創(chuàng)始人兼CEO黃仁勛提出“主權(quán)人工智能”（Sovereign AI）的概念。他表示，每個(gè)國(guó)家都需要擁有自己的AI基礎(chǔ)設(shè)施，以便保護(hù)自己的文化和經(jīng)濟(jì)安全。

盡管每個(gè)國(guó)家都有維護(hù)自身“主權(quán)人工智能”利益的需求，但是大國(guó)和小國(guó)因?qū)嵙Φ牟痪饷媾R著不同程度的脆弱性。大國(guó)具有更強(qiáng)的技術(shù)儲(chǔ)備和抗風(fēng)險(xiǎn)能力，能夠在國(guó)際技術(shù)交流網(wǎng)絡(luò)中處于核心地位。相比之下，小國(guó)恐怕會(huì)因缺少足夠的資源而越發(fā)依賴(lài)于大國(guó)的技術(shù)供給，從而在全球AI生態(tài)體系發(fā)展中處于邊緣位置。技術(shù)弱國(guó)可能被動(dòng)性地拉大與技術(shù)強(qiáng)國(guó)的實(shí)力差距，而技術(shù)強(qiáng)國(guó)則可能為了爭(zhēng)奪國(guó)際核心地位而更加奉行過(guò)度安全化的政策。這將進(jìn)一步提高數(shù)字地緣政治競(jìng)爭(zhēng)的烈度，壓縮大國(guó)之間本已有限的關(guān)系緩和空間。

機(jī)器取代人類(lèi)？

自2016年AlphaGo戰(zhàn)勝韓國(guó)圍棋大師李世石以來(lái)，AI技術(shù)發(fā)展在進(jìn)入快車(chē)道的同時(shí)，也引發(fā)了輿論界對(duì)人類(lèi)能否適應(yīng)快速變革的擔(dān)憂(yōu)，更有人甚至提出了帶有科幻色彩的“AI奴役人類(lèi)、取代人類(lèi)”的激進(jìn)論斷。這些言論反映了人們面臨時(shí)代變革所產(chǎn)生的不安全感，大家愈發(fā)迫切地希望在充滿(mǎn)不確定性的未來(lái)中尋找應(yīng)對(duì)諸多挑戰(zhàn)的路徑和方案。

當(dāng)前的文生視頻技術(shù)距離人類(lèi)智能還有較大差距。有技術(shù)專(zhuān)家認(rèn)為，AI技術(shù)不具備人類(lèi)理解和處理復(fù)雜問(wèn)題的能力。圖靈獎(jiǎng)得主、Meta首席AI科學(xué)家楊立昆表示，人工智能模型生成逼真視頻的能力不等同于它可以像人類(lèi)一樣理解世界。他認(rèn)為，目前的AI技術(shù)還難以在理解物理世界中因果關(guān)系的基礎(chǔ)上生成視頻。北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉做出了類(lèi)似的判斷。在他看來(lái)，Sora的核心模型與GPT大語(yǔ)言模型十分相似，都是建立在轉(zhuǎn)換架構(gòu)基礎(chǔ)上的軟件系統(tǒng)，存在無(wú)法深刻理解人文藝術(shù)、道德倫理的技術(shù)障礙。由此來(lái)看，這兩個(gè)AI大模型有較強(qiáng)的學(xué)習(xí)能力，卻遠(yuǎn)未達(dá)到處理復(fù)雜事物的水平。

人們應(yīng)當(dāng)理性看待AI技術(shù)應(yīng)用對(duì)社會(huì)發(fā)展產(chǎn)生的影響。盡管科技界和產(chǎn)業(yè)界對(duì)能夠達(dá)到人類(lèi)智能水平的AI最終走入大眾視野存在樂(lè)觀(guān)預(yù)期，但是當(dāng)前的人工智能技術(shù)還沒(méi)有表現(xiàn)出引發(fā)社會(huì)結(jié)構(gòu)顛覆性變化的效果。從ChatGPT到Sora，AI所發(fā)揮的主要賦能作用是提高用戶(hù)的工作效率，還沒(méi)有達(dá)到“大量機(jī)器取代人類(lèi)就業(yè)”的變革程度。

當(dāng)然，忽視AI技術(shù)失序發(fā)展可能產(chǎn)生的風(fēng)險(xiǎn)是不負(fù)責(zé)任的。美國(guó)計(jì)算機(jī)科學(xué)家未來(lái)學(xué)家雷蒙德·庫(kù)茲韋爾宣稱(chēng)，到2029年，AI的智慧將達(dá)到人類(lèi)的水平，“有人認(rèn)為我的這個(gè)判斷比較保守”。埃隆·馬斯克在社交媒體上轉(zhuǎn)發(fā)了這一評(píng)論，并表示“人工智能明年可能比任何一個(gè)人類(lèi)都聰明，到了2029年，可能比所有人的智慧總和都更聰明”。如果AI依然延續(xù)當(dāng)前通過(guò)不斷疊加算力的“暴力計(jì)算”方式來(lái)提高能力，并且最終實(shí)現(xiàn)超越人類(lèi)的“智能外溢”，那么放縱AI技術(shù)無(wú)限度發(fā)展的潛在風(fēng)險(xiǎn)就是極其巨大的，這就包括機(jī)器可能會(huì)產(chǎn)生自我安全保護(hù)的意識(shí)，進(jìn)而采取擺脫人類(lèi)控制的行動(dòng)，由此控制、奴役甚至消滅人類(lèi)。

從規(guī)制人工智能潛在風(fēng)險(xiǎn)的角度出發(fā)，國(guó)家在維護(hù)“主權(quán)人工智能”利益的同時(shí)，應(yīng)推動(dòng)AI全球治理合作。AI領(lǐng)域的相關(guān)治理攸關(guān)人類(lèi)命運(yùn)，是全球治理面臨的嚴(yán)峻課題。國(guó)際社會(huì)需要重視廣大發(fā)展中國(guó)家在新興技術(shù)浪潮中的脆弱性。技術(shù)強(qiáng)國(guó)不應(yīng)只顧本國(guó)利益而一味采取“脫鉤斷鏈”手段。AI是軍民兩用技術(shù)，就其民用領(lǐng)域來(lái)說(shuō)，引導(dǎo)全球AI行業(yè)健康發(fā)展，實(shí)現(xiàn)“AI向善”，進(jìn)而促進(jìn)AI技術(shù)造福于全人類(lèi)，符合各國(guó)共同利益。而在更為敏感的軍事安全方面，AI的軍事化應(yīng)用越發(fā)引起國(guó)際輿論的關(guān)注。據(jù)國(guó)際媒體報(bào)道，AI技術(shù)已在新一輪巴以沖突中被運(yùn)用，造成平民傷亡。從建構(gòu)人工智能全球安全治理規(guī)則的角度出發(fā)，國(guó)際社會(huì)恐怕需要探索建立某種“有人道的AI”的共同主張，以避免算法定生死釀成的人道主義災(zāi)難。

總之，要推動(dòng)實(shí)現(xiàn)“AI為了人類(lèi)”的目標(biāo)，就需要以人類(lèi)命運(yùn)共同體理念為指導(dǎo)，確立“全球人工智能”的意識(shí)和行動(dòng)，推動(dòng)技術(shù)進(jìn)步與賦能、防風(fēng)險(xiǎn)和國(guó)際規(guī)范制定的統(tǒng)籌并進(jìn)、相得益彰。

（朱榮生為清華大學(xué)戰(zhàn)略與安全研究中心特約專(zhuān)家，王豪為北京理工大學(xué)博士后）