ChatGPT走紅，但也帶來(lái)治理風(fēng)險(xiǎn)

湯景泰

ChatGPT是人工智能發(fā)展史上又一款現(xiàn)象級(jí)產(chǎn)品。此前，人工智能領(lǐng)域曾多次出現(xiàn)過(guò)類似情況。例如，1997年，IBM開發(fā)的深藍(lán)計(jì)算機(jī)在國(guó)際象棋的世紀(jì)大戰(zhàn)中打敗了當(dāng)時(shí)的世界冠軍卡斯帕羅夫；2016年，谷歌開發(fā)的AlphaGo在與世界頂尖棋手李世石的五番對(duì)決中，以4:1的成績(jī)獲勝。

但此次推出的ChatGPT不同點(diǎn)在于，它超越了單一的游戲領(lǐng)域，讓各行各業(yè)的普羅大眾直接領(lǐng)教了一番人工智能的魅力攻勢(shì)。特別是ChatGPT不僅上知天文、下知地理，而且在文本生產(chǎn)、數(shù)據(jù)分析、代碼編寫、圖像生成等多模態(tài)話語(yǔ)領(lǐng)域均體現(xiàn)出讓人驚艷的可靠性、高效性與邏輯性，它以生產(chǎn)力工具的面貌突然出現(xiàn)在大眾面前，也因此產(chǎn)生遠(yuǎn)超以往的社會(huì)震動(dòng)。已有經(jīng)驗(yàn)表明，人總是容易高估一年內(nèi)的短期變化，卻容易低估十年內(nèi)的長(zhǎng)期變化。雖然ChatGPT發(fā)展為成熟的應(yīng)用進(jìn)入普通生活場(chǎng)景，仍需一定時(shí)日，但基于長(zhǎng)期眼光來(lái)看，ChatGPT所帶來(lái)的風(fēng)險(xiǎn)并不會(huì)僅局限在個(gè)體層面，從社會(huì)緯度來(lái)看，這類人工智能產(chǎn)品或?qū)⒔o網(wǎng)絡(luò)社會(huì)治理帶來(lái)前所未有的挑戰(zhàn)。

從內(nèi)容質(zhì)量來(lái)看，“幻覺(jué)”（Hallucination）對(duì)真實(shí)性的污染使得未來(lái)的虛假信息治理面臨更嚴(yán)峻挑戰(zhàn)。所謂“幻覺(jué)”，指的是自然語(yǔ)言處理模型生成自然流暢，語(yǔ)法正確，但實(shí)際上毫無(wú)意義，或包含虛假信息的內(nèi)容，就像人產(chǎn)生幻覺(jué)一樣。作為人工智能領(lǐng)域最先進(jìn)的產(chǎn)品之一，ChatGPT在底層數(shù)據(jù)與核心技術(shù)方面均為世界領(lǐng)先，特別是其核心的人工智能語(yǔ)言大模型在參數(shù)規(guī)模'上已經(jīng)達(dá)到千億級(jí)別，也使其具備優(yōu)秀的意圖識(shí)別與語(yǔ)言理解能力。但是因?yàn)閿?shù)據(jù)質(zhì)量與技術(shù)的限制，它也難以避免幻覺(jué)現(xiàn)象。

幻覺(jué)問(wèn)題導(dǎo)致一些網(wǎng)民在試用時(shí)發(fā)現(xiàn)，ChatGPT在交互中會(huì)生成不少事實(shí)性錯(cuò)誤，有時(shí)對(duì)一些簡(jiǎn)單問(wèn)題也會(huì)一本正經(jīng)地胡說(shuō)八道。Meta公司推出的大型語(yǔ)言模型Galactica主打科學(xué)研究領(lǐng)域的內(nèi)容生成服務(wù)，上線后也被發(fā)現(xiàn)部分生成內(nèi)容失實(shí)，三天后就遭下線。因此，紐約大學(xué)教授蓋瑞?馬庫(kù)斯認(rèn)為，盡管ChatGPT能夠生成合乎語(yǔ)言邏輯的內(nèi)容，但這些內(nèi)容本身并不一定真實(shí)。在隔行如隔山的今天，這種似是而非的內(nèi)容對(duì)非專業(yè)用戶具有極大的迷惑性。再加上隨著現(xiàn)代科學(xué)的蓬勃發(fā)展，科學(xué)技術(shù)的先進(jìn)性與權(quán)威性已經(jīng)深度捆綁，并植入到了大眾的腦海之中。ChatGPT也可以利用這種認(rèn)知慣性，裹挾著科學(xué)之威，在潛移默化中影響對(duì)特定問(wèn)題的社會(huì)認(rèn)知。

從信息生產(chǎn)與傳播角度來(lái)看，ChatGPT還實(shí)現(xiàn)了傳播模式的升級(jí)。就互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)模式而言，無(wú)論是最初的PGC（專家生產(chǎn)內(nèi)容），還是后來(lái)大行其道的UGC（用戶生產(chǎn)內(nèi)容），內(nèi)容生產(chǎn)的主體都是人，但以ChatGPT等為代表的應(yīng)用卻帶來(lái)新的AIGC時(shí)代(AI生產(chǎn)內(nèi)容）。與此前的模式相比，AIGC實(shí)現(xiàn)了傳播主體、內(nèi)容與媒介的深度一體化，標(biāo)志著基于互聯(lián)網(wǎng)的深度媒介化進(jìn)入到一個(gè)新階段。媒介化是一個(gè)宏觀層面上的概念，是對(duì)媒介效果的宏觀社會(huì)效應(yīng)的一種延展，其根本點(diǎn)在于以此概念來(lái)理解媒介所帶來(lái)的復(fù)雜社會(huì)后果。已有研究表明，媒介化是“所有社會(huì)進(jìn)程中的一個(gè)獨(dú)特維度”，媒介化學(xué)派代表性人物弗里德里希?克羅茨甚至將媒介化視為可以塑造交往形態(tài)和歷史進(jìn)程的“元進(jìn)程”。從這個(gè)角度來(lái)看，ChatGPT就不只是作為一種中立性和工具性的中介存在于治理體系之中，而是會(huì)成為不同利益、立場(chǎng)的群體進(jìn)行互動(dòng)的平臺(tái)和交往場(chǎng)域，并以其內(nèi)在的技術(shù)邏輯改造傳統(tǒng)的權(quán)力運(yùn)行邏輯，改變已有的權(quán)力結(jié)構(gòu)，對(duì)現(xiàn)實(shí)社會(huì)中的利益博弈施加內(nèi)在影響，從而產(chǎn)生廣泛且深刻的影響。

例如，雖然ChatGPT仍在試用階段，但眾多社會(huì)從業(yè)者體驗(yàn)之后都感到可能被替代的擔(dān)憂。關(guān)鍵是ChatGPT還處于持續(xù)更新的狀態(tài)中，可以想見，那些擔(dān)憂并非杞人憂天，《人類簡(jiǎn)史》的作者赫拉利所預(yù)言的大規(guī)模“無(wú)用階層”的出現(xiàn)也并非危言聳聽。雖然技術(shù)的每一次更新都會(huì)創(chuàng)造新的勞動(dòng)就業(yè)機(jī)會(huì)，但落到個(gè)體的角度，卻存在各種可能的結(jié)果。由技術(shù)發(fā)展帶來(lái)的系統(tǒng)性、結(jié)構(gòu)性失業(yè)問(wèn)題，對(duì)任何國(guó)家而言，都是不得不防的社會(huì)風(fēng)險(xiǎn)。

這還僅僅是ChatGPT對(duì)勞資若系可能造成的影響。一從技術(shù)麥展的邏輯來(lái)看，賦能會(huì)導(dǎo)向賦權(quán)，ChatGPT延伸了個(gè)體的信息生產(chǎn)與傳播能力，也會(huì)因此激發(fā)社會(huì)行動(dòng)者達(dá)權(quán)通變的意愿，利用相關(guān)技術(shù)與工具拓展各類權(quán)力訴求，這又可能帶來(lái)權(quán)力格局的深度調(diào)整。特別是在國(guó)際緯度，以ChatGPT為代表的人工智能與國(guó)家的信息安全、經(jīng)濟(jì)發(fā)展、社會(huì)穩(wěn)定等問(wèn)題息息相關(guān)，未來(lái)很可能成為大國(guó)競(jìng)爭(zhēng)的戰(zhàn)略工具。屆時(shí)，個(gè)別國(guó)家以其技術(shù)優(yōu)勢(shì)獲得更大的霸權(quán)優(yōu)勢(shì)，將成為全球網(wǎng)絡(luò)治理中的新難題。

在現(xiàn)代社會(huì)，各類新技茉一度被視為“解蔽世界的力量”而被寄予厚望，但歷史卻多次展現(xiàn)了事與愿違的結(jié)果。面對(duì)以ChatGPT為代表的人工智能技術(shù)可能帶來(lái)的治理風(fēng)險(xiǎn)，我們當(dāng)然不能以“用勺子挖運(yùn)河”的思維一禁了之，也沒(méi)必要恐慌焦慮，但是應(yīng)樹立完善的技術(shù)發(fā)展與應(yīng)用觀念，警惕激進(jìn)主義傾向，審慎對(duì)待技術(shù)的采用和相應(yīng)產(chǎn)業(yè)的政策制定，防止技術(shù)在利益的裹挾，下無(wú)序應(yīng)用。（作者是復(fù)旦大學(xué)新聞學(xué)院教授）