ChatGPT對我國人文社會領(lǐng)域產(chǎn)生的沖擊與應(yīng)對

唐 權(quán),楊書文,張麗穎

(天津財經(jīng)大學(xué) 財稅與公共管理學(xué)院,天津 300222)

著名政治學(xué)家亨廷頓(Samuel P. Huntington)曾指出,“現(xiàn)代性孕育著穩(wěn)定,但其現(xiàn)代化過程卻容易滋生混亂”[1]。雖然生成型預(yù)訓(xùn)練聊天機器人ChatGPT(即Chat Generative Pre-trained Transformer)誕生的時間不長,但其在人文社會領(lǐng)域所產(chǎn)生的影響卻舉世矚目。作為新一代人工智能交互技術(shù),它自2022年11月30日由美國人工智能研究中心(OpenAI)正式發(fā)布以后就贏得了廣大用戶的“追捧”。依托其所具有的聊天、翻譯、做作業(yè)、寫論文、參加考試、編寫代碼、創(chuàng)作詩歌與藝術(shù)、輔助教學(xué)與科研、檢查程序錯誤等方面的強大功能,它在短短的5天、1周、2個月、3個月就分別吸引了100萬、5 700萬、1億、1.23億的用戶,成為全球有史以來用戶增速最快的“革命性”“消費級”“現(xiàn)象級”“生態(tài)級”應(yīng)用程序。隨之而來的,則是各大科技公司搶先登錄與靠岸。2023年2月7日,谷歌公司發(fā)布了下一代人工智能聊天機器人Bard;2月8日,微軟公司整合ChatGPT技術(shù)發(fā)布了搜索引擎Bing與Edge瀏覽器;2 月 24 日,Meta 公司通過發(fā)布LLa MA宣布加入硅谷人工智能競賽;3月16日,百度對標(biāo)ChatGPT正式推出大語言模型“文心一言”;3月22日,Azure Open AI服務(wù)推出 GPT-4預(yù)覽版;而阿里巴巴、京東、華為、騰訊、寺庫、水滴、學(xué)而思、字節(jié)跳動、網(wǎng)易有道、科大訊飛、360、天娛數(shù)科等國內(nèi)外其他互聯(lián)網(wǎng)公司也在蓄勢待發(fā)。基于其所具有的對自然語言輸入的理解與響應(yīng),微軟公司創(chuàng)始人比爾·蓋茨(Bill Gates)認(rèn)為其將“改變世界”,而美國太空探索技術(shù)公司 CEO 埃隆·馬斯克(Elon Musk)則認(rèn)為其“厲害得嚇人”。雖然目前該技術(shù)并未在各個行業(yè)領(lǐng)域廣泛推廣開來,但我們應(yīng)充分發(fā)揮自身的主觀能動性未雨綢繆地防范其所帶來的風(fēng)險。鐘秉林[2]、周洪宇[3]、喻國明[4]等研究者認(rèn)為其具有底層性、突破性、革命性、破壞性乃至顛覆性影響,將對人類社會的知識生產(chǎn)產(chǎn)生巨大沖擊,并波及教育、科技等諸多領(lǐng)域。鑒于近年來實踐領(lǐng)域掀起的“應(yīng)用風(fēng)暴”與理論界掀起的“研究熱潮”,以及ChatGPT技術(shù)有可能在今后對我國各人文社會領(lǐng)域所產(chǎn)生的巨大沖擊,本研究將通過采用文獻(xiàn)薈萃分析法得出其現(xiàn)實應(yīng)用、沖擊領(lǐng)域、應(yīng)對策略。

一、ChatGPT在人文社會領(lǐng)域的現(xiàn)實應(yīng)用

(一)應(yīng)用邏輯

ChatGPT是由美國OpenAI公司基于人工智能技術(shù)及其程序設(shè)計推出的一款基于“聊天+搜索引擎”[5],并以“對話+創(chuàng)作”為基礎(chǔ)的“智能對話工具”“智能對話系統(tǒng)”“人工智能應(yīng)用”或“聊天機器人”[4]。它由Chat(聊天)與GPT(Generative Pre-trained Transformer,即生成式預(yù)訓(xùn)練轉(zhuǎn)換器)這兩部分組成,主要依賴于“類人交互”“海量數(shù)據(jù)”“處理技術(shù)”“內(nèi)容生成”這4個基本構(gòu)成要素。對于“類人交互”,沈書生等將其視為一種以模擬人類交互行為,并直接貼近人類最基本的社會交互需求的“內(nèi)容生成式AI產(chǎn)品”[6];而劉勤則指出它是一種基于自然語言處理,通過運用多種語言以類似人類交際的方式快速應(yīng)答各種問題的智能人機對話系統(tǒng)[7]。對于海量數(shù)據(jù),蔣華林介紹OpenAI 公司為了“培養(yǎng)”它而使用了45 TB數(shù)據(jù)、1萬億個單詞,總計1 351 萬本牛津詞典的詞匯量[8];劉勤認(rèn)為必須在事前“多方收集大量高質(zhì)量的文本數(shù)據(jù)”,并對其進(jìn)行有效篩選、清洗、預(yù)訓(xùn)練、深度學(xué)習(xí)計算[7];而陸偉則指出其不僅覆蓋了歷史多輪對話的“海量數(shù)據(jù)”,而且匯聚全域數(shù)據(jù)及其推理能力的新型信息源[9]。對于處理技術(shù)與內(nèi)容生成,孫偉平將其內(nèi)容生成功能歸結(jié)于大數(shù)據(jù)、云計算、大模型、大算力和大算法的工程性結(jié)合[10];令小雄等將其視為一款通過“GPT-3.5高效設(shè)計架構(gòu)”理解與解讀用戶請求的主力模型[11];而王佑鎂[12]、王樹義[13]、焦建利[14]、劉勤[7]、蔣華林[8]等則指出其采用的是內(nèi)含以人工神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)、人類反饋強化學(xué)習(xí)(Reinforcement Learning from Human Feedback,RLHF)為主的自然語言處理技術(shù)(Natural Language Processing,NLP)、機器學(xué)習(xí)技術(shù)(Machine Learning,ML)、大型語言模型(Large Language Model, LLM)、自然語言生成技術(shù) (Neural Language Generation,NLG) 、人工智能內(nèi)容生成技術(shù) (AI Generated Content,AIGC),并通過多模態(tài)學(xué)習(xí)與適應(yīng)、多輪次人機對話理解與會意、大規(guī)模公開語料存儲與使用、混合Instruct GPT數(shù)據(jù)集撰寫備選答案、幾萬AI訓(xùn)練師對話與排序、增加學(xué)習(xí)獎勵與自主微調(diào)、采取深度學(xué)習(xí)與不斷迭代改進(jìn)的預(yù)訓(xùn)練的“產(chǎn)物”,最終生成符合人類需求與行為習(xí)慣的“具有較高復(fù)雜度的”“更加細(xì)膩與精準(zhǔn)的”“近乎人類自然語言”的“高質(zhì)量回應(yīng)文本”。在這其中,張愛軍還關(guān)注到人類理性、算法控制、數(shù)字運行規(guī)律、存在可計算或能計算對象對人們選用該技術(shù)所產(chǎn)生的重要作用[15];而李書寧則更為系統(tǒng)地將其操作步驟歸納為用戶需求輸入、系統(tǒng)識別語言、進(jìn)行情感分析、拒絕不當(dāng)提問、抽取關(guān)鍵特征、命名實體術(shù)語、修正錯誤輸入、歸類輸入文本、定位查詢索引、算出最好結(jié)果、生成答復(fù)內(nèi)容、選擇輸出形式等[5]。

(二)本質(zhì)特性

鑒于其依賴的構(gòu)成要素,ChatGPT的現(xiàn)實應(yīng)用具有交互性、技術(shù)性、知識性、程序性、自動化、創(chuàng)造性等方面的特征。(1)交互性。該技術(shù)的鮮明特點為類人聊天或人機交互,正如鄧建鵬將其視為根據(jù)用戶提問及其處理、模擬人類聊天行為、使用自然語言進(jìn)行回復(fù)的聊天機器人[16]。(2)技術(shù)性。蔣華林將其核心競爭力歸結(jié)為生成式人工智能(AIGC)[8];而鐘秉林等則將其“獨到技術(shù)”歸結(jié)為采用Transformer 結(jié)構(gòu)和“自回歸+Prompting”的訓(xùn)練模型[2]。(3)知識性。Chat GPT所生成的“高質(zhì)量答案”源自海量數(shù)據(jù)的知識提取,正如李書寧指出其來源于對“大規(guī)模語料庫”的分析處理[5];蔣華林認(rèn)為其具有數(shù)據(jù)采集、整合與挖掘等方面的高維能力[8];而鐘秉林等則指出Transformer 結(jié)構(gòu)的中低層所存儲的詞性句法、中高層存儲的抽象語義與事實概念知識能夠“解鎖”大型語言模型,從而使得人類的知識生產(chǎn)方式由“手動式”“半自動式”向“自動化”“智能化”方向轉(zhuǎn)變[2]。(4)程序性。該技術(shù)及其同類產(chǎn)品以技術(shù)員預(yù)先的設(shè)定程序作為存在前提,正如李書寧指出其“最大特點”在于程序員預(yù)先設(shè)計的“內(nèi)容生成規(guī)則”[5]。(5)自動化。該程序因為程序設(shè)計、智能技術(shù)支撐而擁有自動化處理的特性與功能,正如李書寧等認(rèn)為其因為“無監(jiān)督”或“自監(jiān)督”的預(yù)訓(xùn)練方式而具有自動理解與文本生成能力[5];喻國明認(rèn)為其還可自動化生成圖像、視頻、音頻等內(nèi)容[4];而令小雄等則指出其專有的“自注意力機制”能夠產(chǎn)生“情商加智商”的“高逼真文本”[11]。(6)創(chuàng)造性。鄧建鵬等認(rèn)為其“將顯著改變?nèi)祟惖墓ぷ髋c交互方式,激發(fā)創(chuàng)造力”[16];彭蘭指出大眾的參與將大大拓展其應(yīng)用場景,“激發(fā)一場全民參與的人機協(xié)同創(chuàng)作的運動”[17];張夏恒將其本質(zhì)歸結(jié)為依托核心技術(shù)處理海量數(shù)據(jù)和進(jìn)行深度學(xué)習(xí)所生成的全新的、原創(chuàng)的數(shù)字內(nèi)容[18];而王佑鎂[12]、Taecharungroj[19]則指出其因為采用人類反饋的強化學(xué)習(xí)訓(xùn)練方法而具有“敢于質(zhì)疑”“承認(rèn)錯誤”“承認(rèn)無知”“改進(jìn)答復(fù)”的功能。

(三)治理領(lǐng)域

基于其所具有的強大功能特性,該款人工智能程序及其內(nèi)容生成結(jié)果受到不同領(lǐng)域研究者與實踐者的“青睞”。基于交互性,姜奇平[20]、盧宇[21]等認(rèn)為其能像人一樣根據(jù)上下文進(jìn)行聊天與互動。基于技術(shù)性,鐘秉林認(rèn)為其采用預(yù)訓(xùn)練強化模式所生成的文本及其回應(yīng)更為“善解人意”[2]。基于創(chuàng)造性,陸偉指出其促使過去的“檢索+推薦”內(nèi)容供給方式轉(zhuǎn)變?yōu)椤案兄?檢索+推薦+生成”模式[9];而鄧建鵬[16]、張夏恒[18]等則指出用戶只要輸入指令,就能獲其所需的文字、圖片、代碼、音樂或視頻等內(nèi)容。對于其作用領(lǐng)域,沈書生認(rèn)為其因為與個體發(fā)生聯(lián)系而改變?nèi)藗兊男袨榉绞胶蛯W(xué)習(xí)形態(tài)[6];盧宇指出經(jīng)由該軟件可解決人類社會100%的意外遷移任務(wù)和85%的意外內(nèi)容任務(wù)[21];而蔣華林[8]、沈書生[6]、李書寧[5]、令小雄[11]等則基于其知識生成性影響關(guān)注到它對戀愛、教學(xué)、考試、翻譯、編碼、科研、寫作、求職等各個方面的影響,進(jìn)而影響到人們的日常生活、金融會計、法律醫(yī)療、教學(xué)科研、傳媒藝術(shù)等領(lǐng)域。

(四)功能作用

ChatGPT因其多輪強化訓(xùn)練及其內(nèi)容迭代生成,促使其擁有與以往人工智能不同的強大功能。鄧建鵬[16]、孫偉平[10]等認(rèn)為它與以往功能單一、大多面向特定用戶的人工智能系統(tǒng)不同,能夠通過智能程序生成“創(chuàng)造性內(nèi)容”;沈書生認(rèn)為其不僅可以為用戶提供解決問題的對策建議,還能滿足用戶個性化的需求[6];孫偉平指出其因為大型語言模型的誕生及應(yīng)用而表現(xiàn)出人意料的語言理解與表達(dá)能力,并可在聊天與回答問題方面超過90%以上的人[10];而李書寧則直接將其功能歸納為類人交互、抽取文本內(nèi)容、編寫簡歷推薦、寫作文章意見、繪制圖表、語言翻譯、編寫考題、編寫代碼及其注釋、修復(fù)與精簡代碼、智能推薦信息、進(jìn)行文本分類、數(shù)據(jù)與情感分析、實體識別、語義理解、基礎(chǔ)計算、支持多輪對話與改進(jìn)答復(fù)、拒絕用戶不當(dāng)請求[5]。在此基礎(chǔ)上,朱光輝指出其有望形成“思維革命”,并通過替代人類創(chuàng)作、創(chuàng)意、解答、咨詢、翻譯和客服等來重塑各行業(yè)領(lǐng)域生態(tài)乃至整個世界[22];令小雄認(rèn)為其在“公正客觀的文本規(guī)訓(xùn)”中養(yǎng)成更好的“理解語境”的能力,而其升級與更新?lián)Q代則將創(chuàng)造“普遍文字”“超級算力”乃至打造“數(shù)字共同體”[11]。

二、ChatGPT對人文社會產(chǎn)生的現(xiàn)實沖擊

技術(shù)進(jìn)步是一把“雙刃劍”。如運用得當(dāng),該技術(shù)能夠造福人類,正如朱光輝指出其在生產(chǎn)知識方面能夠節(jié)約資源、創(chuàng)新創(chuàng)造、推動產(chǎn)業(yè)升級、大幅提質(zhì)增效[22];而張夏恒則指出其具有解放生產(chǎn)力、變革生產(chǎn)關(guān)系、創(chuàng)新商業(yè)模式、驅(qū)動產(chǎn)業(yè)轉(zhuǎn)型、催生應(yīng)用場景等功能[18]。雖然如此,現(xiàn)有技術(shù)的不成熟、用戶使用不當(dāng)、監(jiān)管體系不健全也會促使其對教育管理、知識生產(chǎn)、信息安全、商業(yè)就業(yè)等人文社會領(lǐng)域產(chǎn)生巨大沖擊。

(一)影響教育管理

鑒于教育領(lǐng)域生產(chǎn)與傳播知識的行業(yè)特性,現(xiàn)有的大多數(shù)研究者都比較關(guān)注其對教育行業(yè)產(chǎn)生的影響。(1)正面影響。王佑鎂等將其對教育工作的賦能歸結(jié)為提升教學(xué)的完成度與創(chuàng)意、增強數(shù)字導(dǎo)師的角色互動、提高自適應(yīng)學(xué)習(xí)系統(tǒng)的易用性與精準(zhǔn)度、促進(jìn)教學(xué)方式的智慧化與創(chuàng)造性、支持教學(xué)反饋評價的生成與個性化[12];沈書生認(rèn)為它使得師生擁有助推教學(xué)、科研評價或解決問題的“復(fù)合腦”,也即外加的數(shù)腦(存儲數(shù)據(jù))、匯腦(整合數(shù)據(jù))、智腦(創(chuàng)造數(shù)據(jù))[6];朱光輝[22]、周洪宇[3]、張志禎[23]等將其帶來的“技術(shù)紅利”歸納為勝任助教學(xué)伴、減負(fù)增效、設(shè)計教學(xué)大綱、陳列知識體系、生成課程材料、豐富教學(xué)內(nèi)容、模擬教學(xué)課堂、采取游戲教學(xué)、敏捷靈活教學(xué)、推薦閱讀材料、生成學(xué)習(xí)材料、進(jìn)行個性化輔導(dǎo)、提供對話練習(xí)、支持學(xué)生科研、協(xié)助創(chuàng)意寫作、評估考核測驗、翻譯語言內(nèi)容、練習(xí)復(fù)習(xí)備考、幫助解決問題、幫助寫作論文、提供職業(yè)指導(dǎo)、協(xié)助時間管理、協(xié)助家庭作業(yè)、多元協(xié)同創(chuàng)作、給予實時反饋、用于自我反思與評價等。(2)負(fù)面影響。現(xiàn)有研究在闡述其正面功能的同時,也關(guān)注其“自帶風(fēng)險”。鐘秉林[2]、張志禎[23]認(rèn)為其所提供的信息不準(zhǔn)確,不利于建立人際互動關(guān)系和培養(yǎng)同理心、創(chuàng)造力、批判性思維;沈書生[6]、周洪宇[2]等更為關(guān)注其技術(shù)異化風(fēng)險,也即知識異化、學(xué)習(xí)主體異化、教學(xué)過程異化、數(shù)字社會倫理異化、數(shù)字教育治理異化等;王樹義[13]、焦建利[14]等則指出它很有可能是一種內(nèi)含“學(xué)術(shù)抄襲”“考試作弊”“逃避學(xué)習(xí)”在內(nèi)的“高科技剽竊”方式。

(二)沖擊知識生產(chǎn)

除了影響傳播知識的教育管理領(lǐng)域以外,該技術(shù)還對內(nèi)含科學(xué)研究、知識產(chǎn)出、產(chǎn)權(quán)維護(hù)等在內(nèi)的整個知識生產(chǎn)過程帶來巨大沖擊。對于科學(xué)研究,王樹義認(rèn)為將其應(yīng)用于科研將產(chǎn)生很多未經(jīng)思考或檢驗的數(shù)據(jù)污染,進(jìn)而難以確保其答復(fù)的真實性與準(zhǔn)確性[13];張夏恒則指出將其應(yīng)用于學(xué)術(shù)論文撰寫之中容易招致抄襲剽竊、數(shù)據(jù)與實驗造假等學(xué)術(shù)不端行為[18];焦建利認(rèn)為其有可能因為科研人員的濫用而生成有違學(xué)術(shù)倫理與誠信的虛假信息乃至騙局[14];令小雄認(rèn)為它無法解決蘊含其中的大量倫理問題,而其不當(dāng)使用將導(dǎo)致人們面臨著包括道德判斷、數(shù)據(jù)泄漏、學(xué)術(shù)抄襲等在內(nèi)的不負(fù)責(zé)任的倫理風(fēng)險與社會后果[11];蔣華林認(rèn)為其在加速科學(xué)研究、解放知識生產(chǎn)者、促使知識生產(chǎn)“自動化”“智能化”的同時,也面臨著遮蔽學(xué)術(shù)演化史、影響科研評價、挑戰(zhàn)知識產(chǎn)權(quán)制度、影響成果權(quán)屬認(rèn)定、侵犯學(xué)術(shù)倫理道德、影響科研評價生態(tài)、沖擊人才評價標(biāo)準(zhǔn)與客觀性等方面的問題[8]。跟隨“技術(shù)濫用”而來的,則是侵犯知識產(chǎn)權(quán)歸屬或?qū)е掳鏅?quán)糾紛。陸偉指出目前國內(nèi)外并未對其生成內(nèi)容的所有權(quán)做出明確的法律規(guī)定[9];朱光輝等認(rèn)為其有可能因為在未經(jīng)授權(quán)的圖片或文字上進(jìn)行創(chuàng)作而引發(fā)“知識產(chǎn)權(quán)糾紛問題”[22];叢立先認(rèn)為數(shù)據(jù)是其“發(fā)動機”和迭代進(jìn)化的“重要支撐”,而其內(nèi)容生成很有可能因為對數(shù)據(jù)的重組與使用面臨著數(shù)據(jù)挖掘、內(nèi)容生成、內(nèi)容使用這三個方面的版權(quán)風(fēng)險[24];鄧建鵬[16]、張夏恒[18]指出其因為“無監(jiān)管式”挖掘數(shù)據(jù)、信息來源與倫理道德過濾機制的缺失,往往面臨著知識產(chǎn)權(quán)爭議、數(shù)據(jù)來源合法性、生成不良或違法信息等方面的風(fēng)險;而令小雄則明確指出其有可能引發(fā)署名權(quán)之爭[11]。

(三)影響信息傳播安全

除知識生產(chǎn)和傳播領(lǐng)域之外,該技術(shù)所擁有的強大的算法處理和學(xué)習(xí)反饋強化能力也對信息傳播安全產(chǎn)生至關(guān)重要的影響。陸偉等認(rèn)為其強化學(xué)習(xí)模型能夠過濾掉仇恨、歧視、涉暴、涉恐等不當(dāng)?shù)膬?nèi)容信息[9];郭全中指出其強大的NLP處理能力能夠準(zhǔn)確分析與判斷語義多元、語法特殊、寓意隱晦的文本內(nèi)容,而持續(xù)的用戶互動與不斷反饋又能增強其內(nèi)容理解和生成能力[25];李書寧等認(rèn)為其會助推館員成長、提升工作效率、助推咨詢服務(wù)智能化、推動知識服務(wù)深入發(fā)展、改善用戶檢索體驗、提升資源檢索的準(zhǔn)確與有效性[5];而喻國明則認(rèn)為其將激發(fā)傳播領(lǐng)域的“生態(tài)級”變局,也即基于信息、個體、連接這三個方面穿透社會網(wǎng)絡(luò)資源壁壘、賦能賦權(quán)個體認(rèn)知與信息傳播、推動智能互聯(lián)轉(zhuǎn)型、實現(xiàn)人類語義智能化和構(gòu)造數(shù)字文明社會[4]。雖然如此,其不當(dāng)使用也會導(dǎo)致信息安全問題。令小雄[11]、王樹義[13]指出它很有可能因為編程偏差等“技術(shù)盲區(qū)”而傳播未經(jīng)思考的、錯誤虛假的、侵犯個人隱私的、有失道德倫理的數(shù)據(jù)信息或決策建議;張夏恒[18]、陸偉[9]等認(rèn)為其很有可能因為科技倫理道德計算、用戶使用保護(hù)條款及其警惕性等方面的缺失而生成高可信釣魚郵件、真假難辨或偏見信息、侵犯與盜取個人隱私、造成社交網(wǎng)絡(luò)攻擊,而經(jīng)由互聯(lián)網(wǎng)所產(chǎn)生的大規(guī)模數(shù)據(jù)聚集與跨境流動又容易產(chǎn)生數(shù)據(jù)外泄乃至失去國家技術(shù)主控權(quán);焦建利指出其還有可能生成“不良”或“有毒”信息[14];更有甚者,鐘秉林等指出其很有可能是一臺一本正經(jīng)地胡說八道的“聊天機器人”[2]。

(四)改變商業(yè)就業(yè)領(lǐng)域

ChatGPT基于數(shù)據(jù)信息這一關(guān)鍵的投入與產(chǎn)出要素,還將極大地改變商業(yè)管理與勞動力就業(yè)市場的內(nèi)在結(jié)構(gòu)。對于商業(yè)管理領(lǐng)域,張夏恒指出其將拉動人工智能產(chǎn)業(yè)的發(fā)展、促使生產(chǎn)關(guān)系變革、創(chuàng)新創(chuàng)造多種商業(yè)模式、不斷拓展與豐富應(yīng)用場景、極大地釋放社會生產(chǎn)力,在廣告、營銷、電商、建筑等領(lǐng)域催生出具有創(chuàng)造性的經(jīng)營活動,促使生命科學(xué)、新型材料、航空航天等新興科技領(lǐng)域的快速發(fā)展,以及進(jìn)一步加快算力、算法、芯片、集成電路等網(wǎng)絡(luò)軟硬件技術(shù)設(shè)施行業(yè)的發(fā)展[18]。對于勞動力市場結(jié)構(gòu),劉勤指出會計人員可以利用其分析和判斷經(jīng)營活動、快速高效地處理數(shù)據(jù)、組織和管理會計工作、應(yīng)對財務(wù)風(fēng)險與提高工作效率[7];而朱光輝等則認(rèn)為其能節(jié)約資源能源、解放數(shù)億勞動力、生產(chǎn)大幅提質(zhì)增效、提高企業(yè)競爭力、擁有更多消費者、滿足更多消費需求、實現(xiàn)經(jīng)濟的可持續(xù)發(fā)展[22]。該技術(shù)在催生新的商業(yè)領(lǐng)域及其工作崗位的同時,也給現(xiàn)有勞動力市場帶來重構(gòu)、取代甚至消滅性的影響。正如孫偉平[10]、蔣華林[8]等認(rèn)為基于其高新科技物種、出色完成工作任務(wù)與不斷迭代升級將導(dǎo)致“技術(shù)性失業(yè)潮”,并由替代低級重復(fù)的體力勞動轉(zhuǎn)變?yōu)樘娲呒墝儆谌祟惖哪X力勞動,以及逐步表現(xiàn)出超出一般勞動能力的發(fā)展趨勢。

三、ChatGPT對人文社會沖擊的應(yīng)對策略

組織制度和技術(shù)進(jìn)步是促使現(xiàn)代組織變革和社會變遷的兩種主要力量,正如周洪宇等指出:人類社會已經(jīng)進(jìn)入精神世界、物質(zhì)世界、數(shù)字世界相互依存、互相合作、共同進(jìn)化的時代[3]。基于其強大的人工智能機器屬性,可采用正確認(rèn)知和行為規(guī)制、技術(shù)規(guī)訓(xùn)與組織治理、自主規(guī)約與制度規(guī)治相結(jié)合的綜合治理策略來應(yīng)對這場具有“顛覆性”的數(shù)字技術(shù)變革“洪流”。

(一)樹立正確認(rèn)知

人們的意識決定其行為,我們應(yīng)正確認(rèn)知其利弊與治理優(yōu)劣勢。(1)正確看待技術(shù)發(fā)展及其應(yīng)用趨勢。蔣華林等指出人類社會“信息化”“智能化”發(fā)展不可逆轉(zhuǎn)[8];孫偉平指出生產(chǎn)和服務(wù)的信息化、自動化、智能化發(fā)展浪潮洶涌澎湃[10];而鐘秉林則指出,“縱觀人類歷史,即使技術(shù)具有一定風(fēng)險,但只要是‘可控的’‘能夠提高生產(chǎn)效率的’,最后都會被人類社會所使用”[2]。(2)樹立積極主動的技術(shù)風(fēng)險應(yīng)對態(tài)度。鐘秉林認(rèn)為我們沒必要夸大其“潛能”,將其“神化”或視為“洪水猛獸”皆不可取[2];而蔣華林則指出“人是萬物的尺度”,人們應(yīng)在思想上基于其滲透性、顛覆性采取主動積極面對的態(tài)度[8]。(3)正視其技術(shù)本質(zhì)與功能作用。雖然有人擔(dān)心人類社會因此產(chǎn)生技術(shù)“異化”或“物化”的結(jié)果,但幾乎所有的研究者都認(rèn)為其本質(zhì)上是一種為人類所用的技術(shù)工具。周洪宇等認(rèn)為它是由人類創(chuàng)造發(fā)明的,其本質(zhì)是人類改造社會的“產(chǎn)物”[3]; 蔣華林認(rèn)為其智能水平是人賦予的,而其替代性也只能建立在“數(shù)據(jù)化”和“邏輯化”人類勞動的基礎(chǔ)之上[8];彭蘭指出人是機器的“駕馭者”“檢修者”或“學(xué)習(xí)模板”,并擁有更強的“判斷”與“糾錯”能力[17];鐘秉林認(rèn)為它僅作為教育主體生命的一種外在的“技術(shù)形式”,改變不了教育的本質(zhì)[2]。(4)秉持趨利避害與揚長避短的應(yīng)用態(tài)度。劉勤認(rèn)為未來我們應(yīng)該采取合作共生、智能增強、數(shù)據(jù)驅(qū)動、靈活適應(yīng)、可持續(xù)發(fā)展的特點的人機協(xié)同共生治理模式[7];鐘秉林認(rèn)為人們應(yīng)充分認(rèn)識該技術(shù)本身所具有的弱人工智能、通過學(xué)習(xí)訓(xùn)練進(jìn)行進(jìn)化、依賴大數(shù)據(jù)集、支撐模型的功能局限,并在后工業(yè)社會打造自身核心競爭力并釋放“技術(shù)紅利”[2];鄧建鵬[16]、張夏恒[18]等認(rèn)為人們應(yīng)該“謹(jǐn)慎”并“樂觀”地?fù)肀Э萍?正確對待科技進(jìn)步背后的潛在風(fēng)險,并借助其類人性與高智能為人們的生產(chǎn)生活提供便利;周洪宇等指出技術(shù)與教育并非對立關(guān)系,應(yīng)在新的人機社會分工體系中找準(zhǔn)自身定位,通過教育培訓(xùn)和充分利用數(shù)字技術(shù)更好地為人類工作“增智賦能”,以及通過人與智能技術(shù)的互補協(xié)作、雙向耦合、共同治理、高度融合來實現(xiàn)技術(shù)“適應(yīng)”及其“超越”的重大使命[3];周洪宇[3]、沈書生[6]等認(rèn)為學(xué)校應(yīng)該促使學(xué)生構(gòu)建“復(fù)合腦”和培養(yǎng)“復(fù)合性”人才,并樹立“思維比知道重要、問題比答案重要、邏輯比羅列重要”的教學(xué)評價思維;而蔣華林[8]、孫偉平[10]、令小雄[11]、張志禎[23]則指出廣大教師應(yīng)該培養(yǎng)學(xué)生們的數(shù)字意識、獨立思考、審慎判斷、好奇想象、情感愿望、價值信念、文化素養(yǎng)、靈機應(yīng)變、解決問題、注重倫理、學(xué)習(xí)批判、適應(yīng)合作、創(chuàng)新創(chuàng)造、終身學(xué)習(xí)的能力,而將那些重復(fù)單調(diào)、危險有害的工作交給智能系統(tǒng)。

(二)技術(shù)干預(yù)修正

作為人類創(chuàng)造的智能產(chǎn)物,高技術(shù)所產(chǎn)生的應(yīng)用風(fēng)險依然可通過研發(fā)新技術(shù)來防治。(1)通過公開其智能生成邏輯來提高人們的認(rèn)知。張愛軍指出應(yīng)通過創(chuàng)建公開且透明的算法體制、遵循客觀且簡潔的推薦準(zhǔn)則、打造開放與和諧的算法平臺來削弱其算法的“舒適圈”對受眾所產(chǎn)生的影響[15];而令小雄[11]、蔣華林[8]等則指出應(yīng)推動其技術(shù)“開源”,通過公開其算法與生成邏輯來揭開技術(shù)應(yīng)用“黑箱”和提高技術(shù)認(rèn)知的可信度。(2)采取技術(shù)干預(yù)之法進(jìn)行修正。喻國明指出應(yīng)在給予其成長空間的基礎(chǔ)上進(jìn)行干預(yù)和修正,通過注重智能算法模型的“賦魂”機制來確保其可知、可控與向善發(fā)展[4];王佑鎂等認(rèn)為技術(shù)企業(yè)應(yīng)通過不斷優(yōu)化升級或加快技術(shù)革新來治理其自身所存在的技術(shù)缺陷[12];劉勤認(rèn)為應(yīng)采取優(yōu)化工作流程、加強任務(wù)有效分配、持續(xù)訓(xùn)練和優(yōu)化機器學(xué)習(xí)模型、適時調(diào)整和優(yōu)化算法、關(guān)注與處理特殊情況的技術(shù)管理舉措[7];叢立先主張通過研發(fā)與使用內(nèi)含基于密碼技術(shù)和基于數(shù)字水印的版權(quán)管理技術(shù)(DRM,全 稱 Digital Rights Management)來防治其侵權(quán)風(fēng)險[24];張夏恒主張根據(jù)技術(shù)特點提前布局,通過技術(shù)企業(yè)研發(fā)的AI 甄別工具、內(nèi)容檢測系統(tǒng)及其不斷迭代升級來實現(xiàn)以“算法治理算法”“AI治理AI”的技術(shù)善治目標(biāo)[18];而令小雄還認(rèn)為應(yīng)該采取提升數(shù)據(jù)質(zhì)量、仔細(xì)選擇訓(xùn)練數(shù)據(jù)集、更新迭代訓(xùn)練模型、強化專業(yè)問題認(rèn)知、使用正則與交叉驗證技術(shù)、加強深度學(xué)習(xí)與理解篩選能力、克服語言文化誤差、提高模型道德性與倫理識別能力、促使算法轉(zhuǎn)變?yōu)椤皵?shù)字看門人”等舉措來防治其應(yīng)用風(fēng)險[11]。(3)全面突破技術(shù)研發(fā)與自主掌控瓶頸。就總的技術(shù)研發(fā)上看,鐘秉林認(rèn)為其技術(shù)瓶頸雖有一定突破,但尚未達(dá)到全面程度[2]。就我國技術(shù)而言,張夏恒[18]、周洪宇[3]等認(rèn)為應(yīng)該通過加大投入、重視產(chǎn)業(yè)發(fā)展、動員第三方機構(gòu)自主研發(fā)“中國版”的ChatGPT及其可控技術(shù),來夯實我國人工智能技術(shù)體系并掌握全球數(shù)字競爭主動權(quán)。

(三)加強自主規(guī)約

鑒于其所擁有的高級思維、主觀能動和倫理道德性,人工智能技術(shù)用戶與企業(yè)應(yīng)自主加強其技術(shù)規(guī)約性。(1)用戶應(yīng)自主培養(yǎng)其技術(shù)使用的道德判斷意識。令小雄指出人們應(yīng)基于其所增加的倫理風(fēng)險而加強“內(nèi)部規(guī)約”或強化“道德判斷”,強化其信息甄別能力[11];(2)著重提升個人的數(shù)字技術(shù)使用素養(yǎng)。周洪宇指出教學(xué)雙方應(yīng)在享受技術(shù)便利的同時避免淪為其“附庸”[3]。也即,教師應(yīng)樹立正確的使用觀、提高數(shù)字意識、增強數(shù)字勝任力、提高終身學(xué)習(xí)能力,而學(xué)生則應(yīng)摒棄技術(shù)萬能觀念、提高其自主可控意識、提高信息篩選與數(shù)字應(yīng)用能力、利用技術(shù)優(yōu)勢激發(fā)其創(chuàng)新創(chuàng)造能力。(3)秉持揚長避短的原則充分發(fā)揮雙方特長。鐘秉林指出教師比技術(shù)更加“智能”并能擔(dān)負(fù)教育倫理的責(zé)任,而優(yōu)秀學(xué)生則會利用其查閱資料、解決問題與提高作業(yè)質(zhì)量[2];而周洪宇則認(rèn)為教師應(yīng)秉持“當(dāng)用則用,操縱適宜”的原則利用其探索未知與尋找發(fā)現(xiàn),而學(xué)生則應(yīng)促使其成為個人發(fā)展的“義肢”[3]。(4)采取平臺或行業(yè)自治模式。叢立先認(rèn)為具有一定自治能力的平臺應(yīng)從“治理受體”轉(zhuǎn)變?yōu)椤爸卫碇黧w”,通過采用類似YouTube 平臺的內(nèi)容識別(Content Id)與版權(quán)監(jiān)視(Copyright Watch)工具來篩查其侵權(quán)內(nèi)容[24];鄧建鵬等指出技術(shù)公司應(yīng)通過研發(fā)自測模型與信息源比照系統(tǒng)、設(shè)置用戶質(zhì)疑和辟謠機制、加強倫理道德認(rèn)知訓(xùn)練以及踐行合規(guī)經(jīng)營制度來防治其虛假的、不良的內(nèi)容信息[16];周洪宇認(rèn)為應(yīng)該由“政府”和“行業(yè)協(xié)會”牽頭,以用戶作為遵循技術(shù)使用倫理的義務(wù)主體,通過加強多元利益相關(guān)主體的對話交流、務(wù)實合作和構(gòu)建數(shù)字命運共同體來抵御其“潛藏危害”[3];而張夏恒則指出各方都應(yīng)明確其角色、任務(wù)與責(zé)任,堅守依法使用的思維與道德底線[18]。

(四)加強外部規(guī)治

人們的行為選擇與外部環(huán)境是相互影響、互相作用的,應(yīng)通過加強組織管理和制度建設(shè)來規(guī)治理性個體的行為。喻國明指出我們應(yīng)建立“算法失靈”的社會補充以及“算法脫軌”的干預(yù)機制[4];而彭蘭則指出人類社會理應(yīng)在人機同行的征途中始終作為“機器導(dǎo)航”的“核心準(zhǔn)則”,通過不時校準(zhǔn)其目標(biāo)和及時踩剎車來防治技術(shù)濫用的風(fēng)險[17]。(1)加快出臺防治技術(shù)濫用的政策法規(guī)。依法治國是黨領(lǐng)導(dǎo)人民治理國家的基本方略,幾乎所有研究都指出要通過完善現(xiàn)有的法制體系來防治不當(dāng)信息和抵御技術(shù)濫用風(fēng)險。張夏恒指出歐盟已發(fā)布對新型智能系統(tǒng)實施“前瞻性”治理的《人工智能法》,我國也應(yīng)加快其法制建設(shè)進(jìn)程[18];張夏恒指出應(yīng)不斷完善新一代人工智能領(lǐng)域的立法工作,盡快修訂與之相關(guān)的著作權(quán)法、商標(biāo)專利法、數(shù)據(jù)安全法、電子商務(wù)法、網(wǎng)絡(luò)安全法等[18];蔣華林指出應(yīng)通過不斷完善倫理規(guī)范和管理制度,以及深入貫徹落實國家發(fā)布的《新一代人工智能倫理規(guī)范》[8];而令小雄[11]、周洪宇等則認(rèn)為應(yīng)在社會層面大力推動數(shù)據(jù)保護(hù)、隱私保密等相關(guān)法律法規(guī)的不斷完善,以及建立健全審核學(xué)術(shù)不端行為的問責(zé)機制[3]。(2)加大技術(shù)正當(dāng)使用的宣傳與教育培訓(xùn)力度。令小雄等認(rèn)為現(xiàn)階段的解決方案依然是通過加大宣傳與教育培訓(xùn)來促使用戶認(rèn)識技術(shù)使用的局限性或提高其數(shù)字素養(yǎng)[11];而周洪宇則指出應(yīng)加快制定一般的倫理準(zhǔn)則與法律法規(guī)來避免“道德失范”,以及通過加強數(shù)字倫理研究、將其納入課程建設(shè)、加強數(shù)字倫理培育來鞏固技術(shù)使用的道德自律[3]。(3)通過管理設(shè)計來防治技術(shù)濫用風(fēng)險。焦建利認(rèn)為學(xué)校不能“簡單粗暴地”禁止學(xué)生使用該技術(shù),并指出一些學(xué)校已經(jīng)通過調(diào)整教學(xué)活動、重新設(shè)計教學(xué)評估乃至采用 DetectGPT檢測程序來防治學(xué)生將其用于代寫作業(yè)和考試作弊[14];王佑鎂[12]等指出教育部門應(yīng)采取宜疏不宜堵的管理舉措,例如加大誠信教育、改進(jìn)教學(xué)方式、設(shè)定教學(xué)期望、明確教學(xué)方針、追蹤教學(xué)進(jìn)度等;而鐘秉林等則指出高校應(yīng)建立人工智能輔助教學(xué)的倫理評價機制,并通過施行代表作制度來堅守科學(xué)“正”與“善”的價值。(4)采取法治與多元利益主體合作共治的方式。叢立先等指出司法裁判應(yīng)合理利用其裁量空間,以及適當(dāng)發(fā)揮其對破壞市場公平競爭的監(jiān)管作用[24];而張夏恒[18]則指出應(yīng)加快建設(shè)多方及時響應(yīng)的協(xié)同監(jiān)管系統(tǒng),以便防治各類應(yīng)用風(fēng)險和處置各種違法違規(guī)行為。更有甚者,鐘秉林[2]、陸偉[9]、令小雄[11]、焦建利[14]、張夏恒[18]、朱光輝[22]等研究者都提及國內(nèi)外部分學(xué)校、學(xué)術(shù)期刊、教育部門限制乃至禁用ChatGPT的事例。此外,部分學(xué)者還關(guān)注到建立健全社會保障機制的重要性。例如,陳永偉[26]、張夏恒[18]等認(rèn)為應(yīng)該通過提供再就業(yè)培訓(xùn)服務(wù)、加強青年人職業(yè)規(guī)劃、促進(jìn)新就業(yè)形式發(fā)展、建立終身學(xué)習(xí)與培訓(xùn)體系、借助金融工具減輕失業(yè)負(fù)擔(dān)、做好社會兜底保障工作來防治技術(shù)性失業(yè)帶來的風(fēng)險。

四、結(jié)語

鑒于內(nèi)容生成式人工智能技術(shù)“ChatGPT”對人文社會各個領(lǐng)域產(chǎn)生的顛覆性影響,現(xiàn)有研究已對其現(xiàn)實應(yīng)用、沖擊與應(yīng)對策略作了諸多有益探討,進(jìn)而形成了一系列有益的學(xué)術(shù)成果。未雨綢繆,我們還應(yīng)正視存在的不足來促使其為人類社會謀福利。也即,該項人工智能技術(shù)存在理解有限、形式簡單、情感缺失、數(shù)據(jù)輸入局限、系統(tǒng)部署局限、知識結(jié)構(gòu)局限、算法處理限制、缺乏人類互動、以自然語言文本處理為前提、無法培養(yǎng)批判性思維與研究解決問題能力等方面的問題,為此,人們當(dāng)下與未來的使命在于秉持趨利避害的原則研發(fā)各領(lǐng)域切實有效的具體防控舉措。