生成式人工智能技術(shù)對(duì)高等教育的挑戰(zhàn)

[摘要]以ChatGPT為代表的生成式人工智能在教育領(lǐng)域的快速發(fā)展，隨之帶來(lái)的各種潛在風(fēng)險(xiǎn)也引起了教育界的高度重視，如濫用ChatGPT生成內(nèi)容導(dǎo)致的潛在倫理風(fēng)險(xiǎn)、生成內(nèi)容可靠性難以甄別智能、使用者隱私和信息安全存在風(fēng)險(xiǎn)等。為了規(guī)范生成式人工智能技術(shù)在教育領(lǐng)域的應(yīng)用，推進(jìn)教育數(shù)字化轉(zhuǎn)型和教育高質(zhì)量發(fā)展，探究生成式人工智能技術(shù)對(duì)高等教育的挑戰(zhàn)成為加強(qiáng)規(guī)范其應(yīng)用和管理的重點(diǎn)。

[關(guān)鍵詞]ChatGPT；生成式人工智能；高等教育；挑戰(zhàn)

[中圖分類(lèi)號(hào)]TP18；G64? ? ? [文獻(xiàn)標(biāo)識(shí)碼]A

[DOI]：10.20122/j.cnki.2097-0536.2023.11.041

一、以ChatGPT為代表的生成式人工智能對(duì)高等教育的影響

2023年2月，中共中央、國(guó)務(wù)院印發(fā)的《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》強(qiáng)調(diào)要大力推行國(guó)家教育數(shù)字化戰(zhàn)略行動(dòng)，促進(jìn)數(shù)字技術(shù)在教育領(lǐng)域的創(chuàng)新應(yīng)用。黨的二十大報(bào)告也明確了要推進(jìn)教育數(shù)字化，使教育教學(xué)與信息技術(shù)進(jìn)一步融合，加快教育數(shù)字化轉(zhuǎn)型。2023年2月13日，關(guān)于“數(shù)字變革與教育未來(lái)”的世界數(shù)字教育大會(huì)是推進(jìn)教育數(shù)字化轉(zhuǎn)型的重要舉措。

教育數(shù)字化轉(zhuǎn)型是為了適應(yīng)當(dāng)今數(shù)字技術(shù)發(fā)展的必然趨勢(shì)，也是推進(jìn)教育高質(zhì)量發(fā)展的有效方式，推進(jìn)教育數(shù)字化轉(zhuǎn)型已經(jīng)成為世界各國(guó)的共識(shí)與趨勢(shì)。近年來(lái)，世界各國(guó)都在加快人工智能在高等教育領(lǐng)域的布局，以智能技術(shù)驅(qū)動(dòng)教育理念的更新、教育模式的變革和教育體系的重構(gòu)[1]。人工智能技術(shù)早已潛移默化地融入教學(xué)中，而以ChatGPT為代表的生成式人工智能的問(wèn)世以及其帶來(lái)的各種潛在風(fēng)險(xiǎn)仍在教育界引起了軒然大波，也從側(cè)面印證了教育數(shù)字化轉(zhuǎn)型的緊迫性和必要性。

ChatGPT（Chat Generative Pre-trained Transformer，即聊天生成式預(yù)訓(xùn)練模型）是一款由美國(guó)人工智能研究公司OpenAI開(kāi)發(fā)的人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，使用了Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu)，通過(guò)連接大量的語(yǔ)料庫(kù)來(lái)訓(xùn)練模型，擁有接近人類(lèi)水平的語(yǔ)言理解和文本生成能力，具有出色地回答各種復(fù)雜問(wèn)題答案、撰寫(xiě)視頻文案、編輯代碼等能力。ChatGPT可以通過(guò)自然語(yǔ)言交流，根據(jù)多輪次的對(duì)話互動(dòng)，通過(guò)推理指令之間的關(guān)聯(lián)性，實(shí)現(xiàn)用戶學(xué)習(xí)和工作上的多種要求，人們可以直觀地體會(huì)到生成式人工智能技術(shù)對(duì)于工作和學(xué)習(xí)效率的提升。據(jù)在專(zhuān)業(yè)考試方面的測(cè)試顯示，ChatGPT基本可以通過(guò)谷歌L3級(jí)軟件工程師水平測(cè)試、美國(guó)執(zhí)業(yè)醫(yī)師資格考試、美國(guó)司法考試中的證據(jù)和侵權(quán)行為測(cè)試等[2]，因此上線五天之內(nèi)用戶突破100萬(wàn)，三個(gè)月內(nèi)注冊(cè)數(shù)過(guò)億，成為迄今為止用戶增長(zhǎng)速度最快的AI應(yīng)用程序。

一項(xiàng)調(diào)查顯示，截止ChatGPT上線三個(gè)月內(nèi)，美國(guó)有89%的大學(xué)生都在使用ChatGPT完成作業(yè)，其在教育領(lǐng)域的廣泛應(yīng)用迅速引起了教育界的重視，所帶來(lái)的挑戰(zhàn)和風(fēng)險(xiǎn)更是熱議不斷。美國(guó)紐約市教育局率先禁止學(xué)生使用ChatGPT，中國(guó)香港大學(xué)也隨之嚴(yán)禁學(xué)生使用ChatGPT及其他人工智能工具完成作業(yè)和評(píng)估，也有學(xué)校和組織允許學(xué)生基于學(xué)術(shù)誠(chéng)信原則合乎道德地使用ChatGPT輔助學(xué)習(xí)、但要求在引用其回答時(shí)必須明確標(biāo)注。ChatGPT的優(yōu)勢(shì)顯而易見(jiàn)，它可以為學(xué)生提供各個(gè)領(lǐng)域的學(xué)習(xí)支持和輔導(dǎo)，并展現(xiàn)出較強(qiáng)的能力，但其在實(shí)際使用過(guò)程中仍存在大量的風(fēng)險(xiǎn)。如何應(yīng)對(duì)ChatGPT所帶來(lái)的挑戰(zhàn)，采取應(yīng)對(duì)策略賦能教學(xué)創(chuàng)新，推進(jìn)以ChatGPT為代表的人工智能合理有效地推動(dòng)教育數(shù)字化變革，是教育界迫切需要思考的問(wèn)題。

二、以ChatGPT為代表的生成式人工智能對(duì)高等教育的挑戰(zhàn)

（一）學(xué)生濫用ChatGPT生成內(nèi)容導(dǎo)致的潛在倫理風(fēng)險(xiǎn)

相比傳統(tǒng)搜索引擎，ChatGPT能夠幫助學(xué)生更加便捷地查閱和獲得信息；但與此同時(shí)，由于ChatGPT具有強(qiáng)大的信息快速生成能力，生成的內(nèi)容語(yǔ)言流暢、邏輯結(jié)構(gòu)清晰，且與人類(lèi)語(yǔ)言習(xí)慣和思維方式高度相似，這就導(dǎo)致學(xué)生濫用生成內(nèi)容完成作業(yè)和論文可能性的出現(xiàn)，最終導(dǎo)致抄襲、剽竊等惡劣學(xué)術(shù)行為，干擾正常的教學(xué)秩序，引發(fā)關(guān)于學(xué)術(shù)誠(chéng)信危機(jī)的倫理問(wèn)題，對(duì)學(xué)術(shù)生態(tài)產(chǎn)生惡劣影響，這也是目前教育界對(duì)于ChatGPT等生成式人工智能主要的擔(dān)憂之一。面對(duì)ChatGPT“便捷式”學(xué)習(xí)的誘惑，部分學(xué)生逐漸養(yǎng)成學(xué)習(xí)惰性，甚至過(guò)度依賴(lài)于這種“投喂式”學(xué)習(xí)模式，不愿去主動(dòng)探索新的知識(shí)和技能，失去學(xué)習(xí)動(dòng)力和能力，最終導(dǎo)致學(xué)習(xí)主體性被智能技術(shù)異化。倘若學(xué)生長(zhǎng)期依賴(lài)ChatGPT的智能推薦，這種碎片化的學(xué)習(xí)方式容易導(dǎo)致信息渠道和信息內(nèi)容的窄化，學(xué)生難以接收更全面、更豐富的信息，可能喪失對(duì)系統(tǒng)知識(shí)的通盤(pán)掌握[3]。

高等教育的目標(biāo)是培養(yǎng)高素質(zhì)的創(chuàng)新人才，創(chuàng)新人才的培養(yǎng)是各個(gè)領(lǐng)域的核心競(jìng)爭(zhēng)力，而學(xué)生錯(cuò)誤依賴(lài)于ChatGPT而失去學(xué)習(xí)能力的情況會(huì)導(dǎo)致創(chuàng)新人才培養(yǎng)困難。同時(shí)，學(xué)生使用ChatGPT所生成的內(nèi)容時(shí)，無(wú)法保證其對(duì)生成內(nèi)容完全理解和掌握，無(wú)法進(jìn)一步將知識(shí)進(jìn)行有效運(yùn)用，這就失去了教育的最根本意義。另外，以ChatGPT為代表的生成式人工智能目前只能在部分地區(qū)使用，無(wú)法惠及到教育的所有群體，這種差異也會(huì)造成教育的不公平性。

人工技術(shù)的過(guò)多干預(yù)會(huì)導(dǎo)致教育中情感逐漸淡漠，甚至?xí)?dǎo)致缺失的情況。在老師的教學(xué)過(guò)程中，傳授知識(shí)的同時(shí)也會(huì)在師生間產(chǎn)生共同的情感體驗(yàn)和共鳴，這不僅是知識(shí)的教育過(guò)程，也是立德樹(shù)人的過(guò)程，老師在教育過(guò)程中對(duì)學(xué)生情感道德的引導(dǎo)也是重要的環(huán)節(jié)。而ChatGPT生成信息的過(guò)程則缺乏了與學(xué)生的情感交流互動(dòng)，可能導(dǎo)致情感和道德淡漠，將直接影響學(xué)生今后在生活工作中的人際關(guān)系。

ChatGPT本身也隱藏倫理風(fēng)險(xiǎn)，雖然其沒(méi)有自主價(jià)值觀判斷能力，但所獲取的數(shù)據(jù)庫(kù)內(nèi)容大多數(shù)來(lái)自于反映西方的價(jià)值觀的網(wǎng)站、論壇、新聞等，包含價(jià)值觀、邏輯性、意識(shí)形態(tài)等內(nèi)的隱性內(nèi)容；ChatGPT的算法編制者本身也可能存在不同于我國(guó)主流思想的意識(shí)形態(tài)和道德準(zhǔn)則，甚至可能會(huì)把個(gè)人偏見(jiàn)滲透入數(shù)據(jù)和算法中，因此輸出的信息可能存在文化偏見(jiàn)，不能夠保證正確性和真實(shí)性；另外，ChatGPT的研發(fā)公司OpenAI是在美國(guó)成立的人工智能研究公司，無(wú)法排除其被美國(guó)政府或者其他資本主義意識(shí)形態(tài)利用的可能性，甚至可能利用“算法霸權(quán)”等手段對(duì)學(xué)生進(jìn)行錯(cuò)誤意識(shí)形態(tài)植入。看似客觀、公證、科學(xué)的算法技術(shù)，可能蘊(yùn)含著算法制造者的政治偏見(jiàn)、民族偏見(jiàn)和性格偏見(jiàn)等[4]。

（二）學(xué)生難以甄別生成內(nèi)容可靠性

數(shù)據(jù)、算法和算力作為ChatGPT等生成式人工智能的三大要素具有不透明性和不可解釋性。其核心支撐的數(shù)據(jù)主要來(lái)源于大量的西方公共語(yǔ)料庫(kù)，如維基百科、新聞報(bào)道、社交媒體、電子書(shū)籍等；其原始數(shù)據(jù)，即預(yù)訓(xùn)練語(yǔ)料庫(kù)在分布上也存在傾斜，大部分是以英文數(shù)據(jù)為主，反映的也是西方國(guó)家的價(jià)值觀，契合資本主義意識(shí)形態(tài)；其內(nèi)容的可信度和真實(shí)性都無(wú)法得到保障，并不適合我國(guó)主流意識(shí)形態(tài)。因此，如果不恰當(dāng)使用西方數(shù)據(jù)為主的生成式人工智能，可能會(huì)對(duì)學(xué)生的思想教育產(chǎn)生潛在的不良影響，影響學(xué)生的價(jià)值觀和意識(shí)形態(tài)，加劇偏見(jiàn)價(jià)值的傳播。

由于學(xué)生無(wú)法檢索ChatGPT生成內(nèi)容的出處，還可能會(huì)引發(fā)關(guān)于在不知情使用的情況下侵犯數(shù)據(jù)所有權(quán)、使用權(quán)等風(fēng)險(xiǎn)，導(dǎo)致無(wú)意識(shí)的學(xué)術(shù)造假和抄襲。對(duì)于一些新興領(lǐng)域或者具有難度的問(wèn)題，ChatGPT甚至?xí)慑e(cuò)誤答案，但這些模擬人類(lèi)語(yǔ)言的看似具有邏輯性的錯(cuò)誤答案具有迷惑性，學(xué)生難以甄別其正確性和可靠性。OpenAI自己發(fā)布的使用條款中也提到，ChatGPT存在生成有害建議、錯(cuò)誤代碼或不準(zhǔn)確信息的風(fēng)險(xiǎn)，并可能產(chǎn)生負(fù)面的社會(huì)影響。普林斯頓大學(xué)計(jì)算機(jī)科學(xué)教授Arvind Narayanan發(fā)表推特：“我嘗試了一些基本的信息安全問(wèn)題，在大多數(shù)情況下，答案聽(tīng)起來(lái)似乎有理，但實(shí)際上漏洞百出。”

ChatGPT的算法的運(yùn)作過(guò)程具有不透明性，其本質(zhì)就是一個(gè)基于統(tǒng)計(jì)學(xué)方式的猜詞模型，通過(guò)在大量的數(shù)據(jù)庫(kù)中歸納語(yǔ)言規(guī)律，總結(jié)單詞之間的搭配使用，根據(jù)與用戶的對(duì)話內(nèi)容和上文的單詞的慣用搭配預(yù)測(cè)下一個(gè)單詞，模仿人類(lèi)語(yǔ)言對(duì)單詞和語(yǔ)句進(jìn)行搭配組合，而不是通過(guò)理解文字的邏輯結(jié)構(gòu)產(chǎn)生文本，其底層邏輯仍然是歸納并非創(chuàng)新，無(wú)法創(chuàng)造新的科學(xué)知識(shí)，也無(wú)法保證正確性和科學(xué)性。ChatGPT所追求的是語(yǔ)義連貫而非正確的回答，這就導(dǎo)致它總是在圍繞一個(gè)話題進(jìn)行反復(fù)解釋?zhuān)a(chǎn)生沒(méi)有任何創(chuàng)新觀點(diǎn)的“流利的廢話”。

SimilarWeb的數(shù)據(jù)顯示，在2023年1月期間，平均每天約有1300萬(wàn)用戶在使用ChatGPT。這種驚人的使用量對(duì)背后的算力提出了極高的要求，也需要先進(jìn)的技術(shù)和巨大的財(cái)力來(lái)支撐。而目前我國(guó)能和OpenAI這種掌握先進(jìn)技術(shù)和強(qiáng)大算力水平相比的公司卻是少之又少，這就可能導(dǎo)致將學(xué)生推向使用西方國(guó)家的人工智能軟件，而西方人工智能不可避免的滲透了不同文化和價(jià)值觀，容易對(duì)學(xué)生的意識(shí)形態(tài)產(chǎn)生錯(cuò)誤導(dǎo)向。

（三）學(xué)生隱私和信息安全存在風(fēng)險(xiǎn)

OpenAI還未公布ChatGPT如何對(duì)用戶個(gè)人隱私和數(shù)據(jù)安全進(jìn)行保護(hù)。在用戶的使用過(guò)程中，ChatGPT可以通過(guò)用戶在注冊(cè)賬戶時(shí)提供的銀行支付信息、通信地址信息等悄無(wú)聲息地收集到各種身份信息，還可以在用戶使用軟件時(shí)收集到IP地址、設(shè)備、操作系統(tǒng)、瀏覽器等相關(guān)的技術(shù)信息。在信息技術(shù)已經(jīng)和人類(lèi)生活密不可分的如今，用戶信息似乎已經(jīng)不再是秘密，但是最令人擔(dān)憂的是，相比其他技術(shù)，ChatGPT生成式人工智能的運(yùn)行方式是與學(xué)生直接對(duì)話，在進(jìn)行多輪次的互動(dòng)中便逐漸掌握了其興趣偏好、學(xué)習(xí)習(xí)慣、學(xué)習(xí)需求等大量私人信息，一旦這些隱私信息被第三方所獲取并加以利用，將會(huì)造成嚴(yán)重的后果。ChatGPT在其隱私政策中也聲明，它有權(quán)與各種實(shí)體共享用戶信息，包括附屬公司、業(yè)務(wù)合作伙伴、服務(wù)提供商和執(zhí)法部門(mén)。因此，學(xué)生信息的披露風(fēng)險(xiǎn)成為ChatGPT在教育領(lǐng)域應(yīng)用中的重大隱患之一，如果平臺(tái)和監(jiān)管機(jī)構(gòu)不采取相關(guān)保護(hù)措施，不法分子就很容易通過(guò)竊取個(gè)人信息實(shí)施違法犯罪活動(dòng)。

三、結(jié)語(yǔ)

以ChatGPT為代表的生成式人工智能的崛起，意味著人工智能的一次重大變革，也會(huì)對(duì)高等教育的教學(xué)方式產(chǎn)生重大影響，如何應(yīng)對(duì)人工智能在賦能教育發(fā)展同時(shí)帶來(lái)的風(fēng)險(xiǎn)是教育界需要思考的新問(wèn)題。通過(guò)研究其存在的潛在風(fēng)險(xiǎn)，積極地探尋應(yīng)對(duì)策略，是將生成式人工智能積極地融入教育教學(xué)的有效方式，也是推進(jìn)教育數(shù)字化轉(zhuǎn)型的重要環(huán)節(jié)。教育界應(yīng)該以開(kāi)放的思想和廣闊的視角接納其在教育領(lǐng)域的影響，以科學(xué)理性、謹(jǐn)慎的態(tài)度把握該項(xiàng)技術(shù)的本質(zhì)特征，并有效運(yùn)用到教學(xué)中。相關(guān)教育部門(mén)和高等院校必須加快更新、制定與時(shí)俱進(jìn)的高等教育課程規(guī)劃和新時(shí)代人才培養(yǎng)方案，推動(dòng)教育數(shù)字化轉(zhuǎn)型，以應(yīng)對(duì)高速發(fā)展的人工智能技術(shù)對(duì)高校教育巨大的沖擊和挑戰(zhàn)。

參考文獻(xiàn)：

[1]蓋君芳，黃寶忠.教育人工智能：新的革命[J].浙江大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2022，52（6）：53-65.

[2]盧宇，余京蕾，陳鵬鶴，等.生成式人工智能的教育應(yīng)用與展望——以ChatGPT系統(tǒng)為例[J].中國(guó)遠(yuǎn)程教育，2023，43（4）：24-31+51.

[3]馮雨奐.ChatGPT在教育領(lǐng)域的應(yīng)用價(jià)值、潛在倫理風(fēng)險(xiǎn)與治理路徑[J].思想理論教育，2023（4）：26-32.

[4]馮建軍.網(wǎng)絡(luò)公民教育：智能時(shí)代道德教育的新要求[J].倫理學(xué)研究，2022（3）：1-9.

作者簡(jiǎn)介：張玥（1990.10-），女，漢族，江蘇連云港人，博士，講師，研究方向：教育學(xué)。