Ethical-GPT：一種面向人工智能倫理教育的垂類(lèi)GPT工具設(shè)計(jì)與實(shí)現(xiàn)*

摘要：人工智能技術(shù)在推動(dòng)教育變革的同時(shí)，也引發(fā)了諸如隱私泄露、技術(shù)濫用等倫理風(fēng)險(xiǎn)挑戰(zhàn)，使得加強(qiáng)人工智能倫理教育勢(shì)在必行。同時(shí)，當(dāng)前教育人工智能倫理建設(shè)過(guò)程中存在的學(xué)習(xí)資源稀缺、教學(xué)方式單一、缺乏實(shí)質(zhì)性的倫理實(shí)踐等問(wèn)題也亟待解決。對(duì)此，文章首先采用“大語(yǔ)言模型微調(diào)+本地知識(shí)庫(kù)”的技術(shù)路線，設(shè)計(jì)了面向人工智能倫理教育的垂類(lèi)GPT工具——Ethical-GPT，并介紹了Ethical-GPT的基礎(chǔ)問(wèn)答、案例學(xué)習(xí)、情境模擬、智能測(cè)驗(yàn)四大功能模塊；之后，文章從大模型選取、本地知識(shí)庫(kù)建設(shè)、高效模型微調(diào)等方面重點(diǎn)闡述了Ethical-GPT的技術(shù)實(shí)現(xiàn)，并通過(guò)對(duì)比不同模型的回答結(jié)果進(jìn)行了模型效果分析，發(fā)現(xiàn)Ethical-GPT具有良好的專(zhuān)業(yè)問(wèn)答能力，并且能夠隨機(jī)生成并呈現(xiàn)多樣化的倫理案例；最后，文章深入探討了Ethical-GPT的教育應(yīng)用場(chǎng)景。文章設(shè)計(jì)的Ethical-GPT不僅為人工智能倫理的教育實(shí)踐提供了工具支持，也為推動(dòng)教育領(lǐng)域?qū)Ｓ么笳Z(yǔ)言模型的構(gòu)建提供了參考思路。

關(guān)鍵詞：Ethical-GPT；教育人工智能；倫理教育；大語(yǔ)言模型

【中圖分類(lèi)號(hào)】G40-057 【文獻(xiàn)標(biāo)識(shí)碼】A 【論文編號(hào)】1009—8097（2024）11—0027—09 【DOI】10.3969/j.issn.1009-8097.2024.11.003

引言

2022年，我國(guó)向聯(lián)合國(guó)遞交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，積極倡導(dǎo)“以人為本”和“智能向善”的理念，主張各國(guó)應(yīng)增進(jìn)對(duì)人工智能倫理問(wèn)題的理解，并提出各國(guó)政府都應(yīng)該重視人工智能倫理教育^[1]。而學(xué)生作為人工智能技術(shù)使用的重要群體和利益相關(guān)者，在與人工智能技術(shù)協(xié)同共進(jìn)的過(guò)程中，更易面臨隱私泄露、技術(shù)誤用、算法歧視等倫理風(fēng)險(xiǎn)^[2][3]。加強(qiáng)人工智能倫理教育，是幫助學(xué)生深刻剖析人工智能技術(shù)非合理應(yīng)用所潛藏之負(fù)面效應(yīng)的前瞻性舉措^[4]。然而，當(dāng)前我國(guó)的教育人工智能倫理建設(shè)存在諸多困難，多數(shù)學(xué)校對(duì)倫理教育不重視，倫理教學(xué)往往流于形式^[5]。教學(xué)方式多以講授為主，抽象的倫理知識(shí)很難激發(fā)學(xué)生的主動(dòng)性和積極性^[6]。即使掌握了大量的倫理知識(shí)，學(xué)生實(shí)際接觸和解決倫理問(wèn)題的機(jī)會(huì)仍相對(duì)匱乏，難以將理論知識(shí)轉(zhuǎn)化為解決實(shí)際問(wèn)題的能力。

近年來(lái)，大語(yǔ)言模型的發(fā)展為解決上述問(wèn)題提供了新思路。有研究者提出，大語(yǔ)言模型可以被用作倫理教學(xué)輔助工具，通過(guò)互動(dòng)對(duì)話、案例分析、情景模擬等方式，將抽象的倫理知識(shí)具象化，提高學(xué)生的參與度和學(xué)習(xí)興趣^[7]。然而在面對(duì)專(zhuān)業(yè)領(lǐng)域的問(wèn)題時(shí)，大模型生成的內(nèi)容可能存在幻覺(jué)問(wèn)題^[8]，回答形式看似正確但與事實(shí)不符，內(nèi)容邏輯性缺失且缺乏共情能力^[9]。鑒于此，有研究報(bào)告指出，為了實(shí)現(xiàn)大語(yǔ)言模型在教育領(lǐng)域真正有價(jià)值的應(yīng)用，需要構(gòu)建教育領(lǐng)域?qū)Ｓ么竽Ｐ停丛谕ㄓ么竽Ｐ偷幕A(chǔ)上，結(jié)合教育領(lǐng)域的專(zhuān)業(yè)數(shù)據(jù)和專(zhuān)家知識(shí)庫(kù)對(duì)模型進(jìn)行優(yōu)化，以確保其能深入理解并適應(yīng)不同的教學(xué)場(chǎng)景^[10]。

基于此，本研究利用通用大語(yǔ)言模型與人工智能倫理領(lǐng)域的專(zhuān)業(yè)數(shù)據(jù)，設(shè)計(jì)了面向人工智能倫理教育的垂類(lèi)GPT工具——Ethical-GPT，以期通過(guò)模擬真實(shí)場(chǎng)景，參與互動(dòng)對(duì)話和問(wèn)題解答，引導(dǎo)學(xué)生思考倫理問(wèn)題并探討可能的解決方案，強(qiáng)化學(xué)生對(duì)倫理原則的理解和應(yīng)用，提高學(xué)生在復(fù)雜倫理情境下的分析與判斷能力，進(jìn)而提升學(xué)生的倫理意識(shí)和倫理素養(yǎng)。

一 Ethical-GPT的設(shè)計(jì)

1 Ethical-GPT的設(shè)計(jì)理念

當(dāng)前，以通用大模型為基礎(chǔ)，利用教育領(lǐng)域的特定數(shù)據(jù)對(duì)其微調(diào)，被認(rèn)為是構(gòu)建教育專(zhuān)用大模型的可行性方案。有研究者發(fā)現(xiàn)，災(zāi)難性遺忘這一問(wèn)題在微調(diào)模型后仍然存在，而利用LangChain框架結(jié)合知識(shí)庫(kù)正是一種有效的解決方式^[11]。LangChain框架是一個(gè)針對(duì)大語(yǔ)言模型的開(kāi)發(fā)框架，旨在為各種大語(yǔ)言模型應(yīng)用提供通用接口，實(shí)現(xiàn)端到端的應(yīng)用開(kāi)發(fā)^[12]。通過(guò)將知識(shí)庫(kù)作為大模型的補(bǔ)充，將專(zhuān)業(yè)領(lǐng)域的知識(shí)有意識(shí)地“教”給大模型，可以減少大模型生成虛假信息的可能性，從而提高回答問(wèn)題的準(zhǔn)確度。

綜合考慮算力和時(shí)間要求，同時(shí)發(fā)揮大語(yǔ)言模型的相關(guān)功能，本研究采用“大語(yǔ)言模型微調(diào)+本地知識(shí)庫(kù)”的技術(shù)路線（如圖1所示）來(lái)設(shè)計(jì)Ethical-GPT，具體為：首先，收集大量倫理領(lǐng)域的專(zhuān)業(yè)數(shù)據(jù)（如書(shū)籍、學(xué)習(xí)數(shù)據(jù)等）對(duì)開(kāi)源大語(yǔ)言模型ChatGLM進(jìn)行預(yù)處理，并使用常見(jiàn)問(wèn)答數(shù)據(jù)集對(duì)此模型進(jìn)行P-Tuning v2微調(diào)，通過(guò)少量可訓(xùn)練的參數(shù)，來(lái)提高輸出結(jié)果的準(zhǔn)確度，從而提升大語(yǔ)言模型在倫理領(lǐng)域的性能；之后，將微調(diào)后的大語(yǔ)言模型接入LangChain框架，用本地知識(shí)庫(kù)彌補(bǔ)大語(yǔ)言模型相關(guān)領(lǐng)域知識(shí)的不足，以提供更有深度、更準(zhǔn)確的回答。在調(diào)用本地知識(shí)庫(kù)時(shí)，需先進(jìn)行文本的提取和分割得到文本塊，然后利用文本嵌入表示模型給出文本塊嵌入向量表示，并通過(guò)向量數(shù)據(jù)庫(kù)檢索得到密切相關(guān)的文本片段，最后將其與提示詞模板、歷史消息、知識(shí)問(wèn)答合并輸入大語(yǔ)言模型。當(dāng)學(xué)生進(jìn)行詢問(wèn)時(shí)，Ethical-GPT將結(jié)合本地知識(shí)庫(kù)和微調(diào)后的大語(yǔ)言模型對(duì)問(wèn)題的理解與分析，為學(xué)生提供更準(zhǔn)確、更專(zhuān)業(yè)的回答。

2 Ethical-GPT的功能設(shè)計(jì)

Ethical-GPT聚焦于倫理教學(xué)中學(xué)生難以將倫理知識(shí)應(yīng)用于實(shí)踐的問(wèn)題，其設(shè)計(jì)不僅致力于學(xué)生對(duì)倫理知識(shí)和原則的深刻理解，還注重在面對(duì)復(fù)雜的倫理情境時(shí)，引導(dǎo)學(xué)生做出符合道德規(guī)范的倫理決策。因此，設(shè)計(jì)Ethical-GPT時(shí)應(yīng)考慮以下需求：①Ethical-GPT需要具備豐富的教育人工智能倫理領(lǐng)域知識(shí)，并展現(xiàn)出針對(duì)倫理原則與具體問(wèn)題給出系統(tǒng)化回答的能力；②在進(jìn)行案例分析時(shí)，Ethical-GPT需要從多個(gè)角度對(duì)案例庫(kù)中的人工智能倫理案例展開(kāi)系統(tǒng)且深入的解讀；③面對(duì)倫理挑戰(zhàn)時(shí)Ethical-GPT需要深入剖析主要的利益相關(guān)者所做出的不同倫理決策及其影響后果，以引導(dǎo)學(xué)生對(duì)倫理問(wèn)題進(jìn)行多維度的討論和學(xué)習(xí)；④Ethical-GPT需要?jiǎng)?chuàng)設(shè)逼真的倫理場(chǎng)景，使學(xué)生沉浸在模擬的真實(shí)情境中，通過(guò)實(shí)踐學(xué)習(xí)、深度思考和倫理知識(shí)的實(shí)際應(yīng)用，提高倫理推理能力與決策能力。

基于上述需求分析，本研究依據(jù)道德認(rèn)知發(fā)展理論，設(shè)計(jì)了一種符合認(rèn)知發(fā)展、全面系統(tǒng)的面向人工智能倫理教育的垂類(lèi)GPT工具——Ethical-GPT。此工具從基礎(chǔ)知識(shí)點(diǎn)的問(wèn)答開(kāi)始，之后逐步深化理解，通過(guò)模擬真實(shí)情景解決問(wèn)題并應(yīng)用知識(shí)，最后基于智能測(cè)驗(yàn)評(píng)估反饋學(xué)習(xí)效果，滿足學(xué)生多樣化的學(xué)習(xí)需求。Ethical-GPT主要由基礎(chǔ)問(wèn)答、案例學(xué)習(xí)、情景模擬、智能測(cè)驗(yàn)四大功能模塊組成，如圖2所示。這四大功能模塊緊密聯(lián)系，相互補(bǔ)充，致力于為學(xué)生提供個(gè)性化的人工智能倫理學(xué)習(xí)支持。

（1）基礎(chǔ)問(wèn)答模塊

基礎(chǔ)問(wèn)答模塊通過(guò)對(duì)學(xué)生的知識(shí)問(wèn)答做出即時(shí)的響應(yīng)并給出完整的答案，旨在幫助學(xué)生快速回顧并鞏固教育人工智能倫理相關(guān)的知識(shí)和問(wèn)題。當(dāng)學(xué)生對(duì)倫理原則或概念不清楚時(shí)，只需輸入簡(jiǎn)單的關(guān)鍵詞，Ethical-GPT便會(huì)給出規(guī)范化的詳細(xì)解答。此外，本模塊會(huì)針對(duì)學(xué)生在現(xiàn)實(shí)生活中遇到的倫理問(wèn)題給出相關(guān)的倫理解決方案，幫助學(xué)生做出更加符合道德和社會(huì)價(jià)值觀的倫理決策。為了提供更加人性化的用戶體驗(yàn)，避免學(xué)生不知如何聊天的窘?jīng)r，Ethical-GPT在該模塊頁(yè)面上展示了相應(yīng)的問(wèn)答示例，如“人工智能倫理的原則有哪些？”“教育人工智能倫理中的‘可解釋性原則’是什么？”“學(xué)校使用面部識(shí)別考勤系統(tǒng)，我對(duì)個(gè)人隱私感到擔(dān)憂，我該怎么辦？”等。

（2）案例學(xué)習(xí)模塊

案例學(xué)習(xí)模塊展示了教育人工智能倫理領(lǐng)域相關(guān)的案例，并給出了相應(yīng)的治理原則和治理措施。在本模塊，學(xué)生進(jìn)行知識(shí)的內(nèi)化，通過(guò)詳細(xì)分析并解讀倫理案例，來(lái)審思倫理問(wèn)題背后的成因并提出解決措施。本模塊含有復(fù)雜且具有挑戰(zhàn)性的倫理案例，可以幫助學(xué)生將倫理知識(shí)應(yīng)用到實(shí)際情境中，使學(xué)生更好地理解倫理原則、進(jìn)行倫理框架的真實(shí)應(yīng)用，并培養(yǎng)學(xué)生的批判性思維。在本模塊中，學(xué)生可以根據(jù)自己的學(xué)習(xí)風(fēng)格、學(xué)習(xí)目標(biāo)創(chuàng)建專(zhuān)屬的AI小助手進(jìn)行對(duì)話，形成與其學(xué)習(xí)風(fēng)格相似的AI學(xué)習(xí)伙伴，從而獲得更加個(gè)性化的學(xué)習(xí)支持。同時(shí)，本模塊還提供規(guī)范化的倫理案例，并輔以體系化、易理解的倫理決策，輔助倫理課堂學(xué)習(xí)。

（3）情景模擬模塊

情景模擬模塊旨在模擬真實(shí)場(chǎng)景，引導(dǎo)學(xué)生從不同利益相關(guān)者的角度來(lái)思考倫理問(wèn)題，并通過(guò)多輪對(duì)話深入探討倫理可能的解決方案，助力學(xué)生在實(shí)踐中應(yīng)用所學(xué)知識(shí)解決問(wèn)題，實(shí)現(xiàn)知識(shí)的內(nèi)化，解決倫理知識(shí)和倫理實(shí)踐相脫節(jié)的問(wèn)題，實(shí)現(xiàn)知識(shí)和能力的協(xié)調(diào)發(fā)展。本模塊擁有龐大的倫理案例庫(kù)，其案例涵蓋教育場(chǎng)域下多種倫理場(chǎng)景和情境。學(xué)生可以依據(jù)案例庫(kù)隨機(jī)給出的相關(guān)倫理案例，來(lái)思考情境中的角色，從不同的角色立場(chǎng)、多角度來(lái)辨析倫理問(wèn)題。此外，本模塊還可以通過(guò)模擬決策過(guò)程，培養(yǎng)學(xué)生的倫理決策能力和判斷力，并通過(guò)Ethical-GPT的即時(shí)反饋和建議，啟發(fā)學(xué)生反思其決策過(guò)程，深化其對(duì)倫理原則、道德規(guī)范的理解與應(yīng)用。

（4）智能測(cè)驗(yàn)?zāi)K

智能測(cè)驗(yàn)?zāi)K含有豐富的測(cè)試題目，旨在評(píng)估學(xué)生對(duì)教育人工智能倫理領(lǐng)域相關(guān)知識(shí)的掌握情況和應(yīng)用能力。在本模塊，Ethical-GPT通過(guò)分析學(xué)生的學(xué)習(xí)情況，提供與其學(xué)習(xí)能力相匹配的測(cè)試題目，幫助學(xué)生了解自己當(dāng)前對(duì)倫理知識(shí)的掌握情況，從而確保評(píng)估的有效性和準(zhǔn)確性；同時(shí)，Ethical-GPT可以根據(jù)學(xué)生的答題水平自適應(yīng)調(diào)整題目，動(dòng)態(tài)更新題目難度，確保學(xué)生持續(xù)面臨具有一定挑戰(zhàn)性的問(wèn)題。從知識(shí)的理解到應(yīng)用，再到本模塊的知識(shí)評(píng)估，學(xué)生可以反思、改進(jìn)自己在理解和應(yīng)用倫理知識(shí)方面的不足，一個(gè)完整的學(xué)習(xí)閉環(huán)由此形成。此學(xué)習(xí)閉環(huán)促使學(xué)生通過(guò)不斷的學(xué)習(xí)培養(yǎng)對(duì)倫理知識(shí)的理解和應(yīng)用能力，并強(qiáng)化其對(duì)倫理問(wèn)題的敏感性。

二 Ethical-GPT的技術(shù)實(shí)現(xiàn)

1 大模型選取

2022年底，生成式預(yù)訓(xùn)練變換模型和國(guó)內(nèi)各種大語(yǔ)言模型的相繼問(wèn)世，進(jìn)一步深化了學(xué)界和公眾對(duì)于人工智能技術(shù)先進(jìn)性的認(rèn)知。大語(yǔ)言模型的核心是自然語(yǔ)言處理領(lǐng)域較為熱門(mén)的神經(jīng)網(wǎng)絡(luò)架構(gòu)——Transformer，這是一種深度學(xué)習(xí)模型^[13]。Transformer架構(gòu)由多個(gè)自注意力層（Self-attention Layer）和位置感知前饋網(wǎng)絡(luò)（Position-wise Feed-forward Networks）組成，擴(kuò)展了模型專(zhuān)注不同位置的能力；同時(shí)，能夠有效地捕獲遠(yuǎn)程依賴(lài)關(guān)系和上下文信息，提高了模型的計(jì)算能力和推理效率。大語(yǔ)言模型爆火后，國(guó)內(nèi)外各大研究機(jī)構(gòu)紛紛推出了各種開(kāi)源大語(yǔ)言模型，其中較為常用的開(kāi)源大語(yǔ)言模型如表1所示。

①LLaMA（Large Language Model Meta AI）：是由Meta AI發(fā)布的一個(gè)開(kāi)放且高效的大型基礎(chǔ)語(yǔ)言模型^[14]。LLaMA模型在大量未標(biāo)記的數(shù)據(jù)上進(jìn)行訓(xùn)練，適合對(duì)各種任務(wù)進(jìn)行微調(diào)，其參數(shù)規(guī)模小，對(duì)算力要求低，訓(xùn)練數(shù)據(jù)多，在多項(xiàng)功能上不輸于主流大模型。

②Bloom：是由BigScience社區(qū)開(kāi)發(fā)并發(fā)布的基于Transformer架構(gòu)的自回歸語(yǔ)言模型^[15]。Bloom模型使用ALiBi Positional Embeddings位置嵌入，在推斷過(guò)程中能夠完成更長(zhǎng)序列的任務(wù)。Bloom模型包含多種不同語(yǔ)言，可通過(guò)跨語(yǔ)言學(xué)習(xí)策略提升其在不同語(yǔ)言環(huán)境之間的泛化能力。

③Baichuan：是由百川智能開(kāi)發(fā)的一個(gè)開(kāi)源可商用的大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型，在自有的中英文雙語(yǔ)語(yǔ)料上進(jìn)行訓(xùn)練，并使用中文數(shù)據(jù)庫(kù)進(jìn)行優(yōu)化。百川智能隨后發(fā)布了Baichuan2系列大模型，與Baichuan1相比，其訓(xùn)練數(shù)據(jù)量增多，模型解碼效率提高，并支持醫(yī)療、法律等垂域領(lǐng)域。

④ChatGLM-6B：是一個(gè)開(kāi)源的、支持中英雙語(yǔ)的對(duì)話語(yǔ)言模型，由清華大學(xué)發(fā)布。該模型基于通用語(yǔ)言模型（General Language Model，GLM）架構(gòu)，具有62億參數(shù)。ChatGLM-6B使用了與ChatGPT相似的技術(shù)，其針對(duì)中文問(wèn)答和對(duì)話進(jìn)行優(yōu)化，輔以監(jiān)督微調(diào)、反饋?zhàn)灾⑷祟?lèi)反饋強(qiáng)化學(xué)習(xí)等技術(shù)的加持，62億參數(shù)的ChatGLM-6B已經(jīng)能生成相當(dāng)符合人類(lèi)偏好的回答。為了方便下游開(kāi)發(fā)者訓(xùn)練針對(duì)特定應(yīng)用場(chǎng)景的大語(yǔ)言模型，ChatGLM-6B采用基于P-Tuning v2的高效參數(shù)微調(diào)方法，可以將需要微調(diào)的參數(shù)量減少到原來(lái)的0.1%，能夠更加有效地壓縮參數(shù)大小，并顯著減少模型微調(diào)的總參數(shù)量，不僅加快了模型的推理和訓(xùn)練速度，而且減少了內(nèi)存和計(jì)算資源消耗^[16]。

基于上述分析，本研究綜合考慮模型的參數(shù)量、硬件配置要求和中文的使用場(chǎng)景，采用ChatGLM-6B作為實(shí)驗(yàn)?zāi)Ｐ汀?/p>

2 本地知識(shí)庫(kù)建設(shè)

為加快模型的推理速度，減少模型在微調(diào)過(guò)程中出現(xiàn)的災(zāi)難性遺忘問(wèn)題，本研究建設(shè)了相關(guān)的本地知識(shí)庫(kù)作為補(bǔ)充。本地知識(shí)庫(kù)主要由兩部分組成：

①倫理領(lǐng)域?qū)I(yè)數(shù)據(jù)。本部分包括教育、心理、倫理等領(lǐng)域的專(zhuān)業(yè)書(shū)籍，特別是人工智能倫理的相關(guān)書(shū)籍、前沿文獻(xiàn)、政策文件和常見(jiàn)的倫理知識(shí)問(wèn)答等數(shù)據(jù)。其中，教育、心理領(lǐng)域相關(guān)的書(shū)籍可以增強(qiáng)模型對(duì)教育場(chǎng)景的理解，提供更富有同理心的情感對(duì)話；而倫理領(lǐng)域相關(guān)的書(shū)籍和文獻(xiàn)可以為模型提供一個(gè)清晰的倫理理論框架，對(duì)于倫理原則和倫理概念的解釋也會(huì)更加全面、準(zhǔn)確，相關(guān)論文還可以提供最新的數(shù)據(jù)和觀點(diǎn)，幫助學(xué)生了解人工智能倫理領(lǐng)域的最新成果和發(fā)展趨勢(shì)。

②倫理相關(guān)案例分析。為了將倫理知識(shí)與倫理實(shí)踐相結(jié)合，本研究收集了教育人工智能倫理領(lǐng)域的相關(guān)案例。根據(jù)國(guó)內(nèi)外相關(guān)研究的總結(jié)歸納，可將人工智能教育應(yīng)用的倫理風(fēng)險(xiǎn)分為算法、數(shù)據(jù)、技術(shù)、應(yīng)用四大風(fēng)險(xiǎn)，并可進(jìn)一步細(xì)分為14個(gè)具體風(fēng)險(xiǎn)，以此來(lái)搜集相關(guān)案例，形成豐富的案例庫(kù)。同時(shí)，根據(jù)前期研究提出的教育人工智能倫理規(guī)范十二條核心原則^[17]，針對(duì)相關(guān)倫理問(wèn)題提出解決措施。最終，使Ethical-GPT對(duì)教育人工智能倫理領(lǐng)域有更深的理解，并具備更豐富的場(chǎng)景知識(shí)，從而能針對(duì)各種復(fù)雜的倫理問(wèn)題給出更規(guī)范與合乎規(guī)則的回答。

3 高效模型微調(diào)

由于大語(yǔ)言模型參數(shù)量極為龐大，當(dāng)其應(yīng)用于下游任務(wù)時(shí)，微調(diào)全部參數(shù)需要消耗大量的計(jì)算資源，因此有研究者提出了參數(shù)高效微調(diào)（Parameter-Efficient Fine-Tuning，PEFT）技術(shù)，旨在通過(guò)訓(xùn)練少量參數(shù)來(lái)提升模型在特定領(lǐng)域的能力，使訓(xùn)練后的模型具備與全量微調(diào)（Full Fine-Tuning）相當(dāng)?shù)男阅?sup>[^18]。針對(duì)ChatGLM的微調(diào)方法，官方團(tuán)隊(duì)提供了P-Tuning v2高效微調(diào)的方法。相比其他微調(diào)方法（如LoRA微調(diào)），P-Tuning v2進(jìn)行微調(diào)后的模型在數(shù)據(jù)規(guī)模、指令評(píng)估、資源消耗方面的表現(xiàn)顯著更優(yōu)^[19]。

P-Tuning v2的微調(diào)原理如圖3所示，其中的關(guān)鍵是引入前綴微調(diào)（Prifix-Tuning）技術(shù)，不僅在嵌入（Embedding）層上進(jìn)行微調(diào)，而且在Transformer上Embedding層的每一層添加連續(xù)的提示詞（Prompts）作為可學(xué)習(xí)的前綴進(jìn)行微調(diào)，從而實(shí)現(xiàn)更深層次的參數(shù)微調(diào)^[20]。深度的Prompt Tuning增加了連續(xù)Prompts的容量，使得P-Tuning v2非常適用于GLM這種雙向預(yù)訓(xùn)練大模型的微調(diào)。在微調(diào)過(guò)程中，輸入的文本經(jīng)過(guò)嵌入層轉(zhuǎn)化為連續(xù)的文本向量，之后輸入到預(yù)訓(xùn)練語(yǔ)言模型中，根據(jù)具體任務(wù)（如分類(lèi)任務(wù)）的數(shù)據(jù)對(duì)模型進(jìn)行優(yōu)化，并通過(guò)添加特定問(wèn)題的前綴引導(dǎo)模型的學(xué)習(xí)方向，提高模型性能。

4 模型效果分析

為了進(jìn)一步展示Ethical-GPT的生成效果并評(píng)估其表現(xiàn)，本研究選取具有代表性的2個(gè)問(wèn)題進(jìn)行實(shí)例分析，同時(shí)選取未經(jīng)微調(diào)的原始模型ChatGLM-6B和當(dāng)前國(guó)內(nèi)使用較為廣泛的文心一言進(jìn)行效果對(duì)比，具體的回答結(jié)果如表2所示。

表2顯示，對(duì)于問(wèn)題1，Ethical-GPT展現(xiàn)了深度的文本解析能力，其回答結(jié)果包括教育人工智能倫理的定義，并詳盡闡述了教育人工智能倫理的12條核心原則，以及國(guó)內(nèi)外人工智能倫理相關(guān)政策；而未經(jīng)過(guò)微調(diào)的ChatGLM-6B給出了9條核心原則，文心一言只給出了6條核心原則。對(duì)于問(wèn)題2，Ethical-GPT依托豐富的倫理案例庫(kù)，能夠生成更貼近學(xué)生日常生活的案例，并能進(jìn)一步提供面對(duì)類(lèi)似問(wèn)題的應(yīng)對(duì)策略；相比之下，另外兩個(gè)模型只給出了相關(guān)案例，且從回答結(jié)果來(lái)看，其所舉案例要么是國(guó)外種族歧視問(wèn)題、與國(guó)內(nèi)存在較大文化背景的差異，要么與學(xué)生生活相去甚遠(yuǎn)。綜上可知，Ethical-GPT具有良好的專(zhuān)業(yè)問(wèn)答能力，相較于其他模型，其回答內(nèi)容更豐富、更加人性化，能夠提供更友好的交互服務(wù)。此外，Ethical-GPT能夠隨機(jī)生成并呈現(xiàn)多樣化的倫理案例，促使學(xué)生從多維度、多視角來(lái)剖析問(wèn)題，深入思考問(wèn)題的本質(zhì)。

三 Ethical-GPT的教育應(yīng)用場(chǎng)景

飛速進(jìn)步的技術(shù)在賦予教育的同時(shí)，也引發(fā)了一系列爭(zhēng)議和倫理挑戰(zhàn)。在此背景下，培養(yǎng)具備一定倫理素養(yǎng)的教育者和學(xué)習(xí)者顯得尤為重要^[21]。Ethical-GPT作為一種集成了基礎(chǔ)問(wèn)答、案例學(xué)習(xí)、情景模擬、智能測(cè)驗(yàn)四大功能的教育工具，可以有效提高師生的倫理素養(yǎng)。接下來(lái)，本研究將深入探討Ethical-GPT的教育應(yīng)用場(chǎng)景，以期為人工智能倫理教育提供新的思路和方法。

1 倫理知識(shí)疑難問(wèn)答

依托大語(yǔ)言模型卓越的自然語(yǔ)言理解能力，Ethical-GPT能夠針對(duì)復(fù)雜的倫理問(wèn)題，進(jìn)行即時(shí)性、專(zhuān)業(yè)性、個(gè)性化的啟發(fā)式答疑。具體來(lái)說(shuō)，即時(shí)性體現(xiàn)在學(xué)生一旦提出倫理問(wèn)題，Ethical-GPT就能迅速給予回應(yīng)，減少學(xué)生等待答案的時(shí)間，提高學(xué)習(xí)效率；個(gè)性化體現(xiàn)在Ethical-GPT能通過(guò)多輪對(duì)話，來(lái)分析學(xué)生的學(xué)習(xí)習(xí)慣、理解能力和個(gè)人偏好，從而精準(zhǔn)地推送相關(guān)的倫理知識(shí)和案例，以滿足學(xué)生的不同學(xué)習(xí)需求；專(zhuān)業(yè)性體現(xiàn)在通過(guò)注入人工智能倫理領(lǐng)域的知識(shí)來(lái)對(duì)模型進(jìn)行微調(diào)，Ethical-GPT在人工智能倫理領(lǐng)域的專(zhuān)業(yè)性與適應(yīng)性均得到了顯著提升^[22]，使其在與學(xué)生進(jìn)行推理、分析時(shí)能夠提供更具權(quán)威性、實(shí)用性的建議。值得一提的是，Ethical-GPT與學(xué)生的互動(dòng)并不是簡(jiǎn)單的你問(wèn)我答，而是對(duì)學(xué)生觀點(diǎn)做出有針對(duì)性的回應(yīng)，此對(duì)話過(guò)程中往往包含著思想的交鋒與思維的碰撞。而不同觀點(diǎn)的深度互動(dòng)和討論，有助于學(xué)生積極、主動(dòng)地探索和思考相關(guān)倫理問(wèn)題，從而加深對(duì)倫理知識(shí)的理解。

2 倫理課堂教學(xué)助手

在基礎(chǔ)教育的語(yǔ)境中，將Ethical-GPT融入課堂實(shí)踐，能夠有效輔助教師實(shí)施高質(zhì)量的教學(xué)活動(dòng)。具體而言，Ethical-GPT在課堂中主要扮演以下幾個(gè)關(guān)鍵角色：①作為教師教學(xué)的得力助手，為教師量身定制與倫理課程緊密相關(guān)的案例、故事及問(wèn)題情境，這不僅豐富了課堂形式，還極大地增強(qiáng)了課堂的互動(dòng)性，使抽象倫理概念具體化、可感知化。②Ethical-GPT的引入，相當(dāng)于為每位學(xué)生配備了一位私人倫理導(dǎo)師，有效緩解了傳統(tǒng)課堂中教師資源有限、難以全面滿足學(xué)生個(gè)性化需求的挑戰(zhàn)。③在倫理課堂中，Ethical-GPT還扮演著促進(jìn)互動(dòng)與討論的催化劑角色。人工智能倫理教育的重點(diǎn)不僅在于倫理知識(shí)與原則的傳授，更重要的是如何培養(yǎng)學(xué)生科學(xué)、正確的倫理價(jià)值觀^[23]。Ethical-GPT通過(guò)創(chuàng)新的情境模擬、角色扮演等方式，鼓勵(lì)學(xué)生跳出傳統(tǒng)思維框架，從多維度、多視角審視倫理議題，將倫理原則逐漸內(nèi)化為學(xué)生個(gè)人的價(jià)值判斷與行動(dòng)指南。④從教學(xué)評(píng)估的角度來(lái)看，Ethical-GPT則是一位精通數(shù)據(jù)分析的教育評(píng)估專(zhuān)家，其內(nèi)置的智能測(cè)驗(yàn)功能為學(xué)習(xí)成效的量化分析提供了有力支持。通過(guò)對(duì)學(xué)習(xí)數(shù)據(jù)的深度挖掘與分析，Ethical-GPT能夠全方位、多維度地評(píng)估學(xué)生在風(fēng)險(xiǎn)意識(shí)、應(yīng)用能力等方面的綜合表現(xiàn)，從而幫助教師及時(shí)了解學(xué)生的學(xué)習(xí)情況，發(fā)現(xiàn)潛在的學(xué)習(xí)難題，并采取有針對(duì)性的干預(yù)措施。

3 倫理決策模擬實(shí)踐

在人工智能倫理教育中，理論知識(shí)的傳授固然重要，但學(xué)生能否將所學(xué)知識(shí)應(yīng)用于實(shí)際情境、能否面對(duì)倫理困境時(shí)做出明智決策，更是其關(guān)鍵之所在。通過(guò)情境模擬與角色扮演，Ethical-GPT能夠?yàn)閷W(xué)生提供安全可控、全面真實(shí)的倫理問(wèn)題情境。這些情境涵蓋了教育領(lǐng)域方方面面的倫理問(wèn)題案例，旨在反映技術(shù)在教育應(yīng)用過(guò)程中可能出現(xiàn)的倫理沖突和挑戰(zhàn)。學(xué)生將通過(guò)角色扮演的方式，深入了解倫理問(wèn)題情境中的背景信息、不同角色之間的利益糾葛和可預(yù)測(cè)的決策后果，從而深化對(duì)人工智能倫理規(guī)范的理解。在模擬情境中，Ethical-GPT引導(dǎo)學(xué)生逐步深入，從收集信息、分析倫理問(wèn)題，到權(quán)衡各方利益、選擇決策方案，再到評(píng)估決策后果、反思決策過(guò)程，Ethical-GPT全程參與并引導(dǎo)學(xué)生進(jìn)行決策實(shí)踐。當(dāng)面對(duì)復(fù)雜的倫理問(wèn)題情境時(shí)，Ethical-GPT還會(huì)引導(dǎo)學(xué)生進(jìn)行系統(tǒng)性的分析與推理，從而助力學(xué)生做出更加科學(xué)的決策。

四 結(jié)語(yǔ)

本研究初步探索了“大語(yǔ)言模型微調(diào)+本地知識(shí)庫(kù)”的技術(shù)路線，并設(shè)計(jì)了面向人工智能倫理領(lǐng)域的垂類(lèi)GPT工具——Ethical-GPT。通過(guò)對(duì)模型生成效果的分析，本研究發(fā)現(xiàn)Ethical-GPT具有良好的專(zhuān)業(yè)問(wèn)答能力、能夠隨機(jī)生成并呈現(xiàn)多樣化的倫理案例。盡管如此，由于人工智能倫理領(lǐng)域知識(shí)的復(fù)雜性和廣泛性，Ethical-GPT在應(yīng)對(duì)復(fù)雜問(wèn)答情景時(shí)仍有可能出現(xiàn)不準(zhǔn)確或誤導(dǎo)性的輸出現(xiàn)象。為了進(jìn)一步提升Ethical-GPT回答的精確度和可信度，未來(lái)可以考慮構(gòu)建人工智能倫理領(lǐng)域的知識(shí)圖譜，并將其與大語(yǔ)言模型相結(jié)合。利用大語(yǔ)言模型的語(yǔ)言理解能力和知識(shí)圖譜的結(jié)構(gòu)化事實(shí)知識(shí)^[24]，可以實(shí)現(xiàn)更為準(zhǔn)確、可靠的文本理解與推理，從而提高Ethical-GPT內(nèi)容生成的可靠性和可解釋性^[25][26]。值得一提的是，有必要在教育實(shí)踐中對(duì)Ethical-GPT進(jìn)行全面、細(xì)致的評(píng)估與監(jiān)控，這不僅包括對(duì)Ethical-GPT本身性能的持續(xù)監(jiān)測(cè)，還應(yīng)涵蓋對(duì)用戶數(shù)據(jù)安全、隱私保護(hù)、內(nèi)容適宜性等多方面的綜合考量，以確保Ethical-GPT成為安全、高效且值得信賴(lài)的人工智能倫理教育工具。此外，也有必要繼續(xù)優(yōu)化Ethical-GPT的相關(guān)功能，通過(guò)擴(kuò)大訓(xùn)練數(shù)據(jù)集來(lái)提升其邏輯推理和泛化能力，從而更好地滿足人工智能倫理教育的需求與社會(huì)期待。

參考文獻(xiàn)

[1]外交部.中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件[OL].

lt;https：//www.mfa.gov.cn/ziliao_674904/zcwj_674915/202211/t20221117_10976728.shtmlgt;

[2]Zhang H， Lee I， Ali S， et al. Integrating ethics and career futures with technical learning to promote AI literacy for middle school students： An exploratory study[J]. International Journal of Artificial Intelligence in Education， 2024，（2）：290-324.

[3]王佑鎂，王旦，王海潔，等.算法公平：教育人工智能算法偏見(jiàn)的邏輯與治理[J].開(kāi)放教育研究，2023，（5）：37-46.

[4]孫田琳子，金約楠，寇笑迪.跨學(xué)科視域下人工智能倫理教育重構(gòu)：知識(shí)觀、學(xué)生觀與教學(xué)觀[J].中國(guó)電化教育，2024，（4）：45-51.

[5]胡衛(wèi)星，孫雅利，趙苗苗.中小學(xué)數(shù)據(jù)倫理教育的內(nèi)容與實(shí)踐分析[J].中國(guó)教育信息化，2021，（14）：13-17.

[6]鄭南寧.面對(duì)人工智能挑戰(zhàn)人才培養(yǎng)的下一步該如何走[J].中國(guó)大學(xué)教學(xué)，2019，（2）：9-13、8.

[7]褚樂(lè)陽(yáng)，潘香霖，陳向東.AI大模型在教育應(yīng)用中的倫理風(fēng)險(xiǎn)與應(yīng)對(duì)[J].蘇州大學(xué)學(xué)報(bào)（教育科學(xué)版），2024，（1）：87-96.

[8]劉挺.從ChatGPT談大語(yǔ)言模型及其應(yīng)用[J].語(yǔ)言戰(zhàn)略研究，2023，（5）：14-18.

[9]余勝泉，熊莎莎.基于大模型增強(qiáng)的通用人工智能教師架構(gòu)[J].開(kāi)放教育研究，2024，（1）：33-43.

[10]中國(guó)教育科學(xué)研究院數(shù)字教育研究所，之江實(shí)驗(yàn)室智能教育研究中心.關(guān)于《重構(gòu)教育圖景：教育專(zhuān)用大模型研究報(bào)告》[OL]. lt;https：//www.eol.cn/info/dongtai/202312/t20231213_2548525.shtmlgt;

[11]翟雪松，季爽，焦麗珍，等.基于多智能體的人機(jī)協(xié)同解決復(fù)雜學(xué)習(xí)問(wèn)題實(shí)證研究[J].開(kāi)放教育研究，2024，（3）：63-73.

[12]郭旦懷，吳若玲，盧罡，等.AIGC在大學(xué)計(jì)算機(jī)教育教學(xué)中的有效利用[J].計(jì)算機(jī)教育，2024，（7）：35-40.

[13]苗逢春.生成式人工智能及其教育應(yīng)用的基本爭(zhēng)議和對(duì)策[J].開(kāi)放教育研究，2024，（1）：4-15.

[14]Bokander L， Bylund E. Probing the internal validity of the LLAMA language aptitude tests[J]. Language Learning， 2020，（1）：11-47.

[15]Urrutia F， Araya R. Who’s the best detective？ Large language models vs. traditional machine learning in detecting incoherent fourth grade math answers[J]. Journal of Educational Computing Research， 2024，（8）：187-218.

[16]王翼虎，白海燕，孟旭陽(yáng).大語(yǔ)言模型在圖書(shū)館參考咨詢服務(wù)中的智能化實(shí)踐探索[J].情報(bào)理論與實(shí)踐，2023，（8）：96-103.

[17]王佑鎂，王旦，柳晨晨.從科技向善到人的向善：教育人工智能倫理規(guī)范核心原則[J].開(kāi)放教育研究，2022，（5）：68-78.

[18]王龔，顧小清，胡碧皓.基于元宇宙和生成式人工智能的教師實(shí)訓(xùn)成效研究[J].開(kāi)放教育研究，2024，（3）：74-86.

[19]Liu C， Sun K， Zhou Q， et al. CPMI-ChatGLM： Parameter-efficient fine-tuning ChatGLM with Chinese patent medicine instructions[J]. Scientific Reports， 2024，（1）：6403.

[20]Liu X， Ji K， Fu Y， et al. P-tuning v2： Prompt tuning can be comparable to fine-tuning universally across scales and tasks[OL]. lt;https：//arxiv.org/pdf/2110.07602gt;

[21]吳永和，吳慧娜，陳圓圓，等.推動(dòng)人工智能向善發(fā)展：教育與人工智能共同的責(zé)任[J].中國(guó)電化教育，2024，（1）：51-58.

[22]張鶴譯，王鑫，韓立帆，等.大語(yǔ)言模型融合知識(shí)圖譜的問(wèn)答系統(tǒng)研究[J].計(jì)算機(jī)科學(xué)與探索，2023，（10）：2377-2388.

[23]李艷，朱雨萌，樊小雨.青少年人工智能倫理教育的探索及啟示——以MIT為例[J].現(xiàn)代遠(yuǎn)距離教育，2024，（1）：3-13.

[24]王明皓，殷濤，楊洪杰，等.知識(shí)圖譜和大模型技術(shù)發(fā)展與應(yīng)用[J].網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023，（S1）：126-131.

[25]余燕芳，夏亮亮，李翼鴻，等.基于知識(shí)圖譜和大語(yǔ)言模型的終身學(xué)習(xí)資源庫(kù)供給生態(tài)構(gòu)建研究[J].遠(yuǎn)程教育雜志，2024，（1）：104-112.

[26]熊余，任朝輝，吳超，等.基于知識(shí)圖譜的可解釋學(xué)習(xí)路徑推薦[J].現(xiàn)代教育技術(shù)，2024，（7）：131-141.

Ethical-GPT： A Pendant GPT Tool Design and Implementation for Ethical Education in AI

WANG You-Mei """WANG Jing-Jing """ZHANG Si-Yu """LIU Chen-Chen

（Research Center for Big Data and Smart Education， Wenzhou University， Wenzhou， Zhejiang， China 325035）

Abstract： While promoting educational reform， artificial intelligence （AI） technology also raises ethical risk challenges such as privacy leakage and technology abuse， making it imperative to strengthen ethical education in AI. At the same time， the problems of scarce learning resources， single teaching methods， and lack of substantive ethical practice in the ethical construction of educational AI at present need to be solved urgently. Therefore， this paper firstly adopted the technical route of “l(fā)arge language model fine-tuning + local knowledge base” to design Ethical-GPT， a pendant GPT tool for ethical education in AI， and introduced the four functional modules of Ethical-GPT including basic question and answer， case learning， contextual simulation， and intelligent quiz. After that， the technical implementation of Ethical-GPT was emphasized on the aspects of large model selection， local knowledge base construction， and efficient model fine-tuning， and analyzed the model effect by comparing the answering results of different models. It was found that the Ethical-GPT had a good professional question-and-answer capability， and could randomly generate and present diversified ethical cases. Finally， the educational application scenarios of Ethical-GPT were discussed deeply. The designed Ethical-GPT in this paper not only provided tool support for the educational practice of AI ethics， but also offered reference ideas to promote the construction of special large language model in education field.

Keywords： Ethical-GPT; educational artificial intelligence; ethical education; large language model