大語言模型賦能智能學伴：系統(tǒng)架構(gòu)與風險防控

摘要：大語言模型作為新一代人工智能技術(shù)的代表，因其在對話流利性、任務(wù)處理通用性和邏輯推理性方面的優(yōu)勢而受到教育領(lǐng)域從業(yè)者的廣泛關(guān)注。當前智能學伴已在促進學習互動、提供個性化輔導(dǎo)、增進情感交流、輔助智能測評等方面進行了一定探索，但是仍然面臨對話問答能力弱、感知性差和教學適用性低等挑戰(zhàn)。大語言模型強大的推理和表達能力為破解這一難題提供了新的思路。大語言模型賦能智能學伴需要重點解決系統(tǒng)架構(gòu)設(shè)計和風險防控兩大問題。具體而言，大語言模型支持下的智能學伴系統(tǒng)架構(gòu)應(yīng)包括輸入層、數(shù)據(jù)層、技術(shù)實現(xiàn)層、應(yīng)用層和輸出層，通過“多平臺協(xié)作＋智能機器人代理”的方式，實現(xiàn)多角色互動、強交互能力、專業(yè)教學問答與深度感知等功能。為避免技術(shù)整合過程中可能出現(xiàn)的數(shù)據(jù)偏見、認知誤導(dǎo)、知識版權(quán)歸屬分歧、隱私泄露等風險，智能學伴系統(tǒng)需在數(shù)據(jù)收集、算法設(shè)計和應(yīng)用實踐等方面加強監(jiān)管和規(guī)范，以確保數(shù)據(jù)的客觀性、算法的準確性以及用戶的隱私權(quán)和知識產(chǎn)權(quán)。未來要縱深推進智能學伴的發(fā)展，還需結(jié)合學科專業(yè)知識和教學基礎(chǔ)理論，提升知識推理的科學性和教學的專業(yè)性。

關(guān)鍵詞：大語言模型；智能學伴；生成式人工智能；系統(tǒng)架構(gòu)；風險防控

中圖分類號：G434" "文獻標識碼：A" " 文章編號：1009-5195（2024）03-0020-09nbsp; doi10.3969/j.issn.1009-5195.2024.03.003

基金項目：2021年度教育部人文社會科學研究青年項目“教育人工智能隱私保護問題研究”（21JYC880037）；2021年度國家自然科學基金青年項目“基于聯(lián)邦學習的個性化學習推薦研究”（62107022）。

作者簡介：李康康，博士，講師，碩士生導(dǎo)師，江蘇省教育信息化工程技術(shù)研究中心（江蘇徐州 221116）；盧穎翔，碩士研究生，江蘇師范大學智慧教育學院（江蘇徐州 221116）；楊現(xiàn)民（通訊作者），博士，教授，博士生導(dǎo)師，江蘇師范大學智慧教育研究中心（江蘇徐州 221116）。

一、引言

大語言模型（Large Language Models，LLM）是基于大量通用數(shù)據(jù)和領(lǐng)域知識數(shù)據(jù)構(gòu)建的深度學習預(yù)訓練模型，可廣泛應(yīng)用于文本生成、數(shù)據(jù)標注、文本分類、知識問答、代碼生成及機器翻譯等領(lǐng)域（Kasneci et al.，2023）。目前，大語言模型主要以AI聊天機器人的方式為學習者提供智能教學輔助服務(wù)。例如，Abdelghani等人研發(fā)的人機對話系統(tǒng)KidsAsk，以輔助提問的方式幫助學習者精準表述自己提出的問題，用以培養(yǎng)學習者的深度思考能力（Abdelghani et al.，2022）。可汗學院基于GPT-4研發(fā)的智能助教Khanmigo，既能為學習者提供步驟引導(dǎo)式的智能教學服務(wù)，也能為學習者提供支持討論和閱讀的伴學服務(wù)（Khan Labs，2023）。此外，大語言模型在輔助學術(shù)閱讀（王卓等，2023）、論文寫作反饋（Bao et al.，2022）、代數(shù)解答提示（Pardos et al.，2023）、編程學習輔導(dǎo)（MacNeil et al.，2022）等方面都具有巨大的應(yīng)用潛力和價值。

廣義而言，上述用于輔助學習者開展教學活動、能智能化提供自然語言解答的工具均可歸類為智能學伴。智能學伴作為與學習者進行對話交流、成長記錄和教學輔助的教育機器人，在教育領(lǐng)域扮演著越來越重要的角色。其自然流暢的對話交流功能不僅能讓學習者感到親切，還能在交互過程中提供個性化的學習支持和指導(dǎo)。此外，智能學伴通過記錄學習者的成長歷程和學習過程，還可以為學習者和教師提供寶貴的教學反饋，有效提升學習者的學習效果和學習體驗。但是，目前智能學伴仍面臨感知性差、教學適用性低、對話問答能力弱等問題（盧宇等，2020）。伴隨LLM技術(shù)的不斷更新迭代，智能學伴將逐步克服現(xiàn)有問題，為學習者帶來更自然的學習體驗。

二、相關(guān)研究及問題提出

1.智能學伴及其面臨的挑戰(zhàn)

智能學伴是指利用信息技術(shù)對學習者的學習過程數(shù)據(jù)進行采集分析，以提供個性化輔導(dǎo)、智能測評、情感交流及成長陪伴等服務(wù)的教育機器人（盧宇等，2020）。不同于其他教育應(yīng)用，智能學伴以學習互動和情感交流為切入點，能綜合不同學段及學科學習者的學業(yè)表現(xiàn)，為其提供個性化的學習輔導(dǎo)服務(wù)。目前，學者們已經(jīng)圍繞智能學伴的教學應(yīng)用展開了系列研究。例如，Chen等人通過比較人類導(dǎo)師與AI導(dǎo)師對學習者寫作質(zhì)量的影響，發(fā)現(xiàn)當用戶參與度較低時，AI導(dǎo)師輔助學生寫作的質(zhì)量要高于人類導(dǎo)師（Chen et al.，2022）；Chae等人開發(fā)了一款英語語言學習對話學伴，其通過模仿人類教師的語言教育行為，可自主安排教學任務(wù)和進度（Chae et al.，2023）；Kandlhofer等人通過系列實驗驗證了智能學伴在教育、科研、社交等方面都具有正向積極作用（Kandlhofer et al.，2016）。

當前智能學伴面臨以下三方面挑戰(zhàn)：一是對話能力弱。以往人工智能技術(shù)在聊天中較難明晰學習者的對話意圖，容易遺忘歷史對話信息，常常出現(xiàn)答非所問的情況，致使學習者交流體驗感較差（張攀峰等，2014）。二是感知性差。學習者的情感態(tài)度與學習困難感知均存在實時性不足和分析不精準的情況。Alves-Oliveira等人認為智能學伴在學習過程中所扮演的角色如果能夠隨學習者感知進行自適應(yīng)變化，將更有利于學習者認知水平的提升（Alves-Oliveira et al.，2016）。三是教學適用性低。其主要表現(xiàn)在解題能力差、教育引導(dǎo)性不足和跨知識領(lǐng)域解答能力弱等方面。上述挑戰(zhàn)在以LLM為代表的新一代人工智能技術(shù)的發(fā)展中有望得到解決。正如比爾·蓋茨在2023年4月全球教育科技峰會所言，未來18個月內(nèi)人工智能聊天機器人將在閱讀、寫作、數(shù)學等方面成為學生的導(dǎo)師，為其提供一對一個性化的教學輔導(dǎo)和互動體驗。針對當前智能學伴面臨的挑戰(zhàn)，本研究嘗試利用LLM與自動生成指令（Automated Prompt）、人在回路的強化學習（Reinforcement Learning from Human Feedback，RLHF）等關(guān)鍵技術(shù)，構(gòu)建具備多角色互動、強交互能力、專業(yè)教學問答與深度感知的智能學伴系統(tǒng)架構(gòu)。

2.LLM教育應(yīng)用現(xiàn)狀分析

以ChatGPT為代表的LLM在內(nèi)容生成、上下文情境理解、邏輯推理能力等方面所表現(xiàn)出的卓越性能，將為未來教學理念、科研范式、教學實踐、人才培養(yǎng)等帶來全方位深層次變革（盧宇等，2023）。國內(nèi)外已有不少研究人員嘗試將LLM接入智能學伴系統(tǒng)，以提高學伴的對話能力、教學能力和情景感知能力。

例如，為了讓智能學伴在對話中能明確學習者的意圖，Abdelghani等人基于GPT-3構(gòu)建了人機對話系統(tǒng)KidsAsk，它能夠理解和回答學生提出的與主題相關(guān)的深層次問題（Abdelghani et al.，2022）。Liu等人也利用LLM開發(fā)了一個共創(chuàng)問題工具來提升學習系統(tǒng)的對話交流能力，以促進學生提問的積極性（Liu et al.，2022）。為了讓學習助手更具教學專業(yè)性， Rudolph等人通過分析學生的語言水平和學習目標等數(shù)據(jù)，使用ChatGPT為學生提供語法、詞匯和發(fā)音的個性化建議，以提高學生的語言技能（Rudolph et al.，2023）。Biswas利用LLM識別效率低下的代碼片段并提出代碼優(yōu)化的建議，進而幫助學習者提升代碼編寫的能力（Biswas，2023）。還有研究發(fā)現(xiàn)，ChatGPT可以為學生提供創(chuàng)意寫作提示，激發(fā)其生成新的想法和寫作思路（Subaveerapandiyan et al.，2023）?？傊@類智能學伴從具體的教學任務(wù)出發(fā)，將LLM作為教學助手為學習者提供特定的學習支持服務(wù)，以實現(xiàn)提升學習者學習動機和學習效果的目的。

此外，企業(yè)界也在積極嘗試利用LLM構(gòu)建智能學伴。例如， Duolingo研發(fā)的智能學伴Duolingo Max，它為學習者提供了兩個全新的功能：解釋我的答案和角色扮演（Duolingo，2023）。其中，解釋我的答案可以幫助學習者了解自己做錯題目的原因，而角色扮演允許學習者在應(yīng)用程序中與該世界中的人物展開對話練習。類似地，可汗學院在自己的學習平臺中利用GPT-4構(gòu)建了專業(yè)的虛擬助手Khanmigo，旨在為學習者提供主題明確和合乎規(guī)范的學習體驗。與ChatGPT等人工智能工具不同，Khanmigo不是直接提供答案，而是以無限的耐心引導(dǎo)學習者自行探索問題的答案。受益于可汗學院在線學習平臺的知識庫內(nèi)容，Khanmigo能夠為學習者提供涵蓋數(shù)學、人文、編程、社會研究等多個領(lǐng)域的學習輔導(dǎo)（Khan Labs，2023）。綜上分析可以發(fā)現(xiàn)，在LLM技術(shù)的加持下，智能學伴能夠以自然交互的方式為學習者提供親切和個性化的學習支持。其流暢的對話能力使得學習者能夠與智能學伴進行高效溝通，并獲得具有一定深度的解答和指導(dǎo)。智能學伴還能根據(jù)學習者的需求和學習情境，靈活調(diào)整提供的內(nèi)容和方式，不斷提升學習的趣味性。然而，盡管LLM技術(shù)為智能學伴帶來了諸多優(yōu)勢，但在技術(shù)應(yīng)用過程中仍存在一些諸如數(shù)據(jù)隱私保護、教育性不足、內(nèi)容幻覺等問題亟待解決。因此，未來發(fā)展智能學伴需要在充分發(fā)揮LLM技術(shù)優(yōu)勢的同時，注重解決技術(shù)應(yīng)用中產(chǎn)生的新問題，如此才能實現(xiàn)智能學伴的可持續(xù)發(fā)展和良性應(yīng)用。

三、LLM賦能智能學伴的系統(tǒng)架構(gòu)

為更好地應(yīng)對智能學伴發(fā)展面臨的挑戰(zhàn)，本文嘗試設(shè)計基于LLM的智能學伴系統(tǒng)架構(gòu)，以實現(xiàn)其在教育領(lǐng)域的廣泛應(yīng)用。該架構(gòu)分為5層，包括輸入層、數(shù)據(jù)層、技術(shù)實現(xiàn)層、應(yīng)用層和輸出層，具體架構(gòu)如圖1所示。

1.輸入層

在智能學伴系統(tǒng)中，輸入層旨在接收學習者輸入的信息。學習者通過如鼠標、鍵盤、麥克風、攝像頭等外接設(shè)備，將文字、語音、圖片和視頻等多種形式的信息反饋給智能學伴系統(tǒng)。一方面，輸入層在對學習者輸入的信息進行收集后，可通過語音識別或視覺識別的方式對信息進行處理，以便技術(shù)實現(xiàn)層能準確進行指令生成與任務(wù)執(zhí)行。另一方面，學習者輸入的信息將留存到數(shù)據(jù)層，用以記錄學習者的學習行為、語音特征及人臉特征等。例如，學習者可以將自己的作文拍照上傳到智能學伴系統(tǒng)，系統(tǒng)可根據(jù)LLM的智能測評功能給予及時反饋。當學習者通過語音的方式與家人或教師溝通時，智能學伴可以將雙方的語音記錄留存，還可模擬家人或教師發(fā)音給予學習者更具親和力的指導(dǎo)。學習者也可通過視頻方式與智能學伴中的虛擬人進行溝通，留存的人臉數(shù)據(jù)可用于分析和識別學習者的情緒狀態(tài)。

2.數(shù)據(jù)層

數(shù)據(jù)層是智能學伴的基礎(chǔ)模塊，同時也是LLM生成知識表達的基石（萬海鵬等，2017）。從LLM賦能智能學伴的功能來看，其數(shù)據(jù)類型主要包括用戶特征數(shù)據(jù)、專業(yè)知識數(shù)據(jù)、學習行為數(shù)據(jù)、合作平臺數(shù)據(jù)和向量數(shù)據(jù)庫。其中，用戶特征數(shù)據(jù)主要指用戶的基本信息數(shù)據(jù)。LLM可以生成匹配學段的虛擬角色，為學習者提供符合其認知特點的學業(yè)指導(dǎo)。專業(yè)知識數(shù)據(jù)包括不同學段和不同學科的知識數(shù)據(jù)以及平臺前期積累的教學數(shù)據(jù)。這些數(shù)據(jù)是智能學伴提供專業(yè)講授、答疑和解題服務(wù)的基礎(chǔ)。學習行為數(shù)據(jù)是學習者在智慧學習平臺產(chǎn)生的一系列學習活動記錄，包括但不限于學習時間、學習內(nèi)容、學習進度、學習方式、答題情況等信息。學習行為數(shù)據(jù)可用于了解學習者的學習習慣、學習偏好、學習效果等，從而為個性化學習輔導(dǎo)提供決策支持。同時，LLM還可根據(jù)學情分析推薦與學習者認知水平相符的學習資源，從而減輕學習者的認知負荷。合作平臺數(shù)據(jù)主要指與學習者日常生活相關(guān)的數(shù)據(jù)，包括在其他教學平臺產(chǎn)生的學習數(shù)據(jù)、社交網(wǎng)絡(luò)數(shù)據(jù)、自媒體平臺的觀點數(shù)據(jù)、時間規(guī)劃數(shù)據(jù)等。這些數(shù)據(jù)可以在用戶授權(quán)和平臺同意的前提下，完成與智能學伴系統(tǒng)的對接，形成社會性資源語料庫，進而實現(xiàn)全方位刻畫學習者的行為畫像。向量數(shù)據(jù)庫主要存儲非結(jié)構(gòu)化數(shù)據(jù)的特征向量，可用于LLM存儲、分析、檢索信息，進而加快非結(jié)構(gòu)化內(nèi)容的生成。

3.技術(shù)實現(xiàn)層

技術(shù)實現(xiàn)層主要采用“多平臺協(xié)作＋智能機器人代理”的方式實現(xiàn)。首先，智能學伴的教學輔導(dǎo)以自有的智慧學習平臺為主，結(jié)合學習者的學習行為數(shù)據(jù)和教學內(nèi)容等信息，可通過微調(diào)LLM模型，實現(xiàn)特色化的模型部署。其次，合作平臺需要在用戶同意授權(quán)的條件下，共享數(shù)據(jù)使用權(quán)，以全面描繪學習者行為。例如，當學習者與智能學伴進行聊天時，智能學伴可以根據(jù)學習者最新的社交媒體或朋友圈狀態(tài)，生成與其情感狀態(tài)相關(guān)的內(nèi)容，引導(dǎo)其正確面對人生困難。此外，智能學伴還可以根據(jù)智慧學習平臺中學習者的學習進展數(shù)據(jù)和時間管理平臺中的數(shù)據(jù)，為學習者制定學習規(guī)劃。最后，智能學伴以學習者的文本輸入或語音輸入為交流反饋的起點，通過將學習者需求文本傳輸給智能機器人代理進行優(yōu)化，亦可將需求改造為特定的任務(wù)指令。在分析指令的過程中，LLM可自主確定與學習者交流的角色，并以該角色的身份將學習者的需求傳達給具備任務(wù)執(zhí)行功能的智能機器人代理?？傮w而言，技術(shù)實現(xiàn)層的基本工作流程包括四個階段：指令生成、角色選擇、任務(wù)執(zhí)行和結(jié)果返回。

（1）指令生成

在指令生成階段，主要采用自動生成指令技術(shù)（Shin et al.，2020；Srivastava et al.，2021），結(jié)合上下文信息及學習者所學內(nèi)容，將用戶需求轉(zhuǎn)換為準確且可讀性高的指令反饋給學習者。學習者可根據(jù)自己的期望和需求調(diào)整指令，以使LLM能更準確地理解學習者的需求。以圖2為例，當學習者首次提問“請問下面方程如何求解？3x＋2*（5-x）＝30”時，自動生成指令技術(shù)會結(jié)合學習者在智慧學習平臺的學習年級、視頻學習內(nèi)容、學習筆記等信息，生成如下的指令：“請問小學四年級一元一次方程如何求解，方程為：3x＋2*（5-x）＝30”。學習者在收到上面指令后可以對其進行修改優(yōu)化，如“請問小學數(shù)學老師，關(guān)于四年級的一元一次方程如何求解，方程為：3x＋10-2x＝30”。學習者還可將未修改指令直接提交給LLM。LLM在這個過程中扮演了整個系統(tǒng)的“大腦”， 負責對學習者的請求進行深度分析和智能決策。具體而言，LLM負責將學習者的需求轉(zhuǎn)化為結(jié)構(gòu)化任務(wù)，包括任務(wù)執(zhí)行順序以及任務(wù)之間的邏輯關(guān)系，以此實現(xiàn)引導(dǎo)式問題解答服務(wù)。

（2）角色選擇

LLM在解析完指令后會進行角色自主選擇，通過挑選最合適的角色為學習者提供專業(yè)的回答。最合適的角色是由LLM對學習者提出的需求進行語義分析后設(shè)定的。智能學伴系統(tǒng)可提供5種基本角色：教師、專家、家長、伙伴和助手。不同的角色在與學習者交流時所采取的交互策略亦不相同。例如，當LLM以教師角色為學習者提供輔導(dǎo)時，可采用步驟引導(dǎo)式交互策略，促進學生對問題的思考；當以專家角色為學習者提供指導(dǎo)時，可采用特定知識領(lǐng)域內(nèi)容生成策略，為學習者提供專業(yè)的知識答疑、表現(xiàn)評價或心理輔導(dǎo)；當以家長角色與學習者交互時，可利用本地保存的家人聊天數(shù)據(jù)和家庭教育知識數(shù)據(jù)訓練生成虛擬家長，模擬家人對話的特點，為學習者提供親切自然且專業(yè)的交流服務(wù)；當以伙伴角色與學習者交流時，可采用平等對話交流策略，為學習者提供輕松愉悅的互動體驗；當以助手角色與學習者交互時，可采用情景模擬策略，為學習者提供如圖書人物角色扮演、作者角色對話或?qū)W業(yè)計劃制定等服務(wù)。

（3）任務(wù)執(zhí)行

任務(wù)執(zhí)行指智能代理機器人在接收到任務(wù)指令和角色需求后，將會以特定角色為基礎(chǔ)進行推理、內(nèi)容生成或軟件自動操作。為了提高任務(wù)執(zhí)行的響應(yīng)速度和準確性，執(zhí)行階段需要利用本地數(shù)據(jù)作為LLM模型的參考信息。此外，LLM模型還能夠通過自主搜索網(wǎng)頁來獲取信息，以匹配任務(wù)所需的結(jié)果。為解決網(wǎng)絡(luò)訪問階段可能會出現(xiàn)的信息真實性偏差、嚴謹性不足和錯誤性描述等問題，可以在訪問網(wǎng)絡(luò)生成結(jié)果的最后階段，對初次反饋內(nèi)容進行風險過濾，以提高所獲取信息的準確性和安全性。

（4）結(jié)果返回

在任務(wù)執(zhí)行完成后，LLM進入結(jié)果返回階段。在此階段，LLM將整合前三個階段的任務(wù)解析、優(yōu)化后指令、角色設(shè)定等信息，主動響應(yīng)用戶請求，以親切的自然語言向?qū)W習者提供高可信度的內(nèi)容或決策（朱光輝等，2023）。

4.應(yīng)用層

在技術(shù)實現(xiàn)層的基礎(chǔ)上，智能學伴能夠以專業(yè)知識領(lǐng)域?qū)＜业纳矸轂閷W習者提供專業(yè)性、即時性和精確性的學習輔導(dǎo)，以滿足不同類型學習者的學習需求。依托智慧學習平臺，LLM賦能的智能學伴應(yīng)用服務(wù)可以歸納為學業(yè)輔導(dǎo)、生活陪伴和學業(yè)規(guī)劃三大類。

第一，學業(yè)輔導(dǎo)。智能學伴可以為學習者提供多種形式的學業(yè)輔導(dǎo)，包括寫作批改、語言訓練、閱讀輔導(dǎo)、功課輔導(dǎo)、編程教學、音體美助手等。LLM支持下的智能學伴能夠?qū)W習者的作業(yè)和測試進行輔助批改，自動判斷答案正誤，并給出合理的錯誤原因分析，為學習者提供個性化解題輔導(dǎo)。智能學伴還可通過語音交互的方式，為學習者提供口語表達和寫作技巧方面的輔導(dǎo)，幫助其提高語言表達能力和寫作水平。智能學伴系統(tǒng)還能通過動作捕捉、表情變化監(jiān)測和情感分析等技術(shù)識別學習者在學習過程中可能出現(xiàn)的分心、焦慮或者疲倦等情況，并據(jù)此為學習者提供相應(yīng)的改進建議。在功課輔導(dǎo)方面，智能學伴可以解答學科問題、提供解釋和改進建議，幫助學習者更好地理解學習內(nèi)容。在非學科類教學方面，智能學伴可通過游戲化的方式，為學習者提供趣味練習并實時反饋其練習表現(xiàn)，激發(fā)其學習興趣和參與度。

第二，生活陪伴。智能學伴的生活陪伴服務(wù)主要包括情感支持、閑聊陪伴、生活建議、百科問答和親子互動等。以往許多學伴系統(tǒng)也能為學習者提供對話服務(wù)，但其所提供的對話服務(wù)通常較為生硬。而在LLM加持下，智能學伴能夠以心理學專家的身份為學習者提供情感支持，緩解其學業(yè)壓力。智能學伴還能以伙伴的口吻與學習者展開閑聊陪伴，當學習者輸入消極內(nèi)容時（如“我是不是一個失敗的人”“考試考得太差，是不是我沒有別人聰明”等），系統(tǒng)會自動識別內(nèi)容中的消極情緒，及時提供關(guān)心和建議，幫助學習者建立積極情緒和自信心，同時引導(dǎo)他們通過正面思考和行為調(diào)整來應(yīng)對挑戰(zhàn)。LLM技術(shù)在學習大量知識領(lǐng)域的文本數(shù)據(jù)后，也能為學習者提供跨專業(yè)知識的百科問答服務(wù)。與傳統(tǒng)問答機器人相比，智能學伴能夠更好地理解用戶提問，并與學習者進行連續(xù)性對話，引導(dǎo)他們主動思考，積極求解問題答案。在家庭生活陪伴方面，智能學伴能為家長和孩子提供親子互動活動建議，如游戲、手工制作、家庭旅行等，幫助家長更好地參與孩子的教育。

第三，學業(yè)規(guī)劃。智能學伴可以為學習者提供的學業(yè)規(guī)劃服務(wù)包括學情分析、任務(wù)助手、學習計劃和職業(yè)規(guī)劃等。在學情分析方面，智能學伴可作為家校溝通的紐帶，將生成的多維度、個性化學情分析報告呈現(xiàn)給教師、家長和學生。通過這些報告，教師可以清晰了解學生的學習狀態(tài)和進度，從而靈活調(diào)整教學策略以更好地滿足學生的需求；家長可以實時了解孩子在校情況，及時給予孩子提醒或鼓勵，幫助孩子走出困境。此外，智能學伴還能擔任學習過程中的任務(wù)助手，為學習者推薦相應(yīng)的學習資源，并提供完成學習任務(wù)的具體步驟和建議。例如，智能學伴會根據(jù)學習者的課程表和作業(yè)任務(wù)，安排不同時長的學習活動，并為學習者提供時間分配建議；還會將大的學習目標分解為小的學習任務(wù)，并確定任務(wù)完成的優(yōu)先級，以保持學習過程的組織性和高效性；亦可以根據(jù)學習者的學習進度和理解程度，調(diào)整學習任務(wù)的難度和復(fù)雜度，確保學習者在適當?shù)奶魬?zhàn)下持續(xù)成長。通過這種方式，智能學伴不僅能幫助學習者規(guī)劃時間和任務(wù)，還可提升其學習能力和自我管理能力，實現(xiàn)更高效的自主學習。此外，智能學伴還能結(jié)合學習者個人情況、興趣愛好、技能水平以及市場需求等因素，通過智能算法與數(shù)據(jù)分析，為其推薦與之匹配的職業(yè)領(lǐng)域和崗位，并提供相應(yīng)的未來職業(yè)建議。

5.輸出層

輸出層是對智能學伴反饋內(nèi)容的顯示環(huán)節(jié)。學習者可選擇文本、語音或視頻等形式獲取反饋。當學習者需要情感支持、閑聊陪伴或語言訓練等服務(wù)時，智能學伴能以數(shù)字人形式提供親切的反饋。對于音體美輔導(dǎo)或生活建議等需求，智能學伴可通過實時視頻交互或語音等方式提供專業(yè)指導(dǎo)。對于學業(yè)輔導(dǎo)，智能學伴可采用文本交互方式引導(dǎo)學生完成作業(yè)任務(wù)。在智能學伴系統(tǒng)運行過程中，通過智能機器人代理形式向網(wǎng)絡(luò)服務(wù)器搜集答案數(shù)據(jù)，還可能會出現(xiàn)信息不準確、不安全或不適當?shù)葐栴}。因此，輸出層需要引入可本地部署的小型語言模型進行內(nèi)容風險過濾，以全面檢查LLM生成的學習內(nèi)容。風險過濾應(yīng)結(jié)合學習者年齡、興趣、學習目標等因素以及用戶反饋的風險內(nèi)容，綜合判斷學習內(nèi)容是否符合風險防控規(guī)范要求。例如，當學習者學習生命教育相關(guān)內(nèi)容時，風險過濾應(yīng)屏蔽暴力、色情或歧視等相關(guān)內(nèi)容，以確保輸出層輸出的內(nèi)容安全、健康和適宜。

四、LLM賦能智能學伴的潛在風險及應(yīng)對

2023年3月，SpaceX公司CEO馬斯克與數(shù)千名科技工作者聯(lián)名發(fā)表公開信，呼吁所有人工智能實驗室停止對更加強大的人工智能系統(tǒng)的訓練。有學者認為，在教育中使用ChatGPT等生成式人工智能技術(shù)，可能會出現(xiàn)缺乏人類關(guān)愛、理解有限、訓練數(shù)據(jù)存在偏差、學生思考惰化、用戶隱私泄露等問題（Shen et al.，2021）。那么LLM賦能的智能學伴可能存在哪些風險，以及如何應(yīng)對這些風險？這也是本研究特別關(guān)注的問題。

1.教育中的數(shù)據(jù)偏見

數(shù)據(jù)偏見是指在數(shù)據(jù)中存在不平衡或不公平的現(xiàn)象，通常反映在社會、文化、性別、種族或其他因素的不平等上。LLM在教育中的頻繁使用也會不自覺地產(chǎn)生一系列的數(shù)據(jù)偏見，這些偏見可能來自文本數(shù)據(jù)；也可能是因為在教育中某些群體的信息被較少地記錄在數(shù)據(jù)中，從而導(dǎo)致智能學伴對這些群體的理解不足。例如，某些經(jīng)濟發(fā)達地區(qū)可能在教育資源和機會方面更具優(yōu)勢，而經(jīng)濟較落后地區(qū)則可能受到較少的關(guān)注和支持。如果模型主要基于經(jīng)濟發(fā)達地區(qū)的數(shù)據(jù)進行訓練，可能會忽視或低估較為貧困或偏遠地區(qū)學生的需求和潛力。在教育數(shù)據(jù)中，來自不同社會經(jīng)濟背景的學生可能面臨不同的機會和挑戰(zhàn)，如果模型未能充分考慮這些差異，可能會導(dǎo)致對貧困學生或來自低收入家庭學生的偏見，進而低估他們的學業(yè)能力或潛力。

解決數(shù)據(jù)偏見是一項復(fù)雜的工程，可采取以下方法消除其影響：一是保證數(shù)據(jù)的多樣性。在訓練數(shù)據(jù)時引入更多樣的數(shù)據(jù)類型，包括不同教育背景、家庭文化、個性特征等的學習者數(shù)據(jù)；同時還需教育工作者定期審查和清理訓練數(shù)據(jù)，以刪除包含明顯偏見的文本數(shù)據(jù)，確保訓練數(shù)據(jù)集的均衡性。二是通過對算法模型微調(diào)，以減少對特定群體的偏見。如通過公開數(shù)據(jù)來源和算法架構(gòu)，方便研發(fā)人員利用算法微調(diào)的技術(shù)進行糾偏。三是教育者應(yīng)當為學習者提供關(guān)于數(shù)據(jù)偏見和信息批判力的培訓，使他們能夠在使用智能學伴時主動識別潛在偏見。

2.學習過程中的認知誤導(dǎo)

OpenAI在ChatGPT的使用首頁上提醒用戶：ChatGPT有時會生成“一本正經(jīng)”但不正確的答案。目前生成式人工智能系統(tǒng)由于受到算法結(jié)構(gòu)、預(yù)訓練數(shù)據(jù)等諸多因素的影響，可能會生成不準確的信息，進而對學習者產(chǎn)生誤導(dǎo)。在通用知識領(lǐng)域訓練得到的LLM模型還不能很好地理解信息之間的內(nèi)在邏輯關(guān)系，生成的答案也可能只是文本的拼接而沒有實際的邏輯關(guān)系，甚至有可能生成不合理或具有事實性錯誤的答案。例如，當學生提問“中國古代四大名醫(yī)是誰”時，LLM生成的答案可能是杜撰的，這也極容易導(dǎo)致對不具備專業(yè)知識的學習者產(chǎn)生認知誤導(dǎo)。

為了幫助學習者在使用智能學伴過程中盡可能避免受到錯誤信息的干擾，可采取以下策略：首先，建立專業(yè)的學科知識訓練數(shù)據(jù)集，以降低信息生成的錯誤率。通過收集、整理和標注相關(guān)領(lǐng)域的高質(zhì)量數(shù)據(jù)，可提高智能學伴生成答案和建議的準確性（王佑鎂等，2023）。其次，在學伴系統(tǒng)中引入錯誤報告系統(tǒng)，讓學生和老師能夠及時反饋智能學伴中的錯誤信息，從而不斷改進和提高內(nèi)容生成的準確性。最后，教師應(yīng)培養(yǎng)學生的批判思維，引導(dǎo)他們正確理解和使用智能學伴系統(tǒng)。在學習者使用智能學伴時，應(yīng)提醒其注意事項，明確智能學伴只是一個輔助工具，生成的答案和建議并非絕對正確，鼓勵他們積極思考，有選擇地采納答案和建議。這些措施有助于提升學習者對智能學伴的信任度和使用體驗，減少錯誤信息對學習效果的干擾。

3.知識內(nèi)容的版權(quán)問題

LLM在生成測驗、作業(yè)、回答等內(nèi)容時，可能會借鑒平臺或?qū)＜业膬?nèi)容和觀點，直接基于相關(guān)數(shù)據(jù)生成相近的內(nèi)容，而并不會對所引用的內(nèi)容進行標注，這可能導(dǎo)致智能學伴使用過程中的內(nèi)容版權(quán)問題。正如有學者所指出的，LLM生成的內(nèi)容可能會涉嫌抄襲或剽竊，其生成的內(nèi)容與某些原創(chuàng)作品相似，雖然沒有剽竊原文，但也可能存在知識產(chǎn)權(quán)問題（Marshall，2023）。因此，智能學伴需要明確相關(guān)內(nèi)容的來源，確保生成的教學內(nèi)容符合版權(quán)使用法規(guī)，以使學習者能夠放心使用所提供的資源。

為了使智能學伴生成的內(nèi)容更具安全性，更符合相關(guān)法律法規(guī)的要求，可以從以下三方面入手解決：一是在使用智能學伴生成學習內(nèi)容時，尊重原始文檔作者的權(quán)益，讓系統(tǒng)標注原始文檔的引用信息。這樣學習者既可以了解內(nèi)容的來源，還能更好地判斷內(nèi)容的質(zhì)量。二是智能學伴系統(tǒng)在訓練數(shù)據(jù)集前需要遵守開源內(nèi)容的相關(guān)版權(quán)條款，包括內(nèi)容的使用方式、署名要求等，保證LLM所生成的內(nèi)容符合版權(quán)方的使用規(guī)范。三是在學習者使用智能學伴的過程中，可通過系統(tǒng)中相關(guān)的提示、聲明、用戶協(xié)議等方式，告知用戶版權(quán)保護的重要性，提高學習者對知識產(chǎn)權(quán)的認識和理解。

4.學生隱私信息的泄露

智能學伴在與學習者交流和答疑過程中，學習者可能會不經(jīng)意間輸入個人隱私信息。這些敏感信息存儲在云端，可能會受到不法分子的竊取威脅。例如，在與學習者進行聊天對話時，相關(guān)數(shù)據(jù)可能會傳輸?shù)絃LM模型的基礎(chǔ)數(shù)據(jù)庫，成為未來內(nèi)容生成的潛在來源。而這些未經(jīng)保護的學習者信息很容易被不法分子利用，生成虛假或具有暴力傾向的有害信息，進而對學習者的身心健康造成不良影響。

為了更好地保護學習者的隱私數(shù)據(jù)安全，可以嘗試以下解決方法：首先，在技術(shù)層面上，加密存儲學習者敏感數(shù)據(jù)，限制數(shù)據(jù)訪問權(quán)限，只有經(jīng)授權(quán)的平臺、模型或人員才能讀取這些數(shù)據(jù)。其次，在社會層面上，建立相關(guān)的數(shù)據(jù)保護政策，規(guī)定平臺必須向用戶明確告知數(shù)據(jù)的具體用途和保護措施，加強對開發(fā)人員的數(shù)據(jù)保護指導(dǎo)和培訓，以避免因疏忽操作而導(dǎo)致數(shù)據(jù)泄露。最后，在學習者層面上，加強信息保護意識，讓學習者了解自己的權(quán)利和隱私，學會識別和防范數(shù)據(jù)泄露等風險，合理使用智能學伴，并遵守相關(guān)使用規(guī)則和法規(guī)，謹慎輸入敏感信息。此外，學校和教育機構(gòu)還應(yīng)為學習者和教師提供更多的數(shù)據(jù)安全培訓，加強師生的數(shù)據(jù)安全意識和知識，共同維護自身的信息安全。

五、結(jié)語

隨著LLM技術(shù)的不斷成熟，智能學伴迎來新的發(fā)展機遇。傳統(tǒng)智能學伴存在感知能力不足、對話交互性差、教學適用性低等問題，而借助LLM的技術(shù)優(yōu)勢，可以有效突破這些困境。然而，新技術(shù)的應(yīng)用需要建立在新系統(tǒng)架構(gòu)的支撐之上。本研究設(shè)計的LLM賦能的智能學伴系統(tǒng)整體架構(gòu)包括輸入層、數(shù)據(jù)層、技術(shù)實現(xiàn)層、應(yīng)用層和輸出層5個方面，通過多平臺協(xié)作和智能機器人代理的方式，能為學習者提供具備多角色互動、強交互能力、專業(yè)教學問答能力的智能教學服務(wù)。同時，為了規(guī)避LLM應(yīng)用于智能學伴系統(tǒng)可能帶來的風險，本研究嘗試提出了針對不同類別風險的解決策略，旨在構(gòu)建一個安全、健康的智能學伴系統(tǒng)。盡管LLM賦能智能學伴的發(fā)展前景廣闊，但相關(guān)研究仍在不斷探索之中。未來的發(fā)展需要在學科專業(yè)知識領(lǐng)域數(shù)據(jù)建設(shè)、縱向知識森林體系構(gòu)建、物理情景感知和計算、向量數(shù)據(jù)庫建設(shè)、風險防范等方面加強研究，進一步提升智能學伴的安全性能和用戶體驗，實現(xiàn)智能學伴更廣泛的應(yīng)用。

參考文獻：

[1]盧宇，薛天琪，陳鵬鶴等（2020）.智能教育機器人系統(tǒng)構(gòu)建及關(guān)鍵技術(shù)——以“智慧學伴”機器人為例[J].開放教育研究，26（2）：83-91.

[2]盧宇，余京蕾，陳鵬鶴等（2023）.生成式人工智能的教育應(yīng)用與展望——以ChatGPT系統(tǒng)為例[J].中國遠程教育，43（4）：24-31，51.

[3]萬海鵬，余勝泉（2017）.基于學習元平臺的學習認知地圖構(gòu)建[J].電化教育研究，38（9）：83-88，107.

[4]王佑鎂，王旦，梁煒怡等（2023）.“阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應(yīng)用的潛能與風險[J].現(xiàn)代遠程教育研究，35（2）：48-56.

[5]王卓，馬洋珍，楊現(xiàn)民等（2023）.ChatGPT類閱讀平臺對研究生學術(shù)閱讀能力的影響[J].開放教育研究，29（6）：60-68.

[6]張攀峰，尋素華，吉麗曉（2014）. “智能學伴”在小學游戲化學習社區(qū)中的情感交互設(shè)計[J].中國電化教育，（10）：123-128.

[7]朱光輝，王喜文（2023）. ChatGPT的運行模式、關(guān)鍵技術(shù)及未來圖景[J].新疆師范大學學報（哲學社會科學版），44（4）：113-122.

[8]Abdelghani， R.， Wang， Y-H.， amp; Yuan， X. et al. （2022）. GPT-3-Driven Pedagogical Agents for Training Children’s Curious Question-Asking Skills[EB/OL]. [2024-04-01]. https：//arxiv.org/pdf/2211.14228.pdf .

[9]Alves-Oliveira， P.， Sequeira， P.， amp; Paiva， A. （2016）. The Role That an Educational Robot Plays[C]// Proceedings of the 25th IEEE International Symposium on Robot and Human Interactive Communication（R0-MAN）. USA： New York： IEEE：817-822.

[10]Bao， J.， Wang， Y.， amp; Li， Y. et al. （2022）. AEG： Argumentative Essay Generation via a Dual-Decoder Model with Content Planning[C]// Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing. United Arab Emirates： Abu Dhabi： Association for Computational Linguistics：5134-5148.

[11]Biswas， S. （2023）. Role of ChatGPT in Computer Programming[J]. Mesopotamian Journal of Computer Science， 2023：8-16.

[12]Chae， H.， Kim， M.， amp; Kim， C. et al. （2023）. TUTORING： Instruction-Grounded Conversational Agent for Language Learners[C]// Proceedings of the AAAI Conference on Artificial Intelligence. USA： Washington： AAAI Press：16413-16415.

[13]Chen， M.， Liu， F.， amp; Lee， Y. H. （2022）. My Tutor Is an AI： The Effects of Involvement and Tutor Type on Perceived Quality， Perceived Credibility， and Use Intention[C]// Proceedings of the International Conference on Human-Computer Interaction： Artificial Intelligence in HCI. Denmark： Copenhagen： Springer：232-244.

[14]Duolingo （2023）. Introducing Duolingo Max， a Learning Experience Powered By GPT-4[EB/OL]. [2024-04-01]. https：//blog.duolingo.com/duolingo-max/.

[15]Kandlhofer， M.， amp; Steinbauer， G. （2016）. Evaluating the Impact of Educational Robotics on Pupils’Technical- and Social-Skills and Science Related Attitudes[J]. Robotics and Autonomous Systems， 75：679-685.

[16]Kasneci， E.， Sessler， K.， amp; Küchemann， S. et al. （2023）. ChatGPT for Good？ On Opportunities and Challenges of Large Language Models for Education[J]. Learning and Individual Differences，103：1-9.

[17]Khan Labs （2023）. World-Class AI for Education[EB/OL]. [2023-05-24]. https：//www.khanacademy.org/khan-labs.

[18]Liu， M.， Zhang， J.， amp; Nyagoga， L. M. et al. （2022）. Student-AI Question Co-Creation for Enhancing Reading Comprehension[J]. IEEE Transactions on Learning Technologies， 17：815-826.

[19]MacNeil， S.， Tran， A.， amp; Hellas， A. et al. （2022）. Experiences from Using Code Explanations Generated by Large Language Models in a Web Software Development E-Book[EB/OL]. [2023-05-10]. https：//arxiv.org/pdf/2211.02265.pdf.

[20]Marshall， C. （2023）. Noam Chomsky on ChatGPT： It’s “Basically High-Tech Plagiarism” and “a Way of Avoiding Learning” [EB/OL]. [2023-04-29]. https：//www.openculture.com/2023/02/noam-chomsky-on-chatgpt.

[21]Pardos， Z. A.， amp; Bhandari， S. （2023）. Learning Gain Differences Between ChatGPT and Human Tutor Generated Algebra Hints[EB/OL]. [2023-06-20]. https：//arxiv.org/pdf/2302.06871/pdf.

[22]Rudolph， J.， Tan， S.， amp; Tan， S. （2023）. ChatGPT： Bullshit Spewer or the End of Traditional Assessments in Higher Education？[J]. Journal of Applied Learning amp; Teaching， 6（1）：342-363.

[23]Shen， J.， Yin， Y.， amp; Li， L. et al. （2021）. Generate amp; Rank： A Multi-Task Framework for Math Word Problems[EB/OL]. [2023-05-06]. https：//arxiv.org/pdf/2109.03034.pdf.

[24]Shin， T.， Razeghi， Y.， amp; Robert， L. et al. （2020）. Autoprompt： Elicitingknowledge from Language Models with Automatically Generated Prompts[EB/OL]. [2023-06-15]. https：//arxiv.org/pdf/2012.15980.pdf.

[25]Srivastava， S.， amp; Prabhakar， T. V. （2021）. AutoPrompt： A Desktop Application for Designing Micro-Lectures Using Micro-Prompt Strategy for Online Education Systems[C]// Proceedings of the 2021 International Conference on Advanced Learning Technologies （ICALT）. Estonia： Tartu： IEEE：209-210.

[26]Subaveerapandiyan， A.， Vinoth， A.， amp; Neelam， T. （2023）. Netizens， Academicians， and Information Professionals’Opinions About AI with Special Reference to ChatGPT[EB/OL]. [2023-06-18]. https：//arxiv.org/pdf/2302.07136.pdf.

收稿日期 2023-10-20 責任編輯 劉選

Large Language Model Empowering Smart Learning Partners： System Architecture and Risk Control

LI Kangkang， LU Yingxiang， YANG Xianmin

Abstract： As a representative of the next-generation AI technology， large language models have garnered considerable attention from educators due to their advantages in fluency of dialogue， task processing versatility and logical reasoning. Although smart learning partners have made some progress in facilitating learning interaction， offering personalized tutoring， enhancing emotional exchange and supporting intelligent assessment， they still face challenges such as limited dialogue and questioning capabilities， poor perceptual skills， and low applicability in teaching. Large language models’ powerful reasoning and expressive capabilities offer new avenues for addressing these challenges. Empowering smart learning partners with large language models requires focusing on two major issues： system architecture design and risk control. Specifically， the architecture should include input， data， technical implementation， application and output layers. By employing a “multi-platform collaboration + intelligent robotic agents” approach， the system can achieve multi-role interaction， robust interactivity， professional teaching Qamp;A， and deep perception capabilities. To avoid risks such as data bias， cognitive misguidance， disputes over knowledge copyrights and privacy breaches that may arise during the technical integration process， the system must enhance oversight and regulation in data collection， algorithm design and application practice to ensure the objectivity of data， the accuracy of algorithm and the users’ privacy and intellectual property rights. To further advance the development of smart learning partners in the future， it is essential to integrate subject knowledge and foundation theory of teaching to enhance the scientific rigor of knowledge reasoning and the professionalism of teaching.

Keywords： Large Language Model; Smart Learning Partners; Generative Artificial Intelligence; System Architecture; Risk Control