基于大模型的校園知識(shí)交互新媒體服務(wù)

隨著人工智能技術(shù)的飛速發(fā)展，校園領(lǐng)域的各種業(yè)務(wù)場(chǎng)景正迎來(lái)一場(chǎng)技術(shù)革新。本文旨在探討如何利用語(yǔ)言大模型、自然語(yǔ)言處理和數(shù)據(jù)工程等前沿智能技術(shù)，構(gòu)建一個(gè)專注于校園知識(shí)領(lǐng)域的語(yǔ)言大模型智能問(wèn)答互動(dòng)新媒體，為大學(xué)校園提供全面、高質(zhì)量的問(wèn)詢和媒體推送，形成一種區(qū)別于傳統(tǒng)知識(shí)發(fā)布服務(wù)的新媒體服務(wù)模式。該新媒體服務(wù)模式可根據(jù)實(shí)際場(chǎng)景涵蓋校園設(shè)施、師生管理、教育教學(xué)、校園安全、學(xué)科服務(wù)、后勤服務(wù)、科研服務(wù)、國(guó)際交流和校園文化等多個(gè)應(yīng)用場(chǎng)景，不僅能夠提高師生和群眾對(duì)校園各類信息獲取的效率，還能為校園師生提供更加個(gè)性化和精準(zhǔn)的信息推送服務(wù)。提升校園的整體服務(wù)質(zhì)量，增強(qiáng)學(xué)生和教職工的校園信息化服務(wù)體驗(yàn)。

一、服務(wù)框架設(shè)計(jì)

（一）前端交互層

前端交互入口是用戶使用知識(shí)交互新媒體服務(wù)的一個(gè)窗口，是用戶服務(wù)交互的起點(diǎn)，用戶通過(guò)前端入口，可以使用文字、語(yǔ)音或圖片等方式進(jìn)行提問(wèn)，并獲取后端語(yǔ)言大模型給出的答案。根據(jù)不同的使用場(chǎng)景進(jìn)行使用體驗(yàn)的擴(kuò)展，包括多輪對(duì)話服務(wù)、人工介入服務(wù)、對(duì)話歷史、專業(yè)領(lǐng)域智能體等。同時(shí)根據(jù)各校園自身的媒體窗口場(chǎng)景，可以把前端交互入口發(fā)布至多種渠道，例如通過(guò)掃碼使用、通過(guò)關(guān)注微信公眾號(hào)后使用、通過(guò)微信小程序使用、或集成到已有的校園信息系統(tǒng)上使用等方式。

（二） 應(yīng)用層

通過(guò)整合后端技術(shù)能力，組合成具體業(yè)務(wù)場(chǎng)景的解決方案，提供各類新媒體服務(wù)。

（三）多模型管理

語(yǔ)言大模型起到語(yǔ)言組織和輸出的作用，能捕捉和理解用戶對(duì)話中的上下文信息自然語(yǔ)言輸入；能基于數(shù)據(jù)工程中臺(tái)提供的答案片段數(shù)據(jù)，生成流暢的、自然的回答內(nèi)容，回復(fù)給用戶想要的答案。可以根據(jù)具體場(chǎng)景采用第三方模型或私有化部署的模型，也可以進(jìn)行組合使用。

（四）數(shù)據(jù)層

數(shù)據(jù)工程中臺(tái)的主要作用是知識(shí)數(shù)據(jù)的采集、處理和對(duì)接共享，實(shí)現(xiàn)的效果是把所有能提供服務(wù)的材料和知識(shí)，轉(zhuǎn)化為能讓語(yǔ)言大模型和智能體能理解和使用的數(shù)據(jù)，并對(duì)這些轉(zhuǎn)化后的數(shù)據(jù)進(jìn)行有效存儲(chǔ)，通過(guò)接口方式提供給模型和智能體進(jìn)行調(diào)用，進(jìn)而提供給前端的具體服務(wù)輸出。

（五）多智能體

智能體是一個(gè)能感知數(shù)據(jù)并自動(dòng)做出相應(yīng)決策和執(zhí)行行動(dòng)的單獨(dú)實(shí)體，可以理解為提供不同種類服務(wù)的個(gè)體。舉個(gè)例子：在校園服務(wù)中，我需要了解學(xué)校的住宿條件和教學(xué)環(huán)境，那使用類似“校園百事通”的智能體即可得到想要的答案。如果我需要進(jìn)行翻閱某學(xué)院的某科研成果或研究數(shù)據(jù)時(shí)，那就需要另外的智能體來(lái)實(shí)現(xiàn)。可以說(shuō)不同的智能體就好像各種“服務(wù)崗位”，有著不同的“知識(shí)儲(chǔ)備”、“能力”和“權(quán)限”。在開(kāi)發(fā)智能體使用方面，需要根據(jù)各校園服務(wù)對(duì)服務(wù)體驗(yàn)深度、服務(wù)范圍和數(shù)據(jù)安全等來(lái)綜合考慮。

（六）數(shù)據(jù)管控

整個(gè)服務(wù)場(chǎng)景相當(dāng)于一個(gè)知識(shí)數(shù)據(jù)的轉(zhuǎn)換和交互的過(guò)程，對(duì)數(shù)據(jù)的采集、存儲(chǔ)、轉(zhuǎn)換、傳輸、使用和共享等各個(gè)環(huán)節(jié)都需要進(jìn)行安全管控，確保系統(tǒng)的運(yùn)行和數(shù)據(jù)的有效傳遞。

二、技術(shù)實(shí)現(xiàn)

（一） 數(shù)據(jù)自動(dòng)采集

數(shù)據(jù)對(duì)整個(gè)服務(wù)的成功起到非常重要的作用，尤其是數(shù)據(jù)的數(shù)量和質(zhì)量，因此需要采用數(shù)據(jù)自動(dòng)采集技術(shù)，對(duì)大量分散在各業(yè)務(wù)系統(tǒng)或領(lǐng)域的數(shù)據(jù)進(jìn)行采集和處理。

可以通過(guò)網(wǎng)絡(luò)爬蟲(chóng)技術(shù)自動(dòng)采集存在于業(yè)務(wù)頁(yè)面或發(fā)布在各已有公眾號(hào)上的數(shù)據(jù)；通過(guò)數(shù)據(jù)API方式自動(dòng)采集存在于業(yè)務(wù)系統(tǒng)數(shù)據(jù)庫(kù)中的業(yè)務(wù)數(shù)據(jù)；通過(guò)人工導(dǎo)入或共享磁盤的方式采集各類非結(jié)構(gòu)化數(shù)據(jù)。

（二）多模態(tài)數(shù)據(jù)的處理

要讓語(yǔ)言大模型發(fā)揮有效的問(wèn)答服務(wù)作用，需要把相關(guān)的數(shù)據(jù)作為“養(yǎng)分”提供給各類大模型使用，而我們?nèi)粘Ｊ褂煤土舸娴臄?shù)據(jù)，大部分是由不同模態(tài)的方式存在的，包括文本、表格、圖片、音視頻等方式，這些數(shù)據(jù)很難讓大模型去檢索和使用，對(duì)多模態(tài)數(shù)據(jù)進(jìn)行處理，包括語(yǔ)音識(shí)別與轉(zhuǎn)換、文本提取、語(yǔ)義分割、向量化和圖譜化等處理和轉(zhuǎn)換技術(shù)，轉(zhuǎn)化成能讓語(yǔ)言大模型使用的向量和圖數(shù)據(jù)，并把這些數(shù)據(jù)保存在向量數(shù)據(jù)和圖數(shù)據(jù)庫(kù)中。同時(shí)在整個(gè)用戶與系統(tǒng)的服務(wù)交互過(guò)程中，用戶輸入的多模態(tài)數(shù)據(jù)也需要進(jìn)行處理，包括查詢重寫(xiě)、語(yǔ)義補(bǔ)全等技術(shù)，這些技術(shù)都可以通過(guò)某些開(kāi)源的小模型和組件實(shí)現(xiàn)。

（三）語(yǔ)言大模型的選擇與優(yōu)化

本架構(gòu)的語(yǔ)言大模型主要起到對(duì)自然語(yǔ)言的理解和生成兩個(gè)方面的作用，在選擇大模型時(shí)，需要根據(jù)服務(wù)場(chǎng)景的數(shù)據(jù)量、業(yè)務(wù)復(fù)雜度和能力強(qiáng)度等，來(lái)確定大模型的體量，體量越大的模型其需要運(yùn)行的算力成本就越高。同時(shí)根據(jù)服務(wù)的場(chǎng)景對(duì)模型進(jìn)行訓(xùn)練和優(yōu)化，以提高問(wèn)題回答的準(zhǔn)確性和效率。通過(guò)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)，能夠幫助自動(dòng)學(xué)習(xí)和適應(yīng)新的數(shù)據(jù)和場(chǎng)景。選擇適當(dāng)體量的語(yǔ)言模型并加之微調(diào)優(yōu)化能大大降低其運(yùn)行的成本。

（四）檢索增強(qiáng)生成（RAG）

大語(yǔ)言模型在生成回答時(shí)，會(huì)出現(xiàn)一些看似真實(shí)正確，實(shí)質(zhì)是一些違反常理、問(wèn)非所答或胡編亂造的回答，在技術(shù)上稱為“偏見(jiàn)”和“幻覺(jué)”問(wèn)題，這些問(wèn)題會(huì)大大降低新媒體服務(wù)的體驗(yàn)和可信度。為了降低這些問(wèn)題發(fā)生的概率，需要引入檢索增強(qiáng)生成（RAG）技術(shù)，分為幾個(gè)步驟實(shí)現(xiàn)，首先通過(guò)數(shù)據(jù)工程中臺(tái)把需要的知識(shí)數(shù)據(jù)進(jìn)行語(yǔ)義分片、向量化和圖譜化等處理，保存于向量數(shù)據(jù)庫(kù)和圖數(shù)據(jù)庫(kù)中，并創(chuàng)建索引；然后把用戶的問(wèn)題輸入也用同樣的方式轉(zhuǎn)化成向量，并通過(guò)對(duì)向量數(shù)據(jù)庫(kù)和圖數(shù)據(jù)庫(kù)進(jìn)行語(yǔ)義相關(guān)性和拓?fù)湎嚓P(guān)性的檢索和排序召回，把相關(guān)問(wèn)題和召回的答案片段清單交給到語(yǔ)言大模型，讓大模型進(jìn)行組織歸納與自然語(yǔ)言的輸出。

（五）用戶交互設(shè)計(jì)

根據(jù)不同的場(chǎng)景設(shè)計(jì)一個(gè)友好的用戶交互業(yè)務(wù)界面，包括語(yǔ)音交互、文本交互和圖形交互等。通過(guò)用戶交互的設(shè)計(jì)，能夠提供更加自然和便捷的服務(wù)。

三、應(yīng)用場(chǎng)景

本服務(wù)模型可以應(yīng)用于多種校園知識(shí)服務(wù)場(chǎng)景，結(jié)合具體需求來(lái)使用，以下列舉幾個(gè)常見(jiàn)的使用場(chǎng)景：

校園百事通。面向?qū)W校師生，可以提供校園教學(xué)、生活、管理等方面的幫助。

招生服務(wù)。面向社會(huì)群眾，可以提供招生政策、專業(yè)選擇、學(xué)校文化、學(xué)習(xí)環(huán)境等方面的咨詢服務(wù)。

學(xué)生活動(dòng)服務(wù)。面向校內(nèi)學(xué)生，提供選課、場(chǎng)地預(yù)約、社團(tuán)活動(dòng)、實(shí)驗(yàn)室使用等的咨詢和智能辦理服務(wù)。

學(xué)習(xí)輔導(dǎo)服務(wù)。面向校內(nèi)各專業(yè)學(xué)生，根據(jù)學(xué)生的專業(yè)和學(xué)習(xí)狀態(tài)提供相應(yīng)的教學(xué)資料、輔助學(xué)習(xí)資料和學(xué)習(xí)建議。

科研服務(wù)。面向校內(nèi)的科研團(tuán)隊(duì)，提供論文智能檢索、文獻(xiàn)輔助閱讀、開(kāi)題分析、成果驗(yàn)證等服務(wù)。

內(nèi)部知識(shí)服務(wù)。面向校內(nèi)給學(xué)院或部門，提供內(nèi)部制度和管理措施的統(tǒng)一管理和咨詢，例如：財(cái)務(wù)報(bào)銷咨詢、科研費(fèi)用咨詢、招投標(biāo)咨詢等。

四、挑戰(zhàn)與展望

算力成本挑戰(zhàn)：隨著服務(wù)場(chǎng)景的增多，數(shù)據(jù)量和用戶量都會(huì)隨之增加，導(dǎo)致本服務(wù)架構(gòu)的運(yùn)行成本也會(huì)相應(yīng)增加；加之目前的語(yǔ)言大模型的運(yùn)行和知識(shí)數(shù)據(jù)的處理都需要用到昂貴的算力資源，在現(xiàn)階段算力成本是一項(xiàng)比較大的投入，在實(shí)踐中需要在模型的選擇和調(diào)優(yōu)、面向的服務(wù)群體定位等問(wèn)題進(jìn)行綜合考慮，對(duì)其效益和成本進(jìn)行評(píng)估。

技術(shù)挑戰(zhàn)：目前的語(yǔ)言大模型和AI技術(shù)發(fā)展非常迅速，新技術(shù)迭代速度快，需要不斷更新和優(yōu)化現(xiàn)有技術(shù)，以適應(yīng)不斷變化的數(shù)據(jù)和場(chǎng)景，而實(shí)現(xiàn)這目標(biāo)就要有持續(xù)的技術(shù)支持和持續(xù)的研發(fā)投入。

落地挑戰(zhàn)：各類業(yè)務(wù)場(chǎng)景的落地使用都存在著差異，如需要滿足不同用戶的需求和使用習(xí)慣，這需要深入的用戶研究和個(gè)性化的服務(wù)設(shè)計(jì)，需要持續(xù)的需求調(diào)研和用戶體驗(yàn)分析的投入。

安全挑戰(zhàn)：生成式大模型技術(shù)是一個(gè)新興技術(shù)，其發(fā)展非常迅速，也同時(shí)帶來(lái)了各種各樣的安全問(wèn)題，如專業(yè)領(lǐng)域知識(shí)數(shù)據(jù)的安全、個(gè)人信息數(shù)據(jù)的安全、模型服務(wù)運(yùn)行的安全等問(wèn)題，分別需要在數(shù)據(jù)分級(jí)分類和處理措施、數(shù)據(jù)識(shí)別與隔離、數(shù)據(jù)隱私保護(hù)和系統(tǒng)運(yùn)行安全等方面加強(qiáng)技術(shù)保護(hù)和管理措施。

五、結(jié)論

基于大模型的校園知識(shí)互動(dòng)新媒體服務(wù)，是校園新媒體服務(wù)數(shù)智化轉(zhuǎn)型的重要方向。通過(guò)整合語(yǔ)言大模型、自然語(yǔ)言處理和數(shù)據(jù)工程等技術(shù)，以及結(jié)合各類校園應(yīng)用場(chǎng)景，能夠?yàn)樾@師生提供全面、高質(zhì)量的問(wèn)詢和媒體交互服務(wù)。隨著智能技術(shù)的不斷發(fā)展和完善，將在校園信息化新媒體服務(wù)領(lǐng)域發(fā)揮越來(lái)越重要的作用。