融合圖結(jié)構(gòu)信息的大語言模型在荔枝病蟲害防治中的知識推理

摘要：本文提出一種融合圖結(jié)構(gòu)信息的大型語言模型方法，應(yīng)用于荔枝病蟲害防治知識推理。基于GraphRAG框架，通過圖卷積網(wǎng)絡(luò)（GCN） 將知識圖譜的結(jié)構(gòu)信息融入大語言模型（LLMs） ，提升其推理能力。構(gòu)建荔枝病蟲害知識圖譜，涵蓋病蟲害、防治方法、農(nóng)藥成分等實體及關(guān)系，采用TransE進行圖嵌入，利用GCN學(xué)習(xí)節(jié)點表示。以ChatGLM為基礎(chǔ)模型，采用LoRA微調(diào)。實驗結(jié)果表明，該方法在各項評估指標上優(yōu)于基線，顯著提升推理準確性和深度。

關(guān)鍵詞：知識圖譜；大型語言模型；圖關(guān)系增強；荔枝病蟲害防治；農(nóng)業(yè)知識推理

中圖分類號：TP391" "文獻標識碼：A

文章編號：1009-3044（2025）19-0014-03

開放科學(xué)（資源服務(wù)） 標識碼（OSID）

0 引言

荔枝作為我國南方地區(qū)重要的經(jīng)濟作物，具有顯著的經(jīng)濟價值。然而，在其生長發(fā)育過程中，荔枝易受多種病蟲害的侵襲，這不僅嚴重影響其產(chǎn)量與品質(zhì)，還導(dǎo)致巨大的經(jīng)濟損失。因此，荔枝病蟲害防治一直是農(nóng)業(yè)生產(chǎn)中的關(guān)鍵課題。傳統(tǒng)防治方法主要依賴人工經(jīng)驗和田間觀察，存在效率低、易誤判等問題。隨著信息技術(shù)的發(fā)展，人工智能技術(shù)在農(nóng)業(yè)領(lǐng)域的應(yīng)用已成為一種必然趨勢。

知識圖譜作為一種結(jié)構(gòu)化知識表示方式，在農(nóng)業(yè)領(lǐng)域得到廣泛應(yīng)用。它能夠以結(jié)構(gòu)化的方式存儲和管理分散的農(nóng)業(yè)知識，構(gòu)建清晰的實體關(guān)系網(wǎng)絡(luò)，為智能化農(nóng)業(yè)應(yīng)用提供堅實的基礎(chǔ)。與此同時，大語言模型（LLMs） 在自然語言處理方面的突破性進展，使其在知識庫問答等任務(wù)中表現(xiàn)突出。結(jié)合知識圖譜和LLMs的結(jié)構(gòu)化信息提升推理能力，成為當前研究熱點。在荔枝病蟲害防治領(lǐng)域，構(gòu)建專業(yè)的知識圖譜能夠有效整合病蟲害種類、防治方法、農(nóng)藥使用、癥狀表現(xiàn)等信息，為智能化的病蟲害診斷和防治提供支持。然而，如何有效利用知識圖譜中的結(jié)構(gòu)信息，提升LLMs在這一領(lǐng)域的表現(xiàn)，仍然是一個挑戰(zhàn)。現(xiàn)有方法通常只是簡單地將知識圖譜中的實體信息作為LLMs的輸入，忽略了實體之間豐富的關(guān)系信息，這在一定程度上限制了LLMs的推理能力。

為解決這一問題，本文提出一種融合圖結(jié)構(gòu)信息的大語言模型方法，基于GraphRAG框架，通過圖嵌入（TransE） 和圖神經(jīng)網(wǎng)絡(luò)（GCN） 技術(shù)，將知識圖譜的結(jié)構(gòu)信息融入LLMs推理過程，提升問答系統(tǒng)的準確性。與現(xiàn)有研究相比，本文的創(chuàng)新和優(yōu)勢在于更全面地利用知識圖譜信息，不僅利用實體信息，更重要的是通過圖嵌入和圖神經(jīng)網(wǎng)絡(luò)有效地捕捉和利用實體之間的關(guān)系信息，為LLMs提供更豐富的上下文知識，增強其推理能力。此外，本文首次將GraphRAG框架應(yīng)用于荔枝病蟲害防治領(lǐng)域，提出一種有效的圖文融合方法，將GCN學(xué)習(xí)到的圖結(jié)構(gòu)信息與問題文本的embedding進行拼接，作為LLMs的輸入，實現(xiàn)了知識圖譜和LLMs的深度融合，更好地利用了知識圖譜的結(jié)構(gòu)化信息。

1 相關(guān)工作

知識圖譜作為有效的知識表示方式，近年來在農(nóng)業(yè)病蟲害防治中得到廣泛應(yīng)用。它能整合農(nóng)業(yè)知識，構(gòu)建清晰的實體關(guān)系網(wǎng)絡(luò)，支持智能農(nóng)業(yè)應(yīng)用。例如，已有研究構(gòu)建了作物病蟲害知識圖譜，包含病蟲害名稱、癥狀、防治方法等信息[1]，并將其有機連接，形成完整體系。此外，專門為特定作物如水稻[2]、小麥[3]等構(gòu)建的病蟲害知識圖譜，也為本文的荔枝病蟲害知識圖譜提供了參考。

大語言模型（LLMs） 等在自然語言理解方面取得顯著進展[4-5]。新型LLMs，如GPT系列[6-7]、LLaMA[8]等，展示了在生成、對話、推理等任務(wù)中的優(yōu)勢，尤其在知識庫問答中表現(xiàn)出色。然而，如何有效利用知識圖譜的結(jié)構(gòu)信息，仍是重要的研究問題。

GraphRAG（Graph-based Retrieval Augmented Generation） 框架是一種將圖結(jié)構(gòu)信息融入語言模型的有效方法[9]。該框架通過圖嵌入和圖神經(jīng)網(wǎng)絡(luò)等技術(shù)，學(xué)習(xí)知識圖譜中實體和關(guān)系的表示，并將這些表示與語言模型的輸入結(jié)合，從而增強模型的推理能力。例如，一些研究使用圖卷積網(wǎng)絡(luò)（GCN） [10]或圖注意力網(wǎng)絡(luò)（GAT） [11]來學(xué)習(xí)圖節(jié)點的表示，并將其作為語言模型的上下文信息。另一些研究則設(shè)計了特殊的注意力機制，引導(dǎo)語言模型關(guān)注圖譜中的相關(guān)信息[12]。這些研究表明，GraphRAG框架能夠顯著提升語言模型在知識庫問答等任務(wù)中的表現(xiàn)。

目前，結(jié)合知識圖譜與LLMs用于荔枝病蟲害防治的研究較少。現(xiàn)有研究多集中于構(gòu)建荔枝病蟲害知識庫[13]，或使用傳統(tǒng)機器學(xué)習(xí)方法進行病蟲害識別[14]。然而，這些研究通常未能充分挖掘知識圖譜的結(jié)構(gòu)信息，也未能充分發(fā)揮新型LLMs的強大語言理解和推理能力。本文旨在結(jié)合GraphRAG框架與LLMs，探索如何利用知識圖譜中的結(jié)構(gòu)信息，提升LLMs在荔枝病蟲害防治中的推理能力。

2 方法

本文提出一種融合圖結(jié)構(gòu)信息的大語言模型方法，用于荔枝病蟲害防治領(lǐng)域的知識推理。該方法基于GraphRAG框架，旨在將知識圖譜的結(jié)構(gòu)信息融入LLMs的推理過程中，提升問答系統(tǒng)的性能。本文的方法主要包括知識圖譜構(gòu)建、圖嵌入、圖神經(jīng)網(wǎng)絡(luò)，以及大語言模型與GraphRAG框架的融合等關(guān)鍵步驟。

首先，構(gòu)建荔枝病蟲害知識圖譜，涵蓋病蟲害名稱（如“霜疫霉病”） 、防治方法（如“噴灑波爾多液”） 、農(nóng)藥成分（如“代森錳鋅”） 、癥狀表現(xiàn)（如“葉片病斑”） 等實體及其關(guān)系（如“防治方法”“病因”“危害”等） 。例如，實體“霜疫霉病”與“噴灑波爾多液”之間存在“防治方法”的關(guān)系，而“蒂蛀蟲”與“果實蛀孔”之間則存在“危害”的關(guān)系。該知識圖譜可以表示為一個圖[G=（V，E）]，其中[V]代表實體集合，[E]代表關(guān)系集合。使用RDF三元組來表示知識圖譜中的知識，例如（霜疫霉病，防治方法，噴灑波爾多液） 。

接下來，使用圖嵌入技術(shù)將知識圖譜中的實體和關(guān)系映射到低維向量空間。圖嵌入旨在學(xué)習(xí)每個節(jié)點（實體） 的向量表示，以便捕捉圖的結(jié)構(gòu)信息。采用TransE模型進行圖嵌入，其基本思想是將關(guān)系視為實體之間的平移向量。對于一個三元組[（h，r，t）]，其中[h]代表頭實體，[r]代表關(guān)系，[t]代表尾實體，TransE的目標是使[h+r≈t]。其損失函數(shù)定義為：

[L=h，r，t∈Sh'，r，t'∈S'γ+dh+r，t-dh'+r，t'+]

式中，[S]為正例三元組集合，[S']為負例三元組集合，[γ]為邊界參數(shù)，[d（x，y）]表示向量[x]和[y]之間的距離，[[x]+]表示[max（0，x）]。負例三元組的構(gòu)建通常通過隨機替換頭實體或尾實體的方法，例如將正例三元組（霜疫霉病，防治方法，噴灑波爾多液） 替換為（其他病蟲害，防治方法，噴灑波爾多液） 或（霜疫霉病，其他關(guān)系，噴灑波爾多液） 。通過最小化損失函數(shù)，TransE能夠?qū)W習(xí)到有效的實體和關(guān)系向量表示。例如，如果“霜疫霉病”的向量表示為[v霜]，“防治方法”的向量表示為[v防]，“噴灑波爾多液”的向量表示為[v波]，則TransE的目標是使[v霜+v防≈v波]。

隨后，使用圖神經(jīng)網(wǎng)絡(luò)（GNNs） 進一步學(xué)習(xí)圖節(jié)點的表示，捕捉更復(fù)雜的圖結(jié)構(gòu)信息。選用GCN作為GNN模型。GCN通過聚合鄰居節(jié)點的特征信息來更新中心節(jié)點的表示。對于圖中的每個節(jié)點[i]，其在第[l+1]層的表示[h（l+1）i]計算公式如下：

[hl+1i=σj∈Ni1degidegjWlhlj]

式中，[Ni]表示節(jié)點 [i] 的鄰居節(jié)點集合，[degi]表示節(jié)點[i]的度，[Wl]為第[l]層的權(quán)重矩陣，[σ]為激活函數(shù)（如ReLU） 。歸一化因子[1degidegj]用于避免節(jié)點度數(shù)差異過大導(dǎo)致的不穩(wěn)定，有助于模型訓(xùn)練的收斂。通過多層GCN的迭代，每個節(jié)點能夠聚合多跳鄰居的信息，從而更好地捕捉圖的全局結(jié)構(gòu)。例如，若節(jié)點“霜疫霉病”的鄰居節(jié)點包括“噴灑波爾多液”“病原菌種類”等，GCN會將這些鄰居節(jié)點的特征信息聚合起來，更新“霜疫霉病”的表示。初始的節(jié)點特征[hl+1i]可以是節(jié)點的獨熱編碼或者其他預(yù)訓(xùn)練的embedding。

在大語言模型方面，選用例如LLaMA、ChatGLM等新型大語言模型，這些模型基于Transformer架構(gòu)，具備強大的語言建模能力。給定一個輸入序列[X=（x1，x2，…，xn）]，LLM的目標是最大化其似然函數(shù)：

[PX=i=1nPxi|xlt;i]

式中，[xlt;i]表示[xi]之前的所有詞。新型LLMs通常采用自注意力機制，其計算公式如下：

[AttentionQ，K，V=softmaxQKTdkV]

式中，[Q]為查詢矩陣，[K]為鍵矩陣，[V]為值矩陣，[dk]為鍵的維度。自注意力機制能夠有效捕捉輸入序列中的長距離依賴關(guān)系，位置編碼（Positional Encoding） 被用來提供序列中詞的位置信息。

最后，GraphRAG融合過程就是提取與問題相關(guān)的實體信息（通過GCN） ，將提取的實體信息和問題信息拼接在一起，然后將融合后的信息輸入給LLM，輔助其更好地理解問題并生成答案。例如，對于問題“霜疫霉病應(yīng)該如何防治？”，使用Sentence-BERT等模型獲得問題文本“霜疫霉病應(yīng)該如何防治？”的embedding，記為[q∈Rdq]。通過GCN獲得知識圖譜中實體“霜疫霉病”的embedding，記為[g霜∈Rdg]。將問題embedding和實體embedding直接拼接成一個向量[c=g霜;q∈Rdg+dq]，將融合后的向量 c 作為LLM的額外輸入。通過這種方式，GraphRAG能夠引導(dǎo)LLM關(guān)注知識圖譜中與“霜疫霉病”相關(guān)的防治方法節(jié)點，例如“噴灑波爾多液”“加強果園通風”等，從而給出更準確、更全面的答案。

通過以上方法，LLM能夠更好地利用知識圖譜中的結(jié)構(gòu)信息，有效地融合了圖結(jié)構(gòu)信息和大型語言模型的優(yōu)勢，從而提升其在荔枝病蟲害防治領(lǐng)域的知識推理能力。

3 實驗與討論

為檢驗所提出的融合圖結(jié)構(gòu)信息的大語言模型方法在荔枝病蟲害防治知識推理任務(wù)中的有效性，通過實體識別和關(guān)系抽取技術(shù)，從多種數(shù)據(jù)源（包括農(nóng)業(yè)專家知識庫、病蟲害數(shù)據(jù)庫、農(nóng)學(xué)文獻等） 獲取荔枝病蟲害相關(guān)的實體及其關(guān)系數(shù)據(jù)，構(gòu)建了一個專門針對荔枝種植中常見病蟲害、防治方法、農(nóng)藥成分、癥狀表現(xiàn)等實體及其相互關(guān)系（例如“防治方法”“病因”“危害”等） 的知識圖譜數(shù)據(jù)集。這些實體數(shù)據(jù)。該數(shù)據(jù)集按7：2：1的比例劃分為訓(xùn)練集、驗證集和測試集，并構(gòu)建一個問答數(shù)據(jù)集，包括直接問答、多跳推理和比較推理任務(wù)。

實驗中，采用TransE模型進行圖嵌入，將實體和關(guān)系映射到100維的向量空間，學(xué)習(xí)率為0.01。圖神經(jīng)網(wǎng)絡(luò)部分，使用兩層GCN模型，隱藏層維度設(shè)置為200維，激活函數(shù)為ReLU。大型語言模型則選擇了ChatGLM作為基礎(chǔ)模型，并使用LoRA技術(shù)進行微調(diào)，以降低計算成本，LoRA的秩設(shè)置為16。在GraphRAG的融合過程中，將GCN的輸出與使用Sentence-BERT模型獲得的文本embedding進行直接拼接，然后輸入到ChatGLM中。

為了全面評估方法效果，采用準確率、精確率、召回率和F1值作為評估指標，并與以下基線方法進行對比：直接使用ChatGLM進行問答（不使用知識圖譜信息） ；使用TransE嵌入作為LLM輸入的KGE+ChatGLM方法；僅使用檢索增強生成（RAG） 的方法，基于Sentence-BERT對問題編碼，并檢索相關(guān)實體和關(guān)系。實驗結(jié)果如表1所示。

結(jié)果表明，GraphRAG+ChatGLM方法在所有指標上均優(yōu)于基線方法。相較于直接使用ChatGLM，關(guān)鍵指標上均有大幅提升，充分證明了將圖結(jié)構(gòu)信息融入大語言模型對于此類任務(wù)的有效性。通過GCN有效地捕捉和利用知識圖譜中實體和關(guān)系之間的復(fù)雜關(guān)聯(lián)，可以顯著增強語言模型對領(lǐng)域知識的理解和推理能力。與KGE+ChatGLM方法相比，該方法的性能優(yōu)勢進一步凸顯GCN在信息聚合方面的作用。單純使用實體embedding可能無法充分利用圖譜中固有的結(jié)構(gòu)信息，而GCN等圖神經(jīng)網(wǎng)絡(luò)模型則能夠有效彌補這一不足，提升模型的推理能力。與RAG方法相比，GraphRAG方法也展現(xiàn)出明顯的優(yōu)勢。雖然RAG方法能夠通過檢索相關(guān)信息來增強語言模型的上下文，但其檢索過程通常基于文本相似性，可能忽略知識圖譜中蘊含的結(jié)構(gòu)化信息。GraphRAG方法通過GCN直接在圖結(jié)構(gòu)上進行信息傳播和聚合，從而更好地利用實體和關(guān)系之間的關(guān)聯(lián)，避免了RAG方法中可能存在的檢索偏差和信息冗余問題。

對于不同類型問答對，GraphRAG+ChatGLM在多跳推理和比較推理任務(wù)中的表現(xiàn)尤為突出。例如，在“什么農(nóng)藥可以用于防治導(dǎo)致果實腐爛的病害？”這一多跳問題上，GraphRAG+ChatGLM能夠準確找到相關(guān)農(nóng)藥成分，而ChatGLM可能只能給出常見農(nóng)藥名稱。對于“生物防治和化學(xué)防治哪種方法更環(huán)保？”這一比較推理問題，GraphRAG+ChatGLM能夠結(jié)合知識圖譜中不同防治方法的環(huán)境影響信息，提供更深入的答案。

這些實驗結(jié)果驗證了GraphRAG+ChatGLM方法在荔枝病蟲害防治領(lǐng)域中的有效性，充分利用了圖結(jié)構(gòu)信息，在復(fù)雜推理任務(wù)中表現(xiàn)優(yōu)異。通過GCN，模型能夠在圖譜中進行多步推理，為語言模型提供更全面的推理依據(jù)，顯著提升了知識推理的深度和準確性。

然而，本文使用的數(shù)據(jù)集規(guī)模較小，未來研究可構(gòu)建更大規(guī)模的知識圖譜，以驗證該方法的有效性和泛化能力。同時，可以探索更復(fù)雜的圖神經(jīng)網(wǎng)絡(luò)模型及更高效的融合策略，進一步提升模型的性能。

4 結(jié)論

本文提出一種融合圖結(jié)構(gòu)信息的大語言模型方法，旨在解決荔枝病蟲害防治領(lǐng)域的知識推理問題。該方法基于GraphRAG框架，通過圖卷積網(wǎng)絡(luò)（GCN） 將知識圖譜中的結(jié)構(gòu)信息有效地融入ChatGLM等大語言模型中。實驗結(jié)果表明，該方法在各項評估指標上均優(yōu)于基線方法，特別是在多跳推理和比較推理任務(wù)中展現(xiàn)顯著的優(yōu)勢，充分驗證圖結(jié)構(gòu)信息對提升知識推理性能的有效性。

本文的主要貢獻在于：提出一種基于GraphRAG的荔枝病蟲害知識推理方法，該方法能夠有效利用知識圖譜中的結(jié)構(gòu)信息，為大語言模型提供更豐富的上下文和推理支持；通過實驗驗證該方法在荔枝病蟲害防治領(lǐng)域的有效性，并深入分析其在不同類型推理任務(wù)中的表現(xiàn)。

本文的結(jié)果表明，結(jié)合圖結(jié)構(gòu)信息的大語言模型在知識密集型任務(wù)中展現(xiàn)出巨大的應(yīng)用前景。未來的研究將繼續(xù)探索更有效的圖信息融合方法，并將其應(yīng)用于更廣泛的領(lǐng)域，以推動人工智能技術(shù)的發(fā)展，特別是在農(nóng)業(yè)、醫(yī)療以及其他知識密集型行業(yè)的智能化應(yīng)用。

參考文獻：

[1] 穆維松，劉天琪，苗子溦，等.知識圖譜技術(shù)及其在農(nóng)業(yè)領(lǐng)域應(yīng)用研究進展[J].Transactions of the Chinese Society of Agricultural Engineering，2023，39（16）：1-10.

[2] 于合龍，沈金夢，畢春光，等.基于知識圖譜的水稻病蟲害智能診斷系統(tǒng)[J].華南農(nóng)業(yè)大學(xué)學(xué)報，2021，42（5）：105-116.

[3] 張善文，王振，王祖良.結(jié)合知識圖譜與雙向長短時記憶網(wǎng)絡(luò)的小麥條銹病預(yù)測[J].農(nóng)業(yè)工程學(xué)報，2020，36（12）：172-178.

[4] DEVLIN J，CHANG M W，LEE K，et al.BERT：pre-training of deep bidirectional transformers for language understanding[EB/OL].2018：1810.04805. https：//arxiv.org/abs/1810.04805v2.

[5] LIU Y H，OTT M，GOYAL N，et al.RoBERTa：a robustly optimized BERT pretraining approach[EB/OL].2019：1907.11692. https：//arxiv.org/abs/1907.11692v1.

[6] BROWN T，MANN B，RYDER N，et al.Language models are few-shot learners[J].Advances in neural information processing systems， 2020，33：1877-1901.

[7] ACHIAM J，ADLER S，AGARWAL S，et al.Gpt-4 technical report[J].arXiv preprint arXiv：2303.08774，2023.

[8] TOUVRON H，LAVRIL T，IZACARD G，et al.LLaMA：open and efficient foundation language models[EB/OL].2023：2302.13971. https：//arxiv.org/abs/2302.13971v1.

[9] GUU K，LEE K，TUNG Z，et al.REALM：retrieval-augmented language model pre-training[EB/OL].2020：2002.08909. https：//arxiv.org/abs/2002.08909v1.

[10] KIPF T N，WELLING M.Semi-supervised classification with graph convolutional networks[EB/OL].2016：1609.02907. https：// arxiv.org/abs/1609.02907v4.

[11] VELICKOVIC P，CUCURULL G，CASANOVA A，et al.Graph attention networks[J]. stat，2017，1050（20）：10-48550.

[12] ANNERVAZ K M，CHOWDHURY S B R，DUKKIPATI A.Learning beyond datasets：knowledge graph augmented neural networks for natural language processing[EB/OL].2018：1802.05930. https：//arxiv.org/abs/1802.05930v2.

[13] 鄭泳智，吳惠粦，朱定局，等.基于荔枝和龍眼病蟲害知識圖譜的問答系統(tǒng)[J].計算機與數(shù)字工程，2021，49（12）：2618-2622.

[14] 彭紅星，何慧君，高宗梅，等.基于改進 ShuffleNetV2 模型的荔枝病蟲害識別方法[J]. 農(nóng)業(yè)機械學(xué)報，2022，53（12）：290-300.

【通聯(lián)編輯：梁書】