基于分布式知識推理的語義認知網絡

摘 要：６Ｇ 無線網絡“服務隨心所想、網絡隨需而變、資源隨愿共享”的全新愿景與需求，激發了一種新的通信范式———語義通信和語義認知網絡的發展。語義通信通過傳輸信息的真實含義而非傳輸和復現完整的原始消息來提升通信效率和可靠性。要在６Ｇ 網絡中部署和充分發揮語義通信的潛力，需要一種能夠有效處理和利用語義信息的新技術。提出了一種基于圖推理和聯邦學習的６Ｇ 網絡語義通信新框架，框架結合了圖推理技術，例如圖神經網絡和知識圖嵌入，以實現對大規模和復雜語義知識庫的高效且可擴展的推理；框架集成了聯邦學習技術，可以跨多個邊緣服務器進行協作和隱私保護推理，同時將敏感數據和個人數據保留在邊緣服務器上。進行廣泛的實驗，以評估所提框架在推理準確性、效率和可擴展性方面的性能，并證明其相對于現有方法的優越性。框架在語義通信、圖推理和聯合邊緣計算領域開辟了新的研究方向，對實現６Ｇ 智能內生的通信網絡的愿景至關重要。

關鍵詞：智能內生；語義通信；語義認知通信；隱性語義

中圖分類號：ＴＮ９１５ 文獻標志碼：Ａ 開放科學（資源服務）標識碼（ＯＳＩＤ）：

文章編號：１００３－３１１４（２０２４）０３－０４１３－０９

０ 引言

移動通信網絡已成為現代社會的重要基礎設施，給人類的溝通與信息交互方式帶來了顛覆性改變。國際電信聯盟最新發布的６Ｇ 架構中指出［１］，泛在連接與智能將成為下一代通信網絡的重要場景。我國６Ｇ 標準化組織ＩＭＴ２０３０ 推進組發布的《６Ｇ 網絡架構愿景與關鍵技術展望白皮書》中也指出，智慧內生將是６Ｇ 的重要愿景［２］。６Ｇ 網絡將不再局限于以香農經典信息論為基礎的信號傳輸與復現，而是需要具備語義層面的認知、識別、分析和推理能力，圍繞人類用戶和網絡需求，按需提供服務，并實現“服務隨心所想、網絡隨需而變、資源隨愿共享”的目標［３］。

語義通信及語義認知網絡架構將成為實現６Ｇ內生智能的基石。在協作語義認知網絡架構下，海量智能設備間有望實現資源和諧共享與智能交互，從而打通人－人、人－機以及機－機之間的交互壁壘［４］。實現智聯互通，從而推動通信網絡架構從傳統的數據驅動向語義驅動的全新范式轉變，為最終實現網絡的智能認知、學習、決策和演進奠定基礎。具體而言，它將不再局限于傳輸和復現原始數據與信號，而是聚焦于在理解上下文的基礎之上僅傳輸相關且有意義的信息，有效降低數據冗余，從而提高網絡實體間通信的效率。通過有效利用語義信息，網絡有望實現更智能、自適應的路由、資源分配和糾錯，進而優化網絡性能和用戶體驗［５］。此外，通過整合通信網絡中的上下文和意圖，語義通信可以實現更精確和及時的決策，有望更好地滿足新興應用對低延遲的需求［６］。

在６Ｇ 網絡中充分發揮語義通信的潛力，需要通過有效的知識推理技術來處理和利用語義信息。圖推理因為能夠在大規模復雜語義知識庫上實現高效和可擴展的推理，而受到廣泛關注。通過將語義信息表征為圖形式，可以捕捉知識庫中豐富的關系和模式，實現更準確全面的知識推理［７］。基于圖的知識推理為６Ｇ 網絡中的語義通信帶來了諸多優勢，包括在大型動態知識庫上實現高效和可擴展推理，提高推理過程的透明度和可解釋性，以及通過結合上下文信息和網絡環境反饋來提升推理的適應性［８］。

此外，６Ｇ 網絡通常需要處理海量數據，且不同用戶信息分布在多個地理區域，因此實現語義通信中的圖推理需要一種分布式協作架構，以有效管理和處理語義知識庫。可以通過將語義知識庫部署在多個邊緣服務器上來實現高效和可擴展的推理，減少數據傳輸到中央服務器的需求，節省通信資源［９］。這種架構還能解決數據隱私和安全性問題，確保語義認知網絡的高可用性和可靠性。

本文的主要貢獻如下：對現有的知識推理技術進行了全面的回顧和分析，包括神經推理、符號推理和神經符號推理，突出了它們的優點、缺點和應用領域。提出一種新穎的認知網絡管理和控制框架，集成了不同的知識推理技術，以實現智能和自適應決策。該框架由３ 個主要組件組成：語義知識表示、語義推理引擎和認知網絡控制器，并且提出一種語義知識表征方案，通過結合本體、規則和嵌入來捕獲語義知識庫中的復雜關系和約束。

１ 研究背景及相關工作

１． １ 語義通信和語義認知網絡的研究現狀

語義通信和語義認知網絡的研究現狀語義通信已成為解決６Ｇ 網絡挑戰的一種有前景的方法，它可以實現網絡實體之間更加智能、高效和自適應的通信［３］。語義溝通的概念最早由Ｃｌａｕｄｅ Ｓｈａｎｎｏｎ 和Ｗａｒｒｅｎ Ｗｅａｖｅｒ 在２０ 世紀４０ 年代提出，他們提出了一種考慮信息的含義和上下文而不僅僅是原始數據的溝通理論［１０］。然而直到近幾年，由于網絡環境的復雜性和多樣性的增加以及對更先進的通信技術的需求，語義通信才在無線通信界獲得了廣泛的關注。

近年來，人們在無線網絡中的語義通信方面做出了一些研究工作。文獻［１１］提出了一種５Ｇ 網絡語義通信框架，旨在通過利用傳輸數據的語義信息來提高網絡性能和用戶體驗，該框架由語義編碼、語義解碼和語義推理３ 個主要組件組成。語義編碼旨在提取數據的語義特征并將其編碼為緊湊的表示，語義解碼旨在從編碼的表示中恢復原始數據，語義推理旨在基于編碼表示和網絡的先驗知識來推斷數據的含義和上下文。

無線網絡中語義通信的另一個例子是文獻［１２］中提出的語義感知網絡框架。該框架旨在通過根據傳輸數據的語義信息和網絡環境調整通信策略，從而在異構網絡中實現更高效可靠的通信，該框架由語義標注、語義匹配和語義適配３ 個主要模塊組成。語義標注旨在將語義元數據附加到傳輸的數據上來描述其內容、格式和質量，語義匹配旨在根據語義元數據和網絡條件找到最佳的通信路徑和協議，語義適應旨在根據接收者的反饋和網絡環境的變化來調整通信參數和策略。

１． ２ 知識推理的相關工作

知識推理作為語義認知網絡的核心能力之一，對于實現網絡的智能化和自適應性具有至關重要的作用。它不僅能夠幫助網絡理解數據的深層含義，還能夠基于已有的知識進行邏輯推理，從而做出更加準確和智能的決策。目前，知識推理的相關工作可以分為３ 個主要類別：符號推理、神經推理和符號神經推理。

１． ２． １ 符號推理

符號推理，亦稱為“經典人工智能”，在２０ 世紀８０ 年代末期之前一直是人工智能領域的主導范式。通過運用推理算法操作符號邏輯形式的知識，符號推理系統能夠解決演繹和歸納推理任務，并廣泛應用于特定領域內的各種應用，如專家系統和定理證明器等。

現有的符號推理方法主要是基于搜索的歸納邏輯編程方法，其中，最基本的方法之一是基于一階邏輯［１３］。一階邏輯是一種形式語言，允許使用謂詞、變量和量詞來表征復雜的語句和關系。基于一階邏輯的推理涉及推理規則（如肯定前件和解析）的應用，以從現有知識庫中導出新知識。一階邏輯已被用于各種推理任務，如本體推理、定理證明和自然語言理解。

基于規則的推理是另一種符號推理方法，它使用一組ｉｆ-ｔｈｅｎ 規則來表征和推理領域知識［１４］。基于規則的系統由包含規則和事實的知識庫、將規則應用于事實以得出新結論的推理機組成。基于規則的推理已用于各種應用，例如專家系統、決策支持系統和業務規則管理。

１． ２． ２ 神經推理

符號推理假設構成人類知識的基本單元是符號，知識推理過程是對符號表示的一系列顯式推理。通常，符號推理具有良好的可讀性和可解釋性。然而，有限的離散符號不足以表示龐大數據間所有的內在關系，并且對模糊和噪聲數據容忍度低。相比之下，神經推理方法利用人工神經網絡的力量直接從數據中學習和執行推理任務。近年來，這些方法因其處理大規模、復雜和非結構化數據的能力，以及端到端學習和推理的潛力而受到廣泛關注。

最著名的神經推理方法之一是基于深度學習架構，例如卷積神經網絡［１５］和循環神經網絡［１６］。這些架構可用于學習輸入數據的潛在表征，捕獲底層模式和關系。卷積神經網絡已成功應用于視覺推理任務，如目標檢測和場景理解［１７］，而循環神經網絡已用于序列推理任務，如自然語言推理和問題回答［１８］。

另一類重要的神經推理方法是基于圖神經網絡。圖神經網絡是一系列深度學習架構，可對圖結構數據進行操作，學習在圖上聚合和傳播信息。圖神經網絡已用于知識圖譜上的各種推理任務，例如鏈接預測、節點分類和圖補全［１９］。通過學習知識圖中實體和關系的嵌入，圖神經網絡可以捕獲復雜的模式和實體間的依賴關系，從而實現高效且可擴展的推理。

記憶增強神經網絡，例如記憶網絡［２０］和神經圖靈機［２１］，是另一類神經推理方法，它結合了外部記憶組件來在推理過程中存儲和檢索相關信息。這些方法已用于需要長期記憶和復雜推理的任務，例如問答和對話系統。通過選擇性地關注記憶的相關部分，記憶增強神經網絡可以執行多跳推理并有效地處理上下文信息。

１． ２． ３ 神經符號推理

神經符號推理方法旨在結合神經方法和符號方法的優勢，利用神經網絡的學習和泛化能力以及符號推理的可讀性和可解釋性。近年來，這些方法作為解決純神經或符號方法的局限性并實現更穩健和適應性推理的一種方法而備受關注。

神經符號推理的主要方法之一是基于神經網絡和基于邏輯系統的集成。神經定理證明器是定理證明器的可微實現，可以學習使用神經網絡證明數學定理［２２］；神經符號機將神經網絡與符號程序執行器相結合，以學習和推理復雜的任務（例如視覺問答和程序合成）。神經符號推理的另一種方法是將符號知識嵌入到向量空間中，從而允許應用神經網絡技術。神經符號知識圖是將知識圖嵌入到向量空間中的另一個例子，允許嵌入和邏輯規則的聯合學習和推理［２３］。

本文提出了一種基于知識推理的認知網絡管理和控制的新框架，旨在解決這些挑戰和局限性。所提出的框架可以集成多種不同推理技術，包括神經推理、符號推理和神經符號推理，以實現智能和自適應網絡管理和控制。該框架還結合了可擴展和高效的可解釋的推理以及修正知識庫中不確定性和不一致的處理技術。

２ 基于知識推理的語義認知網絡架構

２． １ 語義表征

語義表征是語義認知網絡的重要組成部分，它提供了一種結構化且機器可解釋的格式來表征和組織知識。基于知識概念的語義表征的４ 種主要方法包括語義網絡、命題、知識圖和規則。

２． １． １ 基于語義網絡的語義表征

語義網絡是一種知識表征方法，它使用基于圖的結構來表征概念及概念之間的關系。在語義網絡中，節點代表概念，邊代表概念之間的關系。關系可以有多種類型：上下位關系、同名關系或從屬關系［２４］。

語義網絡的主要優點之一是能夠捕獲概念之間的層次關系和關聯關系，提供一種自然直觀的方式來組織知識。語義網絡還支持各種推理任務，例如繼承推理（根據其父概念推斷概念的屬性）和類比推理（根據概念的關系查找相似的概念）。

２． １． ２ 基于命題的語義表征

命題表征是語義表征的另一種方法，它使用邏輯語句來表征知識。命題是一個可以或真或假的陳述句，由主語、謂語以及零個或多個賓語組成。例如，“蘇格拉底是一個哲學家”由主語“蘇格拉底”、謂語“是一個”、賓語“哲學家”組成［２５］。

命題表征有以下幾個優點：① 提供了清晰且明確的知識表征，因為每個命題都有明確定義的真值；② 支持多種邏輯推理規則，例如肯定前件（如果Ａ暗示Ｂ 且Ａ 為真，則Ｂ 為真）和托倫前件（如果Ａ暗示Ｂ 且Ｂ 為假，則Ａ 為假），可以用于推理新的知識和判定該新知識的真假。

２． １． ３ 基于知識圖譜的語義表征

知識圖譜是一種結合了語義網絡和命題表征優點的語義表征方法。知識圖譜是一個有向標記圖，表征域中的實體（節點）及其關系（邊）［２６］。這些關系通常使用資源性描述框架三元組表征，由主語、謂語和賓語組成［２７］。

知識圖譜有以下幾個優點：① 提供了豐富且富有表現力的知識表征，捕獲了實體之間的層次關系和關聯關系；② 支持各種推理任務，例如圖模式匹配、圖遍歷和圖嵌入，可用于問答、推薦和知識發現等任務；③ 可以輕松地與其他數據源和知識庫集成，從而能夠創建大規模和異構的知識網絡［２８］。

２． １． ４ 基于規則的語義表征

基于規則的表征是另一種語義表征方法，它使用一組ｉｆｔｈｅｎ 規則來表征和推理知識。規則由前件（“ｉｆ”部分）和后件（“ｔｈｅｎ”部分）組成，它指定如果前件為真，則后件也必須為真。例如，規則“如果Ｘ是鳥，那么Ｘ 可以飛”指定如果實體Ｘ 屬于鳥類，那么它必須具備飛的能力［２９］。

基于規則的表征有以下優點：① 提供了一種自然直觀的方式來表征領域知識，特別是對于具有明確定義的規則和約束的領域；② 支持各種推理任務，例如前向鏈接（從現有事實和規則中推導出新事實）和后向鏈接（找到支持給定結論的事實），可用于模擬特定領域的專家系統以幫助用戶做出復雜的決策；③ 可以輕松地與其他知識表征形式集成，例如語義網絡和命題，從而能夠創建混合知識庫［２９］。

２． ２ 框架概述

所提出的基于知識推理的認知網絡框架旨在解決計算冗雜、隱私安全和多端推理不兼容等問題。該框架集成了語義表征、編碼、解碼和解釋，以實現智能和自適應網絡管理和控制。所提架構及其關鍵功能模塊如圖１ 所示。

該架構由４ 個主要部分組成：語義識別與表征模塊、語義編碼與解碼模塊、語義解釋與推理模塊、語義距離與評估模塊。語義表征模塊負責從原始信息中提取顯式語義并對其進行編碼以供傳輸，語義編解碼模塊將語義信息轉換為便于物理傳輸且傳輸后可恢復的格式，語義解釋模塊通過從接收到的語義信息進行推理來生成潛在的隱藏含義，語義距離與評估模塊測量發送端用戶推理規則和目標用戶推理規則之間的差異。

２． ３． １ 語義編碼器

語義編碼和解碼模塊負責將編碼后的語義信息轉換成適合通過網絡物理傳輸的格式。語義編碼過程考慮了網絡特性（例如帶寬、延遲和錯誤率）以及應用程序要求（例如數據速率、可靠性和安全性）。發送端通常有兩種類型的語義編碼器，分別在信源和信道部分進行編碼。信源編碼主要目的是降低語義信息的冗余度，信道編碼則是提升語義信息在傳輸中抗噪的魯棒性。

語義編碼過程使用數據壓縮、糾錯編碼和加密等技術來優化傳輸效率和可靠性。在帶寬有限的網絡中，語義編碼過程可以使用數據壓縮技術來減小編碼的語義信息的大小；在易錯網絡中，語義編碼過程可以使用糾錯編碼技術（例如前向糾錯或自動重傳請求），以提高傳輸可靠性。

２． ３． ２ 語義解碼器

語義解碼過程是語義編碼過程的逆過程，它將接收到的物理信號轉換回編碼的語義信息，使用各種技術（例如解調、信道估計和均衡），從接收信號中恢復原始語義信息，包括錯誤檢測和糾正機制，以識別傳輸錯誤并從中恢復。

２． ４ 語義解釋與推理模塊

２． ４． １ 語義推理

語義解釋模塊通過推理從接收到的語義信息中生成潛在隱藏的含義。語義推理過程使用各種技術（例如基于規則的推理、概率推理和機器學習），從顯性語義中推斷出新的知識和見解［３０］。

在語義認知網絡的框架內，語義推理過程具備學習和模仿發送端推理的能力，這一能力通過分析和整合通信歷史、上下文環境以及其他相關信息的手段實現，從而使得接收端的推理過程盡可能地趨近于發送端源用戶的思維邏輯。［１２］。

２． ４． ２ 推理規則

知識推理過程由一組推理規則指導，定義了顯式語義和隱式語義之間的映射，可由先驗知識和數據庫預定義，也可使用機器學習技術從相關數據中學習。知識推理規則被表示為將顯性語義映射到可能的隱性語義的概率分布，例如可以定義為：“如果Ａ 是Ｂ 的父親，則Ａ 和Ｂ 極大概率人種相同”。

２． ５ 語義距離與評估

語義距離模塊負責測量源用戶的推理規則和目標用戶的推理規則之間的差異，并評估知識推理的質量和有效性。語義距離和評估對于在認知網絡中實現自適應和上下文感知決策至關重要。在本文中，語義距離用描繪通信雙方推理規則的概率分布之間差異性的度量方式來衡量。具體而言，目標用戶的推理規則可用從其接收到的顯式語義到可能的隱式語義的概率分布來刻畫。類似地，發送端用戶的推理規則被描述為其根據真實推理規則和觀察到的顯式語義推斷出隱式語義的概率分布。二者概率分布之間的差異即為語義距離。

語義評估致力于對知識推理的多個維度進行系統性評價，這些維度包括但不限于推理知識的準確性、完整性、一致性以及相關性等。為實現這一目標，語義評估可依托多種技術手段，比如：基于黃金標準的評估方法，通過將推理得出的知識與經過精心策劃的參考知識庫進行對比，以驗證其準確性［３１］；通過基于任務的評估策略，通過衡量推理系統在特定任務或應用程序中的表現，來全面評估其性能［３２］；通過基于用戶反饋與交互的評估方式，不斷收集和分析用戶的查詢與響應，實現推理性能的持續改進與提升。這些方法共同構成了語義評估的多元框架，為知識推理的質量和有效性提供了全面而深入的評估手段。

通過比較兩個概率分布可以測量發送端用戶和目標用戶之間推理規則的語義距離。可以使用ＫｕｌｌｂａｃｋＬｅｉｂｌｅｒ 散度、ＪｅｎｓｅｎＳｈａｎｎｏｎ 散度等來量化兩個概率分布之間的差異。

源用戶的推理規則Ｐ（ｘ）和目標用戶的推理規則Ｑ（ｘ）之間的ＫｕｌｌｂａｃｋＬｅｉｂｌｅｒ 散度定義為：

語義距離測量可用于量化源用戶和目標用戶之間的語義相似度，并相應地調整語義編碼和解碼過程。如果語義距離較高，語義編碼過程可以使用更魯棒的糾錯編碼技術來確保可靠傳輸；反之，語義編碼過程可以使用更有效的數據壓縮技術來減少傳輸開銷以減少數據冗余。

２． ６ 聯邦多端協同推理

以聯邦學習為基礎提出了多終端聯合推理機制，目的是實現認知網絡中跨多個節點和設備的分布式協作推理。

聯邦學習賦能的語義認知網絡旨在為用戶提供個性化意圖理解服務，其是一種分布式人工智能框架，通過聯合用戶語義知識，無需直接數據共享，共同訓練一個共享的知識推理模型，既保障了數據隱私，又提升了模型性能，促進了跨域知識交流。在基于聯邦學習的語義認知網絡中，用戶可在本地訓練各自的語義解釋與推理模型并僅上傳模型參數更新至授信的協調者，由負責聚合更新以構建全局的語義語義解釋與推理模型。該過程涉及初始化模型參數、本地訓練、更新聚合、全局模型更新和迭代優化，直至模型達到既定性能。基于聯邦學習的語義認知網絡為構建隱私保護、智能化的通信網絡開辟了新徑。

３ 初步實驗結果

３． １ 數據集和實驗設置

使用３ 個常用的現實世界知識庫數據集ＮＥＬＬ-９９５、ＦＢ１５ｋ-２３７ 和ＷＮ１８ＲＲ 中采樣的實體和關系，來對語義認知網絡中的通信過程進行模擬，基本統計信息如表１ 所示。

將語義解釋器設置為兩個隱藏層組成的全連接網絡，每個隱藏層后面有一個修正線性單元和一個輸出層。解釋器的輸出使用ｓｏｆｔｍａｘ 函數進行標準化。對于語義比較器，采用具有一層隱藏層和一層輸出層的兩層全連接網絡。輸出層由ｓｉｇｍｏｉｄ 函數標準化，而其他層由修正線性單元激活。模擬基于Ｐｙｔｏｒｃｈ 開源平臺，硬件為Ｉｎｔｅｌ（Ｒ）Ｃｏｒｅ（ＴＭ）ｉ９９９００Ｋ ＣＰＵ＠３． ６０ＧＨｚ、１２８． ０ ＧＢ ＲＡＭ＠ ２ １３３ ＭＨｚ、２ ＴＢ ＨＤＤ和兩個ＮＶＩＤＩＡ Ｃｏｒｐｏｒａｔｉｏｎ ＧＰ１０２［ＴＩＴＡＮ Ｘ］ＧＰＵ。

３． ２ 實驗結果

通過與基于變分圖自編碼器的方案為基礎的傳統認知網絡框架對比來評估隱性語義認知通信的表現，其中基于變分圖自編碼器方案主要通過圖卷積神經網絡（Ｇｒａｐｈ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋ，ＧＣＮ）將語義實體轉換為低維的圖嵌入，繼而通過物理信道傳輸。語義解釋器同樣借助ＧＣＮ 根據含噪聲的圖嵌入復現出完整的隱性語義信息。

圖２ 為不同數據集下聯邦異構程度對語義認知推理網絡的影響，Ｐ 值和語義知識庫的差異性負相關。可以看出，語義知識庫差異程度越大協作推理的效果會越好，說明當多端的數據庫盡可能覆蓋不同的語義信息時，語義認知網絡的推理能力會得到提升；當語義知識庫差異性相同時，多端協作推理能力也會隨著聯邦服務器數量的增加而提高。

不同的聯邦正則項參數時推理準確率隨輪次變化的趨勢如圖３ 所示，可以看出，選擇不同的聯邦推理正則化參數對推理速度的影響非常大，當正則化參數在０ ～１ 時，可以達到最優的推理速度從而大幅減少計算冗余。

接收端學習的推理規同樣適用于在傳輸信道中受損的語義信息。表２ 和表３ 對比了ＦＢ１５ｋ-２３７ 數據集分別在高斯信道下回瑞利信道下基于不同傳輸信噪比時在有知識推理和無知識推理情況時的誤碼率，可以看出，從低信噪比域至高信噪比域，架構在誤碼率方面的表現均超過了無知識推理的認知網絡架構。從表２ 和表３ 可以看出，即使在信噪比較低時，相比于傳統的ＧＣＮ 框架，本文框架無論在高斯信道還是瑞利信道下仍然具有較好的魯棒性。

４ 結束語

提出了一種創新性的基于知識推理的認知網絡管理與控制框架，旨在解決當前方法所面臨的局限性與挑戰。此框架通過融合神經推理、符號推理以及神經符號推理等多種技術，實現了對異構數據源的集成與專家知識的結合。知識推理引擎作為框架的核心，充分利用不同推理技術的優勢，高效地執行推理任務。該引擎包含神經推理模塊，用于從數據中學習和推斷復雜模式；符號推理模塊，專門處理顯性知識和約束；神經符號推理模塊，負責整合所學知識與顯性知識。最終，認知網絡控制器將推理結果轉化為具體的網絡控制決策，實現了推理結果的有效應用。

通過實驗驗證，該框架在多端協作推理方面的卓越有效性和效率相較于傳統方法具有顯著優勢。此外，該框架不僅為基于知識推理的認知網絡管理與控制研究奠定了堅實的基礎，同時也為開發更具可擴展性和高效的推理技術提供了方向，以適應大規模和動態網絡環境的需求。在未來研究中，將繼續致力于增強該框架推理過程和結果的可解釋性，以增進人類對其的理解和信任。

參考文獻

［１］ ＳＨＩ Ｇ Ｍ，ＸＩＡＯ Ｙ． Ａｒｃｈｉｔｅｃｔｕｒａｌ Ｆｒａｍｅｗｏｒｋ ｆｏｒ Ｓｅｍａｎｔｉｃ

Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｓｅｒｖｉｃｅｓ ｆｏｒ ＩｏＴ ａｎｄ Ｓｍａｒｔ Ｃｉｔｙ ＆ Ｃｏｍ

ｍｕｎｉｔｙ［Ｓ］． Ｇｅｎｅｖａ：Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｔｅｌｅｃｏｍ Ｕｎｉｏｎ，２０２１．

［２］ ＩＭＴ２０３０（６Ｇ）推進組． ６Ｇ 網絡架構愿景與關鍵技術

展望白皮書［Ｒ］． 北京：ＩＭＴ２０３０（６Ｇ）推進組，２０２１．

［３］ ＬＵＯ Ｘ，ＣＨＥＮ Ｈ Ｈ，ＧＵＯ Ｑ． Ｓｅｍａｎｔｉｃ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ：

Ｏｖｅｒｖｉｅｗ，Ｏｐｅｎ Ｉｓｓｕｅｓ，ａｎｄ Ｆｕｔｕｒｅ Ｒｅｓｅａｒｃｈ Ｄｉｒｅｃｔｉｏｎｓ

［Ｊ ］． ＩＥＥＥ Ｗｉｒｅｌｅｓｓ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ，２０２２，２９ （１ ）：

２１０－２１９．

［４］ 石光明，肖泳，李瑩玉，等． 面向萬物智聯的語義通信

網絡［Ｊ］． 物聯網學報，２０２１，５（２）：２６－３６．

［５］ ＬＵ Ｋ，ＺＨＯＵ Ｑ Ｙ，ＬＩ Ｒ Ｐ，ｅｔ ａｌ． Ｒｅｔｈｉｎｋｉｎｇ Ｍｏｄｅｒｎ Ｃｏｍ

ｍｕｎｉｃａｔｉｏｎ ｆｒｏｍ Ｓｅｍａｎｔｉｃ Ｃｏｄｉｎｇ ｔｏ Ｓｅｍａｎｔｉｃ Ｃｏｍｍｕｎｉ

ｃａｔｉｏｎ［Ｊ］． ＩＥＥＥ Ｗｉｒｅｌｅｓｓ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ，２０２２，３０（１）：

１５８－１６４．

［６］ ＳＨＩ Ｇ Ｍ，ＸＩＡＯ Ｙ，ＬＩ Ｙ Ｙ，ｅｔ ａｌ． Ｆｒｏｍ Ｓｅｍａｎｔｉｃ Ｃｏｍｍｕ

ｎｉｃａｔｉｏｎ ｔｏ Ｓｅｍａｎｔｉｃａｗａｒｅ Ｎｅｔｗｏｒｋｉｎｇ：Ｍｏｄｅｌ，Ａｒｃｈｉｔｅｃ

ｔｕｒｅ，ａｎｄ Ｏｐｅｎ Ｐｒｏｂｌｅｍｓ［Ｊ］． ＩＥＥＥ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ｍａｇ

ａｚｉｎｅ，２０２１，５９（８）：４４－５０．

［７］ ＸＩＡＯ Ｙ，ＬＩＡＯ Ｙ Ｗ，ＬＩ Ｙ Ｙ，ｅｔ ａｌ． Ｒｅａｓｏｎｉｎｇ ｏｖｅｒ ｔｈｅ

Ａｉｒ：Ａ Ｒｅａｓｏｎｉｎｇｂａｓｅｄ Ｉｍｐｌｉｃｉｔ Ｓｅｍａｎｔｉｃａｗａｒｅ Ｃｏｍｍｕ

ｎｉｃａｔｉｏｎ Ｆｒａｍｅｗｏｒｋ［Ｊ］． ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｗｉｒｅｌｅｓｓ

Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ，２０２３，２３（４）：３８３９－３８５５．

［８］ ＣＨＥＮ Ｘ Ｊ，ＪＩＡ Ｓ Ｂ，ＸＩＡＮＧ Ｙ． Ａ Ｒｅｖｉｅｗ：Ｋｎｏｗｌｅｄｇｅ

Ｒｅａｓｏｎｉｎｇ ｏｖｅｒ Ｋｎｏｗｌｅｄｇｅ Ｇｒａｐｈ ［Ｊ］． Ｅｘｐｅｒｔ Ｓｙｓｔｅｍｓ

ｗｉｔｈ Ａｐｐｌｉｃａｔｉｏｎｓ，２０２０，１４１（３）：１１２９４８． １－１１２９４８． ２１．

［９］ ＺＨＡＮＧ Ｃ，ＸＩＥ Ｙ，ＢＡＩ Ｈ，ｅｔ ａｌ． Ａ Ｓｕｒｖｅｙ ｏｎ Ｆｅｄｅｒａｔｅｄ

Ｌｅａｒｎｉｎｇ ［Ｊ ］． Ｋｎｏｗｌｅｄｇｅｂａｓｅｄ Ｓｙｓｔｅｍｓ，２０２１，２１６：

１０６７７５． １－１０６７７５． １１．

［１０］ＳＨＡＮＮＯＮ Ｃ Ｅ． Ａ Ｍａｔｈｅｍａｔｉｃａｌ Ｔｈｅｏｒｙ ｏｆ Ｃｏｍｍｕｎｉｃａｔｉｏｎ

［Ｊ］． Ｔｈｅ Ｂｅｌｌ Ｓｙｓｔｅｍ Ｔｅｃｈｎｉｃａｌ Ｊｏｕｒｎａｌ，１９４８，２７ （３）：

３７９－４２３．

［１１］ＬＩＡＮＧ Ｊ Ｍ，ＸＩＡＯ Ｙ，ＬＩ Ｙ Ｙ，ｅｔ ａｌ． Ｌｉｆｅｌｏｎｇ Ｌｅａｒｎｉｎｇ ｆｏｒ

Ｒｅａｓｏｎｉｎｇｂａｓｅｄ Ｓｅｍａｎｔｉｃ Ｃｏｍｍｕｎｉｃａｔｉｏｎ ［Ｃ］∥ ２０２２

ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ｗｏｒｋ

ｓｈｏｐｓ（ＩＣＣ Ｗｏｒｋｓｈｏｐｓ）． Ｓｅｏｕｌ：ＩＥＥＥ，２０２２：２７１－２７６．

［１２］ＸＩＡＯ Ｙ，ＳＵＮ Ｚ Ｊ，ＳＨＩ Ｇ Ｍ，ｅｔ ａｌ． Ｉｍｉｔａｔｉｏｎ Ｌｅａｒｎｉｎｇ

ｂａｓｅｄ Ｉｍｐｌｉｃｉｔ Ｓｅｍａｎｔｉｃａｗａｒｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｎｅｔｗｏｒｋｓ：

ＭｕｌｔｉＬａｙｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ ａｎｄ Ｃｏｌｌａｂｏｒａｔｉｖｅ Ｒｅａｓｏｎｉｎｇ

［Ｊ］． ＩＥＥＥ Ｊｏｕｒｎａｌ ｏｎ Ｓｅｌｅｃｔｅｄ Ａｒｅａｓ ｉｎ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ，

２０２２，４１（３）：６３９－６５８．

［１３］ＢＡＲＷＩＳＥ Ｊ． Ａｎ Ｉｎｔｒｏｄｕｃｔｉｏｎ ｔｏ Ｆｉｒｓｔｏｒｄｅｒ Ｌｏｇｉｃ［Ｍ］．

Ａｍｓｔｅｒｄａｍ：Ｅｌｓｅｖｉｅｒ，１９７７．

［１４］ＦＯＲＧＹ Ｃ Ｌ． Ｒｅｔｅ：Ａ Ｆａｓｔ Ａｌｇｏｒｉｔｈｍ ｆｏｒ ｔｈｅ Ｍａｎｙ

Ｐａｔｔｅｒｎ／ Ｍａｎｙ Ｏｂｊｅｃｔ Ｐａｔｔｅｒｎ Ｍａｔｃｈ Ｐｒｏｂｌｅｍ［Ｍ］． Ａｍ

ｓｔｅｒｄａｍ：Ｅｌｓｅｖｉｅｒ，１９８９．

［１５］ＸＩＥ Ｌ Ｘ，ＹＵＩＬＬＥ Ａ． Ｇｅｎｅｔｉｃ ＣＮＮ［ＥＢ／ ＯＬ］． （２０１７ －

０３－０４）［２０２３ －１２ －２５］． ｈｔｔｐｓ：∥ｄｏｉ． ｏｒｇ／１０． ４８５５０ ／

ａｒＸｉｖ． １７０３． ０１５１３．

［１６］ ＹＩＮ Ｗ Ｐ，ＫＡＮＮ Ｋ，ＹＵ Ｍ，ｅｔ ａｌ． Ｃｏｍｐａｒａｔｉｖｅ Ｓｔｕｄｙ ｏｆ

ＣＮＮ ａｎｄ ＲＮＮ ｆｏｒ Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ ［ＥＢ／

ＯＬ］． （２０１７－０２－０７）［２０２３－１２－２５］． ｈｔｔｐｓ：∥ｄｏｉ． ｏｒｇ／

１０． ４８５５０ ／ ａｒＸｉｖ． １７０２． ０１９２３．

［１７］ＫＲＩＺＨＥＶＳＫＹ Ａ，ＳＵＴＳＫＥＶＥＲ Ｉ，ＨＩＮＴＯＮ Ｇ Ｅ．

ＩｍａｇｅＮｅｔ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｗｉｔｈ Ｄｅｅｐ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ

Ｎｅｔｗｏｒｋｓ［Ｊ］． Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ ｏｆ ｔｈｅ ＡＣＭ，２０１７，６０（６）：

８４－９０．

［１８］ＨＯＣＨＲＥＩＴＥＲ Ｓ，ＳＣＨＭＩＤＨＵＢＥＲ Ｊ． Ｌｏｎｇ Ｓｈｏｒｔｔｅｒｍ

Ｍｅｍｏｒｙ［Ｊ］． Ｎｅｕｒａｌ Ｃｏｍｐｕｔａｔｉｏｎ，１９９７，９（８）：１７３５－１７８０．

［１９］ＳＣＨＬＩＣＨＴＫＲＵＬＬ Ｍ，ＫＩＰＦ Ｔ Ｎ，ＢＬＯＥＭ Ｐ，ｅｔ ａｌ． Ｍｏｄ

ｅｌｉｎｇ Ｒｅｌａｔｉｏｎａｌ Ｄａｔａ ｗｉｔｈ Ｇｒａｐｈ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋｓ

［Ｃ］∥ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １５ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ

ｏｎ Ｓｅｍａｎｔｉｃ Ｗｅｂ． Ｈｅｒａｋｌｉｏｎ：Ｓｐｒｉｎｇｅｒ，２０１８：５９３－６０７．

［２０］ＷＥＳＴＯＮ Ｊ，ＣＨＯＰＲＡ Ｓ，ＢＯＲＤＥＳ Ａ． Ｍｅｍｏｒｙ Ｎｅｔｗｏｒｋｓ

［ＥＢ／ ＯＬ］． （２０１４－１０－１５）［２０２３－１２－２５］． ｈｔｔｐｓ：∥ｄｏｉ．

ｏｒｇ／１０． ４８５５０ ／ ａｒＸｉｖ． １４１０． ３９１６．

［２１］ ＧＲＡＶＥＳ Ａ，ＷＡＹＮＥ Ｇ，ＤＡＮＩＨＥＬＫＡ Ｉ． Ｎｅｕｒａｌ Ｔｕｒｉｎｇ

Ｍａｃｈｉｎｅｓ［ＥＢ／ ＯＬ］． （２０１４ －１０ －２０）［２０２３ －１２ －２５］．

ｈｔｔｐｓ：∥ｄｏｉ． ｏｒｇ／１０． ４８５５０ ／ ａｒＸｉｖ． １４１０． ５４０１．

［２２］ＢＵＲＣＨ Ｊ Ｒ，ＣＬＡＲＫＥ Ｅ Ｍ，ＭＣＭＩＬＬＡＮ Ｋ Ｌ，ｅｔ ａｌ． Ｓｙｍ

ｂｏｌｉｃ Ｍｏｄｅｌ Ｃｈｅｃｋｉｎｇ：１０２０ Ｓｔａｔｅｓ ａｎｄ Ｂｅｙｏｎｄ［Ｊ］． Ｉｎｆｏｒ

ｍａｔｉｏｎ ａｎｄ Ｃｏｍｐｕｔａｔｉｏｎ，１９９２，９８（２）：１４２－１７０．

［２３］ ＭＡＯ Ｊ Ｙ，ＧＡＮ Ｃ，ＫＯＨＬＩ Ｐ，ｅｔ ａｌ． Ｔｈｅ Ｎｅｕｒｏｓｙｍｂｏｌｉｃ

Ｃｏｎｃｅｐｔ Ｌｅａｒｎｅｒ： Ｉｎｔｅｒｐｒｅｔｉｎｇ Ｓｃｅｎｅｓ， Ｗｏｒｄｓ， ａｎｄ

Ｓｅｎｔｅｎｃｅｓ Ｆｒｏｍ Ｎａｔｕｒａｌ Ｓｕｐｅｒｖｉｓｉｏｎ［ＥＢ／ ＯＬ］． （２０１９ －

０４－２６）［２０２３ －１２ －２５］． ｈｔｔｐｓ：∥ｄｏｉ． ｏｒｇ／１０． ４８５５０ ／

ａｒＸｉｖ． １９０４． １２５８４．

［２４］ＬＩＵＺＺＩ Ａ Ｇ，ＡＧＬＩＮＳＫＡＳ Ａ，ＦＡＩＲＨＡＬＬ Ｓ Ｌ． Ｇｅｎｅｒａｌ ａｎｄ

Ｆｅａｔｕｒｅｂａｓｅｄ Ｓｅｍａｎｔｉｃ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｉｎ ｔｈｅ Ｓｅｍａｎｔｉｃ

Ｎｅｔｗｏｒｋ［Ｊ］． Ｓｃｉｅｎｔｉｆｉｃ Ｒｅｐｏｒｔｓ，２０２０，１０（１）：８９３１．

［２５］ＳＴＡＮＯＶＳＫＹ Ｇ，ＦＩＣＬＥＲ Ｊ，ＤＡＧＡＮ Ｉ，ｅｔ ａｌ． Ｉｎｔｅｒｍｅｄｉａｒｙ

Ｓｅｍａｎｔｉｃ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ Ｔｈｒｏｕｇｈ Ｐｒｏｐｏｓｉｔｉｏｎ Ｓｔｒｕｃｔｕｒｅｓ

［Ｃ］∥ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＡＣＬ ２０１４ Ｗｏｒｋｓｈｏｐ ｏｎ Ｓｅ

ｍａｎｔｉｃ Ｐａｒｓｉｎｇ． Ｂａｌｔｉｍｏｒｅ：ＡＣＬ，２０１４：６６－７０．

［２６］ＢＯＲＤＥＳ Ａ，ＣＨＯＰＲＡ Ｓ，ＷＥＳＴＯＮ Ｊ． Ｑｕｅｓｔｉｏｎ Ａｎｓｗｅｒｉｎｇ

ｗｉｔｈ Ｓｕｂｇｒａｐｈ Ｅｍｂｅｄｄｉｎｇｓ［Ｃ］∥Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２０１４

Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｅｍｐｉｒｉｃａｌ Ｍｅｔｈｏｄｓ ｉｎ Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ

Ｐｒｏｃｅｓｓｉｎｇ． Ｄｏｈａ：ＥＭＮＬＰ，２０１４：６１５－６２０．

［２７］ＢＯＮＡＴＴＩ Ｐ Ａ，ＤＥＣＫＥＲ Ｓ，ＰＯＬＬＥＲＥＳ Ａ，ｅｔ ａｌ． Ｋｎｏｗｌ

ｅｄｇｅ Ｇｒａｐｈｓ：Ｎｅｗ Ｄｉｒｅｃｔｉｏｎｓ ｆｏｒ Ｋｎｏｗｌｅｄｇｅ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ

ｏｎ ｔｈｅ Ｓｅｍａｎｔｉｃ Ｗｅｂ （Ｄａｇｓｔｕｈｌ Ｓｅｍｉｎａｒ １８３７１）［Ｊ］．

Ｓｃｈｌｏｓｓ ＤａｇｓｔｕｈｌＬｅｉｂｎｉｚＺｅｎｔｒｕｍ ｆüｒ Ｉｎｆｏｒｍａｔｉｋ，２０１９，

８（９）：２９－１１１．

［２８］ＬＩＮ Ｊ Ｊ，ＺＨＡＯ Ｙ Ｚ，ＨＵＡＮＧ Ｗ Ｙ，ｅｔ ａｌ． Ｄｏｍａｉｎ Ｋｎｏｗｌ

ｅｄｇｅ Ｇｒａｐｈｂａｓｅｄ Ｒｅｓｅａｒｃｈ Ｐｒｏｇｒｅｓｓ ｏｆ Ｋｎｏｗｌｅｄｇｅ Ｒｅｐ

ｒｅｓｅｎｔａｔｉｏｎ ［Ｊ ］． Ｎｅｕｒａｌ Ｃｏｍｐｕｔｉｎｇ ａｎｄ Ａｐｐｌｉｃａｔｉｏｎｓ，

２０２０，３３（２）：１－１０．

［２９］ＢＯＮＡＴＴＩ Ｐ Ａ ，ＯＬＭＥＤＩＬＬＡ Ｄ． Ｒｕｌｅｂａｓｅｄ Ｐｏｌｉｃｙ Ｒｅｐ

ｒｅｓｅｎｔａｔｉｏｎ ａｎｄ Ｒｅａｓｏｎｉｎｇ ｆｏｒ ｔｈｅ Ｓｅｍａｎｔｉｃ Ｗｅｂ［Ｃ］∥

Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｔｈｉｒｄ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｓｕｍｍｅｒ Ｓｃｈｏｏｌ

Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｒｅａｓｏｎｉｎｇ Ｗｅｂ． Ｄｒｅｓｄｅｎ：ＡＣＭ，２００７：

２４０－２６８．

［３０］ＬＵ Ｚ Ｍ，ＸＩＡＯ Ｙ，ＳＵＮ Ｚ Ｊ，ｅｔ ａｌ． Ａｄｖｅｒｓａｒｉａｌ Ｌｅａｒｎｉｎｇ ｆｏｒ

Ｉｍｐｌｉｃｉｔ Ｓｅｍａｎｔｉｃａｗａｒｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ［Ｃ］∥ ＩＥＥＥ Ｉｎ

ｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ（ＩＣＣ）． Ｒｏｍｅ：

ＩＥＥＥ，２０２３：４０６３－４０６９．

［３１］ＨＡＡＳ Ｍ，ＪＡＫＵＢＯＶＳＫＩ Ｅ，ＦＲＥＭＥＲ Ｃ，ｅｔ ａｌ． Ｙａｌｅ

Ｇｌｏｂａｌ Ｔｉｃ Ｓｅｖｅｒｉｔｙ Ｓｃａｌｅ（ＹＧＴＳＳ）：Ｐｓｙｃｈｏｍｅｔｒｉｃ Ｑｕａｌｉｔｙ

ｏｆ ｔｈｅ Ｇｏｌｄ Ｓｔａｎｄａｒｄ ｆｏｒ Ｔｉｃ Ａｓｓｅｓｓｍｅｎｔ Ｂａｓｅｄ ｏｎ ｔｈｅ

Ｌａｒｇｅｓｃａｌｅ ＥＭＴＩＣＳ Ｓｔｕｄｙ［Ｊ］． Ｆｒｏｎｔｉｅｒｓ ｉｎ Ｐｓｙｃｈｉａｔｒｙ，

２０２１，１２：６２６４５９．

［３２］ＮＯＲＲＩＳ Ｊ Ｍ． Ｃｕｒｒｅｎｔ Ｕｓｅｓ ｆｏｒ Ｔａｓｋｂａｓｅｄ Ｌａｎｇｕａｇｅ Ａｓ

ｓｅｓｓｍｅｎｔ ［Ｊ］． Ａｎｎｕａｌ Ｒｅｖｉｅｗ ｏｆ Ａｐｐｌｉｅｄ Ｌｉｎｇｕｉｓｔｉｃｓ，

２０１６，３６：２３０－２４４．