基于圖譜的領域技術體系構建研究

許文文，馬 勛，徐霄驥，張 峰

（中國電子科技集團公司信息科學研究院 認知與智能技術重點實驗室，北京 100086）

1 領域技術體系概述

領域技術體系是通過分析領域技術、技術之間的關系以及技術發展特性等數據，以技術概念為節點、以技術概念間關系為邊，繪制而成的具有層次、邏輯關系的數據結構。利用技術體系，能夠分析領域技術發展脈絡，揭示技術之間的耦合關系，形成技術全景畫像，洞察技術發展方向。

傳統領域技術體系主要依托專家已有的知識，人工進行構建，存在認識、經驗等局限性，無法保障全面性和準確性，無法洞察技術發展的全貌。論文、專利等科研成果數據是科研活動和科技發展的客觀反映。隨著科學技術迅猛發展，科研機構的科研活動范圍越來越廣泛，科研成果呈多源化、海量化的速度增長。基于這些數據，利用數據科學的方法，可以實現從數據到信息、信息到知識的提升[1]。基于此，本文提出一種基于圖譜的領域技術體系構建方法。該方法通過采集領域相關科技信息資源，結合數據挖掘、知識圖譜、復雜網絡分析等技術，對數據進行整合和提煉，構建領域技術體系，可以從相對客觀的角度反映技術的發展狀況和未來趨勢，為認識技術發展全貌提供輔助支撐。

2 領域技術關聯圖譜構建

在領域技術關聯圖譜構建方面，通過領域科技數據的感知與匯聚，實現領域科技數據的獲取；通過基于雙向編碼器表征量（Bidirectional Encoder Representations from Transformers，BERT）的知識抽取，實現對隱藏在海量科技信息中的實體和實體關系的識別和抽取；通過基于潛在語義分析的知識融合，將多個來源的、關于同一個實體或概念的描述信息進行融合；通過混合數據存儲體系、多維度數據索引等技術，實現圖譜的管理和更新。

2.1 領域科技數據的感知與匯聚

針對全面、及時地感知和獲取領域科技數據的問題，開展多源數據采集模型構建研究，覆蓋專業文獻庫、相關專利庫等渠道，實現領域科技數據的自動感知與獲取。具體地，采用定源跟蹤與開放式獲取相結合的多源數據采集方法，獲取數據，并且建立多源信息監測、長期跟蹤機制，實現數據的定期更新。

針對獲取的領域科技數據格式多樣、質量難以保障的問題，開展領域科技數據預處理，完成數據解析、數據清洗、數據變換等規范化操作，形成格式統一、結構完整、形式規范的領域科技數據集。構建非結構化數據解析工具，實現論文、專利等數據中標題、作者、機構、摘要、關鍵詞、正文、發表時間等基本信息的提取。在數據變換方面，構建數據轉換工具，以支持數據不同存儲格式與標準格式間的相互轉換，方便數據整合、聯合分析。

2.2 基于BERT的知識抽取

知識抽取是從多種數據源中提取知識并存入知識圖譜，是構建大規模知識圖譜的基礎[2]。知識抽取的目的是增強信息的可使用性和可重用性，這個過程同時又可以看作對現有的非結構化信息的語義標注過程，主要包括實體抽取和實體間關系抽取。

針對領域專業性強、技術詞匯多樣所導致的領域文檔識別與要素提取困難問題，開展領域詞庫構建研究。領域詞庫構建的正確性影響領域數據識別的準確率[3]。對此，首先收集領域的技術種子詞匯，基于種子詞匯，結合語義空間模型、文本上下文場景分析等技術，對文檔中的技術概念進行提取，并對相關概念間的關系進行梳理，以滾雪球方式不斷完善領域基礎詞庫，為領域技術關聯圖譜的構建提供支撐。

采用基于BERT深層語義表示的BILSTM-CRF模型[4]進行實體抽取。基于預先獲得的BERT模型和CRF模型，構建實體抽取模型；將預處理后的文本段落數據輸入實體抽取模型，得到抽取結果。在實體關系抽取方面，采用融合多特征的BERT預訓練模型進行實體關系抽取。融合技術等實體信息、實體對信息和實體類型等特征，強化BERT模型的語義學習能力，減少語義信息特征的丟失，最后通過分類器進行關系分類和提取。

2.3 基于語義分析的知識融合

知識融合研究的是如何將來自多個來源的關于同一個實體或概念的描述信息融合起來，主要包括實體對齊、沖突檢測與消解等。

通過采用基于語義分析的概率模型實現實體對齊。首先，通過局部敏感哈希算法確定每個實體匹配候選集，降低計算復雜度，其次利用文本相似性函數計算屬性的相似度進行成對匹配。通過將基于屬性相似性評分的實體匹配問題轉化為分類問題（分為匹配、可能匹配和不匹配）建立該問題的概率模型。在沖突檢測與消解方面，綜合使用基于投票的方法和基于質量估計的方法。基于投票的方法比較直接，例如根據實體出現的頻率進行多數投票。基于質量的方法不考慮知識來源的可信度，最終選擇較高質量的結果。

2.4 技術關聯圖譜的存儲與更新

由于領域技術處在不斷的變化之中，其所包含的技術概念節點和關聯關系可能會消失，同時新的節點和關系也會不斷出現，因此，就需要對技術關聯圖譜進行存儲和定期更新。通過采用基于關系數據庫、圖數據庫的混合數據存儲體系，支撐技術關聯圖譜存儲，并構建多維度數據索引，實現領域技術數據的管理和查詢檢索。關系數據庫易于維護，便于多表之間的復雜查詢。圖數據庫可以提供完善的查詢語言，實現圖上的查詢和搜索，更容易表達現實的業務場景[5]。針對技術關聯圖譜的更新問題，綜合多源置信度評估技術、基于圖數據庫的自動更新與備份，以及人工更新維護等手段，實現技術關聯圖譜的更新與維護。

3 領域技術體系構建

在領域技術體系構建方面，通過標簽傳播算法，實現領域技術群發現；通過分析技術節點間的時序鏈接變化，深化對技術的關聯關系的認識；通過對技術關聯圖譜的分析，構建領域技術體系。

3.1 基于標簽傳播的技術群發現

技術群發現的目的是挖掘技術關聯圖譜中關系緊密的技術實體對[6]。采用基于標簽傳播的社區檢測算法實現技術群的發現。標簽傳播算法通過傳播標簽的方式使得網絡中的節點獲取其所屬簇的標簽。將具有相同標簽的節點劃分到一個社區中，在每次迭代傳播時，每個節點的標簽都更新為最多數量的鄰居節點擁有的標簽。通過標簽傳播，將整個網絡中的技術節點劃分為若干個群體，發現潛藏在技術關聯圖譜中的技術群，群內技術節點聯系緊密，群間節點聯系稀疏。

3.2 基于時序鏈接變化的技術演化分析

技術演化路徑分析，可以梳理技術發展脈絡，為探究、回溯技術起源和發展提供幫助[7]。結合文本挖掘、引文分析等技術，分析技術關聯網絡中技術節點和連接關系隨時間的變化情況，通過節點和連接的增長過程分析、圖譜關鍵節點和連接的產生及變化情況描述與刻畫，形成領域相關技術隨時間變化的演化機制。文本發掘方法，分析網絡演化過程，從而識別某技術的演化模式、內在聯系、發展趨勢等。引文分析方法，對文獻之間的引用關系進行分析，發現技術動態發展聯系等。

3.3 基于圖譜的領域技術體系構建

基于對領域技術群和技術演化的認知，采用知識牽引與數據驅動相結合的方法構建技術體系。首先對技術群結構進行分析，識別出領域技術關聯關系中強關聯節點；再通過節點影響力分析等方法，結合人工輔助矯正技術，從各技術群中心節點出發逐層遍歷網絡節點，并將其加到技術體系輸出列表中，輸出具有多個層級的列表，形成技術體系。結合領域專家經驗知識，對技術體系進行迭代修正。

4 實例分析

中央企業在國民經濟中占主導地位，也是國家科技創新的主力軍。本文以中央企業為研究對象，對其研究領域進行分析。通過開源數據獲取，共收集中央企業近5年相關技術論文16 939篇。通過篩選工業期刊、技術術語識別、關聯關系建立、清洗雜質詞等處理，構建技術關聯圖譜。該技術關聯圖譜共包含節點數6 081個，關聯關系數7 288條。通過對技術關聯圖譜進行技術群發現，該網絡可分為6大模塊，在圖1中已用不同顏色進行標出。各模塊中的中心節點分別為通信技術、大數據、航空發動機、圖像處理、運載火箭技術、雷達。這些節點具有較多連接，即在相關機構的論文中出現次數較多。該結果可反映出，近5年，中央企業相關機構研究的熱點技術為通信技術、大數據技術、航空發動機技術、圖像處理技術、運載火箭技術以及雷達技術等。

鑒于通信領域為中央企業相關機構研究的熱點領域之一，且通信技術對今后社會發展有著舉足輕重的作用[8-10]，本文以通信領域為例，對相關領域技術文獻進行分析，構建其技術體系。通過定向開源數據獲取，共收集《光通信技術》《通信技術》《無線電通信技術》三本期刊近5年的1 881篇論文數據。通過技術術語識別、關聯關系建立等處理，構建通信領域技術關聯圖譜。結合復雜網絡分析、數據挖掘等技術，對通信領域技術關聯圖譜進行技術群發現、技術演化分析等處理，構建通信領域技術體系，主要結果如圖2所示。從該結果可以看出，通信領域近5年來研究的技術點包括衛星通信[11]、網絡安全[12]、認知無線電等[13-14]。衛星通信相關技術包括高階調制、跳頻通信、無線通信、故障診斷以及極化調制等。網絡安全相關技術包括身份認證、安全隔離以及網絡防御等。認知無線電相關技術包括調制識別、頻譜感知以及信號檢測等。

圖2 通信領域技術體系

5 結 語

領域技術體系能夠分析領域技術發展脈絡，揭示技術之間的耦合關系，形成技術全景畫像，輔助研究人員了解和掌握領域通用技術、關鍵技術等內容，助力前沿技術的超前部署和提前謀劃。本文提出一種基于圖譜的領域技術體系構建方法，并對方法的實際效果進行了實例分析。該方法能夠對領域科技數據進行專業化處理，提高對數據的加工能力，實現科技信息數據的增值。下一步將采用學術論文、專利等為數據源，采用多源數據進行領域技術體系構建，從而使分析結果更加全面、客觀。