面向公路工程規范的多粒度知識提取與知識應用方法

孫克強 張嘉鴻 伍震 胡振中

（1.廣東省路橋建設發展有限公司，廣州 510623；2.清華大學 土木工程系，北京 100084；3. 清華大學 深圳國際研究生院，深圳 518055）

引言

隨著社會經濟的高速發展以及設計施工水平的提升，我國公路工程建設項目數量不斷增加、規模不斷擴大。為了提高建設項目規范化水平、保證工程質量以及降低工程風險，國家與地方出臺了一系列法律法規與規范標準，行業與企業也制定了相應的標準與規定。

這些規范類文件在公路工程的建設階段起到重要的規范、指導與約束作用，為公路工程領域提供了大量的知識。隨著近年來國家大力推進建筑產業的現代化進程，學界也對建筑信息化技術進行了大量研究[1]，形成了數字化的工程數據與知識。而在公路工程規范類文件中，非結構化數據以自然語言的形式存儲，目前行業對這類數據的獲取、檢索仍然處于較低水平，造成了知識的低效率應用。這種低效率的知識提取與應用方法阻礙了公路工程標準化、信息化與智能化水平的提升。因此，如何能夠從大量文本中獲取領域知識，并在公路工程項目建設管理過程中實現高效應用，成為了當前公路工程建設領域的一個重要課題。

針對上述問題，本研究以公路工程領域規范類文本為研究對象，對詞語粒度、語段粒度以及語句粒度進行了多粒度特征分析，以此為基礎提出基于規則的信息提取方法。本研究還面向中江高速改擴建工程的建設管理，建立了公路改擴建工程知識圖譜，開發了公路工程安全信息檢索與應用系統，實現了對規范文本的知識提取與應用。

1 文獻綜述

信息抽取（Information Extraction, IE）作為一種自然語言處理技術（Natural Language Processing, NLP）[2]，是指從非結構化的自然語言文本中抽取所需要的信息，并形成結構化輸出[3]，主要包含三個子任務：命名實體識別（Named Entity Recognition，NER），關系抽取（Relation Extraction，RE）及事件抽取（Event Extraction，EE）。知識圖譜（Knowledge Graph，KG）[4]是一種高效的知識結構化存儲與知識表達方式，在識別命名實體、關系以及事件后，可以將知識儲存于知識圖譜中[5,6]。

IE 目前主要有兩類解決方案：基于規則和基于學習的方法。基于規則的IE 一般是根據詞法與句法特征設計信息抽取方法，這種方法的特點是先推理規則再進行信息抽取[7]，抽取效果高度依賴規則設計，需要專家知識與規則支撐，在專業領域或語言特征突出的文本中效果較好。基于學習尤其是基于深度學習的IE是過去十年的熱門研究課題，其中包括LSTM 模型[8]、GPT 模型[9]和BERT 模型[10]等，此類方法的效果高度依賴模型的設計與標注數據集的規模和質量。在建筑行業中，信息抽取技術也得到了一定的應用[11,12]。

對于公路工程領域信息抽取技術的研究，目前尚未提出較為完備的IE 方法，也沒有實現領域大體量信息提取的案例。主要存在以下問題：

（1）基于規則的IE 需要根據文本特征設計抽取規則，目前尚未有研究對公路工程領域文本特征進行系統分析，也沒有提出合理的抽取規則；

（2）基于學習的IE 需要大規模的標注數據集，目前公路工程領域內尚未有合適可用的數據集。

與一般文本相比，公路工程領域規范類文本篇章結構完整、語句邏輯規律，用詞統一精確，適用基于規則的IE 方法。因此，對于公路工程領域規范類文本的IE，可以首先分析文本的結構特征，再以此為依據設計提取方法，以此提高IE 的效率與準確性。

對于IE 技術在工程領域規范文本中的應用，學者們在基于規則和基于學習的方法都取得了一定的進展。RASE 定義是Hjelseth 和Nisbet[13]提出的一種規范文本句子成分標記方法。此方法在英文規范文本的處理中卓有成效，但是在中文規范中，部分語句無法被RASE定義。姜韶華等[14]在中文規范中應用了RASE 方法，由研究人員使用RASE 對少量規范文本進行手動標記，并生成相應的用于合規性檢查的規則。周育丞等[15]針對建筑設計規范，提出了一種基于深度學習的規范條文命名實體識別方法。Zheng 等[16]以本體為基礎，提出了一種將規則自動轉換為SPARQL 查詢語句的算法。

也有部分學者對于可計算約束展開研究。Zhang 和El-Gohary[17]以及陳遠等[18]提出了可計算約束的結構，并以此進行合規性自動檢查。但是在實際的規范文本中，可計算約束的占比較低[19,20]，此方法無法應用于規范信息的全文提取。

綜上所述，雖然學界在信息抽取領域進行了很多研究，但是對于公路工程領域規范類文本的IE，目前的研究并不成熟。由于此類文本具有更規律的結構特征和語言特征，使用基于規則的IE 方法可以高效、準確地提取信息。國外學者提出的RASE 方法通過對句子成分先行定義，成功將規范類文本轉換為結構化信息。但是由于語言的差異性，RASE 方法并不能直接應用在中文規范中。

2 公路工程規范類文本的來源與特征

公路工程的規范類文本主要包括：國家法律（如《中華人民共和國公路法》）、國家標準（如GB/T 18226-2015《公路交通工程鋼構件防腐蝕技術條件》）、行業標準（如JTG/T F30—2014《公路水泥混凝土路面施工技術細則》）、地方標準（如《廣東省高速公路工程施工安全標準化指南》）以及企業標準（如《省交通集團高速公路建設項目路面施工階段交叉施工及交通安全指引》）等。主要介紹以下三部分內容。

2.1 公路規范文本的清單與數據獲取

在對文本進行特征分析與知識提取等處理前，需要首先確定研究對象的范圍，構造公路工程規范類文本清單，并形成項目數據源。

從知識來源的角度上看，應當包含國家法律、國家標準、行業標準、地方標準以及企業標準[21]。從知識邊界的角度上看，不僅要涵蓋狹義公路工程領域，還需要包含廣義公路工程領域的規范類文本。比如，在國家規范GB 50545-2010《110kV ～750kV 架空輸電線路設計規范》中，規定了輸電線路與公路的交叉或接近的基本要求，這是公路工程與交叉行業的規范要求，屬于廣義公路工程領域。從知識應用的角度上看，本課題的研究成果將應用于廣東省內的某項公路改擴建工程，因此應包括公路改擴建工程領域的相關規范類文本。

基于上述分析，本研究通過人工篩選并邀請專家校對的方式，最終確定規范類文本清單共967 本。根據清單獲取對應的文本文件后，有部分文件為不可編輯文本，無法直接進行數據處理。因此，本研究采用光學字符識別（Optical Character Recognition，OCR）技術將文件轉換為可編輯文本的形式。由于此類源文件多為印刷文本，因此OCR 識別結果通常較為準確，表格和圖片也都能正常識別。但是對于文本中一些復雜公式，仍然需要進行人工審查和糾正。至此，完成了本研究的數據源獲取。

2.2 公路規范文本的特征分析

對上述公路工程規范類文本進行分析，與一般文本相比，語言特征主要有以下幾點：

（1）語言統一精確。公路工程規范類文本使用專業術語，如路基、路床及橋墩等，使用標準化語言，避免出現含糊不清或引起歧義的表達。遵循國家和行業的相關語言規定，不同文本中關于同一對象的表達大多相同，保證了語言的一致性和統一性，有助于文本命名實體與關系的識別；

（2）篇章結構完整。公路工程規范類文本按照一定的結構和格式組織內容，使之成為系統完整的技術文件。如規范JTG F90-2015《公路工程施工安全技術規范》，在章節結構上以總則、術語、基本規定以及各部分工程或作業的技術要求構成，并配有目錄、附錄以及條文說明等輔助材料；

（3）語句邏輯規律。在公路工程規范類文本中，子句內部遵循若干種句法構成，子句之間按一定的范式結合，并使用恰當的連接詞或標點符號形成規律的語段。

經過上述分析，文本數據的信息抽取任務可以劃分為兩部分：結構信息抽取和語義信息抽取。其中，結構信息是指由特定的結構化標識方法表述的章節組織信息，語義信息是指由自然語言構成的具體描述。結構信息可以通過設計列表模式提取，并使用有序樹結構進行存儲。語義信息可以根據語段范式和子句句法設計語義提取與信息存儲方法。

2.3 公路工程領域詞庫的構建

進行語義信息抽取前，需要首先構建公路工程領域詞庫，作為后續語段語句拆解和識別的基礎。領域詞庫的生成主要基于以下兩類來源：

（1）公路工程規范類文本。部分規范類文本中，有專門的篇幅對術語進行定義，如標準JTG B01—2014《公路工程技術標準》的第二章為術語部分，列舉了“公路改擴建”、“公路功能”等領域術語及其釋義。此外，還有專門介紹專業術語的規范類文本，如標準JTJ 002-87《公路工程名詞術語》，共收錄了924 條公路工程領域的名詞術語及其釋義。從公路工程規范類文本中獲取的術語構成了基于文檔的公路工程領域詞庫，該詞庫的特點是專業性高，且每個術語均有對應的釋義；

（2）公開詞庫。從網絡上可以獲取公開詞庫，如搜狗細胞詞庫中收錄了“公路工程專業術語”、“公路工程施工與監理詞庫”和“橋梁隧道”等領域詞庫。從網站獲取源文件后，通過解碼、合并等方式即可生成基于公開詞庫的公路工程領域詞庫，該詞庫的特點是詞語覆蓋面較廣。

3 面向公路規范復雜語段的拆分與重構

公路工程規范類文本由一系列復雜語段構成，這些語段具有以下三個特征：

（1）語段可能由若干句子及段落構成，內部以句號或換行符等符號分割；

（2）部分句子結構復雜，由若干子句構成，并以分號或逗號等標點符號分割；

（3）子句之間一般以特定的范式結合。

因此，提出公路規范復雜語段的拆分與重構方法，即先提出子句之間的結合范式，再把復雜語段拆分為結構清晰、語義分明的簡單子句，以便后續的語義抽取工作。以下主要介紹子句成分的定義方法TEARS，基于TEARS 進行子句成分識別并生成標準三元組。

3.1 公路規范復雜語段成分定義方法TEARS

對于規范文本的子句結合范式，Hjelseth 和Nisbet提出了RASE 定義方法[13]，該方法通過定義規范語句的構成成分，實現從規范性語句向規則的轉換，并被成功應用于BIM 模型的自動合規性檢查中。在RASE定義中，規范語句被拆分為四個基礎組成成分：約束要求、個并列或選擇成分、應用范圍及例外條件。

但是在中文公路工程規范類文本中，被標點符號分割的子句不一定能被RASE 的定義所描述。例如，在標準JTG B01-2014《公路工程技術標準》第10.2.4條“高速公路和作為干線的一級公路，整體式斷面中間帶寬度小于或等于12m 時，必須連續設置中央分隔帶護欄”中，“高速公路和作為干線的一級公路”是規范的應用對象，無法被RASE的四個基礎組成部分定義。

因此，本研究基于RASE 定義擴展提出TEARS的定義： 應用對象（T, Target）、 例外條件（E,Exception）、應用范圍（A, Application）、約束要求（R,Requirement）及并列或選擇成分（S, Selection）。應用于上述條文，可以對各子句進行成分識別：“高速公路和作為干線的一級公路”為T 成分，“整體式斷面中間帶寬度小于或等于12m 時”為A 成分，“必須連續設置中央分隔帶護欄”為R 成分。

3.2 基于TEARS 的識別與重構算法

應用對象（T）的識別可以通過判定子句是否為名詞性從句進行，即判定子句是否符合式（1），如“八車道及以上的高速公路”即為名詞性從句。在式（1）中，“ATT（attribute）”指代定中關系，“HED（head）”指向句子核心，“n”表示名詞節點。引入第2.3 節中構建的公路工程領域詞庫對名詞節點進行識別，先使用規模較小但專業性較高的基于文檔的公路工程領域詞庫，再使用覆蓋面較廣的基于公開詞庫的公路工程領域詞庫，以此提高識別的效率與準確率。

應用范圍（A）與例外條件（E）的識別可以根據關鍵詞進行正則匹配，例如在子句中匹配到“除”、“不”或“反之”等字詞時，可以將此子句識別為例外條件（E），應用范圍（A）的判定同理。表1 展示了二者的正則匹配模板及判定樣例。

表1 成分識別正則表達表

TEAR 成分均可有對應的并列或選擇成分（S），S成分在復雜語段中可能以顯式或隱式的形式存在。對于隱式的S 成分，可以根據前述的TEA 識別方法獲得，即得到相應的T(S)、E(S)或A(S)成分。例如，前序子句中已有E 成分，則后續符合E 成分識別方法的子句將判定為E(S)成分。若S 成分為顯式形式，可以采用正則匹配方法識別，正則匹配模板如表1 所示。將子句判斷為S 成分后，根據順次前序子句的成分歸屬進行歸類，如順次前序子句為應用對象（T），則目標子句判定為T(S)。此時，語段中剩余的子句將被認定為R 或R(S)成分。至此，完成TEARS 框架下的成分識別。

在成分識別工作完成后，將TEAR 成分對S 成分做笛卡爾積，可以獲得若干并列組合，將這些組合以形如式（2）的標準TEAR 三元組結構進行存儲。

在標準三元組結構中，應用對象（T）、應用范圍（A）與例外條件（E）是可以缺省的。例如，在語句 “不同形式的護欄相接時應進行過渡設計”中，由于單個子句成分完整，可以直接歸為約束要求（R），其他成分缺省。在條文“整體拼接橋梁的橋下凈空，不應小于原設計標準”中，兩個子句可以分別歸為應用對象（T）與約束要求（R）。TEARS 的識別與重構算法流程圖如圖1 所示。

圖1 TEARS 成分識別與重構算法流程圖

4 面向公路規范子句的語義抽取

將語段轉換為標準三元組后，還需要提取各子句的語義信息。通過對公路規范的子句句法進行分析總結，本研究定義了四種基本句法結構：核心結構、修飾結構、協同結構及并列結構。在解析句法結構時，需要用到分詞和詞性標注等NLP 技術。目前，應用較為廣泛的中文NLP 技術包括Jieba、HanLP 和LTP等。本項目應用的是由哈工大開發的語言技術平臺（Language Technology Platform, LTP）。這是一套面向中文NLP 的開源基礎技術平臺，與其他常用的中文NLP技術包相比，此平臺功能較全面，能夠實現分詞、詞性標注、命名實體識別以及依存句法分析等任務。為了增強對公路工程領域術語的識別效率與準確性，本研究將第2.3 節中生成的領域詞庫以特征方式加入機器學習算法。四種結構的例句與對應的通用信息表達式如圖2 所示，本章將詳細介紹句法特征及語義信息提取方法。

圖2 基本句法結構通用信息表達式與例句圖

4.1 核心結構

核心結構是指忽略修飾成分后的句子主干，一般為“主謂賓”結構或“動賓”結構。圖2 中的核心結構例句為“水泥混凝土面層應具有足夠的強度”，屬于“主謂賓”結構。

對于“主謂賓”結構，可以直接使用語義三元組存儲信息；對于“動賓”結構，將主語部分設置為空（null）即可適用。對于有情態副詞修飾的謂語，以列表的形式將情態副詞順序儲存。此時，核心結構可由語義三元組及謂語的情態副詞列表（若存在）共同表示。

4.2 修飾結構

修飾結構存在于對句子成分的修飾。在依存句法樹中，修飾結構可以分為定語修飾結構與狀語修飾結構。圖2 中的修飾結構例句為“公路鋼混組合橋梁的設計”，屬于定語修飾結構。

修飾結構的獲取需要對當前節點的所有依存句法子樹進行遍歷，并把所有符合修飾結構的通量以列表的形式以序號順序儲存。此時，修飾結構以當前節點及對應的修飾列表共同表示。

4.3 協同結構

協同結構用于表示兩個或多個對象的共同作用，一個典型的協同結構是“甲與乙的間距”，在此結構中，在“甲”和“乙”的共同作用下間距的意義才能被準確表達。圖2 中的協同結構例句為“瀝青層與水泥混凝土路面之間的粘結”。

協同結構的獲取同樣通過遍歷依存句法子樹進行，把當前節點的協同關系依存子節點以列表的形式順序儲存，并獲取作用對象。此時，協同結構以當前節點、作用對象以及協同節點列表共同表示。

4.4 并列結構

并列結構用于表示兩個或多個對象的并列，與協同結構的區別在于并列結構的并列對象之間沒有協同作用關系，與作用對象之間并非以定中關系連接。圖2 中的并列結構例句為 “合理設置出入口、交叉和構造物”。類似于協同結構，獲取當前節點對應的并列子節點列表。并列結構以當前節點與并列節點列表共同表示。

5 公路規范知識提取與應用案例驗證

本研究提出的公路規范文本多粒度知識提取方法實現了從文本到知識的信息流轉，依托于中江高速改擴建工程，本研究開發了公路工程安全信息檢索與應用系統，可以實現知識生成與知識應用等功能。

5.1 項目概況

中江高速是廣東省境內連接中山市與江門市的高速公路，建成于2005 年，原道路設計為雙向四車道。隨著社會經濟的快速發展，中江高速的交通容量逐漸不能滿足人民日益增長的需求，擁堵現象常有發生。為了解決交通承載量不足的問題，廣東省政府提出了中江高速改擴建項目，由原有的雙向四車道增至雙向八車道。中江高速的擴建方案如圖3 所示。

圖3 中江高速擴建方案示意圖

本項目為既有高速公路的改擴建工程，建設環境復雜、建設難度較高，在全生命周期中會涉及到大量與工程安全有關的法律、規范及標準。如何使項目各參與方更高效地獲取需要的安全信息是本項目工程管理中面臨的一個重大問題。

5.2 知識生成

基于本研究提出的方法，可以對項目相關的公路工程規范類文本進行信息的自動提取。其中，將核心結構中的關系標識為Predicate，將連接成分R 與成分A/E 的關系標識為Condition，將連接成分與成分T的關系標識為Target，將修飾結構的修飾關系標識為AttrOn，將協同結構與并列結構中的協同或等效關系標識為JoinOn。以967 本公路規范類文本為數據源，轉換為標準三元組結構。以圖結構存儲上述三元組，圖結構中的基本組成為“實體-關系-實體”或“實體-屬性-屬性值”。此時，便獲得了能完整表示語義的知識子圖。再對規范文本產生的所有知識子圖進行知識融合，即可完成知識圖譜的構建。

為了驗證本研究所提出方法的正確性，以BERT+resCNN 方法為比較對象，對上述的五類關系進行評估。將原始語料切分為7：2：1 的比例，分別用作BERT+resCNN 方法訓練集、驗證集、測試集。最終，正確率對比結果如表2 所示。測試結果標識，在各類關系中，本研究提出的方法均優于BERT+resCNN 方法，且在Predicate，AttrOn 和JoinOn 關系中的表現較好。Condition 與Target 正確率較低的原因是部分語句復合關系過于復雜，在TEARS 成分識別中出錯了。

表2 關系提取正確率對比表

知識圖譜中公路橋梁工程的二級展開示意圖如圖4所示，其中的子節點可以繼續展開，如“橋梁工程-下部結構-橋墩”繼續展開，可以得到墩柱、蓋梁、墩帽等子節點。對于存在于基于文檔的公路工程領域詞庫中的實體節點，系統還提供了術語的釋義。

圖4 知識圖譜示例圖（以公路橋梁工程為例）

5.3 知識應用

在此系統中，用戶可以通過知識圖譜進行高效的語義化檢索，并通過知識節點之間的關聯尋找其他相關知識，也可以根據關鍵詞查詢規范文本，還可以根據關聯路徑快速定位至規范原文。用戶可以通過檢索知識圖譜，獲取對應的規范條文，還可以逐級展開查看規范原文。系統應用示例如圖5 所示。

圖5 系統應用示例圖

在實際工程實踐中，本系統可以服務于工程全過程中的多參與方。在設計階段，設計人員可以通過語義檢索，快速獲取所需的規范條文，用于輔助指導設計；在施工階段，對某一施工對象的技術要求不確定時，可以通過此系統進行快速檢索，具有以下優勢：

（1）保證現場的施工效率；

（2）檢索結果可溯源，保障檢索結果的準確性；

（3）基于知識圖譜的關聯特征，能夠快速且較全面地獲取關聯知識，如可快速獲取關于某一對象的跨規范、全專業的相關條文。

（4）在后續開發過程中，還可以考慮與物聯網技術結合，將傳感器的實時數據傳輸到系統中，以知識圖譜為基礎，實現工程隱患排查、風險評估、風險預警以及突發事件決策輔助等功能。

6 結論與展望

本研究提出了一種面向公路工程規范類文本的多粒度知識提取與知識應用方法。該方法以公路工程規范類文本為研究對象，在詞語粒度、語段粒度和子句粒度進行多粒度特征分析。針對每個粒度的特征，設計了信息的提取與組織方法，形成了一套基于規則的IE 技術。對于詞語粒度，基于公路工程規范類文本以及基于公開詞庫構建了公路工程領域詞庫；對于語段粒度，提出針對中文公路規范的TEARS 定義，并給出對應的識別與重構算法；對于子句粒度，總結了四種句法特征，并各自設計了語義信息的抽取方法。基于上述技術，本研究構建了公路工程建設領域知識圖譜，開發了公路工程安全信息檢索與應用系統，并成功應用于中江高速改擴建工程中，實現了對公路規范文本的知識提取與應用。

相較于前人的研究，本研究在多粒度上分析了公路規范的文本特征，準確且高效地對公路工程建設領域的知識進行提取與應用，與深度學習方法相比，本方法也有較高的正確率。對于大規模的規范文本數據，本方法依然有效且自動化程度高，極大地提升了知識利用效率。

本研究深入探討了基于文本的知識提取方法，但是并沒有針對規范中的公式、圖片與表格等非純文本內容的提取方法進行研究，導致了從規范到知識的轉化過程中可能會發生歧義或缺失等情況。在知識應用方面，本研究主要聚焦于知識檢索與知識表達。在未來的研究中，可以探索更豐富的知識應用，如自動合規性檢查、智能知識問答等。