審計知識圖譜的自動化構建

【中圖分類號】F239；TP391 【文獻標識碼】A 【文章編號】1004-0994（2025）10-0034-6

一、引言

隨著信息技術的迅猛進步和數字化轉型的進一步深化，審計領域正經歷深刻變革，面臨著數據量激增和類型多樣化的挑戰。傳統審計方法難以處理海量、多樣化的文本數據，亟需新的工具以提升審計效率和準確性。知識圖譜作為一種高效的知識表示和推理工具，能夠整合審計過程中的相關信息，揭示數據內在聯系，為審計決策提供智能化支持。然而，審計數據多以非結構化文本形式存在，如何將其轉化為結構化數據以形成知識結構，是亟待解決的問題。實體關系抽取作為知識圖譜構建的關鍵技術，能夠自動化地從大規模非結構化文本中準確抽取知識結構。然而，審計文本具有獨特的語言特點和專業術語，且包含大量背景信息和上下文依賴，增加了實體關系抽取的難度。如何在保證準確性和效率的前提下，設計適用于審計文本的實體關系抽取模型，成為當前審計知識圖譜構建面臨的重大挑戰。

本文通過對比分析不同算法的特點和性能，揭示實體關系抽取在審計領域面臨的挑戰和機遇，并提出針對性的改進策略和優化方案。通過設計適用于審計文本的實體關系抽取模型，實現高效率、高質量地構建審計知識圖譜，為審計行業提供智能化、精準化的決策支持，推動審計行業的轉型升級和可持續發展，為企業在大數據時代背景下的風險管理提供有力保障。

二、文獻綜述

1.實體關系抽取。當前基于深度學習的實體關系抽取主要采用監督學習模型，可進一步分為管道模型和聯合模型。管道模型將任務分為命名實體識別和關系提取兩個子任務，雖已具備優秀性能，但存在級聯誤差傳播、信息丟失和信息冗余等問題（Li和Ji，2014）。為解決這些問題，聯合模型集成了兩個子任務，有效利用了實體對和關系之間的交互信息，性能優于管道模型（任樂等，2023）。

在聯合抽取模型中，Miwa和Bansal（2016）提出的基于端到端樹形結構的聯合學習模型采用參數共享方式，改善了管道模型的結構問題，但仍非完全同步提取，存在著子任務之間相對的先后順序。隨后的“多模塊一單步驟\"模型，如Sui等（2020）的集合預測模型和Wang等（2021）的UniRE填表模型，進一步提高了抽取性能，但仍存在模塊間錯誤傳播的問題。Shang等（2022）提出的OneRel模型將關系提取轉化為細粒度的三分類問題，一步提取三元組，解決了管道模型的問題，但該模型針對的是通用英文的實體關系抽取任務，若應用到中文審計文本上，仍需進行針對性改進。

在文本特征提取方面，Wang等（2022）從BERT中提取實體一關系類型，結合位置感知的語義角色注意機制構建新模型。Zhao等（2023a）結合卷積神經網絡（CNN）

和圖卷積神經網絡捕獲語義與結構。Li等（2024）引人關系感知增強模塊提高關系分類性能。在中文特征處理領域，張軍蓮等（2021）的圖卷積神經網絡編碼先驗詞間關系，葛君偉等（2021）的字詞混合聯合提取模型融合字級與詞級特征，加入字符位置編碼。Zhao等（2023b）利用實體描述和屬性信息提升中文語境關系提取能力。然而，審計領域文本因包含大量專業術語、實體名稱較長且邊界不易界定以及關系類型相對不常見等特點，復雜性和多樣性顯著高于通用中文領域，上述處理方式在審計領域的應用仍需進一步優化和完善。

2.審計知識圖譜。當前已有很多關于知識圖譜在審計領域應用的研究，如：王瑞萍等（2020）從技術層面探索基于Neo4j圖數據庫進行審計知識數據的清洗、構建和存儲，設計了面向審計領域的知識圖譜構建流程；黃佳佳等（2022）通過深人探索審計文本特點，構建包含審計知識圖譜在內的審計知識庫，提升了審計文本分析的準確性和可解釋性，但均未深人探討非結構化數據自動化轉換的問題。此外，現有研究大都側重于應用，如崔婧和李真（2020）針對知識圖譜在醫保審計中的應用展開研究，肖嘉麗等（2024）則針對知識圖譜在智能化審計中的應用進行探索。而對于如何高效率、高質量地從海量多樣的審計文件中獲取結構化信息，還缺乏更加深人的研究。

針對目前研究中存在的問題，本文首先提出了一種改進的中文審計領域特征融合方案，旨在從非結構化文本中直接抽取出實體關系三元組。該方案將優化編碼與特征處理相結合，既考慮了文本的表面層次、句法、語義、詞邊界和上下文依賴性，又保證了模塊的效率。然后將該模塊應用于“多模塊一多步驟\"的OneRel模型，形成審計實體關系抽?。ˋudit-OneRel）模型。

三、基于OneRel改進的審計實體關系抽取模型

本文提出的針對審計領域的文本特征處理方法主要分為基于注意力加權機制的融合編碼、卷積神經網絡的局部特征提取、Transformer層的全局上下文建模三個模塊，其共同組成了最終的特征融合方案，如圖1所示。

等，2017）與BERT（Jacob等，2019）的提出為文本編碼帶來了革新，其中BERT通過雙向Transformer編碼器堆棧輸出強大文本嵌入式表示，成為實體關系抽取模型的首選。然而，現有模型在處理復雜文本時仍存在特征提取問題。Jawahar等（2019）的研究表明，BERT各層能學習到不同級別的特征，因此單純使用最后一層輸出可能并非最優。基于此，本文針對審計領域文本特點，設計了注意力加權的特征融合方法，集成BERT各層級輸出信息，并學習相應權重，以提升特征提取的全面性和準確性。

首先，將所有BERT隱藏層的輸出堆疊起來，形成一個四維張量H，其形狀為 ，其中s是每批數據的大小、n是隱藏層的數量、1是文本序列的長度、d是BERT預訓練模型的維度。

其次，使用注意力網絡對張量H中的每一層、每一位置的隱藏狀態進行處理，得到一個三維張量S，其形狀為 。每個元素 表示第i個樣本、第j層、第k個位置的得分，公式如下：

對張量S在層的維度應用Softmax函數，得到注意力權重w，其形狀也為 。每個元素 表示第i個樣本、第j層、第 個位置的注意力權重，公式如下：

最后，將注意力權重與對應的隱藏狀態相乘，并在層的維度上求和，得到加權融合后的表示R，作為文本的嵌入式表示，公式如下：

1.基于注意力加權機制的融合編碼。文本嵌入式表示方法（如Word2Vec、GloVe等）在處理文本數據時存在局限性，無法捕捉深層語義信息。Transformer（Vaswani

完成編碼融合后，將BERT預訓練模型與注意力網絡共同納入訓練，反向傳播會同時更新兩者的參數，使模型學習最佳層輸出組合，生成適配任務的文本編碼。此方法能夠增強模型的文本表示能力，解決信息丟失問題，提升模型的性能，且設計簡潔、模型訓練高效。

2.卷積神經網絡的局部特征提取。命名實體識別在審計領域文本中面臨專有名詞與專業術語導致的詞邊界模糊問題，需關注文本字符間的局部依賴特征。為此，本文提出利用CNN捕獲文本序列局部特征依賴信息。CNN在圖像、視頻領域表現突出，能捕獲局部空間模式信息。雖然文本數據并不具備明確的二維空間結構，但經編碼轉為向量表示后，可形成類似的二維矩陣。通過調整卷積核寬度與詞向量維度對齊，來捕獲局部特征。本文在編碼器后添加CNN作為后處理器，用不同寬度卷積核提取相鄰字符間局部依賴特征，融人文本編碼，并添加激活函數增強非線性，經多層處理獲得充分融合局部特征的嵌入式表示。

假設BERT的輸出是一個形狀為[1，d]的二維矩陣E，其中1是序列長度（單詞數量）、d是BERT預訓練模型的維度，那么卷積核的形狀就是[s，d]，其中s為卷積核的寬度。設該卷積層有 個卷積核，那么對于第i個卷積核 和對應的偏置項 ，以及BERT輸出矩陣E的一個窗□（局部區域） ]（其中 是窗口的起始位置），卷積操作可以表示為如下公式：

其中，PReLU（·）是激活函數， 是第i個特征映射在位置p的輸出值。這一操作會在整個序列上滑動進行，產生一個完整的特征映射 這些特征映射被堆疊在一起后形成的張量即可輸人到后續的網絡中做進一步處理。此外，CNN的共享權重機制也保證了整個模型的訓練效率。

3.Transformer層的全局上下文建模。由于實體對在文本中位置多變，需全局上下文建模以全面理解實體間及上下文的依賴關系。傳統循環神經網絡（RNN）和CNN在處理長距離依賴時存在限制。為此，本文引入多頭自注意力機制的Transformer層進行后續文本編碼。自注意力機制允許模型同時考慮所有位置信息，通過計算序列中各位置間的點積評估相似性和依賴程度，經Soft-max轉化為權重分布，描述依賴強度。這些權重組合所有位置表示生成融人全局上下文信息的編碼，既包含局部信息，又捕捉任意位置依賴關系，使模型深入理解文本整體結構和含義。

假設BERT輸出的文本編碼序列是一個形狀為[1，d]的二維矩陣E，其中1是序列長度（單詞數量）、d是BERT嵌入的維度，Transformer的查詢矩陣 、鍵矩陣WK和值矩陣 的形狀為[d， （ 是查詢/鍵向量的維度），那么對于BERT輸出矩陣E中的每個位置i，可以計算其查詢向量 、鍵向量 和值向量 ，公式如下：

其中， 是BERT輸出矩陣E的第i行，即第i個單詞的嵌入。對于第i個位置，可以計算其注意力權重和上下文表示，公式如下：

其中： 表示查詢向量 和鍵向量kj的點積； 是一個縮放因子，用于防止點積結果過大導致Softmax函數進入飽和區； 是第i個位置對第j個位置的注意力權重； 是考慮了全局上下文信息的第i個位置的表示。

將ci用于后續的前饋神經網絡層或其他Transformer層中。整個序列的輸出將形成一個形狀為[1， 的二維矩陣（其中 是值向量的維度，通常與 相同），該矩陣包含了每個位置的全局上下文信息。通過引入Trans-former進行后處理，模型可以更準確地識別出文本中的實體對，并判斷它們之間的語義關系，從而提升關系抽取的性能和準確性。

經過以上三個模塊的處理，最終得到的文本編碼已融合了中文文本的表層信息、句法信息、深層語義信息、局部依賴信息以及全局上下文依賴信息五種重要特征，分別針對審計文本表達方式多樣、句法結構靈活、專業術語繁多、詞邊界模糊、上下文聯系緊密的特點進行點對點的解決。相較于原始編碼，融合了多種特征信息的文本編碼能夠幫助模型更好地完成實體識別、關系分類等子任務，最終提高整個實體關系抽取任務的性能。

四、實驗研究與結果分析

1.數據集。

（1）DuIE通用數據集。DuIE為中國科學院計算技術研究所發布的大型關系抽取數據集，包含超過21萬個現實世界的中文句子，涉及超過45萬個SPO（主語—謂語—賓語）三元組。這些三元組由預先指定的架構與49種謂語關系組成。此外，其還包含海量新聞語句，多樣的實體與關系類別適合用于評測模型的綜合抽取能力。

（2）面向審計領域的指令評測數據集。該數據集由南京審計大學計算機學院和清華大學計算機科學與技術系聯合研究構建，包含來自887個不同領域的11598個審計領域命名實體、123746個三元組和1217個謂語關系，并根據源數據構建了120萬條審計知識三元組。本文選取其中的審計公告與審計文本描述三元組數據作為實驗數據集，其包含審計主體、問題表現、法律法規等多種命名實體與審計事項、審計依據、審計問題等8種關系，適用于評測模型對審計領域文本的抽取性能。

2.評價指標。評價實體關系抽取模型性能的指標一般選擇準確率（precision）、召回率（recall）和 值（準確率和召回率的調和平均數），公式如下：

3.實驗設置。本文實驗設置CNN的層數為4，每層的卷積核大小分別為3、3、5、5；Transformer層中多頭注意力的頭數設置為8，層數設置為4；前饋神經網絡的維度設置為2048；激活函數使用PReLU。上述設置的參數在多次實驗中得到了較好的結果。在訓練過程中，學習率設置為1e-6，dropout率設置為0.2，每批數據量設置為8，其余參數設置均與基線模型保持一致。

4.實驗結果分析。

（1）對比實驗。為驗證審計文本特征處理模塊的有效性，本文設計了對比實驗，選取以下模型作為對照：一是FCM模型（Gormley等，2015），其整合了非詞匯化手工特征與深度學習詞嵌人表征，以提升模型性能和泛化能力。該模型利用傳統特征與深度學習技術的優勢，通過互補性信息整合，在處理復雜文本關系時更準確、魯棒性更高。二是Attention-BLSTM模型（Zhou Peng等，2016），其在雙向LSTM中深入捕捉句子核心語義信息，同時考慮單詞前向和后向上下文，生成含豐富語義且突出關鍵信息的句子級別特征向量。三是Bi-LSTM-BIO方法（Lample等，2016），其采用先關系分類后實體標注的方法，使用BIO標注方案標記實體邊界，簡化實體識別過程，可提高任務效率和準確性。四是MultiR模型（Hoffmann等，2011），其針對重疊關系，結合句子級別抽取模型和語料庫級別組件，實現對單一事實的聚合處理，準確識別復雜關系結構。五是CoType模型（RenXiang等，2017），其采用聯合學習策略，將實體、關系、文本特征和類型標簽共同嵌入低維空間，捕捉潛在聯系，增強模型泛化能力和魯棒性。六是指針標注模型（王勇超等，2021），其用指針指示關系類別來應對重疊實體標注問題，能夠同時抽取多個實體關系三元組，提高關系抽取效率和準確性。七是OneRel模型（Shang等，2022），其創新性地提出“單模塊一單步驟\"的抽取模式，將聯合抽取視為三重分類問題，通過評分分類器與角標策略聯合識別實體對和關系，避免信息丟失和冗余計算，在處理實體重疊和復雜文本時表現出色。

本文在同樣的參數、相同的數據集條件下對以上對照模型與本文的改進模型（Audit-OneRel）進行了對比實驗測試，測試結果如表1所示（采用DuIE通用數據集）。

由表1可知，FCM模型準確率高達 7 4 . 7 % ，但召回率較低，在處理關系重疊場景時存在局限。Attention一BLSTM模型亦面臨此難題，反映了傳統管道模型的不足。MultiR、CoType及指針標注模型采用聯合學習方法，能有效避免錯誤累積。Bi-LSTM-BIO模型創新了處理流程，優先考慮關系分類，在處理重疊關系方面取得了巨大的進步。而OneRel模型則實現了真正的聯合抽取，性能大幅優于前述模型。本文提出的改進模型在通用領域上的性能相較以上模型都有顯著的提升，與性能最好的OneRel模型相比，準確率提高了 6 . 6 % ， 值提高了 4 . 2 % 。這表明使用特征融合方法豐富文本編碼內容，能夠綜合提升模型的三元組抽取精度。

審計領域的對比實驗結果如表2所示（采用面向審計領域的指令評測數據集）。由于該審計三元組數據集更復雜，模型抽取三元組的準確性相較DuIE通用數據集均偏低。但由實驗結果可知，特征后處理模塊針對高難度的審計公告與審計文本描述特點，能夠獲得更加豐富的特征信息，提升模型的抽取精度。與OneRel模型相比，本文改進模型的準確率提升了 8 . 3 % ， 值提升了 4 . 5 % ，證明了本文所設計模型在審計場景中的優越性。

（2）消融實驗。為了驗證本文提出的三個子步驟分別對OneRel模型的中文實體關系抽取性能的影響，本文進行了消融實驗。在保持其他參數不變的條件下，訓練相同的輪次，實驗結果如表3所示。

由表3可知，三種方法均可提升基準模型的性能。具體而言：對文本編碼的注意力加權融合顯著提升了模型的準確率，可見在文本編碼中加入表層和句法信息特征，能幫助模型更好地應對表達方式多樣的審計領域文本，從而更精準地預測三元組；卷積神經網絡的運用使得準確率和召回率均有所提升，說明局部特征信息能夠很好地應對審計領域文本中詞邊界模糊的問題，且對模型性能的提升較為均衡，能在保證提升精度的同時使模型不過于保守或激進；使用Transformer層進行后處理的影響則主要體現在召回率上，表明全局上下文特征信息能幫助模型更好地識別出實體對，進而提升檢測能力。而綜合三種方法進行特征融合改進的Audit-OneRel模型相比原始OneRel模型在三項指標上都有提升，其中準確率和 值的提升尤為顯著，證明了本文所構建方法的有效性。

五、案例分析

為闡釋實體關系抽取技術在審計知識圖譜構建及線索發現中的實踐價值，本文選取某復雜股權結構與關聯方交易審計案例進行深人剖析。案例文本節選自 × × 會計師事務所出具的專項審計調查報告，具體內容如下：“ × 號審計調查報告揭示，A公司存在關聯方交易披露不充分及資金流向不明晰的重大風險。經穿透式核查發現，公司實際控制人王明輝通過多重親屬關系構建關聯網絡：其父王建國曾任關聯企業B公司法定代表人，現由王明輝實際掌控；胞弟王立陽身兼A公司董事長及關聯企業C公司創始人雙重身份，C公司法定代表人由其配偶楊娜擔任；王明輝配偶趙敏與關聯企業D公司法定代表人趙剛存在直系親屬關系。審計證據顯示，A公司與上述關聯方存在異常資金往來，涉及金額達 × × 萬元，其中 × × 筆交易未按規定進行關聯方披露。審計機構通過訪談法、財務分析法及數據追溯法，未能完全查明資金流動的具體情況，仍存在 × × 萬元資金流向無法合理解釋的情況，暴露出重大內部控制缺陷。根據《公司法》及相關財務會計準則要求，本所建議A公司完善關聯方識別機制，規范交易披露程序，并建立穿透式資金監控體系。”

上述案例所提及的所有人名及所屬單位均為虛構內容，旨在提供分析和討論的情境背景。這些名稱與現實中可能存在的任何個人或單位均無任何關聯，也不代表對任何具體實體或個人的評價。所有信息僅用于學術探討目的，特此聲明，以避免任何潛在的混淆或誤解。

1.實體關系抽取。本案例呈現出親屬關系與股權結構交織形成的隱蔽關聯網絡，具有審計領域特有的專業術語密集、實體指代復雜、語義關聯隱蔽等特征。傳統文本分析難以有效識別多層嵌套的關聯關系。本文運用Audit-OneRel智能分析模型，通過語義分割、上下文編碼及深度特征學習技術，系統提取審計報告中的實體關系三元組，結果如表4所示。

經過模型的實體關系抽取，成功識別出18組核心關聯關系，可以在短時間內獲得文本中所含信息的結構化形式，該形式經過篩選后可以直接輸入圖數據庫等軟件中做進一步處理，構建出可視化關聯網絡圖譜，為發現異常資金流向提供關鍵線索。

2.知識圖譜構建?；趯嶓w關聯數據，本文運用可視化分析工具構建動態審計知識圖譜（見圖2）。該圖譜通過文本信息結構化處理，將隱蔽的關聯網絡轉化為可追溯的節點關系模型。在實務應用中，審計人員可借助圖譜的層級展開功能，掌握股權穿透路徑與親屬關系交疊形成的復雜網絡，顯著提升對異常交易模式的識別效率。特別是在穿透式監管框架下，圖譜構建技術能有效解決該審計任務在執行過程中面臨的關聯方識別難題，為核查資金閉環流動提供可視化分析工具。

3.審計線索發現。知識圖譜技術在本案例中展現出三重應用價值：其一，通過親屬任職路徑的可視化呈現，揭示王明輝家族通過B、C、D公司構筑的潛在利益輸送通道，特別是趙敏與D公司的親緣關系形成的資金暗流；其二，整合訪談記錄、財務數據與法律條文構建多維分析框架，有效追溯A公司與關聯方間 × × 筆未充分披露交易的資金閉環；其三，依托圖譜的層級穿透功能，精準定位審計程序中的關鍵證據節點，如會計師事務所實施的訪談法、財務分析法及數據追瀕法的應用軌跡。

此外，通過知識圖譜，審計團隊能夠迅速獲取當前審計過程的相關信息。例如，審計機構的具體名稱、所采用的審計方法、審計依據的法律法規以及當前獲得的審計成果等。這些信息對于推動審計任務的下一步進行至關重要。圖譜的呈現方式使得審計團隊能夠一目了然地掌

·38·財會月刊2025.10

握審計進展，從而做出更為精準的判斷和決策。

這一精準且高效的信息抽取方法，突破了傳統文本分析的局限性，將碎片化信息轉化為具有邏輯關聯的證據鏈，不僅有助于審計團隊全面理解資金流動的背景與潛在風險點，還可通過實體間的多維度關系分析，揭示可能存在的非正常交易或利益輸送模式。這對于深入調查與取證工作具有極大的指導意義，使得審計團隊能夠精準導向關鍵問題，避免盲目摸索，從而顯著提升審計效率與質量。在面對具有復雜關系的審計案件時，這種依托知識圖譜的審計方式，能夠確保審計結果的客觀性與準確性，為審計工作的專業性和權威性提供有力保障。

六、總結與展望

本文針對審計文本分析中存在的專業術語密集、語義結構復雜、上下文關聯隱蔽等技術難點，創新性地構建了面向審計實務的特征融合分析框架。通過建立多維度特征融合機制，有機整合文本表層語義、句法結構與上下文依存關系，有效破解了傳統方法在關聯方識別中的局限。實證研究表明，該框架支撐下的Audit-OneRel模型在關聯關系抽取準確率等核心指標上顯著優于基準模型，特別是在處理實體關系交叉重疊等復雜場景時，展現出獨特的實踐價值。本文取得了三方面的突破性進展：其一，構建了“局部一全局\"雙重視角的信息抽取范式，通過特征加權融合技術精準捕捉審計文本中隱含的關聯路徑；其二，創新設計審計領域適配算法，成功解決了關聯交易中常見的角色沖突與利益嵌套問題；其三，在審計知識圖譜構建實踐中驗證了技術方案的可行性，為穿透式監管提供了智能分析工具。

未來研究將著重于三方面的深化：一是拓展智能算法在持續審計中的應用場景，強化對隱蔽利益輸送模式的預警能力；二是完善審計知識圖譜的動態更新機制，提升其對新型關聯交易模式的適應性；三是構建業技融合的智能審計生態系統，推動審計模式從風險應對向風險預見轉型。這些探索將為資本市場信息披露質量的提高及審計行業的數字化轉型持續提供技術支撐。

【主要參考文獻】

葛君偉，李帥領，方義秋.基于字詞混合的中文實體關系聯合抽取方法[J].計算機應用研究，2021（9）：2619～2623.

黃佳佳，李鵬偉，徐超.大數據驅動的審計知識庫建設與應用[J].財會月刊，2022（3）：101～107.

任樂，張仰森，劉帥康.基于深度學習的實體關系抽取研究綜述[J].北京信息科技大學學報（自然科學版），2023（6）：70～79+87.

王瑞萍，劉峰，楊媛琦等.審計知識圖譜的構建與研究一一基于Neo4j的圖譜技術[J].中國注冊會計師，2020（9）：109～113.

肖嘉麗，蔡玲嘉，黃玉昆等.基于知識圖譜的企業智能化審計構建與應用[J].數字技術與應用，2024（3）：19～21.

張軍蓮，張一帆，汪鳴泉等.基于圖卷積神經網絡的中文實體關系聯合抽取[J].計算機工程，2021（12）：103～111.

（責任編輯·校對：喻晨陳晶）