基于事件異構圖表示的文本去重算法

艾瑋，許佳，謝燦豪，孟濤

（中南林業科技大學 計算機與信息工程學院，湖南 長沙 410018）

隨著大數據時代網絡信息激增，擴展了人們獲取信息的渠道，有利于信息的傳播，但是隨之而來的是大量重復網絡信息，如何對大量且重復的網絡信息進行提煉是亟待解決的問題.其次，從當前的網絡信息中可以得出，當前網絡信息中需要分析、提煉的大部分是新聞文本.因此，對新聞文本展開文本去重研究是十分必要的，并且如何從冗余的數據中獲取需要的信息，是信息處理的首要任務.

當前主流的去重方法，均是通過文本表示技術獲取文本的向量表示，再計算向量之間的相似度，從而判斷文本之間是否相似、重復.而隨著詞向量、神經網絡、預訓練模型等技術的發展，研究者們不斷提出基于不同文本表示的文本去重算法，通過不同的文本表示方法可以將當前的文本去重技術分為四類：經典文本表示方法、分布式文本表示方法、上下文表示方法以及圖結構表示方法.不同的文本表示方法，所獲取的文本信息也是不一樣的，而獲取的文本信息越多，文本相似度計算結果越準確，從而文本去重準確率越高，并且新聞文本的核心是其描述的事件，因此更多地獲取新聞文本描述的事件的語義信息，有利于提高文本去重的準確率.

首先，在經典的文本表示方法中主要有二值0-1、詞頻（Term Frequency，TF）、詞頻-逆文本頻率指數（Term Frequency–Inverse Document Frequency）等向量文本表示，經典的文本表示方法能獲取淺層的文本語義［1］.王誠等作者提出了基于TF-IDF 的Simhash大規模文本去重［2］，該方法通過TF-IDF 技術篩選出文本的主題詞匯，再采取Simhash 算法，獲取文本的向量表示，該方法消除了大量的噪聲，能有效地進行大規模文本去重，同時也能保持Simhash的高效計算性能.但是經典的文本表示方法只能獲取淺層的文本語義，無法獲取較深層次的語義信息及文本結構信息，因此基于分布式假設理論的神經網絡語言模型與分布式詞向量表示應運而生.

分布式文本表示方法主要有NNLM（Neural Net?work Language Model）［3］、Word2vec［4］、Glove［5］等，分布式文本表示方法能獲取詞語的局部上下文信息，增加了文本表示的語義含量.崔潔提出了進行加權處理的Word2vec 算法進行文本相似度計算［6］，該研究考慮了詞語中的局部文本信息，也對詞語的位置信息進行考慮，結合余弦相似度得到最終的文本是否重復的信息.但是分布式文本表示方法存在文本多義詞以及未登錄詞（Out of Vocabulary，OOV）問題.于是研究者們針對上述問題，提出了基于上下文的文本表示方法.

基于上下文的文本表示方法主要有ELMo（Em?bedding from Language Models）［7］、BERT（Bidirec?tional Encoder Representation from Transformers）［8］等模型，這些模型能解決分布式文本表示的相關問題，還能獲取文本序列的上下文信息.寧春妹提出了基于BERT 的文本相似度算法［9］，利用BERT 進行文本表示，解決一詞多義的問題，在文本相似度上取得較好的結果.盡管目前使用最多的文本表示是基于上下文的文本表示方法，但是它忽略了文本的全局結構信息，而圖結構能夠很好地表示結構信息，因此提出了基于圖結構的文本表示方法.

目前主要有兩種圖結構，分別是詞連通子圖結構與事件連通子圖結構.二者均是通過將文本中的詞或者特征句當作節點，并將詞或者特征句之間的關系構建邊，得到最終的圖結構，通過圖結構能夠將文本的結構信息進行表示，豐富了文本表示的信息含量.劉銘等人提出了基于詞進行構建篇章級事件表示的文本相似度方法［10］，通過圖結構將句子級事件進行連接，形成篇章級事件表示，能將事件內部觸發詞與事件元素進行聯系，之后采取結合EM思想的TextRank 算法，計算得出文本的相似度.譚偉志等人提出了面向事件的文本表示方法計算文本相似度［11］，該方法將特征句作為圖結構的基本節點，特征句之間的關系作為邊，以此構建事件語義網絡模型，之后采取PageRank算法，計算得出文本的相似度.

基于圖結構的文本表示方法中，對圖的表征除了采取PageRank 等算法，還有采取圖核算法的.蔣強榮等提出使用圖核算法對文本圖表示結構表征［12］，在計算表征后的向量的相似度得到文本相似度，通過圖核算法能更好地表征結構信息，提高計算的準確率.左咪等提出的基于W-L 圖核算法的文本圖表示進行圖表征［13］，利用W-L 圖核算法，能獲取圖的結構信息并且能簡化圖計算的復雜度，有效提升了圖相似度計算的準確率及性能.雖然當前基于圖結構的文本表示已經使得文本去重效果得到提升，并且采取的相關圖表征算法也有一定的效率及效果上的提升.但是，目前基于圖結構的文本表示仍然存在一定的缺陷，無法對事件語義或者事件元素關系進行完整表示，并且當前圖表征計算方法，不能獲取圖結構信息或者不能對多種節點類型的圖進行完整表征.

針對上述問題，本文以新聞文本為研究對象，根據新聞文本的核心內容事件進行分析，提出基于事件異構圖表示的文本去重算法，該算法首先采取事件異構圖進行文本圖表示，事件異構圖包含了事件實體、事件觸發詞、事件特征句三種節點類型，以及多種節點邊類型，通過事件異構圖可以更好地表達出文本的各種信息.其次，為了更好地表征事件異構圖，我們采取能夠獲取圖結構信息及語義信息的圖核算法進行圖表征，但是當前的圖核算法無法對異構圖進行表征，所以本文提出雙標簽圖核算法表征異構圖結構，通過標簽的信息迭代逐步對全部的節點信息進行表征，并且雙標簽圖核算法能降低圖計算的復雜度，達到提高去重的效果以及效率的目的.因此，基于事件異構圖表示的文本去重算法能有效地提高文本去重算法的效率及效果.

1 事件異構圖

在本節中，主要介紹構建事件異構圖的相關過程以及相關定義，主要包括事件抽取、關系識別、事件異構圖定義及構建.

1.1 事件抽取

事件是文本表示的最小語義單位，并且一篇文本中會存在多個事件語義單位［14］，我們首先對事件進行如下定義：

式中，E代表事件，W是事件的觸發詞，S是事件的特征句，C是事件的主要對象，O是事件的次要對象，T是事件發生的時間.

我們選取Han 等人提出的中文新聞事件抽取算法［15］來完成本文的事件抽取.根據事件的定義，事件抽取的內容主要包括事件的實體、觸發詞、時間、地點、事件句等元素.如給定一段文本信息，采取中文新聞事件抽取算法［15］得到圖1 所示的事件信息.從圖中可知，下畫線標記的句子是事件的特征句S，事件的實體對象C、O分別是“永安期貨”與“中信證券”，事件的觸發詞W為“龍頭企業”，事件的時間T為“1 月4 日”.其中，事件元組中的O與T可以是空的.

圖1 事件抽取示例圖Fig.1 Event extraction example graph

1.2 關系識別

關系識別是當前構圖的關鍵部分，如何讓文本表示中的結構信息更加豐富，是本文需要考慮的一個重要問題.我們采取兩種方法進行關系識別，第一種是馬彬等作者提出的基于事件依存線索的事件語義關系識別［16］，第二種是楊竣輝等作者提出的基于語義事件因果關系識別［17］，采取這兩種方法進行關系獲取，主要是由于目前事件關系的識別結果的準確率還有一定的提升空間，為了不過多引入噪聲，采取常用的因果關系識別，以及較為準確的事件語義依存線索進行其余的關系識別與關系新增.本文所包含的關系如表1所示.

表1 關系表Tab.1 Relationship table

例如，給定一個文本抽取后的三個事件，通過因果關系識別方法進行關系識別，得到如圖2 所示的關系.從圖中可以看出，三個事件的實體均是“永安期貨、中信證券”，將這三個事件分別表示為A、B、C，彼此之間存在兩種關系，分別是要素間因果關系、隱性因果關系.其中，因為A、B事件的要素“行業龍頭”引導了“估值溢價”要素發生，因此A、B 之間存在要素間因果關系.這些關系在構圖的時候，能夠使得事件異構圖的結構更加完善，包含的信息更加豐富.

圖2 關系識別示例圖Fig.2 Relationship recognition example graph

1.3 事件異構圖

異構圖的概念是包含多種節點類型、多種節點連接類型的圖，它能夠表達更多的信息.因此，本文提出基于事件構建事件異構圖進行文本表示，利用多種節點類型及節點連接類型表示文本的信息.定義如下所示.

定義1事件異構圖：在一篇新聞文本中，存在N個事件，并且N個事件之間存在M個關系，此時可以以事件為對象構建事件異構圖.如式（2）所示：

式中，G代表事件異構圖；V是事件異構圖的節點集，包括三種類型的節點，分別是特征句S、觸發詞W，以及主要對象C與次要對象O；R是事件異構圖的節點邊集，包含多種事件之間的關系以及事件元素之間的關系.具體表示如式（3）所示.

式中，N代表存在多少個事件E，M代表存在多少個關系.從公式（3）中可以看出，如何將這些節點與關系進行連接并構建圖是本文的關鍵.若按照一般的相似度、事件關系等進行連接，比如，特征句之間根據相似度連接，觸發詞根據相似度關系進行連接等，這些無法包含事件的語義特征，且圖之間的關系錯亂，節點本身的作用被隱藏，無法達到豐富語義的目的.

因此，本文將特征句、觸發詞、事件實體構建一個圖的具體模式結構—Λ 結構，該結構既能包含事件的語義特征，又能使得各種節點類型在圖中的結構清晰明了，便于信息的傳遞.Λ結構定義如下.

定義2Λ 結構：當事件以元組形式表示時，以事件特征句S為中心節點，將事件的實體C、O與事件的觸發詞W作為子節點，并連接到中心節點特征句S上，形成具體模式Λ結構.

圖3（a）所展示的是事件已構成的具體模式Λ 結構，圖3（b）所展示的是部分關系實例，圖3（c）是具體的事件異構圖實例展示，其中包含5 個Λ 結構，各種節點之間存在著因果關系、時序關系等4 種關系、16條邊.

圖3 事件異構圖示意圖Fig.3 Schematic diagram of event heterogeneous graph

1.4 構建事件異構圖

通過上述小節的描述，我們可知，通過采取事件抽取、關系識別等技術，獲取構建圖的節點集V和R.在傳統的圖構建方式中，是通過詞的權重篩選后進行無差別連接構圖，或者通過事件的相似度進行構圖，這兩種構建方式均不能表示事件的句法信息，導致圖結構表示不夠精準.

而本文是通過事件的Λ 結構構圖，通過計算事件的Λ 結構的相似度，能獲得事件之間的依存關系，更加精準地判別事件之間的相似關系.因此，事件的Λ結構相似度的計算如式（4）所示：

式中，Λ（Ea）、Λ（Eb）分別是事件Ea、Eb的Λ 結構的向量表示.若相似度大于閾值U，則認為兩事件是相似的，反之則不相似.通過此我們可以將文本中描述相同事件的Λ 結構連接，形成部分Λ 結構連接子圖，減少關系識別的復雜度，增加事件異構圖的結構信息.

最后，根據節點集R進行完整構圖.本文主要存在如表1 所示的關系類型.其中，顯、隱性因果關系以及事件要素之間的因果關系，主要通過事件的元素進行分析，將事件間的因果關系轉換為更細粒度的事件元素之間的因果關系，同時還會考慮事件的時序關系，并不會同時存在多種關系.而依存關系根據的線索廣泛，兩事件之間會存在多種關系，因此，若通過依存關系識別后，實體依存關系、觸發詞依存關系、結構依存關系均存在，此時我們并不將全部的關系進行連接，而是根據設定的關系優先選取策略進行連接，依存關系選取策略為：實體依存關系>觸發詞依存關系>結構依存關系.假如兩事件之間同時存在觸發詞依存關系、結構依存關系，根據選取策略，僅選取觸發詞依存關系進行連接，這樣有利于減少圖結構中關系的重復度.

根據以上三個步驟，即可完成事件異構圖的構建，具體詳細流程見算法詳解.

2 基于事件異構圖表示的去重算法

本節主要介紹本文提出的文本去重算法，首先介紹算法如何對事件異構圖進行表征，其次介紹根據表征后的信息如何進行去重計算，最后介紹文本去重算法的全部流程及其偽代碼.

2.1 事件異構圖的表征

當前圖結構表征采取的是非異構圖表征算法，無法獲取圖結構的語義信息，導致最終的信息有所缺失.圖核算法雖然能獲取圖的結構信息與語義信息，但是也無法處理本文所提出的異構圖結構.因此，本文提出了雙標簽圖核算法表征事件異構圖的方法，該方法將只能對同構圖表征的圖核算法［13］，改進為對異構圖表征的雙標簽圖核算法，該算法既能獲取圖的結構與語義信息，又能對異構圖實現表征.

本文提出的雙標簽圖核算法表征方法，首先將Λ 結構中的子節點轉變為標簽信息進行傳遞，而雙標簽也增加了信息的含量，提升了圖表征的信息含量.事件異構圖的雙標簽圖核算法表征方法迭代流程圖如圖4 所示，下面我們將具體描述雙標簽圖核算法的迭代步驟，以及每個迭代步驟如何實現及其作用.

首先，將多節點類型的事件異構圖，轉變為單類型、雙標簽的圖結構.從事件異構圖的定義可知，節點的類型存在三種，分別是特征句、實體、觸發詞，而事件異構圖由具體的Λ 結構組成.因此，將特征句當作單節點，觸發詞以及實體當作標簽，進行圖結構的信息表征的基礎內容.于是，我們采取公式（5），并根據事件節點的子節點實體及觸發詞的內容，進行節點標簽初始化，得到如圖4中A步驟所示的節點的數字標簽集.

式中，L是W、C的映射統一對象，F函數對相同的映射對象賦相同的標簽值，∑是一個標簽集，其大小是自然數集.在賦值時，通過函數F將不同的映射對象賦不同的標簽值，相同的映射對象賦予相同的標簽值.

當異構圖的雙標簽賦值轉變完成后，此時存在兩個事件異構圖G、G′，基于此我們開始展開雙標簽圖核的迭代流程.首先我們對節點標簽進行擴展，獲取鄰居節點信息，以當前節點標簽開始，鄰居節點的標簽按照大小順序進行排序，形成節點的多集，如式（6）所示.

其中，k代表節點j的鄰居節點個數，如圖4 中的B 步驟所示，在事件異構圖G中，原本節點標簽“2，2”的多集為“21，22”.

圖4 雙標簽圖核算法迭代流程Fig.4 Iterative process of double label graph kernel algorithm

當節點標簽擴展完成后，對擴展的節點進行標簽壓縮，再次通過公式（5），接著上一次的標簽值繼續更新節點標簽，對相同的擴展標簽賦予相同的標簽值，不同的擴展標簽賦予不同的標簽值，如圖4 的步驟C所示，對G中的多集“21”賦予新標簽“5”，G′中的多集“21”也賦予相同的新標簽“5”，而G中的多集“1113”賦予新標簽“11”，G′中的“11113”賦予新的標簽“10”.

將步驟C 獲得的新標簽對上一個圖的節點標簽進行更新.如圖4 的步驟D 所示，原始標簽為“1，2”，迭代后的標簽為“6，7”.通過公式（7）可得到每個標簽迭代后的一維向量.

其中，∑*是當前節點的標簽集合，φ函數是統計節點標簽的個數，形成最終的一維向量.如圖4 中的E 步驟所示，得到四個標簽的一維向量φC（G）、φW（G）、φC（G′）、φW（G′）.

由于本文的標簽為兩個，因此每次迭代后所得到的圖一維向量為各個標簽的一維向量拼接，通過公式（8）形成最終的圖一維向量.

其中，當φ的下標為0 時，表示的是原始標簽的向量表示；當φ的下標為i時，表示的是第i次迭代的標簽向量表示.

最終，具體的雙標簽圖核算法步驟如表2所示.

表2 雙標簽圖核算法Tab.2 Double label graph kernel algorithm

2.2 文本相似度的計算

本文提出的基于事件異構圖表示的文本去重算法，首先對文本采取事件異構圖的圖結構表示后，對圖結構進行表征，得到文本的向量.通過2.1小節，我們可知圖表征采取的是基于雙標簽的圖核算法表征，而每次迭代循環均會得到新的圖表征信息，通過循環標簽壓縮迭代對圖進行表征，當φi與φi-1相等時，意味著圖的信息擴展到最外層的信息，因此圖的標簽壓縮迭代停止.

當圖核算法每循環一次，圖核能獲取更多的信息，比如第一次節點標簽更新，包含了該節點的直接相鄰的節點的信息，而第二次迭代時新增了間隔為1的鄰居節點信息，以此類推，每次迭代所獲取的φ（Gi）與φ（G′i）向量是每次迭代更新的圖信息表征.因此，計算圖結構之間的相似度，也就是計算圖表征過程中每次迭代所產生的向量的相似度.而每次迭代后所獲取的信息也會越來越多，于是當計算圖的相似度時，隨著迭代次數增加，圖向量中會持續引入噪聲，導致最終的圖相似度計算結果存在偏差.

因此，本文為了減少噪聲對相似度計算的影響，對不同迭代次數下的向量相似度給予不同的權重，這種方法將使得最終得到的相似度值更準確，減少了由引入其他信息而導致的相似度值減少.權重給予的方法如公式（9）所示.

式中，h是圖迭代的總次數，i是當前迭代的次數，i的最大值等于h.隨著迭代次數的增加，對應的權重值逐漸減小.

因此，最終的事件異構圖文本相似度的計算公式如式（10）所示：

最終，若通過公式（10）得出的相似度值大于或等于閾值Y，則兩事件異構圖為相似的，即文本是相似的；反之則不相似.

2.3 文本去重算法描述

本文提出的基于事件異構圖表示的文本去重算法的主要步驟如表3所示，簡稱HGW-L.本算法采取偽代碼的方式進行展示，具體見偽代碼的算法說明.

表3 算法偽代碼Tab.3 Algorithm pseudocode

算法說明：本算法的輸入為新聞文本數據，以及本文所需的相似度閾值U、Y.從數據中選取需要執行文本去重的兩篇數據Ta、Tb，首先我們進行第一部分操作，構建事件異構圖對文本進行表示，如表3 的4～8 行所示.文本表示完成后，我們展開第二部分即異構圖的圖表征迭代過程，如表3 的10～19 行所示.文本表示及迭代過程完成后，最后是迭代向量的相似度計算步驟，如表3 中的21～33 行所示.最終HGW-L 算法的輸出為兩個事件異構圖之間是否相似，當輸出為1時則相似，輸出為0時則不相似.

HGW-L 算法與之前的基于圖表示的文本去重算法相比，首先在構圖上包含更多的文本信息含量，如表3 中的第一部分構圖建邊所示，包含多重關系，能使得語義信息更加豐富.其次，能實現異構圖的表征，并且包含圖的結構與語義信息，有利于提升去重的效果.

3 實驗分析

在本小節中，我們將對本文提出的文本去重算法進行分析、比較，并在真實的數據集上驗證本文提出的文本去重算法的效果.

3.1 數據集及評估指標

由于文本去重領域沒有公開的測試集，因此我們從新聞文本數據集（搜狗語料、今日頭條語料）中分別隨機取出大小不同的數據集進行效果檢測，并對這些數據進行人工標注，確定數據的重復標簽.數據集具體的大小劃分如表4所示.

表4 數據集信息Tab.4 DataSet information

文本去重的本質是查找重復和非重復的數據的能力，因此本文主要采取精確率、召回率、以及F1值三個評估指標對文本去重方法進行評估，下面將詳細介紹評估指標的計算公式.

去重的精確率反映文本去重方法計算的準確程度，是一個重要的評價標準.準確率Pre 的計算方法如公式（11）所示：

召回率反映去重的范圍的覆蓋面.召回率Rec的計算方法如公式（12）所示：

式中，x代表人工標注為重復且去重算法計算得出的重復標記一致的個數，y代表人工標注為重復且去重算法計算得出的重復標記不一致的個數，z代表人工標注為非重復且去重算法計算得出的重復標記一致的個數.

F1值即準確率和召回率的調和平均值，計算方法如公式（13）所示：

3.2 相似度閾值實驗分析

本文的閾值選取有兩個，第一個是事件的Λ 結構相似度閾值U，第二個是事件異構圖相似度閾值Y.本節將通過實驗選取閾值U、Y的最佳值.

3.2.1 相似度閾值U選取實驗

相似度閾值U是圖構建的重要步驟之一，通過判斷Λ結構的相似度，識別出相似關系并進行連接構圖；不同的相似度閾值U會影響事件之間的相似度準確率，越準確的相似度值越能使得事件異構圖中相似的信息聚集，使得異構圖中的關系更加準確，便于后續的圖信息表示.在本文的數據集下進行實驗，實驗結果如圖5所示.

在圖5 中，橫坐標代表不同的閾值U，閾值的取值范圍為0.40～0.80，縱坐標代表不同閾值U下實驗對應的F1值，此時的閾值Y設定為0.60.從圖5 的（a）與（b）中我們可以看出，當閾值U的取值范圍為0.60～0.70 時，實驗的F1值相對穩定并且能取得較好的效果.從圖中可以看出，頭條數據集的實驗效果相對低于搜狗數據集，這是由于頭條數據集中的新聞的類型涵蓋面更廣闊，存在一定的效果差距.最終本文在后續實驗中，選取0.65 作為相似度閾值U的實驗值.

圖5 相似度閾值U實驗結果圖Fig.5 The similarity threshold U experiment result graph

3.2.2 相似度閾值Y選取實驗

相似度閾值Y是判斷去重的主要依據，通過判斷事件異構圖之間的相似度值是否在設定閾值區間范圍內，從而判斷出文本是否重復.我們從不同的數據集類型以及大小中展開實驗，得到如圖6 所示的結果，其中，橫坐標代表不同的閾值Y，閾值的取值范圍為0.40～0.80，縱坐標代表不同閾值Y下實驗對應的F1值.

從圖6的（a）與（b）中可以得出，當閾值Y的取值范圍為0.55～0.65 時，算法在搜狗數據集與頭條數據集上的效果均達到較好的值.取值范圍之外的Y值，算法的F1值均有所下降.故本文的相似度閾值Y設定為0.6，此時的HGW-L 文本去重算法的F1值在搜狗數據集上能達到0.9以上.

圖6 相似度閾值Y實驗結果圖Fig.6 The similarity threshold Y experiment result graph

3.3 對比實驗選取

本文是基于事件異構圖表示的文本去重計算，因此我們將選取基于圖結構的文本去重方法，以及其余基于分布式向量和上下文的文本表示方法的去重算法，形成多方面的對比，驗證本算法的可行性以及準確性.我們選取了五種去重方法進行對比試驗，如表5所示.

表5 對比實驗選取表Tab.5 The comparison experiment selection table

首先，根據本文采取的文本表示方法，選取同類型的對比算法，即采取圖表示的文本去重算法，主要有E-TC 算法與T-C 算法.其中，E-TC 算法是基于篇章級事件圖的去重方法［10］，首先采取事件實體以及事件觸發詞構圖，然后使用基于EM 思想的TextRank算法計算圖，再結合余弦相似度得到最終文本的相似度.T-C 算法是基于事件連通圖的去重方法［11］，該方法采取的是以詞為節點進行建圖，再基于PageR?ank算法進行計算，最終結合余弦相似度得到最終文本的相似度.

其次選取能獲取文本上下文信息的文本表示方法，有B-R 算法與B-L 算法，其中B-R 算法是基于BERT 進行文本表示的［18］，B-L 算法是基于Bi-LSTM進行文本表示的［19］，這兩種方法均直接進行文本向量轉換，再對向量進行相似度計算從而得到最終的文本重復標簽.

最后，我們還選取了基于分布式表示的去重方法，該算法采取的文本表示方式是當前使用較多的，有較好的去重效果，因此本文設計了該類型的對比試驗.W-V 算法采取基于加權的Word2vec［6］，通過Word2vec 算法對文本進行向量表示，結合余弦相似度計算并得到文本的相似性.

這五種方法從不同的去重角度、去重效率等方面進行選取，是符合多角度的實驗對比分析的，通過最終的結果能更好地驗證本文提出的文本去重算法的效果及效率.

3.4 實驗結果及分析

本小節將選取的五種對比算法與本文所提出的方法，在不同大小、不同類型的新聞數據集上進行驗證，并對本文提出的文本去重算法的效果及性能進行驗證與分析.

3.4.1 效果分析

首先，我們將六種算法分別在不同的類型數據集以及不同數據大小下進行實驗，并根據本文的評估指標得到圖7所示的結果.

由圖7 實驗結果可得，本文所提出的HGW-L 算法，在兩個不同來源、大小的數據集上的結果均優于其他五種去重算法，其中T-C 算法的效果最差，ETC 算法、B-R 算法、B-L 算法、W-V 算法的效果僅次于我們所提出的HGW-L算法.

圖7 對比算法實驗結果圖Fig.7 Comparison algorithm experiment result graph

其中，E-TC 算法能獲取文章的結構信息，但是忽略了事件的句法信息，如果是相同的特征詞及實體，當出現不同的句法表示存在區別時，無法判斷出兩者不相似，因此其效果僅次于我們所提出的算法.而B-L 算法、B-R 算法與W-V 算法，通過使用Bi-LSTM、BERT以及加權的Word2vec算法，能獲取短語或者事件的上下文關系，能得到較為豐富的文本語義信息，但是無法對文本的結構信息進行全局分析，獲取的結構信息存在局部缺陷，因此整體結果相比而言較差.而T-C 算法通過構建詞語連通子圖的文本表示，基于PageRank 算法，獲取的文本語義信息較差，忽略了詞語的上下文關系，無法對不同語境下的事件進行區分，雖然是基于圖結構的文本表示，但是在去重上的效果較差.而本文提出的HGW-L 算法，通過多種節點類型以及節點連接類型獲取更多的語義信息及結構信息，再通過雙標簽圖核算法獲取精準的圖表征，使得最終的相似度值的含義更加準確，達到當前最優F1值.

因此，本文所提出的方法在新聞文本數據上能實現更準確的去重，提升了去重算法的效果.

3.4.2 性能分析

由于事件抽取、關系識別以及構圖等步驟對文本的性能有一定的影響.因此，本文的性能分析從不同的組別進行實驗分析，分別是包含了事件抽取、關系識別等任務的運行時間分析，以及不包含前期處理、直接構圖的運行時間分析.均在本文的數據集上進行實驗，得到了圖8中的兩組實驗對比結果.

圖8 對比算法性能結果圖Fig.8 Comparison algorithm performance results

在圖8 中，子圖（a）、（b）是本文提出的算法與對比算法分別在兩個數據集上的消耗時間對比，由于本文的算法與E-TC、T-C 算法同屬于基于圖表示的算法，因此在這段時間計算中，我們僅從基于事件或者文本開始構圖計算，并不包含文本的事件抽取、實體識別等任務；子圖（c）、（d）與子圖（a）、（b）的不同之處在于，將事件抽取、實體識別、關系識別等任務的時間均包含到總運行時間，從圖中可以看出，新增的不同樣式的柱狀圖是這些任務的運行時間.

從子圖（a）、（b）中我們可以看出，處理相同數據量時，性能最差的是基于BERT 的B-R 算法與基于Bi-LSTM 的B-L 算法，性能最好的是本文提出的HGW-L 算法，并且能迅速處理完成，而另外兩個基于圖結構的E-TC、T-C 算法的性能與基于Word2vec算法性能保持中等并且相差不大.本文提出的HGW-L 去重算法，由于采取雙標簽圖核算法，計算的性能為線性級，能保持較高的性能水準.而B-R、B-L 算法，需要對上下文進行處理，存在一定的計算消耗，因此處理時間較差.

從子圖（c）、（d）中我們可以看出，當增加了事件抽取、關系識別等任務的處理時間后，基于圖的去重算法性能優勢減少.此時最佳性能算法為W-V 算法，該算法通過詞向量的處理，能較快速地實現去重計算過程，而效果最差的是基于圖表示的E-TC 算法，篇章及事件構造需要識別更多的內容，對文本的前期處理更加復雜，因此算法運行時間隨著數據的增加而增加，導致性能最差.

因此，雖然本文在包括文本處理的時間后，性能不是最佳的，但是從整體上看，本算法的性能還是優于其余算法，并且能對處理后的文本進行快速去重.

4 總結及展望

本算法是針對新聞文本的去重算法.在對目前新聞文本去重研究現狀進行分析后，我們針對當前新聞文本去重存在的語義表示不完善、效率較低等問題，提出基于事件異構圖表示的文本去重方法，該方法首先采取事件異構圖的文本圖表示方法.可以獲取更多的語義信息，提高去重計算的準確率.其次，通過提出雙標簽圖核算法表征方法，對事件異構圖進行表征，能高質量且高效地獲取圖的結構與語義信息.最后，我們在真實數據集上進行了對比實驗分析，實驗結果證明，本算法在真實數據集上的效果均優于對比算法，并在其余算法性能對比中，運行效率有所優化.

然而，當前去重計算較為冗余，盡管采取圖核算法能減少圖計算的復雜度，能提升去重算法的性能，但是進一步減少冗余計算，能使得本算法在大數據環境下快速計算.因此，我們后續計劃對算法的去重計算次數進行優化，減少重復迭代計算次數，提高去重算法的性能.