基于2008版《知網(wǎng)》的詞語相似度計算方法

魏 韡，向 陽

（1.井岡山大學電子與信息工程學院流域生態(tài)與地理環(huán)境監(jiān)測國家測繪地理信息局重點實驗室，江西吉安343009；2.同濟大學電子與信息工程學院，上海201804）

基于2008版《知網(wǎng)》的詞語相似度計算方法

魏 韡1，2，向 陽2

（1.井岡山大學電子與信息工程學院流域生態(tài)與地理環(huán)境監(jiān)測國家測繪地理信息局重點實驗室，江西吉安343009；2.同濟大學電子與信息工程學院，上海201804）

詞語相似度的計算是自然語言處理領(lǐng)域的重要問題，在機器翻譯、信息檢索、文本分類等領(lǐng)域有廣泛的應用。分析和利用新版語義詞典2008版《知網(wǎng)》，從概念的主類義原和概念的特征描述2個方面綜合計算詞語相似度。運用義原樹的樹形層次結(jié)構(gòu)，得到義原的深度信息量，再考慮義原的路徑計算得到義原相似度。通過層次特征類型匹配計算概念特征描述的相似度。綜合主類義原相似度、概念特征描述相似度以及義原之間的對義、反義關(guān)系計算得到詞語相似度。實驗結(jié)果表明，該方法得到的詞語相似度計算結(jié)果與人的主觀認識趨于一致。

詞語相似度；2008版《知網(wǎng)》；義原；深度信息量；路徑；特征描述

1 概述

在自然語言處理領(lǐng)域，詞語相似度計算被廣泛地應用于信息檢索、機器翻譯、自動問答、詞義消歧等方面，是一個具有基礎(chǔ)研究性質(zhì)的課題。例如：在信息檢索中，詞語相似度可以幫助匹配用戶查詢和符合條件的文本，提高檢索的準確率和召回率；在基于實例的機器翻譯中，詞語相似度可以衡量2個不同詞語在文本中的可替換程度；在自動問答系統(tǒng)中，詞語相似度可以用來表示用戶問題和答案之間的符合程度；在詞義消歧中，詞語相似度可以用來判斷歧義詞的詞義。文獻［1］認為2個詞語的相似度是它們在不同的上下文中可以互相替換且不改變文本的句法語義結(jié)構(gòu)的程度。簡而言之，如果2個詞語可替換的程度越高，它們的相似度就越大。詞語的相似度和其語義的聯(lián)系最密切，所以詞語的相似度一般也指詞語的語義相似度。詞語的相似度一般用［0，1］區(qū)間的一個實數(shù)來表示。

目前，詞語相似度的計算方法大體上可分為2類，即基于大規(guī)模語料庫統(tǒng)計的方法和基于本體或詞典的方法。基于語料庫統(tǒng)計的方法比較依賴于訓練所用的語料庫，計算量大、計算方法復雜，同時也容易受到數(shù)據(jù)稀疏和數(shù)據(jù)噪聲的干擾。基于本體或詞典的方法比較直觀，易于計算，但需要有完備的本體或詞典。

雖然2類方法各有千秋，但是由領(lǐng)域?qū)＜覙?gòu)建的本體或詞典更具有權(quán)威性和完備性，因此，基于本體或詞典的方法計算詞語相似度得到的結(jié)果也更合理些。由于目前大多數(shù)基于《知網(wǎng)》的詞語相似度計算使用的是舊版的《知網(wǎng)》，而2008版《知網(wǎng)》與舊版有較大的改動，比舊版更豐富和更完備。本文基于2008版《知網(wǎng)》提出新的詞語相似度計算方法，將詞語相似度分為詞語概念的主類義原相似度和詞語概念的概念特征描述相似度兩部分。通過基于義原樹的義原深度信息量及路徑的混合方法計算主類義原相似度，采用層次特征類型匹配來計算特征描述相似度。

2 2008版《知網(wǎng)》簡介

《知網(wǎng)》（How Net）［2］是一個以漢語和英語的詞語所代表的概念為描述對象，以揭示概念與概念之間以及概念所具有的屬性之間的關(guān)系為基本內(nèi)容的常識知識庫。知網(wǎng)中的概念指的是詞語的語義，一個詞語如果有多個語義，也就有多個概念。概念是用義原進行描述的，義原是不可分割的最小意義單位，唯一且確定。義原之間的關(guān)系主要有：上下位關(guān)系，同義關(guān)系，反義關(guān)系，對義關(guān)系，屬性-宿主關(guān)系，部件-整體關(guān)系，材料-成品關(guān)系，事件-角色關(guān)系。其中，主要的關(guān)系是上下位關(guān)系、反義關(guān)系、對義關(guān)系。2008版《知網(wǎng)》大概有2 000多個義原，大致可分為事件（Event）、實體（Entity）、屬性（Attribute）、屬性值（Attribute Value）、次要特征（Secondary Feature）等幾個特征類別，每個特征類別的義原構(gòu)成一個樹狀的層次體系，可稱為義原樹。

2008版《知網(wǎng)》中概念的描述架構(gòu)和以前版本有很大不同，概念的定義由主類義原及特征描述兩部分組成。主類義原是描述概念的最基本的語義，而特征描述是用特征角色和特征標注來詳細定義概念，特征描述可以有多重嵌套。例如，詞語“醫(yī)院”在2008版《知網(wǎng)》中的定義如下：

其中，NO.為概念編號；W_C，G_C，E_C分別是漢語的詞語、詞性和例子；W_E，G_E，E_E分別是對應的英語詞語、詞性和例子；DEF是《知網(wǎng)》對于該概念的定義。在DEF的描述中，場所是主類義原，場所冒號后面就是由特征角色和特征標注組成的特征描述，其中特征標注也是義原。這個特征描述對場所作了詳細的說明，其中包括了2層嵌套。

3 詞語相似度計算方法

詞語相似度可以體現(xiàn)為描述詞語概念之間的相似度，用公式表示為：

詞語W1，W2分別有n和m個概念；S1i為W1的第i個概念，S1j為W2的第j個概念，2個詞語的相似度取W1和W2的各個概念相似度的最大值。其中式（1）在計算中結(jié)合概念的詞性，詞性相同的概念分類組合，減少不同詞性的概念組合的計算量。本文提出了一種計算詞語相似度的新方法，該方法可以在主義原相似度計算和特征描述相似度計算基礎(chǔ)上得到概念相似度。

3.1 主義原相似度計算

主義原確定了概念最主要的語義，主義原相似度的計算對概念相似度計算有重大影響。主義原相似度的計算一般是依靠義原樹的樹形層次體系來計算。其中，一類方法是依據(jù)義原在樹形層次體系中的距離來計算，2個義原的距離越近，則它們的相似度也越大；另一類方法是利用義原的信息量來計算，如果2個義原的公共信息量越大，則它們的相似度也越大。文獻［1］給出的公式是：

其中，P1和P2表示2個義原；dis（P1，P2）表示2個義原在義原樹層次體系中的路徑長度；α是一個可調(diào)節(jié)的參數(shù)。文獻［4］參考了文獻［3］根據(jù)義原的層次深度計算相似度的思路，考慮了義原所在層次的影響，提出了修改后的公式：

其中，deP（P1）和deP（P2）分別表示義原P1和P2在義原樹層次體系中的層次深度，根節(jié)點的層次深度為1。

文獻［4］在借鑒文獻［5］中利用WordNet計算英文詞語相似度的公式，提出了基于義原信息量來計算義原相似度的公式：

其中，LCN表示義原P1和P2在義原樹中的最近公共父節(jié)點；f（P）表示該節(jié)點的子節(jié)點個數(shù)（包括自己）與樹中的所有節(jié)點個數(shù)的比值。文獻［6］綜合基于義原在義原樹中的距離以及最近公共父節(jié)點提出了如下公式：

其中，α是一個可調(diào)節(jié)的參數(shù)；m，h，n分別表示義原P1，P2以及P1和P2的最近公共父節(jié)點的層次數(shù)。

以上方法只簡單考慮義原之間的距離以及所在義原樹的深度，或者義原之間的公共信息量，并未綜合考慮影響義原相似度的各種因素。因此，綜合考慮義原所代表的信息量、所在義原樹的深度及結(jié)構(gòu)特征，提出基于義原在義原樹的深度信息量及路徑的混合方法來計算義原相似度。首先考慮義原在義原樹的深度，定義義原P在義原樹中的深度信息量IC（P），IC（P）的計算公式如下：

其中，num_chi（P）表示義原P的子節(jié)點個數(shù)；num（T）表示義原P所在義原樹的總節(jié)點個數(shù)；dePth（P）表示義原P在義原樹的深度；maχdePth（T）表示義原樹的最大深度。當義原的子孫節(jié)點個數(shù)越多，義原的深度越小，該義原的深度信息量越小，即該義原越抽象，包含的語義信息也越少。本文基于深度信息量及路徑的混合方法所涉及的相關(guān)術(shù)語如下：

定義1（路徑） T=＜P，E＞是一個有向樹，設根節(jié)點P0和P之間的路徑V=（P0，P1，…，Pn），其中，Pn=P，Pi是Pi+1（0≤i≤n-1）的直接祖先，即Pi和Pi+1存在有向邊連接。

定義2（路徑的交） 設有向樹中節(jié)點P1和P2的路徑分別是V1和V2，則路徑V1和V2的交記為V1∩2，V1∩2包含的所有節(jié)點同時出現(xiàn)在路徑V1和V2中。

定義3（路徑的并） 設有向樹中節(jié)點P1和P2的路徑分別是V1和V2，則路徑V1和V2的交記為V1∪2，V1∪2由在路徑V1和V2中全部節(jié)點組成。

若2個義原不在同一棵義原樹上，則相似度取一個極小常數(shù)0.001，若2個義原在同一棵義原樹上，計算2個義原相似度的算法步驟如下：

（1）分別計算出根節(jié)點到2個義原節(jié)點的路徑。

（2）分別計算出路徑的交和路徑的并。

（3）計算出V1∩2中各節(jié)點的深度信息量之和：

（4）計算出V1∪2中各節(jié)點的深度信息量之和：

（5）計算出V1∩2中各節(jié)點的深度信息量之和IC（V1∩2）與V1∪2中各節(jié)點的深度信息量之和IC（V1∪2）的比值作為節(jié)點P1和P2代表的義原之間的相似度sim（P1，P2）：

為了比較本文方法與其他方法的優(yōu)劣，選取了3組義原對（A：“牲畜”和“禽”，B：“動物”和“植物”，C：“動物”和“禽”，其所在的義原樹示意圖如圖1所示。分別使用式（2）～式（5）和本文方法來計算其相似度，在式（2）和式（3）中，參數(shù)α的取值均為1.6，式（5）中參數(shù)α的取值是4，這些參數(shù)的取值均與對應文獻中的一致，具體結(jié)果如表1所示。

圖1 實體義原樹的部分示意圖

表1 不同方法計算的義原相似度

雖然義原相似度的評價沒有精確的數(shù)值來參考，但是可以依據(jù)義原的位置和人工判斷來對義原相似度的大小排序。根據(jù)義原在義原樹中的位置和人工直覺判斷，3組義原對的相似度從大到小依次為：A，C，B。在表1中的結(jié)果可以發(fā)現(xiàn)，式（2）計算3組義原對的相似度的值都相等，這是因為式（2）計算義原相似度時只考慮義原之間的路徑長度，沒有考慮義原深度差異的影響，而這3組義原對中義原之間的路徑長度都為2，由此看出式（2）的計算方法不太合理。式（3）計算3組義原對的相似度時比式（2）稍微合理一些，其中義原對A的相似度和義原對B及義原對C的相似度不相等，但是義原對B和義原對C的相似度仍然相等而沒有區(qū)別，這是因為式（3）只考慮了義原的最小深度，而義原對B和義原對C的義原最小深度都是5。式（4）計算3組義原對的相似度均不相等，但是計算出的相似度結(jié)果按大小排序與人工判斷的并不一致，這表明只利用義原信息量計算義原相似度并不合理。式（5）計算3組義原對的相似度雖然有合理的部分，其中義原對C的相似度比義原對B的相似度大，符合人工判斷，但是兩者十分接近，區(qū)分不明顯，同時義原對A的相似度不符合人工判斷，顯示出即使考慮了公共祖先和義原深度仍然不能較精確地刻畫義原相似度。而本文方法計算3組義原對的相似度的值雖然偏小，但是大小排序完全符合人工判斷，而且三者之間的相似度有一定的差距，區(qū)分較明顯，表明本文方法比其他方法計算得到的結(jié)果更具合理性。

3.2 特征描述相似度計算

特征描述是概念在主義原的基礎(chǔ)上進行詳細說明，可以分為有動態(tài)角色和無動態(tài)角色2種，同時可以有多層嵌套。如例子“醫(yī)院”在《知網(wǎng)》中的定義所示：對主義原“場所”的特征描述有2層嵌套，第1層次有“醫(yī)”和“醫(yī)治”，其中特征標注“醫(yī)”前面還有動態(tài)角色“domain”，而“醫(yī)治”則沒有動態(tài)角色。第2層次有“疾病”和“場所”，其中，“疾病”的動態(tài)角色是“content”，場所的動態(tài)角色是“l(fā)ocation”。計算2個特征描述相似度算法步驟如下：

（1）分別對2個特征描述層次分組。

（2）對同一層次的特征描述配對，計算其特征標注相似度。其中有相同動態(tài)角色的特征標注和沒有動態(tài)角色的特征標注分別組成集合對。以沒有動態(tài)角色的特征標注為例，設集合對是T1和T2，T1中包括的特征標注為ti（i=1，2，…，m），T2中包括的特征標注為tj（j=1，2，…，n）。首先利用本文的基于深度信息量與路徑的混合方法計算T1和T2中的特征標注相似度sim（ti，tj）得到特征標注相似度集合S。取出特征標注相似度集合S中最大值sim（tu，tν）= max｛sim（ti，tj）｝加入集合R，且在T1中刪除tu，在T2中刪除tν，并在S中刪除涉及tu和tν的特征標注相似度值。重復以上步驟，直到T1或T2為空。將集合R中的特征標注相似度的平均值作為配對特征標注相似度sim（T1，T2），具體計算公式如下：

如果存在不同動態(tài)角色的特征標注，則集合對T1和T2兩者其中之一為空集，此時集合R中的特征標注相似度值只有一個值為0，配對特征標注相似度sim（T1，T2）也為0。

（3）計算出每個層次的特征描述的相似度，即每個層次配對的特征標注相似度的平均值。設層次的特征描述的配對集合數(shù)為s，每個配對集合得到的集合R中的特征描述相似度值的個數(shù)為th（h=1，2，…，s），則層次的特征描述相似度sim（C1，C2）可由以下公式計算得到：

（4）將每個層次的特征描述相似度加權(quán)得到總的特征描述相似度sim（D1，D2），公式為：

3.3 概念相似度計算

在計算得到2個概念的主義原相似度和特征描述相似度的基礎(chǔ)上，2個概念的相似度sim（S1，S2）可由以下公式計算得到：

其中，S1和S2分別表示2個概念；β表示主義原相似度在概念相似度中的權(quán)重，當2個概念都沒有特征描述時，β等于1；一般情況下取［0，1］的某個實數(shù)，經(jīng)過反復實驗后，設定β為0.6；θ表示懲罰因子，一般情況下，θ等于1，當2個概念中的義原存在反義或?qū)αx的關(guān)系時，則θ取［0，1］的某個實數(shù)。由于當2個概念的義原存在反義或?qū)αx的關(guān)系時差異較大，經(jīng)過反復實驗后，設定θ為0.1。

其中，D1和D2分別表示2個概念的特征描述；C1K和C2K表示對應層次的特征描述；λK表示加權(quán)系數(shù)，且

4 實驗與結(jié)果分析

目前基于《知網(wǎng)》的中文詞語相似度計算研究，除了文獻［4，6］，文獻［7］從信息論的角度出發(fā)，改進了義原間的相似度計算公式。文獻［8］利用義原的其他關(guān)系來考慮到詞語的極性對詞語相似度的影響。文獻［9］引入弱義原概念，排除了弱義原對詞語相似度計算的干擾。文獻［10］根據(jù)不同類型的義原個數(shù)來調(diào)整類型義原的計算權(quán)重。文獻［11］提出了新的義原描述式權(quán)重分配方案。這些文獻都是在文獻［1］的基礎(chǔ)上基于舊版《知網(wǎng)》作改進。為了驗證本文方法的有效性，選取了文獻［1］中的一部分數(shù)據(jù)作為實驗詞語，分別比較采用文獻［1］方法、2008版《知網(wǎng)》提供的軟件包以及本文方法計算詞語相似度。實驗結(jié)果如表2所示。

表2 詞語相似度計算結(jié)果

從結(jié)果來看，2008版《知網(wǎng)》提供的軟件包和本文方法都比文獻［1］方法更符合人的主觀認識，其中的原因可能是因為2008版《知網(wǎng)》比以前版本的《知網(wǎng)》對詞語的定義更精確，所以可以得到更好的結(jié)果。例如，“男人”和“父親”2個詞在以前版本的《知網(wǎng)》的定義完全相同，所以導致文獻［1］方法計算出來的結(jié)果相似度為1。而2008版《知網(wǎng)》對“男人”和“父親”2個詞的定義則有區(qū)別，所以2008版《知網(wǎng)》提供的軟件包和本文方法計算出來的相似度沒有為1。但是更主要的原因是本文方法充分分析與利用了2008版《知網(wǎng)》對詞語的更準確定義，考慮了多種影響詞語相似度的因素。

本文方法和2008版《知網(wǎng)》提供的軟件包相比，在計算不具褒貶性的中性詞語時大部分結(jié)果都比較接近，同時在某些數(shù)據(jù)上得到的結(jié)果更好。例如，“跑”和“跳”2個詞的相似度的結(jié)果表明本文方法計算得到的0.401比2008版《知網(wǎng)》提供的軟件包計算得到的0.119要更合理些。在計算具有褒貶性的詞語時，本文方法能有效地顯示出詞語的褒貶性對詞語相似度的影響：即褒義詞與褒義詞的詞語相似度要比褒義詞與貶義詞的詞語相似度大。例如：本文方法計算褒義詞“美麗”和褒義詞“優(yōu)雅”的詞語相似度要大于褒義詞“美麗”和貶義詞“賊眉鼠眼”的詞語相似度。而2008版《知網(wǎng)》提供的軟件包計算褒義詞“美麗”和褒義詞“優(yōu)雅”之間的詞語相似度卻小于褒義詞“美麗”和貶義詞“賊眉鼠眼”的詞語相似度。這是因為本文方法在計算詞語相似度時考慮了義原之間的反義和對義的關(guān)系。不同的參數(shù)選擇，會對詞語相似度計算產(chǎn)生細微的影響，例如某些詞語的概念特征描述比較詳細，可以考慮增加特征相似度的權(quán)重，即將β的取值調(diào)低一些，可能使計算結(jié)果更準確一些。

5 結(jié)束語

由于《知網(wǎng)》具有豐富的語義知識，因此《知網(wǎng)》是中文詞語相似度計算的理想平臺。但是目前中文詞語相似度計算大部分是基于舊版的《知網(wǎng)》，由于舊版的《知網(wǎng)》在某些方面不夠完善，因此會影響到中文詞語相似度計算的準確性。本文分析和利用2008版《知網(wǎng)》的詞語概念的描述架構(gòu)，從概念的主義原定義和概念的特征描述兩方面綜合計算得到詞語的相似度。實驗結(jié)果表明本文方法得到的詞語相似度和人的主觀認識更趨于一致，且部分實驗結(jié)果優(yōu)于2008版《知網(wǎng)》提供的軟件包方法得到的詞語相似度。

［1］ 劉 群，李素建.基于《知網(wǎng)》的詞匯語義相似度計算［C］//第三屆漢語詞匯語義研討會論文集.臺北，中國：［出版者不詳］，2002.

［2］ 董振東，董 強.知網(wǎng)［EB/OL］.（2011-03-18）.http：// www.keenage.com.

［3］ 吳 健，吳朝暉，李 瑩.基于本體論和詞匯語義相似度的Web服務發(fā)現(xiàn)［J］.計算機學報，2005，28（4）：595-602.

［4］ 李 峰，李 芳.中文詞語語義相似度計算ˉˉˉ基于《知網(wǎng)》2000［J］.中文信息學報，2007，21（3）：99-105.

［5］ Lin Dekang.An Information-theoretic Definition of Similarity［C］//Proceedings of the 15th International Conference on Machine Learning.San Francisco，USA：M organ Kaufmann，1998：296-304.

［6］ 張 亮，尹存燕，陳家駿.基于語義樹的中文詞語相似度計算與分析［J］.中文信息學報，2010，24（6）：23-30.

［7］ 夏 天.漢語詞語語義相似度研究［J］.計算機工程，2007，33（6）：191-194.

［8］ 江 敏，肖詩斌，王弘蔚，等.一種改進的基于《知網(wǎng)》的詞語語義相似度計算［J］.中文信息學報，2008，22（5）：84-89.

［9］ 林 麗，薛 方，任仲晟.一種改進的基于《知網(wǎng)》的詞語相似度計算方法［J］.計算機應用，2009，29（1）：217-220.

［10］ 王小林，王小義.改進的基于知網(wǎng)的詞語相似度算法［J］.計算機應用，2011，31（11）：3075-3077.

［11］ 朱征宇，孫俊華.改進的基于《知網(wǎng)》的詞匯語義相似度計算［J］.計算機應用，2013，33（8）：2276-2279.

編輯 顧逸斐

Method of Word Similarity ComPutation Based on How Net 2008

WEIWei1，2，XIANG Yang2
（1.Key Laboratory of W atershed Ecology and Geographical Environment Monitoring，College of Electronics and Inform ation Engineering，Jinggangshan University，Ji'an 343009，China；2.College of Electronics and Information Engineering，Tongji University，Shanghai201804，China）

Word similarity computing is a key issue in natural language processing，which is w idely used in machine translation，information retrieval and text classification.Based on lexical taxonomy new How Net（2008），this paper proposes a new method to analyze and compute Chinese word similarity from two dimensions：the main sememe of the concept and the concept characteristic description of the concept.In this paper，the depth information is obtained by using the sememe tree structure，then the sememe similarity is computed by taking into account the hierarchical path of the sememe.Computing the similarity between two concept characteristic descriptions is based on characteristic type mapping.Word similarity is com puted based on the sememe similarity，the concept characteristic descriptions similarity and the antonym information of sememe.Experimental results show that the calculating results of word similarity by this method are more in line with subjective cognition of the people.

word similarity；How Net 2008；sememe；depth information quantity；path；characteristic description

魏 韡，向 陽.基于2008版《知網(wǎng)》的詞語相似度計算方法［J］.計算機工程，2015，41（9）：215-219.

英文引用格式：WeiWei，Xiang Yang.Method of Word Similarity Computation Based on How Net 2008［J］.Computer Engineering，2015，41（9）：215-219.

1000-3428（2015）09-0215-05

A

TP391

10.3969/j.issn.1000-3428.2015.09.040

國家自然科學基金資助項目（61363014，71171148）；江西省自然科學基金資助項目（20151BAB207016）。

魏 韡（1983-），男，講師、博士研究生，主研方向：自然語言處理，人工智能；向 陽，教授、博士生導師。

2014-08-04

2014-10-13 E-m ail：weiweihzkd@163.com