命名實(shí)體識別研究發(fā)展綜述

周玉新

摘 要：隨著互聯(lián)網(wǎng)技術(shù)的飛速發(fā)展和極大普及，以及相關(guān)領(lǐng)域研究的不斷深入，可用信息資源得到了極大豐富。人們迫切需要從海量的非結(jié)構(gòu)化文本中獲取有用的信息。在這一背景下，信息抽取技術(shù)應(yīng)運(yùn)而生。命名實(shí)體識別自誕生之日起，就被看作信息抽取系統(tǒng)的一個(gè)重要子任務(wù)，受到廣大國內(nèi)外學(xué)者的廣泛關(guān)注。本文探討了命名實(shí)體識別的基本概念和意義，并對現(xiàn)有的命名實(shí)體識別技術(shù)、特征、評估方法進(jìn)行了總結(jié)。

關(guān)鍵詞：命名實(shí)體識別；信息抽取；評估方法

目前廣泛應(yīng)用于自然語言處理領(lǐng)域的“命名實(shí)體”最初于1996年在第六屆信息理解會(huì)議（MUC-6）上提出，那時(shí)，MUC主要側(cè)重于信息抽取任務(wù)。信息抽取是從給定文本中抽取諸如公司活動(dòng)和國防活動(dòng)等特定的信息，這些文本可以是結(jié)構(gòu)化、半結(jié)構(gòu)化或非結(jié)構(gòu)化的數(shù)據(jù)。在進(jìn)行信息抽取任務(wù)時(shí)，人們發(fā)現(xiàn)識別文本中某些具有特殊意義的實(shí)體，如包括人名、機(jī)構(gòu)名稱和地名在內(nèi)的名稱和包括具有特殊意義的時(shí)間、日期及百分?jǐn)?shù)在內(nèi)的數(shù)字是必不可少的。在文本中識別這些實(shí)體的任務(wù)被稱為“命名實(shí)體識別”，普遍被認(rèn)為是信息抽取的一個(gè)重要子任務(wù)，它的主要任務(wù)是抽取文本中的專有名詞、生物物種和有意義的時(shí)間、日期扥數(shù)量短語并進(jìn)行分類。

早期的命名實(shí)體識別研究工作主要對文本中的“專有名詞”進(jìn)行識別，其中研究最多的三種“專有名詞”是人名、地名和結(jié)構(gòu)名稱，這些名稱可以被轉(zhuǎn)換為更細(xì)化的類型，如地名可以被細(xì)化為：城市、州和國家。同樣，人名可以細(xì)化為政治家和演員等。

近年來，除了識別一般文本中的專有名詞外，一些生物醫(yī)學(xué)語料庫，如GENIA的出現(xiàn)引起了一些命名實(shí)體識別研究者對生物醫(yī)學(xué)實(shí)體識別研究的興趣，這些命名實(shí)體主要包括蛋白質(zhì)、DNA、RNA和細(xì)胞類型等。大多數(shù)生物醫(yī)學(xué)領(lǐng)域的命名實(shí)體識別研究主要集中于對蛋白質(zhì)的識別，也有一些關(guān)于藥品和化學(xué)名稱實(shí)體識別的研究。

最近的一些研究并不局限于抽取這些可能的實(shí)體類型，一些細(xì)化的類如博物館、河流或機(jī)場等引起了一些研究人員的興趣，并且還增加了一些范圍更廣的類，如產(chǎn)品和事件，以及物質(zhì)、動(dòng)物、種族或顏色等。隨著命名實(shí)體識別研究范圍的進(jìn)一步擴(kuò)大，針對不同的特定領(lǐng)域，越來越多的實(shí)體類型得到了廣大實(shí)體識別研究工作者的關(guān)注。

1 學(xué)習(xí)方法

在信息抽取系統(tǒng)中，識別未知實(shí)體的能力是一個(gè)非常重要的部分，這樣的能力取決于系統(tǒng)所使用的識別和分類規(guī)則，這些規(guī)則由與正例和負(fù)例相關(guān)的特有規(guī)則觸發(fā)。早期的研究大多采用基于人工構(gòu)造規(guī)則的方法，而現(xiàn)在大多使用監(jiān)督的機(jī)器學(xué)習(xí)方法。

監(jiān)督學(xué)習(xí)方法的思想是在大量標(biāo)注的文檔上學(xué)習(xí)命名實(shí)體正例和負(fù)例的特征并設(shè)計(jì)捕獲給定類型本質(zhì)的規(guī)則。而語料庫的缺乏和構(gòu)造這些資源的高昂成本導(dǎo)致了兩種可替代的學(xué)習(xí)方法：半監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)。

1.1 監(jiān)督學(xué)習(xí)

目前，命名實(shí)體識別所使用的主流技術(shù)是監(jiān)督學(xué)習(xí)。監(jiān)督學(xué)習(xí)包括隱馬爾科夫模型、決策樹、最大熵模型、支持向量機(jī)、條件隨機(jī)域等[ 4 ]，這些方法都是命名實(shí)體識別系統(tǒng)的變體，這些系統(tǒng)都是讀取大量的標(biāo)注語料，存儲(chǔ)一系列實(shí)體，并且構(gòu)造基于特征的判別規(guī)則。

通常提出的基本監(jiān)督方法包括標(biāo)注測試語料庫的詞，這些詞在訓(xùn)練集中被注釋為實(shí)體。系統(tǒng)的性能依賴于同時(shí)出現(xiàn)在訓(xùn)練語料庫和測試語料庫中的詞所占的比例，通常稱之為詞匯轉(zhuǎn)移。

1.2 半監(jiān)督學(xué)習(xí)

由于可用標(biāo)注語料庫的匱乏以及大量未標(biāo)注語料庫的存在，研究人員提出了一種半監(jiān)督學(xué)習(xí)方法，也稱為弱監(jiān)督學(xué)習(xí)。主要的半監(jiān)督學(xué)習(xí)方法被稱為“bootstrapping”，它只需要提供少量的標(biāo)注數(shù)據(jù)，例如一組種子用于開始的學(xué)習(xí)。然后，系統(tǒng)搜索包含這些已提供數(shù)據(jù)的句子并嘗試發(fā)現(xiàn)出現(xiàn)在相似上下文中實(shí)體的其他實(shí)例。接著將學(xué)習(xí)過程應(yīng)用于新發(fā)現(xiàn)的例子以發(fā)現(xiàn)新的相關(guān)上下文。通過重復(fù)這一過程收集大量命名實(shí)體和大量上下文信息。半監(jiān)督方法只需要較少的已標(biāo)注數(shù)據(jù)，從而在大量無標(biāo)注數(shù)據(jù)的條件下獲得可以與監(jiān)督學(xué)習(xí)方法相媲美的性能。

1.3 無監(jiān)督學(xué)習(xí)

由于現(xiàn)實(shí)中存在的大量無標(biāo)注數(shù)據(jù)，在未進(jìn)行標(biāo)注的數(shù)據(jù)中，試圖找到隱藏的實(shí)體，即無監(jiān)督學(xué)習(xí)問題被提上日程。提供給系統(tǒng)的實(shí)例是無標(biāo)記的，這區(qū)別于監(jiān)督學(xué)習(xí)和半監(jiān)督學(xué)習(xí)。典型的無監(jiān)督學(xué)習(xí)方法是聚類[ 5 ]，我們可以嘗試根據(jù)上下文的相似性從聚類組中收集命名實(shí)體。

2 命名實(shí)體識別的特征空間

特征是用來描述命名實(shí)體的各種屬性，對不同的識別系統(tǒng)來說所采用的特征也不同。我們通常用特征向量來描述系統(tǒng)所使用的特征，特征向量描述是由一個(gè)或多個(gè)布爾型數(shù)據(jù)、數(shù)值數(shù)據(jù)和標(biāo)量數(shù)據(jù)所表示的每個(gè)詞的文本抽象。經(jīng)常用于命名實(shí)體識別和分類的特征通常包括三種：詞級特征、列表查找特征以及文檔和語料特征。

3 評估指標(biāo)

對命名實(shí)體識別系統(tǒng)的發(fā)展來說，對系統(tǒng)的全面評估是必不可少的，許多系統(tǒng)被要求根據(jù)它們標(biāo)注文本的能力來對系統(tǒng)進(jìn)行排序。目前，通常采用的評估指標(biāo)主要有正確率、召回率和F值，它們的定義如下：

正確率=識別出的正確實(shí)體數(shù)/識別出的實(shí)體數(shù)

召回率=識別出的正確實(shí)體數(shù)/樣本中的實(shí)體數(shù)。

兩者的取值都在0和1之間，數(shù)值越接近1，正確率或召回率就越高。正確率和召回率有時(shí)會(huì)出現(xiàn)矛盾的情況，這時(shí)需要綜合考慮它們的加權(quán)調(diào)和平均值，也就是F值，其中最常用的F1值，當(dāng)F1值較高時(shí)說明試驗(yàn)方法比較有效。F1值定義如下：

F1值=（2*正確率*召回率）/（正確率+召回率）。

4 結(jié)語

命名實(shí)體識別作為信息抽取的重要子任務(wù)，從提出伊始就得到了廣大國內(nèi)外學(xué)者的廣泛重視，并且受到了各方面的持續(xù)關(guān)注，取得了巨大的進(jìn)展。本文探討了命名實(shí)體識別的基本概念和意義，并對現(xiàn)有的命名實(shí)體識別技術(shù)、特征、評估方法進(jìn)行了總結(jié)。目前，對某些領(lǐng)域如新聞的命名實(shí)體識別研究已經(jīng)相當(dāng)成熟，如何將新聞?lì)I(lǐng)域中成熟的技術(shù)方法應(yīng)用于一些新興領(lǐng)域如生物醫(yī)學(xué)等是未來命名實(shí)體識別系統(tǒng)發(fā)展的趨勢。

參考文獻(xiàn)：

[1] 李保利，陳玉忠，俞士汶.信息抽取研究綜述[J].計(jì)算機(jī)工程與應(yīng)用，2003（10）：1-5.

[2] 俞鴻魁，張華平，劉群，呂學(xué)強(qiáng)，施水才.基于層疊隱馬爾科夫模型的中文命名實(shí)體識別[J].通信學(xué)報(bào)，2006（02）.

[3] 張祝玉，任飛亮，朱靖波.基于條件隨機(jī)場的中文命名實(shí)體識別特征比較研究[C].第四屆全國信息檢索與內(nèi)容安全學(xué)術(shù)會(huì)議論文集，2008.

[4] 王丹，樊興華.面向短文本的命名實(shí)體識別[J].計(jì)算機(jī)應(yīng)用，2009，29（1）.