999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

“地”字結構識別

2006-04-29 00:00:00錢小飛
現代語文 2006年5期

[摘要] “地”字結構是漢語中有標記的狀語結構,“地”字結構的自動識別作為淺層句法分析的任務之一可以減少自動句法分析的歧義。本文在分析“地”字結構性質的基礎上,利用規則與統計相結合的方法,基于分詞文本對“地”字結構進行了對比性的識別研究。實驗利用200萬字的語料進行訓練,將獲取的數據用于自動識別,獲得了較好的效果。

[關鍵詞] “地”字結構 句法分析 規則 概率

漢語是一種缺乏形態變化的語言,傳達了較少的形式化信息,增加了自然語言處理的歧義。在自動句法分析的過程中,漢語缺少可直接利用的形式信息,增加了分析的難度。

20世紀80年代末,國外開始了關于組塊(Chunk)的研究,并提出了淺層句法分析的概念,希望通過語塊的識別和語塊之間依附關系的分析來實現對完全句法分析任務的分解。90年代以來,國內學者在漢語的淺層句法分析方面也做了很多工作。郭志立利用廣義互信息研究了“的” 字短語的結構和邊界。王立霞、吳云芳使用概率模型識別了介詞短語的邊界。趙軍提出了基于轉換的漢語基本名詞短語(baseNP)識別模型。周強利用邊界概率分布和內部結構組合對最長名詞短語(MNP)進行了較為全面的識別分析。這些研究主要集中于對名詞短語和介詞短語的識別,為漢語的自動處理做出了有益的探索。

作為淺層句法分析的任務之一,“地”字結構的自動識別可以有效地減少句法分析的歧義。由于“地”字結構在句中處于狀語的位置,對于一些簡單的單句而言,該結構的自動識別常??梢詭椭业街^語中心,劃定句子的基本結構,我們可以給出這樣的形式化表示:

S=[SZ]+Subj+[SZ]+DS+P+[Obj]

其中,S表示單句,SZ表示句首或小句狀語,DS表示“地”字結構,P表示謂語中心,Subj表示主語,Obj 表示賓語,[]表示可以出現也可以不出現,+表示語法分隔。

本文分為四個部分,第一部分對“地”字結構進行定義和分類,第二部分介紹統計與規則相結合的“地”字結構識別算法,第三部分分析實驗結果,第四部分結語。

1.“地”字結構的定義及分類

1.1“地”字結構的定義

“地”字結構是以結構助詞“地”為右邊界標志,在句中動詞前作狀語,直接修飾動詞或謂語中心語的一種句法結構。我們把“地”字結構定義為“修飾語+地”的形式。

1.2“地”字結構分類

“地”字結構內部存在多種句法關系,表現為修飾語部分可以是單個詞語,也可以是句法組合,包括狀中組合、并列組合、述賓組合、主謂組合等。根據“地”字結構內部的句法層次和句法關系對它進一步細分。

(1)簡單“地”字結構:“單元狀語+‘地’”形式的結構。

(2)復雜“地”字結構:“多元狀語+‘地’”形式的結構。

簡單“地”字結構的修飾語是單元的,即內部只有一個元素,不存在句法組合關系,如:

新 的 游客 【源源不斷 地】 涌 來 。

復雜“地”字結構的修飾語有多個元素組合而成,這些元素之間滿足一定的句法組合關系。根據這些關系,可以將復雜“地”字結構進一步細分為多元修飾型、多元并列型、多元主謂型以及多元述賓型等:

多元修飾型:修飾語為“狀語+中心語”形式的“地”字結構,如“很 努力 地”。

多元并列型:修飾語為“并列成分+[連接成分]+并列成分+…”形式的“地”字結構,如“積極 主動 地”。

多元主謂型:修飾語為“主語+謂語”形式的“地”字結構,如“程度 不同 地”。

多元述賓型:修飾語為“述語+賓語”形式的“地”字結構,如“有 計劃 地”。

2.統計與規則相結合的“地”字結構識別策略

2.1識別目標

“地”字結構識別的目標是準確地確定“地”字結構的左右邊界。本研究以“【”作為“地”字結構左界標志,以“】”作為右界標志,對句中“地”字結構進行識別,識別結果格式如下:

中國認為 , 伊拉克應 【全面 、 切實 地】 履行 聯合國 有關 決議。

2.2識別算法

根據“地”字結構的特點,在語料統計分析的基礎上,我們確定采用規則匹配、概率加權選擇和上下文調整相結合的策略進行識別。

2.2.1規則匹配

我們以人民日報1998年1月份的標記語料(記為9801.tag)作為訓練語料,對其中的“地”字結構進行人工標注,并提取出每一個具體的“地”字結構的詞性標記串及其出現概率,組成“地”字結構的標記串規則集,此規則集中包含了100條規則,其中任意一條規則的出現概率P(rule[i])的計算公式如下:

我們應用此標記串規則集的具體規則對每一個“地”字結構進行可能匹配:對于每一條標記串規則,獲取相同長度的“地”字結構詞串,并通過查詞典的方式取得該詞串所有的可能標記串,如果存在某條可能標記串與標記串規則匹配,則該標記串規則作為一條可能匹配規則;如此記錄下所有的可能匹配規則,并統計其出現概率。

2.2.2概率加權選擇

由于面對的是分詞文本,規則的長度和詞串所對應的標記串都是不確定的,在實際標注過程中有兩種選擇:一種選擇是長規則優先匹配,規則長度相同時,高頻規則優先匹配;另一種選擇是通過規則的出現概率進行優選。實驗表明,第一種選擇不能體現語料中的自然比例關系,造成了短規則匹配概率低下,影響標注正確率;第二種方法具有更大的可行性和優越性。但是,通過統計得到的規則集還不能直接用于標注:

第一,用上文使用得最大似然估計法估計參數會造成嚴重的數據稀疏問題,低概率事件常常被忽略。

第二,規則的出現概率受到其長度的制約。實驗發現,短規則出現概率通常高于長規則,但規則的出現概率高不等于該規則作為“地”字結構的概率高,甚至有相反的趨勢。

我們使用一種簡單的加權方法,并將權值轉化為費用:

Feeweight[i] = P (rule[i])×Fee(rule[i]) ×(Len(rule[i])-1) 公式2

其中, Fee(rule[i])表示rule[i]的費用,Len(rule[i])表示規則rule[i]的長度。為解決數據稀疏的問題,采用了一階馬爾可夫過程計算規則費用:

trans[i][j]是指從“地”字結構內部獲取的詞性tagi到tagj的轉移概率。

對于某一條具體的規則rule[i],Feeweight[i]值越大,它用于“地”字結構標注的概率越小。當某一個字符串能匹配多條規則時,優先選擇費用最低的規則進行標注。

2.2.3上下文信息

對標記串的概率優選只利用了詞性信息,一些詞語上下文信息對識別也非常有幫助。我們制定了三張詞表來進行概率標注后的微調。左界外詞表記錄常常僅作為DS左界外一詞的詞語,如“等”,左界內詞表記錄常常僅作為DS左界內一詞的詞語,如“很”,非DS左詞詞表記錄常常只出現在名詞“地”左鄰,而不出現在助詞“地”左鄰的詞語。

3.實驗結果及分析

3.1 實驗結果分析

我們應用9801.tag作訓練語料,1月份和2月份的切分語料(分別記為9801.cut和9802.cut)作測試語料,進行了多次實驗。

3.1.1 相異詞表實驗

考慮到詞表對于“地”字結構標注的影響,分別應用從9801.tag的“地”字結構中提取的封閉的小詞表(917詞條),并使用開放的先驗大詞表(約155000詞條)進行測試,其中開放測試語料為人民日報2月份上半個月的切分語料(記為9802p.cut)。令某DS左右邊界都標注正確作為1次正確識別,否則為1次錯誤識別,如果Fc表示正確識別的DS個數,Fw表示錯誤識別的個數,Ff表示識別失敗的個數,Fm表示多余識別的個數,Ft表示文本中DS總數,則正確率(Precision)、召回率(Recall)和調和平均值(F)可計算如下:

測試結果如表1和表2所示:

詞表對于標注的影響非常明顯。從“地”字結構中提取出的小詞表減少了詞語的詞性選擇維度,有利于提高精確率,但詞語數量不夠的問題,降低了召回率。先驗的大詞表基本能夠保證詞語數量的充足,有利于提高召回率,但加劇了詞性標記的競爭,降低了正確率。另外,大詞表中可能存在的錯誤,也會對識別產生影響。

綜合正確率、召回率和調和平均值可以看出,使用大詞表的開放測試取得了比較好的結果。

3.1.2相異規模實驗

為考察算法的有效性和健壯性,我們使用先驗的大詞表對9802p.cut和9802.cut進行了對比性的開放測試,測試結果如表3和表4所示:

從測試結果可以看出,我們所采用的算法具有較好的健壯性,對于大詞表開放測試,9802.cut的正確率甚至略優于9802p.cut的測試數據。

3.2 錯誤分析

大詞表測試數據表明:實驗中最主要的錯誤類型是錯誤識別(Fw)和多余識別(Fm)的問題。錯誤識別即因該識別的結構定界不準確而導致的錯誤,這些錯誤涉及到以上提到的各種語法結構,主要包含以下幾種情況:

3.2.1狀語存在語法功能歧義,如“又”,它既可以出現在DS中,也可以作謂語的修飾語:

a. 他 【又 生氣 又 無奈 地】 瞅 著 我 。

b. *姐妹 倆 【又 親熱 地】 聊 了 起來 。

考慮到句a存在的可能性,我們沒有將“又”列入左界外詞表,帶來了如句b的標注錯誤(用*號表示,下同)。事實上,在9802.cut中并沒有出現a所示的情況。因此標志詞詞表如何制定還需要進一步考慮和完善。

3.2.2 標點分隔的并列結構作狀語,以上算法缺乏識別能力,如:

c. *從而全面 、 【完整 、 準確 地】回答 了 什么是 社會主義 。

3.2.3語料問題,如分詞問題。

d. *她 還 把 學 到 的 技術 毫無 【保留 地】 傳教 給 別人 。

“毫無保留”作為一個詞切分更合適,例d切分為兩個詞,造成了識別錯誤。

3.2.4固定結構,如“…般地”,“像…般地”。

e. *像 【洪流 般 地】向前 移動 。

多余識別,即名詞“地”被作為助詞處理,是另一個重要的錯誤來源,從識別算法可以看出,我們使用的統計方法對多余識別的錯誤缺乏辨別能力,因此名詞“地”的排歧任務主要由非DS左詞詞表完成,雖然名詞“地”前一詞具有一定的特征,如量詞“畝”,完全收錄這部分詞仍然困難,如:

f. *許多 “ 六朝 【繁華 地】 ” 成為荒漠中的遺址。

“地”字結構的自動識別可以減少句法分析的歧義,是淺層句法分析的任務之一。本文在分析語料的基礎上,對切分語料中“地”字結構進行了識別,提出了基于規則匹配和概率選擇的識別方法,取得了比較好的效果。在今后的研究中,我們將逐步進行改進和提高。

參考文獻:

[1] 陳小荷:現代漢語自動分析——Visual C++實現.北京語言文化大學出版社,2000年。

[2] 郭志立:用統計方法研究“的”字短語的結構和邊界.計算機時代的漢語和漢字研究,1997年。

[3] 王立霞:現代漢語介詞短語邊界識別研究.中文信息學報,2005年第3期。

[4] 吳云芳:漢語介詞結構的自動標注.北京語言文化大學碩士論文,1998年。

[5] 趙軍,黃昌寧:基于轉換的漢語基本名詞短語識別模型.中文信息學報,1999年第2期。

[6] 周強、孫茂松、黃昌寧:漢語最長名詞短語的自動識別.軟件學報,2000年。

(錢小飛,南京師范大學文學院)

主站蜘蛛池模板: 欧美日韩动态图| 不卡的在线视频免费观看| 国产亚洲精久久久久久无码AV| 97国内精品久久久久不卡| 亚洲成人一区二区三区| 亚洲国产综合精品一区| 亚洲无码一区在线观看| 欧美国产视频| 亚洲日本在线免费观看| 被公侵犯人妻少妇一区二区三区| 午夜毛片免费看| 91精品国产91久久久久久三级| 国产成人无码播放| 全午夜免费一级毛片| 国产尤物jk自慰制服喷水| 免费观看男人免费桶女人视频| 99热国产这里只有精品无卡顿"| 欧美成人日韩| 99久久精品免费观看国产| 高清无码一本到东京热| 国产日本欧美在线观看| 亚洲午夜天堂| 高清不卡毛片| 亚洲第一黄片大全| 国产乱子伦手机在线| 久久久精品无码一区二区三区| 午夜国产大片免费观看| 天天做天天爱天天爽综合区| 久久久亚洲色| 久久五月天综合| 伊人久久久久久久| 精品国产欧美精品v| 伊人久久福利中文字幕| 国产人在线成免费视频| 伊人激情综合网| 尤物成AV人片在线观看| 2022国产无码在线| 国产综合精品一区二区| 97国产精品视频自在拍| 成人中文在线| 美女毛片在线| 一区二区三区四区日韩| 男女男免费视频网站国产| 色天堂无毒不卡| 国产原创第一页在线观看| 91福利免费视频| 欧美色综合网站| 亚洲精品无码AⅤ片青青在线观看| 香蕉视频在线观看www| 九九免费观看全部免费视频| 亚洲国产精品久久久久秋霞影院| 四虎免费视频网站| 国产成人狂喷潮在线观看2345| 午夜a级毛片| 亚洲天堂福利视频| 国产青榴视频在线观看网站| 久青草国产高清在线视频| 一边摸一边做爽的视频17国产 | 欧美成人国产| 中文字幕欧美成人免费| 凹凸国产分类在线观看| 色偷偷一区二区三区| 精品国产香蕉在线播出| 国产在线一区二区视频| 色久综合在线| 国产精品偷伦在线观看| 在线观看免费国产| 97se亚洲| 天天躁狠狠躁| 国内精品一区二区在线观看| 免费三A级毛片视频| 亚洲综合香蕉| 青青草原国产一区二区| 成人午夜久久| 影音先锋丝袜制服| 国产大片喷水在线在线视频| 手机看片1024久久精品你懂的| 欧美国产综合色视频| 香蕉蕉亚亚洲aav综合| 久久人人妻人人爽人人卡片av| 91色爱欧美精品www| 毛片视频网|