融合顯性和隱性特征的中文微博情感分析

陳鐵明，繆茹一，王小號

(浙江工業大學 計算機科學與技術學院，浙江 杭州 310023)

融合顯性和隱性特征的中文微博情感分析

陳鐵明，繆茹一，王小號

(浙江工業大學 計算機科學與技術學院，浙江 杭州 310023)

微博情感分析是研究社交網絡輿情的一項關鍵技術。微博表情符號和情感詞匯等是一類直觀顯性的情感特征，而微博的內容語義則可視為隱性特征，且對情感判定往往具有決定性作用，因此本文提出將兩類特征因素融合的微博情感分析方法。首先構建情感分析詞典、網絡用語詞典以及表情符號庫，定義微博頻繁特征詞集，再根據頻繁特征詞集，利用最大頻繁項集獲得微博初始情感簇；針對初始簇間存在文本重疊情況，提出基于短文本擴展語義隸屬度的簇間重疊消減算法，獲得完全分離的初始簇；最后根據簇語義相似度矩陣，給出一種凝聚式情感聚類方法。利用NLPCC2013 評測所提供的訓練語料進行情感分類實驗，說明了分析該文方法的性能優勢，并以2014年3月8日馬航事件微博數據為例，給出了利用微博情感分析公眾隨事態發展的情感變化，說明了該文方法的實用效果。

表情符號;情感詞典;語義;頻繁項集;聚類

1 引言

近年來，微博已成為一種新興社會網絡媒體，用戶可在微博上發布個人觀點、分享生活體驗、與朋友交流互動等。目前，新浪微博擁有超過五億注冊用戶，日均發布超過一億條新微博內容，包括社會熱點問題，用戶對產品、品牌或熱門事件觀點。微博用戶數量龐大，用戶表達的觀點、情感更具普遍性，也更具說服力。因此，掌握微博用戶的情感傾向，無論對政府正確引導輿論，還是對企業改進產品體驗等都有極大參考價值，也更利于社會輿論監控、突發事件應對以及網絡信息安全保障等。

微博具有原創性、不可預見性等特點，單條微博字數在140以內，融合了網絡用語和表情符號等顯性特征以及微博語義情感等隱性特征，這給微博情感分析帶了新的挑戰。微博中廣泛存在諧音詞、簡寫詞等，如“稀飯”代表“喜歡”、“杯具”代表“悲劇”等，且這些詞匯隨時間不斷變化，并不斷有新詞出現，有必要建立特定的網絡用語詞典；微博表情符號通常可直接表達情感，但表情符號五花八門，需要建立特定的表情符號情感分類；另外，一條微博中可能包含多個不同情感，情感分析一般以博主的主要情感為準。本文將針對這些問題，對微博情感因素開展全面研究與分析，提出一種融合顯性特征和隱性特征的情感分析方法。

2 相關工作

情感分析是對帶有情感色彩的主觀性文本進行分析、處理、歸納和推理的過程，目的是從用戶發布的帶有主觀感情色彩的文本信息中提取用戶觀點，并判斷其情感極性。情感分析過程分為情感類別劃分和情感信息抽取。

由于人類情感復雜，故情感類別劃分沒有統一標準。常見如趙妍妍等[1]把情感劃分任務分為兩種： 主、客觀信息的二元分類，對主觀信息的情感分類，包括最常見的褒貶二元分類以及更細致的多元分類。對于多元分類，Jichang Zhao和Li Dong[2]等提出了四類情感： angry憤怒，disgusting厭惡，happy高興，sad悲傷；賀飛艷等[3-4]提出了七類情感： anger 憤怒、disgust 厭惡、fear 恐懼、happiness 高興、like 喜好、adness 悲傷、surprise 驚訝。

對于情感信息抽取，Go和Bhayani[5]提出了一種距離監督學習方法,對Twitter中的消息進行情感分類。給定一個檢索詞，消息自動被分為正面或負面信息。抽取Twitter中含有表情圖標的消息作為訓練集，利用樸素貝葉斯，最大熵以及支持等分類算法進行實驗；謝麗星等人[6]提出了基于層次結構的多策略方法對新浪微博數據展開情感分析研究，并在特征提取時采用了主題相關特征，實驗結果顯示，使用主題相關的特征后所獲得的最高準確率由66.467%提升到了 67.283%。Dmitry Davidov、Oren Tsur 等[7]利用 twitter 上已有常用標記和表情符號做標簽，通過監督學習的方法構建了一個情感分類系統，這種方法不需要太多的人工注釋。

表情符號和情感詞典等方法均屬于表達情感的顯性特征，尤其對短文本的微博更能體現情感特性。同時，由于文本詞義的表現力極強，蘊含在微博短文本中的語義作為一種關鍵的隱性特征，也可直接決定微博內容表達的情感?；谖谋倦[含語義的情感分析研究已較為常見[8]，但由于語義通常隨上下文本、時間環境等動態變化，基于語義的分析方法一般僅處理正負兩分情感分類問題，并且針對微博包含社交網絡專用語言等特點，基于語義這一隱性特征的分析方法還面臨較大挑戰[9]。

因此，本文將以表情符號為基礎，結合大連理工大學信息檢索研究室整理和標注的中文本體資源以及HowNet 提供的情感分析詞匯集，構建表情符號庫、情感詞語詞典以及網絡用語詞典，從中提取顯性情感特征，并同時融合隱性語義特征，采用基于同類情感微博文本相似度較大、不同情感微博文本相似度較小的聚類方法進行情感分析。聚類無需訓練過程和預先對微博手工標注類別，直接基于頻繁項集和語義聚類算法，具有較好的靈活性和自動化處理能力。

3 微博顯性情感特征

3.1 表情符號

圖1 包含不同表情符號數目的微博消息的比例

本文采用新浪微博自帶的表情構建情感符號庫，再依據七類情感分類方法[3]，將情感分為高興、喜好、憤怒、悲傷、恐懼、厭惡、驚訝七個類別。對出現頻率排在前150的表情符號，作統一化處理，即先建立情感符號表，將150個表情符號放入情感符號表中，如表1所示。然后，通過查表方式判斷該情感符號是否屬于情感符號表，若是則提取情感符號，通過轉換成情感類別后寫入情感特征表。實驗表明對表情符號統一化處理有利于產生更好聚類效果，從而實現更精準的情感分析。

表1 情感類別和每個類別的典型表情符號

3.2 情感詞

情感詞最能體現微博的文本情感，故情感詞典和網絡詞匯詞典的構建是微博情感傾向性判定的基礎工作。

3.2.1 中文情感詞匯

情感詞匯復雜、詞性較多，包括形容詞、名詞、副詞等，僅考慮詞性選擇情感詞并不科學，如名詞(“垃圾”、“棒槌”)都帶有負面情感，而大多數名詞并不帶情感色彩，選用會降低分類性能。本文采用大連理工大學信息檢索研究室提供的中文本體資源[3]，包含27 467個中文情感詞。如表2所示，先建立一個情感詞典的情感詞表，將這些情感詞放入詞表中。通過查表的方式判斷通過文本分詞后是否是情感詞，若是則提取情感詞，并寫入情感特征表。

此外，還收集了“不”、“沒有”、“不可能”、“很難”等微博中的否定詞集，實驗表明，否定詞直接使微博文本情感發生了遷移，所以否定詞也是微博情感分析重要因素。

例如，“霧霾天，一點都不開心”，包含情感詞匯“開心”表達“高興”情感，但因否定詞“不”修飾，句子表達“悲傷”情感?；趥鹘y情感分類分為三大類(正面、負面、中性)，正面情感否定詞修飾后為負面情感，負面情感否定修飾后轉為中性情感或正面情感，本來七類情感，將“高興”、“喜好”作為正面情感，其余五類作為負面情感，本文將否定詞情感轉移情況如表3所示。

表2 本文選用的中文本體資源情感分類表摘要[3]

表3 否定詞修飾后情感轉移

對于雙重否定情況，根據語料統計，在微博短文本中出現較少，故不作考慮。

3.2.2 網絡詞匯詞典構建

微博情感往往具有原創性，隨著網絡發展不斷有新詞出現，包括諧音詞、簡寫詞、網絡語言等，因此本文構建了網絡詞匯詞典用于微博情感的情感傾向性判定。通過社交網絡搜集、整理，共采用141個網絡用詞，分別進行情感標注以及作統一化處理，即先建立一個網絡詞匯的情感詞表，將這些網絡詞匯放入詞表中。許多網絡用詞在沒有上下文的語境下，情感傾向性是有歧義的，文本只保留情感明顯的網絡用詞，部分網絡用詞及其情感傾向性標注如表4 所示。同樣，基于網絡詞匯詞典也可通過查表方式直接判定部分微博內容的情感類別。

表4 部分網絡用詞及其傾向性

4 基于頻繁項集和語義的微博隱性情感聚類

Benjiamin等提出的FIHC(Frequent Itemset-based Hierarchical Clustering[10]-基于頻繁項集的層次聚類算法)是目前應用最廣的文本聚類算法。該算法以聚類簇為中心，并且直接用頻繁項集來衡量簇之間聚合程度，并且認為隸屬于相同關系文檔之間共享較多頻繁項集，隸屬于不同關系共享較少頻繁項集，使用頻繁項集的概念來對文本進行劃分。

微博內容詞性和語義都可視為微博的隱性情感特征，具有相同情感特征的詞匯聚到同一情感類中，即具有相同情感類的微博之間共享較多的頻繁項集。本文采用FIHC算法 “先建簇后消重再凝聚”的思想，提出一種結合頻繁項集和語義聚類的新方法(Semantics FIHC，簡稱S-FIHC)，聚類主要過程如圖2所示。

圖2 結合頻繁項集和語義聚類的FIHC算法

此算法主要流程為： 首先，基于頻繁項集創建初始情感簇，每個初始情感簇文本都含有頻繁項集，這導致初始情感簇間產生重疊文本；其次，為了更精準消除初始情感簇間文本重疊，采用知網的中文語義相似度模型，根據最大語義隸屬度原則分離各個初始情感簇；最后，通過定義簇間語義相似度矩陣，完成微博情感簇的凝聚式層次聚類，并優化得到最終的情感簇，實現微博情感分析。

4.1 獲取頻繁項集

定義1 對數據庫E中某個項集X，若項集X在數據庫E中出現的次數大于預設比例，則稱X是數據庫E的頻繁項集，這個預設比例稱作最小支持度。

若將文本看成一條事務，文本詞匯對應事務中的項目，則可將文本d表示為：

d=。

定義2 對文本集D的某個詞集W，若W在D中的支持度s(W) ≥ min_s，則稱勢集W是文本集D的頻繁詞集，min_s為全局最小支持度。本文采用頻繁集挖掘算法Apriori來計算挖掘頻繁詞集。

算法： Apriori算法

輸入： 微博數據，最小簇支持度min_s

輸出： 微博數據中的頻繁項集

方法：

(1) 掃描文本集D，利用詞頻趨勢度統計候選項

集出現的次數，收集滿足最小支持度min_s設定的項集，記為頻繁項集；

(2) 利用產生的頻繁k-項集構造強關聯規則，利用頻繁k-項集構造候選(k+1)-項集，反復迭代直至候選(k+1)-項集為空。

頻繁項集描述微博中情感信息。本文利用頻繁項集劃分構造初始情感簇，將包含頻繁趨勢詞集微博劃分為一個簇，得到基于頻繁項集初始情感簇，同時，將描述初始情感簇的頻繁項集作為對應情感簇臨時標識，通過抽取各個初始情感簇的頻繁項集來代表這個初始情感簇情感語義。

4.2 微博語義隸屬度初始簇重疊消減

微博文字表達具有簡潔、隨意性，同一情感微博具有不同表述，一條微博中可能包含多個不同情感，導致初始情感簇之間存在大量文本重疊，情感分析應以博主主要情感為準，需要將每條微博歸屬到一個情感簇。

從語義層面出發，本文引入《知網》語義庫擴展語義信息[11]，計算簇間重疊部分對初始情感簇的情感語義隸屬度，最后按最大語義隸屬度原則進行簇分配。

定義3 若微博docj被分配到初始情感簇Ci中，則稱微博docj支持簇Ci。.

定義4 記Di和Dj是支持簇Ci和Cj微博集合，并且Di∩Dj≠0，則稱簇Ci和簇Cj存在簇間重疊。

(1)

其中，簇頻繁1-項集{fi1,fi2,…,fim}表示初始簇Ci的情感特征項，{tj1,tj2,…,tjn}表示初始簇Ci中微博文本docj的特征項；sim(fik,tjl)為簇特征項fjk和文本特征項tjl在《知網》中定義的語義相似度[12]，n為微博文本docj特征項數目，m為簇特征項數目。

算法： 微博語義隸屬度初始簇重疊消減算法

輸入： 帶有重疊的初始簇C1,C2,…,Cn

輸出： 重疊消減后的初始簇C′1,C′2,…,C′n

方法：

1 記m個重疊的微博文本初始簇集合為CD1,CD2,…,CDm

2 初始化一個二維數組向量clusterStoreHash

3 FOR eachiform 1 tom

4 FOR each weibodocjinCDi

5FOReachclusterCk?CDi

7IFdocj?clusterStoreHash

8 添加到clusterStoreHash

9ElSEIFcurrScore≥currScore’

currScore‘ofdocj∈

clusterStoreHash

10 更新

到clusterStoreHash

11ELSE

12 從初始簇Ck中刪除文檔docj

13ENDIF

14C′k=Ck

15ENDFOR

16ENDFOR

算法復雜度為O(n)，n為微博文本docj特征項數目。最后，再刪除那些初始簇分離后大小為0的空簇，稱為候選情感簇。

4.3 基于語義相似度的凝聚式情感聚類

通過初始情感簇間重疊消減可得到微博聚類情感檢測的候選情感簇，但這些情感簇都可歸屬于某一個大情感，因此有必要再對候選情感簇進行凝聚式層次聚類，合并情感簇。

(2)

表5 定義CTi和CTj的語義相似度

算法： 候選情感簇層次聚類

輸入： 候選情感簇CT{CT1,CT2..CTi}，λ(兩個簇合并最小閥值)，μ(最小簇數目)

輸出： 情感簇CT′

方法：

Step 1 抽取各個候選情感簇的特征向量，計算候選情感簇的語義相似度。

Step 5 若簇間語義相似度矩陣的行數或列數小于等于預設的最小簇數目μ，執行Step6；否則，聚類尚未結束，重新回到Step3。

Step 6 凝聚式層次聚類結束，得到情感聚類簇CT′。

5 實驗結果與應用效果

實驗采用NLP2013的測試數據，該數據共有14 000條已標注微博(4 000條作為訓練數據集，10 000條作為測試數據集)，分為八個類別(憤怒、悲傷、喜樂、恐懼、高興、驚奇、厭惡，以及無情感)，如表6所示，各類別情感微博包含表情符號數量如表7所示。

表6 微博數據類別詳情

表7 情感微博各類別包含表情符號數量

5.1 預處理

在數據分析前需對微博文本進行一系列的預處理，主要包括中文分詞及詞性標注、停用詞過濾、特征選擇等步驟。

中文分詞是文本預處理時的第一個關鍵問題，分詞效果將直接影響文本聚類效果。本文采用中國科學院的ICTCLAS(Institute of Computing Technology, Chinese Lexical Analysis System)系統；保留了微博表情符號，并做了統一化處理；去除停用詞，包括代詞、助詞等，使文本表示更準確，同時降低文本特征維度、提高文本聚類等算法效率。

5.2 微博聚類實驗及其效果分析

采用NLP2013評價標準[13]，使用宏平均(Macro)和微平均(Micro)的準確率(Precision)、召回率(Recall)、F值(F-measure)作為評價指標，具體計算方法見式(3)～式(8)。

(3)

(4)

(5)

(6)

(7)

(8)

其中，gold是人工標注結果的數目，system_correct是預測與人工標注匹配的數目，system_proposed是預測數目，i為本文七類情感之一，一般來說F值(F-measure)越大，表示聚類效果越好。

表8為本文方法的情感聚類結果，從表中可以看出本文融合顯性和隱性語義聚類方法可以有效地對微博情感進行分析。

表8 聚類簇結果

為了驗證本文提出的融合顯性和隱性聚類情感分析方法的有效性，分別通過表9中方法對數據進行了對比實驗。

表9 算法評測指標結果

根據以上的實驗結果，對宏平均和微平均的正確率、召回率、F值變化等數據進行以下分析：

(1) 實驗1采用融合顯性和隱性聚類方法，進行了表情符號統一化處理，實驗2沒有表情符號的統一化處理。對比實驗結果，表情符號統一化可提高算法性能。

(2) 實驗3直接利用微博顯性情感特征進行情感類別判定，并考慮了否定詞。該方法獲取的情感微博量較少，故實驗結果中宏平均，微平均中的正確率值較高，召回率偏低，總體F值較低。

(3) 實驗4不考慮情感詞的融合聚類分析，實驗5不考慮網絡詞匯的融合聚類分析。比較實驗2、實驗4和實驗5發現對于情感分析的影響，情感詞>表情符>網絡詞。

(4) 實驗6將融合顯性特征提取的頻繁項集，經過歸一化后的向量即為該微博最終向量表示，然后，將向量化的4 000條微博訓練集調用Libsvm[14]中進行訓練，設置RBF核函數參數c和g，得到分類模型，將10 000條微博測試集預處理并向量化，利用分類模型，得到測試微博的分類結果，比較SVM方法與本文聚類方法，本文方法有略微優勢，因訓練數據集僅4 000條，對分類模型建立會有一定的影響，本文方法相對更為靈活。

(5) 此外，本文提出的方法還與NLP2013情感類別判定方法中排名前兩名的方法進行了比較。本文方法宏平均較高，微平均較低，這是由于本文采用頻繁項集聚類方法，七種情感的識別效果有明顯差異： 高興、喜好、悲傷這三種情感的微平均F值較高，而恐懼、驚訝情感的微平均F值都較低(因恐懼情感不容易識別，且該類情感預料較少)。

此外，本文從新浪微博廣場上通過關鍵字搜索，獲取2013年3月8日至2013年5月12日之間關于“馬航事件”的44 524條微博數據。圖3描述了“馬航”事件每日微博數據量的變化趨勢。

圖3 “馬航”事件每日微博數據量發展趨勢

從圖3可以發現，4月8日后“馬航”事件微博量較少，平均低于100條，所以本文主要分析3月8日到4月8日“馬航”事件微博。圖4表述了3月8日到4月8日民眾對“馬航”事件情感變化趨勢。

圖4 “馬航”事件情感變化趨勢

結合圖4“馬航”事件情感變化趨勢與“馬航”事件實際發展狀況，下面就幾個關鍵時間點進行分析：

3月8日，馬航官網發布第一份聲明： 確認北京時間8日2時40分MH370航班與塔臺失去聯系。微博情感為“悲傷”、“驚訝”、“恐懼”，表現民眾對受難乘客的擔心、對該航空安全的震驚和恐懼心理，“高興”和“喜好”情感處于較低水平。

3月9日，馬來交通部長確認兩位持假護照者票號相連。因失聯飛機已經40多個小時沒有消息，民眾“悲傷”情感明顯上升，且出現持假護照事件，“恐懼”、“厭惡”情感同時上升。

3月10日，馬來西亞官方承認失聯航班有被劫機可能。民眾“悲傷”情感持續，因存在“劫機”情況，疑似恐怖襲擊事件，民眾“恐懼”情感繼續上升。

3月12日，馬來西亞方面被質疑是否刻意隱瞞信息或拖延搜救進程。故“憤怒”情感大幅度升高，且占當天微博量的58%。

3月24日，馬總理召開新聞發布會，失聯多日的馬航MH370客機墜入南印度洋，機上無人幸存?！氨瘋鼻楦羞_到最高，民眾對該噩耗深表痛心。

隨著時間的推移，整個馬航事件進入后期的反省、處理階段，民眾關注點開始逐漸轉移。

6 結論

本文提出融合顯性和隱性特征的聚類方法。首先將微博表情符號進行統一化處理，引入大連理工大學情感詞匯表、知網情感字典和網絡情感詞典；然后采用頻繁項集聚類方法構建初始情感簇；針對初始情感簇間的微博重疊問題，提出一種基于語義隸屬度劃分的初始簇重疊消減算法，克服了微博短文本語義表達簡短及形式多樣化等引起的情感二義性問題；最后給出一種面向微博情感凝聚式層次聚類方法，利用聚類參數調整獲得最佳微博情感分類。

因微博具有獨特性，情感分析仍面臨諸多問題，情感之間的關聯性、句子中詞語的權重以及適當的詞語組合或句式特征等方面還有進一步研究的空間。

[1] 趙妍妍, 秦兵, 劉挺. 文本情感分析[J]. 軟件學報,2010, 21(8): 1834-1848.

[2] Jichang Zhao, Li Dong, Junjie Wu, et al. MoodLens: An Emoticon-Based Sentiment Analysis System for ChineseTweets[C]//Proceedings of the Eighteenth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD),2012: 1528-1531.

[3] 徐琳宏, 林鴻飛, 潘宇, 等. 情感詞匯本體的構造[J]．情報學報, 2008, 27(2): 180-185.

[4] 賀飛艷,何炎祥,劉楠.面向微博短文本的細粒度情感特征抽取方法[J].北京大學學報,2014,50(1):48-54.

[5] Go A, Bhayani R, Huang L. Twitter Sentiment Classification using Distant Supervision[M]. Technical report, Stanford Digital Library Technologies Project, 2009.

[6] 謝麗星,周明,孫茂松.基于層次結構的多策略中文微博情感分析和特征抽取[J].中文信息學報.2012,26(1): 73-83.

[7] Dmitry Davidov, Oren Tsurm, Ari Rappoport.Enhanced Sentiment Learning Using Twitter Hashtags andSmileys[C]//Proceedings of the FourteenthConference on Computational Natural LanguageLearning, CoNLL 10, Uppsala,Sweden.2010:107-116.

[8] Cambria E, Song Y, Wang H, et al. Semantic Multidimensional Scaling for Open-Domain SentimentAnalysis[J]. Intelligent Systems, IEEE, 2014, 29(2):44-51.

[10] B C M Fung, K Wang, Ester. Hierarchical Document Clustering Using Frequent Itemsets[C]//Proceedings of the SIAM International Conference on Data Mining, 2003.

[11] 《知網》中文版.[EB/OL]http://www.keenage.com/html/c_index.html.

[12] 朱嫣嵐,閔錦,周雅倩等.基于Hownet的詞匯語義傾向計算[J].中文信息學報,2006,20(1):14-20.

[13] http://tcci.ccf.org.cn/conference/2013/dldoc/ev02.pdf.

[14] http://www.csie.ntu.edu.tw/～cjlin/libsvm/.

Chinesemicro-blog Sentiment Analysis using Both Explicit and Implicit Text Features

CHEN Tieming, MIAO Ruyi, WANG Xiaohao

(College of Computer Science and Technology, Zhejiang University of Technology, Hangzhou, Zhejiang 310023,China)

Micro-blog sentiment analysis is a key technique of public opinion research for social networks. Micro-blog emoticons and sentiment words are both of intuitive called as explicit emotion features, while the content semantics are called implicit features which sometimes are very important for micro-blog emotion discrimination. Therefore, in this paper, a new systematic methodology for sentiment analysis is proposed using both explicit and implicit emotion features. At first, the sentiment analysis dictionary, the glossary of social networking terms, as well as the emoticon library, are all initialized. Then, the text micro-blog frequent word sets are defined. According to the feature set of words, the initial micro-blog clusters can be directly generated depending on the maximum frequent item sets. Furthermore, as to solve the micro-blog overlap problem between multiple initial clusters, an efficient elimination method is proposed employing the extended membership degree of the short-message semantic. Finally, the semantic similarity matrix for each separated cluster is defined, based on which a hierarchical sentiment clustering for micro-blogs is conducted. Taking the well-known contest NLPCC2013 in China as instance, the efficiency of our proposed method is proved by the comparing experiments. At last, a real-world case is also done to exactly show the emotion change from Chinese micro-blogs for the Malaysia Airlines Disappear Incident during March 8 to Spril 8, 2014

emoticons; emotion dictionary; semantic; frequent item set; clustering

陳鐵明(1978-),博士,教授,主要研究領域為網絡與信息安全。E-mail:tmchen@zjut.edu.cn繆茹一(1983-),碩士研究生,主要研究領域為文本挖掘和輿情分析。E-mail:mryzjut@gmail.com王小號(1981-),實驗師,主要研究領域為網絡與信息安全。E-mail:wxh@zjut.edu.cn

1003-0077(2016)04-0184-09

2014-09-15 定稿日期： 2015-03-20

國家自然科學基金重點支持項目-NSFC-浙江兩化融合聯合基金(U1509214)

TP391

A