張利民 鄒姝陽
摘 要:本研究以新浪微博為主要輿情采集平臺,對微博系統內海量信息進行日常性和持續性的抓取、跟蹤與搜集。本論文針對微博信息傳播特點,充分利用網絡信息挖掘技術、計算機中文信息處理技術、數據挖掘技術等應用技術,研究微博輿情監測關鍵技術及實施方案,力求構建適應微博特點的網絡輿情預警機制。
關鍵詞:微博;輿情;研判;預警
1 引言
近年來我國各類突發事件頻發,社會穩定性顯著降低,這不僅直接導致社會經濟生活及人身財產安全的重大損失,也極大地危害到社會的穩定與發展。中國社科院在其出版的《社會藍皮書》一書中,將微博定義為"殺傷力最強的輿論載體",體現了微博輿論的強大影響力。
本研究來源于北京市大學生科研創新項目《基于微博的社會輿情研判與預警》的子項目,試圖以新浪微博為對象,研究微博輿情監測關鍵技術及實施方案,具體內容包括:博文自動抽取、中文分詞、文檔清洗(去停用詞)、中文計算機表達、文檔情感傾向判別、意見領袖識別、綜合輿情判斷等內容。
2 研究過程
2.1 微博數據的自動獲取
網絡輿情數據獲取是網絡輿情分析的前提。面對互聯網的海量信息,迫切需要一種技術來幫助人們自動從網絡上獲取相關信息,從而可以極大地提高人們獲取信息的速度和廣度。網絡爬蟲(WEB Crawler)是搜索引擎的重要組成部分之一,其作用是為搜索引擎從網絡中下載所需的網頁。相比網絡爬蟲,新浪微博的開放API接口可以更加簡潔的獲取相應的數據,本研究即采用新浪微博的API接口作為數據挖掘工具。
① OAUTH認證:使用新浪API前首先須完成用戶認證。新浪微博API采用OAUTH認證為用戶提供了一個安全的、開放而又簡易的標準。
② 新浪微博API接口定義:新浪微博API調用接口形如:http: //api.t.sina.com.cn/statuses/followers.json? source=appkey&user_id=11051&count=200&cursor=1200。該命令分別指定了新浪API服務器地址、接口信息具體內容及方法;OAUTH認證信息、用戶數字ID、返回記錄的首位置及記錄條數。
③ 微博數據抽取器的主要功能包括:用戶登錄驗證,獲取follower微博列表,獲取回復列表,獲取私信列表,獲取收藏列表等。
2.2 文本分詞處理及矢量化表示
① 中文分詞及詞性標注:由于英文文本每個單詞間用空格分開,計算機很容易識別。但對于中文文本,詞語之間無區分字符,需根據語義語法來分斷。中科院的中文分詞系統ICTCLAS(Institute of Computing Technology, Chinese Lexical Analysis System)分詞準確率較高,本研究選取ICTCLAS進行分詞。
② 中文文本表示模型:常見的文本表示模型主要有布爾模型、向量空間模型、概率語言模型等。布爾模型采用布爾向量來表示文本,但不能定量反映特征項對于文本的貢獻程度;概率模型用概率值來表示詞在各類文本中出現的概率,但無法處理語言中的長距離依賴;向量空間模型采取TF-IDF值表示特征項的權值。詞頻TF(Term Frequency)指某一特征詞在當前文本出現的相對次數;逆文檔頻率IDF(Inverse Document Frequency)用于評估特征詞的重要性。由于該模型簡易高效,本研究即采用此法表示中文文本。
2.3 文本清洗(去停用詞)
停用詞是指文本中出現頻率很高,但實際意義又不大的詞。停用詞大致有兩類,第一類包括語氣助詞、介詞等,如常見的“的”、“地”之類;另一種是在所有文檔中大量出現的詞,如“頂”之類。本研究中使用停用詞表實現對停用詞的過濾功能。
2.4 文本情感傾向判斷
輿情立場判別可通過判斷博文的感情傾向得到,最常見的是根據其包含的褒貶詞匯來進行計算。為獲得文本的情感極性,需首先提取情感詞,本研究基于情感詞詞典的方法來提取情感詞。
① 極性詞典的構建:詞語除可表達特有的概念外,還能傳達一定的感情色彩。感情色彩大體分為褒義和貶義兩種,褒義如“好,聰明、優秀”等,貶義如“壞、鄙夷、惡魔”等。具有褒貶義的詞語集合稱為極性詞典,本研究的極性詞典主要取自《知網》 (HowNet),包括程度級別詞語、正負面評價詞語、正負面情感詞語等。
② 傾向性分析算法與實現過程:詞語中還有些極性修飾詞,處理時,可給這些修飾詞設置不同的強度系數。如定義極性褒義、貶義的原始強度分別為:+1,-1,再定義極性修飾詞“極其/最”的強度系數為2,則總的情感極性=詞語極性*強度系數。另有些特殊情況需考慮:句式反轉規則,適用于漢語中表示否定和反問句式,如:“不、不是、非、并非、難道、豈不”引導的句子,另遇到雙引號或單引號括起的情感詞,均應對原話中的褒貶義進行反轉。感情強化規則:漢語的感嘆號等可表示情感的增強,故可用感嘆號的數量來表示感情色彩的強度。
2.5 意見領袖識別
社會突發事件發生后,微博中會往往會產生群體情緒,其間意見領袖對群體情緒的演化及輿情研判影響極大。據拉扎菲爾德的定義,意見領袖指在某一主題內特別活躍且有極大影響力的用戶,所以本研究從如下兩個方面分析微博意見領袖:用戶影響力和用戶活躍度。
① 用戶影響力:微博中有三種交互行為可以作為影響力考慮因素。轉發行為,信息被轉發的次數越多,產生的影響越大;評論行為,信息得到的評論越多,意味著信息影響的范圍越廣; “@“行為,一個用戶被提及的次數越多,意味著這個用戶對其他用戶的吸引力越大。
② 用戶活躍度:意見領袖要對其他人施加影響,僅僅發布信息而不參與互動交流是無法影響到人們的觀點和意見。包括:原創微博數量,代表用戶表達自己思想的愿望;自回帖行為,反映用戶之間的交流活躍度;回復他人帖子數,反映對其他用戶的言論關注度;活躍天數,反映用戶對事件的關注持久度。
2.6 輿情指標體系
由網絡的海量個體信息中發掘群體行為規律,對確定突發事件的發展狀態以及對衍生事件的預警具有重要價值,可以實現對社會事件高效的輔助決策。本研究將指標評價體系劃分為:輿情主體、輿情信息、輿情傳播和輿情受眾4個指標,細述如下:
輿情主體指標:是指微博所有者的相關個人身份信息指標。
輿情信息指標:輿情信息指標反映了該輿情的敏感程度、危害程度以及受到關注的程度。
輿情傳播指標:輿情傳播指標反映了該輿情在傳播過程中的擴散效果。
輿情受眾指標:輿情的受眾指標反映了受眾所處的地域,對輿情的共鳴及回應態度。
3 結論
本文依據微博傳播特點,借助網絡信息挖掘、計算機中文信息處理等原理及技術,構建了一個微博輿情自動監測系統的實施方案,并對其關鍵技術進行研究。該方案涉及到博文自動抽取、中文分詞、文檔清洗(去停用詞)、中文計算機表達、文檔情感傾向判別、意見領袖識別、綜合輿情判斷等各專項技術,從而可為基于微博內容的網絡輿情自動監測及預警提供準確的依據。
參考文獻
[1]王曉龍,關毅.計算機自然語言處理[M].北京:清華大學出版社,2005.
[2]劉豐;基于微博的突發事件檢測和信息傳播建模[D];哈爾濱工業大學;2011年
[3]曉龍;突發事件的互聯網信息傳播規律研究[D];哈爾濱工業大學;2011年
[4]陳友,程學旗,楊森. 面向網絡論壇的突發話題發現[J]. 中文信息學報. 2010(03)
作者簡介
張利民,(1964-),女,甘肅蘭州人,1986年畢業于西北師范大學政法學院,獲得學士學位,副教授;主要研究方向:汽車技術服務與營銷。
鄒姝陽,(1990-),女,甘肅蘭州人,2013年畢業于中央財經大學,獲得學士學位,目前碩士就讀于香港中文大學新聞與傳播學院,主要研究方向:財經新聞,企業傳播。