基于SVM 的新聞文本分類研究

吳銳妍 李夏永 才兆奕

（河南大學數學與統計學院，河南 開封 475004）

一、引言

一般情況下，大眾很少對于互聯網上正在發生的事情利用關鍵字檢索。整合相關新聞主題的綜合信息，包括新聞背景、當前進展、不同的觀點討論，不僅能為用戶提供更好的體驗，也有利于平臺對于用戶群體需求進行分析，優化升級。傳統新聞信息整理是由網站編輯手動操作的，十分費時費力，因此也很難做到實時更新。

以某公眾平臺賬號對于為例，其自定義菜單欄的內容推送只能由運營人員手動添加超鏈接跳轉到單一的推送消息，未能針對相關信息進行自動整合。新聞在跨越更長的時間后，價值大大降低。手動添加固定數量的新聞信息繁瑣而耗時，很多情況下只能選擇階段內相對重要的信息進行展示，無法體現新聞的時效性。

若利用算法自動收集整合相關新聞的所有信息，將其提供給用戶，將會大大提升工作效率。但算法的實用性以及準確性也需要一定的保證。現如今，數據已經成為新聞報道的驅動力。數據資料作為研究基礎，利用科學方法來分析處理數據，解構它將是我們的目標。希望能夠在實踐中學習并利用SVM即支持向量機理論進行中文短文本分類，并能夠對處理結果進行總結。

二、研究方法

SVM，即支持向量機理論對于處理微型樣本問題和非線性分類問題等多種復雜問題有其獨特的技術優點。人們把能使兩類數據準確分離且分離距離最優的平面稱為最優超平面，當數據是線性可分離時，最優超平面距離兩類點的邊距最大；當數據不是線性可分離時，利用損失函數對越過超平面的點進行懲罰或使用核變換，將非線性可分的數據轉化到高維度以便找到線性判定邊界。

SVM 嘗試尋找一個最優的超平面使得兩類樣本到這個平面的距離最大。樣本中距離超平面最近的一些點，決定超平面的選取，將這些點稱為支持向量。

任意超平面可以用下面的線性方程描述：

所有支持向量到超平面的距離可以寫為

兩類支持向量到超平面的距離之和為

由于原式中有不等式約束條件，因此需要滿足KKT 條件，即

對數據是非線性的情況，無法找到一個超平面使兩類樣本點完全分開，則利用軟間隔，相比于硬間隔的嚴格要求，我們允許個別樣本點越過超平面，即允許部分樣本點不滿足約束條件

三、實例分析

（一）數據預處理

本項目使用搜狗實驗室開放的搜狐新聞數據(SogouCS)的完整包進行該實驗。數據是xml 文件，需要用正則表達式篩選出我們需要的新聞標題和新聞類別。新聞類別可以從url 中獲取，比如，http://gongyi.sohu.com 的url 前綴對應的新聞類型就是“公益類”。

完整包中總計141196 篇新聞，一共18 個類別，但是經過篩選發現有些類別的新聞數量較少，因此，我們選擇了以下7 個類別進行實驗。

在這七個類別中隨機抽取20000 篇文章作為訓練樣本，隨機抽取5000篇文章作為測試樣本。

再對新聞標題使用jieba 分詞將標題劃分為若干個名詞。因為名詞在文本類別中起到主要作用，因此要停用一些與類別無關的通用詞。

接著再利用TF-IDF 對分詞后的標題進行特征抽取。利用sklearn 里的TfidfVectorizer 對標題進行TF-IDF 特征提取。

（二）加載SVM 模型

本項目利用sklearn 里的SVM 模型，對預處理好的標題和類別加載SVM 模型進行訓練，分別使用了多項式核，高斯核，sigmoid 核，線性核進行訓練，并且評測訓練的正確率，預測正確率最高的是線性核，達到了0.8762。結果如圖：

表1 訓練結果

四、結論

對于新聞分類系統模型，還需要長久的算法優化與測試。隨著網絡傳播的發展，互聯網新聞分類研究仍是具有很高的研究價值。結合群體極化、網絡暴力等現象分析，對網絡環境進行監管，研究輿論傳播規律。此方面研究能為新聞工作者、用戶提供諸多便利。希望能夠利用互聯網新聞分類系統與優化后的SVM 模型結合,使新聞信息更清晰直觀地呈現給用戶,提升工作人員對于新聞信息整合的效率，減少冗余數據對用戶的干擾,對于縮小城鄉數字鴻溝具有研究價值。