倪 鵬, 黃 蔚, 呂 巍, 姚 禹
(1.長春工業大學 應用技術學院, 長春 130012; 2.長春工業大學 軟件職業技術學院, 長春130012;3.吉林大學 計算機科學與技術學院, 長春 130012)
基于Zernike矩特征的FCM-RBF神經網絡圖像分類器
倪 鵬1,2, 黃 蔚3, 呂 巍3, 姚 禹1
(1.長春工業大學 應用技術學院, 長春 130012; 2.長春工業大學 軟件職業技術學院, 長春130012;
3.吉林大學 計算機科學與技術學院, 長春 130012)
針對交通監控圖像識別精度較差的問題, 設計一種基于徑向基(radial-basis)函數神經網絡的圖像分類器.該分類器利用Zernike矩噪聲敏感度較小、形狀特征穩定性好的特點, 構建四階矩的特征向量, 用于特征提取; 利用自適應模糊聚類方法, 解決徑向基函數神經網絡隱層節點數不確定的問題.仿真分析表明, 該分類器與基于改進的快速模糊C均值聚類算法的Back Propagation網絡分類器和徑向基函數神經網絡分類器相比具有更高的識別率, 與改進的粒子群優化模糊C均值聚類算法的徑向基函數神經網絡分類器相比具有相近的識別率, 但其計算復雜度較低.仿真實驗結果表明, 該方法具有較好的分類能力及較高的計算效率.
Zernike矩; 模糊C均值; 徑向基神經網絡; 圖像分類器
隨著交通智能化監控和智能化管理水平的日趨提高, 每天都產生大量的監控圖像, 通常需要人工對這些數量龐大的圖像進行分類和篩選, 耗時耗力, 因此如何對這些圖像信息進行有效識別和快速分類已成為亟待解決的問題.典型的圖像識別過程分為圖像處理、特征提取、分類器設計三部分.圖像處理指對設備獲取的圖像進行增強、復原和去噪等處理, 一般還需進行圖像分割, 便于提取有用信息; 特征提取指通過數學變換將二維圖像矩陣轉換成一個多維列向量[1]的過程, 目前用于圖像識別的特征主要有紋理、顏色(灰度)的統計特征、圖像代數特征、邊緣特征和圖像變換系數特征[2]; 分類器設計指設計判決函數模型, 實現圖像分類, 常用的分類器設計方法有模板匹配法、判別函數分類法、基于規則推理法和神經網絡分類法等.
本文針對交通監控圖像的識別問題, 應用Zernike矩[3]噪聲敏感度較小和形狀特征穩定性好的特點, 構建四階矩的特征向量, 用于特征提取; 利用徑向基函數(radial-basis function, RBF)[4]神經網絡學習速度快、并能有效避免局部極小值的特點, 設計一種基于RBF神經網絡的圖像分類器, 并針對其隱層節點數的不確定問題, 給出一種自適應模糊聚類方法, 從而實現RBF神經網絡隱節點參數的自適應確定.仿真實驗驗證了該分類器具有較高的泛化性能.
Zernike矩是一組正交矩[5], 與Hu矩相比, 盡管計算復雜, 但能構造任意的高階矩, 具有較好的特征表達能力, 且噪聲敏感度較小.
對于圖像f(x,y),n階Zernike矩定義為
對于實二維圖像, 其Zernike矩Anm為復數; 對數字圖像, 積分用求和代替:
其中x2+y2≤1.極坐標下Zernike矩的定義為
Zernike矩是基于圖像區域的形狀描述子, 且其基是正交徑向多項式, 因此具有旋轉不變性, 且易于構造高階矩.本文以圖像一至四階Zernike矩的模組成特征向量, 進行特征提取.如圖1所示, 對越野車原始圖像、小角度旋轉圖像、運動模糊圖像和加噪干擾圖像共4幅圖像, 分別提取各自Zernike矩的模(|A1|-|A4|), 實驗結果列于表1. 由表1可見, 四階Zernike矩特征[6]提取方法, 在圖像旋轉、運動模糊及噪聲干擾情況下, 均表現出較好的穩定性, 適用于交通監控圖像的特征提取.

圖1 實驗圖像Fig.1 Experimental images

表1 4類圖像實驗結果Table 1 Four kinds of experimental results
2.1RBF神經網絡

圖2 RBF神經網絡結構Fig.2 RBF neural network structure
RBF神經網絡[7-8]的結構如圖2所示.RBF網絡通常為三層的前饋網絡: 第一層是輸入層, 輸入特征空間模式的特征值, 輸入節點直接與第二層的各神經元相連; 第二層是RBF網絡的隱神經元層, 其隱神經元數量可隨問題的復雜程度變化, 給出了RBF網絡中對輸入矢量所做的非線性變換; 第三層是線性神經元層, RBF神經元的輸出和第三層的線性神經元以一定權值相連, 分類器的輸出只是這些激活函數的加權線性和.輸出層提供了從隱單元空間到輸出空間的一種線性變換.圖2中:x={x1,x2,…,xn}T∈n為輸入矢量;w={w1,w2,…,wn}∈m為輸出層權矢量;wo為輸出單元偏移量;f(x)為網絡輸出.
假設網絡輸入層、隱含層和輸出層的神經元個數分別為ni,nh和no, 則網絡可實現輸入輸出之間的如下映射關系:

其中:x={x1,x2,…,xn}T∈n為輸入向量;yi為第i個神經元的輸出值;wij為第j個隱單元到第i個輸出單元的權重; ‖·‖為歐氏范數;cj為第j個隱單元的中心;Φ(·)為徑向基函數.本文選取Gauss核函數形式:

其中σ決定了該基函數繞中心的寬度.
2.2自適應模糊C均值聚類算法
RBF神經網絡[9]具有拓撲結構簡單和學習過程透明等優點, 但無法確定合適的隱層單元個數, 過于龐大的隱層單元會降低學習效率和映射性能[10].在一般訓練方法中, 隱節點數是定值, 與核函數的初始中心一起憑經驗給出, 如果對不同類別的特征掌握較少, 則經驗數據會出現較大的偏差, 影響網絡的分類性能.針對此問題, 本文引入FCM(fuzzyC-means)聚類[11]思想, 針對FCM必須預先確定聚類個數, 具有較大的主觀性和依賴性問題, 給出一種能自動確定聚類個數的自適應FCM聚類算法, 以聚類個數確定網絡節點個數, 將聚類中心和聚類半徑分別作為RBF節點基函數的中心和寬度, 從而實現了RBF網絡的自適應確定.
模糊C均值算法目標函數的一般形式為

該算法的目的是將該目標函數最小化, 其約束條件為
其中:n表示樣本總數;c表示聚類中心數;U=(uik)n×c為隸屬度矩陣;uik是矩陣U的第i行第k列元素, 表示第k個數據樣本對第i個聚類中心的隸屬度;m∈[1,+∞)是一個加權指數;V={v1,v2,…,vc}為聚類中心矩陣;Jm是類內誤差的加權平方和目標函數.
隸屬度矩陣U為
模糊聚類中心vi為
通常采用交替優化分配矩陣U和聚類中心矩陣V的迭代算法得到一個局部極小解.FCM算法通過迭代式(8),(9)達到目標函數, 實現數據集的模糊聚類.雖然FCM算法是一種無監督的分類算法, 但加權指數m和聚類類別數c必須在聚類分析前給出, 最初的方法通常是經驗性的, 目前的研究多集中在聚類有效性判別函數上, 如基于可能性分布的判別函數、基于模糊相關度的判別函數[11]及基于子集測度的判別函數等.本文給出一種自適應聚類算法, 在加權指數選擇上, 令m=2.算法如下:
1) 選定聚類有效性函數, 初始化聚類個數c=2, 最優聚類個數c*=2, 設置迭代截止誤差ε(ε>0)、算法最大迭代次數Tmax、算法最大聚類個數cmax和隨機初始化類中心矩陣V= {v1,v2,…,vc}, 令t=0;
2) 應用式(8)產生初始隸屬度矩陣U(t=0);
3) 對t=1,2,…,Tmax, 用式(9)計算聚類中心矩陣V, 用式(8)計算隸屬度矩陣U(p);
4) 若‖V(t)-V(t-1)‖<ε, 則停止迭代, 收斂后得到一組權值矢量Vi(i=2,3,…,cmax); 否則, 轉3);
5) 計算對應于當前神經網絡的聚類有效性函數值Value(c,X,V),V={v2,v3,…,vcmax}; 若Value>Value*(或Value 6) 增加一個聚類, 令c=c+1, 若c 該算法的最終結果Value*即為最大(或最小)的聚類有效性函數值, 對應的c*為最優的聚類數目, 相應聚類結果即為最優的聚類結果, 本文采用式(6)作為聚類有效性函數. 實驗選用某段交通監控視頻中提取的車輛圖像, 包括小型車(轎車)、中型車(越野車、商用三廂車)和大型車(公交車、卡車)共3類.每類選取1 000張圖像, 建立共3 000張圖像的訓練樣本集, 使用四階Zernike矩特征提取方法提取圖像特征向量, 通過自適應FCM算法確定RBF網絡節點及參數, 用反傳算法完成隱層和輸出層之間連接權值的訓練; 另取每類500個樣本, 組成共1 500張圖像的測試樣本集, 用于測試網絡泛化性能.為便于比較, 建立隱層為Sigmod函數的4-7-3前饋網絡, 使用學習率0.3、動量因子0.35的反向傳播算法完成網絡訓練.實驗結果列于表2.由表2可見, 基于Zernike矩特征的FCM-RBF網絡, 在相同計算條件下, 與其他3種分類器相比可節省5~6 s的計算時間, 具有較好的圖像分類能力及較高的計算效率, 可用于交通監控圖像識別工作. 表2 網絡泛化性能實驗結果Table 2 Experimental results of network generalization performance 綜上所述, 本文針對交通監控圖像的識別問題, 構建了四階Zernike矩特征向量, 提出了一種基于RBF神經網絡的圖像分類器, 并針對其隱層節點數不確定問題, 給出了一種自適應模糊聚類方法, 實現了RBF神經網絡隱節點參數的自適應確定.實驗結果表明, 該方法具有較好的分類能力及較高的計算效率, 在交通監控圖像識別領域有較高的應用價值. [1]李青松, 覃錫忠, 賈振紅, 等.基于NSCT和FCM聚類的SAR圖像無監督變化檢測 [J].激光雜志, 2013, 34(4): 20-22.(LI Qingsong, QIN Xizhong, JIA Zhenhong, et al.An Unsupervised Change Detection of SAR Images Based on NSCT and FCM Clustering [J].Laser Journal, 2013, 34(4): 20-22.) [2]Rovithakis G A.Robust Neural Adaptive Stabilization of Unknown Systems with Measurement Noise [J].Systerms, Man, and Cybernetics, Part B: Cybernetics, 2002, 29(3): 453-459. [3]姜邁, 梁煒, 張曉鈴, 等.Zernike亞像素圖像矩邊緣檢測算子方向角模型研究 [J].傳感器與微系統, 2013, 32(2): 16-19.(JIANG Mai, LIANG Wei, ZHANG Xiaoling, et al.Research on Sub-pixei Zernike Moments Edge Detecting Operator Based on Direction Angle Model [J].Transducer and Microsystem Technologies, 2013, 32(2): 16-19.) [4]張黎明, 蔡琦, 宋梅村.基于RBF神經網絡的NPP運行狀態趨勢預測 [J].原子能科學技術, 2013, 47(11): 2104-2107.(ZHANG Liming, CAI Qi, SONG Meicun.Trend Prediction of NPP Operating Conditions Based on RBF Neural Network [J].Atomic Energy Science and Technology, 2013, 47(11): 2104-2107.) [5]戴修斌, 張輝, 舒華忠, 等.基于正交矩模糊和仿射混合不變量的圖像識別算法 [J].東南大學學報: 自然科學版, 2011, 41(1): 52-57.(DAI Xiubin, ZHANG Hui, SHU Huazhong, et al.Image Recognition Algorithm Based on Combined Blur and Affine Invariants of Legendre Moment [J].Journal of Southeast University: Natural Science Edition, 2011, 41(1): 52-57.) [6]李了了.基于Zernike矩的字符特征選擇 [J].內江師范學院學報, 2008, 23(6): 49-51.(LI Liaoliao.Choose of Character Feature Based on Zernike Moment [J].Journal of Neijiang Normal University, 2008, 23(6): 49-51.) [7]黎俊鋒, 朱鋒峰.基于樣本密度的FCM改進算法 [J].科學技術與工程, 2007, 7(4): 636-638.(LI Junfeng, ZHU Fengfeng.Improved FCM Algorithm Based on the Density of Samples [J].Science Technology and Engineering, 2007, 7(4): 636-638.) [8]於世為, 諸克軍, 郭海湘.基于MPSO-BP的RBF網絡自構建學習算法 [J].系統工程與電子技術, 2010, 32(3): 624-629.(YU Shiwei, ZHU Kejun, GUO Haixiang.Self-generated Training Algorithm of RBF Neural Networks Based on MPSO-BP [J].Systems Engineering and Electronics, 2010, 32(3): 624-629.) [9]葉健, 葛臨東, 吳月嫻.一種優化的RBF神經網絡在調制識別中的應用 [J].自動化學報, 2007, 33(6): 652-654.(YE Jian, GE Lindong, WU Yuexian.An Application of Improved RBF Neural Network in Modulation Recognition [J].Acta Automatica Sinica, 2007, 33(6): 652-654.) [10]王士龍, 徐玉如, 萬磊, 等.基于邊界矩和改進FCM聚類的水下目標識別 [J].系統工程理論與實踐, 2012, 32(12): 2809-2815.(WANG Shilong, XU Yuru, WAN Lei, et al.Underwater Targets Recognition Based on Contour Moment and Modified FCM Algorithm [J].Systems Engineering: Theory & Practice, 2012, 32(12): 2809-2815.) [11]蒲蓬勃, 王鴿, 劉太安.基于粒子群優化的模糊C-均值聚類改進算法 [J].計算機工程與設計, 2008, 29(16): 4277-4279.(PU Pengbo, WANG Ge, LIU Tai’an.Research of Improved FuzzyC-Means Algorithm Based on Particle Swarm Optimization [J].Computer Engineering and Design, 2008, 29(16): 4277-4279.) ImageFCM-RBFNeuralNetworkClassifierBasedonZernikeMomentFeatures NI Peng1,2, HUANG Wei3, Lü Wei3, YAO Yu1 In order to solve the problem of nonhigh image recognition accuracy for traffic monitoring, an image classification was proposed based on radial basis function (RBF) neural network.Zernike array less noise sensitivity, shape features and good stability were considered to build a fourth-order array feature vector for feature extraction; and an adaptive fuzzy clustering method fuzzyC-means was used to solve hidden neurons uncertain of RBF neural network.The simulation analysis shows that the classifier has a higher recognition rate than the classifier based on fuzzyC-means clustering algorithm of BP and RBF neural network, a lower computational complexity than RBF neural network classifier with particle swarm of fuzzyC-means clustering algorithm, though they have similar recognition rate.Simulation and experiments show that this method has better classification capabilities and higher computational efficiency. Zernike moment; fuzzyC-means; radial basis function neural network; image classifier 2014-04-30. 倪 鵬(1980—), 男, 漢族, 碩士, 講師, 從事嵌入式系統開發與物聯網的研究, E-mail: nipeng@mail.ccut.edu.cn.通信作者: 黃 蔚(1977—), 男, 漢族, 碩士, 工程師, 從事嵌入式系統與單片機系統的研究, E-mail: hwei@jlu.edu.cn. 吉林省教育廳“十二五”科學技術研究項目(批準號: 2014146)和吉林省科技發展計劃重點科技攻關項目(批準號: 20140204033GX). TP335 A 1671-5489(2014)06-1284-05 10.13413/j.cnki.jdxblxb.2014.06.33 韓 嘯)3 實驗結果與分析

(1.CollegeofAppliedTechnology,ChangchunUniversityofTechnology,Changchun130012,China;
2.SchoolofSoftTechnology,ChangchunUniversityofTechnology,Changchun130012,China;
3.CollegeofComputerScienceandTechnology,JilinUniversity,Changchun130012,China)