基于稀疏卷積神經網絡的考生識別算法

趙樹楓 周亮 羅雙虎 柯立新

摘 ?要： 針對傳統的圖像識別方法很難快速、準確地對考生進行識別從而驗證其身份，文中詳細地分析了卷積神經網絡的原理及特性，提出一種基于多通道輸入的稀疏卷積神經網絡的考生識別算法，并與支持向量機及傳統卷積神經網絡進行比較，實驗結果表明，該算法提高了考生識別的準確率，而且識別的速度大幅提高。

關鍵詞： 考生識別; 卷積神經網絡; 人臉識別; 身份驗證; 多通道輸入; 方法比

中圖分類號： TN911.73?34 ? ? ? ? ? ? ? ? ? ? ? 文獻標識碼： A ? ? ? ? ? ? ? ? ? ? ? ?文章編號： 1004?373X（2019）13?0061?04

Examinee recognition algorithm based on sparse convolutional neural network

ZHAO Shufeng1， ZHOU Liang2， LUO Shuanghu2， KE Lixin3

（1. University of Shanghai for Science and Technology， Shanghai 200433， China;

2. Network and Information Center， Shanghai Municipal Educational Examinations Authority， Shanghai 200433， China;

3. Information Center of the Shanghai Education Committee， Shanghai 200003， China）

Abstract： With the development of information technology， the face recognition technology is applied to various examinations， but the traditional image recognition method is difficult to identify the examinees quickly and accurately， and is uneasy to verify their identities. The principle and characteristics of convolutional neural network are analyzed in detail. An examinee recognition algorithm based on sparse convolutional neural network with multi?channel inputs is proposed， and compared with the algorithms based on support vector machine and traditional convolutional neural network. The experimental results show that the algorithm can improve the recognition accuracy and recognition speed of examinee significantly.

Keywords： examinee recognition; convolutional neural network; face recognition; identity authentication; multichannel input; method comparison

0 ?引 ?言

近年來，隨著信息技術的發展，人臉識別技術被應用到各項考試中，但傳統的圖像識別方法很難快速、準確地對考生進行識別從而驗證其身份。即使融合多種特征識別的方法，精度仍然提升有限，在一定程度上制約了人臉識別的發展。因此，如何更加高效、充分地利用海量數據，找到這些圖像數據的特征表達方式，提高考生識別準確率，更好地促進考試公平，是一個非常有意義的研究課題。

2006年，加拿大多倫多大學教授、機器學習領域的泰斗Geoffrey Hinton和他的學生Rus?lan Salakhutdinov 在《Nature》上發表了一篇文章，開啟了深度學習在學術界和工業界的浪潮[1]。2012年ILSVRC競賽中，Hinton 領導的團隊采用Alexnet模型在Imagenet數據分類比賽中取得了驚人的成績[2]，將1 000類分類的top?5誤差率降低到了15.3% 。針對傳統人工神經網絡的局限性，本文提取圖片的方向梯度直方圖（Histogram of Oriented Gradient，HOG）特征[3]作為卷積神經網絡的一個輸入通道，充分利用HOG算子處理邊緣輪廓信息和紋理信息的優勢，同時，為了降低來自卷積層特征的噪點污染[4]，利用稀疏自動編碼器進行特征稀疏化，提出一種基于多通道輸入的稀疏化卷積神經網絡的方法（Multi?Channel?Sparse?CNN，MCS?CNN），大大提高了考生識別的準確度和運行速度。

1 ?卷積神經網絡

卷積神經網絡是一種多層的監督學習網絡[4?5]，通過深度結構模擬人腦自動學習數據的本質特征。它對二維數據有很好的特征提取效果，其網絡結構具有權值共享、局部連接、池化采樣三大特點，可以大大減少權值數量，降低模型復雜度，具有強魯棒性，已成功應用于模式識別、物體檢測和物體識別等領域。卷積神經網絡一般由輸入層、卷積層、池化層和全連接層組成。

卷積層是CNN特有的層結構，本質上就是對來自輸入圖像的不同位置的矩陣和卷積核權重各個對應位置的元素進行相乘，然后相加得到卷積結果。卷積也稱為旋積或摺積，這里只考慮二維圖像中的卷積運算。卷積層計算公式如下：

2 ?MCS?CNN考生識別算法

首先對輸入圖像預處理，根據HOG特征提取方法，對HOG可視化生成HOG特征圖。圖1是生成HOG特征圖的一個示例。

圖1 ?生成HOG特征圖

相對于RGB模型，YUV顏色模型更符合人體輪廓特性，所以本文選用YUV模型。

MCS?CNN深度網絡結構主要分為4個部分：多通道輸入層、卷積層、稀疏特征層、分類層，如圖2所示。

2.1 ?多通道輸入

本文利用HOG處理圖像輪廓和邊緣的特性，將圖片和HOG特征圖連接成三個通道，如圖3所示。第一個通道是一個128×64的原圖顏色空間Y通道圖像;第二個通道分為4個大小相等的block，由3個64×32的YUV通道和1個64×32的全0矩陣組成;第三個通道同樣由4個大小相同的block組成，前3個block分別由YUV三個通道經過HOG處理形成的特征圖組成，最后一個block取前三個block的像素最大值。

圖2 ?MCS?CNN框架

圖3 ?圖片多通道處理

考慮到第一通道使用的是Y通道信息，與其他通道信息數值差距較大，所以對三個通道的數據進行歸一化處理。

2.2 ?卷積層

通過構建不同層數的結構來構建卷積層，第一層包含卷積層、激活層，可選層包括BN，Dropout，MaxPooling，該結構可以重復疊加;第二層包含全連接層，同樣可選BN，Dropout，MaxPooling。卷積層包含[M]個第一層和[N]個第二層兩個部分，采用3×3的濾波器對輸入信息進行卷積運算，提取到的特征進入全連接層，通過全連接層將特征整合為一維向量，為進入稀疏層做準備。

2.3 ?稀疏層

考生識別最重要的就是學習到顯著有效的特征，稀疏自動編碼器可以提高特征的表達能力，從而提升網絡的準確率。所以本文采用它對來自卷積層的特征進行稀疏編碼，目的是剔除特征中的噪點，同時使特征稀疏化，便于后續的分類操作。訓練稀疏自動編碼器時，將來自卷積層的輸出作為稀疏自動編碼器的輸入（隱藏層神經元有200個），根據權重和輸入向量的加權組合加上偏置量得到輸出，前向過程公式如下：

根據前向計算和反向傳播來訓練第一個隱藏層的參數。同理，采用同樣的方法訓練第二個隱藏層的參數。模型不斷迭代更新權重，得到參數[W，b]。當然稀疏自動編碼器只是自動提取和優化特征，并不具備分類的功能，這里選用通用的softmax分類器。

2.4 ?MCS?CNN算法流程

輸入：圖片訓練集和測試集

步驟：

1） 多通道輸入;

2） 對三個通道進行歸一化處理，通過卷積層和池化層得到特征圖;

3） 將特征圖送入稀疏自動編碼器，得到參數[W，b];

4） 最后將稀疏層的輸出連接全連接層，利用softmax得到考生的分類結果;

5） 根據反向傳播算法，不斷訓練迭代更新網絡的參數，直到損失函數收斂到一個較小的值;

6） 輸入測試集，進行模型評估和模型更新。

3 ?實驗與分析

3.1 ?模型訓練

訓練數據集選自上海某年度成人高考數據庫，共選取1 000個考生的準考證照片與身份證照片進行比對。為防止過擬合，本文采用調節圖片亮度、飽和度、對比度、隨機裁剪、旋轉和仿射變換，模糊處理等方法進一步擴充數據量。

3.2 ?卷積層數選取

首先建立一個小型網絡，卷積層數量為2。在第一個卷積層中用32個3×3的濾波器對圖片進行步長為1的卷積;第二個卷積層中，采用64個3×3的濾波器進行卷積，其他參數不變，ReLU作為激活函數。全連接層中有512個神經元，softmax作為損失函數。接下來，增加網絡深度，建立4層卷積網絡和2層全連接層，卷積層過濾器的個數分別取32，64，128，256個，在全連接層中分別取256和512個神經元。

如表1所示，隨著網絡層數的增加，準確率呈現先增后降的趨勢，整體變化不大，但檢測時間大幅增加。由于本身輸入通道的尺寸較小，不斷增加卷積層的層數在初期可以去除噪聲，提升提取特征的純度。但隨著層數的增加和池化等操作會損失圖片信息，從而影響特征的提取和識別結果。綜上，同時考慮準確率、召回率和檢測時間，這里取4層卷積網絡對樣本集進行特征提取，網絡模型結構確定后，使用MCS?CNN模型與其他算法進行對比。

表1 ?不同層數的MCS?CNN的實驗結果

3.3 ?算法比較

選取上海某高中200名高二學生進行實驗，統計得出MCS?CNN的準確率為95%，CNN的準確率為88%。CNN誤檢了24個學生，而MCS?CNN誤檢了10個學生，誤檢測率顯著降低。此外，用上述的200個學生的照片與身份證數據庫的照片進行比對，對HOG?SVM，傳統CNN和MCS?CNN三種檢測算法進行對比分析，結果如表2所示。

表2 ?三種檢測算法的準確率和檢測速度對比

由表2分析可知，MCS?CNN模型準確率最高，為93.11%，與SVM?HOG相比，檢測準確率高出13.59%，與CNN相比，準確率高出9.38%。MCS?CNN方法的檢測速度明顯快于SVM?HOG方法，略快于CNN。

相較于傳統人工提取特征HOG和單純使用原圖作為輸入的CNN來說，本文算法集成了HOG的優點，利用CNN來自動提取特征，同時通過稀疏自動編碼器來優化特征，故在整體檢測性能上得到了有效提升。

4 ?結 ?語

本文提出一種基于多通道輸入的稀疏卷積神經網絡的考生識別算法。在傳統CNN的基礎上，改變圖片作為網絡輸入的傳統模式，將圖片與HOG相結合的多通道信息作為輸入向量，然后利用稀疏自動編碼器進行特征稀疏化，降低來自卷積層特征的噪點污染。實驗結果表明，MCS?CNN模型不但繼承了傳統人工神經網絡的高效性，同時提高了檢測的準確率，將其應用到各類考試中能更好地促進考試公平。

注：本文通訊作者為周亮。

參考文獻

[1] 丁春輝.基于深度學習的暴力檢測及人臉識別方法研究[D].合肥：中國科學技術大學，2017.

DING Chunhui. Violence detection and face recognition method based on deep learning method [D]. Hefei： University of Science and Technology of China， 2017.

[2] KRIZHEVSKY A， SUTSKEVER I， HINTON G. ImageNet classification with deep convolutional neural networks [C]// Proceedings of the 25th International Conference on Neural Information Processing Systems. Lake Tahoe： ACM， 2012： 1106?1114.

[3] 柳慶.基于深度學習的人臉檢測算法[EB/OL].[2018?09?29]. https： //wenku.baidu.com/view/87d1e255bc64783e0912a21614?791711cc7979a1.html.

LIU Qing. Face detection algorithm based on depth learning [EB/OL]. [2018?09?29]. https：//wenku.baidu.com/view/87d1e?255bc64783e0912a21614791711cc7979a1.html.

[4] 蘇楠，吳冰，徐偉，等.人臉識別綜合技術的發展[J].信息安全研究，2016，2（1）：33?39.

SU Nan， WU Bing， XU Wei， et al. Development of face recognition integrated technology [J]. Journal of information security research， 2016， 2（1）： 33?39.

[5] PARKHI O M， VEDALDI A，ZISSERMAN A. Deep face recognition [C]// 2015 British Machine Vision Conference. England： ACM， 2015： 713?719.

[6] ZHU Ningbo， LI Shengtao. A kernel?based sparse representation method for face recognition [J]. Neural computing and applications， 2014， 24（3/4）： 845?852.

[7] SUN Yi， WANG Xiaogang， TANG Xiaoou. Deeply learned face representations are sparse， selective， and robust [C]// 2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston： IEEE， 2015： 1?12.

[8] 錢程.基于深度學習的人臉識別技術研究[D].成都：西南交通大學，2017.

QIAN Cheng. Face recognition based on deep learning [D]. Chengdu： Southwest Jiaotong University， 2017.

[9] 郭麗麗，下世飛.深度學習研究進展[J].計算機科學，2015，42（5）：28?32.

GUO Lili， XIA Shifei. Research progress of deep learning [J]. Computer science， 2015， 42（5）： 28?32.

[10] 張延安，王宏玉，徐方.基于深度卷積神經網絡與中心損失的人臉識別[J].科學技術與工程，2017，17（35）：92?97.

ZHANG Yanan， WANG Hongyu， XU Fang. Face recognition based on deep convolution neural network and center loss [J]. Science technology and engineering， 2017， 17（35）： 92?97.