基于ResNet?18網絡的城市生活垃圾識別方法研究

金張根，曹 楊，于紅緋，孫才華，劉 克

（1.遼寧石油化工大學人工智能與軟件學院，撫順 113001；2.遼寧石油化工大學信息與控制工程學院，撫順 113001）

0 引言

我國人口基數(shù)大、地域發(fā)展不平衡，在一些較為發(fā)達的地區(qū)，多數(shù)垃圾會被無害化回收處理。欠發(fā)達地區(qū)垃圾往往采用堆填埋的方法處理，這導致大量土地被垃圾所占用，進而導致土壤和地下水被污染［1］。垃圾分類作為一種有效防止垃圾污染，實現(xiàn)垃圾資源化的手段，既能實現(xiàn)資源的重復利用，又能給社會帶來經濟效益。所以一個準確且高效的智能垃圾分類系統(tǒng)對提高生態(tài)文明建設有著極其重要的作用［2］。

當前對于垃圾分類識別的研究有許多種方法，但最主要的兩種研究方法，一是基于手工特征的垃圾特征識別；二是基于神經網絡的生活垃圾識別。其中，通過卷積神經網絡來進行垃圾分類是較為高效的。卷積神經網絡（CNN）在計算機視覺領域扮演著非常重要的角色，在圖像分類、語義分割等方面取得了顯著的成就［3］。Yann Lecun 在1998 年提出來了基于CNN架構的結構簡單的LeNet5 模型［4］,該模型很好地解釋了CNN網絡所包含的主要結構，如輸入層、卷積層、全連接層、輸出層。2012年Krizhevsky等［5］提出了AlexNet 網絡，網絡中包含的ReLU激活函數(shù)使模型收斂的速度更快，

并且提出了通過數(shù)據(jù)增強和Dropout 來解決訓練過程中的過擬合問題。2014 年，VGG 模型誕生，多個卷積層加一個最大池化層的模型使得網絡模型得到了更深的擴展［6］。2014 年NiN網絡出現(xiàn)［7］，增加了模型的非線性擬合能力和特征信息的提取能力。同年GoodLeNet模型被提出，該模型主要提出了Inception 結構的模塊［8］，提出了多尺度卷積變換的思想，減少了計算量，并且提高了精準度。2015 年He 等［9］提出了殘差網絡模型ResNet，在一定程度上解決了深度網絡在訓練中準確率過低的問題，進一步提高了特征提取的能力。

城市生活垃圾圖像的信息豐富、目標尺寸多變，同類目標之間和不同類目標之間尺寸差別較大，并且目標形狀不規(guī)則，這些因素影響著不同目標的分類精度。

本文使用了深度學習的方法對城市生活垃圾進行識別研究。使用ResNet?18 卷積神經網絡搭建城市垃圾分類模型，采用經過預處理的Kaggle 數(shù)據(jù)集作為識別對象，進行模型的優(yōu)化和評估，最終探討模型用于城市垃圾分類。

1 ResNet原理及網絡結構

ResNet 殘差網絡是卷積神經網絡中最為經典的模型之一。該網絡通過在輸入層和輸出層之間添加跳躍鏈接層來有效解決卷積神經網絡隨著層數(shù)增加出現(xiàn)的梯度消失或梯度爆炸問題，能有效控制網絡收斂飛速下降和模型的泛化能力降低等一系列問題。ResNet 網絡提升了訓練超深神經網絡的速度，在深度增加的同時網絡性能也得以極大的提升。

ResNet 網絡提出“恒等映射”原理的目的是使網絡在增加層數(shù)的同時訓練誤差Loss 不會增加。原始狀態(tài)是網絡輸入x，得到輸出為H（x），通過殘差函數(shù)F(x)=H(x) -x，設置訓練目標將F(x)逼近于0，將其進行轉化，得到H(x)=F(x) +x，如圖1所示。

圖1 殘差塊結構原理

ResNet?8 網絡是最為經典的卷積神經網絡，網絡結構如表1 所示，假設輸入圖片的維度為（224，224，3），經過第一層Conv_1x 輸出圖像為（112，112，64），然后經過Conv_2x的極大池化層使得參數(shù)減少一半，此時圖像的維度變?yōu)椋?6，56，64），使用四層相同的卷積層處理圖像大小維度不變，依然為（56，56，64）；到達第三層Conv_3x，卷積核的數(shù)量為128，最后輸出的圖像大小為（28，28，128）；到達第四層Conv_4x，卷積核數(shù)量為256，經過特征提取之后的圖像大小維度變?yōu)椋?4，14，256）；同樣地，到達第五層Conv_5x 時卷積核數(shù)量為512，經過處理后的圖像大小維度為（7，7，512），最后到達全連接層使得圖像的維度變?yōu)椋?，1，512）。

表1 ResNet18網絡結構表

2 數(shù)據(jù)預處理和ResNet模型搭建

2.1 數(shù)據(jù)集獲取

本文采用2000年發(fā)布的使用最為廣泛的垃圾分類Kaggle 數(shù)據(jù)集進行城市垃圾分類識別自動檢測研究的數(shù)據(jù)集。Kaggle 數(shù)據(jù)集中主要包含城市中常見的生活垃圾，分別為可回收垃圾、廚余垃圾、有害垃圾、其他垃圾四類。提取了每種垃圾的一張圖片作為范例，如圖2所示。

圖2 Kaggle數(shù)據(jù)集樣本圖

實驗使用監(jiān)督學習的方法對神經網絡模型進行訓練。為每類分類識別數(shù)據(jù)設定了對應的標簽，如表2所示。

表2 數(shù)據(jù)集中不同垃圾對應的不同標簽

2.2 ResNet?18模型搭建

本文采用ResNet?18 的網絡結構進行生活垃圾分類實驗網絡搭建，網絡結構見圖3。

圖3 ResNet?18卷積神經網絡

此網絡模型中包括卷積層和全連接層在內，共有帶有權重的18 層，但不包括池化層和BN層。首先，ResNet?18 網絡中數(shù)據(jù)需要經過一個7×7的卷積層，然后經過四個殘差塊，每個殘差塊是由四個3×3 的卷積層構成，最后經過平均池化層（Avg pool）后得到結果。

3 網絡模型性能分析與評估

本研究硬件配置信息如下，實驗電腦的基本配置為：CPU 為Intel（R）Core（TM）i7?9750H、內存為16 GB DDR4、顯卡為GTX 1660Ti、操作系統(tǒng)為64 位Windows 10，編程軟件為PyCharm，框架為Pytorch。

3.1 網絡模型性能分析

選取Kaggle 數(shù)據(jù)集作為模型的輸入，該數(shù)據(jù)集中包含2940 張不同種類的生活垃圾圖片，圖片的大小均為256×256。將數(shù)據(jù)集按照7∶3的比例分為訓練集和驗證集。通過多次實驗確定各個參數(shù)，其中epoch 為150，學習率lr 為0.001，訓練的Batch_Size 為32，Dropout 的斷開概率為0.5。

圖4 是ResNet?18 神經網絡在訓練集和驗證集上的準確率雖訓練次數(shù)的變化。從圖4可以看出，訓練過程中ResNet?18 神經網絡在城市垃圾訓練集和驗證集上的準確率都是隨著訓練次數(shù)的增加呈現(xiàn)先快速增加后緩慢增加的趨勢，最后收斂。多次實驗表明，模型的準確率可達90%以上，且驗證曲線基本上與訓練的曲線一致，說明優(yōu)化參數(shù)之后的神經網絡擬合能力較好，識別各種生活垃圾的準確率達到了較為理想的效果。

圖4 ResNet?18在訓練集和驗證集上的準確率

圖5為神經網絡在訓練集和測試集上的Loss損失率隨訓練次數(shù)的變化。實驗表明，優(yōu)化參數(shù)后的神經網絡在訓練集和驗證集上的Loss 損失隨著訓練次數(shù)的增加先快速減小后緩慢減小，最后接近收斂。訓練集上的Loss 損失降低至0.25，驗證集的Loss損失減低至0.43，驗證曲線基本上與訓練的曲線趨勢一致，擬合度較高，說明優(yōu)化參數(shù)之后的神經網絡擬合能力亦有所提升，識別垃圾分類的錯誤率明顯降低。

圖5 ResNet?18在訓練集和驗證集上的損失

3.2 模型評估

模型評估將預測正確的樣本劃分為一類，預測錯誤的樣本劃歸另外一類。即將多分類問題轉變成了二分類問題。根據(jù)預測結果可將所有樣本分為四大類，即真實情況的正例、真實情況的反例、學習器預測出的正例、學習器預測出的反例，如表3所示。通過以上四個參數(shù)并不能直接判斷模型的優(yōu)劣，需進一步通過其組合形成的評估指標中的查準率P和查全率R確定模型的適用性。

表3 分類結果矩陣

查準率P（precision）表示預測正確的正樣本占所有預測為正例的比例，能反映完全正確的樣本的正確比例，是預測的底線。其計算公式如式（1）所示：

查全率R（recall）表示預測正確的正樣本占所有真實的結果為正例的比例，其計算公式如式（2）所示：

本文使用ResNet?18 卷積神經網絡識別城市生活垃圾的查準率和查全率的P-R關系如圖6所示，P-R 曲線反映出模型的平衡點出現(xiàn)在查全率在0.8、查準率在0.89 的時候，此時模型的綜合性能最佳，同時具備較好的泛化能力，對種類繁多、樣式各異的城市生活垃圾有較好的識別能力，結合本模型在驗證集上的準確率達到90.0%以上，此模型適合于城市垃圾分類識別的研究。

圖6 ResNet?18神經網絡垃圾分類識別P-R曲線

4 結語

卷積神經網絡可用于城市垃圾分類自動識別并具有較高的準確度。本文將Resnet?18 卷積神經網絡模型應用到城市生活垃圾的分類識別研究中。實驗結果表明，該模型在Kaggle 生活垃圾數(shù)據(jù)集上的訓練準確率到達90.0%，Loss損失可低至0.43。查準率和查全率兩項模型評價的指標顯示，模型的平衡點約在查全率為0.8、查準率為0.89 的時刻，其查準率和查全率皆比較理想。該模型的性能較好、泛化能力較強，為進一步對各類城市垃圾的自動識別分類提供了參考依據(jù)。