改進殘差網絡的海水養殖魚類識別與分類研究

季星宇 趙雪峰 陳榮軍 仲兆滿

摘? 要： 為了滿足海水養殖行業不斷提高的智能化需求，對海洋魚類的識別和分類算法進行研究。采用多重殘差網絡進行魚類識別及分類，不僅降低計算復雜度，同時加快了殘差網絡的學習速度；引入指數線性單元（ELU）改進網絡的標準殘差模塊，對輸入的負激活值部分進行非線性變化，其參數可通過卷積訓練進行自適應學習，同時保持正激活值部分不變，解決了傳統殘差模塊中ReLU層將包含有用信息的負激活值完全丟棄的問題，以降低梯度消失的概率。在海洋魚類識別與分類的多次實驗中，改進的殘差網絡準確率均不低于95.48%，表明改進算法擁有較高的識別準確率和良好的穩定性。

關鍵詞： 海水養殖； 魚類識別； 殘差網絡； 指數線性單元； 激活函數

中圖分類號：TP391.4? ? ? ? ? 文獻標識碼：A? ? ?文章編號：1006-8228（2023）09-101-05

Improved residual network and its application in intelligent mariculture

Ji Xingyu， Zhao Xuefeng， Chen Rongjun， Zhong Zhaoman

（College of Computer Engineering， Jiangsu Ocean University， Lianyungang， Jiangsu 222000， China）

Abstract： In order to meet the increasing intelligent needs of mariculture industry， the recognition and classification algorithms of marine fish are studied. A multiple residual network is used for fish recognition and classification. This network not only reduces computational complexity， but also accelerates the learning speed of the residual network. Exponential linear unit （ELU） is introduced to improve the standard residual module of the network， which performs nonlinear changes on the negative activation value portion of the input. Its parameters can be adaptively learned through convolution training， while maintaining the positive activation value portion unchanged. It solves the problem of completely discarding the negative activation value containing useful information in the ReLU layer of the traditional residual module， and reduces the probability of gradient disappearance. In many experiments on marine fish recognition and classification， the accuracy of the improved residual network has reached 95.48% or more， which indicates that the improved algorithm has a high recognition accuracy and good stability.

Key words： mariculture; fish recognition; residual network; exponential linear unit（ELU）; activation function

0 引言

我國是水產品養殖大國，水產品養殖已超過世界水產產量的70%，是我國國民經濟的重要來源之一[1]。在海水養殖業，由于海水產品種類多，品類價值差距大，因此對海水產品的種類識別在養殖、捕撈、加工等程序中顯得格外重要。本文針對海水魚類養殖業進行魚類識別算法的研究。

傳統機器視覺識別技術通過對魚類圖像進行圖像處理技術，提取其特征值并構建模型，通過模型對魚類進行分類識別。國內外有關圖像處理的研究已有較多成果。吳一全[2]等人采用一種多核的最小二乘類型支持向量機（LS-SVM），以灰度共生矩陣來提取鳙魚、鳊魚、鯽魚、青魚和草魚等五種魚類的紋理特征，經過實驗，其識別準確率超過80%。姚潤璐[3]等通過分割魚體獲得相關魚類圖像，提取這些圖像中的魚類紋理特征和形狀特征，構建相關模型，其模型識別準確率達到75%。胡燦[4]等人提出結合主成分分析算法（PCA）和粒子群優化算法（PSO），對圖像處理所提取到的魚類顏色、形態、紋理等25個特征值進行降維、優化，通過所得到的數據生成極限學習機（Extreme Learning Machine，ELM），實驗表明魚類分類識別準確率達到96.67%。這些傳統機器視覺識別方法的特征提取部分較為復雜并且需要依賴人工選擇，識別精度也無法完全滿足現實需求[5]。

隨著人工智能技術、機器學習技術、計算機視覺技術等不斷發展，深度神經網絡在圖像分類與識別中的優異表現被研究者所青睞。2012年Krizhevsky[6]利用5個卷積層和3個全連接層構建淺層網絡，在ILSVRC競賽中表現優異，取得了38.1%的Top-1錯誤率以及16.4%的Top-5錯誤率。2014年，VGGNet[7]首次將網絡的深度增加到了19層，在ILSVRC競賽上表現優異，其24.7%的Top-1錯誤率和7.3%的Top-5錯誤率的表現令人贊嘆。深度神經網絡的表現能力也隨著網絡深度的不斷增加而日益增強[8]。然而，再增加網絡深度并不能在網絡深度達到一定程度時帶來理想效果。為解決網絡深度的增加而帶來的網絡退化的問題，He[9]等人提出了深度殘差網絡，緩解了網絡深度增加帶來的梯度爆炸等問題，同時殘差網絡在分類和識別方面的精確度也有了很大的提高。但深度殘差網絡中一般采用的ReLU函數對負激活值部分表現并不理想。

本文以六種海洋魚類為代表，構建所需的魚類圖片數據集，并提出一種基于多重殘差網絡的海水養殖魚類識別模型，將準殘差函數中的BN層和ReLU層用指數線性單元（exponential linear unit，ELU）來代替。并對模型進行測試及性能優化分析。

1 引入ELU的ResNet算法改進

1.1 ResNet分析

原始殘差單元是由卷積層（CONV）、批處理歸一化層（BN）和非線性激活函數ReLU層組成的標準殘差單元組成。我們將第L個殘差單元的輸入定義為[xl]，則輸出[xl+1]可表示為如下的數學計算：

[xl+1=f（xl+F（xl，ωl））] ⑴

其中，[ωl]是該殘差函數對應的權重參數; [F（xl，ωl）]是標準殘差函數；[f（?）]為非線性激活函數。其中[xl]和[F（xl，ωl）]需要保持維度相同。如果[xl]和[F（xl，ωl）]的維度不一樣，我們使用一個線性映射[ωs]將兩者維度匹配。公式⑴可以改成以下形式：

[xl+1=f（ωsxl+F（xl，ωl））] ⑵

對于網絡中的前饋神經網絡，一般需要前向傳播輸入信號，然后反向傳播誤差并使用梯度方法更新參數。舉例說明，當第L層某參數的更新需要計算損失[ε]對其梯度的影響，該梯度依賴于該層的誤差項[δ（l）]，[δ（l）=?ε?z（l）]，根據鏈式法則，[δ（l）]又依賴于后一層的誤差項[δ（l+1）]。

[δ（l）=?z（l+1）?z（l）?δ（l+1）] ⑶

若網絡單元的輸入與輸出保持維度一致，則定義[γ（l）??z（l+1）?z（l）]，于是有：

[δ（l）?γ（l）δ（l+1）] ⑷

當[γ（l）<1]時，第L層的誤差項較后一層減小，當許多層都如此時，就會造成梯度逐漸消失的反向傳播，即使更新了底層的參數也不能做到這一點，這就是梯度彌散（或梯度消失）的問題。

1.2 指數線性單元（ELU）的構建

在殘差模塊中，雖然BN層和ReLU激活函數的組合可以實現梯度消失問題的緩解和通過ReLU函數的加速收斂，但是當ReLU函數收到的激活值小于0時，如果激活值不能相互抵消（即均值為0），就會對下一層的輸入產生偏置值。當單元越來越多時，其偏移就會越來越大，導致下一層的輸入無法保持相近的分布狀態。為緩解這種問題當ReLU函數接收道德激活值小于0時，直接忽略負激活值。因此本文將標準殘差模塊中的BN層和ReLU層組合用指數線性單元（exponential linear unit，ELU）替代，如圖1所示。相較于ReLU函數，ELU對輸入的負激活部分進行有符號的非線性變化，其參數可通過卷積訓練進行自適應學習，同時保持正激活值部分不變。ELU的表達式如下所示：

[f（x）=x，x>0α（exp（x）-1），x≤0] ⑸

其中[α]是一個隨機的參數，它控制負值部分在何時飽和，以此達到處理負值信息的目的。，由ELU函數在負激活處的定義可以看出，負激活值部分也可以攜帶有用信息并被使用，其在負激活值部分的非線性變換可以減小偏置變換，這使得標準梯度接近自然梯度，從而能夠加快訓練速度。ELU表達式表明在負激活值的處理方式要優于傳統的ReLU激活函數。

研究發現，深度殘差網絡的每一個百分比的提升都需要顯著增加層數，這也增加了網絡計算和存儲的成本。為此，我們使用了多殘差網絡（Multi-Resnet）來緩解這一難題。

1.3 改進的多重殘差網絡

對于原始的殘差網絡來說殘，其最大的問題是殘差模塊中函數[f（?）]是非線性激活函數。當為了提升準確而不斷增加網絡深度的時候，激活函數[f（?）]會使得反向傳播的梯度值趨于零，這就延緩了信息流在網絡中傳播的速度，也就增加了網絡的訓練時間。為此，改進的殘差單元中將激活函數[f（?）]替換為恒等映射函數。在恒等映射函數下，公式⑴中殘差單元的輸出則可以形式化為

[xl+1=xl+F（xl，ωl）] ? ⑹

本文將標準殘差函數形式改為多個相同殘差函數的和，保持深度固定的同時，拓展其寬度，其表現形式如下：

[xl+1=xl+i=1kF（xl，ωl）]? ⑺

我們選用上文的改進的殘差單元作為殘差網絡中的多個殘差單元，其可以更好地緩解殘差網絡梯度消失的問題，多重殘差網絡可以在保持深度固定的同時，通過增加每個殘差單元中殘差函數的數量來提高網絡訓練速度。將殘差模塊中的殘差函數進行分組，并將其分配給不同的GPU進行計算，通過多GPU并行操作，來提高網絡的訓練速度。改進后的多重殘差網絡如圖2所示。

2 實驗與結果分析

2.1 海水養殖魚類數據集的制作

本文研究采用網絡部分公開數據集和用網絡爬蟲的方式獲取的相關圖像構成本文所用數據集（如圖3所示），實驗選擇了六種海魚作為研究對象，分別是長鰭金槍魚（ALB）、肥壯金槍魚（BET）、海豚魚（DOL）、月亮魚（LAG）、灰鯖鯊（SHARK）和黃鰭金槍魚（YFT）。

網絡爬蟲獲取的魚類圖像可能存在尺度不一、格式不定等問題，因此需要對獲取的圖像進行統一數據預處理。采用圖像批處理的方式，將所有圖像數據存儲格式統一為.jpg格式，按照不同魚類進行分別存儲。

數據增強是在保證不改變數據類型的前提下，對原始數據進行相關操作，以增加所需數據的多樣性，數據增強使這些圖像的像素點矩陣中的像素點發生變化，因此這些圖像在模型訓練的過程中得到不同的矩陣特征，經過訓練和學習后，對原始圖像進行樣本擴展，從而達到增強數據集的目的。翻翻、裁剪、縮放等常用的資料增強方法。通過數據增強（如圖4所示）可以提高殘差網絡的泛化能力，同時能彌補魚類圖像數據集資源匱乏之不足的問題。

通過數據增強的方式，共獲得3940張魚類圖像，并以這些圖像組成本文數據集。其中80%作為訓練集，20%作為實驗測試集。

2.2 數據集標注

數據集標注就是人工劃分出圖像中待識別目標所在區域的分類信息、語義信息和位置信息等，使得模型訓練時能夠更高效地獲取目標的特征。針對各種不同需求，數據集標注完整性的要求會是不同的。對于本文的目標檢測與識別和圖像分類的任務中，只需要標注圖片中所含目標類別，如圖5所示。

2.3 評價標準

本文采用準確率（Accuracy）、精確度（Precision）、召回率（Recall）和 F1 分數（F1 score）[10]來衡量本文模型性能，其公式如下所示：

[Accuracy=TP+TNTP+FP+TN+FN] ⑻

[Recall=TPTP+FN] ⑼

[Precision=TPTP+FP] ⑽

[F1score=2×Precision×RecallPrecision+Recall] ⑾

其中，TP表示為真實種類的且模型識別為正確的種類數量；FN表示為真實種類的且模型識別為錯誤的種類數量；FP為樣本為錯誤種類但模型識別為正確的種類數量；TN表示樣本為錯誤種類模型識別為錯誤的種類數量。

2.4 算法有效性驗證

隨著迭代次數的不斷增加，本文算法的性能也不斷提高。通過不斷地實驗，當迭代次數達到700次左右時，模型的準確率趨于平緩，如表1所示。對比四種不同迭代次數下模型識別準確率，考慮時間成本的，本文最終選擇700次迭代的版本作為最終模型，其測試集準確率達到95 .48%。本文提出的魚類識別算法做到了保證正確率的情況下擁有較低的模型復雜度，圖6為識別結果。圖7為每張測試圖像識別準確率散點圖，部分圖像任受背景影響導致識別精度不高，但整體上識別算法還是擁有較高的識別準確率。

2.5 不同魚類識別算法對比實驗

為測試本文算法性能，我們用ResNet、AlexNet以及本文算法進行測試，不同算法識別結果如表2所示。

3 結束語

針對傳統殘差網絡中忽略負激活值、網絡計算與儲存成本過大等問題，本文提出一種適用于海洋魚類識別和分類任務的殘差網絡改進算法。使用能夠減少網絡深度、增加網絡寬度的多重殘差網絡作為模型的主干網絡，可加快學習的收斂速度，極大地加速了網絡的訓練和檢測速度，同時降低了網絡計算成本。殘差函數中，使用ELU取代BN層和ReLU的結合，使得一些有用的負值信息可以被使用，提高了殘差網絡對于魚類識別和分類的準確性。實現對六種魚類的魚種分類，實驗顯示，識別準確率達95.48%，相較于原始的ResNet網絡準確率提高了4.23%。

參考文獻（References）：

[1] 羅茵.2020中國漁業統計年鑒[J].海洋與漁業，2020（6）：12-13.

[2] 吳一全，殷駿，戴一冕，等.基于蜂群優化多核支持向量機的淡水魚種類識別[J].農業工程學報，2014，30（16）：312-319.

[3] 姚潤璐，桂詠雯，黃秋桂.基于機器視覺的淡水魚品種識別[J].微型機與應用，2017，36（24）：37-39.

[4] 胡燦.基于ELM算法的鮮活淡水魚圖像自動歸類研究[D].湖南：湘潭大學，2017.

[5] 胡濤.基于深度學習的魚類識別研究[D].浙江：浙江工業大學，2019.

[6] Krizhevsky A， Sutskever I， Hinton G. ImageNet Classifica-tionwith Deep Convolutional Neural Networks[J]. Advances in neural information processing systems，2012，25（2）.

[7] Karen Simonyan，Andrew Zisserman. Very Deep Convolu-tional Networks for Large-Scale Image Recognition.CoRR[J].2014，abs/1409.1556.

[8] Zifeng Wu，Chunhua Shen，Anton van den Hengel. Wider?or Deeper： Revisiting the ResNet Model for Visual Recognition[J]. Pattern Recognition，2019，90.

[9] Kaiming He，Xiangyu Zhang，Shaoqing Ren，Jian Sun 0001.Identity Mappings in Deep Residual?Networks..CoRR[J]，2016，abs/1603.05027.

[10] 萬鵬，趙竣威，朱明，等.基于改進Res Net50模型的大宗淡水魚種類識別方法[J].農業工程學報，2021，37（12）：159-168.