基于輕量化YOLO的實時檢測系統實現研究

一、前言

在智能感知與邊緣計算快速發展的背景下，實時目標檢測技術面臨算力受限、響應時延與精度可靠性之間的復雜權衡。傳統檢測算法難以在嵌入式設備上實現高效部署，制約其在工業監控、移動終端等實際場景中的應用拓展，亟須構建兼具輕量化與高性能的檢測模型以滿足多場景實時識別的技術需求。

二、系統需求分析

在邊緣計算、智能安防與移動設備等資源受限場景中，目標檢測系統面臨算力受限、功耗控制和響應時延等多重技術約束。為滿足在嵌入式平臺上實現實時檢測的應用需求，系統必須具備模型參數規模小、推理速度快、部署靈活度高的性能特征[。目標識別的準確率與魯棒性也不容忽視，尤其在復雜背景、動態光照與多尺度自標干擾環境下，對模型的判別能力提出更高要求。系統需兼容不同硬件架構，支持TensorRT、OpenVINO 等推理引擎的加速部署機制，實現檢測速度與精度的平衡，以適應實際工業級實時檢測場景的技術訴求。

三、輕量化YOLO模型設計

（一）主干網絡輕量化設計

輕量化YOLO模型在主干網絡設計中，需在保持感受野與語義提取能力的基礎上有效削減計算復雜度與參數總量。選用MobileNetV3作為基礎骨干結構，引入DepthwiseSeparableConvolution替代標準卷積，并在激活函數中融合h-swish以提升非線性表達能力，顯著降低FLOPs與內存占用。在模塊構建上，通過結構重組引入GhostBottleneck模塊，使冗余特征在低維空間中高效生成，提升計算效率，具體模塊結構如圖1所示。為便于對比輕量化策略對模型計算負載的影響，表1列出了標準YOLOv5s與本設計中各模塊參數規模、計算量（MACs）與層數的變化情況。主干網絡總結構深度通過層級縮減與跨層連接設計進一步優化，確保模型在低功耗平臺上保持穩定推理能力。

（二）特征融合模塊優化

為在不損失多尺度目標感知能力的前提下降低計算開銷，對YOLO原有的PANet特征融合結構進行重構，采用可學習權重的輕量級BiFPN模塊以替代靜態連接方式，構建跨尺度語義傳遞的高效通路。在具體實踐中，移除冗余的上采樣層與卷積操作，采用共享卷積核權重機制，并引入加權融合策略提升信息流自適應能力。為評估不同特征融合結構對模型參數與計算量的影響，表2列出了原PANet與輕量BiFPN在相同輸人尺寸下的參數量（M、浮點運算量（GFLOPs）與特征層級深度的詳細對比。此外，融合過程中的節點歸一化公式見式（1），以控制跨層特征的融合強度[3]。

其中，F表示第j層輸入特征， w_j 為可訓練融合權重，為避免除零引入的正則項。

（三）輕量化損失函數改進

為了適配輕量化模型在低功耗環境中的部署需求，損失函數設計需兼顧數值穩定性與計算效率。原YOLOv5中采用的CIOU回歸損失在精度表現上具有優勢，但涉及復雜幾何計算，易在邊緣設備中引發推理瓶頸。可以引人∝ -IoU損失函數進行替代，并調整其冪指數參數 ∝ 以提升對小目標定位誤差的懲罰強度，其表達式見式（2）：

表1主干網絡模塊輕量化參數對比表

圖1主干網絡中GhostBottleneck模塊結構圖

其中，B與Bgt分別為預測框與真實框， ∝ 取值范圍[1.0，3.0]，以適應不同尺寸目標的權重動態調整。與此同時，分類損失部分采用FocalLoss替代常規BCE，降低易分類樣本對梯度的主導影響，改善正負樣本不均問題。在置信度回歸中，考慮部署效率，引入溫和標簽平滑策略抑制過擬合現象。整體損失函數在優化結構的同時降低冗余計算，提升輕量化模型的泛化能力與收斂速度。

（四）模型壓縮與加速

為進一步降低模型在嵌入式設備和邊緣計算平臺上的部署門檻，對輕量化YOLO模型引入多級壓縮與加速策略。通過結構剪枝與通道剪枝聯合操作，依據BatchNorm通道系數的稀疏性裁剪低貢獻度特征路徑，顯著減少冗余計算量。在此基礎上，實施對稱量化操作，將卷積權重與激活從32位浮點壓縮至INT8位表示，同時保持梯度傳遞穩定性。為減少量化引入的精度損失，訓練階段引入偽量化函數，見式（3）：

其中，s為縮放因子，n為量化位寬，round表示最近整數函數。此外，采用輕量級知識蒸餾機制，將完整模型作為教師網絡，通過SoftLabel引導學生網絡快速收斂并保持魯棒性。

三、實時檢測系統實現

（一）系統整體架構設計

系統整體架構采用模塊化設計，涵蓋視頻采集、數據預處理、模型推理、后處理與結果可視化等五個核心環節。系統依托JetsonXavierNX硬件平臺構建，輸入源接入高幀率工業攝像頭，通過CUDA加速的數據預處理模塊完成圖像歸一化與尺寸重排，輸出統一尺度張量供推理模塊調用。模型推理階段采用TensorRT引擎對量化后的YOLO模型進行部署，顯著提升幀處理速率。后處理模塊負責執行置信度篩選與非極大值抑制（NMS），并通過OpenCV完成檢測框與類別標簽的實時渲染。圖2展示了系統整體架構圖，圖中標注了各模塊之間的數據流路徑與接口協議，包括USB/CSI圖像采集接口、RTSP流支持、ONNX-TensorRT模型轉換過程，以及NMS處理流程等關鍵節點，保證系統在多種邊緣環境下的高效兼容與響應性能。

（二）數據預處理模塊

在輕量化YOLO實時檢測系統中，數據預處理模塊不僅負責將原始圖像轉換為模型可接受的輸入格式，更在控制計算延遲與保持特征完整性之間發揮關鍵作用。輸入圖像經由多線程緩沖機制采集后，首先執行等比例縮放至640×640 分辨率，并通過雙線性插值填充邊緣空白區域，以保證輸入尺寸統一而不引入幾何畸變。隨后對圖像進行通道歸一化處理，將像素值映射至 x^′=x/255.0 區間，滿足模型BatchNorm初始參數分布要求。預處理流程還包括RGB轉BGR通道重排、數據格式從HWC至CHW的轉換、均值歸一化與標準差標準化操作，確保輸入張量特征穩定。為降低邊緣噪聲對目標檢測的干擾，系統引入基于邊緣增強的圖像濾波策略，并采用CUDA并行計算提升圖像預處理吞吐率，為后續推理模塊提供高質量、高一致性的數據支持。該模塊在整體架構中作為前置環節，直接影響系統響應延遲與模型精度，構成端到端推理鏈的關鍵性能瓶頸之一。

表2特征融合模塊輕量化參數對比表

圖2系統整體架構圖

圖3模型部署與優化流程圖

（三）模型部署與優化

輕量化YOLO模型部署階段涉及多級格式轉換、硬件加速配置與并行推理策略設計，以保障端側系統滿足實時性能要求。訓練完成后的PyTorch權重經由ONNX格式中間轉換，再通過TensorRT優化生成INT8精度的引擎文件，構建部署版本的推理模型。在推理流程中，CUDA流與內存綁定結構被統一封裝于TensorRT上下文，模型調用采用異步加載與批次緩存策略，以減少CPU-GPU間數據阻塞。圖3展示了模型部署，系統以JetsonXavierNX平臺為基礎，集成TensorRT、cuDNN與NvMediaAPI完成模型加速引擎的構建，并通過KernelFusion與LayerTiling減少冗余操作層，提高GPU核心利用率。推理階段的吞吐調度與并行隊列采用動態分配機制，確保多線程數據預處理、模型調用與結果回傳任務的無阻塞同步，構成完整的端到端高效推理路徑。

（四）后處理算法設計

YOLO模型推理后輸出包含大量候選框，為提升檢測精度與運行效率，系統后處理模塊采用改進型非極大值抑制（Soft-NMS）算法對輸出結果進行精簡與重排。該方法在IOU重疊區域內對置信度進行指數式衰減處理，有效緩解標準NMS在目標密集場景下的漏檢問題，其置信度更新函數見式（4）：

其中，s為候選框原置信度， Δb_i 與 b_max 分別為當前框與最高分框， σ_σσσ 為平滑參數。此處理過程結合類間置信度閾值過濾（設定為0.25）與多類別解耦機制，支持異步候選框融合操作，并提升了小自標與邊緣目標的識別魯棒性。

四、實驗結果與性能評估

（一）實驗環境與設計

為驗證輕量化YOLO模型在實際場景中的運行效率與檢測性能，構建了多組對比實驗，測試對象覆蓋模型結構優化前后的YOLOv5系列網絡與改進模型。實驗環境統一部署于JetsonXavierNX平臺，系統預裝 Ubumtu20.04 ，配備8GBLPDDR4x內存、128-coreVoltaGPU與硬件TensorRT支持。實驗選用COCO與VisDrone公開數據集，涵蓋多尺度、密集遮擋與復雜背景等典型場景，確保評估具有代表性與挑戰性。推理過程在FP32與INT8兩種精度下進行全流程評估，并在各模型上保持統一輸人尺寸與NMS配置，以控制變量干擾。對比模型包括YOLOv5s、YOLOv5n，及本研究提出的輕量化改進版本，其網絡結構、參數量與理論計算量列于表3中，為性能評估提供基礎參照。

表3不同對比模型結構參數統計表

表4不同模型在COCO與VisDrone數據集上的性能對比表

圖4各模型在不同精度下的推理性能對比柱狀圖

（二）實驗結果分析

在對比實驗中，模型在COCO驗證集與VisDrone數據集上的表現見表4，涉及 mAP@0.5 1 mAP@0.5：0.95 FPS、模型體積與參數量等關鍵指標。結果顯示，本研究提出的輕量化模型在保持精度可接受范圍內顯著降低了計算負擔，FPS提升至61.3幀/s，模型壓縮率達到 68.1% mAP@0.5 為 32.7% ，僅低于YOLOv5s1.6個百分點。通過對推理性能的進一步分析發現，INT8量化模型在TensorRT引擎下實現了推理延遲控制在16ms以內，滿足移動終端的實時響應需求。圖4展示了各模型在不同推理精度（FP32/INT8）下的性能對比柱狀圖，明確反映出輕量化設計對延遲壓縮的貢獻。綜合來看，模型結構優化、特征融合重構與損失函數調整共同協同，實現了性能、精度與資源消耗之間的高效平衡，驗證了所提系統設計路徑在邊緣智能檢測任務中的實際可行性。

五、結語

本研究在輕量化神經網絡結構、特征融合策略、損失函數設計與端側部署流程中實現了檢測性能與系統響應之間的有效平衡，驗證了在資源受限場景中的實用性與擴展潛力。未來可進一步結合神經架構搜索與多任務協同機制，提升模型適配異構平臺的泛化能力與多目標場景下的檢測穩定性。

參考文獻

[1]王裕，魏洋，李偉，等.基于YOLOv5s的疲勞駕駛檢測模型輕量化研究[J].煤礦機械，2025，46（03）：178-181.

[2]趙方，左官芳，顧思睿，等.基于改進YOLOv5s的溫室番茄檢測模型輕量化研究[J].江蘇農業科學，2024，52（08）：200-209.

[3]劉擁民，張煒，麻海志，等.基于注意力機制的輕量化YOLOv5s藍莓檢測算法[J].河南農業科學，2024，53（03）：151-157.

[4]張傳棟，高鵬，元璐，等.基于SAW-YOLOv8n的葡萄幼果輕量化檢測方法[J].農業機械學報，2024，55（10）：286-294.

[5]羅志聰，何陳濤，陳登捷，等.基于輕量化YOLOv8s-GD的自然環境下百香果快速檢測模型[J].農業機械學報，2024，55（08）：291-300.

作者單位：山西工程技術學院

責任編輯：王穎振鄭凱津