基于混沌壓縮感知和深度學習網絡的壓縮感知新模型

摘要：文章提出了一種基于混沌壓縮感知和深度學習網絡的壓縮感知新模型，稱為混沌深度壓縮感知模型。該模型將傳統壓縮感知中的迭代步驟轉化為深度網絡形式，并將相關混沌參數應用于測量矩陣生成和深度網絡訓練過程。混沌深度網絡中的所有參數都將通過程序自動學習獲取，不再需要人工設計。

關鍵詞：壓縮感知；深度學習；神經網絡；混沌理論

doi：10.3969/J.ISSN.1672-7274.2023.02.032

中圖分類號：TP 391.41" " " " " " " "文獻標示碼：A" " " " " " " "文章編碼：1672-7274（2023）02-00-03

A New Compressed Sensing Model Based on Chaotic Compressed Sensing and Deep Learning Network

CHEN Yixin， MA Zeng

（Basic Department of Naval Submarine Academy， Qingdao 266000， China）

Abstract： A new compressed sensing model based on chaotic compressed sensing and deep learning network is proposed， which is called chaotic deep compressed sensing. The iterative steps in traditional compressed sensing are transformed into deep network form， and the relevant chaotic parameters are applied to the measurement matrix generation and deep network training process. All parameters in the chaotic depth network will be acquired automatically through program learning， and no manual design is required.

Key words： compressed sensing; deep learning; neural network; chaos theory

0" 引言

壓縮感知理論證明，當一個信號在某些變換域表現出稀疏性時，它能夠以較高的概率使用比奈奎斯特抽樣理論所確定的少得多的測量值重構[1]。這種新穎的采集策略對硬件更加友好，它支持以亞奈奎斯特采樣率捕獲圖像或視頻[2-3]。此外，通過利用信號固有的冗余，在壓縮感知的同時進行采樣和壓縮，能夠大大降低對高傳輸帶寬和大存儲空間的需求，使得低開銷數據傳輸成為可能[4-5]。在過去的十幾年中，大量的圖像壓縮感知方法被提出，它們大多利用結構稀疏性作為先驗知識，然后以迭代的方式求解稀疏正則化優化問題[6-8]。這些方法基于已有研究的圖像生成模型和圖像固有特性，在大多數情況下具有很強的收斂性和理論分析能力[9-10]。然而，傳統的壓縮感知方法通常通過迭代計算實現信號恢復過程，而這些迭代算法的計算復雜度較高，所以求解速度很慢。此外，在大多數傳統方法中需要傳輸整個測量矩陣作為通信密鑰，而這些大維度測量矩陣也將占用極大的存儲和運算空間。近年來，深度神經網絡的強大學習能力逐漸得到國內外相關學者的重視。與基于傳統迭代算法相比，非迭代、可學習的深度網絡結構大大降低了求解數學問題的時間復雜度，同時實現了令人印象深刻的重構性能。因此，若能將深度學習方法的非迭代特性與混沌壓縮感知的優秀加密性能相結合，就有望設計出一種更加快速、精確的混沌深度壓縮感知方案。

1" 傳統壓縮感知

給定線性測量值y，傳統的圖像壓縮感知方法通常通過求解以下一般凸優化問題來重構原始圖像x：

式中，x為原始值；y為測量值；為測量矩陣；為稀疏化矩陣；λ為預先定義的正則化參數。

式（1）中的一般凸優化問題是一種線形可逆數學問題。在傳統壓縮感知中，通常使用一階近似算法來求解這一類典型的線形可逆問題，此類一階近似算法可以基于如下迭代步驟實現。

式中，t為當前迭代次數；ρ為所設置的步長。式（3）是近端映射的一種特殊情況，即

該近端映射的正則化算子用公式又可以被表示為

式（4）是求解上述迭代步驟的關鍵，也是壓縮感知重構算法的關鍵。近年來，許多國內外相關研究也在對此類近端映射的求解方法進行探索和優化。例如，當，當W為小波變換稀疏化矩陣時，基于小波變換的正交性，能夠推出

然而，在這種傳統壓縮感知重構過程中，上述迭代步驟的求解過程相當煩瑣。此外，這些傳統的壓縮感知方法為了獲得精確的信號重構，都需要進行相當多次數的迭代，其計算量之龐大更是不言而喻。

2" 混沌深度網絡壓縮感知

混沌深度網絡的結構如圖1所示，其具體設計過程如下。

首先，引入一個可學習的非線性變換函數，用以替代傳統壓縮感知中的稀疏化矩陣，即式（1）中的Ψ。如圖1所示，兩組由卷積層組合而成，兩組卷積層之間由一個整流函數（ReLU）層連接。用替代Ψ后式（1）的求解將被轉化為

通過一階近似法求解式（7），并令步長ρ也成為可學習的參數，可得類似于式（2）和式（3）的兩個迭代步驟：

如圖1所示，這兩個不斷重復的迭代步驟被設計為深度網絡的周期形式，則式（8）和式（9）中的p為周期計數，為在第p個周期的即時重構結果。

基于圖像逆問題的一般假設，服從獨立正態分布，且均值為0，方差為，因此，根據文獻[11]能夠得到如下近似：

將λ與合并為參數θ，即

從而得到

更進一步地，的封閉解形式可以表示為

為了計算，進一步引入的左逆運算，，I為單位運算。于是得到：

如圖1所示，為的對稱結構，也被設計為兩組由ReLU層分隔的卷積層。混沌深度網絡中的所有參數都通過學習獲取，根據前文的相關過程敘述，其可學習參數集可被總結為。

若為給定的訓練數據對，則以為輸入，為期望輸出，將得到的作為輸出結果，其中為預先設定的總周期數。

本方法中，約束條件被設計為

損失函數被設計為

3" 結束語

本文給出了一種基于混沌壓縮感知和深度學習網絡的壓縮感知新方案，稱為混沌深度壓縮感知。該方法綜合了現有兩類壓縮感知方法的優點：傳統壓縮感知方法的一步壓縮加密操作和深度學習方法的響應速度。在本方法中，將不斷重復的迭代步驟設計為深度網絡的周期形式，并將相關混沌參數應用于測量矩陣生成和深度網絡訓練過程。混沌深度網絡中的所有參數均可通過學習獲得，不再需要人工設計。■

參考文獻

[1] DONOHO D L. Compressed sensing[J]. IEEE Transactions on Information Theory， 2006， 52（4）： 1289-1306.

[2] DONOHO D L， ELAD M. Optimally sparse representation in general （nonorthogonal） dictionaries via 1 minimization[J]. Proceedings of the National Academy of Sciences， 2003， 100（5）： 2197-2202.

[3] BARANIUK R G， CEVHER V， DUARTE M F， 等. Model-Based Compressive Sensing[J]. IEEE Transactions on Information Theory， 2010， 56（4）： 1982-2001.

[4] SONG P， MOTA J F C， DELIGIANNIS N， 等. Measurement matrix design for compressive sensing with side information at the encoder[C]//2016 IEEE Statistical Signal Processing Workshop （SSP）. 2016： 1-5.

[5] HUANG R， RHEE K H， UCHIDA S. A parallel image encryption method based on compressive sensing[J]. Multimedia Tools and Applications， 2014， 72（1）： 71-93.

[6] TROPP J A， GILBERT A C. Signal Recovery From Random Measurements Via Orthogonal Matching Pursuit[J]. IEEE Transactions on Information Theory， 2007， 53（12）： 4655-4666.

[7] LI C， YIN W， JIANG H， etc. An E?cient Augmented Lagrangian Method with Applications to Total Variation Minimization[J]. 2012： 26.

[8] SUNGKWANG MUN， FOWLER J E. Block compressed sensing of images using directional transforms[C]//2009 16th IEEE International Conference on Image Processing （ICIP）. Cairo， Egypt： IEEE， 2009.

[9] CHEN C， TRAMEL E W， FOWLER J E. Compressed-sensing recovery of images and video using multihypothesis predictions[C]//2011 Conference Record of the Forty Fifth Asilomar Conference on Signals， Systems and Computers （ASILOMAR）. Pacific Grove， CA， USA： IEEE， 2011.

[10] ZHOU N， ZHANG A， WU J， 等. Novel hybrid image compression-encryption algorithm based on compressive sensing[J]. Optik， 2014， 125（18）： 5075-5080.

[11] J. Zhang and B. Ghanem， ‘ISTA-Net： Interpretable Optimization-Inspired Deep Network for Image Compressive Sensing’， in 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition， Salt Lake City， UT， 2018（7）： 1828-1837.