基于深度卷積生成對抗網絡的半生成式視頻隱寫方案

林洋平，劉 佳*，陳 培，張明書，2，楊曉元，2

（1.武警工程大學 密碼工程學院，西安 710086；2.網絡與信息安全武警部隊重點實驗室（武警工程大學），西安 710086）

0 引言

互聯網的迅速發展產生了海量的數據，如何保證這些數據的保密性、完整性和可用性等成為學界所關注的問題。密碼學和隱寫術都提供了維護公共信道上機密數據安全的方法。相較于傳統的加密技術，信息隱藏技術更加注重秘密通信而不是加密信息，適用于軍事通信、金融交易等涉及敏感信息傳輸交互的領域，具有廣闊的應用前景［1］。

當前的視頻信息隱藏方案主要利用某種修改策略進行信息嵌入，以最小的代價來達到隱寫目的。最低有效位（Least Significant Bit，LSB）隱寫術是一種常見的隱寫方法［2］，主要通過將秘密信息隱藏在載體圖像的最低有效位來實現信息嵌入。還有許多研究學者從視頻壓縮編碼標準入手，實現對秘密信息的嵌入［3-5］。這些方案的隱寫視頻質量雖沒有明顯下降，但仍改變了載體視頻的底層統計數據，容易受到針對特定嵌入域的隱寫分析算法［6］的攻擊。針對傳統載體修改式隱寫方案存在的問題，許多學者將生成對抗網絡（Generative Adversarial Net，GAN）［7］引入信息隱藏中，提出了基于GAN 的隱寫方法。該方法主要可分為3 類：載體選擇、載體修改和載體合成［8］。

目前在視頻隱寫中，王婷婷等［9］利用短視頻資源的分類與時長，提出了一種基于載體選擇的視頻信息隱藏方法，但該方法的嵌入率較低。基于神經網絡的視頻隱寫算法大都屬于載體修改式方案，Weng 等［10］提出一種基于深度卷積網絡的視頻隱寫方法，利用連續視頻數據之間的時間冗余將視頻幀圖像分為殘差幀與參考幀，并分別利用兩種嵌入與提取網絡實現對秘密視頻中的殘差幀與參考幀的分類與提取；該方案是一種將秘密視頻隱藏在載體視頻的隱寫方法。Jaiswal 等［11］與Abdolmohammadi 等［12］利用三維卷積神經網絡（3D-Convolutional Neural Network，3D-CNN）具有增強特征學習的特點，提出了基于3D-CNN 的隱寫模型架構，對載體視頻樣本進行信息嵌入。為了解決傳統方法不能同時處理多種惡意攻擊的問題，Luo 等［13］提出了一種基于深度學習的魯棒視頻水印（Deep multiscale framework for Video waterMarking，DVMark）方案，DVMark 在編碼器與解碼器網絡中結合了一種多尺度設計，將消息的嵌入跨越多個時空尺度；與前兩種方案相比，DVMark 通過使用不同的可微失真層，提高了水印視頻的魯棒性。上述三種方法都是采用了神經網絡的載體修改式隱寫方案，經過大量訓練，逐漸縮小載密視頻與原始視頻之間的差異；但實際上仍會對載體信息進行一定的修改，易受隱寫分析算法的攻擊，并且無法將秘密消息無損地提取出來。而在視頻隱寫中，基于GAN 的載體合成式隱寫方法還處于探索階段。

結合載體修改式與載體合成式的特點，本文提出了一種基于深度卷積生成對抗網絡（Deep Convolutional Generative Adversarial Net，DCGAN）［14］的半生成式視頻隱寫方案。本文的主要工作如下：

1）半生成式方案使用基于DCGAN 的雙流視頻生成模型，并不是直接構造出完整的含密視頻，而是將含密視頻的生成分為前景信息、后景信息與時空掩模三部分；通過設定一定的概率閾值，在時空掩模中自適應地生成數字化卡登格，在視頻前景中對信息有選擇地進行嵌入，通過三者的組合生成含密視頻。

2）在原有判別器的基礎上，增加了一個隱寫判別器來對含密視頻與原始視頻進行判定。通過博弈論的思想，利用大量視頻數據進行對抗性訓練，使得生成的含密視頻在視覺上更加符合自然語義。

1 相關知識

1.1 生成對抗網絡

生成對抗網絡（GAN）是Goodfellow 等［7］于2014 年提出的基于零和博弈思想的神經網絡模型，其結構如圖1 所示。

圖1 GAN的結構Fig.1 Structure of GAN

GAN 從某種分布中采樣得到隨機噪聲，然后輸入到生成器中，輸出一個“偽”樣本，將其與“真”樣本一同傳給判別器，給出判別結果。理想情況下，生成器能完全學習到真實數據分布，使判別器無法準確識別數據來源［15］。因此在GAN 的訓練過程中優化目標函數為：

其中：D(x)是判別x為真實樣本的概率；G(z)是從輸入噪聲z產生的生成樣本。

深度卷積生成對抗網絡（DCGAN）參考原始GAN 的原理，卷積神經網絡（Convolutional Neural Network，CNN）為其結構主體。網絡模型中使用全卷積結構代替了全連接層與池化層，批量標準歸一化層的使用解決了模型的訓練問題，這樣生成樣本的質量和收斂速度都得到很大的提升。

1.2 半生成式隱寫

生成式信息隱藏指在沒有預先指定原始載體的條件下，含密載體由秘密信息按照一定規則直接生成，而含密載體可以不表示真實的客觀世界，但與正常內容相比應具有不可區分性。生成式方案往往不會預先指定原始載體；而半生成式信息隱藏方案會事先設定載體構造的預設條件，然后根據秘密消息并遵循相應的生成規則生成含密載體。所生成的含密載體屬于特定類型［16］，如圖2 所示。

圖2 半生成式隱寫Fig.2 Semi-generative steganography

與載體修改式隱寫方案不同，視頻半生成式隱寫方案以秘密信息為驅動，利用生成器直接生成含密視頻樣本，避免了對原始載體的修改。該方案適用于某種特定的視頻載體類型，擁有自身特有的信息隱藏理論基礎與方法，同時也結合了目前載體修改式隱寫方案中的一些成果。視頻半生成隱寫方案可應用于社交軟件、流媒體平臺與網上存儲工具，利用視頻媒介作為秘密信息的偽裝，達到隱蔽通信或隱蔽存儲的目的。

2 本文方案

本文提出的基于DCGAN 的半生成式視頻隱寫方案主要由視頻生成、數字化卡登格生成與信息嵌入三部分組成。視頻的生成需要包括生成器網絡與兩種判別器網絡的參與，數字化卡登格的生成與信息嵌入以掩模與前景的生成為基礎。

其中：g為樣本；m為時空掩模；f與b分別為前景（foreground）信息和后景（background）信息；⊙為Hadamard 乘積［17］。

本文含密視頻的生成過程如圖3 所示，信息隱藏的過程符合傳統卡登格的基本思想。發送方通過設定隱寫閾值自適應地定義了一個被稱為數字化卡登格的掩碼，以確定消息隱藏在前景信息的具體位置；而秘密消息將直接嵌入到這些位置的像素點的最低有效位，實現了從傳統卡登格到數字化卡登格的轉換。然后采用Hadamard 乘積［17］通過式（2）進行樣本g合成。含密視頻將通過公共通道傳輸給接收方，接收方利用事先從秘密信道中獲取的卡登格提取秘密信息。這樣既保證了秘密信息的安全性，又保證了在視頻合成前后的邏輯合理性。

圖3 含密視頻的生成過程Fig.3 Generation process of video with secret

2.1 數字化卡登格的生成與信息嵌入

基于卡登格的信息隱藏方法中，卡登格作為秘密信息嵌入與提取的密鑰，但傳統卡登格對秘密信息處理比較簡單。針對雙流視頻生成模型的特點，提出了一種數字化卡登格隱寫方案。

本文通過分析掩模中對應每個像素運動與位置信息的數字特性，設定具體的隱寫閾值對掩模進行修改，以生成數字化卡登格。由于生成網絡的最后一層采用了Sigmoid 函數，掩模對應的像素運動信息對應的數值處于0 到1 之間。由式（2）可知，運動信息數值與對應前景中的像素運動幅度成正比，從嵌入合理性與嵌入容量兩方面考慮，對掩模的修改方式如式（3）所示。

因為在嵌入過程中只對視頻幀圖像的第一個通道進行嵌入，所以對前景與掩模的處理也只在其最后一個維度中進行。假如前景與掩模的大小為32×64×64×3，則要對二者進行數據處理的部分的大小為32×64×64×1。每次生成的掩模是根據隨機噪聲驅動生成的，通過設定閾值?對嵌入位置進行選擇，將大于概率閾值的置于1，自適應生成數字化卡登格，再對應前景的具體位置進行LSB 嵌入。為了減小修改前景像素信息帶來的特征變化，采用隨機加減1 的方式進行嵌入，從而達到最優化嵌入的目的。具體嵌入方式與流程如式（4）和圖4 所示：

圖4 數字化卡登格的生成與嵌入流程Fig.4 Flow of digital Cardan grille generation and embedding

當前景所需修改位置的值為0 或255 時，修改時跳過該點，在下一個位置進行嵌入。傳輸時消息發送方無需將網絡訓練模型傳輸給接收方，只需將生成的數字化卡登格通過秘密信道傳輸給接收方；待消息接收方收到公共信道傳輸的隱寫視頻時，利用數字化卡登格對視頻中的每一幀進行覆蓋，即可將秘密信息無損地從視頻幀中提取出來。

2.2 生成器結構

生成器網絡的輸入是一個低維噪聲z，該噪聲可以從一個分布（如高斯分布）中采樣。本文生成器網絡的架構在設計時考慮了以下需求：首先，本文希望通過低維的噪聲能夠產生具有高維信息的視頻；其次，視頻相較于圖像注重于客觀事物產生位移的動態屬性，因此生成器需要對物體動態信息的建模；最后，本文希望生成器直接在時空關系上進行建模，不將時間與空間關系分割開來。通過分析當前已有的不同神經網絡的視頻生成模型，本文采用了基于DCGAN 的視頻雙流生成網絡，網絡中使用了轉置卷積網絡，卷積核為3×3×3，步長為2，具體結構如圖5 所示。其中，括號中的數字代表通道維數。

圖5 生成器網絡結構Fig.5 Generator network structure

視頻中物體所處的環境一般是靜止的，通常只有被拍攝的物體在移動，因此在建模信息時，雙流架構利用這一特性設計視頻生成的流程與原理，如式（2）所示。

對于視頻中每個像素的位置和時間步長，利用時空掩模選擇前景信息或后景信息，這里的前景代表視頻中運動的信息，而后景代表了視頻中靜止的背景。為了在視頻時間序列中生成背景信息，后景通過二維卷積學習視頻圖像中靜止的像素信息，生成一個隨時間復制的平面圖像。這里前景是一個代表每個像素的時空信息的四維時空張量。生成前景的網絡結構，本文使用與文獻［14］中單流架構相同的網絡；而對于后景，使用了與圖像生成網絡類似的生成器架構。為了區分時空掩模與前景的生成過程，在進行最后一次卷積操作時使用了與前景參數不同的卷積層，而其余卷積層中掩模與前景共享權重。

2.3 判別器結構

本文使用一個5 層三維卷積網絡，卷積核為3×3×3，步長為2。本文設計的判別器與生成器中的生成前景的結構相反，輸入為真實視頻樣本與生成的含密樣本，輸出為類別標簽label與分類概率logit。其中：類別標簽為1 時，代表真實樣本；標簽為0 時，代表生成樣本。判別器網絡中除了最后一層卷積層后使用Sigmoid 函數以外，每一層卷積操作后都使用LeakyReLU 作為激活函數進行處理。loss是判別器的損失函數，采用了Sigmoid 交叉熵用來訓練判別器。

在對抗性訓練思想的啟發下，在模型中增加了一個隱寫判別器，其結構與DCGAN 的判別器結構相同，但不與判別器共享權重參數，在嵌入秘密信息時單獨對其進行學習訓練，輸入為真實視頻樣本與含密視頻樣本。損失如式（6）所示。

3 實驗與結果分析

3.1 實驗設置

本文實驗使用了來自MPII、UCF101 數據集與YUV 標準視頻庫中的不同環境下、各類動作類型的視頻數據，作為真實視頻樣本。實驗前利用FFmpeg 軟件對視頻樣本進行預處理，將視頻樣本處理為分辨率64×64 的32 幀短視頻序列。網絡模型的輸入與輸出皆為32 幀分辨率64×64 的視頻序列。本文實驗是在Tensorflow-gpu1.9 深度學習框架下進行，CPU為INTEL Xeon E5-1603，內存為16 GB，顯卡為NVIDIA TITAN XP。隨機噪聲的參數設置為均值為-1，標準差為1 的100 維高斯噪聲。神經網絡模型采用了文獻［18］中的DCGAN 結構，其中優化器選擇了Adam 優化器，學習率為0.000 2。在訓練過程中，總共對視頻生成網絡進行訓練周期為1 500 輪次的訓練：前1 200 輪不進行嵌入，只訓練模型中的生成視頻模塊，同時隱寫判別器也未對生成的視頻進行識別訓練；后300 輪增加隱寫判別器，并進行對信息嵌入模塊的訓練。

3.2 實驗結果

3.2.1 嵌入位置的選擇

本文所采用的視頻生成模型中，掩模、后景與前景三個部分的生成都需分析視頻幀圖像之間的時空關系，以大量視頻樣本對生成網絡進行迭代訓練，使生成視頻中物體的時空信息足夠真實。原始視頻幀與前景之間的對比見圖6。

圖6 生成樣本與原始幀Fig.6 Generated samples and original frames

在嵌入信息的過程中，視頻中靜止的信息是從原始訓練的視頻樣本中學習而來的。從圖6 中可以看出，后景代表了視頻中靜態背景，而前景代表了運動信息是由噪聲驅動的；前景較后景而言，具有一定的隨機性，說明對前景進行信息的嵌入，視覺上可以提高所生成的含密視頻樣本的安全性。

圖7 是生成視頻與后景像素直方圖之間的統計信息對比。從統計信息的角度也可以說明兩者之間的像素關聯度高，對后景進行嵌入，嵌入容量小且會對視頻每一幀都造成相同失真。因此本文采用在前景中進行信息的嵌入，這樣對嵌入信息后的視覺質量影響最小。

圖7 后景和生成視頻的像素分布直方圖Fig.7 Pixel distribution histograms of background and generated video

3.2.2 隱寫視頻質量

本節展示了在隱寫閾值為0.99 的條件下，迭代訓練所生成的含密視頻。隨機抽取三幀含密視頻與原視頻進行主觀質量對比，使用訓練視頻與隨機生成的含密視頻的像素分布直方圖作為無參考客觀質量評估手段進行對比分析，如圖8～9 所示。從視覺效果來看，在視頻中物體運動較小的情況下，能生成質量較好的含密視頻，其語義信息都能被較好地表達出來，只是在一些細節方面略有不足；從統計信息分布來看，生成視頻基本服從原始訓練視頻的像素分布。

圖8 含密視頻幀Fig.8 Video-with-secret frames

圖9 生成視頻和訓練視頻的像素分布直方圖Fig.9 Pixel distribution histograms of generated video and training video

Frechet Inception 距離（Frechet Inception Distance score，FID）值是評估原始樣本與生成樣本之間的分布特征相似度的標準。FID 值越小，證明二者之間的像素分布特征越接近。本文選擇了不同隱寫閾值下的含密樣本與IcGAN（Invertible conditional GAN）［19］、MonkeyNet［20］兩種網絡的生成樣本作為對比對象，使用FID 值衡量不同網絡的生成效果，結果如表1 所示，可見本文方案的生成樣本質量較高。

表1 生成樣本質量對比Tab.1 Generated sample quality comparison

3.2.3 嵌入容量

訓練過程中每段視頻的運動信息與統計特性各有不同，因此針對YUV 標準視頻庫中的視頻訓練樣本，不同的隱寫閾值對應會生成不同隱寫容量的含密視頻樣本。

從表2 可看出，隱寫閾值越大，對應視頻所能嵌入的消息比特數也就越小，但嵌入消息對視頻質量的影響也越小。如圖10 所示，當閾值為0.99 時，視頻的自然語義能夠較好地保持，并且嵌入容量的大小也足夠多。因此在現實場景中可根據需要秘密傳輸的消息內容的大小，具體選擇隱寫閾值的大小調整嵌入容量。

表2 不同隱寫閾值下的嵌入容量Tab.2 Embedding capacities under different steganography thresholds

圖10 隱寫閾值對視頻質量的影響Fig.10 Influence of steganography threshold on video quality

表3 列出本文方案與一些視頻信息隱藏方法的嵌入容量與嵌入率。嵌入容量是指在視頻的某一幀載體或某一段視頻中能夠嵌入的信息長度；相對容量為平均每一像素嵌入的信息比特數；max 與min 代表了在不同視頻樣本下，本文方案嵌入容量的最大、最小值；n代表視頻長度（幀數）。

表3 不同方法的隱寫容量對比Tab.3 Steganographic capacity comparison of different methods

3.2.4 安全性分析

由于本文采用了半生成式視頻隱寫的方法，攻擊者無法通過原始載體與含密視頻之間進行對比分析，且不注重于某一種信息隱藏技術與分析檢測技術之間的博弈，方案的先驗知識若發生泄露或算法公開，并不會嚴重威脅其安全性。半生成式隱寫方法通過學習與模擬真實樣本的數據分布，使得含密樣本與真實樣本之間的數據分布差異最小，以保證二者之間的不可區分性，避免陷于隱寫與隱寫分析對抗［8］。

本文方案可應用于高互動多媒體與社交應用中，使含密視頻能夠以較高傳輸速率和視覺保真度在網絡中實時傳播；并且可以利用互聯網中大量視頻媒介，對模型進行訓練，以豐富含密視頻的視覺表現能力，使其不會引起第三方的察覺與懷疑。其次通過與傳統密碼學技術卡登格的結合，將其作為發送方與接收方的嵌入與提取信息的密鑰，即使攻擊方知曉獲得生成視頻樣本中存在有秘密信息，因發送方采用秘密信道傳輸數字化卡登格，攻擊方無法正確提取含密載體中的秘密信息，能保證秘密消息不被泄漏。因此本文隱寫方案滿足Kerckhoffs 準則，提高了傳輸過程中秘密信息的安全性。

4 結語

本文利用DCGAN 生成真假難辨的偽視頻，結合數字化卡登格的思想，提出了基于DCGAN 的半生成式視頻隱寫方案。所提方案主要包括視頻生成過程、數字化卡登格生成過程與信息嵌入過程三部分，通過三者的結合實現秘密信息的嵌入。實驗結果和理論分析表明，本文方案可以生成具有良好自然語義特征的視頻序列，并且擁有較高的隱寫容量，能通過修改隱寫閾值來調節可嵌入容量的大小；根據應用場景的不同，可在含密視頻的質量與隱寫容量進行合理的取舍。卡登格的運用將密碼學方案與信息隱藏方案相結合，也使其在隱蔽通信中具有良好的安全性。下一步擬對生成器的網絡結構進行優化，以提高生成視頻的分辨率，并引入Wasserstein 損失來優化判別器的性能，在提高生成質量的同時又增加視頻中每幀的可嵌入比特數。