CN109949200A - 基于滤波器子集选择和cnn的隐写分析框架构建方法 - Google Patents

Abstract

本发明提供了一种基于滤波器子集选择和CNN的隐写分析框架构建方法，包括：获取目标滤波器集合，其中，所述目标滤波器集合包括所有的高通滤波器和导数滤波器；根据滤波器类型对所述目标滤波器集合中的滤波器进行筛选，以得到筛选后的滤波器集合；获取残差图像的结构相似度，并根据所述残差图像的结构相似度对所述筛选后的滤波器集合中的滤波器按升序排列；将排序前k个滤波器应用于隐写分析框架的预处理层。通过本发明的技术方案，能够降低输入残差特征图的维数，在保证检测准确率的前提下，加快了计算速度，在计算复杂度和检测性能之间取得了良好的平衡。

Description

基于滤波器子集选择和CNN的隐写分析框架构建方法

技术领域

本发明涉及信息隐藏技术领域，具体而言，涉及一种基于滤波器子集选择和CNN的隐写分析框架构建方法。

背景技术

隐写分析是隐写术的对抗技术。它对看似正常的图像进行检查，判断其是否含有秘密信息，其通常被视为二分类问题，目的是区分载体图像和载密图像。

隐写分析一般分为特征提取和分类器训练两个阶段。长期以来，隐写分析的特征都是通过人工设计的特征提取方法获得的。之后利用支持向量机(Support VectorMachine，SVM)或Fisher线性判别(Fisher Linear Discriminant，FLD)集成分类器对高维特征向量进行二分类。如今，基于卷积神经网络(Convolutional Neural Network，CNN)的隐写分析将特征提取和分类过程结合起来，形成一个完整的框架。特征提取对分类器训练至关重要，因为它决定了隐写分析的性能。

当前最流行的人工设计的特征提取方法都出自富模型(Rich Model，RM)，其中，空域富模型(Spatial Rich Model，SRM)是一种对隐写术安全性进行评估的常用方法。在SRM的特征提取框架中，一幅图像首先通过一组高通滤波器滤波后生成残差图像。然后，对残差图像进行量化、取整和截断等步骤后，计算四阶共生矩阵得到图像像素的联合概率分布。最后根据四阶共生矩阵符号对称和方向对称的特点对其元素进行合并，得到用于隐写分析的特征。其中，符号对称是指对图像取负值不会改变其统计特性。SRM采用一组形状和方向不同的线性和非线性高通滤波器，并结合若干量化因子，以增加模型的多样性。但这一过程无法并行计算，且存在计算复杂度高、耗时长等问题。

新近提出了一种基于导数滤波器的特征提取框架。首先，残差图像是经过导数滤波器而非高通滤波器计算的。第二，对残差图像进行量化，截断和阈值局部二值运算(Threshold Local Binary Operation，TLBP)后，计算二阶共生矩阵。最后，通过特征合并和非线性映射得到用于隐写分析的特征。与SRM类似，该方法使用一系列不同形状、不同方向的线性或非线性导数滤波器，结合不同的量化因子来增加模型的多样性。它同样存在着无法并行计算，计算复杂度高且计算耗时长等问题。

基于CNN的隐写分析框架将特征提取和分类器训练融合为一个过程。首先，一幅图像经过一个或多个滤波器生成残差图像，如果残差图像个数大于2，则将其叠加为多通道图像。然后利用CNN强大的非线性拟合能力自动提取用于隐写分析的特征。尽管其训练过程比较耗时，但是由于它易于并行计算且前馈速度快，吸引了众多研究者的关注。

如图1所示，这三种框架的共同之处在于它们都需要计算残差图像，无论是采用高通滤波器还是导数滤波器。这是因为在图像采集过程中，会将读出噪声、放大器噪声等多种噪声源叠加在采集到的图像上，并进行彩色插值、去噪、色彩校正、滤波等相机内处理。这些操作在相邻像素的噪声成分中建立了复杂的依赖关系。隐写嵌入破坏了这些依赖关系，因为隐写噪声的分布独立于载体图像的分布。SRM利用相邻像素的差值对相邻像素的依赖关系进行建模。计算残差图像的差分矩阵本质上是图像的高通滤波器，可以抑制图像的内容，增强隐写噪声，从而提高信噪比(signal to noise ratio，SNR)，提高隐写分析的性能。具有方向性的导数滤波器不仅可以用来滤除图像内容，还可以用来评估由隐写噪声引起的微弱变化。基于CNN的隐写分析框架使用这两种类型的滤波器对输入图像进行预处理。一系列实验表明，与没有预处理的模型相比，使用残差图像的模型更容易收敛，取得的效果更好。

Qian等于2015年提出了基于CNN的隐写分析框架。2016年，Xu等用隐写分析的先验知识对网络结构进行了改进，提升了隐写分析的检测性能。他们的预处理层都使用了一个被称为KV核的高通滤波器来计算残差图像。2017年，Yuan等提出了基于CNN使用多通道残差图像的隐写分析方法。该方法将经过3个高通滤波器后获得的残差图像叠加为多通道的特征图并送入卷积神经网络。由于多通道残差图像提升了特征的多样性，隐写分性能得到了进一步的提升。Shi等使用高通滤波器、导数滤波器及其组合实施了5种实验方案，其中4种方案取得了不同程度的性能提升。其用来计算残差图像的滤波器个数多达28个，但是过多的残差图像对于CNN来说存在着冗余的特征图。例如，‘min’或‘max’运算符计算前后所得的残差图像在经过一个卷积层后会被融合为一个特征图。这些冗余的残差图像会导致计算复杂度增加，使得计算更加耗时且容易过拟合，从而在一定程度上降低了隐写分析的性能。

在对嵌入率为0.4bpp、隐写算法为HUGO的载密图像进行检测时发现，不断增加残差图像的数量不会引起检测准确率的显著提高，即检测性能达到“饱和”。因此，如何在确保检测准确率的同时，降低计算复杂度成为亟待解决的技术问题。

发明内容

本发明正是基于上述技术问题至少之一，提出了一种新的基于滤波器子集选择和CNN的隐写分析框架构建方法，能够降低输入残差特征图的维数，在保证检测准确率的前提下，加快了计算速度，在计算复杂度和检测性能之间取得了良好的平衡。

有鉴于此，本发明提出了一种新的基于滤波器子集选择和CNN的隐写分析框架构建方法，包括：获取目标滤波器集合，其中，所述目标滤波器集合包括所有的高通滤波器和导数滤波器；根据滤波器类型对所述目标滤波器集合中的滤波器进行筛选，以得到筛选后的滤波器集合；获取残差图像的结构相似度，并根据所述残差图像的结构相似度对所述筛选后的滤波器集合中的滤波器按升序排列；将排序前k个滤波器应用于隐写分析框架的预处理层。

在该技术方案中，通过对包含所有高通滤波器和导数滤波器的目标滤波器进行筛选，以充分考虑卷积运算的机制和像素间的依赖关系，并在此基础上舍弃了许多冗余得滤波器，然后，根据残差图像的结构相似度，对筛选后的滤波器集合中的滤波器排序，并挑选排序靠前的滤波器来构建隐写分析框架，从而使用尽可能少的滤波器来最大化特征多样性，以提高隐写分析的检测性能，在保证检测准确率的前提下，加快了计算速度，在计算复杂度和检测性能之间取得了良好的平衡。

在上述技术方案中，优选地，所述根据滤波器类型对所述目标滤波器集合中的滤波器进行筛选，以得到筛选后的滤波器集合的步骤，具体包括：对所述目标滤波器集合中带有运算符min和max的滤波器进行舍弃；保留所述目标滤波器集合中旋转角度为0°和90°的滤波器；对spam类型的滤波器进行全零填充，并舍弃重复的滤波器，以得到所述筛选后的滤波器集合。

在上述任一项技术方案中，优选地，所述获取残差图像的相似度，并根据所述残差图像的相似度对所述筛选后的滤波器集合中的滤波器进行升序排列的步骤，具体包括：采用结构相似度算法来计算残差图像的相似度；采用以下公式来滤波器的排序进行统计：满足且根据以下公式来获得滤波器的排序结果：其中，定义若l_i对应于输入图像X^(t)被第j个滤波器滤波后所得的残差图像，则否则，n表示参与排序的滤波器个数，矩阵R^(t)为n×n矩阵，N表示输入图像的数量，表示第j个滤波器滤波所得的残差图像的l排名为i的次数。

通过以上技术方案，能够降低输入残差特征图的维数，在保证检测准确率的前提下，加快了计算速度，在计算复杂度和检测性能之间取得了良好的平衡。

附图说明

图1示出了现有技术中3种框架的特征提取流程图；

图2示出了根据本发明的实施例的基于滤波器子集选择和CNN的隐写分析框架构建方法的示意流程图；

图3示出了富模型中所使用的高通滤波器；

图4示出了滤波器集合Ω₃中的滤波器；

图5示出了基于CNN的隐写分析框架；

图6至图8分别示出了嵌入率为0.4bpp的HUGO/WOW/S-UNIWARD数据集实验图。

具体实施方式

为了能够更清楚地理解本发明的上述目的、特征和优点，下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是，在不冲突的情况下，本申请的实施例及实施例中的特征可以相互组合。

在下面的描述中阐述了很多具体细节以便于充分理解本发明，但是，本发明还可以采用其他不同于在此描述的其他方式来实施，因此，本发明的保护范围并不受下面公开的具体实施例的限制。

以下结合图2至图8对本发明的技术方案做进一步说明：

如图2所示，基于滤波器子集选择和CNN的隐写分析框架构建方法，具体包括：

步骤202，获取目标滤波器集合，其中，目标滤波器集合包括所有的高通滤波器和导数滤波器。

其中，高通滤波器在富模型中被设计成局部线性滤波器，其输出可以结合‘min’或‘max’运算符来增加模型的多样性。每个滤波器可以被看做是一个估计器，中心像素值可以通过其相邻像素值估计得到，而且中心像素的残差通过计算其估计值和实际值的差值得到。更具体的说，对于图3中的每个图，需要计算残差的中心像素X_ij被标记为黑色圆点且伴随着一个整数表示残差的阶数。同样的，相邻像素被标记为不同的符号且伴随着一个系数。除了黑色圆点之外，如果只有一种符号，则该滤波器被称为‘spam’类型，它只包含一个滤波器。相反，如果除了黑色圆点之外，有多种不同符号，则称之为‘minmax’类型，每种符号对应一个滤波器。在‘spam’类型中，使用相邻像素的系数矩阵作为线性高通滤波器计算残差，整副残差图像可以通过卷积运算计算出来。相比之下，‘minmax’类型使用两个或两个以上线性高通滤波器，最终的残差图像是通过对各个滤波器滤波所得残差图像取最大值或最小值获得的。

导数通常用来测量信号的瞬时变化率。因此，导数滤波器具有明确的数学意义，可以测量像素之间的复杂关系。它不仅可以作为高通滤波器滤除图像内容，还可以用来评估由隐写噪声引起的微弱变化。

对于一幅图像f(x,y)，x,y表示图像像素的坐标，其水平方向上的一阶，二阶和n阶偏导数可以分别定义为：

使用D_n,m表示水平方向上的n阶导数和竖直方向上的m阶导数的混合偏导数，可以表示为：

由于混合偏导数是可拆分的，所以D_n,m可以通过计算D_n,0和D_0,m的卷积来得到。

根据SRM中的研究，像素依赖关系随着像素间距离的增加而减小。使用最多四阶偏导数可以有效地刻画出沿指定方向的5个像素范围内的像素关系。此外，为了探索不同方向上的像素关系，对滤波器采取了全零填充和旋转操作。用表示经全零填充后的D_n,m顺时针旋转r×45°。非线性运算符‘min’或‘max’计算输入图像与每个经全零填充和旋转后所得的滤波器进行卷积得到的残余图像中的最小值(或最大值)。

步骤204，根据滤波器类型对目标滤波器集合中的滤波器进行筛选，以得到筛选后的滤波器集合。

具体地，整个筛选过程包括：对目标滤波器集合中带有运算符min和max的滤波器进行舍弃；保留目标滤波器集合中旋转角度为0°和90°的滤波器；对spam类型的滤波器进行全零填充，并舍弃重复的滤波器，以得到筛选后的滤波器集合。

例如，完整的目标滤波器集合Ω，它包含了所有的高通滤波器和导数滤波器。

其中，‘spam’和‘minmax’是指高通滤波器的类型，其余的都属于导数滤波器。用表示滤波器S_n顺时针旋转k×90°。其下标‘n’表示图3中‘spam’类型的滤波器的编号。这样，‘spam’滤波器的集合可定义为：

高通滤波器和导数滤波器中的非线性运算符‘min’或‘max’增加了特征图的多样性。于此同时，对于卷积神经网络来说，这也产生了很多冗余的特征图。卷积运算的机制如下：

其中，表示l层的第j个特征图，表示连接l层第j个特征图和l-1层第i个特征图的卷积核，Ω^l-1表示第l-1层的所有特征图，表示卷积运算，表示第l层第j特特征图的偏置，f表示激活函数。

这也就是说，卷积层输出的每个特征图是由所有输入特征图组合而成的，无论是使用‘min’还是‘max’计算残差图像，它们最终都通过一个权重矩阵被融合在一起，该权重矩阵可以通过反向传播算法训练得到。所以，带有‘min’或‘max’的非线性滤波器可以被舍弃掉。经过这一步骤后，滤波器集合被缩减为Ω₁。

旋转滤波器是为了探索不同方向上像素间的依赖关系，而相关研究中提到，像素间的相关性会随着像素间距离的增加而下降，延对角线方向下降的更快。所以，将沿对角线方向计算残差图像的滤波器舍弃掉，以获得最为重要的特征图。另外，根据残差图像的方向对称性，只保留旋转角度为0°和90°的滤波器，其余的滤波器被舍弃掉。经过这一步后，滤波器集合进一步缩减为Ω₂：

与导数滤波器相同，将‘spam’类型的滤波器进行填充，使其成为方阵。注意到全零填充后有一部分滤波器是重复的。特别需要强调的是k₂∈{0,1}衍生自并且与r₃∈{0,2}非常相似，所以将它们看作是重复的滤波器。将重复的滤波器舍弃后，滤波器集最终缩减为Ω₃，也即筛选后的滤波器集合：

步骤206，获取残差图像的结构相似度，并根据残差图像的结构相似度对筛选后的滤波器集合中的滤波器按升序排列。

为了使用尽可能少的滤波器获得丰富的特征表达，引入图像相似度指数来衡量残差图像的特征差异性。

结构相似性(Structural Similarity,SSIM)最初是用来通过测量结构信息的变化来感知图像失真，从而对图像质量进行评估。本实施例将该算法扩展到衡量两幅残差图像的结构相似度上，因为结构信息对CNN是至关重要的。相似度越低，则差异度越大。

假设一幅输入图像X，经过两个不同的滤波器后得到两幅残差图像x,y，其维度为H*W，令x作为参考，使用公式(11)-(14)计算x,y的相似度：

μ_yandσ_y的计算方法相同。

其中，C₁＝(K₁L)²,C₂＝(K₂L)²，K₁,K₂＜＜1，是两个很小的定值，用来防止分母为0。L是像素值得范围，对于8为灰度图像来说，L＝255。

对于一幅输入图像，一旦确定参考残差图像，就可以分别求取其它残差图像与它的相似度。然后，将相似度按照升序排列，也就是说，l₁＜l₂＜…＜l_n。

定义如果l_i对应于输入图像X^(t)被第j个滤波器滤波后所得的残差图像，则否则，其中n表示参与排序的滤波器个数，矩阵R^(t)为n×n矩阵。假设输入图像的数量为N，将排序的统计结果定义为它表示第j个滤波器滤波所得的残差图像的l排名为i的次数。

式(15)满足且

然后，就可以按照如下规则得到滤波器的排序结果：

步骤208，将排序前k个滤波器应用于隐写分析框架的预处理层。其中，需要根据实验的结果选取k的值。隐写分析框架由预处理层和卷积神经网络组成。预处理层的目的是利用高通滤波器或导数滤波器抑制图像内容，同时增强隐写噪声，从而提高信噪比。对于一幅输入图像，使用各个滤波器计算残差图像。如果残差图像个数大于2，则将其叠加为多通道特征图，与只有一个滤波器的预处理层相比，多通道残差图像增强了隐写分析特征图的多样性，使得隐写分析的检测性能得到提升。

以下结合仿真实验对上述实施例中的方案进行验证：

本实施例中的所有实验都是在3种具有内容自适应嵌入机制的隐写算法上进行的，它们分别是HUGO(Highly Undetectable Stego)，S-UNIWARD(Universal WaveletRelative Distortion)和WOW(Wavelet Obtained Weights)。

1.1数据集和实验平台

所有实验的载体图像来自于Bossbase v1.01，数据集，数据集中的图像是由7种型号的相机拍摄原始图片，经过灰度转换和剪切生成512*512像素的图像。载密图像是基于载体图像，使用不同的隐写算法和0.4bpp的嵌入率生成的。

实验的硬件配置为：Intel i7-7700k CPU，32GB RAM，NVdia GTX1080TI显卡，显存为11GB。使用TensorFlow作为深度学习框架。

1.2缩减后的滤波器集合

对于高通滤波器和导数滤波器，经过上述滤波器筛选之后，滤波器集合Ω₃中的滤波器个数减少到18个，这些滤波器在图4中被一一列举出来，每个滤波器都有一个识别号(ID)。其中，一个被称为KV核的滤波器是针对HUGO隐写算法，以最小化误检测率为目标，使用单纯型算法对圆对称核的系数进行优化而得到的。它在对其它隐写分析算法进行检测时也取得了很好的效果。因此，本实施例使用KV核滤波后所得的残差图像作为参考残差图像。

1.3相似度排序的统计结果和滤波器的顺序

在每个数据集中随机选取2000张图片来进行实验。相似度排序的统计结果F²⁰⁰⁰和滤波器的顺序γ可以依次得到。数十次的实验表明滤波器的顺序基本保持稳定。对于隐写算法WOW和S-UNIWARD生成的数据集，结果是相同的。其中的一个实验结果表1所示，滤波器的排序结果为：γ＝[15,16,11,12,14,7,8,3,4,13,2,1,6,5,10,9,17]：

表1

1.4训练、验证和测试

每个实验都从10000对图像(载体和载密图像)中选择6000对用于训练，2000对用于验证，余下的2000对用于测试，在整个训练和验证过程中，测试数据不受影响。具体地，图5示出了基于CNN的隐写分析框架，每层的类型和参数都标在框内，卷积核的参数为“高度*宽度*输入通道数*输出通道数”。Padding＝‘SAME’表示全零填充，Padding＝‘VALID表示不全零填充。数据的维度标记在连接线旁，其参数为“样本数量*图像高度*图像宽度*图像通道数”。

CNN的大部分超参数如图5所示。这里增加一些额外的说明：损失函数由交叉熵和L2正则化组成，正则化系数设置为0.001，批处理归一化(BN)层的滑动平均衰减率为0.9，学习率为0.02。整个训练数据集被训练1000轮。每次迭代都会向网络中输入100个小批量图像(在训练数据集中随机选择，不是成对的)。每个训练过程之后都有一个验证过程，如果当前验证集的检测精度高于前一个，则保存模型，否则不保存模型。最后，利用最后保存的模型对测试数据集进行测试。

为了验证所提方法的有效性，基于集合Ω₃和滤波器顺序γ创建了两个滤波器集合C₁和C₂，C₁和C₂的每个自己都是集合Ω₃的子集。

对于集合C₁，每个子集由KV核以及前k(k∈[1,17])个相似度最低的滤波器组成：C₁＝{{KV},{KV,15},{KV，15,16}，…,{KV,15,…,γ_k}},k∈[1,17]。

对于集合C₁，每个子集由KV核以及前k(k∈[1,17])个相似度最高的滤波器组成：D₂＝{{KV},{KV,17},{KV,17,9}…,{KV,17,…,γ_18-k}},k∈[1,17]。

分别使用C₁和C₂的子集，每个子集的数量作为x轴，测试集上的检测精度作为y轴，如图6至图8所示。

1.5实验结果分析及讨论

如图6、图7及图8所示，对于每个图中的曲线“collection C₁”，当滤波器子集中滤波器个数为3时，取得了最高的检测准确率。也就是说，当滤波器子集取{KV，15,16}时，所得的残差图像结构相似度最低，即差异度最大，这样既减少了残差图像的数量，也保证了特征的多样性。当滤波器个数继续增加时，检测准确率并没有提高甚至会降低，这是因为过多的残差图像存在很多冗余的特征降低了统计显著性。

对比每个图中的曲线“collection C₁”和“collection C₂”，当采用较少的残差图像时，可以看到结构相似性小的残差图像组合可以显著提高检测准确率。相比之下，由于结构相似性大的残差图像组合使得其特征的多样性不如前者丰富，从而使得检测准确率没有得到显著提高。当进一步增加滤波器数量时，两条曲线相交。这一方面是因为增加残差图像有利于提升特征多样性，有利于提高检测准确率；另一方面，过多的残差图像会使得特征冗余，容易过拟合，从而导致检测准确率的降低。

表2示出了不同方法对Bossbase v1.01数据集在嵌入率为0.4bpp的载密图像的检测准确率，与处理层滤波器个数和运行时间。‘-’表示没有相关数据：

表2

其中，多通道滤波残差图像检测精度高于单通道残差图像检测精度，但时间消耗差异不显著。与Yuan的工作相比，本实施例中的方法也使用了3个滤波器，但是在S-UNIWARD数据集上取得了更高的检测准确率。与Shi的工作相比，本实施例中的方法在保证检测精度的前提下，将CNN的输入特征图从28个减少到3个，检测精度仅下降0.14％-0.22％，但是每个epoch的训练和验证时间从161s降低到79.5s，也就是说效率提高了一倍。

以上结合附图详细说明了本发明的技术方案，本发明的技术方案提出了一种新的基于滤波器子集选择和CNN的隐写分析框架构建方法，能够降低输入残差特征图的维数，在保证检测准确率的前提下，加快了计算速度，在计算复杂度和检测性能之间取得了良好的平衡。

上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (3)

1.一种基于滤波器子集选择和CNN的隐写分析框架构建方法，其特征在于，包括：

获取目标滤波器集合，其中，所述目标滤波器集合包括所有的高通滤波器和导数滤波器；

根据滤波器类型对所述目标滤波器集合中的滤波器进行筛选，以得到筛选后的滤波器集合；

获取残差图像的结构相似度，并根据所述残差图像的结构相似度对所述筛选后的滤波器集合中的滤波器按升序排列；

将排序前k个滤波器应用于隐写分析框架的预处理层。

2.根据权利要求1所述的基于滤波器子集选择和CNN的隐写分析框架构建方法，其特征在于，所述根据滤波器类型对所述目标滤波器集合中的滤波器进行筛选，以得到筛选后的滤波器集合的步骤，具体包括：

对所述目标滤波器集合中带有运算符min和max的滤波器进行舍弃；

保留所述目标滤波器集合中旋转角度为0°和90°的滤波器；

对spam类型的滤波器进行全零填充，并舍弃重复的滤波器，以得到所述筛选后的滤波器集合。

3.根据权利要求1或2所述的基于滤波器子集选择和CNN的隐写分析框架构建方法，其特征在于，所述获取残差图像的结构相似度，并根据所述残差图像的结构相似度对所述筛选后的滤波器集合中的滤波器按升序排列的步骤，具体包括：

采用结构相似度算法来计算残差图像的相似度；

采用以下公式来滤波器的排序进行统计：

满足且

根据以下公式来获得滤波器的排序结果：

其中，定义若l_i对应于输入图像X^(t)被第j个滤波器滤波后所得的残差图像，则否则，n表示参与排序的滤波器个数，矩阵R^(t)为n×n矩阵，N表示输入图像的数量，表示第j个滤波器滤波所得的残差图像的l排名为i的次数。