CN110490265A - 一种基于双路卷积和特征融合的图像隐写分析方法 - Google Patents

Abstract

本发明公开了一种基于双路卷积和特征融合的图像隐写分析方法，其步骤包括：1、构建图像隐写分析的深度学习网络框架；2、图像数据集的准备；3、网络的初始化；4、网络的训练及其验证。本发明能通过两路卷积神经网络自动提取更丰富、更精确的图像特征，根据特征判断图像是否存在隐藏信息，从而能以较高的准确率区分载体图像和载密图像。

Description

一种基于双路卷积和特征融合的图像隐写分析方法

技术领域

本发明涉及涉及数字图像隐写技术领域，具体的说是一种基于双路卷积和特征融合的图像隐写分析方法。

背景技术

数字隐写术的基本原理是利用图像、视频、音频、文本等数字载体中存在的人类感知系统不敏感的冗余信息的特性，将待传递的秘密信息隐藏到该冗余信息中，嵌入信息后的载密载体表面上和普通载体一样，使得可能的攻击者很难觉察到秘密信息的存在，从而保证了信息安全隐蔽的传输。隐写分析是一种与隐写术相对抗的逆向分析技术，隐写分析在过去十年中得到了广泛的研究。它的主要目的是检测来自已知来源的数字图像等数字覆盖中是否存在秘密消息。通常，该任务被描述为一个二分类问题，以区分载体对象和隐写对象。

但是，隐写分析目前还存在很多的问题需要被解决。比如，隐写分析的成功一般取决于特征设计，传统的数字图像隐写分析的研究主要集中在复杂手工特征的构建上。然而由于缺乏精确的自然图像模型，这项工作更加复杂，因此提出了各种启发式方法。同时，由于特征提取和分类步骤是分开的，所以不能同时对它们进行优化，这意味着不能利用分类指导来获取有用的信息。特别是近年来提出的内容自适应隐写算法可以保持更复杂的邻域相关性等统计特性，使得隐写分析者需要考虑更复杂的图像统计特性来进行有效的检测，人工设计特征难度也在不断增大，对设计者的经验知识提出更高要求。

随着深度学习在图像识别领域的优异表现，卷积神经网络逐渐成为一种重要的图像隐写分析方法。例如，Xu等构建了一个5层的CNN模型进行隐写分析，对S-UNIWARD算法的检测准确率达到了80％，取得了不错的效果。但是随着网络深度的增加，梯度消失或者爆炸问题会阻碍网络的收敛，批量规范一化的提出使得深度网络利用随机梯度下降得以收敛。但是，深度网络在训练过程中会出现退化问题，即随着网络层数的递增，网络识别性能会逐渐达到饱和后并迅速下降。退化问题并不是，而是增加网络的深度会使得训练误差增加。退化问题表明了深度网络在训练过程中寻找最优权重参数存在很大的困难。

发明内容

本发明为了克服现有技术存在不足之处，提供一种基于双路卷积和特征融合的图像隐写分析方法，以期能通过两路卷积神经网络自动提取更丰富、更精确的图像特征，根据特征判断图像是否存在隐藏信息，从而能以较高的准确率区分载体图像和载密图像。

本发明为达到上述发明目的，采用如下技术方案：

本发明一种基于双路卷积和特征融合的图像隐写分析方法的的是按如下步骤进行：

步骤1、从数据库中获取m张原始的灰度载体图像X＝{x_k|k＝1,2,…m}，其中，x_k表示第k张原始的灰度载体图像，令任意一张原始的灰度载体图像所对应的标签类型为“0”；

利用隐写算法对第k张原始的灰度载体图像x_k进行秘密信息嵌入，得到第k张载密图像y_k以及第k张原始的灰度载体图像x_k中每个像素被修改的概率，从而得到m张原始的灰度载体图像X所对应的载密图像Y＝{y_k|k＝1,2,…m}以及对应的原始的灰度载体图像中每个像素被修改的概率，令第k张原始的灰度载体图像x_k中第i行第j列的像素被修改的概率为令任意一张载密图像所对应的标签类型为“1”；

由所述m张原始的灰度载体图像X和相应的载密图像Y共同构成数据集，并将所述数据集分为训练集和验证集；

利用式(1)计算残差失真矩阵

式(1)中：K为残差滤波器，P表示概率矩阵，且概率矩阵P中第i行第j列的元素值为概率的2倍；

步骤2、构建图像隐写分析的深度学习网络，包括：输入模块、特征提取模块和输出模块；

所述特征提取模块包括两个子网络，且每个子网络均有预处理层和网络层；

所述网络层是由M个网络单元层组成；

所述输出模块是由带有softmax函数的两层全连接层组成；

步骤2.1、设置当前迭代周期为t、最高迭代周期为T_max和批处理图像尺寸为batch_size；初始化t＝1；

步骤2.2、在第t个周期中，依次向所述输入模块输入批次大小为batch_size的训练集，并分别进入所述特征提取模块中的两个子网络，由两个子网络中的预处理层内的高通滤波器K′进行过滤，得到两个残差特征图像；

将两个残差特征图像相应传递到自身预处理层的激活函数TLU中，分别输出一定尺寸的特征激活图像；

步骤2.3、由所述概率矩阵分别与两个子网络中特征激活图像进行相加，并相应得到特征映射图像和作为相应预处理层的输出；

步骤2.4、定义变量m，并初始化m＝0；以预处理层的输出的特征映射图像和作为第m层输出的特征映射图像和

步骤2.5、将第m层输出的特征映射图像和分别传递到自身子网络中网络层的第m+1个网络单元层进行处理，得到第m+1层输出的特征映射图像和

步骤2.6、判断m+1＝M是否成立，若成立，则表示得到M个层输出的特征映射图像，否则，将m+1赋值给m后，返回步骤2.5；

步骤2.7、将两个子网络分别生成的M个层输出的特征映射图像进行聚合，得到第t个周期的当前批次多维聚合矩阵；

步骤2.8、计算第t个周期的多维聚合矩阵中每张特征映射图像的均值，并分别与所设定的阈值进行比较，将小于阈值的特征映射图像删除，将大于等于阈值的特征映射图像保留，从而得到第t个周期筛选后的当前批次多维聚合矩阵；

步骤2.9、将第t个周期筛选后的当前多维聚合矩阵中每张特征映射图像的各个元素作为神经元，并与所述输出模块中第一个全连接层中的神经元进行全连接处理，得到第一单维特征向量V1并传递给第二个全连接层；由第二个全连接层输出第二单维特征向量V2并经过softmax函数处理后，得到第t个周期当前批次分类概率值；

步骤2.10、利用优化算法将所述分类概率值反向传播至深度学习网络中，从而更新第t个周期中深度学习网络的各层权值和偏置项；

步骤2.11、利用验证集验证第t个周期深度学习网络是否为最优网络，如是，则将第t个周期深度学习网络作为当前最优网络，并执行步骤2.12；否则直接执行步骤2.12；

步骤2.12、将t加1赋值给t后，并判断t＞T_max是否成立，若成立，则表示完成网络训练，并得到全局最优网络，用于实现灰度载体图像和载密图像的分类，否则，返回步骤2.2。

本发明所述的图像隐写分析方法的特点也在于，任意一个网络单元层是由批归一化层、卷积层、激活函数层、池化层组成；

所述批归一化层用于将分布的变化较大的数据归一化处理为满足均值为0，标准差为1分布的数据；

所述卷积层用于提取局部特征；

所述激活函数层的激活函数为Relu函数，并用于非线性建模；

所述池化层用于特征图像的采样以及尺寸的改变，且第一个子网络中的池化层采用平均池化和最大池化的组合，第二个子网络中的池化层采用动态自适应池化。

与已有技术相比，本发明的有益效果体现在：

1、本发明相对于传统基于人工设计特征的方法，将特征提取模块和分类模块整合到一个可训练的网络模型框架下，可以根据分类的结果可以不断反向地优化特征提取过程，使得提取的特征更精确。

2、本发明首次联合了两路子网络，并将两路子网络每层提取的特征融合，大大增加了特征的多样性，利用双路卷积神经网络的特征互补，增强了卷积神经网络的拟合能力和提取特征表达的性能；

3、本发明是利用了多种池化算法，其中一个子网络是采用最大池化和平均池化的组合，另一个子网络是采用一种新的动态自适应池化算法，这样模型可以提取到兼顾边缘纹理区域和整体区域更为完备的特征，两个子网络多样性的池化方式提供了可利用的特征差异。

4、本发明通过构建双路网络以及动态自适应池化算法的应用，大大增加了特征的多样性，并保证了特征的精确性，且增强了卷积神经网络的拟合能力，使其具有较强的泛化能力。

附图说明

图1为本发明的双路卷积神经网络和特征融合结构图；

图2为本发明测试双路网络的说明图；

图3为本发明方法流程图。

具体实施方式

本实施例中，一种基于双路卷积和特征融合的图像隐写分析方法，适用于区分原始载体图像和载密图像，先将数据集经过预处理，然后同时进入两个子网络中并逐层提取显著的特征，最后根据融合的特征判断是否存在隐藏信息，进而实现图像的二值分类问题。具体的说，如图3所示，是按如下步骤进行：

步骤1、从数据库中获取m张原始的灰度载体图像X＝{x_k|k＝1,2,…m}，其中，x_k表示第k张原始的灰度载体图像，令任意一张原始的灰度载体图像所对应的标签类型为“0”；

数据库的原始灰度图像的尺寸是512×512，首先要根据设备的性能判断是否需要改变图像的大小，比如改为256×256，不同的方法可以形成不同等量的数据集，这也使得数据变得更丰富；同时可以考虑对原始图像数据集进行数据增强，这可以解决数据量不足的问题，在某种程度上可以防止在训练过程中出现过拟合的情况；

利用隐写算法对第k张原始的灰度载体图像x_k进行秘密信息嵌入，得到第k张载密图像y_k以及第k张原始的灰度载体图像x_k中每个像素被修改的概率，从而得到m张原始的灰度载体图像X所对应的载密图像Y＝{y_k|k＝1,2,…m}以及对应的原始的灰度载体图像中每个像素被修改的概率，令第k张原始的灰度载体图像x_k中第i行第j列的像素被修改的概率为令任意一张载密图像所对应的标签类型为“1”；

秘密信息的嵌入按照不同有效载荷对原始图像进行隐写嵌入会形成不同的载密图像集合，例如，目前最好的隐写嵌入方法有S-UNIWARD、WOW和HUGO算法，每个隐写算法可以按照不同有效载荷生成对应的载密图像集合，一般情况下，有效载荷取值在0.05-0.5范围内；

由m张原始的灰度载体图像X和相应的载密图像Y共同构成数据集，并按照一定的比例将数据集分为训练集、验证集和测试集；

利用式(1)计算残差失真矩阵

式(1)中：K为残差滤波器，P表示概率矩阵，且概率矩阵P中第i行第j列的元素值为概率的2倍；

步骤2、构建图像隐写分析的深度学习网络，包括：输入模块、特征提取模块和输出模块；

特征提取模块包括两个子网络，且每个子网络均有预处理层和网络层；

网络层是由M个网络单元层组成；

任意一个网络单元层是由批归一化层、卷积层、激活函数层、池化层组成；

批归一化层用于将分布的变化较大的数据归一化处理为满足均值为0，标准差为1分布的数据；

卷积层用于提取局部特征；

激活函数层的激活函数为Relu函数，并用于非线性建模；

池化层用于对图像特征进行采样，改变特征图像的尺寸，如图2所示，且第一个子网络中的池化层采用平均池化和最大池化的组合，对于传统的池化方式，通常的尺度都不会太大；例如，大小为2*2，步长为2，太大的尺寸会造成图像中细节信息的丢失；第二个子网络中的池化层采用动态自适应池化，可以增加提取特征的多样性，实现更高特征层次的表达；

自适应池化是基于最大池化改进的一种方法，该算法的表达式为：其中F为子采样特征图，max(F_ij)是从输入的子采样特征图F的大小为c×c池化域中提取的最大值，b₂为偏置项，池化因子会根据池化域的不同自适应取值，池化因子μ＝(0,1)，这样能同时兼顾到平均池化和最大值池化；同时，池化因子会根据迭代次数的不同，动态地调整以达到最优；

输出模块是由带有softmax函数的两层全连接层组成；例如，两层完全连接层中的神经元可以依次设置为1000个、2个，由于只有两层，这大大减小了参数空间，降低了计算复杂度；

步骤2.1、设置当前迭代周期为t、最高迭代周期为T_max和批处理图像尺寸为batch_size；初始化t＝1；

步骤2.2、在第t个周期中，依次向输入模块输入批次大小为batch_size的训练集，如图1所示，并分别进入特征提取模块中的两个子网络，由两个子网络中的预处理层内的高通滤波器K′进行过滤，得到两个残差特征图像；

高通滤波器K′为SRM方案提及的30个基本高通滤波器，可以随机分为两份，分别对应两个子网络；考虑到高通滤波器中的尺寸不一样，在这里我们指定卷积核的大小为5×5，小于这个尺寸的可以在外围填充0；

隐写中的嵌入操作可以被看作是在载体源添加极低的幅值噪声，在隐写分析中，对噪声残差进行建模比对原始像素进行建模会有更好的效果；高通滤波器的作用正好就是抑制图像图像低频的部分，使图像高频部分通过；

将两个残差特征图像相应传递到自身预处理层的激活函数TLU中，分别输出一定尺寸的特征激活图像；

由于嵌入信号范围在[-1,1]之间，一般情况下，阈值T取值可为3，TLU的使用更好适应嵌入信号的分布，能够使得网络更有效学习高通滤波器。之后的网络层激活函数都是Relu，若继续采用TLU激活函数，并不会取得良好的效果，而且还会增大计算量；

步骤2.3、由概率矩阵分别与两个子网络中特征激活图像进行相加，并相应得到特征映射图像和作为相应预处理层的输出；

步骤2.4、定义变量m，并初始化m＝0；以预处理层的输出的特征映射图像和作为第m层输出的特征映射图像和

步骤2.5、将第m层输出的特征映射图像和分别传递到自身子网络中网络层的第m+1个网络单元层进行处理，得到第m+1层输出的特征映射图像和

步骤2.6、判断m+1＝M是否成立，若成立，则表示得到M个层输出的特征映射图像，否则，将m+1赋值给m后，返回步骤2.5；

步骤2.7、将两个子网络分别生成的M个层输出的特征映射图像进行聚合，如图2所示，得到第t个周期的当前批次多维聚合矩阵；

每一层的特征映射集均作为输出，作为最终特征集的一部分，这大大提高了特征的多样性，以及特征多层次性；为分类提供了更多方面的比较数据；

步骤2.8、计算第t个周期的当前批次多维聚合矩阵中每张特征映射图像的均值，并分别与所设定的阈值进行比较，将小于阈值的特征映射图像删除，将大于等于阈值的特征映射图像保留，从而得到第t个周期筛选后的当前批次多维聚合矩阵；

步骤2.9、将第t个周期筛选后的当前批次多维聚合矩阵中每张特征映射图像的各个元素作为神经元，并与输出模块中第一个全连接层中的神经元进行全连接处理，得到第一单维特征向量V1并传递给第二个全连接层；由第二个全连接层输出第二单维特征向量V2并经过softmax函数处理后，得到第t个周期当前批次分类概率值；

步骤2.10、利用优化算法将分类概率值反向传播至深度学习网络中，从而更新第t个周期中深度学习网络的各层权值和偏置项；

步骤2.11、利用验证集验证第t个周期深度学习网络是否为最优网络，如是，则将第t个周期深度学习网络作为当前最优网络，并执行步骤2.12；否则直接执行步骤2.12；

步骤2.12、将t加1赋值给t后，并判断t＞T_max是否成立，若成立，则表示完成网络训练，并得到全局最优网络，用于实现灰度载体图像和载密图像的分类，否则，返回步骤2.2。

Claims (2)

1.一种基于双路卷积和特征融合的图像隐写分析方法，其特征是按如下步骤进行：

步骤1、从数据库中获取m张原始的灰度载体图像X＝{x_k|k＝1,2,…m}，其中，x_k表示第k张原始的灰度载体图像，令任意一张原始的灰度载体图像所对应的标签类型为“0”；

利用隐写算法对第k张原始的灰度载体图像x_k进行秘密信息嵌入，得到第k张载密图像y_k以及第k张原始的灰度载体图像x_k中每个像素被修改的概率，从而得到m张原始的灰度载体图像X所对应的载密图像Y＝{y_k|k＝1,2,…m}以及对应的原始的灰度载体图像中每个像素被修改的概率，令第k张原始的灰度载体图像x_k中第i行第j列的像素被修改的概率为令任意一张载密图像所对应的标签类型为“1”；

由所述m张原始的灰度载体图像X和相应的载密图像Y共同构成数据集，并将所述数据集分为训练集和验证集；

利用式(1)计算残差失真矩阵

式(1)中：K为残差滤波器，P表示概率矩阵，且概率矩阵P中第i行第j列的元素值为概率的2倍；

步骤2、构建图像隐写分析的深度学习网络，包括：输入模块、特征提取模块和输出模块；

所述特征提取模块包括两个子网络，且每个子网络均有预处理层和网络层；

所述网络层是由M个网络单元层组成；

所述输出模块是由带有softmax函数的两层全连接层组成；

步骤2.1、设置当前迭代周期为t、最高迭代周期为T_max和批处理图像尺寸为batch_size；初始化t＝1；

步骤2.2、在第t个周期中，依次向所述输入模块输入批次大小为batch_size的训练集，并分别进入所述特征提取模块中的两个子网络，由两个子网络中的预处理层内的高通滤波器K′进行过滤，得到两个残差特征图像；

将两个残差特征图像相应传递到自身预处理层的激活函数TLU中，分别输出一定尺寸的特征激活图像；

步骤2.3、由所述概率矩阵分别与两个子网络中特征激活图像进行相加，并相应得到特征映射图像F₁ ⁰和作为相应预处理层的输出；

步骤2.4、定义变量m，并初始化m＝0；以预处理层的输出的特征映射图像F₁ ⁰和作为第m层输出的特征映射图像F₁ ^m和

步骤2.5、将第m层输出的特征映射图像F₁ ^m和分别传递到自身子网络中网络层的第m+1个网络单元层进行处理，得到第m+1层输出的特征映射图像F₁ ^m+1和

步骤2.6、判断m+1＝M是否成立，若成立，则表示得到M个层输出的特征映射图像，否则，将m+1赋值给m后，返回步骤2.5；

步骤2.7、将两个子网络分别生成的M个层输出的特征映射图像进行聚合，得到第t个周期的当前批次多维聚合矩阵；

步骤2.8、计算第t个周期的多维聚合矩阵中每张特征映射图像的均值，并分别与所设定的阈值进行比较，将小于阈值的特征映射图像删除，将大于等于阈值的特征映射图像保留，从而得到第t个周期筛选后的当前批次多维聚合矩阵；

步骤2.9、将第t个周期筛选后的当前多维聚合矩阵中每张特征映射图像的各个元素作为神经元，并与所述输出模块中第一个全连接层中的神经元进行全连接处理，得到第一单维特征向量V1并传递给第二个全连接层；由第二个全连接层输出第二单维特征向量V2并经过softmax函数处理后，得到第t个周期当前批次分类概率值；

步骤2.10、利用优化算法将所述分类概率值反向传播至深度学习网络中，从而更新第t个周期中深度学习网络的各层权值和偏置项；

步骤2.11、利用验证集验证第t个周期深度学习网络是否为最优网络，如是，则将第t个周期深度学习网络作为当前最优网络，并执行步骤2.12；否则直接执行步骤2.12；

步骤2.12、将t加1赋值给t后，并判断t＞T_max是否成立，若成立，则表示完成网络训练，并得到全局最优网络，用于实现灰度载体图像和载密图像的分类，否则，返回步骤2.2。

2.如权利要求1所述的图像隐写分析方法，其特征在于，任意一个网络单元层是由批归一化层、卷积层、激活函数层、池化层组成；

所述批归一化层用于将分布的变化较大的数据归一化处理为满足均值为0，标准差为1分布的数据；

所述卷积层用于提取局部特征；

所述激活函数层的激活函数为Relu函数，并用于非线性建模；

所述池化层用于特征图像的采样以及尺寸的改变，且第一个子网络中的池化层采用平均池化和最大池化的组合，第二个子网络中的池化层采用动态自适应池化。