CN111222583A - 一种基于对抗训练与关键路径提取的图像隐写分析方法 - Google Patents

Abstract

本发明公开了一种基于对抗训练与关键路径提取的图像隐写分析方法，包括：对于待检测图像，分别输入至经过对抗训练的隐写分析模块、以及基于关键路径提取的隐写分析模块；所述待检测图像包括：非隐写图像、传统隐写图像和对抗嵌入隐写图像，其中传统隐写图像和对抗嵌入隐写图像都属于隐写图像的类别；获得两个模块各自输出的待检测图像为隐写图像的概率，再结合两个模块的权重，采用加权融合的方式，获得最终待检测图像为隐写图像的概率。该方法可以检测经过对抗嵌入生成的隐写图像，同时在一定程度上权衡了对抗训练带来的传统隐写图像和非隐写图像准确率下降问题。

Description

一种基于对抗训练与关键路径提取的图像隐写分析方法

技术领域

本发明涉及图像隐写分析技术领域，尤其涉及一种基于对抗训练与关键路径提取的图像隐写分析方法。

背景技术

作为信息隐藏的常见手段，数字图像隐写在为人们提供一种更加隐蔽通信方式的同时，也为怀有不当企图的个人和组织开展一系列危害国家、社会安全的活动提供了更可靠的联系方式。

近年来，随着人工神经网络在图像分类等任务上的成功应用，有许多学者把卷积神经网络引入隐写分析领域，并在主流隐写方法上实现了不错的检测效果。在这种背景下，为了提高隐写方法的抗分析性，一些工作开始尝试将生成对抗扰动的方法应用到隐写术的设计，这一类方法根据现有隐写分析网络的梯度更新嵌入成本函数，然后在新的嵌入成本函数上嵌入秘密消息。这种经过对抗嵌入的隐写图像很难被现有分析网络检测到，目前已有学者提出采用对抗训练的方式解决这一问题，但对抗训练也使得传统隐写图像和非隐写图像的分类精度下降。

发明内容

本发明的目的是提供一种基于对抗训练与关键路径提取的图像隐写分析方法，能够检测对抗嵌入隐写图像，同时也在一定程度上保持了对传统隐写图像和非隐写图像的识别率。

本发明的目的是通过以下技术方案实现的：

一种基于对抗训练与关键路径提取的图像隐写分析方法，包括：

对于待检测图像，分别输入至经过对抗训练的隐写分析模块、以及基于关键路径提取的隐写分析模块；所述待检测图像包括：非隐写图像、传统隐写图像和对抗嵌入隐写图像，其中传统隐写图像和对抗嵌入隐写图像都属于隐写图像的类别；

获得两个模块各自输出的待检测图像为隐写图像的概率，再结合两个模块的权重，采用加权融合的方式，作为最终待检测图像为隐写图像的概率。

由上述本发明提供的技术方案可以看出，可以检测对抗嵌入隐写图像，同时在一定程度上权衡了对抗训练带来的传统隐写图像和非隐写图像准确率下降问题，这在现有的工作中研究较少。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他附图。

图1为本发明实施例提供的一种基于对抗训练与关键路径提取的图像隐写分析方法的流程图；

图2为本发明实施例提供的隐写分析网络的示意图；

图3为本发明实施例提供的四种类型的卷积层的示意图；

图4为本发明实施例提供的基于关键路径提取的隐写分析模块的工作流程图。

具体实施方式

下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明的保护范围。

本发明实施例提供一种基于对抗训练与关键路径提取的图像隐写分析方法，如图1所示，其主要包括：

1、对于待检测图像，分别输入至经过对抗训练的隐写分析模块、以及基于关键路径提取的隐写分析模块；所述待检测图像包括：非隐写图像、传统隐写图像和对抗嵌入隐写图像，其中传统隐写图像和对抗嵌入隐写图像都属于隐写图像的类别；

2、获得两个模块各自输出的待检测图像为隐写图像的概率，再结合两个模块的权重(α₁和α₂)，采用加权融合的方式，作为最终待检测图像为隐写图像的概率。

本发明实施例上述方案，可以集成到公安部门的监测平台上，对传输的图像内容进行分析，可以对怀有不当企图的个人和组织传递的包含违法消息的图像进行检测。同时也可以应用到国家相关机密单位的监测平台，防止国家机密的泄露。

为了便于理解，下面针对两个模块以及基于两个模块进行联合预测的方式进行介绍。

一、经过对抗训练的隐写分析模块。

对抗训练是用来防御对抗扰动的一种有效训练方式，其主要通过在训练神经网络的时候加入除了干净图像(这里指非隐写图像和传统隐写图像)之外的对抗图像来提高模型对扰动的鲁棒性。

本发明实施例中，隐写分析模块可以基于目前最先进的隐写分析网络SRNet实现，然后进行对抗训练。由于对输入图像的裁剪和缩放会损失隐写信号，为了使网络能够处理任意大小尺寸的图像，我们引入空间金字塔池化层(SPP)替换了网络原来的全局池化，利用三种不同大小的刻度(1×1、2×2、4×4)对输入的特征图进行了划分，得到1×1+2×2+4×4＝21个块，然后从每个块提取一个特征，得到21维的特征向量，送入全连接层，最后通过Softmax层，将分类结果映射到(0,1)的空间，得到图像为隐写图像的概率。

如图2所示，本发明实施例中，设计了四种类型的卷积层，分别记为T1～T4；图像输入至隐写分析模块后依次经T1类型的卷积层、T2类型的卷积层输入至T3类型的卷积层，再依次经过T2类型的卷积层、T3类型的卷积层输入至T4类型的卷积层，最终通过空间金字塔池化层输入至全连接层并通过Softmax层，得到图像为隐写图像的概率。

如图2所示，四种类型的卷积层的卷积核大小均为3×3，括号中的数字代表卷积层中卷积核的个数。

如图3的(a)部分～(d)部分所示，为四种类型的卷积层的结构示意图，网络包含了残差连接的结构，可以有效地学习噪声残差，利于隐写分析。

如图3的(a)部分所示，T1类型的卷积层包括：依次连接的卷积单元、批归一化层与ReLU激活函数。

如图3的(b)部分所示，T2类型的卷积层包括：依次连接的T1类型的卷积层、卷积单元及批归一化层；同时，T1类型的卷积层的输入还与批归一化层的输出连接。

如图3的(c)部分所示，T3类型的卷积层包括：依次连接的T1类型的卷积层、卷积单元、批归一化层及平均池化层；同时，T1类型的卷积层的输入还依次经过另外的卷积单元与批归一化层连接平均池化层的输出。

如图3的(d)部分所示，T4类型的卷积层包括：依次连接的T1类型的卷积层、卷积单元及批归一化层。

为了使模型对现阶段使用对抗嵌入的隐写术更鲁棒，使用对抗训练的方法，将采用经过对抗嵌入隐写的图像加入训练集。训练时的损失函数为：

其中，α是权重系数，L是交叉熵损失函数，x是未经过对抗嵌入隐写的非隐写图像或传统隐写图像，x'是对抗嵌入隐写图像，θ为待训练的参数，y是图像分类(隐写图像与非隐写图像类别)的标签。

二、基于关键路径提取的隐写分析模块。

1、近期工作表明分解神经网络的功能块对于防御对抗扰动十分有效，与干净图像相比，对抗图像激活了明显不同的网络路径。源于这种发现，提出了一种基于关键路径提取的隐写分析模块，如图4所示。为了使上述特性不被影响，对于基于关键路径提取的隐写分析模块中的隐写分析网络(其结构与前文介绍的相同)，在训练时不使用对抗训练。主要工作流程如下：

1)待检测图像经过隐写分析网络，判断图像是否经过隐写；

2)如果隐写分析网络判断待检测图像为隐写图像，则直接作为基于关键路径提取的隐写分析模块的检测结果；否则，再利用隐写分析网络通过基于关键路径提取的隐写分析方法对待检测图像进行分析，获得相应的检测结果。

3)当检测结果表明待检测图像为隐写图像时，基于关键路径提取的隐写分析模块的输出为1；否则输出为0。

2、为了获得神经网络(也即隐写分析网络)关键、且较为全面的信息，提取关键路径的方法基于两种准则，一是对输出节点贡献较大的路径属于关键路径，保证在提取关键路径时考虑了对网络输出有直接影响的最主要信息；二是随着中间层节点的改变，对输出节点贡献变化较大的路径属于关键路径，保证考虑了中间层变化对隐写分析网络带来影响的能力。在训练过程中，提取关键路径的流程包括：

步骤1、设隐写分析网络的权重为W，神经元的激活值为A，对于一张训练图像，它的关键路径记为P，则第l层的权重、激活值和关键路径分别记为W^l、A^l和P^l，并分别通过向量存储；l＝1,...,L，其中，L表示隐写分析网络的层数。

步骤2、对于最后一层的神经元，设输出类别对应的神经元为当前层关键的神经元(critical neurons)，用

表示。

步骤3、设第l层的关键神经元已经被选中，对于第j个关键神经元

通过两种方法提取关键路径：

方法1，计算第l-1层的每个神经元

激活值

与到

的连接权重

的乘积，按大小排列，取相加的和能超过

的数量最少的神经元，记为第l-1层的关键神经元，则第l-1层的关键神经元

到第l层第j个关键神经元

的连接

为第l-1层的关键路径；其中，i为第l-1层神经元的序号，x为通过方法1选出的关键神经元的序号，λ为比例系数；

方法2，为了进一步考虑中间层激活值的变化对网络带来的影响，设第l-1层到输出的映射为Z_n，则根据一阶泰勒展开公式进行近似，得到

为偏微分符号，δ表示一个较小的增量；在考虑了激活值的情况下，把

与

的积从大到小排列，取比例在前k的值对应的神经元，也记为第l-1层的关键神经元，则第l-1层的关键神经元

到第l层第j个关键神经元

的连接

为第l-1层的关键路径；y为通过方法2选出的关键神经元的序号；

结合上述两种方法获得的关键路径，从而得到第l-1层的关键路径P^l-1。具体来说，通过取两种方法获得的关键路径的并集，由一系列的

构成了第l-1层的关键路径P^l-1。

步骤4、重复步骤3中的方法1与方法2，进行反向传播，得到训练图像的关键路径P＝(P¹,P²,...,P^L)。

步骤5、对于每一训练图像的关键路径，通过取并集操作，得到整个类别的关键路径

即

其中类别C＝c,c'，代表非隐写图像类别c或者隐写图像类别c'，X_C是用来进行关键路径提取的类别C的所有图像。

3、基于关键路径提取的隐写分析方法对待检测图像进行分析的流程包括：

1)对于待测图像A，计算其与非隐写图像类别c在隐写分析网络第l层的关键路径

的相似性

其与隐写图像类别c'在第l层的关键路径

相似性

其中，

表示待测图像A在隐写分析网络第l层的关键路径；

2)计算相似性

与

的差值：

其中，β^l是对待测图像与非隐写图像类别c的第l层关键路径相似性

赋予的权重系数，β^l'是对待测图像与隐写图像类别c'的第l层关键路径相似性

赋予的权重系数，考虑到对抗嵌入对网络结果的影响主要体现在中高层，其权重系数要大于低层的权重系数。

由于对抗嵌入的图像真实类别是隐写图像类别，且没有用来训练和进行路径提取，其与隐写图像类别c'的关键路径相似性要大于非隐写图像与隐写图像类别c'的关键路径，与非隐写图像类别c的关键路径相似性要小于非隐写图像与非隐写图像类别c的关键路径相似性，因此可以设置一个阈值，当Δ小于设定阈值时判定待检测图像为隐写图像；否则，判定待检测图像为非隐写图像。

三、联合预测。

本发明实施例中，将经过对抗训练的隐写分析模块得到的结果和基于关键路径提取的隐写分析模块得到的结果进行加权相加。考虑到经过对抗训练的隐写分析模块中，对抗训练往往影响对传统隐写图像和非隐写图像的判别，且减小隐写图像的漏检率对实际应用更有意义，其输出采用概率形式，即网络Softmax层的直接输出。而基于关键路径提取的隐写分析模块中未经过对抗训练的网络输出，则直接采用1的形式来表示隐写图像，两个模块的结果通过加权相加，得到最终的预测结果。

本发明实施例中，经过对抗训练的隐写分析模块与基于关键路径提取的隐写分析模块的权重分别记为α₁和α₂，计算公式为：

其中，

分别为利用验证集对经过对抗训练的隐写分析模块、基于关键路径提取的隐写分析模块进行验证时得到的分类错误率。

本发明实施例上述方案，可以检测经过对抗嵌入生成的隐写图像，同时在一定程度上权衡了对抗训练带来的传统隐写图像和非隐写图像准确率下降问题，这在现有的工作中研究较少。此外，通过向量存储关键路径，也不会过多增加算法的复杂性，使得我们的方法在实际应用中有较大可行性。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例可以通过软件实现，也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解，上述实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明披露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书的保护范围为准。

Claims (7)

1.一种基于对抗训练与关键路径提取的图像隐写分析方法，其特征在于，包括：

对于待检测图像，分别输入至经过对抗训练的隐写分析模块、以及基于关键路径提取的隐写分析模块；所述待检测图像包括：非隐写图像、传统隐写图像和对抗嵌入隐写图像，其中传统隐写图像和对抗嵌入隐写图像都属于隐写图像的类别；

获得两个模块各自输出的待检测图像为隐写图像的概率，再结合两个模块的权重，采用加权融合的方式，作为最终待检测图像为隐写图像的概率。

2.根据权利要求1所述的一种基于对抗训练与关键路径提取的图像隐写分析方法，其特征在于，经过对抗训练的隐写分析模块为经过对抗训练的隐写分析网络，隐写分析网络中包含四种类型的卷积层，分别记为T1～T4；图像输入至隐写分析模块后依次经T1类型的卷积层、T2类型的卷积层输入至T3类型的卷积层，再依次经过T2类型的卷积层、T3类型的卷积层输入至T4类型的卷积层，最终通过空间金字塔池化层输入至全连接层并通过Softmax层，得到图像为隐写图像的概率；

训练时的损失函数为：

其中，α是权重系数，L是交叉熵损失函数，x是非隐写图像或传统隐写图像，x'是经过对抗嵌入隐写的图像，θ为待训练的参数，y是图像分类的标签。

3.根据权利要求2所述的一种基于对抗训练与关键路径提取的图像隐写分析方法，其特征在于，四种类型的卷积层的结构分别为：

T1类型的卷积层包括：依次连接的卷积单元、批归一化层与ReLU激活函数；

T2类型的卷积层包括：依次连接的T1类型的卷积层、卷积单元及批归一化层；同时，T1类型的卷积层的输入还与批归一化层的输出连接；

T3类型的卷积层包括：依次连接的T1类型的卷积层、卷积单元、批归一化层及平均池化层；同时，T1类型的卷积层的输入还依次经过另外的卷积单元与批归一化层连接平均池化层的输出；

T4类型的卷积层包括：依次连接的T1类型的卷积层、卷积单元及批归一化层。

4.根据权利要求1或2或3所述的一种基于对抗训练与关键路径提取的图像隐写分析方法，其特征在于，

所述基于关键路径提取的隐写分析模块中包含一个未经过对抗训练的隐写分析网络，待检测图像经过隐写分析网络；如果隐写分析网络判断待检测图像为隐写图像，则直接作为基于关键路径提取的隐写分析模块的检测结果；否则，再利用隐写分析网络通过基于关键路径提取的隐写分析方法对待检测图像进行分析，获得相应的检测结果；

当检测结果表明待检测图像为隐写图像时，基于关键路径提取的隐写分析模块的输出为1；否则输出为0。

5.根据权利要求4所述的一种基于对抗训练与关键路径提取的图像隐写分析方法，其特征在于，在训练过程中，提取关键路径的流程包括：

步骤1、设隐写分析网络的权重为W，神经元的激活值为A，对于一张训练图像，它的关键路径记为P，则第l层的权重、激活值和关键路径分别记为W^l、A^l和P^l，并分别通过向量存储；l＝1,...,L，其中，L表示隐写分析网络的层数；

步骤2、对于最后一层的神经元，设输出类别对应的神经元为当前层关键的神经元，用

表示；

步骤3、设第l层的关键神经元已经被选中，对于第j个关键神经元

通过两种方法提取关键路径：

方法1，计算第l-1层的每个神经元

激活值

与到

的连接权重

的乘积，按大小排列，取相加的和能超过

的数量最少的神经元，记为第l-1层的关键神经元，则第l-1层的关键神经元

到第l层第j个关键神经元

的连接

为第l-1层的关键路径；其中，i为第l-1层神经元的序号，x为通过方法1选出的关键神经元的序号，λ为比例系数；

方法2，设第l-1层到输出的映射为Z_n，则根据一阶泰勒展开公式进行近似，得到

为偏微分符号，δ表示一个增量，把

与

的积从大到小排列，取比例在前k的值对应的神经元，也记为第l-1层的关键神经元，则第l-1层的关键神经元

到第l层第j个关键神经元

的连接

为第l-1层的关键路径；y为通过方法2选出的关键神经元的序号；

结合上述两种方法获得的关键路径，从而得到第l-1层的关键路径P^l-1；

步骤4、重复步骤3中的方法1、方法2，进行反向传播，得到训练图像的关键路径P＝(P¹,P²,...,P^L)；

步骤5、对于每一训练图像的关键路径，通过取并集操作，得到整个类别的关键路径

即

其中类别C＝c,c'，代表非隐写图像类别c或者隐写图像类别c'，X_C是用来进行关键路径提取的类别C的所有图像。

6.根据权利要求4或5所述的一种基于对抗训练与关键路径提取的图像隐写分析方法，其特征在于，基于关键路径提取的隐写分析方法对待检测图像进行分析的流程包括：

对于待测图像A，计算其与非隐写图像类别c在隐写分析网络第l层的关键路径

的相似性

其与隐写图像类别c'在第l层的关键路径

相似性

其中，

表示待测图像A在隐写分析网络第l层的关键路径；

计算相似性

与

的差值：

其中，β^l是对待测图像与非隐写图像类别c的第l层关键路径相似性

赋予的权重系数，β^l'是对待测图像与隐写图像类别c'的第l层关键路径相似性

赋予的权重系数；

当Δ小于设定阈值时判定待检测图像为隐写图像；否则，判定待检测图像为非隐写图像。

7.根据权利要求1所述的一种基于对抗训练与关键路径提取的图像隐写分析方法，其特征在于，所述经过对抗训练的隐写分析模块与基于关键路径提取的隐写分析模块的权重分别记为α₁和α₂，计算公式为：

其中，

分别为利用验证集对经过对抗训练的隐写分析模块、基于关键路径提取的隐写分析模块进行验证时得到的分类错误率。

Images