CN110533575B - 一种基于异构核的深度残差隐写分析方法 - Google Patents

Abstract

本发明公开了一种基于异构核的深度残差隐写分析方法，在ResNets的预处理阶段引入SRM模型，并将HetConv异构核作为卷积核应用在DRHNet网络中；包括以下步骤：步骤1、提取图像每个SRM子模型的特征向量；步骤2、将图像所有的特征向量合并重组；步骤3、讲原始图像和载密后的图像放入DRHNet网络模型训练；步骤4、将待检测图像放入训练好的DRHNet隐写分析网络检测，其结果作为图像是否嵌密的参考。本发明在保证隐写分析准确度的同时，克服被检测的隐写图像尺寸的局限，提升隐写分析网络的通用性，降低网络在训练阶段的训练时间。

Description

一种基于异构核的深度残差隐写分析方法

技术领域

本发明涉网络空间安全中的内容安全领域，具体涉及一种基于异构核的深度残差隐写分析方法。

背景技术

当前，卷积神经网络的隐写分析面临诸如通用性差，训练时间长和图像尺寸有限的问题。针对这些问题，我们提出了异构内核残差学习框架，以便在训练阶段节省时间，提升隐写分析网络的通用性。作为网络的输入，本发明通过空域富模型(SRM)的所有子模型将图像提取并合并到特征矩阵中，并使用187×187特征矩阵作为网络的实际输入。本发明提出的架构具有良好的通用性，可以减少计算和参数数量，同时仍然可以获得更高的准确度。

卷积神经网络(CNN)已广泛应用于图像分类领域。由于隐写分析可以被视为图像的二分类问题，可以使用卷积神经网络来攻击隐写，目的是确定图像是否嵌入密文。QianY,Dong J,Wang W首先提出将卷积神经网络应用于隐写分析。他们提出了具有高斯激活功能的神经网络隐写分析器，其配备固定的预处理高通KV滤波器，其作用是抑制图像内容并因此改善隐秘信号和主图像之间的信噪比。Ye J,Ni J,Yi Y.提出了一种不同于随机策略的新的网络(SCA-TLU-CNN)，他们所提出的CNN的第一层中的权重被初始化，用于计算SRM中的残差映射的基本高通滤波器集，充当用于抑制SRM的正则化器。为了更好地捕获嵌入信号的结构，在CNN模型中采用称为截断线性单元(TLU)的新激活函数。Boroumand M,Chen M,Fridrich J提出了一种深度残差结构SRNet，旨在最大限度地减少启发式和外部强制元素的使用，它为空域和JPEG域隐写术提供了先进的检测精度。所提出的架构的关键部分是加入了计算噪声残差的网络前部。

发明内容

本发明的目的在于提供一种基于异构核的深度残差隐写分析方法，该方法用WOW，S-UNIWARD和MiPOD三种隐写算法在公开的图像集BOSSbase 1.01上进行嵌密，并使用上述提到的SCA-TLU-CNN和SRNet两种隐写分析网络对比评估本发明DRHNet的效果，其有效载荷分别设置为0.2,0.3,0.4；使用S-UNIWARD作为隐写算法、有效载荷为0.4bpp时，DRHNet检测误差小于10％，为三种网络最低。

本发明的技术方案是：

一种基于异构核的深度残差隐写分析方法，在ResNets的预处理阶段引入SRM模型，并将HetConv异构核作为卷积核应用在DRHNet网络中；包括以下步骤：

步骤1、提取图像每个SRM子模型的特征向量；

步骤2、将图像所有的特征向量合并重组；

步骤3、讲原始图像和载密后的图像放入DRHNet网络模型训练；

步骤4、将待检测图像放入训练好的DRHNet隐写分析网络检测，其结果作为图像是否嵌密的参考。

具体地：步骤1、利用SRM模型用k个高通滤波器提取覆盖图像或隐秘图像的残差，以形成k个子模型；然后对每个子模型进行量化，舍入和截断，并在水平和垂直方向上提取共生矩阵；此时，为每个图像生成2k个共现矩阵；具有相似属性的共生矩阵被对称地合并，并且所有元素被重新排列成特征向量；此时，已获得该特征，其形式如下：

其中

是使用第k个子模型计算的第x个封面图像c_x的特征；通过Merge(·)函数，在水平共生矩阵M_h(·)和垂直共生矩阵M_v(·)中组合具有相同或相似统计规律的元素，使两个矩阵合并为一个矩阵；

Range(·)是将合并的矩阵重新排列成特征向量的函数；

其中，x＝1,2...z，z是训练集的最后一幅图像，也可以使用同样方法计算出隐秘图像s_x的特征；

是空域图像，其大小为n₁×n₂，矩阵中的每个值

在0到255之间；

M_h(·)可以通过下面的公式获得，M_v(·)可以用相同方法获得的：

正向量q是量化因子，正整数T是截断阈值，这两个参数影响SRM特征的维数和隐写分析性能；d是共生矩阵的次数；如果d太大，则会出现稀疏特征；如果d太小，统计多样性就不够丰富；HP_k(·)表示第k个高通滤波器提取的残差；Round(·)表示按元素舍入，Trunc_T(·)表示按元素截断操作；

提取残差作为共生矩阵；

步骤2、选择q＝0.5,1,2,T＝2,d＝4，并使用SRM设计的所有合并规则；获得的SRM特征实例称为SRMQ3，即使用3种量化因子的SRM特征；它有106个特征，其中17个是338维特征，其中89个是325维特征；RMQ3特征的维数是338×17+325×89＝34671；本发明使用0,0作为每个特征之间的分割，将其填充到187×187的特征矩阵中，并且在矩阵中的最后一个特征之后的空值用0填充，其定义如下：

步骤3、在获得封面图像

和隐秘图像

的特征矩阵之后，目标是使用DRHNet基于它们之间的差异来训练映射Map(·)，使得映射满足以下等式：

步骤4、将待检测图像通过DRHNet隐写分析的结果作为图像是否嵌密的参考。

本发明具有以下特点：

1、本发明在技术实现上使用SRM模型用在ResNets的预处理阶段，并将HetConv异构核作为卷积核应用在DRHNet网络中。

2、隐写嵌入过程对图像进行细微变化，这类似于将弱噪声(隐形噪声)引入图像。同时，隐写嵌入处理不仅改变自然图像的相邻像素相关性，而且改变自然图像的残留图像(噪声分量)的相邻像素相关性。本发明中使用SRM模型模拟残差图像而不是直接建模图像本身，可以有效减弱图像内容对隐写分析特征的干扰。

3、本发明在保证隐写分析准确度的同时，克服被检测的隐写图像尺寸的局限，提升隐写分析网络的通用性，降低网络在训练阶段的训练时间。

附图说明

图1是网络的结构图。

图2是DRHNet卷积内核的结构图。

图3是使用WOW作为隐写算法的嵌密率-错误率曲线图。

图4是S-UNIWARD作为隐写算法的嵌密率-错误率曲线图。

图5是MIPOD作为隐写算法的嵌密率-错误率曲线图。

具体实施方式

下面通过附图和实施例对本发明作进一步描述。

一种基于异构核的深度残差隐写分析方法，将SRM模型用在ResNets的预处理阶段，并将HetConv异构核作为卷积核应用在DRHNet网络中；包括以下步骤：

步骤1、提取图像每个SRM子模型的特征向量；

步骤2、将图像所有的特征向量合并重组；

步骤3、讲原始图像和载密后的图像放入DRHNet网络模型训练；

步骤4、将待检测图像放入训练好的DRHNet隐写分析网络检测，其结果作为图像是否嵌密的参考。

具体地，步骤1、SRM模型用k个高通滤波器提取覆盖图像或隐秘图像的残差，以形成k个子模型；然后对每个子模型进行量化，舍入和截断，并在水平和垂直方向上提取共生矩阵；此时，为每个图像生成2k个共现矩阵；具有相似属性的共生矩阵被对称地合并，并且所有元素被重新排列成特征向量；此时，已获得该特征，其形式如下：

其中

是使用第k个子模型计算的第x个封面图像c_x的特征；通过Merge(·)函数，在水平共生矩阵M_h(·)和垂直共生矩阵M_v(·)中组合具有相同或相似统计规律的元素，使两个矩阵合并为一个矩阵；

Range(·)是将合并的矩阵重新排列成特征向量的函数；

其中，x＝1,2...z，z是训练集的最后一幅图像，也可以使用同样方法计算出隐秘图像s_x的特征；

是空域图像，其大小为n₁×n₂，矩阵中的每个值

在0到255之间；

M_h(×)可以通过下面的公式获得，M_v(×)可以用相同方法获得的：

正向量q是量化因子，正整数T是截断阈值，这两个参数影响SRM特征的维数和隐写分析性能；d是共生矩阵的次数；如果d太大，则会出现稀疏特征；如果d太小，统计多样性就不够丰富；HP_k(·)表示第k个高通滤波器提取的残差；Round(·)表示按元素舍入，Trunc_T(·)表示按元素截断操作；

提取残差作为共生矩阵。

步骤2、选择q＝0.5,1,2,T＝2,d＝4，并使用SRM设计的所有合并规则；获得的SRM特征实例称为SRMQ3，即使用3种量化因子的SRM特征；它有106个特征，其中17个是338维特征，89个是325维特征；RMQ3特征的维数是338×17+325×89＝34671；本发明使用0,0作为每个特征之间的分割，将其填充到187×187的特征矩阵中，并且在矩阵中的最后一个特征之后的空值用0填充，其定义如下：

步骤3、在获得封面图像

和隐秘图像

的特征矩阵之后，目标是使用DRHNet基于它们之间的差异来训练映射Map(·)，使得映射满足以下等式：

步骤4、将待检测图像通过DRHNet隐写分析的结果作为图像是否嵌密的参考。

本发明使用的结构类似于ResNet[34]的34层结构。在每次卷积之后和ReLU之前，也采用批量标准化(BN)。不同之处在于本发明在图像和DRHNet的第一个卷积层之间添加了SRMEM(SRM-Extract-Merge)图层。这将网络实际处理的数据维度从256×256减少到187×187。并且由特征矩阵表示的图像不再是图像的内容。相反，它是图像重新分析的统计特征，因此它更抽象。此外，由于Ada-max可以比SGD(Stochastic Gradient Descent，随机梯度下降)更快地达到收敛，本发明使用Adamax作为优化器来取代SGD。网络的结构如图1所示。

本发明使用HetConv作为DRHNet的卷积内核。也就是说，以3×3和3个1×1卷积核的顺序填充信道。下一个卷积层的卷积核仍然按此顺序排列，但整个排列由卷积核向右移动。DRHNet卷积内核的结构如图2所示。卷积块中存在两个卷积层，每个层由64个3×3和1×1大小的卷积核组成，按上述顺序排列和偏移。使用HetConv而不是传统的卷积内核可以减少网络参数并降低计算复杂度。

图3至图5分别使用WOW，S-UNIWARD和MIPOD作为隐写算法。在使用S-UNIWARD隐写算法，有效载荷为0.2bpp情况下，SCA-TLU-CNN的检测错误率比DRHNet低6％。SRNet的Perror在应用WOW隐写算法和0.4bpp的有效载荷时比本发明提出的结构低不到1％。除上述两种情况外，DRHNet通常比其他两种隐写分析网络具有更好的性能。并且可以看出，随着有效载荷的增加，DRHNet的Perror下降得比其他两个网络快。

使用SRM提取的特征矩阵作为网络的输入使得DRHNet具有良好的通用性。表1中显示了DRHNet交叉测试的检测误差。当使用与训练集不同的隐写算法作为测试集时，获得的检测误差仅高于相同隐写算法2％-3％。

表1：

DRHNet还可以在提高准确性的同时减少耗时。表2显示了上述三种隐写分析网络的参数，计算复杂性和时间消耗。通过牺牲计算复杂性，SRNet实现了比SCA-TLU-CNN更好的性能。与其他两个网络相比，本发明设计的DRHNet计算复杂度低，时间短，同时仍能确保相当高的精度。

表2：

本发明在技术实现上，在ResNets的预处理阶段引入SRM模型，并将HetConv异构核作为卷积核应用在DRHNet网络中。

隐写嵌入过程对图像进行细微变化，这类似于将弱噪声(隐形噪声)引入图像。同时，隐写嵌入处理不仅改变自然图像的相邻像素相关性，而且改变自然图像的残留图像(噪声分量)的相邻像素相关性。本发明使用SRM模型模拟残差图像而不是直接建模图像本身，主要是为了减弱图像内容对隐写分析特征的干扰。

本发明在保证隐写分析准确度的同时，克服被检测的隐写图像尺寸的局限，提升隐写分析网络的通用性，降低网络在训练阶段的训练时间。

以上所述，仅是本发明的较佳实施例而已，并非对本发明作任何形式上的限制，任何未脱离本发明技术方案内容，依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰，均仍属于本发明技术方案的范围内。

Claims (2)

1.一种基于异构核的深度残差隐写分析方法，在ResNets的预处理阶段引入SRM模型，并将HetConv异构核作为卷积核应用在DRHNet网络中；包括以下步骤：

步骤1、提取图像每个SRM子模型的特征向量；

步骤2、将图像所有的特征向量合并重组；

步骤3、讲原始图像和载密后的图像放入DRHNet网络模型训练；

步骤4、将待检测图像放入训练好的DRHNet隐写分析网络检测，其结果作为图像是否嵌密的参考。

2.如权利要求1所述的一种基于异构核的深度残差隐写分析方法，其特征在于：具体步骤为：

步骤1、利用SRM模型用k个高通滤波器提取覆盖图像或隐秘图像的残差，以形成k个子模型；然后对每个子模型进行量化，舍入和截断，并在水平和垂直方向上提取共生矩阵；此时，为每个图像生成2k个共现矩阵；具有相似属性的共生矩阵被对称地合并，并且所有元素被重新排列成特征向量；此时，已获得该特征，其形式如下：

其中

是使用第k个子模型计算的第x个封面图像c_x的特征；通过Merge(·)函数，在水平共生矩阵M_h(·)和垂直共生矩阵M_v(·)中组合具有相同或相似统计规律的元素，使两个矩阵合并为一个矩阵；

Range(·)是将合并的矩阵重新排列成特征向量的函数；

其中，x＝1,2...z，z是训练集的最后一幅图像，也可以使用同样方法计算出隐秘图像s_x的特征；

是空域图像，其大小为n₁×n₂，矩阵中的每个值

在0到255之间；

M_h(·)可以通过下面的公式获得，M_v(·)可以用相同方法获得的：

正向量q是量化因子，正整数T是截断阈值，这两个参数影响SRM特征的维数和隐写分析性能；d是共生矩阵的次数；如果d太大，则会出现稀疏特征；如果d太小，统计多样性就不够丰富；HP_k(·)表示第k个高通滤波器提取的残差；Round(·)表示按元素舍入，Trunc_T(·)表示按元素截断操作；

提取残差作为共生矩阵；

步骤2、选择q＝0.5,1,2,T＝2,d＝4，并使用SRM设计的所有合并规则；获得的SRM特征实例称为SRMQ3，即使用3种量化因子的SRM特征；它有106个特征，其中17个是338维特征，其中89个是325维特征；RMQ3特征的维数是338×17+325×89＝34671；此处使用0,0作为每个特征之间的分割，将其填充到187×187的特征矩阵中，并且在矩阵中的最后一个特征之后的空值用0填充，其定义如下：

步骤3、在获得封面图像

和隐秘图像

的特征矩阵之后，目标是使用DRHNet基于它们之间的差异来训练映射Map(·)，使得映射满足以下等式：

步骤4、将待检测图像通过DRHNet隐写分析的结果作为图像是否嵌密的参考。

Images