CN107330845A - 一种基于卷积神经网络的数字图像隐写分析方法 - Google Patents
一种基于卷积神经网络的数字图像隐写分析方法 Download PDFInfo
- Publication number
- CN107330845A CN107330845A CN201710495780.5A CN201710495780A CN107330845A CN 107330845 A CN107330845 A CN 107330845A CN 201710495780 A CN201710495780 A CN 201710495780A CN 107330845 A CN107330845 A CN 107330845A
- Authority
- CN
- China
- Prior art keywords
- neural networks
- convolutional neural
- mrow
- mtd
- digital picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0021—Image watermarking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
本发明设计一种基于卷积神经网络的数字图像隐写分析方法,包括以下步骤:S1.构建由多层卷积层串联形成的卷积神经网络;S2.对于第一层卷积层,采用高通滤波器对其卷积核进行初始化,然后采用截断线性单元激活函数作为卷积层的激活函数;S3.将数字图像输入至卷积神经网络中,卷积神经网络输出其是否经过隐写的结果。
Description
技术领域
本发明涉及数字图像隐写分析技术领域,更具体地,涉及一种基于卷积神经网络的数字图像隐写分析方法。
背景技术
数字图像隐写分析是信息安全领域一个非常重要的研究方向。所谓隐写分析,是指采用一定的方法实现对运用隐写算法嵌入了秘密信息的图像进行检测的技术。由于隐写算法在设计上着重考虑了嵌入信息后对原始图像所造成的影响,因而对于载密图像来说,无论在视觉上还是统计上,它都是与原始图像非常接近的。为了防止隐写技术被运用于不法途径,需要有行之有效的方法对这种隐秘通信行为进行检测。高效的隐写分析方法,能够从图像中提取到区分度高的统计特征,从而能够捕获到隐写对图像进行修改时遗留的痕迹。
目前来说,图像隐写分析方法主要有两大类,分别是基于统计信号检测的方法和基于特征提取和机器学习的方法。前者首先是对原始图像数据的统计分布进行建模,再利用假设检验来对待检图像进行判定。为了使得该方法在数学上易于求解,所采用的原始图像模型必须足够的简单,这在很大程度上限制了模型的准确性。由于简单的模型无法反映出图像像素间复杂的相关性,因而这类方法目前大多用于检测较为简单的隐写算法,如LSB替换和LSB匹配。对于现代自适应图像隐写算法,例如WOW和S-UNIWARD,这种隐写分析方法难以获得满意的检测性能。因为对这些自适应隐写算法的检测要求所采用的模型能够对邻域像素间的复杂统计相关性进行表征。此时,由于自然图像内容上的高度不稳定,想要估计这些统计模型的参数是不切实际的。
后一种基于特征提取和机器学习的隐写分析方法,则是目前现代隐写分析的主流算法。这种方法无须考虑原始图像的潜在分布模型,它直接把原始图像和载密图像的检测化为一个二分类问题,并通过机器学习的方式来优化求解。这种类型的算法有着同样的一套检测流程:残差计算、特征提取以及二元分类。其中,最为重要的步骤在于特征提取。一个检测方法的优劣,很大程度上取决于特征构建的过程。只有很好地发掘出原始图像与载密图像之间的差别,并构造出具有高度区分性的特征,才能使得最后使用机器学习的方法进行二元分类时获得满意的结果。目前性能领先的隐写分析算法,采用集合多种残差并在此基础上构建共生矩阵对残差的联合分布进行表征,从而获得了高达30000维以上的特征。从隐写分析的角度来看,为了获得对原始图像更加完全的统计描述,使用高维的特征是不可避免的。这就意味着有效的特征变得越来越复杂,而依靠人工经验启发式地设计这些特征则变得愈发困难。与此同时,在这种隐写分析框架下,特征提取与分类器训练是各自独立的。也就是说,分类器训练的结果难以反馈用于指导特征的提取过程,两者无法同时进行优化。
另一方面,卷积神经网络是近年来深度学习领域中最为常见的模型之一。该模型能够从高维的输入图像中提取出有效的高层特征表达,因此在机器视觉领域方面有着广泛的应用。由于隐写信号与一般的机器视觉任务中的有效信号存在很大的差异,因此将卷积神经网络用于隐写分析还需要根据隐写分析的技术特点对现有的网络进行优化改进。
发明内容
本发明为解决以上现有技术提供的方法在进行隐写分析时所存在的分析性能低下或有效特征设计复杂的技术缺陷,提供了一种基于卷积神经网络的数字图像隐写分析方法。
为实现以上发明目的,采用的技术方案是:
一种基于卷积神经网络的数字图像隐写分析方法,包括以下步骤:
S1.构建由多层卷积层串联形成的卷积神经网络;
S2.对于第一层卷积层,采用高通滤波器对其卷积核和偏置进行初始化,然后采用截断线性单元激活函数作为卷积层的激活函数;
S3.将数字图像输入至卷积神经网络中,卷积神经网络输出其是否经过隐写的结果。
与现有技术相比,本发明的有益效果是:
本发明提供的基于卷积神经网络进行图像隐写分析无需进行复杂特征的设计,在进行检测时,输入图像经过卷积神经网络后能够直接被映射为类标,从而直接判断出图像是否存在隐秘信息。与传统的隐写分析方法不同的是,卷积神经网络是作为一个整体在训练的过程中对模型的性能进行优化,从而使得卷积神经网络在区分载体图像和载密图像上获得更高的准确率。
附图说明
图1为卷积操作的示意图。
图2为池化操作卷积操作的示意图。
图3为卷积神经网络的结构示意图。
图4为ReLU激活函数和TLU激活函数的函数图像的对比图。
具体实施方式
附图仅用于示例性说明,不能理解为对本专利的限制;
以下结合附图和实施例对本发明做进一步的阐述。
实施例1
如图3所示,卷积神经网络由多个串联起来的卷积层组成,后一层的输入是前一层的输出。而每个卷积层包含以下三个基本操作:卷积、非线性激活、池化。
卷积操作的过程如图1所示。对输入的数据,采用一个预先定义大小的卷积核进行卷积,便能够得到对应的卷积特征图。一个卷积核对应一张特征图,当使用多个卷积核时,则会输出多张特征图。
非线性激活,则是对于卷积得到的特征图,使用一个非线性的激活函数将其进行逐点的变换。一个常用的激活函数为校正线性单元(Rectified Linear Unit,ReLU),其定义为:
f(x)=max(0,x)
即保留所有大于0的信号,并将所有负值信号设置为0。
池化操作的计算过程如图2所示。常见的池化有两种:最大值池化和平均值池化。最大值池化提取出窗口中的最大值作为输出,而平均值池化则将窗口内所有值的平均数作为输出。
三种操作组合在一起则形成了一个卷积层。因此,对于一个有着多个卷积层的卷积神经网络来说,令F(n)(X)表示第n个卷积层的输出,则有:
F(n)(X)=pooling(f(n)(F(n-1)(X)*W(n)+B(n))) (2)
其中,F(n-1)(X)为第n-1层的输出,F(0)(X)=X为输入图像。‘*’表示卷积操作,W(n)为该卷积层中使用的卷积核,B(n)为偏置,f(n)(·)表示该层的激活函数,pooling(·)为池化操作。需要注意的是,池化和非线性操作在一个卷积层中是可选的。
经过恰当的设计,将多个卷积层串联在一起,便可以得到一个卷积神经网络。如图3所示,是本发明中提出的用于数字图像隐写分析的卷积神经网络结构。该网络一共有10层,其中前9层为卷积层,第10层为全连接层。卷积层的方框内显示了相关的参数设置,“conv”表示卷积操作,其下的数字表示所使用的卷积核的尺寸,“stride”表示卷积核或池化窗口的滑动步长,TLU和ReLU表示所使用的激活函数。下面对该网络中的关键技术进行说明。
对于一个卷积神经网络来说,公式(2)中的W(n)和B(n)需要通过训练来不断更新优化。一般而言,W(n)采用随机数进行初始化。但是,这种初始化策略在隐写分析中难以使用,因为隐写信号的信噪比极低,采用随机初始化的方式,卷积神经网络无法从输入图像中提取到有效的信号。因此,为了提高信噪比,压缩图像内容,对第一层的权值,采用高通滤波器进行初始化,从而获得图像的噪声残差。根据现有的隐写分析研究成果,较为有效的高通滤波器可以有以下几类:
一阶:K1=[-1 1];
二阶:K2=[1 -2 1];
三阶:K2=[1 -3 3 -1];
SQUARE3×3:
EDGE3×3:
SQUARE5×5:
EDGE5×5:
这些滤波器及其旋转后的副本,在周围添加0使其尺寸扩充至5×5,一共可以得到30个不同的高通滤波器(一阶:8个,二阶:4个,三阶:8个,SQUARE3×3:1个,EDGE3×3:4个,SQUARE5×5:1个,EDGE5×5:4个)。此时,对于卷积神经网络第一层的权值,有
卷积层的计算中,需要经过一个非线性函数映射,从而增加网络的非线性表达能力。目前来说,最为常见的激活函数为校正线性单元ReLU。此激活函数非常适用于高信噪比情况下的信号特征提取,使神经网络中各个节点选择性地对有效的信号进行响应,因而可以得到稀疏的特征。但是,对于隐写分析而言,由于隐写过程相当于对原始图像添加高频的低幅值噪声,因此隐写信号的信噪比极低,故而需要采用更加合适的激活函数。考虑到隐写信号总是在[-1,1]之间,因此,为了进一步提高隐写信号的信噪比,将传统神经网络中使用的ReLU激活函数改进为截断线性单元(TLU)激活函数,其定义如下:
其中,T为截断的阈值,可通过实验进行确定。ReLU和TLU的对比如图4所示。使用TLU能够帮助卷积神经网络适应隐写信号的分布,并迫使它学习到更加有效的高通滤波器。
实施例2
本发明所使用的卷积神经网络,无须进行复杂的人工特征设计,并且能够在一套框架内完成特征的提取和分类,使得各个步骤能够同时进行优化,大大降低了隐写分析算法设计的难度。为了验证所提出的算法性能,本发明基于深度学习框架Caffe实现了所提出的算法。以下将所提出的网络称为TLU-CNN。所有实验均在隐写分析常用的图像库BOSSBase和BOWS2上进行。为了能够用GPU进行计算,训练和测试的图像尺寸均从512×512缩放为256×256。
本实施例选择了目前领先的数字图像隐写分析算法——SRM来作为对比,在三种目前最为安全的三种自适应隐写算法(WOW、S-UNIWARD、HILL)上,得到的实验结果如表1所示。
表1SRM和TLU-CNN(T=3)在三种隐写算法那上的检测错误率
从表1可以看到,本发明所提出的方法在这三种算法的两种嵌入容量下,其检测错误率都显著低于SRM特征集。
显然,本发明的上述实施例仅仅是为清楚地说明本发明所作的举例,而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明权利要求的保护范围之内。
Claims (4)
1.一种基于卷积神经网络的数字图像隐写分析方法,其特征在于:包括以下步骤:
S1.构建由多层卷积层串联形成的卷积神经网络;
S2.对于第一层卷积层,采用高通滤波器对其卷积核和偏置进行初始化,然后采用截断线性单元激活函数作为卷积层的激活函数;
S3.将数字图像输入至卷积神经网络中,卷积神经网络输出其是否经过隐写的结果。
2.根据权利要求1所述的基于卷积神经网络的数字图像隐写分析方法,其特征在于:所述截断线性单元激活函数定义如下:
<mrow>
<mi>f</mi>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mfenced open = "{" close = "">
<mtable>
<mtr>
<mtd>
<mrow>
<mo>-</mo>
<mi>T</mi>
</mrow>
</mtd>
<mtd>
<mrow>
<mi>x</mi>
<mo><</mo>
<mo>-</mo>
<mi>T</mi>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mi>x</mi>
</mtd>
<mtd>
<mrow>
<mo>-</mo>
<mi>T</mi>
<mo>&le;</mo>
<mi>x</mi>
<mo>&le;</mo>
<mi>T</mi>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mi>T</mi>
</mtd>
<mtd>
<mrow>
<mi>x</mi>
<mo>></mo>
<mi>T</mi>
</mrow>
</mtd>
</mtr>
</mtable>
</mfenced>
</mrow>
其中,x表示经过非线性激活前特征图中各点的值,T为设定的截断阈值。
3.根据权利要求1所述的基于卷积神经网络的数字图像隐写分析方法,其特征在于:所述卷积神经网络包括9层依次串联的卷积层和与最后一个卷积层输出端连接的全连接层。
4.根据权利要求1所述的基于卷积神经网络的数字图像隐写分析方法,其特征在于:所述步骤S2使用到的高通滤波器包括有以下:
一阶:K1=[-1 1];
二阶:K2=[1 -2 1];
三阶:K2=[1 -3 3 -1];
SQUARE3×3:
EDGE3×3:
SQUARE5×5:
EDGE5×5:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710495780.5A CN107330845A (zh) | 2017-06-26 | 2017-06-26 | 一种基于卷积神经网络的数字图像隐写分析方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710495780.5A CN107330845A (zh) | 2017-06-26 | 2017-06-26 | 一种基于卷积神经网络的数字图像隐写分析方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107330845A true CN107330845A (zh) | 2017-11-07 |
Family
ID=60197109
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710495780.5A Pending CN107330845A (zh) | 2017-06-26 | 2017-06-26 | 一种基于卷积神经网络的数字图像隐写分析方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107330845A (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108346125A (zh) * | 2018-03-15 | 2018-07-31 | 中山大学 | 一种基于生成对抗网络的空域图像隐写方法及系统 |
CN108596818A (zh) * | 2017-12-22 | 2018-09-28 | 华南理工大学 | 一种基于多任务学习卷积神经网络的图像隐写分析方法 |
CN108921764A (zh) * | 2018-03-15 | 2018-11-30 | 中山大学 | 一种基于生成对抗网络的图像隐写方法及系统 |
CN108961137A (zh) * | 2018-07-12 | 2018-12-07 | 中山大学 | 一种基于卷积神经网络的图像隐写分析方法及系统 |
CN109348211A (zh) * | 2018-08-06 | 2019-02-15 | 中国科学院声学研究所 | 一种视频帧内帧间编码的通用信息隐藏检测方法 |
CN109816585A (zh) * | 2019-01-28 | 2019-05-28 | 深圳大学 | 一种基于深度学习的数字图像隐写分析方法 |
CN109934761A (zh) * | 2019-01-31 | 2019-06-25 | 中山大学 | 基于卷积神经网络的jpeg图像隐写分析方法 |
CN110222813A (zh) * | 2018-03-02 | 2019-09-10 | 罗伯特·博世有限公司 | 运行至少部分自动化的车辆的方法、设备和计算机程序 |
CN112804533A (zh) * | 2021-02-08 | 2021-05-14 | 上海交通大学 | 基于分块信息掩膜的hevc视频隐写分析网络方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106530200A (zh) * | 2016-10-23 | 2017-03-22 | 深圳大学 | 一种基于深度学习模型的隐写图像检测方法及系统 |
CN106683031A (zh) * | 2016-12-30 | 2017-05-17 | 深圳大学 | 一种数字图像隐写分析特征提取方法及提取系统 |
-
2017
- 2017-06-26 CN CN201710495780.5A patent/CN107330845A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106530200A (zh) * | 2016-10-23 | 2017-03-22 | 深圳大学 | 一种基于深度学习模型的隐写图像检测方法及系统 |
CN106683031A (zh) * | 2016-12-30 | 2017-05-17 | 深圳大学 | 一种数字图像隐写分析特征提取方法及提取系统 |
Non-Patent Citations (2)
Title |
---|
JESSICA FRIDRICH ,JAN KODOVSKY: "Rich Models for Steganalysis of Digital Images,Jessica Fridrich ,Jan Kodovsky", 《IEEE TRANSACTIONS ON INFORMATION FORENSICS AND SECURITY》 * |
叶健等: "Deep Learning Hierarchical Representations for Image Steganalysis", 《IEEE TRANSACTIONS ON INFORMATION FORENSICS AND SECURITY》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108596818A (zh) * | 2017-12-22 | 2018-09-28 | 华南理工大学 | 一种基于多任务学习卷积神经网络的图像隐写分析方法 |
CN108596818B (zh) * | 2017-12-22 | 2021-10-26 | 华南理工大学 | 一种基于多任务学习卷积神经网络的图像隐写分析方法 |
CN110222813A (zh) * | 2018-03-02 | 2019-09-10 | 罗伯特·博世有限公司 | 运行至少部分自动化的车辆的方法、设备和计算机程序 |
CN108921764A (zh) * | 2018-03-15 | 2018-11-30 | 中山大学 | 一种基于生成对抗网络的图像隐写方法及系统 |
CN108346125A (zh) * | 2018-03-15 | 2018-07-31 | 中山大学 | 一种基于生成对抗网络的空域图像隐写方法及系统 |
CN108921764B (zh) * | 2018-03-15 | 2022-10-25 | 中山大学 | 一种基于生成对抗网络的图像隐写方法及系统 |
CN108346125B (zh) * | 2018-03-15 | 2021-10-08 | 中山大学 | 一种基于生成对抗网络的空域图像隐写方法及系统 |
CN108961137A (zh) * | 2018-07-12 | 2018-12-07 | 中山大学 | 一种基于卷积神经网络的图像隐写分析方法及系统 |
CN109348211A (zh) * | 2018-08-06 | 2019-02-15 | 中国科学院声学研究所 | 一种视频帧内帧间编码的通用信息隐藏检测方法 |
CN109816585A (zh) * | 2019-01-28 | 2019-05-28 | 深圳大学 | 一种基于深度学习的数字图像隐写分析方法 |
CN109934761A (zh) * | 2019-01-31 | 2019-06-25 | 中山大学 | 基于卷积神经网络的jpeg图像隐写分析方法 |
CN109934761B (zh) * | 2019-01-31 | 2022-11-29 | 中山大学 | 基于卷积神经网络的jpeg图像隐写分析方法 |
CN112804533A (zh) * | 2021-02-08 | 2021-05-14 | 上海交通大学 | 基于分块信息掩膜的hevc视频隐写分析网络方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107330845A (zh) | 一种基于卷积神经网络的数字图像隐写分析方法 | |
CN104217216B (zh) | 生成检测模型的方法和设备、用于检测目标的方法和设备 | |
Chen et al. | Median filtering forensics based on convolutional neural networks | |
CN108346125A (zh) | 一种基于生成对抗网络的空域图像隐写方法及系统 | |
CN109934761A (zh) | 基于卷积神经网络的jpeg图像隐写分析方法 | |
CN106228512A (zh) | 基于学习率自适应的卷积神经网络图像超分辨率重建方法 | |
CN111507884A (zh) | 一种基于深层卷积神经网络的自适应图像隐写分析方法及系统 | |
CN106845529A (zh) | 基于多视野卷积神经网络的影像特征识别方法 | |
CN104778702A (zh) | 基于深度学习的图像隐写检测方法 | |
CN106022355B (zh) | 基于3dcnn的高光谱图像空谱联合分类方法 | |
CN111476249B (zh) | 多尺度大感受野卷积神经网络的构建方法 | |
CN106485324A (zh) | 一种卷积神经网络优化方法 | |
CN107292250A (zh) | 一种基于深度神经网络的步态识别方法 | |
CN109522958A (zh) | 基于跨尺度特征融合的深度卷积神经网络目标检测方法 | |
CN108564166A (zh) | 基于带对称跨层连接的卷积神经网络半监督特征学习方法 | |
CN106530200A (zh) | 一种基于深度学习模型的隐写图像检测方法及系统 | |
CN109785249A (zh) | 一种基于持续性记忆密集网络的图像高效去噪方法 | |
CN107016241A (zh) | 基于加噪样本增强深度自编码学习网络的旋转机械寿命阶段识别方法 | |
CN104281858A (zh) | 三维卷积神经网络训练方法、视频异常事件检测方法及装置 | |
CN107292885A (zh) | 一种基于自动编码器的产品缺陷分类识别方法及装置 | |
CN109859091A (zh) | 基于Gabor滤波和卷积神经网络的图像隐写检测方法 | |
CN109670491A (zh) | 鉴别人脸图像的方法、装置、设备和存储介质 | |
CN110490265A (zh) | 一种基于双路卷积和特征融合的图像隐写分析方法 | |
Thakur et al. | Copy-move forgery detection using residuals and convolutional neural network framework: a novel approach | |
CN111565189A (zh) | 基于深度学习的侧信道分析方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20171107 |