CN108764270B - 一种利用卷积神经网络集成的信息隐藏检测方法 - Google Patents

一种利用卷积神经网络集成的信息隐藏检测方法 Download PDF

Info

Publication number
CN108764270B
CN108764270B CN201810286804.0A CN201810286804A CN108764270B CN 108764270 B CN108764270 B CN 108764270B CN 201810286804 A CN201810286804 A CN 201810286804A CN 108764270 B CN108764270 B CN 108764270B
Authority
CN
China
Prior art keywords
neural network
image
training
convolutional neural
generated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810286804.0A
Other languages
English (en)
Other versions
CN108764270A (zh
Inventor
冯国瑞
钟凯
胡丹丹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Shanghai for Science and Technology
Original Assignee
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Shanghai for Science and Technology filed Critical University of Shanghai for Science and Technology
Priority to CN201810286804.0A priority Critical patent/CN108764270B/zh
Publication of CN108764270A publication Critical patent/CN108764270A/zh
Application granted granted Critical
Publication of CN108764270B publication Critical patent/CN108764270B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/0021—Image watermarking
    • G06K9/6256—
    • G06K9/6267—
    • G06N3/0454—

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Image Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)

Abstract

本发明涉及一种利用卷积神经网络集成的信息隐藏检测方法，操作步骤为：（1）将整个数据集D随机划分出训练集和测试集，再用留出法从训练集中选取一部分作为单次训练集；（2）利用自适应产生的高通滤波器滤波训练集图像产生差异化的残差图像；（3）构建特定的卷积神经网络；（4）将每种残差图分别输入到卷积神经网络中，进行神经网络训练；（5）将神经网络的池化层输出作为特征；（6）将由步骤（1）中产生的不同训练集和步骤（2）中产生的不同残差图像组合，分别训练得到差异特征，进行特征融合之后输入到集成分类器中。本发明可以有效地方便地解决含密图像的检测问题，检测准确率更高。

Description

一种利用卷积神经网络集成的信息隐藏检测方法
技术领域
本发明涉及一种利用卷积神经网络集成的信息隐藏检测方法。
背景技术
信息隐藏就是将秘密信息隐藏到正常的载体中并实现秘密通信。隐写是一种隐蔽通信的重要技术，其中附加的秘密信息在不会过度影响多媒体信号的前提下嵌入数字媒体中。近几年来，隐写领域已经成为了信息安全的焦点，因为每个网站站点都依赖多媒体，如音频、视频和图像。隐写这项技术可以将秘密信息嵌入到数字媒介中而不损坏载体的质量，第三方既觉察不到秘密信息的存在，也不知道存在秘密信息。因此密钥、数字签名和私密信息都可以在开放的环境中安全的传送。隐写与反隐写之间的斗争已成为信息安全的重要课题，最重要的反隐写技术是隐写分析，其目的是检测某些特定对象是否存在隐藏消息。在图像检测时需要根据从图像中导出的特征向量进行分类，所以特征提取可以说是隐写分析的最重要的组成部分之一。在实际应用中，隐写方法设计越来越巧妙，为了获得更准确的含密图像检测效果，需要高维特征表征，使得特征设计越来越困难，隐写技术的快速发展带来的主要挑战是需要进行的特征设计越来越复杂。而CNN(卷积神经网络)的特点是可以利用神经网络自动化提取特征，无需人工参与，为隐写分析提供了新的研究思路。
发明内容
本发明目的是针对已有技术需要利用先验模型提取特征的不足，提供一种利用卷积神经网络集成的信息隐藏检测方法。只需要将待检测图像输入到神经网络中，神经网络就可以直接输出图像分类结果，检测图像是否为含密图像，更方便于实际应用场景。
为达到上述目的，本发明采用的技术方案如下：
一种利用卷积神经网络集成的信息隐藏检测方法，具体操作步骤如下：
(1)将整个数据集D随机划分出训练集和测试集，再用留出法从训练集中选取一部分作为单次训练集；
(2)利用自适应产生的高通滤波器滤波训练集图像产生差异化的残差图像；
(3)构建特定的卷积神经网络；
(4)将每种残差图分别输入到卷积神经网络中，进行神经网络训练；
(5)将神经网络的池化层输出作为特征；
(6)将由步骤(1)中产生的不同训练集和步骤(2)中产生的不同残差图像组合，分别训练得到差异特征，进行特征融合之后输入到集成分类器中。
所述步骤(1)中整个数据集D被随机划分为两个相互排斥的集合，图像数量相同，其中一个被设置为训练集S，另一个被设置为测试集T，即D＝S∪T，
Figure BDA0001616238370000021
在S上训练模型后，由T估计测试误差作为泛化误差的估计；由于需要用不同的训练集进行集成，所以必须保持测试集为同一个集合T；从S中随机挑选4/5的图像作为训练集，S的其余图像作为验证集来估计模型的性能；采用留出法每次从S中随机挑选4/5图像作为新的训练集，产生不同的训练样本集作为样本扰动，以便产生不同结果进行后续的集成。
所述步骤(2)具体为：将隐写操作视为对图像增加极低幅度的噪声，因此，在隐写分析中采用噪声残差而不是原始像素作为输入特征更合适；由不同高通滤波器内核滤波产生的噪声残留将产生很大的区别，因为高通滤波器是神经网络的第一层，高通滤波器对网络之后的结构都将有很大的影响，结果将有很大的差异，会产生集成的差异性，提高集成效果，其中卷积核选取的原则就是正常图像和含密图像与卷积核卷积后产生残差图的差距越大越好，具体的方法如下：
将{Ck,Sk}定义为第k张图像对(1≤k≤s)，Ck表示第k张原始图像，Sk表示第k张含密图像；然后计算图像对同一个卷积核的残差
Figure BDA0001616238370000022
和
Figure BDA0001616238370000023
p代表卷积核序号，c代表原始图像，s代表含密图像，计算差值
Figure BDA0001616238370000024
计算两个卷积核(p＝0,p＝1)之间的弗罗贝尼乌斯范数：
Figure BDA0001616238370000025
寻找使F(p0,p1)之和最大的五个卷积核，作为最后的选定的卷积核。
所述步骤(3)中特定的卷积神经网络，其基本结构为卷积层，批规一化层，ReLU层以及池化层。
所述步骤(4)中读取不同的参数模型，并且将残差图输入到卷积神经网络中，进行训练和迭代，直到结果收敛。
所述步骤(5)中，由于用卷积神经网络作为一个特征提取的工具，所以需要改变网络层最后的输出，截取池化层输出作为输出特征。
所述步骤(6)中的集成分类器是一个能够自动选取特征子空间，进行特征加权进行集成的分类器，只需要将特征输入到分类器中，能够自动得到相应的结果。
与现有技术相比，本发明方法具有如下的优点：
本发明方法提出利用自适应产生的高斯滤波器对输入图像计算残差，产生包含不同尺度特征的残差图，并且输入到深度学习卷积神经网络来提取高维特征，输入到集成分类器中，并且利用数据集扰动和卷积核扰动来产生差异性提升集成效果的方案，将高斯滤波与卷积神经网络提取特征相结合，对比传统的方案检测准确率更高。
附图说明
图1是利用卷积神经网络集成的信息隐藏检测方法的操作程序框图。
图2是卷积神经网络结构图。
图3是卷积模块详细示意图。
具体实施方式
下面结合附图对本发明的优选实施例做进一步详细说明。
首先介绍在方法过程中用到的特征提取方法和学习算法：
卷积神经网络：卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器。在卷积神经网络的卷积层中，一个神经元只与部分邻层神经元连接。在卷积神经网络的一个卷积层中，通常包含若干个特征平面(feature map)，每个特征平面由一些矩形排列的神经元组成，同一特征平面的神经元共享权值，这里共享的权值就是卷积核。卷积核一般以随机小数矩阵的形式初始化，在网络的训练过程中卷积核将学习得到合理的权值。共享权值(卷积核)带来的直接好处是减少网络各层之间的连接，同时又降低了过拟合的风险。子采样也叫做池化(pooling)，通常有均值子采样(mean pooling)和最大值子采样(maxpooling)两种形式。子采样可以看作一种特殊的卷积过程。卷积和子采样大大简化了模型复杂度，减少了模型的参数。
高通滤波器(high-pass-filter)：提取图像残差图，可以更有效的提取隐写特征。
集成学习(ensemble learning)：集成分类器由许多独立的学习基构成，每一个学习基单独选取特征空间进行分类，特征子空间维数dsub远小于原始空间的维数d。最终的分类结果由所有学习基的分类结果投票决定。集成分类器的性能远远优于单一的学习基的性能，并且对于每一个学习基来说，其特征空间就是随机子空间的维度，这样同时就解决了隐写分析特征的高维复杂度问题。
参见图1，一种利用卷积神经网络集成的信息隐藏检测方法，具体操作步骤如下：
(1)将整个数据集D随机划分出训练集和测试集，再用留出法从训练集中选取一部分作为单次训练集；
(2)利用自适应产生的高通滤波器滤波训练集图像产生差异化的残差图像；
(3)构建特定的卷积神经网络；
(4)将每种残差图分别输入到卷积神经网络中，进行神经网络训练；
(5)将神经网络的池化层输出作为特征；
(6)将由步骤(1)中产生的不同训练集和步骤(2)中产生的不同残差图像组合，分别训练得到差异特征，进行特征融合之后输入到集成分类器中。
所述步骤(1)中的采用留出法产生不同训练集：选取BOSSBase图像集，共两万张图像，其中一万张为原始图像，一万张为含密图像。将图像集定义为一万对图像对，随机分为五千对为训练集，五千对为测试集。每次在训练集中采用留出法随机挑选出四千对图像作为训练样本，共三次。
所述步骤(2)中的利用自适应产生的高通滤波器滤波产生差异化的残差图像：可以将隐写操作视为对图像增加极低幅度的噪声。因此，在隐写分析中采用噪声残差而不是原始像素作为输入特征更合适。而由不同高通滤波器内核滤波产生的噪声残留将产生很大的区别，因为高通滤波器是神经网络的第一层，高通滤波器对网络之后的结构都将有很大的影响，结果将有很大的差异，能产生集成的差异性，提高集成效果。其中卷积核的选取的原则就是正常图像和含密图像与卷积核卷积后产生的残差图的差距越大越好，具体的方法如下：
将{Ck,Sk}定义为第k张图像对(1≤k≤s)，Ck表示第k张原始图像，Sk表示第k张含密图像；然后计算图像对同一个卷积核的残差
Figure BDA0001616238370000041
和
Figure BDA0001616238370000042
p代表卷积核序号，c代表原始图像，s代表含密图像，计算差值
Figure BDA0001616238370000043
计算两个卷积核(p＝0,p＝1)之间的弗罗贝尼乌斯范数：
Figure BDA0001616238370000044
寻找使F(p0,p1)之和最大的五个卷积核，作为最后选定的卷积核。
产生5个卷积核，对应不同的训练样本，共产生15种训练结果。
所述步骤(3)构建特定的卷积神经网络：
特定的卷积神经网络结构如图2和图3所示。基本结构为卷积层，BN(批归一化)层，ReLU层以及池化层。
所述步骤(4)将每种残差图分别输入到卷积神经网络中：
读取不同的参数模型，并且将残差图输入到卷积神经网络中，进行训练和迭代，直到结果收敛。
所述步骤(5)将神经网络的池化层输出作为特征：
采用卷积神经网络作为一个特征提取的工具，所以改变网络层最后的输出，截取池化层输出作为输出特征。
所述步骤(6)将由步骤(1)中产生的不同训练集和步骤(2)中产生的不同残差图像组合，训练得到差异特征，进行特征融合之后输入到集成分类器中：
将输出特征进行特征融合，不同卷积核与不同训练集产生的特征融合在一起。因为最后一层池化层有256个，所以结果总共有15*256＝3840维特征。集成分类器是一个可以自动选取特征子空间，进行特征加权进行集成的分类器，只需要将特征输入到分类器中，会自动得到相应的结果。结果如下：
在WOW数据集上，嵌入率为0.4bpp的条件下，错误率为16.23％。
在S-UNIWARD数据集上，嵌入率为0.4bpp条件下，错误率为17.53％。

Claims (5)

1.一种利用卷积神经网络集成的信息隐藏检测方法，其特征在于，具体操作步骤如下：
(1)将整个数据集D随机划分出训练集和测试集，再用留出法从训练集中选取一部分作为单次训练集；
(2)利用自适应产生的高通滤波器滤波训练集图像产生差异化的残差图像；
(3)构建特定的卷积神经网络；所述特定的卷积神经网络，其基本结构为卷积层，批规一化层，ReLU层以及池化层；
(4)将每种残差图分别输入到卷积神经网络中，进行神经网络训练；
(5)将神经网络的池化层输出作为特征；
(6)将由步骤(1)中产生的不同训练集和步骤(2)中产生的不同残差图像组合，分别训练得到差异特征，进行特征融合之后输入到集成分类器中；
所述步骤(2)具体为：将隐写操作视为对图像增加极低幅度的噪声，因此，在隐写分析中采用噪声残差而不是原始像素作为输入特征更合适；由不同高通滤波器内核滤波产生的噪声残留将产生很大的区别，因为高通滤波器是神经网络的第一层，高通滤波器对网络之后的结构都将有很大的影响，结果将有很大的差异，会产生集成的差异性，提高集成效果，其中卷积核选取的原则就是正常图像和含密图像与卷积核卷积后产生残差图的差距越大越好，具体的方法如下：
将{Ck,Sk}定义为第k张图像对1≤k≤s，Ck表示第k张原始图像，Sk表示第k张含密图像；然后计算图像对同一个卷积核的残差
Figure FDA0003506290000000011
和
Figure FDA0003506290000000012
p代表卷积核序号，C代表原始图像，s表示图像总对数，S表示含密图像，计算差值
Figure FDA0003506290000000013
计算两个卷积核(p＝0,p＝1)之间的弗罗贝尼乌斯范数：
Figure FDA0003506290000000014
寻找使F(p0,p1)之和最大的五个卷积核，作为最后的选定的卷积核。
2.根据权利要求1所述的利用卷积神经网络集成的信息隐藏检测方法，其特征在于，所述步骤(1)中整个数据集D被随机划分为两个相互排斥的集合，图像数量相同，其中一个被设置为训练集S，另一个被设置为测试集T，即D＝S∪T，
Figure FDA0003506290000000015
在S上训练模型后，由T估计测试误差作为泛化误差的估计；由于需要用不同的训练集进行集成，所以必须保持测试集为同一个集合T；从S中随机挑选4/5的图像作为训练集，S的其余图像作为验证集来估计模型的性能；采用留出法每次从S中随机挑选4/5图像作为新的训练集，产生不同的训练样本集作为样本扰动，以便产生不同结果进行后续的集成。
3.根据权利要求1所述的利用卷积神经网络集成的信息隐藏检测方法，其特征在于，所述步骤(4)中读取不同的参数模型，并且将残差图输入到卷积神经网络中，进行训练和迭代，直到结果收敛。
4.根据权利要求1所述的利用卷积神经网络集成的信息隐藏检测方法，其特征在于，所述步骤(5)中，由于用卷积神经网络作为一个特征提取的工具，所以需要改变网络层最后的输出，截取池化层输出作为输出特征。
5.根据权利要求1所述的利用卷积神经网络集成的信息隐藏检测方法，其特征在于，所述步骤(6)中的集成分类器是一个能够自动选取特征子空间，进行特征加权进行集成的分类器，只需要将特征输入到分类器中，能够自动得到相应的结果。
CN201810286804.0A 2018-04-03 2018-04-03 一种利用卷积神经网络集成的信息隐藏检测方法 Active CN108764270B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810286804.0A CN108764270B (zh) 2018-04-03 2018-04-03 一种利用卷积神经网络集成的信息隐藏检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810286804.0A CN108764270B (zh) 2018-04-03 2018-04-03 一种利用卷积神经网络集成的信息隐藏检测方法

Publications (2)

Publication Number Publication Date
CN108764270A CN108764270A (zh) 2018-11-06
CN108764270B true CN108764270B (zh) 2022-06-14

Family

ID=63980690

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810286804.0A Active CN108764270B (zh) 2018-04-03 2018-04-03 一种利用卷积神经网络集成的信息隐藏检测方法

Country Status (1)

Country Link
CN (1) CN108764270B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109729070B (zh) * 2018-11-28 2022-03-11 甘肃农业大学 一种基于cnn和rnn融合模型的网络异构并发隐写信道的检测方法
CN109754002A (zh) * 2018-12-24 2019-05-14 上海大学 一种基于深度学习的隐写分析混合集成方法
CN109934761B (zh) * 2019-01-31 2022-11-29 中山大学 基于卷积神经网络的jpeg图像隐写分析方法
CN110517227A (zh) * 2019-07-29 2019-11-29 数字广东网络建设有限公司 图像隐藏信息检测的方法、装置、计算机设备和存储介质
CN110516575A (zh) * 2019-08-19 2019-11-29 上海交通大学 基于残差域富模型的gan生成图片检测方法及系统
CN112487365B (zh) * 2019-09-11 2024-01-30 阿里巴巴集团控股有限公司 信息隐写方法及信息检测方法及装置
CN111462085B (zh) * 2020-03-31 2023-09-19 上海大学 基于卷积神经网络的数字图像局部滤波取证方法
CN111192226B (zh) * 2020-04-15 2020-07-31 苏宁云计算有限公司 一种图像融合去噪方法及装置、系统
CN111798390B (zh) * 2020-06-29 2022-10-21 武汉大学 一种基于多尺度滤波器图像增强的空域隐写方法
US11720991B2 (en) 2021-05-20 2023-08-08 International Business Machines Corporation Signing and authentication of digital images and other data arrays
CN114694220A (zh) * 2022-03-25 2022-07-01 上海大学 一种基于Swin Transformer的双流人脸伪造检测方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106683031A (zh) * 2016-12-30 2017-05-17 深圳大学 一种数字图像隐写分析特征提取方法及提取系统
CN106709511A (zh) * 2016-12-08 2017-05-24 华中师范大学 基于深度学习的城市轨道交通全景监控视频故障检测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10223780B2 (en) * 2015-04-15 2019-03-05 Institute Of Automation Chinese Academy Of Sciences Image steganalysis based on deep learning

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106709511A (zh) * 2016-12-08 2017-05-24 华中师范大学 基于深度学习的城市轨道交通全景监控视频故障检测方法
CN106683031A (zh) * 2016-12-30 2017-05-17 深圳大学 一种数字图像隐写分析特征提取方法及提取系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Steganalysis with CNN Using Multi-channels Filtered Residuals;Yafei Yuan等;《Third International Conference，ICCCS 2017》;20171031;第10602卷;110-120页 *
基于改进支持向量机的高维隐写盲检测方法;何凤英等;《计算机工程》;20150630;第41卷(第06期);121-125页 *

Also Published As

Publication number Publication date
CN108764270A (zh) 2018-11-06

Similar Documents

Publication Publication Date Title
CN108764270B (zh) 一种利用卷积神经网络集成的信息隐藏检测方法
WO2019223397A1 (zh) 图像处理方法、装置、计算机设备和计算机存储介质
CN110349136A (zh) 一种基于深度学习的篡改图像检测方法
WO2016165082A1 (zh) 基于深度学习的图像隐写检测方法
CN112036513B (zh) 基于内存增强潜在空间自回归的图像异常检测方法
CN108280480B (zh) 一种基于残差共生概率的隐写图像载体安全性评价方法
CN112580590A (zh) 一种基于多语义特征融合网络的指静脉识别方法
CN110968845B (zh) 基于卷积神经网络生成的针对lsb隐写的检测方法
CN110490265B (zh) 一种基于双路卷积和特征融合的图像隐写分析方法
CN113850272A (zh) 基于本地差分隐私的联邦学习图像分类方法
CN115378574B (zh) 一种轻量级动态图像数据加密方法及系统
WO2016201648A1 (zh) 一种基于局部学习的信息隐藏检测方法
CN112150450A (zh) 一种基于双通道U-Net模型的图像篡改检测方法及装置
CN111507386A (zh) 一种存储文件及网络数据流加密通信检测方法及系统
CN109949200B (zh) 基于滤波器子集选择和cnn的隐写分析框架构建方法
Yao et al. CGNet: Detecting computer-generated images based on transfer learning with attention module
Wang et al. HidingGAN: High capacity information hiding with generative adversarial network
CN111726472B (zh) 一种基于加密算法的图像抗干扰方法
CN111222583B (zh) 一种基于对抗训练与关键路径提取的图像隐写分析方法
Liu et al. Ensemble of CNN and rich model for steganalysis
Chen et al. Image splicing localization using residual image and residual-based fully convolutional network
Chen et al. Image steganalysis with multi-scale residual network
CN113298689A (zh) 一种大容量图像隐写方法
CN110503157B (zh) 基于细粒度图像的多任务卷积神经网络的图像隐写分析方法
Li et al. Multi-modality ensemble distortion for spatial steganography with dynamic cost correction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant