CN113989092B - 基于分层对抗性学习的图像隐写方法 - Google Patents
基于分层对抗性学习的图像隐写方法 Download PDFInfo
- Publication number
- CN113989092B CN113989092B CN202111225387.7A CN202111225387A CN113989092B CN 113989092 B CN113989092 B CN 113989092B CN 202111225387 A CN202111225387 A CN 202111225387A CN 113989092 B CN113989092 B CN 113989092B
- Authority
- CN
- China
- Prior art keywords
- layer
- convolution
- image
- loss
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 35
- 230000008485 antagonism Effects 0.000 title claims abstract description 15
- 238000012549 training Methods 0.000 claims abstract description 13
- 230000004913 activation Effects 0.000 claims description 24
- 230000006870 function Effects 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 4
- 239000004744 fabric Substances 0.000 claims 1
- 230000000007 visual effect Effects 0.000 abstract description 4
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0021—Image watermarking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
Abstract
本发明提出了一种基于分层对抗性的图像隐写方法,包括构建分层对抗性学习网络、训练分层对抗性学习网络、隐写数据、显示网络训练和显示秘密数据步骤。本发明在每个单元通过一个重塑网和一个鉴别层来捕获这些层的表示能力,并利用这个表示能力来更新每一层的权值,并更新同一鉴别器的权值,具有良好的信息隐藏和信息恢复能力。它在更新同一鉴别层的权值时,保证视觉水印的位置信息不变,避免了容器图像外观改变的问题。而且本发明能够降低网络的复杂度,图像是否包含秘密信息也不会影响鉴别器网络鉴别图像的有效性。
Description
技术领域
本发明涉及一种图像隐写方法,尤其涉及一种基于分层对抗性学习的图像隐写方法,属于信息安全技术领域。
背景技术
近年来,基于DNN的图像隐写方法因其可以生成容器图像而不需要修改封面图像而备受研究者的关注。图像隐写通常既需要准确提取隐藏信息,又需要对容器图像进行完美的复原。基于DNN的图像隐写通常需要一个隐藏网络将秘密数据隐藏到封面图像中,从而生成与封面图像具有相似外观的容器图像,需要时也需要一个显示网络从容器图像中提取秘密数据。由于近年来DNN的发展,秘密数据的嵌入能力有了很大的进步。然而,图像隐写术的挑战主要是由于一些带有视觉水印的秘密数据可能会改变容器图像的外观和底层统计。
传统的图像隐写方法的目的是将秘密数据隐藏在图像的噪声区域内。主要涉及空间域和变换域的图像隐写。空间域隐藏方法包括与LSB(least significant 15bit)相关的隐藏方法。为了提高LSB相关方法的鲁棒性,提出的方法在变换域内嵌入秘密数据。然而,传统的方法质量差,容器图像容量有限。近年来,基于DNN的图像隐写方法受到了研究者的广泛关注。在这些方法中,一些实用的最小化嵌入影响的方法和嵌入成本学习框架(U-Net1)使用DNN将全尺寸秘密数据直接隐藏到覆盖图像中。虽然现有的基于DNN的方法在秘密数据包含视觉水印时对集装箱图像的质量更好、容量更大,但这些方法生成的集装箱图像的外观会发生明显变化。位置编码网络(PosENet)显示了位置信息是隐式学习从常用的填充操作(零填充)。基于PosENet,我们推测造成这种现象的原因之一是在他们隐藏网络的端到端训练过程中,视觉水印的位置信息发生了变化。
发明内容
本发明要解决的技术问题是提供一种基于分层对抗性学习的图像隐写方法。
为解决上述技术问题,本发明所采取的技术方案是:
一种基于分层对抗性学习的图像隐写方法,包括以下步骤:
步骤1:构建分层对抗性学习网络:分层对抗性学习网络包括级联的第一至第六卷积单元、第一至第五反卷积单元和输出单元;第一卷积单元的两个输入端分别为覆盖图像输入端和秘密数据输入端;各卷积层对输入特征进行下采样,各反卷积层对输入特征进行上采样;第一至第六卷积单元结构相同,均包括卷积层、BN层、ReLU激活层、重塑层和鉴别层;卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接卷积层的控制端;第一至第五反卷积单元结构相同,均包括反卷积层、BN层、ReLU激活层、重塑层和鉴别层;反卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接反卷积层的控制端;输出层包括反卷积层、BN层、sigmoid激活函数和鉴别层;反卷积层、BN层、sigmoid激活函数依次级联;鉴别层的输入端分别接秘密图像输入端和输出层的输出端;
步骤2:训练分层对抗性学习网络:逐层通过求解一个极小优化问题实现对抗的过程;第一至第六卷积单元、第一至第五反卷积单元的损失函数相同,均为:
其中,分别为GAN损失,L1损失和余弦相似度损失;
L1损失为:
用于计算重塑层输出li与覆盖图像xi服从相应数据分布的期望值;
GAN损失为:
用于计算重塑层输出li服从相应数据分布的期望值;/>用于计算覆盖图像xi服从相应数据分布的期望值;G为重塑层变换,D为鉴别层变换;
余弦相似度损失为:
其中CS(·,·)为余弦相似损失;
输出层利用输出层输出的容器图像x′i和覆盖图像xi之间的L2损耗进行局部的反向传播,更新这个卷积单元的权值和同一个鉴别器的权值;输出层的损失函数为:
其中分别是GAN损失和L2损失;
L2损失表示为:
用于计算容器图像x′i与覆盖图像xi具有相似外观的期望值;
步骤3:隐写数据:覆盖图像xi和秘密数据yi经过训练后的第一至第六卷积单元、第一至第五反卷积单元和输出单元生成容器图像x′i。
进一步,在步骤2中,存储带有位置信息的梯度信号/>C为分层数,通过以下公式保持位置信息向自身层反向传播:
Gc(xc)=xc+·pc
更进一步,每个卷积层和反卷积层采用4×4步长为2的空间滤波器。
再进一步,还包括显示网络训练和显示秘密数据步骤;
显示网络训练步骤:显示网络用于从容器图像中提取秘密数据;包括输入单元和第一至第五卷积单元;输入单元包括级连的卷积层、BN层和sigmoid激活层;第一至第五卷积单元结构相同,包括级联的卷积层、BN层和ReLU激活层;各卷积层均使用3×3空间滤波器;
代价函数使用L2损失:
用于计算提取的秘密数据y′i与秘密数据yi具有相似外观的期望值。
采用上述技术方案所产生的有益效果在于:
本发明在每个单元通过一个重塑网和一个鉴别层来捕获这些层的表示能力,并利用这个表示能力来更新每一层的权值,并更新同一鉴别器的权值,具有良好的信息隐藏和信息恢复能力,同时避免了容器图像外观改变的问题。
附图说明
图1是本发明的流程图。
具体实施方式
一种基于分层对抗性学习的图像隐写方法,本发明所提出的U-Net分层对抗性学习架构包括6个卷积层,每个卷积层后是BN层和ReLU激活层,对输入特征进行下采样;5个反卷积层后是BN层和ReLU激活层,对特征进行上采样。对于输出层,ReLU激活函数被sigmoid激活函数取代。对于每个卷积层和反卷积层,采用4×4步长为2的空间滤波器。对于隐藏网络,本发明将每个卷积或反卷积层,再加上BN层和ReLU激活层作为一个卷积单元。除了隐藏网络的输出层外,每个卷积单元后面都有一个重塑层S和一个鉴别器D。本文在最后一层使用sigmoid激活函数代替ReLU输出对数的概率。本发明中的显示网络采用6个卷积层,然后是BN层和ReLU激活层,能准确地从容器图像中恢复信息。对于输出层,本发明采用sigmoid激活层代替ReLU。对于每个卷积层,使用3×3的空间滤波器。
首先训练分层对抗性学习网络。
针对输入图像,进行六次卷积操作,每个卷积单元后跟一个重塑层作为一个小的生成器网络G。存储带有位置信息/>的梯度信号,C为分层数。使用损失函数进行反向传播,梯度信号通过以下公式向自身层反向传播:
其中,sign(·)代表signum函数,J(·)代表损失函数。
为保持位置信息并执行向前传递:Gc存储梯度信号公式如下:
Gc(xc)=xc+·pc
计算xi和li之间的L1损失和余弦相似度损失。
L1损失可以表示为:
L1损失确保了生成器G的重塑层输出li接近覆盖图像xi,E为数学期望。
使用鉴别器D判断正确性;计算GAN在xi和li之间的损失。
GAN损失可以表示为:
GAN损失保证D不会被G的重构层输出li所欺骗。
利用L1损失、余弦相似度损失和GAN损失处理局部反向传播,更新每个卷积单元的权值和同一鉴别器的权值。
在这里,本发明将CS(·,·)表示为余弦相似损失。余弦相似度损失可以表示为:
余弦相似度损失与GAN损失相结合可以捕获分层对抗训练方法的位置信息,E为数学期望。
在对抗性的学习G和D层之间,提出逐层对抗的过程通过求解一个极小优化问题:
其中,是GAN损失,L1损失和余弦相似度损失。
由于输出层的容器图像x′i与覆盖图像xi具有相同的形状,所以最后一个卷积单元后面只跟随一个鉴别器。这里,一个卷积单元可以看作是一个生成器网络G,利用x′i和xi之间的L2损耗进行局部的反向传播,更新这个卷积单元的权值和同一个鉴别器的权值。
L2损失可以表示为:
L2损耗保证了生成器G的容器图像x′i有与封面图像xi相似的外观。这样就完成了隐藏网络的分层对抗性训练方法。
对于输出层,我们通过求解一个极小优化问题来训练所提出的分层对抗过程:
其中是GAN损失和L2损失。
容器图像x′i通过将秘密数据yi隐藏到覆盖图像xi中生成。
显示网络是从容器图像中提取秘密数据/>用/>表示的集合中提取秘密数据,我们可以得到显示网络的L2损失:
L2损失确保机密数据中提取y′i与秘密数据yi有类似的外观。
Claims (4)
1.一种基于分层对抗性训练的图像隐写方法,其特征在于:包括以下步骤:
步骤1:构建分层对抗性学习网络:分层对抗性学习网络包括级联的第一至第六卷积单元、第一至第五反卷积单元和输出单元;第一卷积单元的两个输入端分别为覆盖图像输入端和秘密数据输入端;各卷积层对输入特征进行下采样,各反卷积层对输入特征进行上采样;第一至第六卷积单元结构相同,均包括卷积层、BN层、ReLU激活层、重塑层和鉴别层;卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接卷积层的控制端;第一至第五反卷积单元结构相同,均包括反卷积层、BN层、ReLU激活层、重塑层和鉴别层;反卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接反卷积层的控制端;输出层包括反卷积层、BN层、sigmoid激活函数和鉴别层;反卷积层、BN层、sigmoid激活函数依次级联;鉴别层的输入端分别接秘密图像输入端和输出层的输出端;
步骤2:训练分层对抗性学习网络:逐层通过求解一个极小优化问题实现对抗的过程;第一至第六卷积单元、第一至第五反卷积单元的损失函数相同,均为:
其中,分别为GAN损失,L1损失和余弦相似度损失;
L1损失为:
用于计算重塑层输出li与覆盖图像xi服从相应数据分布的期望值;
GAN损失为:
用于计算重塑层输出li服从相应数据分布的期望值;/>用于计算覆盖图像xi服从相应数据分布的期望值;G为重塑层变换,D为鉴别层变换;
余弦相似度损失为:
其中CS(·,·)为余弦相似损失;
输出层利用输出层输出的容器图像x′i和覆盖图像xi之间的L2损耗进行局部的反向传播,更新这个卷积单元的权值和同一个鉴别器的权值;输出层的损失函数为:
其中分别是GAN损失和L2损失;
L2损失表示为:
用于计算容器图像x′i与覆盖图像xi具有相似外观的期望值;
步骤3:隐写数据:覆盖图像xi和秘密数据yi经过训练后的第一至第六卷积单元、第一至第五反卷积单元和输出单元生成容器图像x′i。
2.根据权利要求1所述的基于分层对抗性训练的图像隐写方法,其特征在于:
在步骤2中,存储带有位置信息的梯度信号/>通过以下公式保持位置信息向自身层反向传播:
Gc(xc)=xc+·pc。
3.根据权利要求2所述的基于分层对抗学习的图像隐写方法,其特征在于:
每个卷积层和反卷积层采用4×4步长为2的空间滤波器。
4.根据权利要求1-3所述的基于分层对抗学习的图像隐写方法,其特征在于:
所述的基于分层对抗学习的图像隐写方法还包括显示网络训练和显示秘密数据步骤;
显示网络训练步骤:显示网络用于从容器图像中提取秘密数据;包括输入单元和第一至第五卷积单元;输入单元包括级连的卷积层、BN层和sigmoid激活层;第一至第五卷积单元结构相同,包括级联的卷积层、BN层和ReLU激活层;各卷积层均使用3×3空间滤波器;
代价函数使用L2损失:
用于计算提取的秘密数据y′i与秘密数据yi具有相似外观的期望值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111225387.7A CN113989092B (zh) | 2021-10-21 | 2021-10-21 | 基于分层对抗性学习的图像隐写方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111225387.7A CN113989092B (zh) | 2021-10-21 | 2021-10-21 | 基于分层对抗性学习的图像隐写方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113989092A CN113989092A (zh) | 2022-01-28 |
CN113989092B true CN113989092B (zh) | 2024-03-26 |
Family
ID=79739770
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111225387.7A Active CN113989092B (zh) | 2021-10-21 | 2021-10-21 | 基于分层对抗性学习的图像隐写方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113989092B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114662061B (zh) * | 2022-05-19 | 2022-08-30 | 武汉大学 | 基于改进注意力和损失函数的解码编码网络隐写术方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020200030A1 (zh) * | 2019-04-02 | 2020-10-08 | 京东方科技集团股份有限公司 | 神经网络的训练方法、图像处理方法、图像处理装置和存储介质 |
CN113077377A (zh) * | 2021-05-13 | 2021-07-06 | 海南大学 | 一种基于生成对抗网络的彩色图像隐写方法 |
CN113076549A (zh) * | 2021-04-08 | 2021-07-06 | 上海电力大学 | 一种基于新型U-Net结构生成器的对抗网络图像隐写方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10915809B2 (en) * | 2019-02-04 | 2021-02-09 | Bank Of America Corporation | Neural network image recognition with watermark protection |
-
2021
- 2021-10-21 CN CN202111225387.7A patent/CN113989092B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020200030A1 (zh) * | 2019-04-02 | 2020-10-08 | 京东方科技集团股份有限公司 | 神经网络的训练方法、图像处理方法、图像处理装置和存储介质 |
CN113076549A (zh) * | 2021-04-08 | 2021-07-06 | 上海电力大学 | 一种基于新型U-Net结构生成器的对抗网络图像隐写方法 |
CN113077377A (zh) * | 2021-05-13 | 2021-07-06 | 海南大学 | 一种基于生成对抗网络的彩色图像隐写方法 |
Non-Patent Citations (1)
Title |
---|
基于深度学习的图像隐写方法研究;付章杰;王帆;孙星明;王彦;;计算机学报;20200915(09);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113989092A (zh) | 2022-01-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Wan et al. | A comprehensive survey on robust image watermarking | |
WO2022267641A1 (zh) | 一种基于循环生成对抗网络的图像去雾方法及系统 | |
Tang et al. | Median filtering detection of small-size image based on CNN | |
Thien et al. | An image-sharing method with user-friendly shadow images | |
Zhang et al. | Semantic-aware dehazing network with adaptive feature fusion | |
CN112862001B (zh) | 一种联邦学习下去中心化数据建模的隐私保护方法及系统 | |
Wang et al. | HidingGAN: High capacity information hiding with generative adversarial network | |
CN111681155A (zh) | 一种基于深度学习的gif动态图像水印方法 | |
Liu et al. | Digital cardan grille: A modern approach for information hiding | |
CN113989092B (zh) | 基于分层对抗性学习的图像隐写方法 | |
CN117078517A (zh) | 基于可逆神经网络的图像超分辨率隐写方法 | |
CN114157773B (zh) | 基于卷积神经网络和频域注意力的图像隐写方法 | |
Wang et al. | A novel quantum image watermarking scheme for tamper localization and self-recovery | |
Ma et al. | Cloud-egan: Rethinking cyclegan from a feature enhancement perspective for cloud removal by combining cnn and transformer | |
CN113379606A (zh) | 一种基于预训练生成模型的人脸超分辨方法 | |
Ye et al. | A super-resolution method of remote sensing image using transformers | |
Singh et al. | StegGAN: hiding image within image using conditional generative adversarial networks | |
Abdollahi et al. | Image steganography based on smooth cycle-consistent adversarial learning | |
Li et al. | Adversarial feature hybrid framework for steganography with shifted window local loss | |
CN113947512B (zh) | 一种大容量可控无载体图像隐写方法 | |
CN114662061A (zh) | 一种基于改进注意力和损失函数的解码编码网络隐写术 | |
CN114648436A (zh) | 一种基于深度学习的抗屏摄文本图像水印嵌入和提取方法 | |
Zhu et al. | A novel robust digital image watermarking scheme based on attention U-Net++ structure | |
Mei et al. | A robust blind watermarking scheme based on attention mechanism and neural joint source-channel coding | |
CN110706167A (zh) | 一种遥感图像待修复区域的精细补全处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |