CN113989092B - 基于分层对抗性学习的图像隐写方法 - Google Patents

基于分层对抗性学习的图像隐写方法 Download PDF

Info

Publication number
CN113989092B
CN113989092B CN202111225387.7A CN202111225387A CN113989092B CN 113989092 B CN113989092 B CN 113989092B CN 202111225387 A CN202111225387 A CN 202111225387A CN 113989092 B CN113989092 B CN 113989092B
Authority
CN
China
Prior art keywords
layer
convolution
image
loss
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111225387.7A
Other languages
English (en)
Other versions
CN113989092A (zh
Inventor
曹志义
霍丽娜
王张钰
周小力
王威
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hebei Normal University
Original Assignee
Hebei Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hebei Normal University filed Critical Hebei Normal University
Priority to CN202111225387.7A priority Critical patent/CN113989092B/zh
Publication of CN113989092A publication Critical patent/CN113989092A/zh
Application granted granted Critical
Publication of CN113989092B publication Critical patent/CN113989092B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本发明提出了一种基于分层对抗性的图像隐写方法,包括构建分层对抗性学习网络、训练分层对抗性学习网络、隐写数据、显示网络训练和显示秘密数据步骤。本发明在每个单元通过一个重塑网和一个鉴别层来捕获这些层的表示能力,并利用这个表示能力来更新每一层的权值,并更新同一鉴别器的权值,具有良好的信息隐藏和信息恢复能力。它在更新同一鉴别层的权值时,保证视觉水印的位置信息不变,避免了容器图像外观改变的问题。而且本发明能够降低网络的复杂度,图像是否包含秘密信息也不会影响鉴别器网络鉴别图像的有效性。

Description

基于分层对抗性学习的图像隐写方法
技术领域
本发明涉及一种图像隐写方法,尤其涉及一种基于分层对抗性学习的图像隐写方法,属于信息安全技术领域。
背景技术
近年来,基于DNN的图像隐写方法因其可以生成容器图像而不需要修改封面图像而备受研究者的关注。图像隐写通常既需要准确提取隐藏信息,又需要对容器图像进行完美的复原。基于DNN的图像隐写通常需要一个隐藏网络将秘密数据隐藏到封面图像中,从而生成与封面图像具有相似外观的容器图像,需要时也需要一个显示网络从容器图像中提取秘密数据。由于近年来DNN的发展,秘密数据的嵌入能力有了很大的进步。然而,图像隐写术的挑战主要是由于一些带有视觉水印的秘密数据可能会改变容器图像的外观和底层统计。
传统的图像隐写方法的目的是将秘密数据隐藏在图像的噪声区域内。主要涉及空间域和变换域的图像隐写。空间域隐藏方法包括与LSB(least significant 15bit)相关的隐藏方法。为了提高LSB相关方法的鲁棒性,提出的方法在变换域内嵌入秘密数据。然而,传统的方法质量差,容器图像容量有限。近年来,基于DNN的图像隐写方法受到了研究者的广泛关注。在这些方法中,一些实用的最小化嵌入影响的方法和嵌入成本学习框架(U-Net1)使用DNN将全尺寸秘密数据直接隐藏到覆盖图像中。虽然现有的基于DNN的方法在秘密数据包含视觉水印时对集装箱图像的质量更好、容量更大,但这些方法生成的集装箱图像的外观会发生明显变化。位置编码网络(PosENet)显示了位置信息是隐式学习从常用的填充操作(零填充)。基于PosENet,我们推测造成这种现象的原因之一是在他们隐藏网络的端到端训练过程中,视觉水印的位置信息发生了变化。
发明内容
本发明要解决的技术问题是提供一种基于分层对抗性学习的图像隐写方法。
为解决上述技术问题,本发明所采取的技术方案是:
一种基于分层对抗性学习的图像隐写方法,包括以下步骤:
步骤1:构建分层对抗性学习网络:分层对抗性学习网络包括级联的第一至第六卷积单元、第一至第五反卷积单元和输出单元;第一卷积单元的两个输入端分别为覆盖图像输入端和秘密数据输入端;各卷积层对输入特征进行下采样,各反卷积层对输入特征进行上采样;第一至第六卷积单元结构相同,均包括卷积层、BN层、ReLU激活层、重塑层和鉴别层;卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接卷积层的控制端;第一至第五反卷积单元结构相同,均包括反卷积层、BN层、ReLU激活层、重塑层和鉴别层;反卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接反卷积层的控制端;输出层包括反卷积层、BN层、sigmoid激活函数和鉴别层;反卷积层、BN层、sigmoid激活函数依次级联;鉴别层的输入端分别接秘密图像输入端和输出层的输出端;
步骤2:训练分层对抗性学习网络:逐层通过求解一个极小优化问题实现对抗的过程;第一至第六卷积单元、第一至第五反卷积单元的损失函数相同,均为:
其中,分别为GAN损失,L1损失和余弦相似度损失;
L1损失为:
用于计算重塑层输出li与覆盖图像xi服从相应数据分布的期望值;
GAN损失为:
用于计算重塑层输出li服从相应数据分布的期望值;/>用于计算覆盖图像xi服从相应数据分布的期望值;G为重塑层变换,D为鉴别层变换;
余弦相似度损失为:
其中CS(·,·)为余弦相似损失;
输出层利用输出层输出的容器图像x′i和覆盖图像xi之间的L2损耗进行局部的反向传播,更新这个卷积单元的权值和同一个鉴别器的权值;输出层的损失函数为:
其中分别是GAN损失和L2损失;
L2损失表示为:
用于计算容器图像x′i与覆盖图像xi具有相似外观的期望值;
步骤3:隐写数据:覆盖图像xi和秘密数据yi经过训练后的第一至第六卷积单元、第一至第五反卷积单元和输出单元生成容器图像x′i
进一步,在步骤2中,存储带有位置信息的梯度信号/>C为分层数,通过以下公式保持位置信息向自身层反向传播:
Gc(xc)=xc+·pc
更进一步,每个卷积层和反卷积层采用4×4步长为2的空间滤波器。
再进一步,还包括显示网络训练和显示秘密数据步骤;
显示网络训练步骤:显示网络用于从容器图像中提取秘密数据;包括输入单元和第一至第五卷积单元;输入单元包括级连的卷积层、BN层和sigmoid激活层;第一至第五卷积单元结构相同,包括级联的卷积层、BN层和ReLU激活层;各卷积层均使用3×3空间滤波器;
代价函数使用L2损失:
用于计算提取的秘密数据y′i与秘密数据yi具有相似外观的期望值。
采用上述技术方案所产生的有益效果在于:
本发明在每个单元通过一个重塑网和一个鉴别层来捕获这些层的表示能力,并利用这个表示能力来更新每一层的权值,并更新同一鉴别器的权值,具有良好的信息隐藏和信息恢复能力,同时避免了容器图像外观改变的问题。
附图说明
图1是本发明的流程图。
具体实施方式
一种基于分层对抗性学习的图像隐写方法,本发明所提出的U-Net分层对抗性学习架构包括6个卷积层,每个卷积层后是BN层和ReLU激活层,对输入特征进行下采样;5个反卷积层后是BN层和ReLU激活层,对特征进行上采样。对于输出层,ReLU激活函数被sigmoid激活函数取代。对于每个卷积层和反卷积层,采用4×4步长为2的空间滤波器。对于隐藏网络,本发明将每个卷积或反卷积层,再加上BN层和ReLU激活层作为一个卷积单元。除了隐藏网络的输出层外,每个卷积单元后面都有一个重塑层S和一个鉴别器D。本文在最后一层使用sigmoid激活函数代替ReLU输出对数的概率。本发明中的显示网络采用6个卷积层,然后是BN层和ReLU激活层,能准确地从容器图像中恢复信息。对于输出层,本发明采用sigmoid激活层代替ReLU。对于每个卷积层,使用3×3的空间滤波器。
首先训练分层对抗性学习网络。
针对输入图像,进行六次卷积操作,每个卷积单元后跟一个重塑层作为一个小的生成器网络G。存储带有位置信息/>的梯度信号,C为分层数。使用损失函数进行反向传播,梯度信号通过以下公式向自身层反向传播:
其中,sign(·)代表signum函数,J(·)代表损失函数。
为保持位置信息并执行向前传递:Gc存储梯度信号公式如下:
Gc(xc)=xc+·pc
计算xi和li之间的L1损失和余弦相似度损失。
L1损失可以表示为:
L1损失确保了生成器G的重塑层输出li接近覆盖图像xi,E为数学期望。
使用鉴别器D判断正确性;计算GAN在xi和li之间的损失。
GAN损失可以表示为:
GAN损失保证D不会被G的重构层输出li所欺骗。
利用L1损失、余弦相似度损失和GAN损失处理局部反向传播,更新每个卷积单元的权值和同一鉴别器的权值。
在这里,本发明将CS(·,·)表示为余弦相似损失。余弦相似度损失可以表示为:
余弦相似度损失与GAN损失相结合可以捕获分层对抗训练方法的位置信息,E为数学期望。
在对抗性的学习G和D层之间,提出逐层对抗的过程通过求解一个极小优化问题:
其中,是GAN损失,L1损失和余弦相似度损失。
由于输出层的容器图像x′i与覆盖图像xi具有相同的形状,所以最后一个卷积单元后面只跟随一个鉴别器。这里,一个卷积单元可以看作是一个生成器网络G,利用x′i和xi之间的L2损耗进行局部的反向传播,更新这个卷积单元的权值和同一个鉴别器的权值。
L2损失可以表示为:
L2损耗保证了生成器G的容器图像x′i有与封面图像xi相似的外观。这样就完成了隐藏网络的分层对抗性训练方法。
对于输出层,我们通过求解一个极小优化问题来训练所提出的分层对抗过程:
其中是GAN损失和L2损失。
容器图像x′i通过将秘密数据yi隐藏到覆盖图像xi中生成。
显示网络是从容器图像中提取秘密数据/>用/>表示的集合中提取秘密数据,我们可以得到显示网络的L2损失:
L2损失确保机密数据中提取y′i与秘密数据yi有类似的外观。

Claims (4)

1.一种基于分层对抗性训练的图像隐写方法,其特征在于:包括以下步骤:
步骤1:构建分层对抗性学习网络:分层对抗性学习网络包括级联的第一至第六卷积单元、第一至第五反卷积单元和输出单元;第一卷积单元的两个输入端分别为覆盖图像输入端和秘密数据输入端;各卷积层对输入特征进行下采样,各反卷积层对输入特征进行上采样;第一至第六卷积单元结构相同,均包括卷积层、BN层、ReLU激活层、重塑层和鉴别层;卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接卷积层的控制端;第一至第五反卷积单元结构相同,均包括反卷积层、BN层、ReLU激活层、重塑层和鉴别层;反卷积层、BN层、ReLU激活层依次级联,卷积层的输出依次经重塑层、鉴别层连接反卷积层的控制端;输出层包括反卷积层、BN层、sigmoid激活函数和鉴别层;反卷积层、BN层、sigmoid激活函数依次级联;鉴别层的输入端分别接秘密图像输入端和输出层的输出端;
步骤2:训练分层对抗性学习网络:逐层通过求解一个极小优化问题实现对抗的过程;第一至第六卷积单元、第一至第五反卷积单元的损失函数相同,均为:
其中,分别为GAN损失,L1损失和余弦相似度损失;
L1损失为:
用于计算重塑层输出li与覆盖图像xi服从相应数据分布的期望值;
GAN损失为:
用于计算重塑层输出li服从相应数据分布的期望值;/>用于计算覆盖图像xi服从相应数据分布的期望值;G为重塑层变换,D为鉴别层变换;
余弦相似度损失为:
其中CS(·,·)为余弦相似损失;
输出层利用输出层输出的容器图像x′i和覆盖图像xi之间的L2损耗进行局部的反向传播,更新这个卷积单元的权值和同一个鉴别器的权值;输出层的损失函数为:
其中分别是GAN损失和L2损失;
L2损失表示为:
用于计算容器图像x′i与覆盖图像xi具有相似外观的期望值;
步骤3:隐写数据:覆盖图像xi和秘密数据yi经过训练后的第一至第六卷积单元、第一至第五反卷积单元和输出单元生成容器图像x′i
2.根据权利要求1所述的基于分层对抗性训练的图像隐写方法,其特征在于:
在步骤2中,存储带有位置信息的梯度信号/>通过以下公式保持位置信息向自身层反向传播:
Gc(xc)=xc+·pc
3.根据权利要求2所述的基于分层对抗学习的图像隐写方法,其特征在于:
每个卷积层和反卷积层采用4×4步长为2的空间滤波器。
4.根据权利要求1-3所述的基于分层对抗学习的图像隐写方法,其特征在于:
所述的基于分层对抗学习的图像隐写方法还包括显示网络训练和显示秘密数据步骤;
显示网络训练步骤:显示网络用于从容器图像中提取秘密数据;包括输入单元和第一至第五卷积单元;输入单元包括级连的卷积层、BN层和sigmoid激活层;第一至第五卷积单元结构相同,包括级联的卷积层、BN层和ReLU激活层;各卷积层均使用3×3空间滤波器;
代价函数使用L2损失:
用于计算提取的秘密数据y′i与秘密数据yi具有相似外观的期望值。
CN202111225387.7A 2021-10-21 2021-10-21 基于分层对抗性学习的图像隐写方法 Active CN113989092B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111225387.7A CN113989092B (zh) 2021-10-21 2021-10-21 基于分层对抗性学习的图像隐写方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111225387.7A CN113989092B (zh) 2021-10-21 2021-10-21 基于分层对抗性学习的图像隐写方法

Publications (2)

Publication Number Publication Date
CN113989092A CN113989092A (zh) 2022-01-28
CN113989092B true CN113989092B (zh) 2024-03-26

Family

ID=79739770

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111225387.7A Active CN113989092B (zh) 2021-10-21 2021-10-21 基于分层对抗性学习的图像隐写方法

Country Status (1)

Country Link
CN (1) CN113989092B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114662061B (zh) * 2022-05-19 2022-08-30 武汉大学 基于改进注意力和损失函数的解码编码网络隐写术方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020200030A1 (zh) * 2019-04-02 2020-10-08 京东方科技集团股份有限公司 神经网络的训练方法、图像处理方法、图像处理装置和存储介质
CN113077377A (zh) * 2021-05-13 2021-07-06 海南大学 一种基于生成对抗网络的彩色图像隐写方法
CN113076549A (zh) * 2021-04-08 2021-07-06 上海电力大学 一种基于新型U-Net结构生成器的对抗网络图像隐写方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10915809B2 (en) * 2019-02-04 2021-02-09 Bank Of America Corporation Neural network image recognition with watermark protection

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020200030A1 (zh) * 2019-04-02 2020-10-08 京东方科技集团股份有限公司 神经网络的训练方法、图像处理方法、图像处理装置和存储介质
CN113076549A (zh) * 2021-04-08 2021-07-06 上海电力大学 一种基于新型U-Net结构生成器的对抗网络图像隐写方法
CN113077377A (zh) * 2021-05-13 2021-07-06 海南大学 一种基于生成对抗网络的彩色图像隐写方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于深度学习的图像隐写方法研究;付章杰;王帆;孙星明;王彦;;计算机学报;20200915(09);全文 *

Also Published As

Publication number Publication date
CN113989092A (zh) 2022-01-28

Similar Documents

Publication Publication Date Title
Wan et al. A comprehensive survey on robust image watermarking
WO2022267641A1 (zh) 一种基于循环生成对抗网络的图像去雾方法及系统
Tang et al. Median filtering detection of small-size image based on CNN
Thien et al. An image-sharing method with user-friendly shadow images
Zhang et al. Semantic-aware dehazing network with adaptive feature fusion
CN112862001B (zh) 一种联邦学习下去中心化数据建模的隐私保护方法及系统
Wang et al. HidingGAN: High capacity information hiding with generative adversarial network
CN111681155A (zh) 一种基于深度学习的gif动态图像水印方法
Liu et al. Digital cardan grille: A modern approach for information hiding
CN113989092B (zh) 基于分层对抗性学习的图像隐写方法
CN117078517A (zh) 基于可逆神经网络的图像超分辨率隐写方法
CN114157773B (zh) 基于卷积神经网络和频域注意力的图像隐写方法
Wang et al. A novel quantum image watermarking scheme for tamper localization and self-recovery
Ma et al. Cloud-egan: Rethinking cyclegan from a feature enhancement perspective for cloud removal by combining cnn and transformer
CN113379606A (zh) 一种基于预训练生成模型的人脸超分辨方法
Ye et al. A super-resolution method of remote sensing image using transformers
Singh et al. StegGAN: hiding image within image using conditional generative adversarial networks
Abdollahi et al. Image steganography based on smooth cycle-consistent adversarial learning
Li et al. Adversarial feature hybrid framework for steganography with shifted window local loss
CN113947512B (zh) 一种大容量可控无载体图像隐写方法
CN114662061A (zh) 一种基于改进注意力和损失函数的解码编码网络隐写术
CN114648436A (zh) 一种基于深度学习的抗屏摄文本图像水印嵌入和提取方法
Zhu et al. A novel robust digital image watermarking scheme based on attention U-Net++ structure
Mei et al. A robust blind watermarking scheme based on attention mechanism and neural joint source-channel coding
CN110706167A (zh) 一种遥感图像待修复区域的精细补全处理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant