CN107590530A - 一种基于生成对抗网络的逐层更新算法 - Google Patents
一种基于生成对抗网络的逐层更新算法 Download PDFInfo
- Publication number
- CN107590530A CN107590530A CN201710579117.3A CN201710579117A CN107590530A CN 107590530 A CN107590530 A CN 107590530A CN 201710579117 A CN201710579117 A CN 201710579117A CN 107590530 A CN107590530 A CN 107590530A
- Authority
- CN
- China
- Prior art keywords
- successively
- image
- feature
- convolution
- composer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种基于生成对抗网络的逐层更新算法,属深度学习神经网络领域,包括以下步骤:S1、构造深度卷积生成式对抗网络DCGAN模型;S2、输入图像数据集,对DCGAN模型进行训练;S3、记录图像生成器逐层转置卷积得到的特征图;S4、记录图像判别器逐层卷积得到的特征图;S5、比较特征图的差值,用梯度下降方法对图像生成器的权值参数进行更新。传统方法只关注图像生成器生成图像的最终结果,导致图像生成器需要通过更多的训练时间才能学习到数据集的特征,同时无法准确学习到数据集中特征的细节;而本方法逐层地对图像生成器学习到的特征进行调整,既减小了训练时间,又能够让图像生成器学习到的图像特征更加精确。
Description
技术领域
本发明涉及深度学习神经网络技术领域,具体涉及一种基于生成对抗网络的逐层更新算法。
背景技术
生成对抗网络是根据“博奕论”的思想提出的。在这个模型当中,构建了图像生成器和图像判别器两种器件,图像生成器通过接收的随机噪声生成图像,而图像判别器同时接收数据集和图像生成器的生成图像,对两者进行真假判别并输出结果。图像生成器根据图像判别器输出的结果进一步修正自己的生成图像。如此往复地进行训练,图像生成器能够学习到数据集中的特征,从而能够生成令图像判别器无法识别真假的图像。
在传统的模型中,图像判别器接收的是图像生成器最终生成图像的结果,而忽略了图像生成器在构造图像过程中所学习到的特征。这种做法,使得图像生成器需要通过更多的训练时间,才能够学习到数据集中更多的特征;另外,只关注图像生成器最终的结果,使得图像生成器学习到的图像特征不够精确。
发明内容
本发明的目的是为了解决现有技术中的上述缺陷,公开了一种基于生成对抗网络的逐层更新算法。
本发明的目的可以通过采取如下技术方案达到:
一种基于生成对抗网络的逐层更新算法,所述动态调整算法包括下列步骤:
S1、构造深度卷积生成式对抗网络DCGAN模型,所述模型包含记录图像生成器和记录图像判别器,采用交叉熵函数作为双方的损失函数;
S2、输入图像数据集,对所述DCGAN模型进行训练;
S3、所述记录图像生成器逐层转置卷积得到第一特征图;
S4、所述记录图像判别器逐层卷积得到第二特征图;
S5、比较所述第一特征图和所述第二特征图的差值,利用梯度下降方法对所述记录图像生成器的权值参数进行更新。
进一步地,用于对所述DCGAN模型进行训练的输入图像数据集需满足以下条件:
(1)数据集中的图像需要有共同的特征;
(2)数据集的规模需要满足模型训练要求;
(3)数据集的图像需要有相同的像素值。
进一步地,所述步骤S3、所述记录图像生成器逐层转置卷积得到第一特征图的具体过程如下:
S31、确定记录图像生成器中转置卷积的层数N;
S32、对于每一层转置卷积之后的结果,将特征图保存记录为Xi,即为第一特征图。
进一步地,所述步骤S4、所述记录图像判别器逐层卷积得到第二特征图的具体过程如下:
S41、确定记录图像判别器中逐层卷积的层数M;
S42、对于每一层卷积之后的结果,将特征图保存记录为Yi,即为第二特征图。
进一步地,所述S5、比较所述第一特征图和所述第二特征图的差值,利用梯度下降方法对所述记录图像生成器的权值参数进行更新的具体过程如下:
S51、令所述记录图像生成器转置卷积的层数N等于所述记录图像判别器卷积的层数M;
S52、将所述第一特征图和所述第二特征图进行交叉差值比较,即N1与Mm,N2与Mm-1,…,NN与M1进行差值比较;
S53、根据获得的差值,利用梯度下降的方法对所述记录图像生成器的权值参数进行更新。
本发明相对于现有技术具有如下的优点及效果:
1.准确性:本发明通过记录图像生成器和记录图像判别器逐层特征图的差值比较,逐层地修正图像生成器在转置卷积过程中所学习到的特征,从而能够让图像生成器更加精确地学习到数据集中的特征;
2.高效性:本发明所提出的特征逐层更新算法,能够让图像生成器通过更短的训练时间学习到数据集的特征,提高了整个网络的训练效率。
附图说明
图1是本发明公开的一种基于生成对抗网络的逐层更新算法的流程步骤图;
图2是记录图像生成器与记录图像判别器的特征图的交叉差值比较示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例
本实施例公开了一种基于生成对抗网络的逐层更新算法,具体包括下列步骤:
步骤S1、构造深度卷积生成式对抗网络DCGAN模型,模型包含图像生成器和图像判别器,采用交叉熵函数作为双方的损失函数。
步骤S2、输入图像数据集,对步骤S1中构建的生成式对抗网络DCGAN模型进行训练;
对于图像数据集的准备,需要注意以下三个方面:首先,数据集中的图像需要有共同的特征;其次,数据集的规模需要尽可能大;最后,数据集的图像需要有相同的像素值。
步骤S3、记录图像生成器逐层转置卷积之后得到第一特征图。具体过程如下:
S31、确定记录图像生成器中转置卷积的层数N;
S32、对于每一层转置卷积之后的结果,将特征图保存记录为Xi,即为第一特征图;
需要指出的是,在常用的生成对抗网络模型中,图像生成器中卷积层的层数为4,因此,对于本文提出的算法,在每次训练的过程中,需要保存记录图像生成器的4张特征图。
步骤S4、记录图像判别器逐层卷积之后得到第二特征图,具体过程如下:
S41、确定记录图像判别器中逐层卷积的层数M;
S42、对于每一层卷积之后的结果,将特征图保存记录为Yi,即为第二特征图;
与步骤S3相似,记录图像判别器逐层卷积的层数同样为4,因此保存记录图像判别器的特征图数量也为4张。
步骤S5、比较步骤S3的第一特征图和步骤S4的第二特征图的差值,利用梯度下降方法对图像生成器的权值参数进行更新。具体如下:
S51、令图像生成器转置卷积的层数N等于图像判别器卷积的层数M;
S52、将S3与S4中获得的特征图进行交叉差值比较,即N1与Mm,N2与Mm-1,…,NN与M1进行差值比较;
S53、根据S52中获得的差值,利用梯度下降的方法对图像生成器的权值参数进行更新。
这里需要注意的是,记录图像生成器中的“转置卷积”与记录图像判别器中的“卷积”,在构造图像维度上而言,是两个相反的过程。因此在S52步骤中所提到的差值比较必须是“交叉”的。
综上所述,本实施例公开了一种基于生成对抗网络的逐层更新算法,该模型在网络训练的过程中,让图像生成器学习图像判别器中卷积过程的图像特征,以更高的效率学习到数据集中的图像特征,从而能够以更快的速度生成符合数据集特征的图像,能够较大程度地减小网络训练所需要的时间。另外,该思路具有较强的鲁棒性,不仅在DCGAN中发挥作用,也能够在其他改进的GAN模型中起作用。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (5)
1.一种基于生成对抗网络的逐层更新算法,其特征在于,所述动态调整算法包括下列步骤:
S1、构造深度卷积生成式对抗网络DCGAN模型,该DCGAN模型包含记录图像生成器和记录图像判别器,采用交叉熵函数作为双方的损失函数;
S2、输入图像数据集,对所述DCGAN模型进行训练;
S3、所述记录图像生成器逐层转置卷积得到第一特征图;
S4、所述记录图像判别器逐层卷积得到第二特征图;
S5、比较所述第一特征图和所述第二特征图的差值,利用梯度下降方法对所述记录图像生成器的权值参数进行更新。
2.根据权利要求1所述的一种基于生成对抗网络的逐层更新算法,其特征在于,用于对所述DCGAN模型进行训练的输入图像数据集需满足以下条件:
(1)数据集中的图像需要有共同的特征;
(2)数据集的规模需要满足模型训练要求;
(3)数据集的图像需要有相同的像素值。
3.根据权利要求1所述的一种基于生成对抗网络的逐层更新算法,其特征在于,所述步骤S3、所述记录图像生成器逐层转置卷积得到第一特征图的具体过程如下:
S31、确定记录图像生成器中转置卷积的层数N;
S32、对于每一层转置卷积之后的结果,将特征图保存记录为Xi,即为第一特征图。
4.根据权利要求1所述的一种基于生成对抗网络的逐层更新算法,其特征在于,所述步骤S4、所述记录图像判别器逐层卷积得到第二特征图的具体过程如下:
S41、确定记录图像判别器中逐层卷积的层数M;
S42、对于每一层卷积之后的结果,将特征图保存记录为Yi,即为第二特征图。
5.根据权利要求1所述的一种基于生成对抗网络的逐层更新算法,其特征在于,所述S5、比较所述第一特征图和所述第二特征图的差值,利用梯度下降方法对所述记录图像生成器的权值参数进行更新的具体过程如下:
S51、令所述记录图像生成器转置卷积的层数N等于所述记录图像判别器卷积的层数M;
S52、将所述第一特征图和所述第二特征图进行交叉差值比较,即N1与Mm,N2与Mm-1,…,NN与M1进行差值比较;
S53、根据获得的差值,利用梯度下降的方法对所述记录图像生成器的权值参数进行更新。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710579117.3A CN107590530B (zh) | 2017-07-17 | 2017-07-17 | 一种基于生成对抗网络的逐层更新算法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710579117.3A CN107590530B (zh) | 2017-07-17 | 2017-07-17 | 一种基于生成对抗网络的逐层更新算法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107590530A true CN107590530A (zh) | 2018-01-16 |
CN107590530B CN107590530B (zh) | 2020-09-22 |
Family
ID=61041797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710579117.3A Active CN107590530B (zh) | 2017-07-17 | 2017-07-17 | 一种基于生成对抗网络的逐层更新算法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107590530B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108805833A (zh) * | 2018-05-29 | 2018-11-13 | 西安理工大学 | 基于条件对抗网络的字帖二值化背景噪声杂点去除方法 |
CN110335299A (zh) * | 2019-04-28 | 2019-10-15 | 厦门大学 | 一种基于对抗网络的单目深度估计系统实现方法 |
CN111191119A (zh) * | 2019-12-16 | 2020-05-22 | 绍兴市上虞区理工高等研究院 | 一种基于神经网络的科技成果自学习方法及装置 |
US11250329B2 (en) | 2017-10-26 | 2022-02-15 | Nvidia Corporation | Progressive modification of generative adversarial neural networks |
US11263525B2 (en) | 2017-10-26 | 2022-03-01 | Nvidia Corporation | Progressive modification of neural networks |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170098171A1 (en) * | 2015-10-02 | 2017-04-06 | International Business Machines Corporation | Asynchronous stochastic gradient descent |
CN106845471A (zh) * | 2017-02-20 | 2017-06-13 | 深圳市唯特视科技有限公司 | 一种基于生成对抗网络的视觉显著性预测方法 |
CN106951919A (zh) * | 2017-03-02 | 2017-07-14 | 浙江工业大学 | 一种基于对抗生成网络的流速监测实现方法 |
-
2017
- 2017-07-17 CN CN201710579117.3A patent/CN107590530B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170098171A1 (en) * | 2015-10-02 | 2017-04-06 | International Business Machines Corporation | Asynchronous stochastic gradient descent |
CN106845471A (zh) * | 2017-02-20 | 2017-06-13 | 深圳市唯特视科技有限公司 | 一种基于生成对抗网络的视觉显著性预测方法 |
CN106951919A (zh) * | 2017-03-02 | 2017-07-14 | 浙江工业大学 | 一种基于对抗生成网络的流速监测实现方法 |
Non-Patent Citations (4)
Title |
---|
ALEC RADFORD 等: "UNSUPERVISED REPRESENTATION LEARNING WITH DEEP CONVOLUTIONAL GENERATIVE ADVERSARIAL NETWORKS", 《ARXIV》 * |
IAN J. GOODFELLOW 等: "Generative Adversarial Nets", 《ARXIV》 * |
ZACHARY C LIPTON 等: "PRECISE RECOVERY OF LATENT VECTORS FROM GENERATIVE ADVERSARIAL NETWORKS", 《ARXIV》 * |
徐一峰: "生成对抗网络理论模型和应用综述", 《金华职业技术学院学报》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11250329B2 (en) | 2017-10-26 | 2022-02-15 | Nvidia Corporation | Progressive modification of generative adversarial neural networks |
US11263525B2 (en) | 2017-10-26 | 2022-03-01 | Nvidia Corporation | Progressive modification of neural networks |
US11763168B2 (en) | 2017-10-26 | 2023-09-19 | Nvidia Corporation | Progressive modification of generative adversarial neural networks |
CN108805833A (zh) * | 2018-05-29 | 2018-11-13 | 西安理工大学 | 基于条件对抗网络的字帖二值化背景噪声杂点去除方法 |
CN110335299A (zh) * | 2019-04-28 | 2019-10-15 | 厦门大学 | 一种基于对抗网络的单目深度估计系统实现方法 |
CN110335299B (zh) * | 2019-04-28 | 2021-08-13 | 厦门大学 | 一种基于对抗网络的单目深度估计系统实现方法 |
CN111191119A (zh) * | 2019-12-16 | 2020-05-22 | 绍兴市上虞区理工高等研究院 | 一种基于神经网络的科技成果自学习方法及装置 |
CN111191119B (zh) * | 2019-12-16 | 2023-12-12 | 绍兴市上虞区理工高等研究院 | 一种基于神经网络的科技成果自学习方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN107590530B (zh) | 2020-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107590530A (zh) | 一种基于生成对抗网络的逐层更新算法 | |
CN108416755A (zh) | 一种基于深度学习的图像去噪方法及系统 | |
CN107563510A (zh) | 一种基于深度卷积神经网络的wgan模型方法 | |
CN107563509A (zh) | 一种基于特征返回的条件dcgan模型的动态调整算法 | |
CN107862377A (zh) | 一种基于文本‑图像生成对抗网络模型的分组卷积方法 | |
CN107092960A (zh) | 一种改进的并行通道卷积神经网络训练方法 | |
CN105657402B (zh) | 一种深度图恢复方法 | |
CN107016406A (zh) | 基于生成式对抗网络的病虫害图像生成方法 | |
CN105160678A (zh) | 基于卷积神经网络的无参考立体图像质量评估方法 | |
CN107491726A (zh) | 一种基于多通道并行卷积神经网络的实时表情识别方法 | |
CN107862668A (zh) | 一种基于gnn的文物图像复原方法 | |
CN109191491A (zh) | 基于多层特征融合的全卷积孪生网络的目标跟踪方法及系统 | |
CN110515303A (zh) | 一种基于ddqn的自适应动态路径规划方法 | |
CN107065881A (zh) | 一种基于深度强化学习的机器人全局路径规划方法 | |
CN106204467A (zh) | 一种基于级联残差神经网络的图像去噪方法 | |
CN106204468A (zh) | 一种基于ReLU卷积神经网络的图像去噪方法 | |
CN110443827A (zh) | 一种基于改进孪生网络的无人机视频单目标长期跟踪方法 | |
CN105678248A (zh) | 基于深度学习的人脸关键点对齐算法 | |
CN108230278A (zh) | 一种基于生成对抗网络的图像去雨滴方法 | |
CN106650630A (zh) | 一种目标跟踪方法及电子设备 | |
CN106485324A (zh) | 一种卷积神经网络优化方法 | |
CN107392312A (zh) | 一种基于dcgan性能的动态调整算法 | |
CN107451607A (zh) | 一种基于深度学习的典型人物的身份识别方法 | |
CN110458060A (zh) | 一种基于对抗学习的车辆图像优化方法及系统 | |
CN106997475A (zh) | 一种基于并行卷积神经网络的害虫图像识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |