CN113313625B - 水墨画艺术风格转换方法、系统、计算机设备及存储介质 - Google Patents
水墨画艺术风格转换方法、系统、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN113313625B CN113313625B CN202110520598.7A CN202110520598A CN113313625B CN 113313625 B CN113313625 B CN 113313625B CN 202110520598 A CN202110520598 A CN 202110520598A CN 113313625 B CN113313625 B CN 113313625B
- Authority
- CN
- China
- Prior art keywords
- data set
- image
- ink
- wash
- network model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010422 painting Methods 0.000 title claims abstract description 99
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 67
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000012549 training Methods 0.000 claims abstract description 51
- 238000007781 pre-processing Methods 0.000 claims abstract description 17
- 230000007246 mechanism Effects 0.000 claims abstract description 12
- 239000000976 ink Substances 0.000 claims description 78
- 230000006870 function Effects 0.000 claims description 27
- 238000000605 extraction Methods 0.000 claims description 23
- 238000005070 sampling Methods 0.000 claims description 20
- 125000004122 cyclic group Chemical group 0.000 claims description 14
- 238000001514 detection method Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000003042 antagnostic effect Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 14
- 230000002411 adverse Effects 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 description 7
- 238000012360 testing method Methods 0.000 description 7
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000003796 beauty Effects 0.000 description 3
- 241000271566 Aves Species 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 239000003643 water by type Substances 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 244000025254 Cannabis sativa Species 0.000 description 1
- 241001522296 Erithacus rubecula Species 0.000 description 1
- 230000008485 antagonism Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种水墨画艺术风格转换方法、系统、计算机设备及存储介质，所述方法包括：获取数据集并对数据集进行预处理，得到预处理后数据集；根据预处理后数据集，得到训练集；建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；利用训练集，对不对称循环一致性生成对抗网络模型进行训练；将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。本发明克服了水墨画艺术转换任务中图像域之间不对称性带来的不利影响，实现了质量更高的水墨画风格转换效果。
Description
技术领域
本发明属于图像处理、计算机视觉以及图像转换领域，具体涉及到一种水墨画艺术风格转换方法、系统、计算机设备及存储介质。
背景技术
中国水墨画作为中国艺术中最重要的代表之一，是中国最重要的文化瑰宝之一，它独特的“墨韵”之美、“笔触”之美以及“意境”之美，吸引了人们的广泛关注。然而，创作一幅水墨画是一项极其耗费人力物力的工作，其不仅需要具有专业技能的绘画人士还需要较长创作时间的花费。对此，自动生成中国水墨画对丰富这一艺术的创作方式以及传承和发扬这一艺术是具有十分重要的现实意义的。
近年来，以Gatys为首提出的基于CNN的风格迁移技术，能够将一张图像的风格迁移为参考图像的风格，然而这种技术的风格生成效果严重依赖于参考的风格图像，而且仅凭一张参考的风格图像是难以完整表达一类艺术的风格。而以CycleGAN(出自论文《Unpaired image-to-image translation using cycle-consistent adversarialnetworks》)为代表提出的基于生成对抗网络(Generation Adversarial Networks，GAN)的图像转换技术能够较好的克服这一问题，它能够实现两个域图像集的风格转换(如将内容为黑夜场景的图像转换为内容为白天场景的图像)，充分学习一类艺术的风格特点。
目前有基于循环一致性生成对抗网络模型CycleGAN的中国水墨艺术转换技术的相关研究，如ChipGAN(出自论文《ChipGAN:A generative adversarial network forChinese ink wash painting style transfer》)，然而，这些技术都没有关注到真实自然图像域和中国水墨画图像域的内容复杂度的不对称性，这导致通过转换技术生成的中国水墨画艺术图像存在细节退化、模糊、水墨画风格效果不佳等问题；并且这些技术还存在模型复杂和训练优化时间长的缺点。
发明内容
为了解决上述现有技术的不足，本发明提供了一种水墨画艺术风格转换方法、系统、计算机设备及存储介质，通过在循环一致性生成对抗网络CycleGAN的基础上引入不对称结构，鼓励网络适应不对称域图像间的转换，以及引入显著性边缘损失以突出水墨画的“重要笔触突出”的特点，从而生成效果更好、质量更高的水墨画风格转换图像。
本发明的第一个目的在于提供一种水墨画艺术风格转换方法。
本发明的第二个目的在于提供一种水墨画艺术风格转换系统。
本发明的第三个目的在于提供一种计算机设备。
本发明的第四个目的在于提供一种存储介质。
本发明的第一个目的可以通过采取如下技术方案达到：
一种水墨画艺术风格转换方法，所述方法包括：
获取数据集，所述数据集包括水墨画图像域数据集以及与水墨画图像域数据集对应的真实自然图像数据集；
对数据集进行预处理，得到预处理后数据集；
根据预处理后数据集，得到训练集；
建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；
利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型；
将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。
进一步的，所述不对称结构机制包括以ResNetBlock为核心的生成器GAB和以DenseNetBlock为核心的生成器GBA；
所述将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换，具体为：
获取真实自然图像数据集中的图像，输入不对称循环一致性生成对抗网络模型的生成器GAB，得到水墨画图像。
进一步的，所述生成器GAB和生成器GBA均包括下采样部分、转换网络和上采样部分；
所述下采样部分包括一个平卷积层和两个降采样层；
所述上采样部分包括两个上采样层和一个重构卷积层；
所述转换网络部分包括六个转换层，其中所述生成器GAB的六个转换层均为ResnetBlock转换层，所述生成器GBA的六个转换层改为五个DenseBlock转换层和一个1x1卷积层。
进一步的，所述显著性边缘损失函数的计算过程如下：
分别将真实自然图像以及通过生成器GAB生成的水墨画风格图像输入到显著性边缘提取模块以获得显著性边缘特征图；
对获得的显著性边缘特征图进行计算，获得显著性边缘损失。
进一步的，所述显著性边缘损失函数的计算公式如下：
其中，Nmask为显著性边缘提取模块对真实自然图像以及生成图像提取后的每个像素点，α为Nmask中非边缘点的占比权重。
进一步的，所述显著性边缘提取模块包括边缘提取网络子模块、显著性区域检测网络子模块和乘积运算子模块；
所述边缘提取网络子模块，用于对输入图像进行边缘提取，得到边缘输出图；
所述显著性区域检测网络子模块，用于对输入图像进行显著性区域检测，得到显著性区域输出图；
所述乘积运算子模块，用于将边缘输出图和显著性区域输出图进行乘积运算，得到显著性边缘特征图。
进一步的，所述对数据集进行预处理，得到预处理后数据集，具体为：
将水墨画图像域数据集和真实自然图像数据集中所有图像格式进行统一，得到预处理后数据集，所述图像格式包括图像文件类型和图片尺寸大小本发明的第二个目的可以通过采取如下技术方案达到：
一种水墨画艺术风格转换系统，所述系统包括：
获取数据集单元，用于获取数据集，所述数据集包括水墨画图像域数据集以及与水墨画图像域数据集对应的真实自然图像数据集；
预处理数据集单元，用于对数据集进行预处理，得到预处理后数据集；
得到训练集单元，用于根据预处理后数据集，得到训练集；
建立模型单元，用于建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；
训练模型单元，用于利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型；
风格转换单元，用于将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。
本发明的第三个目的可以通过采取如下技术方案达到：
一种计算机设备，包括处理器以及用于存储处理器可执行程序的存储器，所述处理器执行存储器存储的程序时，实现上述的水墨画艺术风格转换方法。
本发明的第四个目的可以通过采取如下技术方案达到：
一种存储介质，存储有程序，所述程序被处理器执行时，实现上述的水墨画艺术风格转换方法。
本发明相对于现有技术具有如下的有益效果：
1、本发明提出的不对称循环一致性生成对抗网络结构，包含了以ResNetBlock为核心的生成器GAB(对应真实自然图像转换为水墨画图像的生成器)和以DenseNetBlock为核心的生成器GBA(对应水墨画图像转换为真实自然图像的生成器)的不对称结构。基于CycleGAN骨架的条件下，该结构能够克服两个图像域内容复杂度不对称带来不利影响，在不增加模型的训练参数、提升训练模型速度的基础上，提高了水墨画风格转换图像的风格效果以及改善了生成图像的细节特征和质量。
2、本发明提出的显著性边缘损失函数，针对的是水墨画风格转换图像中主体笔触边缘不明显的现象，用于改善生成水墨画风格图像的边缘笔触效果，生成更具美感的水墨画风格图像。
3、本发明能够实现各种真实自然图像的水墨画风格转换，开创了一种新的创作水墨画艺术的方式，并大大简化了创作水墨画艺术的方式。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图示出的结构获得其他的附图。
图1为本发明实施例1的水墨画艺术风格转换方法的应用环境图。
图2为本发明实施例1的水墨画艺术风格转换方法的流程图。
图3为本发明实施例1的不对称循环一致性生成对抗网络的结构图。
图4为本发明实施例1的生成器GAB和生成器GBA的转换网络层的结构图。
图5为本发明实施例1的显著性边缘提取模块。
图6为本发明实施例2的水墨画艺术风格转换系统的结构框图。
图7为本发明实施例3的计算机设备的结构框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例1：
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本申请提供的水墨画艺术风格转换方法，可以应用于如图1所示的应用环境中。将数据集中的图像输入计算机设备101，计算机设备101首先对数据集进行预处理，根据预处理后数据集，得到训练集。然后计算机设备101通过训练集对对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型。将待测的真实自然图像输入计算机设备101中训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。其中，计算机设备101可以是终端，也可以是服务器。终端可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备。服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一个实施例中，如图2所示，提供了一种水墨画艺术风格转换方法，包括以下步骤：
S201、获取数据集并对数据集进行预处理，得到预处理后数据集。
进一步，步骤S201具体包括：
S2011、获取数据集。
利用爬虫技术在百度图片、谷歌图片等网站获取水墨画图片数据集。根据水墨画图片的内容以及质量对获取的水墨画图片数据集进行筛选分类。所述的水墨画数据包括鸟兽画、花草画以及山水画。由此创建水墨画图像域数据集。
利用爬虫技术在百度图片、谷歌图片等网站获取与水墨画图像域数据集内容类别对应的真实自然图像。所述的真实自然图像数据包括鸟兽类、花草类以及山水类。由此创建与水墨画图像域数据集对应的真实自然图像数据集。
S2012、对数据集进行预处理，得到预处理后数据集。
对数据集的预处理：统一水墨画图像域数据集和真实自然图像数据集中所有图像格式。所述图片格式包括图像文件类型以及图像尺寸大小的统一。
S202、根据预处理后数据集，得到训练集。
数据集类型划分：将经过预处理后的数据集(包括水墨画图像域数据集和真实自然图像数据集)按照鸟兽类、花草类以及山水类划分为三类数据集，后续每次模型的训练选择其中的一类数据集。
本实施例中，选择鸟兽画数据集，其中真实自然图像数据集大小为1623张、水墨画图像域数据集大小为1025张。将初步获得鸟兽画数据集进行图像文件类型以及图像尺寸大小的统一化：统一图像类型为png文件、统一图像尺寸为256x256。
训练集和测试集划分：对数据集进行分层采样，将真实自然图像数据集80％的图片和水墨画数据集80％的图片一起作为训练集，其余20％的图片作为测试集。
本实施例中，为了使训练与测试数据尽可能保持同分布，采用分层采样对数据集进行划分，随机从鸟兽画数据集中的真实自然图像数据集(图像A域)和水墨画图像域数据集(图像B域)数据集中选出80％的图像组成训练集，其余20％的图像作为测试集。最终获得两个训练数据集和两个测试数据集，分别为trainA、trainB、testA和testB。
S203、建立不对称循环一致性生成对抗网络模型。
如图3所示，一种不对称循环一致性生成对抗网络，为两个生成器不对称的图像风格转换网络，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数。
在CycleGAN骨架的基础上包含了以ResNetBlock为核心的生成器GAB(对应真实自然图像转换为水墨画图像的生成器)和以DenseNetBlock为核心的生成器GBA(对应水墨画图像转换为真实自然图像的生成器)的不对称结构，以及包含了突出水墨画“重要笔触突出”的特点的显著性边缘损失函数。
所述CycleGAN骨架包含两个镜像对称的以ResNetBlock为核心的生成器GAB和GBA，以及两个镜像对称的马尔卡夫判别器。
所述不对称结构，在CycleGAN骨架的基础上，将内容复杂度低的水墨画图像域向内容复杂度高的真实自然图像域转换的生成器GBA，改为以DenseNetBlock为核心的生成器。
由此可见，网络的主体由两个生成网络(生成器GAB和生成器GBA)和两个判别网络(判别器DA和判别器DB)组成，生成网络包括一个平卷积层和两个降采样层组成的下采样部分，六个转换层组成的转换网络部分，以及两个上采样层和一个重构卷积层组成的上采样部分，其输出是一张与输入同样尺寸的生成图像；判别器由四个降采样层组成的全卷积网络，其输出一张生成图像的真伪概率情况。所有网络的输入尺寸均为3*224*224。
S2031、不对称循环一致性生成对抗网络模型中的生成网络。
如图4所示，风格转换网络的不对称结构体现在生成网络部分。对于真实自然图像转换为水墨画图像的生成器GAB，仍采用CycleGAN的生成器结构，即由下采样部分、六个ResnetBlock转换层组成的转换网络部分以及上采样部分组成；对于水墨画图像转换为真实自然图像的生成器GBA，在采用CycleGAN生成器结构的基础上，六个ResnetBlock转换层改为由五个DenseBlock转换层和一个1x1卷积层组成，其中DenseBlock转换层用于实现更能保留输入图像信息的特征转换，1x1卷积层用于压缩特征通道数。
S2032、不对称循环一致性生成对抗网络模型中的显著性边缘损失函数。
如图5所示，显著性边缘损失函数由显著性边缘提取模块计算获得。显著性边缘提取模块，由边缘提取网络模块和显著性区域检测网络模块组成，具体为：输入图像经边缘提取网络模块的边缘输出图和输入图像经显著性区域检测网络模块的显著性区域输出图进行乘积运算后的结果作为显著性边缘提取模块的显著性边缘输出图。
显著性边缘提取模块是在生成的水墨画风格图像与对应的真实自然图像之间增加的，能够约束生成网络生成更具主体笔触突出的水墨画风格特点。
使用的损失函数包括显著性边缘损失函数，其由显著性边缘提取模块提取的显著性边缘输出图计算平衡交叉熵而得，计算公式为：
具体的计算过程如下：
(1)分别将真实自然图像以及通过GAB生成的水墨画风格图像输入到显著性边缘提取模块以获得显著性边缘特征图；
(2)对获得的显著性边缘特征图利用平衡交叉熵计算边缘损失以获得显著性边缘损失。
S204、利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型。
选择一类划分好的数据集如鸟兽类数据集，对网络进行参数初始化；然后从真实自然图像域和水墨画图像域各随机选取一张图片输入到网络；再计算网络的对抗性损失、身份损失、循环一致性损失以及显著性边缘损失，从而对网络实现迭代优化，得到一个训练效果较好的网络模型。具体步骤如下：
(1)网络初始化：所有需要训练的参数都采用均值为0、方差为0.02的高斯分布进行初始化。
(2)设置网络参数：采用Adam算法优化，参数betas＝(0.5,0.999)；学习因子在前100个epoch为0.0002，在后100个epoch逐渐以0.01的比率衰减至0，最小批处理数据为1。
(3)设置损失函数权重参数：循环一致性损失、身份损失、显著性边缘损失、以及对抗性损失的权重参数分别为λcyc＝10,λid＝5,λsaliency-edgeloss＝10,λGAN＝1。
(4)加载训练数据trainA和trainB到网络。
(5)对模型进行训练：对图2所示风格转换网络进行迭代训练，将从trainA训练集随机选取的XA输入到GAB生成网络、将从trainB训练集随机选取的XB输入到GBA生成网络，然后将生成的GAB(XA)图片以及生成的GBA(XB)图片分别输入到DB和DA判别器进行判别。然后进行各个损失的计算，之后进行梯度反传，更新网络参数，使损失逐渐减小至收敛。
具体地，各类损失函数公式如下：
其中，Lcyc为循环一致性损失、Lid为身份损失、Lsaliency-edgeloss为显著性边缘损失、LGAN为对抗性损失；Nmask是显著性区域检测网络对真实自然图像以及生成图像的边缘提取后的每个像素点，α是平衡因子，α为Nmask中非边缘点的占比权重。
综上所述，总的损失函数为：
其中各个权值取值为：λcyc＝10,λid＝5,λsaliency-edgeloss＝10,λGAN＝1。最后根据获得的损失函数对神经网络进行优化，直至收敛。
S205、将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。
输入测试集的真实自然图像域图像，仅经过生成器GAB(对应真实自然图像转换为水墨画图像的生成器)获得相应输出图像，实现对真实自然图像的中国水墨风格转换。具体步骤如下：
(1)读取测试数据testA中的图片。
(2)将图片输入训练好的不对称循环一致性生成对抗网络模型进行计算，图片仅经过生成器GAB(对应真实自然图像转换为水墨画图像的生成器)获得相应输出图像，实现对真实自然图像的水墨画风格转换。
本实施例在数据集鸟兽画数据集上进行试验。将训练好的网络对testA图片集进行水墨画风格转换，然后通过FID和KID两个评估方法来定量衡量生成图像的效果。FID可以计算真实图像域和生成图像域在特征空间之间的距离，较低的FID意味着生成图像具有较高的图片质量和风格特点。KID通过计算Inception表征之间最大均值差异的平方来度量真实图像域和生成图像域之间的差异，较低的KID意味着生成图像具有较高的图片质量和风格特点。从表1中可以看出，本申请在与其它先进算法的对比中性能更好。表1从评价生成图像效果的角度以及训练时间的角度证明了本申请在水墨画风格转换任务中具有更好的性能。
表1评价生成图像效果
本领域技术人员可以理解，实现上述实施例的方法中的全部或部分步骤可以通过程序来指令相关的硬件来完成，相应的程序可以存储于计算机可读存储介质中。
应当注意，尽管在附图中以特定顺序描述了上述实施例的方法操作，但是这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。相反，描绘的步骤可以改变执行顺序。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。
实施例2：
如图6所示，本实施例提供了一种水墨画艺术风格转换系统，该系统包括：
获取数据集单元，用于获取数据集，所述数据集包括水墨画图像域数据集以及与水墨画图像域数据集对应的真实自然图像数据集；
预处理数据集单元，用于对数据集进行预处理，得到预处理后数据集；
得到训练集单元，用于根据预处理后数据集，得到训练集；
建立模型单元，用于建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；
训练模型单元，用于利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型；
风格转换单元，用于将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。
本实施例中各个模块的具体实现可以参见上述实施例1，在此不再一一赘述；需要说明的是，本实施例提供的系统仅以上述各功能模块的划分进行举例说明，在实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。
实施例3：
本实施例提供了一种计算机设备，该计算机设备可以为计算机，如图7所示，其通过系统总线701连接的处理器702、存储器、输入装置703、显示器704和网络接口705，该处理器用于提供计算和控制能力，该存储器包括非易失性存储介质706和内存储器707，该非易失性存储介质706存储有操作系统、计算机程序和数据库，该内存储器707为非易失性存储介质中的操作系统和计算机程序的运行提供环境，处理器702执行存储器存储的计算机程序时，实现上述实施例1的水墨画艺术风格转换方法，如下：
获取数据集，所述数据集包括水墨画图像域数据集以及与水墨画图像域数据集对应的真实自然图像数据集；
对数据集进行预处理，得到预处理后数据集；
根据预处理后数据集，得到训练集；
建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；
利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型；
将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。
实施例4：
本实施例提供了一种存储介质，该存储介质为计算机可读存储介质，其存储有计算机程序，所述计算机程序被处理器执行时，实现上述实施例1的水墨画艺术风格转换方法，如下：
获取数据集，所述数据集包括水墨画图像域数据集以及与水墨画图像域数据集对应的真实自然图像数据集；
对数据集进行预处理，得到预处理后数据集；
根据预处理后数据集，得到训练集；
建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；
利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型；
将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换。
需要说明的是，本实施例的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
综上所述，本发明实现了一种基于不对称循环一致性生成对抗网络的水墨画艺术风格转换方法，提出了一种不对称结构以及一种显著性边缘损失函数，其中不对称结构使用以ResNetBlock为核心的生成器GAB和以DenseNetBlock为核心的生成器GBA，克服了真实自然图像域和中国水墨图像域两个图像域内容复杂度不对称带来的不利影响，显著性边缘损失函数通过显著性边缘提取模块计算，获得了改善生成水墨画风格图像的主体边缘笔触效果。
以上所述，仅为本发明专利较佳的实施例，但本发明专利的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明专利所公开的范围内，根据本发明专利的技术方案及其发明构思加以等同替换或改变，都属于本发明专利的保护范围。
Claims (9)
1.一种水墨画艺术风格转换方法，其特征在于，所述方法包括：
获取数据集，所述数据集包括水墨画图像域数据集以及与水墨画图像域数据集对应的真实自然图像数据集；
对数据集进行预处理，得到预处理后数据集；
根据预处理后数据集，得到训练集；
建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；
利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型；
将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换；
所述不对称结构机制包括以ResNetBlock为核心的生成器GAB和以DenseNetBlock为核心的生成器GBA；
所述显著性边缘损失函数的计算过程如下：
分别将真实自然图像以及通过生成器GAB生成的水墨画风格图像输入到显著性边缘提取模块以获得显著性边缘特征图；
对获得的显著性边缘特征图进行计算，获得显著性边缘损失。
2.根据权利要求1所述的水墨画艺术风格转换方法，其特征在于，所述将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换，具体为：
获取真实自然图像数据集中的图像，输入不对称循环一致性生成对抗网络模型的生成器GAB，得到水墨画图像。
3.根据权利要求2所述的水墨画艺术风格转换方法，其特征在于，所述生成器GAB和生成器GBA均包括下采样部分、转换网络和上采样部分；
所述下采样部分包括一个平卷积层和两个降采样层；
所述上采样部分包括两个上采样层和一个重构卷积层；
所述转换网络部分包括六个转换层，其中所述生成器GAB的六个转换层均为ResnetBlock转换层，所述生成器GBA的六个转换层改为五个DenseBlock转换层和一个1x1卷积层。
4.根据权利要求1所述的水墨画艺术风格转换方法，其特征在于，所述显著性边缘损失函数的计算公式如下：
其中，Nmask为显著性边缘提取模块对真实自然图像以及生成图像提取后的每个像素点，α为Nmask中非边缘点的占比权重。
5.根据权利要求1所述的水墨画艺术风格转换方法，其特征在于，所述显著性边缘提取模块包括边缘提取网络子模块、显著性区域检测网络子模块和乘积运算子模块；
所述边缘提取网络子模块，用于对输入图像进行边缘提取，得到边缘输出图；
所述显著性区域检测网络子模块，用于对输入图像进行显著性区域检测，得到显著性区域输出图；
所述乘积运算子模块，用于将边缘输出图和显著性区域输出图进行乘积运算，得到显著性边缘特征图。
6.根据权利要求1-5任一项所述的水墨画艺术风格转换方法，其特征在于，所述对数据集进行预处理，得到预处理后数据集，具体为：
将水墨画图像域数据集和真实自然图像数据集中所有图像格式进行统一，得到预处理后数据集，所述图像格式包括图像文件类型和图片尺寸大小。
7.一种水墨画艺术风格转换系统，其特征在于，所述系统包括：
获取数据集单元，用于获取数据集，所述数据集包括水墨画图像域数据集以及与水墨画图像域数据集对应的真实自然图像数据集；
预处理数据集单元，用于对数据集进行预处理，得到预处理后数据集；
得到训练集单元，用于根据预处理后数据集，得到训练集；
建立模型单元，用于建立不对称循环一致性生成对抗网络模型，所述不对称循环一致性生成对抗网络模型在CycleGAN骨架的基础上，包括不对称结构机制和显著性边缘损失函数；
训练模型单元，用于利用训练集，对不对称循环一致性生成对抗网络模型进行训练，得到训练好的不对称循环一致性生成对抗网络模型；
风格转换单元，用于将待测的真实自然图像输入训练好的不对称循环一致性生成对抗网络模型，得到水墨画图像，实现水墨画风格转换；
所述不对称结构机制包括以ResNetBlock为核心的生成器GAB和以DenseNetBlock为核心的生成器GBA；
所述显著性边缘损失函数的计算过程如下：
分别将真实自然图像以及通过生成器GAB生成的水墨画风格图像输入到显著性边缘提取模块以获得显著性边缘特征图；
对获得的显著性边缘特征图进行计算，获得显著性边缘损失。
8.一种计算机设备，包括处理器以及用于存储处理器可执行程序的存储器，其特征在于，所述处理器执行存储器存储的程序时，实现权利要求1-6任一项所述的水墨画艺术风格转换方法。
9.一种存储介质，存储有程序，其特征在于，所述程序被处理器执行时，实现权利要求1-6任一项所述的水墨画艺术风格转换方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110520598.7A CN113313625B (zh) | 2021-05-13 | 2021-05-13 | 水墨画艺术风格转换方法、系统、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110520598.7A CN113313625B (zh) | 2021-05-13 | 2021-05-13 | 水墨画艺术风格转换方法、系统、计算机设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113313625A CN113313625A (zh) | 2021-08-27 |
| CN113313625B true CN113313625B (zh) | 2022-04-22 |
Family
ID=77373165
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110520598.7A Active CN113313625B (zh) | 2021-05-13 | 2021-05-13 | 水墨画艺术风格转换方法、系统、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113313625B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114219701A (zh) * | 2021-11-10 | 2022-03-22 | 华南理工大学 | 敦煌壁画艺术风格转换方法、系统、计算机设备及存储介质 |
| CN114493997A (zh) * | 2022-01-24 | 2022-05-13 | 南京师范大学 | 一种基于数字高程模型与风格迁移的地形水墨画生成方法 |
| CN114610677B (zh) * | 2022-03-10 | 2024-07-23 | 腾讯科技（深圳）有限公司 | 一种转换模型的确定方法和相关装置 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10825219B2 (en) * | 2018-03-22 | 2020-11-03 | Northeastern University | Segmentation guided image generation with adversarial networks |
| CN109064423B (zh) * | 2018-07-23 | 2022-04-08 | 福建帝视信息科技有限公司 | 一种基于非对称循环生成对抗损失的智能修图方法 |
| CN110222837A (zh) * | 2019-04-28 | 2019-09-10 | 天津大学 | 一种基于CycleGAN的图片训练的网络结构ArcGAN及方法 |
| CN111753493B (zh) * | 2019-09-29 | 2024-08-02 | 西交利物浦大学 | 基于少量样本的内含多种归一化处理的风格字符生成方法 |
| CN111696028A (zh) * | 2020-05-22 | 2020-09-22 | 华南理工大学 | 真实场景图像卡通化的处理方法、装置、计算机设备和存储介质 |
-
2021
- 2021-05-13 CN CN202110520598.7A patent/CN113313625B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN113313625A (zh) | 2021-08-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113313625B (zh) | 水墨画艺术风格转换方法、系统、计算机设备及存储介质 | |
| Wu et al. | Fast end-to-end trainable guided filter | |
| Lin et al. | Tuigan: Learning versatile image-to-image translation with two unpaired images | |
| Marroquin et al. | Some extensions of the k-means algorithm for image segmentation and pattern classification | |
| Uezato et al. | Hyperspectral unmixing with spectral variability using adaptive bundles and double sparsity | |
| CN109636721B (zh) | 基于对抗学习和注意力机制的视频超分辨率方法 | |
| CN109242097B (zh) | 无监督学习的视觉表示学习系统及方法 | |
| CN113297988B (zh) | 一种基于域迁移和深度补全的物体姿态估计方法 | |
| CN113011253B (zh) | 基于ResNeXt网络的人脸表情识别方法、装置、设备及存储介质 | |
| CN113361646A (zh) | 基于语义信息保留的广义零样本图像识别方法及模型 | |
| Esmaeilzehi et al. | Compnet: A new scheme for single image super resolution based on deep convolutional neural network | |
| Li et al. | Speckle noise removal based on structural convolutional neural networks with feature fusion for medical image | |
| CN106407932B (zh) | 基于分数阶微积分与广义逆神经网络的手写数字识别方法 | |
| Schirrmeister et al. | When less is more: Simplifying inputs aids neural network understanding | |
| Huang et al. | A two-level dynamic adaptive network for medical image fusion | |
| CN114219701A (zh) | 敦煌壁画艺术风格转换方法、系统、计算机设备及存储介质 | |
| Wang et al. | A parametric model for describing the correlation between single color images and depth maps | |
| An et al. | Overlap training to mitigate inconsistencies caused by image tiling in CNNs | |
| CN113850298A (zh) | 一种图像识别方法、装置及相关设备 | |
| CN113408721A (zh) | 神经网络结构搜索方法、装置、计算机设备和存储介质 | |
| CN116977265A (zh) | 缺陷检测模型的训练方法、装置、计算机设备和存储介质 | |
| CN114445280B (zh) | 一种基于注意力机制的点云下采样方法 | |
| CN109784361A (zh) | 贝类产品分类识别方法及装置 | |
| Semeniuta et al. | Image classification with recurrent attention models | |
| CN116976402A (zh) | 超图卷积神经网络的训练方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |