CN111080512A - 动漫图像生成方法、装置、电子设备及存储介质 - Google Patents
动漫图像生成方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111080512A CN111080512A CN201911285100.2A CN201911285100A CN111080512A CN 111080512 A CN111080512 A CN 111080512A CN 201911285100 A CN201911285100 A CN 201911285100A CN 111080512 A CN111080512 A CN 111080512A
- Authority
- CN
- China
- Prior art keywords
- work
- converted
- scrawling
- cartoon
- graffiti
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 68
- 238000003860 storage Methods 0.000 title claims abstract description 15
- 238000010586 diagram Methods 0.000 claims abstract description 28
- 238000012549 training Methods 0.000 claims description 77
- 238000009826 distribution Methods 0.000 claims description 31
- 238000001914 filtration Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 16
- 238000012545 processing Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 8
- 238000009499 grossing Methods 0.000 claims description 4
- 238000004519 manufacturing process Methods 0.000 abstract description 8
- 230000006870 function Effects 0.000 description 18
- 238000004891 communication Methods 0.000 description 10
- 230000004913 activation Effects 0.000 description 6
- 238000010606 normalization Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000004040 coloring Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 208000009119 Giant Axonal Neuropathy Diseases 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 201000003382 giant axonal neuropathy 1 Diseases 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 210000004205 output neuron Anatomy 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20032—Median filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例提供一种动漫图像生成方法、装置、电子设备及存储介质；方法包括：获取待转换的涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；将所述待转换的涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像。本发明实施例提供的动漫图像生成方法、装置、电子设备及存储介质，通过提取涂鸦作品的边缘轮廓图，并输入动漫图像生成模型，实现了与涂鸦作品对应的动漫图像的自动生成，能极大降低动漫制作人员的工作量，提升动漫图像的绘制效率。
Description
技术领域
本发明涉及图像处理领域，尤其涉及一种动漫图像生成方法、装置、电子设备及存储介质。
背景技术
随着科学技术的不断发展，动漫逐渐成为了用户日常消遣娱乐的主要方式这一。动漫在制作过程中需要绘制大量的动漫图像。目前对动漫图像的绘制主要依赖于人工实现。虽然制作人员已经通过电脑等辅助工具提高了动漫图像的绘制效率，但仍然离不开人的深度参与，动漫图像的绘制依然是一个需要花费大量人力成本和时间的工作。
动漫领域中的涂鸦是在动漫草图的基础上进行上色所形成的作品。与动漫图像相比，涂鸦作品在线条的精细程度与颜色的丰富程度上都有一定的差距。涂鸦作品一般是动漫制作者在对作品内容起草稿大纲的时候所绘制的。
在现有技术中，为了可以更高效地生成动漫图像，现有技术人员利用深度学习技术，采用生成式对抗网络(Generative Adversarial Network，GAN)在图像应用方面进行了许多尝试，现有GAN在不同的限制条件下发展了多种版本。有针对数据集不成对的CycleGAN，该版本同时训练两个镜像对称GAN构成一个环形网络，可以不需要提供成对数据集；有针对手绘卡通转换的CartoonGAN，该版本对现实世界照片和漫画图像建立映射，可以将自然图片转换成高质量的风格化漫画；有将简单涂鸦转换为逼真的自然照片的GauGAN；有自动补全、修复图像缺失部分的GAN等，都取得了良好的效果。
GAN在动漫图像的应用上，目前主要有动漫风格转换，动漫自动上色，二次元头像生成等。现有技术中尚不能将涂鸦作品涂鸦作品自动转换成动漫图像。
发明内容
本发明实施例提供一种动漫图像生成方法、装置、电子设备及存储介质，用以解决现有技术中不能将带有轮廓的涂鸦作品自动转换成动漫图像的缺陷。
本发明第一方面实施例提供了一种动漫图像生成方法，包括：
获取待转换的涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；
将所述待转换的涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像；其中，
所述动漫图像生成模型是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像，通过对生成式对抗网络进行训练得到的。
上述技术方案中，还包括：
采集多组动漫图像和涂鸦作品；同一组中的动漫图像和涂鸦作品具有对应关系；
根据所述多组动漫图像和涂鸦作品，通过对生成式对抗网络的训练得到动漫图像生成模型。
上述技术方案中，所述特征图包括边缘轮廓图和/或颜色分布图；其中，所述颜色分布图是对图像做中值滤波和平滑颜色域后得到的。
上述技术方案中，所述特征图包括边缘轮廓图；相应地，所述根据所述多组动漫图像和涂鸦作品，通过对生成式对抗网络的训练得到动漫图像生成模型包括：
构建生成式对抗网络，所述生成式对抗网络包括生成器和判别器；
根据动漫图像生成存在区域空缺的动漫图像；
根据与所述动漫图像对应的涂鸦作品生成涂鸦作品的边缘轮廓图；
根据对一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图的处理，更新所述生成器和所述判别器的权重参数，完成所述生成式对抗网络的一次训练；计算当前次训练的损失，在损失收敛前，采用另一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图继续所述生成式对抗网络的训练；
将训练最终得到的生成器作为动漫图像生成模型。
上述技术方案中，所述特征图包括边缘轮廓图和颜色分布图；相应地，所述根据所述多组动漫图像和涂鸦作品，通过对生成式对抗网络的训练得到动漫图像生成模型包括：
构建生成式对抗网络，所述生成式对抗网络包括生成器和判别器；
根据动漫图像生成存在区域空缺的动漫图像；
根据与所述动漫图像对应的涂鸦作品生成涂鸦作品的边缘轮廓图和涂鸦作品的颜色分布图；
根据对一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图的处理，更新所述生成器和所述判别器的权重参数，完成所述生成式对抗网络的一次训练；计算当前次训练的损失，在损失收敛前，采用另一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图继续所述生成式对抗网络的训练；得到经过第一轮训练的生成器和判别器；
基于第一轮训练得到的生成器和判别器，根据对一组中的动漫图像和涂鸦作品的边缘轮廓图、颜色分布图的处理，更新所述生成器和所述判别器的权重参数，完成所述生成式对抗网络的一次训练；计算当前次训练的损失，在损失收敛前，采用另一组中的动漫图像和涂鸦作品的边缘轮廓图、颜色分布图继续所述生成式对抗网络的训练；
将最终得到的生成器作为动漫图像生成模型。
上述技术方案中，所述计算当前次训练的损失包括：
计算生成图像的每个像素点的L1损失；
计算生成式对抗网络的对抗损失；
计算卷积过程中的特征损失；
将生成图像的每个像素点的L1损失、生成式对抗网络的对抗损失和卷积过程中的特征损失求和。
上述技术方案中，所述根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的颜色分布图包括：
对所述待转换的涂鸦作品做中值滤波，去除所述待转换的涂鸦作品中颜色部分的干扰噪声；
对经过中值滤波的待转换的涂鸦作品做平滑颜色域的处理；
对平滑颜色域后的待转换的涂鸦作品做中值滤波，得到待转换的涂鸦作品的颜色分布图。
本发明第二方面实施例提供了一种动漫图像生成装置，包括：
涂鸦作品获取与处理模块，用于获取待转换的涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；
动漫图像生成模块，将所述待转换的涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像；其中，
所述动漫图像生成模型是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像，通过对生成式对抗网络进行训练得到的。
本发明第四方面实施例提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如本发明第一方面实施例所述动漫图像生成方法的步骤。
本发明实施例提供的动漫图像生成方法、装置、电子设备及存储介质，通过提取涂鸦作品的边缘轮廓图，并输入动漫图像生成模型，实现了与涂鸦作品对应的动漫图像的自动生成，能极大降低动漫制作人员的工作量，提升动漫图像的绘制效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的动漫图像生成方法的流程图；
图2为本发明另一实施例提供的动漫图像生成方法的流程图；
图3为本发明再一实施例提供的动漫图像生成方法的流程图；
图4为本发明又一实施例提供的动漫图像生成方法的流程图；
图5为本发明实施例提供的动漫图像生成装置的示意图；
图6示例了一种电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1为本发明实施例提供的动漫图像生成方法的流程图，如图1所示，本发明实施例提供的动漫图像生成方法包括：
步骤101、获取待转换的涂鸦作品，根据待转换的涂鸦作品生成待转换的涂鸦作品的边缘轮廓图。
为了描述的方便，在本发明实施例中，涂鸦作品均是指带有轮廓的涂鸦作品。涂鸦作品可通过诸如手绘或板绘的方式获取。
在本步骤中，根据涂鸦作品生成涂鸦作品的边缘轮廓图包括：从涂鸦作品中提取出边缘轮廓线，生成涂鸦作品的边缘轮廓图。在本发明实施例中，可使用opencv工具，调用其中的Sobel算子检测工具(使用自带的Sobel函数)从涂鸦作品中提取出边缘轮廓线。在本发明的其他实施例中，也可采用本领域技术人员公知的其他技术来提取边缘轮廓线。
步骤102、将待转换的涂鸦作品的边缘轮廓图输入动漫图像生成模型，生成由待转换的涂鸦作品转换而来的动漫图像。
在本发明实施例中，动漫图像生成模型是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像，通过对生成式对抗网络的训练得到的。具体的说，是以涂鸦作品、涂鸦作品的边缘轮廓图、动漫图像、存在区域空缺的动漫图像作为训练数据，对生成式对抗网络进行训练得到的。
生成式对抗网络包括生成器和判别器。动漫图像生成模型是经过训练的生成器。对生成式对抗网络的训练是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像实现的。在本发明的其他实施例中，将对动漫图像生成模型的具体训练过程进行详细描述。
本发明实施例提供的动漫图像生成方法通过提取涂鸦作品的边缘轮廓图，并将它们输入动漫图像生成模型，实现了与涂鸦作品对应的动漫图像的自动生成，能极大降低动漫制作人员的工作量，提升动漫图像的绘制效率。
基于上述任一实施例，图2为本发明另一实施例提供的动漫图像生成方法的流程图，如图2所示，本发明另一实施例提供的动漫图像生成方法包括：
步骤201、采集多组动漫图像和涂鸦作品。
同一组中的动漫图像和涂鸦作品具有对应关系，即动漫图像与同组的涂鸦作品具有近似或相同的内容，或由同组的涂鸦作品进一步制作而成。
对动漫图像和涂鸦作品的采集具有多种实现方式，在本发明实施例中可采用网络爬虫的方法从动漫网站与动漫论坛中获取。
在本发明实施例中，可对所采集的多组动漫图像和涂鸦作品进行尺寸调整，将它们统一缩放为相同尺寸大小的图像，如将图像批量缩放到高度、宽度都为256个像素的大小。在本发明其他实施例中，若所采集的多组动漫图像和涂鸦作品的尺寸大小相同或相近，则可无需对动漫图像和涂鸦作品进行尺寸调整。
所采集的多组动漫图像和涂鸦作品可作为训练数据。
步骤202、根据动漫图像生成存在区域空缺的动漫图像。
在本步骤中，根据动漫图像获取存在区域空缺的动漫图像时，可将动漫图像上的随机区域位置的像素点进行模糊处理，如将随机区域位置的像素点的像素值置0，从而得到存在区域空缺的动漫图像。
动漫图像中像素值置0的区域可被称为空缺区域，空缺区域的面积需要有一定的限制，空缺区域面积过大或过小，都会影响本发明方法的最终效果。在本发明实施例中，动漫图像中空缺区域面积占整个动漫图像面积的比例在10％-20％之间。在本发明其他实施例中，也可根据其他因素，如动漫图像的面积，对这一比例做适当的调整。
步骤203、根据涂鸦作品生成涂鸦作品的边缘轮廓图。
在本发明前一实施例中，已经对如何生成涂鸦作品的边缘轮廓图做了详细说明，因此不在此处重复。
步骤204、构建生成式对抗网络，采用动漫图像、存在区域空缺的动漫图像、涂鸦作品以及涂鸦作品的边缘轮廓图训练该生成式对抗网络，生成动漫图像生成模型。
生成式对抗网络包括生成器和判别器。
在本发明实施例中，生成器采用U型网络结构图，共14层网络层；其中，编码阶段为3层卷积网络，第一层卷积层使用64个高和宽为7像素的卷积核，1像素的步长，并进行归一化和使用Relu激活函数；第二层卷积层使用128个高和宽为4像素的卷积核，2像素的步长，使用归一化和Relu激活函数；第三层卷积层使用256个高和宽为4像素的卷积核，2像素的步长，使用归一化和Relu激活函数；中间阶段为8层的Resnet网络结构层；解码阶段为2层反卷积网络层，第一层反卷积层使用128个高和宽为3像素的卷积核，1像素的步长并进行归一化和使用Relu激活函数；第二层反卷积层使用64个高和宽为4像素的卷积核，2像素的步长，使用归一化和Relu激活函数；最后再包括一层卷积层，使用3个高和宽为7像素的卷积核，1像素的步长，目的是将生成图像转为三通道。
在本发明实施例中，判别器使用Resnet18网络模型，对原始的动漫图像和生成器的输出图像作为判别器的输入，最后一层为全连接层，全连接层采用softmax激活函数，输出神经元个数为2表示对原始的动漫图像和生成器图像的判断结果。
将所要生成的动漫图像生成模型的损失函数设定为多个损失之和，包括：生成图像的每个像素点的L1损失，生成式对抗网络的对抗损失，卷积过程中的特征损失。
动漫图像生成模型的损失函数的公式表达为：
Loss＝Losspixel+Lossgan+Lossfeature；
其中，
Losspixel表示生成图像的每个像素点的L1损失，F为计算图像中非0的像素点个数，Xt代表原始动漫图像，M为存在区域空缺的动漫图像，Xg1为第一次训练通过生成器生成的图像，⊙表示同或运算。
Lossgan表示生成式对抗网络的对抗损失；D表示判别器输出，G代表生成器输出，E代表提取的涂鸦作品的边缘轮廓图，I代表输入图像。
Lossfeature表示卷积过程中的特征损失，Ni表示第i层的特征图大小，
为卷积过程中的特征图。
采用动漫图像、存在区域空缺的动漫图像、涂鸦作品以及涂鸦作品的边缘轮廓图训练该生成式对抗网络包括：
开始时，将生成式对抗网络模型的权重参数设置为随机值；
然后将存在区域空缺的动漫图像以及同一组中的涂鸦作品的边缘轮廓图作为一组输入数据，输入到生成式对抗网络模型的生成器部分，通过生成器得到第一生成图像；
将第一生成图像和动漫图像作为一组输入数据，输入到生成式对抗网络模型的判别器部分，通过判别器训练生成式对抗网络模型，同时更新生成器和判别器的权重参数；通过损失函数计算在此次训练过程中生成式对抗网络模型的损失；
判断在此次训练过程中生成式对抗网络模型的损失是否收敛，如果尚未收敛，则利用训练数据中的其他组数据继续训练生成式对抗网络模型(生成式对抗网络模型中的生成器、判别器的权重参数已经被更新)，直至损失收敛，保存此时生成式对抗网络模型的参数。
训练结束后所得到的生成式对抗网络的生成器就是动漫图像生成模型。
步骤205、获取待转换的涂鸦作品，根据待转换的涂鸦作品生成待转换的涂鸦作品的边缘轮廓图。
步骤206、将待转换的涂鸦作品的边缘轮廓图输入动漫图像生成模型，生成由待转换的涂鸦作品转换而来的动漫图像。
本发明实施例提供的动漫图像生成方法基于多组动漫图像以及涂鸦作品，通过对生成式对抗网络的训练得到动漫图像生成模型，利用动漫图像生成模型实现了由涂鸦作品自动生成动漫图像，能极大降低动漫制作人员的工作量，提升动漫图像的绘制效率。
基于上述任一实施例，图3为本发明再一实施例提供的动漫图像生成方法的流程图，如图3所示，本发明再一实施例提供的动漫图像生成方法包括：
步骤301、获取待转换的涂鸦作品，根据待转换的涂鸦作品生成待转换的涂鸦作品的边缘轮廓图和待转换的涂鸦作品的颜色分布图。
在本步骤中，生成颜色分布图包括：首先对待转换的涂鸦作品做中值滤波，去除涂鸦作品中颜色部分的干扰噪声；然后对经过中值滤波的待转换的涂鸦作品做平滑颜色域的处理，最后再对平滑颜色域后的待转换的涂鸦作品做中值滤波，以模糊待转换的涂鸦作品边界的锐度，得到待转换的涂鸦作品的颜色分布图。
在本发明实施例中，对待转换的涂鸦作品做中值滤波可使用opencv工具，调用其中的中值滤波器处理涂鸦作品，即调用工具中自带的medianBlur函数去除涂鸦作品中颜色部分中的干扰噪声。其中，中值滤波是将图像的每个像素用邻域(以当前像素为中心的正方形区域)像素的值的中位数代替。采用medianBlur函数做中值滤波时，函数的输入为待转换的涂鸦作品，滤波尺寸参数设置为21像素，输出为经过中值滤波的待转换的涂鸦作品。在本发明的其他实施例中，也可采用本领域技术人员公知的其他技术来做中值滤波。对平滑颜色域后的待转换的涂鸦作品做中值滤波同样可参照上述描述实现。
在本发明实施例中，对经过中值滤波的待转换的涂鸦作品做平滑颜色域的处理可调用opencv工具中自带的Kmeans函数处理图像。在一个范例中，该函数的参数设置为：聚类数目设置为8，预设标签设置为None，迭代次数设置为10。对涂鸦作品做平滑颜色域的处理可减少图像中的颜色数量。在本发明其他实施例中，用于做平滑颜色域处理的工具可以采用本领域技术人员公知的其他技术。Kmeans函数的参数设置也可以根据实际需要进行调整。
步骤302、将待转换的涂鸦作品的边缘轮廓图和待转换的涂鸦作品的颜色分布图输入动漫图像生成模型，生成由待转换的涂鸦作品转换而来的动漫图像。
在本发明实施例中，动漫图像生成模型是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像，通过对生成式对抗网络的训练得到的。具体的说，是以涂鸦作品、涂鸦作品的边缘轮廓图、涂鸦作品的颜色分布图、动漫图像、存在区域空缺的动漫图像作为训练数据，对生成式对抗网络进行训练得到的。
本发明实施例提供的动漫图像生成方法通过提取涂鸦作品的边缘轮廓图和颜色分布图，并将它们输入动漫图像生成模型，实现了与涂鸦作品对应的动漫图像的自动生成，能极大降低动漫制作人员的工作量，提升动漫图像的绘制效率。
基于上述任一实施例，图4为本发明又一实施例提供的动漫图像生成方法的流程图，如图4所示，本发明又一实施例提供的动漫图像生成方法包括：
步骤401、采集多组动漫图像和涂鸦作品。
步骤402、根据动漫图像生成存在区域空缺的动漫图像。
步骤403、根据涂鸦作品生成涂鸦作品的边缘轮廓图以及涂鸦作品的颜色分布图。
在本发明前一实施例中，已经对如何生成涂鸦作品的边缘轮廓图和涂鸦作品的颜色分布图做了详细说明，因此不在此处重复。
步骤404、构建生成式对抗网络，采用动漫图像、存在区域空缺的动漫图像、涂鸦作品、涂鸦作品的边缘轮廓图以及涂鸦作品的颜色分布图训练该生成式对抗网络，生成动漫图像生成模型。
在本发明实施例中，采用动漫图像、存在区域空缺的动漫图像、涂鸦作品、涂鸦作品的边缘轮廓图以及涂鸦作品的颜色分布图训练生成式对抗网络时，分为两个训练阶段，下面分别予以说明。
第一轮训练：
开始时，将生成式对抗网络模型的权重参数设置为随机值；
然后将存在区域空缺的动漫图像以及同一组中的涂鸦作品的边缘轮廓图作为一组输入数据，输入到生成式对抗网络模型的生成器部分，通过生成器得到第一生成图像；
将第一生成图像和动漫图像作为一组输入数据，输入到生成式对抗网络模型的判别器部分，通过判别器训练生成式对抗网络模型，同时更新生成器和判别器的权重参数；通过损失函数计算在此次训练过程中生成式对抗网络模型的损失；
判断在此次训练过程中生成式对抗网络模型的损失是否收敛，如果尚未收敛，则利用训练数据中的其他组数据继续训练生成式对抗网络模型(生成式对抗网络模型中的生成器、判别器的权重参数已经被更新)，直至损失收敛，保存此时生成式对抗网络模型的参数。
第二轮训练：
以第一轮训练结束时生成式对抗网络模型中的参数作为第二轮训练开始时生成式对抗网络模型中的参数。
将涂鸦作品的边缘轮廓图以及同一涂鸦作品的颜色分布图作为一组输入数据，输入生成式对抗网络模型中的生成器部分，通过生成器得到第二生成图像；
将第二生成图像和动漫图像作为一组输入数据，输入到生成式对抗网络模型的判别器部分，通过判别器训练生成式对抗网络模型，同时更新生成器和判别器的权重参数；通过损失函数计算在此次训练过程中生成式对抗网络模型的损失；
判断在此次训练过程中生成式对抗网络模型的损失是否收敛，如果尚未收敛，则利用训练数据中的其他组数据继续训练生成式对抗网络模型(生成式对抗网络模型中的生成器、判别器的权重参数已经被更新)，直至损失收敛，训练结束。
生成式对抗网络模型训练结束后，生成式对抗网络模型中的生成器部分就是动漫图像生成模型。
通过与本发明前一实施例的比较可以发现：在本发明实施例中，训练生成式对抗网络分两个阶段进行，在本发明前一实施例中仅实现了第一阶段的训练。在本发明实施例对生成式对抗网络进行二次训练，能使得最终生成的动漫图像更自然。
步骤405、获取涂鸦作品，根据涂鸦作品生成涂鸦作品的边缘轮廓图和涂鸦作品的颜色分布图。
步骤406、将涂鸦作品的边缘轮廓图和涂鸦作品的颜色分布图输入动漫图像生成模型，生成基于涂鸦作品的动漫图像。
本发明实施例提供的动漫图像生成方法在训练生成式对抗网络时分两个阶段进行，根据训练得到的动漫图像生成模型所生成的动漫图像更自然，动漫图像的效果更佳。
基于上述任一实施例，图5为本发明实施例提供的动漫图像生成装置的示意图，如图5所示，本发明实施例提供的动漫图像生成装置包括：
涂鸦作品获取与处理模块501，用于获取待转换的涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；
动漫图像生成模块502，将所述待转换的涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像；其中，
所述动漫图像生成模型是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像，通过对生成式对抗网络进行训练得到的。
本发明实施例提供的动漫图像生成装置通过提取涂鸦作品的边缘轮廓图和颜色分布图，并将它们输入动漫图像生成模型，实现了与涂鸦作品对应的动漫图像的自动生成，能极大降低动漫制作人员的工作量，提升动漫图像的绘制效率。
图6示例了一种电子设备的实体结构示意图，如图6所示，该电子设备可以包括：处理器(processor)610、通信接口(Communications Interface)620、存储器(memory)630和通信总线640，其中，处理器610，通信接口620，存储器630通过通信总线640完成相互间的通信。处理器610可以调用存储器630中的逻辑指令，以执行如下方法：获取涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；将所述涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像。
需要说明的是，本实施例中的电子设备在具体实现时可以为服务器，也可以为PC机，还可以为其他设备，只要其结构中包括如图6所示的处理器610、通信接口620、存储器630和通信总线640，其中处理器610，通信接口620，存储器630通过通信总线640完成相互间的通信，且处理器610可以调用存储器630中的逻辑指令以执行上述方法即可。本实施例不对电子设备的具体实现形式进行限定。
此外，上述的存储器630中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
进一步地，本发明实施例公开一种计算机程序产品，所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，计算机能够执行上述各方法实施例所提供的方法，例如包括：获取涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；将所述涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像。
另一方面，本发明实施例还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各实施例提供的方法，例如包括：获取涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；将所述涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种动漫图像生成方法，其特征在于，包括：
获取待转换的涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；
将所述待转换的涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像；其中，
所述动漫图像生成模型是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像，通过对生成式对抗网络进行训练得到的。
2.根据权利要求1所述的动漫图像生成方法，其特征在于，还包括：
采集多组动漫图像和涂鸦作品；同一组中的动漫图像和涂鸦作品具有对应关系；
根据所述多组动漫图像和涂鸦作品，通过对生成式对抗网络的训练得到动漫图像生成模型。
3.根据权利要求1或2所述的动漫图像生成方法，其特征在于，所述特征图包括边缘轮廓图和/或颜色分布图；其中，所述颜色分布图是对图像做中值滤波和平滑颜色域后得到的。
4.根据权利要求3所述的动漫图像生成方法，其特征在于，所述特征图包括边缘轮廓图；相应地，所述根据所述多组动漫图像和涂鸦作品，通过对生成式对抗网络的训练得到动漫图像生成模型包括：
构建生成式对抗网络，所述生成式对抗网络包括生成器和判别器；
根据所述动漫图像生成存在区域空缺的动漫图像；
根据与所述动漫图像对应的涂鸦作品生成涂鸦作品的边缘轮廓图；
根据对一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图的处理，更新所述生成器和所述判别器的权重参数，完成所述生成式对抗网络的一次训练；计算当前次训练的损失，在损失收敛前，采用另一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图继续所述生成式对抗网络的训练；
将训练最终得到的生成器作为动漫图像生成模型。
5.根据权利要求3所述的动漫图像生成方法，其特征在于，所述特征图包括边缘轮廓图和颜色分布图；相应地，所述根据所述多组动漫图像和涂鸦作品，通过对生成式对抗网络的训练得到动漫图像生成模型包括：
构建生成式对抗网络，所述生成式对抗网络包括生成器和判别器；
根据所述动漫图像生成存在区域空缺的动漫图像；
根据与所述动漫图像对应的涂鸦作品生成涂鸦作品的边缘轮廓图和涂鸦作品的颜色分布图；
根据对一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图的处理，更新所述生成器和所述判别器的权重参数，完成所述生成式对抗网络的一次训练；计算当前次训练的损失，在损失收敛前，采用另一组中的动漫图像、存在区域空缺的动漫图像和涂鸦作品的边缘轮廓图继续所述生成式对抗网络的训练；得到经过第一轮训练的生成器和判别器；
基于第一轮训练得到的生成器和判别器，根据对一组中的动漫图像和涂鸦作品的边缘轮廓图、颜色分布图的处理，更新所述生成器和所述判别器的权重参数，完成所述生成式对抗网络的一次训练；计算当前次训练的损失，在损失收敛前，采用另一组中的动漫图像和涂鸦作品的边缘轮廓图、颜色分布图继续所述生成式对抗网络的训练；
将最终得到的生成器作为动漫图像生成模型。
6.根据权利要求4或5所述的动漫图像生成方法，其特征在于，所述计算当前次训练的损失包括：
计算生成图像的每个像素点的L1损失；
计算生成式对抗网络的对抗损失；
计算卷积过程中的特征损失；
将生成图像的每个像素点的L1损失、生成式对抗网络的对抗损失和卷积过程中的特征损失求和。
7.根据权利要求5所述的动漫图像生成方法，其特征在于，所述根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的颜色分布图包括：
对所述待转换的涂鸦作品做中值滤波，去除所述待转换的涂鸦作品中颜色部分的干扰噪声；
对经过中值滤波的待转换的涂鸦作品做平滑颜色域的处理；
对平滑颜色域后的待转换的涂鸦作品做中值滤波，得到待转换的涂鸦作品的颜色分布图。
8.一种动漫图像生成装置，其特征在于，包括：
涂鸦作品获取与处理模块，用于获取待转换的涂鸦作品，根据所述待转换的涂鸦作品生成所述待转换的涂鸦作品的特征图；
动漫图像生成模块，将所述待转换的涂鸦作品的特征图输入动漫图像生成模型，生成由所述待转换的涂鸦作品转换而来的动漫图像；其中，
所述动漫图像生成模型是基于涂鸦作品以及与所述涂鸦作品对应的动漫图像，通过对生成式对抗网络进行训练得到的。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7任一项所述动漫图像生成方法的步骤。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至7任一项所述动漫图像生成方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911285100.2A CN111080512B (zh) | 2019-12-13 | 2019-12-13 | 动漫图像生成方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911285100.2A CN111080512B (zh) | 2019-12-13 | 2019-12-13 | 动漫图像生成方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111080512A true CN111080512A (zh) | 2020-04-28 |
| CN111080512B CN111080512B (zh) | 2023-08-15 |
Family
ID=70314482
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911285100.2A Active CN111080512B (zh) | 2019-12-13 | 2019-12-13 | 动漫图像生成方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111080512B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111598910A (zh) * | 2020-07-23 | 2020-08-28 | 杭州群核信息技术有限公司 | 一种基于生成模型的水刀自动填色系统及方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107330956A (zh) * | 2017-07-03 | 2017-11-07 | 广东工业大学 | 一种漫画手绘图无监督上色方法及装置 |
| CN109800732A (zh) * | 2019-01-30 | 2019-05-24 | 北京字节跳动网络技术有限公司 | 用于生成漫画头像生成模型的方法和装置 |
| CN109816589A (zh) * | 2019-01-30 | 2019-05-28 | 北京字节跳动网络技术有限公司 | 用于生成漫画风格转换模型的方法和装置 |
| US20190171908A1 (en) * | 2017-12-01 | 2019-06-06 | The University Of Chicago | Image Transformation with a Hybrid Autoencoder and Generative Adversarial Network Machine Learning Architecture |
| US20190188882A1 (en) * | 2017-12-20 | 2019-06-20 | Samsung Electronics Co., Ltd. | Method and apparatus for processing image interaction |
| CN110097086A (zh) * | 2019-04-03 | 2019-08-06 | 平安科技（深圳）有限公司 | 图像生成模型训练方法、图像生成方法、装置、设备及存储介质 |
| CN110516577A (zh) * | 2019-08-20 | 2019-11-29 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
-
2019
- 2019-12-13 CN CN201911285100.2A patent/CN111080512B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107330956A (zh) * | 2017-07-03 | 2017-11-07 | 广东工业大学 | 一种漫画手绘图无监督上色方法及装置 |
| US20190171908A1 (en) * | 2017-12-01 | 2019-06-06 | The University Of Chicago | Image Transformation with a Hybrid Autoencoder and Generative Adversarial Network Machine Learning Architecture |
| US20190188882A1 (en) * | 2017-12-20 | 2019-06-20 | Samsung Electronics Co., Ltd. | Method and apparatus for processing image interaction |
| CN109800732A (zh) * | 2019-01-30 | 2019-05-24 | 北京字节跳动网络技术有限公司 | 用于生成漫画头像生成模型的方法和装置 |
| CN109816589A (zh) * | 2019-01-30 | 2019-05-28 | 北京字节跳动网络技术有限公司 | 用于生成漫画风格转换模型的方法和装置 |
| CN110097086A (zh) * | 2019-04-03 | 2019-08-06 | 平安科技（深圳）有限公司 | 图像生成模型训练方法、图像生成方法、装置、设备及存储介质 |
| CN110516577A (zh) * | 2019-08-20 | 2019-11-29 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111598910A (zh) * | 2020-07-23 | 2020-08-28 | 杭州群核信息技术有限公司 | 一种基于生成模型的水刀自动填色系统及方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111080512B (zh) | 2023-08-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN105374007B (zh) | 融合骨架笔画和纹理特征的铅笔画生成方法和装置 | |
| US9813614B2 (en) | Method and system for analog/digital image simplification and stylization | |
| Zhang et al. | Exemplar-based image inpainting using color distribution analysis | |
| CN110930297B (zh) | 人脸图像的风格迁移方法、装置、电子设备及存储介质 | |
| CN107464217B (zh) | 一种图像处理方法及装置 | |
| Gerstner et al. | Pixelated image abstraction | |
| CN108932693A (zh) | 基于人脸几何信息的人脸编辑补全方法及装置 | |
| Gerstner et al. | Pixelated image abstraction with integrated user constraints | |
| Kumar et al. | A comprehensive survey on non-photorealistic rendering and benchmark developments for image abstraction and stylization | |
| CN110599387A (zh) | 一种自动去除图片水印的方法及装置 | |
| JP7488436B2 (ja) | 畳み込みニューラルネットワークスタイル転送を使用したグラフィックデザインの作成の自動化 | |
| EP4075373A1 (en) | Image processing method and apparatus | |
| CN107516302A (zh) | 一种基于OpenCV的混合图像增强的方法 | |
| CN111080512A (zh) | 动漫图像生成方法、装置、电子设备及存储介质 | |
| He | Application of local color simulation method of landscape painting based on deep learning generative adversarial networks | |
| CN111462084B (zh) | 基于随机森林的图像矢量化印刷出血点预测系统和方法 | |
| Tao et al. | LEGAN: A low-light image enhancement generative adversarial network for industrial internet of smart-cameras | |
| CN107784626B (zh) | 一种基于单幅图像的三维数字凹浮雕生成方法 | |
| Xiang et al. | A deep network architecture for image inpainting | |
| CN108573506B (zh) | 图像处理方法及系统 | |
| CN112200751B (zh) | 一种图像增强方法 | |
| CN106887024B (zh) | 照片的处理方法及处理系统 | |
| US11900564B2 (en) | Storage medium storing program, image processing apparatus, and training method of machine learning model | |
| CN113012067B (zh) | 基于Retinex理论和端到端深度网络的水下图像复原方法 | |
| CN114219739A (zh) | 一种高反差磨皮算法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |