CN107330956A - 一种漫画手绘图无监督上色方法及装置 - Google Patents
一种漫画手绘图无监督上色方法及装置 Download PDFInfo
- Publication number
- CN107330956A CN107330956A CN201710533652.5A CN201710533652A CN107330956A CN 107330956 A CN107330956 A CN 107330956A CN 201710533652 A CN201710533652 A CN 201710533652A CN 107330956 A CN107330956 A CN 107330956A
- Authority
- CN
- China
- Prior art keywords
- caricature
- unsupervised
- training
- model
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/40—Filling a planar surface by adding surface attributes, e.g. colour or texture
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种漫画手绘图无监督上色方法及装置,通过获取多张动漫图像,作为漫画原图像;提取漫画原图像的轮廓,生成漫画手绘图;将漫画原图像以及漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;根据训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;采用训练好的无监督上色模型对输入的手绘图像进行上色处理。本申请所提供的方法及装置可以在无监督的情况下,对手绘图像的上色模式进行学习,使用学习获得的模型即可对输入的手绘图像进行自动上色处理,不仅无需人工干预,还能够保持较好的视觉效果。
Description
技术领域
本发明涉及图像处理技术领域,特别是涉及一种漫画手绘图无监督上色方法及装置。
背景技术
随着漫画和数字媒体产业的蓬勃发展,各种漫画产品出现的速度也在逐步加快,人们对于漫画产品的需求也不再只满足于黑白的线条画面上。但是由于一幅漫画生成是由画家从黑白手绘图开始制作,然后经过一系列繁杂处理之后最后才是上色。这个过程中,无论是手绘还是上色,步骤都是十分耗时耗力。正是因为这种工作的具有时间和人力密集的性质,所以直到现在市面上很多的漫画产品也只有封面或者前几页才是彩色画面,并借此来吸引买家的注意力。因此,如果可以将上色这一过程无监督化,将会在时间和效率上带来质的提高。
目前,一种对黑白漫画手绘图像进行上色处理的方法为:美工人员通过在专业图像处理软件如Photoshop、Maya环境下对手绘图进行上色,这种处理虽然可以得到一种质量很高的上色效果,但这种方法需要美工人员在调色、描影等处理技术上有较高的要求,在时间和人力成本上的消耗较高,所以只能在工作量较小的情况下才较为合适。
另外还可以通过一些计算机技术,如深度学习技术对黑白灰度图像进行上色。这种方法使用彩色图像对应的灰度图像作为训练数据,生成一种人工神经网络模型,然后利用这个生成的模型对灰度图像进行上色。然而这种上色方法需要依赖于训练数据图像的灰度连续性来拓展作用区域,从而将图像分割为彩色区域。然而,黑白的手绘图并不像灰度图像那样有着连续的灰度用于分割,因此这种方法并不能有效正常地对手绘图进行上色处理。
发明内容
本发明的目的是提供一种漫画手绘图无监督上色方法及装置,以解决现有技术不能有效正常地对漫画手绘图进行上色处理的问题。
为解决上述技术问题,本发明提供一种漫画手绘图无监督上色方法,包括:
获取多张动漫图像,作为漫画原图像;
提取所述漫画原图像的轮廓,生成漫画手绘图;
将所述漫画原图像以及所述漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;
根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,所述条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;
采用训练好的所述无监督上色模型对输入的手绘图像进行上色处理。
可选地,在所述提取所述漫画原图像的轮廓,生成漫画手绘图之前还包括:
将所述漫画原图像统一缩放为相同尺寸大小的图像。
可选地,所述根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型包括:
所述生成器模型根据输入的条件信息黑白手绘图以及随机噪声向量,生成彩色图像;
所述识别器模型采用所述生成器模型生成的图像以及所述漫画原图像进行训练,从生成图像中识别出真实图像;
提取出训练好的网络模型参数,生成所述无监督上色模型。
可选地,所述根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型包括:
采用冲量和/或Dropout训练方式,加速所述条件生成式对抗网络的训练。
可选地,在所述提取出训练好的网络模型参数,生成所述无监督上色模型之前还包括:
采用训练好的条件生成式对抗网络,对预设测试集进行测试,在满足预设条件下结束训练。
本发明还提供了一种漫画手绘图无监督上色装置,包括:
漫画原图像获取模块,用于获取多张动漫图像,作为漫画原图像;
漫画手绘图生成模块,用于提取所述漫画原图像的轮廓,生成漫画手绘图;
拼接模块,用于将所述漫画原图像以及所述漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;
模型生成模块,用于根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,所述条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;
上色模块,用于采用训练好的所述无监督上色模型对输入的手绘图像进行上色处理。
可选地,还包括:
尺寸处理模块,用于在提取所述漫画原图像的轮廓,生成漫画手绘图之前,将所述漫画原图像统一缩放为相同尺寸大小的图像。
可选地,所述模型生成模块包括:
所述生成器模型,用于根据输入的条件信息黑白手绘图以及随机噪声向量,生成彩色图像;
所述识别器模型,用于采用所述生成器模型生成的图像以及所述漫画原图像进行训练,从生成图像中识别出真实图像;
上色模型生成单元,用于提取出训练好的网络模型参数,生成所述无监督上色模型。
可选地,所述模型生成模块具体用于:采用冲量和/或Dropout训练方式,加速所述条件生成式对抗网络的训练。
可选地,还包括:
测试模块,用于在提取出训练好的网络模型参数,生成所述无监督上色模型之前,采用训练好的条件生成式对抗网络,对预设测试集进行测试,在满足预设条件下结束训练。
本发明所提供的漫画手绘图无监督上色方法及装置,通过获取多张动漫图像,作为漫画原图像;提取漫画原图像的轮廓,生成漫画手绘图;将漫画原图像以及漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;根据训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;采用训练好的无监督上色模型对输入的手绘图像进行上色处理。本申请所提供的方法及装置可以在无监督的情况下,对手绘图像的上色模式进行学习,使用学习获得的模型即可对输入的手绘图像进行自动上色处理,不仅无需人工干预,还能够保持较好的视觉效果。
附图说明
为了更清楚的说明本发明实施例或现有技术的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明所提供的漫画手绘图无监督上色方法的一种具体实施方式的流程图;
图2为本发明实施例基于条件生成式对抗网络训练得到无监督上色模型的过程示意图;
图3为本发明所提供的漫画手绘图无监督上色方法的另一种具体实施方式的流程图;
图4为本申请所提供的漫画手绘图无监督上色方法的又一种具体实施方式;
图5为训练过程示意图;
图6为本发明实施例提供的漫画手绘图无监督上色装置的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面结合附图和具体实施方式对本发明作进一步的详细说明。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明所提供的漫画手绘图无监督上色方法的一种具体实施方式的流程图如图1所示,该方法包括:
步骤S101:获取多张动漫图像,作为漫画原图像;
具体地,本步骤可以利用网络爬虫技术,从动漫素材网站safebooru爬取大约3万张动漫图像,作为漫画原图像。优选地,在获取图像后可以剔除其中的受损图像,并将剔除后的图像作为漫画原图像。
步骤S102:提取所述漫画原图像的轮廓,生成漫画手绘图;
具体地,可以使用Opencv提取动漫图像的轮廓,生成漫画手绘图。
步骤S103:将所述漫画原图像以及所述漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;
作为一种具体实施例,漫画原图像与对应的手绘图拼接为一张图像,选取前3000张图像作为测试数据集,其余的作为训练数据集。
步骤S104:根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,所述条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;
需要指出的是,本实施例中条件生成式对抗网络为预先构建得到,构建条件生成式对抗网络的过程可以具体包括:
设置训练数据每批大小为m个样本,进行数据划分,其中m为自然数。在训练条件生成式对抗网络时采用批量梯度更新方法学习网络的权重参数。
设计条件生成式对抗网络的结构,条件生成式对抗网络包含2个模块:生成器模块和判别器模块。
其中,对于生成器模块,采用U型网的结构。生成器模块包含编码器和判别器部分。用Ck表示一个带有k个卷积核的层,按照卷积计算、批正规化和ReLU激活函数的顺序处理输入信息。CDk表示带有dropout率为r的层,该层按照卷积计算、批正规化、Dropout和ReLU激活的顺序处理输入数据。
对于判别器模块,采用Patch生成式对抗网络的结构,并使用L1项加强低频正确性;
设置网络层中所需要的卷积核数目和特征图数目,卷积核大小,学习率,权重初始值等超参数。
进一步地,参照图2,基于条件生成式对抗网络训练得到无监督上色模型的过程可以包括:
步骤S1041:所述生成器模型根据输入的条件信息黑白手绘图以及随机噪声向量,生成彩色图像;
步骤S1042:所述识别器模型采用所述生成器模型生成的图像以及所述漫画原图像进行训练,从生成图像中识别出真实图像;
步骤S1043:提取出训练好的网络模型参数,生成所述无监督上色模型。
在网络训练过程中,可以具体采用冲量和/或Dropout训练方式,加速所述条件生成式网络的训练。
步骤S105:采用训练好的所述无监督上色模型对输入的手绘图像进行上色处理。
本发明所提供的漫画手绘图无监督上色方法,通过获取多张动漫图像,作为漫画原图像;提取漫画原图像的轮廓,生成漫画手绘图;将漫画原图像以及漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;根据训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;采用训练好的无监督上色模型对输入的手绘图像进行上色处理。本申请所提供的方法可以在无监督的情况下,对手绘图像的上色模式进行学习,使用学习获得的模型即可对输入的手绘图像进行自动上色处理,不仅无需人工干预,还能够保持较好的视觉效果。
本发明所提供的漫画手绘图无监督上色方法的另一种具体实施方式的流程图如图3所示,该方法包括:
步骤S201:获取多张动漫图像,作为漫画原图像;
步骤S202:将所述漫画原图像统一缩放为相同尺寸大小的图像;
步骤S203:提取所述漫画原图像的轮廓,生成漫画手绘图;
步骤S204:将所述漫画原图像以及所述漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;
步骤S205:根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,所述条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;
步骤S206:采用训练好的所述无监督上色模型对输入的手绘图像进行上色处理。
对生成器模型G输入条件信息黑白手绘图和随机噪声向量Z,然后生成彩色图像。而识别器模型D使用生成器模型G生成的图像和原始的彩色图像进行训练。D的目标是为了区分从生成图像中识别出真实图像。两个网络以对抗的方式不断优化训练。
在网络训练过程中,采用冲量和Dropout等训练技巧,用于加速网络的训练。
对于训练好的网络模型参数,根据其在测试数据集上的效果,判断是否停止训练。
提取出训练好的网络模型参数W。
下面结合具体实施场景,参照图4,对本申请所提供的漫画手绘图无监督上色方法的又一种具体实施方式进行详细阐述,该方法包括:
步骤S301:利用网络爬虫技术,从动漫素材网站safebooru爬取大约3万张动漫图像,并剔除受损图像,作为漫画原图像;
步骤S302:用Imagemagick将抓取的图像批量缩放到高度宽度都为256的大小,再使用Opencv将提取动漫图像的轮廓,生成漫画手绘图;
步骤S303:漫画原图像与对应的漫画手绘图拼接为一张图像,选取前3000张图像作为测试数据集,其余的作为训练数据集;
步骤S304:构建条件生成式对抗网络;
具体地,构建的过程可以包括以下步骤:
设置训练数据每批大小为1个样本。在训练条件生成式对抗网络时采用最小批量的随机梯度下降算法和Adam求解器更新学习网络的权重参数。
设计条件生成式对抗网络的结构,条件生成式对抗网络包含2个模块:生成器模块和判别器模块。
生成器模块采用U型网的结构,使输入输出图像可以共享底层信息。设n是总层数,除了编码器中的每个第i层与解码器中的第n-i层之间的跳跃连接,U型网架构是相同的。跳跃连接将第i层到第n-i层的激活函数连接起来同时改变了解码器中的通道数量。
生成器模块中包含编码器和判别器部分。
用Ck表示一个带有k个卷积核的层,按照卷积计算、批正规化和ReLU激活函数的顺序处理输入信息。CDk表示带有dropout率为0.5的层,该层按照卷积计算、批正规化、Dropout和ReLU激活的顺序处理输入数据。所有卷积计算中使用高和宽都是4的卷积核,2的步长。编码器和识别器模型中的卷积计算的下采样因子为2。其中C64-C128-C256-C512-C512-C512-C512-C512为编码器部分,而CD512-CD1024-CD1024-C1024-C1024-C512-C256-C128为解码器部分。在解码器的最后一层之后是一个卷积计算,用来匹配输出通道,接着是一个tanh函数。上述提到的有一个例外,批正规化处理没有应用在编码器的C64层。编码器中使用的所有ReLU激活函数类型都是斜率为0.2的LeakyReLU。而解码器中的是ReLU激活函数。在解码器中,卷积计算的上采样因子为2。
对于判别器模块,采用Patch生成式对抗网络的结构,以块的范围来判别图像的真实性,取所有块结果的平均值作为最终输出。使用L1项加强低频正确性,加强判别器只对高频结构进行建模的约束。在最后一层后面是一个卷积计算,用于匹配一维输出,接下来是Sigmoid函数。上述的提到的例外是,C64层不应用批正规化处理。识别器模型中使用的所有ReLU激活函数类型都是斜率为0.2的LeakyReLU。
设置网络层中所需要的卷积核数目和特征图数目,卷积核大小,学习率,权重初始值等超参数,生成器模型结构如表1所示,判别器模型结构如表2所示。
表1
表2
步骤S305:训练无监督上色模型,并进行测试;
该过程可以具体包括:
步骤S3051:对生成器模型G输入条件信息黑白手绘图和随机噪声向量Z,然后生成彩色图像。而识别器模型D使用生成器模型G生成的图像和原始的彩色图像进行训练。D的目标是为了区分从生成图像中识别出真实图像。两个网络以对抗的方式不断优化训练。训练过程如图5所示。
步骤S3052:在网络训练过程中,采用冲量和Dropout等训练技巧,用于加速网络的训练;
步骤S3053:对于训练好的网络模型参数,根据其在测试数据集上的效果,判断是否停止训练;
步骤S3054:提取出训练好的网络模型参数W。
步骤S306:使用训练好的模型进行上色处理。
本发明中的模型的目标函数包含了L1损失项和对抗损失项,这样做会带来两个影响,一是当模型不能完全确定边界的位置时,L1会激励模糊处理,或者不确定应该采用哪一种可行的颜色时,L1会采用平均值,保证其合理性。另一方面,对抗损失项原则上会使最终的输出图像尽量的与真实的颜色分布匹配从而保证其真实性。
下面对本发明实施例提供的漫画手绘图无监督上色装置进行介绍,下文描述的漫画手绘图无监督上色装置与上文描述的漫画手绘图无监督上色方法可相互对应参照。
图6为本发明实施例提供的漫画手绘图无监督上色装置的结构框图,参照图6漫画手绘图无监督上色装置可以包括:
漫画原图像获取模块100,用于获取多张动漫图像,作为漫画原图像;
漫画手绘图生成模块200,用于提取所述漫画原图像的轮廓,生成漫画手绘图;
拼接模块300,用于将所述漫画原图像以及所述漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;
模型生成模块400,用于根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,所述条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;
上色模块500,用于采用训练好的所述无监督上色模型对输入的手绘图像进行上色处理。
作为一种具体实施方式,本发明所提供的漫画手绘图无监督上色装置还可以具体包括:
尺寸处理模块,用于在提取所述漫画原图像的轮廓,生成漫画手绘图之前,将所述漫画原图像统一缩放为相同尺寸大小的图像。
作为一种具体实施方式,本发明所提供的漫画手绘图无监督上色装置中所述模型生成模块包括:
所述生成器模型,用于根据输入的条件信息黑白手绘图以及随机噪声向量,生成彩色图像;
所述识别器模型,用于采用所述生成器模型生成的图像以及所述漫画原图像进行训练,从生成图像中识别出真实图像;
上色模型生成单元,用于提取出训练好的网络模型参数,生成所述无监督上色模型。
其中,所述模型生成模块具体用于:采用冲量和/或Dropout训练方式,加速所述条件生成式对抗网络的训练。
进一步地,本发明所提供的漫画手绘图无监督上色装置还可以具体包括:
测试模块,用于在提取出训练好的网络模型参数,生成所述无监督上色模型之前,采用训练好的条件生成式对抗网络,对预设测试集进行测试,在满足预设条件下结束训练。
本发明所提供的漫画手绘图无监督上色装置,通过获取多张动漫图像,作为漫画原图像;提取漫画原图像的轮廓,生成漫画手绘图;将漫画原图像以及漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;根据训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;采用训练好的无监督上色模型对输入的手绘图像进行上色处理。本申请所提供的装置可以在无监督的情况下,对手绘图像的上色模式进行学习,使用学习获得的模型即可对输入的手绘图像进行自动上色处理,不仅无需人工干预,还能够保持较好的视觉效果。
本实施例的漫画手绘图无监督上色装置用于实现前述的漫画手绘图无监督上色方法,因此漫画手绘图无监督上色装置中的具体实施方式可见前文中的漫画手绘图无监督上色方法的实施例部分,例如,漫画原图像获取模块100,漫画手绘图生成模块200,拼接模块300,模型生成模块400,上色模块500,分别用于实现上述漫画手绘图无监督上色方法中步骤S101,S102,S103,S104和S105,所以,其具体实施方式可以参照相应的各个部分实施例的描述,在此不再赘述。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上对本发明所提供的漫画手绘图无监督上色方法以及装置进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以对本发明进行若干改进和修饰,这些改进和修饰也落入本发明权利要求的保护范围内。
Claims (10)
1.一种漫画手绘图无监督上色方法,其特征在于,包括:
获取多张动漫图像,作为漫画原图像;
提取所述漫画原图像的轮廓,生成漫画手绘图;
将所述漫画原图像以及所述漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;
根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,所述条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;
采用训练好的所述无监督上色模型对输入的手绘图像进行上色处理。
2.如权利要求1所述的漫画手绘图无监督上色方法,其特征在于,在所述提取所述漫画原图像的轮廓,生成漫画手绘图之前还包括:
将所述漫画原图像统一缩放为相同尺寸大小的图像。
3.如权利要求1或2所述的漫画手绘图无监督上色方法,其特征在于,所述根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型包括:
所述生成器模型根据输入的条件信息黑白手绘图以及随机噪声向量,生成彩色图像;
所述识别器模型采用所述生成器模型生成的图像以及所述漫画原图像进行训练,从生成图像中识别出真实图像;
提取出训练好的网络模型参数,生成所述无监督上色模型。
4.如权利要求3所述的漫画手绘图无监督上色方法,其特征在于,所述根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型包括:
采用冲量和/或Dropout训练方式,加速所述条件生成式对抗网络的训练。
5.如权利要求4所述的漫画手绘图无监督上色方法,其特征在于,在所述提取出训练好的网络模型参数,生成所述无监督上色模型之前还包括:
采用训练好的条件生成式对抗网络,对预设测试集进行测试,在满足预设条件下结束训练。
6.一种漫画手绘图无监督上色装置,其特征在于,包括:
漫画原图像获取模块,用于获取多张动漫图像,作为漫画原图像;
漫画手绘图生成模块,用于提取所述漫画原图像的轮廓,生成漫画手绘图;
拼接模块,用于将所述漫画原图像以及所述漫画手绘图拼接为一张图像,作为训练数据集中的训练样本;
模型生成模块,用于根据所述训练数据集,基于条件生成式对抗网络训练得到无监督上色模型,所述条件生成式对抗网络由包含的生成器模型以及判别器模型以对抗的方式进行优化训练得到;
上色模块,用于采用训练好的所述无监督上色模型对输入的手绘图像进行上色处理。
7.如权利要求6所述的漫画手绘图无监督上色装置,其特征在于,还包括:
尺寸处理模块,用于在提取所述漫画原图像的轮廓,生成漫画手绘图之前,将所述漫画原图像统一缩放为相同尺寸大小的图像。
8.如权利要求6或7所述的漫画手绘图无监督上色装置,其特征在于,所述模型生成模块包括:
所述生成器模型,用于根据输入的条件信息黑白手绘图以及随机噪声向量,生成彩色图像;
所述识别器模型,用于采用所述生成器模型生成的图像以及所述漫画原图像进行训练,从生成图像中识别出真实图像;
上色模型生成单元,用于提取出训练好的网络模型参数,生成所述无监督上色模型。
9.如权利要求8所述的漫画手绘图无监督上色装置,其特征在于,所述模型生成模块具体用于:采用冲量和/或Dropout训练方式,加速所述条件生成式对抗网络的训练。
10.如权利要求9所述的漫画手绘图无监督上色装置,其特征在于,还包括:
测试模块,用于在提取出训练好的网络模型参数,生成所述无监督上色模型之前,采用训练好的条件生成式对抗网络,对预设测试集进行测试,在满足预设条件下结束训练。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710533652.5A CN107330956B (zh) | 2017-07-03 | 2017-07-03 | 一种漫画手绘图无监督上色方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710533652.5A CN107330956B (zh) | 2017-07-03 | 2017-07-03 | 一种漫画手绘图无监督上色方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107330956A true CN107330956A (zh) | 2017-11-07 |
CN107330956B CN107330956B (zh) | 2020-08-07 |
Family
ID=60199766
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710533652.5A Active CN107330956B (zh) | 2017-07-03 | 2017-07-03 | 一种漫画手绘图无监督上色方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107330956B (zh) |
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108062782A (zh) * | 2018-01-30 | 2018-05-22 | 哈尔滨福特威尔科技有限公司 | 一种鞋楦平面轮廓线自动生成装置及方法 |
CN108090905A (zh) * | 2018-01-05 | 2018-05-29 | 清华大学 | 产线异常的判断方法及系统 |
CN108537855A (zh) * | 2018-04-02 | 2018-09-14 | 景德镇陶瓷大学 | 一种草图一致的陶瓷花纸图案生成方法及装置 |
CN108830913A (zh) * | 2018-05-25 | 2018-11-16 | 大连理工大学 | 基于用户颜色引导的语义级别线稿上色方法 |
CN108830912A (zh) * | 2018-05-04 | 2018-11-16 | 北京航空航天大学 | 一种深度特征对抗式学习的交互式灰度图像着色方法 |
CN108921916A (zh) * | 2018-07-03 | 2018-11-30 | 广东工业大学 | 图片中多目标区域的上色方法、装置、设备及存储介质 |
CN109147003A (zh) * | 2018-08-01 | 2019-01-04 | 北京东方畅享科技有限公司 | 对线稿图像进行上色的方法、设备以及存储介质 |
CN109345448A (zh) * | 2018-09-25 | 2019-02-15 | 广东工业大学 | 一种轮廓图上色方法及装置 |
CN109474851A (zh) * | 2018-10-30 | 2019-03-15 | 百度在线网络技术(北京)有限公司 | 视频转换方法、装置及设备 |
CN109524020A (zh) * | 2018-11-20 | 2019-03-26 | 上海海事大学 | 一种语音增强处理方法 |
CN109544662A (zh) * | 2018-11-29 | 2019-03-29 | 文创智慧科技(武汉)有限公司 | 一种基于SRUnet的动漫风格线稿上色方法及系统 |
CN109584325A (zh) * | 2018-10-30 | 2019-04-05 | 河北科技大学 | 一种基于u型周期一致对抗网络的动漫图像的双向色彩化方法 |
CN109712203A (zh) * | 2018-12-29 | 2019-05-03 | 福建帝视信息科技有限公司 | 一种基于自注意力生成对抗网络的图像着色方法 |
CN109801346A (zh) * | 2018-12-20 | 2019-05-24 | 武汉西山艺创文化有限公司 | 一种基于神经网络的原画辅助上色方法和装置 |
CN109800732A (zh) * | 2019-01-30 | 2019-05-24 | 北京字节跳动网络技术有限公司 | 用于生成漫画头像生成模型的方法和装置 |
CN109859288A (zh) * | 2018-12-25 | 2019-06-07 | 北京飞搜科技有限公司 | 基于生成对抗网络的图像上色方法及装置 |
JP2019117558A (ja) * | 2017-12-27 | 2019-07-18 | 日本放送協会 | カラー情報推定モデル生成装置、画像カラー化装置およびそれらのプログラム |
CN110097086A (zh) * | 2019-04-03 | 2019-08-06 | 平安科技(深圳)有限公司 | 图像生成模型训练方法、图像生成方法、装置、设备及存储介质 |
CN110298898A (zh) * | 2019-05-30 | 2019-10-01 | 北京百度网讯科技有限公司 | 更改汽车图像车身颜色的方法及其算法结构 |
CN110503701A (zh) * | 2019-08-29 | 2019-11-26 | 广东工业大学 | 一种漫画手绘图的上色方法及装置 |
CN110517332A (zh) * | 2019-07-09 | 2019-11-29 | 广东工业大学 | 一种基于深度学习的漫画手绘图交互式着色方法 |
CN111080512A (zh) * | 2019-12-13 | 2020-04-28 | 咪咕动漫有限公司 | 动漫图像生成方法、装置、电子设备及存储介质 |
CN111899154A (zh) * | 2020-06-24 | 2020-11-06 | 广州梦映动漫网络科技有限公司 | 漫画视频生成方法及漫画生成方法、装置、设备、介质 |
CN112614044A (zh) * | 2020-12-14 | 2021-04-06 | 咪咕文化科技有限公司 | 一种手绘头像动漫化方法、系统、电子设备及存储介质 |
CN113228111A (zh) * | 2018-12-28 | 2021-08-06 | Cy游戏公司 | 图像处理方法、图像处理系统和程序 |
CN115100312A (zh) * | 2022-07-14 | 2022-09-23 | 猫小兜动漫影视(深圳)有限公司 | 一种图像动漫化的方法和装置 |
CN115423887A (zh) * | 2022-08-04 | 2022-12-02 | 北京乐信圣文科技有限责任公司 | 一种针对人脸线条图片的参考性上色方法、系统、装置及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101436311A (zh) * | 2008-11-28 | 2009-05-20 | 牡丹江新闻传媒集团有限公司 | 二维动画制作过程中的自动批量上色的方法 |
CN102356406A (zh) * | 2009-03-17 | 2012-02-15 | 哈里公司 | 用于将图像彩色化的地理空间建模系统及相关方法 |
WO2015189369A1 (en) * | 2014-06-12 | 2015-12-17 | Thomson Licensing | Methods and systems for color processing of digital images |
-
2017
- 2017-07-03 CN CN201710533652.5A patent/CN107330956B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101436311A (zh) * | 2008-11-28 | 2009-05-20 | 牡丹江新闻传媒集团有限公司 | 二维动画制作过程中的自动批量上色的方法 |
CN102356406A (zh) * | 2009-03-17 | 2012-02-15 | 哈里公司 | 用于将图像彩色化的地理空间建模系统及相关方法 |
WO2015189369A1 (en) * | 2014-06-12 | 2015-12-17 | Thomson Licensing | Methods and systems for color processing of digital images |
Non-Patent Citations (2)
Title |
---|
PHILLIP ISOLA等: "《Image-to-Image Translation with Conditional Adversarial Networks》", 《HTTPS://ARXIV.XILESOU.TOP/ABS/1611.07004V1》 * |
徐一峰: "《生成对抗网络理论模型和应用综述》", 《金华职业技术学院学报》 * |
Cited By (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019117558A (ja) * | 2017-12-27 | 2019-07-18 | 日本放送協会 | カラー情報推定モデル生成装置、画像カラー化装置およびそれらのプログラム |
CN108090905A (zh) * | 2018-01-05 | 2018-05-29 | 清华大学 | 产线异常的判断方法及系统 |
CN108062782A (zh) * | 2018-01-30 | 2018-05-22 | 哈尔滨福特威尔科技有限公司 | 一种鞋楦平面轮廓线自动生成装置及方法 |
CN108537855A (zh) * | 2018-04-02 | 2018-09-14 | 景德镇陶瓷大学 | 一种草图一致的陶瓷花纸图案生成方法及装置 |
CN108537855B (zh) * | 2018-04-02 | 2022-04-26 | 景德镇陶瓷大学 | 一种草图一致的陶瓷花纸图案生成方法及装置 |
CN108830912A (zh) * | 2018-05-04 | 2018-11-16 | 北京航空航天大学 | 一种深度特征对抗式学习的交互式灰度图像着色方法 |
CN108830913A (zh) * | 2018-05-25 | 2018-11-16 | 大连理工大学 | 基于用户颜色引导的语义级别线稿上色方法 |
CN108830913B (zh) * | 2018-05-25 | 2022-05-17 | 大连理工大学 | 基于用户颜色引导的语义级别线稿上色方法 |
CN108921916B (zh) * | 2018-07-03 | 2022-09-16 | 广东工业大学 | 图片中多目标区域的上色方法、装置、设备及存储介质 |
CN108921916A (zh) * | 2018-07-03 | 2018-11-30 | 广东工业大学 | 图片中多目标区域的上色方法、装置、设备及存储介质 |
CN109147003A (zh) * | 2018-08-01 | 2019-01-04 | 北京东方畅享科技有限公司 | 对线稿图像进行上色的方法、设备以及存储介质 |
CN109345448B (zh) * | 2018-09-25 | 2023-05-05 | 广东工业大学 | 一种轮廓图上色方法及装置 |
CN109345448A (zh) * | 2018-09-25 | 2019-02-15 | 广东工业大学 | 一种轮廓图上色方法及装置 |
CN109584325B (zh) * | 2018-10-30 | 2020-01-07 | 河北科技大学 | 一种基于u型周期一致对抗网络的动漫图像的双向色彩化方法 |
CN109584325A (zh) * | 2018-10-30 | 2019-04-05 | 河北科技大学 | 一种基于u型周期一致对抗网络的动漫图像的双向色彩化方法 |
CN109474851A (zh) * | 2018-10-30 | 2019-03-15 | 百度在线网络技术(北京)有限公司 | 视频转换方法、装置及设备 |
CN109524020A (zh) * | 2018-11-20 | 2019-03-26 | 上海海事大学 | 一种语音增强处理方法 |
CN109544662A (zh) * | 2018-11-29 | 2019-03-29 | 文创智慧科技(武汉)有限公司 | 一种基于SRUnet的动漫风格线稿上色方法及系统 |
CN109544662B (zh) * | 2018-11-29 | 2023-04-07 | 文创智慧科技(武汉)有限公司 | 一种基于SRUnet的动漫风格线稿上色方法及系统 |
CN109801346A (zh) * | 2018-12-20 | 2019-05-24 | 武汉西山艺创文化有限公司 | 一种基于神经网络的原画辅助上色方法和装置 |
CN109801346B (zh) * | 2018-12-20 | 2023-06-30 | 武汉西山艺创文化有限公司 | 一种基于神经网络的原画辅助上色方法和装置 |
CN109859288B (zh) * | 2018-12-25 | 2023-01-10 | 苏州飞搜科技有限公司 | 基于生成对抗网络的图像上色方法及装置 |
CN109859288A (zh) * | 2018-12-25 | 2019-06-07 | 北京飞搜科技有限公司 | 基于生成对抗网络的图像上色方法及装置 |
CN113228111A (zh) * | 2018-12-28 | 2021-08-06 | Cy游戏公司 | 图像处理方法、图像处理系统和程序 |
CN109712203B (zh) * | 2018-12-29 | 2020-11-17 | 福建帝视信息科技有限公司 | 一种基于自注意力生成对抗网络的图像着色方法 |
CN109712203A (zh) * | 2018-12-29 | 2019-05-03 | 福建帝视信息科技有限公司 | 一种基于自注意力生成对抗网络的图像着色方法 |
CN109800732B (zh) * | 2019-01-30 | 2021-01-15 | 北京字节跳动网络技术有限公司 | 用于生成漫画头像生成模型的方法和装置 |
CN109800732A (zh) * | 2019-01-30 | 2019-05-24 | 北京字节跳动网络技术有限公司 | 用于生成漫画头像生成模型的方法和装置 |
CN110097086A (zh) * | 2019-04-03 | 2019-08-06 | 平安科技(深圳)有限公司 | 图像生成模型训练方法、图像生成方法、装置、设备及存储介质 |
CN110298898A (zh) * | 2019-05-30 | 2019-10-01 | 北京百度网讯科技有限公司 | 更改汽车图像车身颜色的方法及其算法结构 |
CN110298898B (zh) * | 2019-05-30 | 2023-05-23 | 北京百度网讯科技有限公司 | 更改汽车图像车身颜色的方法及其算法结构 |
CN110517332A (zh) * | 2019-07-09 | 2019-11-29 | 广东工业大学 | 一种基于深度学习的漫画手绘图交互式着色方法 |
CN110517332B (zh) * | 2019-07-09 | 2023-10-03 | 广东工业大学 | 一种基于深度学习的漫画手绘图交互式着色方法 |
CN110503701A (zh) * | 2019-08-29 | 2019-11-26 | 广东工业大学 | 一种漫画手绘图的上色方法及装置 |
CN111080512A (zh) * | 2019-12-13 | 2020-04-28 | 咪咕动漫有限公司 | 动漫图像生成方法、装置、电子设备及存储介质 |
CN111080512B (zh) * | 2019-12-13 | 2023-08-15 | 咪咕动漫有限公司 | 动漫图像生成方法、装置、电子设备及存储介质 |
CN111899154A (zh) * | 2020-06-24 | 2020-11-06 | 广州梦映动漫网络科技有限公司 | 漫画视频生成方法及漫画生成方法、装置、设备、介质 |
CN112614044A (zh) * | 2020-12-14 | 2021-04-06 | 咪咕文化科技有限公司 | 一种手绘头像动漫化方法、系统、电子设备及存储介质 |
CN115100312A (zh) * | 2022-07-14 | 2022-09-23 | 猫小兜动漫影视(深圳)有限公司 | 一种图像动漫化的方法和装置 |
CN115100312B (zh) * | 2022-07-14 | 2023-08-22 | 猫小兜动漫影视(深圳)有限公司 | 一种图像动漫化的方法和装置 |
CN115423887A (zh) * | 2022-08-04 | 2022-12-02 | 北京乐信圣文科技有限责任公司 | 一种针对人脸线条图片的参考性上色方法、系统、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN107330956B (zh) | 2020-08-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107330956A (zh) | 一种漫画手绘图无监督上色方法及装置 | |
CN110378985B (zh) | 一种基于gan的动漫绘画辅助创作方法 | |
CN105046277B (zh) | 特征显著性在图像质量评价中的鲁棒机理研究方法 | |
CN106920243A (zh) | 改进的全卷积神经网络的陶瓷材质件序列图像分割方法 | |
CN107358626A (zh) | 一种利用条件生成对抗网络计算视差的方法 | |
Petre et al. | Complexity through combination: an account of knitwear design | |
CN110516539A (zh) | 基于对抗网络的遥感影像建筑物提取方法、系统、存储介质及设备 | |
CN108230278A (zh) | 一种基于生成对抗网络的图像去雨滴方法 | |
CN104504007B (zh) | 一种图像相似度的获取方法及系统 | |
CN106855996A (zh) | 一种基于卷积神经网络的灰阶图像着色方法及其装置 | |
US11880930B2 (en) | System and method for content creation via interactive layers | |
Oppenheimer | The artificial menagerie | |
Karp et al. | Automatic generation of graphical game assets using gan | |
Alekseev et al. | Simulation images of external objects in a virtual simulator for training human-machine systems operators | |
Antoniuk et al. | Generation of complex underground systems for application in computer games with schematic maps and L-systems | |
Bradbury et al. | Guided ecological simulation for artistic editing of plant distributions in natural scenes | |
CN109242927A (zh) | 一种广告模板生成方法、装置及计算机设备 | |
CN115018729A (zh) | 一种面向内容的白盒图像增强方法 | |
Baniasadi et al. | Exploring non-photorealistic rendering with genetic programming | |
Barile et al. | Animated drawings rendered by genetic programming | |
KR101743516B1 (ko) | 디지털 잎 저작 장치 및 방법 | |
Liang et al. | CAD Assisted Brand Packaging Image Processing Algorithm in Graphic Design Teaching | |
CN111612864A (zh) | 一种基于照片和图像识别的绘画方法及系统 | |
Ren et al. | Dunhuang murals image restoration method based on generative adversarial network | |
Skorkovská et al. | Complex multi-material approach for dynamic simulations |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |