CN111340905A - 图像风格化方法、装置、设备和介质 - Google Patents
图像风格化方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN111340905A CN111340905A CN202010089984.0A CN202010089984A CN111340905A CN 111340905 A CN111340905 A CN 111340905A CN 202010089984 A CN202010089984 A CN 202010089984A CN 111340905 A CN111340905 A CN 111340905A
- Authority
- CN
- China
- Prior art keywords
- image
- stylized
- loss
- edge
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种图像风格化方法、装置、设备和介质,涉及图像渲染技术。具体实现方案为:获取训练样本图像,其中,所述训练样本图像包括待风格化图像集合,以及风格参考图;利用所述训练样本图像,对构建的图像风格化网络模型进行训练,其中,所述图像风格化网络模型包括内容特征提取网络和图像边缘提取网络,所述图像风格化网络模型的损失函数包括内容损失、边缘损失和风格损失;利用训练好的图像风格化网络模型,对任意待风格化的目标图像进行处理,得到与所述目标图像对应的风格化图像。本申请实施例通过在模型中增加边缘约束,避免了输出图像中因产生多余的纹理而造成图像不自然、影响艺术视觉效果的问题,提高图像风格化质量。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像渲染技术,具体涉及一种图像风格化方法、装置、设备和介质。
背景技术
图像风格化可以对现实自然图像进行处理,使得处理后的图像具有与参考艺术图一致的艺术风格特点,大大提高原图像的美观度和观赏性。
现有技术中的图像风格化方法是以斯坦福大学研究的Fast Neural StyleTransfer为代表的深度学习方法,其在定义一种生成网络后,基于数据进行驱动,逐步优化网络结构,在训练好网络后可以批量处理任意图像。然而,目前这种方法很容易在输出图像上增加过多的纹理,使得风格化后的图像不自然,影响图像风格化质量。
发明内容
本申请实施例提供一种图像风格化方法、装置、设备和介质,以解决现有技术中因输出图像上增加过多的纹理而造成的图像不自然、影响图像风格化质量的问题。
第一方面,本申请实施例提供了一种图像风格化方法,包括:
获取训练样本图像,其中,所述训练样本图像包括待风格化图像集合,以及风格参考图;
利用所述训练样本图像,对构建的图像风格化网络模型进行训练,其中,所述图像风格化网络模型包括内容特征提取网络和图像边缘提取网络,所述图像风格化网络模型的损失函数包括内容损失、边缘损失和风格损失;
利用训练后的图像风格化网络模型,对任意待风格化的目标图像进行处理,得到与所述目标图像对应的风格化图像。
上述申请中的一个实施例具有如下优点或有益效果:通过在模型中增加图像边缘提取网络,并在损失函数中增加边缘损失,从而实现图像的边缘约束,避免了输出图像中因产生多余的纹理而造成图像不自然、影响艺术视觉效果的问题,提高图像风格化质量。
可选的,所述内容特征提取网络,用于对高阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述内容特征提取网络,还用于对高阶特征空间下,输入所述图像风格化网络模型的风格参考图和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述图像边缘提取网络,用于对低阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,纹理的特征进行提取。
可选的,所述图像边缘提取网络的训练过程包括:
利用预先构建的边缘提取算子提取样本图像的边缘信息;
将所述样本图像的信息和所述边缘信息组成数据对;
依据所述数据对,对预先构建的编解码网络进行训练,将训练后的编解码网络作为所述图像边缘提取网络。
可选的,所述内容损失,用于约束所述内容特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化;
所述风格损失,用于约束所述内容特征提取网络针对所述风格参考图和所述输出图像分别提取的特征最小化;
所述边缘损失,用于约束所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化。
上述申请中的一个实施例具有如下优点或有益效果:在通过内容损失和风格损失分别进行内容约束和风格约束的基础上,增加边缘损失,实现边缘约束,约束输入图像和输出图像之间的边缘特征最小化,从而避免输出图像中出现多余的纹理,使得图像风格化的效果更佳自然。
可选的,所述约束所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化,包括:
利用L1损失函数,计算所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征之间的距离,并约束所述距离最小化。
可选的,所述损失函数为所述内容损失、边缘损失和风格损失加权求和的结果。
第二方面,本申请实施例还提供了一种图像风格化装置,包括:
样本获取模块,用于获取训练样本图像,其中,所述训练样本图像包括待风格化图像集合,以及风格参考图;
模型训练模块,用于利用所述训练样本图像,对构建的图像风格化网络模型进行训练,其中,所述图像风格化网络模型包括内容特征提取网络和图像边缘提取网络,所述图像风格化网络模型的损失函数包括内容损失、边缘损失和风格损失;
图像风格化模块,用于利用训练后的图像风格化网络模型,对任意待风格化的目标图像进行处理,得到与所述目标图像对应的风格化图像。
第三方面,本申请实施例还提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本申请任意实施例所述的图像风格化方法。
第四方面,本申请实施例还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本申请任意实施例所述的图像风格化方法。
上述申请中的一个实施例具有如下优点或有益效果:通过在模型中增加图像边缘提取网络,并在损失函数中增加边缘损失,从而实现图像的边缘约束,避免了输出图像中因产生多余的纹理而造成图像不自然、影响艺术视觉效果的问题,提高图像风格化质量。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请第一实施例的图像风格化方法的流程示意图;
图2是根据本申请第二实施例的图像风格化装置的结构示意图;
图3是用来实现本申请实施例的图像风格化方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请第一实施例的图像风格化方法的流程示意图,本实施例可适用于对图像进行风格化的情况。该方法可由一种图像风格化装置来执行,该装置采用软件和/或硬件的方式实现,优选是配置于电子设备中,例如计算机设备或服务器等。如图1所示,该方法具体包括如下:
S101、获取训练样本图像,其中,所述训练样本图像包括待风格化图像集合,以及风格参考图。
本申请实施例结合深度学习技术,训练好网络参数后,网络可以处理任意图像,对输入图像进行风格化转换,在保留原图像内容信息的基础上使之具备任一种艺术风格特点。而训练网络需要首先获取训练样本图像,包括大量的待风格化图像,以及希望转化后具备某种风格的风格参考图。
S102、利用所述训练样本图像,对构建的图像风格化网络模型进行训练,其中,所述图像风格化网络模型包括内容特征提取网络和图像边缘提取网络,所述图像风格化网络模型的损失函数包括内容损失、边缘损失和风格损失。
本申请实施例构建的图像风格化网络模型包括内容特征提取网络和图像边缘提取网络。其中,所述内容特征提取网络,用于对高阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;所述内容特征提取网络,还用于对高阶特征空间下,输入所述图像风格化网络模型的风格参考图和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;所述图像边缘提取网络,用于对低阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,纹理的特征进行提取。
具体的,将待风格化图像和选定的任一种风格参考图输入图像风格化网络模型,模型通过转化会得到一个输出图像,训练过程中,内容特征提取网络就会对待风格化图像和输出图像进行特征提取,以便通过内容损失确保输出图像与待风格化图像在结构和内容上一致;内容特征提取网络还会对风格参考图和输出图像进行特征提取,以便通过风格损失确保输出图像具备参考图的艺术风格特点;而在此基础上,图像边缘提取网络会对待风格化图像和输出图像中的纹理特征(例如边缘特征)进行提取,以便通过边缘损失确保输出图像中不会出现待风格化图像中不存在的多余纹理(如边缘信息);由此不断迭代优化,当模型收敛,即可确定模型中的网络参数。
本申请实施例可以使用在ImageNet图像分类任务上已经训练好的VGG19网络作为内容特征提取网络,以提高特征提取的质量和效率。而图像边缘提取网络可以预先训练得到。训练过程例如可以包括:
利用预先构建的边缘提取算子提取样本图像的边缘信息;
将所述样本图像的信息和所述边缘信息组成数据对;
依据所述数据对,对预先构建的编解码网络进行训练,将训练后的编解码网络作为所述图像边缘提取网络。
其中,边缘提取算子例如可以是边缘敏感的canny边缘提取算子,在构建好算子后,将样本图像的canny边缘提取出来,然后构建图像和其边缘的pair-wised数据对,并构建一个基本的编解码网络,利用所述数据对对编解码网络进行训练,使之学习图像到边缘的映射,网络收敛后,即可将训练后的编解码网络作为所述图像边缘提取网络。需要说明的是,本申请实施例并没有直接采用canny边缘提取算子作为图像边缘提取网络,是因为如果单纯用边缘提取算子作为模型中的图像边缘提取网络,那么在模型训练过程中,会出现因算子不可导而造成模型无法继续优化的问题。此外,本申请实施例中的图像边缘提取网络相比canny边缘提取算子而言,体量更小,特征提取效率更高。
在S102中,所述内容损失用于约束所述内容特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化;所述风格损失用于约束所述内容特征提取网络针对所述风格参考图和所述输出图像分别提取的特征最小化;所述边缘损失用于约束所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化。
具体的,内容损失可以利用MSE的方法求解特征距离,通过约束MSE距离最小化来实现约束待风格化图像和输出图像的特征最小化;风格损失可以将风格参考图和输出图像二者的特征转换为Gamma矩阵,通过约束二者的Gamma矩阵的MSE距离最小,来实现约束风格参考图和输出图像的特征最小化;边缘损失可以利用L1损失函数,计算所述图像边缘特征提取网络针对待风格化图像和输出图像分别提取的特征之间的距离,通过约束所述距离最小化来来实现。
通过内容损失的约束,可以确保输出图像中保留待风格化图像的内容信息,通过风格损失的约束,可以确保输出图像与风格参考图风格的一致性,使之具备风格参考图的艺术风格特点;通过边缘损失可以确保输出图像中在保留待风格化图像中本身具有的边缘信息的基础上不会出现多余的边缘或纹理信息,从而使得输出图像更加自然。而模型的总的损失函数,示例性的,可以是所述内容损失、边缘损失和风格损失加权求和的结果。并且在模型反复优化和迭代的过程中,也可以对权重进行调整,以达到最优效果。
例如,某待风格化图像中具有纯净的蓝色天空,欲将其转化成梵高风格的图像。若按照现有技术,会通过内容特征提取以及内容损失和风格损失两方面的约束,得到一张具有梵高风格同时保留了待风格化图像内容的风格化图像。但是,因仅有内容损失和风格损失两方面的约束,容易造成在风格化图像中出现多余的纹理,例如纯净的蓝色天空上会出现很多细密的裂纹,造成图像不自然,影响风格化效果。而在本申请实施例中,由于在损失函数中增加了边缘损失,从而可以避免出现多余的纹理,因此不会出现天空中这些裂纹。
S103、利用训练后的图像风格化网络模型,对任意待风格化的目标图像进行处理,得到与所述目标图像对应的风格化图像。
本申请实施例的技术方案,通过在模型中增加图像边缘提取网络,并在通过内容损失和风格损失分别进行内容约束和风格约束的基础上,增加边缘损失,实现边缘约束,约束输入图像和输出图像之间的边缘特征最小化,从而避免输出图像中出现多余的纹理,使得图像风格化的效果更佳自然,提高图像风格化质量。
图2是根据本申请第二实施例的图像风格化装置的结构示意图,本实施例可适用于对图像进行风格化的情况。该装置可实现本申请任意实施例所述的图像风格化方法。如图2所示,该装置200具体包括:
样本获取模块201,用于获取训练样本图像,其中,所述训练样本图像包括待风格化图像集合,以及风格参考图;
模型训练模块202,用于利用所述训练样本图像,对构建的图像风格化网络模型进行训练,其中,所述图像风格化网络模型包括内容特征提取网络和图像边缘提取网络,所述图像风格化网络模型的损失函数包括内容损失、边缘损失和风格损失;
图像风格化模块203,用于利用训练后的图像风格化网络模型,对任意待风格化的目标图像进行处理,得到与所述目标图像对应的风格化图像。
可选的,所述内容特征提取网络,用于对高阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述内容特征提取网络,还用于对高阶特征空间下,输入所述图像风格化网络模型的风格参考图和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述图像边缘提取网络,用于对低阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,纹理的特征进行提取。
可选的,所述图像边缘提取网络的训练过程包括:
利用预先构建的边缘提取算子提取样本图像的边缘信息;
将所述样本图像的信息和所述边缘信息组成数据对;
依据所述数据对,对预先构建的编解码网络进行训练,将训练后的编解码网络作为所述图像边缘提取网络。
可选的,所述内容损失,用于约束所述内容特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化;
所述风格损失,用于约束所述内容特征提取网络针对所述风格参考图和所述输出图像分别提取的特征最小化;
所述边缘损失,用于约束所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化。
可选的,所述边缘损失具体用于:利用L1损失函数,计算所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征之间的距离,并约束所述距离最小化。
可选的,所述损失函数为所述内容损失、边缘损失和风格损失加权求和的结果。
本申请实施例提供的图像风格化装置200可执行本申请任意实施例提供的图像风格化方法,具备执行方法相应的功能模块和有益效果。本实施例中未详尽描述的内容可以参考本申请任意方法实施例中的描述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图3所示,是根据本申请实施例的图像风格化方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图3所示,该电子设备包括:一个或多个处理器301、存储器302,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图3中以一个处理器301为例。
存储器302即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的图像风格化方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的图像风格化方法。
存储器302作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的图像风格化方法对应的程序指令/模块(例如,附图2所示的样本获取模块201、模型训练模块202和图像风格化模块203)。处理器301通过运行存储在存储器302中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的图像风格化方法。
存储器302可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据实现本申请实施例的图像风格化方法的电子设备的使用所创建的数据等。此外,存储器302可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器302可选包括相对于处理器301远程设置的存储器,这些远程存储器可以通过网络连接至实现本申请实施例的图像风格化方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
实现本申请实施例的图像风格化方法的电子设备还可以包括:输入装置303和输出装置304。处理器301、存储器302、输入装置303和输出装置304可以通过总线或者其他方式连接,图3中以通过总线连接为例。
输入装置303可接收输入的数字或字符信息,以及产生与实现本申请实施例的图像风格化方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置304可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过在模型中增加图像边缘提取网络,并在损失函数中增加边缘损失,从而实现图像的边缘约束,避免了输出图像中因产生多余的纹理而造成图像不自然、影响艺术视觉效果的问题,提高图像风格化质量。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (14)
1.一种图像风格化方法,其特征在于,包括:
获取训练样本图像,其中,所述训练样本图像包括待风格化图像集合,以及风格参考图;
利用所述训练样本图像,对构建的图像风格化网络模型进行训练,其中,所述图像风格化网络模型包括内容特征提取网络和图像边缘提取网络,所述图像风格化网络模型的损失函数包括内容损失、边缘损失和风格损失;
利用训练后的图像风格化网络模型,对任意待风格化的目标图像进行处理,得到与所述目标图像对应的风格化图像。
2.根据权利要求1所述的方法,其特征在于,
所述内容特征提取网络,用于对高阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述内容特征提取网络,还用于对高阶特征空间下,输入所述图像风格化网络模型的风格参考图和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述图像边缘提取网络,用于对低阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,纹理的特征进行提取。
3.根据权利要求1所述的方法,其特征在于,所述图像边缘提取网络的训练过程包括:
利用预先构建的边缘提取算子提取样本图像的边缘信息;
将所述样本图像的信息和所述边缘信息组成数据对;
依据所述数据对,对预先构建的编解码网络进行训练,将训练后的编解码网络作为所述图像边缘提取网络。
4.根据权利要求2所述的方法,其特征在于,
所述内容损失,用于约束所述内容特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化;
所述风格损失,用于约束所述内容特征提取网络针对所述风格参考图和所述输出图像分别提取的特征最小化;
所述边缘损失,用于约束所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化。
5.根据权利要求4所述的方法,其特征在于,所述约束所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化,包括:
利用L1损失函数,计算所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征之间的距离,并约束所述距离最小化。
6.根据权利要求1所述的方法,其特征在于,所述损失函数为所述内容损失、边缘损失和风格损失加权求和的结果。
7.一种图像风格化装置,其特征在于,包括:
样本获取模块,用于获取训练样本图像,其中,所述训练样本图像包括待风格化图像集合,以及风格参考图;
模型训练模块,用于利用所述训练样本图像,对构建的图像风格化网络模型进行训练,其中,所述图像风格化网络模型包括内容特征提取网络和图像边缘提取网络,所述图像风格化网络模型的损失函数包括内容损失、边缘损失和风格损失;
图像风格化模块,用于利用训练后的图像风格化网络模型,对任意待风格化的目标图像进行处理,得到与所述目标图像对应的风格化图像。
8.根据权利要求7所述的装置,其特征在于,所述内容特征提取网络,用于对高阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述内容特征提取网络,还用于对高阶特征空间下,输入所述图像风格化网络模型的风格参考图和所述图像风格化网络模型的输出图像中,物体轮廓和结构的特征进行提取;
所述图像边缘提取网络,用于对低阶特征空间下,输入所述图像风格化网络模型的待风格化图像和所述图像风格化网络模型的输出图像中,纹理的特征进行提取。
9.根据权利要求7所述的装置,其特征在于,所述图像边缘提取网络的训练过程包括:
利用预先构建的边缘提取算子提取样本图像的边缘信息;
将所述样本图像的信息和所述边缘信息组成数据对;
依据所述数据对,对预先构建的编解码网络进行训练,将训练后的编解码网络作为所述图像边缘提取网络。
10.根据权利要求8所述的装置,其特征在于,
所述内容损失,用于约束所述内容特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化;
所述风格损失,用于约束所述内容特征提取网络针对所述风格参考图和所述输出图像分别提取的特征最小化;
所述边缘损失,用于约束所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征最小化。
11.根据权利要求10所述的装置,其特征在于,所述边缘损失具体用于:利用L1损失函数,计算所述图像边缘特征提取网络针对所述待风格化图像和所述输出图像分别提取的特征之间的距离,并约束所述距离最小化。
12.根据权利要求7所述的装置,其特征在于,所述损失函数为所述内容损失、边缘损失和风格损失加权求和的结果。
13.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的图像风格化方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的图像风格化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010089984.0A CN111340905B (zh) | 2020-02-13 | 2020-02-13 | 图像风格化方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010089984.0A CN111340905B (zh) | 2020-02-13 | 2020-02-13 | 图像风格化方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111340905A true CN111340905A (zh) | 2020-06-26 |
CN111340905B CN111340905B (zh) | 2023-08-04 |
Family
ID=71187814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010089984.0A Active CN111340905B (zh) | 2020-02-13 | 2020-02-13 | 图像风格化方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111340905B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112150489A (zh) * | 2020-09-25 | 2020-12-29 | 北京百度网讯科技有限公司 | 图像的风格转换方法、装置、电子设备及存储介质 |
CN112785493A (zh) * | 2021-01-22 | 2021-05-11 | 北京百度网讯科技有限公司 | 模型的训练方法、风格迁移方法、装置、设备及存储介质 |
CN113409342A (zh) * | 2021-05-12 | 2021-09-17 | 北京达佳互联信息技术有限公司 | 图像风格迁移模型的训练方法、装置及电子设备 |
CN113763233A (zh) * | 2021-08-04 | 2021-12-07 | 深圳盈天下视觉科技有限公司 | 一种图像处理方法、服务器及拍照设备 |
CN113837933A (zh) * | 2021-11-26 | 2021-12-24 | 北京市商汤科技开发有限公司 | 网络训练及图像生成方法、装置、电子设备和存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107767408A (zh) * | 2017-11-09 | 2018-03-06 | 京东方科技集团股份有限公司 | 图像处理方法、处理装置和处理设备 |
WO2018161775A1 (zh) * | 2017-03-08 | 2018-09-13 | 腾讯科技(深圳)有限公司 | 一种用于图像处理的神经网络模型的训练方法、装置和存储介质 |
CN108961349A (zh) * | 2018-06-29 | 2018-12-07 | 广东工业大学 | 一种风格化图像的生成方法、装置、设备及存储介质 |
CN109308679A (zh) * | 2018-08-13 | 2019-02-05 | 深圳市商汤科技有限公司 | 一种图像风格转换方及装置、设备、存储介质 |
CN109949214A (zh) * | 2019-03-26 | 2019-06-28 | 湖北工业大学 | 一种图像风格迁移方法及系统 |
CN110222722A (zh) * | 2019-05-14 | 2019-09-10 | 华南理工大学 | 交互式图像风格化处理方法、系统、计算设备及存储介质 |
CN110363810A (zh) * | 2019-06-14 | 2019-10-22 | 北京百度网讯科技有限公司 | 建立图像检测模型的方法、装置、设备和计算机存储介质 |
GB201918840D0 (en) * | 2019-03-26 | 2020-02-05 | Forte Marco | Interactive image matting using neural networks |
-
2020
- 2020-02-13 CN CN202010089984.0A patent/CN111340905B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018161775A1 (zh) * | 2017-03-08 | 2018-09-13 | 腾讯科技(深圳)有限公司 | 一种用于图像处理的神经网络模型的训练方法、装置和存储介质 |
CN107767408A (zh) * | 2017-11-09 | 2018-03-06 | 京东方科技集团股份有限公司 | 图像处理方法、处理装置和处理设备 |
WO2019091181A1 (zh) * | 2017-11-09 | 2019-05-16 | 京东方科技集团股份有限公司 | 图像处理方法、处理装置和处理设备 |
WO2019091181A8 (zh) * | 2017-11-09 | 2019-08-01 | 京东方科技集团股份有限公司 | 图像处理方法、处理装置和处理设备 |
CN108961349A (zh) * | 2018-06-29 | 2018-12-07 | 广东工业大学 | 一种风格化图像的生成方法、装置、设备及存储介质 |
CN109308679A (zh) * | 2018-08-13 | 2019-02-05 | 深圳市商汤科技有限公司 | 一种图像风格转换方及装置、设备、存储介质 |
CN109949214A (zh) * | 2019-03-26 | 2019-06-28 | 湖北工业大学 | 一种图像风格迁移方法及系统 |
GB201918840D0 (en) * | 2019-03-26 | 2020-02-05 | Forte Marco | Interactive image matting using neural networks |
CN110222722A (zh) * | 2019-05-14 | 2019-09-10 | 华南理工大学 | 交互式图像风格化处理方法、系统、计算设备及存储介质 |
CN110363810A (zh) * | 2019-06-14 | 2019-10-22 | 北京百度网讯科技有限公司 | 建立图像检测模型的方法、装置、设备和计算机存储介质 |
Non-Patent Citations (4)
Title |
---|
NICHOLAS KOLKIN 等: "Style Transfer by Relaxed Optimal Transport and Self-Similarity", 《 PROCEEDINGS OF THE IEEE/CVF CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR)》 * |
NICHOLAS KOLKIN 等: "Style Transfer by Relaxed Optimal Transport and Self-Similarity", 《 PROCEEDINGS OF THE IEEE/CVF CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR)》, 31 December 2019 (2019-12-31) * |
黄海新 等: "基于深度学习的图像风格化算法研究综述", 《电子技术应用》 * |
黄海新 等: "基于深度学习的图像风格化算法研究综述", 《电子技术应用》, 31 December 2019 (2019-12-31) * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112150489A (zh) * | 2020-09-25 | 2020-12-29 | 北京百度网讯科技有限公司 | 图像的风格转换方法、装置、电子设备及存储介质 |
CN112785493A (zh) * | 2021-01-22 | 2021-05-11 | 北京百度网讯科技有限公司 | 模型的训练方法、风格迁移方法、装置、设备及存储介质 |
CN112785493B (zh) * | 2021-01-22 | 2024-02-09 | 北京百度网讯科技有限公司 | 模型的训练方法、风格迁移方法、装置、设备及存储介质 |
CN113409342A (zh) * | 2021-05-12 | 2021-09-17 | 北京达佳互联信息技术有限公司 | 图像风格迁移模型的训练方法、装置及电子设备 |
CN113763233A (zh) * | 2021-08-04 | 2021-12-07 | 深圳盈天下视觉科技有限公司 | 一种图像处理方法、服务器及拍照设备 |
CN113837933A (zh) * | 2021-11-26 | 2021-12-24 | 北京市商汤科技开发有限公司 | 网络训练及图像生成方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111340905B (zh) | 2023-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111340905B (zh) | 图像风格化方法、装置、设备和介质 | |
CN111182254B (zh) | 一种视频处理方法、装置、设备及存储介质 | |
CN111709878B (zh) | 人脸超分辨率实现方法、装置、电子设备及存储介质 | |
CN111860167B (zh) | 人脸融合模型获取及人脸融合方法、装置及存储介质 | |
CN111598818A (zh) | 人脸融合模型训练方法、装置及电子设备 | |
CN111738910A (zh) | 一种图像处理方法、装置、电子设备和存储介质 | |
CN111368137A (zh) | 视频的生成方法、装置、电子设备及可读存储介质 | |
CN111832701B (zh) | 模型的蒸馏方法、装置、电子设备及存储介质 | |
CN111967297B (zh) | 图像的语义分割方法、装置、电子设备及介质 | |
US11641446B2 (en) | Method for video frame interpolation, and electronic device | |
CN111598131B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN112330805B (zh) | 人脸3d模型生成方法、装置、设备及可读存储介质 | |
CN111709875B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN111739005A (zh) | 图像检测方法、装置、电子设备及存储介质 | |
CN111539897A (zh) | 用于生成图像转换模型的方法和装置 | |
CN111815595A (zh) | 图像语义分割方法、装置、设备和可读存储介质 | |
CN111768466B (zh) | 图像填充方法、装置、设备及存储介质 | |
CN111932464A (zh) | 超分辨率模型使用和训练方法、装置、设备及介质 | |
CN111291218B (zh) | 视频融合方法、装置、电子设备及可读存储介质 | |
CN114386503A (zh) | 用于训练模型的方法和装置 | |
CN111768467A (zh) | 图像填充方法、装置、设备及存储介质 | |
CN111523467A (zh) | 人脸跟踪方法和装置 | |
CN112580563B (zh) | 视频摘要的生成方法、装置、电子设备和存储介质 | |
CN113870399A (zh) | 表情驱动方法、装置、电子设备及存储介质 | |
CN112529058A (zh) | 图像生成模型训练方法和装置、图像生成方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |