CN105989584B - 图像风格化重建的方法和装置 - Google Patents

图像风格化重建的方法和装置 Download PDF

Info

Publication number
CN105989584B
CN105989584B CN201510045335.XA CN201510045335A CN105989584B CN 105989584 B CN105989584 B CN 105989584B CN 201510045335 A CN201510045335 A CN 201510045335A CN 105989584 B CN105989584 B CN 105989584B
Authority
CN
China
Prior art keywords
source
style image
target
style
processed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201510045335.XA
Other languages
English (en)
Other versions
CN105989584A (zh
Inventor
杨撒博雅
刘家瑛
杨帅
郭宗明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Original Assignee
Peking University
Peking University Founder Group Co Ltd
Beijing Founder Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University, Peking University Founder Group Co Ltd, Beijing Founder Electronics Co Ltd filed Critical Peking University
Priority to CN201510045335.XA priority Critical patent/CN105989584B/zh
Publication of CN105989584A publication Critical patent/CN105989584A/zh
Application granted granted Critical
Publication of CN105989584B publication Critical patent/CN105989584B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

本发明提供了一种图像风格化重建的方法和装置。该方法包括:获取多对相同场景的源风格图像和目标风格图像;根据多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X;对源训练集Y和目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及源训练集Y对应的稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与待处理的源风格图像y′对应的目标风格图像x′。实现了任意风格的源风格图像到任意风格的目标风格图像的重建,重建的准确性高。

Description

图像风格化重建的方法和装置
技术领域
本发明实施例涉及图像处理领域,尤其涉及一种图像风格化重建的方法和装置。
背景技术
在现实生活的应用中,为了不同的目的,存在许多不同的成像模式和相应的风格图像,如为了光照不变的人脸识别使用的近红外图像;在执法过程或者娱乐设备中使用的素描图像;在地震等特殊情况下为了检测生命使用的热红外图像等。
但为了满足某些图像应用需求,需要将相同场景的不同风格图像转换为相同风格图像。如在人脸识别中,不同风格的人脸图像间的匹配效果很差,将不同风格的人脸图像转换为相同风格的人脸图像后,能够提升人脸识别的准确率。因此图像风格化重建技术应运而生。
现有的图像风格化重建技术主要为基于笔触的图像风格化重建方法,该图像风格化重建方法只能将某种特定风格的图像重建为另一种特定风格的图像,图像重建的通用性较差,并且重建出的风格图像轮廓模糊,图像风格化重建的准确性较差。
发明内容
本发明实施例提供一种图像风格化重建的方法和装置。实现了任意风格的源风格图像到任意风格的目标风格图像的重建,重建的准确性高。
本发明实施例提供一种图像风格化重建的方法,包括:
获取多对相同场景的源风格图像和目标风格图像;
根据所述多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X;
对所述源训练集Y和所述目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及所述源训练集Y对应的稀疏系数αy和所述目标训练集X对应的稀疏系数αx之间的映射关系
根据所述源风格字典Dy,所述目标风格字典Dx以及所述映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与所述待处理的源风格图像y′对应的目标风格图像x′。
本发明实施例提供一种图像风格化重建的装置,包括:
获取模块,用于获取多对相同场景的源风格图像和目标风格图像;
所述获取模块,还用于根据所述多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X;
确定模块,用于对所述源训练集Y和所述目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及所述源训练集Y对应的稀疏系数αy和所述目标训练集X对应的稀疏系数αx之间的映射关系
重建模块,用于根据所述源风格字典Dy,所述目标风格字典Dx以及所述映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与所述待处理的源风格图像y′对应的目标风格图像x′。
本发明实施例提供一种图像风格化重建的方法和装置。通过获取多对相同场景的源风格图像和目标风格图像;根据多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X;对源训练集Y和目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及源训练集Y对应的稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与待处理的源风格图像y′对应的目标风格图像x′。实现了任意风格的源风格图像到任意风格的目标风格图像的重建,重建的准确性高。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明图像风格化重建的方法实施例一的流程图;
图2为本发明图像风格化重建的方法实施例二的第一流程图;
图3为本发明图像风格化重建的方法实施例二的第二流程图;
图4为本发明图像风格化重建的装置实施例一的结构示意图;
图5为本发明图像风格化重建的装置实施例二的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明图像风格化重建的方法实施例一的流程图,如图1所示,本实施例的执行主体为具有存储和处理功能的终端设备或服务器,如计算机,笔记本电脑等,具体可通过软件、硬件或软硬件相结合的方式实现,该方法包括:
步骤101,获取多对相同场景的源风格图像和目标风格图像。
本实施例中,对源风格图像和目标风格图像的类型不做限定,如源风格图像为近红外图像,目标风格图像为出于同一画家的素描图像,又如源风格图像为热红外图像,目标风格图像为近红外图像等。
本实施例中,相同场景的源风格图像和目标风格图像是指源风格图像和目标风格图像所展示的场景相同,如源风格图像和目标风格图像所展示的都为人脸图像,又如源风格图像和目标风格图像展示的都为指纹图像等。
本实施例中,一对相同场景的源风格图像和目标风格图像是指该对源风格图像和目标风格图像展示的为相同事物的图像,如在人脸图像中,一对相同场景的源风格图像和目标风格图像展示的都为张三的人脸。
本实施例中,以源风格图像为照片图像,目标风格图像为出于同一画家的素描图像,场景为人脸图像为例,则本实施例中的获取多对相同场景的源风格图像和目标风格图像是指获取多个人中每个人相对应的人脸照片图像和素描图像,其中对每个人相对应的照片图像和素描图像的对数不做限定。
本实施例中,多对相同场景的源风格图像和目标风格图像的大小相等。
步骤102,根据多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X。
本实施例中,由多对相同场景的源风格图像和目标风格图像中的多幅源风格图像经处理组成源训练集Y,由多对相同场景的源风格图像和目标风格图像中的多幅目标风格图像经处理组成目标训练集X。
步骤103,对源训练集Y和目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及源训练集Y对应的稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系
本实施例中,对源训练集Y和目标训练集X分别采用相同的方法进行训练,确定源风格字典Dy,目标风格字典Dx
其中,源风格字典Dy和目标风格字典Dx都为过完备字典。
本实施例中,由于源训练集Y和目标训练集X分别采用的是成对的源风格图像和目 标风格图像经处理获取的,并且源风格字典Dy和目标风格字典Dx分别是对源训练集Y和目标 训练集X采用相同的训练方法获得的,所以源训练集Y对应的稀疏系数αy和目标训练集X对 应的稀疏系数αx之间存在映射关系,该映射关系
具体地,映射关系M可采用最小二乘法进行计算确定。
步骤104,根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与待处理的源风格图像y′对应的目标风格图像x′。
本实施例中,待处理的源风格图像y′与源训练集Y中的源风格图像为相同场景的图像。
具体地,本实施例中,在获取到待处理的源风格图像y′后,根据源风格字典Dy计算源风格字典Dy下待处理的源风格图像y′对应的稀疏系数αy′,根据待处理的源风格图像y′对应的稀疏系数αy′以及映射关系M,计算目标风格字典Dx下的目标风格图像x′对应的稀疏系数αx′,根据目标风格字典Dx和目标风格图像x′对应的稀疏系数αx′获取与待处理的源风格图像y′对应的目标风格图像x′。
本实施例中,通过获取多对相同场景的源风格图像和目标风格图像;根据多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X;对源训练集Y和目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及源训练集Y对应的稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与待处理的源风格图像y′对应的目标风格图像x′。实现了任意风格的源风格图像到任意风格的目标风格图像的重建,重建的准确性高。
图2为本发明图像风格化重建的方法实施例二的流程图,如图2所示,本实施例的执行主体为具有存储和处理功能的终端设备或服务器,如计算机,笔记本电脑等,具体可通过软件、硬件或软硬件相结合的方式实现,该方法包括:
步骤201,获取多对相同场景的源风格图像和目标风格图像。
本实施例中,步骤201和本发明图像风格化重建的方法实施例一中的步骤101相同,在此不再一一赘述。
步骤202,将多对相同场景的源风格图像和目标风格图像中的每幅源风格图像重叠地划分为多个源风格图像块,并将多对相同场景的源风格图像和目标风格图像中的每幅目标风格图像重叠地划分为多个目标风格图像块。
本实施例中,将多对相同场景的源风格图像和目标风格图像中的每幅源风格图像重叠地划分为多个源风格图像块,每个源风格图像块的大小相等。将多对相同场景的源风格图像和目标风格图像中的每幅目标风格图像重叠地划分为多个目标风格图像块,每个目标风格图像块的大小相等。并且源风格图像块与目标风格图像块的大小相等。
本实施例中,对源风格图像块与目标风格图像块的大小不做限定,如源风格图像块与目标风格图像块的大小都为8×8的表示图像块的矩阵或16×16的表示图像块的矩阵等。
本实施例中,对源风格图像块之间重叠的行数或列数的数量不做限定,对目标风格图像块之间重叠的行数或列数的数量不做限定,但源风格图像块之间、目标风格图像块之间重叠的行数或列数的数量相等。
步骤203,将各个源风格图像块组合,获取源训练集Y,将各个目标风格图像块组合,获取目标训练集X。
本实施例中,将多对相同场景的源风格图像和目标风格图像中的每幅源风格图像重叠地划分为多个源风格图像块,每幅目标风格图像重叠地划分为多个目标风格图像块后,对每个源风格图像块和目标风格图像块进行拉伸处理,形成列向量,具体地形成列向量的方法为现有技术,本实施例中不再赘述。
将拉伸处理后的每个源风格图像块yi组合,形成源训练集Y={y1,y2,...,yi,...,yn}。
其中,i表示源训练集Y中的第i个源风格图像块,n表示源训练集Y中源风格图像块的个数。
将拉伸处理后的每个目标风格图像块xi组合,形成目标训练集X={x1,x2....,xi,...,xn}。
其中,i表示目标训练集X中的第i个目标风格图像块,n表示目标训练集X中目标风格图像块的个数。
本实施例中,源训练集Y中源风格图像块的个数和目标训练集X中目标风格图像块的个数相等。
步骤204,对源训练集Y和目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及源训练集Y对应的稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系
本实施例中,采用相同的训练方法分别对源训练集Y和目标训练集X进行训练,确定源风格字典Dy,目标风格字典Dx
具体地,源风格字典
其中,k表示源风格字典Dy的第k个字典基,h表示源风格字典中字典基的个数。
其中,源风格字典Dy中h个字典基是由源训练集Y中随机抽取的拉伸后的源风格图像块组成的。随机抽取的每个拉伸后的源风格图像块yi对应源风格字典Dy中的一个字典基
目标风格字典
其中,k表示目标风格字典Dx的第k个字典基,h表示目标风格字典中字典基的个数。
其中,目标风格字典Dx中h个字典基是由目标训练集X中随机抽取的拉伸后的目标风格图像块组成的。随机抽取的每个拉伸后的目标风格图像块xi对应目标风格字典Dx中的一个字典基
其中,目标风格字典Dx对应的随机抽取的拉伸后的目标风格图像块与源风格字典Dy对应的随机抽取的拉伸后的源风格图像块是一一对应的。
本实施例中,本实施例中,源风格字典Dy和目标风格字典Dx都为过完备字典。对源风格字典Dy,目标风格字典Dx中的字典基的个数h不做限定。
举例说明为:源风格图像为人脸的照片图像,目标风格图像为人脸的素描图像,人脸的照片图像为10个人的人脸图像,每个人的人脸照片图像的个数为5幅,每幅人脸照片图像划分为50个人脸照片图像块,则该人脸的照片图像的图像块集合有2500个图像块,从中随机抽取指定个数的图像块,每个图像块经拉伸后作为源风格字典的一个字典基,同理,10个人的人脸素描图像,每个人的人脸素描图像的个数为5幅,每幅人脸素描图像划分为50个人脸素描图像块,则该人脸的素描图像的图像块集合有2500个图像块,取出与上述随机取出的指定个数的图像块对应的人脸素描图像块,每个人脸素描图像块经拉伸后作为目标字典的一个字典基。
所以,对于源训练集Y中的每个拉伸处理后的源风格图像块yi都可以表示为式(1)所示:
其中,表示源风格图像块yi对应的稀疏系数,表示源风格图像块yi对应的重建误差。
对于目标训练集X中的每个目标风格图像块xi都可以表示为式(2)所示:
其中,表示目标风格图像块xi对应的稀疏系数,表示目标风格图像块xi对应的重建误差。
由于对于相对应的源风格图像块yi和目标风格图像块xi,源风格图像块yi对应的稀疏系数和目标风格图像块xi对应的稀疏系数具有相同的稀疏性,与各自字典中相对应的字典基相关,所以,源风格图像块yi对应的稀疏系数和目标风格图像块xi对应的稀疏系数之间的关系可表示为式(3)所示:
对于源训练集Y对应的稀疏系数和目标训练集X对应的稀疏系数稀疏系数αy和目标训练集X对应的稀疏系数αx之间的关系可表示为式(4)所示:
y=αx (4)
则稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系M可表示为式(5)所示:
其中,M可通过最小二乘法进行计算获得。
本实施例中,将源训练集Y对应的稀疏系数αy与目标训练集X对应的稀疏系数αx分别表示为式(6)和式(7)所示:
αy=z·sy (6)
αx=z·sx (7)
其中,sy表示源训练集Y对应的稀疏系数数值,sx表示目标训练集X对应的稀疏系数数值,z表示源风格字典以及目标风格字典中的字典基标记数。
本实施例中,由于对于相对应的源风格图像块yi和目标风格图像块xi,源风格图像块yi对应的稀疏系数和目标风格图像块xi对应的稀疏系数具有相同的稀疏性,与各自字典中相对应的字典基相关,所以源风格字典以及目标风格字典中的字典基标记数相同。
步骤205,获取待处理的源风格图像y′,并将待处理的源风格图像y′重叠地划分为多个待处理的源风格图像块y′=(y1′,y′2,...,yi′,...yl′)。
对每个待处理的源风格图像块yi′进行拉伸处理,形成列向量,具体地形成列向量的方法为现有技术,本实施例中不再赘述。
其中,i表示源训练集Y中的第i个源风格图像块,l为待处理的源风格图像y′被重叠地划分的待处理的源风格图像块的个数。
本实施例中,待处理的源风格图像y′被重叠地划分的待处理的源风格图像块之间重叠的行数或列数的个数与源训练集Y中源风格图像块之间重叠的行数或列数的个数相等。并且,待处理的源风格图像块大小与源训练集Y中的源风格图像块的大小相同。
步骤206,对于每个待处理的源风格图像块yi′,采用稀疏表示的方法计算每个待处理的源风格图像块yi′对应的稀疏系数
具体地,本实施例中,对于每个待处理的源风格图像块yi′,采用式(8)计算每个待处理的源风格图像块yi′对应的稀疏系数
其中,运算符表示L2范数,运算符“|| ||1”表示L1范数,λ为调节稀疏表示解的精确度和稀疏度的权重,式(8)可采用正则化最小二乘的方法进行求解,也可采用其它算法进行求解,本实施例不做限定。
优选地,根据先验知识,可知本实施例中的源风格图像块yi′对应的稀疏系数数值源风格字典Dy、以及源风格图像块yi′对应的重建误差服从正态分布,源风格图像块yi′对应的稀疏系数数值以及源风格图像块yi′对应的重建误差的超参数服从Gamma分布,所以,字典基标记数zi′服从Beta-Bernoulli分布,其中zi′服从Beta-Bernoulli分布可表示为使(9)所示:
其中,πk为Beta-Bernoulli分布的中间参数,a,b,K为Beta-Bernoulli分布的中间系数。
所以,本实施例中,在稀疏表示方法计算每个待处理的源风格图像块yi′的稀疏系数时,在每个待处理的源风格图像块yi′对应的稀疏系数数值服从正态分布,字典基标记数zi′服从Beta-Bernoulli分布的限制条件下,采用稀疏表示方法计算每个待处理的源风格图像块yi′的稀疏系数其中可表示为式(10)所示:
其中,运算符表示L2范数,运算符“|| ||1”表示L1范数,λ为调节稀疏表示解的精确度和稀疏度的权重,式(10)可采用正则化最小二乘的方法进行求解,也可采用其他算法进行求解,本实施例不做限定。
步骤207,根据每个待处理的源风格图像块yi′的稀疏系数映射关系M,以及字典基标记数zi′,计算每个待处理的源风格图像块yi′对应的目标风格图像块xi′对应的稀疏系数
本实施例中,每个待处理的源风格图像块yi′对应的目标风格图像块xi′对应的稀疏系数表示为式(11)所示:
其中,zi′为待处理的源风格图像块yi′的稀疏系数对应的字典基标记数。
步骤208,根据每个目标风格图像块xi′对应的稀疏系数和目标风格字典Dx,计算每个目标风格图像块xi′。
其中,每个目标风格图像块xi′表示为式(12)所示:
步骤209,根据每个目标风格图像块xi′,合成待处理的源风格图像y′对应的目标风格图像x′。
具体地,本实施例中,步骤209可分为以下三个步骤进行,如图3所示。
步骤209a,获取每个目标风格图像块xi′之间的重叠区域。
本实施例中,根据待处理的源风格图像y′重叠划分为多个源风格图像块时的待处理的源风格图像块yi′之间重叠的行数或列数,获取每个目标风格图像块xi′之间的重叠区域。
步骤209b,对重叠区域进行加和取平均值运算,确定重建的重叠区域。
步骤209c,根据每个目标风格图像块xi′和重建的重叠区域,合成目标风格图像x′。
本实施例中,将每个目标风格图像块xi′和重建的重叠区域组合,合成重建后的目标风格图像x′。
本实施例中,将多对相同场景的源风格图像和目标风格图像划分为多个源风格图像块和多个目标图像块,并确定过完备的源风格字典Dy和目标风格字典Dx,根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,并在采用稀疏表示的方法对待处理的源风格图像y′进行重建时,使字典基标记数zi′服从Beta-Bernoulli分布的限制条件,获取与待处理的源风格图像y′对应的目标风格图像x′,能够使源风格图像采用稀疏表示的方法计算出的稀疏系数更精确,以实现重建的与待处理的源风格图像y′对应的目标风格图像x′准确性更高。
需要说明的是,本实施例中所有公式中的AB的形式表示A矩阵或向量、B矩阵或向量之间的乘积。
图4为本发明图像风格化重建的装置实施例一的结构示意图,如图4所示,该图像风格化重建的装置包括:获取模块41、确定模块42和重建模块43。
其中,获取模块41,用于获取多对相同场景的源风格图像和目标风格图像。获取模块41,还用于根据多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X。确定模块42,用于对源训练集Y和目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及源训练集Y对应的稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系重建模块43,用于根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与待处理的源风格图像y′对应的目标风格图像x′。
本实施例的装置可以执行图1所示方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图5为本发明图像风格化重建的装置实施例二的结构示意图,如图5所示,该图像风格化重建的装置包括获取模块51、确定模块52、重建模块53、划分模块54、计算模块55。
其中,获取模块51,用于获取多对相同场景的源风格图像和目标风格图像。获取模块51,还用于根据多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X。确定模块52,用于对源训练集Y和目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及源训练集Y对应的稀疏系数αy和目标训练集X对应的稀疏系数αx之间的映射关系重建模块53,用于根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与待处理的源风格图像y′对应的目标风格图像x′。
进一步地,获取模块51包括第一划分单元511、第二划分单元512、第一组合单元513和第二组合单元514。
其中,第一划分单元511:用于将多对相同场景的源风格图像和目标风格图像中的每幅源风格图像重叠地划分为多个源风格图像块。
第二划分单元512:用于将多对相同场景的源风格图像和目标风格图像中的每幅目标风格图像重叠地划分为多个目标风格图像块。
第一组合单元513:用于将各个源风格图像块组合,获取源训练集Y。
第二组合单元514:用于将各个目标风格图像块组合,获取目标训练集X。
进一步地,划分模块54,用于重建模块根据源风格字典Dy,目标风格字典Dx以及映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与待处理的源风格图像y′对应的目标风格图像x′之前,将待处理的源风格图像y′重叠地划分为多个待处理的源风格图像块y′=(y1′,y2′,...,yi′,...yl′),待处理的源风格图像块大小与源训练集Y中的源风格图像块的大小相同。
计算模块55,用于对于每个待处理的源风格图像块yi′,采用稀疏表示的方法计算每个待处理的源风格图像块yi′对应的稀疏系数
优选地,计算模块55,具体用于:
在每个待处理的源风格图像块yi′对应的稀疏系数数值服从正态分布,字典基 标记数zi′服从Beta-Bernoulli分布的限制条件下,采用稀疏表示方法计算每个待处理的 源风格图像块yi′的稀疏系数
进一步地,重建模块包括:第一计算单元531、第二计算单元532和合成单元533。
其中,第一计算单元531:用于根据每个待处理的源风格图像块yi′的稀疏系数映射关系M,以及字典基标记数zi′,计算每个待处理的源风格图像块yi′对应的目标风格图像块xi′对应的稀疏系数
第二计算单元532,用于根据每个目标风格图像块xi′对应的稀疏系数和目标风格字典Dx,计算每个目标风格图像块
合成单元533,用于根据每个目标风格图像块x′i,合成待处理的源风格图像y′对应的目标风格图像x′。
进一步地,合成单元533具体用于:
获取每个目标风格图像块xi′之间的重叠区域;对重叠区域进行加和取平均值运算,确定重建的重叠区域;根据每个目标风格图像块xi′和重建的重叠区域,合成目标风格图像x′。
本实施例的装置可以执行图2和图3所示方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (6)

1.一种图像风格化重建的方法,其特征在于,包括:
获取多对相同场景的源风格图像和目标风格图像;
根据所述多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X;
对所述源训练集Y和所述目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及所述源训练集Y对应的稀疏系数αy和所述目标训练集X对应的稀疏系数αx之间的映射关系
根据所述源风格字典Dy,所述目标风格字典Dx以及所述映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与所述待处理的源风格图像y′对应的目标风格图像x′;
所述根据所述源风格字典Dy,所述目标风格字典Dx以及所述映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与所述待处理的源风格图像y′对应的目标风格图像x′之前,还包括:
将所述待处理的源风格图像y′重叠地划分为多个待处理的源风格图像块y′=(y′1,y′2,...,y′i,...y′l),所述待处理的源风格图像块大小与所述源训练集Y中的源风格图像块的大小相同;
对于每个待处理的源风格图像块y′i,采用稀疏表示的方法计算每个待处理的源风格图像块y′i对应的稀疏系数
所述对于每个待处理的源风格图像块y′i,采用稀疏表示的方法计算每个待处理的源风格图像块y′i对应的稀疏系数具体包括:
在每个待处理的源风格图像块y′i对应的稀疏系数数值服从正态分布,字典基标记数z′i服从Beta-Bernoulli分布的限制条件下,采用稀疏表示方法计算每个待处理的源风格图像块y′i的稀疏系数
所述根据所述源风格字典Dy,所述目标风格字典Dx以及所述映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与所述待处理的源风格图像y′对应的目标风格图像,具体包括:
根据所述每个待处理的源风格图像块y′i的稀疏系数所述映射关系M,以及所述字典基标记数z′i,计算每个待处理的源风格图像块y′i对应的目标风格图像块x′i对应的稀疏系数
根据每个目标风格图像块x′i对应的稀疏系数和所述目标风格字典Dx,计算每个目标风格图像块
根据所述每个目标风格图像块x′i,合成待处理的源风格图像y′对应的目标风格图像x′。
2.根据权利要求1所述的方法,其特征在于,所述根据所述多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X,具体包括:
将所述多对相同场景的源风格图像和目标风格图像中的每幅源风格图像重叠地划分为多个源风格图像块;
将所述多对相同场景的源风格图像和目标风格图像中的每幅目标风格图像重叠地划分为多个目标风格图像块;
将所述各个源风格图像块组合,获取源训练集Y;
将所述各个目标风格图像块组合,获取目标训练集X。
3.根据权利要求1所述的方法,所述根据所述每个目标风格图像块x′i,合成待处理的源风格图像y′对应的目标风格图像x′,具体包括:
获取所述每个目标风格图像块x′i之间的重叠区域;
对所述重叠区域进行加和取平均值运算,确定重建的重叠区域;
根据所述每个目标风格图像块x′i和重建的重叠区域,合成目标风格图像x′。
4.一种图像风格化重建的装置,其特征在于,包括:
获取模块,用于获取多对相同场景的源风格图像和目标风格图像;
所述获取模块,还用于根据所述多对相同场景的源风格图像和目标风格图像,获取源训练集Y和目标训练集X;
确定模块,用于对所述源训练集Y和所述目标训练集X分别进行训练,确定源风格字典Dy,目标风格字典Dx以及所述源训练集Y对应的稀疏系数αy和所述目标训练集X对应的稀疏系数αx之间的映射关系
重建模块,用于根据所述源风格字典Dy,所述目标风格字典Dx以及所述映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与所述待处理的源风格图像y′对应的目标风格图像x′;
所述装置还包括:划分模块和计算模块,
所述划分模块,用于所述重建模块根据所述源风格字典Dy,所述目标风格字典Dx以及所述映射关系M,采用稀疏表示的方法对待处理的源风格图像y′进行重建,获取与所述待处理的源风格图像y′对应的目标风格图像x′之前,将所述待处理的源风格图像y′重叠地划分为多个待处理的源风格图像块y′=(y′1,y′2,...,y′i,...y′l),所述待处理的源风格图像块大小与所述源训练集Y中的源风格图像块的大小相同;
所述计算模块,用于对于每个待处理的源风格图像块y′i,采用稀疏表示的方法计算每个待处理的源风格图像块y′i对应的稀疏系数
所述计算模块,具体用于:
在每个待处理的源风格图像块y′i对应的稀疏系数数值服从正态分布,字典基标记数z′i服从Beta-Bernoulli分布的限制条件下,采用稀疏表示方法计算每个待处理的源风格图像块y′i的稀疏系数
所述重建模块包括:
第一计算单元:用于根据所述每个待处理的源风格图像块y′i的稀疏系数所述映射关系M,以及所述字典基标记数z′i,计算每个待处理的源风格图像块y′i对应的目标风格图像块x′i对应的稀疏系数
第二计算单元,用于根据每个目标风格图像块x′i对应的稀疏系数和所述目标风格字典Dx,计算每个目标风格图像块
合成单元:用于根据所述每个目标风格图像块x′i,合成待处理的源风格图像y′对应的目标风格图像x′。
5.根据权利要求4所述的装置,其特征在于,所述获取模块包括:
第一划分单元:用于将所述多对相同场景的源风格图像和目标风格图像中的每幅源风格图像重叠地划分为多个源风格图像块;
第二划分单元:用于将所述多对相同场景的源风格图像和目标风格图像中的每幅目标风格图像重叠地划分为多个目标风格图像块;
第一组合单元:用于将所述各个源风格图像块组合,获取源训练集Y;
第二组合单元:用于将所述各个目标风格图像块组合,获取目标训练集X。
6.根据权利要求4所述的装置,所述合成单元具体用于:
获取所述每个目标风格图像块x′i之间的重叠区域;对所述重叠区域进行加和取平均值运算,确定重建的重叠区域;根据所述每个目标风格图像块xi′和重建的重叠区域,合成目标风格图像x′。
CN201510045335.XA 2015-01-29 2015-01-29 图像风格化重建的方法和装置 Expired - Fee Related CN105989584B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510045335.XA CN105989584B (zh) 2015-01-29 2015-01-29 图像风格化重建的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510045335.XA CN105989584B (zh) 2015-01-29 2015-01-29 图像风格化重建的方法和装置

Publications (2)

Publication Number Publication Date
CN105989584A CN105989584A (zh) 2016-10-05
CN105989584B true CN105989584B (zh) 2019-05-14

Family

ID=57034346

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510045335.XA Expired - Fee Related CN105989584B (zh) 2015-01-29 2015-01-29 图像风格化重建的方法和装置

Country Status (1)

Country Link
CN (1) CN105989584B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106780367B (zh) * 2016-11-28 2019-11-15 上海大学 基于字典学习的hdr照片风格转移方法
CN106952224B (zh) * 2017-03-30 2019-08-13 电子科技大学 一种基于卷积神经网络的图像风格转移方法
CN107180410A (zh) * 2017-04-11 2017-09-19 中国农业大学 一种图像的风格化重建方法及装置
CN108734749A (zh) * 2017-04-20 2018-11-02 微软技术许可有限责任公司 图像的视觉风格变换
CN107171932B (zh) * 2017-04-27 2021-06-08 腾讯科技(深圳)有限公司 一种图片风格转换方法、装置及系统
CN107392842B (zh) * 2017-06-30 2021-05-21 北京奇虎科技有限公司 图像风格化处理方法、装置、计算设备及计算机存储介质
CN107481184B (zh) * 2017-08-10 2020-08-25 中国科学技术大学 一种低多边形风格图生成交互系统
CN111124398A (zh) * 2018-10-31 2020-05-08 中国移动通信集团重庆有限公司 用户界面生成方法、装置、设备及存储介质
CN111179215B (zh) * 2019-11-29 2022-09-13 北京航空航天大学合肥创新研究院 一种基于细胞明场图片对细胞内部结构的分析方法及系统
CN113269223B (zh) * 2021-03-16 2022-04-22 重庆市地理信息和遥感应用中心 一种基于空间文化模因分析的城市风格分类方法
CN113256750B (zh) * 2021-05-26 2023-06-23 武汉中科医疗科技工业技术研究院有限公司 医疗图像风格重建方法、装置、计算机设备和存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102902961A (zh) * 2012-09-21 2013-01-30 武汉大学 基于k近邻稀疏编码均值约束的人脸超分辨率处理方法
CN103984954A (zh) * 2014-04-23 2014-08-13 西安电子科技大学宁波信息技术研究院 基于多特征融合的图像合成方法
CN104077742A (zh) * 2014-07-22 2014-10-01 武汉大学 基于Gabor特征的人脸素描合成方法及系统
CN104123741A (zh) * 2014-06-24 2014-10-29 小米科技有限责任公司 生成人脸素描的方法和装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6845171B2 (en) * 2001-11-19 2005-01-18 Microsoft Corporation Automatic sketch generation
JP5291735B2 (ja) * 2011-02-24 2013-09-18 ソネットエンタテインメント株式会社 似顔絵作成装置、配置情報生成装置、配置情報生成方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102902961A (zh) * 2012-09-21 2013-01-30 武汉大学 基于k近邻稀疏编码均值约束的人脸超分辨率处理方法
CN103984954A (zh) * 2014-04-23 2014-08-13 西安电子科技大学宁波信息技术研究院 基于多特征融合的图像合成方法
CN104123741A (zh) * 2014-06-24 2014-10-29 小米科技有限责任公司 生成人脸素描的方法和装置
CN104077742A (zh) * 2014-07-22 2014-10-01 武汉大学 基于Gabor特征的人脸素描合成方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Compressed sensing MRI with Bayesian dictionary learning;Xinghao Ding 等;《2013 20th IEEE International Conference on Image Processing(ICIP)》;20130918;正文第2节第1-4段,Algorithm 1部分
Face Sketch Synthesis via Sparse Representation;Liang Chang 等;《2010 20th International Conference on Pattern Recognition(ICPR)》;20100826;正文第I节第4段,第II节第10-11段,第III节A部分第1,3段,B部分第1-2段,Algorithm部分,Remark部分,第IV节第1段

Also Published As

Publication number Publication date
CN105989584A (zh) 2016-10-05

Similar Documents

Publication Publication Date Title
CN105989584B (zh) 图像风格化重建的方法和装置
CN105144247B (zh) 用户的三维表示的生成
WO2023025030A1 (zh) 一种三维点云上采样方法、系统、设备及介质
CN104978764B (zh) 三维人脸网格模型处理方法和设备
US11620521B2 (en) Smoothing regularization for a generative neural network
US10121273B2 (en) Real-time reconstruction of the human body and automated avatar synthesis
CN102096934B (zh) 一种基于机器学习的人脸卡通画生成方法
US11748887B2 (en) Segmentation using an unsupervised neural network training technique
CN107886062B (zh) 图像处理方法、系统及服务器
CN107451950A (zh) 人脸图像生成方法、人脸识别模型训练方法及相应装置
CN104463148B (zh) 基于图像重构和哈希算法的人脸识别方法
Kecheril Sadanandan et al. Spheroid segmentation using multiscale deep adversarial networks
CN114360031B (zh) 头部姿态估计方法、计算机设备及存储介质
CN114549765A (zh) 三维重建方法及装置、计算机可存储介质
CN113076918B (zh) 基于视频的人脸表情克隆方法
Zhou et al. Personalized and occupational-aware age progression by generative adversarial networks
Wu et al. [Retracted] 3D Film Animation Image Acquisition and Feature Processing Based on the Latest Virtual Reconstruction Technology
CN111275610B (zh) 一种人脸变老图像处理方法及系统
CN115917597A (zh) 使用注意力模型将2d表示提升到3d
CN110455747A (zh) 一种基于深度学习的无光晕效应白光相位成像方法及系统
US11605001B2 (en) Weight demodulation for a generative neural network
Li et al. Serial-parallel multi-scale feature fusion for anatomy-oriented hand joint detection
CN113887293A (zh) 基于线性解的视觉人脸三维重建方法
Siddiqi et al. A Network Analysis for Correspondence Learning via Linearly-Embedded Functions
Li et al. Face aging effect simulation model based on multilayer representation and shearlet transform

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20220624

Address after: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee after: Peking University

Patentee after: New founder holdings development Co.,Ltd.

Patentee after: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

Address before: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee before: Peking University

Patentee before: PEKING UNIVERSITY FOUNDER GROUP Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230330

Address after: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee after: Peking University

Address before: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee before: Peking University

Patentee before: New founder holdings development Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

TR01 Transfer of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20190514

CF01 Termination of patent right due to non-payment of annual fee