CN110211063B - 一种图像处理方法、装置、电子设备和系统 - Google Patents
一种图像处理方法、装置、电子设备和系统 Download PDFInfo
- Publication number
- CN110211063B CN110211063B CN201910420510.7A CN201910420510A CN110211063B CN 110211063 B CN110211063 B CN 110211063B CN 201910420510 A CN201910420510 A CN 201910420510A CN 110211063 B CN110211063 B CN 110211063B
- Authority
- CN
- China
- Prior art keywords
- image
- beautification
- sample
- beautified
- generator
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种图像处理方法、装置、电子设备和系统;本申请实施例在获取到携带有待处理图像和处理方式的图像处理请求后,可以调用处理方式对应的图像生成算法和特征差异信息,通过该图像生成算法对待处理图像进行特征提取,然后,将提取到的特征信息与特征差异信息进行融合,并基于融合后特征信息,根据图像生成算法生成图像,得到处理后图像;本申请实施例可以灵活地针对图像的各个参数进行局部调整,使得图像的处理效果更为自然,改善图像质量。
Description
技术领域
本申请涉及通信技术领域,具体涉及一种图像处理方法、装置、电子设备和系统。
背景技术
图像作为人类感知世界的视觉基础,历来是人类获取信息、表达信息和传递信息的重要手段,为了更好地通过图像来传递和表达信息,各类图像处理技术也应运而生。比如,以人脸美颜为例,主要的图像处理技术可以包括双边滤波(Bilateral Filters)、泊松融合(Possion Matting)以及整体滤镜叠加等。而在对现有技术的研究和实践过程中,本申请的发明人发现,通过双边滤波、泊松融合以及整体滤镜叠加来实现人脸美颜的方案,其处理效果往往较为生硬,不够自然。
发明内容
本申请实施例提供一种图像处理方法、装置、电子设备和系统,可以灵活地针对图像的各个参数进行局部调整,使得处理效果更为自然,改善图像质量。
本申请实施例提供的一种图像处理方法,包括:
获取图像处理请求,所述图像处理请求指示待处理图像和处理方式;
调用所述处理方式对应的图像生成算法和特征差异信息;
通过所述图像生成算法对所述待处理图像进行特征提取,得到特征信息;
将所述特征信息与所述特征差异信息进行融合,得到融合后特征信息;
基于融合后特征信息,根据所述图像生成算法生成图像,得到处理后图像。
可选的,在本申请的一些实施例中,所述调用所述处理方式对应的图像生成算法,包括:
在所述处理方式为美化操作时,调用训练后对抗性生成网络中的美化生成器;
在所述处理方式为去美化操作时,调用所述训练后对抗性生成网络中的去美化生成器。
可选的,在本申请的一些实施例中,所述基于融合后特征信息,根据所述图像生成算法生成图像,得到处理后图像,可以包括:
在所述处理方式为美化操作时,通过美化生成器对所述融合后特征信息进行解码,得到美化后图像;
在所述处理方式为去美化操作时,通过去美化生成器对所述融合后特征信息进行解码,得到去美化后图像。
可选的,在本申请的一些实施例中,所述调用所述处理方式对应的图像生成算法和特征差异信息之前,还包括:
采集多对训练样本对,所述训练样本对包括已美化图像样本和未美化图像样本;
计算所述训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本;
根据所述训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络。
可选的,在本申请的一些实施例中,所述预设对抗性生成网络包括美化生成器、美化判别器、去美化生成器和去美化判别器,所述根据所述训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络,包括:
通过预设对抗性生成网络中的美化生成器对未美化图像样本进行处理,得到美化对抗样本;
采用所述对抗性生成网络中的美化判别器,分别计算所述美化对抗样本和已美化图像样本为真的概率,得到美化判别器的预测值;
通过所述对抗性生成网络中的去美化生成器对已美化图像样本进行处理,得到去美化对抗样本;
采用所述对抗性生成网络中的去美化判别器,分别计算所述去美化对抗样本和未美化图像样本为真的概率,得到去美化判别器的预测值;
根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、美化判别器的预测值和去美化判别器的预测值对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络。
可选的,在本申请的一些实施例中,所述根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、美化判别器的预测值和去美化判别器的预测值对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络,包括:
根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、第一概率和第三概率计算生成器损失函数;
根据所述第一概率、第二概率、第三概率和第四概率计算判别器损失函数;
基于所述生成器损失函数和判别器损失函数对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络。
可选的,在本申请的一些实施例中,所述根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、第一概率和第三概率计算生成器损失函数,包括:
根据所述已美化图像样本和美化对抗样本计算美化生成器的像素误差;
根据所述未美化图像样本和去美化对抗样本计算去美化生成器的像素误差;
根据所述未美化图像样本和美化对抗样本计算美化生成器的循环误差;
根据所述已美化图像样本和去美化对抗样本计算去美化生成器的循环误差;
根据所述第一概率计算美化生成器的判别误差;
根据所述第三概率计算去美化生成器的判别误差;
根据所述美化生成器的像素误差、去美化生成器的像素误差、美化生成器的循环误差、去美化生成器的循环误差、美化生成器的判别误差和去美化生成器的判别误差构建生成器损失函数。
可选的,在本申请的一些实施例中:
所述根据所述未美化图像样本和美化对抗样本计算美化生成器的循环误差,包括:采用所述对抗性生成网络中的去美化生成器对所述美化对抗样本进行处理,得到去美化重构样本,计算所述去美化重构样本与未美化图像样本之间的误差,得到美化生成器的循环误差;
所述根据所述已美化图像样本和去美化对抗样本计算去美化生成器的循环误差,包括:采用所述对抗性生成网络中的美化生成器对所述去美化对抗样本进行处理,得到美化重构样本,计算所述美化重构样本与已美化图像样本之间的误差,得到去美化生成器的循环误差。
相应的,本申请实施例还提供的一种图像处理装置,包括:
获取单元,用于获取图像处理请求,所述图像处理请求指示待处理图像和处理方式;
算法调用单元,用于调用所述处理方式对应的图像生成算法;
信息调用单元,用于调用所述处理方式对应的特征差异信息;
提取单元,用于通过所述图像生成算法对所述待处理图像进行特征提取,得到特征信息;
融合单元,用于将所述特征信息与所述特征差异信息进行融合,得到融合后特征信息;
生成单元,用于基于融合后特征信息,根据所述图像生成算法生成图像,得到处理后图像。
可选的,在本申请的一些实施例中,所述信息调用单元包括参数确定子单元和信息获取子单元,其中:
所述参数确定子单元,用于根据所述处理方式确定当前需要调整的图像参数,得到目标参数;
所述信息获取子单元,用于获取所述目标参数对应的特征差异信息。
可选的,在本申请的一些实施例中,所述信息获取子单元,具体用于接收用户基于所述目标参数触发的调整指令,所述调整指令携带目标调整幅度;根据所述调整指令,从预设特征差异集合中获取所述目标调整幅度对应的特征差异信息,得到所述目标参数对应的特征差异信息。
可选的,在本申请的一些实施例中,所述调用单元还可以包括建立子单元,其中:
所述建立子单元,用于获取多对图像样本对,计算图像样本对中图像样本之间在指定图像参数上的差异;筛选差异符合指定调整幅度的图像样本对作为候选样本对;计算所述候选样本对中图像样本之间的特征差异,得到所述指定图像参数对应的特征差异信息;建立所述指定图像参数、指定调整幅度、以及所述指定图像参数对应的特征差异信息之间的映射关系,将所述映射关系保存至预设特征差异集合中。
可选的,在本申请的一些实施例中,所述信息获取子单元,具体用于接收用户基于所述目标参数触发的调整指令,所述调整指令携带目标调整幅度;根据所述调整指令,获取多对图像样本对;计算图像样本对中图像样本之间在目标参数上的差异;筛选差异符合所述目标调整幅度的图像样本对作为目标样本对;计算所述目标样本对中图像样本之间的特征差异,得到所述目标参数对应的特征差异信息。
可选的,在本申请的一些实施例中,所述算法调用单元,用于在所述处理方式为美化操作时,调用训练后对抗性生成网络中的美化生成器;在所述处理方式为去美化操作时,调用所述训练后对抗性生成网络中的去美化生成器。
可选的,在本申请的一些实施例中,所述提取单元,具体用于通过所述美化生成器的多个卷积层,或去美化生成器的多个卷积层对所述待处理图像进行特征提取,得到每层卷积层对应的特征信息;
所述融合单元,具体用于将每层卷积层对应的特征信息与所述特征差异信息进行连接,得到融合后特征信息。
可选的,在本申请的一些实施例中,所述融合单元,具体用于根据每层卷积层对应的特征信息的维度对所述特征差异信息进行数组重塑,得到多个特征差异数组,将所述多个特征差异数组与对应维度的特征信息进行连接,得到融合后特征信息。
可选的,在本申请的一些实施例中,所述生成单元,具体用于在所述处理方式为美化操作时,通过美化生成器对所述融合后特征信息进行解码,得到美化后图像;在所述处理方式为去美化操作时,通过去美化生成器对所述融合后特征信息进行解码,得到去美化后图像。
可选的,在本申请的一些实施例中,所述图像处理装置还可以包括采集单元、计算单元和训练单元;其中:
所述采集单元,用于采集多对训练样本对,所述训练样本对包括已美化图像样本和未美化图像样本;
所述计算单元,用于计算所述训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本;
训练单元,用于根据所述训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络。
可选的,在本申请的一些实施例中,所述预设对抗性生成网络包括美化生成器、美化判别器、去美化生成器和去美化判别器,所述训练单元,具体用于:
通过预设对抗性生成网络中的美化生成器对未美化图像样本进行处理,得到美化对抗样本;
采用所述对抗性生成网络中的美化判别器,分别计算所述美化对抗样本和已美化图像样本为真的概率,得到美化判别器的预测值;
通过所述对抗性生成网络中的去美化生成器对已美化图像样本进行处理,得到去美化对抗样本;
采用所述对抗性生成网络中的去美化判别器,分别计算所述去美化对抗样本和未美化图像样本为真的概率,得到去美化判别器的预测值;
根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、美化判别器的预测值和去美化判别器的预测值对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络。
可选的,在本申请的一些实施例中,所述训练单元,具体用于:
采用所述对抗性生成网络中的美化判别器,计算所述美化对抗样本为真的概率,得到第一概率;
采用所述对抗性生成网络中的美化判别器,计算所述已美化图像样本为真的概率,得到第二概率;
采用所述对抗性生成网络中的去美化判别器,计算所述去美化对抗样本为真的概率,得到第三概率;
采用所述对抗性生成网络中的去美化判别器,计算所述未美化图像样本为真的概率,得到第四概率。
可选的,在本申请的一些实施例中,所述训练单元,具体用于:
根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、第一概率和第三概率计算生成器损失函数;
根据所述第一概率、第二概率、第三概率和第四概率计算判别器损失函数;
基于所述生成器损失函数和判别器损失函数对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络。
可选的,在本申请的一些实施例中,所述训练单元,具体用于:
根据所述已美化图像样本和美化对抗样本计算美化生成器的像素误差;
根据所述未美化图像样本和去美化对抗样本计算去美化生成器的像素误差;
根据所述未美化图像样本和美化对抗样本计算美化生成器的循环误差;
根据所述已美化图像样本和去美化对抗样本计算去美化生成器的循环误差;
根据所述第一概率计算美化生成器的判别误差;
根据所述第三概率计算去美化生成器的判别误差;
根据所述美化生成器的像素误差、去美化生成器的像素误差、美化生成器的循环误差、去美化生成器的循环误差、美化生成器的判别误差和去美化生成器的判别误差构建生成器损失函数。
可选的,在本申请的一些实施例中,所述训练单元,具体用于:
采用所述对抗性生成网络中的去美化生成器对所述美化对抗样本进行处理,得到去美化重构样本,计算所述去美化重构样本与未美化图像样本之间的误差,得到美化生成器的循环误差;
采用所述对抗性生成网络中的美化生成器对所述去美化对抗样本进行处理,得到美化重构样本,计算所述美化重构样本与已美化图像样本之间的误差,得到去美化生成器的循环误差。
相应的,本申请实施例还提供一种电子设备,包括存储器和处理器;所述存储器存储有应用程序,所述处理器用于运行所述存储器内的应用程序,以执行本申请实施例所提供的任一种图像处理方法中的操作。
此外,本申请实施例还提供一种存储介质,所述存储介质存储有多条指令,所述指令适于处理器进行加载,以执行本申请实施例所提供的任一种图像处理方法中的步骤。
本申请实施例在获取到携带有待处理图像和处理方式的图像处理请求后,可以调用处理方式对应的图像生成算法和特征差异信息,通过该图像生成算法对待处理图像进行特征提取,然后,将提取到的特征信息与特征差异信息进行融合,并基于融合后特征信息,根据图像生成算法生成图像,得到处理后图像;由于本申请实施例所调用的特征差异信息反映了预设图像样本对在目标参数(即当前需要调整的图像参数)上的差异,因此,在结合该特征差异信息来对待处理图像进行处理时,便可以有针对性地对该待处理图像的目标参数进行调整,从而实现对图像的各个参数进行局部调整的目的,大大提高图像处理的灵活性,使得图像的处理效果更为自然,改善图像质量。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的图像处理方法的场景示意图;
图2是本申请实施例提供的图像处理方法的流程图;
图3是本申请实施例提供的图像处理方法中特征差异信息与生成器的关系示意图;
图4是本申请实施例提供的图像处理方法中特征差异信息与生成器的另一关系示意图;
图5是本申请实施例提供的美化生成器/去美化生成器的局部结构示意图;
图6是本申请实施例提供的对抗性生成网络和分类网络的结构示意图;
图7是本申请实施例提供的图像处理方法的另一流程图;
图8是本申请实施例提供的图像处理方法的界面操作示例图;
图9是本申请实施例提供的图像处理方法中美化操作的示例图;
图10是本申请实施例提供的图像处理方法中去美化操作的示例图;
图11是本申请实施例提供的图像处理装置的结构示意图;
图12是本申请实施例提供的图像处理装置的另一结构示意图;
图13是本申请实施例提供的电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例提供一种图像处理方法、装置、电子设备和系统。该图像处理分割装置可以集成在电子设备中,该电子设备可以是服务器,也可以是终端等设备。
例如,如图1所示,电子设备在获取到指示了待处理图像和处理方式的图像处理请求后,可以调用该处理方式如美化操作或去美化操作等,对应的图像生成算法和特征差异信息,然后,通过该图像生成算法对该待处理图像进行特征提取,得到特征信息,并将该特征信息与该特征差异信息进行融合,得到融合后特征信息,最后,基于融合后特征信息,根据该图像生成算法生成图像,得到处理后图像,比如美化后图像或去美化后图像等。
以下分别进行详细说明。需说明的是,以下实施例的描述顺序不作为对实施例优选顺序的限定。
本实施例将从图像处理装置的角度进行描述,该图像处理装置具体可以集成在电子设备中,该电子设备可以是服务器,也可以是终端等设备;其中,该终端可以包括手机、穿戴式智能设备、平板电脑、笔记本电脑、以及个人计算(PC,Personal Computer)等。
一种图像处理方法,包括:获取图像处理请求,该图像处理请求指示待处理图像和处理方式;调用该处理方式对应的图像生成算法和特征差异信息;通过该图像生成算法对该待处理图像进行特征提取,得到特征信息;将该特征信息与该特征差异信息进行融合,得到融合后特征信息;基于融合后特征信息,根据该图像生成算法生成图像,得到处理后图像。
如图2所示,该图像处理方法的具体流程可以如下:
101、获取图像处理请求,该图像处理请求指示待处理图像和处理方式。
例如,具体可以接收用户触发的图像处理请求,或者接收其他设备发送的图像处理请求,其中,该图像处理请求中可以指示需要处理的图像(即待处理图像),并指示具体的处理方式,比如是对该待处理图像进行美化操作还是去美化操作,等等。
可选的,该处理方式还可以是针对图像的某些参数,如亮度、对比度、饱和度、和/或局部纹理等进行局部调整;比如,对该待处理图像进行“亮度”或“局部纹理”的去美化处理,或者,对该待处理图像进行“饱和度”、“亮度”或“局部纹理”的美化处理,等等。
其中,该待处理图像可以通过本地(即该图像处理装置)的摄像部件如摄像头等采集得到,或者,也可以通过接收其他设备如其他终端发送的图像来得到,等等。
102、调用该处理方式对应的图像生成算法和特征差异信息;例如,具体可以如下:
(1)调用该处理方式对应的特征差异信息。
例如,具体可以根据该处理方式确定当前需要调整的图像参数,得到目标参数,获取该目标参数对应的特征差异信息。
其中,图像参数可以包括图像的亮度、对比度、曝光度、阴影、饱和度、和/或局部纹理等。
特征差异信息指的是预设图像样本对中,图像样本之间的特征差异。也就是说,目标参数对应的特征差异信息指的是目标参数差异符合预设条件的图像样本对中,图像样本之间的特征差异。
比如,若目标参数(即当前需要调整的图像参数)为亮度,则此时,可以选择两张亮度差异符合预设阈值的图像样本(brightness)作为该图像样本对,然后,获取这两张图像样本之间的特征差异,即可得到该亮度对应的特征差异信息。
又比如,若目标参数为局部纹理,则此时,可以选择两张局部纹理差异符合预设阈值的图像样本(texture)作为该图像样本对,然后,获取这两张图像样本之间的特征差异,即可得到该局部纹理对应的特征差异信息,以此类推。
其中,该预设阈值可以根据实际应用的需求进行设置,在此不作赘述。
需说明的是,同一图像样本对中的两张图像样本为需要是对同一原始图像进行不同处理后所得到的图像,比如一张为原始图像,另一张为对该原始图像进行美颜处理后的“已美颜图像”;又比如,一张为原始图像,另一张为对该原始图像进行亮度调整后的图像,等等。
可选的,为了提高调整的灵活性,每一图像参数除了可以对应一特征差异信息,也可以基于不同的调整幅度,分别对应不同的特征差异信息。例如,以亮度的调整幅度包括5个等级“1级、2级、3级、4级和5级”为例,则1级可以对应特征差异信息1,2级可以对应特征差异信息2,3级可以对应特征差异信息3,4级可以对应特征差异信息4,5级可以对应特征差异信息5,以此类推。
其中,该调整幅度可以由用户根据需求来触发,即步骤“获取该目标参数对应的特征差异信息”可以通过方式一来实现。
方式一:
接收用户基于该目标参数触发的携带目标调整幅度的调整指令,根据该调整指令,从预设特征差异集合中获取该目标调整幅度对应的特征差异信息,得到该目标参数对应的特征差异信息,比如,参见图3。
其中,该特征差异集合保存有多个图像参数、调整幅度、以及特征差异信息之间的映射关系,该映射关系可以由运维人员预先进行设置,也可以由其他设备预先建立之后提供给图像处理装置,或者,还可以由该图像处理装置自行进行建立,即步骤“根据该调整指令,从预设特征差异集合中获取该目标调整幅度对应的特征差异信息”之前,该图像处理方法还可以包括:
获取多对图像样本对,计算图像样本对中图像样本之间在指定图像参数上的差异,筛选差异符合指定调整幅度的图像样本对作为候选样本对,计算该候选样本对中图像样本之间的特征差异,得到该指定图像参数对应的特征差异信息,建立该指定图像参数、指定调整幅度、以及该指定图像参数对应的特征差异信息之间的映射关系,将该映射关系保存至预设特征差异集合中。
其中,具体可以通过比对该候选样本对中图像样本之间的特征,来得到图像样本之间的特征差异,或者,也可以采用分类网络来计算该候选样本对中图像样本之间的特征差异。
可选的,除了可以从特征差异集合中获取特征差异信息之外,也可以在接收到调整指令时,直接获取合适的图像样本对,以计算其特征差异,即步骤“获取该目标参数对应的特征差异信息”也可以采用方式二来实现,如下:
方式二:
接收用户基于该目标参数触发的调整指令,该调整指令携带目标调整幅度,根据该调整指令,获取多对图像样本对,计算图像样本对中图像样本之间在目标参数上的差异,筛选差异符合该目标调整幅度的图像样本对作为目标样本对,计算该目标样本对中图像样本之间的特征差异,得到该目标参数对应的特征差异信息。
比如,参见图4,具体可以通过分类网络来计算该目标样本对中图像样本之间的特征差异,得到该目标参数对应的特征差异信息;或者,也可以通过将该目标样本对中图像样本进行特征比对,来得到该目标参数对应的特征差异信息。
其中,该目标调整幅度可以根据用户的喜好或需求而定,比如,用户通过输入或选择具体的值来设置该目标调整幅度,或者,也可以通过滑动“调整杆”等方式来设置该目标调整幅度,在此不再列举。
(2)调用该处理方式对应的图像生成算法。
例如,以处理方式包括美化操作和去美化操作为例,则步骤“调用该处理方式对应的图像生成算法”具体可以如下:
在该处理方式为美化操作时,调用训练后对抗性生成网络中的美化生成器。
在该处理方式为去美化操作时,调用该训练后对抗性生成网络中的去美化生成器。
103、通过该图像生成算法对该待处理图像进行特征提取,得到特征信息。
例如,若在步骤102中,调用的图像生成算法为“美化生成器”,则此时,可以通过该美化生成器对该待处理图像进行特征提取,得到特征信息;比如,具体可以通过该美化生成器的多个卷积层对该待处理图像进行特征提取,得到该美化生成器每层卷积层对应的特征信息。
而若在步骤102中,调用的图像生成算法为“去美化生成器”,则此时,可以通过该去美化生成器对该待处理图像进行特征提取,得到特征信息;比如,具体可以通过去美化生成器的多个卷积层对该待处理图像进行特征提取,得到该去美化生成器每层卷积层对应的特征信息。
比如,如图5所示,美化生成器和去美化生成器中均可以包括编码模块和解码模块,其中,编码模块主要用于进行特征提取,而解码模块主要用于根据提取的特征进行识别并生成图像。则具体的,可以通过美化生成器的编码模块中的多个卷积层对该待处理图像进行特征提取,得到该美化生成器每层卷积层对应的特征信息,以及通过去美化生成器的编码模块中的多个卷积层对该待处理图像进行特征提取,得到该去美化生成器每层卷积层对应的特征信息。
104、将该特征信息与该特征差异信息进行融合,得到融合后特征信息。
例如,若在步骤103中,得到每层卷积层对应的特征信息,则此时,可以将每层卷积层对应的特征信息与该特征差异信息进行连接,得到融合后特征信息,具体可以如下:
根据每层卷积层对应的特征信息的维度对该特征差异信息进行数组重塑,得到多个特征差异数组,将该多个特征差异数组与对应维度的特征信息进行连接,得到融合后特征信息。
比如,如图5所示,可以根据编码模块中卷积层3对应的特征信息的维度对该特征差异信息进行数组重塑,得到特征差异数组3;根据编码模块中卷积层2对应的特征信息的维度对该特征差异信息进行数组重塑,得到特征差异数组2;以及根据编码模块中卷积层1对应的特征信息的维度对该特征差异信息进行数组重塑,得到特征差异数组1;然后,将特征差异数组3与卷积层3对应的特征信息(即卷积层3提取的特征)进行连接,得到融合后特征信息3,同理,将特征差异数组2与卷积层2对应的特征信息(即卷积层2提取的特征)进行连接,得到融合后特征信息2,以及将特征差异数组1与卷积层1对应的特征信息(即卷积层1提取的特征)进行连接,得到融合后特征信息1,等等。
需说明的是,当前卷积层所得到的融合后特征信息,可以作为下一卷积层的输入,比如,卷积层3所得到的融合后特征信息3可以作为卷积2的输入,由卷积层2进行特征提取后,与特征差异数组2进行连接;同理,卷积层2所得到的融合后特征信息2可以作为卷积1的输入,由卷积层1进行特征提取后,与特征差异数组1进行连接,等等。
105、基于融合后特征信息,根据该图像生成算法生成图像,得到处理后图像。
例如,在该处理方式为美化操作时,可以通过美化生成器对该融合后特征信息进行解码,得到美化后图像;而在该处理方式为去美化操作时,则可以通过去美化生成器对该融合后特征信息进行解码,得到去美化后图像。
比如,如图5所示,可以采用美化生成器的解码模块中对该融合后特征信息进行解码,得到美化后图像,或者,采用去美化生成器的解码模块中对该融合后特征信息进行解码,得到去美化后图像。
可选的,为了提升解码模块的特征表达能力,以恢复出更好的像素域分布(即对各个特征进行识别),解码模块在进行特征识别时,除了考虑当前的特征信息之外,也可以将编码模块中相应层次对应的特征信息也作为考量因素之一,即,对于编码模块和解码模块结构中具有相同特征尺度的层级,采用级联方式将编码模块中的特征融合至解码模块的特征中,而这种连接方式在本申请实施例中,称为跨层连接方式。
例如,如图5所示,可以编码器中卷积层2所对应的特征信息与解码器中卷积层2’所对应的特征信息进行连接,然后,将由解码器中卷积层2’对该连接后信息和编码器所输出的融合后特征信息1进行解码,将解码后数据作为解码器中卷积层3’的输入;同理,可以将编码器中卷积层3所对应的特征信息与解码器中卷积层3’所对应的特征信息进行连接后,由解码器中卷积层3’对该连接后信息和卷积层2’输出的数据进行解码,依次类推,直至将解码器的最后一层卷积层n’输出解码后数据,便可得到处理后图像,比如美化后图像或去美化后图像。
其中,该训练后对抗性生成网络可以由多对训练样本对训练而成,每对训练样本对中可以包括未美化图像样本、以及该未美化图像样本对应的已美化图像样本。具体的,该训练后对抗性生成网络可以由其他设备训练得到后迁移至该图像处理装置中,或者,也可以由该图像处理装置自行进行训练。
若由该图像处理装置自行进行训练,则在步骤“调用该处理方式对应的图像生成算法和特征差异信息”之前,该图像处理方法还可以包括步骤S1~S3,如下:
S1、采集多对训练样本对,该训练样本对包括已美化图像样本和未美化图像样本。
比如,具体可以采集多张图像作为原始数据集,比如从数据库或网络等获取该原始数据集,然后对该原始数据集里的图像进行预处理,以得到满足预设对抗性生成网络的输入标准的图像,然后,将这些预处理后的图像作为未美化图像样本进行美化处理,得到对应的已美化图像样本,将每一张未美化图像样本与其对应的已美化图像样本作为一图像对,便可得到一对训练样本对。
其中,预处理可以包括去重、旋转、翻转和/或裁剪等操作。譬如,以预设对抗性生成网络的输入大小为“128*128*32(宽*高*深)”为例,则此时,可以将原始数据集里的图像裁剪为“28*128*32”大小,当然,还可以进一步对这些图像进行其他的预处理操作。
S2、计算该训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本。
例如,具体可以通过分类网络来计算该训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本,具体如下:
采用分类网络提取该训练样本对中已美化图像样本的特征,得到已美化图像样本的特征图;采用分类网络提取该训练样本对中未美化图像样本的特征,得到未美化图像样本的特征图;将已美化图像样本的特征图与未美化图像样本的特征图进行比对,便可得到特征差异样本。
S3、根据该训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络。
其中,该对抗性生成网络至少可以包括两个串联的网络分支,每一网络分支均可以包括一个生成器和判别器,生成器和判别器的具体网络参数可以根据实际应用的需求进行设置。
例如,以该对抗性生成网络包括两个串联的网络分支——美化网络分支和去美化网络分支为例,如图6所示,其中,美化网络分支可以包括美化生成器和美化判别器,去美化网络分支包括去美化生成器和去美化判别器,即,该对抗性生成网络包括美化生成器(G)、美化判别器(Dy)、去美化生成器(F)和去美化判别器(Dx),则此时,步骤“根据该训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络”可以包括:
(1)通过预设对抗性生成网络中的美化生成器对未美化图像样本进行处理,得到美化对抗样本,采用该对抗性生成网络中的美化判别器,分别计算该美化对抗样本和已美化图像样本为真的概率,得到美化判别器的预测值。
比如,具体可以通过预设对抗性生成网络中的美化生成器对未美化图像样本进行特征提取,得到该未美化图像样本的特征信息(在本申请实施例中称为特征信息样本),然后,将该特征信息样本与特征差异样本进行融合,得到融合后特征信息样本,再然后,采用美化生成器对该融合后特征信息样本进行解码,便可得到美化对抗样本。
此后,可以采用该对抗性生成网络中的美化判别器,计算该美化对抗样本为真的概率,得到第一概率;以及采用该对抗性生成网络中的美化判别器,计算该已美化图像样本为真的概率,得到第二概率,这里的第一概率和第二概率即为美化判别器的预测值。
(2)通过该对抗性生成网络中的去美化生成器对已美化图像样本进行处理,得到去美化对抗样本,采用该对抗性生成网络中的去美化判别器,分别计算该去美化对抗样本和未美化图像样本为真的概率,得到去美化判别器的预测值。
比如,具体可以通过预设对抗性生成网络中的去美化生成器对已美化图像样本进行特征提取,得到该已美化图像样本的特征信息(在本申请实施例中称为特征信息样本),然后,将该特征信息样本与特征差异样本进行融合,得到融合后特征信息样本,再然后,采用去美化生成器对该融合后特征信息样本进行解码,便可得到去美化对抗样本。
此后,采用该对抗性生成网络中的去美化判别器,计算该去美化对抗样本为真的概率,得到第三概率;以及采用该对抗性生成网络中的去美化判别器,计算该未美化图像样本为真的概率,得到第四概率,这里的第三概率和第四概率即为去美化判别器的预测值。
(3)根据该已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、美化判别器的预测值和去美化判别器的预测值对该对抗性生成网络进行收敛,得到训练后对抗性生成网络;例如,具体可以如下:
根据该已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、第一概率和第三概率计算生成器损失函数;根据该第一概率、第二概率、第三概率和第四概率计算判别器损失函数;基于该生成器损失函数和判别器损失函数对该对抗性生成网络进行收敛,得到训练后对抗性生成网络。
A、生成器损失函数;
步骤“根据该已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、第一概率和第三概率计算生成器损失函数”可以如下:
根据该已美化图像样本和美化对抗样本计算美化生成器的像素误差;
根据该未美化图像样本和去美化对抗样本计算去美化生成器的像素误差;
根据该未美化图像样本和美化对抗样本计算美化生成器的循环误差;
根据该已美化图像样本和去美化对抗样本计算去美化生成器的循环误差;
根据该第一概率计算美化生成器的判别误差;
根据该第三概率计算去美化生成器的判别误差;
根据该美化生成器的像素误差、去美化生成器的像素误差、美化生成器的循环误差、去美化生成器的循环误差、美化生成器的判别误差和去美化生成器的判别误差构建生成器损失函数。
其中,步骤“根据该未美化图像样本和美化对抗样本计算美化生成器的循环误差”可以包括:采用该对抗性生成网络中的去美化生成器对该美化对抗样本进行处理,得到去美化重构样本,计算该去美化重构样本与未美化图像样本之间的误差,得到美化生成器的循环误差;
同理,步骤“根据该已美化图像样本和去美化对抗样本计算去美化生成器的循环误差”可以包括:采用该对抗性生成网络中的美化生成器对该去美化对抗样本进行处理,得到美化重构样本,计算该美化重构样本与已美化图像样本之间的误差,得到去美化生成器的循环误差。
比如,若分类网络为C,美化生成器为G,去美化生成器为F,美化判别器为Dx,去美化判别器为Dy,特征差异样本为Δfc,未美化图像样本为x,已美化图像样本为y,美化对抗样本为G(x,Δfc),去美化对抗样本为F(y,Δfc),美化重构样本为G(F(y,Δfc),Δfc),去美化重构样本为F(G(x,Δfc),Δfc),第一概率为Dy(G(x,Δfc)),第二概率为Dy(y),第三概率为Dx(F(y,Δfc)),第四概率为Dx(x),则上述各个误差可以采用如下公式计算得到:
美化生成器的像素误差:
去美化生成器的像素误差:
美化生成器的循环误差:
去美化生成器的循环误差:
美化生成器的判别误差:
去美化生成器的判别误差:
然后,便可以根据美化生成器的像素误差和去美化生成器的像素误差计算该对抗性生成网络的像素误差,根据美化生成器的循环误差和去美化生成器的循环误差计算该对抗性生成网络的循环误差,以及根据美化生成器的判别误差和去美化生成器的判别误差计算该对抗性生成网络的判别误差,具体可以如下:
计算美化生成器的像素误差和去美化生成器的像素误差的和,得到该对抗性生成网络的像素误差Lp(G,F,C),用公式表示可以如下:
计算美化生成器的循环误差和去美化生成器的循环误差的和,得到该对抗性生成网络的循环误差Lcyc(G,F,C),用公式表示可以如下:
计算美化生成器的判别误差和去美化生成器的判别误差的和,得到该对抗性生成网络的判别误差Ladv(G,F,C,Dx,Dy),用公式表示可以如下:
在得到对抗性生成网络的像素误差Lp(G,F,C)(简称Lp)、循环误差Lcyc(G,F,C)(Lcyc)和判别误差Ladv(G,F,C,Dx,Dy)(简称Ladv)之后,便可以据此构建生成器损失函数Lgen,如下:
Lgen=λpLp+λcycLcyc+λadvLadv
其中,λp为像素误差Lp的权重,λcyc为循环误差Lcyc的权重,λadv为判别误差Ladv的权重,具体可以根据Lgen来更新该λp、λcyc和λadv的取值,该更新λp、λcyc和λadv的取值的过程即为对美化生成器和去美化生成器训练的过程。
B、判别器损失函数;
步骤“根据该第一概率、第二概率、第三概率和第四概率计算判别器损失函数”可以包括:
根据第一概率和第二概率计算美化判别器的判别误差,以及根据第三概率和第四概率计算去美化判别器的判别误差,基于美化判别器的判别误差和去美化判别器的判别误差构建判别器损失函数,具体如下:
比如,若美化判别器为Dx,去美化判别器为Dy,特征差异样本为Δfc,未美化图像样本为x,已美化图像样本为y,美化对抗样本为G(x,Δfc),去美化对抗样本为F(y,Δfc),第一概率为Dy(G(x,Δfc)),第二概率为Dy(y),第三概率为Dx(F(y,Δfc)),第四概率为Dx(x),则上述各个误差可以采用如下公式计算得到:
美化判别器的判别误差:
去美化判别器的判别误差:
对美化判别器的判别误差和去美化判别器的判别误差进行加权运算,便可得到判别器损失函数Ldis,用公式表示可以如下:
Ldis=Ldis(Dy)+λdisLdis(Dx)
其中,λdis为Ldis(Dx)的权重,具体可以根据Ldis来更新该λdis的取值,该更新λdis的取值的过程,即为对美化判别器和去美化判别器训练的过程。
当将所述有训练样本都经过上述(2)和(3)的步骤,将λp、λcyc、λadv和λdis都更新后,即意味着该对抗性生成网络的误差收敛完毕,便可得到训练后对抗性生成网络。
需说明的是,如果采用了分类网络为C,则还可以对分类网络为C进行训练,比如,可以将通过分类网络C对训练样本对中的图像样本,如已美化图像样本与未美化图像样本的分类进行预测(即预测是已美化样本还是未美化样本),得到预测分类结果,然后,根据该训练样本对中图像样本的真实分类和该预测分类结果,利用分类损失函数(或称为分类误差)对该分类网络进行收敛,得到训练后分类网络。
由上可知,本实施例在获取到携带有待处理图像和处理方式的图像处理请求后,可以调用处理方式对应的图像生成算法和特征差异信息,通过该图像生成算法对待处理图像进行特征提取,然后,将提取到的特征信息与特征差异信息进行融合,并基于融合后特征信息,根据图像生成算法生成图像,得到处理后图像;由于本申请实施例所调用的特征差异信息反映了预设图像样本对在目标参数(即当前需要调整的图像参数)上的差异,因此,在结合该特征差异信息来对待处理图像进行处理时,便可以有针对性地对该待处理图像的目标参数进行调整,从而实现对图像的各个参数进行局部调整的目的,大大提高图像处理的灵活性,使得图像的处理效果更为自然,改善图像质量。
根据前面实施例所描述的方法,以下将举例作进一步详细说明。
在本实施例中,将以该图像处理装置具体集成在电子设备中,且该对抗性生成网络包括两个串联的网络分支——美化网络分支和去美化网络分支为例进行说明。其中,美化网络分支可以包括美化生成器G和美化判别器Dy,去美化网络分支包括去美化生成器F和去美化判别器Dx,参见图6。
(一)分类网络和对抗性生成网络的训练。
首先,电子设备可以采集多对训练样本对,其中,该训练样本对可以包括未美化图像样本x和已美化图像样本y。
未美化图像样本x指的是未经过美化处理原始图像,而已美化图像样本y指的是经过了美化处理如增加滤镜、去噪点、增强饱和度等处理后的图像。需说明的是,每一对训练样本中,未美化图像样本x和已美化图像样本y的原始图像为同一张图像,譬如,以原始图像为某人脸图像K为例,则可以将该人脸图像K作为未美化图像x,然后,对该人脸图像K进行美颜处理,得到人脸图像K',将人脸图像K'作为已美化图像样本y,从而组成一对训练样本对。
其次,电子设备可以通过分类网络C来计算该训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本Δfc。比如,该电子设备具体可以采用分类网络分别提取该训练样本对中未美化图像样本x和已美化图像样本y的特征,得到未美化图像样本x的特征图和已美化图像样本y的特征图,然后,将未美化图像样本x的特征图与已美化图像样本y的特征图进行比对,便可得到该训练样本对的特征差异样本Δfc。
再者,电子设备可以利用该训练样本对和特征差异样本Δfc分别对预设分类网络和对抗性生成网络进行训练,得到训练后分类网络和训练后对抗性生成网络,具体可以如下:
(1)分类网络的训练。
参见图6,该分类网络可以由一个二分类网络组成,该分类网络可以预先训练好,也可以由该电子设备进行训练。训练时,电子设备可以通过分类网络C对训练样本对中的未美化图像样本x和已美化图像样本y的分类进行预测,得到预测分类结果,然后,根据该训练样本对中图像样本的真实分类和该预测分类结果,利用分类损失函数对该分类网络进行收敛,得到训练后分类网络C,其中,该分类损失函数具体可以如下:
(2)对抗性生成网络的训练。
(2.1)美化网络分支:
如图6所示,一方面,电子设备可以通过美化生成器G中编辑模块部分的多个卷积层对未美化图像样本x进行特征提取,得到每一卷积层对应的特征信息样本;另一方面,电子设备可以根据每层卷积层(即对未美化图像样本x进行特征提取的卷积层)对应的特征信息样本的维度对特征差异样本Δfc进行数组重塑,得到多个特征差异数组样本,如维度为“16×1×1”的征差异数组样本、维度为“4×2×2”的征差异数组样本和“1×4×4”的征差异数组样本等,然后,将该多个特征差异数组样本与对应维度的特征信息样本进行连接,得到融合后特征信息样本,再然后,通过美化生成器G的解码模块对该融合后特征信息进行解码,便可得到美化对抗样本也可以表示为G(x,Δfc)。
此后,电子设备可以采用美化判别器Dy计算该美化对抗样本(即G(x,Δfc))为真的概率,得到第一概率Dy(G(x,Δfc));以及采用该美化判别器Dy计算该已美化图像样本y为真的概率,得到第二概率Dy(y)。
(2.2)去美化网络分支:
去美化网络分支与美化网络分支的处理类似,如图6所示,一方面,电子设备可以通过去美化生成器F中编辑模块部分的多个卷积层对已美化图像样本y进行特征提取,得到每一卷积层对应的特征信息样本;另一方面,电子设备可以根据每层卷积层(即对已美化图像样本y进行特征提取的卷积层)对应的特征信息样本的维度对特征差异样本Δfc进行数组重塑,得到多个特征差异数组样本,如维度为“16×1×1”的征差异数组样本、维度为“4×2×2”的征差异数组样本和“1×4×4”的征差异数组样本等,然后,将该多个特征差异数组样本与对应维度的特征信息样本进行连接,得到融合后特征信息样本,再然后,通过去美化生成器F的解码模块对该融合后特征信息进行解码,便可得到去美化对抗样本也可以表示为F(y,Δfc)。
此后,电子设备可以采用去美化判别器Dx计算该去美化对抗样本(即F(y,Δfc))为真的概率,得到第三概率Dx(F(y,Δfc));以及采用该去美化判别器Dx计算该未美化图像样本x为真的概率,得到第四概率Dx(x)。
(2.3)美化重构样本和去美化重构样本:
电子设备采用美化生成器G对该去美化对抗样本(即F(y,Δfc))进行处理,得到美化重构样本G(F(y,Δfc),Δfc)。比如,一方面,电子设备可以通过美化生成器G中编辑模块部分的多个卷积层对该去美化对抗样本进行特征提取,得到每一卷积层对应的特征信息样本;另一方面,电子设备可以根据每层卷积层(即对该去美化对抗样本进行特征提取的卷积层)对应的特征信息样本的维度对特征差异样本Δfc进行数组重塑,得到多个特征差异数组样本,然后,将该多个特征差异数组样本与对应维度的特征信息样本进行连接,得到融合后特征信息样本,再然后,通过美化生成器G的解码模块对该融合后特征信息进行解码,便可得到美化重构样本G(F(y,Δfc),Δfc)。
同理,电子设备可以采用去美化生成器F对该美化对抗样本(即G(x,Δfc))进行处理,得到去美化重构样本F(G(x,Δfc),Δfc)。比如,一方面,电子设备可以通过去美化生成器F中编辑模块部分的多个卷积层对该美化对抗样本进行特征提取,得到每一卷积层对应的特征信息样本;另一方面,电子设备可以根据每层卷积层(即对美化对抗样本进行特征提取的卷积层)对应的特征信息样本的维度对特征差异样本Δfc进行数组重塑,得到多个特征差异数组样本,然后,将该多个特征差异数组样本与对应维度的特征信息样本进行连接,得到融合后特征信息样本,再然后,通过去美化生成器F的解码模块对该融合后特征信息进行解码,便可得到去美化重构样本F(G(x,Δfc),Δfc)。
(2.4)构建生成器损失函数:
美化生成器的像素误差:
去美化生成器的像素误差:
美化生成器的循环误差:
去美化生成器的循环误差:
美化生成器的判别误差:
去美化生成器的判别误差:
由上述误差可以计算出该对抗性生成网络的像素误差Lp(G,F,C)、循环误差Lcyc(G,F,C)和判别误差Ladv(G,F,C,Dx,Dy),具体如下:
在得到对抗性生成网络的像素误差Lp(G,F,C)(简称Lp)、循环误差Lcyc(G,F,C)(Lcyc)和判别误差Ladv(G,F,C,Dx,Dy)(简称Ladv)之后,便可以据此构建生成器损失函数Lgen,如下:
Lgen=λpLp+λcycLcyc+λadvLadv
其中,λp为像素误差Lp的权重,λcyc为循环误差Lcyc的权重,λadv为判别误差Ladv的权重,具体可以根据Lgen来更新该λp、λcyc和λadv的取值,比如可以通过最小化该生成器损失函数Lgen,利用随机梯度下降方法来更新该λp、λcyc和λadv的取值,而该更新λp、λcyc和λadv的取值的过程即为对美化生成器和去美化生成器训练的过程。
(2.5)判别器损失函数:
美化判别器的判别误差:
去美化判别器的判别误差:
对美化判别器的判别误差和去美化判别器的判别误差进行加权运算,便可得到判别器损失函数Ldis,用公式表示可以如下:
Ldis=Ldis(Dy)+λdisLdis(Dx)
其中,λdis为Ldis(Dx)的权重,具体可以根据Ldis来更新该λdis的取值,比如可以通过最小化该判别器损失函数Ldis来更新该λdis的取值,而该更新λdis的取值的过程,即为对美化判别器和去美化判别器训练的过程。
需说明的是,该美化判别器和去美化判别器实际为一个二分类网络,通过同时更新美化生成器和美化判别器、以及去美化生成器和去美化判别器的各权重如λp、λcyc、λadv和λdis的取值,便可达到对抗学习的目的,因此,在本实施例中,将该美化生成器和美化判别器、以及去美化生成器和去美化判别器组成的网络称为对抗性学习生成网络,简称对抗性生成网络。
(2.6)对抗性生成网络的收敛:
当将所述有训练样本都经过步骤(2.1)~(2.5),将λp、λcyc、λadv和λdis都更新后,即意味着该对抗性生成网络的误差收敛完毕,便可得到训练后对抗性生成网络。
(二)通过训练后分类网络和训练后对抗性生成网络,便可以对待处理图像进行处理。
如图7所示,一种图像处理方法,具体流程可以如下:
201、电子设备获取图像处理请求,该图像处理请求指示待处理图像和处理方式。
例如,若该电子设备为终端,则此时,终端可以接收用户在终端上触发的图像处理请求,比如,如图8所示,用户可以通过选择待处理图像,以及在图像处理界面上选择处理方式如“美化”或“去美化”(又比如美颜或去美颜等)等,来触发终端生成该图像处理请求。
又例如,若该电子设备为服务器,则此时,同样可以由用户可以通过选择待处理图像,以及在图像处理界面上选择处理方式如“美化”或“去美化”等,来触发终端生成图像处理请求,然后,再由终端将该图像处理请求发送给该服务器。
需说明的是,除了可以指示整体的美化或去美化之外,该处理方式还可以针对具体的图像参数,如图像的亮度、对比度、曝光度、阴影、饱和度、和/或局部纹理等进行局部的美化或去美化;比如,对该待处理图像进行“亮度”或“局部纹理”的去美化处理,或者,对该待处理图像进行“饱和度”、“亮度”或“局部纹理”的美化处理,等等。
可选的,若用户选择的是“局部纹理”,则用户还可以在待处理图像上选择相应的区域作为该“局部纹理”调整的“目标区域”,则后续电子设备将会对该目标区域进行局部纹理的调整,比如对该目标区域进行美化或去美化处理等。
202、电子设备根据该处理方式确定当前需要调整的图像参数,得到目标参数,获取该目标参数对应的特征差异信息。
例如,参见图8,若用户在图像处理界面中选择调整的图像参数为“亮度”,则意味目标参数为亮度,那么此时,电子设备可以选择两张亮度差异符合预设阈值的图像样本(brightness)作为该图像样本对,然后,获取这两张图像样本之间的特征差异,即可得到该亮度对应的特征差异信息。
又例如,还是如图8所示,若目标参数为饱和度,比如用户在图像处理界面中选择调整的图像参数为“饱和度”,则此时,可以选择两张饱和度差异符合预设阈值的图像样本作为该图像样本对,然后,获取这两张图像样本之间的特征差异,即可得到该饱和度对应的特征差异信息。
又例如,若目标参数为局部参数,比如用户在图像处理界面中选择调整的图像参数为“局部纹理”(比如脸颊的纹理),则此时,可以选择两张局部纹理差异符合预设阈值的图像样本(texture)作为该图像样本对,然后,获取这两张图像样本之间的特征差异,即可得到该局部纹理对应的特征差异信息,以此类推。
其中,该预设阈值可以根据实际应用的需求进行设置,在此不作赘述。
需说明的是,同一图像样本对中的两张图像样本为需要属于同一原始图像,比如一张为原始图像,另一张为对该原始图像进行亮度调整后的“已美颜图像”;又比如,一张为原始图像,另一张为对该原始图像进行饱和度调整后的图像,等等。
可选的,为了提高调整的灵活性,每一目标参数除了可以对应一特征差异信息,也可以基于不同的调整幅度,分别对应不同的特征差异信息。
例如,以亮度的调整幅度包括5个等级“1级、2级、3级、4级和5级”为例,则亮度1级可以对应亮度的特征差异信息1,亮度2级可以对应亮度的特征差异信息2,亮度3级可以对应亮度的特征差异信息3,亮度4级可以对应亮度的特征差异信息4,亮度5级可以对应亮度的特征差异信息5。
又例如,以饱和度的调整幅度包括5个等级“1级、2级、3级、4级和5级”为例,则饱和度1级可以对应饱和度的特征差异信息1,饱和度2级可以对应饱和度的特征差异信息2,饱和度3级可以对应饱和度的特征差异信息3,饱和度4级可以对应饱和度的特征差异信息4,饱和度5级可以对应饱和度的特征差异信息5,以此类推。
其中,该调整幅度可以由用户根据喜好或需求来触发,比如,可以通过输入或选择具体的值来设置该调整幅度,或者,也可以通过滑动“调整杆”等方式来设置该调整幅度。
譬如,如图8所示,以通过滑动“调整杆”来设置该调整幅度为例,则当用户将图像参数“亮度”的“调整杆”拉动至“1”级的位置时,电子设备可以生成携带目标调整幅度“亮度1级”的调整指令;而当用户将图像参数“饱和度”的“调整杆”拉动至“3”级的位置时,电子设备可以生成携带目标调整幅度“饱和度3级”的调整指令.
在调整指令生成之后,电子设备便可以根据该调整指令,从预设特征差异集合中获取该目标调整幅度对应的特征差异信息,得到该目标参数对应的特征差异信息。
或者,电子设备也可以根据该调整指令,获取多对图像样本对,计算图像样本对中图像样本之间在目标参数上的差异,筛选差异符合该目标调整幅度的图像样本对作为目标样本对,计算该目标样本对中图像样本之间的特征差异(具体可以通过训练后分类网络C来计算),得到该目标参数对应的特征差异信息。
其中,该特征差异集合的建立方法和特征差异的计算具体可参见前面的实施例,在此不作赘述。
203、电子设备调用该处理方式对应的图像生成算法,然后执行步骤204。
例如,如图8所示,若用户在图像处理界面中选择了“美化”,则表明处理方式为美化操作(具体为针对亮度的美化操作),那么此时电子设备可以调用训练后对抗性生成网络中的美化生成器G。
又例如,若用户在图像处理界面中选择了“去美化”,则表明处理方式为去美化操作(具体为针对饱和度的去美化操作),那么此时电子设备可以调用该训练后对抗性生成网络中的去美化生成器F。
需说明的是,不管处理方式指示的是针对何种图像参数的美化操作,此时调用的都是美化操作对应的图像生成算法,即美化生成器G。同理,不管处理方式指示的是针对何种图像参数的去美化操作,此时调用的都是去美化操作对应的图像生成算法,即去美化生成器F。
其中,步骤202和203的执行顺序可以不分先后。
204、电子设备通过该图像生成算法对该待处理图像进行特征提取,得到特征信息,然后执行步骤205。
例如,若在步骤203中,调用的图像生成算法为“美化生成器G”,则此时,可以通过该美化生成器G中编码模块的多个卷积层对该待处理图像(即待美化图像)进行特征提取,得到该美化生成器G每层卷积层对应的特征信息,参见图9。
而若在步骤203中,调用的图像生成算法为“去美化生成器F”,则此时,可以通过去美化生成器F中编码模块的多个卷积层对该待处理图像(即待去美化图像)进行特征提取,得到该去美化生成器F每层卷积层对应的特征信息,参见图10。
需说明的是,图9和图10中只是给出了训练后对抗性生成网络的部分结构图,训练后对抗性生成网络完整的结构图可参见图6。
205、电子设备将步骤204中得到的特征信息与步骤202中得到的特征差异信息进行融合,得到融合后特征信息。
例如,若在步骤204中,得到每层卷积层对应的特征信息,则此时,可以根据每层卷积层对应的特征信息的维度对该特征差异信息进行数组重塑,得到多个特征差异数组,比如维度为“16×1×1”的征差异数组样本、维度为“4×2×2”的征差异数组样本和“1×4×4”的征差异数组样本等,然后,将该多个特征差异数组与对应维度的特征信息进行连接,得到融合后特征信息,具体的连接方式可以参见前面的实施例,在此不作赘述。
206、电子设备基于融合后特征信息,根据该图像生成算法生成图像,得到处理后图像。
例如,若处理方式为美化操作(包括针对某图像参数的所有美化操作),则如图9所示,电子设备可以通过美化生成器G的解码模块对该融合后特征信息进行解码,得到处理后图像,即美化后图像。比如,如图8所示,以处理方式为针对“亮度”的美化操作为例,则此时得到的美化后图像为针对“亮度”进行美化而得到的美化后图像。
而在该处理方式为去美化操作(包括针对某图像参数的所有去美化操作)时,则如图10所示,电子设备可以通过去美化生成器F的解码模块对该融合后特征信息进行解码,得到处理后图像,即去美化后图像。比如,如图8所示,以处理方式为针对“饱和度”的去美化操作为例,则此时得到的去美化后图像为针对“饱和度”进行去美化而得到的去美化后图像。
在得到处理后图像后,用户可以通过选择图像处理界面中的“确认”键来对保存该处理后图像,或者,也可以通过选择该图像处理界面中的其他功能键如“编辑”或“分享”等来进行其他操作,在此不作赘述。
需说明的是,图8中的图像处理界面仅仅为示例,应当理解的是,具体实施时,该图像处理界面的样式和功能键的设置可以根据实际应用的需求而定,在此不作赘述。
由上可知,本实施例在获取到携带有待处理图像和处理方式的图像处理请求后,可以调用处理方式对应的特征差异信息和图像生成算法,如美化生成器或去美化生成器,通过该美化生成器或去美化生成器对待处理图像进行特征提取,然后,将提取到的特征信息与特征差异信息进行融合,并基于融合后特征信息,根据美化生成器或去美化生成器生成图像,得到美化后图像或去美化图像;由于本申请实施例所调用的特征差异信息反映了预设图像样本对在目标参数(即当前需要调整的图像参数)上的差异,因此,在结合该特征差异信息来对待处理图像进行处理时,便可以有针对性地对该待处理图像的目标参数进行调整,从而实现对图像的各个参数如亮度、局部纹理或饱和度等进行局部调整、以及不同程度调整的目的,大大提高图像处理的灵活性。另外,由于采用了具有自我学习能力的对抗性生成网络,因此,相对于传统图像处理方案而言,在有效平衡光照、去除图像噪声以及增强清晰度上也能够达到更好地提高,使得得到的图像的处理效果更为自然,大大提高了图像的整体质量。
为了更好地实施以上方法,本申请实施例还提供一种图像处理装置,如图11所示,该图像处理装置可以包括获取单元301、算法调用单元302、信息调用单元303、提取单元304、融合单元305和生成单元306,如下:
(1)获取单元301;
获取单元301,用于获取图像处理请求。
例如,获取单元301,具体可以用于接收用户触发的图像处理请求,或者接收其他设备发送的图像处理请求。
其中,该图像处理请求指示待处理图像和处理方式,比如指示是对该待处理图像进行美化操作还是去美化操作,等等。
可选的,该处理方式在指示美化操作或去美化操作的同时,还可以指示针对具体的图像参数如亮度、对比度、饱和度、和/或局部纹理等进行美化操作或去美化操作,具体指示时,图像参数可以是单个,也可以是若干个,比如可以针对亮度进行美化操作或去美化操作,也可以针对亮度和饱和度进行美化操作或去美化操作,等等。
(2)算法调用单元302;
算法调用单元302,用于调用该处理方式对应的图像生成算法。
例如,该算法调用单元302,具体可以用于在该处理方式为美化操作时,调用训练后对抗性生成网络中的美化生成器;在该处理方式为去美化操作时,调用该训练后对抗性生成网络中的去美化生成器。
(3)信息调用单元303;
信息调用单元303,用于调用该处理方式对应的特征差异信息;
例如,该信息调用单元303可以包括参数确定子单元和信息获取子单元,其中:
该参数确定子单元,用于根据该处理方式确定当前需要调整的图像参数,得到目标参数。
该信息获取子单元,用于获取该目标参数对应的特征差异信息。
例如,该信息获取子单元,具体可以用于接收用户基于该目标参数触发的调整指令,该调整指令携带目标调整幅度;根据该调整指令,从预设特征差异集合中获取该目标调整幅度对应的特征差异信息,得到该目标参数对应的特征差异信息。
其中,该特征差异集合保存有多个图像参数、调整幅度、以及特征差异信息之间的映射关系,该映射关系可以由运维人员预先进行设置,也可以由其他设备预先建立之后提供给图像处理装置,或者,还可以由该图像处理装置自行进行建立,即可选的,该调用单元303还可以包括建立子单元,如下:
该建立子单元,用于获取多对图像样本对,计算图像样本对中图像样本之间在指定图像参数上的差异;筛选差异符合指定调整幅度的图像样本对作为候选样本对;计算该候选样本对中图像样本之间的特征差异,得到该指定图像参数对应的特征差异信息;建立该指定图像参数、指定调整幅度、以及该指定图像参数对应的特征差异信息之间的映射关系,将该映射关系保存至预设特征差异集合中。
其中,具体可以通过比对该候选样本对中图像样本之间的特征,来得到图像样本之间的特征差异,或者,也可以采用分类网络来计算该候选样本对中图像样本之间的特征差异。
可选的,除了可以从特征差异集合中获取特征差异信息之外,也可以在接收到调整指令时,直接获取合适的图像样本对,以计算其特征差异,即可选的,在本申请的一些实施例中,该信息获取子单元,具体可以用于:
接收用户基于该目标参数触发的调整指令,该调整指令携带目标调整幅度;根据该调整指令,获取多对图像样本对;计算图像样本对中图像样本之间在目标参数上的差异;筛选差异符合该目标调整幅度的图像样本对作为目标样本对;计算该目标样本对中图像样本之间的特征差异,得到该目标参数对应的特征差异信息。
其中,该目标调整幅度可以根据用户的喜好或需求而定,在此不再赘述。
(4)提取单元304;
提取单元304,用于通过该图像生成算法对该待处理图像进行特征提取,得到特征信息;
例如,以调用的图像生成算法为“美化生成器”为例,则此时,该提取单元304,具体用于通过该美化生成器的多个卷积层对该待处理图像进行特征提取,得到每层卷积层对应的特征信息;比如,具体可以通过该美化生成器编码模块的多个卷积层对该待处理图像进行特征提取,得到该美化生成器编码模块的每层卷积层对应的特征信息。
又例如,以调用的图像生成算法为“去美化生成器”为例,则此时,该提取单元304,具体用于通过该去美化生成器的多个卷积层对该待处理图像进行特征提取,得到每层卷积层对应的特征信息;比如,具体可以通过该去美化生成器编码模块的多个卷积层对该待处理图像进行特征提取,得到该去美化生成器编码模块的每层卷积层对应的特征信息。
(5)融合单元305;
融合单元305,用于将该特征信息与该特征差异信息进行融合,得到融合后特征信息;
例如,该融合单元305,具体可以用于将每层卷积层对应的特征信息与该特征差异信息进行连接,得到融合后特征信息,具体可以如下:
根据每层卷积层对应的特征信息的维度对该特征差异信息进行数组重塑,得到多个特征差异数组,将该多个特征差异数组与对应维度的特征信息进行连接,得到融合后特征信息,具体可参见前面的方法实施例,在此不作赘述。
(6)生成单元306;
生成单元306,用于基于融合后特征信息,根据该图像生成算法生成图像,得到处理后图像。
例如,该生成单元306,具体可以用于在该处理方式为美化操作时,通过美化生成器对该融合后特征信息进行解码,得到美化后图像;在该处理方式为去美化操作时,通过去美化生成器对该融合后特征信息进行解码,得到去美化后图像。
比如,生成单元306可以采用美化生成器的解码模块中对该融合后特征信息进行解码,得到美化后图像,或者,采用去美化生成器的解码模块中对该融合后特征信息进行解码,得到去美化后图像。
其中,该训练后对抗性生成网络可以由其他设备训练得到后迁移至该图像处理装置中,或者,也可以由该图像处理装置自行进行训练,即可选的,如图12所示,该图像处理装置还可以包括采集单元307、计算单元308和训练单元309,如下:
采集单元307,用于采集多对训练样本对,该训练样本对包括已美化图像样本和未美化图像样本。
计算单元308,用于计算该训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本。
训练单元309,用于根据该训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络。
其中,该对抗性生成网络至少可以包括两个串联的网络分支,每一网络分支均可以包括一个生成器和判别器,生成器和判别器的具体网络参数可以根据实际应用的需求进行设置。也就是说,该预设对抗性生成网络可以包括美化生成器、美化判别器、去美化生成器和去美化判别器,则训练单元309,具体可以用于:
通过预设对抗性生成网络中的美化生成器对未美化图像样本进行处理,得到美化对抗样本;采用该对抗性生成网络中的美化判别器,分别计算该美化对抗样本和已美化图像样本为真的概率,得到美化判别器的预测值;通过该对抗性生成网络中的去美化生成器对已美化图像样本进行处理,得到去美化对抗样本;采用该对抗性生成网络中的去美化判别器,分别计算该去美化对抗样本和未美化图像样本为真的概率,得到去美化判别器的预测值;根据该已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、美化判别器的预测值和去美化判别器的预测值对该对抗性生成网络进行收敛,得到训练后对抗性生成网络。
例如,该训练单元309,具体可以用于采用该对抗性生成网络中的美化判别器,计算该美化对抗样本为真的概率,得到第一概率;采用该对抗性生成网络中的美化判别器,计算该已美化图像样本为真的概率,得到第二概率;采用该对抗性生成网络中的去美化判别器,计算该去美化对抗样本为真的概率,得到第三概率;采用该对抗性生成网络中的去美化判别器,计算该未美化图像样本为真的概率,得到第四概率。
其中,对该对抗性生成网络进行收敛的方式可以有多种,比如,可以分别计算出生成器损失函数和判别器损失函数,然后,基于该生成器损失函数和判别器损失函数对该对抗性生成网络进行收敛,即可选的,该训练单元309,具体可以用于:
根据该已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、第一概率和第三概率计算生成器损失函数;根据该第一概率、第二概率、第三概率和第四概率计算判别器损失函数;基于该生成器损失函数和判别器损失函数对该对抗性生成网络进行收敛,得到训练后对抗性生成网络。
其中,生成器损失函数可以通过美化生成器的像素误差、去美化生成器的像素误差、美化生成器的循环误差、去美化生成器的循环误差、美化生成器的判别误差和去美化生成器的判别误差等构建而成,即训练单元309,具体可以用于:
根据该已美化图像样本和美化对抗样本计算美化生成器的像素误差;
根据该未美化图像样本和去美化对抗样本计算去美化生成器的像素误差;
根据该未美化图像样本和美化对抗样本计算美化生成器的循环误差;比如,具体可以采用该对抗性生成网络中的去美化生成器对该美化对抗样本进行处理,得到去美化重构样本,计算该去美化重构样本与未美化图像样本之间的误差,得到美化生成器的循环误差;
根据该已美化图像样本和去美化对抗样本计算去美化生成器的循环误差;比如,可以采用该对抗性生成网络中的美化生成器对该去美化对抗样本进行处理,得到美化重构样本,计算该美化重构样本与已美化图像样本之间的误差,得到去美化生成器的循环误差;
根据该第一概率计算美化生成器的判别误差;
根据该第三概率计算去美化生成器的判别误差;
根据该美化生成器的像素误差、去美化生成器的像素误差、美化生成器的循环误差、去美化生成器的循环误差、美化生成器的判别误差和去美化生成器的判别误差构建生成器损失函数。
具体实施时,以上各个单元可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个单元的具体实施可参见前面的方法实施例,在此不再赘述。
由上可知,本实施例在获取到携带有待处理图像和处理方式的图像处理请求后,可以由算法调用单元302和信息调用单元303分别调用处理方式对应的图像生成算法和特征差异信息,然后,由提取单元304利用该图像生成算法对待处理图像进行特征提取,再然后,由融合单元305将提取到的特征信息与特征差异信息进行融合,并由生成单元306基于融合后特征信息,根据图像生成算法生成图像,得到处理后图像;由于本申请实施例所调用的特征差异信息反映了预设图像样本对在目标参数上的差异,因此,在结合该特征差异信息来对待处理图像进行处理时,便可以有针对性地对该待处理图像的目标参数进行调整,从而实现对图像的各个参数进行局部调整、以及不同程度调整的目的,大大提高图像处理的灵活性,使得图像的处理效果更为自然,改善图像质量。
本申请实施例还提供一种电子设备,如图13所示,其示出了本申请实施例所涉及的电子设备的结构示意图,具体来讲:
该电子设备可以包括一个或者一个以上处理核心的处理器401、一个或一个以上计算机可读存储介质的存储器402、电源403和输入单元404等部件。本领域技术人员可以理解,图13中示出的电子设备结构并不构成对电子设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器401是该电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或执行存储在存储器402内的软件程序和/或模块,以及调用存储在存储器402内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。可选的,处理器401可包括一个或多个处理核心;优选的,处理器401可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器401中。
存储器402可用于存储软件程序以及模块,处理器401通过运行存储在存储器402的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器402可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储器402可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器402还可以包括存储器控制器,以提供处理器401对存储器402的访问。
电子设备还包括给各个部件供电的电源403,优选的,电源403可以通过电源管理系统与处理器401逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源403还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该电子设备还可包括输入单元404,该输入单元404可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,电子设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,电子设备中的处理器401会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器402中,并由处理器401来运行存储在存储器402中的应用程序,从而实现各种功能,如下:
获取图像处理请求,该图像处理请求指示待处理图像和处理方式;调用该处理方式对应的图像生成算法和特征差异信息;通过该图像生成算法对该待处理图像进行特征提取,得到特征信息;将该特征信息与该特征差异信息进行融合,得到融合后特征信息;基于融合后特征信息,根据该图像生成算法生成图像,得到处理后图像。
例如,若该处理方式为美化操作,则调用训练后对抗性生成网络中的美化生成器;而若在该处理方式为去美化操作,则调用该训练后对抗性生成网络中的去美化生成器。
其中,该训练后对抗性生成网络可以由其他设备训练得到后迁移至该图像处理装置中,或者,也可以由该电子设备自行进行训练,即处理器401还可以运行存储在存储器402中的应用程序,从而实现以下功能:
采集多对训练样本对,该训练样本对包括已美化图像样本和未美化图像样本,计算该训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本,根据该训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络。
以上各个操作的具体实施可参见前面的实施例,在此不作赘述。
由上可知,本实施例的电子设备在获取到携带有待处理图像和处理方式的图像处理请求后,可以调用处理方式对应的图像生成算法和特征差异信息,通过该图像生成算法对待处理图像进行特征提取,然后,将提取到的特征信息与特征差异信息进行融合,并基于融合后特征信息,根据图像生成算法生成图像,得到处理后图像;由于本申请实施例所调用的特征差异信息反映了预设图像样本对在目标参数上的差异,因此,在结合该特征差异信息来对待处理图像进行处理时,便可以有针对性地对该待处理图像的目标参数进行调整,从而实现对图像的各个参数进行局部调整、以及不同程度调整的目的,大大提高图像处理的灵活性,使得图像的处理效果更为自然,改善图像质量。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本申请实施例提供一种存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本申请实施例所提供的任一种虚拟资源的转移方法中的步骤。例如,该指令可以执行如下步骤:
获取图像处理请求,该图像处理请求指示待处理图像和处理方式;调用该处理方式对应的图像生成算法和特征差异信息;通过该图像生成算法对该待处理图像进行特征提取,得到特征信息;将该特征信息与该特征差异信息进行融合,得到融合后特征信息;基于融合后特征信息,根据该图像生成算法生成图像,得到处理后图像。
例如,若该处理方式为美化操作,则调用训练后对抗性生成网络中的美化生成器;而若在该处理方式为去美化操作,则调用该训练后对抗性生成网络中的去美化生成器。
其中,该训练后对抗性生成网络可以由其他设备训练得到后迁移至该图像处理装置中,或者,也可以由该电子设备自行进行训练,即该指令还可以执行如下步骤:
采集多对训练样本对,该训练样本对包括已美化图像样本和未美化图像样本,计算该训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本,根据该训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令,可以执行本申请实施例所提供的任一种图像处理方法中的步骤,因此,可以实现本申请实施例所提供的任一种图像处理方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请实施例所提供的一种图像处理方法、装置、电子设备和系统进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (13)
1.一种图像处理方法,其特征在于,包括:
获取图像处理请求,所述图像处理请求指示待处理图像和处理方式;
调用所述处理方式对应的图像生成算法和特征差异信息;其中在所述处理方式为美化操作时,调用训练后对抗性生成网络中的美化生成器;在处理方式为去美化操作时,调用所述训练后对抗性生成网络中的去美化生成器;
通过所述美化生成器的多个卷积层,或去美化生成器的多个卷积层对所述待处理图像进行特征提取,得到每层卷积层对应的特征信息;
将每层卷积层对应的特征信息与所述特征差异信息进行连接,得到融合后特征信息;
基于融合后特征信息,根据所述图像生成算法生成图像,得到处理后图像。
2.根据权利要求1所述的方法,其特征在于,调用所述处理方式对应的特征差异信息,包括:
根据所述处理方式确定当前需要调整的图像参数和调整幅度,得到目标参数;
获取所述目标参数对应的特征差异信息。
3.根据权利要求2所述的方法,其特征在于,所述获取所述目标参数对应的特征差异信息,包括:
接收用户基于所述目标参数触发的调整指令,所述调整指令携带目标调整幅度;
根据所述调整指令,从预设特征差异集合中获取所述目标调整幅度对应的特征差异信息,得到所述目标参数对应的特征差异信息。
4.根据权利要求3所述的方法,其特征在于,所述根据所述调整指令,从预设特征差异集合中获取所述目标调整幅度对应的特征差异信息之前,还包括:
获取多对图像样本对,计算图像样本对中图像样本之间在指定图像参数上的差异;
筛选差异符合指定调整幅度的图像样本对作为候选样本对;
计算所述候选样本对中图像样本之间的特征差异,得到所述指定图像参数对应的特征差异信息;
建立所述指定图像参数、指定调整幅度、以及所述指定图像参数对应的特征差异信息之间的映射关系,将所述映射关系保存至预设特征差异集合中。
5.根据权利要求2所述的方法,其特征在于,所述获取所述目标参数对应的特征差异信息,包括:
接收用户基于所述目标参数触发的调整指令,所述调整指令携带目标调整幅度;
根据所述调整指令,获取多对图像样本对;
计算图像样本对中图像样本之间在目标参数上的差异;
筛选差异符合所述目标调整幅度的图像样本对作为目标样本对;
计算所述目标样本对中图像样本之间的特征差异,得到所述目标参数对应的特征差异信息。
6.根据权利要求1所述的方法,其特征在于,所述将每层卷积层对应的特征信息与所述特征差异信息进行连接,得到融合后特征信息,包括:
根据每层卷积层对应的特征信息的维度对所述特征差异信息进行数组重塑,得到多个特征差异数组;
将所述多个特征差异数组与对应维度的特征信息进行连接,得到融合后特征信息。
7.根据权利要求1所述的方法,其特征在于,所述调用所述处理方式对应的图像生成算法和特征差异信息之前,还包括:
采集多对训练样本对,所述训练样本对包括已美化图像样本和未美化图像样本;
计算所述训练样本对中已美化图像样本与未美化图像样本之间的特征差异,得到特征差异样本;
根据所述训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络。
8.根据权利要求7所述的方法,其特征在于,所述预设对抗性生成网络包括美化生成器、美化判别器、去美化生成器和去美化判别器,所述根据所述训练样本对和特征差异样本对预设对抗性生成网络进行训练,得到训练后对抗性生成网络,包括:
通过预设对抗性生成网络中的美化生成器对未美化图像样本进行处理,得到美化对抗样本;
采用所述对抗性生成网络中的美化判别器,分别计算所述美化对抗样本和已美化图像样本为真的概率,得到美化判别器的预测值;
通过所述对抗性生成网络中的去美化生成器对已美化图像样本进行处理,得到去美化对抗样本;
采用所述对抗性生成网络中的去美化判别器,分别计算所述去美化对抗样本和未美化图像样本为真的概率,得到去美化判别器的预测值;
根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、美化判别器的预测值和去美化判别器的预测值对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络。
9.根据权利要求8所述的方法,其特征在于,
所述采用所述对抗性生成网络中的美化判别器,分别计算所述美化对抗样本和已美化图像样本为真的概率,得到美化判别器的预测值,包括:采用所述对抗性生成网络中的美化判别器,计算所述美化对抗样本为真的概率,得到第一概率;采用所述对抗性生成网络中的美化判别器,计算所述已美化图像样本为真的概率,得到第二概率;
所述采用所述对抗性生成网络中的去美化判别器,分别计算所述去美化对抗样本和未美化图像样本为真的概率,得到去美化判别器的预测值,包括:采用所述对抗性生成网络中的去美化判别器,计算所述去美化对抗样本为真的概率,得到第三概率;采用所述对抗性生成网络中的去美化判别器,计算所述未美化图像样本为真的概率,得到第四概率。
10.根据权利要求9所述的方法,其特征在于,所述根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、美化判别器的预测值和去美化判别器的预测值对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络,包括:
根据所述已美化图像样本、未美化图像样本、美化对抗样本、去美化对抗样本、第一概率和第三概率计算生成器损失函数;
根据所述第一概率、第二概率、第三概率和第四概率计算判别器损失函数;
基于所述生成器损失函数和判别器损失函数对所述对抗性生成网络进行收敛,得到训练后对抗性生成网络。
11.一种图像处理装置,其特征在于,包括:
获取单元,用于获取图像处理请求,所述图像处理请求指示待处理图像和处理方式;
算法调用单元,用于调用所述处理方式对应的图像生成算法;其中在所述处理方式为美化操作时,调用训练后对抗性生成网络中的美化生成器;在处理方式为去美化操作时,调用所述训练后对抗性生成网络中的去美化生成器;
信息调用单元,用于调用所述处理方式对应的特征差异信息;
提取单元,用于通过所述美化生成器的多个卷积层,或去美化生成器的多个卷积层对所述待处理图像进行特征提取,得到每层卷积层对应的特征信息;
融合单元,用于将每层卷积层对应的特征信息与所述特征差异信息进行连接,得到融合后特征信息;
生成单元,用于基于融合后特征信息,根据所述图像生成算法生成图像,得到处理后图像。
12.一种电子设备,其特征在于,包括存储器和处理器;所述存储器存储有应用程序,所述处理器用于运行所述存储器内的应用程序,以执行权利要求1至10任一项所述的图像处理方法中的操作。
13.一种存储介质,其特征在于,所述存储介质存储有多条指令,所述指令适于处理器进行加载,以执行权利要求1至10任一项所述的图像处理方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910420510.7A CN110211063B (zh) | 2019-05-20 | 2019-05-20 | 一种图像处理方法、装置、电子设备和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910420510.7A CN110211063B (zh) | 2019-05-20 | 2019-05-20 | 一种图像处理方法、装置、电子设备和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110211063A CN110211063A (zh) | 2019-09-06 |
CN110211063B true CN110211063B (zh) | 2021-06-08 |
Family
ID=67787722
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910420510.7A Active CN110211063B (zh) | 2019-05-20 | 2019-05-20 | 一种图像处理方法、装置、电子设备和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110211063B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111292262B (zh) * | 2020-01-19 | 2023-10-13 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、电子设备以及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012000800A1 (en) * | 2010-06-30 | 2012-01-05 | DigitalOptics Corporation Europe Limited | Eye beautification |
CN106600524A (zh) * | 2016-11-23 | 2017-04-26 | 深圳市金立通信设备有限公司 | 一种图像处理方法及终端 |
CN107798652A (zh) * | 2017-10-31 | 2018-03-13 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、可读存储介质和电子设备 |
CN109447958A (zh) * | 2018-10-17 | 2019-03-08 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、存储介质及计算机设备 |
CN109658360A (zh) * | 2018-12-25 | 2019-04-19 | 北京旷视科技有限公司 | 图像处理的方法、装置、电子设备和计算机存储介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140369554A1 (en) * | 2013-06-18 | 2014-12-18 | Nvidia Corporation | Face beautification system and method of use thereof |
CN109255761B (zh) * | 2018-08-23 | 2021-06-25 | 北京乐蜜科技有限责任公司 | 一种图像处理方法、装置及电子设备 |
CN109389562B (zh) * | 2018-09-29 | 2022-11-08 | 深圳市商汤科技有限公司 | 图像修复方法及装置 |
-
2019
- 2019-05-20 CN CN201910420510.7A patent/CN110211063B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012000800A1 (en) * | 2010-06-30 | 2012-01-05 | DigitalOptics Corporation Europe Limited | Eye beautification |
CN106600524A (zh) * | 2016-11-23 | 2017-04-26 | 深圳市金立通信设备有限公司 | 一种图像处理方法及终端 |
CN107798652A (zh) * | 2017-10-31 | 2018-03-13 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、可读存储介质和电子设备 |
CN109447958A (zh) * | 2018-10-17 | 2019-03-08 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、存储介质及计算机设备 |
CN109658360A (zh) * | 2018-12-25 | 2019-04-19 | 北京旷视科技有限公司 | 图像处理的方法、装置、电子设备和计算机存储介质 |
Non-Patent Citations (2)
Title |
---|
Adaptive Enhancement for non-uniform illumination Images via Pixel-wise Histogram Modification and Color Reconstruction;Yanfang Wang et al;《2018 IEEE 3rd International Conference on Signal and Image Processing (ICSIP)》;20190103;220-224 * |
一种基于样例图片的数字人脸化妆技术;甄蓓蓓;《中国优秀硕士学位论文全文数据库(电子期刊)信息科技辑》;20120415;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110211063A (zh) | 2019-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107025457B (zh) | 一种图像处理方法和装置 | |
CN110473141B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN109584178A (zh) | 图像修复方法、装置和存储介质 | |
JP7342062B2 (ja) | 画像処理方法、装置、電子機器及び記憶媒体 | |
CN116109798B (zh) | 图像数据处理方法、装置、设备及介质 | |
JP2022504292A (ja) | 画像処理方法、装置、デバイスおよびコンピュータプログラム | |
CN110222573A (zh) | 人脸识别方法、装置、计算机设备及存储介质 | |
CN112418292B (zh) | 一种图像质量评价的方法、装置、计算机设备及存储介质 | |
CN111598051B (zh) | 一种脸部验证方法、装置、设备及可读存储介质 | |
CN114820871B (zh) | 字体生成方法、模型的训练方法、装置、设备和介质 | |
CN113570689B (zh) | 人像卡通化方法、装置、介质和计算设备 | |
US20220335685A1 (en) | Method and apparatus for point cloud completion, network training method and apparatus, device, and storage medium | |
CN109978077A (zh) | 视觉识别方法、装置和系统及存储介质 | |
CN110119746A (zh) | 一种特征识别方法及装置、计算机可读存储介质 | |
CN111784818A (zh) | 生成三维人体模型的方法、装置及计算机可读存储介质 | |
CN113255551A (zh) | 一种人脸编辑器的训练、人脸编辑、直播方法及相关装置 | |
CA3137297A1 (en) | Adaptive convolutions in neural networks | |
CN115131849A (zh) | 图像生成方法以及相关设备 | |
CN110211063B (zh) | 一种图像处理方法、装置、电子设备和系统 | |
CN111932365B (zh) | 一种基于区块链的金融征信系统及方法 | |
JP2021086462A (ja) | データ生成方法、データ生成装置、モデル生成方法、モデル生成装置及びプログラム | |
CN109376627A (zh) | 一种基于深度学习的人脸检测方法,装置和设备 | |
CN115082624A (zh) | 一种人体模型构建方法、装置、电子设备及存储介质 | |
CN115019057A (zh) | 图像特征提取模型确定方法及装置、图像识别方法及装置 | |
CN114943799A (zh) | 一种面部图像处理方法、装置和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |