CN114187173A - 模型训练方法、图像处理方法及装置、电子设备、介质 - Google Patents

Abstract

本公开实施例是关于一种模型训练方法、图像处理方法及装置、电子设备、存储介质，涉及图像处理技术领域，该模型训练方法包括：根据样本图像对生成器进行训练，获取训练好的生成器；基于样本图像对编码器进行训练，获取训练好的编码器；基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，并根据所述训练好的生成器、训练好的编码器以及所述风格化生成器获取风格化模型。本公开的技术方案能够提高模型训练效率以及模型的准确性。

Description

模型训练方法、图像处理方法及装置、电子设备、介质

技术领域

本公开涉及图像处理技术领域，具体而言，涉及一种模型训练方法、图像处理方法、模型训练装置、图像处理装置、电子设备以及计算机可读存储介质。

背景技术

在图像处理过程中，可以对人脸图像进行风格化处理，以实现多样性处理。

相关技术中，一般采用端到端的风格化模型对人脸图像进行风格化处理，或者是采用3D建模技术创建的人脸风格化三维模型来进行风格化处理。

上述方式中，在训练风格化模型时需要大量的风格化图像数据，但是大量的风格化图像数据难获取，因此模型的准确性较低，导致得到的风格化图像准确性较低。基于3D建模技术的人脸风格化方法的操作步骤复杂，并且鲁棒性较差。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种模型训练方法、图像处理方法及装置、电子设备、存储介质，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的模型准确性较低的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种模型训练方法，包括：根据样本图像对生成器进行训练，获取训练好的生成器；基于样本图像对编码器进行训练，获取训练好的编码器；基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，并根据所述训练好的生成器、训练好的编码器以及所述风格化生成器获取风格化模型。

根据本公开的一个方面，提供一种图像处理方法，包括：获取待处理图像；基于风格化模型对所述待处理图像进行特征提取得到所述待处理图像的特征向量，并根据所述特征向量生成所述待处理图像的风格化图像；所述风格化模型由上述任意一项所述的模型训练方法训练得到。

根据本公开的一个方面，提供一种模型训练装置，包括：生成器训练模块，用于根据样本图像对生成器进行训练，获取训练好的生成器；编码器训练模块，用于基于样本图像对编码器进行训练，获取训练好的编码器；风格化生成器训练模块，用于基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，并根据所述训练好的生成器、训练好的编码器以及所述风格化生成器获取风格化模型。

根据本公开的一个方面，提供一种图像处理装置，包括：图像获取模块，用于获取待处理图像；图像生成模块，用于基于风格化模型对所述待处理图像进行特征提取得到所述待处理图像的特征向量，并根据所述特征向量生成所述待处理图像的风格化图像；所述风格化模型根据上述任意一项所述的模型训练方法训练得到。

根据本公开的一个方面，提供一种电子设备，包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的模型训练方法或上述任意一项所述的图像处理方法。

根据本公开的一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的模型训练方法或上述任意一项所述的图像处理方法。

根据本公开的一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的模型训练方法或上述任意一项所述的图像处理方法。

本公开实施例中提供的模型训练方法、模型训练装置、图像处理方法、图像处理装置、电子设备以及计算机可读存储介质中，一方面，由于可以基于风格样本图像对训练好的生成器进行训练生成风格化生成器，只需要对模型的部分结构进行微调，不需要对整个模型进行重新训练，减少了模型训练的范围，简化了模型训练的操作步骤，提高了模型训练效率。另一方面，避免了训练模型时需要的大量真实数据而导致的模型训练存在局限性的问题，减少了操作步骤，也减少了训练过程需要的计算资源，并且提高了模型训练效率。再一方面，可以通过不同类型的风格样本图像对训练好的生成器进行微调得到与每种类型对应的风格化生成器，进而得到风格化模型，提高了模型的灵活性和可扩展性，降低了训练成本，提高了模型稳定性和鲁棒性。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出了可以应用本公开实施例的模型训练方法或图像处理方法的系统架构的示意图。

图2示出了适于用来实现本公开实施例的电子设备的结构示意图。

图3示意性示出本公开实施例中一种模型训练方法的示意图。

图4示意性示出本公开实施例中训练编码器的示意图。

图5示意性示出本公开实施例中图像处理方法的示意图。

图6示意性示出本公开实施例中确定特征向量的流程示意图。

图7示意性示出本公开实施例中生成风格化图像的流程示意图。

图8示意性示出本公开实施例中一种模型训练装置的框图。

图9示意性示出本公开实施例中图像处理装置的框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

本公开实施例中提供了一种模型训练方法，可以应用于对人脸图像进行风格化处理的应用场景。

图1示出了可以应用本公开实施例的模型训练方法及装置或图像处理方法及装置的系统架构的示意图。

如图1所示，系统架构100可以包括客户端101、网络102、服务器103。其中，客户端可以为客户端，例如可以为智能手机、电脑、平板电脑智能音箱等终端。网络102用以在客户端101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线通信链路、无线通信链路等等，在本公开实施例中，客户端101和服务器103之间的网络102可以是有线通信链路，例如可以通过串口连接线提供通信链路，也可以是无线通信链路，通过无线网络提供通信链路。服务器103可以是具有计算功能的服务器或者是客户端，例如便携式计算机、台式计算机、智能手机等具有计算功能的终端设备，用于对客户端发送的图像进行模型训练以及进行图像处理。

该模型训练方法可以应用于对图像进行风格化处理的模型的训练场景中。参考图1中所示，具体可以应用于使用客户端101将样本图像104发送至服务器103，服务器103对从客户端上获取到的样本图像进行特征提取从而训练模型的过程中。其中，客户端可以是各种类型的具有计算功能的设备，例如可以为智能手机、平板电脑、台式计算机、车载设备、可穿戴设备等等。样本图像可以为各种类型的图像，例如人脸图像。

服务器103可以利用客户端101发送的样本图像训练生成器，进一步训练编码器，并且可以基于另一类型的风格样本图像对训练好的生成器再次进行训练，以根据训练好的编码器、训练好的生成器以及风格化生成器共同组成风格化模型。

进一步地，当服务器103接收到由客户端101发送的需要进行风格化处理的待处理图像时，可以使用编码器以及风格化模型中的风格化生成器来对待处理图像进行图像处理，以得到对应的风格化图像。并且可以将风格化图像发送至客户端101，以进行显示和其他处理操作。

需要说明的是，本公开实施例所提供的模型训练方法以及图像处理方法可以完全由服务器来执行。相应地，模型训练装置和图像处理装置可设置于服务器中。

图2示出了适于用来实现本公开示例性实施方式的电子设备的示意图。本公开的终端可以被配置为如图2所示电子设备的形式，然而，需要说明的是，图2示出的电子设备仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

本公开的电子设备至少包括处理器和存储器，存储器用于存储一个或多个程序，当一个或多个程序被处理器执行时，使得处理器可以实现本公开示例性实施方式的方法。

具体的，如图2所示，电子设备200可以包括：处理器210、内部存储器221、外部存储器接口222、通用串行总线(Universal Serial Bus，USB)接口230、充电管理模块240、电源管理模块241、电池242、天线1、天线2、移动通信模块250、无线通信模块260、音频模块270、扬声器271、受话器272、麦克风273、耳机接口274、传感器模块280、显示屏290、摄像模组291、指示器292、马达293、按键294以及用户标识模块(Subscriber IdentificationModule，SIM)卡接口295等。其中传感器模块280可以包括深度传感器、压力传感器、陀螺仪传感器、气压传感器、磁传感器、加速度传感器、距离传感器、接近光传感器、指纹传感器、温度传感器、触摸传感器、环境光传感器及骨传导传感器等。

可以理解的是，本申请实施例示意的结构并不构成对电子设备200的具体限定。在本申请另一些实施例中，电子设备200可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件、软件或软件和硬件的组合实现。

处理器210可以包括一个或多个处理单元，例如：处理器210可以包括应用处理器、调制解调处理器、图形处理器、图像信号处理器、控制器、视频编解码器、数字信号处理器、基带处理器和/或神经网络处理器(Neural-etwork Processing Unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。另外，处理器210中还可以设置存储器，用于存储指令和数据。本示例性实施方式中的模型训练方法可以由应用处理器、图形处理器或图像信号处理器来执行，当方法涉及到神经网络相关的处理时，可以由NPU来执行。

内部存储器221可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。内部存储器221可以包括存储程序区和存储数据区。外部存储器接口222可以用于连接外部存储卡，例如Micro SD卡，实现扩展电子设备200的存储能力。

移动终端200的通信功能可以通过移动通信模块、天线1、无线通信模块、天线2、调制解调处理器以及基带处理器等实现。天线1和天线2用于发射和接收电磁波信号。移动通信模块可以提供应用在移动终端200上2G、3G、4G、5G等移动通信解决方案。无线通信模块可以提供应用在移动终端200上的无线局域网、蓝牙、近场通信等无线通信解决方案。

显示屏用于实现显示功能，如显示用户界面、图像、视频等。摄像模块用于实现拍摄功能，如拍摄图像、视频等。音频模块用于实现音频功能，如播放音频，采集语音等。电源模块用于实现电源管理功能，如为电池充电、为设备供电、监测电池状态等。

本申请还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如下述实施例中所述的方法。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

接下来，参考图3对本公开实施例中的模型训练方法进行详细说明。

在步骤S310中，根据样本图像对生成器进行训练，获取训练好的生成器。

本公开实施例中，样本图像可以为人脸图像，也可以为风景等任何类型的图像，此处以样本图像为人脸图像为例进行说明。人脸图像可以为任何类型的人脸图像，例如彩色人脸图像或者是黑白人脸图像。人脸图像可以为多种应用场景下的人脸图像。多种应用场景可以包括但不限于不同人群、表情、姿态、光照以及所处环境。并且，人脸图像指的是真实人脸图像，即直接根据摄像头采集到的人脸或者是从网络、存储器或者是终端的相册等位置中获取到的未经过任何图像处理操作的人脸图像。

生成器可以为GAN(Generative Adversarial Networks，生成式对抗网络)，生成器是一种能够生成新内容的生成模型，可以用于生成合成训练数据、创建艺术、风格转换、图像到图像的翻译等应用场景。生成式对抗网络由2个网络组成，即用于生成样本的生成器和鉴别器。用于生成样本的生成器尝试生成假样本，并欺骗鉴别器相信生成的样本是真实样本。鉴别器用于从真样本和假样本中检测生成的样本。

本公开实施例中，生成器可以用于表示潜向量(特征向量)到人脸图像的映射。具体地，生成器可以为GAN(Generative Adversarial Network，生成对抗网络)，例如可以为styleGAN2模型，该模型中包括生成器和判别器两部分。生成器可以包括输入层、卷积层、池化层、全连接层、输出层等等。

为了得到准确的生成器，可以基于样本图像对生成器进行训练，得到训练后的生成器。其中，可以采用生成对抗方式对生成器进行训练。在进行生成器训练时，对所述样本图像进行特征提取，以确定所述样本图像的特征向量；通过生成式对抗网络中的生成器将样本图像的特征向量进行映射，获取预测样本图像；根据鉴别器对样本图像与预测样本图像进行判别操作以对生成器进行训练，得到训练好的生成器。具体地，通过所述生成式对抗网络中的判别器进行判别操作，以确定预测样本图像是否为真实图像即判断预测样本图像的真假。假如输入的是真样本，鉴别器输出就接近1；输入的是假样本，鉴别器输出接近0。进一步地，以样本图像和预测样本图像之间的差别最小为训练目标，使用生成器和判别器对模型参数进行调整，直到判别器分不出预测样本图像是真实图像的还是生成器生成的图像为止，完成整个生成器的训练过程。

基于此，可在真实人脸数据集上训练styleGAN2模型，也可使用开源的预训练好的styleGAN2模型。训练styleGAN2需要大量的真实人脸图像数据，基于对抗生成的方式对生成器进行训练，使得生成器能够生成人脸逼真的图像，提高生成器的准确性，并且提高生成器生成的图像的精准性。

在步骤S320中，基于样本图像对编码器进行训练，获取训练好的编码器。

本公开实施例中，样本图像可以为真实人脸图像，例如真实人脸数据集中的人脸数据。编码器可以为残差网络结构。残差网络结构由多个残差块组成，且残差块分为直接映射部分和残差部分，残差部分一般由多个卷积操作构成。

在训练编码器时，可以结合训练好的生成器来进行编码器训练。其中，结合训练好的生成器进行编码器训练时，可以参考训练好的生成器的参数进行训练。参考训练好的生成器的参数指的是固定训练好的生成器的参数，使其在训练编码器的过程中保持不变。具体地，在编码器的训练过程中，将编码器与训练好的生成器进行连接，并且固定训练好的生成器的参数来对编码器进行训练。参考图4中所示，固定训练好的生成器403的参数，根据样本图像402对编码器401进行训练，得到训练好的编码器404。生成器可以位于编码器的下游，即编码器后接训练好的生成器。

基于此，可通过固定训练好的生成器的参数，以最小化重建误差为训练目标，对编码器进行训练，获取训练好的编码器。最小化重建误差为最小化人脸重构误差，用于表示将输入图像和输出图像的误差进行最小化。输入图像指的是输入至编码器的样本图像所代表的真实人脸图像。由于编码器与训练好的生成器连接，而生成器用于生成图像，因此输出图像指的是由训练好的生成器生成的与样本图像对应的人脸图像。该人脸图像可以与样本图像相同或者是不同，此处不作限定。具体处理过程包括：通过编码器对样本图像进行特征提取，以获取样本图像的特征向量；通过训练好的生成器对样本图像的特征向量进行解码，以实现样本图像的特征向量到人脸图像的映射，从而生成与样本图像对应的人脸图像。在获取样本图像的特征向量时，也可以先提取出一个512维的主样本特征向量。与此同时，还可以在主样本特征向量的基础上获取多个偏移样本向量。具体地，可以对主样本特征向量的数值进行调整以得到N-1个偏移样本向量。进一步地，可以将主样本特征向量以及偏移样本特征向量进行融合得到样本图像的多个特征向量。

基于此，可以计算输出图像与输入图像之间的误差，并将该误差进行最小化。其中，可以计算输出图像与输入图像之间的相似性来确定二者之间的误差。进一步地，可以最小化人脸重构误差为训练目标，对编码器进行训练得到训练好的编码器。训练好的编码器为图像到向量的映射，能够获得表征人脸特征的潜向量，即特征向量。

需要说明的是，也可以用transformer来构建编码器及生成器，只要能够实现对应功能即可，此处不作限定。

本公开实施例中，通过结合训练好的生成器来对编码器进行训练，能够提高编码器的准确率。

继续参考图3中所示，在步骤S330中，基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，并根据所述训练好的生成器、训练好的编码器以及所述风格化生成器获取风格化模型。

本公开实施例中，风格样本图像指的是对样本图像经过图像处理的图像。图像处理可以为风格转换处理，具体可以包括但不限于卡通化处理或者是其他风格渲染处理，以转换样本图像的风格。风格样本图像指的是每一个目标风格对应的样本图像，即风格样本图像中所有图像的风格均相同。目标风格可以根据实际需求而确定，例如目标风格可以为卡通风格。并且，对于每一个目标风格而言，其均可以存在与该目标风格对应的风格样本图像。例如，当目标风格为卡通化时，风格样本图像为卡通样本图像；当目标风格为游戏风格时，风格样本图像为游戏样本图像。

在获取到风格样本图像后，可以结合训练好的生成器来进行模型训练，得到风格化生成器。即，可以根据风格样本图像对训练好的生成器的模型参数进行调整，获取风格化生成器。

风格样本图像与样本图像之间可能存在相似性，因此在进行风格化模型训练时，可以保留生成器的体系结构和生成器的初始权重，然后使用在训练好的生成器中的权重来重新对训练好的生成器进行训练。或者是对训练好的生成器的部分权重进行调整。

在训练风格化生成器时，可以使用与生成器相同的训练方式，例如采用对抗生成的方式，来对训练好的生成器的参数进行调整，直至判别器分不出预测的风格样本图像是真实图像的还是生成器生成的图像为止，完成整个风格化生成器的训练过程。由于风格化生成器是结合风格样本图像对训练好的生成器进行微调而得到，因此不同类型的风格样本图像所对应的风格化生成器均不同。

在得到某一种风格对应的风格化生成器后，如果需要生成新风格图像，则使用新风格对应的风格样本数据对当前风格化生成器进行参数调整，即可得到新风格对应的风格化生成器。在此过程中，生成器以及编码器可以复用，不需要对生成器以及编码器进行训练，只要调整风格化生成器的参数即可，减少了模型训练时的操作。

进一步地，可以将训练好的生成器、训练好的编码器以及所述风格化生成器进行组合，获取风格化模型。在进行组合时，编码器可以与生成器连接，进一步生成器与风格化生成器连接。

本公开实施例中，由于将风格化模型划分为多个模块，对于任何一种新风格，根据新风格对应的风格样本图像对训练好的生成器进行微调即可得到对应的风格化生成器，只需要完成风格化生成器的训练，而不需要更改生成器以及编码器的参数，无需对编码器和生成器再次进行训练。相比于相关技术中而言，只需要对模型的部分结构进行微调，不需要对整个模型进行重新训练，减少了模型训练的范围，简化了模型训练的操作步骤，提高了模型训练效率。另外，避免了训练模型时需要的大量真实数据而导致的模型训练存在局限性的问题，减少了模型的误差，提高了模型的准确性。除此之外，可以通过不同类型的风格样本图像对训练好的生成器进行微调得到与每种类型对应的风格化生成器，进而得到风格化模型，提高了模型的灵活性和可扩展性，降低了训练成本，只需要几百张风格化图像即可训练出风格化模型，提高了模型稳定性和鲁棒性。

本公开实施例中，还提供了一种图像处理方法，参考图5中所示，主要包括以下步骤：

在步骤S510中，获取待处理图像；

在步骤S520中，基于风格化模型对所述待处理图像进行特征提取得到特征向量，并根据所述特征向量生成所述待处理图像的风格化图像；所述风格化模型由上述任意一项所述的模型训练方法训练得到。

本公开实施例中，待处理图像可以为任何类型的图像，具体可以为人脸图像或者是其他类型的图像等等。人脸图像可以为任何类型的人脸图像，例如彩色人脸图像或者是黑白人脸图像。人脸图像可以为多种应用场景下的人脸图像。基于此，待处理图像可以为真实人脸图像，即直接根据摄像头采集到的人脸或者是从网络、存储器或者是终端的相册等位置中获取到的未经过任何图像处理操作的人脸图像。待处理图像可以为一个图像或者是一批图像，此处不作限定。当待处理图像为一批图像时，可以基于风格化模型进行批量处理，以提高图像处理效率。

接下来，可以使用风格化模型对待处理图像进行风格化处理，得到与待处理图像对应的风格化图像。如果事先确定了目标风格，则风格化模型为与目标风格对应的模型。在对待处理图像进行风格化处理时，可以对待处理图像进行特征提取得到特征向量，进一步可以对特征向量进行图像生成，获取风格化图像。

其中，可以使用风格化模型中的训练好的编码器和风格化生成器来进行风格化处理。具体地，可以使用训练好的编码器对待处理图像进行特征提取得到特征向量，进一步采用风格化生成器对特征向量进行图像生成，实现特征向量到人脸图像的映射操作，从而获取风格化图像。

训练好的编码器为图像到向量的映射，能够获得表征人脸特征的潜向量，即特征向量。图6中示意性示出了确定特征向量的流程图，参考图6中所示，主要包括以下步骤：

在步骤S610中，对所述待处理图像进行特征提取，获取一个主特征向量以及多个偏移向量；

在步骤S620中，将所述主特征向量以及所述多个偏移向量进行融合，得到所述特征向量。

本公开实施例中，特征向量的数量可以为N个，且每一个特征向量都是512维向量。在提取N个特征向量的过程中，可以先提取出一个512维的主特征向量。与此同时，还可以在主特征向量的基础上获取多个偏移向量。具体地，可以对主特征向量进行调整以得到多个偏移向量。调整方式可以为对主特征向量增加数值或减少数值，偏移向量的数量可以为特征向量的数量减去主特征向量的数量，例如可以为N-1个。

进一步地，可以将主特征向量以及偏移特征向量进行融合得到多个特征向量。具体地，可以对主特征向量和偏移向量进行加法操作得到N-1个偏移向量对应的特征向量，并将主特征向量与偏移向量对应的特征向量进行组合得到多个特征向量，即N个特征向量。

参考图7中所示的生成风格化图像的流程图，待处理图像701经过编码器702进行特征提取，获取到一个主特征向量7021以及N-1个偏移向量7022，进一步将主特征向量7021以及N-1个偏移向量7022进行加法操作，得到N-1个特征向量7023，将主特征向量7021以及N-1个特征向量7023进行组合，得到N个特征向量7024。

本公开实施例中，通过特征提取得到一个主特征向量，并对主特征向量进行调整得到多个偏移向量，进而根据主特征向量以及偏移向量进行融合获取到特征向量，能够提高特征向量的准确性和全面性，也能够提高获取特征向量的效率。

在获取到特征向量之后，可以将特征向量输入至风格化生成器，以使风格化生成器对特征向量实现潜向量到风格化人脸图像的映射，从而获取待处理图像对应的风格化图像。具体地，可以根据风格化生成器，例如风格化的styleGAN2模型对特征向量进行卷积操作，并基于特征向量控制待处理图像在不同层次不同级别的视觉特征，使得风格化生成器能够从不同级别生成风格化图像。例如，当待处理图像为人脸图像时，风格化生成器的前几层将控制第一级别的细节，例如头部形状、姿势和发型。最后几层将控制第二级别，例如头发和眼睛的颜色。其中，第一级别大于第二级别，且第一级别的精细度小于第二级别。

参考图7中所示，风格化生成器705由训练好的生成器703通过参数微调而得到，训练好的生成器703可以用于生成图像704。图像704可以为待处理图像701对应的图像。进一步地，可以将编码器部分输出的N个特征向量7024输入至风格化生成器705中，生成待处理图像701对应的风格化图像706。

本公开实施例中，使用风格化模型中包含的训练好的编码器以及风格化生成器解码即可将人脸图像进行风格化。对于新风格，编码器和生成器部分可复用，无需再次训练编码器和生成器部分，只需在新的风格化人脸数据上微调风格化生成器即可。因此该方案灵活性高且易扩展，增加了应用范围。生成的风格化人脸质量高，既能保留原人脸图像的重要特征又能具备风格化(如日漫、卡通、游戏化)的视觉特征，提高了生成的风格化图像的准确性和图像质量。

本公开实施例中提供了一种模型训练装置，参考图8中所示，该模型训练装置800可以包括：

生成器训练模块801，用于根据样本图像对生成器进行训练，获取训练好的生成器；

编码器训练模块802，用于基于样本图像对编码器进行训练，获取训练好的编码器；

风格化生成器训练模块803，用于基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，并根据所述训练好的生成器、训练好的编码器以及所述风格化生成器获取风格化模型。

在本公开的一种示例性实施例中，生成器训练模块包括：对抗训练模块，用于采用对抗生成方式，基于所述样本图像对所述生成器进行训练，得到训练好的生成器。

在本公开的一种示例性实施例中，所述编码器训练模块包括：联合训练模块，用于结合所述训练好的生成器对编码器进行训练，得到训练好的编码器。

在本公开的一种示例性实施例中，联合训练模块包括：训练控制模块，用于固定所述训练好的生成器的参数，以最小化重建误差为训练目标，对编码器进行训练，获取训练好的编码器。

在本公开的一种示例性实施例中，风格化生成器训练模块包括：参数微调模块，用于根据所述风格样本图像对训练好的生成器的模型参数进行调整，以得到所述风格化生成器。

本公开实施例中提供了一种图像处理装置，参考图9中所示，该图像处理装置900可以包括：

图像获取模块901，用于获取待处理图像；

图像生成模块902，用于基于风格化模型对所述待处理图像进行特征提取得到所述待处理图像的特征向量，并根据所述特征向量生成所述待处理图像的风格化图像；所述风格化模型根据上述任意一项所述的模型训练方法训练得到。

在本公开的一种示例性实施例中，图像生成模块包括：特征提取模块，用于基于所述风格化模型对所述待处理图像进行特征提取，获取一个主特征向量以及多个偏移向量；特征组合模块，用于将所述主特征向量以及所述多个偏移向量进行融合，得到所述特征向量。

在本公开的一种示例性实施例中，图像生成模块包括：映射模块，用于对所述特征向量进行映射操作，获取所述待处理图像的风格化图像。

需要说明的是，上述模型训练装置以及上述图像处理装置中各模块的具体细节已经在对应的模型训练方法和图像处理方法中进行了详细描述，因此此处不再赘述。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。

此外，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

本领域技术人员在考虑说明书及实践这里公开的内容后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

Claims (11)

1.一种模型训练方法，其特征在于，包括：

根据样本图像对生成器进行训练，获取训练好的生成器；

基于样本图像对编码器进行训练，获取训练好的编码器；

基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，并根据所述训练好的生成器、训练好的编码器以及所述风格化生成器获取风格化模型。

2.根据权利要求1所述的模型训练方法，其特征在于，所述根据样本图像对生成器进行训练，获取训练好的生成器，包括：

采用对抗生成方式，基于所述样本图像对所述生成器进行训练，得到训练好的生成器。

3.根据权利要求1所述的模型训练方法，其特征在于，所述基于样本图像对编码器进行训练，得到训练好的编码器，包括：

结合所述训练好的生成器对编码器进行训练，得到训练好的编码器。

4.根据权利要求3所述的模型训练方法，其特征在于，所述结合所述训练好的生成器对编码器进行训练，得到训练好的编码器，包括：

固定所述训练好的生成器的参数，以最小化重建误差为训练目标，对编码器进行训练，获取训练好的编码器。

5.根据权利要求1所述的模型训练方法，其特征在于，所述基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，包括：

根据所述风格样本图像对训练好的生成器的模型参数进行调整，以得到所述风格化生成器。

6.一种图像处理方法，其特征在于，包括：

获取待处理图像；

基于风格化模型对所述待处理图像进行特征提取得到所述待处理图像的特征向量，并根据所述特征向量生成所述待处理图像的风格化图像；所述风格化模型由权利要求1-5任意一项所述的模型训练方法训练得到。

7.根据权利要求6所述的图像处理方法，其特征在于，所述基于风格化模型对所述待处理图像进行特征提取，获取所述待处理图像的特征向量，包括：

基于所述风格化模型对所述待处理图像进行特征提取，获取一个主特征向量以及多个偏移向量；

将所述主特征向量以及所述多个偏移向量进行融合，得到所述特征向量。

8.一种模型训练装置，其特征在于，包括：

生成器训练模块，用于根据样本图像对生成器进行训练，获取训练好的生成器；

编码器训练模块，用于基于样本图像对编码器进行训练，获取训练好的编码器；

风格化生成器训练模块，用于基于风格样本图像对所述训练好的生成器进行训练得到风格化生成器，并根据所述训练好的生成器、训练好的编码器以及所述风格化生成器获取风格化模型。

9.一种图像处理装置，其特征在于，包括：

图像获取模块，用于获取待处理图像；

图像生成模块，用于基于风格化模型对所述待处理图像进行特征提取得到所述待处理图像的特征向量，并根据所述特征向量生成所述待处理图像的风格化图像；所述风格化模型根据权利要求1-5中任意一项所述的模型训练方法训练得到。

10.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1-5任意一项所述的模型训练方法或权利要求6-7任意一项所述的图像处理方法。

11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-5任意一项所述的模型训练方法或权利要求6-7任意一项所述的图像处理方法。

Images