CN113591969B - 面部相似度评测方法、装置、设备以及存储介质 - Google Patents

Abstract

本公开提供了面部相似度评测方法，涉及计算机视觉、增强现实、深度学习等人工智能技术领域。具体实现方案为：获取目标图像和目标重建结果；对所述目标重建结果进行2D渲染，得到渲染图；对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。通过本方案，可以准确地评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

Description

面部相似度评测方法、装置、设备以及存储介质

技术领域

本公开涉及计算机视觉、增强现实、深度学习等人工智能技术领域。具体涉及一种面部相似度评测方法、装置、设备以及存储介质。

背景技术

为了实现立体效果，通常需要将2D(二维)面部进行3D(三维)重建，并基于3D重建结果，渲染3D面部。而由于存在提升趣味性以及多样性等需求，在得到3D重建结果后，可以对3D重建结果进行风格化迁移，然后利用风格化后的3D重建结果，实现立体效果。

为了保证较好的立体效果，通常需要评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

然而，相关技术中，评测针对面部的相似度的方案中，通常针对2D的面部图像和未风格化后的3D重建结果，且均是基于像素位置的方式。

发明内容

本公开提供了一种面部相似度评测方法、装置、设备以及存储介质。具体方案如下：

根据本公开的一方面，提供了一种面部相似度评测方法，包括：

获取目标图像和目标重建结果；其中，所述目标图像为二维面部图像，所述目标重建结果为对所述目标图像的三维重建结果进行风格化迁移后的结果；

对所述目标重建结果进行渲染，得到渲染图；

对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；

将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；

基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。

根据本公开的另一方面，提供了一种面部相似度评测装置，包括：

获取模块，用于获取目标图像和目标重建结果；其中，所述目标图像为二维面部图像，所述目标重建结果为对所述目标图像的三维重建结果进行风格化迁移后的结果；

渲染模块，用于对所述目标重建结果进行渲染，得到渲染图；

迁移模块，用于对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；

提取模块，用于将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；

确定模块，用于基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述的面部相似度评测方法的步骤。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述的面部相似度评测方法的步骤。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现上述的面部相似度评测方法的步骤。

本公开实施例有益效果：

本公开提供的方案中，通过将目标重建结果进行渲染得到渲染图，可以在相同的2D维度上进行与目标图像之间的比较。并且，通过对所述目标图像进行风格迁移，得到与所述目标重建结果具有相同风格的风格化图，然后，利用神经网络模型分别提取所述渲染图和风格化图的高维特征，即渲染图的第一特征图和风格化图的第二特征图；基于提取到的高层特征，就可以获得针对面部的相似度评测结果。由于神经网络模型提取的是抽象的表达面部图像固有特征的高层特征，其具有不因shape(形状)的简单形变而改变的鲁棒性特征，能够较好的计算shape不完全一致的相似度度量工作，因此，即便风格化的重建结果所表征面部发生形变，也可以通过高层特征来进行面部相似度的准确地评测。可见，通过本方案，可以准确地评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开一种面部相似度评测方法的流程图；

图2是根据本公开一种面部相似度评测方法的另一流程图；

图3是根据本公开的面部相似度评测方法的一种示意图；

图4是根据本公开的面部相似度评测装置的一种结构示意图；

图5是用来实现本公开实施例的面部相似度评测方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

基于2D面部图像进行3D重建，可以获得3D的重建结果，其中，3D重建也可以为3D真实重建，而3D重建结果也可以称为3D真实重建结果。而对3D重建结果进行风格化迁移，可以得到风格化后的3D重建结果。为了保证风格化后的3D重建结果具有较好的立体效果，通常需要评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

相关技术中，基于2D面部图像的3D重建方式有很多，评测重建后的面部与原图中面部的相似度方法也很常见。但是，现有评测针对面部的相似度的方案都是针对原图和真实重建结果，示例性的，使用真实重建后的网格mesh和mesh标签数据，或是，对真实重建结果进行渲染，直接计算渲染后的2D图像和原始的2D面部图之间的损失，这种损失计算是对应像素位置的。而针对真实重建结果进行风格化迁移，并判断风格化后的3D重建结果与原始2D面部图像之间相似度的工作很少，没有开源的完整评测方案。

由于风格化后的3D重建结果没有对应的mesh标签数据，因此，相关技术中，在评测2D面部图像与风格化后的3D重建结果的针对面部的相似度时，只能使用上述的损失计算的方式。又由于真实重建结果在风格化迁移的过程中会导致面部发生形变，与原图的面部在像素位置上产生差异，导致直接使用像素位置对应的损失计算方式不合理，因此很难通过常见的损失计算方式进行评测。

基于上述内容，为了准确地评测2D面部图像与风格化后的3D重建结果的针对面部的相似度，本公开实施例提供了一种面部相似度评测方法、装置、设备以及存储介质。

下面首先对本公开实施例所提供的一种面部相似度评测方法进行介绍。

本公开实施例所提供的一种面部相似度评测方法可以应用于电子设备。在具体应用中，该电子设备可以为服务器，也可以为终端设备，这都是合理的。在实际应用中，该终端设备可以是：智能手机、平板电脑、面部识别终端等等。

具体而言，该面部相似度评测方法的执行主体可以为面部相似度评测装置。示例性的，当该面部相似度评测方法应用于终端设备时，该面部相似度评测方法可以为运行于终端设备中的功能软件，例如：面部识别软件。示例性的，当该针对面部的相似度评测应用于服务器时，该面部相似度评测装置可以为运行于服务器中的计算机程序，该计算机程序可以用于实现面部识别、面部检测等。

其中，本公开实施例所提供的一种面部相似度评测方法，可以包括如下步骤：

获取目标图像和目标重建结果；其中，所述目标图像为二维面部图像，所述目标重建结果为对所述目标图像的三维重建结果进行风格化迁移后的结果；

对所述目标重建结果进行渲染，得到渲染图；

对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；

将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；

基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。

本公开提供的方案中，通过将目标重建结果进行渲染得到渲染图，可以在相同的2D维度上进行与目标图像之间的比较。并且，通过对所述目标图像进行风格迁移，得到与所述目标重建结果具有相同风格的风格化图，然后，利用神经网络模型分别提取所述渲染图和风格化图的高维特征，即渲染图的第一特征图和风格化图的第二特征图；基于提取到的高层特征，就可以获得针对面部的相似度评测结果。由于神经网络模型提取的是抽象的表达面部图像固有特征的高层特征，其具有不因shape(形状)的简单形变而改变的鲁棒性特征，能够较好的计算shape不完全一致的相似度度量工作，因此，即便风格化的重建结果所表征面部发生形变，也可以通过高层特征来进行面部相似度的准确地评测。可见，通过本方案，可以准确地评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

下面结合附图，对本公开实施例所提供的面部相似度评测方法进行介绍。

如图1所示，本公开实施例所提供的一种面部相似度评测方法，可以包括如下步骤：

S101，获取目标图像和目标重建结果；其中，所述目标图像为二维面部图像，所述目标重建结果为对所述目标图像的三维重建结果进行风格化迁移后的结果；

可以理解的是，所述目标图像的3D重建结果包括若干3D点，通过若干3D点可以渲染成3D面部图像；并且，对所述目标图像的3D重建结果进行风格化迁移，可以通过对3D重建结果进行拖拽、变形等来实现。

本实施例中，目标图像可以是预先存储在电子设备的本地内存中图像，也可以是实时采集的图像。示例性的，该目标图像可以是手机上存储的人脸图像或者动物的面部图像，也可以是用户打开手机相关功能软件实时采集到的人脸图像或者动物的面部图像。需要说明的是，本实施例中的人脸图像并不是针对某一特定用户的面部图像，并不能反映出某一特定用户的个人信息。并且，本实施例中的人脸图像可以来自于公开数据集，或者，人脸图像的获取是经过了目标图像对应的用户的授权。并且，对目标图像进行3D重建和风格迁移后，就可以获得目标重建结果。也就是，对目标图像进行3D重建后，使用风格迁移这种图像处理手段，将获得的3D重建结果进行风格化迁移，从原风格转换到目标风格，得到的风格化后的3D重建结果，即为目标重建结果。需要强调的是，目标重建结果可以由相似度评测装置在获得目标图像后，基于目标图像所生成；或者，目标重建结果也可以由其他装置基于目标图像所生成，而相似度评测装置在获得目标图像的同时，从其他装置中获取到目标重建结果。

其中，所述目标风格可以是为了提升趣味性或者多样性等需求而选择的一种图像风格，示例性的，该目标风格可以是卡通风格、油画风格和黑白风格，等等。并且，通过对3D重建结果进行拖拽、变形等，可以将3D重建结果从原始风格转换为目标风格，本发明实施例对于具体的迁移方式不做限定。

需要说明的是，人脸图像的3D重建和风格迁移方法的执行主体可以通过各种公开、合法合规的方式获取人脸图像，例如可以是从公开数据集处获取的，或者是经过了用户的授权从用户处获取的。并且，通过本步骤得到的人脸图像的目标重建结果包含了人脸图像指示的用户的面部信息，但该人脸图像的目标重建结果的构建是在经用户授权后执行的，其构建过程符合相关法律法规。

S102，对所述目标重建结果进行渲染，得到渲染图；

本实施例中，通过将目标重建结果进行渲染得到渲染图，可以将3D的目标重建结果转换为2D图，以在相同的2D维度上进行与目标图像之间的相似度比较。

S103，对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；

本实施例中，对所述目标图像进行风格迁移，得到与所述目标重建结果具有相同风格的图像，这样，在后续对目标重建结果和目标图像进行相似度比较时，就可以忽略相同的图像风格部分，而更加关注于图像中面部的特征。

其中，对所述目标图像进行风格迁移，得到风格化图的具体实现方式，可以存在多种。可选地，在一种实现方式中，为了快速准确地生成目标图像的风格化图，所述对所述目标图像进行风格迁移，得到风格化图的步骤，可以包括：将所述目标图像输入指定的图像生成器，得到所述目标图像的风格化图像；其中，所述图像生成器用于：将输入图像的风格转换为所述目标重建结果所具有的风格。

所述图像生成器可以是通过任一种能够用于实现图像风格迁移的神经网络模型所训练得到的。示例性的，所述图像生成器可以是通过对循环生成对抗网络(Cyclegenerative adversarial network，CycleGAN)进行训练所得到的生成器。本领域技术人员应知晓，生成对抗网络(Generative Adversarial Network，GAN)是一种能够创建数据的机器学习算法，随着GAN在深度学习中的快速发展，其在图像风格迁移领域中的应用被日益关注。但传统GAN算法存在配对训练数据较难获取，生成图片效果差的缺点。而CycleGAN是传统GAN的特殊变体，CycleGAN可以通过转换输入样本来实现创建新的数据样本，也就是，CycleGAN学会了从两个数据源转换数据，这些数据可由提供此算法数据集的科学家或开发人员进行选择，从而具有更好的风格迁移效果。因此，通过循环生成对抗网络训练的图像生成器对所述目标图像进行风格迁移，可以快速准确地生成目标图像的风格化图。

所述循环生成对抗网络的源域包括样本面部图像，且目标域包括所述样本面部图像的风格迁移后的图像，所述风格迁移后的图像与所述目标重建结果具有相同风格。也就是，使用循环生成对抗网络训练一个风格迁移网络，作为图像生成器，在训练过程中，将样本面部图像和样本面部图像的风格迁移后的图像作为风格迁移的源域和目标域两种风格图。

可选地，在另一种实现方式中，所述对所述目标图像进行风格迁移，得到风格化图的步骤，可以包括：通过指定的图像处理算法，对所述目标图像进行风格迁移，得到风格化图；其中，图像处理算法可以实现对于像素的位置拖拽、变形等。

上述的对所述目标图像进行风格迁移，得到风格化图的实现方式，仅仅作为示例，并不应该构成对本公开的限定，任一种能够对目标图像进行风格迁移的方式，均可以应用于本公开。

S104，将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；

可以理解的是，在获得渲染图与风格化图之后，由于渲染图和风格化图均属于二维，且属于相同风格，因此，可以对渲染图与风格化图中的面部进行相似度比较。而由于在上述风格迁移过程中，渲染图和风格化图中图像的面部会发生形变，因此，直接计算渲染图和风格化图的对应像素位置的损失是不合理的。例如，一张面部图和一张将该面部图中的面部特征整体平移一个像素后生成的图像，这两张图内容其实完全一致，只是像素整体发生偏移1个像素的位置，那么直接计算对应位置的损失，损失值会很大，就认为这两张图不是一个人脸，显然这样计算不合理，评测准确性较低。

而由于神经网络可以提取出图像中的高维特征，而不是只关注于图像中某个像素的位置，因此，在本公开实施例中，可以使用预先训练的用于提取特征图的神经网络模型来对渲染图和风格化图进行处理，以得到对应于所述渲染图的第一特征图和对应于所述风格化图的第二特征图。其中，第一特征图中的“第一”和第二特征图中的“第二”，仅仅用于从命名上区分渲染图的特征图和风格化图的特征图，并不具有任何限定意义；可以理解的是，特征图也可以称为尺度特征图或特征图结果，此时，第一特征图可以称为第一尺度特征图或第一特征图结果，第二特征图可以称为第二尺度特征图或第二特征图结果。

示例性的，在一种实现方式中，本公开中预先训练的用于提取特征图的神经网络模型，可以通过对分类模型(对输入图像进行分类的模型)的训练来得到，也就是，分类模型作为本公开中用于提取特征图的神经网络模型。由于在训练分类模型时，样本图像的标定结果，即真值，能够便捷地得到且精准度较高，因此，分类模型的精度能够得到保证，这样使得分类模型所提取到的特征图也可以保证较高的精度。

可以理解的是，在分类模型的训练过程中，将大量的样本图像作为分类模型的输入，分类模型的输出是各个样本图像属于各个面部的概率；进而，通过分类模型进行分类，将分类结果与标定结果进行比较，利用交叉熵损失判断分类模型是否收敛，然后更新模型参数。在分类模型收敛之后，分类模型即为这里的预先训练的用于提取特征图的神经网络模型。

上述的通过训练分类模型来得到本公开的用于提取特征图的神经网络模型的方式，仅仅作为具体形成方式的示例，并不应该构成对本公开的限定。

S105，基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。

也就是，对所述第一特征图和第二特征图进行相似度比较或差异性比较，以获得特征图中对应于面部特征的相似度评测结果。可以理解的是，由于第一特征图和第二特征图为从神经网络模型中提取出的对应于渲染图和风格化图的高维特征，因此，更关注于图像的高维形状特征而不是像素位置；并且，渲染图为目标重建结果进行渲染获得，风格化图为目标图像进行风格迁移获得，且渲染图和风格化图具有相同的风格特征，因此，在分析所述第一特征图和第二特征图之间的相似或差异时，就可以忽略图像背景部分中的风格特征，而更关注于面部形状特征。可见，基于所述第一特征图和第二特征图的比较，可以获得更加准确的对应于所述目标图像和目标重建结果的针对面部的相似度评测结果。

在具体应用中，该针对面部的相似度评测结果可以是表征相似或者不相似的内容，也可以是相似度的百分比结果。

示例性的，可以通过任一种图像相似度计算方式，来计算第一特征图和第二特征图的相似度，并基于所计算得到的相似度，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。其中，可以直接将第一特征图和第二特征图的相似度，作为相似度评测结果；或者，将第一特征图和第二特征图的相似度，和指定的相似度阈值进行比较，若大于，则确定相似度评测结果为表征相似的内容，若不大于，则确定相似度评测结果为表征不相似的内容。

为了方案清楚及布局清晰，下文结合另一实施例，介绍所述基于所述第一特征图和第二特征图的差异，确定所述目标图像和目标重建结果的针对面部的相似度评测结果的具体实现方式。

本公开提供的方案中，通过将目标重建结果进行渲染得到渲染图，可以在相同的2D维度上进行与目标图像之间的比较。并且，通过对所述目标图像进行风格迁移，得到与所述目标重建结果具有相同风格的风格化图，然后，利用神经网络模型分别提取所述渲染图和风格化图的高维特征，即渲染图的第一特征图和风格化图的第二特征图；基于提取到的高层特征，就可以获得针对面部的相似度评测结果。由于神经网络模型提取的是抽象的表达面部图像固有特征的高层特征，其具有不因shape(形状)的简单形变而改变的鲁棒性特征，能够较好的计算shape不完全一致的相似度度量工作，因此，即便风格化的重建结果所表征面部发生形变，也可以通过高层特征来进行面部相似度的准确地评测。可见，通过本方案，可以准确地评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

可选地，在本公开的另一种实施例中，在图1所示的实施例的基础上，如图2所示，上述步骤S105可以包括步骤S1051-S1052：

S1051，利用预定的损失函数，计算所述第一特征图和所述第二特征图之间的损失值；

S1052，基于所述损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

其中，该预定的损失函数可以是L1距离(曼哈顿距离)损失函数、L2距离(欧氏距离)损失函数或者其他可以计算特征图之间损失值的损失函数。可以理解的是，L1距离计算的是对应元素位置之间的绝对数值距离，L2距离计算的是对应元素位置之间的空间距离，因此均可以用来计算所述第一特征图和所述第二特征图之间的差异。

示例性的，在一种实现方式中，可以预设一个相似度阈值，计算所述第一特征图和所述第二特征图之间的L1距离损失函数值，然后比较所述L1距离损失值和预设阈值的大小，若所述L1距离损失函数值大于预设阈值，则认为相似度评测结果为不相似，若所述L1距离损失函数值不大于预设阈值，则认为相似度评测结果为相似。示例性的，在另一种实现方式中，计算所述第一特征图和所述第二特征图之间的L1距离损失函数值，然后将该损失值转化为百分比的形式，以获得相似度的百分比结果，例如相似度为90％、80％、30％等等。需要注意的是，在将损失值转化为百分比形式的过程中，损失值越大，其对应的百分比值越小，也就是越不相似；损失值越小，其对应的百分比值越大，也就是越相似。

本实施例中，通过计算损失值的方式，可以识别到第一特征图和第二特征图之间的差异，从而基于差异获得所述目标图像和目标重建结果的针对面部的相似度评测结果，可以快速准确地评测2D面部图像与风格后的3D重建结果的针对面部的相似度。

可选地，在本公开的另一实施例中，所述神经网络模型包括有串联的多个特征提取层。所述将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图，包括：

将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到通过指定特征提取层所提取的、所述渲染图的第一特征图和所述风格化图的第二特征图。

其中，指定特征提取层可以为多个特征提取层中的任一层或多层，这都是合理的。在指定特征提取层为多个时，针对计算特征图之间的差异的情况而言，可以利用预定的损失函数，计算同一特征提取层下的所述第一特征图和所述第二特征图之间的损失值，从而得到多个损失值，基于多个损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果；而针对计算特征图之间的相似性的情况而言，可以计算同一特征提取层下的所述第一特征图和所述第二特征图之间的相似度，从而得到多个相似度，基于所得到的多个相似度，来获得所述目标图像和目标重建结果的针对面部的相似度评测结果。可以理解的是，当指定特征提取层为多个时，可以获得神经网络模型不同层中提取的第一特征图和第二特征图，从而在后续相似度评测时可以结合不同层中特征图包含的差异信息，使得相似度评测结果更加准确。

而为了具有较好的特征提取效果，在一种实现方式中，所述指定特征提取层为所述多个特征提取层中，除第一个和最后一个以外的至少一个特征提取层。

也就是，所述神经网络模型中可以包括多个用于提取图像特征的特征提取层，该多个特征提取层中均可以提取出特征图。通过从神经网络模型的多个特征提取层中，除第一个和最后一个以外的至少一个特征提取层提取出对应图像的特征图，可以获得多组第一特征图和多个第二特征图。可以理解的是，由于神经网络模型的第一层提取出的特征不够抽象，而最后一层提取出的特征过于抽象，因此，本公开实施例从神经网络模型的除第一层和最后一层以外的中间特征提取层中提取出对应图像的特征图。

可选的，所述神经网络模型可以为VGG(Visual Geometry Group Network，视觉几何群网络)网络。本领域普通技术人员应知晓，VGG网络通过反复堆叠3*3的小卷积核和2*2的最大池化层，成功的搭建了16-19层的深度卷积神经网络，也就是VGG网络。与传统的卷积神经网络结构相比，错误率大幅度下降；同时，VGG网络的泛化能力非常好，在不同的图片数据集上都有良好的表现，因此VGG网络经常被用来提取特征图像。

示例性的，在一种实现方式中，该神经网络模型可以为VGG16网络，VGG16的网络结构中有13个卷积层和3个全连接层。那么将所述渲染图和风格化图输入该VGG16网络，可以从该网络结构中的第3层、第4层和第5层中分别获取第一组特征图、第二组特征图和第三组特征图，其中，所述三组特征图中均包含对应于所述渲染图的第一特征图和对应于所述风格化图的第二特征图。

应可以理解，在获得多组第一特征图和第二特征图后，利用预定的损失函数，计算所述每组中的第一特征图和第二特征图之间的损失值，可以获得多个损失值。因此，下述过程介绍如何基于所述多个损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

通过本方案，可以对特征提取层进行指定，从而获得通过指定特征层所提取到的第一特征图和第二特征图，使得特征提取可以更加符合实际需求，具有灵活性；并且，将除第一个和最后一个以外的至少一个特征提取层作为指定特征提取层，能够使得所获得第一特征图和第二特征图具有较好的抽象效果，从而进一步提升相似度评测结果的准确性。

可选地，在本公开的另一实施例中，所述损失值为多个，所述基于所述损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果的过程，包括步骤A1-A2：

A1，对计算得到的各个损失值进行指定运算，得到运算结果；

A2，利用所述运算结果，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

示例性的，该指定运算可以是加权求和运算或者求和运算，等等。也就是说，可以为该多个损失值赋予不同的权值进行求和运算，以获得运算结果。当然，还可以直接对该多个损失值进行相加，以获得运算结果。在对各个损失值进行指定运算得到所述运算结果后，步骤A2的具体实现方式可以参照上述步骤S1052的实现方式，这里不再赘述。可以理解的是，当存在多个损失值时，将各个损失值进行指定运算，获得的运算结果包含了神经网络模型各个层中的第一特征图和第二特征图之间的差异信息，使得相似度评测结果更加准确。

基于上述各实施例的相关描述可知，本公开所提供的面部相似度评测方法，通过将目标重建结果进行渲染得到渲染图，可以在相同的2D维度上进行与目标图像之间的比较。并且，通过对所述目标图像进行风格迁移，得到与所述目标重建结果具有相同风格的风格化图，然后，利用神经网络模型分别提取所述渲染图和风格化图的高维特征，即渲染图的第一特征图和风格化图的第二特征图；基于提取到的高层特征，就可以获得针对面部的相似度评测结果。由于神经网络模型提取的是抽象的表达面部图像固有特征的高层特征，其具有不因shape(形状)的简单形变而改变的鲁棒性特征，能够较好的计算shape不完全一致的相似度度量工作，因此，即便风格化的重建结果所表征面部发生形变，也可以通过高层特征来进行面部相似度的准确地评测。可见，通过本方案，可以准确地评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

并且，在利用神经网络模型分别提取所述渲染图和风格化图的高维特征的过程中，进一步对特征提取层进行指定，从而获得通过指定特征层所提取到的第一特征图和第二特征图，使得特征提取可以更加符合实际需求，具有灵活性；并且，将除第一个和最后一个以外的至少一个特征提取层作为指定特征提取层，能够使得所获得第一特征图和第二特征图具有较好的抽象效果，从而进一步提升相似度评测结果的准确性。

为了更好的阐述本公开实施例的内容，下面结合图3对本公开一个具体的示例进行描述。

如图3所示，本公开的一个具体的示例可以包括如下内容：

(1)获取2D人脸原图和该2D人脸原图对应的风格化渲染图；其中，2D人脸原图即为上述实施例中的目标图像，而风格化渲染图为上述实施例中的渲染图，所述风格化渲染图的获取过程为：所述2D人脸原图经过3D重建和风格迁移，得到风格重建结果，即上述实施例中的目标重建结果，然后对该风格重建结果进行渲染得到所述风格化渲染图。

(2)将2D人脸原图输入循环生成对抗网络CycleGAN，得到风格化图。其中，该循环生成对抗网络可以生成与渲染图具有相同的图像风格的风格化图。该CycleGAN为一个风格迁移网络，原图和渲染图作为源域和目标域两种风格图。

(3)将生成的风格化图和风格化渲染图均输入VGG网络模型中，从VGG网络模型中分别取resnetblock3、resnetblock4、resnetblock5三个模块的中间生成特征图结果，获得三组对应于所述风格化图的第一特征图和对应于所述渲染图的第二特征图。

(4)计算VGG网络模型中resnetblock3、resnetblock4、resnetblock5三个模块中每个模块获得的第一特征图和第二特征图之间的L1loss(L1距离损失值)，以获得三个L1距离损失值，该三个L1距离损失值分别为图中Res3 L1loss、Res4 L1loss和Res5 L1loss。

(5)对三个L1距离损失值进行求和运算，基于运算结果，获得相似度最终结果，即2D人脸原图和风格重建结果的针对面部的相似度评测结果。

在本示例中，分别将风格化渲染图和使用循环生成对抗网络生成的风格化图代入VGG网络，分别取resnetblock3、resnetblock4、resnetblock5三个模块的中间生成特征图，计算相同模块对应特征图之间的L1loss值，对获得的多个L1loss值进行求和，基于求和结果，得到相似度最终结果。通过这种方式，由于VGG网络提取的特征图不依赖像素位置的对应关系，而是抽象的高层特征，因此，适用于计算shape不完全一致的相似度度量工作。

本公开提供的方案中，通过将目标重建结果进行渲染得到渲染图，可以在相同的2D维度上进行与目标图像之间的比较。并且，通过对所述目标图像进行风格迁移，得到与所述目标重建结果具有相同风格的风格化图，然后，利用神经网络模型分别提取所述渲染图和风格化图的高维特征，即渲染图的第一特征图和风格化图的第二特征图；基于提取到的高层特征，就可以获得针对面部的相似度评测结果。由于神经网络模型提取的是抽象的表达面部图像固有特征的高层特征，其具有不因shape(形状)的简单形变而改变的鲁棒性特征，能够较好的计算shape不完全一致的相似度度量工作，因此，即便风格化的重建结果所表征面部发生形变，也可以通过高层特征来进行面部相似度的准确地评测。可见，通过本方案，可以准确地评测2D面部图像与风格化后的3D重建结果的针对面部的相似度。

基于上述方法的实施例，本公开实施例还提供了一种面部相似度评测装置，如图4所示，所述装置包括：

获取模块410，用于获取目标图像和目标重建结果；其中，所述目标图像为二维面部图像，所述目标重建结果为对所述目标图像的三维重建结果进行风格化迁移后的结果；

渲染模块420，用于对所述目标重建结果进行渲染，得到渲染图；

迁移模块430，用于对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；

提取模块440，用于将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；

确定模块450，用于基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。

可选地，所述迁移模块，具体用于：

将所述目标图像输入指定的图像生成器，得到所述目标图像的风格化图像；其中，所述图像生成器用于：将输入图像的风格转换为所述目标重建结果所具有的风格。

可选地，所述图像生成器是通过对循环生成对抗网络进行训练所得到的生成器；所述循环生成对抗网络的源域包括样本面部图像，且目标域包括所述样本面部图像的风格迁移后的图像，所述风格迁移后的图像与所述目标重建结果具有相同风格。

可选地，所述神经网络模型包括有串联的多个特征提取层；所述提取模块，具体用于：

将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到通过指定特征提取层所提取的、所述渲染图的第一特征图和所述风格化图的第二特征图。

可选地，所述指定特征提取层为所述多个特征提取层中，除第一个和最后一个以外的至少一个特征提取层。

可选地，所述确定模块，包括：

计算单元，用于利用预定的损失函数，计算所述第一特征图和所述第二特征图之间的损失值；以及

结果生成单元，用于基于所述损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

可选地，所述损失值为多个，所述结果生成单元，具体用于：

对计算得到的各个损失值进行指定运算，得到运算结果；以及

利用所述运算结果，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

可选地，所述神经网络模型为视觉几何群VGG网络。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

本公开所提供的一种电子设备，可以包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述的面部相似度评测方法的步骤。

本公开所提供的一种计算机可读存储介质，该计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一面部相似度评测方法的步骤。

在本公开提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一面部相似度评测方法的步骤。

图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图5所示，设备500包括计算单元501，其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如面部相似度评测方法。例如，在一些实施例中，面部相似度评测方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时，可以执行上文描述的面部相似度评测方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行面部相似度评测方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (19)

1.一种面部相似度评测方法，包括：

获取目标图像和目标重建结果；其中，所述目标图像为二维面部图像，所述目标重建结果为对所述目标图像的三维重建结果进行风格化迁移后的结果；

对所述目标重建结果进行渲染，得到渲染图；

对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；

将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；

基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。

2.根据权利要求1所述的方法，其中，所述对所述目标图像进行风格迁移，得到风格化图，包括：

将所述目标图像输入指定的图像生成器，得到所述目标图像的风格化图像；

其中，所述图像生成器用于：将输入图像的风格转换为所述目标重建结果所具有的风格。

3.根据权利要求2所述的方法，其中，所述图像生成器是通过对循环生成对抗网络进行训练所得到的生成器；

所述循环生成对抗网络的源域包括样本面部图像，且目标域包括所述样本面部图像的风格迁移后的图像，所述风格迁移后的图像与所述目标重建结果具有相同风格。

4.根据权利要求1所述的方法，其中，所述神经网络模型包括有串联的多个特征提取层；

所述将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图，包括：

将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到通过指定特征提取层所提取的、所述渲染图的第一特征图和所述风格化图的第二特征图。

5.根据权利要求4所述的方法，其中，所述指定特征提取层为所述多个特征提取层中，除第一个和最后一个以外的至少一个特征提取层。

6.根据权利要求1-5任一项所述的方法，其中，所述基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果，包括：

利用预定的损失函数，计算所述第一特征图和所述第二特征图之间的损失值；

基于所述损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

7.根据权利要求6所述的方法，其中，所述损失值为多个，所述基于所述损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果，包括：

对计算得到的各个损失值进行指定运算，得到运算结果；

利用所述运算结果，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

8.根据权利要求1所述的方法，其中，所述神经网络模型为视觉几何群VGG网络。

9.一种面部相似度评测装置，包括：

获取模块，用于获取目标图像和目标重建结果；其中，所述目标图像为二维面部图像，所述目标重建结果为对所述目标图像的三维重建结果进行风格化迁移后的结果；

渲染模块，用于对所述目标重建结果进行渲染，得到渲染图；

迁移模块，用于对所述目标图像进行风格迁移，得到风格化图；其中，所述风格化图与所述目标重建结果具有相同风格；

提取模块，用于将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到所述渲染图的第一特征图和所述风格化图的第二特征图；

确定模块，用于基于所述第一特征图和第二特征图，确定所述目标图像和目标重建结果的针对面部的相似度评测结果。

10.根据权利要求9所述的装置，其中，所述迁移模块，具体用于：

将所述目标图像输入指定的图像生成器，得到所述目标图像的风格化图像；

其中，所述图像生成器用于：将输入图像的风格转换为所述目标重建结果所具有的风格。

11.根据权利要求10所述的装置，其中，所述图像生成器是通过对循环生成对抗网络进行训练所得到的生成器；

所述循环生成对抗网络的源域包括样本面部图像，且目标域包括所述样本面部图像的风格迁移后的图像，所述风格迁移后的图像与所述目标重建结果具有相同风格。

12.根据权利要求9所述的装置，其中，所述神经网络模型包括有串联的多个特征提取层；

所述提取模块，具体用于：

将所述渲染图和风格化图，分别输入预先训练的用于提取特征图的神经网络模型，得到通过指定特征提取层所提取的、所述渲染图的第一特征图和所述风格化图的第二特征图。

13.根据权利要求12所述的装置，其中，所述指定特征提取层为所述多个特征提取层中，除第一个和最后一个以外的至少一个特征提取层。

14.根据权利要求9-13任一项所述的装置，其中，所述确定模块，包括：

计算单元，用于利用预定的损失函数，计算所述第一特征图和所述第二特征图之间的损失值；

结果生成单元，用于基于所述损失值，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

15.根据权利要求14所述的装置，其中，所述损失值为多个，所述结果生成单元，具体用于：

对计算得到的各个损失值进行指定运算，得到运算结果；

利用所述运算结果，获得所述目标图像和目标重建结果的针对面部的相似度评测结果。

16.根据权利要求9所述的装置，其中，所述神经网络模型为视觉几何群VGG网络。

17.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。

18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。

19.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。

Images