CN108388840B - 一种人脸图像的配准方法、装置和人脸识别系统 - Google Patents

Abstract

本发明实施例提供了一种人脸图像的配准方法、装置和人脸识别系统，该方法和装置应用于人脸识别系统，具体为从原始人脸图像上选定多个原始匹配点，并确定与多个原始匹配点一一对应的配准后的多个目标匹配点，原始匹配点的数量与目标匹配点的数量相同；配合预设的正则化项，并采用薄板样条函数拟合多个原始匹配点与多个目标匹配点之间的二维变换，得到原始人脸图像中每个像素的形变量；根据形变量并通过图像差值采样方法得到配准后的目标人脸图像。通过上述操作，可以将原始人脸图像配准为正立状态的目标人脸图像，即能够使任意状态的人脸图像变换为容易识别的正立状态，从而可以提高人脸图像的识别效果。

Description

一种人脸图像的配准方法、装置和人脸识别系统

技术领域

本发明涉及人脸识别技术领域，特别是涉及一种人脸图像的配准方法、装置和人脸识别系统。

背景技术

人脸识别，是基于人的脸部特征信息进行身份识别的一种生物识别技术。用摄像机或摄像头采集含有人脸的图像或视频流，并自动在图像中检测和跟踪人脸，进而对检测到的人脸进行脸部的一系列相关技术，通常也叫做人像识别、面部识别。

本申请的发明人在实施人脸识别的过程中发现，由于在人脸识别、人脸分析等任务中，被识别的人脸往往仅为拍摄距离、角度等问题，造成得到的人脸图像并非是一种便于识别的正立状态，从而导致识别效果较差。

发明内容

有鉴于此，本发明提供了一种人脸图像的配准方法、装置和人脸识别系统，用于将待识别的人脸图像进行配准处理，使人脸图像变换为容易识别的正立状态，以提高人脸图像的识别效果。

为了解决上述问题，本发明公开了一种人脸图像的配准方法，应用于人脸识别系统，所述配准方法包括步骤：

从原始人脸图像上选定多个原始匹配点，并确定与所述多个原始匹配点一一对应的配准后的多个目标匹配点，所述原始匹配点的数量与所述目标匹配点的数量相同；

配合预设的正则化项，并采用薄板样条函数拟合所述多个原始匹配点与所述多个目标匹配点之间的二维变换，得到所述原始人脸图像中每个像素的形变量；

根据所述形变量并通过图像差值采样方法得到配准后的目标人脸图像。

可选的，所述从原始人脸图像上选定多个原始匹配点，包括：

利用预先训练好的神经网络模型从上述原始人脸图像中定位所述原始匹配点。

可选的，所述神经网络通过如下步骤进行训练：

获取人脸图像的关键点，所述关键点包括原始点和预先规定的匹配点；

利用所述原始点和所述匹配点进行模型训练，得到所述神经网络模型。

可选的，所述关键点为所述人脸图像上的面部轮廓上的点和/或所述人脸图像上的器官轮廓上的点。

可选的，根据所述形变量并通过图像差值采样方法得到配准后的目标人脸图像，包括：

通过双线性插值采样方法得到所述目标人脸图像上每个像素坐标的原始像素值；

根据所述形变量对所述原始像素值进行投射，得到配准后的目标人脸图像。

相应的，为了保证上述方法的实施，本发明还提供了一种人脸图像的配准装置，应用于人脸识别系统，所述配准装置包括：

匹配点选定模块，用于从原始人脸图像上选定多个原始匹配点，并确定与所述多个原始匹配点一一对应的配准后的多个目标匹配点，所述原始匹配点的数量与所述目标匹配点的数量相同；

形变量计算模块，用于配合预设的正则化项，并采用薄板样条函数拟合所述多个原始匹配点与所述多个目标匹配点之间的二维变换，得到所述原始人脸图像中每个像素的形变量；

目标图像输出模块，用于根据所述形变量并通过图像差值采样方法得到配准后的目标人脸图像。

可选的，所述匹配点选定模块包括：

原始匹配点选定单元，用于利用预先训练好的神经网络模型从所述原始人脸图像中定位所述原始匹配点。

可选的，所述匹配点选定模块还包括模型训练单元，其中：

所述模型训练单元具体用于获取人脸图像的关键点，所述关键点包括原始点和预先规定的匹配点；并利用所述原始点和所述匹配点进行模型训练，得到所述神经网络模型。

可选的，根据目标图像输出模块包括：

像素值获取单元，用于通过双线性插值采样方法得到所述原始人脸图像上每个像素坐标的原始像素值；

像素值投射单元，用于根据所述形变量对所述原始像素值进行投射，得到配准后的目标人脸图像。

另外，还提供了一种人脸识别系统，包括识别装置和如上所述的配准装置，其中：

所述配准装置用于对原始人脸图像进行配准，得到配准后的目标人脸图像；

所述识别装置用于对所述目标人脸图像进行人脸识别，得到识别结果。

从上述技术方案可以看出，本发明提供了一种人脸图像的配准方法、装置和人脸识别系统，该方法和装置应用于人脸识别系统，具体为从原始人脸图像上选定多个原始匹配点，并确定与多个原始匹配点一一对应的配准后的多个目标匹配点，原始匹配点的数量与目标匹配点的数量相同；配合预设的正则化项，并采用薄板样条函数拟合多个原始匹配点与多个目标匹配点之间的二维变换，得到原始人脸图像中每个像素的形变量；根据形变量并通过图像差值采样方法得到配准后的目标人脸图像。通过上述操作，可以将原始人脸图像配准为正立状态的目标人脸图像，即能够使任意状态的人脸图像变换为容易识别的正立状态，从而可以提高人脸图像的识别效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种人脸图像的配准方法的步骤流程图；

图2为本发明实施例提供的一种原始匹配点与目标匹配点的示意图；

图3为本发明实施例提供的一种人脸图像的配准装置的结构框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例一

图1为本发明实施例提供的一种人脸图像的配准方法的步骤流程图。

本实施例提供的人脸图像的配准方法应用于人脸识别系统，用于将非正立状态的原始人脸图像进行配准处理，得到正立状态的目标人脸图像，从而便于人脸识别系统对目标人脸图像中的人像进行识别，并得到该人像所属人员的相关信息。

参照图1所示，本实施例提供的人脸图像的配准方法具体包括如下步骤：

S101：选定多个原始匹配点和确定多个目标匹配点。

从待配准处理的原始人脸图像上选定多个原始匹配点，其数量可以随意，例如选取68个点；可以取类似均匀网格的模式，也可以取不均匀网格的模式。目标匹配点是指对应配准后的目标点。

在本申请的一个具体实施方式中，具体利用预先训练好的神经网络模型以不均匀网格从上述原始人脸图像中进行选取，从而得到多个原始匹配点。这些原始匹配点可以为原始人脸图像中的面部轮廓、眼睛轮廓、鼻子轮廓、嘴巴轮廓上的点。

在本申请的另外一个具体实施方式中，还可以包括相应的模型训练步骤，该步骤用于训练上述的神经网络模型。该步骤具体为：首先，获取一张人脸图像的多个关键点，这里的关键点包括原始点和配准后的配准点；参见图2，比方说x就是原始人脸图像上的配准点，o是规定的配准后的标准位置，薄板样条插值做的事情就是把图像做变形，让这些点能接近。

然后利用上述关键点进行模型训练，所谓训练是指用卷积神经网络拟合从图像到关键点位置的映射，从而得到相应的模型参数，然后将模型参数植入该初始神经网络，从而得到该神经网络模型。

S102：配合合适的正则化项并采用薄板样条函数拟合二维变换。

在选取上述原始匹配点和目标匹配点后，配合预先设定的合适的正则化项，并采用薄板样条函数拟合出原始匹配点与目标匹配点之间的二维变换，从而得到原始人脸图像的形变量。

拟合过程为最小化一个能量函数，这个能量函数包含两项：一是让匹配点位置接近，二时对曲面光滑性的要求，即正则化项。

薄板样条函数是一种插值方法，它寻找一个通过所有的控制点的弯曲最小的光滑曲面；就像一个薄铁板，通过所给定的几个“样条”，铁板表面是光滑的。

S103：根据形变量并通过图像插值采样法得到目标人脸图像。

目标人脸图像即配准后正立状态的人脸图像。具体为，首先通过双线性插值采样方法得到原始人脸图像上每个像素坐标的的像素值，即这里所称的原始像素值；然后根据该形变量确定该原始像素值所对应的目标人脸图像的位置，并将该原始像素值透射到该位置，从而得到目标人脸图像。或者，对于目标人脸图像上的像素，计算其投射回原始人脸图像上的位置，然后取这个位置的像素值输出到目标人脸图像上的相应位置，从而得到完整的目标人脸图像。

从上述技术方案可以看出，本实施例提供了一种人脸图像的配准方法，该方法应用于人脸识别系统，具体为从原始人脸图像上选定多个原始匹配点，并确定与多个原始匹配点一一对应的配准后的多个目标匹配点，原始匹配点的数量与目标匹配点的数量相同；配合预设的正则化项，并采用薄板样条函数拟合多个原始匹配点与多个目标匹配点之间的二维变换，得到原始人脸图像中每个像素的形变量；根据形变量并通过图像差值采样方法得到配准后的目标人脸图像。通过上述操作，可以将原始人脸图像配准为正立状态的目标人脸图像，即能够使任意状态的人脸图像变换为容易识别的正立状态，从而可以提高人脸图像的识别效果。

需要说明的是，对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。

实施例二

图3为本发明实施例提供的一种人脸图像的配准装置的结构框图。

本实施例提供的人脸图像的配准装置应用于人脸识别系统，用于将非正立状态的原始人脸图像进行配准处理，得到正立状态的目标人脸图像，从而便于人脸识别系统对目标人脸图像中的人像进行识别，并得到该人像所属人员的相关信息。

参照图3所示，本实施例提供的人脸图像的配准具体包括匹配点选定模块10、形变量计算模块20和目标图像输出模块30。

匹配点选定模块用于选定多个原始匹配点和确定多个目标匹配点。

从待配准处理的原始人脸图像上选定多个原始匹配点，其数量可以随意，例如选取68个点；可以取类似均匀网格的模式，也可以取不均匀网格的模式。目标匹配点是指对应配准后的目标点。

在本申请的一个具体实施方式中，该模块包括原始匹配点选定单元，该单元用于利用预先训练好的神经网络模型以不均匀网格从上述原始人脸图像中进行选取，从而得到多个原始匹配点。这些原始匹配点可以为原始人脸图像中的面部轮廓、眼睛轮廓、鼻子轮廓、嘴巴轮廓上的点。

在本申请的另外一个具体实施方式中，该匹配点选定模块还包括模型训练单元，该单元用于训练上述的神经网络模型。该单元具体用于：首先，获取一张人脸图像的多个关键点，这里的关键点包括原始点和配准后的配准点；参见图2，比方说x就是原始人脸图像上的配准点，o是规定的配准后的标准位置，薄板样条插值做的事情就是把图像做变形，让这些点能接近。

然后利用上述关键点进行模型训练，所谓训练是指用卷积神经网络拟合从图像到关键点位置的映射，从而得到相应的模型参数，然后将模型参数植入该初始神经网络，从而得到该神经网络模型。

形变量计算模块用于配合合适的正则化项并采用薄板样条函数拟合二维变换。

在选取上述原始匹配点和目标匹配点后，配合预先设定的合适的正则化项，并采用薄板样条函数拟合出原始匹配点与目标匹配点之间的二维变换，从而得到原始人脸图像的形变量。

拟合过程为最小化一个能量函数，这个能量函数包含两项：一是让匹配点位置接近，二时对曲面光滑性的要求，即正则化项。

薄板样条函数是一种插值方法，它寻找一个通过所有的控制点的弯曲最小的光滑曲面；就像一个薄铁板，通过所给定的几个“样条”，铁板表面是光滑的。

目标图像输出模块用于根据形变量并通过图像插值采样法得到目标人脸图像。

目标人脸图像即配准后正立状态的人脸图像。该模块具体包括像素值获取单元和像素值投射单元，像素值获取单元用于通过双线性插值采样方法得到原始人脸图像上每个像素坐标的的像素值，即这里所称的原始像素值；像素值投射单元用于根据该形变量确定该原始像素值所对应的目标人脸图像的位置，并将该原始像素值透射到该位置，从而得到目标人脸图像。或者，对于目标人脸图像上的像素，计算其投射回原始人脸图像上的位置，然后取这个位置的像素值输出到目标人脸图像上的相应位置，从而得到完整的目标人脸图像。

从上述技术方案可以看出，本实施例提供了一种人脸图像的配准装置，该装置应用于人脸识别系统，具体为从原始人脸图像上选定多个原始匹配点，并确定与多个原始匹配点一一对应的配准后的多个目标匹配点，原始匹配点的数量与目标匹配点的数量相同；配合预设的正则化项，并采用薄板样条函数拟合多个原始匹配点与多个目标匹配点之间的二维变换，得到原始人脸图像中每个像素的形变量；根据形变量并通过图像差值采样方法得到配准后的目标人脸图像。通过上述操作，可以将原始人脸图像配准为正立状态的目标人脸图像，即能够使任意状态的人脸图像变换为容易识别的正立状态，从而可以提高人脸图像的识别效果。

实施例三

本实施例提供了一种人脸识别系统，该系统包括识别装置和配准装置。该配准装置具体用于从原始人脸图像上选定多个原始匹配点，并确定与多个原始匹配点一一对应的配准后的多个目标匹配点，原始匹配点的数量与目标匹配点的数量相同；配合预设的正则化项，并采用薄板样条函数拟合多个原始匹配点与多个目标匹配点之间的二维变换，得到原始人脸图像中每个像素的形变量；根据形变量并通过图像差值采样方法得到配准后的目标人脸图像；识别装置则用于对配准装置得到的目标人脸图像对其上的人像进行识别，从而得到人像的相关信息，如人像的姓名、住址、学历、工作经历等信息。

对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。

本领域内的技术人员应明白，本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此，本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。

以上对本发明所提供的技术方案进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (6)

1.一种人脸图像的配准方法，应用于人脸识别系统，其特征在于，所述配准方法包括步骤：

从原始人脸图像上选定多个原始匹配点，并确定与所述多个原始匹配点一一对应的配准后的多个目标匹配点，所述原始匹配点的数量与所述目标匹配点的数量相同；

配合预设的正则化项，并采用薄板样条函数拟合所述多个原始匹配点与所述多个目标匹配点之间的二维变换，得到所述原始人脸图像中每个像素的形变量；

根据所述形变量并通过图像插值采样方法得到配准后的目标人脸图像；

其中，所述配准后的目标人脸图像为正立状态的人脸图像；

其中，所述从原始人脸图像上选定多个原始匹配点，包括：

利用预先训练好的神经网络模型从所述原始人脸图像中定位所述原始匹配点；

其中，所述神经网络模型通过如下步骤进行训练：

获取人脸图像的关键点，所述关键点包括原始点和预先规定的匹配点；

利用所述原始点和所述匹配点进行模型训练，得到所述神经网络模型。

2.如权利要求1所述的配准方法，其特征在于，所述关键点为所述人脸图像上的面部轮廓上的点和/或所述人脸图像上的器官轮廓上的点。

3.如权利要求1所述的配准方法，其特征在于，根据所述形变量并通过图像插值采样方法得到配准后的目标人脸图像，包括：

通过双线性插值采样方法得到所述目标人脸图像上每个像素坐标的原始像素值；

根据所述形变量对所述原始像素值进行投射，得到配准后的目标人脸图像。

4.一种人脸图像的配准装置，应用于人脸识别系统，其特征在于，所述配准装置包括：

匹配点选定模块，用于从原始人脸图像上选定多个原始匹配点，并确定与所述多个原始匹配点一一对应的配准后的多个目标匹配点，所述原始匹配点的数量与所述目标匹配点的数量相同；

形变量计算模块，用于配合预设的正则化项，并采用薄板样条函数拟合所述多个原始匹配点与所述多个目标匹配点之间的二维变换，得到所述原始人脸图像中每个像素的形变量；

目标图像输出模块，用于根据所述形变量并通过图像插值采样方法得到配准后的目标人脸图像；

其中，所述配准后的目标人脸图像为正立状态的人脸图像；

其中，所述从原始人脸图像上选定多个原始匹配点，包括：

利用预先训练好的神经网络模型从所述原始人脸图像中定位所述原始匹配点；

其中，所述神经网络模型通过如下步骤进行训练：

获取人脸图像的关键点，所述关键点包括原始点和预先规定的匹配点；

利用所述原始点和所述匹配点进行模型训练，得到所述神经网络模型。

5.如权利要求4所述的配准装置，其特征在于，目标图像输出模块包括：

像素值获取单元，用于通过双线性插值采样方法得到所述原始人脸图像上每个像素坐标的原始像素值；

像素值投射单元，用于根据所述形变量对所述原始像素值进行投射，得到配准后的目标人脸图像。

6.一种人脸识别系统，其特征在于，包括识别装置和如权利要求4～5任一项所述的配准装置，其中：

所述配准装置用于对原始人脸图像进行配准，得到配准后的目标人脸图像；

所述识别装置用于对所述目标人脸图像进行人脸识别，得到识别结果。

Images