CN104077585B - 图像校正方法、装置及终端 - Google Patents

图像校正方法、装置及终端 Download PDF

Info

Publication number
CN104077585B
CN104077585B CN201410235783.1A CN201410235783A CN104077585B CN 104077585 B CN104077585 B CN 104077585B CN 201410235783 A CN201410235783 A CN 201410235783A CN 104077585 B CN104077585 B CN 104077585B
Authority
CN
China
Prior art keywords
vector
characteristic point
source characteristic
deflection
facial image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410235783.1A
Other languages
English (en)
Other versions
CN104077585A (zh
Inventor
王琳
张祺深
陈志军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiaomi Inc
Original Assignee
Xiaomi Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiaomi Inc filed Critical Xiaomi Inc
Priority to CN201410235783.1A priority Critical patent/CN104077585B/zh
Publication of CN104077585A publication Critical patent/CN104077585A/zh
Application granted granted Critical
Publication of CN104077585B publication Critical patent/CN104077585B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本公开是关于一种图像校正方法、装置及终端。该方法包括:定位人脸图像,获得表征人脸图像的轮廓特征的至少一个源特征点;根据每个源特征点确定偏转度向量,并根据偏转度向量确定对每个源特征点进行校正的偏移向量;根据每个源特征点以及每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点,根据每个源特征点和每个目标特征点对人脸图像进行校正。本公开通过人脸图像对应的源特征点确定该人脸图像的偏转度向量,进而确定对每个源特征点进行校正的偏移向量,获得目标特征点,从而根据源特征点和目标特征点校正图像,由于根据源特征点及目标特征点便可实现校正,因此方法简单;又由于无需深度感应器辅助实现,使得图像校正的成本较低。

Description

图像校正方法、装置及终端
技术领域
本公开涉及计算机技术领域,特别涉及一种图像校正方法、装置及终端。
背景技术
随着计算机技术的迅速发展,视频通话应用成为人们生活中必不可少的沟通交流方式。在用户进行视频通话的过程中,由于人脸姿态以及视频摄像头捕捉视频图像的方式不当,可能会使视频画面显示的人脸图像中眼睛的注视点与当前用户实际的注视点之间有偏差。例如,当前用户的眼睛的注视点为平视正在进行视频通话的另一用户,而实际视频画面显示的人脸图像中眼睛的注视点为抬头观看某一其它物品。由于视频画面中眼睛的注视点对于视频画面中显示的人脸图像有很大影响,因此,有必要提出一种图像校正方法,以对视频画面显示的人脸图像进行校正。
相关技术在对视频画面显示的人脸图像进行校正时,所采用的方法为一种准3D(Three-Dimensiona,三维图形)人脸姿态校正方法,具体为:通过深度感应器感应并记录人脸特征轮廓点的深度信息;根据该深度信息完成人脸区域的深度旋转校正,从而实现对视频画面显示的视频图像的校正。其中,深度信息为深度感应器对图像中物体的景物深度进行感应获得的一种三维信息,即深度信息除了包括图像包括的每个像素的平面坐标外,还包括每个像素离深度感应器的远近信息。
在实现本公开的过程中,发明人发现相关技术至少存在以下问题:
由于相关技术提供的目光校正方法为一种准3D人脸姿势校正方法,而该种校正方法使用的算法的计算量通常都比较大,导致图像校正的方法繁琐。另外,由于该方法需要深度感应器来辅助实现,导致实现图像校正的成本较高。
发明内容
为克服相关技术中存在的问题,本公开提供一种图像校正方法、装置及终 端。
根据本公开实施例的第一方面,提供一种图像校正方法,所述方法包括:
定位人脸图像,获得表征所述人脸图像的轮廓特征的至少一个源特征点;
根据每个源特征点确定所述人脸图像的偏转度向量,并根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量;
根据所述每个源特征点以及所述每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点,并根据所述每个源特征点和所述每个目标特征点对所述人脸图像进行校正。
结合第一方面,在第一方面的第一种可能的实现方式中,所述根据每个源特征点确定所述人脸图像的偏转度向量,包括:
根据所述每个源特征点确定所述人脸图像对应的特征向量;
将所述人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,所述第一预设模型包括不同参考特征向量及每个参考特征向量对应的偏转度向量;
将预设模型中与所述人脸图像对应的特征向量匹配的参考特征向量对应的偏转度向量确定为所述人脸图像的偏转度向量。
结合第一方面的第一种可能的实现方式,在第一方面的第二种可能的实现方式中,所述根据每个源特征点确定所述人脸图像的偏转度向量之前,还包括:
训练并存储第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型。
结合第一方面至第一方面的第二种可能的实现方式中的任一种可能的实现方式,在第一方面的第三种可能的实现方式中,所述根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量,包括:
将所述偏转度向量与第二预设模型中的参考偏转度向量进行匹配,所述第二预设模型包括不同参考偏转度向量及与每个参考转度向量对应的每个源特征点的偏移向量;
将第二预设模型中与所述偏转度向量匹配的参考偏转度向量对应的所述每个源特征点的偏移向量确定为对所述每个源特征点进行校正的偏移向量。
结合第一方面的第三种可能的实现方式,在第一方面的第四种可能的实现方式中,所述根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向 量之前,还包括:
训练并存储第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。
根据本公开实施例的第二方面,提供一种图像校正装置,所述装置包括:
定位模块,用于定位人脸图像,获得表征所述人脸图像的轮廓特征的至少一个源特征点;
第一确定模块,用于根据每个源特征点确定所述人脸图像的偏转度向量;
第二确定模块,用于根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量;
第三确定模块,用于根据所述每个源特征点以及所述每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点;
校正模块,用于根据所述每个源特征点和所述每个目标特征点对所述人脸图像进行校正。
结合第二方面,在第二方面的第一种可能的实现方式中,所述第一确定模块,包括:
第一确定单元,用于根据所述每个源特征点确定所述人脸图像对应的特征向量;
第一匹配单元,用于将所述人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,所述第一预设模型包括不同参考特征向量及每个参考特征向量对应的偏转度向量;
第二确定单元,用于将预设模型中与所述人脸图像对应的特征向量匹配的参考特征向量对应的偏转度向量确定为所述人脸图像的偏转度向量。
结合第二方面的第一种可能的实现方式,在第二方面的第二种可能的实现方式中,所述装置,还包括:
第一训练模块,用于训练第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型;
第一存储模块,用于存储所述第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型。
结合第二方面至第二方面的第二种可能的实现方式中的任一种可能的实现方式,在第二方面的第三种可能的实现方式中,所述第二确定模块,包括:
第二匹配单元,用于将所述偏转度向量与第二预设模型中的参考偏转度向量进行匹配,所述第二预设模型包括不同参考偏转度向量及与每个参考转度向量对应的每个源特征点的偏移向量;
第三确定单元,用于将第二预设模型中与所述偏转度向量匹配的参考偏转度向量对应的所述每个源特征点的偏移向量确定为对所述每个源特征点进行校正的偏移向量。
结合第二方面的第三种可能的实现方式,在第二方面的第四种可能的实现方式中,所述装置,还包括:
第二训练模块,用于训练第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型;
第二存储模块,用于存储所述第二预设数值个包括不同参考偏转度向量及每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。
本公开的实施例提供的技术方案可以包括以下有益效果:
通过人脸图像对应的源特征点确定该人脸图像的偏转度向量,进而确定对每个源特征点进行校正的偏移向量,获得与每个源特征点对应目标特征点,从而根据每个源特征点和每个目标特征点校正图像,由于根据每个源特征点及每个目标特征点便可实现校正,因此方法简单;又由于校正过程无需深度感应器辅助实现,使得图像校正的成本较低。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种图像校正方法的流程图。
图2是根据一示例性实施例示出的一种图像校正方法的应用环境示意图。
图3是根据一示例性实施例示出的一种图像校正方法的流程图。
图4是根据一示例性实施例示出的一种人脸图像中的源特征点和目标特征点的位置示意图。
图5是根据一示例性实施例示出的一种图像校正装置的示意图。
图6是根据一示例性实施例示出的一种终端的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种图像校正方法的流程图,如图1所示,图像校正方法用于终端中,包括以下步骤。
在步骤S101中,定位人脸图像,获得表征人脸图像的轮廓特征的至少一个源特征点。
在步骤S102中,根据每个源特征点确定人脸图像的偏转度向量,并根据偏转度向量确定对每个源特征点进行校正的偏移向量。
在步骤S103中,根据每个源特征点以及每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点,并根据每个源特征点和每个目标特征点对人脸图像进行校正。
在另一个实施例中,根据每个源特征点确定人脸图像的偏转度向量,包括:
根据每个源特征点确定人脸图像对应的特征向量;
将人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,第一预设模型包括不同参考特征向量及每个参考特征向量对应的偏转度向量;
将预设模型中与人脸图像对应的特征向量匹配的参考特征向量对应的偏转度向量确定为人脸图像的偏转度向量。
在另一个实施例中,根据每个源特征点确定人脸图像的偏转度向量之前,还包括:
训练并存储第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型。
在另一个实施例中,根据偏转度向量确定对每个源特征点进行校正的偏移 向量,包括:
将偏转度向量与第二预设模型中的参考偏转度向量进行匹配,第二预设模型包括不同参考偏转度向量及与每个参考转度向量对应的每个源特征点的偏移向量;
将第二预设模型中与偏转度向量匹配的参考偏转度向量对应的每个源特征点的偏移向量确定为对每个源特征点进行校正的偏移向量。
在另一个实施例中,根据偏转度向量确定对每个源特征点进行校正的偏移向量之前,还包括:
训练并存储第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。
本公开实施例提供的方法,通过人脸图像对应的源特征点确定该人脸图像的偏转度向量,进而确定对每个源特征点进行校正的偏移向量,获得与每个源特征点对应目标特征点,从而根据每个源特征点和每个目标特征点校正图像,由于根据每个源特征点及每个目标特征点便可实现校正,因此方法简单;又由于校正过程无需深度感应器辅助实现,使得图像校正的成本较低。
请参考图2,其示出了一种图像校正方法的应用环境示意图。通常,在进行视频通话的过程中,由于人脸姿态或者摄像头拍摄角度等问题,视频画面显示的人脸图像会出现抬头姿态、低头姿态、左旋头姿态或右旋头姿态等情况,导致人脸图像中的目光出现上扬、俯视、左视或右视的情况。如图2中的(a)图所示的情况为视频中的人脸图像出现抬头导致的目光上扬问题。为了提高视频通话的质量,需要对该类人脸图像进行校正,以使视频画面显示的人脸图像为如图2中的(b)图所示的正常的人脸图像。针对上述问题,本公开实施例提供了一种图像校正方法,该图像校正方法用于终端中。如图3所示,图3是根据一示例性实施例示出的一种图像校正方法的流程图,该方法包括以下步骤。
在步骤S301中,定位人脸图像,获得表征人脸图像的轮廓特征的至少一个源特征点。
由于人脸图像包含的各个点对显示的人脸图像的图像效果均有影响,在对人脸图像进行校正时,可以选择人脸图像中能够表征人脸图像的轮廓特征的一些点来实现。因此,在进行图像校正时,需要定位人脸图像以获得表征人脸图 像的轮廓特征的至少一个源特征点。
其中,本公开实施例不对定位人脸图像以获得表征人脸图像的轮廓特征的至少一个源特征点的方式进行限定。具体实施时,包括但不限于可以通过基于SDM(SupervisedDecent Method,监督下降算法)、AAM(Active Apperance Model,主动表现模型)、ASM(Active shape models,主动形状模型)等人脸特征点定位算法来实现。通过定位,获得表征人脸图像的轮廓特征的至少一个源特征点。
具体地,如图4所示,其示出了一种人脸图像中的源特征点和目标特征点的位置示意图。其中,如图4(a)所示,该人脸图像中的目光稍微有点上扬。为了对该人脸图像进行校正,需要先定位能够表征人脸图像的轮廓特征的至少一个源特征点。图4(a)即示出了一种通过SDM人脸特征定位算法定位到的表征人脸图像的轮廓特征的各个源特征点。其中,各个源特征点如图4(a)中的“+”所示。
关于获得的人脸图像中的源特征点的数量,本公开实施例不作具体限定。具体实施时,可以结合人脸图像的轮廓特征而选择49个点作为表征人脸图像的轮廓特征的源特征点。进一步地,可以结合人脸图像的各个部件的特征,获得17个点作为脸部外轮廓点的源特征点、24个点作为两个眼睛的轮廓点的源特征点、4个点作为鼻子的源特征点和4个点作为嘴巴的源特征点。当然,在该举例中,各个数量仅用于进行举例,不代表对本公开实施例的限制。
进一步地,为了区分通过定位人脸图像获得的各个源特征点,并保证在后续可以根据获得的至少一个源特征点确定与每个源特征点对应的目标特征点,可以将获得的至少一个源特征点通过坐标表示出来。其中,关于表示各个源特征点时使用的坐标的类型,本公开实施例不作具体限定,保证通过表示的坐标能够标识各个源特征点的位置即可。例如,可以人脸图像所在的平面为坐标平面建立一个直角坐标系,并在该直角坐标系下表示各个源特征点的坐标。
在步骤S302中,根据每个源特征点确定人脸图像的偏转度向量。
其中,偏转度向量为能够表明该人脸图像的偏转方向和偏转力度的特征量。偏转方向包括但不限于有上、下、左和右。其中,偏转方向为上可以表示人脸图像为抬头姿态,偏转方向为下可以表示人脸图像为低头姿态、偏转方向为左可以表示人脸图像为左转头姿态,偏转方向为右可以表示人脸图像为右转头姿 态。偏转力度用于描述人脸图像向某一个方向偏转的角度。例如,某一个偏转度向量可以为抬头5。(度),等等。
关于根据每个源特征点确定人脸图像的偏转度向量的方式,本公开实施例不作具体限定。具体实施时,可以在根据每个源特征点确定人脸图像的偏转度向量之前,可以根据通过对多个包含人脸图像的训练图像进行训练,从而训练并存储第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型,该第一预设模型为分类器,能够对人脸图像的偏转度向量进行分类。因此,在确定人脸图像的偏转度向量时,可以预先训练得到的第一预设模型为参考来实现。其中,关于第一预设数值的数量,本公开实施例不作具体限定。
其中,本公开实施例不对训练第一预设模型的方式进行限定,具体实施时,可以通过以下步骤实现:
第一步:获取包含人脸图像的多个训练图像,定位每个训练图像,获得表征每个训练图像的轮廓特征的至少一个源特征点。
其中,本公开实施例不对获取包含人脸图像的多个训练图像的方式进行限定。另外,关于训练图像的数量,可以根据需要而定,例如,可以为1000个、2000个等。然而,为了使第一预设模型更具参考性,训练图像的数量越多越好。关于定位每个训练图像获得表征每个训练图像的轮廓特征的至少一个源特征点的方式,可以参见步骤S301中定位人脸图像获得表征人脸图像的轮廓特征的至少一个源特征点的方式,在此不在赘述。
第二步:根据每个源特征点确定训练图像对应的特征向量,并根据每个训练图像对应的特征向量确定每个训练图像的偏转度向量。
关于根据每个源特征点确定训练图像对应的特征向量的方式,可以有很多种。例如,可以通过SVM(Support Vector Machine,支持向量机)回归分析方法确定训练图像对应的特征向量。当然,还可以采用其它方法确定训练图像对应的特征向量,本公开实施例不作具体限定。
其中,在根据每个训练图像对应的特征向量确定每个训练图像的偏转度向量时,由于每个特征向量均具有一定的大小和方向,因此,可以分别将每个特征向量的大小和方向作为偏转度向量的偏转方向和偏转力度。当然,在根据每个训练图像对应的特征向量确定每个训练图像的偏转度向量时,也可以将每个 训练图像对应的特征向量与每个训练图像的偏转度向量建立一定的映射关系,从而可以根据建立的映射关系确定每个训练图像的偏转度向量。
进一步地,为了使通过特征向量描述的偏转度向量更直观,可以预先对特征向量表示的意义设置一定的标准。例如,可以使用“+”表示抬头,“-”表示低头,“++”表示左转头,“--”表示右转头,并用特征向量的大小表示偏转力度,等等。例如,如果特征向量的大小为“+5”,表示抬头5°,等等。
第三步:根据确定的每个训练图像对应的特征向量确定参考特征向量。
其中,根据确定的每个训练图像对应的特征向量确定参考特征向量时,可以将所有训练图像对应的特征向量进行分类,并通过求解每个分类的训练图像对应的特征向量的平均值来确定参考特征向量。例如,如果确定的训练图像对应的特征向量有“+5.0”、“+5.1”、“+4.9”等,由于这些特征向量的差值比较小,可以作为一类,并确定根据该类特征向量形成的参考特征向量为“+5”。当然,此处仅以求解每个分类的训练图像对应的特征向量的平均值来确定参考特征向量,具体实施时,还可以采用其它算法确定参考特征向量,本发明实施例对此不作具体限定。
第四步:确定第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型。
其中,本公开实施例不对第一预设数值的数量进行限定,具体实施时,保证第一预设数值个第一预设模型包括区分人脸图像的各种偏移度向量即可。
在训练得到第一预设数值个第一预设模型后,需要存储训练得到的第一预设数值个第一预设模型,以便在后续进行图像校正时,可以通过训练得到的第一预设数值个第一预设模型确定人脸图像的偏转度向量。关于存储训练得到的第一预设数值个第一预设模型所使用的存储器的类型,本公开实施例不作具体限定。具体实施时,包括但不限于可以为随机存取存储器、电可擦除可编程只读存储器、可擦除可编程只读存储器、可编程只读存储器、只读存储器、磁存储器、快闪存储器,等等。
当通过上述步骤训练并存储第一预设数值个第一预设模型后,在根据每个源特征点确定人脸图像的偏转度向量时,包括但不限于:根据每个源特征点确定人脸图像对应的特征向量;将人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,并将预设模型中与人脸图像对应的特征向量匹配的 参考特征向量对应的偏转度向量确定为人脸图像的偏转度向量。
其中,本公开实施例不对根据每个源特征点确定人脸图像对应的特征向量的方式进行限定。具体实施时,可以参照上述根据每个源特征点确定训练图像对应的特征向量的方式,在此不再赘述。关于将人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配的方式,本公开实施例不作具体限定。具体实施时,可以分别将人脸图像对应的特征向量的大小和方向分别与第一预设模型中每个参考特征向量的大小和方向进行比对来实现。
优选地,在将人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配时,还可以设置预设阈值。因此,在匹配的过程中,当人脸图像对应的特征向量的大小与参考特征向量的大小之间的差值在预设阈值范围内时,确定人脸图像对应的特征向量与参考特征向量匹配,否则,确定人脸图像对应的特征向量与参考特征向量不匹配。
在步骤S303中,根据偏转度向量确定对每个源特征点进行校正的偏移向量。
其中,本公开实施例不对根据偏转度向量确定对每个源特征点进行校正的偏移向量的方式进行限定。具体实施时,可以预先训练并存储第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。因此,在根据偏转度向量确定对每个源特征点进行校正的偏移向量时,可以根据训练得到的第二预设模型来实现。
关于训练第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型的方式,本公开实施例不作具体限定。具体实施时,可以通过如下步骤来实现:
第一步:获取与每个参考偏转度向量对应的源特征点,该源特征点的数量及名称与人脸图像中对应的至少一个源特征点的数量及名称一致。
例如,如果人脸图像中对应的至少一个源特征点为49个,且分别为鼻子和嘴巴周围各取四个,两只眼睛四周取24个,脸部外轮廓取17个,则同样需要获取与每个参考偏转度向量对应的49个源特征点,且分别为鼻子和嘴巴周围各取4个,两只眼睛四周取24个,脸部外轮廓取17个。
第二步:获取与每个参考偏转度向量对应的每个源特征点,并对每个源特征点进行校正,获得校正后的人脸图像,确定校正后的人脸图像中每个源特征点的位置。
其中,在对与每个参考偏转度向量对应的每个源特征点进行校正时,可以人为地根据校正经验来进行校正,也可以通过离线标定数据通过机器学习的方式进行校正。
另外,在获取与每个参考偏转度向量对应的每个源特征点之后,可以人脸图像所在的平面为坐标平面建立坐标系中表示各个源特征点的位置,并确定与每个参考偏转度向量对应的每个源特征点的坐标。
第三步:确定校正后的人脸图像中每个源特征点的位置和与每个参考偏转度向量对应的每个源特征点的位置之间的差值,并将校正后的人脸图像中每个源特征点的位置和与每个参考偏转度向量对应的每个源特征点的位置之间的差值作为与每个参考偏转度向量对应的每个源特征点的偏移向量。
其中,确定校正后的人脸图像中每个源特征点的位置的方式,可以为:在第二步中建立的坐标系下通过坐标表示校正后的人脸图像中每个源特征点的位置。进一步地,在确定校正后的人脸图像中每个源特征点的位置和与每个参考偏转度向量对应的每个源特征点的位置之间的差值时,可以通过坐标之间的差值来表示。例如,与某个参考偏转度向量对应的某个源特征点在以人脸图像所在的平面为坐标平面建立的坐标系下表示的坐标为(32,50),而校正之后该源特征点在以人脸图像所在的平面为坐标平面建立的坐标系下表示的坐标为(34,49),则与每个参考偏转度向量对应的源特征点与校正之后的源特征点位置之间的差值为(+2,-1),此时,(+2,-1)即为与每个参考偏转度向量对应的每个源特征点的偏移向量。
第四步:对每一个偏转度向量均按照上述第一步至第三步的方法执行,获得第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。
在获得第二预设模型后,根据偏转度向量确定对每个源特征点进行校正的偏移向量,包括但不限于可以为:
将人脸图像对应的偏转度向量与第二预设模型中的参考偏转度向量进行匹配,并将第二预设模型中与该人脸图像对应的偏转度向量匹配的参考偏转度向量对应的每个源特征点的偏移向量确定为对每个源特征点进行校正的偏移向量。
其中,将人脸图像对应的偏转度向量与第二预设模型中的参考偏转度向量 进行匹配时,可以将人脸图像对应的偏转度向量与第二预设模型包括的每个参考偏转度向量进行比对来实现。
在步骤S304中,根据每个源特征点以及每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点,并根据每个源特征点和每个目标特征点对人脸图像进行校正。
其中,在根据每个源特征点以及每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点时,可以将每个源特征点的坐标与每个源特征点对应的偏移向量的坐标进行叠加得到。例如,如果某一源特征点的坐标为(32,50),与该源特征点对应的偏移向量的坐标为(+2,-1),则与该源特征点对应的目标特征点的坐标为(34,49)。仍然如图4所示,图4(b)其示出了一种人脸图像中的源特征点和目标特征点的位置示意图。图4(b)中,“+”表示人脸图像的各个源特征点,“.”表示与人脸图像的各个源特征点对应的目标特征点。
在根据每个源特征点和每个目标特征点对人脸图像进行校正时,可以结合每个源特征点和每个目标特征点的坐标差异进行校正,等等。另外,在根据每个源特征点和每个目标特征点对人脸图像进行校正时,可以采用图像变形技术实现。其中,关于具体的图像变形技术,可以有很多种,本公开实施例对此不作具体限定。
本公开实施例提供的方法,通过人脸图像对应的源特征点确定该人脸图像的偏转度向量,进而确定对每个源特征点进行校正的偏移向量,获得与每个源特征点对应目标特征点,从而根据每个源特征点和每个目标特征点校正图像,由于根据每个源特征点及每个目标特征点便可实现校正,因此方法简单;又由于校正过程无需深度感应器辅助实现,使得图像校正的成本较低。
图5是根据一示例性实施例示出的一种图像校正装置示意图。参照图5,该装置包括定位模块501、第一确定模块502、第二确定模块503、第三确定模块504和校正模块505。
该定位模块501被配置为定位人脸图像,获得表征人脸图像的轮廓特征的至少一个源特征点;
该第一确定模块502被配置为根据每个源特征点确定人脸图像的偏转度向量;
该第二确定模块503被配置为根据偏转度向量确定对每个源特征点进行校正的偏移向量;
该第三确定模块504被配置为根据每个源特征点以及每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点;
该校正模块505被配置为根据每个源特征点和每个目标特征点对人脸图像进行校正。
优选地,第一确定模块502,包括第一确定单元、第一匹配单元和第二确定单元。
该第一确定单元被配置为根据每个源特征点确定人脸图像对应的特征向量;
该第一匹配单元被配置为将人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,第一预设模型包括不同参考特征向量及每个参考特征向量对应的偏转度向量;
该第二确定单元被配置为将预设模型中与人脸图像对应的特征向量匹配的参考特征向量对应的偏转度向量确定为人脸图像的偏转度向量。
优选地,装置,还包括第一训练模块和第一存储模块。
该第一训练模块被配置为训练第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型;
该第一存储模块被配置为存储第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型。
优选地,第二确定模块503,包括第二匹配单元和第三确定单元。
该第二匹配单元被配置为将偏转度向量与第二预设模型中的参考偏转度向量进行匹配,第二预设模型包括不同参考偏转度向量及与每个参考转度向量对应的每个源特征点的偏移向量;
该第三确定单元被配置为将第二预设模型中与偏转度向量匹配的参考偏转度向量对应的每个源特征点的偏移向量确定为对每个源特征点进行校正的偏移向量。
优选地,装置,还包括第二训练模块和第二存储模块。
该第二训练模块被配置为训练第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型;
该第二存储模块被配置为存储第二预设数值个包括不同参考偏转度向量及每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。
本公开实施例提供的装置,通过人脸图像对应的源特征点确定该人脸图像的偏转度向量,进而确定对每个源特征点进行校正的偏移向量,获得与每个源特征点对应目标特征点,从而根据每个源特征点和每个目标特征点校正图像,由于根据每个源特征点及每个目标特征点便可实现校正,因此方法简单;又由于校正过程无需深度感应器辅助实现,使得图像校正的成本较低。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图6是根据一示例性实施例示出的一种用于图像校正的终端600的框图。例如,终端600可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图6,终端600可以包括以下一个或多个组件:处理组件602,存储器604,电源组件606,多媒体组件608,音频组件610,输入/输出(I/O)接口612,传感器组件614,以及通信组件616。
处理组件602通常控制终端600的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件602可以包括一个或多个处理器620来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件602可以包括一个或多个模块,便于处理组件602和其它组件之间的交互。例如,处理组件602可以包括多媒体模块,以方便多媒体组件608和处理组件602之间的交互。
存储器604被配置为存储各种类型的数据以支持在终端600的操作。这些数据的示例包括用于在终端600上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器604可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件606为终端600的各种组件提供电力。电源组件606可以包括电 源管理系统,一个或多个电源,及其它与为终端600生成、管理和分配电力相关联的组件。
多媒体组件608包括在终端600和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件608包括一个前置摄像头和/或后置摄像头。当终端600处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件610被配置为输出和/或输入音频信号。例如,音频组件610包括一个麦克风(MIC),当终端600处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器604或经由通信组件616发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口612为处理组件602和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件614包括一个或多个传感器,用于为终端600提供各个方面的状态评估。例如,传感器组件614可以检测到终端600的打开/关闭状态,组件的相对定位,例如述组件为终端600的显示器和小键盘,传感器组件614还可以检测终端600或终端600一个组件的位置改变,用户与终端600接触的存在或不存在,终端600方位或加速/减速和终端600的温度变化。传感器组件614可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件614还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件614还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件616被配置为便于终端600和其它设备之间有线或无线方式的通信。终端600可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们 的组合。在一个示例性实施例中,通信组件616经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件616还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,终端600可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器604,上述指令可由终端600的处理器620执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质,当该存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行一种图像校正方法,该方法包括:
定位人脸图像,获得表征人脸图像的轮廓特征的至少一个源特征点;
根据每个源特征点确定人脸图像的偏转度向量,并根据偏转度向量确定对每个源特征点进行校正的偏移向量;
根据每个源特征点以及每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点,并根据每个源特征点和每个目标特征点对人脸图像进行校正。
本公开实施例提供的非临时性计算机可读存储介质,通过人脸图像对应的源特征点确定该人脸图像的偏转度向量,进而确定对每个源特征点进行校正的偏移向量,获得与每个源特征点对应目标特征点,从而根据每个源特征点和每个目标特征点校正图像,由于根据每个源特征点及每个目标特征点便可实现校正,因此方法简单;又由于校正过程无需深度感应器辅助实现,使得图像校正的成本较低。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发 明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (9)

1.一种图像校正方法,其特征在于,所述方法包括:
定位人脸图像,获得表征所述人脸图像的轮廓特征的至少一个源特征点;
根据每个源特征点确定所述人脸图像的偏转度向量,并根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量;
根据所述每个源特征点以及所述每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点,并根据所述每个源特征点和所述每个目标特征点对所述人脸图像进行校正;
其中,所述根据每个源特征点确定所述人脸图像的偏转度向量,包括:
根据所述每个源特征点确定所述人脸图像对应的特征向量;
将所述人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,所述第一预设模型包括不同参考特征向量及每个参考特征向量对应的偏转度向量;
将预设模型中与所述人脸图像对应的特征向量匹配的参考特征向量对应的偏转度向量确定为所述人脸图像的偏转度向量。
2.根据权利要求1所述的方法,其特征在于,所述根据每个源特征点确定所述人脸图像的偏转度向量之前,还包括:
训练并存储第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型。
3.根据权利要求1或2权利要求所述的方法,其特征在于,所述根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量,包括:
将所述偏转度向量与第二预设模型中的参考偏转度向量进行匹配,所述第二预设模型包括不同参考偏转度向量及与每个参考转度向量对应的每个源特征点的偏移向量;
将第二预设模型中与所述偏转度向量匹配的参考偏转度向量对应的所述每个源特征点的偏移向量确定为对所述每个源特征点进行校正的偏移向量。
4.根据权利要求3所述的方法,其特征在于,所述根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量之前,还包括:
训练并存储第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。
5.一种图像校正装置,其特征在于,所述装置包括:
定位模块,用于定位人脸图像,获得表征所述人脸图像的轮廓特征的至少一个源特征点;
第一确定模块,用于根据每个源特征点确定所述人脸图像的偏转度向量;
第二确定模块,用于根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量;
第三确定模块,用于根据所述每个源特征点以及所述每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点;
校正模块,用于根据所述每个源特征点和所述每个目标特征点对所述人脸图像进行校正;
其中,所述第一确定模块,包括:
第一确定单元,用于根据所述每个源特征点确定所述人脸图像对应的特征向量;
第一匹配单元,用于将所述人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,所述第一预设模型包括不同参考特征向量及每个参考特征向量对应的偏转度向量;
第二确定单元,用于将预设模型中与所述人脸图像对应的特征向量匹配的参考特征向量对应的偏转度向量确定为所述人脸图像的偏转度向量。
6.根据权利要求5所述的装置,其特征在于,所述装置,还包括:
第一训练模块,用于训练第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型;
第一存储模块,用于存储所述第一预设数值个包括不同参考特征向量及每个参考特征向量对应的偏转度向量的第一预设模型。
7.根据权利要求5或6权利要求所述的装置,其特征在于,所述第二确定模块,包括:
第二匹配单元,用于将所述偏转度向量与第二预设模型中的参考偏转度向量进行匹配,所述第二预设模型包括不同参考偏转度向量及与每个参考转度向量对应的每个源特征点的偏移向量;
第三确定单元,用于将第二预设模型中与所述偏转度向量匹配的参考偏转度向量对应的所述每个源特征点的偏移向量确定为对所述每个源特征点进行校正的偏移向量。
8.根据权利要求7所述的装置,其特征在于,所述装置,还包括:
第二训练模块,用于训练第二预设数值个包括不同参考偏转度向量及与每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型;
第二存储模块,用于存储所述第二预设数值个包括不同参考偏转度向量及每个参考偏转度向量对应的每个源特征点的偏移向量的第二预设模型。
9.一种终端,其特征在于,所述终端包括:
处理器;
用于存储处理器可执行的指令的存储器;
其中,所述处理器被配置为:
定位人脸图像,获得表征所述人脸图像的轮廓特征的至少一个源特征点;
根据每个源特征点确定所述人脸图像的偏转度向量,并根据所述偏转度向量确定对所述每个源特征点进行校正的偏移向量;
根据所述每个源特征点以及所述每个源特征点对应的偏移向量确定与每个源特征点对应的目标特征点,并根据所述每个源特征点和所述每个目标特征点对所述人脸图像进行校正;
其中,所述根据每个源特征点确定所述人脸图像的偏转度向量,包括:
根据所述每个源特征点确定所述人脸图像对应的特征向量;
将所述人脸图像对应的特征向量与第一预设模型包括的参考特征向量进行匹配,所述第一预设模型包括不同参考特征向量及每个参考特征向量对应的偏转度向量;
将预设模型中与所述人脸图像对应的特征向量匹配的参考特征向量对应的偏转度向量确定为所述人脸图像的偏转度向量。
CN201410235783.1A 2014-05-30 2014-05-30 图像校正方法、装置及终端 Active CN104077585B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410235783.1A CN104077585B (zh) 2014-05-30 2014-05-30 图像校正方法、装置及终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410235783.1A CN104077585B (zh) 2014-05-30 2014-05-30 图像校正方法、装置及终端

Publications (2)

Publication Number Publication Date
CN104077585A CN104077585A (zh) 2014-10-01
CN104077585B true CN104077585B (zh) 2017-09-22

Family

ID=51598832

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410235783.1A Active CN104077585B (zh) 2014-05-30 2014-05-30 图像校正方法、装置及终端

Country Status (1)

Country Link
CN (1) CN104077585B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105787884A (zh) * 2014-12-18 2016-07-20 联想(北京)有限公司 一种图像处理方法及电子设备
CN105139007B (zh) * 2015-09-30 2019-04-16 小米科技有限责任公司 人脸特征点定位方法和装置
CN105701786B (zh) * 2016-03-21 2019-09-24 联想(北京)有限公司 一种图像处理方法及电子设备
CN107292826B (zh) * 2016-03-31 2021-01-22 富士通株式会社 图像处理设备、图像处理方法以及图像处理装置
CN109523597B (zh) * 2017-09-18 2022-06-03 百度在线网络技术(北京)有限公司 相机外参的标定方法和装置
CN107704861B (zh) * 2017-10-23 2021-07-27 九竹物联技术有限公司 用于计算机视觉系统的图像轮廓数据结构的转换模版的构造方法
CN107958439B (zh) * 2017-11-09 2021-04-27 北京小米移动软件有限公司 图像处理方法及装置
US20190387165A1 (en) * 2018-06-07 2019-12-19 Eys3D Microelectronics, Co. Image device for generating depth images and related electronic device
CN110163806B (zh) * 2018-08-06 2023-09-15 腾讯科技(深圳)有限公司 一种图像处理方法、装置以及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102136069A (zh) * 2010-01-25 2011-07-27 华晶科技股份有限公司 用于辨识的对象影像校正装置与其方法
CN103020607A (zh) * 2012-12-27 2013-04-03 Tcl集团股份有限公司 一种人脸识别方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4946730B2 (ja) * 2007-08-27 2012-06-06 ソニー株式会社 顔画像処理装置及び顔画像処理方法、並びにコンピュータ・プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102136069A (zh) * 2010-01-25 2011-07-27 华晶科技股份有限公司 用于辨识的对象影像校正装置与其方法
CN103020607A (zh) * 2012-12-27 2013-04-03 Tcl集团股份有限公司 一种人脸识别方法及装置

Also Published As

Publication number Publication date
CN104077585A (zh) 2014-10-01

Similar Documents

Publication Publication Date Title
CN104077585B (zh) 图像校正方法、装置及终端
CN104243819B (zh) 照片获取方法及装置
CN105512605A (zh) 人脸图像处理方法及装置
CN105205479A (zh) 人脸颜值评估方法、装置及终端设备
CN108470322B (zh) 处理人脸图像的方法、装置及可读存储介质
CN104156915A (zh) 肤色调整方法和装置
CN107958223B (zh) 人脸识别方法及装置、移动设备、计算机可读存储介质
CN104484858B (zh) 人物图像处理方法及装置
CN106295530A (zh) 人脸识别方法及装置
CN106250894A (zh) 卡片信息识别方法及装置
CN107832741A (zh) 人脸特征点定位的方法、装置及计算机可读存储介质
CN105447462A (zh) 人脸姿态估计方法及装置
CN104408402A (zh) 人脸识别方法及装置
CN107944367B (zh) 人脸关键点检测方法及装置
CN106408603A (zh) 拍摄方法及装置
CN104182967B (zh) 图像处理方法、装置及终端
CN105469356A (zh) 人脸图像处理方法及装置
CN104077563B (zh) 人脸识别方法和装置
CN106980840A (zh) 脸型匹配方法、装置及存储介质
CN106225764A (zh) 基于终端中双目摄像头的测距方法及终端
CN114170302A (zh) 相机外参标定方法、装置、电子设备及存储介质
CN111105454A (zh) 一种获取定位信息的方法、装置及介质
CN106503682B (zh) 视频数据中的关键点定位方法及装置
CN111241887A (zh) 目标对象关键点识别方法及装置、电子设备和存储介质
CN107832746A (zh) 表情识别方法及装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant