CN100410962C - 一种人脸侧面轮廓和人耳特征相结合的身份识别装置 - Google Patents

Abstract

本发明为一种将人脸的侧面轮廓和人耳特征结合起来进行身份识别的装置，属于生物特征识别技术。该装置由图像获取装置和计算装置组成；图像获取装置可以根据人耳的位置上下左右调整摄像机获取清晰的人脸侧面图像；计算装置根据获取的图像检测出人脸的侧面轮廓，根据侧面轮廓进行粗分类；在粗分类结果的基础上，结合侧面轮廓确定人耳的准确位置，再利用人耳特征进行精确分类，从而实现身份识别。

Description

一种人脸侧面轮廓和人耳特征相结合的身份识别装置

技术领域

本发明属于基于人体生物特征的个人身份识别技术，特别涉及人耳特征及人脸侧面轮廓特征的测量与组合识别。

背景技术

身份识别是现代社会中人们经常要遇到的问题，例如在银行、公安、网上购物、商场、生活小区等需要安全检验的场合都需要进行身份识别。生物特征识别技术利用人类特有的生理(Physiological)或行为(Behavior)特征进行自动的身份识别和验证。是实现智能化社会保安和军事安全的重要技术手段。特别是美国9.11事件以后各国政府对公共场合的反恐安全更加重视，利用人体特有的生物特征进行身份识别受到了各国政府的高度重视。

生物特征识别技术与传统的身份鉴别技术如身份证、IC卡、账号密码等方式相比具有很大的优势，这是因为人体生物特征是时刻跟随自己的，不会丢失；另外生物特征复杂、仿造困难，这增加了可靠性和安全性。这些明显的优越性将使生物特征身份鉴别方式成为未来身份鉴别的主流方式。目前人们研究和使用的生物特征包括指纹、人脸、人耳、虹膜、视网膜、掌形、手势、掌纹、声纹、气味、签名、击键习惯、步态等。

现有的根据侧面轮廓进行身份识别主要是通过摄像机获取侧面图像，然后通过边缘检测得到人脸的侧面轮廓，再根据侧面轮廓上一些主要的特征点来得到人脸侧面轮廓的结构特征并进行识别。存在的问题是(1)通过边缘检测来获取人的侧面轮廓无法保证获得非常精确的轮廓；(2)有研究表明，根据结构特征进行识别的可靠性较差，而根据统计特征进行识别的可靠性则较好。

人耳识别是一种比较新的生物特征识别技术，99年才开始有相关的论文发表。人耳识别与其他生物特征识别相比具有其独特的优势，与指纹识别相比它具有非接触的信息采集方式比较容易被人接受的优点，与人脸识别相比具有生物特征稳定不变的优点。现有的人耳识别技术一般是根据摄像机拍摄的人耳图像进行识别，存在的一个问题就是很难精确的在图像中定位人耳的区域。由于人耳的颜色和人脸非常相似，因此想要精确的在人的侧脸上精确的定位人耳是一件非常困难的事情。

发明内容

本发明的目的是针对上述根据侧脸和人耳进行识别的方法存在的不足而提供一种侧脸和人耳相结合的组合识别装置。

本发明的主要内容为：

采用摄像机获取人的侧面图像信息，系统根据拍摄到的图像自动的移动摄像机直到获取到适合用于识别的图像为止；从图像中精确提取出人的侧面轮廓并根据得到的侧面轮廓进行粗分类；根据粗分类结果精确的得到人耳的位置；在粗分类的结果中通过人耳进行细分类，得到识别结果。

本发明的实现步骤如下：

1、训练时对每一个人拍摄不同角度的侧面图像，首先将每幅侧面图像进行归一化，然后对每幅图像通过训练，得到每幅侧面图像对应的侧面轮廓特征向量，人耳的位置以及人耳的特征向量。

2、进行识别时获取包括人耳的人脸侧面图像：可采用手持式的获取装置来获取人的侧面图像，系统会根据拍摄到的图像提示用户移动摄像机；也可采用用户不动，摄像机根据拍摄到的图像自动移动相应的位置的方法来获取。

3、根据侧面轮廓进行粗分类，根据侧面轮廓进行分类目前多是根据侧面轮廓的结构信息来进行分类的，但是，有研究表明，根据结构信息进行分类结果不稳定，不如根据统计信息进行分类的结果好，因此我们只是采用侧面轮廓进行粗分类，缩小后续识别的范围。

4、对候选的每个轮廓，根据训练结果得到人耳的区域，然后提取该区域的特征，进行识别，得到最终的识别结果。

本发明的优点

本发明与其它生物特征识别方法相比，具有以下几个方面的优势：

(1)图像获取方便，与用户的接口友好。与指纹、虹膜等生物特征的获取相比更容易被人接受。

(2)图像获取设备成本低，寿命长，可维护性好。只需要普通的摄像机即可。

(3)根据侧面轮廓识别可精确的得到人耳的位置，解决了人耳检测与跟踪的问题。

(4)将基于结构的侧面轮廓识别与基于统计的人耳识别相结合，并考虑了人耳和侧面轮廓的位置关系，可获得较高的识别率和较快的识别速度。

附图说明

图1侧脸和人耳结合的生物特征识别装置系统流程图；

图2通道式图像获取方式示意图；

图3手持式图像获取方式示意图；

图4侧面轮廓提取示意图；

图5侧面轮廓识别示意图；

图6根据侧面轮廓定位人耳区域示意图；

图7人耳识别示意图；

图8侧脸在图像中过于偏右和偏左的情况；

图9侧脸在图像中过于偏下和偏上的情况；

图10侧脸在图像中的合适位置。

具体实施方式

本发明提出的侧面轮廓和人耳特征相结合的身份识别装置的系统流程图如图1所示，具体实施步骤如下：

步骤一：图像获取

图像获取是后续识别的基础。获取时可采用通道式获取方式，如图2所示，获取图像时用户只需站立在摄像机的前面，系统根据拍摄到的图像判断图像是否适合进行识别，如不适合，则自动的移动摄像机，直到拍摄到的图像适合进行识别为止；也可以采用手持式获取方式，如图3所示，他人或自己直接手持图像获取装置获取耳朵图像，用提示音方式提示手动的方向直到获取到能用于识别的图像为止。

步骤二：提取侧面轮廓

系统获取图像之前先拍摄背景图像，获取到人的侧面图像后，减去背景图像即可得到人的侧面区域。从而得到侧面轮廓。由于头发的不稳定性，我们只采用从鼻子上端开始到下巴的这一段轮廓线进行后续的操作，如图4所示

步骤三：通过训练得到侧脸轮廓特征，人耳的精确位置以及人耳的特征

训练时，对待识别的n个人，每人获取m幅侧面图像，包括一定角度内的旋转。得到人的侧面轮廓后，可以提取出侧面轮廓上的特征点。具体提取方法如下：首先将得到的侧面轮廓用富雷曼链码表示，然后计算轮廓线上凹陷部分每点的曲率，可以得到5个曲率最大的点作为特征点，如图5的点A1，A4，A6，A8和A11所示；然后可以连接相邻的两个特征点，得到四条线段A1A4，A4A6，A6A8以及A8A11，然后计算每两个特征点之间的轮廓线上到对应线段上的垂直距离，距离最大的点也作为特征点，如图5的A2，A5，A7，A9所示；类似的，通过线段A2A4和A9A11，我们可以得到特征点A3和A10。这样，我们就可以自动准确的得到11个特征点。

得到特征点之后，可以通过下面的方法来计算每个轮廓的特征：

设t₁，t₂，...，t₁₀为表示距离的特征，t₁₁，...，t₁₉表示角度的特征，具体定义如下式所示：

$t_i=\frac{\stackrel{\‾}{A_i{A}_{i+1}}}{h}i=\mathrm{1,2},...10---\left(1\right)$

$h=\frac{1}{10}\underset{i=1}{\overset{10}{\mathrm{\Σ}}}\stackrel{\‾}{A_i{A}_{i+1}}---\left(2\right)$

$t_{i+10}=\frac{\∠A_i{A}_{i+1}{A}_{i+2}}{g}i=\mathrm{1,2},...9---\left(3\right)$

$g=\frac{1}{9}\underset{i=1}{\overset{9}{\mathrm{\Σ}}}\∠A_i{A}_{i+1}{A}_{i+2}---\left(4\right)$

则每个轮廓的特征向量为T_k＝[t₁，t₂，...，t₁₉]    k＝1，2，...，n×m。

我们选取A1和A4作为基准点，将所有训练样本归一化(包括大小和位置)，然后手工标出人耳的区域，如图6示。

可以提取出n×m幅人耳图像，然后对提取出的人耳进行训练，此处我们采用经典的PCA主成分分析方法进行训练。设得到的n×m幅人耳图像为Γ₁，Γ₂，Γ₃，...，Γ_n×m，可以得到平均耳 $\mathrm{\Ψ}=\frac{1}{n\×m}\underset{i=1}{\overset{n\×m}{\mathrm{\Σ}}}{\mathrm{\Γ}}_i,$ 每幅人耳图像与平均耳的差为Φ_i＝Γ_i-ψ。则训练人耳图像的协方差矩阵为 $C=\frac{1}{n\×m}\underset{i=1}{\overset{n\×m}{\mathrm{\Σ}}}{\mathrm{\Φ}}_i{\mathrm{\Φ}}_i^T.$ 主成分分析就是要找到训练人耳图像的协方差矩阵的最大的M个特征值λ_i，i＝1，2，...，M以及与这些特征值对应的特征向量u_i，i＝1，2，...，M。这些特征向量就形成了人耳空间的一组基。将每幅人耳图像通过下式投影到人耳空间可得每幅人耳图像在人耳空间中的坐标：

${\mathrm{\ω}}_{\mathrm{jki}}=u_i^T({\mathrm{\Γ}}_j-\mathrm{\Ψ}),i=\mathrm{1,2},...,M,j=\mathrm{1,2},...,n,k=\mathrm{1,2},...,m$

则每幅人耳图像在人耳空间的坐标为Ω_jk＝[ω_jk1，ω_jk2，...，ω_jkM，]    j＝1，2，...，n    k＝1，2，...，m

同一个人的人耳图像投影到人耳空间后得到的坐标会聚集在一起，我们取同一个人的人耳图像投影到人耳空间后得到的坐标的均值 ${\mathrm{\Ω}}_j=\frac{1}{m}\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{\mathrm{\Ω}}_{\mathrm{jk}}$ 作为这个人的人耳的特征向量。

这样对于每一幅侧面图像，我们得到的信息包括轮廓特征向量T_kk＝1，2，...，n×m，人耳区域的位置，人耳的特征向量Ω_j，k＝1，2，...，n以及这幅图像所属的类别L_k，k＝1，2，...，n。

步骤四：根据侧面轮廓进行粗分类

设T_kj表示第k个轮廓的第j个特征，s_j表示输入轮廓的第j个特征，则判别函数为：

$f_k=\sqrt{\underset{j=1}{\overset{19}{\mathrm{\Σ}}}{\mathrm{\ω}}_j{(T_{\mathrm{kj}}-s_j)}^2}---\left(5\right)$

其中ω_j为权值，其计算方法如下：

(1)对于距离特征：

${\mathrm{\ω}}_j=\frac{b_j}{\underset{i=1}{\overset{10}{\mathrm{\Σ}}}{b}_i}---\left(6\right)$

其 $a_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{T}_{\mathrm{kj}},$ $b_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{(T_{\mathrm{kj}}-a_j)}^2,j=\mathrm{1,2},...,10.$

(2)对于角度特征：

${\mathrm{\ω}}_j=\frac{b_j}{\underset{i=11}{\overset{19}{\mathrm{\Σ}}}{b}_i}---\left(7\right)$

其中 $a_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{T}_{\mathrm{kj}},$ $b_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{(T_{\mathrm{kj}}-a_j)}^2,j=\mathrm{11,12},...,19.$

当输入一个侧面轮廓进行识别时，与训练集中的T_k k＝1，2，...，n×m计算式(5)的值，如果与T_k的距离小于某一给定阈值，则将T_k加入到候选轮廓中。需要指出的是，这一步只是进行粗分类，把一些明显不符合的候选轮廓去掉，减少后续步骤需要处理的数据量，因此阈值的设定比较宽松。

步骤五：根据人耳细分类

设经过上一步的粗分类后，得到的候选集中包括H个候选轮廓，每个候选轮廓通过前面的训练可得到对应的人耳的特征向量Ω_i，i＝1，2，...，H和所属的类别信息L_i，i＝1，2，...，H。此时通过两个基准点A1，A4，将每个候选轮廓与训练集中的轮廓归一化，包括大小和位置都对齐，然后根据训练的结果，对于每一个候选轮廓都可以得到一个人耳区域，共得到H个人耳的候选区域，如图7示，图中的实线框表示正确的人耳区域，虚线框表示错误的人耳区域。可以将每个候选的人耳区域投影到前面训练得到的人耳空间得到其在人耳空间中的坐标Ω′_i，i＝1，2，...，H。计算该坐标与其对应的人耳的特征向量之间的距离：d₁＝||Ω′_i-Ω_i||，i＝1，2，...，H。取 $d_1=\underset{i}{\min }\left(d_i\right),$ 则最终的识别结果为L₁。

应用举例

通道式身份识别装置

将摄像机放在通道一侧，人经过时可拍摄到人的侧面图像。由于人的高矮不同以及站立的位置不同(相对摄像机偏前或者偏后)，系统可自动判断并调整摄像机的位置(上下左右平移)，以保证获取到可用的图像。由于事先拍摄了背景图像，因此可以把拍摄到图像与背景图像相减，即可得到人的侧面区域，如果该区域在图像中过于偏右(左、下、上)，如图8图9示，则将摄像机向左(右、上、下)移动。对于偏右(左、上)的情况，判断时可根据相减后的图像的右边(左边、上边)是否有黑色的背景区域来判断。对于过于偏下的情况，可通过计算图像中侧脸区域的高宽比来判断，如果比值大于某一阈值(由于人侧面脸的高度与宽度之比一般在1.5-2之间，此处阈值可以设为2)，则认为图像可用，否则将摄像机下移直到合适为止。拍摄到合适的图像(如图10)后，就可以采用上面提到的方法进行身份识别。

手持式身份识别装置

摄像机安装在手持装置上，由自己或他人直接手持图像获取装置获取耳朵图像，类似于通道式身份识别装置获取图像的方法，根据拍摄到的侧面区域在图像中的位置，以提示音的方式提示手动的方向直到获取到能用于识别的图像为止。然后采用上面提到的方法进行身份识别。

Claims (3)

1. 一种人脸侧面轮廓和人耳特征相结合的身份识别装置，其特征在于：该装置由图像获取装置和计算装置组成；计算装置通过训练样本，得到每幅人脸侧面图像所包含的人脸侧面轮廓特征、人耳特征以及人脸侧面轮廓与人耳间的位置特征；图像获取装置采用摄像机获取人脸的侧面图像信息；计算装置从图像中精确提取出人脸侧面轮廓并根据得到的人脸侧面轮廓进行粗分类；在粗分类的结果中通过人耳特征及人脸侧面轮廓与人耳之间的位置特征进行细分类，得到识别结果；

其中计算装置通过训练样本，得到每幅人脸侧面图像所包含的人脸侧面轮廓特征的过程为：对待识别的n个人，每人获取m幅人脸侧面图像，对于每一幅人脸侧面图像，获取人脸侧面轮廓，将得到的侧面轮廓用富雷曼链码表示，提取11个人脸侧面轮廓上的特征点：计算轮廓线上凹陷部分每点的曲率，得到5个曲率最大的点作为特征点，并根据人脸侧面轮廓线按照由上至下的顺序标记为A1、A4、A6、A8、A11；然后计算每两个相邻特征点之间的轮廓线到该两个相邻特征点间连线的垂直距离，垂直距离最大的点也作为特征点，又得到4个特征点，并根据人脸侧面轮廓线按照由上至下的顺序标记为A2、A5、A7、A9；计算A2、A4这两个相邻特征点之间的轮廓线到该两个相邻特征点间连线的垂直距离，垂直距离最大的点作为特征点，标记为A3；计算A9、A11这两个相邻特征点之间的轮廓线到该两个相邻特征点间连线的垂直距离，垂直距离最大的点作为特征点，标记为A10；计算装置根据所得到的11个特征点计算人脸侧面轮廓的距离特征和角度特征，形成人脸侧面轮廓特征：设t₁，t₂，...，t₁₀为表示距离的特征，t₁₁，...，t₁₉表示角度的特征，具体定义为：

$t_i=\frac{\stackrel{\‾}{A_i{A}_{i+1}}}{h},i=\mathrm{1,2},...10---\left(1\right)$

$h=\frac{1}{10}\underset{i=1}{\overset{10}{\mathrm{\Σ}}}\stackrel{\‾}{A_i{A}_{i+1}}---\left(2\right)$

$t_{i+10}=\frac{\∠A_i{A}_{i+1}{A}_{i+2}}{g},i=\mathrm{1,2},...9---\left(3\right)$

$g=\frac{1}{9}\underset{i=1}{\overset{9}{\mathrm{\Σ}}}\∠A_i{A}_{i+1}{A}_{i+2}---\left(4\right)$

则每个人脸侧面轮廓的特征向量为T_k＝[t₁，t₂，...，t₁₉]    k＝1，2，...，n×m；

其中计算装置通过训练样本，得到每幅人脸侧面图像所包含的人脸侧面轮廓与人耳间的位置特征的过程为：选择特征点A1、A4作为基准点，将所有训练样本进行归一化，手工标出人耳的位置，形成人脸侧面轮廓与人耳之间的位置特征；

其中计算装置通过训练样本，得到每幅人脸侧面图像所包含的人耳特征的过程为：对标记出的人耳区域使用主成分分析方法得到人耳特征，设得到的n×m幅人耳图像为Γ₁，Γ₂，Γ₃，...，Γ_n×m，得到平均耳 $\mathrm{\Ψ}=\frac{1}{n\×m}\underset{i=1}{\overset{n\×m}{\mathrm{\Σ}}}{\mathrm{\Γ}}_i,$ 每幅人耳图像与平均耳的差为Φ_i＝Γ_i-Ψ，则训练人耳图像的协方差矩阵为 $C=\frac{1}{n\×m}\underset{i=1}{\overset{n\×m}{\mathrm{\Σ}}}{\mathrm{\Φ}}_i{\mathrm{\Φ}}_i^T,$ 找到训练人耳图像的协方差矩阵的最大的M个特征值λ_i，i＝1，2，...，M以及与这些特征值对应的特征向量u_i，i＝1，2，...，M，形成人耳空间的一组基；将每幅人耳图像影到人耳空间可得每幅人耳图像在人耳空间中的坐标： ${\mathrm{\ω}}_{\mathrm{jki}}=u_i^T({\mathrm{\Γ}}_j-\mathrm{\Ψ}),$ 其中i＝1，2，...，M，j＝1，2，...，n，k＝1，2，...，m；则每幅人耳图像在人耳空间的坐标为Ω_jk＝[ω_jk1，ω_jk2，...，ω_jkM]，其中j＝1，2，...，n，k＝1，2，...，m；同一个人的人耳图像投影到人耳空间后得到的坐标会聚集在一起，取同一个人的人耳图像投影到人耳空间后得到的坐标的均值 ${\mathrm{\Ω}}_j=\frac{1}{m}\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{\mathrm{\Ω}}_{\mathrm{jk}}$ 作为这个人的人耳的特征向量；

其中计算装置根据得到的人脸侧面轮廓进行粗分类的过程为：设T_kj表示第k个轮廓的第j个特征，s_j表示输入轮廓的第j个特征，则判别函数为：

$f_k=\sqrt{\underset{j=1}{\overset{19}{\mathrm{\Σ}}}{\mathrm{\ω}}_j{(T_{\mathrm{kj}}-s_j)}^2}---\left(5\right)$

其中ω_j为权值，其计算方法如下：

(1)对于距离特征：

${\mathrm{\ω}}_j=\frac{b_j}{\underset{i=1}{\overset{10}{\mathrm{\Σ}}}{b}_i}---\left(6\right)$

其中 $a_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{T}_{\mathrm{kj}},b_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{(T_{\mathrm{kj}}-a_j)}^2,j=\mathrm{1,2},...,10;$

(2)对于角度特征：

${\mathrm{\ω}}_j=\frac{b_j}{\underset{i=11}{\overset{19}{\mathrm{\Σ}}}{b}_i}---\left(7\right)$

其中 $a_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{T}_{\mathrm{kj}},b_j=\frac{1}{N_R}\underset{k=1}{\overset{N_R}{\mathrm{\Σ}}}{(T_{\mathrm{kj}}-a_j)}^2,j=\mathrm{11,12},...,19;$

当输入一个人脸侧面轮廓进行识别时，与训练集中的T_k k＝1，2，...，n×m计算式(5)的值，如果与T_k的距离小于某一给定阈值，则将T_k加入到候选轮廓中；

其中计算装置在粗分类的结果中通过人耳特征及人脸侧面轮廓与人耳之间的位置特征进行细分类的过程为：设经过粗分类后，得到的候选集中包括H个候选轮廓，每个候选轮廓通过前面的训练可得到对应的人耳特征向量Ω_i，i＝1，2，...，H和所属的类别信息L_i，i＝1，2，...，H；此时通过前面所述得两个基准点将候选轮廓与训练集中的轮廓归一化，根据训练的结果，对于每一个候选轮廓都得到一个人耳区域，共得到H个人耳的候选区域；将每个候选的人耳区域投影到训练得到的人耳空间得到其在人耳空间中的坐标Ω′_i，i＝1，2，...，H；计算该坐标与其对应的人耳的特征向量之间的距离：d_i＝‖Ω′_i-Ω_i‖，i＝1，2，...，H；取 $d_i=\underset{i}{\min }\left(d_i\right),$ 则最终的识别结果为L_l。

2. 如权利要求1所述的一种侧面轮廓和人耳特征相结合的身份识别装置，其特征在于图像获取装置安装在上下左右运动的平台上，该平台置于门禁通道上，根据摄像机拍摄到的图像判断人的高低和前后位置，并自动调整摄像机直到获取到能用于识别的图像为止。

3. 如权利要求1所述的一种侧面轮廓和人耳特征相结合的身份识别装置，其特征在于图像获取装置是直接手持装置，他人或自己直接手持图像获取装置获取耳朵图像，用提示音方式提示手动的方向直到获取到能用于识别的图像为止。

Images