CN101840509A - 人眼观察视角的测量方法及装置 - Google Patents

人眼观察视角的测量方法及装置 Download PDF

Info

Publication number
CN101840509A
CN101840509A CN201010166347A CN201010166347A CN101840509A CN 101840509 A CN101840509 A CN 101840509A CN 201010166347 A CN201010166347 A CN 201010166347A CN 201010166347 A CN201010166347 A CN 201010166347A CN 101840509 A CN101840509 A CN 101840509A
Authority
CN
China
Prior art keywords
eye
visual angle
people
observation visual
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201010166347A
Other languages
English (en)
Other versions
CN101840509B (zh
Inventor
李利民
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Huashi sports industry ecological operation Co., Ltd
Original Assignee
SHENZHEN HUACHANGSHI DIGITAL MOBILE TELEVISION CO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHENZHEN HUACHANGSHI DIGITAL MOBILE TELEVISION CO Ltd filed Critical SHENZHEN HUACHANGSHI DIGITAL MOBILE TELEVISION CO Ltd
Priority to CN2010101663475A priority Critical patent/CN101840509B/zh
Publication of CN101840509A publication Critical patent/CN101840509A/zh
Application granted granted Critical
Publication of CN101840509B publication Critical patent/CN101840509B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

一种人眼观察视角的测量方法及装置,包括以下步骤:1)预先建立人眼观察视角模板库,其包括人脸的转动、人眼的转动以及拍摄镜头的角度信息;2)计算第一类参数,即人眼观察视角模板库中的人的双眼中心的距离;3)计算第二类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的夹角;4)计算第三类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的交点与双眼中点的偏移;5)构造上述人眼观察各种视角与三类参数的参数矩阵;以及6)用Adaboost算法,依照已构造的该参数矩阵,来判断一幅待检图像中的人的视角。可以实现较精确地测量人眼观察视角,以实现收视率调查和户外广告的效果评价等应用。

Description

人眼观察视角的测量方法及装置
技术领域
本发明涉及识别图形的方法,特别是涉及应用电子设备进行人的脸部特征进行识别的方法。
背景技术
随着计算机视觉技术的发展,人脸识别技术得到了长足的发展和应用,其理论和算法体系日臻完善。传统上,人们把人脸识别技术分成人脸的检测和人脸的识别两大部分,其中,人脸的检测是利用人类脸部器官的结构、外形以及分布等共性特征,来检测是否有人脸的存在,人脸的识别则是把检测到的人脸特征和人脸模板库中预存的特征进行模式对比,以判断人的身份。
人脸识别技术仍面临着一定的挑战,主要体现在,虽然人脸的面部特征具有相似性,脸部器官的分布、结构和外形具有稳定的关系,可适用于通过人脸进行定位,但是要应用到个体定位则不易。其原因在于:人脸外形很不稳定,人脸有很多表情变化,并且在不同的角度进行观察,人脸的视觉图像也相差很大,从而使得人脸识别效果的稳定性和准确性存在相当程度的不确定性;另外,人脸识别还受光照条件,例如白天和夜晚,室内和室外等;人脸上的遮盖物,例如口罩、墨镜、头发和胡须等以及年龄等多方面因素的影响。
现有的人脸识别技术大约可以分为四大类:
1)基于知识的方法,是对组成典型人脸的知识进行编码。通常,先验知识包换了这些人脸特征的相互关系,早期的人脸定位多用此方法。
2)特征不变方法,是通过找出存在的一些结构特征,这些特征在姿态、观察点、光照条件改变的情况下保持不变,然后用这些特征来定位人脸。其代表性的技术有:基于人脸特征的边缘组法;基于纹理的人脸模式空间灰度矩阵法;基于肤色的高斯混合法;以及基于多特征的肤色、大小和形状混合法。
3)模板匹配法,是先存储一张人脸的几个标准模板,用来描述整张人脸或人脸的部分特性,然后通过计算输入图像与已经存储模板之间的相似度来进行检测。其代表性的技术有:基于预先定义的形状模板法以及基于可变形模板的活性形状模板法。
4)基于外观的方法,其与上述的模板匹配区别在于:其模板是从一组训练图像经过学习而得来的,这些图像包括人脸外观的具有代表性的变化因素。其代表性的技术有:基于本征脸的本征向量分解和聚合法;基于分布的高斯分布和多层感知器法;基于神经网络的结合仲裁模式的方法;多项式内核的支持向量机;贝叶斯分类法;基于隐马尔科夫模型的统计法;以及多级联Adaboost算法。
Adaboost算法是一种可机器学习的方法,其核心思想是针对同一个训练集训练不同的弱分类器----只要检测率高于50%,然后把这些弱分类器集成起来,构成一个更强大的最终分类器----强分类器。Kearns和Valiant已经证明:只要有足够的数据,弱学习算法就能集成为任意精度的假设强学习算法。Adaboost算法根据每次训练集中每个样本的分类是否正确,以及上次的总体分类的准确率,来确定每个样本的权值。将修改过权值的新数据集送给下层弱分类器进行再次训练,这样得到新的弱分类器----下层分类器,如此这班地重复多次,最后将每次训练中得到的弱分类器融合起来,作为最后的决策分类器。如中国专利CN200810056854.6所公开的一种基于图片几何结构的人脸检测方法,包括人脸模型的训练过程和人脸图像的检测过程,该方法包括以下步骤:人脸模型的训练过程步骤:训练样本归一化步骤;特征提取步骤;采用合适大小的块对样本进行划分的分块步骤;将计算获得所有差分值拉成特征列向量步骤,提交分类器学习;瀑布型支持向量机的学习过程;采用级联分类器针对每个窗口中的样本图片进行分类;人脸图像的检测步骤:对检测到的人脸进行标记。
在采用Adaboost算法进行人脸和脸部器官的检测并定位其位置的实现过程中,人眼的识别和定位是人脸检测的关键,人眼精确定位是人脸识别前处理阶段中非常关键的一个环节,只要眼球被精确定位,其它的人脸器官如眉、嘴、鼻等,可藉由潜在的几何分布关系比较精确地定位,在人眼定位算法中,比较常用的算法可以分为:霍夫变换法、变形模板法、边缘特征分析法和对称变换法。
虽然,上述现有的方法已经能够较成功地实现人脸的检测,然而,针对一些特定的应用领域,比如:对人眼观察视角进行测量,通过图像或视频中的人是否正在观看屏幕/镜头,来实现收视率调查、户外广告的效果评价等,由于人面部的微小转动,或者眼球的微小转动,都可能会引起视角的很大变化,这除了涉及上述的人脸识别技术外,还涉及到人眼的有关生理参数,人类个体面部器官的几何参数以及人相对屏幕/镜头的位置参数等因素的影响,从而使得精确测量人眼观察视角成为一桩非常棘手的技术难题。
目前,进行人眼视角的测量和追踪的方法主要有:1)仪器法,例如眼动仪,在测量时,需要戴上特制的头盔;2)计算机图形图像处理法。这种方法利用人眼转动时相关特征之间的变动关系进行视角测量。这些特征有普尔钦斑中心、虹膜中心、眼角、瞳孔中心等。例如普尔钦斑点法,其原理是,在拍摄镜头对人脸进行成像时,在一定的光照和角度下,成像的人眼瞳孔中会产生一个高亮度的普尔钦斑,该斑点中心的位置与瞳孔中心的位置有一定的对应关系。测量人脸中的这些生理特征之间的关系,从而测量出人眼的视角。上面列出的几个特征,由于其产生或测量有一定的条件,因此有所限制。
发明内容
本发明要解决的技术问题在于克服上述现有技术的不足,而提出一种可以实现较精确地测量人眼观察视角的技术。
本发明所说的“人眼观察视角”是,图像或视频中的人的视线相对于其平视状态下的空间偏移角度,或者定义为“图像或视频中的人的视线相对于拍摄镜头的空间偏移角度”,这两种不同的定义,采用的测量方法、步骤完全一致,测量结果也按照各自的定义进行解释。例如,视线左偏15度,或者视线右偏45度,等等。本发明所说的“人眼观察视角的测量”是,测量或估算出这个空间角度。
本发明对人眼视角的测量和追踪的方法属于计算机图形图像处理法。为了增强应用的普适性,本发明选取了双眼中心和鼻梁线作为测量视角的特征变量,根据统计学习来测量视角。
本发明解决上述技术问题采用的技术方案包括,提出一种人眼观察视角的测量方法,其包括的步骤大致有:1)预先建立人眼观察视角模板库,其包括人脸的转动、人眼的转动以及拍摄镜头的角度信息;2)计算第一类参数,即人眼观察视角模板库中的人的双眼中心的距离;3)计算第二类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的夹角;4)计算第三类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的交点与双眼中点的偏移;5)构造上述人眼观察各种视角与三类参数的参数矩阵;以及6)用Adaboost算法,依照已构造的该参数矩阵,来判断一幅待检图像中的人的视角。
本发明解决上述技术问题采用的技术方案还包括,提出一种人眼观察视角的测量装置,包括摄像头和处理器,该处理器上可运行相应的应用程序以配合该摄像头实现上述的测量方法。
本发明解决上述技术问题采用的技术方案还包括,提出一种户外广告的效果评价的方法,通过设置上述的测量装置,对被测对象的人眼观察视角进行判断,并对该判断结果进行统计。
与现有技术相比,采用本发明的人眼观察视角的测量方法及装置,可以实现较精确地测量人眼观察视角,以实现收视率调查和/或户外广告的效果评价等应用。
附图说明
图1为本发明的人眼观察视角的测量方法实施例的原理图。
图2为本发明的人眼观察视角的测量方法实施例的原理图。
图3为本发明的人眼观察视角的测量方法实施例中人眼观察视角的三个参数的示意。
图4为本发明的人眼观察视角的测量方法实施例中人脸转动后各参数发生变化的示意。
图5为本发明的人眼观察视角的测量装置实施例中处理器的结构图。
图6为本发明的人眼观察视角的测量方法及装置实施例中所采用的Haar-like特征。
图7为本发明的人眼观察视角的测量方法及装置实施例中θ与参数r,α的关系的示意。
图8为本发明的人眼观察视角的测量方法及装置实施例中训练Ci上的T个弱分类器的示意。
具体实施方式
以下结合附图所示之最佳实施例作进一步详述。
参见图1,本发明的人眼观察视角的测量方法实施例,其包括的步骤大致有:1)预先建立人眼观察视角模板库,其包括人脸的转动、人眼的转动以及拍摄镜头的角度信息;2)计算第一类参数,即人眼观察视角模板库中的人的双眼中心的距离;3)计算第二类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的夹角;4)计算第三类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的交点与双眼中点的偏移;5)构造上述人眼观察各种视角与三类参数的参数矩阵;以及6)用Adaboost算法,依照已构造的该参数矩阵,来判断一幅待检图像中的人的视角。
参见图2,本发明的人眼观察视角的测量装置实施例,包括摄像头和处理器,该处理器上可运行相应的应用程序以配合该摄像头实现上述的测量方法。该摄像头的设置角度与实际应用中的屏幕/镜头的视角相适应。
在生活中,当人们进行观察时,通常最舒适的姿态是围绕颈部轴心进行小角度转动,或者,眼球在眼眶中进行小角度转动。一般情况下,人眼的视觉范围是以颈部为轴心的180度半球。本发明的核心思想是,对图像进行检测,当检测出图像中的人脸、人眼、人眼眼球的中心位置以及人鼻梁线后,参见图3,定义出判定人眼视角的三个参数:其一,双眼中心距:指人双眼眼球的中心距离,记为m,其二,图像上人的鼻梁线或其延长线与双眼中心的夹角,记为α,其三,鼻梁线与双眼中心交点相对于双眼中点的偏移,记为ε。需要说明的是,本发明中鼻梁线为假想的一条线,开始于鼻根,结束于鼻尖。如记人眼视角为θ,那么θ就是这三个参数的函数:θ=f(m,α,ε)。
其中,当α=0,ε=0时,θ=f(m,0,0)=0,即人处于平视姿态,人眼视角为0,即人眼视线落在屏幕/镜头上。
尽管夹角α在很多情况下可以粗略说明人脸视线的偏移方向,但不能以此说明人脸视线的偏移角度,因为α只是θ在图像上的投影,而θ尚受眼球转动的影响。下面结合图4,分析这三个参数对视角的影响:
X-Y-Z坐标系是原始的人脸部的平视状态,aa为双眼中心距,bb为鼻梁线。
当人脸绕颈部转动一个角度θ后,双眼中心从aa转动到a’a’位置,鼻梁线从bb转动到b’b’位置。新的双眼中心a’a’和新的鼻梁线b’b’投影到图像上,就形成了夹角α。a’a’的长度在X-Y平面上的投影相比aa变小了,人眼视角与双眼中心距呈现出单调减函数关系,也即:m越小,θ越大;m越大,θ越小。
当人脸绕颈部转动一个角度θ后,由于屏幕/镜头位置不变,因此图像上的双眼连线就是a’a’在aa上的投影,但图像上的鼻梁线就是b’b’在X-Y平面上的投影,因而产生了双眼中心与鼻梁线之间的夹角。人脸转动越大,θ越大,双眼距离投影就越小m,双眼中心与鼻梁线之间的夹角α也越大。因此,θ与双眼中心与鼻梁线之间的夹角α是单调增函数关系,同时α与m是单调减函数关系。
视角θ与偏移量ε的关系则比较复杂。一方面人脸绕颈部的转动会产生偏移量,并且是转动越多,偏移量越大;另一方面,眼珠的转动也会产生偏移量,可以记这两种偏移量为ε1和ε2,这样ε=ε1+ε2。
为了测量出图像或视频中的人眼观察视角,首先需要预先建立人眼观察视角模板库。该模板库按照人眼观察视角分类成若干个子模板库,在子模板库中存储若干典型的人类观察视角的图像,这样,人眼观察视角就由这些图像来定义。除需建立人眼观察视角的模板库外,还需分别建立人脸模板库、非人脸模板库、人鼻子模板库和非人鼻子模板库。建立人脸模板库的目的,是为了检测图像或视频中的人脸;建立人鼻子模板库的目的,是为了检测图像或视频中的人鼻子。由于有众多的研究机构已构造了人脸模板库和非人脸模板库,因此可以直接引用。但人鼻模板库和非人鼻模板库需新建立。
本发明的测量人眼观察视角的方法的过程,大致包括:
首先建立一个人脸检测的计算机子系统。该子系统是一个Adaboost分类系统。用人脸模板库、非人脸模板库的图像训练该子系统,使其获得对人脸的检测能力。
同样地,建立一个人鼻子检测的计算机子系统。该子系统也是一个Adaboost分类系统。用人鼻子模板库、非人鼻子模板库的图像训练该子系统,使其获得对人鼻子的检测能力。
其次,建立一个计算人眼观察视角参数的计算机子系统。该子系统用于测量出模板库的各种视角下的参数,以形成参数矩阵。该计算机子系统先用人脸检测子系统、人鼻子检测子系统扫描人眼观察视角的模板库,识别出其中的人脸、人鼻子,对人眼进行初级定位,对人眼进行精确定位,识别人鼻梁线,计算出每幅图像的人眼观察视角三参数m、α、ε,这样就和预先设定的人眼视角θ一起构成了人眼观察视角参数矩阵A=[m α ε θ]。在实际中由于精确测量较为困难,因此可以用θ的范围表示,这样A可以表示为A=[m α ε θ1-θ2],θ1-θ2为θ的范围,也即预先设定的人眼观察视角模板库中的每一幅图像所对应的视角范围。
最后,再建立一个判别人眼观察视角的计算机子系统。通过该系统就可以输出图像或视频中的人眼的观察视角。这个系统是一个Adaboost分类系统。用获得的这个人眼观察视角参数矩阵来训练这个Adaboost分类系统,使其具有较高精度的分类能力。
当建立好这样的系统后,就可对图像或视屏中的人的观察视角进行检测。
本发明的人眼观察视角的测量装置,包括摄像头和处理器,该处理器上可运行相应的应用程序以配合该摄像头实现上述的测量方法。下面结合图5,对本发明的方法及装置予以更详尽的描述:
首先说明一下如何建立人眼观察视角模板库。由于人眼的观察视角处于以颈部为轴线的前180度半球面上,以及人眼有向上看、向前看、向下看三种仰(俯)方向,因此可以据此把人眼的观察视角以一个最小观察粒度为单位划分为若干个区域,以此区域分类构造人眼观察视角模板库。假设待测对象端坐在原点上,双眼平视前方,以一个半径R移动摄像头,绕原点转动,每隔一个最小观察粒度,例如3度,拍摄该待测对象,这样就形成了若干幅图像,每幅图像对应了一个视角。然后该待测对象以一定角度仰视,也以同样的半径R移动摄像机,绕原点转动,每隔一个最小观察粒度,例如3度,拍摄该待测对象,这样又形成了若干幅图像,每幅图像对应了一个视角。如此,以不同的仰角,俯角进行拍摄。接下来,待测对象仅按最小观察粒度的倍数转动眼球,每种情况下都重复上面的过程。这样就得到了若干个各种视角下的人脸图像,每幅图像情况下人眼的视角就对应一个值。转动摄像头等效于转动人脸。这样就建立了人眼观察视角模板库。
本发明的输入有:人脸模板库和非人脸模板库,人鼻模板库和非人鼻模板库,多种预先分类好的人眼观察视角模板库,待检图像。模板库中都是预先存储的图像。其中,人脸模板库和非人脸模板库可以采用一些研究机构提供的可免费使用的图像库,也可以另行建立。人鼻模板库中只含有各种视角下的人鼻的图像。人眼观察视角模板库包括已知的各种视角下的人脸的图像。
本发明的输出有:人眼观察视角参数矩阵;对待检图像分析后检出的结果,即视角范围。
本发明的处理器包括五个主要的部分组成:图像预处理;人脸检测Adaboost分类器;人鼻检测Adaboost分类器;人眼观察视角参数计算器;Adaboost人眼观察视角分类器。
图像预处理是在时域和空域中对图像进行平滑、变换、增强、恢复、滤波,以消除其中的随机噪声和高斯噪声等,修复或增强图像中的边缘,使图像中客体信息特征更加突出、简练。常用的算法包括灰度运算、二值运算、中值滤波、均值滤波、高斯滤波、各向异性扩算、Gabor滤波和小波分析等。
人脸检测Adaboost分类器由两大部分组成:分类器训练部分和分类器决策部分。图6是分类器采用的Haar-Like特征模板。训练分类器的简要步骤是:首先归一化人脸模板库和非人脸模板库中的图像;分别计算模板中每一图像每一位置对应于每个Haar-Like特征块的特征值(积分图);进行若干次循环,每次循环中,对所有特征块中的每一个特征块都训练出一个弱分类器,使其误判率小于50%,误判率最小的那个分类器则为该次循环中的最佳分类器,然后按最佳分类器的决策调整每个样本的权重,以便进行下一次循环;最后把每次循环训练出的最佳分类器融合起来,形成最终强分类器。用训练出的分类器检测图像中是否存在人脸的简要步骤是:首先对待检图像进行预处理和归一化;分别计算该图像每一位置对应于每个Haar-Like特征块的特征值;由强分类器中的每个弱分类器对该图像是否有人脸进行投票,最后对投票结果进行加权平均,得出最后的决策结果。
人鼻检测Adaboost分类器的组成和工作原理与人脸检测Adaboost分类器一样。
人脸区域的粗定位的步骤是:检测到人脸的存在后,采用Anil K.Jain的Cb,Cr椭圆聚类方法产生人脸区域的初始二值图,然后用二值形态学的开运算进行去噪处理,得到人脸区域的二值图。方法是:对图像进行色彩变换后,对每一像素的Cb,Cr值代入肤色判定公式:
( x - ec x ) 2 a 2 + ( x - ec y ) 2 b 2 = 1
其中,a=25.39,b=14.03,ecx=1.60,ecy=2.41;
x y = cos θ sin θ - sin θ cos θ Cb - cx Cr - cy
其中,θ=2.53,cx=109.38,cy=152.02。
得到(x,y)值,再计算该(x,y)是否落在椭圆区域内,如果是,则置该像素为1,否则为0,这样就得到了图像的初始二值图。
得到人脸区域后,先用小灰度聚类法粗定眼球中心点。然后采用霍夫变换法进行眼球中心点的精确定位。聚类的过程是先将图像进行灰度化处理和中值滤波或高斯滤波,将图像中灰度值最小的若干个(假设为N)个像素,按列递增的循序排序,如相邻的列数差值都为超过预先设定的门限,说明只有一个聚类中心,及只有一只眼,求出这些像素行列的平均值就是要找的眼球中心;如超过了门限,说明这些像素可以聚类成两类,对左眼,因为阴影、镜脚集中在左边,所以取右边那类的平均值;对右眼,则取左边那类的平均值,N的选择可根据脸部区域部分的总像素数目及人类眼球部分占人脸图像的大致百分比决定。
在用霍夫变换定位眼球前,先用Canny算子提取边缘。对于比较细长的眼睛,由于眼球的上半部分较多的被眼皮覆盖,所以改用检测眼睑的下半园。设图像空间为(i,j),i和j分别表示眼球区域灰度像素的行列坐标,三维变换空间为(ie,je,R),其中,ie,je分别代表眼球圆心的行和列,R为半径,这样,三维变换空间(ie,je,R)就是霍夫变换的三维参数空间。眼睑下半圆的代数表达式就为下式:
i=ie+squrt(R2-(j-je)2)其中squrt表示开方运算。
对于参数空间的每一个坐标点(ie,je,R),在图像空间都对应一个半圆,在这个半圆上存在的边缘点个数就是参数空间左标点(ie,je,R)对应的值。参数空间上的峰值点即为所求的眼球半圆参数。
定位出人脸区域和双眼中心及眼球半径后,根据人脸中眼睛、鼻子的几何分布关系的先验知识,构造出人鼻子的区域。然后用Canny算子检测出鼻梁的正中线。
经过上述处理后,可以计算出本发明所需要的人眼观察视角所需的三个参数,这样,对人眼观察视角库中的模板图像逐幅处理后,形成人眼观察视角参数矩阵。
接下来需要构造基于这个人眼观察视角参数矩阵的学习器:Adaboost人眼观察视角分类器。传统的Adaboost分类器是对某一个事物进行决策,决策的结果只有是或否以及其置信度。与此有所不同,本发明的Adaboost人眼观察视角分类器是要估算出一个数值的范围,是一个涉及多值选择的问题。下面详细说明如何构造。
假定人眼观察视角参数矩阵为:A=[m α ε θ1-θ2],其中m,ε按图3所示的测量人眼观察视角的三个参数中的双眼中心坐标确定正负,α按图3所示的测量人眼观察视角的三个参数中的“双眼中心与鼻梁线夹角坐标确定正负。θ的范围为±90度。又假定视角的最小观察粒度为Δθ=3度。如按前所述建立人眼观察视角模板库,那么通常有θ2=θ1+Δθ,即他们之间仅相差一个最小观察粒度Δθ。
前文已经分析过m,ε和α的关系,m与α是单调减函数关系,ε与α是单调增函数关系,因此,m与ε也是单调减函数关系,因此可以定义二者之间的比率关系为:r=ε/m,可以分析,r也与θ体现单调增函数关系。θ与r,α的关系曲线见图5。
假定r的最小观察粒度为Δr=0.001,这样,首先按照α和r这两个参数构造特征块:在正的角度范围内α从0开始,按照Δθ的倍数确定一个区间范围[n*Δθ,(n+1)*Δθ],直到90℃为止。负的角度范围内α也如此划分。r从0开始,按照倍数确定一个区间范围[i*Δr,(i+1)*Δr]。这样就构造出一个特征块t=(n*Δθ,(n+1)*Δθ,i*Δr,(i+1)*Δr)n的取值要使得(n+1)*Δθ<90,假定n<N,i的取值要(i+1)*Δr不超过达到一个合理的值,假定i<I。这样,特征块的总个数就是(N+1)*(I+1)*4。乘以4的原因是,考虑了r和α对每一个样本都有两个方向。对于每一个特征块,其特征值就是二维值(θ1 θ2)对,即视角范围。
构造Adaboost人眼观察视角分类器的思路是,首先,对某一个视角区间[i*Δθ,(i+1)*Δθ],-N<=i<=N,构造出对于其上的的强分类器,设为Ci
Ci的数学表达式为:
Figure GSA00000109358500101
其中Cij为Ci中的第j个弱分类器,Eij为该弱分类器的误检率。T为希望的每个Ci中的弱分类器的个数。
然后,融合这些强分类器,即用这些强分类器进行求和运算。于是就形成了Adaboost人眼观察视角分类器。这样,当给定待检图像I(x,y)后,人眼观察视角分类器的判决结果就是:
f(I)=f(m,α,ε)=∑N j=0Cj*j,设其值为i,那么视角区间θ为:Δθ*i<=θ<=Δθ*(i+1)
再考虑如何构造Ci中的T个弱分类器:
经过前文的简化,人眼观察视角参数矩阵就简化为:
A=[r α θ11+Δθ]
本发明把这个参数矩阵中的每一个参数对,作为训练样本。产生Ci中第j个弱分类器的实质是,对于某一个特征块,求合适的[r α]的阈值范围,使得该弱分类器把满足这个阈值范围的样本判定为其视角落在区间[i*Δθ,(i+1)*Δθ]中。如果这个判定与事实一致,即该样本事实上的视角也落在区间[i*Δθ,(i+1)*Δθ]中,那么就给“检对”加一分,否则就给“检错”加一分。只要“检对”的分数占总分的比率大于50%,那么这个弱分类器即成立。每个特征都有一个对应的弱分类器,其中的正确率最高的那个弱分类器就是最佳分类器。
求Ci中的T个弱分类器的更详细步骤,与传统Adaboost算法的步骤相一致,这里略为说明如下:
假定视角的最小观察粒度为Δθ=3度,那么在180度视角区间内一共需要产生2N=2*90/Δθ个区域。这些区域对应的视角范围是Di=[i*Δθ,(i+1)*Δθ],其中-N<=i<=N-1。这个区域上对应的强分类器为Ci,又假定Di上分布的训练样本个数为NSi,这样,总的训练样本数为NS=∑N-1 i=-NDi=参数矩阵的个数
如前定义的特征块定义为t(n,i)=(n*Δθ,(n+1)*Δθ,i*Δr,(i+1)*Δr),其中-N<=n<=N-1,-i<=i<=i-1。假定T=50。那么,训练Ci上的T个弱分类器的步骤就如图8所示。
以上,仅为本发明之较佳实施例,意在进一步说明本发明,而非对其进行限定。凡根据上述之文字和附图所公开的内容进行的简单的替换,都在本专利的权利保护范围之列。

Claims (10)

1.一种人眼观察视角的测量方法,其特征在于,包括以下步骤:
1)预先建立人眼观察视角模板库;
2)计算第一类参数,即人眼观察视角模板库中的人的双眼中心的距离;
3)计算第二类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的夹角;
4)计算第三类参数,即人眼观察视角模板库中的人的鼻梁线与双眼中心的交点与双眼中点的偏移;
5)构造上述人眼观察各种视角与三类参数的参数矩阵;以及
6)用Adaboost算法,依照已构造的该参数矩阵,来判断一幅待检图像中的人的视角。
2.如权利要求1所述的测量方法,其特征在于,还包括以下步骤:建立人脸与非人脸模板库和人鼻与非人鼻模板库。
3.如权利要求2所述的测量方法,其特征在于,还包括以下步骤:对该人脸与非人脸像模板库、人鼻与非人鼻模板库、人眼观察视角模板库以及待检图像进行图像预处理、人脸检测、人脸区域初定位、眼球初定位、双眼中心精确定位、鼻梁区域初定位以及鼻梁线精确定位,其中的人脸检测和人鼻检测采用Adaboost分类器进行处理。
4.如权利要求3所述的测量方法,其特征在于,该眼球初定位要依据该人脸区域初定位的结果,该双眼中心精确定位要依据该眼球初定位的结果,该鼻梁区域初定位要依据该人脸区域初定位的结果和该眼球初定位的结果,而该鼻梁线精确定位要依据该鼻梁区域初定位的结果。
5.如权利要求1所述的测量方法,其特征在于,该人眼观察视角模板库包括人脸的转动和人眼的转动信息。
6.如权利要求1所述的测量方法,其特征在于,该人眼观察视角模板库包括拍摄镜头的角度信息。
7.如权利要求1所述的测量方法,其特征在于,该人眼观察视角模板库包括已知的各种视角下的人脸的图像。
8.如权利要求7所述的测量方法,其特征在于,该参数矩阵中的人眼观察各种视角的值是用人眼观察视角模板库中的每一幅图像所对应的视角范围来表示。
9.一种人眼观察视角的测量装置,包括摄像头和处理器,其特征在于,该处理器上能够运行相应的应用程序以配合该摄像头实现权利要求1至8任一项所述的测量方法。
10.一种户外广告的效果评价的方法,其特征在于,设置权利要求9所述的测量装置,对被测对象的人眼观察视角进行判断,并对该判断结果进行统计。
CN2010101663475A 2010-04-30 2010-04-30 人眼观察视角的测量方法及装置 Expired - Fee Related CN101840509B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2010101663475A CN101840509B (zh) 2010-04-30 2010-04-30 人眼观察视角的测量方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2010101663475A CN101840509B (zh) 2010-04-30 2010-04-30 人眼观察视角的测量方法及装置

Publications (2)

Publication Number Publication Date
CN101840509A true CN101840509A (zh) 2010-09-22
CN101840509B CN101840509B (zh) 2013-01-02

Family

ID=42743871

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010101663475A Expired - Fee Related CN101840509B (zh) 2010-04-30 2010-04-30 人眼观察视角的测量方法及装置

Country Status (1)

Country Link
CN (1) CN101840509B (zh)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102129644A (zh) * 2011-03-08 2011-07-20 北京理工大学 一种具有受众特性感知与统计功能的智能广告系统
CN102622740A (zh) * 2011-01-28 2012-08-01 鸿富锦精密工业(深圳)有限公司 防闭眼人像拍摄系统及方法
CN103345653A (zh) * 2013-06-17 2013-10-09 复旦大学 基于多摄像头融合的上座率统计方法
CN104123543A (zh) * 2014-07-23 2014-10-29 泰亿格电子(上海)有限公司 一种基于人脸识别的眼球运动识别方法
CN104182765A (zh) * 2014-08-21 2014-12-03 南京大学 一种互联网图像驱动的三维模型最优视图自动选择方法
CN104679225A (zh) * 2013-11-28 2015-06-03 上海斐讯数据通信技术有限公司 移动终端的屏幕调节方法、屏幕调节装置及移动终端
CN105303170A (zh) * 2015-10-16 2016-02-03 浙江工业大学 一种基于人眼特征的视线估计方法
CN105677175A (zh) * 2015-12-30 2016-06-15 广东欧珀移动通信有限公司 一种终端应用的定位方法及装置
CN106295458A (zh) * 2015-05-11 2017-01-04 青岛若贝电子有限公司 基于图像处理的眼球检测方法
CN106339658A (zh) * 2015-07-09 2017-01-18 阿里巴巴集团控股有限公司 数据的处理方法和装置
CN107403148A (zh) * 2017-07-14 2017-11-28 广东欧珀移动通信有限公司 虹膜识别方法及相关产品
CN107944393A (zh) * 2017-11-27 2018-04-20 电子科技大学 人脸鼻尖定位方法
CN110488982A (zh) * 2019-08-26 2019-11-22 业成科技(成都)有限公司 透过眼球追踪电子白板之装置
CN112183160A (zh) * 2019-07-04 2021-01-05 北京七鑫易维科技有限公司 视线估计方法及装置
CN112804504A (zh) * 2020-12-31 2021-05-14 成都极米科技股份有限公司 画质调整方法、装置、投影仪及计算机可读存储介质
CN114281236A (zh) * 2021-12-28 2022-04-05 建信金融科技有限责任公司 文本处理方法、装置、设备、介质和程序产品

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1822024A (zh) * 2006-04-13 2006-08-23 北京中星微电子有限公司 一种人脸特征点定位方法
US20070154096A1 (en) * 2005-12-31 2007-07-05 Jiangen Cao Facial feature detection on mobile devices
CN101383001A (zh) * 2008-10-17 2009-03-11 中山大学 一种快速准确的正面人脸判别方法
JP2009053916A (ja) * 2007-08-27 2009-03-12 Sony Corp 顔画像処理装置及び顔画像処理方法、並びにコンピュータ・プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070154096A1 (en) * 2005-12-31 2007-07-05 Jiangen Cao Facial feature detection on mobile devices
CN1822024A (zh) * 2006-04-13 2006-08-23 北京中星微电子有限公司 一种人脸特征点定位方法
JP2009053916A (ja) * 2007-08-27 2009-03-12 Sony Corp 顔画像処理装置及び顔画像処理方法、並びにコンピュータ・プログラム
CN101383001A (zh) * 2008-10-17 2009-03-11 中山大学 一种快速准确的正面人脸判别方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
《计算机工程与应用》 20071231 张志刚 等 人脸关键特征点自动标定研究 , 2 *

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102622740A (zh) * 2011-01-28 2012-08-01 鸿富锦精密工业(深圳)有限公司 防闭眼人像拍摄系统及方法
CN102622740B (zh) * 2011-01-28 2016-07-20 鸿富锦精密工业(深圳)有限公司 防闭眼人像拍摄系统及方法
CN102129644A (zh) * 2011-03-08 2011-07-20 北京理工大学 一种具有受众特性感知与统计功能的智能广告系统
CN103345653A (zh) * 2013-06-17 2013-10-09 复旦大学 基于多摄像头融合的上座率统计方法
CN103345653B (zh) * 2013-06-17 2016-03-30 复旦大学 基于多摄像头融合的上座率统计方法
CN104679225A (zh) * 2013-11-28 2015-06-03 上海斐讯数据通信技术有限公司 移动终端的屏幕调节方法、屏幕调节装置及移动终端
CN104679225B (zh) * 2013-11-28 2018-02-02 上海斐讯数据通信技术有限公司 移动终端的屏幕调节方法、屏幕调节装置及移动终端
CN104123543A (zh) * 2014-07-23 2014-10-29 泰亿格电子(上海)有限公司 一种基于人脸识别的眼球运动识别方法
CN104182765B (zh) * 2014-08-21 2017-03-22 南京大学 一种互联网图像驱动的三维模型最优视图自动选择方法
CN104182765A (zh) * 2014-08-21 2014-12-03 南京大学 一种互联网图像驱动的三维模型最优视图自动选择方法
CN106295458A (zh) * 2015-05-11 2017-01-04 青岛若贝电子有限公司 基于图像处理的眼球检测方法
CN106339658A (zh) * 2015-07-09 2017-01-18 阿里巴巴集团控股有限公司 数据的处理方法和装置
CN105303170A (zh) * 2015-10-16 2016-02-03 浙江工业大学 一种基于人眼特征的视线估计方法
CN105303170B (zh) * 2015-10-16 2018-11-20 浙江工业大学 一种基于人眼特征的视线估计方法
CN105677175A (zh) * 2015-12-30 2016-06-15 广东欧珀移动通信有限公司 一种终端应用的定位方法及装置
CN107403148B (zh) * 2017-07-14 2020-07-07 Oppo广东移动通信有限公司 虹膜识别方法及相关产品
WO2019011108A1 (zh) * 2017-07-14 2019-01-17 Oppo广东移动通信有限公司 虹膜识别方法及相关产品
CN107403148A (zh) * 2017-07-14 2017-11-28 广东欧珀移动通信有限公司 虹膜识别方法及相关产品
CN107944393A (zh) * 2017-11-27 2018-04-20 电子科技大学 人脸鼻尖定位方法
CN107944393B (zh) * 2017-11-27 2021-03-30 电子科技大学 人脸鼻尖定位方法
CN112183160A (zh) * 2019-07-04 2021-01-05 北京七鑫易维科技有限公司 视线估计方法及装置
CN110488982A (zh) * 2019-08-26 2019-11-22 业成科技(成都)有限公司 透过眼球追踪电子白板之装置
CN110488982B (zh) * 2019-08-26 2023-06-02 业成科技(成都)有限公司 透过眼球追踪电子白板之装置
CN112804504A (zh) * 2020-12-31 2021-05-14 成都极米科技股份有限公司 画质调整方法、装置、投影仪及计算机可读存储介质
CN112804504B (zh) * 2020-12-31 2022-10-04 成都极米科技股份有限公司 画质调整方法、装置、投影仪及计算机可读存储介质
CN114281236A (zh) * 2021-12-28 2022-04-05 建信金融科技有限责任公司 文本处理方法、装置、设备、介质和程序产品
CN114281236B (zh) * 2021-12-28 2023-08-15 建信金融科技有限责任公司 文本处理方法、装置、设备、介质和程序产品

Also Published As

Publication number Publication date
CN101840509B (zh) 2013-01-02

Similar Documents

Publication Publication Date Title
CN101840509B (zh) 人眼观察视角的测量方法及装置
US10929649B2 (en) Multi-pose face feature point detection method based on cascade regression
US10049262B2 (en) Method and system for extracting characteristic of three-dimensional face image
CN101142584B (zh) 面部特征检测的方法
Sirohey et al. Eye detection in a face image using linear and nonlinear filters
CN101383001B (zh) 一种快速准确的正面人脸判别方法
CN104766059B (zh) 快速精确的人眼定位方法及基于人眼定位的视线估计方法
CN106778468B (zh) 3d人脸识别方法及设备
Jana et al. Age estimation from face image using wrinkle features
US20110081089A1 (en) Pattern processing apparatus and method, and program
CN102013011B (zh) 基于正脸补偿算子的多姿态人脸识别方法
CN102096823A (zh) 基于高斯模型和最小均方差的人脸检测方法
CN102663413A (zh) 一种面向多姿态和跨年龄的人脸图像认证方法
CN109800643A (zh) 一种活体人脸多角度的身份识别方法
CN101833654B (zh) 基于约束采样的稀疏表示人脸识别方法
Gupta et al. Face detection using modified Viola jones algorithm
CN108629336A (zh) 基于人脸特征点识别的颜值计算方法
CN100373395C (zh) 一种基于人脸统计知识的人脸识别方法
Zhou et al. Age classification using Radon transform and entropy based scaling SVM.
CN109409298A (zh) 一种基于视频处理的视线追踪方法
CN106650574A (zh) 基于PCANet的人脸识别方法
El Maghraby et al. Detect and analyze face parts information using Viola-Jones and geometric approaches
CN109034133A (zh) 一种人脸识别方法及装置
CN106611158A (zh) 人体3d特征信息的获取方法及设备
CN105760815A (zh) 基于第二代身份证人像和视频人像的异构人脸核实方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: VISIONCHINA MEDIA GROUP CO., LTD.

Free format text: FORMER OWNER: SHENZHEN HUACHANGSHI DIGITAL MOBILE TELEVISION CO., LTD.

Effective date: 20130918

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20130918

Address after: 518040 Guangdong city of Shenzhen province Futian District agricultural garden Xiangxieli Garden 7 first floor

Patentee after: Vision China Group Ltd

Address before: 518040 Guangdong city of Shenzhen province Futian District nongyuan road champs Garden 6 203C

Patentee before: Shenzhen Huachangshi Digital Mobile Television Co., Ltd.

TR01 Transfer of patent right

Effective date of registration: 20170505

Address after: 332200 Jiangxi Province, Jiujiang Ruichang east city 19 Building 1 unit

Patentee after: Jiujiang Huamei Media Co., Ltd.

Address before: 518040 Guangdong city of Shenzhen province Futian District agricultural garden Xiangxieli Garden 7 first floor

Patentee before: Vision China Group Ltd

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20200525

Address after: 518054 Room 201, building a, No. 1, Qianhaiwan 1st Road, Qianhai Shenzhen Hong Kong cooperation zone, Shenzhen City, Guangdong Province

Patentee after: Shenzhen Huashi sports industry ecological operation Co., Ltd

Address before: 332200 Jiangxi Province, Jiujiang Ruichang east city 19 Building 1 unit

Patentee before: Jiujiang Huamei Media Co., Ltd.

TR01 Transfer of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20130102

Termination date: 20210430

CF01 Termination of patent right due to non-payment of annual fee