CN101609475A - 个人认证设备和个人认证方法 - Google Patents

个人认证设备和个人认证方法 Download PDF

Info

Publication number
CN101609475A
CN101609475A CNA2009102037921A CN200910203792A CN101609475A CN 101609475 A CN101609475 A CN 101609475A CN A2009102037921 A CNA2009102037921 A CN A2009102037921A CN 200910203792 A CN200910203792 A CN 200910203792A CN 101609475 A CN101609475 A CN 101609475A
Authority
CN
China
Prior art keywords
facial expression
characteristic
personal authentication
unit
facial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2009102037921A
Other languages
English (en)
Other versions
CN101609475B (zh
Inventor
平井信也
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of CN101609475A publication Critical patent/CN101609475A/zh
Application granted granted Critical
Publication of CN101609475B publication Critical patent/CN101609475B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • G06V40/175Static expression

Abstract

本发明涉及一种个人认证设备和个人认证方法。所述个人认证设备包括:输入单元,用于输入图像数据;面部检测单元,用于检测所述输入单元输入的所述图像数据中包含的人的面部区域,并且从检测出的所述面部区域中检测特征数据;面部表情判断单元,用于根据所述面部检测单元检测出的所述面部区域来判断面部表情;存储单元,用于与多个面部的各面部表情相对应地存储用于进行个人认证的特征数据;选择单元,用于从所述存储单元中选择与所述面部表情判断单元判断出的面部表情相对应的特征数据;以及认证单元,用于通过将所述面部检测单元检测出的所述面部区域的特征数据和所述选择单元所选择的特征数据进行比较,来进行个人认证。

Description

个人认证设备和个人认证方法
技术领域
本发明涉及一种用于从图像数据中检测人的面部区域并执行个人认证的个人认证设备和个人认证方法。
背景技术
传统上,已知用于使用面部检测功能执行个人认证的技术。这种技术从所检测出的面部图像数据中提取对于每个人不同的面部区域的特征数据,并将该特征数据与预先登记的特征数据进行比较,从而识别所检测出的面部是否是已登记的人的面部。
然而,由于特征数据受面部区域的面部表情的影响,面部区域的面部表情与登记时的面部表情的差异会导致个人认证的精度劣化。
为了避免这种情况,已知如下的方法:检测面部区域的面部表情,判断所检测出的面部表情对于执行个人认证是否有效,并且当判断为该面部表情无效时,使用新的图像数据来执行个人认证(例如,参见日本特开平06-119433号公报)。
然而,利用日本特开平06-119433号公报中说明的方法,在获得有效面部表情之前不能开始个人认证,因此在认证前花费很多时间。而且,当不出现有效面部表情时,不能进行认证。
发明内容
考虑到上述问题做出了本发明,并且本发明实现一种即使在面部表情变化时也能够以较高的精度快速执行个人认证的个人认证技术。
为了解决上述问题,本发明提供一种个人认证设备,包括:输入单元,用于输入图像数据;面部检测单元,用于检测所述输入单元输入的所述图像数据中包含的人的面部区域,并且从检测出的所述面部区域中检测特征数据;面部表情判断单元,用于根据所述面部检测单元检测出的所述面部区域来判断面部表情;存储单元,用于与多个面部的各面部表情相对应地存储用于进行个人认证的特征数据;选择单元,用于从所述存储单元中选择与所述面部表情判断单元判断为的面部表情相对应的特征数据;以及认证单元,用于通过将所述面部检测单元检测出的所述面部区域的特征数据和所述选择单元所选择的特征数据进行比较,来进行个人认证。
本发明还提供一种由个人认证设备执行的个人认证方法,所述个人认证设备包括:输入单元,用于输入图像数据;面部检测单元,用于检测所述输入单元输入的所述图像数据中包含的人的面部区域,并且从检测出的所述面部区域中检测特征数据;面部表情判断单元,用于根据所述面部检测单元检测出的所述面部区域来判断面部表情;以及存储单元,用于与多个面部的各面部表情相对应地存储用于进行个人认证的特征数据,所述个人认证方法包括:选择步骤,用于从所述存储单元中选择与所述面部表情判断单元判断为的面部表情相对应的特征数据;以及认证步骤,用于通过将所述面部检测单元检测出的所述面部区域的特征数据和所述选择步骤中选择的特征数据进行比较,来进行个人认证。
根据本发明,由于通过根据面部表情选择适当的特征数据来执行个人认证,因此,即使当面部表情变化时,也能够提高认证的精度。
通过以下参考附图对典型实施例的说明,本发明的其它特征将变得明显。
附图说明
图1是示出根据本发明第一实施例的个人认证设备的结构的框图;
图2是示出根据第一实施例的个人数据库的例子的图;
图3是示出根据第一实施例的个人认证处理的流程图;
图4是示出根据第二实施例的个人认证设备的结构的框图;
图5A和5B是示出根据第二实施例的个人认证处理的流程图;
图6是示出特征点的例子的图;以及
图7是示出在“笑容”面部情况下的特征点的例子的图。
具体实施方式
在下文中将参考附图详细说明本发明的实施例。
注意,下文中要说明的实施例仅是实施本发明的例子,这些实施例可以依据应用本发明的设备的结构和各种情况进行适当地修改和变更,并且本发明并不限于下面的实施例。
第一实施例
图1是示出根据本发明实施例的个人认证设备的结构的示意性框图。
本实施例的个人认证设备从图像输入单元1输入图像数据,面部检测单元2从该图像数据中检测人的面部区域的位置和大小。对于面部检测,可以使用已知的方法。例如,面部检测单元2从输入图像数据中提取与面部区域的鼻子、嘴和眼睛等组成部分相对应的形状,并且检测通过两只眼睛之间的中心的延长线上鼻子和嘴所在的区域。面部检测单元2基于两只眼睛的大小和它们之间的距离估计面部的大小,并且将由以对应于鼻子的中心的位置为基准、具有估计出的大小的区域界定出的区域指定为面部区域。
面部检测单元2从检测出的面部区域中提取特征数据。例如,如日本特开2005-266981号公报中所述,特征数据包括与嘴、眼睛、眉毛和鼻子等面部组成部分的实际形状以及这些组成部分的位置相关的信息。注意,可以通过使用例如神经网络或使用空间滤波器的边缘检测方法进行计算来从输入面部区域的图像数据中提取特征数据。当然,特征数据不仅可以包括与形状和位置相关的信息,而且还可以包括与饱和度和色相相关的信息。随着各面部的特征数据的数量的增加,可以更加详细地分析面部外貌,并且可以提高使用这些特征数据的面部表情判断和个人认证的精度。
在像动画一样的包含多个帧的图像数据中,对给定周期的各个帧进行面部检测。同一人物判断单元3判断现在这些帧中的哪些面部对应于同一个人。例如,当从某一帧的图像数据中检测出多个面部,并且从另一帧的图像数据中检测出一个或多个面部时,同一人物判断单元3判断为具有相似大小和位置的那些面部对应于同一个人。
面部表情判断单元4基于面部检测单元2提取的特征数据判断面部的面部表情。要判断的面部表情的类型包括“无表情”、“笑容”和“闭眼”。数据库选择单元5基于面部表情判断单元4的判断结果,从预先登记在个人数据库单元8中的用于个人认证的特征数据中选择并读出对应于该面部表情的特征数据。认证单元6通过对数据库选择单元5选择的特征数据和面部检测单元2提取的面部区域的特征数据进行比较和核对,来执行个人认证,结果输出单元7输出该认证结果。
该个人认证设备可以配置为单独的设备或包括多个设备的系统。例如,单独的数字照相机或数字摄像机可以包括从图像输入单元1到个人数据库单元8的所有组件。可选地,数字照相机或数字摄像机可以只包括图像输入单元1,能够与该数字照相机或数字摄像机通信的外部计算机可以包括其它组件。此外,网络上的多个计算机可以共享并包括从图像输入单元1到个人数据库单元8的所有组件,并且包括图像输入单元1的计算机可以从其它外部设备或记录介质接收图像数据。
在本实施例中,如图6所示,作为用于个人认证的特征数据,使用23个特征点的坐标。为了实际执行个人认证,需要更多特征点。然而,为了简化说明,下面将在假定使用23个特征点的情况下进行说明。
当图像数据中的面部倾斜时,在旋转图像数据以消除该倾斜之后计算这23个特征点。基于面部检测单元2从图像数据中提取的眼睛、鼻子、嘴、眉毛等的位置,通过以例如两只眼睛之间的距离等正规化面部大小,来计算这些特征点的坐标。以鼻子的端点的位置为基准确定坐标位置。认证单元6以Pi(i=1,2,......,23)定义从输入图像数据计算出的特征点的坐标,并且计算Pi与预先登记在个人数据库单元8中的人物的特征点的坐标P’i之间的差的绝对值之和S=∑|Pi-P’i|。该绝对值之和S越小,被检测到的人和预先登记的人是同一个人的可能性越高。当被判断为具有最高可能性的人的绝对值之和S等于或小于预先设置的阈值时,认证单元6判断为该检测到的人是登记的人;否则,认证单元6判断为不存在相应的人。
注意,这种计算绝对值之和S的方法是个人认证方法的一个例子,可以使用其它方法执行个人认证。例如,可以根据在从“无表情”面部变化为“笑容”面部时眼睛和嘴的位置和形状的变化模式来识别人物,或者可以根据面部的图像数据生成大量具有不同分辨率的图像数据,可以执行依赖于分辨率的个人认证处理,并且可以根据这些处理的合并结果获得最终的个人认证结果。即,即使使用其它方法,只要采用通过与预先登记在个人数据库单元8中的数据进行核对来确定具有最高可能性的人的结构,均能获得与本实施例相同的效果。
可以通过检测同一面部上的特征的相对位置在时间上的变化来实现面部表情判断单元4的面部表情判断。例如,与图6所示的“无表情”面部相比,在“笑容”面部的情况下,如图7所示,特征点的位置发生如眼睛变窄和嘴角上扬的变化。在本实施例中,当观察者左眼的上下中心点的特征点9和11之间的距离和观察者右眼的上下中心点的特征点13和15之间的距离与“无表情”面部中的上述距离相比减小了预定比率或更多,并且嘴的左右端的特征点6和7相对于嘴的上下中心端的特征点4和5的位置与“无表情”面部相比上扬了预定比率或更多时,判断为“笑容”。此外,当嘴的特征点4~7的位置不满足“笑容”条件,并且眼睛的特征点9和11之间的距离以及特征点13和15之间的距离与“无表情”面部上的上述距离相比减小时,判断为“闭眼”。
关于“无表情”面部的面部区域的判断,例如,当嘴的形状的变化量在预定时间段内没有超出预定阈值时,可以将在该时间获得的面部区域判断为“无表情”状态。可选地,可以使用通过对同一面部区域的几个连续帧的特征进行平均而获得的值来定义“无表情”状态。可选地,通过对同一面部区域的多个连续帧所获得的特征进行比较,可以根据它们的相对值自动判断包括对应于“无表情”的面部的帧和包括对应于“笑容”的面部的帧。此外,可以与面部表情相对应地设置与眼睛的睁开程度和嘴形相关的条件,可以判断各输入帧图像的面部满足哪个条件,并且可以对于各个帧独立地判断面部表情。利用这种对于各个帧独立地判断面部表情的结构,即使根据作为单独帧的静止图像也能够判断面部表情。以这种方式,通过判断构成面部并从图像数据中提取出的眼睛和嘴等部分的形状是否满足特定条件来判断面部表情,这不同于与针对各人预先登记的特征进行比较的个人认证。
如上所述,在个人认证中,将从图像数据中检测出的特征点与预先登记在个人数据库单元8中的每个人的特征点进行比较以计算它们的绝对值之和S。然而,当人的面部表情改变时,从图像数据中检测出的特征点的坐标也改变,并且个人认证时计算出的绝对值之和S的值依据面部表情极大地改变,因而降低了个人认证的精度。与之相对,由于执行如下的个人认证,本实施例中的个人认证设备可以提高精度。
如图2所示,与将要执行个人认证的人和他们的面部表情相对应地,将用于个人认证的特征数据预先登记在个人数据库单元8中。在登记时,被摄体可以顺序做出指定的面部表情,并且登记从拍摄的各面部表情中提取的特征数据。可选地,可以使用上述方法根据包括由被摄体任意改变的面部表情的图像数据自动判断面部表情,并且登记它们的特征。可选地,用户可以从已拍摄的图像数据中选择任意面部,并可以将该面部的特征点登记为用户指定的人和面部表情的特征数据。
下面将参考图3的流程图说明个人认证时的操作。在将图像数据输入到图像输入单元1时开始该流程图。如果图像输入单元1包括照相机,则该图像数据对应于由该照相机拍摄的或从存储介质读出的图像数据。如果图像输入单元1包括个人计算机,则该图像数据对应于从记录介质读出的图像或通过网络接收的图像数据。该图像数据可以是静止图像或动画。如果图像数据是动画,则以根据个人认证所需的时间段的帧间隔连续地执行个人认证。在假定将动画图像数据输入图像输入单元1的情况下,给出本实施例的说明。
在步骤S101中,面部检测单元2从图像输入单元1接收动画的一个帧的图像数据,并检测人的面部。
如果在步骤S102中判断为面部检测单元2可以检测出一个或多个面部,则处理进入步骤S103;否则,处理跳转到步骤S111。在步骤S111中判断输入到图像输入单元1的图像数据是否包括另一帧的图像数据。如果图像数据包括另一帧,则在步骤S112中更新图像数据。然后,处理返回到步骤S101,面部检测单元2对更新后的图像数据执行面部检测。
在步骤S103中,同一人物判断单元3接收面部检测单元2检测出的面部检测结果,并判断从不同帧中检测出的哪些面部被认为是同一个人的面部。如果图像数据包括多个人,必须彼此区分他们的面部,并且必须针对每个面部计算用作上述“无表情”标准的特征数据。为了该目的,同一人物判断单元3将从各个帧中检测出的各个面部的中心位置和大小进行比较,并将连续帧中面部中心位置的距离和大小变化量的总和最小的面部估计为同一个人的面部。然而,即使当该总和最小时,如果该总和落在预设阈值范围外,则同一人物判断单元3判断为不存在相同的人。同一人物判断单元3可以通过比较面部的位置或大小来估计同一个人,或者可以将亮度值或颜色信息具有最高相似度的面部估计为同一个人。以这种方式,通过检查从两个帧中检测出的面部之间的相关性,可以判断从这两个帧中检测出的面部是否是同一个人的面部。如果输入到图像输入单元1的图像数据是静止图像,则省略该步骤S103。
在步骤S104中,面部检测单元2根据可以检测到的面部计算包括如图6和7所示的特征点坐标的特征数据。
在步骤S105中,面部表情判断单元4使用面部检测单元2计算出的特征数据和同一人物判断单元3获得的判断结果判断各面部是否是“无表情”面部。在本实施例中,当在预定时间段内嘴的形状的变化量不超过预定阈值时,面部表情判断单元4判断为此时的面部是“无表情”面部,并且基于该“无表情”面部的特征数据来判断“笑容”面部等。更具体地,面部表情判断单元4累积被判断为同一个人的面部的特征数据,并观察特征数据的相对变化,从而判断该面部是否是“无表情”面部。当面部表情判断单元4可以判断为“无表情”面部时,其从“无表情”面部中计算用作“无表情”标准的特征数据。如果没有充分地累积特征数据,面部表情判断单元4不能计算出用作“无表情”标准的特征数据(在步骤S106中为“否”),则处理经步骤S111和S112返回到步骤S101以累积面部特征数据。如果在步骤S105中面部表情判断单元4能够计算出用作“无表情”标准的特征数据(在步骤S106中为“是”),则处理进入步骤S107。注意,对于计算出了用作“无表情”标准的特征数据的面部,面部表情判断单元4可以在该面部消失以前跳过步骤S105中的处理。可选地,即使在计算出了用作“无表情”标准的特征数据之后,每次在步骤S104中计算新的特征数据时,面部表情判断单元4可以计算新的用作“无表情”标准的特征数据,并且更新特征数据。
在步骤S107中,面部表情判断单元4通过将在步骤S104中计算出的最新特征数据与在步骤S105中计算出的用作“无表情”标准的特征数据进行比较,来计算由该最新特征数据表示的各面部的面部表情。
在步骤S108中,数据库选择单元5从个人数据库单元8中选择并读出所有与从面部表情判断单元4输出的面部表情判断结果相对应的用于个人认证的特征数据。例如,如果面部表情判断单元4在步骤S107中判断为“笑容”面部,则数据库选择单元5从图2所示的个人数据库单元8中的特征数据中选择并读出在“笑容”面部情况下的所有人的特征数据A-2、B-2和C-2。当预先登记了大量人的特征数据时,数据库选择单元5可以只选择用户指定的特定人或人物组中包括的特征数据。
在步骤S109中,认证单元6基于已经判断出面部表情的最新特征数据和与该面部表情相对应的用于个人认证的特征数据的绝对值之和S,来识别谁是具有该面部的人。
在步骤S110中,结果输出单元7从认证单元6接收个人认证结果,并通过将其叠加在根据要认证的图像数据生成的图像上来显示该接收到的结果。当然,认证结果的显示方法并不限于这种特定的显示方法,可以使用各种方法。当对多个面部同时执行个人认证时,希望明确认证结果与面部之间的对应关系。
如果输入到图像输入单元1的图像数据还包括要进行面部检测的帧图像(在步骤S111中为“否”),则处理经过步骤S112返回到步骤S101;否则(在步骤S111中为“是”),结束该流程图。
根据上述实施例,即使当面部表情改变时,检测该面部表情并使用与检测出的面部表情相对应的特征数据执行个人认证,因而允许具有高精度的个人认证。
第二实施例
作为第二实施例,将说明在个人数据库单元8中没有登记与在第一实施例中检测出的面部表情相对应的特征数据的情况。本实施例中的个人认证设备使用其它帧的图像数据的个人认证结果,在个人数据库单元8中另外登记与认证时不同的面部表情的特征数据。
图4示出第二实施例中的个人认证设备的结构,在图1所示的结构中添加了特征数据登记单元9。例如,假定在个人数据库单元8中登记了与某个人的“无表情”和“闭眼”相对应的用于个人认证的特征数据,但是没有登记与“笑容”相对应的用于个人认证的特征数据。当判断为该人具有“笑容”面部时,特征数据登记单元9在个人数据库单元8中登记与该人的“笑容”面部相对应的特征数据,作为与“笑容”相对应的用于个人认证的特征数据。
至于其它结构,在图4中使用相同的附图标记表示与图1中相同的部分,并且将避免对于它们的重复说明。
下面将参考图5A和5B说明本实施例的个人认证设备的操作。在图5B中步骤S113~S115的处理与作为第一实施例的图3中的处理不同。由于用与图3中相同的步骤号来表示图5中与图3中相同的处理,将避免对于它们的重复说明。
在步骤S101~S107中,面部检测单元2从各个帧中检测面部并计算这些面部的特征数据,同一人物判断单元3判断从各个帧中检测出的面部中的哪些面部对应于同一个人。然后,面部表情判断单元4判断计算了用作“无表情”标准的特征数据的面部的面部表情。
特征数据登记单元9在步骤S113中检查在步骤S107中判断了面部表情的面部是否是已进行了个人认证的面部。可以基于认证单元6先前的认证结果和同一人物判断单元3先前的同一人物判断结果,判断面部是否已进行了个人认证。即,判断即使在通过第一实施例的步骤S103中说明的方法进行个人认证后,同一人物判断单元3是否可以连续地追踪已经基于先前帧中的任意面部表情进行了个人认证的面部。如果在步骤S107中判断了面部表情的面部是还没有进行个人认证的面部(在步骤S113中为“是”),则处理进入步骤S108以执行与第一实施例中的处理相同的处理。
如果在步骤S107中判断了面部表情的面部是已进行了个人认证的面部(在步骤S113中为“否”),则处理进入步骤S114。特征数据登记单元9在步骤S114中判断个人数据库单元8中是否已登记了与在步骤S107中判断出的面部表情相对应的该人的用于个人认证的特征数据。
如果个人数据库单元8中已登记了与步骤S107中判断的面部表情相对应的人的用于个人认证的特征数据(在步骤S114中为“否”),则处理进入步骤S108以执行与第一实施例中的处理相同的处理。
如果个人数据库单元8中还没有登记与步骤S107中判断的面部表情相对应的人的用于个人认证的特征数据(在步骤S114中为“是”),则处理进入步骤S115。
在步骤S115中,特征数据登记单元9将根据具有该面部表情的面部计算出的特征数据,作为与该人的该面部表情相对应的用于个人认证的特征数据登记在个人数据库单元8中。
下面将说明实际的例子。假定已经在个人数据库单元8中登记了B先生的“无表情”的特征数据,但是还没有登记“笑容”的特征数据。并且,假定已经基于使用该“无表情”的特征数据的认证结果判断为某一面部是B先生的面部。此外,假定面部表情判断单元4针对新一帧的图像数据中由同一人物判断单元3判断为B先生的面部,判断为“笑容”面部。此时,特征数据登记单元9将被判断为“笑容”面部的面部的特征数据新登记在个人数据库单元8中,作为B先生的“笑容”面部的用于个人认证的特征数据。在完成登记后,该个人认证设备进入步骤S112并执行与第一实施例中的处理相同的处理。
注意,提取并存储同一个人的各个面部表情的特征数据,并且当对该人进行认证时,可以将已存储的特征数据中与未登记的面部表情相对应的特征数据登记为用于个人认证的特征数据。
如果数据库选择单元5在步骤S108中判断为与特定面部表情相对应的、用于个人认证的特征数据的累积不充分,则结果输出单元7可以相应地显示通知消息。当结果输出单元7向用户显示该消息时,可以提示用户累积与该面部表情相对应的、用于个人认证的不充分特征信息。
在步骤S109中,认证单元6可以不仅基于一个面部表情的个人认证结果而且还基于多个面部表情的个人认证结果来综合地对给定面部进行认证。例如,认证单元6使用动画中面部表情被判断为“笑容”的帧的“笑容”特征数据、面部表情被判断为“无表情”的帧的“无表情”特征数据和面部表情被判断为“闭眼”的帧的“闭眼情”特征数据来执行个人认证。结果,可以选择多次被判断为具有最高一致度的人。以这种方式,当多个面部区域的认证结果一致时,获得最终的认证结果,从而提高了认证的精度。在对动画中的同一个人执行个人认证时,每次面部表情变化时可能获得不同的认证结果。此时,“笑容”面部在眼睛的睁开程度和嘴的两端的上扬程度方面具有较大变化,并且“笑容”面部与用于个人认证的特征数据一致的比率,比“无表情”面部低。由于这个原因,认证单元6可以将“笑容”面部的个人认证结果乘以比“无表情”状态的权重小的权重,并且可以对时间上连续获得的认证结果进行统计,从而获得最终的认证结果。
即使当对于同一个人获得不同的认证结果时,例如在“无表情”情况下判断为A先生,在“闭眼”情况下判断为B先生,可以使用这些结果更新“闭眼”的用于个人认证的特征数据。在这种情况下,特征数据登记单元9使用被错误地判断为B先生的“闭眼”的特征数据,更新个人数据库单元8中的A先生的“闭眼”的用于个人认证的特征数据。
根据上述实施例,由于自动添加没有预先登记的特征数据,可以获得具有较高精度的个人认证。
其它实施例
本发明还包括通过将实现上述实施例的功能的计算机程序直接或远程地提供给系统或设备来实现本发明的情况。在这种情况下,该系统的计算机等读出并执行该计算机程序。
因此,安装在计算机中以使用计算机来实现本发明的功能处理的计算机程序本身实现本发明。在这种情况下,并不特别限定程序的形式,只要具有程序功能,可以使用目标代码、由解释器执行的程序、提供给操作系统的脚本数据等。
作为用于提供程序的记录介质(存储介质),可以使用例如软盘、硬盘、光盘和磁光盘等。另外,还可以使用MO、CD-ROM、CD-R、CD-RW、磁带、非易失性存储卡、ROM以及DVD(DVD-ROM、DVD-R)。
作为其它的程序提供方法,用户可以使用客户端计算机上的浏览器建立与互联网上的主页的连接,并且可以从该主页下载本发明的计算机程序本身。另外,可以通过将包含自动安装功能的压缩文件下载到硬盘等记录介质上来提供计算机程序。另外,可以将构成本发明的程序的计算机程序分割成多个可以从不同主页下载的文件。即,本发明包括使多个用户下载通过计算机实现本发明的功能处理所需的程序文件的WWW服务器。
另外,可以将CD-ROM等存储有本发明的加密程序的存储介质分发给用户,并且可以允许满足预定条件的用户通过互联网从主页下载解密该程序的密钥信息。在这种情况下,用户使用下载的密钥信息执行加密程序并将该程序安装在计算机上,从而实现本发明。
当计算机执行读出的程序时实现上述实施例的功能。此外,运行在计算机上的操作系统等基于该程序的指令执行实际处理的部分或全部,从而实现上述实施例的功能。
此外,当将从该记录介质读出的程序写入插入或连接到计算机的功能扩展板或单元的存储器时,可以实现上述实施例的功能,该功能扩展板上的CPU等执行实际处理的部分或全部。
尽管参考典型实施例说明了本发明,但应当理解,本发明不限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包括所有这类修改、等同结构和功能。

Claims (6)

1.一种个人认证设备,包括:
输入单元,用于输入图像数据;
面部检测单元,用于检测所述输入单元输入的所述图像数据中包含的人的面部区域,并且从检测出的所述面部区域中检测特征数据;
面部表情判断单元,用于根据所述面部检测单元检测出的所述面部区域来判断面部表情;
存储单元,用于与多个面部的各面部表情相对应地存储用于进行个人认证的特征数据;
选择单元,用于从所述存储单元中选择与所述面部表情判断单元判断出的面部表情相对应的特征数据;以及
认证单元,用于通过将所述面部检测单元检测出的所述面部区域的特征数据和所述选择单元所选择的特征数据进行比较,来进行个人认证。
2.根据权利要求1所述的个人认证设备,其特征在于,所述面部表情判断单元根据多个连续的图像数据计算特征数据的变化量,并且基于所述变化量来判断面部的面部表情。
3.根据权利要求1所述的个人认证设备,其特征在于,所述认证单元针对所述面部表情判断单元在判断面部的面部表情中所使用的多个图像数据中的每个图像数据进行个人认证,并且基于各认证结果确定最终的认证结果。
4.根据权利要求1所述的个人认证设备,其特征在于,当从所述认证单元进行个人认证所基于的面部中检测出没有存储在所述存储单元中并且与人的其它面部表情相对应的特征数据时,将该特征数据作为与该人的所述其它面部表情相对应的特征数据存储在所述存储单元中。
5.根据权利要求1所述的个人认证设备,其特征在于,还包括用于在与所述选择单元所选择的面部表情相对应的特征数据没有存储在所述存储单元中时通知所述存储单元中没有存储该特征数据的单元。
6.一种由个人认证设备执行的个人认证方法,所述个人认证设备包括:
输入单元,用于输入图像数据;
面部检测单元,用于检测所述输入单元输入的所述图像数据中包含的人的面部区域,并且从检测出的所述面部区域中检测特征数据;
面部表情判断单元,用于根据所述面部检测单元检测出的所述面部区域来判断面部表情;以及
存储单元,用于与多个面部的各面部表情相对应地存储用于进行个人认证的特征数据,
所述个人认证方法包括:
选择步骤,用于从所述存储单元中选择与所述面部表情判断单元判断出的面部表情相对应的特征数据;以及
认证步骤,用于通过将所述面部检测单元检测出的所述面部区域的特征数据和所述选择步骤中选择的特征数据进行比较,来进行个人认证。
CN2009102037921A 2008-06-16 2009-06-16 个人认证设备和个人认证方法 Active CN101609475B (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2008156996 2008-06-16
JP2008-156996 2008-06-16
JP2008156996 2008-06-16
JP2009105611 2009-04-23
JP2009105611A JP2010027035A (ja) 2008-06-16 2009-04-23 個人認証装置及び個人認証方法
JP2009-105611 2009-04-23

Publications (2)

Publication Number Publication Date
CN101609475A true CN101609475A (zh) 2009-12-23
CN101609475B CN101609475B (zh) 2011-10-26

Family

ID=41414213

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009102037921A Active CN101609475B (zh) 2008-06-16 2009-06-16 个人认证设备和个人认证方法

Country Status (3)

Country Link
US (4) US8154384B2 (zh)
JP (1) JP2010027035A (zh)
CN (1) CN101609475B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102147856A (zh) * 2010-02-10 2011-08-10 佳能株式会社 图像识别设备及其控制方法
CN102722664A (zh) * 2012-05-21 2012-10-10 北京百纳威尔科技有限公司 一种解锁方法及设备
CN103516518A (zh) * 2013-07-03 2014-01-15 北京百纳威尔科技有限公司 安全验证方法和装置
CN103514389A (zh) * 2012-06-28 2014-01-15 华为技术有限公司 设备认证方法和装置
CN104102927A (zh) * 2013-04-01 2014-10-15 三星电子株式会社 执行用户验证的显示设备及其方法
CN105975935A (zh) * 2016-05-04 2016-09-28 腾讯科技(深圳)有限公司 一种人脸图像处理方法和装置
CN108960022A (zh) * 2017-09-19 2018-12-07 炬大科技有限公司 一种情绪识别方法及其装置

Families Citing this family (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8439265B2 (en) 2009-06-16 2013-05-14 Intel Corporation Camera applications in a handheld device
US8390648B2 (en) * 2009-12-29 2013-03-05 Eastman Kodak Company Display system for personalized consumer goods
US20110206244A1 (en) * 2010-02-25 2011-08-25 Carlos Munoz-Bustamante Systems and methods for enhanced biometric security
US8705813B2 (en) 2010-06-21 2014-04-22 Canon Kabushiki Kaisha Identification device, identification method, and storage medium
JP5748421B2 (ja) * 2010-06-21 2015-07-15 キヤノン株式会社 認証装置、認証方法、及び認証プログラム、並びに記録媒体
JP5783759B2 (ja) * 2011-03-08 2015-09-24 キヤノン株式会社 認証装置、認証方法、および認証プログラム、並びに記録媒体
US20120076368A1 (en) * 2010-09-27 2012-03-29 David Staudacher Face identification based on facial feature changes
TWI435597B (zh) * 2010-10-20 2014-04-21 Altek Corp 結合臉部特徵辨識之相片資訊顯示方法及其具有攝像功能之電子裝置
US10917431B2 (en) * 2010-11-29 2021-02-09 Biocatch Ltd. System, method, and device of authenticating a user based on selfie image or selfie video
JP2012169777A (ja) * 2011-02-10 2012-09-06 Sony Corp 情報処理装置、情報処理方法、およびプログラム
JP5791364B2 (ja) * 2011-05-16 2015-10-07 キヤノン株式会社 顔認識装置、顔認識方法、顔認識プログラム、およびそのプログラムを記録した記録媒体
WO2013014328A1 (en) * 2011-07-25 2013-01-31 Nokia Corporation Methods and apparatuses for facilitating locking and unlocking of secure functionality through object recognition
KR101180471B1 (ko) 2011-09-27 2012-09-07 (주)올라웍스 한정된 메모리 환경 하에서 얼굴 인식 성능 향상을 위한 참조 얼굴 데이터베이스 관리 방법, 장치 및 컴퓨터 판독 가능한 기록 매체
US9008436B2 (en) * 2011-10-28 2015-04-14 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US9025835B2 (en) 2011-10-28 2015-05-05 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US9025836B2 (en) 2011-10-28 2015-05-05 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US8938100B2 (en) 2011-10-28 2015-01-20 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
US8811747B2 (en) 2011-10-28 2014-08-19 Intellectual Ventures Fund 83 Llc Image recomposition from face detection and facial features
KR101242390B1 (ko) * 2011-12-29 2013-03-12 인텔 코오퍼레이션 사용자를 인증하기 위한 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체
US8848068B2 (en) * 2012-05-08 2014-09-30 Oulun Yliopisto Automated recognition algorithm for detecting facial expressions
JP6149926B2 (ja) * 2013-03-28 2017-06-21 日本電気株式会社 鳥検知装置、鳥検知システム、鳥検知方法およびプログラム
CN104683302A (zh) * 2013-11-29 2015-06-03 国际商业机器公司 认证方法、认证装置、终端设备、认证服务器及系统
JP6197613B2 (ja) 2013-12-02 2017-09-20 富士通株式会社 生体情報抽出装置、生体情報抽出方法、および生体情報抽出プログラム
US10083368B2 (en) * 2014-01-28 2018-09-25 Qualcomm Incorporated Incremental learning for dynamic feature database management in an object recognition system
US9614724B2 (en) 2014-04-21 2017-04-04 Microsoft Technology Licensing, Llc Session-based device configuration
US9639742B2 (en) 2014-04-28 2017-05-02 Microsoft Technology Licensing, Llc Creation of representative content based on facial analysis
US9773156B2 (en) 2014-04-29 2017-09-26 Microsoft Technology Licensing, Llc Grouping and ranking images based on facial recognition data
US10111099B2 (en) 2014-05-12 2018-10-23 Microsoft Technology Licensing, Llc Distributing content in managed wireless distribution networks
US9874914B2 (en) 2014-05-19 2018-01-23 Microsoft Technology Licensing, Llc Power management contracts for accessory devices
US10037202B2 (en) 2014-06-03 2018-07-31 Microsoft Technology Licensing, Llc Techniques to isolating a portion of an online computing service
US9367490B2 (en) 2014-06-13 2016-06-14 Microsoft Technology Licensing, Llc Reversible connector for accessory devices
US9460493B2 (en) 2014-06-14 2016-10-04 Microsoft Technology Licensing, Llc Automatic video quality enhancement with temporal smoothing and user override
JP6369543B2 (ja) 2014-06-19 2018-08-08 日本電気株式会社 認証装置、認証システム、認証方法およびコンピュータプログラム
US9373179B2 (en) 2014-06-23 2016-06-21 Microsoft Technology Licensing, Llc Saliency-preserving distinctive low-footprint photograph aging effect
US9717006B2 (en) 2014-06-23 2017-07-25 Microsoft Technology Licensing, Llc Device quarantine in a wireless network
CN105989331B (zh) * 2015-02-11 2019-10-08 佳能株式会社 脸部特征提取装置、脸部特征提取方法、图像处理设备和图像处理方法
WO2016129159A1 (ja) * 2015-02-13 2016-08-18 ソニー株式会社 情報処理システム、情報処理装置、制御方法、および記憶媒体
KR102401170B1 (ko) * 2015-10-21 2022-05-24 삼성전자주식회사 복합 인증 장치 및 방법
US10025972B2 (en) * 2015-11-16 2018-07-17 Facebook, Inc. Systems and methods for dynamically generating emojis based on image analysis of facial features
CN105868684A (zh) * 2015-12-10 2016-08-17 乐视网信息技术(北京)股份有限公司 视频信息获取方法及装置
US9619723B1 (en) 2016-02-17 2017-04-11 Hong Kong Applied Science and Technology Research Institute Company Limited Method and system of identification and authentication using facial expression
CN110419048B (zh) * 2017-02-09 2023-10-31 普雷西恩私人有限公司 用于标识所定义的对象的系统
CN106992968B (zh) * 2017-03-03 2020-05-19 浙江智贝信息科技有限公司 一种基于客户端的人脸持续认证方法
CN106934375A (zh) * 2017-03-15 2017-07-07 中南林业科技大学 基于特征点运动轨迹描述的人脸表情识别方法
CN107242876B (zh) * 2017-04-20 2020-12-15 合肥工业大学 一种用于精神状态的计算机视觉方法
CN107220590B (zh) * 2017-04-24 2021-01-05 广东数相智能科技有限公司 一种基于活体检测的防作弊网络调研方法、装置及系统
US10594690B2 (en) * 2017-11-16 2020-03-17 Bank Of America Corporation Authenticating access to a computing resource using facial recognition based on involuntary facial movement
US11048785B2 (en) 2018-02-14 2021-06-29 Samsung Electronics Co., Ltd Method and apparatus of performing authentication
US11488319B2 (en) * 2018-02-26 2022-11-01 Mitsubishi Electric Corporation Three-dimensional position estimation device and three-dimensional position estimation method
CN110659014B (zh) * 2018-06-29 2022-01-14 赛灵思公司 乘法器及神经网络计算平台
CN108958613A (zh) * 2018-07-03 2018-12-07 佛山市影腾科技有限公司 一种基于人脸识别的终端解锁方法、装置及终端
US10956548B2 (en) * 2018-10-09 2021-03-23 Lenovo (Singapore) Pte. Ltd. User authentication via emotion detection
US10423773B1 (en) * 2019-04-12 2019-09-24 Coupang, Corp. Computerized systems and methods for determining authenticity using micro expressions
CN110688641A (zh) * 2019-09-30 2020-01-14 联想(北京)有限公司 信息处理方法及电子设备
JP7385416B2 (ja) * 2019-10-10 2023-11-22 グローリー株式会社 画像処理装置、画像処理システム、画像処理方法及び画像処理プログラム
WO2022177554A1 (en) * 2021-02-17 2022-08-25 Futurewei Technologies, Inc. Methods and devices using facial expression recognition
WO2023062832A1 (ja) * 2021-10-15 2023-04-20 日本電気株式会社 認証装置、認証システム、認証方法、及びコンピュータ可読媒体

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06119433A (ja) 1992-10-01 1994-04-28 Toshiba Corp 人物認証装置
US7062073B1 (en) * 1999-01-19 2006-06-13 Tumey David M Animated toy utilizing artificial intelligence and facial image recognition
JP4590717B2 (ja) 2000-11-17 2010-12-01 ソニー株式会社 顔識別装置及び顔識別方法
US6879709B2 (en) * 2002-01-17 2005-04-12 International Business Machines Corporation System and method for automatically detecting neutral expressionless faces in digital images
DE60230192D1 (de) * 2002-04-12 2009-01-15 Agency Science Tech & Res Robuste gesichtsregistrierung über mehrfach-gesichtsprototypensynthese
KR100438841B1 (ko) * 2002-04-23 2004-07-05 삼성전자주식회사 이용자 검증 및 데이터 베이스 자동 갱신 방법, 및 이를이용한 얼굴 인식 시스템
JP4743823B2 (ja) 2003-07-18 2011-08-10 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法
EP2955662B1 (en) * 2003-07-18 2018-04-04 Canon Kabushiki Kaisha Image processing device, imaging device, image processing method
US20060261931A1 (en) * 2003-08-15 2006-11-23 Ziyi Cheng Automobile security defence alarm system with face identification and wireless communication function
JP2005266981A (ja) 2004-03-16 2005-09-29 Omron Corp 人種推定装置
JP2006031387A (ja) * 2004-07-15 2006-02-02 Yamaha Motor Co Ltd 画像認識装置、画像認識方法、画像認識プログラムおよび画像認識プログラムを記録した記録媒体
JP2006115406A (ja) * 2004-10-18 2006-04-27 Omron Corp 撮像装置
JP2007036928A (ja) * 2005-07-29 2007-02-08 Sharp Corp 携帯情報端末装置
JP2007080021A (ja) 2005-09-15 2007-03-29 Nikon Corp 指紋照合機能付き電子機器
JP4553138B2 (ja) * 2005-09-28 2010-09-29 株式会社デンソー 顔画像認証装置
JP4756589B2 (ja) * 2005-12-07 2011-08-24 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
JP4725377B2 (ja) 2006-03-15 2011-07-13 オムロン株式会社 顔画像登録装置、顔画像登録方法、顔画像登録プログラム、および記録媒体
JP4877005B2 (ja) * 2006-03-28 2012-02-15 オムロン株式会社 監視装置および方法、並びにプログラム
JP4947769B2 (ja) 2006-05-24 2012-06-06 富士フイルム株式会社 顔照合装置および方法並びにプログラム
JP4240108B2 (ja) * 2006-10-31 2009-03-18 ソニー株式会社 画像記憶装置、撮像装置、画像記憶方法およびプログラム
TWI365416B (en) * 2007-02-16 2012-06-01 Ind Tech Res Inst Method of emotion recognition and learning new identification information

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102147856B (zh) * 2010-02-10 2013-06-05 佳能株式会社 图像识别设备及其控制方法
CN102147856A (zh) * 2010-02-10 2011-08-10 佳能株式会社 图像识别设备及其控制方法
CN102722664A (zh) * 2012-05-21 2012-10-10 北京百纳威尔科技有限公司 一种解锁方法及设备
CN103514389A (zh) * 2012-06-28 2014-01-15 华为技术有限公司 设备认证方法和装置
CN104102927B (zh) * 2013-04-01 2019-08-09 三星电子株式会社 执行用户验证的显示设备及其方法
CN104102927A (zh) * 2013-04-01 2014-10-15 三星电子株式会社 执行用户验证的显示设备及其方法
CN103516518A (zh) * 2013-07-03 2014-01-15 北京百纳威尔科技有限公司 安全验证方法和装置
CN103516518B (zh) * 2013-07-03 2016-09-28 北京百纳威尔科技有限公司 安全验证方法和装置
CN105975935A (zh) * 2016-05-04 2016-09-28 腾讯科技(深圳)有限公司 一种人脸图像处理方法和装置
CN105975935B (zh) * 2016-05-04 2019-06-25 腾讯科技(深圳)有限公司 一种人脸图像处理方法和装置
US10783354B2 (en) 2016-05-04 2020-09-22 Tencent Technology (Shenzhen) Company Limited Facial image processing method and apparatus, and storage medium
CN108960022A (zh) * 2017-09-19 2018-12-07 炬大科技有限公司 一种情绪识别方法及其装置
CN108960022B (zh) * 2017-09-19 2021-09-07 炬大科技有限公司 一种情绪识别方法及其装置

Also Published As

Publication number Publication date
US20130177218A1 (en) 2013-07-11
CN101609475B (zh) 2011-10-26
US20090309702A1 (en) 2009-12-17
US20120170818A1 (en) 2012-07-05
US8154384B2 (en) 2012-04-10
JP2010027035A (ja) 2010-02-04
US8912885B2 (en) 2014-12-16
US8410903B2 (en) 2013-04-02
US20140376787A1 (en) 2014-12-25

Similar Documents

Publication Publication Date Title
CN101609475B (zh) 个人认证设备和个人认证方法
EP2182469B1 (en) System and method for sensing facial gesture
EP2866170B1 (en) Image processing device and image processing method
CN101401126B (zh) 面部图像注册装置、面部图像注册方法
CN107844748A (zh) 身份验证方法、装置、存储介质和计算机设备
CN113366487A (zh) 基于表情组别的操作确定方法、装置及电子设备
CN110942015B (zh) 人群密度估计方法
CN103679125A (zh) 人脸追踪的方法
JP6667801B2 (ja) セグメントベース手書き署名認証システム及び方法
JP2003317101A (ja) データベース自動更新方法を用いた顔検証方法及びそのシステム
CN105005777A (zh) 一种基于人脸的音视频推荐方法及系统
CN109086734A (zh) 一种对人眼图像中瞳孔图像进行定位的方法及装置
CN103229190A (zh) 信息处理装置、方法及程序
EP2701096A2 (en) Image processing device and image processing method
CN103154992A (zh) 信息处理装置、方法及程序
KR20130049099A (ko) 얼굴 영상을 이용하여 나이 또는 성별을 추정하는 방법 및 장치
KR20010031613A (ko) 전자서명 조합방법 및 시스템
CN108280388A (zh) 训练面部检测模型的方法和装置以及面部检测方法和装置
CN106355066A (zh) 人脸验证方法及人脸验证装置
Clarke et al. Biometrics–The promise versus the practice
CN114917590B (zh) 一种虚拟现实的游戏系统
JP2014116033A (ja) 個人認証装置及び個人認証方法、カメラ、プログラム並びに記憶媒体
CN112200711B (zh) 一种水印分类模型的训练方法及系统
JP7080780B2 (ja) 認証装置、認証方法および認証プログラム
Schardosim et al. Detection of presentation attacks using imaging and liveness attributes

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant