CN101631200B - 图像处理设备和图像处理方法 - Google Patents

图像处理设备和图像处理方法 Download PDF

Info

Publication number
CN101631200B
CN101631200B CN2009101585702A CN200910158570A CN101631200B CN 101631200 B CN101631200 B CN 101631200B CN 2009101585702 A CN2009101585702 A CN 2009101585702A CN 200910158570 A CN200910158570 A CN 200910158570A CN 101631200 B CN101631200 B CN 101631200B
Authority
CN
China
Prior art keywords
image
characteristic quantity
quantity data
correction
hangover
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN2009101585702A
Other languages
English (en)
Other versions
CN101631200A (zh
Inventor
池田荣一郎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of CN101631200A publication Critical patent/CN101631200A/zh
Application granted granted Critical
Publication of CN101631200B publication Critical patent/CN101631200B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • H04N25/625Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels for the control of smear
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Collating Specific Patterns (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种图像处理设备和图像处理方法。该图像处理设备包括:检测电路,用于检测图像;亮度校正电路,用于确定检测到的图像的亮度,并执行用于降低检测到的图像中的亮度变化的校正;以及提取电路,用于从由该亮度校正电路校正后的检测到的图像中提取要在认证处理中使用的特征量数据。

Description

图像处理设备和图像处理方法
技术领域
本发明涉及一种图像处理设备和图像处理方法,尤其涉及一种能够提取要在面部认证中使用的特征量数据的图像处理设备和图像处理方法。
背景技术
传统地已知面部验证设备基于通过拍摄人面部所获得的图像数据执行认证处理。面部验证设备接收通过使用固态图像传感器的摄像设备所拍摄的、要认证的人的面部图像的输入。面部验证设备从面部图像获取要认证的人的特征量数据,该特征量数据表示眼睛、鼻子、口和面部轮廓等构成面部的组成部分的特征量。然后,面部验证设备将预先存储的登记者的特征量数据与要认证的人的每一特征量数据进行校验。面部验证设备确定要认证的人与登记者的相似度。然后,面部验证设备将要认证的人认证为被确定为具有最大相似度的登记者。
当最大相似度小于预定认证阈值时,判断为要认证的人是未登记者(不将要认证的人验证为登记者)。此外,当最大相似度等于认证阈值时,预先确定是将要认证的人验证为登记者还是未登记者。
面部验证设备将认证结果提供至例如用于锁定/解锁设施的门的控制设备。该控制设备根据认证结果锁定/解锁该门。此外,讨论了使用面部验证设备来指定在自动柜员机(ATM)进行交易的用户。更具体地,讨论了将摄像设备安装在ATM中以使用通过该摄像设备拍摄到的用户的面部图像来识别用户。因此,用户认证所使用的插卡(例如,现金卡)和输入个人识别编号等操作变得不必要,这提高了可操作性。
传统的面部验证设备存储从登记者的正面图像所获得的登记者的特征量数据。另一方面,根据摄像设备的安装环境和摄像处理过程中要认证的人的姿势,确定验证过程中拍摄要认证的人的面部图像的照明条件(照明方向、亮度和照明的颜色)。因此,根据摄像设备的安装环境,从要认证的人的面部图像所获取的特征量数据和与要认证的人相对应的登记者的特征量数据之间的相似度可能降低。结果,即使当要认证的人是登记者时,也可能将该人错误识别为未登记者。
为了降低发生将作为登记者的要认证的人验证为未登记者的错误识别的可能性(即,误拒绝率),可以将认证阈值设置得低。相反,当将认证阈值设置得低时,发生将不是登记者的要认证的人验证为登记者的错误识别的可能性(即,误接受率)增大。因此,安全水平降低。因而,与在要应用于面部验证设备的系统中所需的安全水平相对应地设置认证阈值。更具体地,在需要高安全水平的系统中,将认证阈值设置得高。因此,与降低误拒绝率相比,优先降低误接受率。
日本特开2005-56004号公报讨论了这样一种技术,该技术用于存储从在不同照明条件下拍摄的多个面部图像所获得的登记者的特征量数据。该技术可以通过降低误拒绝率和误接受率这两者来提高认证精度。更具体地,将登记者的面部图像制成三维(3D)模型图像。根据3D模型图像生成照明条件不同的多个二维(2D)模型图像。然后,从所生成的多个2D模型图像获取登记者的特征量数据,并且存储该特征量数据。
然而,在日本特开2005-56004号公报中所讨论的结构中,由于必须针对一个登记者存储从不同照明条件下的多个面部图像所获得的登记者的多个特征量数据,因而存在登记操作十分麻烦的问题。并且,不仅在存储登记者的特征量数据时,而且在获取用于确定与登记者的特征量数据的相似度的要认证的人的特征量数据时,也存在类似问题。更具体地,存在的问题是:为了消除照明条件的影响,需要从在改变照明条件时所拍摄的多个面部图像获取要认证的人的特征量数据。
发明内容
本发明涉及一种能够提取特征量数据的图像处理设备,该图像处理设备可以在不使用多个面部图像数据的情况下,获得高认证精度。
根据本发明的一个方面,一种检测电路,用于检测图像;亮度校正电路,用于确定检测到的所述图像的亮度,并执行用于降低检测到的所述图像中的亮度变化的校正;以及提取电路,用于从由所述亮度校正电路校正后的检测到的所述图像中提取要在认证处理中使用的特征量数据。
根据本发明的另一方面,一种图像处理设备,包括:检测电路,用于检测图像;拖尾校正电路,用于确定检测到的所述图像中的拖尾生成区域和拖尾生成量,并基于所述拖尾生成量对包含在所述拖尾生成区域中的像素值进行校正;以及提取电路,用于从由所述拖尾校正电路校正后的检测到的所述图像中提取要在认证处理中使用的特征量数据。
根据本发明的另一方面,一种图像处理方法,包括:检测图像;确定检测到的所述图像中的亮度,并执行用于降低所述图像中的亮度变化的校正;以及从执行了用于降低所述亮度变化的所述校正的检测到的所述图像中提取要在认证处理中使用的特征量数据。
根据本发明的另一方面,一种图像处理方法,包括:检测图像;确定检测到的所述图像中的拖尾生成区域和拖尾生成量,并基于所述拖尾生成量对包含在所述拖尾生成区域中的像素值进行校正;以及从基于所述拖尾生成量对包含在所述拖尾生成区域中的像素值进行了校正的检测到的所述图像中提取要在认证处理中使用的特征量数据。
通过以下参考附图对典型实施例的详细说明,本发明的其它特征和方面将变得明显。
附图说明
包含在说明书中并构成说明书的一部分的附图示出了本发明的典型实施例、特征和方面,并与说明书一起用来解释本发明的原理。
图1示出作为根据本发明第一典型实施例的图像处理设备的一个例子的数字照相机的结构例子;
图2是示出根据典型实施例的图像处理设备的信号处理块的示意图;
图3是示出根据第一典型实施例的面部图像数据获取单元的操作的流程图;
图4示出面部区域的块分割;
图5示出块的权重;
图6示出块的平均亮度值;
图7示出块的权重乘以亮度平均值的结果;
图8A和图8B示出块的校正增益;
图9示出拍摄中各灵敏度的校正增益阈值;
图10是示出根据第二典型实施例的面部图像数据获取单元的操作的流程图;以及
图11示出检测到的面部以及图像传感器中的受光区域和遮光区域。
具体实施方式
下面将参考附图详细说明本发明的各种典型实施例、特征和方面。
图1是示出作为根据本发明第一典型实施例的图像处理设备的一个例子的数字照相机的结构的图。
由电荷耦合器件(CCD)和互补金属氧化物半导体(CMOS)传感器等的光电转换元件构成图像传感器14。图像传感器14将通过拍摄透镜10发送来的光学图像转换成电信号。模拟到数字(A/D)转换器16将图像传感器14的模拟信号的输出转换成数字信号。
时序发生单元18向图像传感器14、A/D转换器16和数字到模拟(D/A)转换器26提供时钟信号和控制信号。
图像处理单元20对来自A/D转换器16的数据或来自存储器控制单元22的数据执行预定的像素插值处理和颜色转换处理。
图像处理单元20使用所拍摄到的图像数据执行预定的计算处理。下面将说明该预定的计算处理。
存储器控制单元22控制A/D转换器16、时序发生单元18、图像处理单元20、图像显示存储器24、D/A转换器26、存储器30和压缩/解压缩单元32。
通过存储器控制单元22将A/D转换器16的输出数据写入图像显示存储器24或存储器30。
通过D/A转换器26,利用包括液晶显示器(LCD)或有机电激发光(Organic Electroluminescence,EL)显示器等的图像显示单元28显示被写入图像显示存储器24中的显示用图像数据。通过利用图像显示单元28连续显示所拍摄到的图像数据,可以实现实时显示被摄体图像的电子取景器(EVF)功能。
存储器30是用于存储拍摄到的静止图像和运动图像的存储装置。存储器30包括用于存储预定数量的静止图像和预定时间段的运动图像的充足的存储容量。因此,在连续拍摄多个静止图像时,可以将大量图像高速写入存储器30。此外,可以使用存储器30作为系统控制单元50的工作区。
压缩/解压缩单元32读取存储在存储器30中的图像,使用自适应离散余弦变换(ADCT)或小波变换等执行已知的数据压缩处理或数据解压缩处理,并且将处理后的数据写入存储器30。
系统控制单元50例如是中央处理单元(CPU),并且通过执行存储在存储器52中的程序控制整个数字照相机100。存储器52存储系统控制单元50中的操作所使用的常量、变量或程序等。
非易失性存储器56是电可擦写可记录存储器,例如,电可擦写可编程只读存储器(EEPROM)。
操作单元70是被配置成向系统控制单元50输入各种操作命令的操作部件。
通过设置在数字照相机100上的快门按钮(未示出)的第一行程(例如,半按下)接通第一快门开关(SW1)62。当接通第一快门开关(SW1)62时,系统控制单元50指示电路(未示出)开始调焦控制、曝光控制和光量控制等的操作。
通过设置在数字照相机100上的快门按钮的第二行程(例如,全按下)接通第二快门开关(SW2)64。当接通第二快门开关(SW2)64时,指示开始包括曝光处理、显影处理和记录处理的一系列处理。首先,在曝光处理中,通过A/D转换器16转换从图像传感器14读取的信号,并且通过存储器控制单元22将图像数据写入存储器30。此外,在图像处理单元20和存储器控制单元22中,使用计算来执行显影处理。然后,执行记录处理,在该记录处理中,从存储器30读取图像数据,通过压缩/解压缩单元32对图像数据进行压缩,并且将该图像数据写入外部记录介质120。
在本典型实施例中,在联合图形专家组(JPEG)压缩模式下,压缩/解压缩单元32读取被写入存储器30中的图像数据,以所设置的压缩率对所读取的图像数据进行压缩,然后将压缩后的图像数据记录在外部记录介质120中。
在原始模式下,对于与图像传感器14的颜色滤波器的像素排列相对应的各行,通过A/D转换器16和存储器控制单元22,压缩/解压缩单元32原样读取被写入存储器30中的图像数据,并且将所读取的数据记录在外部记录介质120中。
接口(I/F)91是图像处理单元20、存储器控制单元22与外部记录介质120之间的接口。
面部认证单元101分析在图像处理单元20中处理后的图像数据和存储在图像显示存储器24中的拍摄到的图像数据,并且检测拍摄到的图像中所包含的人面部。更具体地,面部认证单元101检测预期作为人面部的区域(面部区域)。当检测到面部区域时,面部认证单元101输出人面部的可能性(可靠性)、人面部在图像中的位置、大小和其它信息,作为与面部区域有关的信息。此外,面部认证单元101计算并输出登记者的特征量数据(字典数据(dictionary data)),该特征量数据表示所检测到的面部区域的眼睛、鼻子、口和面部轮廓等面部组成部分(特征点)的特征量。
外部记录介质120可以是非易失性半导体存储卡或卡式硬盘等,并且被可拆卸地安装到数字照相机100。
本典型实施例中的数字照相机100从拍摄到的图像检测人面部的区域,并且生成表示眼睛、鼻子、口和面部轮廓等面部组成部分的特征量的特征量数据(要在面部认证中使用的字典数据)。如上所述,在面部认证单元101中执行面部区域的检测和特征量数据的生成。
本典型实施例的特征在于:当在斜射光或逆光中拍摄到的图像等由于光源和面部之间的位置关系而导致在面部存在阴影时,在对阴影区域进行部分灰度校正之后,生成特征量数据。
此外,利用具有8比特或更大灰度的伽玛校正前的信号,更具体地,利用原始信号执行部分灰度校正,从而可以防止色调跳跃,并且可以获取更精确的字典数据。在本典型实施例中,面部认证单元101从显示用图像获取字典数据,其中,为了使得图像显示单元28用作实时观察被摄体所使用的电子取景器(EVF)而生成该显示用图像。
图2是详细示出本典型实施例的数字照相机100中与特征量数据的获取有关的结构的框图。图3是示出图2中的操作的流程图。将参考图2和图3说明本典型实施例的数字照相机100中的特征量数据的获取操作。
在图3的步骤S101,图像传感器14以预先设置的周期(每1/30秒一次)对被摄体(未示出)执行拍摄,并且输出与拍摄到的图像相对应的图像信号。
在步骤S102,A/D转换器16将来自图像传感器14的模拟图像信号转换成数字图像信号,并且存储器30临时记录该数字图像信号。将此时的图像信号称为原始信号或原始数据。
在步骤S103,光学黑(OB)处理单元204使用图像传感器14的光学黑区域上的数据,执行将原始信号的黑色电平设置为0的黑色电平校正处理。此外,白平衡(WB)处理单元205通过已知的自动白平衡校正处理估计光源,并且确定与各颜色信号相乘以调节白色电平的增益(WB增益)。然后,WB处理单元205将WB增益应用于原始信号。
在步骤S104,通过YUV转换处理单元206,将应用WB增益后的信号从红、绿和蓝(RGB)信号转换成YUV信号。RGB信号是由与红(R)、绿(G)和蓝(B)各自的颜色滤波器相对应的像素的输出值所表示的信号。YUV信号是由亮度信号(Y)和色差信号(U和V)所表示的信号。调整大小处理单元207将YUV信号的高宽比调整成1∶1,并且将调整后的信号写入图像显示存储器24。以1/30秒的周期重复步骤S101~S104中的处理。因此,图像显示单元28可以使用YUV信号和EVF的功能以每秒30帧显示拍摄到的图像。
在步骤S105,还将来自调整大小处理单元207的YUV信号,即表示显示用图像的信号提供至面部检测处理单元209。面部检测处理单元209从显示用图像检测看起来像是人面部的图像区域(面部区域),并且作为面部检测结果,向块积分处理单元210输出大小、图像中的位置和可靠性等的信息。
在本典型实施例的面部检测中,可以利用已知的面部检测技术。作为已知的面部检测技术,存在如下的方法:基于利用神经网络等的学习的方法;以及使用模板匹配从图像搜索眼睛、鼻子和口等具有特征形状的部分、并在相似度高时认为该图像为面部的方法。此外,还存在许多其它方法,例如,检测肤色或眼睛形状等图像特征量、并使用统计分析的方法。通常,组合地使用多个这些方法,以提高面部检测精度。具体例子包括日本特开2002-251380号公报中所述的用于通过利用小波变换和图像特征量检测面部的方法。
在步骤S106之后的处理中,执行用于降低所检测到的面部区域中的亮度变化的校正,以降低面部区域中阴影的影响。在步骤S106,块积分处理单元210根据来自面部检测处理单元209的面部检测结果,将面部区域当作矩形,并且如图4所示将面部区域分割成块。例如,可以预先确定块的大小,从而将具有平均大小的面部区域分割成预定数量。
在本典型实施例中,通过二维坐标表示分割块的位置,在该二维坐标中,由(0,0)指定右上角的块。在图4所示的例子中,将面部区域在水平方向上分割成7块,在垂直方向上分割成8块。块坐标从(0,0)~(6,7)。
在步骤S107,块积分处理单元210设置每一块的权重。在本典型实施例中,将眼睛附近以上的块的权重设置为0。此外,将包括背景的块的权重设置为0。将其余块的权重设置为1。在下面的说明中,将块(x,y)的权重表示为BLW[x][y]。
图5示出要在图4的块(0,4)~(6,7)处设置的权重的例子。由于在计算中不使用眼睛以上的块(0,0)~(6,3),因而图5省略对这些块的说明。此外,在下面的说明中,“所有块”表示计算中要使用的全部块,即块(0,4)~(6,7),并且不包括块(0,0)~(6,3)。
在步骤S108,块积分处理单元210计算各块的亮度平均值。在下面的说明中,以YAV[x][y]表示块(x,y)的亮度平均值。图6示出针对块(0,4)~(6,7)计算出的亮度平均值的例子。
在步骤S109,块积分处理单元210使用在步骤S107和S108计算出的各块的块权重BLW[x][y]和亮度平均值YAV[x][y],计算面部区域中的亮度平均值AYAV。
AYAV=(YAV[0][4]*BLW[0][4]+YAV[0][5]*BLW[0][5]+…YAV[6][3]*BLW[6][3])/(BLW[0][4]+…BLW[6][3])
图7示出通过将各块的块权重BLW[x][y]乘以亮度平均值YAV[x][y]所获得的值。因此,通过将图7中各块的值的总和(1510)除以权重的总值(22)获得亮度平均值AYAV(68.6)。
在步骤S110,校正增益计算处理单元211计算用于将各块的亮度平均值校正成一个预定亮度值的校正增益。在本典型实施例中,确定用于将各块的亮度平均值校正成所有块的亮度平均值的校正增益(块校正增益)。使用下面的表达式计算块(x,y)的校正增益CGA[x][y]。不对权重为0的块进行校正(也就是说,校正增益=1)。
CGA[x][y]=AYAV/YAV[x][y]      (BLW[x][y]>0)
CGA[x][y]=1     (BLW[x][y]=0)
图8A示出当平均亮度值AYAV为68.6时计算出的块校正增益的例子。不是必需使用平均亮度值确定块校正增益。例如,预先设置面部区域的适当的亮度值。然后,可以确定用于将各块的亮度平均值校正成适当的亮度值的块校正增益。图8B示出当适当的亮度值为120时计算出的块校正增益的例子。
在步骤S111,校正增益计算处理单元211计算块校正增益的平均值。
CGAAverage=(CGA[0][4]+CGA[0][5]+…CGA[6][3])/28
在步骤S112,校正增益计算处理单元211将如图9所示的预先设置的拍摄时的各灵敏度的校正增益上限值和校正增益平均值进行比较。当校正增益平均值超过上限值时(步骤S112为“否”),校正增益计算处理单元211判断为不从当前图像获取特征量数据,并且处理返回至下一拍摄操作的步骤S101。这是因为,随着增益的值增大,校正后的图像的噪声增大。因此,特征量数据的可靠性降低。拍摄时的灵敏度越高,则原始增益越高。因而,期望校正增益小。因此,拍摄时的灵敏度变得越高,则设置的上限值越小。
另一方面,如果校正增益平均值等于或小于上限值(步骤S112为“是”),则在步骤S113,校正增益计算处理单元211通过线性插值等插值处理,根据作为块单位的增益的块校正增益来计算块中各像素的校正增益(像素校正增益)。
在步骤S114,亮度校正处理单元212通过将块中的像素乘以像素校正增益,执行亮度校正。
在步骤S115,YUV转换处理单元213将亮度校正之后的图像信号转换成YUV信号。
在步骤S116,调整大小处理单元214将YUV信号的高宽比调整成1∶1。
在步骤S117,特征点提取处理单元215基于调整大小后的YUV信号和面部检测结果,利用已知方法提取眼睛、鼻子、口和面部轮廓等要认证的人的面部组成部分和这些面部组成部分的特征量数据。
在步骤S118,当将数字照相机100设置成将所提取的特征量数据登记为字典数据的字典登记模式时(步骤S118为“是”),处理进入步骤S119。当将数字照相机100设置成认证模式时(步骤S118为“否”),处理进入步骤S120,其中,认证模式将从图像所提取的特征量数据与作为字典数据已记录在非易失性存储器56中的特征量数据进行验证。
在步骤S119,特征点提取处理单元215将所提取的特征量数据记录在例如非易失性存储器56中作为字典数据。
在步骤S120,特征点提取处理单元215将所提取的特征量数据输出至特征量数据比较单元216。特征量数据比较单元216从非易失性存储器56读取所有字典数据,并且计算与从特征点提取处理单元215所输出的特征量数据的相似度。然后,通过判断为所读取的字典数据中示出最高相似度的字典数据和从特征点提取处理单元215输出的特征量数据属于同一人,来执行认证。
因此,根据本典型实施例,在对图像执行面部区域的亮度校正之后提取特征量数据,以提取面部认证所需的特征量数据。因此,即使当在逆光或斜射光的环境下拍摄到的图像等由于照明条件而导致在面部上投下阴影时,也可以降低阴影的影响,并且可以登记良好精度的字典数据。
此外,在伽玛校正之前,在原始信号的状态下执行亮度校正处理。因此,可以抑制发生由于亮度校正而引起的色调跳跃,并且对于眼睛、鼻子、口和面部轮廓等面部组成部分,可以获取良好精度的特征量数据。
此外,不仅在进行用于提取要作为字典数据登记的特征量数据的操作中,而且在使用登记的字典数据执行面部认证中,可以通过从应用了亮度校正处理的图像提取特征量数据来提高认证精度。
接着,将说明本发明的第二典型实施例。根据本典型实施例的图像处理设备的特征在于:在面部区域中检测拖尾(smear)的生成,并且当提取登记者的特征量数据(字典数据)时,计算未受拖尾影响的面部组成部分的特征量,其中,特征量数据表示眼睛、鼻子、口和面部轮廓等要认证的人的面部组成部分的特征量。
在本典型实施例中,可以使用具有类似于第一典型实施例的结构的数字照相机100。因此,省略对结构的重复说明。在本典型实施例中,将说明要作为字典数据登记的特征量数据的提取操作。
图10是示出由作为本典型实施例中的图像处理设备的数字照相机100所进行的特征量数据的提取处理的流程图。在本典型实施例中,也使用显示用图像提取面部认证所使用的面部组成部分的特征量数据(字典数据)。
首先,类似于第一典型实施例中的步骤S101~S104,执行EVF显示用图像的拍摄、YUV信号的生成和调整大小处理。
在步骤S105,将YUV信号提供至面部检测处理单元209(图2),并且检测人的面部区域。在步骤S904,图像处理单元20计算拖尾生成量。
图11示出图像传感器14,为了便于说明,图像传感器14具有包括以下的结构:水平方向上为26个像素且垂直方向上为30个像素的受光像素110;以及水平方向上为26个像素且垂直方向上为3个像素的拖尾检测用遮光像素112。在下面的说明中,以PIX(m,n)表示水平方向上第m个且垂直方向上第n个像素的输出值。
当图像传感器14为CCD时,由电荷从饱和像素向垂直传输通路的泄露而发生拖尾。因此,拖尾沿着垂直传输通路传播,例如,图11中X坐标为7~9的列方向上的所有像素受到拖尾影响。此外,由于挡住了遮光像素112的光,因而遮光像素112的输出通常为0。然而,当发生拖尾时,通过CCD的垂直传输操作传播拖尾,并且输出大于0的值。因此,拖尾检测区域中的输出像素值在垂直方向上相加并进行平均,并且可以计算出各列中的拖尾生成量SME[m]。
例如,通过下面的表达式可以计算第0列的拖尾生成量SME[0]。
SME[0]=(PIX(0,30)+PIX(0,31)+PIX(0,32))/3
在图11的例子中,在第七列~第九列发生拖尾。它们的典型值为:
SME[7]=700,
SME[81=400,并且
SME[9]=200(当在任何情况下都使用10比特的A/D转换器时)。
在本典型实施例中,图像处理单元20执行拖尾生成量的计算。此外,图像处理单元20不仅检测拖尾生成量,而且还检测拖尾生成区域和饱和像素区域。可以基于已检测到发生拖尾的列中的像素值,检测拖尾生成区域和饱和像素区域。
接着,在步骤S905,图像处理单元20从相应列中所包含的所有像素的值减去针对各列计算出的拖尾值,以对由于拖尾而增大的像素值进行校正。也就是说,执行下面的计算。
PIX(m,n)=PIX(m,n)-SME[m]
在步骤S906,如第一典型实施例中所述,使用已知的方法提取面部认证所需的面部组成部分和面部组成部分的特征量数据。
在步骤S907,将与面部检测处理单元209作为面部检测结果输出的面部区域的位置有关的信息(面部坐标)设置为包含面部区域的矩形区域的对角点坐标。然后,在图11所示的例子中,面部检测处理单元209输出坐标(5,2)和坐标(18,27)作为面部坐标。
在图11所示的例子中,在以坐标(7,1)和坐标(9,29)作为对角顶点的矩形区域中发生拖尾。说明这样一种情况:由于发生拖尾使得第七列和第八列中的所有受光像素饱和,像素值为1023(当使用10比特的A/D转换器16时),并且第九列的受光像素具有相对小的拖尾值,并且像素值为1023或更小(即,800)。
在本典型实施例中,特征点提取处理单元215的特征在于:从拖尾校正之后的面部图像中提取面部组成部分,并且从特征量数据的提取对象中排除包含在拖尾校正之前像素值饱和的区域的面部组成部分。
在图11所示的例子中,由于面部组成部分中右眼和右脸颊轮廓信号包含由于拖尾而饱和的图像,因而可以提取作为面部组成部分,但是不将其特征量数据登记为字典数据。在这种情况下,可以使用提取该特征量数据但不进行登记的方法或不提取该特征量数据的方法。另一方面,对于口,由于口的右端在第九列的拖尾生成区域中,而第九列的像素不饱和,因而从拖尾校正之后的图像提取口作为面部组成部分,并且提取特征量数据。因此,在图11所示的例子中,提取口、左眼、鼻子、左脸颊轮廓信号的特征量数据,并且登记为字典数据。面部组成部分的类型与本发明没有直接关系。因此,这些面部组成部分仅是例子,并且不是想要表示排除了其它面部组成部分的提取。不是必需提取所有示出的面部组成部分。
根据本典型实施例,当根据拍摄到的图像登记面部认证所需的字典数据时,检测拍摄到的图像中的拖尾生成区域,并且从拖尾校正之后的图像提取面部组成部分和特征量数据。因此,即使在户外光等强光源下,也可以登记具有小的拖尾影响和高精度的字典数据。
此外,从要作为特征量数据登记的对象中排除包含拖尾校正之前的饱和像素区域的面部组成部分。因此,可以减少认证所使用的特征量数据的登记量,可以提高特征量数据的精度,并且可以实现认证精度的提高。
此外,不仅当登记字典数据时,而且当使用登记的字典数据执行面部认证时,可以从应用了类似处理的图像提取特征量数据,并且可以实现认证精度的提高。
在以上说明中,使用数字照相机作为本发明的典型实施例,但是本发明不局限于数字照相机。还可以利用数字摄像机实现本发明。此外,如果自从安装的记录介质或通过网络接收的图像数据检测面部的特征量数据,则也可以通过在个人计算机上的应用程序来实现本发明。
尽管参考典型实施例说明了本发明,但是应该理解,本发明并不局限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同结构和功能。

Claims (12)

1.一种图像处理设备,包括:
检测电路,用于检测图像;
亮度校正电路,用于确定检测到的所述图像的亮度,并执行用于降低检测到的所述图像中的亮度变化的校正;以及
提取电路,用于从由所述亮度校正电路校正后的检测到的所述图像中提取要在认证处理中使用的特征量数据,其中,
所述图像是人的面部图像,以及
所述亮度校正电路通过如下操作执行所述校正:将所述面部图像的区域分割成多个块,确定用于将各块的亮度平均值校正成预定亮度值的块校正增益,根据各块的所述块校正增益生成各像素的像素校正增益,并将所述像素校正增益应用于面部区域中的像素。
2.根据权利要求1所述的图像处理设备,其特征在于,所述亮度校正电路确定所述块校正增益的平均值,以及
其中,当所述平均值超过预定值时,所述提取电路不提取所述特征量数据。
3.根据权利要求2所述的图像处理设备,其特征在于,随着为拍摄所述图像而设置的灵敏度变得越低,将所述预定值设置成越高的值。
4.根据权利要求1所述的图像处理设备,其特征在于,还包括:
存储器,用于将由所述提取电路提取的所述特征量数据登记为要在所述认证处理中使用的字典数据。
5.根据权利要求1所述的图像处理设备,其特征在于,还包括:
比较电路,用于通过计算由所述提取电路提取的所述特征量数据和预先存储在存储器中的字典数据之间的相似度,来执行所述认证处理。
6.根据权利要求1所述的图像处理设备,其特征在于,所述亮度校正电路对所述图像的原始信号执行所述校正。
7.一种图像处理设备,包括:
检测电路,用于检测图像;
拖尾校正电路,用于确定检测到的所述图像中的拖尾生成区域和拖尾生成量,并基于所述拖尾生成量对包含在所述拖尾生成区域中的像素值进行校正;
提取电路,用于从由所述拖尾校正电路校正后的检测到的所述图像中提取要在认证处理中使用的特征量数据;以及
存储器,用于将由所述提取电路提取的所述特征量数据登记为要在所述认证处理中使用的字典数据,其中,
所述拖尾校正电路检测所述拖尾生成区域中的饱和像素区域,以及
所述存储器不将所述饱和像素区域中的所述特征量数据登记为所述字典数据。
8.根据权利要求7所述的图像处理设备,其特征在于,所述拖尾校正电路对所述图像的原始信号执行所述校正。
9.一种图像处理方法,包括:
检测图像;
确定检测到的所述图像中的亮度,并执行用于降低所述图像中的亮度变化的校正;以及
从执行了用于降低所述亮度变化的所述校正的检测到的所述图像中提取要在认证处理中使用的特征量数据,其中,
所述图像是人的面部图像,以及
通过如下操作执行所述校正:将所述面部图像的区域分割成多个块,确定用于将各块的亮度平均值校正成预定亮度值的块校正增益,根据各块的所述块校正增益生成各像素的像素校正增益,并将所述像素校正增益应用于面部区域中的像素。
10.根据权利要求9所述的图像处理方法,其特征在于,还包括:
将所提取的所述特征量数据作为要在所述认证处理中使用的字典数据而登记在存储器中。
11.根据权利要求9所述的图像处理方法,其特征在于,还包括:
通过计算所提取的所述特征量数据和预先存储在存储器中的字典数据之间的相似度,来执行所述认证处理。
12.一种图像处理方法,包括:
检测图像;
确定检测到的所述图像中的拖尾生成区域和拖尾生成量,并基于所述拖尾生成量对包含在所述拖尾生成区域中的像素值进行校正;
从基于所述拖尾生成量对包含在所述拖尾生成区域中的像素值进行了校正的检测到的所述图像中提取要在认证处理中使用的特征量数据;以及
检测所述拖尾生成区域中的饱和像素区域,其中,
将所述特征量数据中不位于所述饱和像素区域中的特征量数据作为要在所述认证处理中使用的字典数据而登记在存储器中,以及
不将所述饱和像素区域中的特征量数据作为要在所述认证处理中使用的所述字典数据而登记在所述存储器中。
CN2009101585702A 2008-07-16 2009-07-16 图像处理设备和图像处理方法 Active CN101631200B (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2008185293 2008-07-16
JP2008185293 2008-07-16
JP2008-185293 2008-07-16
JP2009-135357 2009-06-04
JP2009135357A JP5390943B2 (ja) 2008-07-16 2009-06-04 画像処理装置及び画像処理方法
JP2009135357 2009-06-04

Publications (2)

Publication Number Publication Date
CN101631200A CN101631200A (zh) 2010-01-20
CN101631200B true CN101631200B (zh) 2012-04-11

Family

ID=41232288

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009101585702A Active CN101631200B (zh) 2008-07-16 2009-07-16 图像处理设备和图像处理方法

Country Status (5)

Country Link
US (1) US8401328B2 (zh)
EP (2) EP2146306A3 (zh)
JP (1) JP5390943B2 (zh)
KR (1) KR101115370B1 (zh)
CN (1) CN101631200B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11902693B2 (en) * 2020-02-04 2024-02-13 Roland Corporation Image processing device and image processing method

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8447132B1 (en) 2009-12-09 2013-05-21 CSR Technology, Inc. Dynamic range correction based on image content
US8953233B2 (en) * 2010-06-14 2015-02-10 Canon Kabushiki Kaisha Image reading apparatus and image data processing method
JP5796185B2 (ja) * 2011-03-10 2015-10-21 パナソニックIpマネジメント株式会社 対象物判定装置
DE102011104198A1 (de) * 2011-06-15 2012-12-20 Abb Ag Verfahren zur bildbasierten automatischen Belichtungskorrektur
KR101896386B1 (ko) * 2011-11-22 2018-09-11 삼성전자주식회사 화이트 밸런스 조절장치 및 방법
JP6074182B2 (ja) * 2012-07-09 2017-02-01 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム
JP6016489B2 (ja) * 2012-07-09 2016-10-26 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、プログラム
JP6039942B2 (ja) * 2012-07-09 2016-12-07 キヤノン株式会社 情報処理装置及びその制御方法及びプログラム
EP3016013A4 (en) * 2013-06-25 2016-10-26 Fujitsu Ltd INFORMATION PROCESSING DEVICE, TERMINAL DEVICE, INFORMATION PROCESSING PROGRAM, AND INFORMATION PROCESSING METHOD
US9454827B2 (en) * 2013-08-27 2016-09-27 Qualcomm Incorporated Systems, devices and methods for tracking objects on a display
US9613575B2 (en) 2014-03-17 2017-04-04 Shenzhen China Star Optoelectronics Technology Co., Ltd Liquid crystal display device and method for driving the liquid crystal display device
CN103854624B (zh) * 2014-03-17 2016-04-27 深圳市华星光电技术有限公司 一种液晶显示装置的驱动方法和一种液晶显示装置
EP3103380A4 (en) 2014-09-09 2017-11-29 Olympus Corporation Endoscope system and method for operating endoscope system
CN107077623A (zh) * 2014-11-13 2017-08-18 英特尔公司 图像质量补偿系统和方法
JP6722878B2 (ja) * 2015-07-30 2020-07-15 パナソニックIpマネジメント株式会社 顔認証装置
JP6664163B2 (ja) * 2015-08-05 2020-03-13 キヤノン株式会社 画像識別方法、画像識別装置及びプログラム
CN106780626B (zh) * 2016-12-21 2019-03-05 维沃移动通信有限公司 一种摄像头参数调节的方法及移动终端
DE102017003170A1 (de) * 2017-03-31 2018-10-04 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. Verfahren und Vorrichtung zur Korrektur von Smear-Artefakten
CN107343156B (zh) * 2017-07-10 2020-03-13 Oppo广东移动通信有限公司 人脸区域自动曝光控制的调整方法和装置
KR102397396B1 (ko) * 2017-09-13 2022-05-12 삼성전자주식회사 자동 화이트 밸런스를 위한 이미지 처리 방법 및 장치
CN109670389B (zh) * 2017-10-16 2023-04-07 富士通株式会社 评价人脸图像中的光照条件的方法和设备
JP7137746B2 (ja) * 2019-01-30 2022-09-15 株式会社Jvcケンウッド 映像処理装置、映像処理方法および映像処理プログラム
CN110503504B (zh) * 2019-03-14 2022-02-15 杭州海康威视数字技术股份有限公司 网络产品的信息识别方法、装置及设备
US10944898B1 (en) * 2019-09-19 2021-03-09 Capital One Services, Llc Systems and methods for guiding image sensor angle settings in different environments
CN110738175B (zh) * 2019-10-17 2022-08-02 北京旷视科技有限公司 人脸图像处理方法、装置、计算机设备和存储介质
WO2023048153A1 (ja) * 2021-09-24 2023-03-30 テルモ株式会社 情報処理方法、コンピュータプログラム及び情報処理装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1578475A (zh) * 2003-07-18 2005-02-09 佳能株式会社 校正图像亮度分布的图像处理方法及装置
CN101023446A (zh) * 2004-09-17 2007-08-22 三菱电机株式会社 脸部认证装置和脸部认证方法
CN101331515A (zh) * 2005-12-21 2008-12-24 日本电气株式会社 色调校正方法、色调校正装置、色调校正程序以及图像设备

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60112376A (ja) 1983-11-22 1985-06-18 Sanyo Electric Co Ltd 撮像装置
US6809763B1 (en) * 1999-08-02 2004-10-26 Olympus Optical Co., Ltd. Image pickup apparatus and method of correcting deteriorated pixel signal thereof
JP2001202516A (ja) * 2000-01-19 2001-07-27 Victor Co Of Japan Ltd 個人識別装置
KR20020014593A (ko) * 2000-08-18 2002-02-25 최진영 개인용 휴대 단말기의 정당 사용자 인증모듈 및 이를이용한 정당 사용자 인증방법
JP2002251380A (ja) 2001-02-22 2002-09-06 Omron Corp 利用者照合システム
KR20040042500A (ko) * 2002-11-14 2004-05-20 엘지전자 주식회사 얼굴 검출방법 및 그 장치
US7365880B2 (en) * 2003-04-04 2008-04-29 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
JP4412929B2 (ja) 2003-07-30 2010-02-10 セコム株式会社 顔検知装置
JP2005056004A (ja) 2003-08-07 2005-03-03 Omron Corp 顔照合装置、顔照合方法、および顔照合プログラム
JP2005086516A (ja) * 2003-09-09 2005-03-31 Canon Inc 撮像装置、印刷装置、画像処理装置およびプログラム
JP4448304B2 (ja) 2003-09-11 2010-04-07 セコム株式会社 顔検知装置
KR20060020998A (ko) * 2004-09-02 2006-03-07 (주)제니텀 엔터테인먼트 컴퓨팅 최적 얼굴 영역 추출방법
US20060152606A1 (en) 2005-01-07 2006-07-13 Nucore Technology, Inc. Displaying a smear leakage icon on the display of a digital camera
US7936919B2 (en) 2005-01-18 2011-05-03 Fujifilm Corporation Correction of color balance of face images depending upon whether image is color or monochrome
US7715649B2 (en) 2005-02-14 2010-05-11 Fujifilm Corporation Generation and adjustment of a luminance correction curve to prevent saturation of the image during contrast enhancement
JP4639271B2 (ja) * 2005-12-27 2011-02-23 三星電子株式会社 カメラ
JP4768448B2 (ja) 2006-01-13 2011-09-07 富士フイルム株式会社 撮像装置
JP2007201963A (ja) * 2006-01-30 2007-08-09 Victor Co Of Japan Ltd 撮像装置
JP2007241682A (ja) * 2006-03-09 2007-09-20 Seiko Epson Corp 印刷のための画像データの処理
JP2008005365A (ja) * 2006-06-26 2008-01-10 Victor Co Of Japan Ltd 撮像装置
JP2008059197A (ja) 2006-08-30 2008-03-13 Canon Inc 画像照合装置、画像照合方法、コンピュータプログラム及び記憶媒体
EP2061233B1 (en) 2006-09-14 2013-06-26 Mitsubishi Electric Corporation Image processing device and image processing method
KR100810344B1 (ko) 2006-10-10 2008-03-04 삼성전자주식회사 디지털 촬영 장치와 이를 이용한 스미어 현상 검출 및 보정방법
JP4780198B2 (ja) * 2006-11-10 2011-09-28 コニカミノルタホールディングス株式会社 認証システム及び認証方法
JP4845796B2 (ja) 2007-04-10 2011-12-28 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP5202375B2 (ja) 2009-02-16 2013-06-05 キヤノン株式会社 撮像装置、画像処理方法及びプログラム
JP4741019B2 (ja) 2009-07-06 2011-08-03 セコム株式会社 インターホン装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1578475A (zh) * 2003-07-18 2005-02-09 佳能株式会社 校正图像亮度分布的图像处理方法及装置
CN101023446A (zh) * 2004-09-17 2007-08-22 三菱电机株式会社 脸部认证装置和脸部认证方法
CN101331515A (zh) * 2005-12-21 2008-12-24 日本电气株式会社 色调校正方法、色调校正装置、色调校正程序以及图像设备

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11902693B2 (en) * 2020-02-04 2024-02-13 Roland Corporation Image processing device and image processing method

Also Published As

Publication number Publication date
EP2146306A3 (en) 2013-02-20
JP5390943B2 (ja) 2014-01-15
JP2010045770A (ja) 2010-02-25
KR101115370B1 (ko) 2012-02-16
US20100014775A1 (en) 2010-01-21
EP2650824A3 (en) 2014-07-16
EP2650824B1 (en) 2018-12-05
EP2650824A2 (en) 2013-10-16
CN101631200A (zh) 2010-01-20
KR20100008760A (ko) 2010-01-26
US8401328B2 (en) 2013-03-19
EP2146306A2 (en) 2010-01-20

Similar Documents

Publication Publication Date Title
CN101631200B (zh) 图像处理设备和图像处理方法
CN107730445B (zh) 图像处理方法、装置、存储介质和电子设备
US10303983B2 (en) Image recognition apparatus, image recognition method, and recording medium
US20190130169A1 (en) Image processing method and device, readable storage medium and electronic device
KR101155406B1 (ko) 화상 처리 장치, 화상 처리 방법 및 컴퓨터 기억 매체
WO2019134536A1 (zh) 基于神经网络模型的人脸活体检测
US8811733B2 (en) Method of chromatic classification of pixels and method of adaptive enhancement of a color image
EP2785046B1 (en) Image correction apparatus, image correction method, and biometric authentication apparatus
CN107730446B (zh) 图像处理方法、装置、计算机设备及计算机可读存储介质
US20080101664A1 (en) Non-Contact Optical Means And Method For 3D Fingerprint Recognition
CN107800965B (zh) 图像处理方法、装置、计算机可读存储介质和计算机设备
JP2006319870A (ja) 撮影装置および方法並びにプログラム
KR20090034272A (ko) 인물 인증 장치 및 인물 인증 방법
US12058450B2 (en) Electronic device which adjusts white balance of image according to attributes of object in image and method for processing image by electronic device
US10796418B2 (en) Image processing apparatus, image processing method, and program
CN107945106B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
CN102542251B (zh) 被摄体检测装置以及被摄体检测方法
US8670609B2 (en) Systems and methods for evaluating images
CN109191398A (zh) 图像处理方法、装置、计算机可读存储介质和电子设备
CN109242793A (zh) 图像处理方法、装置、计算机可读存储介质和电子设备
JP5568166B2 (ja) 画像処理装置及び画像処理方法
JP2018160024A (ja) 画像処理装置、画像処理方法及びプログラム
Abdelhamed Noise Modelling for Smartphone Cameras
WO2022198436A1 (zh) 图像传感器、图像数据获取方法、成像设备
Lorch et al. Landscape More Secure Than Portrait? Zooming Into the Directionality of Digital Images With Security Implications

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant