CN101690168A - 图像处理装置、图像处理方法及图像处理用集成电路 - Google Patents

图像处理装置、图像处理方法及图像处理用集成电路 Download PDF

Info

Publication number
CN101690168A
CN101690168A CN200980000484A CN200980000484A CN101690168A CN 101690168 A CN101690168 A CN 101690168A CN 200980000484 A CN200980000484 A CN 200980000484A CN 200980000484 A CN200980000484 A CN 200980000484A CN 101690168 A CN101690168 A CN 101690168A
Authority
CN
China
Prior art keywords
mentioned
photographed images
image
images
multiplying power
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN200980000484A
Other languages
English (en)
Inventor
杉泽裕史
富田裕人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of CN101690168A publication Critical patent/CN101690168A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

一种图像处理装置,在每规定时间摄像并依次输入的摄像图像中,确定作为确定处理对象的图像范围,具有根据被输入的一个摄像图像,在上述规定时间内生成K(K≥1)种倍率的缩小图像的处理能力,每当输入摄像图像时,根据对该摄像图像之前输入的摄像图像指定的倍率,从各不相同的L(L>K)种倍率中选择对该摄像图像的M(M≤K)种以下的倍率,并将以选择的M种以下的倍率生成的各缩小图像与模板图像进行对照,根据对照结果确定上述图像范围。

Description

图像处理装置、图像处理方法及图像处理用集成电路
技术领域
本发明涉及图像处理技术,特别涉及从摄像图像中确定符合一定条件的图像范围的技术。
背景技术
已知在数码相机等中,从每规定时间(例如,33ms)摄像的摄像图像(帧图像)中确定包含有尺寸比该摄像图像小的确定图像(例如脸部图像)的范围,并对所确定的范围进行显示框或对焦点等确定处理。
在确定包含该确定图像的范围的方法中,有对用于检测确定图像的模板图像(小于摄像图像的固定尺寸的图像)与根据摄像图像逐渐改变缩小率而生成的多个缩小图像进行对照,并检测确定图像的方法。即,对各缩小图像进行一边从矩形缩小图像的左上端像素到右下端像素移动模板图像一边对照的处理,从而检测确定图像,并根据其结果确定包含确定图像的范围。
这里,生成多个缩小图像时的各缩小率被预先设定为,能够通过对照所生成的多个缩小图像与模板图像来检测摄像图像中所包含的各种大小的确定图像。
但是,由于生成该缩小图像的处理是一般需要较长时间的处理,因此从一个摄像图像中生成的缩小图像的数量越多,在摄像间隔时间(该例中,33ms)内不能检测确定图像的情况也越多。
特别是,在对移动的被摄体进行摄像的情况下,例如,在以与摄像帧率相同的速率显示时,若假设对于某个摄像图像,在经过摄像间隔时间之后检测出确定图像,则产生确定的图像范围与实际拍摄有被摄体的范围偏差较大的问题。例如,作为确定处理,对确定的图像范围进行显示框的处理的情况下,会导致在与实际拍摄有被摄体的位置不同的位置上显示框。
对此,已知有根据数码相机的摄影模式切换缩小图像的生成顺序,从而提高在摄像间隔时间内检测确定图像的可能性的方法(例如,专利文献1)。
有关专利文献1的摄像装置可以生成将原始图像G0逐渐缩小的缩小图像G1~G7(在该例中,尺寸以G1、G2、……、G7的顺序减小),在预测为对人物摄影的模式等人数少的近景摄影的模式中,多数情况下在摄像图像中包含的脸部图像的尺寸较大,因此以G7、G6、……、G0的顺序生成缩小图像,并与模板图像进行对照。另外,在预定为对风景摄影等远景摄影的模式中,多数情况下在摄像图像中包含的脸部图像的尺寸较小,因此以G0、G1、……、G7的顺序生成缩小图像,并与模板图像进行对照。
结果,在摄像间隔时间内没有结束所有种类的缩小图像与模板的对照的状态下必须移到对下一摄像图像的处理的情况下,也能够提高在摄像间隔时间内检测确定图像的可能性。
专利文献1:日本特开2007-135115号公报
但是,近年来,用户对高帧率摄影的需要逐渐增高。若要响应这种需要,则容易产生上述问题,即由于在经过摄像间隔时间之后检测出确定图像而导致确定的图像范围与实际拍摄有被摄体的范围偏差较大的问题。
为了解决该问题,考虑能够在更短的时间内生成各缩小图像的使用高性能硬件的高速处理方法,但这伴随着较大的设计变更,因此期望能够利用现状的硬件资源来解决的方法。
发明内容
因此,本发明是鉴于上述问题而作出的,其目的在于提供一种通过利用现状的硬件资源且与以往不同的方法在摄像间隔时间内能够检测确定图像的图像处理装置。
为了解决上述问题,本发明的图像处理装置,在每规定时间摄像并依次输入的摄像图像中,确定作为确定处理对象的图像范围,其特征在于,包括:缩小图像生成单元,具有根据被输入的一个摄像图像,在上述规定时间内生成K种倍率的缩小图像的处理能力,生成从各不相同的L种倍率中指定的倍率的缩小图像,其中K≥1,L>K;对照单元,将由上述缩小图像生成单元生成的各缩小图像与模板图像进行对照,送出对照结果;确定单元,根据从上述对照单元送出的对照结果,确定上述图像范围;以及控制单元,每当输入摄像图像时,根据对该摄像图像之前输入的摄像图像指定的倍率,选择对该摄像图像的M种以下的倍率,将选择的M种以下的倍率指定给上述缩小图像生成单元而使其生成各缩小图像,使上述对照单元对照所生成的各缩小图像,并至少根据该对照结果,使上述确定单元确定对该摄像图像的上述图像范围,其中M≤K。
发明效果
具有上述结构的本发明的图像处理装置对于各摄像图像,以L种倍率中的本装置的处理能力(在规定时间内能够生成的缩小图像的种类数K)以下的M种以下的倍率生成各缩小图像,并对照各缩小图像与模板图像,因此能够提高可在规定时间内检测与模板图像对应的图像的可能性。
另外可以是,每当输入摄像图像时,上述控制单元将下述两种倍率作为上述M种以下的倍率而交替地指定给上述缩小图像生成单元,该两种倍率为,包含将上述L种倍率按升序或降序排列的情况下的从开头开始的序号为第奇数个的各倍率中的N个倍率的M个以下的倍率、以及包含将上述L种倍率按升序或降序排列的情况下的从开头开始的序号为第偶数个的各倍率中的N个倍率的M个以下的倍率,其中N≤M。
由此,交替地利用以将L种倍率按升序或降序排列的情况下的从开头开始的序号为第奇数个的倍率生成的各缩小图像、和以第偶数个的倍率生成的各缩小图像,进行与模板图像的对照,因此与从L种倍率中选择任意M种以下的倍率的情况相比,能够提高可检测出在各摄像图像中包含的各种大小的、与模板图像对应的图像的可能性。
另外可以是,上述控制单元根据从上述对照单元送出的、对该摄像图像的表示检测到与模板图像对应的图像的情况的对照结果,选择对在一个摄像图像之前输入的摄像图像指定的M种以下倍率中的一个以上倍率,并使所选择的倍率包含于指定给上述缩小图像生成单元的、对上述一个摄像图像的上述M种以下的倍率中。
由此,通过从对一个摄像图像之前输入的摄像图像的各缩小图像的生成中使用的各倍率中选择检测出与模板对象对应的图像时的倍率,利用有关该检测的倍率生成一个摄像图像的缩小图像。因此,能够进一步提高在一个摄像图像与其之前输入的摄像图像为相似的图像的情况下,能够检测出在一个摄像图像中包含的与模板图像对应的图像的可能性。
这里,作为一个摄像图像与其之前输入的摄像图像为相似的图像的情况,可以举例将规定时间设定为非常短的时间(例如33ms)的情况、或被摄体静止的情况。
另外可以是,上述控制单元根据从上述对照单元送出的、对该摄像图像的表示检测出与模板图像对应的图像的情况的对照结果,选择对在一个摄像图像之前输入的摄像图像指定的M种以下的倍率中的一个以上倍率,并使将上述L种倍率按升序或降序排列的情况下的从开头开始的序号为所选择的倍率的序号的紧前或紧后的倍率包含于上述一个摄像图像的上述N个倍率中。
由此,通过从对一个摄像图像之前输入的摄像图像的缩小图像的生成中使用的倍率中选择检测出与模板对象对应的图像时的倍率,利用该选择的倍率的附近倍率生成一个摄像图像的缩小图像。因此,能够进一步提高在一个摄像图像与其之前输入的摄像图像为相似的图像的情况下,能够检测出在一个摄像图像中包含的与模板图像对应的图像的可能性。
这是因为,在一个摄像图像与其之前输入的摄像图像为相似的图像的情况下,以在一个摄像图像之前输入的摄像图像中能够检测的倍率的附近倍率能够检测在一个摄像图像中包含的与模板图像对应的图像的可能性高。
另外可以是,上述对照单元在通过对照各缩小图像和模板图像而检测到对应于该模板图像的图像范围的情况下,将表示检测出的各图像范围的各范围信息作为上述对照结果送出,上述确定单元根据从上述对照单元送出的、一个摄像图像的各范围信息及在该摄像图像之前输入的摄像图像的各范围信息,进行上述确定。
由此,不仅是根据表示对于一个摄像图像以预先准备的L种倍率中的M种以下倍率生成的各缩小图像和模板图像进行对照而检测出的各图像范围的范围信息,而且根据该一个摄像图像之前输入的摄像图像的各范围信息来确定一个摄像图像的图像范围,因此能够提高抑制误差影响而能够确定图像范围的可能性。
另外可以是,上述确定单元根据从上述对照单元送出的、上述一个摄像图像的各范围信息及在上述之前输入的摄像图像的各范围信息中的、表示处于以规定基准决定的接近的位置关系的各图像范围的各范围信息,确定一个图像范围。
由此,根据表示处于接近的位置关系的各图像范围的、一个摄像图像与其之前输入的摄像图像的各范围信息,确定一个图像范围,因此能够抑制误差影响而确定图像范围。
另外可以是,上述控制单元根据从上述对照单元送出的、在该摄像图像之前输入的摄像图像的对照结果,决定指定给上述缩小图像生成单元的、对一个摄像图像的上述M种以下倍率。
由此,在从一个摄像图像之前输入的摄像图像的缩小图像的生成中使用的倍率中、例如选择了检测出与模板图像对应的图像时的倍率的情况下,利用有关该检测的倍率生成一个摄像图像的缩小图像,因此在一个摄像图像与其之前输入的摄像图像为相似的图像的情况下,能够进一步提高可检测出一个摄像图像中包含的与模板图像对应的图像的可能性。
另外可以是,上述图像处理装置保持作为上述模板图像的候补的多个模板候补图像,上述对照单元根据一个摄像图像之前输入的摄像图像的对照结果,从上述模板候补图像中选择该一个摄像图像的对照中使用的上述模板图像。
由此,例如在对于一个摄像图像之前输入的摄像图像检测出与模板图像对应的图像的情况下,将该模板图像用于一个摄像图像的对照中,从而在一个摄像图像与其之前输入的摄像图像为相似的图像的情况下,能够提高可在较短的时间内检测出一个摄像图像中包含的与模板图像对应的图像的可能性。
另外可以是,上述对照单元在通过对照各缩小图像和模板图像而检测出对应于该模板图像的图像范围的情况下,将表示检测出的各图像范围的各范围信息作为上述对照结果送出,上述确定单元根据从上述对照单元送出的、一个摄像图像的各范围信息及在该摄像图像之前输入的摄像图像的各范围信息,进行上述确定。
由此,不仅是根据表示对于一个摄像图像以预先准备的L种倍率中的M种以下倍率生成的各缩小图像和模板图像进行对照而检测出的各图像范围的范围信息,而且根据该一个摄像图像之前输入的摄像图像的各范围信息,确定一个摄像图像的图像范围,因此能够提高抑制误差影响而能够确定图像范围的可能性。
另外可以是,上述确定单元根据从上述对照单元送出的、上述一个摄像图像的各范围信息及在上述之前输入的摄像图像的各范围信息中的、表示处于以规定基准决定的接近的位置关系的各图像范围的各范围信息,确定一个图像范围。
由此,根据表示处于接近的位置关系的各图像范围的、一个摄像图像与其之前输入的摄像图像的各范围信息,确定一个图像范围,因此能够抑制误差影响而确定图像范围。
另外可以是,上述图像处理装置还包括显示单元,每当输入摄像图像时,该显示单元显示该摄像图像,并且在该摄像图像上的与上述确定单元对该摄像图像确定的图像范围对应的位置上,显示表示该图像范围的框。
在对被输入的摄像图像确定的图像范围的位置上显示框,因此用户能够容易识别作为确定处理对象的图像范围。
附图说明
图1是图像处理装置100的功能模块图。
图2是用于说明脸部检测装置180的脸部检测方法的图。
图3是表示缩小ID与缩小率等的对应的一例的图。
图4是用于说明摄像图像1000的图像存储器130上的配置的图。
图5是表示图像处理装置100的动作的流程图。
图6是表示确定电路184的脸部图像范围的确定处理的流程图。
图7是用于以时间序列说明图像处理装置100确定脸部图像范围的过程的图。
图8是用于以时间序列说明现有图像处理装置确定脸部图像范围的过程的图。
图9是表示变形例的图像处理装置的动作的流程图。
图10是表示包含实施方式中所说明的脸部检测装置180的半导体集成电路200的结构例的图。
标号说明
100图像处理装置
101处理器总线
102存储器总线
110照相机
120照相机输入电路
130图像存储器
140LCD
150LCD输出电路
160物体检测电路
170处理器
180脸部检测装置
181结果存储器
182分辨率变换电路
183脸部检测电路
184确定电路
200半导体集成电路
具体实施方式
以下,说明本发明图像处理装置的一个实施方式。
《实施方式》
<概要>
本实施方式的图像处理装置从每规定时间(例如,33ms)摄像并生成的各摄像图像中确定包含脸部图像的图像范围(以下,称作“脸部图像范围”)。
各摄像图像的尺寸为4VGA(1280×960像素),尺寸较大,因此该图像处理装置锁定其一部分区域的图像(以下,称作“检测对象图像”)来进行脸部图像的检测处理。这里,检测对象图像是利用以往进行的边缘检测等方法检测出有某种物体的区域的图像。
该图像处理装置以每既定尺寸对检测对象图像进行处理并检测脸部图像。即,生成将该既定尺寸的图像(以下,称作“对照对象图像”)逐渐减小的各缩小图像,并将生成的各缩小图像和脸部图像的模板图像进行对照,从而检测脸部图像。
作为生成各缩小图像时的缩小率,该图像处理装置能够使用被设定成缩小的程度逐渐变大的12种缩小率,但不是对每一摄像图像使用12种缩小率全部,而是使用其中的6中缩小率生成各缩小图像。
另外,在本实施方式中,假设该图像处理装置具有能够在规定时间以内以6种缩小率生成缩小图像的处理能力。
并且,该图像处理装置利用连续摄像的两个摄像图像与模板图像的对照结果,确定脸部图像范围。
如此,该图像处理装置以12种缩小率中的6种缩小率生成各缩小图像,因此,抑制对各摄像图像的缩小图像的生成及对照所需要的处理量,并且由于利用连续摄像的两个摄像图像的对照结果确定脸部图像范围,因此与进行生成12种缩小图像并与其对照的处理的情况相比较,精度没有降低很多而能够确定脸部图像范围。
<结构>
首先,说明图像处理装置100的结构。
图1是图像处理装置100的功能模块图。
图像处理装置100如该图所示,具有照相机110、照相机输入电路120、图像存储器130、LCD(Liquid Crystal Display:液晶显示器)140、LCD输出电路150、物体检测电路160、处理器170以及脸部检测装置180。
处理器170与其他构成元件的数据交换通过处理器总线101进行,并且,除了照相机110以外的其他构成元件对图像存储器130的访问通过存储器总线102来进行。
这里,照相机110具有以一定的帧率(例如,30fps(frame per second:帧速))进行摄像,并将依次生成的4VGA尺寸的摄像图像(数据)发送给照相机输入电路120的功能。
照相机输入电路120具有对从照相机110接收的摄像图像进行用于实现高画质的各种过滤处理,并保存在图像存储器130中的功能。若将过滤处理后的摄像图像保存在图像存储130中,则照相机输入电路120将该内容通知给处理器170。
图像存储器130是用于存储过滤处理后的摄像图像的存储区域。
LCD140包含液晶显示器(LCD),具有根据LCD输出电路150的指示显示图像的功能。
LCD输出电路150具有以与摄像帧率相同的帧率读出存储在图像存储器130中的摄像图像并在LCD140上显示,并且根据来自处理器170的指示,将表示确定出的脸部图像范围的矩形框显示于LCD140上的功能。
物体检测电路160具有根据来自处理器170的指示,读出存储在图像存储器130中的摄像图像,进行物体的检测处理,并将检测结果发送给处理器170的功能,该检测结果包含表示检测的有无的信息。
该物体的检测,例如通过将没有拍摄有物体的状态的摄像图像与存储在图像存储器130中的摄像图像的边缘检测结果进行比较来进行,特别地,在检测出物体的情况下,将包含检测出的物体的矩形检测对象图像的坐标值(例如,左上端及右下端的坐标值)包含在检测结果中发送给处理器170。
处理器170具有通过执行存储在内部存储器(未图示)中的控制程序,进行图像处理装置100整体的控制及向装置内的各模块的指示及通知的功能。
特别地,处理器170在从物体检测电路160接收到包含检测出的内容的信息的检测结果的情况下,向脸部检测装置180通知检测对象图像的坐标值(该检测结果中包含的坐标值)及生成各缩小图像时的缩小率,在从物体检测电路160接收到包含未检测出的内容的信息的检测结果的情况下,向脸部检测装置180通知该情况。
另外,处理器170具有根据从脸部检测装置180接收到的表示确定出的脸部图像范围的坐标值等,使LCD输出电路150显示表示确定出的脸部图像范围的矩形框的功能。
脸部检测装置180具有以既定尺寸(QVGA尺寸(320×240像素)单位对处理器170通知的坐标值所表示的检测对象图像进行处理并确定脸部图像范围的功能。更详细地讲,通过将缩小了该既定尺寸的图像(对照对象图像)的各缩小图像与各模板图像进行对照,检测脸部图像,并根据对照结果确定脸部图像范围。
这里,各模板图像是脸部的方向各不相同的图像,通过利用各模板图像进行比较,能够检测缩小图像所包含的朝向各个方向的脸部图像。
脸部检测装置180具有结果存储器181、分辨率变换电路182、脸部检测电路183以及确定电路184。
这里,结果存储器181是用于保存脸部检测装置180处理中的摄像图像的各对照结果的列表(以下,称作“结果列表”)、和在该摄像图像的前一个摄像的摄像图像的结果列表的存储区域。
分辨率变换电路182具有如下功能,即在处理器170通知的坐标值所表示的检测对象图像中,决定作为缩小图像的生成对象的对照对象图像(QVGA尺寸),并生成将决定的对照对象图像以处理器170通知的各缩小率进行缩小的各缩小图像,发送给脸部检测电路183。
另外,利用例如在PCT/JP2008/000961中公开的在检测对象图像中从左上端到右下端设置重迭区域来决定的方法同样能够决定对照对象图像,因此这里省略详细的说明。
并且,本实施方式中的缩小率表示使对照对象图像的尺寸(QVGA尺寸)为“1”时的缩小后图像的尺寸比例。因此,缩小率大(例如,0.82)意味着缩小的程度小,相反,缩小率小(例如,0.11)意味着缩小的程度大。
并且,在本实施方式中,包括缩小率为1.0的情况即缩小图像为对照对象图像其本身的情况在内都叫作缩小图像。
脸部检测电路183是通过对照从分辨率变换电路182接收的缩小图像与各模板图像(分别为24×24像素的固定尺寸),检测缩小图像中包含的脸部图像的电路。
更详细地讲,对各模板图像进行在接收到的缩小图像中,一边从左上端像素到右下端像素移动模板图像,一边与该模板图像对照的处理,并将各对照结果作为对脸部检测装置180处理中的摄像图像的结果列表保存在结果存储器181。
在上述对照结果中,除了包含表示有无检测的信息之外,特别是在检测出脸部图像的情况下包含将检测出的矩形的脸部图像的左上端的坐标值(缩小图像上的坐标值)变换为摄像图像上的坐标的坐标值、表示对包含检测出的脸部图像的缩小图像的缩小率的信息(以下,称作“缩小ID”)、以及检测中使用的模板的脸部方向的信息(以下,称作“模板ID”)。
以下,作为一例,假设脸部检测电路183是利用脸部方向的正面、右向、左向的三个模板图像进行对照的结构。另外,脸部方向为正面、右向、左向的三个模板图像的模板ID分别为“0”、“1”、“2”。
此外,对于从上述的缩小图像上的坐标值到摄像图像上的坐标值的变换,由于缩小图像与摄像图像处于相似关系,利用两个图像的水平方向尺寸及垂直方向尺寸的比率进行简单的比例计算就能够实现,因此省略详细的说明。
确定电路184具有如下功能,即根据对于脸部检测装置180处理中的摄像图像及其前一个摄像的摄像图像的存储在结果存储器181中的各结果列表所包含的各对照结果,确定脸部图像范围,并将表示确定出的脸部图像范围的坐标值等发送给处理器170。关于脸部图像范围的确定方法将在后面详细说明。
<脸部检测>
下面,说明脸部检测装置180的脸部检测方法。
图2是用于说明脸部检测装置180的脸部检测方法的图。
在该图中,对照对象图像1021即对照对象图像1022分别包含脸部图像,包含在对照对象图像1021中的脸部图像大于包含在对照对象图像1022中的脸部图像。
为了将对照对象图像1021和固定尺寸(例如,24×24)的模板图像进行比较并检测脸部图像,需要将包含在对照对象图像1021中的脸部图像的大小缩小到与模板图像的脸部图像的大小相同的程度。缩小图像1031表示该缩小后的图像。
脸部检测电路183在缩小图像1031中,从左上端的像素开始到右下端的像素,一边移动模板图像一边进行对照,从而检测脸部图像。
从对照对象图像1022中检测脸部图像的情况也同样。脸部检测电路183将缩小了对照对象图像1022的缩小图像1032和模板图像进行对照。
这里可知,缩小图像1032的尺寸大于缩小图像1031的尺寸,即缩小图像1032的缩小程度比缩小图像1031的缩小程度低。这是因为,包含在对照对象图像1022中的脸部图像的大小小于包含在对照对象图像1021中的脸部图像,所以能够以较低的缩小程度缩小到与模板图像的的脸部图像的大小相同的程度。
如此,为了从对照对象图像中检测脸部图像,需要将以相应于对照对象图像中包含的脸部图像的大小的缩小率缩小的缩小图像和模板图像进行对照。但是,实际进行检测时,不知道在对照对象图像中包含的脸部图像的大小,因此脸部检测电路183通过对照逐渐改变了缩小率的各缩小图像和模板图像来检测脸部图像。
各缩小图像的缩小率例如可以如图3所示,每次1/1.22倍地逐渐改变而决定。
图3是表示缩小ID和缩小率等的对应的一例的图。
在该图中,“(1/1.22)^n”的记载表示(1/1.22)的n次方。
该图中表示,例如,缩小ID为“0”的情况下的缩小率为“(1/1.22)^0,即1.0”,以对应的缩小率缩小对照对象图像的情况下的缩小图像的水平方向尺寸为“320像素”,,垂直方向尺寸为“240像素”。
此外,在缩小ID为“11”的情况下的缩小率为“(1/1.22)^11倍”,缩小图像的水平方向尺寸为“33像素”,垂直方向尺寸为“25像素”。
另外,若缩小图像的尺寸小于模板图像的尺寸(在该实施方式例子中为24×24像素),则不能进行对照,因此在该例中,缩小ID为“11”的情况的缩小率最小,即,该情况的缩小程度最高。
<数据>
下面,说明摄像图像的图像存储器130上的配置。
图4是用于说明摄像图像1000的图像存储器130上的配置的图。
如上所述,摄像图像1000是4VGA(1280×960像素)尺寸的图像数据,构成摄像图像1000的各像素的像素值数据被连续存储在图像存储器130上的连续区域。即,该图所示的像素以1001、……、1002、1003、……、1004、……、1005的顺序存储在连续区域。
这里,若将存储像素1001的图像存储器130上的区域的地址值记为BASE,则通过以下公式求出存储各像素数据的区域的地址值。另外,公式中的水平方向尺寸是指摄像图像1000的水平方向尺寸即1280。另外,这里,将像素1001的坐标值设为(0,0),在右方向取X轴,在下方向取Y轴。并且,假设一个地址表示保存一个像素量的像素数据的图像存储器130上的区域而进行说明。
[公式1]
地址值=BASE+水平方向尺寸×Y坐标+X坐标
例如,保存坐标值为(640,240)的像素1004的图像存储器130上的区域的地址值为“BASE+1280×240+640”。
脸部检测装置180的分辨率变换电路182利用根据所决定的对照对象图像的坐标值计算的地址值,能够从图像存储器130读出该对照对象图像。
<动作>
下面,对具备上述结构、处理上述数据的图像处理装置100的动作进行说明。
图5是表示图像处理装置100的动作的流程图。
处理器170若从照相机输入电路120接收将摄像图像保存在图像存储器130中的内容的通知,则计数摄像次数,并且使物体检测电路160开始检测处理,若从该物体检测电路160接收检测结果,则判断该检测结果是否包含检测出物体的情况的信息(步骤S1)。
在包含有检测出物体的情况的信息的情况下(步骤S1:是),处理器170根据上述的摄像次数,判断有关该检测的摄像图像的摄像序号是否为第偶数次(步骤S2)。例如,若摄像次数为1,则进行否定的判断,若摄像次数为2,则进行肯定的判断。
处理器170在12种缩小ID中的有关检测的摄像图像的摄像序号为第偶数个的情况下(步骤S2:是),选择偶数缩小ID(0、2、4、……、10)(步骤S3),在有关检测的摄像图像的摄像序号为第奇数个的情况下(步骤S2:否),选择奇数缩小ID(1、3、5、……、11)(步骤S4)。
处理器170将所选择的各缩小ID和在所接收的检测结果中包含的检测对象图像的坐标值通知给脸部检测图像180(步骤S5)。
脸部检测图像180的分辨率变换电路182在处理器170通知的坐标值所表示的检测对象图像中决定一个对照对象图像(步骤S6),并按照公式1所示的数学公式1,计算存储有所决定的对照对象图像的图像存储器130上的地址值,从图像存储器130读出该对照对象图像(步骤S7)。
分辨率变换电路182选择在步骤S5中通知的各缩小ID中的一个缩小ID,生成以对应于所选择的缩小ID的缩小率将读出的对照对象图像进行缩小的缩小图像,并发送给脸部检测电路183(步骤S8)。这里,分辨率变换电路182例如从尚未被选择的各缩小ID中选择最小的缩小ID。
脸部检测电路183在结果存储器181中生成对于脸部检测装置180处理中的摄像图像的空的结果列表,并对于各模板图像,在从分辨率变换电路182接收的缩小图像中一边从左上端的像素开始到右下端的像素移动该模板图像,一边进行对照,将对照结果登录在生成的结果列表中(步骤S9)。
分辨率变换电路182判断是否选择了在步骤S5中通知的所有缩小ID(步骤S10),在没有选择所有缩小ID的情况下(步骤S10:否),为了以未选择的缩小ID生成缩小图像,重新从步骤S7开始进行处理。
另一方面,在选择了所有缩小ID的情况下(步骤S10:是),判断是否处理了检测对象图像整体(步骤S11),在没有处理检测对象图像整体的情况下(步骤S11:否),为了处理下一对照对象图像,重新从步骤S6开始进行处理。
另外,在步骤S11中处理了检测对象图像整体的情况下(步骤S11:是),确定电路184根据在结果存储器181中存储的两个结果列表中包含的各对照结果,进行脸部图像范围的确定处理(步骤S12)。
另一方面,在步骤S1中,在从物体检测电路160接收到的检测结果中包含没有检测出物体的情况的信息的情况下(步骤S1:否),处理器170将该情况通知给脸部检测装置180,脸部检测电路183在结果存储器181中生成对脸部检测装置180处理中的摄像图像的空的结果列表,确定电路184与上述的同样,进行脸部图像范围的确定处理(步骤S12)。
根据作为步骤S12的处理结果而从确定电路184发送来的确定出的脸部图像范围的信息,处理器170将应该在摄像图像上描绘的脸部图像范围的坐标值(左上端的坐标值及右下端的坐标值)通知给LCD输出电路150,LCD输出电路150在从图像存储器130读出的摄像图像上描绘表示处理器170通知的脸部图像范围的矩形,显示在LCD140,结束一系列的处理。另外,作为步骤S12的处理结果而从确定电路184接收到未能确定脸部图像范围的情况的通知的情况下,处理器170可以不向LCD输出电路150通知上述的坐标值,也可以根据最近一次从确定电路184接收到的确定的脸部图像范围的信息,进行上述的坐标值的通知。
以下,对步骤S12的脸部图像范围的确定处理进行说明。
图6是表示确定电路184的脸部图像范围的确定处理的流程图。
确定电路184对于在结果存储器181中保存的两个结果列表各自所包含的各对照结果,根据该对照结果中包含的检测出的脸部图像的左上端的坐标值(摄像图像上的坐标值)和缩小ID,计算检测出的脸部图像的中心点(步骤S13)。
例如,在检测出的脸部图像的左上端的坐标值为(92,48),缩小ID为“2”的情况下,根据模板图像的尺寸(24×24像素)和对应于缩小ID的缩小率((1/1.22)^2),能够算出脸部图像的尺寸为“36×36像素”。因此,能够算出该检测出的脸部图像的中心点为(92+36/2,48+36/2),即(110,66)。
另外,在物体检测电路160没有检测出物体的情况下(步骤S1:否),如上所述,仅生成空的结果列表,该结果列表未包含对照结果。并且,在脸部检测电路183完全没有检测出脸部图像的情况下,结果列表所包含的各对照结果中没有包含坐标值。因此,有时作为结果,仅对一个结果列表所包含的各对照结果,计算中心点。
此外,虽然没有作出特别的图示,但在哪个结果列表中都没有包含检测出的脸部图像的左上端的坐标值的情况下,确定电路184将未能确定出脸部图像范围的情况通知给处理器170,结束确定处理。
确定电路184判断在计算的各中心点中是否有未被决定组的点(步骤S14),在有未被决定组的中心点的情况下(步骤S14:是),选择该未被决定组的中心点中的一个中心点(步骤S15)。以下,将该中心点称作“选择点”。另外,确定电路184例如在尚未被决定组的中心点中,选择与包含最小的缩小ID的对照结果中包含的坐标值对应的中心点。
确定电路184从选择点以外的未被决定组的其他中心点中,将该选择点的缩小ID的规定范围(例如,±2以内)的缩小ID的中心点,作为属于该选择点所属的组的中心点的候补(步骤S16)。以下,将该成为候补的各中心点称作“候补点”。
例如,在选择点的缩小ID为“2”的情况下,缩小ID为“0”~“4”的中心点成为候补点。
确定电路184计算选择点与各候补点的距离(步骤S17),并将计算出的距离在规定值(例如20)以内的候补点决定为属于与选择点相同的组的点(步骤S18)。
例如,假设选择点的坐标值为(110,66),候补点的坐标值为(118,68),则两点的距离为“8.2”,该候补点被决定为属于与选择点相同的组的点。
确定电路184根据属于相同的组的各中心点的坐标值及各脸部图像的大小,确定一个脸部图像范围,并将该确定出的脸部图像范围的左上端的坐标值及大小发送给处理器170(步骤S19)。
更详细地讲,例如,在上述例子中,有决定为相同的组的两个中心点(110,66)和(118,68)的情况下,各中心点的坐标值的平均值为(114,67)。
此外,若假设以(110,66)为中心点的脸部图像的大小如上所述,是“36×36像素”,以(118,68)为中心点的脸部图像的大小例如为“44×44像素”,则这些脸部图像的大小的平均值为“40×40像素”。
确定电路184将中心点为计算出的各中心点的坐标的平均值为(114,67)、大小为计算出的脸部图像的大小的平均值为“40×40像素”的图像范围确定为一个脸部图像范围,并将所确定的脸部图像范围的左上端的坐标值(114-40/2,67-42/2)即(94,47)和大小“40×40像素”发送给处理器170.
若步骤S19的处理结束,则确定电路184重新从步骤S14开始进行处理,在没有未被决定组的中心点的情况下(步骤S14:否),从结果存储器181中删除脸部检测装置180处理中的摄像图像的前一个摄像图像的结果列表,结束脸部图像范围的确定处理。
<考察>
以下,利用图7、图8比较说明图像处理装置100及现有的图像处理装置分别确定脸部图像范围的过程。
<图像处理装置100>
首先,说明图像处理装置100。
图7是用于以时间序列说明图像处理装置100确定脸部图像范围的过程的图。
这里,摄像图像表示照相机110以33ms间隔摄像并生成的摄像图像1011~1013。摄像图像1011~1013的摄像序号是n~n+2,n是偶数。
此外,显示图像表示以33ms间隔显示在LCD140上的显示图像1041~1043。
首先,若在T1生成摄像图像1011,则由于在该例子中摄像图像1011的摄像序号是第偶数个,所以直到T2利用偶数缩小ID(0、2、……、10)生成各缩小图像,并进行与各模板的对照处理。
接着,若在T2生成摄像图像1012,则对于该摄像图像1012,利用奇数缩小ID(1、3、……、11),与T1的摄像图像1011同样地进行缩小处理及对照处理,并且对摄像图像1011进行脸部图像范围的确定处理。
该脸部图像范围的确定是根据对摄像图像1011的各对照结果以及对摄像图像1011的前一个摄像的摄像图像的各对照结果来进行的,在摄像图像1011上描绘表示被确定的脸部摄像范围的矩形框S1(显示图像1041),显示持续到T3。
另外,在显示图像1041上图示有用虚线表示的椭圆C0、C1和用虚线表示的各矩形,但这些是用于说明的手段,实际上不会显示。这在显示图像1042、1043中也一样。
这里,用虚线表示的各矩形表示检测出的各脸部图像,椭圆C0表示包含从摄像图像1011的前一个摄像的摄像图像中检测出的各脸部图像的范围,椭圆C1表示包含从摄像图像1011中检测出的各脸部图像的范围。
即,根据椭圆C1所包含的各脸部图像和椭圆C0所包含的各脸部图像,进行对摄像图像1011的脸部图像范围的确定。
接着,若在T3生成摄像图像1013,则对于该摄像图像1013,利用偶数缩小ID(0、2、……、10),与T1的摄像图像1011同样地进行缩小处理及对照处理,对于摄像图像1012,与T2的摄像图像1011同样地进行脸部图像范围的确定处理,在摄像图像1012上描绘表示被确定的脸部图像范围的矩形框S2(显示图像1042),显示持续到T4。
对摄像图像1012的脸部图像范围的确定根据从摄像图像1012中检测出的各脸部图像(椭圆C2所包含的各脸部图像)和从摄像图像1011中检测出的各脸部图像(椭圆C1所包含的各脸部图像)来进行。
然后,对摄像图像1013也同样处理。
可知,通过这样显示的显示图像1041~1043的各矩形框S1~S3能够显示在实际显示的脸部图像的附近。
<现有的图像处理装置>
接着,说明将对一个摄像图像使用12种所有的缩小率而生成的各缩小图像与各模板图像进行对照的现有的图像处理装置。
图8是用于以时间序列说明现有的图像处理装置对脸部图像范围进行确定的过程的图。
这里,与在图7中说明的同样,摄像图像表示以33ms间隔摄像并生成的摄像图像2011~2015,2011~2013是与图7的1011~1013完全相同的图像。另外,各摄像图像的摄像序号为n~n+4。
另外,显示图像表示以33ms间隔显示的显示图像2021~2025。
以下,假设现有的图像处理装置对一个摄像图像完成缩小处理和对照处理所需要的时间为66ms而进行说明。
首先,在T1生成摄像图像2011,则到T3之间利用所有缩小ID(0、2、……、11)生成各缩小图像,并进行与各模板的对照处理。
接着,在T2,由于对摄像图像2011的与所有缩小图像的对照尚未结束,因此只有摄像图像2011按原样显示(显示图像2021)。另外,在T2生成摄像图像2012,但由于对摄像图像2011的与所有缩小图像的对照尚未结束,因此这里,不进行对摄像图像2012的缩小处理及对照处理。
接着,在T3,根据T1~T3的摄像图像2011的对照结果,对摄像图像2011进行脸部图像范围的确定处理,在摄像图像2012上描绘表示被确定的脸部图像范围的矩形框S10(显示图像2022),显示持续到T4。并且,该现有的图像处理装置通过取检测出的各脸部图像的各坐标值及大小的各自的平均值,确定脸部图像范围。
另外,在T3生成摄像图像2013,则对于摄像图像2013,到T5为止利用所有缩小ID(0、2、……、11),与T1的摄像图像2011同样地进行缩小处理及对照处理。
接着,在T4,由于对摄像图像2013的与所有缩小图像的对照尚未结束,因此在摄像图像2013上依然描绘表示对于摄像图像2011确定的脸部图像范围的矩形框S10(显示图像2023),显示持续到T5。
然后,同样地,在摄像图像2014及摄像图像2015上分别描绘表示对于摄像图像2013确定的脸部图像范围的矩形框S11(显示图像2024、2025),显示图像2024在T5~T6之间显示,显示图像2025在T6~T7之间显示。
如上所述,现有的图像处理装置利用所有的缩小ID生成各缩小图像并与各模板图像进行对照的结果,导致该缩小处理及对照处理所需要的时间比摄像间隔时间(在该例中33ms)长,相反脸部图像的检测精度下降。特别是,在依然显示表示上次确定出的脸部图像范围的矩形框的显示图像2023、2025中,出现实际显示的脸部图像的位置及矩形框的位置的偏差较大的不良情况。
这样,本发明实施方式的图像处理装置100根据本装置的处理能力,将对应于12种缩小率中的6种偶数缩小ID的各缩小率和对应于6种奇数缩小ID的各缩小率交替地用于每一个摄像图像而生成各缩小图像,因此能够在摄像间隔时间(在该例中33ms)以内进行对各摄像图像的缩小处理和对照处理,产生如现有的图像处理装置的不良情况。
另外,利用该摄像图像及其前一个摄像的摄像图像的各对照结果,确定各摄像图像的脸部图像范围,因此能够抑制误差的影响,精度良好地确定脸部图像范围。
《变形例》
以下,对替换图像处理装置生成各缩小图像时所用的各缩小率的选择方法的一变形例进行说明。
变形例的图像处理装置(以下,称作“变形图像处理装置”)变更了一些上述图像处理装置100的处理器170的功能及脸部检测电路183的功能,因此,这里仅对变更部分进行说明。
<动作>
对变形图像处理装置的动作进行说明。
图9是表示变形图像处理装置的动作的流程图。
如该图所示,变形图像处理装置的动作在取代图5的步骤S9的处理而包含步骤S22这一点上与图像处理装置100的情况不同。
这里,步骤S22的处理与步骤S9的处理的不同点是,变形例的脸部检测电路将对照结果不仅登录在结果存储器181中生成的结果列表中,而且向变形例的处理器送出。
另外,变形图像处理装置的动作与图像处理装置100的情况的不同点是,除了图5所示的各处理以外,还包含步骤S20及S21的处理。
这里,变形例的处理器在从物体检测电路160接收的检测结果中包含有检测出物体的情况的信息的情况下(步骤S1:是),根据在上述步骤S21中从变形例的脸部检测电路送出的对照结果,判断从处理中的摄像图像的前一个摄像的摄像图中是否检测出脸部图像(步骤S20)。即,仅在该对照结果中包含有检测出的情况的信息的情况下,进行肯定的判断。另外,在对于前一个摄像的摄像图像从物体检测电路160接收的检测结果中包含有未检测出物体的情况的信息的情况下,进行否定的判断。
在从前一个摄像的摄像图像中没有检测出脸部图像的情况下(步骤S20:否),进行步骤S2的处理,根据处理结果,在步骤S3或S4中进行缩小ID的选择。
另外,在从前一个摄像的摄像图像中检测出脸部图像的情况下(步骤S20:是),从包含检测出的内容的信息的各对照结果中包含的各缩小ID及那些缩小ID的周边的缩小ID中选择6个以下的缩小ID(步骤S21)。
例如,在包含检测出的内容的信息的对照结果中包含的缩小ID为“2”的情况下,其周边的缩小ID为“1”及“3”。因此,在该例中作为缩小ID选择“1”~“3”。
另外,在选择的缩小ID的数为小于6的情况下,还可以选择任意的缩小ID,以使选择的缩小ID的数为6。
这样,将在步骤S21、步骤S3、或步骤S4中选择的缩小ID和接收的检测结果中包含的检测对象图像的坐标值通知给变形例的脸部检测装置通(步骤S5),其后,与对图5说明的一样进行处理。
<补充>
以上,根据实施方式及变形例说明了本发明的图像处理装置,但当然也能够进行如下的变形,本发明不限于上述的实施方式及变形例中示出的图像处理装置。
(1)将在实施方式及变形例中说明的各构成要素中的全部或一部分可以通过计算机程序实现,也可以通过一个芯片或多个芯片的集成电路实现。
图10是表示包含对应于实施方式中说明的脸部检测装置180的半导体集成电路的半导体集成电路200的结构例的图。
如该图所示,半导体集成电路200包含对应于脸部检测装置180的半导体集成电路,根据适用半导体集成电路200的装置的用途,此外还包含ROM210、图像编码电路220以及声音处理部230等。
半导体集成电路200一般由CMOS等MOS晶体管构成,通过MOS晶体管的连接结构,实现确定的逻辑电路。近年来,半导体集成电路的集成度提高,通过一个或多个半导体集成电路能够实现非常复杂的逻辑电路,因此能够使脸部检测装置180小型化,并且能够实现低耗电力。
另外,将半导体集成电路200作为包含对应于实施方式的脸部检测装置180的半导体集成电路的结构进行了说明,但是也可以包含对应于变形例的脸部检测装置的半导体集成电路。
(2)在实施方式及变形例中,对在摄像图像中包含多个脸部图像的情况、即检测出多个检测对象图像的情况,特别举例说明,但也可以进行对多个检测对象图像分别检测脸部图像的处理。
(3)在实施方式及变形例中,使摄像图像尺寸为4VGA尺寸、使对照对象图像尺寸为QVGA尺寸、使模板图像的尺寸为24×24像素而进行了说明,但不限于此,也可以分别为任意尺寸。
(4)在实施方式及变形例中,将模板图像为3种而进行了说明,但模板图像的数量不限于此。即,也可以仅为朝向正面的模板图像一种,也可以按照脸的每个角度利用多于3种的模板图像进行对照。
(5)实施方式及变形例的脸部检测装置将缩小图像与多个模板图像的每一个模板图像进行对照,但也可以根据保存在结果存储器181中的对前一个摄像图像的结果列表内的对照结果,锁定用于对照的模板图像。
即,也可以与模板ID所表示的模板图像进行对照,该模板ID被包含在前一个摄像图像的包含检测出的情况的信息的对照结果中。
(6)在实施方式及变形例中,作为不管是否检测出脸部图像都对检测对象图像的所有对照对象图像进行对照的结构进行了说明,但在一定基准(例如,与模板图像的一致度为既定的阈值以上的情况)之下判断为检测出脸部图像的情况下,也可以结束对该摄像图像的检测处理。
(7)在实施方式及变形例中,作为检测脸部图像的结构进行了说明,但也可以检测脸部图像以外的确定图像。作为确定图像,例如可以是附加在人或物体上的识别标签,在该情况下,还可以考虑从检测出的识别标签的信息识别个人或物体的种类等利用。
(8)实施方式及变形例的物体检测电路160通过比较没有拍摄有物体的状态的摄像图像与存储在图像存储器130中的摄像图像的边缘检测结果,检测物体,但这是一个例子,例如也可以通过获取连续生成的摄像图像的像素值的差分来检测。
(9)在实施方式及变形例中说明了如图3所示,缩小率每次变化(1/1.22)^n倍的例子,但这是一个例子,只要将各缩小率设定成以最小的缩小率缩小时的图像(即,缩小程度最高的图像)的尺寸比模板图像的尺寸大即可,例如,可以每次变化(1/1.25)^n倍。
(10)在实施方式及变形例中,作为图像处理装置的动作说明了如图5及图9的步骤S6~S8所示,对于决定的一个对照对象图像,一边按照序号改变缩小ID一边生成缩小图像的例子,但也可以对于一个缩小ID,一边按照序号改变对照对象图像的位置,一边生成缩小图像。
(11)在实施方式及变形例中,如图5、图9的步骤S7所示,将分辨率变换电路182作为在生成各缩小图像时每次从图像存储器130中读出对照对象图像的结构进行了说明,但是也可以将生成的缩小图像进行存储,并利用存储的某缩小图像生成其他缩小率的缩小图像。例如,在处理器170通知偶数缩小ID的情况下,从图像存储器130中读出一次对照对象图像,并以缩小ID对应于0的缩小率生成缩小图像,然后通过将生成的缩小图像进行(1/1.22)^2倍,能够生成缩小ID对应于2、4、……、10的缩小图像。
(12)在实施方式及变形例中,作为图像处理装置的动作,说明了如图5及图9的步骤S2~S4所示,在摄像图像的摄像序号是第偶数个的情况下(步骤S2:是),选择偶数缩小ID(步骤S3),在有关检测的摄像图像的摄像序号是第奇数个的情况下(步骤S2:否),选择奇数缩小ID(步骤S4),但是可以与其相反。即,可以替换步骤S3及S4。
(13)在实施方式及变形例中,将物体检测电路160及处理器作为不包含在脸部检测装置中的结构进行了说明,但是也可以将物体检测电路160及处理器的全部或一部分包含在脸部检测装置中。
(14)在实施方式及变形例中,说明了由分辨率变换电路182进行图5及图9所示的对照对象图像的决定处理(步骤S6)的情况,但也可以由处理器进行,并将决定的对照对象图像的坐标值通知给分辨率变换电路182。
(15)在实施方式及变形例的处理器使物体检测电路160对所有的摄像图像进行检测处理,但也可以在物体检测电路160一旦检测之后,物体检测电路160不对一定数量的摄像图像进行检测处理,而是从经过该一定数量之后的摄像图像开始重新进行检测处理。
在该情况下,处理器对不使物体检测电路160进行检测处理的期间的各摄像图像,将最近一次从物体检测电路160接收的检测结果中包含的检测对象图像的坐标值通知给脸部检测装置。
另外,处理器在该期间不将检测对象图像的坐标值通知给脸部检测装置,脸部检测装置一旦将处理器通知的检测对象图像的坐标值进行存储,直到处理器下一次通知检测对象图像的坐标值,在该坐标值所表示的对照对象图像中决定对照对象图像。
另外,脸部检测电路在检测出脸部图像时,将有关该检测的对照对象图像的摄像图像中的坐标值进行存储,在处理器没有通知检测对象图像的坐标值的期间,对于处理对象的摄像图像,仅对存储中的坐标值所表示的对照对象图像进行处理。
(16)另外,实施方式及变形例的处理器使物体检测电路160对所有的摄像图像进行检测处理,但一旦检测出之后不再使物体检测电路160进行检测处理,直到从脸部检测装置接收未能确定出脸部图像范围的内容的通知。作为有关该期间的对照处理的各对照对象图像的决定方法,可以考虑与上述(15)相同的变化。
(17)实施方式及变形例的确定电路184将确定出的脸部图像范围的左上端的坐标值及大小发送给处理器,但若能够确定脸部图像范围,则也可以发送其他信息,例如也可以发送右下端的坐标值及大小,也可以发送左上端及右下端的坐标值。
另外,说明了处理器将检测对象图像的左上端及右下端的坐标值通知给脸部检测装置的情况,但若同样能够确定出检测对象图像则可以通知其他信息,例如,可以通知左上端或右下端的坐标值及该图像的大小。
另外,物体检测电路160包含于检测结果中而发送给处理器的检测对象图像的左上端及右下端的坐标值也一样。
(18)在实施方式的<考察>中,说明了如图7所示,在T1~T2,对摄像图像1011进行缩小处理及对照处理,从T2开始进行对摄像图像1011的脸部图像范围的确定处理的情况,但在图像处理装置100的处理能力有余的情况下,也可以在摄像间隔时间(在上述例中33ms)内对一个摄像图像进行缩小处理、对照处理及确定处理。
另外,也可以通过减小图像处理装置100生成的缩小图像的数量,同样在摄像间隔时间内进行缩小处理、对照处理及确定处理。并且,若减小生成的缩小图像的数量,则一般降低检测脸部图像时的精度,因此在该变形例中,前提是即使在减小了缩小图像的数量的情况下,也要保证该图像检测装置能够容许的精度范围。
这些变形也可以适用于变形图像处理装置。
(19)实施方式及变形例的图像处理装置利用12种缩小ID中的6种以下的缩小ID对各摄像图像生成缩小图像,但是也可以由用户选择使用12种缩小ID全部的模式和使用6种以下的缩小ID的模式中的任一个,生成相应于该选择结果的数量的缩小图像。
假设了以实施方式及变形例的图像处理装置的处理能力不能在规定时间(该例中为33ms)以内生成12种缩小图像全部,但关于几乎为静止状态的被摄体,即使在经过该规定之后检测出确定图像,也不会产生确定出的图像范围与实际拍摄有被摄体的范围偏差大的问题。因此,用户例如在摄像静止的人的情况下,选择使用12种缩小ID全部的模式,从而能够更正确地确定脸部图像范围。
(20)实施方式及变形例的确定电路184根据一个摄像图像与其前一个摄像图像的两个结果列表中包含的各对照结果,确定该一个摄像图像中包含的脸部图像范围,但是也可以根据三个以上结果列表中包含的各对照结果,确定该一个摄像图像中包含的脸部图像范围。例如,可以根据两个前的摄像图像的各对照结果进行确定。该情况下,需要在结果存储器181中存储对两个前的摄像图像的结果列表。
另外,在实施方式及变形例中,作为一个摄像图像之前输入的摄像图像说明了使用前一个摄像图像的例子,但不限于此,例如可以使用一个摄像图像的两个前的摄像图像。即,可以考虑根据一个摄像图像与其两个前的摄像图像的两个结果列表中包含的各对照结果,确定在该一个摄像图像中包含的脸部图像范围的变形。
(21)实施方式及变形例的处理器对每一摄像图像从12种缩小ID中选择用于生成缩小图像的缩小ID,但是作为选择源的缩小ID当然不限于12种。即,可以比12种多,也可以少。
另外,实施方式的处理器对每一摄像图像选择6种缩小ID,但所选择的缩小ID的数量当然不限于此。即,若选择图像处理装置在规定时间以内能够生成的缩小图像数量以下的缩小ID,则选择的缩小ID的数量可以为任意个,也可以改变对每一摄像图像选择的缩小ID的数量。
(22)变形例的处理器如图9所示,对于每一摄像图像,在对该摄像图像的前一个摄像图像没有检测出脸部图像时(步骤S20:否),按照摄像顺序交替地选择偶数缩小ID和奇数缩小ID(步骤S2~S4),但也可以选择任意6种以下的缩小ID。
(23)变形例的处理器如图9的步骤S21所示,选择从前一个摄像图像中检测出脸部图像时的缩小ID与其周边的缩小ID,但是也可以仅选择检测出时的缩小ID,或其周边的缩小ID。此时,在选择的缩小ID的数量为6以下的情况下,为了使选择的缩小ID的数量为6,可以选择任意的缩小ID,也可以按照序号选择0~11的缩小ID。这同样能够适用于在步骤S21中选择的缩小ID的数量为6以下的情况。
(24)在实施方式及变形例中,分别说明了对每一摄像图像以12种缩小ID(该项中称作“候补ID”)中的6种以下的缩小ID(该项中称作“选择ID”)生成缩小图像的例子,但可以进行如下的变形。
(a)在候补ID的数量L为偶数、选择ID的数量M(M<L)大于L/2的情况下,可以对每一摄像图像交替地选择L/2种偶数缩小ID及M-L/2种奇数缩小ID、与L/2奇数缩小ID及M-L/2种偶数缩小ID。
例如,在L为12、M为7的情况下,对每一摄像图像交替地选择6种偶数缩小ID及一种奇数缩小ID、与6种奇数缩小ID及一种偶数缩小ID。
另外,若对一个摄像图像选择的缩小ID的数量为M以下,则可以任意调节对每一摄像图像选择的偶数缩小ID与奇数缩小ID的数量,例如,可以改变对每一摄像图像选择的偶数缩小ID与奇数缩小ID的数量的细目。此时,分别选择的偶数缩小ID、奇数缩小ID可以选择所有偶数缩小ID、奇数缩小ID中的任一个,也可以按照序号选择。
(b)在候补ID的数量L为奇数、选择ID的数量M(M<L)大于L/2的情况下,对每一摄像图像交替地选择(L+1)/2种偶数缩小ID及M-(L+1)/2种奇数缩小ID、与(L-1)/2的奇数缩小ID及M-(L-1)/2种偶数缩小ID。
此时,M-(L+1)/2种奇数缩小ID可以选择所有奇数缩小ID中的任一个,也可以按照序号选择。另外,对于M-(L-1)/2种偶数缩小ID也同样。
例如,在L为11、M为6的情况下,对每一摄像图像交替地选择6种偶数缩小ID、5种奇数缩小ID及一种偶数缩小ID。
另外,若对一个摄像图像选择的缩小ID的数量为M以下,则可以任意调节对每一摄像图像选择的偶数缩小ID与奇数缩小ID的数量,这与上述(a)的情况相同。
(c)在选择ID的数量M(M>L)小于候补ID的数量L/2的情况下,可以对每一摄像图像交替地选择M种以下的偶数缩小ID与M种以下的奇数缩小ID。该M种以下的偶数缩小ID、M种以下的奇数缩小ID分别可以选择所有偶数缩小ID、所有奇数缩小ID中的任一个,也可以按照序号选择。
例如,在L为12、M为5的情况下,对每一摄像图像交替地选择任意5以下的偶数缩小ID与任意5种以下的奇数缩小ID。
另外,若对一个摄像图像选择的缩小ID的数量为M以下,则可以任意调节对每一摄像图像选择的偶数缩小ID与奇数缩小ID的数量,这与上述(a)的情况相同。
(25)本发明的图像处理装置的缩小图像生成单元相当于实施方式及变形例的分辨率变换电路182,对照单元相当于脸部检测电路,确定单元相当于确定电路184,控制单元相当于处理器,显示单元相当于处理器、LCD输出电路150及LCD140。
产业上的可利用性
本发明的图像处理装置能够利用于数码相机等的脸部图像的检测。

Claims (13)

1、一种图像处理装置,在每规定时间摄像并依次输入的摄像图像中,确定作为确定处理对象的图像范围,其特征在于,包括:
缩小图像生成单元,具有根据被输入的一个摄像图像,在上述规定时间内生成K种倍率的缩小图像的处理能力,生成从各不相同的L种倍率中指定的倍率的缩小图像,其中K≥1,L>K;
对照单元,将由上述缩小图像生成单元生成的各缩小图像与模板图像进行对照,送出对照结果;
确定单元,根据从上述对照单元送出的对照结果,确定上述图像范围;以及
控制单元,每当输入摄像图像时,根据对该摄像图像之前输入的摄像图像指定的倍率,选择对该摄像图像的M种以下的倍率,将选择的M种以下的倍率指定给上述缩小图像生成单元而使其生成各缩小图像,使上述对照单元对照所生成的各缩小图像,并至少根据该对照结果,使上述确定单元确定对该摄像图像的上述图像范围,其中M≤K。
2、如权利要求1所述的图像处理装置,其特征在于,
每当输入摄像图像时,上述控制单元将下述两种倍率作为上述M种以下的倍率而交替地指定给上述缩小图像生成单元,该两种倍率为,包含将上述L种倍率按升序或降序排列的情况下的从开头开始的序号为第奇数个的各倍率中的N个倍率的M个以下的倍率、以及包含将上述L种倍率按升序或降序排列的情况下的从开头开始的序号为第偶数个的各倍率中的N个倍率的M个以下的倍率,其中N≤M。
3、如权利要求2所述的图像处理装置,其特征在于,
上述控制单元根据从上述对照单元送出的、对该摄像图像的表示检测出与模板图像对应的图像的情况的对照结果,选择对在一个摄像图像之前输入的摄像图像指定的M种以下的倍率中的一个以上倍率,并使所选择的倍率包含于指定给上述缩小图像生成单元的、对上述一个摄像图像的上述M种以下的倍率中。
4、如权利要求2所述的图像处理装置,其特征在于,
上述控制单元根据从上述对照单元送出的、对该摄像图像的表示检测出与模板图像对应的图像的情况的对照结果,选择对在一个摄像图像之前输入的摄像图像指定的M种以下的倍率中的一个以上倍率,并使将上述L种倍率按升序或降序排列的情况下的从开头开始的序号为所选择的倍率的序号的紧前或紧后的倍率包含于对上述一个摄像图像的上述N个倍率中。
5、如权利要求2所述的图像处理装置,其特征在于,
上述对照单元在通过对照各缩小图像和模板图像而检测出对应于该模板图像的图像范围的情况下,将表示检测出的各图像范围的各范围信息作为上述对照结果送出,
上述确定单元根据从上述对照单元送出的、一个摄像图像的各范围信息及在该摄像图像之前输入的摄像图像的各范围信息,进行上述确定。
6、如权利要求5所述的图像处理装置,其特征在于,
上述确定单元根据从述对照单元送出的、上述一个摄像图像的各范围信息及在上述之前输入的摄像图像的各范围信息中的、表示处于以规定基准决定的接近的位置关系的各图像范围的各范围信息,确定一个图像范围。
7、如权利要求1所述的图像处理装置,其特征在于,
上述控制单元根据从上述对照单元送出的、在该摄像图像之前输入的摄像图像的对照结果,决定指定给上述缩小图像生成单元的、对一个摄像图像的上述M种以下倍率。
8、如权利要求1所述的图像处理装置,其特征在于,
上述图像处理装置保持作为上述模板图像的候补的多个模板候补图像,
上述对照单元根据一个摄像图像之前输入的摄像图像的对照结果,从上述模板候补图像中选择该一个摄像图像的对照中使用的上述模板图像。
9、如权利要求1所述的图像处理装置,其特征在于,
上述对照单元在通过对照各缩小图像和模板图像而检测出对应于该模板图像的图像范围的情况下,将表示检测出的各图像范围的各范围信息作为上述对照结果送出,
上述确定单元根据从上述对照单元送出的、一个摄像图像的各范围信息及在该摄像图像之前输入的摄像图像的各范围信息,进行上述确定。
10、如权利要求9所述的图像处理装置,其特征在于,
上述确定单元根据从上述对照单元送出的、上述一个摄像图像的各范围信息及在上述之前输入的摄像图像的各范围信息中的、表示处于以规定基准决定的接近的位置关系的各图像范围的各范围信息,确定一个图像范围。
11、如权利要求1所述的图像处理装置,其特征在于,
上述图像处理装置还包括显示单元,每当输入摄像图像时,该显示单元显示该摄像图像,并且在该摄像图像上的与上述确定单元对该摄像图像确定的图像范围对应的位置上,显示表示该图像范围的框。
12、一种图像处理装置的图像处理方法,该图像处理装置在每规定时间摄像并依次输入的摄像图像中,确定作为确定处理对象的图像范围,该图像处理方法的特征在于,包括:
缩小图像生成步骤,具有根据被输入的一个摄像图像,在上述规定时间内生成K种倍率的缩小图像的处理能力,生成从各不相同的L种倍率中指定的倍率的缩小图像,其中K≥1,L>K;
对照步骤,将在上述缩小图像生成步骤中生成的各缩小图像与模板图像进行对照,送出对照结果;
确定步骤,根据从上述对照步骤送出的对照结果,确定上述图像范围;以及
控制步骤,每当输入摄像图像时,根据对该摄像图像之前输入的摄像图像指定的倍率,选择对该摄像图像的M种以下的倍率,将选择的M种以下的倍率指定给上述缩小图像生成步骤而使其生成各缩小图像,使得在上述对照步骤中对照所生成的各缩小图像,并至少根据该对照结果,使得在上述确定步骤确定对该摄像图像的上述图像范围,其中M≤K。
13、一种图像处理用集成电路,在每规定时间摄像并依次输入的摄像图像中,确定作为确定处理对象的图像范围,其特征在于,包括:
缩小图像生成单元,具有根据被输入的一个摄像图像,在上述规定时间内生成K种倍率的缩小图像的处理能力,生成从各不相同的L种倍率中指定的倍率的缩小图像,其中K≥1,L>K;
对照单元,将由上述缩小图像生成单元生成的各缩小图像与模板图像进行对照,送出对照结果;
确定单元,根据从上述对照单元送出的对照结果,确定上述图像范围;以及
控制单元,每当输入摄像图像时,根据对该摄像图像之前输入的摄像图像指定的倍率,选择对该摄像图像的M种以下的倍率,将选择的M种以下的倍率指定给上述缩小图像生成单元而使其生成各缩小图像,使上述对照单元对照所生成的各缩小图像,并至少根据该对照结果,使上述确定单元确定对该摄像图像的上述图像范围,其中M≤K。
CN200980000484A 2008-04-25 2009-04-22 图像处理装置、图像处理方法及图像处理用集成电路 Pending CN101690168A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008115050 2008-04-25
JP115050/2008 2008-04-25
PCT/JP2009/001847 WO2009130899A1 (ja) 2008-04-25 2009-04-22 画像処理装置、画像処理方法、及び画像処理用集積回路

Publications (1)

Publication Number Publication Date
CN101690168A true CN101690168A (zh) 2010-03-31

Family

ID=41216640

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200980000484A Pending CN101690168A (zh) 2008-04-25 2009-04-22 图像处理装置、图像处理方法及图像处理用集成电路

Country Status (4)

Country Link
US (1) US8265339B2 (zh)
JP (1) JP5247798B2 (zh)
CN (1) CN101690168A (zh)
WO (1) WO2009130899A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103970365A (zh) * 2013-02-06 2014-08-06 原相科技股份有限公司 用于检测悬浮及点击的手势检测装置
CN103970364A (zh) * 2013-02-06 2014-08-06 原相科技股份有限公司 用于检测悬浮及点击的手势检测装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103927767B (zh) * 2014-04-18 2018-05-04 北京智谷睿拓技术服务有限公司 图像处理方法及图像处理装置
US10216762B2 (en) * 2014-06-04 2019-02-26 Panasonic Corporation Control method and non-transitory computer-readable recording medium for comparing medical images
JP2021190780A (ja) * 2020-05-27 2021-12-13 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06325162A (ja) 1993-05-11 1994-11-25 Nikon Corp 画像処理装置
US7013021B2 (en) * 1999-03-19 2006-03-14 Digimarc Corporation Watermark detection utilizing regions with higher probability of success
US6532301B1 (en) * 1999-06-18 2003-03-11 Microsoft Corporation Object recognition with occurrence histograms
JP3564541B2 (ja) 2001-10-29 2004-09-15 独立行政法人産業技術総合研究所 亜鉛アンチモン化合物焼結体及びその製造法
JP4329398B2 (ja) 2002-05-10 2009-09-09 ソニー株式会社 顔検出装置及び方法、並びにプログラム及び記録媒体
US7409092B2 (en) * 2002-06-20 2008-08-05 Hrl Laboratories, Llc Method and apparatus for the surveillance of objects in images
US7263220B2 (en) * 2003-02-28 2007-08-28 Eastman Kodak Company Method for detecting color objects in digital images
JP2005078376A (ja) * 2003-08-29 2005-03-24 Sony Corp 対象物検出装置、対象物方法、及びロボット装置
EP1530156B1 (en) 2003-11-07 2012-03-14 Mitsubishi Electric Information Technology Centre Europe B.V. Visual object detection
JP2005173787A (ja) 2003-12-09 2005-06-30 Fujitsu Ltd 移動物体の検出・認識を行う画像処理装置
JP3977802B2 (ja) * 2003-12-16 2007-09-19 株式会社東芝 障害物検出装置、障害物検出方法および障害物検出プログラム
JP2006048322A (ja) * 2004-08-04 2006-02-16 Seiko Epson Corp オブジェクト画像検出装置、顔画像検出プログラムおよび顔画像検出方法
JP4561380B2 (ja) 2005-01-24 2010-10-13 コニカミノルタホールディングス株式会社 検出装置、検出方法及び検出プログラム
JP2006323779A (ja) 2005-05-20 2006-11-30 Canon Inc 画像処理方法、画像処理装置
JP4626493B2 (ja) 2005-11-14 2011-02-09 ソニー株式会社 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
US20080002878A1 (en) * 2006-06-28 2008-01-03 Somasundaram Meiyappan Method For Fast Stereo Matching Of Images
WO2008129875A1 (ja) 2007-04-13 2008-10-30 Panasonic Corporation 検出装置、検出方法および検出用集積回路

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103970365A (zh) * 2013-02-06 2014-08-06 原相科技股份有限公司 用于检测悬浮及点击的手势检测装置
CN103970364A (zh) * 2013-02-06 2014-08-06 原相科技股份有限公司 用于检测悬浮及点击的手势检测装置
CN103970365B (zh) * 2013-02-06 2016-12-28 原相科技股份有限公司 用于检测悬浮及点击的手势检测装置
CN103970364B (zh) * 2013-02-06 2017-04-12 原相科技股份有限公司 用于检测悬浮及点击的手势检测装置

Also Published As

Publication number Publication date
WO2009130899A1 (ja) 2009-10-29
JPWO2009130899A1 (ja) 2011-08-11
US20100183193A1 (en) 2010-07-22
US8265339B2 (en) 2012-09-11
JP5247798B2 (ja) 2013-07-24

Similar Documents

Publication Publication Date Title
CN101542523B (zh) 检测装置、检测方法及检测用集成电路
CN103210332B (zh) 摄像装置、摄像装置的对焦控制方法及集成电路
CN101516001B (zh) 数字拍摄设备及其控制方法和记录介质
JP5746937B2 (ja) オブジェクト追跡装置
US20140218552A1 (en) Electronic device and image composition method thereof
CN108492287A (zh) 一种视频抖动检测方法、终端设备及存储介质
EP2786556B1 (en) Controlling image capture and/or controlling image processing
CN101690168A (zh) 图像处理装置、图像处理方法及图像处理用集成电路
CN107295252B (zh) 对焦区域显示方法、装置及终端设备
CN103702032A (zh) 图像处理方法、装置和终端设备
US20100061650A1 (en) Method And Apparatus For Providing A Variable Filter Size For Providing Image Effects
JP5226699B2 (ja) 画像判定装置
EP3109695B1 (en) Method and electronic device for automatically focusing on moving object
CN102057399A (zh) 物体检测装置、物体检测系统、物体检测用集成电路、带物体检测功能的摄像机和物体检测方法
US10965858B2 (en) Image processing apparatus, control method thereof, and non-transitory computer-readable storage medium for detecting moving object in captured image
KR101982258B1 (ko) 오브젝트 검출 방법 및 오브젝트 검출 장치
US20170300271A1 (en) Memory control apparatus and memory control method
CN115134677A (zh) 视频封面选择方法、装置、电子设备以及计算机存储介质
EP2438572A1 (en) Generating images with different fields of view
KR102505705B1 (ko) 이미지 분석 서버, 이미지 분석 서버를 이용한 객체 카운팅 방법 및 객체 카운팅 시스템
CN114529483A (zh) 数据处理方法、装置、终端和可读存储介质
US11790483B2 (en) Method, apparatus, and device for identifying human body and computer readable storage medium
JP2018124629A (ja) 画像処理装置、情報処理方法及びプログラム
CN106331475A (zh) 图像获取方法及装置
JP2010039968A (ja) オブジェクト検出装置及び検出方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20100331