本申请基于2011年6月29日提交的在先日本专利申请2011-144771、2011年6月29日提交的在先日本专利申请2011-144772并主张它们的优先权,在此以参考的方式并入其全部内容。
具体实施方式
以下,参照附图来说明本发明的一个实施方式。
图1示出作为具有追踪装置的摄像装置的一例的结构框图。摄像装置100包含摄影光学系统102、调焦机构104、光圈106、光圈驱动机构108、快门110、快门驱动机构112、摄像元件(摄像部)114、摄像元件接口(IF)电路116、RAM 118、显示元件120、显示元件驱动电路122、触摸面板124、触摸面板驱动电路126、记录介质128、系统控制器(控制部)130、操作部132和ROM 134。
系统控制器130搭载作为计算机的CPU 1301。
摄影光学系统102将来自被摄体的光束F会聚到摄像元件114的受光面上。摄影光学系统102包含对焦镜头等多个镜头。调焦机构104包含电动机及其驱动电路等,依照CPU 1301的控制在摄影光学系统102内的对焦镜头的光轴方向(图示的点划线方向)上驱动该对焦镜头。
光圈106构成为开闭自如,调整经由摄影光学系统102入射到摄像元件114的光束F的量。光圈驱动机构108包含用于驱动光圈106的驱动机构,依照CPU 1301的控制驱动光圈106。
快门110通过将摄像元件114的受光面设为遮光状态或曝光状态来调整摄像元件114的曝光时间。快门驱动机构112包含用于驱动快门110的驱动机构,依照CPU 1301的控制驱动快门110。
摄像元件114包含受光面,该受光面对经由摄影光学系统102会聚的来自例如人物等被摄体及其背景的光束F进行成像。摄像元件114的受光面通过呈二维状地配置多个像素来构成。在摄像元件114的受光面的光入射侧设置有滤色器。
摄像元件114将与在受光面成像的光束F对应的像(被摄体像)转换为与其光量对应的电信号(以下称作图像信号)。摄像元件114公知为CCD方式或CMOS方式等各种结构的摄像元件。滤色器的颜色配置公知为拜尔排列等各种排列。本实施方式的摄像元件114的结构不限于特定的结构,可使用各种结构的摄像元件。
摄像元件IF电路116依照CPU 1301的控制驱动摄像元件114。摄像元件IF电路116依照CPU 1301的控制读出由摄像元件114得到的图像信号,并针对所读出的图像信号实施CDS(相关双采样)处理和AGC(自动增益控制)处理等模拟处理。摄像元件IF电路116将进行模拟处理后的图像信号转换为数字信号(以下称作图像数据)。
RAM 118例如具有SDRAM。在RAM 118中,分别形成有工作区、评价图像区、参考图像区、追踪位置日志区、追踪颜色区域日志区作为存储区。
工作区对包含由摄像元件IF电路116得到的图像数据等的各数据,例如在摄像装置100的各部分中产生的各数据进行临时存储。
评价图像区对评价图像数据进行临时存储。评价图像数据是包含追踪处理中的追踪对象的被摄体的帧图像数据。在追踪处理中,进行处理以对追踪对象进行追踪。
参考图像区对参考图像数据进行临时存储。参考图像数据是在追踪处理中作为追踪对象的搜索对象的帧图像数据。在追踪处理中,在参考图像数据中进行搜索。
追踪位置日志区对追踪位置日志进行临时存储。追踪位置日志是对作为追踪处理的结果得到的追踪位置进行了记录的日志。在本实施方式中,一并使用多个追踪处理对追踪对象进行追踪。因此,在追踪位置日志中,个别地记录例如过去10个帧的通过各个追踪处理得到的追踪位置。在追踪位置日志中,还记录由后述的优先追踪位置判定处理采用的最终的追踪位置。
追踪颜色区域日志区对追踪颜色区域日志进行临时存储。追踪颜色区域日志是对通过追踪处理得到的追踪颜色区域进行了记录的日志。在本实施方式中,个别地记录例如过去10个帧的追踪颜色区域。
显示元件120例如具有液晶显示器(LCD)。显示元件120对实时取景用的图像和记录在记录介质128中的图像等各种图像进行显示。显示元件驱动电路122根据从系统控制器130的CPU 1301输入的图像数据驱动显示元件120,并在显示元件120上显示图像。
触摸面板124一体形成在显示元件120的显示画面上。触摸面板124检测用户的手指等在显示画面上的接触位置等。
触摸面板驱动电路126对触摸面板124进行驱动,并且将来自触摸面板124的接触检测信号输出到CPU 1301。CPU 1301根据接触检测信号,检测用户在显示画面上的接触操作,并执行与该接触操作对应的处理。
记录介质128例如具有存储卡。记录介质128记录通过摄影动作得到的图像文件。图像文件通过对图像数据赋予预定的文件头来构成。在文件头中,记录表示摄影条件的数据和表示追踪位置的数据等作为标签数据。
系统控制器130控制摄像装置100的动作。系统控制器130包含CPU 1301、AF控制电路1302、AE控制电路1303、图像处理电路1304、面部检测电路(面部检测部)1305、颜色信息检测电路(面部对应区域检测部、颜色信息检测部)1306、面部追踪电路(面部追踪部)1307、周边部位追踪电路(周边部位追踪部)1308、追踪切换电路(追踪切换部)1309、存储器控制电路1310和面部朝向判定电路1311。
CPU 1301对调焦机构104、光圈驱动机构108、快门驱动机构112、显示元件驱动电路122、触摸面板驱动电路126等的系统控制器130的外部的各功能块和系统控制器130内部的各电路的动作进行控制。
AF控制电路1302控制对比度AF处理。具体而言,AF控制电路1302提取由摄像元件IF电路116得到的图像数据的高频分量,并对该提取出的高频分量进行累加,取得AF用的对焦评价值。CPU 1301一边依照所取得的对焦评价值评价图像数据的对比度,一边控制调焦机构104来将对焦镜头设为对焦状态。
AE控制电路1303控制AE动作。具体而言,AE控制电路1303使用由摄像元件IF电路116得到的图像数据计算被摄体亮度。CPU 1301依照计算出的被摄体亮度,计算曝光时的光圈106的开口量(光圈值)、快门110的开放时间(快门速度值)、摄像元件感光度和ISO感光度等。
图像处理电路1304进行针对由摄像元件IF电路116得到的图像数据的各种图像处理。图像处理例如包含颜色校正处理、伽马(γ)校正处理、压缩处理等。图像处理电路1304还实施针对压缩的图像数据的解压缩处理。
面部检测电路1305从例如拍摄了人物等被摄体的图像数据中检测被摄体的面部。面部检测电路1305求出由各帧得到的图像数据和图2A所示的各面部器官402、404、406的相关量。面部器官402是与人物的鼻部周边的阴影的图案对应的图像数据。面部器官404是与人物的眼部周边的阴影的图案对应的图像数据。面部器官406是与人物的口部周边的阴影的图案对应的图像数据。图像数据与各面部器官402、404、406的相关量在变为图2B所示的表示人物面部的预定配置时最大。此时,在包含各面部器官402、404、406的区域408中存在人物面部。各面部器官402、404、406可以根据预先设定的检索面部的尺寸来改变尺寸。图2B将面部区域设为了矩形区域,但是也可以设为圆形区域。
颜色信息检测电路1306检测图像数据中的与通过面部检测电路1305检测出的面部对应的例如肤色等的颜色信息的区域。颜色信息检测电路1306检测图像数据中的与被检体中的面部以外的周边部位对应的例如肤色等的颜色信息的区域。通过周边部位追踪电路1308检测被检体中的面部以外的周边部位。
面部追踪电路1307根据通过面部检测电路1305检测出的面部的亮度信息(第1亮度追踪部)、或通过颜色信息检测电路1306检测出的与面部对应的例如肤色的颜色信息的区域来追踪面部(第1颜色追踪部)。面部追踪电路1307在颜色信息检测电路1306检测肤色的颜色信息的区域之前,使面部检测电路1305对面部的检测优先来追踪面部。
对面部的追踪进行说明。面部追踪电路1307使用图像数据的亮度信息进行追踪处理。使用了亮度信息的追踪处理例如在图3A所示的(N-1)帧中设定了作为追踪对象的被摄体的情况下,将(N-1)帧的图像数据作为评价图像数据存储到RAM 118的评价图像区中。将包含评价图像数据的追踪对象的预定范围202的图像数据设定为基准图像数据。之后,在追踪处理中,在图3B所示的作为N帧的参考图像数据中搜索与基准图像数据202对应的部分。
将N帧的追踪处理作为例子示出,面部追踪电路1307将N帧的图像数据作为参考图像数据存储到RAM 118的参考图像区中。面部追踪电路1307通过求出参考图像数据中的预定搜索范围204的图像数据与基准图像数据202的相关量,搜索参考图像数据的与基准图像数据202对应的部分。例如根据基准图像数据与参考图像数据的差分绝对值和来判定相关量。差分绝对值和是按照每个像素求出亮度差的绝对值并进行了累加后的值。
例如,在求出了图3B所示的参考图像数据的区域206的参考图像数据与基准图像数据202的差分绝对值和时,参考图像数据的区域206与基准图像数据202是明显不同的图像数据,差分绝对值和较大。与此相对,在求出了参考图像数据的区域208与基准图像数据202的差分绝对值和时,差分绝对值和较小。
由此随着与基准图像数据202的相关量变大,差分绝对值和变小。在使用了亮度信息的追踪处理中,根据参考图像数据搜索相关量最大,即差分绝对值和最小的区域。在图2B所示的例子中,搜索区域208作为与基准图像数据202对应的部分。
在追踪位置日志区中,记录区域208中一致度最高的位置作为追踪位置。在存在多个这种一致度高的位置的情况下,例如将接近区域208中心的位置设为追踪位置。在下次的追踪处理时,期望将该追踪位置设为追踪处理的开始位置。由此,能够减少追踪处理花费的时间。
面部追踪电路1307使用图像数据的肤色的颜色信息进行追踪处理。使用了肤色的颜色信息的追踪处理搜索在评价图像数据内可判定为与设定的颜色为相同颜色的区域作为追踪颜色区域。如图4A所示,面部追踪电路1307在(N-1)帧中指定了被摄体的某个位置302的情况下,取得评价图像数据中的位置302的颜色信息。面部追踪电路1307将位置302作为追踪处理的开始位置,搜索具有与位置302相同的颜色信息的区域。
具体而言,面部追踪电路1307以位置302为开始位置朝向周边依次取得肤色的颜色信息。面部追踪电路1307在可判定为所取得的颜色信息与位置302的颜色信息相同的情况下,将其包含在区域中。面部追踪电路1307在不能判定为所取得的颜色信息与位置302的颜色信息相同的情况下,不将其包含在区域中。
在这样搜索到追踪颜色区域时,例如在图4A所示的单色的被摄体的情况下,与被摄体内接的矩形区域304成为追踪颜色区域。记录在追踪位置日志区中的追踪位置例如设为追踪颜色区域304的重心位置(在图4A的例子中与位置302相同)。在下次的追踪处理中,将该追踪位置设为追踪处理的开始位置。
如果将N帧的追踪处理示为例子,面部追踪电路1307在存储了图4B所示的参考图像数据的N帧的图像数据的预定的搜索范围中,将(N-1)帧的追踪位置302作为追踪处理的开始位置,从追踪位置302的周边起,依次搜索可判定为与追踪颜色区域304的颜色为相同颜色的区域作为追踪颜色区域。在图4B所示的例子中,区域306成为追踪颜色区域。在该图所示的例子中,将重心位置308作为追踪位置,将追踪位置308记录到追踪位置日志区中。在追踪颜色区域日志区中,记录表示追踪颜色区域306的范围的信息,例如四个角部的位置。
周边部位追踪电路1308追踪被检体中的面部以外的周边部位。周边部位追踪电路1308与上述面部追踪电路1307同样,使用图像数据的亮度信息(第2亮度追踪部)和肤色的颜色信息进行周边部位的追踪处理(第2颜色追踪部)。周边部位追踪电路1308从面部追踪具有预先设定的位置关系的例如被检体的躯体部,具体而言追踪存在于躯体部的胸部作为面部以外的部位。
面部与胸部的位置关系被设定为如下的关系:在图像数据上设与被检体的面部隔开预先设定的距离的下方,即设人物的面部的下方为颈部、胸部、腹部、脚部时,与被检体的面部隔开预先设定的距离的下方位置为胸部。周边部位追踪电路1308追踪的周边部位不限于被检体的面部,例如也可以是颈部、胸部、腹部、脚部。
图5示出针对被检体的面部检测位置A、面部追踪位置B和周边部追踪位置C。面部检测位置A示出由面部检测电路1305检测到的面部,例如与图2所示的矩形的区域408对应。
面部追踪位置B示出用于根据由颜色信息检测电路1306检测到的与面部对应的肤色的颜色信息的区域来追踪面部的位置,例如与图4A、4B所示的追踪颜色区域304的重心位置302或308对应。如上所述,将面部追踪位置B记录到追踪位置日志区中。
周边部追踪位置C示出由周边部位追踪电路1308追踪的被检体中的面部以外的周边部位,例如胸部。该周边部追踪位置C例如利用矩形的框示出被检体中的胸部。该周边部追踪位置C不限于矩形的框,也可以是圆形的框。
面部追踪电路1307在根据通过面部检测电路1305检测到的面部、或通过颜色信息检测电路1306检测到的与面部对应的肤色的颜色信息的区域来追踪面部时,例如图6或图7所示,将矩形的面部追踪框D1显示在例如作为LCD的显示元件120上。图6示出针对面部的正脸设定的面部追踪框D1。图7示出针对面部的侧脸设定的面部追踪框D1。面部追踪框D1不限于矩形的框,也可以是圆形的框。面部不论是正脸还是侧脸都被作为面部追踪。
周边部位追踪电路1308在追踪例如胸部作为被检体中的面部以外的周边部位时,例如图8所示,将矩形的胸部追踪框D2显示在例如作为LCD的显示元件120上。胸部追踪框D2不限于矩形的框,也可以是圆形的框。
追踪切换电路1309在不能进行面部追踪电路1307对面部的追踪的情况下,例如图6或图7所示,将基于面部追踪框D1的显示的面部追踪切换为周边部位追踪电路1308对面部以外部位的追踪。具体而言,追踪切换电路1309从基于面部追踪框D1的显示的面部追踪切换为例如图8所示的胸部的追踪,如该图所示,在例如作为LCD的显示元件120上,在胸部上显示矩形的胸部追踪框D2。
当追踪切换电路1309根据面部以外的部位,例如根据胸部的位置而估计出面部的位置处检测到面部或与面部对应的肤色的颜色信息时,从图8所示的周边部位追踪电路1308对胸部的追踪(胸部追踪框D2的显示)返回到图6或图7所示的面部追踪电路1307对面部的追踪(面部追踪框D1的显示)。
面部与胸部的位置关系被设定为在图像数据上胸部处于与被检体的面部隔开预先设定的距离的下方位置处的关系。即在设人物的面部的下方有颈部、胸部、腹部、脚部时,可估计出在与被检体的胸部隔开预先设定的距离的上方存在面部。
追踪切换电路1309预先存储与面部对应的肤色的颜色信息,在被估计为面部的位置处的颜色信息与预先存储的颜色信息一致时,作为检测到与面部对应的肤色的颜色信息而返回到面部追踪电路1307对面部的追踪。
追踪切换电路1309至少在不能由面部检测电路1305检测到面部、且不能由颜色信息检测电路1306检测到肤色的颜色信息的区域的情况下,判定为不能进行面部追踪电路1307对面部的追踪。
追踪切换电路1309如果在图像数据中不能检测到面部,不能根据肤色的颜色信息的区域追踪面部而该追踪的性能恶化,则判定为不能进行面部追踪电路1307对面部的追踪。
存储器控制电路1310是进行用于由CPU 1301等对RAM 118、记录介质128、ROM 134进行存取的控制的接口。
操作部132包含由用户进行操作的各种操作部件。操作部132例如包含释放按钮、动态图像按钮、模式转盘、选择键、电源按钮等。
释放按钮包含第一释放开关和第二释放开关。第一释放开关是在用户半按下释放按钮时接通的开关。第一释放开关接通,由此进行AF处理等摄影准备动作。第二释放开关是在用户全按下释放按钮时接通的开关。第二释放开关接通,由此进行静态图像摄影用的曝光动作。
动态图像按钮是用于指示动态图像摄影的开始或结束的操作部件。在由用户按下了动态图像按钮时,开始动态图像摄影处理。当在动态图像摄影处理的执行中按下动态图像按钮时,结束动态图像摄影处理。
模式转盘是用于选择摄像装置的摄影设定的操作部件。在本实施方式中,模式转盘例如可选择静态图像摄影模式和动态图像摄影模式作为摄像装置的摄影设定。静态图像摄影模式是用于拍摄静态图像的摄影设定。动态图像摄影模式是用于拍摄动态图像的摄影设定。
选择键是用于进行例如菜单画面上的项目的选择和确定的操作部件。在由用户操作了选择键时,进行菜单画面上的项目的选择和确定。
电源按钮是用于对摄像装置的电源进行接通或断开的操作部件。在由用户操作了电源按钮时,该装置100起动从而成为可动作的状态。当在起动摄像装置的期间内操作了电源按钮时,该装置100成为节电待机状态。
ROM 134是存储用于由CPU 1301执行各种处理的程序代码的存储介质。程序代码包含追踪被摄体的追踪程序。追踪程序使作为计算机的CPU 1301实现以下功能:面部检测功能,从拍摄被摄体而得到的图像数据中检测所述被摄体的面部;面部对应区域检测功能,检测所述图像数据中的与所述面部对应的区域;面部追踪功能,根据通过所述面部检测部检测到的结果、或通过所述面部对应区域检测部检测到的结果追踪所述面部;周边部位追踪功能,追踪相对于所述面部具有预先设定的位置关系的所述被检体的一部分作为所述面部以外的部位;以及追踪切换功能,在不能进行所述面部追踪部对所述面部的追踪的情况下,切换为所述周边部位追踪部对所述面部以外的部位的追踪。
当在根据所述面部以外的周边部位的位置而估计为所述面部的位置处检测到所述面部、或检测到与所述面部对应的区域的所述颜色信息时,所述追踪切换功能返回到利用所述面部追踪功能的所述面部的追踪。
如图2B所示,面部朝向判定电路1311根据区域408内的面部器官402、404、406的配置等,判定由面部检测电路1305检测到的面部的朝向。例如,在面部器官402、404、406集中于区域408的左右任意一边的情况下,判定为面部朝向为侧面。
ROM 134存储了摄影光学系统102、光圈106和摄像元件114等的动作所需的控制参数,以及图像处理电路1304中的图像处理所需的控制参数等各种控制参数。ROM134还存储了在面部检测电路1305的面部检测中使用的面部器官的数据和用于显示追踪框的数据等。
接着,参照图9所示的摄影动作流程图说明如上那样构成的该装置的动作。
CPU 1301从ROM 134读入所需的程序代码来控制该装置100的动作。
CPU 1301在步骤S100中判定当前的该装置100的摄影设定是否为静态图像摄影模式。通过模式转盘进行摄影设定。
在判定结果为摄影设定是静态图像摄影模式时,CPU 1301在步骤S102中开始实时取景动作。作为实时取景动作,CPU 1301在控制快门驱动机构112开放快门110后,控制摄像元件IF电路116而开始摄像元件114的摄像。之后,CPU 1301将作为摄像元件114的摄像结果而存储在RAM 118的工作区中的图像数据输入到图像处理电路1304并实施实时取景显示用的图像处理。接着,CPU 1301将进行了实时取景显示用的图像处理的图像数据输入到显示元件驱动电路122,并在显示元件120上显示图像。通过重复执行这种显示动作,对被摄体的图像进行动态图像显示。用户可通过该动态图像显示观察被摄体。
CPU 1301在步骤S104中判定第一释放开关是否接通。CPU 1301继续进行实时取景动作,直到判定结果为第一释放开关接通。
在第一释放开关接通时,CPU 1301在步骤S106中,进行释放AF处理。在释放AF中,利用扫描驱动来驱动对焦镜头到对焦位置。在扫描驱动中,CPU 1301控制调焦机构104在预定的扫描范围内朝一个方向驱动对焦镜头,同时对由AF控制电路1302依次计算的对焦评价值进行评价。CPU 1301在对焦评价值的评价结果为对比度最大的镜头位置处,停止对焦镜头的驱动。在AF前的对焦镜头的位置与对焦位置的差较大的情况下进行这种扫描驱动。
CPU 1301在步骤S108中,控制显示元件驱动电路122而在显示元件120上显示追踪框。追踪框显示在显示元件120的画面上的追踪对象的位置处。例如,可以将通过释放AF进行对焦后的被摄体为追踪对象,在该被摄体上显示追踪框。在通过面部检测电路1305检测到人物面部的情况下,可以例如图6或图7所示,在面部上显示追踪框D1。在通过触摸面板124指定了显示在显示元件120的画面上的被摄体的情况下,也可以在该被摄体上显示追踪框。由此,在本实施方式中,CPU 1301、AF控制电路1302、面部检测电路1305、触摸面板124等作为追踪对象设定部的一例发挥功能。
CPU 1301在步骤S110中进行追踪被摄体的追踪处理。该追踪处理将后述。
CPU 1301在步骤S112中,进行AF处理以对焦到追踪位置的被摄体,并且进行AE处理以使得追踪位置的被摄体的曝光适当。
在追踪处理后的AF处理中,通过扫描驱动或摆动驱动将对焦镜头驱动到对焦位置。在摆动驱动中,CPU 1301判定在驱动了对焦镜头时由AF控制电路1302计算出的对焦评价值是否相对于上次镜头位置处的对焦评价值增加。CPU 1301在对焦评价值增加的情况下,在与上次相同的方向上对对焦镜头进行微小驱动,在对焦评价值减小的情况下,在与上次相反的方向上对对焦镜头进行微小驱动。通过高速重复这种动作来将对焦镜头缓慢驱动到对焦位置。
在AE处理中,CPU 1301计算将由AE控制电路1303计算出的追踪位置的被摄体亮度设为预先设定的适当量(适当曝光量)的正式曝光时的光圈106的开口量(光圈值)、快门110的开放时间(快门速度值)。
CPU 1301在步骤S114中判定第二释放开关是否接通。在判定为第二释放开关未接通时,CPU 1301执行步骤S110的追踪处理以后的处理。在静态图像摄影模式时,继续进行追踪处理直到第二释放开关接通。
在第二释放开关接通时,CPU 1301在步骤S116中,控制显示元件驱动电路122而不显示追踪框D1。
CPU 1301在步骤S118中,进行将静态图像数据记录到记录介质128中的处理。此时,CPU 1301控制快门驱动机构112来关闭快门110。之后,CPU 1301控制光圈驱动机构108来将光圈106缩小到之前计算出的光圈值。接着,CPU 1301控制快门驱动机构112,使快门110开放之前计算出的开放时间,同时进行利用摄像元件114的摄像(曝光)。之后,CPU 1301在图像处理电路1304中对经由摄像元件114得到的静态图像数据进行处理。接着,CPU 1301对在图像处理电路1304中处理后的静态图像数据赋予文件头来生成静态图像文件,并将所生成的静态图像文件记录到记录介质128中。
CPU 1301在步骤S120中,将表示作为上述步骤S110的追踪处理的结果得到的追踪位置的数据补写到之前记录在记录介质128中的静态图像文件中。之后,CPU1301结束依照图9所示的示出摄影动作的流程图的动作。
另一方面,在上述步骤S100中判定为摄影设定是动态图像摄影模式时,CPU 1301在步骤S122中开始实时取景动作。
在判定为作为动态图像摄影打开的指示的动态图像按钮接通时,CPU 1301在步骤S126中控制显示元件驱动电路122,在显示元件120上例如图6或图7所示,在面部上显示追踪框D1。
CPU 1301在步骤S128中,向面部检测电路1305、面部追踪电路1307和周边部位追踪电路1308指示追踪处理的开始。追踪处理将后述。
CPU 1301在步骤S130中,向AF控制电路1302指示AF处理以对焦到追踪位置的被摄体,并且向AE控制电路1303指示AE处理以使得追踪位置的被摄体的曝光适当。在AF处理中,通过摆动驱动将摄影光学系统102的对焦镜头驱动到对焦位置。
CPU 1301在步骤S132中,进行将动态图像数据记录到记录介质128中的处理。此时,CPU 1301控制光圈驱动机构108,将光圈106缩小到在AE处理中计算出的光圈值。接着,CPU 1301使摄像元件114在与AE处理中计算出的快门速度值对应的时间内执行摄像(曝光)。在曝光结束后,CPU 1301生成动态图像文件并记录到记录介质128中。CPU 1301在图像处理电路1304中对经由摄像元件114得到的动态图像数据进行处理,并将在图像处理电路1304中处理后的动态图像数据记录到动态图像文件中。
CPU 1301在步骤S134中,将表示作为上述步骤S128的追踪处理的结果得到的追踪位置的数据记录到之前记录在记录介质128中的动态图像文件中。
CPU 1301在步骤S136中判定动态图像按钮是否断开。在判定结果为动态图像按钮未断开时,CPU 1301执行步骤S128的追踪处理以后的处理。在动态图像摄影模式时,继续进行追踪处理和动态图像数据的记录,直到动态图像按钮断开为止。
在判定为动态图像按钮断开时,CPU 1301在步骤S138中,控制显示元件驱动电路122而不显示追踪框D1。之后,CPU 1301结束依照图9所示的示出摄影动作的流程图的动作。
接着,依照图10所示的追踪处理流程图对本实施方式的追踪处理进行说明。
CPU 1301在步骤S200中,控制摄像元件IF电路116来执行利用摄像元件114的摄像。
CPU 1301在步骤S201中,通过摄像元件114的摄像,将在摄像元件IF电路116中得到的图像数据取入到RAM 118中。CPU 1301将在初次的追踪处理中得到的图像数据设为评价图像数据,并将该图像数据取入到RAM 118的评价图像区中。CPU 1301将从第2次开始的以后的追踪处理中得到的图像数据设为参考图像数据,并将从第2次开始的以后的追踪处理中得到的图像数据分别取入到RAM 118的参考图像区中。
CPU 1301在步骤S202中,通过面部检测电路1305从例如拍摄了人物等被摄体的图像数据中检测被摄体的面部。如参照上述图2A、图2B说明的那样,面部检测电路1305求出由各帧得到的图像数据和各面部器官402、404、406的相关量。面部检测电路1305利用相关量在成为表示人物面部的预定配置时为最大的情况来检测人物面部存在的区域。
CPU 1301在步骤S203中,通过周边部位追踪电路1308将被检体中的面部以外的周边部位,例如与由面部检测电路1305检测到的面部隔开预先设定的距离的下方的胸部设定为周边部位。
CPU 1301在步骤S204中,通过面部追踪电路1307使用图像数据的亮度信息进行面部的追踪处理,并且通过周边部位追踪电路1308使用图像数据的亮度信息进行胸部的追踪处理。与参照上述图3A、图3B说明的同样,使用了亮度信息的追踪处理针对面部和胸部,在(N-1)帧中设定了作为追踪对象的被摄体的情况下,将该(N-1)帧的图像数据作为评价图像数据存储到RAM 118的评价图像区中。将包含评价图像数据的追踪对象的预定范围202的图像数据设定为基准图像数据。之后,在追踪处理中,在图3B所示的N帧的参考图像数据中搜索与基准图像数据202对应的部分。
在初次的追踪处理中,是仅取得了评价图像数据的状态,因此省略步骤S204以后的处理。在以后的说明中,设为取得了评价图像数据和参考图像数据两方的情况来继续说明。
CPU 1301在步骤S205中,将作为使用了亮度信息的面部和胸部的各追踪处理的结果得到的各追踪位置分别存储到RAM 118的追踪日志区中。
CPU 1301在步骤S206中,通过面部追踪电路1307使用图像数据的颜色信息进行面部的追踪处理,并且通过周边部位追踪电路1308使用图像数据的颜色信息进行胸部的追踪处理。使用了颜色信息的追踪处理针对面部和胸部,搜索可判定为与在评价图像数据内设定的颜色为相同颜色的区域作为追踪颜色区域。如上述图4A所示,面部追踪电路1307在(N-1)帧中指定了存在被摄体的位置302的情况下,取得评价图像数据中的位置302的颜色信息,并将该位置302作为追踪处理的开始位置,搜索具有与位置302相同的颜色信息的区域。
CPU 1301在步骤S207中,将作为使用了颜色信息的追踪处理的结果得到的面部和胸部的各追踪位置存储到RAM 118的追踪日志区中。CPU 1301将作为使用了颜色信息的追踪处理的结果得到的追踪颜色区域存储到RAM 118的追踪颜色区域日志区中。
CPU 1301在步骤S208中,通过追踪切换电路1309判定是否能够进行面部的追踪。具体而言,追踪切换电路1309判定是否在图像数据中不能检测到面部,不能根据肤色的颜色信息的区域追踪面部而该追踪的性能恶化。
在图像数据中检测到面部,或者能够根据肤色的颜色信息的区域追踪面部时,判断为可用面部进行追踪。根据在所述图像数据中是否存在被存储为追踪对象的肤色信息来判定是否可以进行基于肤色的颜色信息的区域的追踪。
在图像数据中不能检测到面部,并且不能根据肤色的颜色信息的区域追踪面部时,判断为不能用面部进行追踪。
如果判定结果为在图像数据中存在面部的数据,并且能够根据肤色的颜色信息的区域追踪面部,则CPU 1301在步骤S209中,进行优先追踪位置判定处理。优先追踪位置判定处理是用于判定在面部的追踪中,采用使用了亮度信息的追踪处理的结果和使用了颜色信息的追踪处理的结果中的哪一个的处理。此处,如上所述能够使用亮度信息和颜色信息分别进行面部的追踪,因此优先追踪位置判定处理例如使使用了颜色信息的追踪处理的结果优先。
CPU 1301在步骤S210中,判断被采用为优先追踪位置判定处理的结果的追踪位置的可靠性。在采用使用了亮度信息的追踪处理的结果的情况下,例如根据参考图像数据的对比度来判断可靠性。
具体而言,在参考图像数据中的追踪对象的区域的相邻像素之间的差分和在预定值以下的情况下,判断为有可靠性。在采用使用了颜色信息的追踪处理的结果的情况下,例如根据参考图像数据的颜色饱和度来判断可靠性。具体而言,在参考图像数据的追踪位置的颜色饱和度在预定值以上的情况下,判断为有可靠性。用于判定这些可靠性的阈值能够根据仿真结果或实验数据适当设定。
CPU 1301在步骤S211中,将参考图像数据的最终的追踪位置记录到RAM 118的追踪日志区中。在下次的追踪处理中,在使用亮度信息的追踪处理和使用颜色信息的追踪处理两方中,都将该最终的追踪位置设为追踪处理的开始位置。但是,在步骤S216的可靠性判断中判断为没有可靠性的情况下,也可以不记录追踪位置。
CPU 1301在步骤S212中控制显示元件驱动电路122,例如图6或图7所示,将面部追踪框D1的显示位置更新为与在步骤S218中存储的追踪位置对应的位置。
另一方面,如果上述步骤S208中的判定结果为在图像数据中没有面部的数据,不能根据肤色的颜色信息的区域追踪面部而该追踪的性能恶化,则CPU 1301判定为不能进行面部的追踪。
CPU 1301转移到步骤S213,通过追踪切换电路1309从面部的追踪切换为周边部位中的由周边部位追踪电路1308进行的追踪。周边部位是指CPU 1301根据面部检测结果和预先取得的统计数据估计出的位置。
具体而言,将面部的位置作为基准,将与该基准的位置隔开根据统计数据得到的距离的下方位置设为面部周边部的位置。此处,存储在ROM 134中的统计数据为用某个固定的距离测量的面部的位置到面部周边部的位置的统计数据。
因此,在摄像装置到追踪对象的距离与得到统计数据时的距离不同的情况下,根据该距离差校正面部周边部的位置。例如根据面部的尺寸(面部在画面上所占的尺寸比例)计算摄像装置到追踪对象的距离。根据该距离校正统计数据的值来计算实际的图像数据上的面部周边部的位置。周边部位追踪电路1308使用图像数据的亮度信息和颜色信息进行周边部位的追踪处理。
CPU 1301在步骤S214中进行优先追踪位置判定处理。优先追踪位置判定处理是用于判定在周边部位的追踪中,采用使用了亮度信息的追踪处理的结果和使用了颜色信息的追踪处理的结果中的哪一个的处理。具体而言,根据依据亮度信息和颜色信息计算出的追踪位置的位置关系、和依据亮度信息和颜色信息计算出的追踪位置处的颜色信息来判定优先追踪位置。
CPU 1301在步骤S215中,判断采用为优先追踪位置判定处理的结果的追踪位置的可靠性。CPU 1301在采用使用了亮度信息的追踪处理的结果的情况下,例如根据参考图像数据的对比度判断可靠性。具体而言,CPU 1301在参考图像数据中的追踪对象的区域的相邻像素之间的差分和在预定值以下的情况下,判断为有可靠性。
CPU 1301在步骤S211中,将参考图像数据的最终的追踪位置存储到RAM 118的追踪日志区中。在下次的追踪处理中,在使用亮度信息的追踪处理中,将该最终的追踪位置设为追踪处理的开始位置。但是,在步骤S216的可靠性判断中判断为没有可靠性的情况下,也可以不记录追踪位置。
CPU 1301在步骤S212中控制显示元件驱动电路122,例如图6或图8所示,将胸部追踪框D2的显示位置更新为与在步骤S211中存储的追踪位置对应的位置。
CPU 1301执行上述步骤S201~S207,在步骤S208中,通过追踪切换电路1309判定是否能够进行面部的追踪。即,CPU 1301判定是否在根据面部以外的部位、例如胸部的位置而估计为面部的位置处检测到面部,或检测到与面部对应的肤色的颜色信息。
如果判定结果为没有在根据例如胸部的位置而估计为面部的位置处检测到面部,或没有检测到与面部对应的肤色的颜色信息,则CPU 1301转移到上述步骤S213,通过追踪切换电路1309继续进行胸部的追踪。如上所述,周边部位追踪电路1308使用图像数据的亮度信息和颜色信息进行胸部的追踪处理。
另一方面,当判定结果为在根据胸部的位置而估计为面部的位置处检测到面部,或检测到与面部对应的肤色的颜色信息时,则CPU 1301从周边部位追踪电路1308对胸部的追踪返回到面部追踪电路1307对面部的追踪。追踪切换电路1309预先存储与面部对应的肤色的颜色信息,在估计为面部的位置处的颜色信息与预先存储的颜色信息一致时,设为检测到与面部对应的肤色的颜色信息。
CPU 1301执行上述步骤S209~S211,在步骤S212中,从图8所示的周边部位追踪电路1308对胸部的追踪(胸部追踪框D2的显示)返回到图6或图7所示的面部追踪电路1307对面部的追踪(面部追踪框D1的显示)。
之后,CPU 1301结束依照图10所示的追踪处理流程图的追踪处理。
由此根据上述追踪处理,在不能用被摄体的面部继续追踪时,切换为作为面部以外的周边部位,例如胸部的追踪来进行被检体的追踪。由此,在使用例如面部和至少胸部这两个区域进行被检体的追踪的情况下,即使例如使用面部作为基准区域的追踪结果不良,也能够切换为胸部等的区域作为基准区域,并使用该胸部等的区域可靠地进行被检体的追踪。
在将胸部等的区域作为基准区域进行被检体的追踪的状态下,当在根据该胸部的位置而估计为面部的位置处检测到面部或检测到与面部对应的颜色信息时,可再次进行使用面部的追踪。
从面部的追踪向例如胸部的追踪的切换以在图像数据中没有面部的数据、不能根据肤色的颜色信息的区域追踪面部而该追踪的性能恶化的情况为条件,因此能够在变为完全不能进行面部的追踪的状态的时刻切换为对胸部的追随。
从胸部的追踪返回到面部的追踪以在根据胸部的位置而估计为面部的位置处检测到面部,或检测到与面部对应的肤色的颜色信息为条件,因此能够在变为可完全进行面部追踪的状态的时刻返回到对面部的追随。
面部与胸部被设定为在图像数据上胸部处于与被检体的面部隔开预先设定的距离的下方处的关系,并且设定为在与胸部隔开预先设定的距离的上方存在面部,因此例如即使不能进行面部的追踪,也能够可靠地切换为同一人物的胸部的追踪,不会切换到其他人物的胸部的追踪。同样,在从胸部的追踪返回到面部的追踪的情况下,也能够可靠地切换为同一人物的面部的追踪,不会切换到其他人物的面部的追踪。由此,即使追踪的对象部位切换,也能够始终持续进行同一人物的追踪。
上述第1实施方式对面部的追踪和胸部的追踪进行了切换,但是不限于此,也可以设面部的追踪为主要的追踪,追加例如颈部的追踪、腹部的追踪、脚部的追踪、臂部的追踪中的任意一个作为周边部位的追踪。
接着,依照图11所示的追踪处理流程图说明如上那样构成的该装置的另一追踪处理。
本追踪一并使用多个追踪处理进行追踪对象的追踪。
CPU 1301在步骤S300中,控制摄像元件IF电路116来执行利用摄像元件114的摄像。CPU 1301在步骤S302中,通过摄像元件114的摄像,将在摄像元件IF电路116中得到的图像数据取入到RAM 118中。在初次的追踪处理中得到的图像数据为评价图像数据,因此CPU 1301将在初次的追踪处理中得到的图像数据取入到RAM118的评价图像区中,因此将从第2次起的以后的追踪处理中得到的图像数据设为参考图像数据。CPU 1301将从第2次起的以后的追踪处理中得到的图像数据取入到RAM 118的参考图像区中。
面部追踪电路1307在步骤S304中,与上述同样地进行使用面部检测的追踪处理。面部检测处理在初次的追踪处理中,从评价图像数据中检测面部。在从第2次起的以后的追踪处理中,从参考图像数据中检测面部。
面部朝向判定电路1311在步骤S306中,判定在上述步骤S304中检测到的面部的朝向。在上述S304中没有检测到面部的情况下,省略步骤S306和接下来的步骤S308的处理。
CPU 1301在步骤S308中,根据由面部检测电路1305检测到的面部的位置估计面部周边部的位置。面部周边部是追踪对象的被摄体的面部以外的部分(躯体、手脚等)。在以下的说明中,作为面部周边部的例子,估计追踪对象的胸部的位置。
面部追踪电路1307在步骤S310中进行追踪对象的面部和面部周边部的追踪。CPU 1301在步骤S312中进行追踪位置更新判断处理。该追踪位置更新判断处理是判断采用通过多个追踪处理得到的候选追踪位置中的哪一个追踪位置作为下一个帧中的追踪位置的处理。
CPU 1301在步骤S314中,判断采用为追踪位置更新判断处理的结果的追踪位置的可靠性。在采用了使用面部检测的追踪处理的追踪结果的情况下,CPU 1301根据过去的多个帧的面部检测的结果判断可靠性。具体而言在过去的多个帧中都检测到面部的情况下判断为有可靠性。
在采用了使用亮度信息的追踪处理的结果的情况下,例如根据参考图像数据的对比度来判断可靠性。具体而言,在参考图像数据中的追踪对象的区域的相邻像素之间的差分和在预定值以下的情况下,判断为有可靠性。
在采用了使用颜色信息的追踪处理的结果的情况下,例如根据参考图像数据的颜色饱和度来判断可靠性。具体而言,在参考图像数据的追踪位置的颜色饱和度在预定值以上的情况下,判断为有可靠性。用于判定这些的可靠性的阈值可适当设定。
CPU 1301在步骤S316中,将最终的追踪位置存储到RAM 118的追踪日志区中。在本实施方式中,进行面部的追踪处理和面部周边部的追踪处理两方,因此能够得到面部和面部周边部两方的追踪位置。将其中的任意一个设为用于AF控制和AE控制的追踪位置。例如,在上述步骤S314中的可靠性的判断结果为面部的追踪位置的检测结果有效的情况下,即面部检测电路1305中的面部检测的可靠性或各部分追踪处理中的面部追踪的可靠性中的任意一个有效的情况下,CPU 1301采用面部的追踪位置。
在上述步骤S314中的可靠性判断的结果为面部的追踪位置的检测结果无效的情况下,即面部检测电路1305中的面部检测的可靠性和各部分追踪处理中的面部追踪的可靠性中的任意一个均不存在的情况下,CPU 1301采用面部周边部的追踪位置。但是,在RAM 118中存储面部和面部周边部两方的追踪位置。在判断为两方的追踪位置均没有可靠性的情况下,也可以不记录追踪位置。
CPU 1301在步骤S318中控制显示元件驱动电路122,将追踪框的显示位置更新为与在上述步骤S316中存储的追踪位置对应的位置。之后,CPU 1301结束图11所示的追踪处理。
接着,参照图12所示的周边位置估计处理流程图说明周边位置估计处理。
周边位置估计处理根据在面部检测处理中检测到的面部的位置估计追踪对象的面部周边部(胸部)的位置。
CPU 1301在步骤S400中,取得由面部检测电路1305检测到的面部的位置(例如面部区域的重心位置)的信息。
CPU 1301在步骤S402中,取得由面部检测电路1305检测到的面部的尺寸(例如面部区域的尺寸)的信息。
CPU 1301在步骤S404中,从ROM 134取得表示从面部的位置到面部周边部(胸部)的位置的距离的统计数据。
CPU 1301在步骤S406中,根据所取得的统计数据计算图像数据上的面部周边部的位置。具体而言,CPU 1301将面部的位置作为基准,将与该基准的位置隔开根据统计数据得到的距离的下方位置设为面部周边部的位置。存储在ROM 134中的统计数据为用某个固定的距离测量的从面部的位置到面部周边部的位置的统计数据。
因此,在从摄像装置到追踪对象的距离与得到统计数据时的距离不同的情况下,CPU 1301根据不同的距离差校正面部周边部的位置。CPU 1301例如根据面部的尺寸(面部在画面上所占的尺寸比例)计算从摄像装置到追踪对象的距离。CPU 1301根据该计算出的距离校正统计数据的值来计算实际的图像数据上的面部周边部的位置。在计算出面部周边部的位置后,CPU 1301结束图12所示的周边位置估计处理。
在上述图12所示的周边位置估计处理的例子中,为了简化说明,将面部的位置下方的位置设为了面部周边部的位置。此时,在作为追踪对象的人物直立时能够得到正确的结果,但是在例如作为追踪对象的人物躺卧时等不能得到正确的结果。
与此相对,可以分别检测面部的各器官(眼睛、鼻子、嘴巴等),通过判别各器官相对于画面在哪个方向上排列,来判别作为追踪对象的人物是直立的还是躺着的,依照该判别结果计算面部周边部的位置。例如,在眼睛、鼻子、嘴巴从画面的左向右排列的情况下,估计为面部周边部相对于面部的位置处于右方的位置。
在上述图12所示的周边位置估计处理的例子中,根据由面部检测电路1305检测到的面部的位置估计面部周边部的位置。与此相对,也可以根据在后述的各部分追踪处理中得到的面部的追踪位置来估计面部周边部的位置。
接着,依照图13所示的各部分追踪处理流程图对本各部分追踪处理进行说明。
各部分追踪处理在面部检测处理以外的追踪处理中,对追踪对象的面部和面部周边部进行追踪。
面部追踪电路1307在步骤S500中,进行使用作为第1特征信息的颜色信息的面部的追踪处理。具体而言,面部追踪电路1307在参考图像数据中追踪具有与在评价图像数据中设定的面部的颜色信息相同的颜色信息的追踪颜色区域。CPU 1301将作为使用颜色信息的追踪处理的结果而得到的面部的追踪位置存储到RAM 118的追踪日志区中。CPU 1301将作为使用颜色信息的追踪处理的结果而得到的面部的追踪颜色区域存储到RAM 118的追踪颜色区域日志区中。
在初次的各部分追踪处理中,是仅取得评价图像数据的状态,因此省略步骤S500以后的处理。在以后的说明中,作为取得了评价图像数据和参考图像数据两方的情况继续进行说明。
面部追踪电路1307在步骤S502中,进行使用作为第2特征信息的亮度信息的面部的追踪处理。具体而言,面部追踪电路1307在参考图像数据中追踪具有与在评价图像数据中设定的面部相同的图案的区域。CPU 1301将作为使用亮度信息的追踪处理的结果而得到的面部的追踪位置存储到RAM 118的追踪日志区中。
CPU 1301在步骤S504中,将面部追踪电路1307的追踪结果和面部追踪电路1307的追踪结果中的任意一个设为各部分追踪处理的最终的面部的追踪位置(面部候选追踪位置)。
面部追踪电路1307在步骤S506中进行使用颜色信息的面部周边部的追踪处理。具体而言,面部追踪电路1307在参考图像数据中追踪具有与在评价图像数据中设定的面部周边部(例如胸部)的颜色信息(例如衣服的颜色信息)相同的颜色信息的追踪颜色区域。CPU 1301将作为使用颜色信息的追踪处理的结果得到的面部周边部的追踪位置存储到RAM 118的追踪日志区中。CPU 1301将作为使用颜色信息的追踪处理的结果得到的面部周边部的追踪颜色区域存储到RAM 118的追踪颜色区域日志区中。
面部追踪电路1307在步骤S508中进行使用亮度信息的面部周边部的追踪处理。具体而言,面部追踪电路1307在参考图像数据中追踪具有与在评价图像数据中设定的面部周边部相同的图案的区域。CPU 1301将作为使用亮度信息的追踪处理的结果得到的面部周边部的追踪位置存储到RAM 118的追踪日志区中。
CPU 1301在步骤S510中,将面部追踪电路1307的追踪结果和面部追踪电路1307的追踪结果中的任意一个设为各部分追踪处理的最终的面部周边部的追踪位置(周边部候选追踪位置)。在周边部候选追踪位置计算处理后,CPU 1301结束图13所示的各部分追踪处理。
接着,参照图14所示的面部候选追踪位置计算处理和周边部候选追踪位置计算处理流程图对面部候选追踪位置计算处理和周边部候选追踪位置计算处理进行说明。
面部候选追踪位置计算处理和周边部候选追踪位置计算处理的不同仅在于在各个处理中使用的追踪位置是面部还是面部周边部。因此,在图14中,集中说明这些处理。
在图14的处理中,对应于根据颜色信息得到的追踪位置中的颜色信息与根据亮度信息得到的追踪位置中的颜色信息的比较结果、以及根据颜色信息得到的追踪位置与根据亮度信息得到的追踪位置的位置关系确定最终的候选追踪位置。
颜色信息检测电路1306在步骤S600中,取得根据参考图像数据中的亮度信息得到的追踪位置的颜色信息。实际上是取得包含该追踪位置的微小区域的颜色信息。
CPU 1301在步骤S602中,判断根据颜色信息得到的追踪位置的颜色信息(追踪颜色区域的颜色信息)和根据亮度信息得到的追踪位置的颜色信息是否一致。一致是指根据亮度信息得到的追踪位置的颜色信息处于以根据颜色信息得到的追踪位置的颜色信息为基准预先设定的任意范围内。
在根据颜色信息得到的追踪位置的颜色信息和根据亮度信息得到的追踪位置的颜色信息一致的情况下,CPU 1301在步骤S604中判定追踪颜色区域是否包含根据亮度信息得到的追踪位置。
在判定为追踪颜色区域不包含根据亮度信息得到的追踪位置时,CPU 1301在步骤S606中采用根据亮度信息得到的追踪位置作为最终的候选追踪位置。之后,CPU1301结束图14所示的面部候选追踪位置计算处理和周边部候选追踪位置计算处理。
在上述步骤S602中,在根据颜色信息得到的追踪位置的颜色信息和根据亮度信息得到的追踪位置的颜色信息不一致的情况下,或者在上述步骤S604中判定为追踪颜色区域包含根据亮度信息得到的追踪位置的情况下,CPU 1301在步骤S608中,采用根据颜色信息得到的追踪位置作为最终的候选追踪位置。之后,CPU 1301结束图14所示的面部候选追踪位置计算处理和周边部候选追踪位置计算处理。
如图14所示,通过确定最终的候选追踪位置,能够针对运动剧烈的追踪对象,利用使用颜色信息的追踪处理进行追踪。在包含多个相同颜色被摄体的场景中,能够通过使用亮度信息的追踪处理进行追踪。由此,即使在面部检测失败的情况下也能够继续对追踪对象进行追踪。
上述图13所示的各部分追踪处理组合了亮度信息和颜色信息来进行追踪处理,但是也可以组合基于特征量检测的追踪处理等其他的追踪处理。
接着,参照图15所示的追踪位置更新判断处理流程图说明追踪位置更新判断处理。
追踪位置更新判断处理根据追踪对象的面部朝向来判断最终的追踪位置。
面部检测电路1305在步骤S700中,判定是否检测到面部。在判定为检测到面部时,面部朝向判定电路1311在步骤S702中判定面部的朝向。面部朝向判定电路1311判定面部朝向的判定结果是否为例如面部的朝向为正面朝向。
在判定为面部的朝向为正面朝向时,CPU 1301在步骤S704中,将由面部检测电路1305检测到的面部的位置(例如图2B所示的区域408的重心位置)设为最终的面部的追踪位置。
在下一个帧中,CPU 1301将最终的面部的追踪位置作为追踪处理的开始位置,进行面部检测处理、使用颜色信息的面部的追踪处理、和使用亮度信息的面部的追踪处理。CPU 1301在步骤S706中,将通过周边位置估计处理计算出的面部周边部的位置设为最终的面部周边部的追踪位置。
在下一个帧中,CPU 1301将最终的面部周边部的追踪位置作为追踪处理的开始位置,进行使用颜色信息的面部周边部的追踪处理、和使用亮度信息的面部周边部的追踪处理。颜色信息检测电路1306在步骤S708中,取得在周边位置估计处理中计算出的面部周边部的位置的颜色信息。
CPU 1301将在下一个帧的使用颜色信息的面部周边部的追踪处理中应追踪的颜色信息更新为新取得的面部周边部的位置的颜色信息。
之后,CPU 1301结束图15所示的追踪位置更新判断处理。
图16A和图16B示出与上述步骤S704~步骤S708对应的场景的一例。在检测到面部的情况下,如图16A所示得到包含面部的区域A1。区域A1的重心位置为面部的位置。与面部隔开预定距离的下方位置E1为面部周边部的位置。与此相对,各部分追踪处理独立于面部检测处理进行。例如,在图16B中,位置F1为面部的候选追踪位置,位置G1为面部周边部的候选追踪位置。
如图16B所示,在面部朝向正面的情况下,可认为面部的检测精度和面部周边部的估计精度均为高精度。因此,在本实施方式中,在得到了图16B所示的追踪结果的情况下,下一个帧的面部追踪电路1307的面部的追踪处理的开始位置设为通过面部追踪电路1305检测到的面部的位置A1,以替代位置F1。由此在下一个帧中也容易追踪相同的面部。同样,下一个帧的面部追踪电路1307和1306的面部周边部的追踪处理的开始位置设为在周边位置估计处理中估计出的面部周边部的位置E1,以替代位置G1。由此在下一个帧中也容易追踪相同的面部周边部。
人物大多穿着衣服,衣服大多形成有各种花样。因此,尤其在使用颜色信息的追踪处理中,期望依照最接近的面部周边部的位置的颜色信息进行追踪处理。因此,CPU 1301在步骤S708中,将追踪对象的颜色信息更新为位置E1的颜色信息。
当上述步骤S702中判定为面部的朝向不是正面朝向时,CPU 1301在步骤S710中,将由面部检测电路1305检测到的面部的位置设为最终的面部的追踪位置。
CPU 1301在步骤S712中,将在各部分追踪处理中得到的面部周边部的候选追踪位置设为最终的面部周边部的追踪位置。
CPU 1301在步骤S714中,不更新在使用颜色信息的追踪处理中应追踪的颜色信息,而直接使用过去的颜色信息。
之后,CPU 1301结束图15所示的追踪位置更新判断处理。
图16C示出与上述步骤S710~步骤S714对应的场景的例子。在检测到面部的情况下,如图16C所示得到包含面部的区域A2。区域A2的重心位置为面部的位置。与面部隔开预定距离的下方位置E2为面部周边部的位置。
与此相对,各部分追踪处理独立于面部检测处理进行。例如,如图16C所示,位置C1为面部的候选追踪位置,位置G1为面部周边部的候选追踪位置。
在如图16C所示那样能够检测到面部、并且面部不朝向正面的情况下,换言之面部朝向为侧面的情况下,能够在一定程度上保障面部的检测精度,但是面部周边部的检测精度不能保障其估计精度。这是因为将面部周边部简单地估计为与面部隔开预定距离的位置。在本实施方式中,在得到了图16C所示的追踪结果的情况下,下一个帧的面部追踪电路1307的面部追踪处理的开始位置设为通过面部追踪电路1305检测到的面部的位置A2,以替代位置F1。
另一方面,将下一个帧的面部追踪电路1307的面部周边部追踪处理的开始位置设为在此次的各部分追踪处理中得到的面部周边部的位置G1。由此,在下一个帧中也能够高精度地追踪面部周边部。在面部的朝向为侧面朝向的情况下,不能保障面部周边部的估计精度,因此不更新追踪对象的颜色信息。
在上述步骤S700中判定为没有通过面部检测电路1305检测到面部的情况下,CPU 1301在步骤S716中,将在各部分追踪处理中得到的面部周边部的候选追踪位置设为最终的面部的追踪位置。
CPU 1301在步骤S718中,将通过各部分追踪处理得到的面部周边部的候选追踪位置设为最终的面部周边部的追踪位置。
CPU 1301在步骤S720中,不更新在使用颜色信息的追踪处理中应追踪的颜色信息,而直接使用过去的颜色信息。之后,CPU 1301结束图15所示的追踪位置更新判断处理。
图16D示出与上述步骤S716~S720对应的场景的例子。由于不能检测到面部,因此追踪处理的结果只能依据各部分追踪处理得到。例如,如图16D所示,位置F2为面部的候选追踪位置,位置G2为面部周边部的候选追踪位置。
在如图16D所示那样面部朝向背面、或者面部发生较大幅度移动而不能检测到面部的情况下,将下一个帧的面部追踪电路1307的面部追踪处理的开始位置设为在此次的各部分追踪处理中得到的面部的位置F2。将下一个帧的面部追踪电路1307的面部周边部追踪处理的开始位置设为在此次的各部分追踪处理中得到的面部周边部的位置G2。由此,在下一个帧中也能够高精度地追踪面部和面部周边部。在不能检测到面部的情况下不更新追踪对象的颜色信息。
接着,对追踪框的显示进行说明。如在上述步骤S216中说明的那样,在本实施方式中,进行面部的追踪处理和面部周边部的追踪位置两方,因此能够得到面部和面部周边部两方的追踪位置。本实施方式将面部和面部周边部的追踪位置中的任意一个设为用于AF控制和AE控制的追踪位置。
追踪框的显示是对最终采用的追踪框进行显示。例如,在采用了面部的追踪位置的情况下,如图17A所示,在追踪对象的面部的位置上显示追踪框H1。在采用了面部周边部的追踪位置的情况下,如图17B所示,在追踪对象的面部周边部的位置上显示追踪框E2。通过如图17A和图17B那样显示追踪框,用户能够容易地视觉辨认成为当前的AF控制和AE控制的对象的部分。
不论采用了面部的追踪位置和面部周边部的追踪位置中的哪一个,都可以如图17C所示那样显示包含追踪对象的面部和面部周边部两方的追踪框H3。通过这样显示追踪框,用户能够容易地识别成为当前的追踪对象的被摄体自身。
也可以直接显示利用图16A~图16D示出的面部区域和追踪候选位置。此时,例如图16B和图16C所示,表示通过面部检测电路1305得到的面部区域的追踪框的尺寸比表示通过面部追踪电路1307得到的追踪位置的追踪框的尺寸大。也可以使表示通过面部追踪电路1307得到的追踪位置的追踪框的尺寸与表示通过面部追踪电路1307得到的追踪位置的追踪框的尺寸分别不同。能够通过使尺寸不同来区分追踪框。
也可以使表示通过面部检测电路1305得到的面部区域的追踪框的显示颜色、表示由面部追踪电路1307得到的追踪位置的追踪框的显示颜色、和表示由面部追踪电路1307得到的追踪位置的追踪框的显示颜色分别不同。还能够通过使颜色不同来区分追踪框。
由此根据上述追踪处理,能够通过组合面部检测电路1305和面部追踪电路1307来进行追踪处理,来持续追踪用户期望的特定的追踪对象。根据追踪处理的结果在面部和面部周边部之间切换追踪框的显示位置,因此用户能够容易地视觉辨认出进行了适当的追踪处理。
根据上述追踪处理,在各部分追踪处理中进行使用亮度信息的追踪处理和使用颜色信息的追踪处理。这是为了进一步提高追踪处理的性能。与此相对,虽然追踪处理的性能降低,但可以在各部分追踪处理中仅进行使用亮度信息的追踪处理和使用颜色信息的追踪处理中的任意一个。通过面部检测电路1305进行了面部的追踪,因此省略使用面部追踪电路1307的面部的追踪。
根据以上实施方式说明了本发明,但本发明不限于上述实施方式,当然可以在本发明宗旨的范围内进行各种变形和应用。此外,在上述动作的说明中,为了方便,使用“首先”、“接着”等说明动作,但不是指必须按该顺序实施动作。
本领域技术人员将容易地想起其他优点和变形例。因此,本发明的更广的方面不限于这里给出和描述的具体细节和代表性实施例。因此,可以在不脱离如用所附权利要求及它们的等同例定义的一般发明概念的精神或范围的情况下进行各种变形。