CN104519271A - 图像处理设备和方法和程序 - Google Patents

图像处理设备和方法和程序 Download PDF

Info

Publication number
CN104519271A
CN104519271A CN201410482394.9A CN201410482394A CN104519271A CN 104519271 A CN104519271 A CN 104519271A CN 201410482394 A CN201410482394 A CN 201410482394A CN 104519271 A CN104519271 A CN 104519271A
Authority
CN
China
Prior art keywords
subject
subject region
region
overlapping
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410482394.9A
Other languages
English (en)
Other versions
CN104519271B (zh
Inventor
中尾优太
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN104519271A publication Critical patent/CN104519271A/zh
Application granted granted Critical
Publication of CN104519271B publication Critical patent/CN104519271B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/254Fusion techniques of classification results, e.g. of results related to same input data
    • G06F18/256Fusion techniques of classification results, e.g. of results related to same input data of results relating to different input data, e.g. multimodal recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

一种图像处理设备包括被摄体区域检测器和被摄体区域确定器。被摄体区域检测器被构造成执行被摄体检测处理以检测输入图像中的被摄体区域。被摄体区域确定器被构造成通过多数决定处理确定最终被摄体区域,所述多数决定处理是基于在多次执行被摄体检测处理中检测到的被摄体。

Description

图像处理设备和方法和程序
相关申请的交叉引用
本申请要求2013年9月27日提交的日本优先权专利申请JP2013-202438的权益,该专利申请的全部内容以引用方式并入本文。
技术领域
本公开涉及图像处理设备和方法和程序,更具体地,涉及能够以较高准确度检测被摄体(subject)的图像处理设备和方法和程序。
背景技术
近年来的相机实现了通过各种识别技术识别拍摄者的主要被摄体并且支持使主要被摄体位于中心进行各种类型的拍摄的功能。例如,这种拍摄支持包括聚焦控制、亮度调节和颜色调节。
另外,至于检测拍摄图像中的被摄体的技术,还提出了以下的技术:在多个帧中检测被摄体,使用通过检测得到的稳定存在程度,确定图像上的主要被摄体(参见例如日本专利申请特开No.2013-120949)。
发明内容
顺带一提,在上述的拍摄支持功能中,正确地检测被摄体的区域直接造成性能提高。
然而,在上述技术中,难以在各种情形下正确地提取被摄体的区域。这种难度限制了造成附加值增大的自动功能和显示用户界面的表现范围。为此原因,期望的是提高被摄体的检测准确度。
本公开是依据这种情形作出的并且可用较高准确度检测被摄体。
根据本发明的实施例,提供了一种图像处理设备,所述图像处理设备包括:被摄体检测单元(被摄体区域检测器)和被摄体区域确定单元(确定器)。被摄体检测单元被构造成执行被摄体区域检测处理,以检测输入图像中的被摄体区域。被摄体区域确定单元被构造成通过基于多次执行的被摄体检测处理中检测的被摄体区域的多数决定处理,确定最终被摄体区域。
被摄体区域确定单元可以包括重叠确定单元和多数决定单元(处理器)。重叠确定单元针对多次执行的被摄体检测处理中检测到的各被摄体区域,计算两个被摄体区域之间的重叠度。多数决定单元被构造成基于所述重叠度,通过所述多数决定处理确定所述最终被摄体区域。
所述重叠确定单元可以被构造成基于重叠度,确定被摄体区域是否重叠,所述多数决定单元可以被构造成基于通过一个被摄体检测处理得到的被摄体区域和通过另一个被摄体检测处理得到的被摄体区域之间的重叠的数量,执行所述多数决定处理,所述重叠的数量是通过所述重叠确定单元进行确定来得到的。
所述多数决定单元可以被构造成确定具有最大重叠数量的被摄体作为所述最终被摄体区域。
所述多数决定单元可以被构造成基于所述重叠的数量排除具有低可靠程度的被摄体区域并且基于保留而未排除的被摄体区域计算所述最终被摄体区域。
多次执行的被摄体检测处理可以包括对具有不同分辨率的输入图像执行的相同的被摄体检测处理。
多次执行的被摄体检测处理可以包括对同一输入图像执行的不同类型的被摄体检测处理。
所述图像处理设备还可以包括:可靠程度确定单元,其被构造成在通过多数决定处理没有得到所述最终被摄体区域的情况下,基于多次执行的被摄体检测处理中检测到的被摄体区域的可靠程度,根据被摄体区域确定最终被摄体区域。
根据本公开的另一个实施例,提供了一种图像处理方法或程序,所述方法或程序包括:执行被摄体检测处理,以根据输入图像检测被摄体区域;通过基于多次执行的被摄体检测处理中检测到的被摄体区域的多数决定处理,确定最终被摄体区域。
根据本公开的实施例,执行被摄体检测处理,以检测输入图像中的被摄体区域,通过基于多次执行的被摄体检测处理中检测到的被摄体区域的多数决定处理,确定最终被摄体区域。
根据本公开的实施例,可以用更高的准确度检测被摄体。
应该注意,上述效果不一定是限制性的并且可以是本公开中描述的任何效果。
如附图中所示的,根据下面对本公开的最佳模式实施例的详细描述,本公开的这些和其它目的、特征和优点将变得更清楚。
附图说明
图1是示出成像设备的构造示例的示图;
图2是相机信号处理单元的构造示例的示图;
图3是用于描述被摄体信息输出处理的流程图;
图4是用于描述计算重叠程度的示图;
图5是用于描述被摄体信息输出处理的流程图;
图6是示出相机信号处理单元的构造示例的示图;
图7是用于描述被摄体信息输出处理的流程图;
图8是示出计算机的构造示例的示图。
具体实施方式
下文中,将参照附图描述本公开的实施例。
(第一实施例)
(成像设备的构造示例)
首先,将描述本公开的概要。
在本公开中,对作为被摄体检测目标的图像,多次执行从图像中检测被摄体的被摄体检测处理。例如,当多次执行被摄体检测处理时,对具有不同分辨率的多个图像执行同样的被摄体检测处理。
这里,由于对具有不同分辨率的图像执行同样的被摄体检测处理,因此,通常,预期对于具有不同分辨率的所有图像而言被摄体检测结果是相同的。然而,实际上,根据被摄体和被摄体周围的情形,具有预定分辨率的图像中会遭受错误检测。通常,难以确定一个被摄体检测结果正确与否。
在这点上,在本公开中,针对各分辨率执行同样的被摄体检测处理,通过对检测结果应用多数决定,检测并且去除错误的检测结果或错误检测。因此,可以按比正常被摄体检测处理中高的准确度检测被摄体。
接下来,将描述根据本公开的特定实施例。图1是根据本公开的实施例的成像设备的构造示例的示图。例如,成像设备由数码静止相机、数码摄像机等构成。
图1中示出的成像设备11包括光学系统21、成像装置22、AFE(模拟前端)单元23、相机DSP(数字信号处理器)单元24、存储器装置25、监视器26、记录介质27、控制器28、操作单元29、闪光灯30和驱动器31。在成像设备11中,经由光学系统21输入的图像经过数字处理并且被记录。
光学系统21包括:镜头,其用于将来自被摄体的光收集到成像装置22的成像表面上;驱动机构,其用于移动镜头以执行聚焦和缩放;快门机构,其用于在预定的时间段内通过开和关操作将来自被摄体的光输入到成像装置22;光圈(孔径)机构,其用于限制来自被摄体的光束的方向和范围等。
驱动器31基于来自控制器28的控制信号,控制光学系统21中各机构的驱动。例如,驱动器31控制对被摄体的聚焦和光圈的驱动。
成像装置22由诸如CCD(电荷耦合器件)或CMOS(互补型金属氧化物半导体)的固态成像装置构成。成像装置22借助光学系统21接收来自被摄体的光以执行光电转换,并且将所得的电信号供应到AFE单元23。
AFE单元23包括CDS/AGC/ADC块41、定时发生器42和V驱动器43。例如,AFE单元23被构造为一个IC(集成电路)芯片。
CDS/AGC/ADC块41对成像装置22供应的电信号执行诸如相关双采样、采样保持处理、自动增益控制、AD(模拟/数字)转换的处理,并且输出所得的数字图像信号。由此得到的数字图像信号是成像设备11拍摄的拍摄图像的图像数据。
定时发生器42产生用于驱动成像装置22的定时脉冲信号。根据该定时脉冲信号,V驱动器43输出驱动信号,所述驱动信号用于以逐行为基础在垂直方向上输出成像装置22的各像素的电荷。
相机DSP单元24包括相机信号处理单元44、分辨率转换单元45、图像编解码器处理单元46、存储器控制器47、显示器控制器48、媒体控制器49和总线接口单元(BIU)50。
相机信号处理单元44对AFE单元23供应的图像数据执行诸如缺陷像素校正、数字箝位和数字增益控制的预处理,随后执行白平衡调节、亮度调节和对比度调节。
分辨率转换单元45根据(例如)拍摄图像是作为监视器26上的直通图像(through image)来输出和显示还是作为移动图像或静止图像被存储在记录介质27中,改变图像的大小。
图像编解码器处理单元46通过预定的编码方法对拍摄图像的图像数据执行压缩编码处理。存储器控制器47将拍摄图像等的数据写入用作帧缓冲器的存储器装置25中并且控制用于从存储器装置25读取数据的访问操作。
媒体控制器49将数据写入记录介质27并且从记录介质27读取数据。具体地,媒体控制器49记录并且再现移动图像数据或者静止图像数据。
监视器26由(例如)液晶面板构成。显示器控制器48控制监视器26的驱动以将从相机信号处理单元44输出的图像数据(直通图像)或存储器装置25中存储的图像数据转换成显示在监视器26上的信号,并且将该信号输出到监视器26。
相机DSP单元24经由BIU 50连接到控制器28。控制器28由CPU(中央处理单元)51、作为主存储器的RAM(随机存取存储器)52、以非易失性方式存储各种类型信息的EEPROM(电可擦除可编程ROM(只读存储器))53构成。
CPU 51根据用户操作总地控制整体成像设备11的操作。例如,CPU 51控制闪光灯30发光以向被摄体施用光并且控制驱动器31执行聚焦控制。另外,CPU 51连接到操作单元29,操作单元29具有供用户输入指令的操作功能和诸如扬声器和LED(发光二极管)灯等的输出功能。
(相机信号处理单元的构造示例)
另外,相机信号处理单元44检测通过拍摄得到的拍摄图像中的被摄体,以执行输出检测结果的处理。例如,在图2中示出执行这种被摄体检测的相机信号处理单元44的功能构造。
图2是示出相机信号处理单元44的功能构造的示图。在图2中,相机信号处理单元44包括被摄体检测单元81-1、81-2和81-3、被摄体区域确定单元82、可靠程度确定单元83和输出单元84。
具有不同分辨率或大小的拍摄图像被作为输入图像供应到被摄体检测单元81-1至81-3。
例如,通过拍摄从AFE单元23获取的拍摄图像(下文中,也称为高分辨率图像)被供应到被摄体检测单元81-1。另外,当分辨率转换单元45对拍摄图像执行分辨率转换时获取的并且其分辨率低于用作原始拍摄图像的高分辨率图像的分辨率的图像(下文中,也称为中间分辨率图像)被供应到被摄体检测单元81-2。
另外,当分辨率转换单元45对拍摄图像执行分辨率转换时获取的并且其分辨率低于中间分辨率图像的分辨率的图像(下文中,也称为低分辨率图像)被供应到被摄体检测单元81-3。
被摄体检测单元81-1至81-3对供应的高分辨率图像、中间分辨率图像和低分辨率图像执行被摄体检测处理以检测这些图像中的被摄体并且将检测结果供应到被摄体区域确定单元82和可靠程度确定单元83。
应该注意,当在下面的描述中被摄体检测单元81-1至81-3不必特别区分开时,被摄体检测单元81-1至81-3中的每个被简称为被摄体检测单元81。这里,在各被摄体检测单元81中,通过同一算法执行被摄体检测。换句话讲,在被摄体检测单元81中,待处理的图像的分辨率不同,但对这些图像执行同样的被摄体检测处理。
被摄体区域确定单元82基于对具有各个分辨率的图像进行被摄体检测的结果,通过多数决定处理在拍摄图像上确定最终被摄体区域,所述结果是被摄体检测单元81供应的。随后,被摄体区域确定单元82将最终被摄体区域供应到输出单元84。应该注意,在下文中,图像上的被摄体区域也被称为被摄体区域。
被摄体区域确定单元82包括重叠确定单元91和多数决定单元92。
重叠确定单元91基于被摄体检测单元81供应的被摄体检测结果,执行重叠确定处理。
例如,针对具有各个分辨率的图像之中的两个任选图像,重叠确定单元91计算在这两个任选图像中检测到的被摄体区域的重叠程度,所述重叠程度被称为重叠度。重叠确定单元91执行确定两个图像上的被摄体区域是否重叠的重叠确定处理。重叠确定单元91对可以是具有不同分辨率的两个图像的组合的所有集合执行重叠确定处理,并且将对具有各个分辨率的图像执行的被摄体检测的结果和确定的结果供应到多数决定单元92。
当存在具有不同分辨率的N个图像时,将重叠确定处理执行NC2次。这里,具有三个不同分辨率的图像(也就是说,高分辨率图像、中间分辨率图像和低分辨率图像)经处理,因此N=3并且将重叠确定处理执行3C2次,也就是说,三次。
多数决定单元92基于重叠确定单元91供应的重叠确定的结果和被摄体检测的结果执行多数决定,并且计算将供应到输出单元84的最终被摄体区域。另外,当通过多数决定没有得到最终被摄体区域时,多数决定单元92指示可靠度确定单元83基于被摄体检测的可靠程度执行确定被摄体区域的处理。
根据多数决定单元92的指令,可靠程度确定单元83基于被摄体检测单元81中的被摄体检测结果的可靠程度确定最终被摄体区域并且将确定的结果供应到输出单元84。可靠程度确定单元83包括低分辨率确定单元93、中间分辨率确定单元94和高分辨率确定单元95。
根据多数决定单元92的指令,基于来自低分辨率图像的被摄体检测结果(所述结果是由被摄体检测单元81-3供应的),低分辨率确定单元93确定检测结果的可靠程度。在低分辨率图像中的被摄体检测结果充分可靠(也就是说,因对可靠程度的确定而得到的充分大的可靠程度)的情况下,低分辨率确定单元93将低分辨率图像中的被摄体检测结果作为最终被摄体区域供应到输出单元84。另外,在确定可靠程度的结果是对低分辨率图像的被摄体检测的结果并非充分可靠的情况下,低分辨率确定单元93指示中间分辨率确定单元94确定可靠程度。
根据低分辨率确定单元93的指令,中间分辨率确定单元94基于来自中间分辨率图像的被摄体检测结果确定可靠程度,所述结果是由被摄体检测单元81-2供应的。在结果充分可靠的情况下,中间分辨率确定单元94将对中间分辨率图像的被摄体检测的结果作为最终被摄体区域供应到输出单元84。另外,在确定可靠程度的结果是对中间分辨率图像的被摄体检测的结果并非充分可靠的情况下,中间分辨率确定单元94指示高分辨率确定单元95确定可靠程度。
根据中间分辨率确定单元94的指令,高分辨率确定单元95基于来自高分辨率图像的被摄体检测的结果确定可靠程度,所述结果是由被摄体检测单元81-1供应的。在结果充分可靠的情况下,高分辨率确定单元95将对高分辨率图像的被摄体检测结果作为最终被摄体区域供应到输出单元84。另外,在确定可靠程度的结果是对高分辨率图像的被摄体检测的结果并非充分可靠的情况下,高分辨率确定单元95将指示没有以充分可靠的程度在拍摄图像中检测到被摄体的信息供应到输出单元84。
输出单元84将多数决定单元92或可靠程度确定单元83供应的、指示被摄体区域的信息作为指示最终被摄体区域的被摄体信息。
(对被摄体信息输出处理的描述)
随后,将描述成像设备11的操作。
例如,当用户指示成像设备11对被摄体进行拍摄时,成像设备11拍摄被摄体的图像以得到拍摄图像。具体地,光学系统21收集来自被摄体的将输入成像装置22的光,成像装置22接收经由光学系统21输入的光以执行光电转换并且将由此得到的信号供应到CDS/AGC/ADC块41。
CDS/AGC/ADC块41对成像装置22供应的信号执行诸如相关双采样的处理,然后将已经经受各种类型处理的信号转换成作为数字信号的图像数据,以向相机信号处理单元44供应图像数据。另外,相机信号处理单元44对CDS/AGC/ADC块41供应的拍摄图像的图像数据合适地执行预处理,然后将拍摄图像供应到被摄体检测单元81-1和分辨率转换单元45。
在以此方式得到拍摄图像之后,成像设备11检测拍摄图像中的被摄体区域并且开始输出被摄体信息的被摄体信息输出处理。被摄体信息指示检测结果。下文中,将参照图3的流程图描述成像设备11进行的被摄体信息输出处理。
在步骤S11中,分辨率转换单元45对相机信号处理单元44供应的拍摄图像执行分辨率转换。
例如,分辨率转换单元45对作为高分辨率图像的拍摄图像执行下采样,以产生分辨率比高分辨率图像的分辨率低(即,具有较小大小)的中间分辨率图像,并且将中间分辨率图像供应到被摄体检测单元81-2。另外,分辨率转换单元45对作为高分辨率图像的拍摄图像执行下采样,以产生分辨率比中间分辨率图像的分辨率低的低分辨率图像,并且将低分辨率图像供应到被摄体检测单元81-3。
在步骤S12中,被摄体检测单元81-1至81-3对供应的高分辨率图像、中间分辨率图像和低分辨率图像执行被摄体检测处理并且将检测的结果供应到重叠确定单元91和可靠程度确定单元83。
例如,在针对各分辨率的图像进行的被摄体检测处理中,从各分辨率的图像的各区域中提取特征量,并且产生指示被摄体在各区域中的可能性的被摄体地图。另外,产生指示被摄体在被摄体图中的可能性的变化程度的梯度图,使得通过使用两个不同的阈值在通过对梯度图执行阈值处理而得到的图中检测被摄体区域。例如,在日本专利申请特开No.2010-266982中公开了以此方式使用被摄体图检测被摄体的技术。
应该注意,检测各个分辨率的图像中的被摄体的方法不限于使用被摄体地图的方法并且可以使用任何其它方法。例如,各个分辨率的图像可以被转换成在用作色空间的经转换HSV(色调饱和值)空间中的图像,在所述空间中,调节低值区域中的饱和度,可以基于经转换HSV空间中的色距离检测被摄体。另外,可以通过利用鉴别器进行的面部检测,执行被摄体检测。
被摄体检测单元81-1将对高分辨率图像的被摄体检测结果供应到重叠确定单元91和高分辨率确定单元95。例如,被摄体检测结果是,输出指示高分辨率图像上的围绕被摄体区域的矩形区域的信息(也就是说,指示被摄体区域的信息)。另外,被摄体检测单元81-1还将指示被摄体在各区域中的可能性的值(诸如,从高分辨率图像的各区域中提取的用于检测被摄体的特征量)供应到高分辨率确定单元95。指示被摄体在高分辨率图像的各区域中的可能性的值用于确定可靠程度。
类似地,被摄体检测单元81-2将对中间分辨率图像的被摄体检测结果供应到重叠确定单元91和中间分辨率确定单元94并且还将指示被摄体在中间分辨率图像的各区域中的可能性的值供应到中间分辨率确定单元94。另外,被摄体检测单元81-3将低分辨率图像上的被摄体检测结果供应到重叠确定单元91和低分辨率确定单元93并且还将指示被摄体在低分辨率图像的各区域中的可能性的值供应到低分辨率确定单元94。
在步骤S13中,重叠确定单元91基于被摄体检测单元81供应的被摄体检测结果,执行重叠确定处理。
具体地,重叠确定单元91计算具有不同分辨率的三个图像(也就是说,高分辨率图像、中间分辨率图像和低分辨率图像)之中的两个任选图像的重叠程度。在这种情况下,针对可以是具有不同分辨率的两个图像的组合的所有集合,执行重叠度的计算。
例如,假设当具有不同分辨率的两个图像被布置成使得同一被摄体彼此重叠时,被摄体区域部分重叠,如图4中所示。
这里,被摄体区域HR11代表因对具有不同分辨率的两个目标图像中的一个的被摄体检测而得到的被摄体区域。被摄体区域HR12代表因对具有不同分辨率的两个目标图像中的另一个的被摄体检测而得到的被摄体区域。
应该注意的是,当致使两个图像重叠时,执行使这些图像大小(分辨率)相等的放大处理。例如,为了将图像变成与高分辨率图像的大小具有相同的大小,对中间分辨率图像和低分辨率图像执行上采样。
在图4中,被摄体区域HR11的部分和被摄体区域HR12的部分重叠。在这个示例中,在被摄体区域HR11中,没有与被摄体区域HR12重叠的区域被表达为区域R1,与被摄体区域HR12重叠的区域被表达为区域R3。另外,在被摄体区域HR12中,没有与被摄体区域HR11重叠的区域被表达为区域R2。
重叠确定单元91计算重叠度F-度量,重叠度F-度量指示用作重叠区域的区域R3的尺寸相对于被摄体区域HR11或被摄体区域HR12有多大,也就是说,被摄体区域HR11与被摄体区域HR12有多少重叠。
更具体地,重叠确定单元91基于区域R1至R3的尺寸计算下面的表达式(1),以计算重叠度F-度量。
F-度量=2×(R3/(R3+R1))×(R3/(R3+R2))/(R3/(R3+R1)+R3/(R3+R2))…(1)
应该注意,在表达式(1)中,R1、R2和R3分别代表图4中的区域R1的尺寸、区域R2的尺寸和区域R3的尺寸。
重叠确定单元91针对分辨率的所有组合计算重叠度。在这个示例中,针对高分辨率图像和中间分辨率图像的集合、高分辨率图像和低分辨率图像的集合、中间分辨率图像和低分辨率图像的集合,计算重叠度。
在得到的重叠度中的各个重叠度等于或大于预定阈值的情况下,重叠确定单元91确定用作重叠度计算目标的两个图像,更具体地,这些图像的被摄体区域重叠。重叠确定单元91将关于各个分辨率的图像的重叠数量信息作为对各个分辨率的图像进行的重叠确定的结果供应到多数决定单元92。重叠数量信息指示与一个图像重叠的具有不同分辨率的图像的数量。
例如,现在重点放在高分辨率图像,在高分辨率图像和中间分辨率图像重叠而高分辨率图像和低分辨率图像没有重叠的情况下,高分辨率图像的重叠数量信息是指示“1”的信息。
重叠确定单元91将各个分辨率的图像的重叠数量信息和被摄体检测的结果(也就是说,指示被摄体区域的信息)供应到多数决定单元92。
在步骤S14中,多数决定单元92基于重叠确定单元91供应的重叠数量信息确定具有不同分辨率的图像的被摄体区域是否重叠。
例如,在具有不同分辨率的所有图像的重叠数量信息指示“0”的情况下,多数决定单元92确定具有不同分辨率的图像的被摄体区域没有重叠并且其间没有重叠。
当在步骤S14中确定有重叠时,多数决定单元92基于重叠确定单元91供应的重叠数量信息和被摄体检测结果执行步骤S15中的多数决定处理。
具体地,在具有不同分辨率的图像的重叠数量信息之中,多数决定单元92将具有以最大数量作为重叠数量信息的分辨率的图像的被摄体视为在被摄体(高分辨率图像)中检测到的最终被摄体区域。
随后,多数决定单元92将指示最终被摄体区域的信息供应到输出单元84。例如,多数决定单元92将关于被摄体区域的位置和大小的信息作为指示被摄体区域的信息输出。具体地,指示被摄体区域的信息包括代表图像上的被摄体区域的矩形中的一点的坐标、指示代表被摄体区域的矩形的每条边的长度的信息等。
可以说,在具有不同分辨率的图像之中,在与具有不同分辨率的其它图像的重叠数量最大的图像中检测到的被摄体区域具有最大可能性在具有不同分辨率的图像中检测到的被摄体区域中。在这点上,在多数决定处理中,采用具有最大重叠数量信息的图像的被摄体区域作为最终被摄体区域。换句话讲,基于重叠数量信息通过多数决定确定被摄体区域。
在存在多个图像具有最大重叠数量信息的情况下,多数决定单元92采用具有最大重叠数量信息的图像之中的具有最低分辨率的图像的被摄体区域作为最终被摄体区域。例如,在高分辨率图像的重叠数量信息和中间分辨率图像的重叠数量信息在具有不同分辨率的图像中是最大的情况下,采用中间分辨率图像的被摄体区域作为最终被摄体区域。
这是因为,图像的分辨率越低,执行分辨率转换可以导致的噪声降低更多,从而被摄体区域的检测准确度更进一步增加。已知的是,在具有较高分辨率的图像中,小被摄体的检测准确度高,而对大被摄体的检测并不好,并且在具有较低分辨率的图像中,可以以某种高准确度水平稳定地检测被摄体区域,而不管被摄体区域的大小如何。另外,出于相同的原因,同样在随后将描述的确定可靠程度的过程中,从具有较低分辨率的图像起,顺序地执行处理。
在执行多数决定处理之后,处理前进至步骤S22。
同时,当在步骤S14中确定没有重叠时,由于在多数决定处理中没有确定被摄体区域,因此多数决定单元92指示低分辨率确定单元93基于被摄体检测的可靠程度执行确定被摄体区域的处理,处理前进至步骤S16。在所有重叠数量信息具有预定阈值或更小的情况下,可以构造成不允许用多数决定处理确定被摄体区域。
在步骤S16中,低分辨率确定单元93确定低分辨率图像的可靠程度是否等于或大于阈值。
具体地,低分辨率确定单元93基于指示被摄体在被摄体检测单元81-3供应的低分辨率图像的各区域中的可能性的值,计算对低分辨率图像进行的被摄体区域检测的可靠程度。例如,用以下这样的方式计算可靠程度:随着指示被摄体在低分辨率图像中检测到的被摄体区域内各区域中的可能性的值和指示被摄体在靠近被摄体区域的各区域中但在被摄体区域之外的可能性的值之差变得越大,可靠程度变得越高。
在由此得到的可靠程度等于或大于阈值的情况下,认为对低分辨率图像进行被摄体检测的结果是充分可靠的。
当在步骤S16中确定低分辨率图像的可靠程度等于或大于阈值时,在步骤S17中,低分辨率确定单元93将低分辨率图像的被摄体检测结果作为最终被摄体区域供应到输出单元84。换句话讲,指示被摄体区域的信息被供应到输出单元84。在输出被摄体区域之后,处理前进至步骤S22。
同时,当在步骤S16中确定可靠程度不是等于或大于阈值时,由于对低分辨率图像进行的被摄体检测的结果并非充分可靠,因此低分辨率确定单元93指示中间分辨率确定单元94执行可靠程度的确定并且处理前进至步骤S18。
在步骤S18中,中间分辨率确定单元94确定中间分辨率图像的可靠程度是否等于或大于阈值。
具体地,中间分辨率确定单元94基于指示被摄体在被摄体检测单元81-2供应的中间分辨率图像的各区域中的可能性的值,通过与低分辨率图像中相同的计算来计算可靠程度,并且将得到的可靠程度与预定的阈值进行比较。
当在步骤S18中确定可靠程度等于或大于阈值时,在步骤S19中,中间分辨率确定单元94将中间分辨率图像的被摄体检测的结果作为最终被摄体区域供应到输出单元84。在输出被摄体区域之后,处理前进至步骤S22。
相比于此,当在步骤S18中确定可靠程度不是等于或大于阈值时,由于对中间分辨率图像进行的被摄体检测的结果并非充分可靠,因此中间分辨率确定单元94指示高分辨率确定单元95执行可靠程度的确定并且处理前进至步骤S20。
在步骤S20中,高分辨率确定单元95确定高分辨率图像的可靠程度是否等于或大于阈值。
具体地,高分辨率确定单元95基于指示被摄体在被摄体检测单元81-1供应的高分辨率图像的各区域中的可能性的值,通过与低分辨率图像中相同的计算来计算可靠程度,并且将得到的可靠程度与预定的阈值进行比较。
当在步骤S20中确定可靠程度等于或大于阈值时,在步骤S21中,高分辨率确定单元95将高分辨率图像的被摄体检测的结果作为最终被摄体区域供应到输出单元84。在输出被摄体区域之后,处理前进至步骤S22。
相比于此,当在步骤S20中确定可靠程度不是等于或大于阈值时,由于对具有不同分辨率的所有图像进行的被摄体检测的结果并非充分可靠,因此高分辨率确定单元95向输出单元84供应信息,所述信息指示没有以充分可靠程度在拍摄图像中检测到被摄体。随后,处理前进至步骤S22。
当在步骤S15、步骤S17、步骤S19或步骤S21中输出被摄体区域时,或者当在步骤20中确定可靠程度不是等于或大于阈值并且输出指示没有以充分可靠程度检测到被摄体的的信息时,执行步骤S22的处理。
具体地,在步骤S22中,输出单元84输出多数决定单元92、低分辨率确定单元93、中间分辨率确定单元94、或高分辨率确定单元95供应的指示被摄体区域的信息作为指示最终被摄体区域的被摄体信息,并且被摄体输出处理终止。应该注意,当供应指示没有以充分可靠程度检测到被摄体的信息时,输出单元84输出指示没有检测到被摄体的信息。
在成像设备11的各单元中使用从输出单元84输出的被摄体信息。
例如,基于输出单元84供应的被摄体信息,CPU 51控制驱动器31执行聚焦控制,以便聚焦到拍摄图像上的被摄体。另外,例如,基于从输出单元84输出的被摄体信息,相机信号处理单元44对拍摄图像执行亮度调节和白平衡调节,使得拍摄图像的被摄体区域中的亮度和白平衡是恒定的。随后,相机信号处理单元44将被执行了这些调节的拍摄图像输出到显示控制器48和媒体控制器49。除此之外,被摄体信息可以用于任何处理,例如,在被摄体区域中进行的颜色调节。
如上所述,成像设备11对具有不同分辨率的多个图像执行被摄体检测处理以得到检测结果的重叠度并且基于得到的重叠度执行多数决定,以确定最终被摄体区域。另外,在通过多数决定没有确定被摄体区域的情况下,成像设备11基于具有各个分辨率的图像的可靠程度,确定最终被摄体区域。
通过以此方式执行多数决定,可以通过多数决定消除指示与具有不同分辨率的其它图像的重叠数量较少的检测结果(也就是说,错误检测)并因此可以用更高准确度检测被摄体。另外,同样,当通过多数决定没有确定被摄体区域时,基于各分辨率的可靠程度确定被摄体区域,使得可以用足够的准确度检测被摄体。
因此,在被摄体难以检测的场景中,诸如,在前景和背景的颜色类似的场景以及一些被摄体重叠的场景中,可以用高准确度检测被摄体。
另外,由于可以用高准确度检测被摄体,因此还允许在难以得到聚焦的场景中实现高准确度自动聚焦并且还允许在颜色难以调节的场景中实现自动颜色校正。这样,用户可以更容易地得到好的图像。
另外,由于可以用高准确度检测被摄体,因此允许检测结果以积极方式用于显示用户界面和将提供给用户的智能界面。
(第二实施例)
(对被摄体信息输出处理的描述)
在以上的描述中,已经描述了通过多数决定单元92的多数决定从对具有各个分辨率的图像进行被摄体检测的结果中选择可能结果的示例,但可以基于某些检测结果计算被摄体区域。换句话讲,可以通过多数决定去除具有低可靠程度的检测结果并且可以使用剩余的检测结果来计算最终被摄体区域。
在这种情况下,例如,成像设备11执行图5中示出的被摄体信息输出处理。下文中,将参照图5的流程图描述成像设备11进行的被摄体信息输出处理。步骤S51至步骤S54的处理与图3的步骤S11至步骤S14的处理相同并且将省略对其的描述。
当在步骤S54中确定存在重叠时,在步骤S55中,多数决定单元92通过多数决定排除没有重叠的检测结果。
具体地,多数决定单元92基于重叠确定单元91供应的重叠数量信息,在对具有各个分辨率的图像进行被摄体检测的结果中排除指示重叠数量信息是“0”的检测结果。这里,具有其重叠数量信息是“0”的分辨率的图像中检测到的被摄体区域与具有各个分辨率的其它图像中检测到的任何被摄体区域不重叠。这样,被摄体区域的检测结果是错误检测的可能性高。
相反地,指示与具有不同分辨率的另一个图像中检测到的被摄体区域存在重叠的被摄体检测结果是错误检测的可能性较低。这样,多数决定单元92基于重叠数量信息通过多数决定排斥具有低可靠程度的被摄体检测结果并且基于保留的而未排除的并且指示与具有不同分辨率的另一个图像中检测到的被摄体区域存在重叠的被摄体检测结果计算最终被摄体区域。
在步骤S56中,多数决定单元92基于保留而未排除的被摄体检测结果计算检测结果的加权平均,以计算最终被摄体区域。换句话讲,通过对不排除的被摄体区域求加权平均而新得到的一个矩形区域被视为最终被摄体区域。在计算加权平均的过程中,计算被摄体区域的对应边的位置的加权平均值并且得到的位置被视为最终被摄体区域的对应边的位置。这里,例如,在具有通过重叠数量信息指示的具有大值(数量)的被摄体区域中,对各被摄体区域的加权变大。
当以此方式计算最终的被摄体区域时,多数决定单元92将指示最终被摄体区域的信息供应到输出单元84,处理前进至步骤S63。
在步骤S56中通过加权平均计算被摄体区域之后,执行步骤S57至步骤S63的处理并且被摄体信息输出处理终止。步骤S57至步骤S63的那些处理与图3的步骤S16至S22的处理相同并且将省略对其的描述。
如上所述,成像设备11对具有不同分辨率的多个图像执行被摄体检测处理以得到检测结果的重叠度,并且基于通过多数决定得到的重叠度计算被摄体检测的结果的加权平均以确定最终被摄体区域。另外,在通过多数决定没有确定被摄体区域的情况下,成像设备11基于具有各个分辨率的图像的可靠程度确定最终被摄体区域。
另外,通过以此方式通过加权平均计算最终被摄体区域,可以通过只使用可能的检测结果用更高的准确度检测被摄体。另外,同样,当通过多数决定没有确定被摄体区域时,基于各个分辨率的可靠程度确定被摄体区域,使得可以用足够的准确度检测被摄体。
应该注意,这里,描述计算加权平均的情况作为使用被摄体检测的一些结果计算最终被摄体区域的示例,但可以通过任何其它方法计算最终被摄体区域。
例如,基于保留而未排除的多个检测结果,包含所有被摄体区域作为检测结果的一个矩形区域可以被视为最终被摄体区域。另外,例如,只有其中保留而未排除的所有被摄体区域相互重叠的区域(也就是说,只有具有各个分辨率的所有图像中都被视为被摄体区域的区域)可以被视为最终被摄体区域。
另外,只有在具有其重叠数量信息等于或大于预定数量的分辨率的图像中检测到的被摄体区域可以用于计算最终被摄体区域。另外,可以按重叠数量信息的降序选择预定数量的被摄体区域,以基于这些被摄体区域计算最终被摄体区域。
(第三实施例)
(相机信号处理单元的构造示例)
在以上描述中,已经描述了对具有不同分辨率的图像执行同样的被摄体检测处理的示例作为对被摄体检测的目标图像多次执行的被摄体检测处理。然而,可以对具有单个分辨率的图像执行互不相同的多种类型的被摄体检测处理作为多次执行的被摄体检测处理。
在这种情况下,例如,如图6中所示,构造相机信号处理单元44。应该注意,在图6中,用相同的参考标号表示与图2的部分对应的部分并且将适当省略对其的描述。
图6中示出的相机信号处理单元44包括被摄体检测单元121-1、121-2和121-3、被摄体区域确定单元82、可靠程度确定单元83和输出单元84。
具有单个分辨率的拍摄图像(也就是说,单个高分辨率图像)被供应到被摄体检测单元121-1至121-3。
被摄体检测单元121-1至121-3对供应的拍摄图像执行被摄体检测处理,以检测拍摄图像中的被摄体区域并且将检测结果供应到被摄体区域确定单元82和可靠程度确定单元83。
应该注意,当在下面的描述中不必特别将被摄体检测单元121-1至121-3区分开时,被摄体检测单元121-1至121-3中的每个被简称为被摄体检测单元121。
这里,在各被摄体检测单元121中,通过不同算法对同一拍摄图像执行被摄体检测。换句话讲,在各被摄体检测单元121中,待处理的拍摄图像相同,但对图像执行不同类型的被摄体检测处理。预期这些不同类型的被摄体检测处理提供与被摄体检测的结果相同的结果。
在下面的描述中,为了区分通过各个被摄体检测单元121执行的被摄体检测处理,被摄体检测单元121-1进行的被摄体检测处理、被摄体检测单元121-2进行的被摄体检测处理和被摄体检测单元121-3进行的被摄体检测处理也被分别称为被摄体检测处理D1、被摄体检测处理D2和被摄体检测处理D3。
另外,图6中示出的可靠程度确定单元83包括检测处理确定单元122、检测处理确定单元123和检测处理确定单元124。
根据多数决定单元92的指令,基于被摄体检测单元121-3供应的被摄体检测处理D3进行的被摄体检测的结果,检测处理确定单元122确定检测结果的可靠程度。在确定可靠程度的结果是按照被摄体检测处理D3进行的被摄体检测的结果充分可靠的情况下,检测处理确定单元122将按照被摄体检测处理D3进行的被摄体检测的结果作为最终被摄体区域供应到输出单元84。另外,在确定可靠程度的结果是按照被摄体检测处理D3进行的被摄体检测的结果并非充分可靠的情况下,检测处理确定单元122指示检测处理确定单元123执行可靠程度的确定。
根据检测处理确定单元122的指令,基于被摄体检测单元121-2供应的被摄体检测处理D2进行的被摄体检测的结果,检测处理确定单元123确定检测结果的可靠程度。在确定可靠程度的结果是按照被摄体检测处理D2进行的被摄体检测的结果充分可靠的情况下,检测处理确定单元123将按照被摄体检测处理D2进行的被摄体检测的结果作为最终被摄体区域供应到输出单元84。另外,在确定可靠程度的结果是按照被摄体检测处理D2进行的被摄体检测的结果并非充分可靠的情况下,检测处理确定单元123指示检测处理确定单元124执行可靠程度的确定。
根据检测处理确定单元123的指令,基于被摄体检测单元121-1供应的被摄体检测处理D1进行的被摄体检测的结果,检测处理确定单元124确定检测结果的可靠程度。在确定可靠程度的结果是按照被摄体检测处理D1进行的被摄体检测的结果充分可靠的情况下,检测处理确定单元124将按照被摄体检测处理D1进行的被摄体检测的结果作为最终被摄体区域供应到输出单元84。另外,在确定可靠程度的结果是按照被摄体检测处理D1进行的被摄体检测的结果并非充分可靠的情况下,检测处理确定单元124将指示没有以充分可靠程度在拍摄图像中检测到被摄体的信息供应到输出单元84。
(对被摄体信息输出处理的描述)
随后,将描述在相机信号处理单元44具有图6中示出的构造的情况下成像设备11的操作。在这种情况下,成像设备11执行图7中示出的被摄体信息输出处理。下文中,将参照图7的流程图描述成像设备11进行的被摄体信息输出处理。
在步骤S91中,被摄体检测单元121-1至121-3对供应的拍摄图像(即,高分辨率图像)执行被摄体检测处理并且将检测的结果供应到重叠确定单元91和可靠程度确定单元83。
具体地,被摄体检测单元121-1执行被摄体检测处理D1以检测拍摄图像中的被摄体,被摄体检测单元121-2执行被摄体检测处理D2以检测拍摄图像中的被摄体,被摄体检测单元121-3执行被摄体检测处理D3以检测拍摄图像中的被摄体。
例如,被摄体检测处理D1是其中被摄体地图用于检测被摄体的处理,被摄体检测处理D2是基于经转换HSV空间中的颜色距离检测被摄体的处理,被摄体检测处理D3是使用鉴别器进行的处理。应该注意,被摄体检测处理D1至D3可以是任何类型的处理,只要预先合适地确定这些处理。
另外,被摄体检测单元121-1至121-3均将指示被摄体在各区域中的可能性的值(诸如,从拍摄图像的各区域中提取的用于检测被摄体的特征量)供应到检测处理确定单元122至124。
在步骤S91中检测被摄体之后,执行步骤S92至步骤S94的处理。这些处理与图3的步骤S13至步骤S15的处理相同并且将省略对其的描述。
然而,在步骤S94的多数决定中,在多个图像具有最大重叠数量信息的情况下,多数决定单元92采用具有最大重叠数量信息的图像之中的被执行以预定次序确定的被摄体检测处理的图像的被摄体作为最终被摄体区域。这里,所述预定次序是指被摄体检测处理D3、被摄体检测处理D2和被摄体检测处理D1的次序。因此,以被摄体检测处理D3至被摄体检测处理D1的次序,选择被摄体检测的结果作为最终被摄体区域。只需要根据针对被摄体或使用应用的检测准确度预先确定被摄体检测处理的次序。
在执行步骤S94的处理之后,处理前进至步骤S101。
同时,当在步骤S93中确定没有重叠时,多数决定单元92指示指示检测处理确定单元122基于被摄体检测的可靠程度执行确定被摄体区域的处理,处理前进至步骤S95。
在步骤S95中,检测处理确定单元122确定被摄体检测处理D3进行的被摄体检测的可靠程度是否等于或大于阈值。
具体地,检测处理确定单元122基于被摄体检测单元121-3供应的被摄体在拍摄图像的各区域中的可能性的值,计算通过被摄体检测处理D3进行的被摄体区域检测的可靠程度。例如,如图3的步骤S16中一样,通过同样的计算来计算可靠程度。
当在步骤S95中确定可靠程度等于或大于阈值时,在步骤S96中,检测处理确定单元122将通过被摄体检测处理D3进行的被摄体检测的结果作为最终被摄体区域供应到输出单元84。换句话讲,指示被摄体区域的信息被供应到输出单元84。在输出被摄体区域之后,处理前进至步骤S101。
同时,当在步骤S95中确定可靠程度不是等于或大于阈值时,检测处理确定单元122指示检测处理确定单元123执行对可靠程度的确定并且处理前进至步骤S97。
在步骤S97中,检测处理确定单元123确定通过被摄体检测处理D2进行的被摄体检测的可靠程度是否等于或大于阈值。
具体地,检测处理确定单元123基于指示被摄体检测单元121-2供应的被摄体在各区域中的可能性的值,通过与被摄体检测处理D3计算可靠程度相同的计算来计算可靠程度,并且将得到的可靠程度与预定阈值进行比较。
当在步骤S97中确定可靠程度等于或大于阈值时,在步骤S98中,检测处理确定单元123将通过被摄体处理检测处理D2进行的被摄体检测的结果作为最终被摄体区域供应到输出单元84。在输出被摄体区域之后,处理前进至步骤S101。
相比于此,当在步骤S97中可靠程度不是等于或大于阈值时,由于被摄体检测处理D2进行的被摄体检测的结果并非充分可靠,因此检测处理确定单元123指示检测处理确定单元124执行可靠程度的确定并且处理前进至步骤S99。
在步骤S99中,检测处理确定单元124确定通过被摄体检测处理D1进行的被摄体检测的可靠程度是否等于或大于阈值。
具体地,检测处理确定单元124基于被摄体检测单元121-1供应的被摄体在各区域中的可能性的值,通过与被摄体检测处理D3计算可靠程度相同的计算来计算可靠程度,并且将得到的可靠程度与预定的阈值进行比较。
当在步骤S99中确定可靠程度等于或大于阈值时,在步骤S100中,检测处理确定单元124将通过被摄体检测处理D1进行的被摄体检测的结果作为最终被摄体区域供应到输出单元84。在输出被摄体区域之后,处理前进至步骤S101。
相比于此,当在步骤S99中确定可靠程度不是等于或大于阈值时,由于通过所有被摄体检测处理进行的被摄体检测的结果并非充分可靠,因此检测处理确定单元124将信息供应到输出单元84,所述信息指示没有以充分的可靠程度在拍摄图像中检测到被摄体。随后,处理前进至步骤S101。
当在步骤S94、步骤S96、步骤S98或步骤S100中输出被摄体区域时,或者当步骤S99中确定可靠程度没有等于或大于的阈值并且输出指示没有以充分的可靠程度检测到被摄体的信息时,执行步骤S101的处理。
具体地,在步骤S101中,输出单元输出指示多数决定单元92、检测处理确定单元122、检测处理确定单元123或检测处理确定单元124供应的被摄体区域的信息作为指示最终被摄体区域的被摄体信息,并且被摄体信息输出处理终止。应该注意,当供应指示没有以足够的可靠程度检测到被摄体的信息时,输出单元84输出指示没有检测到被摄体的信息。
如上所述,成像设备11对拍摄图像执行多种类型的被摄体检测处理以得到检测结果的重叠度并且基于得到的重叠度执行多数决定以确定最终被摄体区域。另外,在没有通过多数决定确定被摄体区域的情况下,成像设备11基于各个类型的被摄体检测处理的可靠程度确定最终被摄体区域。
通过以此方式执行多数决定,可以通过多数决定去除指示与具有各个分辨率的其它图像的重叠数量较少的检测结果并因此可以用更高的准确度检测被摄体。另外,同样,当通过多数决定没有确定被摄体区域时,基于各类型的被摄体检测处理的可靠程度确定被摄体区域,使得可以用充分的准确度检测被摄体。
另外,在相机信号处理单元44具有如图6中所示的构造的情况下,可以通过第二实施例中描述的多数决定确定最终被摄体区域。
顺带一提,可以通过硬件或软件执行上述的一系列处理。在通过软件执行这一系列处理的情况下,构成软件的程序被安装在计算机中。这里,计算机包括装入专用硬件的计算机和通用计算机,这些计算机例如通过在其内安装各种程序来执行各种功能。
图8是示出用程序执行上述一系列处理的计算机的硬件构造示例的框图。
在计算机中,CPU 501、ROM 502和RAM 503通过总线504相互连接。
总线504还连接到输入和输出接口505。输入和输出接口505连接到输入单元506、输出单元507、记录单元508、通信单元509和驱动器510。
输入单元506包括键盘、鼠标、麦克风、成像装置等。输出单元507包括显示器、扬声器等。记录单元508包括硬盘、非易失性存储器等。通信单元509包括网络接口等。驱动器510驱动诸如磁盘、光盘、磁-光盘或半导体存储器的可移动介质511。
在如上所述构造的计算机中,负载501经由输入和输出接口505和总线504加载(例如)存储在记录单元508中的程序以执行程序,使得执行上述一系列处理。
例如,计算机(CPU 501)执行的程序可以通过被记录在作为封装介质的可移动介质511上来提供。另外,可以经由诸如局域网、互联网和数字卫星广播的有线或无线传输介质提供程序。
在计算机中,可以通过将可移动介质511安装到驱动器510,将程序经由输入和输出接口505安装在记录单元508中。另外,程序可以经由有线或无线传输介质被通信单元509接收并且被安装在记录单元508中。除此之外,程序可以预先被安装在ROM 502或记录单元508中。
应该注意,计算机执行的程序可以是遵循本说明书中描述的次序按定时执行处理的程序或者可以是诸如当并行执行处理或者执行调用的必要时间执行处理的程序。
另外,本公开的实施例不限于上述的实施例并且可以在不脱离本公开的主旨的情况下进行各种修改。
例如,本公开可以具有云计算的构造,在该构造中,多个设备共用一个功能并且借助网络进行协作以执行处理。
此外,上述流程图中描述的步骤可以由一个设备执行或者由多个设备共用和执行。
另外,在一个步骤包括多个处理步骤的情况下,一个步骤中的多个处理步骤可以由一个设备执行或者由多个设备共用和执行。
另外,本说明书中描述的效果只是示例并且不限于这些示例,可以产生其它效果。
此外,本公开可以具有以下构造。
(1)一种图像处理设备,所述图像处理设备包括:
被摄体检测单元,其被构造成执行被摄体检测处理以根据输入图像检测被摄体区域;以及
被摄体区域确定单元,其被构造成通过多数决定处理确定最终被摄体区域,所述多数决定处理是基于在多次执行的被摄体检测处理中检测到的被摄体。
(2)根据(1)所述的图像处理设备,其中,
所述被摄体区域确定单元包括
重叠确定单元,其被构造成针对在多次执行的被摄体检测处理中检测到的各被摄体区域,计算两个被摄体区域之间的重叠度,
多数决定单元,其被构造成基于所述重叠度通过所述多数决定处理确定所述最终被摄体区域。
(3)根据(2)所述的图像处理设备,其中,
所述重叠确定单元被构造成基于所述重叠度确定被摄体区域是否重叠,以及
所述多数决定单元被构造成基于通过一个被摄体检测处理得到的被摄体区域和通过另一个被摄体检测处理得到的被摄体区域之间的重叠的数量,执行所述多数决定处理,所述重叠的数量是通过所述重叠确定单元进行确定来得到的。
(4)根据(3)所述的图像处理设备,其中,
所述多数决定单元被构造成确定具有最大重叠数量的被摄体区域作为所述最终被摄体区域。
(5)根据(3)所述的图像处理设备,其中,
所述多数决定单元被构造成基于所述重叠的数量排除具有低可靠度的被摄体区域并且基于保留而未排除的被摄体区域计算所述最终被摄体区域。
(6)根据(1)至(5)中的任一项所述的图像处理设备,其中,
多次执行的被摄体检测处理包括对具有不同分辨率的输入图像执行的相同的被摄体检测处理。
(7)根据(1)至(5)中的任一项所述的图像处理设备,其中,
多次执行的被摄体检测处理包括对同一输入图像执行的不同类型的被摄体检测处理。
(8)根据(1)至(7)中的任一项所述的图像处理设备,还包括:
可靠程度确定单元,其被构造成在通过多数决定处理没有得到所述最终被摄体区域的情况下,基于多次执行的被摄体检测处理中检测到的被摄体区域的可靠程度,根据被摄体区域确定最终被摄体区域。
(9)一种图像处理方法,所述图像处理方法包括:
执行被摄体检测处理,以检测输入图像中的被摄体区域;以及
通过基于多次执行的被摄体检测处理中检测到的被摄体区域的多数决定处理,确定最终被摄体区域。
(10)一种致使计算机执行包括以下步骤的处理的程序:
执行被摄体检测处理,以检测输入图像中的被摄体区域;以及
通过基于多次执行的被摄体检测处理中检测到的被摄体区域的多数决定处理,确定最终被摄体区域。
(11)一种图像处理设备,所述图像处理设备包括:
被摄体区域检测器,对输入图像多次执行被摄体区域检测处理,以通过对所述输入图像执行的多个处理来检测各个被摄体区域;
被摄体区域确定器,通过各个被摄体区域的多数决定处理,确定所述输入图像的最终被摄体区域。
(12)根据(11)所述的图像处理设备,其中,
所述电路还被构造成实现
重叠确定器,计算各个被摄体区域中每一对被摄体区域的重叠度,
多数决定处理器,被构造成基于各个被摄体区域中每一对被摄体区域的重叠度,通过所述多数决定处理确定所述最终被摄体区域。
(13)根据(12)所述的图像处理设备,其中,
所述重叠确定器被构造成:
基于各个被摄体区域中特定的一对被摄体区域的重叠度,针对该特定的一对确定各个被摄体区域是否重叠,和
针对对所述输入图像执行的每个处理,追踪针对对所述输入图像执行的每个处理的被摄体区域而识别的重叠数,以及
所述多数决定处理器被构造成基于所述重叠数执行所述多数决定处理。
(14)根据(13)所述的图像处理设备,其中,
所述多数决定处理器被构造成确定对输入图像执行的多个处理中具有最大重叠数的处理的被摄体区域作为所述最终被摄体区域。
(15)根据(13)所述的图像处理设备,其中,
所述多数决定处理器被构造成:
基于特定被摄体区域的所述重叠数排除具有低可靠程度的特定被摄体区域,并且
基于没有被排除的被摄体区域,计算所述最终被摄体区域。
(16)根据(11)所述的图像处理设备,其中,
对所述输入图像执行的多个处理中的各个处理以不同分辨率对所述输入图像进行处理。
(17)根据(11)所述的图像处理设备,其中,
对所述输入图像执行的多个处理是对所述输入图像执行的不同类型的被摄体检测处理。
(18)根据(11)所述的图像处理设备,其中,所述电路被进一步构造成实现
可靠程度确定器,在所述多数决定处理无法可靠地识别所述最终被摄体区域的情况下,基于各个被摄体区域的可靠程度确定所述最终被摄体区域。
(19)一种图像处理方法,所述图像处理方法包括:
用电路对输入图像多次执行被摄体区域检测处理,以通过对所述输入图像执行的多个处理检测各个被摄体区域;以及
通过各个被摄体区域的多数决定处理,确定所述输入图像的最终被摄体区域。
(20)根据(19)所述的图像处理方法,还包括
计算各个被摄体区域中每一对被摄体区域的重叠度,其中
确定步骤包括基于各个被摄体区域中每一对被摄体区域的重叠度,通过所述多数决定处理确定所述最终被摄体区域。
(21)根据(20)所述的图像处理方法,其中,
确定步骤包括基于各个被摄体区域中特定的一对被摄体区域的重叠度,针对该特定的一对确定各个被摄体区域是否重叠,
针对对所述输入图像执行的每个处理,追踪针对对所述输入图像执行的每个处理的被摄体区域而识别的重叠数,以及
基于所述重叠数执行所述多数决定处理。
(22)根据(21)所述的图像处理方法,其中,
确定步骤包括确定对所述输入图像执行的多个处理中具有最大重叠数的处理的被摄体区域作为最终被摄体区域。
(23)根据(21)所述的图像处理方法,还包括:
基于所述特定被摄体区域的重叠数而排除具有低可靠程度的特定被摄体区域,以及
基于没有被排除的被摄体区域,计算所述最终被摄体区域。
(24)根据(19)所述的图像处理方法,其中对所述输入图像执行的多个处理中的各个处理具有不同的分辨率。
(25)根据(19)所述的图像处理方法,其中对所述输入图像执行的多个处理是对所述输入图像执行的不同类型的被摄体检测处理。
(26)根据(19)所述的图像处理方法,还包括:
在所述多数决定处理无法可靠地识别所述最终被摄体区域的情况下,基于各个被摄体区域的可靠程度确定所述最终被摄体区域。
(27)一种存储有程序的非暂态存储介质,当处理电路执行所述程序时使得所述处理电路执行一种方法,所述方法包括:
对输入图像多次执行被摄体区域检测处理,以通过对所述输入图像执行的多个处理检测各个被摄体区域;以及
通过各个被摄体区域的多数决定处理,确定所述输入图像的最终被摄体区域。
本领域的技术人员应该理解,根据设计要求和其它因素,可以想到各种修改形式、组合形式、子组合形式和替代形式,只要这些形式在所附权利要求书或其等同物的范围内。

Claims (17)

1.一种图像处理设备,包括:
电路,所述电路被构造成实现:
被摄体区域检测器,对输入图像多次执行被摄体区域检测处理,以通过对所述输入图像执行的多个处理来检测各个被摄体区域;
被摄体区域确定器,通过各个被摄体区域的多数决定处理,确定所述输入图像的最终被摄体区域。
2.根据权利要求1所述的图像处理设备,其中,
所述电路还被构造成实现:
重叠确定器,计算各个被摄体区域中每一对被摄体区域的重叠度,
多数决定处理器,被构造成基于各个被摄体区域中每一对被摄体区域的重叠度,通过所述多数决定处理确定所述最终被摄体区域。
3.根据权利要求2所述的图像处理设备,其中
所述重叠确定器被构造成:
基于各个被摄体区域中特定的一对被摄体区域的重叠度,针对该特定的一对确定各个被摄体区域是否重叠,和
针对对所述输入图像执行的每个处理,追踪针对对所述输入图像执行的每个处理的被摄体区域而识别的重叠数,以及
所述多数决定处理器被构造成基于所述重叠数执行所述多数决定处理。
4.根据权利要求3所述的图像处理设备,其中,
所述多数决定处理器被构造成确定对输入图像执行的多个处理中具有最大重叠数的处理的被摄体区域作为所述最终被摄体区域。
5.根据权利要求3所述的图像处理设备,其中,
所述多数决定处理器被构造成:
基于特定被摄体区域的所述重叠数排除具有低可靠程度的特定被摄体区域,并且
基于没有被排除的被摄体区域,计算所述最终被摄体区域。
6.根据权利要求1所述的图像处理设备,其中,
对所述输入图像执行的多个处理中的各个处理以不同分辨率对所述输入图像进行处理。
7.根据权利要求1所述的图像处理设备,其中,
对所述输入图像执行的多个处理是对所述输入图像执行的不同类型的被摄体检测处理。
8.根据权利要求1所述的图像处理设备,其中,所述电路被进一步构造成实现:
可靠程度确定器,在所述多数决定处理无法可靠地识别所述最终被摄体区域的情况下,基于各个被摄体区域的可靠程度确定所述最终被摄体区域。
9.一种图像处理方法,包括:
用电路对输入图像多次执行被摄体区域检测处理,以通过对所述输入图像执行的多个处理检测各个被摄体区域;以及
通过各个被摄体区域的多数决定处理,确定所述输入图像的最终被摄体区域。
10.根据权利要求9所述的图像处理方法,还包括:
计算各个被摄体区域中每一对被摄体区域的重叠度,其中
确定步骤包括基于各个被摄体区域中每一对被摄体区域的重叠度,通过所述多数决定处理确定所述最终被摄体区域。
11.根据权利要求10所述的图像处理方法,其中,
确定步骤包括基于各个被摄体区域中特定的一对被摄体区域的重叠度,针对该特定的一对确定各个被摄体区域是否重叠,
针对对所述输入图像执行的每个处理,追踪针对对所述输入图像执行的每个处理的被摄体区域而识别的重叠数,以及
基于所述重叠数执行所述多数决定处理。
12.根据权利要求11所述的图像处理方法,其中,
确定步骤包括确定对所述输入图像执行的多个处理中具有最大重叠数的处理的被摄体区域作为最终被摄体区域。
13.根据权利要求11所述的图像处理方法,还包括:
基于所述特定被摄体区域的重叠数而排除具有低可靠程度的特定被摄体区域,以及
基于没有被排除的被摄体区域,计算所述最终被摄体区域。
14.根据权利要求9所述的图像处理方法,其中对所述输入图像执行的多个处理中的各个处理具有不同的分辨率。
15.根据权利要求9所述的图像处理方法,其中对所述输入图像执行的多个处理是对所述输入图像执行的不同类型的被摄体检测处理。
16.根据权利要求9所述的图像处理方法,还包括:
在所述多数决定处理无法可靠地识别所述最终被摄体区域的情况下,基于各个被摄体区域的可靠程度确定所述最终被摄体区域。
17.一种存储有程序的非暂态存储介质,当处理电路执行所述程序时使得所述处理电路执行一种方法,所述方法包括:
对输入图像多次执行被摄体区域检测处理,以通过对所述输入图像执行的多个处理检测各个被摄体区域;以及
通过各个被摄体区域的多数决定处理,确定所述输入图像的最终被摄体区域。
CN201410482394.9A 2013-09-27 2014-09-19 图像处理设备和方法和程序 Expired - Fee Related CN104519271B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013202438A JP2015070426A (ja) 2013-09-27 2013-09-27 画像処理装置および方法、並びにプログラム
JP2013-202438 2013-09-27

Publications (2)

Publication Number Publication Date
CN104519271A true CN104519271A (zh) 2015-04-15
CN104519271B CN104519271B (zh) 2019-07-26

Family

ID=52740248

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410482394.9A Expired - Fee Related CN104519271B (zh) 2013-09-27 2014-09-19 图像处理设备和方法和程序

Country Status (3)

Country Link
US (1) US9842284B2 (zh)
JP (1) JP2015070426A (zh)
CN (1) CN104519271B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109858632A (zh) * 2019-02-15 2019-06-07 网宿科技股份有限公司 一种确定阈值的方法及装置
CN114258672A (zh) * 2019-08-14 2022-03-29 富士胶片株式会社 摄像装置、摄像装置的工作方法及程序

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170019581A (ko) * 2015-08-12 2017-02-22 삼성전자주식회사 지문 감지 센서, 이를 포함하는 전자 장치 및 지문 감지 센서의 동작 방법
JP6622156B2 (ja) * 2016-08-24 2019-12-18 株式会社東芝 情報処理装置、情報処理方法およびプログラム
JP7013808B2 (ja) * 2017-11-15 2022-02-01 富士フイルムビジネスイノベーション株式会社 情報処理装置およびプログラム
KR20210059457A (ko) * 2019-11-15 2021-05-25 엘지전자 주식회사 이동 단말기
JPWO2023281636A1 (zh) * 2021-07-06 2023-01-12
JPWO2023281637A1 (zh) * 2021-07-06 2023-01-12

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102668532A (zh) * 2010-09-21 2012-09-12 株式会社锦宫事务 图像处理系统以及其中使用的摄像对象物
US20130064425A1 (en) * 2011-09-13 2013-03-14 Canon Kabushiki Kaisha Image recognizing apparatus, image recognizing method, and program
US20130272570A1 (en) * 2012-04-16 2013-10-17 Qualcomm Incorporated Robust and efficient learning object tracker

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6445819B1 (en) * 1998-09-10 2002-09-03 Fuji Photo Film Co., Ltd. Image processing method, image processing device, and recording medium
US8331698B2 (en) * 2010-04-07 2012-12-11 Seiko Epson Corporation Ethnicity classification using multiple features
WO2012144195A1 (ja) * 2011-04-18 2012-10-26 パナソニック株式会社 撮像装置、撮像装置の合焦制御方法、及び集積回路
JP5987306B2 (ja) 2011-12-06 2016-09-07 ソニー株式会社 画像処理装置、画像処理方法、プログラム
JP6000602B2 (ja) * 2012-03-30 2016-09-28 キヤノン株式会社 体検出方法及び物体検出装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102668532A (zh) * 2010-09-21 2012-09-12 株式会社锦宫事务 图像处理系统以及其中使用的摄像对象物
US20130064425A1 (en) * 2011-09-13 2013-03-14 Canon Kabushiki Kaisha Image recognizing apparatus, image recognizing method, and program
US20130272570A1 (en) * 2012-04-16 2013-10-17 Qualcomm Incorporated Robust and efficient learning object tracker

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109858632A (zh) * 2019-02-15 2019-06-07 网宿科技股份有限公司 一种确定阈值的方法及装置
CN109858632B (zh) * 2019-02-15 2021-06-04 网宿科技股份有限公司 一种确定阈值的方法及装置
CN114258672A (zh) * 2019-08-14 2022-03-29 富士胶片株式会社 摄像装置、摄像装置的工作方法及程序
CN114258672B (zh) * 2019-08-14 2024-05-14 富士胶片株式会社 摄像装置、摄像装置的工作方法及存储介质

Also Published As

Publication number Publication date
JP2015070426A (ja) 2015-04-13
CN104519271B (zh) 2019-07-26
US9842284B2 (en) 2017-12-12
US20150093032A1 (en) 2015-04-02

Similar Documents

Publication Publication Date Title
CN104519271A (zh) 图像处理设备和方法和程序
US8629915B2 (en) Digital photographing apparatus, method of controlling the same, and computer readable storage medium
US9800772B2 (en) Focus adjustment device and focus adjustment method that detects spatial frequency of a captured image
US8126219B2 (en) Image processing apparatus, image processing method, and imaging apparatus
US8917333B2 (en) Digital image processing apparatus, digital image processing method, and recording medium storing the digital image processing method
US9300859B2 (en) Imaging element, imaging apparatus, its control method, and control program
US10237491B2 (en) Electronic apparatus, method of controlling the same, for capturing, storing, and reproducing multifocal images
US20090080797A1 (en) Eye Defect Detection in International Standards Organization Images
US8507835B2 (en) Auto-focusing method which uses a different focus determining method according to a type of corresponding focus graph, recording medium recording the method, and auto-focusing apparatus performing the method
JP6320571B2 (ja) 画像処理装置、画像処理方法およびプログラム
US8755600B2 (en) Method and apparatus for determining the light direction
KR101830077B1 (ko) 화상처리장치, 그 제어 방법 및 기억매체
JP6366739B2 (ja) 画像処理装置、画像処理方法およびプログラム
US8953067B2 (en) Method, device, and machine readable medium for image capture and selection
US10182186B2 (en) Image capturing apparatus and control method thereof
JP2007265149A (ja) 画像処理装置、画像処理方法および撮像装置
US8588458B2 (en) Image processing apparatus, image processing method, and program
US10205870B2 (en) Image capturing apparatus and control method thereof
US10003735B2 (en) Calculation device and image pickup device using calculation device and calculation method
KR101624650B1 (ko) 적목 현상 검출 방법 및 장치
US8798439B2 (en) Method and apparatus for continuously reproducing moving picture files
US20230276135A1 (en) Image processing apparatus to combine images and method for controlling the same
KR20110016073A (ko) 차량 전방 영상 처리 장치 및 그 영상 처리 방법
KR100708476B1 (ko) 메모리카드의 성능을 고려한 영상화질 결정방법 및 이를적용한 촬영장치
CN117356102A (zh) 多相机系统中辅助相机的镜头定位

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20190726

Termination date: 20200919

CF01 Termination of patent right due to non-payment of annual fee