CN102084642B - 电子照相机、图像处理装置及图像处理方法 - Google Patents

电子照相机、图像处理装置及图像处理方法 Download PDF

Info

Publication number
CN102084642B
CN102084642B CN201080002005.8A CN201080002005A CN102084642B CN 102084642 B CN102084642 B CN 102084642B CN 201080002005 A CN201080002005 A CN 201080002005A CN 102084642 B CN102084642 B CN 102084642B
Authority
CN
China
Prior art keywords
image
mentioned
transformation parameter
tracks
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201080002005.8A
Other languages
English (en)
Other versions
CN102084642A (zh
Inventor
石井育规
物部祐亮
小仓康伸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of CN102084642A publication Critical patent/CN102084642A/zh
Application granted granted Critical
Publication of CN102084642B publication Critical patent/CN102084642B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/64Imaging systems using optical elements for stabilisation of the lateral and angular position of the image
    • G02B27/646Imaging systems using optical elements for stabilisation of the lateral and angular position of the image compensating for small deviations, e.g. due to vibration or shake
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/16Special procedures for taking photographs; Apparatus therefor for photographing the track of moving objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera

Abstract

在拍摄环境变化的情况下也稳定地跟踪对象物的像。图像处理装置(10)具备:存储部(17),存储与初始区域有关的信息、以及与第一图像的拍摄环境对应的第一变换参数;变换参数计算部(12),按照第二图像的拍摄环境,计算第二变换参数;第一图像变换部(13),利用第一变换参数和第二变换参数,对第一及第二图像中的至少一方进行变换;跟踪处理部(15),利用由第一图像变换部(13)变换后的图像,搜索具有与初始区域的特征量类似的特征量的区域,由此跟踪对象物的像;第二图像变换部(14),利用与第二变换参数相比被抑制了连续拍摄的图像间的变化量的第三变换参数,对第二图像进行变换;以及输出部(16),输出由第二图像变换部(14)变换后的图像、以及搜索结果。

Description

电子照相机、图像处理装置及图像处理方法
技术领域
本发明涉及电子照相机、图像处理装置等,尤其涉及对输入图像中作为跟踪的对象的对象物的像进行跟踪的电子照相机、图像处理装置等。
背景技术
近年来,电子照相机具有物体跟踪功能,来作为AF(自动聚焦:Auto-Focus)、AE(自动曝光:Automatic Exposure)或逆光校正功能的对位手段。另外,所谓电子照相机(camera),是指拍摄静止图像的照相机(camera)或拍摄活动图像的摄像机(camera)。
例如,电子照相机将被指定的对象物的像的颜色信息作为初始特征量登录。然后,电子照相机在对象物的像被指定之后拍摄的图像中,搜索与初始特征量类似的区域,由此进行对象物的像的跟踪。具体而言,电子照相机通过执行利用颜色信息的模板匹配、或计算色相的统计图的重复的比例,由此搜索包含对象物的像的对象区域。
另外,用于监视的固定照相机所拍摄的场所几乎是固定的,能够容易地获得日照条件及时间变化的信息等。因此,用于监视的固定照相机利用日照条件及时间变化的信息等,推测周围的环境。然后,用于监视的固定照相机能够按照推测的环境,例如改变模板匹配中的模板的颜色。
但是,数字视频摄像机等民用设备由于在各种环境下拍摄各种对象,因此难以推测当前的环境。也就是说,电子照相机在拍摄作为跟踪的对象的对象物时的周围的环境(以下称为“拍摄环境”)发生了变化的情况下,电子照相机无法追随环境的变化,因此发生持续跟踪错误的物体、或跟踪中断等问题。例如,在电子照相机从较暗的场所向明亮的场所进行了移动的情况下,作为跟踪的对象的对象物的像的明亮部分的灰度(階調)丢失(过亮),所以发生无法进行模板匹配的问题。
因此,现有的照相机在拍摄环境发生了变化的情况下,在拍摄的图像中,按照已变化的环境来校正曝光或色温等(例如,参照专利文献1)。在专利文献1记载的方法中,利用在画面内一边改变位置一边设定的检测区域内外的亮度成分的差,判断画面内的亮度模式。然后,利用在适应于判断的亮度模式的位置上设定的测光区域,进行曝光控制。
另外,提出了以下方法,即:不利用色相信息,而是利用预测系数来追踪目标,由此即使在颜色因为照明发生了变化的情况下,也可靠地追踪目标,上述预测系数是利用RGB(红绿蓝)各颜色和亮度Y计算的(例如,参照专利文献2)。
专利文献1:日本特许第2568161号公报
专利文献2:日本特开平7-095598号公报
但是,在专利文献1所示的现有的方法中,以在时间上连续的图像中对明亮度或颜色等进行变换的变换参数不急剧变化的方式,逐渐向与环境适应的值变化。这是因为,例如在明亮度或色温等发生了变化的情况下,如果对图像的明亮度或色温进行变换的变换参数按照环境而变化很大,则会给用户带来不协调感或不舒服感。像这样,由于变换参数逐渐变化,因此尤其在利用作为稳健(robust)的特征量的颜色来作为特征量的情况下,电子照相机无法进行对象物的跟踪。
另外,在专利文献2所示的现有的方法中,由于利用预测系数来跟踪对象物,因此在预测错误的情况下无法正确地跟踪。
发明内容
因此,本发明鉴于上述现有的问题而做成。本发明的目的在于,提供一种电子照相机、图像处理装置等,即使在由于拍摄环境变化而表示对象物的像的特征量变化的情况下,也能够稳定地追踪对象物的像。
为了达到上述目的,本发明涉及的电子照相机在连续拍摄的图像中跟踪作为跟踪的对象的对象物的像,利用跟踪结果,执行自动聚焦处理、自动曝光处理、以及基于照相机控制的取景处理及自动拍摄处理中的至少一个,该电子照相机具备:存储部,存储与初始区域有关的信息、以及第一变换参数,该初始区域是在第一图像中包括上述对象物的像的区域,该第一变换参数是与拍摄上述第一图像时的拍摄环境对应的参数,而且是用于将上述第一图像变换为具有规定的画质的图像的参数;变换参数计算部,按照拍摄第二图像时的拍摄环境,计算第二变换参数,该第二图像是在上述第一图像之后拍摄的图像,该第二变换参数用于将上述第二图像变换为具有上述规定的画质的图像;第一图像变换部,利用上述存储部中存储的第一变换参数和由上述变换参数计算部计算的第二变换参数,对上述第一图像及第二图像中的至少一方进行变换;跟踪处理部,利用由上述第一图像变换部变换后的图像,在上述第二图像中搜索具有与定量地表示上述初始区域的特征的特征量类似的特征量的区域,由此跟踪上述对象物的像;第二图像变换部,利用第三变换参数,对上述第二图像进行变换,该第三变换参数与上述第二变换参数相比,被抑制了连续拍摄的图像间的变化量;以及输出部,输出由上述第二图像变换部变换后的图像、以及表示由上述跟踪处理部搜索的区域的信息。
由此,即使在由于拍摄环境变化而表示对象物的像的特征量发生了变动的情况下,通过利用与拍摄环境对应的变换参数进行了变换的图像来跟踪对象物的像,从而能够稳定地跟踪对象物的像。进而,通过输出利用逐渐对应于拍摄环境的变化的变换参数进行了变换的图像,还能够减少用户在观察图像时的不协调感或不舒服感。
另外,上述第一、第二及第三变换参数也可以是按照从拍摄的图像中检测出的色温、曝光及亮度值中的至少一个,来对构成上述图像的多个像素所具有的像素值进行变换的参数。
由此,即使在色温、曝光及亮度值发生了变化的情况下,也能够稳定地跟踪对象物的像。
另外,上述第一图像变换部也可以利用上述第一变换参数与第二变换参数之比,来对上述第一图像及上述第二图像中的一方进行变换。
由此,对第一及第二图像中的一方进行变换即可,因此能够减轻变换图像的处理的负荷。
另外,上述第一图像变换部在对上述第一图像进行变换的情况下,也可以仅变换上述第一图像之中上述初始区域所包括的图像。
由此,对第一图像的一部分区域中包含的图像进行变换即可,因此能够进一步减轻变换图像的处理的负担。
另外,也可以上述特征量是表示构成图像的像素所具有的颜色的频度分布的颜色统计图,上述跟踪处理部在上述第二图像中,搜索具有与上述初始区域的颜色统计图重合的部分的比例最大的颜色统计图的区域。
由此,能够利用稳健性高的颜色统计图来跟踪对象物的像,因此能够更加稳定地跟踪对象物的像。
另外,本发明涉及的图像处理装置在连续拍摄的图像中跟踪作为跟踪的对象的对象物的像,该图像处理装置具备:存储部,存储与初始区域有关的信息、以及第一变换参数,该初始区域是在第一图像中包括上述对象物的像的区域,该第一变换参数是与拍摄上述第一图像时的拍摄环境对应的参数,而且是用于将上述第一图像变换为具有规定的画质的图像的参数;变换参数计算部,按照拍摄第二图像时的拍摄环境,计算第二变换参数,该第二图像是在上述第一图像之后拍摄的图像,该第二变换参数用于将上述第二图像变换为具有上述规定的画质的图像;第一图像变换部,利用上述存储部中存储的第一变换参数和由上述变换参数计算部计算的第二变换参数,对上述第一图像及第二图像中的至少一方进行变换;跟踪处理部,利用由上述第一图像变换部变换后的图像,在上述第二图像中搜索具有与定量地表示上述初始区域的特征的特征量类似的特征量的区域,由此跟踪上述对象物的像;第二图像变换部,利用第三变换参数,对上述第二图像进行变换,该第三变换参数与上述第二变换参数相比,被抑制了连续拍摄的图像间的变化量;以及输出部,输出由上述第二图像变换部变换后的图像、以及表示由上述跟踪处理部搜索的区域的信息。
另外,本发明涉及的集成电路在连续拍摄的图像中跟踪作为跟踪的对象的对象物的像,是图像处理装置具备的集成电路,上述图像处理装置具备存储部,该存储部存储与初始区域有关的信息、以及第一变换参数,该初始区域是在第一图像中包括上述对象物的像的区域,该第一变换参数是与拍摄上述第一图像时的拍摄环境对应的参数,而且是用于将上述第一图像变换为具有规定的画质的图像的参数;上述集成电路具备:变换参数计算部,按照拍摄第二图像时的拍摄环境,计算第二变换参数,该第二图像是在上述第一图像之后拍摄的图像,该第二变换参数用于将上述第二图像变换为具有上述规定的画质的图像;第一图像变换部,利用上述存储部中存储的第一变换参数和由上述变换参数计算部计算的第二变换参数,对上述第一图像及第二图像中的至少一方进行变换;跟踪处理部,利用由上述第一图像变换部变换后的图像,在上述第二图像中搜索具有与定量地表示上述初始区域的特征的特征量类似的特征量的区域,由此跟踪上述对象物的像;第二图像变换部,利用第三变换参数,对上述第二图像进行变换,该第三变换参数与上述第二变换参数相比,被抑制了连续拍摄的图像间的变化量;以及输出部,输出由上述第二图像变换部变换后的图像、以及表示由上述跟踪处理部搜索的区域的信息。
另外,本发明不仅可以作为这样的图像处理装置来实现,也可以作为以这样的图像处理装置所具备的特征性结构部的动作为步骤的图像处理方法来实现。另外,本发明还可以作为使计算机执行这样的图像处理方法中包括的步骤的程序来实现。而且,这样的程序也可以通过CD-ROM等记录介质或互联网等传输媒体来分发。
发明效果
根据以上说明可知,本发明涉及的电子照相机、图像处理装置等,即使在拍摄作为跟踪的对象的对象物的环境发生了变化的情况下,通过利用与环境变化对应的变换参数对图像进行变换,也能够稳定地跟踪对象物的像。进而,本发明涉及的电子照相机、图像处理装置等,通过输出利用逐渐对应于拍摄环境的变化的变换参数进行了变换的图像,还能够减少用户在观察图像时的不协调感或不舒服感。
附图说明
图1是表示本发明的实施方式涉及的图像处理装置的功能结构的模块图。
图2是表示作为本发明的实施方式涉及的图像处理装置的具体例的电子照相机的结构的模块图。
图3是表示本发明的实施方式涉及的图像处理装置的动作的流程图。
图4是用于说明本发明的实施方式涉及的图像处理装置的动作的具体例的图。
图5是用于说明本发明的实施方式涉及的图像处理装置的有关搜索的动作的具体例的图。
具体实施方式
以下,参照附图说明本发明的实施方式。
图1是表示本发明的实施方式涉及的图像处理装置的功能结构的模块图。如图1所示,图像处理装置10具备初始区域获得部11、变换参数计算部12、第一图像变换部13、第二图像变换部14、跟踪处理部15、输出部16和存储部17。
初始区域获得部11获得与第一图像中包括对象物的像在内的区域即初始区域有关的信息。然后,初始区域获得部11将获得的与初始区域有关的信息登录到存储部17中。具体而言,初始区域获得部11例如获得表示初始区域的位置及大小的信息。
另外,例如在电子照相机具备触摸面板来作为对正拍摄的图像或要拍摄的图像进行显示的部件的情况下,初始区域获得部11获得通过用户触摸触摸面板来接受的初始区域的位置的信息。再者,例如在对准电子照相机的方向以使想要跟踪的物体显示在显示画面的中央等预先确定的区域中之后,用户按下跟踪按键的情况下,初始区域获得部11也可以获得该区域来作为初始区域。
另外,初始区域获得部11获得第一变换参数,该第一变换参数是用于按照拍摄第一图像时的拍摄环境来对图像进行变换的参数,而且是将第一图像变换为具有规定的画质(以下简称为“目的画质”。)的图像(以下简称为“目的画质图像”。)的参数。然后,初始区域获得部11将获得的第一变换参数登录到存储部17中。
在此,所谓目的画质,是指图像具有满足规定的条件的颜色或亮度。例如,所谓目的画质,是指图像成为预先确定的规定的颜色分布或亮度分布。具体而言,例如,所谓目的画质,是指在拍摄了白色的被摄体的图像中,无论光源的色温如何,该被摄体的像的颜色成为白色。另外,所谓目的画质,例如指明亮的被摄体的像不丢失灰度(不过亮)。
变换参数计算部12按照拍摄作为比第一图像后拍摄的图像的第二图像时的拍摄环境,计算第二变换参数,该第二变换参数用于将第二图像变换为目的画质图像。在此,规定的画质与上述第一变换参数中的规定的画质相同。
另外,变换参数计算部12计算第三变换参数,该第三变换参数与第二变换参数相比,被抑制了连续拍摄的图像间的变化量。也就是说,变换参数计算部12计算用于将拍摄的图像变换为逐渐追随拍摄环境的变化的图像的第三变换参数。
具体而言,变换参数计算部12计算第三变换参数,以使在时间上比第二图像早一个的图像中的第三变换参数(以下简称为“旧第三变换参数”)与第二图像中的第三变换参数之间的差分值成为旧第三变化参数与第二图像中的第二变换参数之间的差分值以下。
第一图像变换部13利用存储部17中存储的第一变换参数和由变换参数计算部12计算出的第二变换参数,对第一及第二图像中的至少一方进行变换。也就是说,第一图像变换部13对第一及第二图像中的至少一方进行变换,以使变换后的图像具有同等的画质。具体而言,例如,第一图像变换部13利用第一变换参数与第二变换参数之比来对第一图像进行变换。
第二图像变换部14利用第三变换参数对第二图像进行变换。
跟踪处理部15利用由第一图像变换部13变换后的图像,在第二图像中搜索具有与定量地表示初始区域的特征的特征量最类似的特征量的区域,由此跟踪对象物的像。具体而言,例如,跟踪处理部15提取一边改变第二图像内的位置及大小一边选择的区域的特征量。然后,跟踪处理部15将具有计算出的特征量之中与初始区域的特征量之间差分最小的特征量的区域确定为对象区域。另外,所谓对象区域,是包含对象物的像的区域。
在此,所谓特征量,例如是表示区域内的像素的颜色的频度分布的颜色统计图。另外,所谓特征量,例如也可以是在区域内检测出的边缘。另外,所谓特征量,例如也可以是构成区域的像素所具有的亮度值。
输出部16输出由第二图像变换部14变换后的图像、以及表示由跟踪处理部15搜索的区域的信息。具体而言,输出部16例如为了使电子照相机等所具有的显示部进行显示,将包含由第二图像变换部14变换后的图像和表示对象区域的框等的图像登录到存储部17中。
存储部17存储与初始区域相关的信息和第一变换参数。
另外,在上述内容中,第一、第二及第三变换参数是用于按照从拍摄的图像中检测出的色温、曝光以及亮度值中的至少一个来对构成图像的多个像素所具有的像素值进行变换的参数。具体而言,第一、第二及第三变换参数例如是对各像素的RGB各自的亮度值进行变换的变换系数。
图2是表示作为本发明的实施方式涉及的图像处理装置的具体例的电子照相机的结构的模块图。如图2所示,电子照相机100具备:摄影镜头101、快门102、摄像元件103、AD转换器104、定时产生电路105、图像处理电路106、存储器控制电路107、图像显示存储器108、DA转换器109、图像显示部110、存储器111、调整大小电路112、系统控制电路113、曝光控制部114、测距控制部115、变焦控制部116、保护盖(barrier)控制部117、闪光灯118、保护部119、存储部120、显示部121、非易失性存储器122、模式调节开关123、快门开关124、电源控制部125、连接器126及127、电源128、接口129及130、连接器131及132、记录介质133、光学取景器134、通信部135、天线136、初始区域获得电路137、变换参数计算电路138、第一图像变换电路139、第二图像变换电路140、跟踪处理电路141、跟踪结果描绘电路142和照相机控制电路143。另外,电源128及记录介质133也可以是可拆卸的。
摄影镜头101是具有变焦及聚焦功能的镜头,使入射的光在摄像元件103上成像。
快门102具备光圈功能,对入射到摄像元件103的光的量进行调节。
摄像元件103将入射的光成像所得到的光学像转换为电信号(图像数据)。
AD转换器104将从摄像元件103输出的模拟信号转换为数字信号。AD转换器104通过存储器控制电路107,将已转换为数字信号的图像数据写入图像显示存储器108或存储器111。或者,AD转换器104将已转换为数字信号的图像数据输出到图像处理电路106。
定时产生电路105向摄像元件103、AD转换器104及DA转换器109提供时钟信号或控制信号。定时产生电路105被存储器控制电路107及系统控制电路113控制。
图像处理电路106对从AD转换器104输出的图像数据或从存储器控制电路107输出的图像数据进行规定的图像内插处理或颜色变换处理等。另外,图像处理电路106利用被输入的图像数据进行规定的运算处理,系统控制电路113根据得到的运算结果对曝光控制部114及测距控制部115进行控制。
存储器控制电路107控制AD转换器104、定时产生电路105、图像处理电路106、图像显示存储器108、DA转换器109、存储器111及调整大小电路112。
图像显示存储器108存储用于显示的图像数据。
DA转换器109通过存储器控制电路107,从图像显示存储器108获得用于显示的图像数据,并从数字信号转换为模拟信号。
图像显示部110显示由DA转换器109转换为模拟信号的用于显示的图像数据。另外,图像显示部110也可以从用户接收用于确定正显示作为跟踪的对象的对象物的区域(初始区域)的信息。图像显示部110例如是TFTLCD(Thin Film Transistor Liquid Crystal Display:薄膜晶体管液晶显示器)、触摸面板等显示器。
存储器111存储从AD转换器104得到的图像数据、以及由图像处理电路106进行了处理的图像数据。进而,存储器111存储由初始区域获得电路137获得的与初始区域有关的信息等、跟踪处理所需的信息。另外,存储器111相当于图1的存储部17。
调整大小电路112根据拍摄得到的图像,生成低解析度的图像。另外,调整大小电路112能够按照用途来选择规定的多个解析度。调整大小电路112读入被保存在存储器111中的图像数据,对读入的图像数据进行调整大小处理,将处理完的数据写入存储器111。
另外,调整大小电路112用于希望以与摄像元件103的像素数不同的像素数(大小)在记录介质133等中记录图像数据的情况等。另外,图像显示部110可显示的像素数比摄像元件103的像素数小很多。因此,调整大小电路112也用于生成将拍摄的图像数据显示于图像显示部110时的显示用图像的情况。
系统控制电路113通过控制电子照相机100整体的各处理部及各处理电路,由此进行摄影处理。摄影处理包括曝光处理、显影处理及记录处理等。所谓曝光处理,是指将从摄像元件103读出的图像数据通过AD转换器104及存储器控制电路107写入存储器111的处理。所谓显影处理,是指图像处理电路106及存储器控制电路107中的运算处理。所谓记录处理,是指从存储器111读出图像数据、并将图像数据写入记录介质133的处理。
曝光控制部114对具备光圈功能的快门102进行控制。另外,曝光控制部114通过与闪光灯118联动,还具有闪光灯调光功能。
测距控制部115控制摄影镜头101的聚焦。变焦控制部116控制摄影镜头101的变焦。保护盖控制部117控制保护部119的动作。
闪光灯118对被摄体照射闪光。闪光灯118还具有AF辅助光的投射功能及闪光灯调光功能。
保护部119是通过对电子照相机100的包括摄影镜头101、快门102及摄像元件103等的摄像部进行覆盖来防止摄像部的污染或破损的保护盖(barrier)。
存储器120记录系统控制电路113的动作用的定量、变量及程序等。
显示部121是按照系统控制电路113中的程序的执行并利用文字、图像或声音等来显示动作状态或消息等的液晶显示装置或扬声器等。显示部121设置在电子照相机100的操作部附近的容易视觉辨认的一个或多个位置。显示部121例如由LCD、LED(Light Emitting Diode:发光二极管)、或者发音元件等的组合构成。
非易失性存储器122是能够以电气进行证明、记录的存储器,存储电子照相机100的动作设定数据或使用者固有的信息等。非易失性存储器122例如是EEPROM(Electrically Erasable and Programmable Read OnlyMemory:电可擦写可编程只读存储器)等。
模式调节开关123能够切换、设定自动摄影模式、摄影模式、全景摄影模式及RAW模式等各功能模式。
快门开关124在快门按键(未图示)的操作过程中打开(ON),指示AF处理、AE处理及AWB(Auto White Balance:自动白平衡)处理等的动作开始。另外,快门开关124指示曝光处理、显影处理及记录处理这一系列处理的动作的开始。
电源控制部125由电池检测电路、DC-DC转换器、以及对通电的模块进行切换的开关电路等构成。电源控制部125对有没有安装电池、电池的种类以及电池剩余电量进行检测。进而,电源控制部125还根据检测结果以及系统控制电路113的指示对DC-DC转换器进行控制,反馈所需的电压,通过连接器126及127向包括记录介质133的各处理部提供电压。
连接器126及127是进行电源控制部125与电源128的连接的连接器。
电源128是碱电池或锂电池等一次电池,NiCd电池、NiMH电池或Li电池等二次电池,或者AC适配器等。
接口129及130是用于在记录介质133与存储器111等之间进行图像数据等的收发的接口。
连接器131及132是通过接口129及接口130进行与记录介质133的连接的连接器。
记录介质133是记录图像数据的存储卡或硬盘等记录介质。
光学取景器134是用于拍摄者确认被摄体的取景器。拍摄者可以不使用图像显示部110的电子取景器功能,而仅利用光学取景器134来进行摄影。
通信部135具有RS232C、USB、IEEE1394、调制解调器、LAN、或者无线通信等各种通信功能。
天线136是通过通信部135将电子照相机100与其他设备连接的连接器、或者是无线通信的情况下的天线。
初始区域获得电路137获得与初始区域有关的信息,并将获得的信息写入存储器111,该初始区域通过触摸面板从用户接受的位置、或者用户按下快门开关124从而设定的AF区域等来确定。另外,初始区域获得电路137相当于图1的初始区域获得部11。
变换参数计算电路138计算变换参数,该变换参数用于将输入图像变换为具有与用户通过视觉识别的颜色或明亮度相同的颜色或明亮度的图像。具体而言,变换参数计算电路138例如检测照射对象物的光的色温,计算按照检测出的色温来对输入图像的颜色进行变换的变换参数。另外,变换参数计算电路138相当于图1的变换参数计算部12。
第一图像变换电路139从存储器111读入初始区域中包含的图像。进而,第一图像变换电路139利用由变换参数计算电路138计算出的变换参数,对读入的图像进行变换。另外,第一图像变换电路139相当于图1的第一图像变换部13。
第二图像变换电路140从存储器111读入输入图像。进而,第二图像变换电路140利用由变换参数计算电路138计算出的变换参数,对读入的图像进行变换。另外,第二图像变换电路140相当于图1的第二图像变换部14。
跟踪处理电路141从存储器111读入由第一图像变换电路139进行了变换的图像,并计算所读出的图像的特征量。然后,跟踪处理电路141通过在输入图像中搜索具有与计算出的特征量最类似的特征量的区域,由此进行对象物的像的跟踪处理。进而,跟踪处理电路141将跟踪结果(坐标数据、评价值等)写入存储器111。另外,跟踪处理电路141相当于图1的跟踪处理部15。
跟踪结果描绘电路142为了使显示部121显示被写入存储器111的跟踪结果,加工被写入图像显示存储器108中的显示用的图像数据。具体而言,跟踪结果描绘电路142对于图像数据,例如进行跟踪框、马赛克化、文字、显示颜色的变更、模糊等加工。另外,跟踪结果描绘电路142相当于图1的输出部16。
照相机控制电路143根据被写入存储器111中的跟踪结果(对象区域)的位置和大小,控制AF处理,以使焦点对准对象区域中显示的对象物。具体而言,照相机控制电路143例如利用对象区域中显示的对象物的对比度,控制摄影镜头101以使对比度变高。
另外,照相机控制电路143也可以控制AE处理或逆光校正处理,以使对象区域中显示的对象物的曝光合适。具体而言,照相机控制电路143也可以例如根据快门速度优先、或者光圈值优先等模式,通过曝光控制部114,对具备光圈功能的快门102的快门速度或者光圈值进行控制。
进而,照相机控制电路143也可以控制电子照相机100,以使对象物位于图像内的一定的位置或成为一定的大小(例如,使作为对象物的面部显示在图像的中央,或者显示作为对象物的人物的全身)。
另外,在电子照相机100不具备初始区域获得电路137、变换参数计算电路138、第一图像变换电路139、第二图像变换电路140、跟踪处理电路141、跟踪结果描绘电路142、以及照相机控制电路143中的某个电路的情况下,系统控制电路113也可以通过软件处理来进行跟踪处理等。
接下来,说明如上构成的图像处理装置的各种动作。
图3是表示本发明的实施方式涉及的图像处理装置的动作的流程图。
首先,初始区域获得部11获得与初始区域有关的信息和第一变换参数(步骤S101)。具体而言,初始区域获得部11例如获得表示初始区域的位置的坐标和表示初始区域的大小的值,来作为与初始区域有关的信息。另外,初始区域获得部11例如获得用于将第一图像变换为无论光源的色温如何都正确表示对象物的颜色的图像的色温参数,来作为第一变换参数。接下来,初始区域获得部11将获得的与初始区域有关的信息和第一变换参数登录到存储部17中(步骤S102)。
其后,图像处理装置10在比第一图像靠后拍摄的图像中,反复进行确定对象区域的处理。确定对象区域的处理如下。
首先,变换参数计算部12计算用于将作为处理对象的图像(以下称为“第二图像”)变换为目的画质图像的第二变换参数(步骤S103)。具体而言,变换参数计算部12例如计算用于将第二图像变换为无论光源的色温如何都正确地表示对象物的颜色的图像的色温参数,来作为第二变换参数。
接下来,第一图像变换部13利用存储部17中存储的第一变换参数和由变换参数计算部12计算出的第二变换参数,对第一图像进行变换(步骤S104)。具体而言,第一图像变换部13例如从存储部17读出第一图像和第一变换参数。然后,第一图像变换部13例如在构成所读出的第一图像的各像素的像素值上,乘以用第一变换参数除以由变换参数计算部12计算出的第二变换参数所得到的值。
接下来,跟踪处理部15从在步骤S104中进行了变换的图像中,提取初始区域的特征量(步骤S105)。具体而言,跟踪处理部15例如读出存储部17中存储的表示初始区域的位置的坐标以及表示大小的值。然后,跟踪处理部15例如利用所读出的坐标以及表示大小的值,来确定构成初始区域的多个像素。然后,跟踪处理部15提取出表示所确定的各像素所具有的颜色的频度分布的颜色统计图,来作为特征量。
接下来,跟踪处理部15通过在第二图像中搜索具有与提取出的特征量最类似的特征量的区域,从而确定作为包含对象物的像的区域的对象区域(步骤S106)。即,跟踪处理部15通过确定对象区域,从而进行对象物的跟踪。具体而言,跟踪处理部15例如在第二图像中一边改变位置及大小一边选择区域,并将选择的区域的特征量与初始区域的特征量进行比较。然后,跟踪处理部15根据比较的结果,将选择的区域之中特征量的差异最小的区域确定为对象区域。
另外,变换参数计算部12计算第三变换参数,该第三变换参数与第二变换参数相比,被抑制了连续拍摄的图像间的变化量(步骤S107)。具体而言,变换参数计算部12计算第三变换参数,以使旧第三变换参数与第三变换参数之间的差分值成为旧第三变换参数与第二变换参数之间的差分值以下。
接下来,第二图像变换部14利用由变换参数计算部12计算出的第三变换参数,对第二图像进行变换(步骤S108)。另外,步骤S107及步骤S108所示的处理也可以比步骤S104~步骤S106所示的处理先执行。另外,步骤S107及步骤S108所示的处理也可以与步骤S104~步骤S106所示的处理并行执行。
最后,输出部16将表示步骤S106中搜索的对象区域的信息、以及步骤S108中变换后的图像输出(步骤S109)。具体而言,输出部16例如将在步骤S108中变换后的图像上附加了表示对象区域的位置的框的图像登录到存储部17中。
通过对连续拍摄的每个图像反复进行以上步骤S103~S109的处理,图像处理装置10能够跟踪对象物的像。
接下来,说明将用于对各像素所具有的颜色进行变换的RGB各自的变换系数用作变换参数的情况下的、图像处理装置10的各种动作的具体例。
图4是用于说明本发明的实施方式涉及的图像处理装置的动作的具体例的图。具体而言,图4是用于说明作为被摄体的狗从室外移动到室内、从而照射狗的光从太阳光变化为荧光灯的光的情况下的处理的图。
在图4中,在第一行,表示从摄像元件等得到的图像即原图像。另外,在第二行,表示将原图像变换为具有目的画质的图像的情况下的目的画质图像。另外,目的画质图像不是实际需要生成的图像,但为了说明变换参数而示出。另外,在第三行,表示为了在搜索对象区域时使用而对原图像400进行变换所得到的图像即搜索用图像。另外,在第四行,表示为了在显示部进行显示而对原图像进行变换所得到的图像即输出用图像。
原图像400是相当于第一图像的图像,是在拍摄开始时拍摄的图像。另外,原图像400是拍摄被阳光照射的狗而得到的图像。在原图像400中,由用户指定初始区域403,来作为包括成为跟踪对象的对象物的像在内的区域。该初始区域403例如通过在显示了图像的触摸面板上由用户触摸对象物的像来指定。
目的画质图像401是利用第一变换参数P1对第一图像进行变换的情况下的图像。为了方便说明,在图4中,目的画质图像401与原图像400是相同的图像。
在此,第一变换参数P1是由变换参数计算部12计算的变换参数,而且是为了无论光源的色温如何都正确地呈现出被摄体的颜色的RGB各自的变换系数。具体而言,变换参数计算部12例如利用与已知的色域之间的相关,根据原图像400计算色温参数(例如参照非专利文献1《センサ相关法によるシ一ン照明の色温度推定(基于传感器相关法的场景照明的色温推测)(电子情报通信学会论文志D-II、富永ら(电子信息通信学会论文集D-II,富永等))》)。另外,构成目的像素图像401的各像素的像素值V2利用构成原图像400的各像素的像素值V1和第一变换参数P1,表示为(式1)。
[数学式1]
V2(R,G,B)=P1(R,G,B)*V1(R,G,B)                ...(式1)
输出用图像402是由第二图像变换部14对原图像400进行变换而得到的图像,而且是用于在显示部上显示的图像。另外,由于原图像400是拍摄开始时的图像,因此第三变换参数与第一变换参数相同。因此,第二图像变换部14利用第一变换参数P1将原图像400变换为输出用图像402。
原图像410是相当于第二图像的图像,是在接着原图像400拍摄的图像。另外,原图像410是在与原图像400相同的背景中拍摄了与原图像400相同的狗而得到的图像。但是,原图像410的光源与原图像400的光源不同,是荧光灯。也就是说,原图像410是在与原图像400不同的拍摄环境中拍摄的图像。因此,原图像410是画质与原图像400不同的图像,即使是与原图像400相同的被摄体像也具有不同的颜色。
目的画质图像411是利用第二变换参数P2对第一图像进行变换的情况下的图像。在此,第二变换参数P1与第一变换参数P1相同,是由变换参数计算部12计算的变换参数,而且是用于无论光源的色温如何都正确地呈现出被摄体的颜色的RGB各自的变换系数。
搜索用图像412是利用第一变换参数P1与第二变换参数P2之比由第一图像变换部13对原图像400进行变换而得到的图像。也就是说,搜索用图像412是将原图像400变换为具有与原图像410相同的画质的图像而得到的图像。具体而言,第一图像变换部13按照(式2),将具有像素值V1作为RGB各自的各像素的像素值的原图像400,变换为具有像素值V3作为RGB各自的各像素的像素值的搜索用图像412。
[数学式2]
V 3 ( R , G , B ) = P 1 ( R , G , B ) P 2 ( R , G , B ) * V 1 ( R , G , B ) ...(式2)
跟踪处理部15在像这样进行了变换的搜索用图像412中,提取出区域415所具有的特征量,该区域415是与原图像400中的初始区域403同等的位置及大小的区域。然后,跟踪处理部15从原图像410之中,搜索具有与提取出的特征量最类似的特征量的区域。根据搜索的结果,跟踪处理部15如原图像410内所示,确定对象区域414。
输出用图像413是利用第三变换参数P3由第二图像变换部14对原图像410进行变换而得到的图像,而且是包括框416的图像,该框416是表示原图像410中被搜索的对象区域414的信息。该第三变换参数P3是与第二变换参数P2相比被抑制了与旧第三变换参数P3pr(在此为第一变换参数P1)之间的变化量的变换参数。具体而言,第三变换参数P3例如是满足(式3)的参数。另外,(式3)表示旧第三变换参数与第三变换参数之间的RGB各自的差分的绝对值之和为第二变换参数与第三变换参数之间的RGB各自的差分的绝对值之和以下。
[数学式3]
Σ RGB | P 3 ( R , G , B ) - P 3 pr ( R , G , B ) | ≤ Σ RGB | P 2 ( R , G , B ) - P 3 pr ( R , G , B ) | ...(式3)
更具体而言,在第二变换参数P2与旧第三变换参数P3pr之间的变化量为预先确定的阈值以下的情况下,变换参数计算部12将第二变换参数P2计算为第三变换参数P3。另一方面,在第二变换参数P2与旧第三变换参数P3pr之间的变化量比预先确定的阈值大的情况下,变换参数计算部12将第二变换参数P2与旧第三变换参数P3pr之间的变化量与该阈值相等的值计算为第三变换参数P3。
原图像420及430是在与原图像410相同的拍摄环境中比原图像410在时间上靠后拍摄的图像。另外,目的画质图像421和431、搜索用图像422和432、以及输出用图像423和433是与原图像420和430对应的图像。
即,第二图像变换部14利用被抑制了时间上的变化量的第三变换参数,将原图像410、420及430变换为输出用图像413、423及433。因此,输出部16如图4所示,能够与人逐渐适应不同的环境时认识到的像同样地,输出逐渐向目的画质图像变化的图像(输出用图像413、423及433)。
接下来,说明使用颜色统计图(histogram)作为特征量的情况下的搜索处理的具体例。
图5是用于说明本发明的实施方式涉及的图像处理装置的与搜索有关的动作的具体例的图。在图5(a)中,表示出第一图像500和初始区域501。初始颜色统计图502是根据由第一图像变换部13变换后的图像生成的初始区域501的颜色统计图。
其中,颜色统计图是表示构成图像或图像的一部分区域的多个像素所具有的颜色的频度的分布的信息。例如,颜色统计图的横轴表示将HSV(Hue Saturation Value:色相饱和度亮度)颜色空间的色相(H)的值(0~360)分割为20份时的颜色的分区。另外,颜色统计图的纵轴表示属于各分区的像素的数量(度数)。各像素属于哪个颜色的分区,利用用各像素的色相(H)的值除以分区的数量所得到的值的整数部分来决定即可。
另外,分区的数量不一定需要是20,只要为1以上,无论是怎样的数量都可以。但是,优选初始区域中包含的颜色越多,分区的数量就越多。由此,在初始区域中包含的颜色较多时,能够利用每个较小的分区的度数来搜索类似的区域,因此能够提高对象区域的确定的精度。另一方面,在初始区域中包含的颜色较少时,由于存储每个较大的分区的度数,因此能够减少存储器的使用量。
接下来,如图5(b)所示,跟踪处理部15在与第一图像500在时间上连续的下一个第二图像510中,决定搜索区域511。具体而言,跟踪处理部15将包括第一图像500中的对象区域(在此为初始区域501)、且比对象区域(在此为初始区域501)大的矩形区域决定为搜索区域511。更具体而言,跟踪处理部15读出存储部17中保存的初始区域501的边的长度及中心位置的坐标。然后,跟踪处理部15将比读出的边的长度大的矩形区域且以读出的中心位置的坐标为中心的矩形区域,决定为搜索区域。
其中,搜索区域的形状不必须是矩形,也可以是圆形、六边形等任意形状。另外,搜索区域的大小既可以是预先决定的大小,也可以是随着帧率或快门速度越小而变得越大的大小。
然后,跟踪处理部15选择作为比搜索区域511小的区域且位于搜索区域511内的区域的选择区域512。然后,跟踪处理部15提取作为所选择的选择区域512的颜色统计图的选择颜色统计图513。此时,选择颜色统计图513优选利用初始颜色统计图502进行归一化。具体而言,跟踪处理部15优选通过用选择区域的颜色统计图中的各分区的度数除以初始颜色统计图502的各分区的度数,由此对选择颜色统计图513进行归一化。
接下来,如图5(c)所示,跟踪处理部15计算初始颜色统计图502与选择颜色统计图513重合的部分即重复部分520的比例,来作为类似度。具体而言,跟踪处理部15根据(式4)来计算类似度。
[数学式4]
S R 1 = Σ i = 0 dim Min ( R i , I i ) ...(式4)
在此,Ri是初始颜色统计图502中的第i个分区的度数。另一方面,Ii是选择颜色统计图513中的第i个分区的度数。在此,由于分割成20份,因此i为从0到19的值。另外,示出重复部分520的比例越大则类似度所表示的类似程度越高,重复部分520的比例越小则类似度所表示类似程度越低的情况。
跟踪处理部15像这样在搜索区域511内一边变更位置及大小,一边反复进行选择区域512的选择及选择颜色统计图513的提取,将颜色统计图的重复部分520的比例最大的选择区域512确定为对象区域。然后,跟踪处理部15将对象区域的边的长度及中心位置的坐标登录在存储部17中。
如上所述,本实施方式涉及的图像处理装置10即使在由于拍摄环境变化而表示对象物的像的特征量发生了变动的情况下,利用搜索用图像来搜索对象区域,该搜索用图像是利用与拍摄环境对应的第一及第二变换参数对第一图像进行了变换而得到的图像。也就是说,图像处理装置10不是使用逐渐追随拍摄环境的变化的参数,而是使用即时追随拍摄环境的变化的参数,并利用将第一图像变换为具有与第二图像同等的画质的图像而得到的搜索用图像,来搜索对象区域。结果,图像处理装置10能够与摄影环境的变化无关地稳定跟踪对象物的像。
进而,图像处理装置10通过输出利用第三变换参数进行变换所得到的图像,还能够减少用户在观看图像时的不协调感或不舒服感,该第三变换参数逐渐对应于拍摄环境的变化。
另外,图像处理装置10在第一及第二图像之中仅将第一图像变换为搜索用图像,因此与变换第一及第二图像双方相比,能够减轻变换图像的处理的负担。
另外,图像处理装置10能够利用稳健性高的颜色统计图来跟踪对象物的像,因此能够更加稳定地跟踪对象物的像。
以上,根据实施方式说明了本发明涉及的图像处理装置或电子照相机,但本发明不限定于这些实施方式。在不脱离本发明的主旨的范围内,对本实施方式施加了本领域技术人员所想到的各种变形所得到的方式,也包括在本发明的范围内。
例如,在上述实施方式中,第一图像变换部13对第一图像进行了变换,但也可以将第二图像变换为具有与第一图像同等画质的图像。另外,第一图像变换部13也可以将第一图像及第二图像双方变换为目的画质图像,以使变换后的图像的画质互为同等。具体而言,例如,在第一图像及第二图像之中仅变换第二图像的情况下,第一图像变换部13按照(式5),将具有像素值V4作为RGB各自的各像素的像素值的原图像410(第二图像),变换为具有像素值V5作为RGB各自的各像素的像素值的搜索用图像。然后,跟踪处理部15在像这样进行了变换的搜索用图像中,搜索具有与从原图像400中的初始区域403中提取的特征量最类似的区域。
[数学式5]
V 5 ( R , G , B ) = P 2 ( R , G , B ) P 1 ( R , G , B ) * V 4 ( R , G , B ) ...(式5)
另外,在上述实施方式中,第一图像变换部13对第一图像的全部进行了变换,但也可以仅对第一图像之中初始区域所包含的图像进行变换。由此,图像处理装置10能够使第一图像变换部13的处理的负担减轻。另外,在这种情况下,在存储部17中,存储构成初始区域的各像素的像素值来作为与初始区域有关的信息即可。由此,图像处理装置10与存储第一图像的全部的情况相比,能够减少存储部17的存储容量。
另外,在存储部17中,也可以存储从初始区域中提取的特征量,来作为与初始区域有关的信息。在这种情况下,第一图像变换部13不对第一图像进行变换,而是对初始区域的特征量进行变换。由此,跟踪处理部15无需每次在拍摄的图像中搜索对象区域时都提取初始区域的特征量,因此能够减轻跟踪处理部15的负担。
另外,在上述实施方式中,跟踪处理部15提取了颜色统计图来作为特征量,但例如也可以提取亮度统计图来作为特征量。在这种情况下,跟踪处理部15通过比较从初始区域得到的亮度统计图和从选择区域得到的亮度统计图,由此计算类似度。
另外,构成上述图像处理装置的结构要素的一部分或全部也可以由一个系统LSI(Large Scale Integration:大规模集成电路)构成。系统LSI是在一个芯片上集成多个结构部而制造的超多功能LSI,具体而言,是构成为包括微处理器、ROM(Read Only Memory:只读存储器)及RAM(Random Access Memory:随机接入存储器)等的计算机系统。例如,如图1所示,初始区域获得部11、变换参数计算部12、第一图像变换部13、第二图像变换部14、跟踪处理部15和输出部16也可以由一个系统LSI30构成。
另外,本发明不仅可以作为如上所述的图像处理装置来实现,也可以如图2所示,作为具备图像处理装置所具备的特征性结构部的电子照相机来实现。进而,本发明也可以作为以图像处理装置所具备的特征性结构部的动作为步骤的图像处理方法来实现。另外,也可以作为使计算机执行这样的图像处理方法中包括的步骤的程序来实现。而且,这样的程序也可以通过CD-ROM等记录介质或互联网等传输媒体来分发。
工业可利用性
本发明涉及的电子照相机或摄像装置等能够用于以下数字视频摄像机、数字静态照相机、监视用摄像机、车载用摄像机或具备照相机功能的便携式电话等,上述数字视频摄像机、数字静态照相机、监视用摄像机、车载用摄像机或具备照相机功能的便携式电话等通过对显示作为跟踪对象的对象物的区域进行确定,由此跟踪对象物的像。
符号说明
10图像处理装置
11初始区域获得部
12变换参数计算部
13第一图像变换部
14第二图像变换部
15跟踪处理部
16输出部
17存储部
30系统LSI
100电子照相机
101摄影镜头
102快门
103摄像元件
104AD转换器
105定时产生电路
106图像处理电路
107存储器控制电路
108图像显示存储器
109DA转换器
110图像显示部
111、120存储器
112调整大小电路
113系统控制电路
114曝光控制部
115测距控制部
116变焦控制部
117保护盖控制部
118闪光灯
119保护部
121显示部
122非易失性存储器
123模式调节开关
124快门开关
125电源控制部
126、127、131、132连接器
128电源
129、130接口
133记录介质
134光学取景器
135通信部
136天线
137初始区域获得电路
138变换参数计算电路
139第一图像变换电路
140第二图像变换电路
141跟踪处理电路
142跟踪结果描绘电路
143照相机控制电路
400、410、420、430原图像
401、411、421、431目的画质图像
402、413、423、433输出用图像
403初始区域
412、422、432搜索用图像
414对象区域
415区域
416框
501初始区域
502初始颜色统计图
511搜索区域
512选择区域
513选择颜色统计图
520重复部分

Claims (8)

1.一种电子照相机,在连续拍摄的图像中跟踪作为跟踪的对象的对象物的像,并利用跟踪结果,执行自动聚焦处理、自动曝光处理、以及基于照相机控制的取景处理及自动拍摄处理中的至少一个,该电子照相机具备:
存储部,存储与初始区域有关的信息、以及第一变换参数,该初始区域是在第一图像中包含上述对象物的像的区域,该第一变换参数是与拍摄上述第一图像时的拍摄环境对应的参数,而且是用于将上述第一图像变换为具有规定的画质的图像的参数;
变换参数计算部,按照拍摄第二图像时的拍摄环境,计算第二变换参数,该第二图像是在上述第一图像之后拍摄的图像,该第二变换参数用于将上述第二图像变换为具有上述规定的画质的图像;
第一图像变换部,利用上述存储部中存储的第一变换参数和由上述变换参数计算部计算出的第二变换参数,对上述第一图像及第二图像中的至少一方进行变换;
跟踪处理部,利用由上述第一图像变换部变换后的图像,在上述第二图像中搜索具有与定量地表示上述初始区域的特征的特征量类似的特征量的区域,从而跟踪上述对象物的像;
第二图像变换部,利用与上述第二变换参数相比被抑制了连续拍摄的图像间的变化量的第三变换参数,对上述第二图像进行变换;以及
输出部,输出由上述第二图像变换部变换后的图像、以及表示由上述跟踪处理部搜索的区域的信息。
2.如权利要求1记载的电子照相机,其中,
上述第一变换参数、第二变换参数及第三变换参数,是用于按照从拍摄的图像中检测出的色温、曝光及亮度值中的至少一个来对构成上述图像的多个像素所具有的像素值进行变换的参数。
3.如权利要求1记载的电子照相机,其中,
上述第一图像变换部利用上述第一变换参数与第二变换参数之比,来对上述第一图像及第二图像中的一方进行变换。
4.如权利要求1记载的电子照相机,其中,
上述第一图像变换部在对上述第一图像进行变换的情况下,仅变换上述第一图像之中上述初始区域所包含的图像。
5.如权利要求1记载的电子照相机,其中,
上述特征量是表示构成图像的像素所具有的颜色的频度分布的颜色统计图;
上述跟踪处理部在上述第二图像中,搜索具有与上述初始区域的颜色统计图重合的部分的比例最大的颜色统计图的区域。
6.一种图像处理装置,在连续拍摄的图像中跟踪作为跟踪的对象的对象物的像,该图像处理装置具备:
存储部,存储与初始区域有关的信息、以及第一变换参数,该初始区域是在第一图像中包含上述对象物的像的区域,该第一变换参数是与拍摄上述第一图像时的拍摄环境对应的参数,而且是用于将上述第一图像变换为具有规定的画质的图像的参数;
变换参数计算部,按照拍摄第二图像时的拍摄环境,计算第二变换参数,该第二图像是在上述第一图像之后拍摄的图像,该第二变换参数用于将上述第二图像变换为具有上述规定的画质的图像;
第一图像变换部,利用上述存储部中存储的第一变换参数和由上述变换参数计算部计算出的第二变换参数,对上述第一图像及第二图像中的至少一方进行变换;
跟踪处理部,利用由上述第一图像变换部变换后的图像,在上述第二图像中搜索具有与定量地表示上述初始区域的特征的特征量类似的特征量的区域,从而跟踪上述对象物的像;
第二图像变换部,利用与上述第二变换参数相比被抑制了连续拍摄的图像间的变化量的第三变换参数,对上述第二图像进行变换;以及
输出部,输出由上述第二图像变换部变换后的图像、以及表示由上述跟踪处理部搜索的区域的信息。
7.一种图像处理方法,在连续拍摄的图像中跟踪作为跟踪的对象的对象物的像,用于图像处理装置,
上述图像处理装置具备存储部,
该存储部存储与初始区域有关的信息、以及第一变换参数,该初始区域是在第一图像中包含上述对象物的像的区域,该第一变换参数是与拍摄上述第一图像时的拍摄环境对应的参数,而且是用于将上述第一图像变换为具有规定的画质的图像的参数;
上述图像处理方法包括:
变换参数计算步骤,按照拍摄第二图像时的拍摄环境,计算第二变换参数,该第二图像是在上述第一图像之后拍摄的图像,该第二变换参数用于将上述第二图像变换为具有上述规定的画质的图像;
第一图像变换步骤,利用上述存储部中存储的第一变换参数和上述变换参数计算步骤中计算出的第二变换参数,对上述第一图像及第二图像中的至少一方进行变换;
跟踪处理步骤,利用上述第一图像变换步骤中变换后的图像,搜索具有与定量地表示初始区域的特征的特征量类似的特征量的区域,从而跟踪上述对象物的像;
第二图像变换步骤,利用与上述第二变换参数相比被抑制了连续拍摄的图像间的变化量的第三变换参数,对上述第二图像进行变换;以及
输出步骤,输出上述第二图像变换步骤中变换后的图像、以及表示上述跟踪处理步骤中搜索的区域的信息。
8.一种集成电路,在连续拍摄的图像中跟踪作为跟踪的对象的对象物的像,是图像处理装置具备的集成电路,
上述图像处理装置具备存储部,
该存储部存储与初始区域有关的信息、以及第一变换参数,该初始区域是在第一图像中包含上述对象物的像的区域,该第一变换参数是与拍摄上述第一图像时的拍摄环境对应的参数,而且是用于将上述第一图像变换为具有规定的画质的图像的参数;
上述集成电路具备:
变换参数计算部,按照拍摄第二图像时的拍摄环境,计算第二变换参数,该第二图像是在上述第一图像之后拍摄的图像,该第二变换参数用于将上述第二图像变换为具有上述规定的画质的图像;
第一图像变换部,利用上述存储部中存储的第一变换参数和由上述变换参数计算部计算出的第二变换参数,对上述第一图像及第二图像中的至少一方进行变换;
跟踪处理部,利用由上述第一图像变换部变换后的图像,在上述第二图像中搜索具有与定量地表示上述初始区域的特征的特征量类似的特征量的区域,从而跟踪上述对象物的像;
第二图像变换部,利用与上述第二变换参数相比被抑制了连续拍摄的图像间的变化量的第三变换参数,对上述第二图像进行变换;以及
输出部,输出由上述第二图像变换部变换后的图像、以及表示由上述跟踪处理部搜索的区域的信息。
CN201080002005.8A 2009-05-11 2010-04-14 电子照相机、图像处理装置及图像处理方法 Expired - Fee Related CN102084642B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009-114958 2009-05-11
JP2009114958A JP5313037B2 (ja) 2009-05-11 2009-05-11 電子カメラ、画像処理装置および画像処理方法
PCT/JP2010/002685 WO2010131416A1 (ja) 2009-05-11 2010-04-14 電子カメラ、画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
CN102084642A CN102084642A (zh) 2011-06-01
CN102084642B true CN102084642B (zh) 2014-05-14

Family

ID=43084802

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080002005.8A Expired - Fee Related CN102084642B (zh) 2009-05-11 2010-04-14 电子照相机、图像处理装置及图像处理方法

Country Status (6)

Country Link
US (1) US8593522B2 (zh)
EP (1) EP2432214A4 (zh)
JP (1) JP5313037B2 (zh)
KR (1) KR20120007948A (zh)
CN (1) CN102084642B (zh)
WO (1) WO2010131416A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109478061A (zh) * 2016-07-28 2019-03-15 深圳市大疆创新科技有限公司 基于目标的图像曝光调整

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5663923B2 (ja) * 2010-03-31 2015-02-04 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
US8441548B1 (en) * 2012-06-15 2013-05-14 Google Inc. Facial image quality assessment
CN103780841A (zh) * 2014-01-23 2014-05-07 深圳市金立通信设备有限公司 一种拍摄方法及拍摄装置
US9436870B1 (en) * 2014-06-06 2016-09-06 Amazon Technologies, Inc. Automatic camera selection for head tracking using exposure control
US9131150B1 (en) * 2014-06-06 2015-09-08 Amazon Technologies, Inc. Automatic exposure control and illumination for head tracking
WO2016006305A1 (ja) * 2014-07-08 2016-01-14 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
WO2016076514A1 (ko) * 2014-11-14 2016-05-19 삼성전자 주식회사 연사 촬영을 위한 장치 및 방법
JP2016096459A (ja) 2014-11-14 2016-05-26 三星電子株式会社Samsung Electronics Co.,Ltd. 撮像装置及び撮像方法
CN107211114B (zh) * 2015-02-18 2019-01-22 富士胶片株式会社 跟踪摄影控制装置、跟踪摄影系统、相机、终端装置及方法
WO2016171259A1 (ja) * 2015-04-23 2016-10-27 株式会社ニコン 画像処理装置、及び撮像装置
CN107636698B (zh) * 2015-06-25 2021-10-19 富士通株式会社 程序生成装置、程序生成方法以及生成程序
CN105141855B (zh) * 2015-08-31 2018-11-09 联想(北京)有限公司 一种图像处理方法及电子设备
JP6439004B2 (ja) * 2016-04-28 2018-12-19 株式会社松屋アールアンドディ 縫製装置及び縫製方法
US10163212B2 (en) * 2016-08-19 2018-12-25 Sony Corporation Video processing system and method for deformation insensitive tracking of objects in a sequence of image frames
KR102401659B1 (ko) * 2017-03-23 2022-05-25 삼성전자 주식회사 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법
CN111034185B (zh) * 2017-08-23 2021-07-27 索尼公司 影像处理装置、影像处理方法、程序和远程通信系统
TWI632527B (zh) * 2017-11-22 2018-08-11 東友科技股份有限公司 影像擷取與輸出方法
CN108742170B (zh) * 2018-05-08 2020-08-18 华南理工大学 一种烤箱的智能识别烹饪系统
CN109104573B (zh) * 2018-09-29 2021-01-08 维沃移动通信(杭州)有限公司 一种确定对焦点的方法及终端设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1238889A (zh) * 1996-11-27 1999-12-15 普林斯顿视频图像公司 使用图像纹理模板的运动跟踪
JP2000082135A (ja) * 1998-09-07 2000-03-21 Dainippon Printing Co Ltd 撮像画像幾何歪み検出装置
JP2002150287A (ja) * 2000-11-07 2002-05-24 Minolta Co Ltd 画像検出装置、画像検出方法、ディジタルカメラおよびプリンタ
JP2006018389A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像対応点抽出方法、画像対応点抽出装置、及び記憶媒体
JP2009017457A (ja) * 2007-07-09 2009-01-22 Fujifilm Corp 複眼撮影装置及びその調節方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2568161B2 (ja) 1988-11-24 1996-12-25 キヤノン株式会社 自動露光制御装置
JPH0730796A (ja) * 1993-07-14 1995-01-31 Sony Corp ビデオ信号追従処理システム
JPH0795598A (ja) * 1993-09-25 1995-04-07 Sony Corp 目標追尾装置
US5912980A (en) * 1995-07-13 1999-06-15 Hunke; H. Martin Target acquisition and tracking
JP3729933B2 (ja) * 1996-05-31 2005-12-21 松下電器産業株式会社 自動監視装置
US6100925A (en) * 1996-11-27 2000-08-08 Princeton Video Image, Inc. Image insertion in video streams using a combination of physical sensors and pattern recognition
US6363160B1 (en) * 1999-01-22 2002-03-26 Intel Corporation Interface using pattern recognition and tracking
US6741725B2 (en) 1999-05-26 2004-05-25 Princeton Video Image, Inc. Motion tracking using image-texture templates
US6859552B2 (en) 2000-11-07 2005-02-22 Minolta Co., Ltd. Image retrieving apparatus
US7043058B2 (en) * 2001-04-20 2006-05-09 Avid Technology, Inc. Correcting motion vector maps for image processing
US7616233B2 (en) * 2003-06-26 2009-11-10 Fotonation Vision Limited Perfecting of digital image capture parameters within acquisition devices using face detection
US7440593B1 (en) * 2003-06-26 2008-10-21 Fotonation Vision Limited Method of improving orientation and color balance of digital images using face detection information
US8948468B2 (en) * 2003-06-26 2015-02-03 Fotonation Limited Modification of viewing parameters for digital images using face detection information
JP4363151B2 (ja) * 2003-10-14 2009-11-11 カシオ計算機株式会社 撮影装置、その画像処理方法及びプログラム
US7505607B2 (en) * 2004-12-17 2009-03-17 Xerox Corporation Identifying objects tracked in images using active device
RU2008111509A (ru) * 2005-08-26 2009-10-10 Конинклейке Филипс Электроникс Н.В. (Nl) Устройство и способ обработки изображения фотокамеры
WO2007038642A2 (en) * 2005-09-26 2007-04-05 Cognisign, Llc Apparatus and method for trajectory-based identification of digital data content
GB2430735A (en) * 2005-09-30 2007-04-04 Sony Uk Ltd Object detection
JP2010218271A (ja) * 2009-03-17 2010-09-30 Tokyo Institute Of Technology パラメータ制御処理装置及び画像処理装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1238889A (zh) * 1996-11-27 1999-12-15 普林斯顿视频图像公司 使用图像纹理模板的运动跟踪
JP2000082135A (ja) * 1998-09-07 2000-03-21 Dainippon Printing Co Ltd 撮像画像幾何歪み検出装置
JP2002150287A (ja) * 2000-11-07 2002-05-24 Minolta Co Ltd 画像検出装置、画像検出方法、ディジタルカメラおよびプリンタ
JP2006018389A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像対応点抽出方法、画像対応点抽出装置、及び記憶媒体
JP2009017457A (ja) * 2007-07-09 2009-01-22 Fujifilm Corp 複眼撮影装置及びその調節方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109478061A (zh) * 2016-07-28 2019-03-15 深圳市大疆创新科技有限公司 基于目标的图像曝光调整

Also Published As

Publication number Publication date
JP5313037B2 (ja) 2013-10-09
WO2010131416A1 (ja) 2010-11-18
CN102084642A (zh) 2011-06-01
US20110122254A1 (en) 2011-05-26
US8593522B2 (en) 2013-11-26
KR20120007948A (ko) 2012-01-25
EP2432214A4 (en) 2014-07-16
JP2010263584A (ja) 2010-11-18
EP2432214A1 (en) 2012-03-21

Similar Documents

Publication Publication Date Title
CN102084642B (zh) 电子照相机、图像处理装置及图像处理方法
CN101489051B (zh) 图像处理设备和图像处理方法以及摄像设备
CN101382640B (zh) 摄像设备、镜头单元和脸检测方法
CN102057665A (zh) 电子照相机、图象处理装置及图象处理方法
US7433589B2 (en) Image capturing apparatus and image capturing method
CN101355655B (zh) 图像拾取装置及其处理方法
CN101790042B (zh) 摄像装置及其控制方法和图像处理装置及其控制方法
CN1848915B (zh) 摄像装置及其控制方法
CN101690243A (zh) 摄像装置以及摄像方法
CN100553301C (zh) 亮度的修正方法
US7944501B2 (en) Image sensing apparatus and image sensing apparatus control method
CN103379281A (zh) 用于进行图像合成的图像处理设备和图像处理方法
CN102375323A (zh) 摄像系统和摄像设备
CN108028895A (zh) 有缺陷的图像传感器元件的校准
CN101877765A (zh) 图像变换设备及控制图像变换设备操作的方法
CN105554370A (zh) 图像处理设备和图像处理方法
CN101640764B (zh) 摄像装置和摄像方法
CN106358030A (zh) 图像处理装置和图像处理方法
CN1812478B (zh) 图像摄取设备及该设备的控制方法
CN1322347C (zh) 图像摄取装置及其控制方法、其控制程序以及存储媒体
US20060062092A1 (en) Image pickup apparatus equipped with light emitting device and control method thereof
CN102244792A (zh) 图像处理设备和图像处理方法
US7342610B2 (en) Color balance adjustment of image sensed upon emitting flash light
CN101577793B (zh) 摄像设备
CN101848335B (zh) 摄影装置和实时取景显示方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: MATSUSHITA ELECTRIC (AMERICA) INTELLECTUAL PROPERT

Free format text: FORMER OWNER: MATSUSHITA ELECTRIC INDUSTRIAL CO, LTD.

Effective date: 20141009

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20141009

Address after: Seaman Avenue Torrance in the United States of California No. 2000 room 200

Patentee after: PANASONIC INTELLECTUAL PROPERTY CORPORATION OF AMERICA

Address before: Osaka Japan

Patentee before: Matsushita Electric Industrial Co.,Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20140514

Termination date: 20200414