CN106375656B - 图像处理设备及其控制方法和摄像装置及其控制方法 - Google Patents
图像处理设备及其控制方法和摄像装置及其控制方法 Download PDFInfo
- Publication number
- CN106375656B CN106375656B CN201610586622.6A CN201610586622A CN106375656B CN 106375656 B CN106375656 B CN 106375656B CN 201610586622 A CN201610586622 A CN 201610586622A CN 106375656 B CN106375656 B CN 106375656B
- Authority
- CN
- China
- Prior art keywords
- angular velocity
- image
- image pickup
- frame rate
- motion vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6815—Motion detection by distinguishing pan or tilt from motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/65—Control of camera operation in relation to power supply
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Adjustment Of Camera Lenses (AREA)
- Studio Devices (AREA)
Abstract
本发明提供一种图像处理设备及其控制方法和摄像装置及其控制方法。摄像装置包括用于检测抖动角速度的角速度传感器以及用于从利用摄像元件进行连续摄像而得到的多个图像中检测被摄体的运动矢量的运动矢量检测单元。帧频改变单元根据摄像装置的抖动角速度来改变与用来检测被摄体的运动矢量的图像有关的帧频的值。被摄体角速度计算单元基于摄像装置的抖动角速度和被摄体的运动矢量来计算相对于摄像装置的被摄体角速度。摇摄控制器进行控制以使用移位透镜组的驱动控制来缩小被摄体角速度和摄像装置的抖动角速度之间的差。
Description
技术领域
本发明涉及用于提高基于所拍摄的图像的被摄体的移动量的检测性能的技术。
背景技术
摇摄是在跟随移动被摄体(被摄体)的情况下以与正常快门速度相比更慢的快门速度来进行拍摄的方式。由于通过进行摇摄可以获取具有移动的背景和静止的被摄体的图像,因此可以拍摄出具有高速度感的照片。然而,由于进行较长时间的摄像,因此难以与曝光期间的被摄体的速度和照相机的抖动速度相匹配。这是一种需要熟练技能的摄像技术。
作为适用于进行摇摄的拍摄辅助技术,存在如下方法,该方法用于检测被摄体的速度和照相机的抖动速度之间的差并且使用图像抖动校正功能来校正与该差相对应的模糊量。在紧挨着拍摄之前,照相机中的角速度传感器检测跟随被摄体的照相机的平摇的角速度,并且检测摄像面上的主被摄体的图像的移动量。根据所检测到的平摇角速度和摄像面上的被摄体图像的移动量,可以计算出被摄体的角速度。在曝光期间,根据所计算出的主被摄体的角速度和照相机中的角速度传感器输出之间的差量,来执行抖动校正处理。可以利用主被摄体和照相机的平摇速度差以及对照相机抖动量的校正,来抑制作为摇摄对象的主被摄体的模糊。
在该方法中的一个重要事项是,更精确地确定被摄体的角速度,即,为了使拍摄者所针对的被摄体的图像停止而该拍摄者需要与该被摄体相对应地对照相机进行平摇的角速度。即,在角速度中产生误差的情况下,利用图像抖动校正功能所进行的校正也可能产生误差。存在误差出现在图像中作为残余模糊的可能性。为了精确地确定主被摄体的角速度,需要检测摄像面上的移动量,并且需要通过将当前帧的图像和下一帧的图像相比较来检测运动矢量。在这种情况下,由于图像中的各分割区域(块)的运动矢量超出在检测到该运动矢量时所预先设置的搜索范围,因此可能无法精确地检测该运动量。在日本特开2014-60654中公开了:缩小图像的尺寸并且减少搜索区域中的像素的数量,以实质上扩大搜索范围。
然而,在日本特开2014-60654中所公开的现有技术存在如下可能性:如果被摄体的图像由于图像的尺寸的缩小而变得不清晰,则无法精确地检测到被摄体的移动量。在进行摇摄时很少有机会进行拍摄的情况下,期望尽可能地减小失败的可能性。
发明内容
本发明提供在被摄体的光学检测中提高被摄体的移动量的检测性能。
根据本发明实施例的一种图像处理设备,其特征在于,包括:获取单元,用于获取角速度传感器所检测到的摄像装置的平摇角速度以及从连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;确定单元,用于确定用于检测所述运动矢量的图像的帧频的值;以及计算单元,用于根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度,其中,所述确定单元确定与所述平摇角速度相对应的所述帧频的值,并且所述获取单元获取从以所述确定单元所确定的帧频拍摄的多个图像数据中所检测到的被摄体的运动矢量。
根据本发明实施例的一种摄像装置,其特征在于,包括:上述的图像处理设备;图像抖动校正单元,用于对摄像元件所获取到的图像的图像抖动进行校正;以及控制单元,用于获取所述计算单元所计算出的被摄体的角速度的信息,并且进行控制,以使用所述图像抖动校正单元来减小所述被摄体的角速度和所述平摇角速度之间的差。
根据本发明实施例的一种图像处理设备的控制方法,其特征在于,所述控制方法包括以下步骤:根据角速度传感器所检测到的摄像装置的平摇角速度,来确定用于检测被摄体的运动矢量的图像的帧频的值;获取所述平摇角速度以及从以所述帧频连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;以及根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度。
根据本发明实施例的一种摄像装置的控制方法,其中所述摄像装置用于控制图像抖动校正单元并且校正摄像元件所获取到的图像的图像抖动,其特征在于,所述控制方法包括以下步骤:根据角速度传感器所检测到的所述摄像装置的平摇角速度,来确定用于检测被摄体的运动矢量的图像的帧频的值;获取所述摄像装置的平摇角速度以及从所述摄像元件以所述帧频连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度;以及进行控制,以获取所计算出的被摄体的角速度的信息,并且使用所述图像抖动校正单元来减小所述被摄体的角速度和所述平摇角速度之间的差。
本发明的图像处理设备可以提高被摄体的移动量的检测性能。
根据以下(参考附图的)典型实施例的说明,本发明的其它特征将变得明显。
附图说明
图1是示出根据本发明实施例的摄像装置的框图。
图2是示出根据本发明实施例的摇摄控制的框图。
图3是示出根据本发明实施例的平摇控制的流程图。
图4是示出平摇判断的图。
图5是示出根据本发明的第一实施例的摇摄控制的流程图。
图6A和6B是示出根据第一实施例的帧频的特性的图。
图7A和7B是示出运动矢量的计算时刻和角速度传感器的输出之间的关系的图。
图8是示出角速度传感器的输出的获取时刻的设置处理的流程图。
图9是中断处理的流程图。
图10是示出角速度数据的采样时刻的说明图。
图11A和11B是示出在平摇速度较高的情况下进行摇摄时的运动矢量的检测区域和搜索范围的说明图。
图12A和12B是示出在平摇速度较低的情况下进行摇摄时的运动矢量的检测区域和搜索范围的说明图。
图13A~13C是示出在将运动矢量检测结果转换摄像面上的移动距离的情况下的直方图的图。
图14是示出根据本发明的第二实施例中的运动矢量检测的帧频的确定处理的流程图。
图15A和15B是示出第二实施例中的帧频的特性的图。
图16是示出根据本发明的第三实施例的运动矢量检测的帧频的确定处理的流程图。
图17A和17B是示出第三实施例中的帧频的特性的图。
具体实施方式
以下,将参考附图来说明各实施例。将首先说明各实施例共用的适用于图像处理设备的摄像装置的结构和操作,然后说明各实施例。在各实施例中,作为示例,描述了具有安装于摄像装置主体上的镜头装置的照相机,但是本发明适用于具有镜头和摄像装置主体一体构成的照相机或摄像单元的信息处理设备等。
图1是示出根据本发明实施例的摄像装置的结构示例的框图。摄像装置包括可更换镜头100和安装可更换镜头100的照相机主体120。可更换镜头100包括摄像透镜单元101。摄像透镜单元101包括主摄像光学系统102、能够改变焦距的变焦透镜组103以及构成图像抖动校正光学系统的移位透镜组104。移位透镜组104是用于通过在与光轴垂直的方向上进行移动来以光学方式校正由于照相机抖动等所引起的相对于光轴的图像的模糊的可移动光学构件。变焦编码器105检测变焦透镜组103的位置,并且位置传感器106检测移位透镜组104的位置。将各透镜组的位置检测信号发送至镜头系统控制用微型计算机(以下称为镜头控制器)113。
角速度传感器111检测摄像装置的抖动,并且将角速度检测信号输出至放大器112。放大器112将从角速度传感器111输出的角速度检测信号放大,并且将信号输出至镜头控制器113。放大器115将位置传感器106的输出放大,并且将结果输出至镜头控制器113。镜头控制器113从放大器115获取移位透镜组104的位置检测信号,并且通过将控制信号输出至驱动器114来对移位透镜组104进行驱动控制。换句话说,镜头控制器113包括用于进行图像抖动校正控制的图像抖动校正控制器117,并且使用用于驱动移位透镜组104的驱动器114来控制移位透镜组104。另外,镜头控制器113包括用于进行摇摄辅助控制的摇摄控制器118。摇摄辅助是用于利用通过使移位透镜组104移动以减小被摄体的移动速度(角速度)和照相机抖动的角速度(平摇速度或俯仰速度)之间的差来辅助用户进行摇摄的功能。
除了摇摄辅助控制以外,镜头控制器113还进行调焦透镜控制、光圈控制、变焦透镜控制等,但是为了简明将省略这些控制的详细说明。另外,图像抖动校正控制器117针对诸如横轴和纵轴的两条正交轴进行抖动检测和图像抖动校正处理,但是由于除了方向不同以外以同样的配置来进行该处理,因此将仅说明一个轴。
通过安装触点部116和161将可更换镜头100和照相机主体120联接。镜头控制器113和照相机主体120中的系统控制用微型计算机(以下称为照相机控制器)132能够经由安装触点部116和161在预定时刻进行串行通信。
照相机主体120的快门121控制曝光时间。摄像元件122通过光电转换将经由摄像透镜单元101而成像的被摄体的图像转换成电信号,并且获取图像信号。摄像元件122是诸如互补金属氧化物半导体(CMOS)传感器等的图像传感器。模拟信号处理电路123是用于对摄像元件122的输出进行信号处理的模拟前端(AFE)电路。照相机信号处理电路124获取模拟信号处理电路123的输出,并且进行稍后说明的信号处理。
定时生成器(以下称为TG)125根据来自照相机信号处理电路124的信号来设置摄像元件122或模拟信号处理电路123的操作定时。操作单元131被配置成电源开关、释放开关以及用于将设置切换成摇摄辅助模式的开关等。操作单元131将与用户操作相对应的操作信号输出至照相机控制器132。照相机控制器132是用于控制照相机系统整体的中央单元,并且根据用户操作等来控制各单元的处理或操作。例如,照相机控制器132将控制信号输出至驱动器133,并且对用于驱动快门121的马达134进行驱动控制。
另外,设置存储卡171作为用于记录诸如所拍摄的图像等的数据的记录介质。随机存取存储器(RAM)181是用于存储图像数据等的存储装置。将存储卡171和RAM 181连接至照相机信号处理电路124。显示单元172包括例如液晶显示屏(LCD)。显示单元172进行用户试图使用照相机进行拍摄的被摄体的图像的监视显示以及所拍摄的图像的显示等。
照相机信号处理电路124包括运动矢量检测单元141、大小调整单元142、帧频改变单元143以及显示更新单元144。另外,照相机控制器132包括快门控制器151、用于计算主被摄体的角速度的被摄体角速度计算单元152以及摇摄判断单元153。稍后将说明各单元的详情。
接着,将说明第一摄像装置的操作的概要。在用户使用操作单元131对摄像装置进行电源接通操作(ON操作)的情况下,照相机控制器132检测摄像装置的状态改变。照相机控制器132进行向照相机主体120的各电路的电源供给以及初始化设置。另外,通过安装触点部116和161来进行从照相机主体120到可更换镜头100的电源供给。镜头控制器113进行可更换镜头100中的初始化设置。然后,在预定时刻开始镜头控制器113与照相机控制器132之间的通信。照相机控制器132与镜头控制器113在需要的时刻发送或接收信息。该信息包括例如与从照相机控制器132发送至镜头控制器113的照相机的状态或拍摄设置有关的信息、与从镜头控制器113发送至照相机控制器132的透镜的焦距有关的信息以及与角速度有关的信息等。
在第一模式(不执行摇摄辅助模式的设置的正常模式)下,在可更换镜头100中,角速度传感器111检测由照相机抖动等所引起的照相机的抖动。经由放大器112,通过镜头控制器113的图像抖动校正控制器117来获取角速度传感器111的输出。图像抖动校正控制器117驱动移位透镜组104并且控制图像抖动校正操作。
另一方面,在用户使用操作单元131设置了摇摄辅助模式(第二模式)的情况下,照相机控制器132切换成摇摄辅助控制。照相机控制器132将摇摄辅助控制所用的切换信息发送至镜头控制器113,并且镜头控制器113转移至摇摄辅助模式。在设置了摇摄辅助模式的情况下,照相机控制器132执行用以从以预定帧频进行摄像而得到的视频信息获取被摄体的运动检测信息的处理。从所拍摄的图像数据检测被摄体区域的图像的移动量(运动矢量)作为被摄体的运动检测信息。即,照相机信号处理电路124中的运动矢量检测单元141将当前帧的图像数据与过去帧的图像数据进行比较,并且检测并输出被摄体的运动矢量。同时,照相机控制器132从镜头控制器113接收通过可更换镜头100中的角速度传感器111所检测到的角速度检测信号。此外,照相机信号处理电路124将通过对视频信息进行显像处理等而获得的图像数据输出至RAM181。显示更新单元144以与同步信号相对应的更新间隔来读取RAM 181上的图像数据并且将该图像数据输出至显示单元172。为了将所拍摄的图像顺次显示在显示单元172的画面上,执行实时取景图像的显示更新处理。
在进行摇摄期间,运动矢量检测单元141检测并输出被摄体的运动矢量。运动矢量是两种类型的矢量。第一矢量是与拍摄者想要拍摄的被摄体(被称为主被摄体)相对应的矢量。第二矢量是与流动背景相对应的矢量。第二矢量实质上等于从照相机的角速度数据(角速度传感器111的检测信息)转换成的摄像面上的移动量。另外,第一矢量的移动量比第二矢量小。因此,可以识别出第一矢量和第二矢量,并且可以指定主被摄体的运动速度、即主被摄体的摄像面上的移动量。将参考图13A来提供详细说明。
图13A示出横轴为被摄体的摄像面上的移动量并且纵轴为频率的直方图。将图13A分割成包括背景和主被摄体的两个区域,并且频率分布的峰值(频率峰值)出现在各区域中。在照相机角速度附近,采集与背景区域相对应的摄像面上的移动量。因此,与背景区域的频率峰值相对应的摄像面上的移动量实质上等于第二矢量的大小。与主被摄体的频率峰值相对应的移动量实质上等于第一矢量的大小。通过这种方式,能够指定主被摄体的摄像面上的移动量。
照相机控制器132从镜头控制器113接收到的照相机角速度数据与照相机的摇摄速度相对应。由于这个原因,在对所接收到的照相机角速度数据与根据主被摄体的摄像面上的移动量以及拍摄透镜的当前焦距而计算出的角速度之间的差进行计算的情况下,结果是相对于照相机的主被摄体的角速度数据。照相机控制器132将被摄体角速度计算单元152所计算出的相对于照相机的主被摄体的角速度数据发送至镜头控制器113。
照相机控制器132的摇摄判断单元153对从镜头控制器113接收到的照相机角速度数据进行积分,并且将角度数据保存在存储单元中。另外,摇摄判断单元153可以在预定时刻重置存储单元中所保存的积分数据(角度数据)。因此,在用户进行摇摄的情况下,可以获取从预定时刻起开始的照相机的角度变化(平摇角度)。参考图2,将说明摇摄辅助模式下的可更换镜头100中的移位透镜驱动控制。
图2主要是根据本发明实施例的图像抖动校正控制器117和摇摄控制器118的框图。图2中与图1的组件相对应的部分给予已经使用了的附图标记,因而将省略这些部分的说明。首先,将说明图像抖动校正控制器117的组件(参照附图标记401~407)的详情。A(模拟)/D(数字)转换器117从放大器112获取角速度传感器111所检测到的抖动信号,并且将该抖动信号转换成数字信息。在大约1kHz~10kHz的频带中对从角速度传感器111输出的数据进行采样。将A/D转换器401的输出发送至滤波器操作单元402。
滤波器操作单元402被配置成高通滤波器(HPF)等,并且通过去除角速度传感器111的输出中所包括的偏移成分并且改变截止频率来进行用于平摇措施的处理。第一积分器403获取滤波器操作单元402的输出,对角速度数据进行积分,并且将该数据转换成用以生成移位透镜组104的驱动目标数据的角度移位数据。第一积分器403将该角度移位数据输出至加法器404。将该角度移位数据输入至加法器404作为正输入。
A/D转换器406从放大器115获取位置传感器106的输出,并且将该输出转换成数字数据。A/D转换器406将该数字数据(位置检测数据)输出至加法器404。将该位置检测数据输入至加法器404作为负输入。加法器404将第一积分器403、A/D转换器406和摇摄控制器118的各输出进行相加。在这种情况下的相加包括负值的相加(相减)。将加法器404的相加结果输出至脉冲宽度调制(PWM)输出单元405。例如,加法器404减去表示当前移位透镜组相对于移位透镜组104的驱动目标值的位置的值,并且计算移位透镜组104的驱动量数据。PWM输出单元405将与所计算出的驱动量数据相对应的PWM信号输出至移位透镜驱动用驱动器114。
平摇控制器407获取A/D转换器401的输出,并且根据角速度数据的状态判断是否进行了平摇操作。作为判断的结果,如果判断为进行了平摇操作,则平摇控制器407对滤波器操作单元402的截止频率进行改变控制,并且调整第一积分器403的输出。参考图3,将详细说明平摇控制。
图3是示出镜头控制器113的图像抖动校正控制器117所进行的平摇控制的示例的流程图。以下示出并说明平摇控制,但是即使在俯仰控制中也进行同样的处理。在图3的步骤S301中,平摇控制器407将从A/D转换器401所获取到的角速度数据的平均值与预定值进行比较。该角速度数据的平均值是进行预定次数的采样而得到的平均值,并且该预定值(被称为α)是判断所用的第一阈值。判断该角速度数据的平均值是否大于第一阈值。如果该角速度数据的平均值在第一阈值α以下,则平摇控制器407判断为不进行平摇操作,并且处理进入步骤S307。另外,如果该角速度数据的平均值大于预定值α,则处理进入步骤S302。
在步骤S302中,平摇控制器407将角速度数据的平均值与预定值(被称为β)进行比较。预定值β是判断所用的第二阈值,并且判断角速度数据的平均值是否大于第二阈值。作为判断结果,如果该角速度数据的平均值在预定值β以下,则平摇控制器407判断为进行缓慢的平摇操作并且处理进入步骤S306。另外,如果该角速度数据的平均值大于预定值β,则平摇控制器407判断为进行快速的平摇操作,并且处理进入步骤S303。
在步骤S303中,平摇控制器407将滤波器操作单元402中的HPF的截止频率设置成最大值,并且在下一步骤S304中将图像抖动校正控制强制设置成关闭(OFF)。进行该设置以使得通过增大HPF的截止频率来逐渐停止移位透镜组104,以消除在关闭图像抖动校正控制时图像的不自然。另外,在进行快速平摇操作时,平摇所引起的移动量相对于照相机抖动的大小变得很大。因此,即使关闭图像抖动校正控制并且照相机抖动仍然存在,也不存在不自然的感觉。如果在不进行这样的设置的情况下,想要将平摇操作所引起的照相机的抖动作为较大的抖动而进行校正,则在平摇开始时使所拍摄的图像停止,但是存在图像移动很大的可能性。即,由于在移位透镜组104到达校正端(与控制范围的限制位置相对应)的瞬间,图像突然移动很大,因此担心极度不自然的移动出现在图像中。在本实施例中,由于步骤S304的设置,因此可以向用户展现具有较少不自然的感觉的图像。
然后,在步骤S305中,平摇控制器407进行用以将第一积分器403的输出从当前数据逐渐改变成初始位置处的数据的处理,并且使移位透镜组104移动至初始位置。这是因为,如果下次恢复图像抖动校正操作,则移位透镜组104的位置优选位于驱动范围的初始位置。
如果处理从步骤S302进入步骤S306,则平摇控制器407根据步骤S306中的角速度数据的大小来设置滤波器操作单元402中的HPF的截止频率。这是因为,如果进行缓慢的平摇操作,则无法忽视照相机抖动的影响。步骤S306的处理是在平摇期间持续跟随图像不会使图像变得不自然的情况下进行图像抖动校正所需的处理。
如果处理从步骤S301进入步骤S307,则平摇控制器407将滤波器操作单元402中的HPF的截止频率设置成正常值。该正常值是预先设置的作为默认值的值。在步骤S306或步骤S307之后,在步骤S308中,平摇控制器407释放图像抖动校正控制的强制OFF设置。在步骤S305或步骤S308之后,结束平摇控制。
接着,将参考图4来说明角速度数据与预定值α和β之间的关系。图4的横轴是时间轴,并且纵轴表示平摇时水平方向上的角速度数据。预定值α和β的绝对值满足关系|β|>|α|。图形线G401是角速度数据的采样结果的图。在本示例中,如果照相机向右平摇,则获得正方向的输出作为角速度数据。如果照相机向左平摇,则获得负方向的输出作为角速度数据。从图形线G401的时间变化来看,检测到向右的快速平摇和向左的缓慢平摇。
在图4中,在进行平摇操作期间,角速度数据很大地偏离初始值(在该情况下为0)。如果对作为角速度数据而计算出的移位透镜组104的驱动目标值进行积分,则存在积分输出由于DC(直流)偏移成分而变成非常大的值并且变成不可控状态的可能性。该情况在进行快速平摇的情况下变得特别明显。在本示例中,如果检测到平摇,则通过进行用以将滤波器操作单元402中的HPF的截止频率增大为相对高的处理,来切断DC成分。在进行快速平摇的情况下,进一步进行以下设置:通过增大HPF的截止频率来不增大积分输出。如果平摇速度较高,则由于进行平摇而导致的图像的移动相对于照相机抖动变得非常大,因此即使针对平摇方向关闭图像抖动校正功能,也不存在特别不自然的感觉。通过进行上述平摇控制,可以在进行平摇期间监视并显示具有自然的感觉的图像。
接着,参考图2,将详细说明摇摄控制器118的组件(参照附图标记601~606)。照相机信息获取单元601获取从通信控制器610获取摇摄辅助模式的设置信息和释放信息等。照相机角速度数据输出单元602在预定时刻对来自A/D转换器401的照相机角速度数据进行采样,以将其发送至照相机控制器132。
被摄体角速度获取单元603从通信所获得的照相机信息中获取进行摇摄辅助所需的主被摄体的角速度数据。加法器604将来自A/D转换器401的照相机角速度数据设置成正输入,并且将来自被摄体角速度获取单元603的被摄体的被摄体角速度数据设置成负输入,并且计算这两者之间的差。第二积分器605获取加法器604的输出,并且仅针对预定的时间段进行积分操作。设置改变单元606根据照相机信息获取单元601所获取到的模式信息来改变设置。通信控制器610设置在用于与照相机控制器132进行双向通信的镜头控制器113中,并且将所接收到的信息输出至照相机信息获取单元601和被摄体角速度获取单元603。
如果通过照相机主体中所设置的开关的操作而设置了摇摄辅助模式,则通过照相机信息获取单元601来读取通信控制器610所接收到的信息,并且向设置改变单元606通知所读取到的信息。设置改变单元606根据所通知的模式信息来进行平摇控制器407的设置改变。这里所进行的设置改变是用以促进转移至快速平摇状态的改变。更具体地,改变上述平摇判断所用的预定值α和β。
此外,被摄体角速度获取单元603读取从照相机控制器132发送至镜头控制器113的主被摄体的角速度数据。加法器604计算角速度传感器111所检测到的照相机角速度数据与主被摄体的角速度数据之间的差,并且将结果输出至第二积分器605。第二积分器605根据表示照相机信息获取单元601所获取到的曝光期间的信号来开始积分操作,并且在其它期间输出移位透镜组104的位置位于预定位置、例如控制范围的中央位置的值。这里,如果在非曝光期间将移位透镜组104配置在控制范围的中央位置,则移位透镜组104在曝光期间结束时急剧地从当前位置移动至中央位置。然而,由于在紧接着曝光期间结束之后从摄像元件122读取信号,因此存在在显示单元172上图像消失的期间。因此,移位透镜组104的急剧移动所引起的图像移动不是问题。
将第二积分器605的输出发送至加法器404,并且加法器404进行作为正输入的第一积分器403和第二积分器的各输出的相加以及作为负输入的A/D转换器406的输出的相减。因此,计算出移位透镜组104的驱动量。
如果拍摄者在设置成摇摄辅助模式的状态下进行摇摄,则在可更换镜头100中平摇控制器407直接进行反应,对快速的平摇状态进行平摇控制,并且禁止图像抖动校正操作。即,移位透镜组104校正与照相机进行平摇时的照相机角速度和被摄体角速度之间的差相对应的量。因而,通过移位透镜组104的操作来补偿作为摇摄失败的原因的曝光期间的照相机角速度和被摄体角速度之间的差。结果,可以成功地进行摇摄。以下将说明即使在利用主被摄体的移动速度和摄像装置的平摇速度之间的关系难以指定主被摄体的情形下也能检测到主被摄体的移动量的摄像装置的实施例。
第一实施例
以下,将参考图5来说明本发明的第一实施例。图5是用于说明根据本实施例的摄像装置的摇摄辅助模式下的拍摄序列的流程图。通过照相机控制器132的中央运算处理单元(CPU)从存储器读取程序并且执行该程序来实现以下处理。
在图5的步骤S501中,照相机控制器132判断释放开关是否被半按下(S1是否接通)。如果判断为释放开关被半按下,则过程进入步骤S502,并且如果判断为释放开关没有被半按下,则处理进入步骤S503。在步骤S502中,照相机控制器132进行时间计测器的增加。此外,在步骤S503中,将时间计测器重置,并且过程返回至步骤S501。
在步骤S503之后,在步骤S504中,照相机控制器132判断是否已经计算出主被摄体的角速度。如果判断为计算出主被摄体的角速度,则过程进入步骤S505,并且如果判断为没有计算出主被摄体的角速度,则处理进入步骤S506。在步骤S505中,照相机控制器132将时间计测器与预定时间(被称为T)相比较。即,照相机控制器132检查是否经过了预定时间T,并且如果经过了预定时间T,则处理进入步骤S506。如果尚未经过预定时间T,则处理进入步骤S509。
在步骤S506中,照相机控制器132计算主被摄体的角速度。即使在步骤S504中已经计算出主被摄体的角速度的情况下,也还在步骤S506中计算主被摄体的角速度。用以再计算主被摄体的角速度的处理是考虑到主被摄体的角速度随着时间经过而改变的情况的处理。每当进行计算时,通过照相机控制器132将步骤S506中所计算出的主被摄体的角速度发送至镜头控制器113。在步骤S507中,执行用以确定用于检测在被摄体角速度的计算中所使用的运动矢量的帧频的处理。在该处理中,照相机控制器132通过帧频改变单元143来控制TG 125,并且改变从摄像元件122获取到图像数据时的帧频。在步骤S508中,摇摄控制器118针对照相机角速度数据输出单元602设置基于步骤S507中所确定的帧频的角速度的采样时刻。
在步骤S509中,照相机控制器132判断释放开关是否被完全按下(S2是否接通)。如果判断为释放开关被完全按下,则过程进入步骤S510,并且如果判断为释放开关没有被完全按下,则过程返回至步骤S501。在步骤S510中,照相机控制器132对当前照相机设置状态下的拍摄操作进行控制。接着,在步骤S511中,照相机控制器132判断释放开关是否被完全按下。如果判断为释放开关被完全按下,则处理返回至步骤S510并开始下一拍摄,并且如果在步骤S511中判断为释放开关没有被完全按下,则处理返回至步骤S501。
参考图6A和6B,将说明图5中步骤S507所执行的用于检测运动矢量的帧频的确定处理。图6A和6B示出阶梯式控制的帧频的示例。图6A是示出用于确定运动矢量检测所用的帧频的特性的图。横轴表示照相机角速度(单位:deg/sec(度/秒)),并且纵轴表示帧频(单位:fps(帧/秒))。照相机角速度A和B表示阈值,并且将帧频f1、f2和f3的比率设置成“f1:f2:f3=1:2:4”。随着照相机角速度的增大,即,随着使照相机更快地进行平摇,帧频的值增大。如果照相机角速度较高,即,平摇速度较高,则判断为拍摄者想要摇摄快速移动的被摄体,并且将帧频的值设置成较大的值。结果,以高频率检测到主被摄体的运动矢量。这里,将参考图11A和11B来说明应用本实施例所获得的效果。图11A是应用之前的说明图,并且图11B是应用之后的说明图。图11A和11B中A1、A2和A3所表示的箭头表示平摇方向。
图11A示出在沿着箭头A方向进行平摇操作的情况下帧700的图像以及下一帧710的图像。相对于帧700的帧710被假定为在经过了与一帧相对应的时间之后的帧。帧710中的矩形范围表示搜索范围。在帧700和帧710之间计算运动矢量。在这种情况下,将运动矢量检测的对象区域设置成背景图像部分702和主被摄体图像部分703。在帧700之后的帧710上,各图像部分移动至背景图像部分712和主被摄体图像部分713。如果摄像面上的移动距离较大,则对象区域的图像部分713超出搜索范围711,并且存在无法进行适当的检测的可能性。
另一方面,在图11B中,如果照相机角速度较大,则将帧频设置成较大的值。结果,帧720位于帧700和帧710之间。将帧720中的运动矢量检测的对象区域设置成背景图像部分722和主被摄体图像部分723。即,帧700的下一帧是帧720,并且下一帧是帧710。如箭头A2和A3所示,将图11A所表示的箭头A1的平摇期间分割成第一期间(帧700和帧720的区间)和第二期间(帧720和帧710的区间)。因此,由于摄像面上的移动距离实质上较短,因此对象区域的图像部分713落入搜索范围711中并且可以检测平摇操作期间主被摄体的移动矢量。
相反,如果照相机角速度较小,即,如果用户在照相机上进行缓慢的平摇操作,则将帧频设置成较小的值。在这种情况下,由于缓慢的平摇速度意味着用户想要对缓慢移动的被摄体进行摇摄,因此难以在主被摄体和背景的摄像面上的移动量之间产生差。参考图12A和12B来提供具体说明。
在图12A中,箭头B1所表示的平摇期间与帧801和帧810的区间相对应,并且箭头B2所表示的平摇期间与帧810和帧820的区间相对应。检测各期间的运动矢量。在背景图像部分803、813和823中,分别表示帧801、810和820各自中的运动矢量检测的对象区域。图13B是示出将运动矢量检测结果转换成摄像面上的移动量的直方图的图。如上所述,在进行摇摄时,主被摄体的运动矢量小于背景的运动矢量。然而,在进行缓慢摇摄时,背景的运动矢量也小,并且在照相机角速度附近采集背景和主被摄体的摄像面上的移动量。由于难以对主被摄体和背景进行区分,因此难以指定主被摄体。
因此,如图6A所示,如果照相机角速度较小,则将帧频设置成较小的值。通过使运动矢量的检测间隔加宽,图12B中的箭头B3所表示的平摇期间与帧801和820的区间相对应。由于运动矢量检测的对象区域的图像部分变成各帧的图像部分803和823,因此背景的运动矢量较大。通过配置被摄体之间的移动量的差,可以指定主被摄体的移动矢量。在图6A中,示出了将照相机角速度A和B设置成阈值并且阶梯式地改变帧频的情况下的特性,但是这是示例。该特性可以包括任意特性,只要通过与照相机角速度相对应地连续改变帧频来使帧频随着照相机角速度变大而变高即可。
另外,如图11A所示,作为帧间的移动量较大并且对象区域的图像部分很可能偏离搜索范围的情形,存在摄像光学系统的焦距较长的情况。在这种情况下,由于被摄体在摄像面上显得较大,因而即使照相机角速度较小,摄像面上的移动距离也变得较大。结果,对象区域的图像部分很可能偏离搜索范围。因此,如图6B所示,根据焦距来改变帧频的值。图6B的横轴表示焦距(单位:毫米),并且纵轴表示帧频(单位:fps)。A、B以及f1~f3与图6A中相同。图6B示出将照相机角速度A和B设置成阈值并且阶梯式地改变帧频的情况下的特性作为示例。该特性可以包括帧频随着焦距变大而变高的任意特性。
接着,参考图7A和7B,将说明用于获取针对运动矢量检测的帧频的适当的角速度数据的方法。图7A和7B是示出在摇摄时,相对于主被摄体的角速度的变化,照相机的平摇期间的照相机角速度的变化(角速度传感器输出的变化)的图。图7A和7B的横轴是时间轴,并且纵轴表示在正方向上进行平摇的情况下的角速度的大小。
图7A示出从时刻0到t0、t1和t2的大约4秒的用户对跟随被摄体的照相机进行平摇操作的情形。由虚线来表示主被摄体的角速度,并且通过由实线表示平摇所引起的照相机角速度中的变化。图7A中实线的图形和虚线的图形之间的差与照相机的平摇速度相对于主被摄体的角速度偏离的部分相对应。如果在这样的部分中进行拍摄,则将拍摄到主被摄体中发生模糊的图像。
图7B是图7A中的箭头A所表示的圆形帧中的部分的放大图,并且纵轴表示角速度。另外,作为横轴的时间轴表示时刻t1-γ、t1和t1+γ。γ表示一帧的时间,并且表示与t1周围的各帧相对应的时刻。此外,在图7B中,通过时刻t1和t1+γ处的箭头来表示一帧内所检测到的从主被摄体的运动矢量转换成主被摄体的角速度的变化(角速度差)。
由于通过A/D转换器401以大约4kHz来对角速度传感器111的输出进行采样,则即使在一帧内也平滑地进行改变。另一方面,由于针对一帧期间,基本上检测运动矢量信息一次,因此,运动矢量信息相对于角速度传感器111的信息是离散的数据。因此,即使在检测到运动矢量的期间内,角速度数据也变化。根据角速度数据的采样时刻,主被摄体的角速度的计算结果中产生一定的误差。换句话说,如果获取角速度数据的时刻是最佳时刻,则将提高主被摄体的角速度检测的精度。这里,需要注意图7B的平摇所引起的角速度的变化。基本上在一个方向上进行平摇的移动,并且照相机角速度数据的变化频率很低。因此,在一个帧时间单位内观看角速度数据的变化的情况下,可以将该变化视为“基本线性”。换句话说,如果可以在与累积期间和下一累积期间的中间相对应的时刻获取角速度数据,则该数据与运动矢量检测时刻最接近匹配。例如,在图7B中,在t1+γ时刻的最适合主被摄体的角速度检测时刻的照相机角速度数据是在时刻t1和时刻t1+γ之间的时刻所获取到的数据。即,该数据是与利用箭头B所表示的×所标记的时刻相对应的在时刻t1+γ/2的时刻所获取到的数据。更精确地,对应于以下时刻的时刻是最佳检测时点:从与第n帧的累积期间的中间相对应的时刻到与第n+1帧的累积期间的正中间相对应的时刻的期间的中间的时刻。在本实施例中,从同步信号产生的时刻起使用计时器中断来向CPU通知需要角速度数据的时刻,从而可以在最佳时刻获取所需的数据。
接着,将参考图8和9来说明用于获取针对运动矢量检测的帧频的适当的角速度数据。图8是详细示出图5的步骤S508中的角速度数据的获取时刻设置处理的流程图,并且在照相机角速度数据输出单元602中进行该处理。在图8的步骤S801中,基于用于获取角速度数据的计时器是否处于计数操作中来判断计时器的开始标志的状态。如果计时器未处于计数操作中,则过程进入步骤S803,并且如果计时器处于计数操作中,则过程进入步骤S802。
在步骤S803中,照相机角速度数据输出单元602从照相机信息获取单元601获取与当前帧频和快门速度有关的信息。基于该信息,在步骤S804中,计算从同步信号开始到角速度数据的获取时刻为止的时间(与累积期间的中心位置相对应的时间)。在步骤S805中,进行计时器中断的登记设置,以使得在步骤S804中所设置的时刻获取数据。在步骤S806中,设置计时器的开始标志。计时器基于该开始标志的设置来开始计数操作,并且在经过所设置的时间之后产生计时器中断。在中断处理的中间开始执行计时器的计数操作。
在步骤S801中,如果计时器处于计数操作中,则处理进入步骤S802,并且判断照相机的设置是否改变。这里,作为图5中步骤S507的结果,检查帧频是否改变等。如果照相机的设置改变,即,帧频改变并且角速度数据的获取时刻的计算发生改变,则处理进入步骤S803。此外,如果在步骤S802中照相机设置未改变,则在需要的时刻进行用于获取角速度数据的设置,由此处理结束。
图9是示出镜头控制器113中所执行的中断处理的流程图。在镜头控制器113中存在各种中断因素;然而,图9仅示出对角速度传感器输出进行采样的时刻确定所需要的处理。在图9中开始中断处理的情况下,在步骤S901中判断是否发生同步信号的中断。在发生由同步信号引起的中断的情况下,处理进入步骤S902,并且在发生由非同步信号引起的中断的情况下,处理进入步骤S904。
在步骤S902中,判断是否设置了计时器的开始标志。在摇摄辅助模式中设置计时器的开始标志。如果未设置开始标志,则处理在不进行任何改变的情况下结束。另外,如果设置了开始标志,则处理进入步骤S903,并且重置计时器并且基于图8的步骤S805中所设置的值来启动计时器。在步骤S904中,判断是否发生计时器中断。如果发生计时器中断,则表明该时间点是用以获取角速度数据的最佳时刻,从而处理进入步骤S905。如果未发生计时器中断,则处理进入步骤S907。
在步骤S905中进行用以获取角速度数据的处理,并且在下一步骤S906中停止计时器。此外,如果处理从步骤S904进入步骤S907,则由于不是计时器中断而是由其它因素引起的中断,因此在步骤S907中进行其它因素的中断处理。在步骤S906或步骤S907的处理之后,中断处理结束,在步骤S905所获取到的角速度数据中还包括照相机抖动成分,但是在进行平摇期间,由照相机所引起的角速度传感器输出的变化相对于平摇所产生的角速度传感器输出非常小。
接着,将参考图10来说明根据本实施例的摄像面上的移动量检测时刻和角速度传感器检测时刻。图10示出同步信号1001、存储时间1002、以及角速度传感器输出的采样周期1003。在图10的示例中,将当前照相机角速度处的运动矢量的帧频设置成30fps,并且将快门速度设置成1/50sec。同步信号1001的周期与帧频的倒数相对应。如果CMOS传感器用作摄像元件,则存储时间1002表示针对各帧频的存储时间。此外,采样周期1003表示针对角速度传感器111的输出信号的A/D转换器401中的采样周期。如箭头1004所示,用于确定主被摄体的角速度的角速度数据的获取时刻是存储期间的中心位置和下一存储期间的中心位置之间的中心位置(中间位置)。
根据本实施例,即使照相机的平摇速度和被摄体的移动速度之间存在差异,也仍然能够根据照相机角速度数据的获取结果,通过改变检测运动矢量时的帧频来确定主被摄体的移动矢量。根据照相机的抖动的角速度,通过改变运动速度检测的帧频来对运动矢量的检测频率进行可变控制。因此,提高了被摄体的移动量的检测性能,从而增加了进行成功的摇摄的可能性。
第二实施例
以下将参考图14、图15A和图15B来说明根据本发明的第二实施例。在本实施中,除了帧频的改变处理以外,还将说明运动矢量检测中所使用的图像的大小调整处理。在本实施例中,与第一实施例中的组件相同的组件将给予与第一实施例中的附图标记相同的附图标记,将省略这些组件的说明,并且将主要说明不同点。说明的这种省略还可以应用于后述实施例。
图14是说明本实施例中的运动矢量检测的帧频的确定处理的流程图,并且是示出图5中的步骤S507的处理示例的图。首先,在步骤S1401中,判断运动矢量检测单元141的帧频是否为与预定阈值(例如最大值)相对应的帧频。如果当前帧频是与阈值以上,即,最大值相对应的值,则处理进入步骤S1402,否则处理进入步骤S1403。
在步骤S1402中,判断在图5的步骤S506中是否计算出主被摄体的角速度。在该判断处理中,使用表示如图13A~13C所示的摄像面上的移动量的频率分布的直方图,判断是否存在与除了照相机角速度附近以外的地方的主被摄体的角速度相对应的摄像面上的移动量的频率峰值。如果存在这种的峰值,即,如果能够指定主被摄体,则处理在此结束,并且如果无法指定主被摄体(参照图13C),则处理进入步骤S1404。
在步骤S1404中,进行用以使大小调整处理有效的设置。因此,在照相机信号处理电路124中的运动矢量检测单元141从摄像元件122以恒定帧频所获取到的视频信息中检测运动矢量之前,执行对视频信息的缩小处理。大小调整单元142基于预定缩小率使用双三次方法等来进行缩小处理。通常设置的大小调整处理为无效,但是通过执行步骤S1404的设置处理来开始使大小调整处理有效。在步骤S1403中,由于帧频不是最大值,因此根据图6A所述的特性来执行帧频的改变处理。在步骤S1403或步骤S1404之后,处理结束。
将参考图15A~15B来详细说明本实施例的控制示例。图15A示出针对照相机角速度的帧频的特性,并且图15A与图6A相同。另外,图15B是表示通过大小调整单元142来改变缩小率时的特性的图。横轴表示照相机角速度(单位:度/秒(deg/sec)),并且纵轴表示缩小率。
图15A示出在照相机角速度是阈值A的点处帧频从f2改变成f3,并且之后帧频与照相机角速度的增大无关地恒定为f3的示例。在图15B中,如果照相机角速度小于阈值A,则缩小率为0。如果照相机角速度在阈值A以上,则缩小率线性增大(参照右上方的直线)。
如上所述,通过在直至照相机角速度达到值(图15A和15B中的阈值A)为止改变帧频,将主被摄体的运动矢量调整成落入搜索范围中。然后,如果照相机角速度在阈值以上,则缩小运动矢量检测中所使用的图像。因此,可以通过使实质的搜索范围加宽并且增大运动矢量的检测率,来提高主被摄体的移动量的检测性能。
图15A和15B所示的特性是示例。帧频和缩小率的组合可以包括在帧频没有变化的期间缩小率随着照相机角速度的增大而增大的特性。例如,在图15B中,该组合可以包括如下特性:在从照相机角速度的A到B的区间中的帧频是恒定值f2,并且缩小率随着照相机角速度从B到A的增大而增大。
此外,在本实施例中,说明了大小调整单元142对摄像元件122所获取到的图像信息进行缩小处理的情况,但是可以在摄像元件122缩小了图像数据的状态下读取该图像数据。在这种情况下,图15B的缩小率表示摄像元件122所读取的图像的缩小率,而非表示大小调整单元142的缩小率。
根据本实施例,根据照相机角速度数据的结果,改变检测运动矢量时的帧频,并且执行对用来检测运动矢量的图像的缩小处理。因此,即使在照相机的平摇速度和主被摄体的移动速度存在差异的情况下,也可以增大主被摄体的运动矢量检测率,并且进一步增大进行成功摇摄的可能性。
第三实施例
将参考图16来说明本发明的第三实施例。在本实施例中,将说明通过改变运动矢量检测的帧频来使显示更新的帧频恒定的控制。
图16是示出本发明的第三实施例中运动矢量检测时的帧频的确定处理的流程图,并且是示出图5的步骤S507的处理示例的图。首先,在步骤S1601中,获取与照相机角速度相对应的运动矢量检测的帧频。在图17B所示的特性中,帧频改变单元143改变帧频。图17B与图6A相同。
图17A示出在帧频不依赖于照相机角速度的特性中进行显示更新的情况。在图17A所示的示例中,显示更新帧频是f2。在图17B中,在照相机角速度是A时的运动矢量检测帧频是f3。
接着,在步骤S1602中,照相机信号处理电路124将步骤S1601中所获得的运动矢量检测帧频与显示更新帧频相比较。如果运动矢量检测帧频的值在显示更新帧频的值以上,则处理进入步骤S1603,并且如果运动矢量检测帧频的值小于显示更新帧频的值,则处理进入步骤S1604。
在步骤S1603中,将从摄像元件122读取的图像数据的帧频(摄像帧频)设置成运动矢量检测帧频。通过帧频改变单元143针对TG 125来进行该设置处理,并且对摄像元件122的读取帧频进行控制。在下一步骤S1605中,在显示更新单元144中设置针对同步信号的更新间隔。即,根据图17A的特性来设置显示更新帧频。在图17A和17B的示例的情况下,当照相机角速度是A时,运动矢量检测帧频是f3,并且显示更新帧频是f2。因此,在图16的步骤S1603中,从摄像元件122读取的图像数据的帧频是f3。此时,由于以与帧频f3相对应的间隔产生同步信号,以将显示更新帧频设置成f2,因此显示更新单元144以与相对于同步信号1/2的比率来更新所显示的图像。然后,一系列处理结束。在步骤S1604中,在设置了步骤S1601中所获取到的运动矢量检测的帧频之后处理结束。
作为根据本实施例的变形例的摄像元件122,可以使用以行为单位独立地改变读取定时并且并列输出不同帧频的图像的、能够进行所谓的多流输出的装置。在这种情况下,摄像元件122包括以矩形形状配置的多个光电转换元件,并且通过改变预定方向上的预定数量的行各自的读取定时来输出第一帧频的图像信号和第二帧频的图像信号。TG 125根据来自照相机信号处理电路124的信号来控制摄像元件122,从而读取第一帧频和第二帧频的图像信号中的各图像信号。帧频改变单元143确定与照相机的抖动的角速度相对应的第一帧频,并且显示更新单元144将第二帧频设置成恒定值。即,根据图17A所示的显示更新帧频的特性,以第二帧频从摄像元件122获取显示单元172的画面上所显示的视频信息。与上述相独立地,根据图17B所示的帧频的特性,以第一帧频从摄像元件122获取运动矢量检测所用的视频信息。在以两种独立的帧频进行操作的情况下,TG 125根据帧频改变单元143的指示来对所获取到的各视频信息的帧频进行控制。以相对于同步信号1/1的比率来设置显示更新单元144中的显示更新间隔。
根据本实施例,可以通过根据照相机角速度数据的结果改变检测运动矢量时的帧频来增大成功摇摄的可能性。另外,由于进行用于使显示更新的帧频恒定的控制,因此显示更新的频率不会由于根据运动矢量检测的帧频的改变而改变。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同配置和功能。
本申请要求2015年7月23日提交的日本专利申请2015-145450的优先权,这里通过引用将其全部内容包含于此。
Claims (14)
1.一种图像处理设备,其特征在于,包括:
获取单元,用于获取角速度传感器所检测到的摄像装置的平摇角速度以及从连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;
确定单元,用于确定用于检测所述运动矢量的图像的帧频的值;以及
计算单元,用于根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度,
其中,所述确定单元确定与所述平摇角速度相对应的所述帧频的值,并且所述获取单元获取从以所述确定单元所确定的帧频拍摄的多个图像数据中所检测到的被摄体的运动矢量,
其中,与所述平摇角速度小的情况相比,在所述平摇角速度大的情况下,所述确定单元将所述帧频改变成较大的值。
2.一种图像处理设备,其特征在于,包括:
获取单元,用于获取角速度传感器所检测到的摄像装置的平摇角速度以及从连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;
确定单元,用于确定用于检测所述运动矢量的图像的帧频的值;以及
计算单元,用于根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度,
其中,所述确定单元确定与所述平摇角速度相对应的所述帧频的值,并且所述获取单元获取从以所述确定单元所确定的帧频拍摄的多个图像数据中所检测到的被摄体的运动矢量,
其中,与摄像光学系统的焦距小的情况相比,在所述摄像光学系统的焦距大的情况下,所述确定单元将所述帧频改变成较大的值。
3.一种摄像装置,其特征在于,包括:
根据权利要求1或2所述的图像处理设备;
图像抖动校正单元,用于对摄像元件所获取到的图像的图像抖动进行校正;以及
控制单元,用于获取所述计算单元所计算出的被摄体的角速度的信息,并且进行控制,以使用所述图像抖动校正单元来减小所述被摄体的角速度和所述平摇角速度之间的差。
4.根据权利要求3所述的摄像装置,其中,还包括:
第一检测单元,用于检测所述平摇角速度;以及
第二检测单元,用于从所述摄像元件连续拍摄的多个图像数据中检测所述被摄体的运动矢量,
其中,所述控制单元在第一模式下对使用所述图像抖动校正单元的图像抖动校正进行控制,以及在第二模式下获取所述计算单元根据所述第一检测单元和所述第二检测单元所检测到的信息而计算出的被摄体的角速度的信息,并且进行控制,以使用所述图像抖动校正单元来减小所述被摄体的角速度和所述平摇角速度之间的差。
5.根据权利要求4所述的摄像装置,其中,还包括:
缩小单元,用于进行用于缩小所述摄像元件所拍摄的图像的缩小处理,
其中,所述第二检测单元使用所述摄像元件连续拍摄的并且被所述缩小单元进行了缩小处理的多个图像数据来检测所述被摄体的运动矢量。
6.根据权利要求5所述的摄像装置,其中,在与所述平摇角速度相对应的帧频小于阈值的情况下,所述确定单元改变所述帧频,以及在与所述平摇角速度相对应的帧频等于或大于所述阈值并且所述计算单元没有计算出所述被摄体的角速度的情况下,所述缩小单元进行对所述摄像元件所拍摄的图像的缩小处理。
7.根据权利要求5所述的摄像装置,其中,与所述平摇角速度小的情况相比,在所述平摇角速度大的情况下,所述缩小单元将所述图像的缩小率设置成较大。
8.根据权利要求7所述的摄像装置,其中,在所述平摇角速度大于阈值的情况下,所述缩小单元与所述平摇角速度的增大相对应地增大所述图像的缩小率。
9.根据权利要求3所述的摄像装置,其中,还包括:
显示单元,用于显示所述摄像元件所获取到的图像;以及
显示更新单元,用于更新所述显示单元所显示的图像,
其中,所述显示更新单元不依赖于所述确定单元所改变的帧频而以恒定值的帧频来进行图像的显示更新。
10.根据权利要求9所述的摄像装置,其中,还包括:
读取单元,用于通过在包括多个光电转换元件的摄像元件中以行为单位改变读取定时来输出第一帧频的图像信号和第二帧频的图像信号,
其中,所述确定单元确定与所述平摇角速度相对应的所述第一帧频的值,以及
所述显示更新单元将所述第二帧频设置成恒定值。
11.一种图像处理设备的控制方法,其特征在于,所述控制方法包括以下步骤:
根据角速度传感器所检测到的摄像装置的平摇角速度,来确定用于检测被摄体的运动矢量的图像的帧频的值;
获取所述平摇角速度以及从以所述帧频连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;以及
根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度,
其中,与所述平摇角速度小的情况相比,在所述平摇角速度大的情况下,将所述帧频改变成较大的值。
12.一种图像处理设备的控制方法,其特征在于,所述控制方法包括以下步骤:
根据角速度传感器所检测到的摄像装置的平摇角速度,来确定用于检测被摄体的运动矢量的图像的帧频的值;
获取所述平摇角速度以及从以所述帧频连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;以及
根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度,
其中,与摄像光学系统的焦距小的情况相比,在所述摄像光学系统的焦距大的情况下,将所述帧频改变成较大的值。
13.一种摄像装置的控制方法,其中所述摄像装置用于控制图像抖动校正单元并且校正摄像元件所获取到的图像的图像抖动,其特征在于,所述控制方法包括以下步骤:
根据角速度传感器所检测到的所述摄像装置的平摇角速度,来确定用于检测被摄体的运动矢量的图像的帧频的值;
获取所述摄像装置的平摇角速度以及从所述摄像元件以所述帧频连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;
根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度;以及
进行控制,以获取所计算出的被摄体的角速度的信息,并且使用所述图像抖动校正单元来减小所述被摄体的角速度和所述平摇角速度之间的差,
其中,与所述平摇角速度小的情况相比,在所述平摇角速度大的情况下,将所述帧频改变成较大的值。
14.一种摄像装置的控制方法,其中所述摄像装置用于控制图像抖动校正单元并且校正摄像元件所获取到的图像的图像抖动,其特征在于,所述控制方法包括以下步骤:
根据角速度传感器所检测到的所述摄像装置的平摇角速度,来确定用于检测被摄体的运动矢量的图像的帧频的值;
获取所述摄像装置的平摇角速度以及从所述摄像元件以所述帧频连续拍摄的多个图像数据中所检测到的被摄体的运动矢量;
根据所述平摇角速度和所述被摄体的运动矢量来计算相对于所述摄像装置的被摄体的角速度;以及
进行控制,以获取所计算出的被摄体的角速度的信息,并且使用所述图像抖动校正单元来减小所述被摄体的角速度和所述平摇角速度之间的差,
其中,与摄像光学系统的焦距小的情况相比,在所述摄像光学系统的焦距大的情况下,将所述帧频改变成较大的值。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015145450A JP6598549B2 (ja) | 2015-07-23 | 2015-07-23 | 画像処理装置およびその制御方法、撮像装置およびその制御方法 |
JP2015-145450 | 2015-07-23 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106375656A CN106375656A (zh) | 2017-02-01 |
CN106375656B true CN106375656B (zh) | 2019-12-17 |
Family
ID=57837560
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610586622.6A Expired - Fee Related CN106375656B (zh) | 2015-07-23 | 2016-07-22 | 图像处理设备及其控制方法和摄像装置及其控制方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10218907B2 (zh) |
JP (1) | JP6598549B2 (zh) |
CN (1) | CN106375656B (zh) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3391642B1 (en) * | 2015-12-16 | 2020-02-05 | GoPro, Inc. | Dynamic synchronization of frame rate to a detected cadence in a time lapse image sequence |
JP6821358B2 (ja) * | 2016-08-31 | 2021-01-27 | キヤノン株式会社 | 制御装置、撮像装置、レンズ装置、制御方法、プログラム、および、記憶媒体 |
JP6746473B2 (ja) * | 2016-11-14 | 2020-08-26 | キヤノン株式会社 | 撮像装置および制御方法 |
JP2018146663A (ja) * | 2017-03-02 | 2018-09-20 | キヤノン株式会社 | 像ブレ補正装置およびその制御方法、撮像装置、レンズ装置 |
JP7233162B2 (ja) * | 2017-12-18 | 2023-03-06 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
CN114827458A (zh) * | 2017-12-18 | 2022-07-29 | 佳能株式会社 | 摄像设备及其控制方法和存储介质 |
JP6961500B2 (ja) * | 2018-01-18 | 2021-11-05 | キヤノン株式会社 | 像振れ補正装置およびその制御方法、撮像装置 |
KR102698647B1 (ko) * | 2018-08-07 | 2024-08-26 | 삼성전자주식회사 | 복수의 구간 영상들을 포함하는 동영상 데이터를 생성하는 전자 장치 및 방법 |
JP7204449B2 (ja) * | 2018-11-29 | 2023-01-16 | キヤノン株式会社 | 制御装置、撮像装置、制御方法およびプログラム |
US11032507B2 (en) * | 2018-12-06 | 2021-06-08 | Flir Commercial Systems, Inc. | Frame rate and associated device manufacturing techniques for imaging systems and methods |
US10931874B2 (en) | 2018-12-06 | 2021-02-23 | Flir Commercial Systems, Inc. | Burst mode calibration sensing and image mode sensing for imaging systems and methods |
EP3909233A4 (en) * | 2019-02-19 | 2022-03-09 | Samsung Electronics Co., Ltd. | ELECTRONIC IMAGE STABILIZATION DEVICE AND METHODS OF OPERATING THEREOF |
JP7389569B2 (ja) * | 2019-06-04 | 2023-11-30 | キヤノン株式会社 | 防振制御装置及び方法、及び、撮像装置 |
CN111147757B (zh) * | 2020-01-03 | 2021-08-03 | 浙江大华技术股份有限公司 | 摄像设备的光学防抖方法及装置 |
WO2022021202A1 (en) * | 2020-07-30 | 2022-02-03 | Huawei Technologies Co., Ltd. | Pwm driver, method of generating pwm signal, actuator system and camera module |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010227253A (ja) * | 2009-03-26 | 2010-10-14 | Olympus Corp | 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法 |
CN102316268A (zh) * | 2010-06-29 | 2012-01-11 | 佳能株式会社 | 摄像设备及其控制方法 |
CN102694979A (zh) * | 2011-03-22 | 2012-09-26 | 佳能株式会社 | 摄像设备和摄像设备的控制方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4769553B2 (ja) * | 2005-11-16 | 2011-09-07 | キヤノン株式会社 | 撮像装置 |
JP5078458B2 (ja) * | 2007-06-22 | 2012-11-21 | キヤノン株式会社 | 撮像装置及びその制御方法並びに撮像システム |
WO2009150793A1 (ja) * | 2008-06-09 | 2009-12-17 | パナソニック株式会社 | 撮像装置、撮像方法 |
JP2010136302A (ja) * | 2008-12-08 | 2010-06-17 | Sony Corp | 撮像装置、撮像方法、およびプログラム |
JP5423413B2 (ja) * | 2009-05-29 | 2014-02-19 | ソニー株式会社 | 角速度センサ、角速度信号の増幅回路、電子機器、手振れ補正装置、角速度信号の増幅方法及び手振れ補正方法 |
JP5663934B2 (ja) * | 2010-04-09 | 2015-02-04 | ソニー株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP6016546B2 (ja) * | 2012-09-19 | 2016-10-26 | キヤノン株式会社 | 撮像装置、その制御方法、および制御プログラム |
JP6040338B2 (ja) * | 2014-03-25 | 2016-12-07 | 富士フイルム株式会社 | 手ぶれ補正装置、撮像装置 |
JP6600232B2 (ja) * | 2015-11-05 | 2019-10-30 | キヤノン株式会社 | 像ブレ補正装置及び方法 |
-
2015
- 2015-07-23 JP JP2015145450A patent/JP6598549B2/ja not_active Expired - Fee Related
-
2016
- 2016-07-19 US US15/213,588 patent/US10218907B2/en active Active
- 2016-07-22 CN CN201610586622.6A patent/CN106375656B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010227253A (ja) * | 2009-03-26 | 2010-10-14 | Olympus Corp | 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法 |
CN102316268A (zh) * | 2010-06-29 | 2012-01-11 | 佳能株式会社 | 摄像设备及其控制方法 |
CN102694979A (zh) * | 2011-03-22 | 2012-09-26 | 佳能株式会社 | 摄像设备和摄像设备的控制方法 |
Also Published As
Publication number | Publication date |
---|---|
US20170026580A1 (en) | 2017-01-26 |
JP6598549B2 (ja) | 2019-10-30 |
JP2017028511A (ja) | 2017-02-02 |
US10218907B2 (en) | 2019-02-26 |
CN106375656A (zh) | 2017-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106375656B (zh) | 图像处理设备及其控制方法和摄像装置及其控制方法 | |
JP6246015B2 (ja) | 画像処理装置およびその制御方法 | |
JP6282152B2 (ja) | 撮像装置およびその制御方法 | |
CN109698912B (zh) | 摄像设备及其控制方法 | |
JP6776062B2 (ja) | 撮像装置およびその制御方法 | |
US10551634B2 (en) | Blur correction device, imaging apparatus, and blur correction method that correct an image blur of an object in a target image region | |
CN107920200B (zh) | 图像模糊校正装置及其控制方法和摄像装置 | |
JP2018185357A (ja) | 像ブレ補正装置およびその制御方法、撮像装置 | |
US20160301858A1 (en) | Control apparatus, storage medium for storing control program, control method, and optical apparatus | |
KR20160107098A (ko) | 촬상 장치, 그 제어 방법 및 그 컴퓨터 프로그램 | |
CN108668074B (zh) | 图像模糊校正装置及其控制方法、摄像设备和存储介质 | |
JP2024076155A (ja) | 制御装置、撮像装置及び撮像装置の制御方法 | |
US10873701B2 (en) | Image pickup apparatus and control method thereof | |
JP2015145901A (ja) | 撮像装置 | |
CN109660713B (zh) | 摄像设备及其控制方法 | |
US10389942B2 (en) | Image blur correction apparatus, control method thereof, and imaging apparatus | |
JP6703789B2 (ja) | 像ブレ補正装置及び方法、及び撮像装置 | |
JP7214424B2 (ja) | 撮像装置およびその制御方法 | |
JP7414484B2 (ja) | 光学機器、撮像装置および制御方法 | |
JP2015198338A (ja) | 撮像装置、その制御方法及びプログラム | |
JP2021085925A (ja) | 撮像装置、制御方法及びコンピュータプログラム | |
JP2019008221A (ja) | 撮像装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20191217 Termination date: 20210722 |