CN113572950A - 基于统计的电子图像稳定 - Google Patents
基于统计的电子图像稳定 Download PDFInfo
- Publication number
- CN113572950A CN113572950A CN202110441758.9A CN202110441758A CN113572950A CN 113572950 A CN113572950 A CN 113572950A CN 202110441758 A CN202110441758 A CN 202110441758A CN 113572950 A CN113572950 A CN 113572950A
- Authority
- CN
- China
- Prior art keywords
- motion data
- time interval
- camera
- external
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000006641 stabilisation Effects 0.000 title claims abstract description 23
- 238000011105 stabilization Methods 0.000 title claims abstract description 23
- 238000000034 method Methods 0.000 claims abstract description 39
- 238000004590 computer program Methods 0.000 claims abstract description 6
- 238000012545 processing Methods 0.000 claims description 10
- 230000000087 stabilizing effect Effects 0.000 claims description 9
- 230000008859 change Effects 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 4
- 239000003381 stabilizer Substances 0.000 claims description 4
- 230000008901 benefit Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 230000000875 corresponding effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013480 data collection Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
- H04N23/6842—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by controlling the scanning position, e.g. windowing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Adjustment Of Camera Lenses (AREA)
- Television Receiver Circuits (AREA)
Abstract
本发明涉及基于统计的电子图像稳定。用于在由摄像机(302)捕获的图像序列中选择裁剪区域的方法和装置,包括计算机程序产品。包括影响摄像机的移动的外部因素的数据的第一外部运动数据(202)与描述摄像机(302)的移动的内部运动数据(204)关联。在第一时间间隔期间获得第一外部运动数据(202)和内部运动数据(204)。在第一时间间隔之后的第二时间间隔期间获得第二外部运动数据(208)。通过基于关联和第二外部运动数据(208)选择裁剪区域来稳定在第三时间间隔期间捕获的图像序列。裁剪区域相对于在第三时间间隔期间的图像的视场保持恒定并且尺寸最大化。第三时间间隔在第二时间间隔之后或者与第二时间间隔部分重叠。
Description
背景技术
本发明涉及摄像机,并且更具体地涉及由摄像机捕获的图像序列的电子图像稳定。
用于监控场景的监控摄像机通常被放置在由于不同的原因它们会受到振动的室外(有时室内)的位置。例如,突然的一阵风可能使摄像机抖动,或者附近经过的火车或重型卡车可能产生类似的效果。这些振动有时会使摄像机输出的视频模糊不清,使得视频对于实际目的或多或少是无用的。视频质量的改进使模糊图像的问题更加明显。增加的像素密度、更高的分辨率和更强大的变焦能力不仅使摄像机对振动更加敏感,而且还使观看者更容易受到影响并易于注意到它们。
一种用于减少振动的技术是使用更坚固的支架或更少暴露的位置来安装摄像机。另外两种技术是光学图像稳定(OIS)和电子图像稳定(EIS),这两种技术都是在摄像机本身而不是其物理环境中实现的。OIS系统通常依靠摄像机中的陀螺仪或加速度计来检测和测量摄像机的振动,并且然后移动镜头或光学传感器来补偿摄像机和镜头的抖动,使得光线可以以如同摄像机未振动的方式来照射图像传感器。
EIS主要是为视频摄像机而开发。EIS依靠不同的算法来为摄像机运动建模,然后将其用于校正图像。可见图像的边界之外的像素用作运动的缓冲区,并且然后可以使用这些像素中的信息将电子图像从一帧到另一帧略微偏移足够的量,以抵消运动并创建稳定的视频流。为了在由摄像机捕获的图像序列上激活EIS,需要裁剪每个图像,使得在执行EIS时帧外像素(有时也被称为黑色像素)不被引入到图像中。
如果摄像机例如由于风或地面振动而在俯仰(pitch)、偏摆(jaw)或横摇(roll)方向中的一个或多个方向上移动,则还需要对这种俯仰、偏摆或横摇移动进行补偿。然而,如上所提及,与为了避免引入帧外像素而进行的裁剪相比,这种补偿可能导致裁剪图像的不同的方式。因此,在确定如何裁剪图像时,需要更好的技术来允许平衡EIS模式和可能的俯仰、偏摆和横摇移动。当期望裁剪(即裁剪区域)是图像序列中的图像的视场的稳定范围时,这是特别重要的。
发明内容
根据第一方面,本发明涉及一种在计算机系统中用于在由摄像机捕获的图像序列中选择裁剪区域的方法。该方法包括:
·将第一外部运动数据与内部运动数据关联,其中,在第一时间间隔期间获得第一外部运动数据和内部运动数据,其中,第一外部运动数据包括影响摄像机的移动的外部因素的数据,并且其中,内部运动数据包括描述摄像机的移动的数据;
·在第一时间间隔之后的第二时间间隔期间获得第二外部运动数据;以及
·通过基于关联和第二外部运动数据选择裁剪区域来稳定在第三时间间隔期间捕获的图像序列,第三时间间隔在第二时间间隔之后或与第二时间间隔部分重叠,其中,裁剪区域相对于在第三时间间隔期间由摄像机捕获的图像序列中的图像的视场保持恒定并且尺寸最大化。
总体而言,图像稳定通过更好地利用每个摄像机的潜力,例如当振动可能影响视频质量时,通过在变焦镜头中保持图像质量,使整个视频监控系统更加通用和成本高效。更具体地,本发明为摄像机用户提供了将诸如风、振动等的外部因素与来自摄像机中的传感器的内部读数关联的方式。了解外部振动如何影响内部传感器读数,以及了解响应于某些传感器读数需要哪种裁剪,可以在某种意义上预测响应于外部因素需要哪种裁剪,并且抢先做出任何这种调整。
换句话说,通过使用根据本发明的技术,可以动态地调整图像裁剪,使得裁剪区域相对于在特定时间段期间由摄像机捕获的图像序列中的图像的视场保持恒定且尺寸最大化,特定时间段可以被预定或者由用户或周边环境动态地限定。例如,如果预测会有大风,则可以增加裕度,使得裕度更大,并且有更多的空间来补偿振动。另一方面,在平静的天气期间,可以允许较小的裕度,因为摄像机全天将保持相当稳定。作为具有这些动态裕度的结果,与使用图像周围的预定像素裕度的传统方法相比,图像中存在可用于各种类型的图像处理的更多的“可用的”像素。
根据一个实施例,第一时间间隔和第二时间间隔分别是约15分钟或更长。第一时间和第二时间用于收集具有统计学意义的数据量,使得分别出现外部运动数据和内部运动数据的清晰画面。通常,这取决于由外部运动传感器所捕获的数据模式的粒度。有时,几分钟就足够了,而在其他情况下,数据收集可能需要几个小时、几天、几周、几个月甚至几年才能获得具有统计学意义的数据集。
根据一个实施例,将第一外部运动数据与内部运动数据关联包括:对于在第一时间间隔中当传感器读数出现时的每个时间点,将相应的第一外部运动数据与对应的内部运动数据关联。这可以在内部传感器读数与外部传感器读数之间的任何给定时间点找到精确的对应关系,并且在内部运动数据与外部运动数据之间建立具有统计学意义的数据集和关联。
根据一个实施例,获得第二外部运动数据包括:基于第一外部运动数据和预测模型获得第二外部运动数据作为预测。也就是说,第二运动数据不必直接从一组传感器获得,而是可以基于第一运动数据和预测模型。例如,天气预报可以预测30节风(knot winds),并且第一运动数据可以包含关于摄像机在过去相同风速和风向下的表现的信息。然后,可以合理地预期摄像机在即将到来的预测时段期间以类似的方式表现,并且将该信息用作即将到来的时段的第二外部运动数据。因此,不仅可以依靠当前传感器读数,而且还可以结合预测模型依靠历史传感器读数。这也使系统在传感器测量外部运动数据或传输这样的数据可能出现问题的事件中更加鲁棒(robust)。
根据一个实施例,第一外部运动数据和第二外部运动数据包括风数据和/或地面振动数据,并且内部运动数据包括陀螺仪数据、加速度计数据和/或通过图像处理的运动估计。这些是影响摄像机的移动的常见数据类型的某些示例。然而,应当认识到,这并不是一个详尽的清单,并且还存在可能导致摄像机移动的其他因素(例如,在冰雹风暴期间大块冰雹击中摄像机)。
根据一个实施例,通过图像处理的运动估计使用数字图像稳定算法来完成。也就是说,像素被分析以确定它们分别在例如水平方向和垂直方向上移动了多少,并且计算偏移量,用于稳定图像。存在用于执行数字图像稳定的几种已知算法(例如,绝对差的和(SAD)算法)。使用数字图像稳定避免了对摄像机中的内部运动传感器(诸如陀螺仪等)的需要。
根据一个实施例,分别获得第一外部运动数据和第二外部运动数据包括:分别从运动传感器和/或外部气象服务接收第一外部运动数据和第二外部运动数据。也就是说,第一外部运动数据和第二外部运动数据可以来自运动传感器。通常,这样的运动传感器将被安装在摄像机附近,使得它将密切反映摄像机的状况。可替代地,数据可以来自气象服务,不需要在摄像机附近安装和维护传感器,而是依靠附近的本地气象站。根据具体的环境,任何一种方法都可能是优选的,或者有时还可以使用两种方法的组合来获得第一外部运动数据和第二外部运动数据。
根据一个实施例,运动传感器包括风传感器、地面振动传感器或第二摄像机。这些都是可用于确定外部运动的传感器。风传感器和地面振动传感器以商业可用的多种形式存在,并且它们的功能对于本领域普通技术人员是公知的。第二摄像机可以用于确定外部运动数据。例如,第二摄像机可以是被配置成读取经过的卡车上的车牌的摄像机,并且基于该信息从数据库获得关于车辆的信息(诸如其尺寸)。该信息可以用作另一摄像机的输入,例如用于交通监控,其中图像稳定是重要特征。
根据一个实施例,基于第二外部运动数据和关联,提供关于图像稳定是否应当基于俯仰、偏摆和横摇中的一个或多个的推荐。不同类型的振动导致摄像机以不同的方式移动。例如,经过摄像机的火车或卡车可能导致主要是垂直的振动。另一方面,强风可能导致主要是水平方向的振动或位移等。在某些情况下,例如,当摄像机被安装在随风摇摆的杆上时,对横摇的补偿可能是需要的。因此,具有不同类型的图像稳定是有益的。这些不同类型可以基于不同类型的摄像机移动,诸如俯仰、偏摆和横摇。基于第二外部运动数据和关联,可以推荐在给定情况下哪种类型的图像稳定是最合适的。
根据一个实施例,响应于检测超过预定阈值的第二外部运动数据的变化,基于关联和所变化的第二外部运动数据来选择不同的裁剪区域。例如,假设某个裁剪区域被选择,并且然后风突然加大或减小。如果改变是相当小的,则不会改变裁剪区域。然而,如果改变是很大的,即它们增加了预定阈值,则裁剪区域可以由于摄像机的改变的移动而改变。具有进行这样的改变的能力可以确保裁剪区域始终保持最大的尺寸,同时保持良好的图像质量。
根据一个实施例,选择裁剪区域进一步考虑取决于图像序列中的图像的视场的可变稳定器裕度。也就是说,可以限定稳定器裕度,其随当前视场而改变。例如,在某些产品或装置中,在广角捕获模式下对图像稳定的需求可能减少,而在远摄捕获模式下对图像稳定的需求可能增加。在这种情况下,最大裕度可以基于当前视场来调整。一个示例是广角变焦镜头摄像机,其中水平视场的角度可能在90度到30度之间变化。在这种情况下,小的振动对90度视角下的图像质量影响很小。然而,如果放大到30度视角,则将会有明显的抖动,并且最大裕度需要被设置为更高以适应这种情况。稳定器裕度的最小尺寸和最大尺寸之间的范围可以预先配置或由用户基于特定的摄像机安装环境来确定。根据第二方面,本发明涉及一种用于在由摄像机捕获的图像序列中选择裁剪区域的系统。存储器包含指令,该指令在由处理器执行时,使处理器执行包括以下步骤的方法:
·将第一外部运动数据与内部运动数据关联,其中,在第一时间间隔期间获得第一外部运动数据和内部运动数据,其中,第一外部运动数据包括影响摄像机的移动的外部因素的数据,并且其中,内部运动数据包括描述摄像机的移动的数据;
·在第一时间间隔之后的第二时间间隔期间获得第二外部运动数据;以及
·通过基于关联和第二外部运动数据选择裁剪区域来稳定在第三时间间隔期间捕获的图像序列,第三时间间隔在第二时间间隔之后或与第二时间间隔部分重叠,其中,裁剪区域相对于在第三时间间隔期间由摄像机捕获的图像序列中的图像的视场保持恒定并且尺寸最大化。
系统的优点对应于该方法的优点,并且可以类似地变化。
根据第三方面,本发明涉及一种用于在由摄像机捕获的图像序列中选择裁剪区域的计算机程序。计算机程序包含对应于以下步骤的指令:
·将第一外部运动数据与内部运动数据关联,其中,在第一时间间隔期间获得第一外部运动数据和内部运动数据,其中,第一外部运动数据包括影响摄像机的移动的外部因素的数据,并且其中,内部运动数据包括描述摄像机的移动的数据;
·在第一时间间隔之后的第二时间间隔期间获得第二外部运动数据;以及
·通过基于关联和第二外部运动数据选择裁剪区域来稳定在第三时间间隔期间捕获的图像序列,第三时间间隔在第二时间间隔之后或与第二时间间隔部分重叠,其中,裁剪区域相对于在第三时间间隔期间由摄像机捕获的图像序列中的图像的视场保持恒定并且尺寸最大化。
该计算机程序具有与该方法的优点相对应的优点,并且可以类似地变化。
在附图和以下描述中阐述了本发明的一个或多个实施例的细节。本发明的其他特征和优点将从说明书和附图以及权利要求书中变得显而易见。
附图说明
图1示出根据一个实施例的用于选择裁剪区域的过程。
图2示出根据一个实施例的如何使用外部传感器数据和内部传感器数据来选择裁剪区域的示意图200。
图3是示出根据一个实施例的可以实现本发明的系统的示意框图300。
在各个附图中,相同的参考符号指示相同的元件。
具体实施方式
如上所描述,本发明的各种实施例的一个目的是提供用于在由摄像机捕获的图像序列(诸如视频序列)中动态地选择裁剪区域的技术,以执行与裁剪区域被固定或基于焦距变化的常规系统相比更好的EIS。能够动态地选择裁剪区域允许裁剪区域最大化,从而最大化所捕获的图像的像素密度(和分辨率)。现在将通过示例的方式并参考附图详细描述本发明的各种实施例,在附图中,图1示出根据一个实施例的用于选择裁剪区域的过程100。图2示出根据一个实施例的如何使用外部传感器数据和内部传感器数据来选择裁剪区域的示意图200,并且图3示出根据一个实施例的可以实现本发明的系统的示意性框图300。
为了更好地理解本发明的上下文,示例性系统300的简要说明将首先被呈现。然后将参考图1和图2更详细地描述各个系统组件及其操作。如在图3中可以看出的,系统300包括捕获视频的摄像机302,并且期望对视频执行图像稳定。摄像机302包括测量摄像机的内部运动的一个或多个内部运动传感器304,诸如陀螺仪和/或加速度计。系统300进一步包括测量摄像机302外部的运动的一组外部运动传感器306,诸如风传感器308和地面振动传感器310。通常,这些外部运动传感器306位于摄像机302的附近。
系统300进一步包括气象站312。气象站312相对于摄像机302的物理位置可以变化。气象站312包括传感器314(例如,风传感器)以测量当前状况。在某些实现方式中,气象站312也可以访问历史数据316。
在某些实施例中,预测模型318形成系统300的一部分。预测模型318将在下面更详细地解释,但是基本结合历史数据316来操作以“预测”摄像机302在特定条件下将如何移动。进一步,如下所描述的,在某些情况下,可能存在不依靠天气的摄像机移动(例如,定期经过具有摄像机302的站台的火车)。这样的与天气无关的数据也可以是系统300的一部分。
最后,系统300包括执行如下所描述的数据处理的处理单元322。所有这些系统组件通过网络324彼此通信,网络324可以是有线网络、无线网络或其组合。通信可以使用标准或专有通信协议。还应注意,为了便于图示的目的,虽然图3中仅示出每种类型的一个系统组件,但在现实生活实现方式中,可能存在多个组件。例如,可能存在将数据提供至单个摄像机302或甚至一组摄像机302的多个气象站312或外部运动传感器306。因此,图3中所示的系统实施例300不应被解释为系统组件的数量和类型。
如在图1中可以看出的,过程100开始于收集第一外部运动数据202和第一内部运动数据204(步骤102)。如图2中所示,在第一时间间隔Δt1collecting期间,从一个或多个外部运动传感器收集第一外部运动数据202。外部运动数据202包括表示均可能影响摄像机的移动的外部因素(诸如风向、风速和地面振动)的数据。应当注意,这并非排他性列表,并且还可能存在影响摄像机的移动的其他因素,例如如上所描述的大冰雹。用于收集外部运动数据202的传感器和关联的方法可以从本领域普通技术人员所公知的各种商业可用的传感器中选择。
在收集第一外部运动数据202时,也在第一时间间隔期间收集内部运动数据204。从摄像机中的作为许多摄像机中的常见的组件的一个或多个内部运动传感器(诸如摄像机陀螺仪或加速度计)收集内部运动数据204。在某些实现方式中,内部运动数据204也可以通过分析像素的移动并确定图像处理运动向量估计来得出,在这种情况下,在摄像机中不需要具有内部运动传感器。
为了获得在使用本发明的各种实施例的方法时可以采用的统计数据集,第一时间间隔可以变化很大,从几分钟到几天、几周、几个月甚至几年。还应注意,如图2中所图示,第一时间间隔之后可以是一个或多个附加的第一时间间隔。从经过摄像机装置的火车收集振动数据通常是非常短暂和可预测的情况,而在有阵风的一天收集数据可能需要更长的数据收集时段以获得平均风速值。
接下来,在第一外部运动数据202与第一内部运动数据204之间进行关联206(步骤104)。也就是说,在特定时间点获取的第一外部运动数据与在同一时间点获取的第一内部运动数据关联。例如,在第一时间间隔中的一个时间点获得的风传感器读数和/或地面振动传感器读数与在第一时间间隔中的同一时间点获得的陀螺仪读数关联。因此,对于同一时间点,外部运动传感器数据与内部运动传感器数据之间将存在映射。
应当注意,关联不限于传感器读数的一一对应。例如,在给定的时间点,可以存在来自陀螺仪的一个读数,但是该读数可以与同一时间点出现的风向和风速两者关联。类似地,不同的传感器可以支持不同的采样频率。例如,摄像机中的内部陀螺仪可以每秒采样数百次,而外部风传感器可能仅允许每秒采样一次。因此,根据周围的具体的环境,存在可以将数据进行关联的许多不同的方法。然而,要点是相同的。也就是说,在外部传感器读数如何映射到内部传感器读数之间创建关联。
进一步,应当注意,虽然许多摄像机具有诸如陀螺仪或加速度计的内部传感器,但是也存在许多摄像机缺乏这些组件。在这种情况下,内部传感器的可替代项可以是通过图像处理来确定摄像机的运动。这通常被称为数字图像稳定(DIS)。简要地,在DIS实现方式中,像素被分析以确定它们分别在例如水平方向和垂直方向上移动了多少。计算偏移量,用于稳定图像。存在对于本领域技术人员来说是众所周知的用于执行DIS的几种已知方法(例如,绝对差的和(SAD)算法)。
接下来,获得第二外部运动数据208(步骤106)。通常,这是使用与以上结合步骤102所描述的相同技术并且在第一时间间隔Δt1collecting之后的第二时间间隔Δt2collecting期间完成的。然而,在某些实施例中,第二外部运动数据208不是由位于摄像机特定位置处的传感器收集的,而是通过不同的过程获得的。例如,可以从诸如外部气象站的外部站获得第二外部运动数据208。例如,可以从气象站接收特定时间段(例如,第二时间间隔)的风统计数据。进一步,可以例如从第二时间间隔Δt2collecting之前的时间段接收历史外部运动数据210(在图3中表示为316),例如历史风统计。历史外部运动数据210、316可以与预测模型318一起用于预测第二时间间隔Δt2collecting的外部运动数据。此外,外部运动数据可以被映射到时间表,例如火车时间表。例如,当摄像机被安装在铁路站台上并且期望将火车时间表映射到由火车到达、离开或仅经过引起的地面振动时,可能就是这种情况。因此,存在多种方法可以获得第二运动数据208。
该过程通过基于关联和第二外部运动数据选择裁剪区域来稳定在第三时间间隔期间捕获的一系列图像而结束(步骤108)。在常规系统中,已知每个内部运动数据(例如,每个陀螺仪读数)如何匹配捕获图像的特定裁剪(例如,特定裁剪区域)。因此,通过使用第一外部运动数据202与第一内部运动数据204之间的关联206,可以建立可以直接应用于第二外部运动数据208的关联模型214。如图2中所示,通过将关联模型214应用于外部运动数据208,可以将外部运动数据208直接映射到在第三时间间隔Δtcropping期间捕获的图像的合适的裁剪区域。第三时间间隔可以与第二时间间隔完全分开或部分重叠。分别与第一时间间隔和第二时间间隔一样,第三时间间隔的范围可以从几分钟到几小时、几天或几周。
应当注意,由于第二外部运动数据208被统计地处理并且借助于关联模型214被映射216到在第三时间间隔期间要用于图像稳定的单个裁剪,因此在第三时间间隔期间,裁剪不需要内部运动数据。
当在第三时间间隔期间执行图像稳定时,使用相同的单个裁剪的优点是,裁剪的图像的像素大小在第三时间间隔期间将保持相同。因此,在第三时间间隔期间捕获并稳定的所有图像将具有相同的分辨率。通常,裁剪不会非常频繁地改变,因为它会影响摄像机的变焦,并且非常“反应性的(reactive)”裁剪会为观看来自摄像机的视频的用户创建非常“不平稳的(jerky)”图像流,并且存在多种不必要的放大/缩小。过于频繁的变焦还可能对某些图像分析应用的功能产生负面影响。在许多实施例中,优选的是每24小时仅改变变焦1-2次,尽管这里当然大的变化也是可能的。
在一个实施例中,在图像序列的图像的视场内将确定的单个裁剪区域选择为尽可能大。也就是说,第三时间间隔的裁剪区域被最大化以适合所捕获的图像的百分比。因此,如果第二外部运动数据包括一个或多个异常值(例如,指示非常大的移动或振动的一个或多个数据),则在确定裁剪区域时可以忽略这些异常值。在这种情况下,可以利用确定的裁剪区域来稳定在摄像机的这种大的移动或振动期间所捕获的图像,尽管对于这些特定图像而言,它可能不是最佳的裁剪区域。然而,在第三时间间隔期间,裁剪区域仍可以最佳地稳定95%-99%的捕获图像,并且与常规EIS方法相比仍提供显著的优点。进一步,最大化裁剪区域的优点在于,像素密度也被最大化。因此,图像分辨率和图像质量也被最大化。
在某些实施例中,除了确定裁剪区域之外,收集的外部运动数据208和预测模型318还可以用于确定摄像机在未来时间点可能移动或振动多少。然后,该信息可以由摄像机系统使用,以建议横摇是否应当被激活,或摄像机是否应当仅基于俯仰和偏摆来执行图像稳定。
进一步,在某些实施例中,摄像机系统可以建议稳定的范围,即用作裁剪区域的视场范围。基于信息片段,摄像机系统可以建议合适的EIS模式。在某些实施例中,当提出EIS模式时,还可以考虑其他因素。例如,在某些情况下,EIS模式可能由于季节(例如,一种EIS模式用于炎热的夏季,而另一种EIS模式用于寒冷的雪天)、一天中的时间(例如,一种EIS模式用于交通繁忙的白天,并且另一种EIS模式用于相对安静的夜晚)而变化。可以看出,存在本领域普通技术人员可以基于周围的特定情况来实现的多种变型。
本文公开的系统和方法可以被实现为软件、固件、硬件或其组合。在硬件实现方式中,以上描述中提到的功能单元或组件之间的任务划分不一定对应于物理单元的划分;相反,一个物理组件可以执行多个功能,并且一个任务可以由多个物理组件协同执行。
某些组件或所有组件可以被实现为由数字信号处理器或微处理器执行的软件,或者被实现为硬件或专用集成电路。这样的软件可以分布在计算机可读介质上,该计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域技术人员所公知,术语计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据的信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储器、盒式磁带、磁带、磁盘存储或其他磁性存储设备,或可用于存储所需信息并且可由计算机访问的任何其他介质。
附图中的流程图和框图图示出了根据本发明的各个实施例的系统、方法和计算机程序产品的可能的实现的架构、功能和操作。就这一点而言,流程图或框图中的每个块可以表示指令的模块、片段或部分,其包括用于实现指定逻辑功能的一个或多个可执行指令。在某些可替代的实现方式中,块中标注的功能可以不按图中标注的顺序发生。例如,根据所涉及的功能,连续示出的两个块实际上可以基本同时执行,或者有时可以以相反的顺序执行。还应注意,框图和/或流程图图示的每个块以及框图和/或流程图图示中的块的组合可以通过执行特定功能或动作或执行专用硬件和计算机指令的组合的基于专用硬件的系统来实现。
应当理解,本领域技术人员可以以许多方式修改上述实施例,并且仍然使用如以上实施例中所示的本发明的优点。因此,本发明不应限于所示的实施例,而应仅由所附权利要求限定。附加地,如本领域技术人员所理解的,所示的实施例可以被组合。
Claims (13)
1.一种用于在由摄像机捕获的图像序列中选择裁剪区域的方法,包括:
将第一外部运动数据与内部运动数据关联,其中,在第一时间间隔期间获得所述第一外部运动数据和所述内部运动数据,其中,所述第一外部运动数据包括影响所述摄像机的移动的外部因素的数据,并且其中,所述内部运动数据包括描述所述摄像机的移动的数据;
在所述第一时间间隔之后的第二时间间隔期间获得第二外部运动数据;以及
通过基于所述关联和所述第二外部运动数据选择裁剪区域来稳定在第三时间间隔期间捕获的图像序列,所述第三时间间隔在所述第二时间间隔之后或与所述第二时间间隔部分重叠,其中,所述裁剪区域相对于在所述第三时间间隔期间由所述摄像机捕获的所述图像序列中的所述图像的视场保持恒定并且尺寸最大化。
2.根据权利要求1所述的方法,其中,所述第一时间间隔和所述第二时间间隔分别是约15分钟或更长。
3.根据权利要求1所述的方法,其中,所述第一外部运动数据与所述内部运动数据的所述关联包括:
对于在所述第一时间间隔中当传感器读数出现时的每个时间点,将相应的第一外部运动数据与对应的内部运动数据关联。
4.根据权利要求1所述的方法,其中,获得所述第二外部运动数据包括:
基于所述第一外部运动数据和预测模型获得所述第二外部运动数据作为预测。
5.根据权利要求1所述的方法,其中:
所述第一外部运动数据和所述第二外部运动数据包括风数据和地面振动数据中的一个或多个,并且
所述内部运动数据包括陀螺仪数据、加速度计数据和通过图像处理的运动估计中的一个或多个。
6.根据权利要求5所述的方法,其中,通过图像处理的所述运动估计使用数字图像稳定算法来完成。
7.根据权利要求1所述的方法,其中,分别获得所述第一外部运动数据和所述第二外部运动数据包括:
分别从运动传感器和外部气象服务中的一个或多个来接收所述第一外部运动数据和所述第二外部运动数据。
8.根据权利要求7所述的方法,其中,所述运动传感器包括风传感器、地面振动传感器和第二摄像机中的一个。
9.根据权利要求1所述的方法,进一步包括:
基于所述第二外部运动数据和所述关联,提供关于图像稳定是否应当基于俯仰、偏摆和横摇中的一个或多个的推荐。
10.根据权利要求1所述的方法,进一步包括:
响应于检测超过预定阈值的第二外部运动数据的变化,基于所述关联和所变化的第二外部运动数据来选择不同的裁剪区域。
11.根据权利要求1所述的方法,其中,选择裁剪区域进一步考虑取决于所述图像序列中的所述图像的所述视场的可变稳定器裕度。
12.一种用于在由摄像机捕获的图像序列中选择裁剪区域的系统,包括:
摄像机,包括一个或多个内部运动传感器;
一个或多个传感器,被配置成测量影响所述摄像机的移动的外部因素;以及
处理单元,包括存储器和处理器,
其中,所述存储器包含指令,所述指令在由所述处理器执行时,使所述处理器执行包括以下步骤的方法:
将第一外部运动数据与内部运动数据关联,其中,在第一时间间隔期间获得所述第一外部运动数据和所述内部运动数据,其中,所述第一外部运动数据包括影响所述摄像机的移动的外部因素的数据,并且其中,所述内部运动数据包括描述所述摄像机的移动的数据;
在所述第一时间间隔之后的第二时间间隔期间获得第二外部运动数据;以及
通过基于所述关联和所述第二外部运动数据选择裁剪区域来稳定在第三时间间隔期间捕获的图像序列,所述第三时间间隔在所述第二时间间隔之后或与所述第二时间间隔部分重叠,其中,所述裁剪区域相对于在所述第三时间间隔期间由所述摄像机捕获的所述图像序列中的所述图像的视场保持恒定并且尺寸最大化。
13.一种用于在由摄像机捕获的图像序列中选择裁剪区域的计算机程序产品,包括具有嵌入其中的程序指令的计算机可读存储介质,其中,所述计算机可读存储介质本身不是暂态信号,所述程序指令由处理器可执行以执行包括以下步骤的方法:
将第一外部运动数据与内部运动数据关联,其中,在第一时间间隔期间获得所述第一外部运动数据和所述内部运动数据,其中,所述第一外部运动数据包括影响所述摄像机的移动的外部因素的数据,并且其中,所述内部运动数据包括描述所述摄像机的移动的数据;
在所述第一时间间隔之后的第二时间间隔期间获得第二外部运动数据;以及
通过基于所述关联和所述第二外部运动数据(208)选择裁剪区域来稳定在第三时间间隔期间捕获的图像序列,所述第三时间间隔在所述第二时间间隔之后或与所述第二时间间隔部分重叠,其中,所述裁剪区域相对于在所述第三时间间隔期间由所述摄像机(302)捕获的所述图像序列中的所述图像的视场保持恒定并且尺寸最大化。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP20171714.7 | 2020-04-28 | ||
EP20171714.7A EP3905659B1 (en) | 2020-04-28 | 2020-04-28 | Statistics-based electronics image stabilization |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113572950A true CN113572950A (zh) | 2021-10-29 |
CN113572950B CN113572950B (zh) | 2022-12-23 |
Family
ID=70470966
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110441758.9A Active CN113572950B (zh) | 2020-04-28 | 2021-04-23 | 在图像序列中选择裁剪区域的方法、系统及存储介质 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11363201B2 (zh) |
EP (1) | EP3905659B1 (zh) |
JP (1) | JP7123215B2 (zh) |
KR (1) | KR102415194B1 (zh) |
CN (1) | CN113572950B (zh) |
TW (1) | TWI767592B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023250261A1 (en) * | 2022-06-21 | 2023-12-28 | Qualcomm Incorporated | Dynamic image capture device configuration for improved image stabilization |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090028536A1 (en) * | 2007-07-24 | 2009-01-29 | Honeywell International, Inc. | Apparatus and method for measuring an acceleration to determine a camera dome's required motor holding current |
US20120327254A1 (en) * | 2010-01-21 | 2012-12-27 | Panasonic Corporation | Image stabilization system |
US20130083192A1 (en) * | 2011-09-30 | 2013-04-04 | Siemens Industry, Inc. | Methods and System for Stabilizing Live Video in the Presence of Long-Term Image Drift |
CN103988491A (zh) * | 2011-12-15 | 2014-08-13 | 苹果公司 | 用于视频稳定化的基于运动传感器的虚拟三脚架方法 |
CN104126299A (zh) * | 2012-02-14 | 2014-10-29 | 诺基亚公司 | 视频图像稳定化 |
US20170041545A1 (en) * | 2015-08-06 | 2017-02-09 | Invensense, Inc. | Systems and methods for stabilizing images |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0358196B1 (en) * | 1988-09-09 | 1997-07-30 | Canon Kabushiki Kaisha | Automatic image stabilization device |
US5581297A (en) | 1992-07-24 | 1996-12-03 | Intelligent Instruments Corporation | Low power video security monitoring system |
US9686471B2 (en) * | 2013-11-01 | 2017-06-20 | Light Labs Inc. | Methods and apparatus relating to image stabilization |
JP6350549B2 (ja) | 2014-02-14 | 2018-07-04 | 日本電気株式会社 | 映像解析システム |
EP3096512B1 (en) | 2015-05-18 | 2017-03-22 | Axis AB | Method and camera for producing an image stabilized video |
EP3306528B1 (en) * | 2016-10-04 | 2019-12-25 | Axis AB | Using image analysis algorithms for providing traning data to neural networks |
EP3340103A1 (en) * | 2016-12-21 | 2018-06-27 | Axis AB | Method for identifying events in a motion video |
US10491807B2 (en) | 2017-06-27 | 2019-11-26 | GM Global Technology Operations LLC | Method to use vehicle information and sensors for photography and video viewing recording |
US20190335074A1 (en) | 2018-04-27 | 2019-10-31 | Cubic Corporation | Eliminating effects of environmental conditions of images captured by an omnidirectional camera |
-
2020
- 2020-04-28 EP EP20171714.7A patent/EP3905659B1/en active Active
-
2021
- 2021-03-03 TW TW110107495A patent/TWI767592B/zh active
- 2021-03-11 KR KR1020210032105A patent/KR102415194B1/ko active IP Right Grant
- 2021-04-22 US US17/237,246 patent/US11363201B2/en active Active
- 2021-04-23 CN CN202110441758.9A patent/CN113572950B/zh active Active
- 2021-04-27 JP JP2021074926A patent/JP7123215B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090028536A1 (en) * | 2007-07-24 | 2009-01-29 | Honeywell International, Inc. | Apparatus and method for measuring an acceleration to determine a camera dome's required motor holding current |
US20120327254A1 (en) * | 2010-01-21 | 2012-12-27 | Panasonic Corporation | Image stabilization system |
US20130083192A1 (en) * | 2011-09-30 | 2013-04-04 | Siemens Industry, Inc. | Methods and System for Stabilizing Live Video in the Presence of Long-Term Image Drift |
CN103988491A (zh) * | 2011-12-15 | 2014-08-13 | 苹果公司 | 用于视频稳定化的基于运动传感器的虚拟三脚架方法 |
CN104126299A (zh) * | 2012-02-14 | 2014-10-29 | 诺基亚公司 | 视频图像稳定化 |
US20170041545A1 (en) * | 2015-08-06 | 2017-02-09 | Invensense, Inc. | Systems and methods for stabilizing images |
Also Published As
Publication number | Publication date |
---|---|
EP3905659A1 (en) | 2021-11-03 |
CN113572950B (zh) | 2022-12-23 |
KR102415194B1 (ko) | 2022-06-30 |
US20210337123A1 (en) | 2021-10-28 |
KR20210133133A (ko) | 2021-11-05 |
TW202213973A (zh) | 2022-04-01 |
JP2021185658A (ja) | 2021-12-09 |
JP7123215B2 (ja) | 2022-08-22 |
EP3905659B1 (en) | 2022-06-01 |
US11363201B2 (en) | 2022-06-14 |
TWI767592B (zh) | 2022-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110636223B (zh) | 防抖处理方法和装置、电子设备、计算机可读存储介质 | |
CN108229333B (zh) | 用于识别运动视频中的事件的方法 | |
CN108347563B (zh) | 视频处理方法和装置、电子设备、计算机可读存储介质 | |
CN110300263B (zh) | 陀螺仪处理方法和装置、电子设备、计算机可读存储介质 | |
US20110134329A1 (en) | Stabilization method for vibrating video frames | |
KR20160118183A (ko) | 화상 조정 파라미터를 결정하기 위한 방법 및 카메라 | |
EP2608529A1 (en) | Camera and method for optimizing the exposure of an image frame in a sequence of image frames capturing a scene based on level of motion in the scene | |
CN105519092A (zh) | 利用图像模糊校正进行图像稳定的设备和方法 | |
CN113572950B (zh) | 在图像序列中选择裁剪区域的方法、系统及存储介质 | |
CN110266950B (zh) | 陀螺仪处理方法和装置、电子设备、计算机可读存储介质 | |
CN110351508B (zh) | 基于录像模式的防抖处理方法和装置、电子设备 | |
CN110177213B (zh) | 陀螺仪参数调整方法和装置、终端、计算机可读存储介质 | |
JP2011188332A (ja) | 画像揺れ補正装置 | |
CN107230373B (zh) | 信息推荐方法、装置、计算机可读存储介质和移动终端 | |
JPWO2019077697A1 (ja) | 画像共有支援装置、画像共有システム、及び、画像共有支援方法 | |
KR102150705B1 (ko) | 영상 처리 장치 및 방법 | |
KR102492679B1 (ko) | 객체 분석에 기반한 자동 감시 영상 생성 방법 및 그 장치 및 방법 | |
US12114076B2 (en) | Differential frame rate settings | |
JP6668298B2 (ja) | スマートカメラ、画像処理装置、スマートカメラシステム、データ送信方法およびプログラム | |
US11438514B1 (en) | Performing image collection adjustment within a body-mounted camera | |
KR102192002B1 (ko) | 해충 접근을 방지할 수 있는 감시 카메라 장치 | |
KR100734847B1 (ko) | 느린 셔터 속도에서 선명한 영상 검출 장치 및 방법 | |
US20190122353A1 (en) | Information processing apparatus, image capture system, control method and storage medium | |
Moon et al. | Setting of the operating conditions of stereo CCTV cameras by weather condition | |
JP2020009284A (ja) | 調整方法、調整装置、コンピュータプログラムおよび移動体計測装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |