CN102103753B - 使用实时相机运动估计检测和跟踪运动对象的方法和终端 - Google Patents
使用实时相机运动估计检测和跟踪运动对象的方法和终端 Download PDFInfo
- Publication number
- CN102103753B CN102103753B CN201010601225.4A CN201010601225A CN102103753B CN 102103753 B CN102103753 B CN 102103753B CN 201010601225 A CN201010601225 A CN 201010601225A CN 102103753 B CN102103753 B CN 102103753B
- Authority
- CN
- China
- Prior art keywords
- image
- block
- moving objects
- characteristic
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
- G06T7/238—Analysis of motion using block-matching using non-full search, e.g. three-step search
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
提供了使用实时相机运动估计来检测和跟踪运动对象的方法和终端,该方法包括:生成代表输入图像中输入模式的变化的特征图;提取图像的特征信息;使用所提取的特征信息估计用于识别相机的运动的全局运动;通过反映所估计的全局运动来校正输入图像;以及使用经校正的图像来检测运动对象。
Description
技术领域
本发明一般涉及用于在便携式终端中检测和跟踪图像中的运动对象的方法和装置。
背景技术
针对诸如计算机视觉和对象识别、机器人、监控系统、无人驾驶车辆系统等等的许多应用,已经对在从相机获取的连续图像中自动检测和跟踪运动对象的技术进行了许多研究。在图像中检测和跟踪运动对象的技术典型地被分类为使用模板匹配的方案、以及在通过校正相机的运动而校正的图像中检测和跟踪运动对象的方案。基于模板匹配的方案在通过相机接收的帧中人工选择(即,允许用户直接选择)要跟踪的对象,设置一些选择的区域作为模板,通过模板匹配来跟踪下一帧中具有最高相似度的区域,并确定具有最高相似度的区域为运动对象的区域。
在通过校正相机的运动而校正的图像中检测和跟踪运动对象的方案将通过相机接收的帧划分为若干块,从每块中提取特征信息,使用所提取的特征信息估计局部运动,基于所估计的局部运动信息去除增加运动估计误差的异常值(outlier)以便估计全局运动,并使用去除了异常值的特征信息估计全局运动。然后,该方案使用图像的特征计算校正了相机运动的连续图像中运动对象和背景的不同的运动信息,并从背景中分离运动对象。
然而,这些运动对象检测和跟踪方案存在若干问题。手动选择对象区域并通过基于模板匹配确定其相似度来跟踪对象的区域的方案是不方便的,并且如果模板匹配失败则该方案可能会继续跟踪非运动对象的部分。另外,如果运动对象在相机的预览区域之外,则此方案不能跟踪运动对象,并且必须重新选择运动对象。此外,如果所选择的运动对象的大小很大,则在模板匹配过程中的计算速度很低,导致预览帧输入相机的延迟。
其次,通过估计局部运动和全局运动校正相机的运动、然后使用图像的特征来检测运动对象的方案一般使用考虑速度、基于图像的特征估计运动的方法,其中图像的特征是指对象的边缘、区域的边界、线的交叉等等。为了提取特征信息,通常使用Harris角点检测方法或Kansde-Lucas-Tomasi(KLT)边缘检测方法;边缘检测方法可以分类为Sobel、Canny和Laplace边缘检测方案。这些不同的特征信息提取方法可能不能在具有有限存储容量和运算处理能力的电子设备(如移动电话)中实时地执行。在一些情况下,考虑到速度,会在处理过程中将输入图像下采样到低分辨率。然而,在这种情况下,处理速度可能增加,但是运动估计的性能可能会降低。
因此,需要一种适合于便携式终端的运算处理能力的运动对象检测和跟踪方法。
发明内容
本发明的一个方面解决至少上述问题和/或缺点,并且提供至少如下所述的优点。因此,本发明的实施例的一个方面提供用于检测和跟踪图像中的运动对象的方法和装置,其适合于具有有限存储容量和运算处理能力的便携式终端。
根据本发明的一个方面,提供使用实时相机运动估计来检测和跟踪运动对象的方法。该方法包括:生成代表输入图像中图像模式(image pattern)的变化的特征图(feature map),并提取图像的特征信息;使用所提取的特征信息估计用于识别相机的运动的全局运动;以及通过反映所估计的全局运动来校正输入图像,并通过在经校正的输入图像中将先前图像与当前图像进行比较来检测运动对象。
根据本发明的另一个方面,提供使用实时相机运动估计检测和跟踪运动对象的终端。该终端包括:相机单元,用于使用镜头和图像传感器来捕获图像;控制器,用于控制终端的组件;以及运动对象检测和跟踪单元。该运动对象检测和跟踪单元包括:特征提取器,用于产生代表输入图像中图像模式的变化的特征图,并提取该图像的特征信息;全局运动估计器,用于使用所提取的特征信息估计用于识别相机的运动的全局运动;以及运动对象提取器,用于通过反映所估计的全局运动来校正输入图像,并通过在经校正的输入图像中将先前图像与当前图像进行比较来检测运动对象。
附图说明
通过以下结合附图的描述,本发明的特定实施例的上述及其他方面、特征和优点将更加清楚,附图中:
图1是示出根据本发明的实施例的使用实时相机运动估计检测和跟踪运动对象的终端的结构的框图;
图2是示出根据本发明的实施例的用于使用实时相机运动估计检测和跟踪运动对象的终端中的运动对象检测和跟踪单元的详细结构的框图;
图3是示出根据本发明的实施例的用于使用实时相机运动估计检测和跟踪运动对象的方法的流程的示图;
图4A和图4B是根据本发明的实施例的通过使用实时相机运动估计检测和跟踪运动对象所获得的图像的例子的示图。
在所有附图中,相同的附图参考标号应被理解为指代相同的元件、特征和结构。
具体实施方式
现在将参考附图详细描述本发明的实施例。在下面的描述中,提供诸如具体的配置和组件的特定细节仅仅是为了帮助全面理解本发明的实施例。因此,本领域技术人员应该清楚,可以对这里描述的实施例进行各种改变和修改而不脱离本发明的范围和精神。另外,为了清楚和简洁,省略了对已知功能和构造的描述。
本发明提供一种利用通过相机预览获得的图像提取相机的运动信息、并利用所提取的信息检测和跟踪运动对象的方法。该方法使得具有有限存储容量和运算处理能力的电子设备能够以高速提取相机的运动信息、并校正连续输入的预览图像的相机运动信息,从而使其能够自动地、精确地检测和跟踪运动对象。为了实现快速和精确的相机运动估计,本发明致力于使用局部块信息从除了候选的运动对象的区域以外的区域中提取特征,基于所提取的图像的特征信息估计全局运动,根据基于所估计的相机运动信息而校正的先前帧与下一帧之间的差图像(difference image)来提取运动对象的区域,并对其进行滤波,以及使用在先前帧中的有关运动对象的信息生成和跟踪外观模型(appearance model)。以下将参考附图对其进行详细描述。
图1示出了根据本发明的实施例的使用实时相机运动估计检测和跟踪运动对象的终端的结构。
参考图1,该终端包括控制器110、相机单元120、显示器130、存储器140、输入单元170、移动通信单元150和运动对象检测和跟踪单元160。
显示器130在控制器110的控制下显示各种显示信息和消息。显示器130可以包括液晶显示器(LCD)、薄膜晶体管(TFT)显示器、有机电致发光(Eletroluminescence,EL)显示器等等。
输入单元170具有多个字母数字和功能键,并将用户按下或点击的键所对应的键输入数据输出给控制器110。当采用触摸屏形式时,显示器130也可以用作输入单元170。
存储器140包括用于存储终端操作所需的多个程序和数据的只读存储器(ROM)和随机存取存储器(RAM)。
移动通信单元150经由天线(未示出)与基站交换射频(RF)信号,以实现终端和基站之间的无线通信。
相机单元120包括用于捕获图像的镜头和图像传感器。
控制器110控制终端的其他组件。控制器110通过控制其他组件来执行诸如呼叫和数据发送/接收的一般通信功能,并控制根据本发明的实施例的运动对象检测和跟踪单元160以检测/跟踪图像中的运动对象。
运动对象检测和跟踪单元160通过相机单元120接收预览图像,并实时检测和跟踪输入图像中的运动对象。
根据本发明的实施例,运动对象检测和跟踪单元160生成代表输入图像中图像模式的变化的特征图,提取图像的特征信息,使用所提取的特征信息估计用于识别相机的运动的全局运动,通过反映所估计的全局运动来校正输入图像,并使用经校正的图像来检测运动对象。
在本例中,运动对象检测和跟踪单元160通过生成特征图来提取特征信息,该特征图标记图像中每一个与相邻像素之间的变化大于预定阈值的像素。在检测与相邻像素的变化程度时,运动对象检测和跟踪单元160使用像素值的YCbCr域中的Y值。并且,在RGB域像素的情况下,该变化程度通过使用R、G、B中的至少一个来确定。在生成特征图时,运动对象检测和跟踪单元160在通过从第一输入图像的中心排除预定大小的区域而获得的部分中创建特征图,并且从第二输入帧开始,在除了所提取的运动对象的区域之外的剩余部分中创建特征图。
运动对象检测和跟踪单元160通过以下步骤来估计全局运动:将在特征图中被标记为与相邻像素之间的变化大于预定阈值的像素区域划分为具有预定大小N×N的特征块,将所划分的特征块进一步划分为具有预定大小S×S的子块,将属于每个特征块中所包括的每个子块的像素值的和设置为该子块的代表值(representative value),将子块中具有最大代表值的子块设置为该子块所属特征块的宏块,并将从所输入的先前图像中获得的特征块的宏块与当前图像进行匹配。
运动对象检测和跟踪单元160通过以下步骤来检测运动对象:通过反映所估计的全局运动来校正所输入的先前图像,通过将平均滤波器应用于经校正的先前图像和当前图像来去除噪声,通过将去除噪声的经校正的先前图像与当前图像进行匹配来计算以二值信号表示的差图像,并通过向所计算的差图像应用侵蚀算子(erosion operator)来去除噪声。
在本例中,应用平均滤波器包括在经校正的先前图像和当前图像中将具有预定大小M×M的块的中心像素值设置为其他相邻像素的平均值,并执行滤波以使M×M块在经校正的先前图像和当前图像中不重叠。
运动对象检测和跟踪单元160通过如下步骤来计算差图像:计算亮度信息和色彩信息中的每一个在经校正的先前图像与当前图像之间的图像差,并标记亮度信息的图像差大于关于亮度信息的预定参考图像差、或关于色彩信息的图像差大于关于色彩信息的预定参考图像差的像素。
一旦计算出运动对象的第一区域,则运动对象检测和跟踪单元160在下一输入图像中仅仅在其水平像素长度和垂直像素长度是从所检测的运动对象的区域扩展预定偏移量的区域中计算差图像,从而检测运动对象的区域。
运动对象检测和跟踪单元160通过累计所检测的运动对象的区域来生成外观模型,并且如果由于运动对象停止而没有检测到运动对象,则使用外观模型、在从先前图像中所检测到的运动对象的区域扩展预定偏移量的区域中执行模式匹配,由此来跟踪运动对象。
图2示出了根据本发明的实施例的使用实时相机运动估计检测和跟踪运动对象的终端中的运动对象检测和跟踪单元的详细结构。
参考图2,图1的运动对象检测和跟踪单元160包括特征提取器210、全局运动估计器220、运动对象提取器230、外观模型生成器240以及运动对象跟踪器250。
特征提取器210通过控制器110从相机单元120接收由用户输入的实时图像,或者接收存储在存储器140中的图像,并提取所接收的图像的特征。
在运动对象检测和跟踪过程中,为了迅速和精确地估计相机的运动,要求终端提取图像模式具有显著变化的部分中的特征信息,同时最小化输入图像的特征信息量。为了满足这个要求,使用局部块信息生成特征图,并将与所生成的特征图中的有效范围相对应的部分划分为具有N×N大小的特征块。术语“局部块信息”是指通过输入图像中每个像素的相邻像素获得的信息。例如,如果利用局部块来获取边缘信息或角点信息,则对于图像I的每个像素I(i,j)可以使用包括参考像素I(i,j)和它的相邻像素I(i-1,j)和I(i,j-1)的块。也就是,局部块可以包括在参考像素周围的两个或更多个相邻像素。在使用局部块生成特征图的过程中,使用参考像素和相邻像素之间的变化生成特征图,排除图像中具有较小模式变化的区域,并设置特定阈值Tm以便从特征图中获得有效区域。特征图使用下面的等式(1)生成:
其中M(i,j)代表特征图M的第(i,j)个像素的值,而TM代表阈值。
考虑到运动估计的精确度和速度,在除了运动对象的区域之外的剩余区域中创建特征图。在第一输入图像中,由于不能得知运动对象的区域,因此假设运动对象位于图像中央,从而在图像的外围部分中创建特征图。也就是,在通过从图像中央排除预定大小的区域而获得的部分中创建特征图,并且从第二输入帧开始,在除了所提取的运动对象的区域之外的剩余部分中创建特征图。
全局运动估计器220使用特征提取器210创建的特征图估计全局运动。为了使用所创建的特征图估计全局运动,全局运动估计器220将特征图中具有非零值的部分划分为N×N块(以下称为“特征块”)。为了选择用来估计全局运动的宏块,每个特征块被进一步划分成S×S子块。计算属于每个所划分的子块的像素值的和并将其确定为该子块的代表值,并且将每个特征块中具有最大代表值的子块设置为该特征块的宏块。具有较大的代表值可以被解释为图像模式的显著变化。使用下面的等式(2)来创建宏块:
其中Mb(Fb)代表特征块Fb的宏块,Sb代表特征块Fb的子块,V(Sb)代表属于每个所划分的子块的像素值的和,并且x代表像素值。
然后,使用先前图像It-1和当前图像It估计相机的全局运动。通过使用从先前图像创建的宏块对当前图像执行块匹配来估计相机运动。
运动对象提取器230通过反映全局运动估计器220所估计的相机运动信息来校正图像,并使用经校正的图像来检测运动对象。一旦估计出相机运动,运动对象提取器230就通过反映所估计的运动信息来校正先前图像,然后计算与当前图像重叠部分的差图像。
一般来说,为了减少噪声的影响,通过向每个图像应用平均滤波器或者高斯滤波器来计算差图像。除了平均滤波器和高斯滤波器,取决于所要求的速度,也可以使用从平均滤波器改进的其他类型的滤波器。例如,在使用3×3块或更多的平均滤波器中,将八个相邻像素的平均值确定为图像中3×3滤波器的中心像素值。然而,如果对通过预览输入的所有帧执行该像素操作,可能增加操作时间。因此,可以彼此不重叠地对3×3块进行滤波,并且可以不仅将3×3块中的中心像素值设置为平均值,而且还将它的八个相邻像素值也相等地设置为该平均值。
另外,如果在使用差图像检测运动对象时只使用灰度图像,则在背景颜色与运动对象的颜色类似的情况下很可能不能检测到运动对象。因此,当计算差图像时,也使用色彩信息。例如,如果图像具有YCbCr格式,则不仅使用Y值的平均、而且还使用Cb和Cr值的平均来计算差图像,并且使用特定阈值TY和TCbCr将该差图像转换为二值图像。甚至在RGB或者其他颜色域中也可以应用相同的方法。使用下面的等式(3)来计算差图像:
其中IY和ICbCr分别代表Y和CbCr域中的图像差,It-1 new代表通过反映相机运动信息而校正的先前图像,IB代表二值差图像,而x代表每个域中的坐标。
接下来,利用在形态学中使用的侵蚀算子来去除二值差图像的噪声,并且将去除噪声的部分设置为运动对象的区域。一旦运动对象的区域被确定,则为了提高处理速度,在下一输入图像It+1中,在包括先前确定的运动对象的区域的某个扩展区域中计算二值差图像,而不需要计算关于整个区域的差图像。术语“扩展区域”是指通过将先前检测的运动对象的区域的水平区域和垂直区域扩展预定偏移量而获得的区域,并且使用扩展区域使得可以精确地检测以高速运动、并且在对象进行远离或接近相机的运动时形状发生变化的运动对象,如车辆。如果运动对象移动到屏幕边界之外,则用于检测运动对象的区域扩展到整个图像。
外观模型生成器240在运动对象没有运动或者只有微小运动的情况下生成外观模型。通过累计在先前帧中获得的运动对象的区域来生成外观模型。为了生成外观模型,使用下面的等式(4):
At(x)=αAt-1(x)+(α-1)It(x)如果x∈R .........(4)
其中A代表外观模型,R代表在在时隙t获得的运动对象的区域,α代表透明度,而x代表像素的坐标。
运动对象跟踪器250使用在外观模型生成器240中生成的外观模型跟踪运动对象。外观模型随着帧的经过而不断地更新,并且如果在时隙t+1运动对象没有运动或者只有微小的运动,则运动对象跟踪器250通过使用在时隙t获得的外观模型、在图像It+1中在时隙t的运动对象的区域的周围执行模式匹配操作来跟踪运动对象。
图3示出了根据本发明的实施例的使用实时相机运动估计来检测和跟踪运动对象的方法的流程。
参考图3,在步骤310,特征提取器210通过图1的控制器110从图1的相机单元120接收由用户输入的实时图像,或者接收存储在图1的存储器140中的图像,并提取所接收的图像的特征。
在步骤320,图2的全局运动估计器220使用由图2的特征提取器210创建的特征图来估计全局运动。在步骤330,图2的运动对象提取器230通过反映在全局运动估计器220中提取的相机运动信息来校正图像,并使用经校正的图像检测运动对象。在步骤340,图2的外观模型生成器240在运动对象没有运动或者有非常微小运动的情况下生成外观模型。在步骤350,图2的运动对象跟踪器250使用所生成的外观模型跟踪运动对象。
图4A和图4B示出了通过根据本发明的实施例的使用实时相机运动估计检测和跟踪运动对象而获得的图像的例子。
通过根据本发明的实施例使用实时相机运动估计检测和跟踪运动对象,可以实时检测和跟踪图像中的运动对象,使得可以如图4所示精确地检测图像中的运动对象的运动。
从前述描述中可以清楚地看出,本发明提供了用于使用通过相机预览获得的图像提取相机的运动信息、并通过反映所提取的运动信息来检测和跟踪运动对象的方法。具体来说,本发明使具有有限存储容量和运算处理能力的便携式终端能够以高速提取相机运动信息,并且校正连续接收的预览图像的相机运动信息,由此自动地、精确地检测和跟踪运动对象,并且使用外观模型提高运动对象的跟踪性能。结果,根据本发明的运动对象检测和跟踪方法可以用于合成捕获的图像的应用中。
虽然已经参考本发明的特定实施例示出和描述了根据本发明的实施例的使用实时相机运动估计检测和跟踪运动对象的方法和终端的操作和结构,但本领域技术人员将理解,可以在其中进行形式和细节上的各种改变而不脱离由权利要求及其等效物定义的本发明的精神和范围。
Claims (13)
1.一种用于使用实时相机运动估计来检测和跟踪运动对象的方法,包括:
生成代表输入图像中的图像模式的变化的特征图;
将所述特征图中被标记为与相邻像素的变化大于预定阈值的像素区域划分成特征块;
提取所述特征块的每一个的特征信息;
使用所提取的特征信息估计全局运动,以用于识别相机的运动;以及
通过反映所估计的全局运动来校正输入图像,并且通过在经校正的输入图像中比较先前图像与当前图像来检测运动对象,
其中生成特征图包括在与所提取的运动对象的区域不同的剩余部分中创建特征图,
其中估计全局运动包括:
将每一个所划分的特征块划分为具有预定大小的子块;
将属于每个特征块中所包括的每个子块的像素值的和设置为该子块的代表值,并将子块中具有最大代表值的子块设置为该子块所属的特征块的宏块;以及
通过将在先前的输入图像中获得的每个特征块中的宏块与当前图像进行匹配来估计全局运动。
2.如权利要求1所述的方法,其中生成特征图和提取特征信息包括:
生成特征图并从该特征图中提取特征信息,其中所述特征图标记图像中每一个与相邻像素的变化大于预定阈值的像素。
3.如权利要求1所述的方法,其中生成特征图包括:
在通过从第一输入图像的中央区分出预定大小的区域而获得的部分中创建特征图,并且从第二输入图像开始,在与所提取的运动对象的区域不同的剩余部分中创建特征图。
4.如权利要求1至3之一所述的方法,其中校正输入图像和检测运动对象包括:
通过反映所估计的全局运动来校正先前的输入图像;
通过向经校正的先前图像和当前图像应用平均滤波器来去除噪声,其中,应用平均滤波器包括:在经校正的先前图像和当前图像中将具有预定大小M×M的块的中心像素值设置为其他相邻像素的平均值,并执行滤波使得M×M块在经校正的先前图像和当前图像中不重叠;
通过将去除噪声的、经校正的先前图像与当前图像进行匹配来计算以二值信号表示的差图像;以及
通过向所计算的差图像应用侵蚀因子来去除噪声,从而检测运动对象的区域。
5.如权利要求4所述的方法,其中计算差图像包括:计算在经校正的先前图像与当前图像之间的、关于亮度信息和色彩信息中的每一个的图像差,并标记关于亮度信息的图像差大于关于亮度信息的预定参考图像差、或者关于色彩信息的图像差大于关于色彩信息的预定参考图像差的像素。
6.如权利要求4所述的方法,其中检测运动对象的区域包括:一旦已经计算了第一个运动对象的区域,则在下一输入图像中,仅仅在其水平像素长度和垂直像素长度是从所检测的运动对象的区域扩展预定偏移量的区域中计算差图像。
7.如权利要求1到3之一所述的方法,还包括:
在该运动对象没有运动的情况下,
通过累计所检测的运动对象的区域来生成外观模型;以及
使用该外观模型,通过在从先前图像中检测的运动对象的区域扩展预定偏移量的区域中的模式匹配来跟踪运动对象。
8.一种用于使用实时相机运动估计来检测和跟踪运动对象的终端,包括:
相机单元,用于使用镜头和图像传感器捕获图像;
控制器,用于控制终端的组件;和
运动对象检测和跟踪单元,包括:
特征提取器,用于生成代表输入图像中图像模式的变化的特征图,并提取该图像的特征信息,将所述特征图中被标记为与相邻像素的变化大于预定阈值的像素区域划分成特征块,以及提取所述特征块的每一个的特征信息;
全局运动估计器,用于使用所提取的特征信息估计全局运动,以用于识别相机的运动;以及
运动对象提取器,用于通过反映所估计的全局运动来校正输入图像,并通过在经校正的输入图像中比较先前图像与当前图像来检测运动对象,
其中所述特征提取器在与所提取的运动对象的区域不同的剩余部分中创建所述特征图,
其中所述全局运动估计器将每一个所划分的特征块划分为具有预定大小的子块,将属于包括在每个特征块中的每个子块的像素值的和设置为该子块的代表值,将子块中具有最大代表值的子块设置为该子块所属的特征块的宏块,并通过将在先前的输入图像中获得的每个特征块中的宏块与当前图像进行匹配来估计全局运动。
9.如权利要求8所述的终端,其中所述特征提取器生成特征图并从该特征图中提取特征信息,该特征图标记图像中每一个与相邻像素的变化大于预定阈值的像素。
10.如权利要求8所述的终端,其中为了生成特征图,所述特征提取器在通过从第一输入图像的中央区分出预定大小的区域而获得的部分中创建特征图,并且从第二输入图像开始,在与所提取的运动对象的区域不同的剩余部分中创建特征图。
11.如权利要求8到10之一所述的终端,其中所述运动对象提取器通过反映所估计的全局运动来校正先前的输入图像,通过向经校正的先前图像和当前图像应用平均滤波器来去除噪声,通过将去除噪声的经校正的先前图像与当前图像进行匹配来计算以二值信号表示的差图像,并通过向所计算的差图像应用侵蚀算子以去除噪声来检测运动对象的区域,
其中,应用平均滤波器包括:在经校正的先前图像和当前图像中将具有预定大小M×M的块的中心像素值设置为其他相邻像素的平均值,并执行滤波使得M×M块在经校正的先前图像和当前图像中不重叠。
12.如权利要求11所述的终端,其中为了通过将去除噪声的经校正的二值图像与当前图像进行匹配来计算以二值信号表示的差图像,所述运动对象提取器计算在经校正的先前图像与当前图像之间的、关于亮度信息和色彩信息中的每一个的图像差,并标记关于亮度信息的图像差大于关于亮度信息的预定参考图像差、或关于色彩信息的图像差大于关于色彩信息的预定参考图像差的像素,
其中,一旦计算出第一个运动对象的区域,则所述运动对象提取器在下一输入图像中仅仅通过在其水平像素长度和垂直像素长度是从所检测的运动对象的区域扩展预定偏移量的区域中的差图像来检测运动对象的区域。
13.如权利要求8到10之一所述的终端,还包括:
外观模型生成器,用于在该运动对象没有运动的情况下,通过累计所检测的运动对象的区域来生成外观模型;以及
运动对象跟踪器,用于使用外观模型,通过在从先前图像中检测的运动对象的区域扩展预定偏移量的区域中的模式匹配来跟踪运动对象。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090129338A KR101183781B1 (ko) | 2009-12-22 | 2009-12-22 | 실시간 카메라 모션 추정을 이용한 물체 검출/추적 방법 및 단말 |
KR129338/09 | 2009-12-22 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102103753A CN102103753A (zh) | 2011-06-22 |
CN102103753B true CN102103753B (zh) | 2016-09-28 |
Family
ID=43778185
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201010601225.4A Expired - Fee Related CN102103753B (zh) | 2009-12-22 | 2010-12-22 | 使用实时相机运动估计检测和跟踪运动对象的方法和终端 |
Country Status (4)
Country | Link |
---|---|
US (2) | US8611595B2 (zh) |
EP (1) | EP2357614B1 (zh) |
KR (1) | KR101183781B1 (zh) |
CN (1) | CN102103753B (zh) |
Families Citing this family (49)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4241709B2 (ja) * | 2005-10-11 | 2009-03-18 | ソニー株式会社 | 画像処理装置 |
CN102883101A (zh) * | 2011-07-15 | 2013-01-16 | 华晶科技股份有限公司 | 影像处理装置及其影像处理方法 |
US9129400B1 (en) * | 2011-09-23 | 2015-09-08 | Amazon Technologies, Inc. | Movement prediction for image capture |
WO2013061810A1 (ja) * | 2011-10-26 | 2013-05-02 | アイキューブド研究所株式会社 | 画像処理装置、画像処理方法、および記録媒体 |
AU2011244921B8 (en) * | 2011-11-01 | 2014-04-03 | Canon Kabushiki Kaisha | Method and system for luminance adjustment of images in an image sequence |
US8774556B2 (en) * | 2011-11-30 | 2014-07-08 | Microsoft Corporation | Perspective correction using a reflection |
JP2015111746A (ja) | 2012-04-09 | 2015-06-18 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム |
ES2436726B2 (es) * | 2012-06-04 | 2015-04-27 | Eads Construcciones Aeronauticas, S.A. | Sistemas y métodos para el cálculo de la velocidad de aproximación en maniobras de reabastecimiento aéreo de combustible |
KR101384332B1 (ko) * | 2012-09-06 | 2014-04-10 | 현대모비스 주식회사 | 차량 영상처리 장치 및 방법과 이를 이용한 차량 영상처리 시스템 |
WO2014155877A1 (ja) * | 2013-03-26 | 2014-10-02 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
US10474921B2 (en) * | 2013-06-14 | 2019-11-12 | Qualcomm Incorporated | Tracker assisted image capture |
US10136063B2 (en) * | 2013-07-12 | 2018-11-20 | Hanwha Aerospace Co., Ltd | Image stabilizing method and apparatus |
US10121254B2 (en) | 2013-08-29 | 2018-11-06 | Disney Enterprises, Inc. | Methods and systems of detecting object boundaries |
EP2851870B1 (en) * | 2013-09-20 | 2019-01-23 | Application Solutions (Electronics and Vision) Limited | Method for estimating ego motion of an object |
KR102116090B1 (ko) * | 2013-09-27 | 2020-05-27 | 한화테크윈 주식회사 | 동영상 데이터를 압축하는 카메라 |
JP5935779B2 (ja) * | 2013-09-30 | 2016-06-15 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
CN104574349B (zh) * | 2013-11-14 | 2017-04-12 | 广东朗呈医疗器械科技有限公司 | 恢复相机位置的方法 |
JP6331402B2 (ja) * | 2014-01-14 | 2018-05-30 | 株式会社デンソー | 移動体検出装置および移動体検出方法 |
WO2016021411A1 (ja) * | 2014-08-06 | 2016-02-11 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
KR102289261B1 (ko) * | 2014-10-30 | 2021-08-12 | 한화테크윈 주식회사 | 움직임 영역 검출 장치 및 방법 |
KR101726695B1 (ko) * | 2015-01-23 | 2017-04-13 | 한화테크윈 주식회사 | 객체추적방법 |
US10354397B2 (en) | 2015-03-11 | 2019-07-16 | Massachusetts Institute Of Technology | Methods and apparatus for modeling deformations of an object |
US9811732B2 (en) | 2015-03-12 | 2017-11-07 | Qualcomm Incorporated | Systems and methods for object tracking |
KR102359083B1 (ko) * | 2015-06-02 | 2022-02-08 | 에스케이하이닉스 주식회사 | 움직이는 객체 검출 장치 및 방법 |
KR102410268B1 (ko) * | 2015-11-20 | 2022-06-20 | 한국전자통신연구원 | 객체 추적 방법 및 그 방법을 수행하는 객체 추적 장치 |
KR101752848B1 (ko) * | 2015-12-30 | 2017-06-30 | 씨제이포디플렉스 주식회사 | 영상 움직임 검출을 이용한 모션 제어 시스템 및 방법 |
US11004213B2 (en) | 2016-01-25 | 2021-05-11 | KoreoGRFX, Inc. | Methods and systems for determining motion of a device |
CN105678834B (zh) | 2016-02-26 | 2019-12-17 | 腾讯科技(深圳)有限公司 | 区分对象的方法和装置 |
JP6932487B2 (ja) * | 2016-07-29 | 2021-09-08 | キヤノン株式会社 | 移動体監視装置 |
US10380745B2 (en) * | 2016-09-01 | 2019-08-13 | Massachusetts Institute Of Technology | Methods and devices for measuring object motion using camera images |
KR102631964B1 (ko) * | 2016-11-23 | 2024-01-31 | 엘지이노텍 주식회사 | 차량 주행 정보를 이용한 이미지 분석 방법, 장치, 시스템, 프로그램 및 저장 매체 |
US10764499B2 (en) * | 2017-06-16 | 2020-09-01 | Microsoft Technology Licensing, Llc | Motion blur detection |
KR102434397B1 (ko) * | 2017-07-10 | 2022-08-22 | 한국전자통신연구원 | 전역적 움직임 기반의 실시간 다중 객체 추적 장치 및 방법 |
CN107592453B (zh) * | 2017-09-08 | 2019-11-05 | 维沃移动通信有限公司 | 一种拍摄方法及移动终端 |
KR102468729B1 (ko) * | 2017-09-29 | 2022-11-21 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 객체 센싱 방법 |
CN108280846B (zh) * | 2018-01-16 | 2020-12-29 | 中国科学院福建物质结构研究所 | 基于几何图形匹配的目标跟踪修正方法及其装置 |
CN109165572B (zh) * | 2018-08-03 | 2022-02-08 | 百度在线网络技术(北京)有限公司 | 用于生成信息的方法和装置 |
KR102198912B1 (ko) * | 2018-09-21 | 2021-01-06 | 네이버웹툰 유한회사 | 비디오 영상 내의 행동 인식 방법 및 장치 |
CN109410254B (zh) * | 2018-11-05 | 2020-07-28 | 清华大学深圳研究生院 | 一种基于目标和相机运动建模的目标跟踪方法 |
CN109543587B (zh) * | 2018-11-16 | 2020-04-24 | 中南大学 | 一种高温熔融流体流速检测方法及系统 |
IT201900001833A1 (it) * | 2019-02-08 | 2020-08-08 | St Microelectronics Srl | Un procedimento per rilevare oggetti in movimento mediante una telecamera in movimento, e relativo sistema di elaborazione, dispositivo e prodotto informatico |
WO2020213099A1 (ja) * | 2019-04-17 | 2020-10-22 | 日本電気株式会社 | オブジェクト検出・追跡装置、方法、およびプログラム記録媒体 |
KR20210019826A (ko) * | 2019-08-13 | 2021-02-23 | 삼성전자주식회사 | Ar 글래스 장치 및 그 동작 방법 |
CN110493524B (zh) * | 2019-08-28 | 2021-05-28 | 深圳市道通智能航空技术股份有限公司 | 一种测光调整方法、装置、设备和存储介质 |
CN111080674B (zh) * | 2019-12-18 | 2023-11-14 | 上海无线电设备研究所 | 一种基于混合高斯模型的多目标isar关键点提取方法 |
CN113496136A (zh) | 2020-03-18 | 2021-10-12 | 中强光电股份有限公司 | 无人机及其影像识别方法 |
CN111882583B (zh) * | 2020-07-29 | 2023-11-14 | 成都英飞睿技术有限公司 | 一种运动目标检测方法、装置、设备及介质 |
CN111880575B (zh) * | 2020-08-10 | 2023-03-24 | 重庆依塔大数据研究院有限公司 | 基于颜色追踪的控制方法、装置、存储介质及机器人 |
CN112132849A (zh) * | 2020-09-16 | 2020-12-25 | 天津大学 | 一种基于Canny边缘检测的空间非合作目标角点提取方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1091523A (zh) * | 1992-10-09 | 1994-08-31 | 三星电子株式会社 | 用于自动变焦的目标跟踪方法及其装置 |
CN101140745A (zh) * | 2006-09-07 | 2008-03-12 | 三星电子株式会社 | 检测全局图像的方法、显示设备及其驱动方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6335985B1 (en) * | 1998-01-07 | 2002-01-01 | Kabushiki Kaisha Toshiba | Object extraction apparatus |
KR100325253B1 (ko) * | 1998-05-19 | 2002-03-04 | 미야즈 준이치롯 | 움직임벡터 검색방법 및 장치 |
US6628711B1 (en) * | 1999-07-02 | 2003-09-30 | Motorola, Inc. | Method and apparatus for compensating for jitter in a digital video image |
AU2001270885A1 (en) * | 2000-07-20 | 2002-02-05 | Giant Leap Ahead Limited | Method and apparatus for determining motion vectors in dynamic images |
KR100540889B1 (ko) * | 2000-12-18 | 2006-01-10 | 한국전자통신연구원 | 기준점을 이용한 이동 물체 추적 방법 |
US7408986B2 (en) * | 2003-06-13 | 2008-08-05 | Microsoft Corporation | Increasing motion smoothness using frame interpolation with motion analysis |
US8340185B2 (en) * | 2006-06-27 | 2012-12-25 | Marvell World Trade Ltd. | Systems and methods for a motion compensated picture rate converter |
KR101107256B1 (ko) | 2007-03-27 | 2012-01-19 | 삼성전자주식회사 | 모션 벡터에 기반한 적응적 프레임율 변환 방법 및 장치 및적응적 프레임율 변환 기능을 가지는 디스플레이 장치 |
US7856120B2 (en) * | 2007-03-30 | 2010-12-21 | Mitsubishi Electric Research Laboratories, Inc. | Jointly registering images while tracking moving objects with moving cameras |
US8130277B2 (en) * | 2008-02-20 | 2012-03-06 | Aricent Group | Method and system for intelligent and efficient camera motion estimation for video stabilization |
JP2011199716A (ja) * | 2010-03-23 | 2011-10-06 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
-
2009
- 2009-12-22 KR KR1020090129338A patent/KR101183781B1/ko active IP Right Grant
-
2010
- 2010-12-13 EP EP10194641.6A patent/EP2357614B1/en not_active Not-in-force
- 2010-12-22 US US12/976,290 patent/US8611595B2/en not_active Expired - Fee Related
- 2010-12-22 CN CN201010601225.4A patent/CN102103753B/zh not_active Expired - Fee Related
-
2013
- 2013-11-22 US US14/087,871 patent/US20140078313A1/en not_active Abandoned
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1091523A (zh) * | 1992-10-09 | 1994-08-31 | 三星电子株式会社 | 用于自动变焦的目标跟踪方法及其装置 |
CN101140745A (zh) * | 2006-09-07 | 2008-03-12 | 三星电子株式会社 | 检测全局图像的方法、显示设备及其驱动方法 |
Non-Patent Citations (2)
Title |
---|
Fast Video Segmentation Algorithm With Shadow Cancellation, Global Motion Compensation, and Adaptive Threshold Techniques;Shao-Yi Chien等;《IEEE TRANSACTIONS ON MULTIMEDIA》;20041031;第6卷(第5期);摘要,第734-746页第Ⅲ、Ⅳ、Ⅴ、Ⅷ节 * |
Object Tracking: A Survey;Alper Yilmaz;《ACM Computing Surveys》;20061231;第38卷(第4期);第24-25页第5.2节 * |
Also Published As
Publication number | Publication date |
---|---|
KR20110072426A (ko) | 2011-06-29 |
US20110150284A1 (en) | 2011-06-23 |
US20140078313A1 (en) | 2014-03-20 |
EP2357614B1 (en) | 2019-09-11 |
KR101183781B1 (ko) | 2012-09-17 |
EP2357614A1 (en) | 2011-08-17 |
US8611595B2 (en) | 2013-12-17 |
CN102103753A (zh) | 2011-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102103753B (zh) | 使用实时相机运动估计检测和跟踪运动对象的方法和终端 | |
US10753881B2 (en) | Methods and systems for crack detection | |
CN107133969B (zh) | 一种基于背景反投影的移动平台运动目标检测方法 | |
CN110610150B (zh) | 一种目标运动物体的跟踪方法、装置、计算设备和介质 | |
CN107369159B (zh) | 基于多因素二维灰度直方图的阈值分割方法 | |
CN102915544B (zh) | 基于纹理检测和颜色分割的视频图像运动目标提取方法 | |
CN108154149B (zh) | 基于深度学习网络共享的车牌识别方法 | |
US9652850B2 (en) | Subject tracking device and subject tracking method | |
CN110047063B (zh) | 一种物料掉落的检测方法、装置、设备及存储介质 | |
CN108734109B (zh) | 一种面向图像序列的视觉目标跟踪方法及系统 | |
CN103345644A (zh) | 在线训练的目标检测方法及装置 | |
CN111209858A (zh) | 一种基于深度卷积神经网络的实时车牌检测方法 | |
CN110555377A (zh) | 一种基于鱼眼相机俯视拍摄的行人检测与跟踪方法 | |
CN111161309A (zh) | 一种车载视频动态目标的搜索与定位方法 | |
US20110085026A1 (en) | Detection method and detection system of moving object | |
CN116385495A (zh) | 一种动态背景下红外视频的运动目标闭环检测方法 | |
CN104749801A (zh) | 高精度自动光学检测方法和系统 | |
CN111028263A (zh) | 一种基于光流颜色聚类的运动物体分割方法及其系统 | |
CN109658441A (zh) | 基于深度信息的前景检测方法及装置 | |
CN113628202A (zh) | 一种确定方法、清洁机器人和计算机存储介质 | |
CN111160340A (zh) | 一种运动目标检测方法、装置、存储介质及终端设备 | |
CN106228553A (zh) | 高分辨率遥感图像阴影检测装置与方法 | |
CN102044079A (zh) | 考虑比例跟踪图像补丁的方法和设备 | |
CN102595151A (zh) | 影像深度计算方法 | |
CN111563912B (zh) | 一种行人追踪系统和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20160928 Termination date: 20201222 |
|
CF01 | Termination of patent right due to non-payment of annual fee |