CN101983389A - 移动体检测方法以及移动体检测装置 - Google Patents

移动体检测方法以及移动体检测装置 Download PDF

Info

Publication number
CN101983389A
CN101983389A CN2009801118239A CN200980111823A CN101983389A CN 101983389 A CN101983389 A CN 101983389A CN 2009801118239 A CN2009801118239 A CN 2009801118239A CN 200980111823 A CN200980111823 A CN 200980111823A CN 101983389 A CN101983389 A CN 101983389A
Authority
CN
China
Prior art keywords
distance
area dividing
motion
moving body
motion track
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2009801118239A
Other languages
English (en)
Other versions
CN101983389B (zh
Inventor
岩崎正宏
登一生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of CN101983389A publication Critical patent/CN101983389A/zh
Application granted granted Critical
Publication of CN101983389B publication Critical patent/CN101983389B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

提供一种移动体检测方法,即便是包括伴随着形状的变化而移动的人物等被拍摄物的图像,也能够正确地进行区域划分。其中包括:步骤(S101),接受构成动态图像的多个图片;步骤(S102和S103),按照由构成图片的一个以上的像素所构成的各个块,检测在时间上相邻的两个图片之间的图像的运动,并通过针对多个图片链接检测出的运动,从而算出移动轨迹;步骤(S104),针对被算出的多个移动轨迹算出表示移动轨迹间的类似性的距离;以及步骤(S105和S106),通过对被算出的距离中的比阈值小的距离进行连接,从而变换为测地线距离,检测得到的测地线距离的分布中的不连续的点,并通过将相距比检测出的不连续的点的测地线距离小的测地线距离的移动轨迹作为一个群,从而进行区域划分。

Description

移动体检测方法以及移动体检测装置
技术领域
本发明涉及检测图像中的移动体的方法,尤其涉及从由多个图像构成的动态图像中,根据图像的运动信息,通过进行区域划分从而检测移动体的方法,所进行的区域划分是指,对伴随着形状的变化而移动的人物等移动体的全部或一部分的区域进行确定。
背景技术
作为根据图像来检测伴随着形状的变化而移动的人物等移动体,并对包括移动体的图像进行区域划分的一个技术例如有,将从图像抽出对象物的候补区域的方法,以及针对抽出的对象物的候补区域,利用预先准备的对象物模型来进行适用的方法进行组合的方法(例如,参照专利文献1以及非专利文献1)。例如,在专利文献1中所公开的方法是,作为对象物候补区域,从多个图像中抽出人物等对象物的轮廓图像,根据有关所述对象物的知识,预先对对象物的部位进行参数化,并利用与进行了参数化的人物等对象物相关的模型,对抽出的轮廓图像适用该模型。这样,能够针对伴随着形状的变化而移动的人物等移动体适用参数化后的模型,从而能够进行移动体的检测以及区域划分。
并且,在非专利文献1中所公开的方法是,从多个视点对被固定的一个移动体进行拍摄,并将拍摄的图像作为输入,从而计算各个图像中的像素值数据和其他的图像的像素值数据的欧几里得距离,并在进行了测地线距离变换后,通过进行维数压缩,从而从类似的视点拍摄的图像能够在二维空间上投影成近距离。在此,与以往的PCA(Principal component analysis:主元分析)等线性维数压缩方法相比较,通过进行测地线距离变换,从而能够进一步压缩为低维,并且也能够处理非线性分布的数据。
(现有技术文献)
专利文献
专利文献1 日本国 特开平8-214289号公报
非专利文献
非专利文献1 Joshua Tenenbaum,Vin de Silva,John Langford,″A Global Geometric Framework for Nonlinear Dimensionality Reduction″,Science,VOL290,pp.2319-2322,22 December,2000
然而,在上述的专利文献1的技术中所出现的问题是,尤其是在街头等人物等移动体往来场景中,不能正确地检测移动体。在上述专利文献1的代表的移动体检测方法中,如以上所述需要从图像中抽出对象物候补区域。此时,若不能正确地抽出对象物候补区域,则对对象物进行参数化后的模型不能被正确地适用于对象物候补区域。尤其是在混乱的场景中,正确地抽出对象物候补区域是非常困难的。例如,在图像上混在有各种大小的移动体的情况下,会出现将多个移动体误认为是一个移动体,而作为对象物候补区域进行抽出,或者成为抽出对象的移动体所不存在的区域被误认为是对象物候补区域而被抽出的问题。并且,在移动体的一部分被遮挡的情况下也是同样,会出现将多个移动体作为一个对象物候补区域来抽出,或者作为对象物候补区域而不能抽出的问题。并且,不能正确地抽出对象物候补区域也存在以下的问题。尤其是在将人物等多关节物体作为对象物的情况下,由于对象物的各种姿势或者大小而造成在图像上看上去变化非常大,因此,在对对象物进行参数化时需要大量的参数。这样,会导致模型的适用错误。因此,由于被适用的对象物模型是与实际不同的姿势相对应的模型,所以出现不能正确地进行区域划分的问题。
另外,在非专利文献1的代表的移动体检测方法中,通过将图像间的距离作为输入来进行非线性处理,以实现高效率地将图像数据投影到被压缩的低维空间。而且,通过测地线距离变换以及维数压缩,从而能够高效率地表现连续地且非线性分布的数据。然而,非专利文献1的主要的目的是,通过将多个图像投影到低维空间,从而使图像间的类似性成为可视化,但是,对于在适应形状不断地发生变化的人物等多关节物体的各种姿势变化的状态下,正确地检测移动体的方法却没有给予公开。
发明内容
因此,本发明的目的在于提供一种移动体检测方法以及移动体检测装置,即使对于包括伴随着形状的变化而移动的人物等移动体的图像,也不会受到移动体的姿势或大小的影响,而能够正确地进行区域划分。
为了解决上述的课题,本发明的移动体检测方法,通过进行区域划分从而检测移动体的方法,所进行的区域划分是指,对动态图像中的移动体的全部或一部分的区域进行确定,所述移动体检测方法包括:图像输入步骤,接受构成动态图像的多个图片;运动分析步骤,按照由构成所述图片的一个以上的像素所构成的各个块,检测在时间上相邻的两个图片之间的图像的运动,并通过针对所述多个图片链接检测出的运动,从而算出移动轨迹;距离算出步骤,针对在所述运动分析步骤所算出的多个移动轨迹,算出表示移动轨迹间的类似性的距离;区域划分步骤,通过对在所述距离算出步骤被算出的距离中的比预先规定的阈值小的距离进行连接,从而将在所述距离算出步骤所算出的距离变换为测地线距离,检测得到的测地线距离的分布中的不连续的点,并通过将相距比检测出的不连续的点的测地线距离小的测地线距离的移动轨迹作为一个群,从而进行所述区域划分;以及输出步骤,输出在所述区域划分步骤进行了区域划分后的结果。
并且,本发明不仅能够作为上述的移动体检测方法来实现,而且还可以作为将上述各个步骤作为构成要素的移动体检测装置、将上述各个步骤作为使计算机执行的程序、以及作为存储了这些程序的CD-ROM等计算机可读取的记录介质等来实现。
通过上述的方法以及装置等,对于伴随着形状的变化而移动的人物等移动体,能够正确地进行检测,并且能够正确地对部位进行区域划分。并且,利用所进行的检测以及区域划分的结果,还能够进行移动体的移动预测等。
附图说明
图1是示出本发明的实施例1中的移动体检测装置的基本构成的功能方框图。
图2是示出本发明所涉及的移动体检测装置的硬件构成的方框图。
图3是示出本发明的实施例1中的移动体检测装置的基本动作的流程图。
图4示出了本发明的实施例1中的运动分析部的处理例子。
图5的(a)-(c)示出了本发明的实施例1中的区域划分部的测地线距离的效果的一个例子。
图6的(a)以及(b)示出了本发明的实施例1中的区域划分部的测地线距离的效果的一个例子。
图7的(a)-(c)示出了本发明的实施例1中区域划分部的处理例子。
图8是示出本发明的实施例1中的变形例中的移动体检测装置的基本工作的流程图。
图9的(a)-(d)示出了本发明的实施例1的变形例中区域划分部的处理例子。
图10是示出本发明的实施例2中的移动体检测装置的基本构成的功能方框图。
图11是示出本发明的实施例2中的移动体检测装置的基本工作的流程图。
图12的(a)-(f)示出了本发明的实施例2中区域划分部的处理例子。
图13的(a)-(c)示出了本发明的实施例2中的区域划分部的分层的分群处理例子。
图14是示出本实施例1以及实施例2的变形例1中的移动体检测装置的构成例子的功能方框图。
图15的(a)以及(b)示出了本发明的实施例1以及2的变形例1中的图像显示部的显示例子。
图16是示出本发明的实施例1以及2的变形例2中的移动体检测装置的构成例子的功能方框图。
图17示出了本发明的实施例1以及2中的变形例2中的记录、发送数据的一个例子。
图18是示出本发明的实施例3中的移动体检测装置的构成例子的功能方框图。
图19是示出本发明的实施例3中的移动体检测装置的基本工作的流程图。
图20示出了本发明的实施例3中的运动预测的一个例子。
图21的(a)-(c)示出了通过本发明的实施例2的方法能够分离的图形的一个例子。
具体实施方式
作为本发明的第一实施例的移动体检测方法,通过进行区域划分从而检测移动体的方法,所进行的区域划分是指,对动态图像中的移动体的全部或一部分的区域进行确定,所述移动体检测方法包括:图像输入步骤,接受构成动态图像的多个图片;运动分析步骤,按照由构成所述图片的一个以上的像素所构成的各个块,检测在时间上相邻的两个图片之间的图像的运动,并通过针对所述多个图片链接检测出的运动,从而算出移动轨迹;距离算出步骤,针对在所述运动分析步骤所算出的多个移动轨迹,算出表示移动轨迹间的类似性的距离;区域划分步骤,通过对在所述距离算出步骤被算出的距离中的比预先规定的阈值小的距离进行连接,从而将在所述距离算出步骤所算出的距离变换为测地线距离,检测得到的测地线距离的分布中的不连续的点,并通过将相距比检测出的不连续的点的测地线距离小的测地线距离的移动轨迹作为一个群,从而进行所述区域划分;以及输出步骤,输出在所述区域划分步骤进行了区域划分后的结果。据此,相距比不连续的点小的测地线距离的各个移动轨迹成为一个群,因此与利用了直线距离的欧几里得距离的分群相比,关于移动轨迹间的类似性,能够进行考虑了时间空间的连续性的分群。因此,能够确实地辨别图片中的各个块是属于同一个物体(或者部位)还是属于个别的物体(或者部位)。这样,在由进行不同运动的多个部位构成的人物等多关节物体作为移动体被检测的情况下,能够进行正确地区域划分,并且移动体能够被正确地检测。也就是说,即使是伴随着形状的变化而移动的人物等移动体也能够正确地进行区域划分,据此,能够确实地检测图像中的移动体。
并且,作为测地线距离变换的更详细的方法最好是,在所述区域划分步骤,在从所述距离向所述测地线距离的变换中,在将第一移动轨迹与第二移动轨迹之间的距离变换为测地线距离的情况下,在追寻着相距在所述距离算出步骤所算出的距离中比所述预先规定的阈值小的距离的移动轨迹的同时,将从所述第一移动轨迹到所述第二移动轨迹的路径的距离作为测地线距离来算出。
并且,本发明的优选的构成也可以是,在所述区域划分步骤中,在将在所述距离算出步骤所算出的距离变换为测地线距离时,利用加权来进行所述变换,所述加权的方法是,所述多个移动轨迹的分布中的密集度越大,就越使测地线距离成为小的距离。通过利用移动轨迹的分布的密集度来进行距离变换,从而能够以更高的精确度将类似性高的移动轨迹作为同一个群,因此,即使是对于伴随着形状的变化而移动的人物等移动体也能够确实的进行检测,同时还能够正确地进行区域划分。
并且,作为区域划分步骤的具体方法的另外的一个方法也可以是,所述区域划分步骤包括:区域划分候补生成步骤,生成多个用于所述区域划分的阈值,针对生成的多个阈值的每一个,通过将在所述距离算出步骤所算出的距离中比该阈值小的距离连接,从而将在所述距离算出步骤被算出的距离变换为所述测地线距离,检测得到的多个测地线距离的分布中的不连续的点,并通过将相距比检测出的不连续的点的测地线距离小的测地线距离的移动轨迹作为一个群,从而进行所述区域划分,并将该区域划分的结果作为区域划分候补来生成;以及区域划分候补选择步骤,获取关于类别数量的指示,并从在所述区域划分候补生成步骤所生成的多个区域划分候补中,选择被划分成与获得的类别数量相同或者最接近的数量的区域的区域划分候补,并将选择的区域划分候补作为所述区域划分的结果来输出。据此,由于能够针对预先生成的多个判断基准的每一个进行分群,因此能够根据多个分群来生成所希望的个数的群。
作为本发明的优选的构成也可以是,在所述区域划分候补生成步骤,将在所述距离算出步骤所算出的多个距离中的最大值和最小值之间的多个值,作为所述阈值来生成。据此,通过有效地设定阈值,从而即使是对于伴随着形状的变化而移动的人物等移动体也能够确实地且快速地进行检测,同时还能够正确地进行区域划分。
作为本发明的优选的构成也可以是,在所述区域划分候补生成步骤中,针对在所述距离算出步骤所算出的多个距离,检测在将阈值从大到小的顺序排列时的最初的不连续的点,将比检测出的不连续的点小的多个值作为所述多个阈值来生成。据此,通过有效地设定阈值,从而即使是对于伴随着形状的变化而移动的人物等移动体也能够确实地且快速地进行检测,同时还能够正确地进行区域划分。
作为本发明的优选的构成也可以是,在所述区域划分候补生成步骤中,针对在所述距离算出步骤所算出的多个距离进行不连续的点的检测,并根据阈值的大小分阶层地进行所述区域划分。据此,通过进行分阶层地分群,从而即使是对于伴随着形状的变化而移动的人物等被拍摄物,也能够进行从用于确定被拍摄物的图像上的位置的粗略移动体抽出,到根据被拍摄物的详细的运动而进行的精细地移动体抽出。
作为本发明的优选的构成也可以是,在所述区域划分候补生成步骤中,针对在所述距离算出步骤所算出的多个距离,从阈值为大的值开始进行不连续的点的检测,还针对被划分的每一个群利用阈值来进行不连续的点的检测,并分阶层地进行所述区域划分。据此,通过从阈值为大的顺序开始分阶层地进行分群,从而能够以较少的计算量,对于伴随着形状的变化而移动的人物等被拍摄物,进行从用于确定被拍摄物的图像上的位置的粗略移动体抽出,到根据被拍摄物的详细的运动而进行的精细地移动体抽出。
作为本发明的优选的构成可以是,在所述区域划分候补生成步骤,以在所述距离算出步骤所算出的多个距离的平均值或中值作为中心进行增加以及减少,并将进行了增加以及减少而得到的多个值作为所述多个阈值来生成。据此,通过有效地设定阈值,从而即使是对于伴随着形状的变化而移动的人物等移动体也能够确实地且快速地进行检测,同时还能够正确地进行区域划分。
作为本发明的优选的构成可以是,在所述区域划分候补生成步骤中,针对在所述运动分析步骤所算出的多个移动轨迹的每一个,确定与该移动轨迹的距离在从小到大的顺序中为第N位的距离,并从确定的多个距离中以大的顺序来选择多个值,并将该被选择的多个值作为所述多个阈值来生成。据此,通过有效地设定阈值,从而即使是对于伴随着形状的变化而移动的人物等移动体也能够确实地且快速地进行检测,同时还能够正确地进行区域划分。
作为本发明的优选的构成可以是,在所述区域划分步骤,针对在所述运动分析步骤所算出的多个移动轨迹的每一个,以所述距离为从小到大的顺序来选择预先规定个数的移动轨迹,在对与没有被选择的移动轨迹之间的距离进行变更为无限大的非线性化之后,将所述多个距离分别变换为测地线距离。据此,由于被选择的距离与没有被选择的距离成为非线性的关系,因此与线性距离相比较,移动轨迹间的类似与非类似被强调,从而能够正确地表现像人物这种以关节连接的物体的运动。
作为本发明的优选的构成可以是,在所述区域划分步骤,针对在所述运动分析步骤所算出的多个移动轨迹的每一个,选择所述距离为预先规定的阈值以下的移动轨迹,在对与没有被选择的移动轨迹之间的距离进行变更为无限大的非线性化之后,将所述多个距离分别变换为测地线距离。据此,由于被选择的距离与没有被选择的距离成为非线性的关系,因此与线性距离相比较,移动轨迹间的类似与非类似被强调,从而能够正确地表现像人物这种以关节连接的物体的运动。
作为本发明的优选的构成可以是,在所述运动分析步骤,作为所述运动的检测,算出表示所述运动的二维运动矢量或者仿射参数。据此,通过根据运动矢量或仿射参数来进行块的运动的分析,从而能够算出块的移动轨迹。
作为本发明的优选的构成可以是,在所述距离算出步骤,作为所述距离的算出,除算出所述块的移动轨迹间的类似性以外,还算出所述图片中的所述块之间的距离、以及示出连接所述块与块之间的直线的倾斜的角度之中的某一个。据此,能够高效率地捕捉像人物这种以关节为轴来进行旋转运动,并且同时发生形状的变化的移动体的移动。
作为本发明的优选的构成可以是,所述输出步骤包括显示步骤,在该显示步骤将在所述区域划分步骤得到的区域划分的结果,重叠显示到在所述图像输入步骤接受的图片上。据此,通过将区域划分的部位显示在图像上,从而能够应用于体育运动的姿势校正,或者康复治疗中的步行校正等。
作为本发明的优选的构成可以是,在所述图像输入步骤,接受包括两个以上的移动体的动态图像;在所述区域划分步骤,通过对所述两个以上的移动体进行所述区域划分,从而检测两个以上的移动体。据此,即使针对包含伴随着形状发生变化而移动的多个移动体的图像,也能够正确地检测多个移动体。
作为本发明的一个实施例的构成也可以是,所述移动体检测方法进一步包括运动预测步骤,在该运动预测步骤,根据构成在所述区域划分步骤被确定的区域的块的移动轨迹,来算出代表该区域的移动轨迹,通过算出的代表的移动轨迹来预测该区域的移动,从而预测所述移动体的运动。据此,通过利用代表多个块的移动轨迹的轨迹来预测移动体的运动,从而能够进行对噪声耐性墙的运动预测。
作为本发明的一个实施例的构成也可以是,所述输出步骤包括记录发送步骤,在该记录发送步骤,根据在所述区域划分步骤的区域划分的结果,来确定在所述图像输入步骤所接受的图片中的区域,按照确定的每个区域,将对应的区域划分的结果记录到记忆单元或者进行发送。据此,通过根据划分了被检测的移动体图像后而得到的区域来分别进行保持,从而能够从各个移动体图像中仅选择必要的部分的图像并进行保存,并通过向外部输出,从而作为图形要素能够高效率地进行保存以及输出。因此,对于移动电话等处理能力受到先是的设备,在进行保存以及发送时能够起到作用。
作为本发明的一个实施例可以包括:图像输入步骤,接受构成动态图像的多个图片;运动分析步骤,按照由构成所述图片的一个以上的像素所构成的各个块,检测在时间上相邻的两个图片之间的图像的运动,并通过针对所述多个图片链接检测出的运动,从而算出移动轨迹;距离算出步骤,针对在所述运动分析步骤所算出的多个移动轨迹,算出表示移动轨迹间的类似性的距离;区域划分步骤,按照在所述距离算出步骤所算出的距离为小的顺序,进行将移动轨迹的组合并为同一个群的处理,且直到群的数量达到规定的数量为止反复进行该处理,从而将相距一定距离以上的不连续的点作为群的边界来进行所述区域划分;以及输出步骤,输出在所述区域划分步骤的区域划分的结果。据此,通过直到群的数量达到规定的数量为止反复进行将移动轨迹的组合并为同一个群的处理,从而能够将相距一定距离以上的不连续的点作为群的边界。这样,能够进行在考虑了有关移动轨迹间的类似性的连续性的分群,并能够进行移动体的检测。
以下,利用附图对本发明的实施例进行说明。
(实施例1)
图1示出了实施例1中的移动体检测装置100的构成的功能方框图。如图1所示,该移动体检测装置100包括:图像输入部101、运动分析部102、距离算出部103、区域划分部104、以及输出部105。并且,该移动体检测装置100通过进行区域划分从而检测动态图像中的移动体,所进行的区域划分是指,对动态图像中的移动体的全部或一部分的区域进行确定。
图像输入部101是一处理部,接受构成动态图像的不同时间的多个图像(图片)的输入,例如电视摄像机、或与电视摄像机连接的通信接口等。
运动分析部102是一处理部,按照构成在图像输入部101接受的画面的、由一个以上的像素构成的块,检测在时间上相邻的两页画面间的图像的运动,并通过将检测出的运动与多个图片进行链接,从而算出移动轨迹。
距离算出部103是一处理部,为了捕捉移动的物体的形状变化,利用在运动分析部102算出的块i的移动轨迹和i以外的块的移动轨迹,来算出表示块的运动的类似性的距离。例如,在利用N个块的移动轨迹的情况下,算出的距离则成为N×N的距离矩阵。在此,通过计算用于评价块的运动的类似性的距离,从而能够将通过块间距离的运动而变化的移动体的运动作为距离矩阵来表现,尤其是能够将关节物体这种伴随着形状的变化而移动的人物等的物体的运动作为距离矩阵来表现。并且,在以后的说明中,将块i的移动轨迹称为移动轨迹i。因此,本说明书中的“距离”不仅是二维空间中的两点间的距离,而且包含多维的数据间的算数距离,是一个值或多个值的集合(距离矩阵)。
区域划分部104是一处理部,利用在进行区域划分时所使用的阈值,通过对由运动分析部102所算出的多个移动轨迹进行分群,从而进行区域划分。具体而言,该区域划分部104针对距离算出部103所算出的距离矩阵,利用与数据的连续性有关的阈值来适用测地线距离变换,即通过与距离算出部103所算出的多个距离中比该阈值小的距离进行连接,从而将多个距离分别变换为测地线距离,并检测利用了阈值的测地线距离变换后的移动轨迹间的距离分布中的不连续的点,为了使多个移动轨迹中彼此相距比检测出的不连续的点的距离还要小的测地线距离的移动轨迹作为一个群,从而通过对连续分布的移动轨迹进行分群来进行针对所述阈值的区域划分。
并且,在从由距离算出部103算出的距离(距离矩阵)向测地线距离变换(测地线距离变换)的过程中,在将第一移动轨迹与第二移动轨迹之间的距离变换为测地线距离的情况下,该区域划分部104在追寻由距离算出部103算出的距离中的、相距比预先规定的阈值小的距离的移动轨迹的同时,将从第一移动轨迹到第二移动轨迹的路径的距离作为测地线距离来算出。
输出部105是将在区域划分部104进行的动态图像中的移动体的检测结果或者图像的区域划分结果输出,并写入到存储器或记录介质的处理部,或者是向显示器装置进行输出的输出接口等。
在本说明书中,由于进行了区域划分后而得到的各个区域分别对应于移动体,因此对于各个移动体的检测与对图像中的多个移动体区域进行划分的区域划分不作特殊的区分。即,“移动体的检测”这一处理相当于“区域划分”处理。
并且,构成该移动体检测装置100的各个构成要素(图像输入部101、运动分析部102、距离算出部103、区域划分部104、输出部105)如图2所示,可以作为在计算机2002上执行的程序等的软件来实现,也可以作为电子电路等硬件来实现,所述计算机2002包括:获得从摄像机2001发送来的图像的接口(I/F)2004、CPU2005、RAM2007、ROM2006、硬盘2008、将影像信号输出到显示器2003的视频卡2009等。也就是说,对于本实施例的构成要素中的除显示器装置等的输入输出部以外的构成要素,也可以以计算机执行的程序以及数据(即软件)来实现,也可以以电子电路、存储器以及记录介质等硬件来实现,也可以将这些混合在一起来实现。以下,对于其他的实施例中的移动体输出装置也是同样。
以下针对本发明的移动体检测方法,即移动体检测装置100的工作,利用图3所示的流程图对检测移动的移动体(即区域划分)的例子进行详细说明。
首先,在步骤S101,图像输入部101接受多个图片。
接着,在步骤S102,运动分析部102至少从两页画面中算出块的运动。并且,在此作为算出块的运动的一个例子,算出像素的运动。以下,在本实施例中以块为单位的处理作为一个例子,对像素单位的处理进行说明。并且,在以由多个像素构成的块单位来进行处理的情况下,可以通过(i)对与像素相对应的数据的块的部分进行合计,或者(ii)求出各个块中的平均值,或者(iii)通过求出块的中心值,来求与块对应的数据(代表值),利用得到的代表值进行与像素单位的处理相同的处理。并且,在本说明书中,“块的运动”以及“像素的运动”所分别表示的意思是,“在图像的各个块的运动”以及“在图像的各个像素的运动”。
首先,对通过光流(optical flow)法来计算像素的运动的例子进行说明。通过光流法来计算运动矢量时可以利用非专利文献2或非专利文献3以及非专利文献4所公开的技术。
非专利文献2 P.Anandan,″Computational Framework and an Algorithm for the Measurement of Visual Motion″A,International Journal of Computer Vision,Vol.2,pp.283-310,1989
非专利文献3 Vladimir Kolmogorov and Ramin Zabih,″Computing Visual Correspondence with Occlusions via Graph Cuts″,International Conference on Computer Vision,2001
非专利文献4 Thomas Pock,Martin Urschler,Christopher Zach,Reinhard Beichel and Horst Bischof,″Duality Based Algorithm for TV-L1-Optical-Flow Image ARegistration″,International Conference on Medical Image Computing and Computer Assisted Intervention,2007
例如,假定在步骤S101,T页的画面被输入,运动分析部102利用在时刻t和时刻t+1被输入的画面,来推定像素i的运动矢量(ui t,vi t)。在此,帧可以不必是连续的,例如也可以利用在时刻t和时刻t+n被输入的画面来求出像素的运动。并且,n为1以上的整数。并且,作为像素的运动也可以取代上述的二维运动矢量而推定仿射参数。此时,可以对所有的像素求出运动信息。并且,在想要更快速地进行处理的情况下,也可以将图像分割成格子,并仅对一定间隔的格子中的像素来求运动信息,如以上所述,也可以将图像分割成块,来求出各个块的运动信息。而且,在利用非专利文献2来算出运动矢量的情况下,由于能够计算其可靠度,因此也可以利用具有可靠度高的运动信息的像素。并且,在利用非专利文献3来算出运动矢量的情况下,可以推定中部遮光(occlusion)。因此,可以仅利用没有被遮挡的像素的运动信息。并且,非专利文献4由于能够进行高速处理,因此在想要达到处理的高速化时可以利用非专利文献4。
并且,作为算出像素的运动的方法,也可以假定上述的块的平移移动,取代算出运动矢量的方法,而采用假定块的仿射变形以算出运动矢量的方法。假定仿射变形来算出运动矢量的方法可以采用非专利文献5所公开的技术。
非专利文献5 Jianbo Shi and Carlo Tomasi“Good Features to Track″,IEEE Conference on Computer Vision and Pattern Recognition,pp593-600,1994
在上述的方法中推定与在时刻t和时刻t+1输入的画面的像素i的周边的像素的运动相对应的仿射参数Ai t。对于像素i,在时刻t和时刻t+1的画面上的像素位置xi t和xi t+1具有以下的关系。
(算式1)
x t + 1 i = A t i x t i (公式1)
在上述的方法中,尤其是针对做旋转运动的物体,比采用假定平移移动来算出运动矢量的方法的情况更能够高精确地推定像素i的运动。
接着,在步骤S103,运动分析部102利用在步骤S102算出的运动信息,根据所述像素的运动,针对不同时间的多个图片算出移动轨迹i。以下将像素i的移动轨迹称为移动轨迹i。如图4所示,利用在步骤S102算出的运动信息302,从时刻t上的输入图像301的像素i303开始追踪像素i的运动。此时,利用像素i所通过的时刻t上的画面中的像素位置(xi t,yi t),像以下这样算出移动轨迹i。
(算式2)
x i = ( x 1 i , y 1 i , . . . , x t i , y t i , . . . , x T i , y T i ) (公式2)
在此,T是在算出移动轨迹时所使用的画面的页数。
接着,在步骤S104,距离算出部103利用在上述公式2算出的移动轨迹i,来算出包含像素运动的类似性的距离矩阵。移动轨迹i和移动轨迹j的线性距离f(i,j)可以利用以下的公式3来算出。
(算式3)
f(i,j)=ptnij+w·mtnij    (公式3)
在此,w是权重系数,是设计者设定的参数。并且,上述的公式3可以变形为以下的公式4。
(算式4)
f ( i , j ) = 1.0 - exp ( - w · mtn ij ptn ij ) (公式4)
并且,对于ptnij,mtnij,分别由以下的公式5和公式6示出。
(算式5)
ptn ij = 1 T Σ t = 1 T d ij t (公式5)
(算式6)
mtn ij = 1 T Σ t = 1 T ( d ij t - ptn ij ) 2 (公式6)
在此,
(算式7)
d ij t = ( x t i - x t j ) 2 + ( y t i - y t j ) 2 (公式7)
如以上所述,如上述的公式3所示,使上述公式5所示的移动轨迹间距离的时间平均值,和上述公式6所示的移动轨迹间距离在时间上的不均一作为上述线性距离f(i,j)的要素。尤其是上述公式6所示的移动轨迹间距离在时间上的不均一示出了像素的运动的类似性,据此,像素间所形成的距离关系不是在时间上不发生变化的刚体,而是能够捕捉关节物体等的形状变化的。并且,取代上述的公式6,而通过采用以下的公式8到公式13所示的时间变动成分,也可以期待同样的效果。
(算式8)
mtn ij = 1 ( T - 1 ) Σ t = 1 T - 1 ( 1 - cos θ ij t ) (公式8)
在此,
(算式9)
cos &theta; ij t = < u i t &CenterDot; u i t > | u i t | | u j t | (公式9)
ut i是从时刻t到时刻t+1的运动矢量(ui t,vi t),<ut i·ut i>是内积。
并且,也可以采用以下的计算。
(算式10)
mtn ij = mtn _ max - 1 ( T - 1 ) &Sigma; t = 1 T - 1 < u i t &CenterDot; u i t > (公式10)
在此,
(算式11)
mtn _ max = max i ( 1 ( T - 1 ) &Sigma; t = 1 T - 1 < u i t &CenterDot; u i t > ) (公式11)
(算式12)
mtn ij = 1 ( T - 1 ) &Sigma; t = 1 T - 1 ( u i t - u j t ) 2 + ( v i t - v j t ) 2 (公式12)
在此,
(算式13)
u i t = ( u i t , u j t ) (公式13)
接着,区域划分部104执行步骤S105(测地线距离变换)和步骤S106(区域划分)。具体而言,在步骤S105,区域划分部104针对在上述公式3或上述公式4算出的线性距离f(i,j)采用阈值R,并针对该阈值R,如以下公式14所示进行非线性化处理,从而算出f′(i,j)。
(算式14)
f &prime; ( i , j ) = f ( i , j ) if i is R - NearestNeighbor &infin; otherwise (公式14)
也就是说,区域划分部104在着眼于移动轨迹i时,以与移动轨迹i的线性距离小的顺序选择R个移动轨迹j,使与被选择的移动轨迹j的距离不变,而使与没有被选择的移动轨迹j的距离变更为无限大。并且,虽然在此是以线性距离f(i,j)小的顺序来进行选择的,不过也可以如以下公式所示来设定阈值R。
(算式15)
f &prime; ( i , j ) = f ( i , j ) if f ( i , j ) < R &infin; otherwise (公式15)
也就是说,区域划分部104针对在运动分析部102算出的多个移动轨迹的每一个,如上述的公式14所示,以距离小的顺序选择预先规定的数量的移动轨迹,在进行了使与没有被选择的移动轨迹的距离变更为无限大的非线性化之后,可以将多个距离的每一个变换为测地线距离,也可以按照上述公式15所示,在着眼于移动轨迹i时,针对在运动分析部102算出的多个移动轨迹j的每一个,选择距离在预先规定的阈值以下的移动轨迹j,在进行了使与没有被选择的移动轨迹的距离变更为无限大的非线性化之后,将多个距离的每一个变换为测地线距离。
并且,关于距离的非线性化并非受限于上述的函数,只要是针对与移动轨迹i和移动轨迹j相关的距离进行非线性变换就可以。
并且,也可以如以下所示,针对线性距离f(i,j),利用通过公式16以及公式17计算出的权重进行乘法运算,在进行了加权以后进行公式14或公式15的处理。
(算式16)
wf ij = 1.0 - exp ( - z ( 1 N a &Sigma; a &Element; NN f ( a , j ) + 1 N b &Sigma; b &Element; NN f ( i , b ) ) ) (公式16)
在此,NN表示针对移动轨迹周围的点所进行的处理,并且表示针对移动轨迹a以及b,利用分别与移动轨迹j以及i相距一定距离内的移动轨迹,或利用距离从小到大的顺序中的N个移动轨迹所进行的计算。即Na、Nb是一定距离内的移动轨迹的数量或者是上述的N。并且,z由设计者来设定。
并且,也可以取代上述公式16而采用以下公式17所示的分散。
(算式17)
wf ij = 1.0 - exp ( - z ( 1 N a &Sigma; a &Element; NN ( f ( a , j ) - f ( a , j ) &OverBar; ) 2 + 1 N b &Sigma; b &Element; NN ( f ( i , b ) - f ( i , b ) &OverBar; ) 2 ) )
(公式17)
在此,
(算式18)
f ( a , j ) &OverBar; = 1 N a &Sigma; a &Element; NN f ( a , j ) (公式18)
(算式19)
f ( i , b ) &OverBar; = 1 N b &Sigma; b &Element; NN f ( i , b ) (公式19)
针对周围的点,与上述公式16的情况相同。
通过利用上述的公式16以及上述的公式17的权重来变换f(i,j),在与移动轨迹i以及j类似的移动轨迹在空间中密集的情况下(距离近的移动轨迹的情况),使f(i,j)相对变小,或者,在空间中稀疏的情况下(距离远的移动轨迹的情况),与密集的情况相比,使f(i,j)相对变大。也就是说,区域划分部104在将由距离算出部103算出的多个距离的每一个变换为测地线距离之时所采用的加权方法是,由运动分析部102算出的多个移动轨迹分布中的密集度越大,就越使测地线距离变小,通过进行这样的加权来进行向测地线距离的变换。据此,能够进行在考虑了像素的移动轨迹的分布密集度之后的距离变换。
接着,区域划分部104利用被进行了非线性化的距离f′(i,j),像以下的公式所示算出测地线距离。
(算式20)
g(i,j)=min(f′(i,j),f′(i,s)+f′(s,j))  (公式20)
并且,min(x,y)是归还值x和值y中小的一方的函数。并且,s是移动轨迹s,是用于从移动轨迹i追寻到移动轨迹j的中继点。在此,f′(i,s)+f′(s,j)中的中继点s不仅限于一个点。上述的方法是被称为迪科斯彻算法(Dijkstra′s algorithm)的最短路径搜索方法,由以下的非专利文献6公开。
非专利文献6 E.W.Dijkstra,″A note on two problems in connexion with graphs″,Numerische Mathematik,pp.269-271,1959
在此,利用图5(a)-(c)的概念图来对上述公式14以及上述公式15所示的非线性化处理进行说明。在此虽然对上述公式15所示的非线性处理进行说明,不过,即使是进行其他的非线性化处理也能够期待同样的效果。
首先,图5(a)示出了二维的数据分布。在此,各个数据点相当于上述公式3或上述公式4所示的移动轨迹i。在不进行从上述公式14到上述公式17的非线性化处理的情况下,如图5(b)所示,数据点i与数据点j的距离比数据点i与数据点k的距离小。然而,如图5(c)所示,例如通过进行上述公式15以及上述公式17的处理,从而数据点i与数据点j之间的距离不是欧几里得距离,而是成为被称为测地线距离的按照箭头的指向追寻数据点的距离。这样,与利用欧几里得距离的情况不同,数据点i与数据点j之间的距离比数据点i与数据点k之间的距离大。
在此,利用图6(a)以及(b)的概念图来说明从上述公式14到上述公式17所示的测地线距离变换的特征。在此,为了简便地说明线性距离f(i,j)和测地线距离g(i,j)的不同,以上述公式5所示的时刻t上的移动轨迹间距离为例子。实际上,除了利用移动轨迹间距离以外,如上述公式3所示,作为像素运动的类似性,还通过利用移动轨迹间距离的变动成分,不仅是关节物体等的形状,就连形状的变化也能够捕捉。图6(a)示出了在不进行从上述公式14到上述公式17的处理的情况下例子。例如,头部的像素i802与手指尖部的像素j803的距离则成为线性距离801所示的距离。另一方面,通过进行从上述公式14到上述公式17的非线性处理,若阈值R被恰当地设定,则如图6(b)所示,头部像素i802与手指尖部的像素j803之间的距离成为,经过像素k804直到像素j为止的箭头所示的线性和的距离。因此,对于线性距离801不能将人物这种关节物体的关节相连接的形状作为连续的数据来表现这一点,在此能够将关节连接的形状作为距离来连续地表现。并且,测地线距离的计算方法不仅限于上述公式17。
接着,在步骤S106,区域划分部104利用在步骤S105进行了与阈值R相对应的测地线距离变换后的g(i,j),通过检测不连续的点从而进行分群。在此,g(i,j)是成为无限大的移动轨迹i与移动轨迹j之间的不连续的点。对于针对阈值R而得到的测地线距离变换的结果的例子,将利用图7(a)-(c)来说明。在此图7(a)是示出移动轨迹a-h的图,图7(b)是表示图7(a)所示的移动轨迹a-h的高维空间的概念图。并且,在图7(a)中,将移动轨迹a-h的数量视为了八条,而实际上也可以利用与各个像素对应的移动轨迹,还可以利用以块为单位求出的移动轨迹。在此,表示移动轨迹a-h的高维空间的一个点与上述公式2所示的一个移动轨迹相对应。即,高维空间上的点不仅限于一页画面上的区域,而是跨过不同时间上的多个图片而追踪到的结果。并且,在高维空间上的点与点的距离不是矢量间的欧几里得距离,而是与上述公式20所示的测地线距离相对应。
图7(c)示出了分群后的结果。在此,在图7(c)中,在将上述公式3或上述公式4所示的移动轨迹a和移动轨迹b之间的距离作为f(a,b)时,则成为f(e,f)>f(c,d)>f(f,g)>f(b,c)。并且,在将阈值作为R来设定的情况下,距离f(f,g)具有比阈值R大的值。在此情况下,即使通过上述公式17求出测地线距离,g(e,f),g(c,d),g(f,g)也成为无限大。因此,区域划分部104判断移动轨迹c与移动轨迹d之间、移动轨迹e与移动轨迹f之间、移动轨迹f与移动轨迹g之间是不连续的点。这样,移动轨迹a、b、c可以不必经过彼此不连续的点就能够进行追寻,因此不取无限大的值,相反,例如从移动轨迹a、b、c到其他的移动轨迹,由于经过不连续的点g(c,d)而成为无限大。这样,测地线距离不成为无限大的移动轨迹i与移动轨迹j的组被分为相同的群,在成为无限大的情况下则被分为其他的群。因此,能够整理测地线距离成为无限大的组和不成为无限大的组,从而划分成θ1、θ2、θ3、θ4这四个群。
在此,对阈值R的性质进行说明。阈值R越小,就越能够检测到图像上的小的移动体,但是会出现误检测(false positive:误判)增加这一反面的效果。因此,例如在用于监视等事先知道想要进行移动体检测的范围的情况下,可以综合考虑想要检测的移动体的最小大小和该图像上的运动来设定阈值R。并且,可以按照场景,在使阈值R变化的同时算出检测率和误检测率,从而能够选择检测率和误检测率成为相等的阈值R,即能够选择成为EER(Equal Error Rate:等错误率)的阈值R,也能够选择使检测率优先或者使误检测率变小的优先的阈值R。
通过以上的处理,由于测地线距离不成为无限大的移动轨迹的组是连续的,因此区域划分部104能够判断为是相同的群,并且由于测地线距离成为无限大的移动轨迹的组是不连续的,因此区域划分部104能够根据不连续的点来对群进行分离。
在输出部105,将在步骤S106进行了群分离后的移动轨迹,作为区域划分结果输出到装置的内部(存储器等)或外部(记录介质、显示器装置等)。据此,能够检测移动体。
并且,在本实施例中,通过对移动轨迹进行上述公式3或上述公式4所示的距离计算,从而能够进行考虑了像素的位置和运动的类似性的区域划分。因此,在图7(a)-(c)所示的例子中,反映了头部的运动与手臂的运动的不同,以及大腿与小腿的运动的不同,从而能够将头部、手臂、大腿(上半身)、小腿(下半身)分别作为群来进行区域划分。并且,也可以利用与本方法同样的方法,不仅能够进行一个移动体的身体中的一部分的检测、区域划分,而且在存在有多个人的场景中,对每个移动体分别进行检测以及区域划分。
这样,通过根据利用测地线距离而算出的不连续的点来进行分群,最终是能够进行移动体的检测以及区域划分。
如以上所述,通过根据像素间的距离或者移动轨迹的类似性来进行分群,从而类似的移动轨迹被汇集并被进行区域划分,因此,距离仅且进行类似的运动的部位被识别为一个区域,作为在时间上追踪在动态图像中移动的物体的区域的结果,可以不必依存于关节物体的姿势,就能够进行动态图像中的移动体或移动体的部位的检测,以及包括移动体的图像的区域划分。并且,作为前处理可以不必设定人物候补区域,根据移动轨迹的类似性并利用多个阈值来进行分群,因此,在图像中有各种大小的移动体的情况以及移动体的一部分被遮挡的情况下容易发生的人物候补区域的检测错误、以及因该检测错误而造成的区域划分的失败均不会发生。而且,根据不连续的点而进行的分群,由于能够进行不受群的大小的影响的分群,因此,在大的被摄物体和小的被摄物体混在的情况下、以及具有大的运动的被摄物体和具有小的运动的被摄物体混在的情况下都能够实现确实地抽出。
如以上所述,由于不需要庞大的参数拟合就能够进行非线性空间的分群,因此,即使是包括伴随着形状的变化而移动的人物等的动态图像也能够被正确地进行区域划分,从而能够进行动态图像中的移动体的检测。
并且,本发明所涉及的移动体检测装置也可以采用与本实施例中的根据测地线距离的不连续的点来进行的区域划分不同的方法来进行区域划分。以下,作为实施例1的变形例,对与实施例1中的区域划分不同的方法进行说明,在此不对向测地线距离的变换进行说明,而对区域划分的方法进行说明。
本变形例所涉及的移动体检测装置的构成基本上如图1所示,包括:图像输入部101、运动分析部102、距离算出部103、区域划分部104、以及输出部105。并且,该移动体检测装置100通过进行对动态图像中的移动体的全部或一部分的区域进行确定的区域划分,从而检测动态图像中的移动体。由于图像输入部101、运动分析部102、以及距离算出部103与实施例1相同,因此省略说明。本变形例所涉及的区域划分部104采用与实施例1不同的方法进行区域划分。以下以本变形例所涉及的区域划分部104为中心进行说明。
图8是示出本发明的实施例1的变形例中的移动体检测装置的基本工作的流程图。并且,在本图中,步骤S101-S104与图3所示的步骤S101-S104相同,在此省略说明。
本变形例所涉及的区域划分部104执行步骤S205(分群)和S206(赋予标记)。在步骤S205中,区域划分部104利用在上述公式3或上述公式4算出的移动轨迹i与移动轨迹j的距离f(i,j),通过按照f(i,j)小的顺序将移动轨迹i和移动轨迹j成组为同一个群,并通过反复重复这一处理,从而进行分群。如图9(a)所示,移动轨迹a-h即便是同一移动体,也会因姿势变化而发生大的变化。然而,只要是关节相连接的物体,就能够假定在其近旁的移动轨迹保持高的类似性。在此,高的类似性是指,移动轨迹i与移动轨迹j之间的距离f(i,j)小。而且,f(i,j)小能够解释为,在由移动轨迹构成的高维空间中,移动轨迹i和移动轨迹j以近距离来分布。图9(b)是表示移动轨迹a-h的高维空间的概念图。并且,在该概念图中,为了便于说明采用了三维空间,实际上,上述公式2所示的矢量的各个要素与各个维数相对应。并且,虽然移动轨迹a-h的数量为八条,而实际上可以利用与各个像素对应的移动轨迹,也可以利用以块为单位而求出的移动轨迹。在此,表示移动轨迹a-h的高维空间的每一个点分别与上述公式2所示的一个移动轨迹相对应。即,高维空间上的点不仅是一页画面上的区域,而且是在不同的时间中跨过多个图片追踪像素的结果。并且,在高维空间中,点与点的距离不仅是上述公式2所示的矢量之间的欧几里得距离,而且还与上述公式3或上述公式4所示的距离相对应。
并且,通过由移动轨迹构成的高维空间上的分布的连续性而对移动轨迹进行分群,据此,区域划分部104能够根据移动轨迹间的距离的不连续性来进行分群。这样,各个群能够与个别的移动体或移动体的一部分相对应,从而能够进行移动体的检测和区域划分。
首先,划分的各个区域如以下所示。
(算式21)
θ={θ1,...θm...θM}    (公式21)
在此,M是区域数量,按照利用的场面以经验来决定。
首先进行的处理是,除了自身以外,以f(i,j)小的顺序,将移动轨迹i和移动轨迹j视为相同的区域标记θm。通过进行该处理,在移动轨迹i或移动轨迹j的一方已经属于区域θk的情况下,也使没有被赋予区域标记的像素属于区域θk。并且,在移动轨迹i和移动轨迹j分别属于不同的区域的情况下,统一区域标记。
在步骤S206,区域划分部104针对在步骤S205进行的处理,对所有的移动轨迹赋予标记,并且判断区域数量是否成为规定的M。在此,在步骤S206中的条件没有满足的情况下,区域划分部104按照步骤S205的f(i,j)为从小到大的顺序,进行使移动轨迹i和移动轨迹j为同一区域标记θm的处理,并且重复该处理。并且,也可以是,在属于各个区域的移动轨迹的数量在阈值N值以下的情况下,作为离群值(Outlier)从区域中除外。
在此,利用图9(c)以及(d)对步骤S205和步骤S206的处理的具体例子进行说明。对M=2和M=3的情况进行说明。在此,在图9(b)所示的例子中,移动轨迹a和移动轨迹b之间的距离为f(a,b)之时,视为f(a,b)<f(g,h)<f(d,e)<f(b,c)<f(f,g)<f(c,d)。首先,利用图9(c)对M=2的例子进行说明。在此,在步骤S205,由于移动轨迹a与移动轨迹b之间的距离f(a,b)为最小,因此,区域划分部104对移动轨迹a和移动轨迹b赋予相同的区域标记θ1。接着,由于移动轨迹g与移动轨迹h之间的距离f(g,h)为最小的其次即为第二位,因此,区域划分部104赋予相同的区域标记θ2。进而,对于作为第三位小的距离的移动轨迹d和移动轨迹e,区域划分部104赋予相同的区域标记θ3。之后,距离小的是移动轨迹b与移动轨迹c之间的距离f(b,c)。在此,移动轨迹b由于已经被赋予了标记,因此,区域划分部104对移动轨迹c赋予与移动轨迹b相同的区域标记θ1。其次距离小的是移动轨迹f与移动轨迹g之间的距离f(f,g)。在此,与f(b,c)的情况相同,区域划分部104对移动轨迹f赋予与移动轨迹g相同的区域标记θ3。在此,在M=3的情况下,在步骤S206,所有的移动轨迹被赋予标记,由于判断出M=3,因此,输出部105将对各个移动轨迹赋予的标记的结果输出,并结束处理。
另外,在设定为M=2的情况下,在步骤S206将不满足条件。因此,再次在步骤S205,区域划分部104对于成为其次小的距离的移动轨迹c与移动轨迹d,对移动轨迹c所属的区域标记θ1和移动轨迹d所属的区域标记θ3进行统一,对从移动轨迹a到e的移动轨迹赋予区域标记θ1。于是,在步骤S206,由区域划分部104对所有的移动轨迹赋予标记,由于判断出M=2,因此,在输出部105对被赋予在各个移动轨迹的标记的结果进行输出并结束处理。
这样,在本实施例1的变形例中,通过针对移动轨迹进行上述公式3或上述公式4所示的距离计算,从而能够进行考虑了像素的位置和运动类似性的区域划分。因此,在图9(a)-(d)所示的例子中,在M=2的情况下,反映出了下半身与上半身的运动大不相同,上半身和下半身被分离。而且,在M=3的情况下,再加上M=2的情况,反映出了头部与手臂的运动的不同,因此能够对上半身、手臂、以及下半身进行分离。
这样,通过对类似的移动轨迹按顺序赋予标记,从而能够将高维空间上的连续的移动轨迹判断为一个群,将移动轨迹间距离大的位置视为不连续的点,并分离为不同的群。其结果是,属于各个群的移动轨迹与移动体检测以及区域划分相对应。
当然,本方法能够通过同样的方法,不仅能够进行一个移动体的身体中的一部分的检测以及区域划分,而且在多个人存在的场景中,还能够进行各个移动体的检测以及区域划分。
如以上所述,通过根据像素间的距离或移动轨迹的类似性来进行分群,从而类似的移动轨迹被归纳并被区域划分,因此,距离近且进行同样的运动的部位被识别为一个区域,并且通过在时间上追踪在动态图像中移动的物体的区域,从而能够不依赖于关节物体的姿势,就能够进行动态图像中的移动体或移动体的部位的检测,以及包括移动体的图像的区域划分。并且,作为前处理可以不必进行人物候补区域的设定,由于能够根据移动轨迹的类似性来进行分群,因而在图像中存在各种大小的移动体的情况,以及移动体的一部分被遮挡的情况下而出现的人物后不区域的检测错误,以及由于此检测错误而造成的区域划分失败等均不会发生。
如以上所述,由于不需要庞大的参数拟合就能够进行非线性空间的分群,因此,即使是包括伴随着形状的变化而移动的人物等的图像也能够被正确地进行区域划分,从而能够进行动态图像中的移动体的检测。
(实施例2)
接着,在实施例2中以与实施例1不同的方法来对在上述实施例1进行的非线性空间的区域划分的实现方法进行说明。
图10是示出实施例2中的移动体检测装置10a的构成的功能方框图。该移动体检测装置100a如图10所示包括:图像输入部101、运动分析部102、距离算出部103、区域划分部104a(区域划分候补生成部501和区域划分候补选择部502)以及输出部105。图像输入部101、运动分析部102、以及距离算出部103由于与实施例1相同,因此省略详细说明。
区域划分部104a根据在距离算出部103算出的距离,来确定由具有类似的移动轨迹的块构成的区域,从而进行区域划分之处与实施例1的区域划分部104相同,不过具体处理不同。因此,该区域划分部104a具有区域划分候补生成部501和区域划分候补选择部502。
区域划分候补生成部501是一处理部,生成多个用于区域划分的判断标准,针对生成的多个判断标准的每一个,利用该判断标准对由运动分析部102算出的多个移动轨迹进行分群,从而进行区域划分,并将该区域划分的结果作为区域划分候补来生成。具体而言,该区域划分候补生成部501针对由距离算出部103算出的距离矩阵,利用与数据的连续性有关的阈值进行测地线距离变换,也就是说,通过连接距离算出部103算出的多个距离中的比该阈值小的距离,从而将多个距离的每一个变换为测地线距离,并检测利用了阈值的测地线距离变换后的移动轨迹间的距离分布中的不连续的点,为了使多个移动轨迹中彼此相距比检测出的不连续的点还要小的测地线距离的移动轨迹作为一个群,从而通过对连续分布的移动轨迹进行分群来生成针对所述阈值的区域划分的候补。在此,根据所述阈值的设定而区域划分数量发生变化。
区域划分候补选择部502是一处理部,获得有关类别数的指示(或预先设定的类别数),从在区域划分候补生成部501生成的多个区域划分候补中选择被划分成与获得的类别数接近的数量的区域的区域划分候补,并将选择的区域划分候补作为根据距离算出部103算出的距离而进行的区域划分的结果来输出。具体而言,该区域划分候补选择部502从在区域划分候补生成部501生成的、针对各个所述与之的区域划分的候补中,选择与事先规定的类别数最接近的区域划分结果。即,选择与类别数相对应的、根据阈值的区域划分结果。
输出部105与实施例1中的相同。根据从该输出部105的输出,从而能够得到最终的移动体的检测和区域划分结果。
以下对本发明的移动体检测方法进行详细说明,即针对移动体检测装置100a,利用图11的流程图,以检测移动的移动体和进行区域划分为例进行详细说明。从步骤S101到S104与实施例1相同,在此省略说明。
区域划分候补生成部501执行步骤S601(测地线距离变换)和步骤S602(分群)。在步骤S601,区域划分候补生成部501针对在上述公式3或上述公式4算出的线性距离f(i,j),通过针对K个阈值Rk的每一个进行以下所示的非线性化处理,从而算出f′(i,j)。
(算式22)
f &prime; k ( i , j ) = f ( i , j ) if i is R k - NearestNeighbor &infin; otherwise (公式22)
也就是说,区域划分候补生成部501在着眼于移动轨迹i时,以与移动轨迹i的线性距离小的顺序选择Rk个移动轨迹j,使与被选择的移动轨迹j的距离不变,而使与没有被选择的移动轨迹j的距离变更为无限大。并且,虽然在此是以线性距离小的顺序来进行选择的,不过也可以如以下公式所示来设定阈值Rk
(算式23)
f &prime; k ( i , j ) = f ( i , j ) if f ( i , j ) < R k &infin; otherwise (公式23)
也就是说,区域划分候补生成部501针对在运动分析部102算出的多个移动轨迹的每一个,如上述的公式22所示,以距离小的顺序选择预先规定的数量的移动轨迹,在进行了使与没有被选择的移动轨迹的距离变更为无限大的非线性化之后,可以将多个距离的每一个变换为测地线距离,也可以按照上述公式23所示,针对在运动分析部102算出的多个移动轨迹的每一个,选择距离在预先规定的阈值以下的移动轨迹,在进行了使与没有被选择的移动轨迹的距离变更为无限大的非线性化之后,将多个距离的每一个变换为测地线距离。
并且,关于距离的非线性化并非受限于上述的函数,只要是针对与移动轨迹i和移动轨迹j相关的距离进行非线性变换就可以。
并且,针对线性距离f(i,j),也可以如以下所示,对利用上述的公式16以及公式17而计算出的权重进行乘法运算,在进行了加权以后进行上述公式22或上述公式23的处理。
通过利用上述的公式17以及上述的公式18的权重来变换f(i,j),在与移动轨迹i以及j类似的移动轨迹在空间中密集的情况下(距离近的移动轨迹的情况),使f(i,j)相对变小,或者,在空间中稀疏的情况下(距离远的移动轨迹的情况),与密集的情况相比,使f(i,j)相对变大。也就是说,在将由距离算出部103算出的多个距离的每一个变换为测地线距离之时,由运动分析部102算出的多个移动轨迹分布中的密集度越大,就越加权成为小的测地线距离,从而进行向测地线距离的变换。据此,能够进行在考虑了像素的移动轨迹的分布密集度之后的距离变换。
以下利用被非线性化后的距离f′k(i,j),区域划分候补生成部501如以下所示算出测地线距离。
(算式24)
gk(i,j)=min(f′k(i,j),f′k(i,s)+f′k(s,j))   (公式24)
并且,min(x,y)是归还值x和值y中小的一方的函数。并且,s是移动轨迹s,是用于从移动轨迹i追寻到移动轨迹j的中继点。在此,f′k(i,s)+f′k(s,j)中的中继点s不仅限于一个点。另外,k与多个阈值Rk相对应。该方法是如以上所述的被称为迪科斯彻算法(Dijkstra′s algorithm)的最短路径搜索方法。
接着,在步骤S602,区域划分候补生成部501利用进行了与各个阈值Rk相对应的测地线距离变换后的gk(i,j),通过检测不连续的点从而进行分群。在此,gk(i,j)是成为无限大的移动轨迹i与移动轨迹j之间的不连续的点。对于针对多个阈值Rk而得到的测地线距离变换的结果的例子,将利用图12(a)-(f)来说明。在此图12(a)是示出移动轨迹a-h的图,图12(b)是表示图12(a)所示的移动轨迹a-h的高维空间的概念图。并且,虽然移动轨迹a-h的数量为八条,而实际上可以利用与各个像素对应的移动轨迹,也可以利用以块为单位而求出的移动轨迹。在此,表示移动轨迹a-h的高维空间的每一个点分别与上述公式2所示的一个移动轨迹相对应。即,高维空间上的点不仅限于一页画面上的区域,而是跨过不同时间上的多个图片而追踪到的结果。并且,在高维空间上的点与点的距离不是矢量间的欧几里得距离,而是与上述公式21所示的测地线距离相对应。
在阈值Rk为充分大的值的情况下,例如在上述公式16阈值Rk比f(i,j)的最大值还要大的情况下,如图12(c)所示,测地线距离gk(i,j)中的所有的i,j的组合不能成为无限大。即,由于不连续的点一个也没有,因此能够判断群为一个。另外,在阈值Rk充分小的情况下,具体而言,在上述公式16中阈值Rk比f(i,j)的最小值还要小的情况下,在所有的i,j的组合中,gk(i,j)成为无限大。即,群数与移动轨迹的数量相同。在此,将阈值Rk设定为f(i,j)的最大值和最小值之间的值,分别进行分群时效率较高。对图12(d)所示的例子进行说明。在此,在图12(b)中,在将上述公式3或上述公式4所示的移动轨迹a和移动轨迹b之间的距离作为f(a,b)时,则成为f(e,f)>f(c,d)>f(f,g)>f(b,c)。并且,在将阈值作为R来设定的情况下,距离f(e,f)具有比阈值R1大的值。在此情况下,即使通过上述公式18求出测地线距离,g1(e,f)也成为无限大。因此,区域划分候补生成部501判断移动轨迹e和移动轨迹f之间为不连续的点。这样,对于从移动轨迹a到d与移动轨迹e之间的测地线距离,由于不经过不连续的点,因此不取无限大的值,相反,对于从移动轨迹f到h的各移动轨迹与移动轨迹a到e的各移动轨迹之间的测地线距离,由于经过不连续的点g1(e,f),因此分别成为无限大。这样,区域划分候补生成部501将测地线距离不成为无限大的移动轨迹i与移动轨迹j的组作为相同的群,在成为无限大的情况下则作为其他的群。据此,如图12(d)所示,能够分离为θ1、θ2这两个群。而且,目前如图12(e)所示,在将阈值作为R2(在此,R1>R2)的情况下,成为无限大的测地线距离为g2(c,d)、g2(e,f)、g2(f,g)。在这种情况下,区域划分候补生成部501判断移动轨迹c与移动轨迹d之间、移动轨迹e与移动轨迹f之间、移动轨迹f与移动轨迹g之间为不连续的点,与图12(d)所示的例子的情况相同,整理测地线距离成为无限大的组和不成为无限大的组,并分离成θ1、θ2、θ3、θ4这四个群。通过以上的处理,由于测地线距离不成为无限大的移动轨迹的组是连续的,因此能够判断为是相同的群,并且由于测地线距离成为无限大的移动轨迹的组是不连续的,因此能够根据不连续的点来对群进行分离。并且,对于阈值Rk的设定方法,通过在f(i,j)的最小值与最大值之间均等地设定k个,因此所有的移动轨迹能够被判断为是一个群,从而能够达到减少各个移动轨迹被分别判断为是个别的群的危险性的效果。即,区域划分候补生成部501可以将在距离算出部103算出的多个距离中的最大值与最小值之间的多个值,作为用于生成多个区域划分候补的多个阈值来生成。
而且,也可以利用以f(i,j)的平均值或中央值为中心,并以一定间隔增加以及减少的值。在f(i,j)的值比较均一的情况下,能够更高效率地决定与不连续的点相对应的阈值。即,区域划分候补生成部501可以将通过以在距离算出部103算出的多个距离的平均值或中央值为中心,进行增加以及减少后而得到的多个值,作为用于生成多个区域划分候补的多个阈值来生成。
并且,也可以从最大值开始以一定间隔使值逐渐减少,根据最先检测到的不连续的点的值,将K-1个更小的值作为阈值来决定。这样,能够达到消除所有的移动轨迹被判断为是一个群的危险性的效果。
而且,也可以在使阈值Rk变小的同时反复进行步骤S601和步骤S602。例如,如图12(d)所示的例子,区域划分候补生成部501在步骤S601和步骤S602以阈值R1来进行移动轨迹的分群,接着,在步骤S601,如图12(e)所示的例子,对以阈值R1而抽出的各个群所对应的f(i,j)(在此i,j是属于同一群的移动轨迹),利用比阈值R1小的阈值R2来分别变换为测地线距离,在步骤S602,通过从与各个群对应的g(i,j)(在此i,j是属于同一群的移动轨迹)检测不连续的点,从而能够进行分群。这样,能够在使阈值Rk变小的同时,针对属于各个群的移动轨迹进行向测地线距离的变换和不连续点的检测,从而能够实现图12(f)所示的阶层的分群。当然,相反,通过将阈值从小的值依次增大来进行分群,也能够实现同样的阶层的分群。但是,通过将阈值从大的值依次减小,由于可以仅对以更大的阈值抽出的群,进行以更小的阈值的测地线距离变换以及不连续的点的检测处理,因此能够实现以较少的计算量来进行处理的效果。具体而言,如图12(f)所示,根据阈值R2进行的分群由于能够分别针对以阈值R1抽出的各个群进行,因此能够使用于计算的f(i,j)(在此,i,j是属于同一群的移动轨迹)的合计的大小变得更小。因此,能够减少计算量。
并且,若进行以上所述的阶层式的分群,如图13(a)-(c)所示,就能够将场景的结构以树结构来表现。例如,若针对图13(a)的输入以阈值R1来进行分群,则如图13(c)所示,群θ1和θ2被抽出。并且,若以更小的阈值R2来进行分群,则能够抽出作为更小的被拍摄物的群θ3。这样,由于能够以更小的阈值来抽出距离摄像机远的被拍摄物以及运动变化小的被拍摄物,因此能够实现将这种场景的结构作为阶层结构来获得的效果。例如,能够以阈值的大小来表现冲突的危险性。另外,在此的θ0与背景相对应。在此,在摄像机为固定的情况下,通过仅利用有运动的移动轨迹,从而能够仅抽出移动物体,在摄像机移动的情况下,也可以将移动轨迹数最大的群作为背景。
进一步利用图13(b)对使阈值比上述的例子中的阈值小,并进行分群的例子进行说明。在此,为了说明的简单对群θ2进行说明,不过,对于所有的群都可以以小的阈值来进行分群,也可以针对利用者指示的群(被拍摄物)进行分群。首先,针对群θ2若以小的阈值R3来进行分群,则如图13(c)右侧所示,能够分类成右腿、左腿和上半身。一般而言,在步行之时,由于腿的运动比较大,因此与其他的部位相比,能够以较大的阈值进行抽出。而且,若以较小的阈值R4来进行分群,则被分类为右腿上部和左腿上部(θ5、θ7)、右腿下部和左腿下部(θ6、θ8),并将手臂(θ3)从上半身抽出。并且,若以更小的阈值R5来进行分群,则能够将上半身分群为头部(θ1)、胸部(θ2)、以及腹部(θ4)。如以上所述,能够根据反映了运动的不连续性的阶层结构来进行分群。据此,能够实现用户以想要看的粒度来看被拍摄物的各个部位的运动。
即,在减小阈值的同时进行处理的情况下,针对被抽出的群以较小的阈值分别对群进行更详细地分群,这样就能够实现反映了所有的移动轨迹分布的阶层的分群。
并且,也可以是,区域划分候补生成部501针对由距离算出部103算出的多个距离,检测在从大的值到小的值的顺序排列的情况下的最初的不连续的点,将比检测出的不连续的点还要小的多个值,作为用于生成多个区域划分候补的多个阈值来生成。
而且,也可以像以下这样设定阈值Rk。首先,可以算出与移动轨迹i成为第N位小的距离的移动轨迹j,将该值作为阈值Rk来设定,以Rk为大的顺序来进行处理。在这种情况下,N例如是以想要设定的群数来除处理时所利用的移动轨迹的数量而得到的值,这样能够实现的效果是可以容易地设定成为与所希望的群数接近的群数的阈值Rk。即,区域划分候补生成部501针对在运动分析部102算出的多个移动轨迹的每一个,确定与该移动轨迹的距离成为第N位小的距离,针对确定了的多个距离,从大的顺序开始选择多个值,并将选择的多个值作为用于生成多个区域划分候补的多个阈值来生成。
接着,在步骤S603,区域划分候补选择部502从在步骤S602进行的多个分群结果中,选择成为与预先设定的类别数量最接近的群数的分群结果。若以图12(a)-(f)所示的例子来说明的话,在将类别数设定为M=4的情况下,阈值R2时的分群结果(图12(e))被选择。并且,在将类别数设定为M=2的情况下,阈值R1时的分群结果(图12(e))被选择,由输出部105输出在各移动轨迹赋予了标记的结果。
并且,在本实施例中通过针对移动轨迹计算上述公式3或上述公式所示的距离,从而能够进行考虑了像素的位置和运动的类似性的区域划分。因此,在图12(a)-(f)的例子中,在类别数被设定为M=2的情况下,下半身的运动与上半身的运动的大的差异被反映出来,从而能够将上半身和下半身分别作为不同的群来进行区域划分,在类别数被设定为M=4的情况下,除M=2的情况以外,头部的运动与手臂的运动的不同,以及大腿与小腿的运动的不同也被反映出来,因此能够将头部、手臂、大腿(上半身)以及小腿(下半身)分别作为群来进行区域划分。
另外,在此阈值的数量不仅限于两个,可以准备多种。并且,在与设定的类别数相同数量的分群结果不存在的情况下,也可以选择成为最接近群数的分群结果,也可以从比设定的类别数小的类别数中选择与群数最接近的分群结果,同样,也可以从比设定的类别数大的类别数中选择与群数最接近的分群结果。
并且,通过利用多个阈值Rk,如图12(f)所示,能够将阈值R1时的分群结果和阈值R2时的分群结果作为阶层结构来获得。例如,在M=2、阈值R1的情况下的分群中,被分离成上半身和下半身,在M=4、阈值R2的情况下的分群中,被分离成头部、手臂等身体中的各个部分。因此,以M=2、阈值R1分离为上半身的群θ1以及M=4、阈值R2分离为头部的群θ1和分离为手臂的群θ4,如图12(f)所示可以作为阶层关系来获得。这样,能够将图像中的被拍摄物的结构作为阶层结构来抽出。
而且,本方法可以通过同样的方法,不仅能够进行一个移动体的身体部位的检测以及区域划分,而且在多个人物存在的场景中还能够检测各个移动体并进行区域划分。
这样,针对多个阈值,根据利用测地线距离算出的不连续的点来进行分群,并通过选择与规定的类别数最接近的分群结果,从而能够进行检测以及区域划分。
如以上所述,通过根据像素间的距离或移动轨迹的类似性来进行分群,从而类似的移动轨迹被归结,并进行了区域划分,因此,距离近且进行了类似的运动的部位被识别为一个区域,作为在时间上追踪在动态图像中移动的物体的区域的结果,能够不受关节物体的姿势的影响,来进行动态图像中的移动体或移动体的部位的检测,以及进行包括移动体的图像的区域划分。并且,作为前处理可以不必设定人物候补区域,根据移动轨迹的类似性并利用多个阈值来进行分群,因此,在图像中有各种大小的移动体的情况以及移动体的一部分被遮挡的情况下容易发生的人物候补区域的检测错误、以及因该检测错误而造成的区域划分的失败均不会发生。
而且,在本实施例中根据不连续的点而进行的分群,由于能够进行不受群的大小的影响的分群,因此,在大的被摄物体和小的被摄物体混在的情况下、以及具有大的运动的被摄物体和具有小的运动的被摄物体混在的情况下都能够实现确实地抽出。并且,通过在减少阈值的同时进行分群,从而能够分阶层地进行从粗略的分群到详细的分群,因此能够分阶层地抽出场景的结构以及被拍摄物的躯干结构。据此所得到的效果是,从像抽出图像中的被拍摄物的存在位置这种粗略地图像分析直到特定的图像区域以及被拍摄物区域的详细分析,都能够以同样的方式来进行。并且,抽出的阶层结构由于示出了所有的移动轨迹的数据结构,因此能够表现输入图像中的场景的结构。
如以上所述,由于不需要庞大的参数拟合就能够进行非线性空间的分群,因此,即使是包括伴随着形状的变化而移动的人物等的动态图像也能够被正确地进行区域划分,从而能够进行动态图像中的移动体的检测。
(实施例1以及实施例2的第一变形例)
以下对本发明的实施例1以及实施例2的第一变形例中的移动体检测装置进行说明。在此,对附加的功能的例子进行说明,该附加的功能是,将在实施例1以及实施例2中进行移动体的检测以及对部位进行的区域划分的结果作为图像来进行显示的功能。在此,虽然对实施例1中的变形例进行说明,不过实施例1的变形例也可以适用于实施例2。在此所述的第一变形例所涉及的移动体检测装置100b如图14的功能方框图所示,包括:图像输入部101、运动分析部102、距离算出部103、区域划分部104以及输出部105a。在此,输出部105a除具有实施例1中的输出部105的功能以外,还具有图像显示部1001,通过该图像显示部1001,能够将划分的区域作为图像显示到监视器等。
图像显示部1001是一处理部,将在区域划分部104得到的区域划分的结果重叠在由图像输入部101接受的动态图像(图片)并进行显示,例如由LCD等显示器及其显示控制部构成。图15(a)以及(b)示出了图像显示部1001的显示例子。在此,图15(a)示出了在M=3时对移动体进行区域划分的例子,图15(b)示出了在M=8时对一个移动体进行区域划分的例子。这样,对与区域θm相对应的图像上的区域进行分类等,以能够区分被划分的各个区域的状态显示在监视器等。可以像图15(a)所示那样,按每个移动体来进行分类,也可以像图15(b)那样,分别显示各个部位。即,通过图15(a)以及(b)可知,本发明所涉及的移动体检测装置通过上述的区域划分能够检测多个移动体(图15(a)),也能够检测构成一个移动体的多个部分,也就是说,能够对一个移动体进行区域划分(图15(b))。
在此,上述公式2所示的移动轨迹i除离群值以外,与区域θm的某一个相对应。因此,根据属于区域θm的移动轨迹i,能够选择图片上的像素,只要根据区域标记m进行分类等,就能够容易地将划分后的区域显示在图像上。这样,即使对实施例1以及实施例2所说明的、包括伴随着形状的变化而移动的人物等动态图像也能够正确地进行区域划分,除该效果以外,还能够通过将划分的区域显示在动态图像上,用户能够容易地区分各个移动体或者移动体的部位,而且还能够区分移动体的运动。
(实施例1以及实施例2的第二变形例)
以下对本发明的实施例1以及实施例2的第二变形例中的移动体检测装置进行说明。在此,对附加的功能的例子进行说明,该附加的功能是,将在实施例1以及实施例2中进行移动体的检测以及对部位进行的区域划分的结果,分别按照划分的各个区域进行记录并发送。在此,虽然对实施例1中的变形例进行说明,不过实施例1的变形例也可以适用于实施例2。这样的第二变形例所涉及的移动体检测装置100c如图16所示的功能方框图所示,包括:图像输入部101、运动分析部102、距离算出部103、区域划分部104以及输出部105b。在此,输出部105b除具有实施例1中的输出部105的功能以外还具有记录发送部1201。
记录发送部1201是一处理部,根据区域划分部104所进行的区域划分的结果,确定在图像输入部101接受的图片中的区域,并按照确定的各个区域,将对应的区域划分结果记录到存储器、硬盘等记录介质中、或者通过通信接口等发送到外部。即,该记录发送部1201与图像显示的情况相同,将区域划分后的结果图像与区域标记θm相对应,分别进行记录或发送。并且,属于各个区域的运动信息可以通过以下这样的平均化后,来进行运动信息的压缩。通常,需要按照像素来保持运动信息,若进行以下的处理,则可以针对一个区域仅保持一个运动。例如,作为运动信息而利用像素i的运动矢量(ui t,vi t)的情况下,能够对按照以下这样划分的区域进行平均化后得到的运动信息进行计算。
(算式25)
u t m = 1 C m &Sigma; c m = 1 C m u t c m (公式25)
(算式26)
v t m = 1 C m &Sigma; c m = 1 C m v t c m (公式26)
在此,Cm是属于区域θm的像素数或移动轨迹的数量。uCm t,vCm t分别是属于区域θm的像素的运动矢量。图17示出的例子是,针对图15(a)所示的处理结果,将从时刻T开始的t页图像作为输入来进行区域划分,并根据该结果来记录或发送划分区域。记录或发送:作为标识符的各个区域标记θm;属于各个区域标记θ1到θ3的时刻T上的图片的像素位置和像素值;以及各个区域标记所对应的从时刻T到时刻T+t为止的运动矢量um T,vm T,um T+1,vm T+1,…,um T+t,vm T+t。当然,也可以取代图像的像素位置和像素值,而是针对时刻T的一页图片,按照各个像素赋予各个区域的标记并进行发送。这样,由于可以仅发送与区域数量相当的运动信息,因此,与发送t页的图片的情况相比较,能够实现高效率地记录或发送。尤其是在区域数比像素数少的情况下,效率就越高。而且,如图13(c)所示,也可以按照分阶层的分群结果来进行记录或发送。例如,在数据的记忆容量小以及传送容量小的情况下,可以记录或发送与以更大的阈值进行的分群结果相对应的运动矢量,也可以按照从根据粗略的分群结果的运动矢量到根据详细的分群结果的运动矢量的顺序来进行记录或发送。这样,能够进行适应于记录时间或发送容量的记录或发送。
并且,在利用仿射运动来压缩运动信息的情况下,可以取代上述的公式25以及公式26,而根据仿射运动来计算移动的像素位置的平均值。如以上所述,可以在压缩像素的运动信息的同时进行区域的记录或发送。这样,即使对实施例1以及实施例2所说明的、包括伴随着形状的变化而移动的人物等动态图像也能够正确地进行区域划分,除该效果以外,还能够通过针对各个区域利用一个运动信息,来实现较高的编码效率。
而且,可以通过另外设置划分区域复原部,来复原已发送或记录的信息。具体而言,根据图15(a)以及(b)所示的各个区域标记所对应的像素位置和像素值,来复原时刻T的图片。而且,通过利用像素的移动轨迹信息,来使时刻T的各个像素移动,从而能够复原从时刻T+1到时刻T+t的图片。在此,在利用固定摄像机的情况下,仅利用像素的移动轨迹信息不为0的信息,进一步由划分区域复原部预先获得并保持背景图像,从而可以将复原后的图像覆盖到背景图像上。这样,能够高效率地利用被发送或被记录的信息,从而能够以低计算量来复原图片。
(实施例1以及实施例2的第三变形例)
以下对本发明的实施例1以及实施例2的第三变形例中的移动体检测装置进行说明。在此所要举例说明的是,利用两个以上的距离尺度,来实现更高精确度的检测以及区域划分。在此,虽然对实施例1中的变形例进行说明,不过实施例1的变形例也可以适用于实施例2。这样的第三变形例所涉及的移动体检测装置由于与实施例1具有相同的构成,因此省略其构成的说明。
与实施例1以及实施例2不同之处是在距离算出部103的处理。
在距离算出部103由于要进行更高精确度的处理,与实施例1不同之处是利用追加的参数。以下以与实施例1的不同之处为中心进行说明。
距离算出部103利用移动轨迹间的图像上的距离以及与其变动有关的距离尺度、像素间在图像上所成的角度(即,连接像素与像素之间的直线的倾斜角度(该直线与图片的横轴所成的角度))以及与其变动有关的距离尺度,算出针对各个距离尺度的距离矩阵。并且,通过同一两个矩阵,从而实现更高精确度的处理。
在此,按照图3所示的处理流程进行说明。首先,由于从步骤S101到S103与实施例1相同,因此省略说明。
接着,在步骤S104,距离算出部103利用在上述公式2算出的移动轨迹i,算出具有像素运动的类似性的距离矩阵。在此,除上述公式3或上述公式4所示的距离f(i,j),还利用第二个距离尺度的例子进行说明,即利用基于像素i与像素j所成的角度的、以下的公式27所示的距离f2(i,j)来进行说明。
(算式27)
f 2 ( i , j ) = a _ mean ij + w a &CenterDot; a _ var ij (公式27)
在此,wa是加权系数,是设计者设定的参数。并且,关于a_meanij、a_varij将在以下示出。
(算式28) a _ mean ij = 1 T &Sigma; t = 1 T a ij t (公式28)
(算式29)
a _ var ij = 1 T &Sigma; t = 1 T ( a ij t - a _ mean ij ) 2 (公式29)
在此,
(算式30)
a ij = arctan ( y t i - y t j x t i - x t j ) (公式30)
如以上所示,利用像素i与像素j所成的角度及其变动成分,能够表现像素的运动的类似性。据此,不仅能够捕捉刚体,就连伴随着旋转运动而形状发生变化的关节物体等也能够被捕捉。
并且,关于f2(i,j),只要是能够评价像素运动的类似性的距离值,不管利用怎样的值都可以,例如,可以取代上述的公式28至公式30而利用以下的公式31至公式33,也可以取代以下的公式33而利用采用了上述公式2的仿射参数Ait的以下的公式34。从以下的公式31至公式33能够利用像素i与像素j的运动矢量的角度差以及其变动成分,来表现像素的运动的类似性。据此,能够捕捉具有旋转的运动变化。以下的公式34能够利用像素i与像素j的周围的块的仿射参数的差以及其变动成分,来表现像素的运动的类似性。据此,能够捕捉具有旋转、平移移动、缩放变化的运动变化。
(算式31)
a _ mean ij = 1 T - 1 &Sigma; t = 1 T - 1 a ij t (公式31)
(算式32)
a _ var ij = 1 T - 1 &Sigma; t = 1 T - 1 ( a ij t - a _ mean ij ) 2 (公式32)
不过,
(算式33)
a ij t = arctan ( y t + 1 i - y t i x t + 1 i - x t i ) - arctan ( y t + 1 j - y t j x t + 1 j - x t j ) (公式33)
(算式34)
a ij t = | | A t i - A t j | | (公式34)
接着,如以下的公式35所示,将在上述公式27算出的距离矩阵追加到在上述公式3求出的距离矩阵。在此,虽然对像素间的距离和像素间所成的角度这两项进行了说明,不过也可以利用表现了其他的像素运动的类似性的距离来求三个以上的距离。
(算式35)
f(i,j)=f(i,j)+w·f2(i,j)  (公式35)
在此,w是设计者设定的加权系数。
由于利用在上述公式35算出的距离矩阵,在步骤S105以后进行同样的处理,因此省略以后的说明。
如以上所示,根据本实施例的移动体检测装置,能够利用像素间的图像上的距离以及有关其变动的距离尺度、和像素间在图像上所成的角度以及有关其变动的距离尺度,针对各个距离尺度算出距离矩阵,在统一了各个距离矩阵之后,通过根据连续性来进行分群,从而能够高精确地检测动态图像中的移动物体的区域在时间上的追踪结果,并能够进行区域划分。而且,通过将像素间在图片上所成的角度和其变动作为距离尺度来利用,从而能够正确地捕捉尤其是因关节运动而产生的旋转运动。并且,作为前处理可以不必进行人物候补区域的设定,由于能够根据移动轨迹的类似性来进行分群,因而在图像中存在各种大小的移动体的情况,以及移动体的一部分被遮挡的情况下而出现的人物后不区域的检测错误,以及由于此检测错误而造成的区域划分失败等均不会发生。
如以上所述,能够以更高的精确度来检测伴随着形状的变化而移动的人物等移动体,并能够对部位进行区域划分。
(实施例3)
在本实施例中,利用在实施例0、实施例1、以及实施例2中说明的移动体检测方法,根据检测移动体以及进行区域划分的结果,来对附加了预测移动体的运动的功能的移动体检测装置进行说明。在此,虽然依据实施例1进行说明,不过在实施例1、实施例2以及这些实施例的变形例中也能够同样实现。
图18是示出实施例3中的移动体检测装置100d的构成的功能方框图。如图18所示,在本实施例中的移动体检测装置100d,除包括图像输入部101、运动分析部102、距离算出部103、区域划分部104、输出部105以外,还附加了运动预测部1401,从而具有预测移动体的运动的功能。
运动预测部1401根据区域划分结果,从各个区域所包含的像素的移动轨迹中算出代表轨迹,根据所述代表轨迹来预测移动体的运动。图19示出了实施例3中的处理流程。由于从步骤S101到S106与实施例1相同,因此省略说明。
接着,在步骤S1501,运动预测部1401利用在步骤S105以及S106进行的区域划分结果,如以下这样求出群的代表点以及其代表轨迹。
在此,将属于区域θm的像素的移动轨迹表示为xCm。如以下的公式36所示,按照各个群区域θm来求代表的移动轨迹。在此,作为代表的移动轨迹,以算出平均移动轨迹的例子来进行说明,不过,对于以下的计算可以针对各个像素的移动轨迹xCm进行加权等,也可以将与图像上的群的重心相对应的图像的移动轨迹作为代表的移动轨迹。
(算式36) x m &OverBar; = 1 C m &Sigma; c = 1 C m x c m (公式36)
在此,Cm是属于区域θm的像素数或像素的移动轨迹数。
图20示出了根据上述的公式36,按照各个群区域θm来求代表的移动轨迹的例子。不过为了便于说明,在此仅示出了关于与头部相对应的群区域θ1和与腿部对应的群区域θ8的代表的移动轨迹。图中的×是各个时刻t所对应的xm-的要素,示出了像素位置。而且,如上述的公式3以及公式4所示,通过非线性空间上的分群的区域划分,由于是在考虑到像素运动的类似性的基础上而被进行的,因此与单纯地求出接近的像素的移动轨迹在时间上的平均值的方法相比较,由于能够仅利用运动相类似的像素的移动轨迹来进行计算,因此能够求出更高精确度的代表的移动轨迹。这样,通过按照各个群区域来求出代表的移动轨迹,从而能够正确且简便地表现各个部位的运动。
接着,在步骤S1502,运动预测部1401根据在步骤S1501算出的代表的移动轨迹,预测比时刻T早的时刻中的移动体的位置。首先,将要说明的例子是,根据代表的移动轨迹算出加速度,并预测T+1以后的移动体的位置。在被输入有三页以上的时间序列图像的情况下,如以下的公式37所示,能够按照各个代表的移动轨迹xm-来获得加速度矢量sm
(算式37)
s t + 1 m = { u t + 1 m 1 - u t m } - { u t m - u t - 1 n } (公式37)
在此,um t是运动矢量,能够以以下的公式38来表示。
(算式38)
u t m = ( u t m , v t m ) (公式38)
利用上述的公式37的加速度矢量,如图20的虚线箭头以及圆圈“○”所示,按照移动体的各个部位,利用以下的公式39,能够预测时刻T+t′中的移动体的部位位置posm(T+t′)。在此,以移动体的部位为例进行了说明,不过也可以根据图15(a)以及(b)所示的检测例子来预测各个移动体的位置。
(算式39)
pos m ( T + t &prime; ) = pos n ( T ) + t &prime; u T m + 1 2 t &prime; 2 s T m (公式39)
并且,在输出部105输出在步骤S1502预测的移动体的位置以及移动体部位的位置。据此,能够进行考虑了加速度的预测。在运动急剧加快或者急剧停止的情况下,能够得到的效果是反映该加速度,并预测移动体的位置。并且,也可以取代运动矢量而利用仿射参数。仿射参数能够表现具有旋转运动的运动,由于适于表现手臂或脚的旋转运动,因此能够正确地预测关节物体的位置。
并且,也可以取代以上所述的运动矢量和加速度,而针对代表的移动轨迹xm来拟合直接N次函数。在输入了T页在时间序列上排列的图像的情况下,能够针对xm-中所包含的T个图像上的位置信息以N次的函数来拟合。据此,能够按照拟合的函数的值,推定时刻(T+t′)上的图像中的位置posm(T+t′)。具体而言,通过利用函数来进行拟合,从而能够表现更连贯的运动,因此能够实现更高精确度的预测。尤其能够按照拟合的函数来进行预测,因此在拟合的函数与本来的运动接近的情况下,运动预测的精确度则越高。当然,这些图像上的位置预测也可以利用时间上的内插。
如以上所述,根据本实施例,能够将运动类似的像素的移动轨迹作为同一个群来算出,因此能够高精确地求出代表的移动轨迹。能够得到的效果是,尤其是针对关节物体等能够表现各个部位的运动,并且可以不必设定作为前处理的人物候补区域,就能够高精确度地预测移动体的部位位置。
以上,根据实施例以及变形例对本发明所涉及的移动体检测方法以及移动体检测装置进行了说明,不过本发明并非受这些实施例以及变形例所限。本领域技术人员能够想到的各种变形以及在不超脱本发明的主旨的范围内的各个实施例均包含在本发明内。
并且,对到此为止所说明的所有实施例以及所有变形例中的特征性构成要素进行任意地组合而实现的各种形态也包含在本发明内。
(测地线距离变换的补充)
最后,对利用了测地线距离变换的区域划分所划分的图像上的区域的性质进行说明。在此,作为一个例子,针对在利用实施例2所说明的方法的情况下,能够进行区域划分的移动体的性质进行补充。图21(a)-(c)示出了利用了实施例2的方法的情况下的能够划分的图形的一个例子。通过利用实施例2的方法,能够分别区域划分为图形θ1和θ2。在此,图21(a)-(c)所示的各个图形θ1和θ2的移动方向可以相同,也可以不同。不过,在此的条件是,属于图形θ1的像素全部是同一个运动,并且,属于图形θ2的像素也全部是同一个运动。
在实施例2的步骤S601中,进行具有图5所示的特征的测地线距离距离变换。这样所具有的特征是,与通常的欧几里得距离不同,能够算出从移动轨迹追寻到移动轨迹的距离。这样,图21(a)-(c)的共同之处是,针对弯曲的形状,能够沿着该形状来算出距离。
而且,在步骤S602,在测地线距离成为无限大的移动轨迹与移动轨迹之间,以不连续的点来进行分群。因此,在移动轨迹与移动轨迹之间的距离在阈值以上的情况下,能够根据不连续的点来分别对θ1和θ2进行区域划分。
如以上所述,若采用利用测地线距离变换的区域划分,则在包含弯曲的形状的移动体且在有一定的不连续的点的情况下,能够按照不连续的点对区域进行划分。
另一方面,在不进行步骤S601的处理的情况下,由于属于θ1的移动轨迹与属于θ2的移动轨迹之间的距离能够以欧几里得距离来算出,因此与图5说明的情况同样,点i与点j之间的距离比点i与点k之间的距离大。即,属于同一个群的点之间的距离比属于其他的群的点之间的距离大。并且,在步骤S602的处理中,若不进行测地线距离变换就不进行追寻数据的处理,因此,不能判断相邻的移动轨迹与移动轨迹之间是不连续还是连续。因此,在图21(a)-(c)所示的例子中,在包含弯曲的形状的移动体且有一定的不连续的点的情况下,根据不连续的点进行区域划分是比较困难的。
因此,在本发明所涉及的移动体检测方法以及装置中,通过利用了这种测地线距离的分群,与利用了直线距离的欧几里得距离的分群相比,能够进行考虑了与移动轨迹间的类似性相关的连续性的分群,即使是具有复杂的组合关系的区域与区域之间,也能够确实地辨别是属于同一个物体(或者部位)还是属于个别的物体(或者部位)。
本发明能过作为检测动态图像中的移动体的全部或一部分的装置,例如能够作为应用于运动分析装置、监视装置、电视摄影机或电视等的AV设备中所内藏的移动体检测装置来利用,所述的检测动态图像中的移动体的全部或一部分的装置是指,根据多页图像中的由一个以上的像素构成的块的运动,通过对包括伴随着形状的变化而移动的人物等的移动体的图像进行区域划分,来检测图像中的移动体的移动体检测装置。
符号说明
100,100a~100d 移动体检测装置
101 图像输入部
102 运动分析部
103 距离算出部
104,104a 区域划分部
105,105a,105b 输出部
501 区域划分候补生成部
502 区域划分候补选择部
1001 图像显示部
1201 记录发送部
1401 运动预测部

Claims (21)

1.一种移动体检测方法,通过进行区域划分而检测动态图像中的移动体,所进行的区域划分是指,对动态图像中的移动体的全部或一部分的区域进行确定,所述移动体检测方法包括:
图像输入步骤,接受构成动态图像的多个图片;
运动分析步骤,按照由构成所述图片的一个以上的像素所构成的各个块,检测在时间上相邻的两个图片之间的图像的运动,并通过针对所述多个图片连接检测出的运动,从而算出移动轨迹;
距离算出步骤,针对在所述运动分析步骤所算出的多个移动轨迹,算出表示移动轨迹间的类似性的距离;
区域划分步骤,通过对在所述距离算出步骤被算出的距离中的比预先规定的阈值小的距离进行连接,从而将在所述距离算出步骤所算出的距离变换为测地线距离,检测得到的测地线距离的分布中的不连续的点,并通过将相距比检测出的不连续的点的测地线距离小的测地线距离的移动轨迹作为一个群,从而进行所述区域划分;以及
输出步骤,输出在所述区域划分步骤进行了区域划分后的结果。
2.根据权利要求1所述的移动体检测方法,
在所述区域划分步骤,在从所述距离向所述测地线距离的变换中,在将第一移动轨迹与第二移动轨迹之间的距离变换为测地线距离的情况下,在跟踪相距在所述距离算出步骤所算出的距离中比所述预先规定的阈值小的距离的移动轨迹的同时,将从所述第一移动轨迹到所述第二移动轨迹的路径的距离作为测地线距离来算出。
3.根据权利要求1所述的移动体检测方法,
在所述区域划分步骤中,在将在所述距离算出步骤所算出的距离变换为测地线距离时,利用加权来进行所述变换,所述加权的方法是,所述多个移动轨迹的分布中的密集度越大,就越使测地线距离成为小的距离。
4.根据权利要求1所述的移动体检测方法,
所述区域划分步骤包括:
区域划分候补生成步骤,生成多个用于所述区域划分的阈值,针对生成的多个阈值的每一个,通过将在所述距离算出步骤所算出的距离中比该阈值小的距离连接,从而将在所述距离算出步骤被算出的距离变换为所述测地线距离,检测得到的多个测地线距离的分布中不连续的点,并通过将相距比检测出的不连续的点的测地线距离小的测地线距离的移动轨迹作为一个群,从而进行所述区域划分,并将该区域划分的结果作为区域划分候补来生成;以及
区域划分候补选择步骤,获取关于类别数量的指示,并从在所述区域划分候补生成步骤所生成的多个区域划分候补中,选择被划分成与获得的类别数量相同或者最接近的数量的区域的区域划分候补,并将选择的区域划分候补作为所述区域划分的结果来输出。
5.根据权利要求4所述的移动体检测方法,
在所述区域划分候补生成步骤,将在所述距离算出步骤所算出的多个距离中的最大值和最小值之间的多个值,作为所述阈值来生成。
6.根据权利要求4所述的移动体检测方法,
在所述区域划分候补生成步骤中,针对在所述距离算出步骤所算出的多个距离,检测在将阈值从大到小的顺序排列时的最初的不连续的点,将比检测出的不连续的点小的多个值作为所述多个阈值来生成。
7.根据权利要求4所述的移动体检测方法,
在所述区域划分候补生成步骤中,针对在所述距离算出步骤所算出的多个距离进行不连续的点的检测,并根据阈值的大小分阶层地进行所述区域划分。
8.根据权利要求7所述的移动体检测方法,
在所述区域划分候补生成步骤中,针对在所述距离算出步骤所算出的多个距离,从阈值为大的值开始进行不连续的点的检测,还针对被划分的每一个群利用阈值来进行不连续的点的检测,并分阶层地进行所述区域划分。
9.根据权利要求4所述的移动体检测方法,
在所述区域划分候补生成步骤,以在所述距离算出步骤所算出的多个距离的平均值或中央值作为中心进行增加以及减少,并将进行了增加以及减少而得到的多个值作为所述多个阈值来生成。
10.根据权利要求4所述的移动体检测方法,
在所述区域划分候补生成步骤中,针对在所述运动分析步骤所算出的多个移动轨迹的每一个,确定与该移动轨迹的距离在从小到大的顺序中为第N位的距离,并从确定的多个距离中以从大到小的顺序来选择多个值,并将该被选择的多个值作为所述多个阈值来生成。
11.根据权利要求1所述的移动体检测方法,
在所述区域划分步骤,针对在所述运动分析步骤所算出的多个移动轨迹的每一个,以所述距离为从小到大的顺序来选择预先规定个数的移动轨迹,在对与没有被选择的移动轨迹之间的距离进行变更为无限大的非线性化之后,将所述多个距离分别变换为测地线距离。
12.根据权利要求1所述的移动体检测方法,
在所述区域划分步骤,针对在所述运动分析步骤所算出的多个移动轨迹的每一个,选择所述距离为预先规定的阈值以下的移动轨迹,在对与没有被选择的移动轨迹之间的距离进行变更为无限大的非线性化之后,将所述多个距离分别变换为测地线距离。
13.根据权利要求1所述的移动体检测方法,
在所述运动分析步骤,作为所述运动的检测,算出表示所述运动的二维运动矢量或者仿射参数。
14.根据权利要求1所述的移动体检测方法,
在所述距离算出步骤,作为所述距离的算出,除算出所述块的移动轨迹间的类似性以外,还算出所述图片中的所述块之间的距离、以及示出连接所述块与块之间的直线的倾斜的角度之中的至少一个。
15.根据权利要求1所述的移动体检测方法,
所述输出步骤包括显示步骤,将在所述区域划分步骤得到的区域划分的结果,重叠到在所述图像输入步骤接受的图片上并显示。
16.根据权利要求1所述的移动检测方法,
在所述图像输入步骤,接受包括两个以上的移动体的动态图像;
在所述区域划分步骤,通过对所述两个以上的移动体进行所述区域划分,从而检测两个以上的移动体。
17.根据权利要求1所述的移动体检测方法,
所述移动体检测方法进一步包括运动预测步骤,在该运动预测步骤,根据构成在所述区域划分步骤被确定的区域的块的移动轨迹,来算出代表该区域的移动轨迹,通过算出的代表的移动轨迹来预测该区域的移动,从而预测所述移动体的运动。
18.根据权利要求1所述的移动体检测方法,
所述输出步骤包括记录发送步骤,在该记录发送步骤,根据在所述区域划分步骤的区域划分的结果,来确定在所述图像输入步骤所接受的图片中的区域,按照确定的每个区域,将对应的区域划分的结果记录到记忆单元或者进行发送。
19.一种移动体检测装置,通过进行区域划分从而检测动态图像中的移动体,所进行的区域划分是指,对动态图像中的移动体的全部或一部分的区域进行确定,该移动体检测装置包括:
图像输入部,接受构成动态图像的多个图片;
运动分析部,按照由构成所述图片的一个以上的像素所构成的各个块,检测在时间上相邻的两个图片之间的图像的运动,并通过针对所述多个图片连接检测出的运动,从而算出移动轨迹;
距离算出部,针对在所述运动分析部算出的多个移动轨迹,算出表示移动轨迹间的类似性的距离;
区域划分部,通过对在所述距离算出部算出的距离中的比预先规定的阈值小的距离进行连接,从而将在所述距离算出部算出的距离变换为测地线距离,检测得到的测地线距离的分布中的不连续的点,并通过将相距比检测出的不连续的点的测地线距离小的测地线距离的移动轨迹作为一个群,从而进行所述区域划分;以及
输出部,输出在所述区域划分部被区域划分后的结果。
20.一种用于移动体检测装置的程序,所述移动体检测装置通过进行区域划分从而检测动态图像中的移动体,所进行的区域划分是指,对动态图像中的移动体的全部或一部分的区域进行确定,
该程序使计算机执行权利要求1所述的移动体检测方法中所包括的步骤。
21.一种移动体检测方法,包括:
图像输入步骤,接受构成动态图像的多个图片;
运动分析步骤,按照由构成所述图片的一个以上的像素所构成的各个块,检测在时间上相邻的两个图片之间的图像的运动,并通过针对所述多个图片连接检测出的运动,从而算出移动轨迹;
距离算出步骤,针对在所述运动分析步骤所算出的多个移动轨迹,算出表示移动轨迹间的类似性的距离;
区域划分步骤,按照在所述距离算出步骤所算出的距离为由小到大的顺序,进行将移动轨迹的组合并为同一个群的处理,且直到群的数量达到规定的数量为止反复进行该处理,从而将相距一定距离以上的不连续的点作为群的边界来进行所述区域划分;以及
输出步骤,输出在所述区域划分步骤的区域划分的结果。
CN2009801118239A 2008-10-27 2009-09-11 移动体检测方法以及移动体检测装置 Expired - Fee Related CN101983389B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008276157 2008-10-27
JP2008-276157 2008-10-27
PCT/JP2009/004523 WO2010050110A1 (ja) 2008-10-27 2009-09-11 移動体検出方法及び移動体検出装置

Publications (2)

Publication Number Publication Date
CN101983389A true CN101983389A (zh) 2011-03-02
CN101983389B CN101983389B (zh) 2012-11-21

Family

ID=42128484

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009801118239A Expired - Fee Related CN101983389B (zh) 2008-10-27 2009-09-11 移动体检测方法以及移动体检测装置

Country Status (5)

Country Link
US (1) US8340357B2 (zh)
EP (1) EP2330557B1 (zh)
JP (1) JP4456181B1 (zh)
CN (1) CN101983389B (zh)
WO (1) WO2010050110A1 (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102821241A (zh) * 2011-06-10 2012-12-12 华晶科技股份有限公司 利用对象移动趋势驱动快门的装置及方法
CN103019372A (zh) * 2011-10-21 2013-04-03 微软公司 利用计算设备计算代谢当量
CN103189898A (zh) * 2011-03-22 2013-07-03 松下电器产业株式会社 移动体检测装置以及移动体检测方法
CN110135422A (zh) * 2019-05-20 2019-08-16 腾讯科技(深圳)有限公司 一种密集目标的检测方法和装置
CN110132241A (zh) * 2019-05-31 2019-08-16 吉林化工学院 一种基于时间序列分析的高精度步态识别方法及装置
TWI673653B (zh) * 2018-11-16 2019-10-01 財團法人國家實驗研究院 移動物體偵測系統及方法
CN110458046A (zh) * 2019-07-23 2019-11-15 南京邮电大学 一种基于关节点提取的人体运动轨迹分析方法
CN111582025A (zh) * 2020-03-31 2020-08-25 北京明略软件系统有限公司 一种移动物体的识别方法、装置、及存储介质
CN112288774A (zh) * 2020-10-22 2021-01-29 深圳市华宝电子科技有限公司 移动侦测方法、装置、电子设备及存储介质

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010079556A1 (ja) * 2009-01-09 2010-07-15 パナソニック株式会社 移動体検出方法および移動体検出装置
CN102227750B (zh) * 2009-07-31 2014-06-25 松下电器产业株式会社 移动体检测装置及移动体检测方法
CN102378992B (zh) 2009-12-28 2014-12-24 松下电器产业株式会社 关节状区域检测装置及其方法
JP4782901B2 (ja) * 2009-12-28 2011-09-28 パナソニック株式会社 移動体検出装置および移動体検出方法
US20110221664A1 (en) * 2010-03-11 2011-09-15 Microsoft Corporation View navigation on mobile device
JP2011210179A (ja) * 2010-03-30 2011-10-20 Sony Corp 移動物体検出装置及び方法、並びにプログラム
JP5445319B2 (ja) * 2010-05-12 2014-03-19 富士通株式会社 移動体検出プログラムおよび移動体検出装置
JP5724237B2 (ja) * 2010-07-27 2015-05-27 オムロンヘルスケア株式会社 歩行変化判定装置
CN102741884B (zh) * 2010-07-27 2016-06-08 松下知识产权经营株式会社 移动体检测装置及移动体检测方法
EP2447882B1 (en) * 2010-10-29 2013-05-15 Siemens Aktiengesellschaft Method and device for assigning sources and sinks to routes of individuals
TWI423170B (zh) * 2010-12-31 2014-01-11 Altek Corp 多畫面中物體移動的追蹤方法
JP2012151796A (ja) * 2011-01-21 2012-08-09 Sony Corp 画像処理装置と画像処理方法およびプログラム
CN103003846B (zh) 2011-01-26 2016-07-06 松下知识产权经营株式会社 关节区域显示装置、关节区域检测装置、关节区域归属度计算装置、关节状区域归属度计算装置以及关节区域显示方法
JP2012212373A (ja) * 2011-03-31 2012-11-01 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
JP2015039085A (ja) * 2011-12-14 2015-02-26 パナソニック株式会社 画像処理装置及び画像処理方法
KR20130088493A (ko) * 2012-01-31 2013-08-08 삼성전자주식회사 Ui 제공 방법 및 이를 적용한 영상 수신 장치
TWI476702B (zh) * 2012-03-16 2015-03-11 Pixart Imaging Inc 使用者辨識系統及辨識使用者的方法
KR101901958B1 (ko) * 2012-03-26 2018-11-08 한국전자통신연구원 휴리스틱 함수의 학습을 이용한 고속 경로를 탐색을 위한 장치 및 그 방법
US10140717B2 (en) * 2013-02-27 2018-11-27 Hitachi Automotive Systems, Ltd. Imaging apparatus and vehicle controller
JP6433149B2 (ja) * 2013-07-30 2018-12-05 キヤノン株式会社 姿勢推定装置、姿勢推定方法およびプログラム
CN104794733B (zh) 2014-01-20 2018-05-08 株式会社理光 对象跟踪方法和装置
CN104881881B (zh) * 2014-02-27 2018-04-10 株式会社理光 运动对象表示方法及其装置
CN105096259B (zh) 2014-05-09 2018-01-09 株式会社理光 深度图像的深度值恢复方法和系统
DE102014209437B3 (de) * 2014-05-19 2015-10-22 Sirona Dental Systems Gmbh Verfahren zur Erzeugung magnetresonanztomographischer Aufnahmen von zyklischer Bewegung
KR20160014418A (ko) 2014-07-29 2016-02-11 삼성전자주식회사 유저 인터페이스 장치 및 유저 인터페이스 방법
US9418546B1 (en) * 2015-11-16 2016-08-16 Iteris, Inc. Traffic detection with multiple outputs depending on type of object detected
US10248839B2 (en) * 2015-11-30 2019-04-02 Intel Corporation Locating objects within depth images
US10346949B1 (en) * 2016-05-27 2019-07-09 Augmented Pixels, Inc. Image registration
US10838067B2 (en) * 2017-01-17 2020-11-17 Aptiv Technologies Limited Object detection system
CN111145100B (zh) * 2018-11-02 2023-01-20 深圳富泰宏精密工业有限公司 动态影像生成方法及系统、计算机装置、及可读存储介质
US10937169B2 (en) * 2018-12-18 2021-03-02 Qualcomm Incorporated Motion-assisted image segmentation and object detection
TWI739052B (zh) 2018-12-26 2021-09-11 華碩電腦股份有限公司 電子裝置及其操作方法
CN110456731B (zh) * 2019-08-13 2022-06-14 成都飞机工业(集团)有限责任公司 一种数控切削几何刀轨特征提取方法
CN112419329A (zh) * 2020-06-03 2021-02-26 中煤华晋集团有限公司王家岭矿 一种基于matlab的散体相似模拟顶煤运移监测方法
JP7505681B2 (ja) 2020-09-17 2024-06-25 株式会社ネクストシステム 動画データの記録方法及び動画データの再生方法
EP3985957B1 (en) * 2020-10-14 2022-11-30 Axis AB Method and system for motion segmentation
TWI779454B (zh) * 2021-01-08 2022-10-01 財團法人資訊工業策進會 動作辨識裝置及動作辨識方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3780017B2 (ja) 1994-12-06 2006-05-31 オリンパス株式会社 時系列画像解析装置及びその解析方法
JPH1166319A (ja) 1997-08-21 1999-03-09 Omron Corp 移動体検出方法及び装置並びに移動体認識方法及び装置並びに人間検出方法及び装置
JP2000222584A (ja) 1999-01-29 2000-08-11 Toshiba Corp 映像情報記述方法、映像検索方法及び映像検索装置
US7016540B1 (en) * 1999-11-24 2006-03-21 Nec Corporation Method and system for segmentation, classification, and summarization of video images
US6859554B2 (en) * 2001-04-04 2005-02-22 Mitsubishi Electric Research Laboratories, Inc. Method for segmenting multi-resolution video objects
GB0125774D0 (en) * 2001-10-26 2001-12-19 Cableform Ltd Method and apparatus for image matching
US8614741B2 (en) * 2003-03-31 2013-12-24 Alcatel Lucent Method and apparatus for intelligent and automatic sensor control using multimedia database system
JP4546762B2 (ja) * 2004-05-20 2010-09-15 日本放送協会 映像イベント判別用学習データ生成装置及びそのプログラム、並びに、映像イベント判別装置及びそのプログラム
US7801330B2 (en) * 2005-06-24 2010-09-21 Objectvideo, Inc. Target detection and tracking from video streams
JP4743601B2 (ja) * 2005-09-21 2011-08-10 Kddi株式会社 動画像処理装置
CN101159855B (zh) * 2007-11-14 2011-04-06 南京优科漫科技有限公司 基于特征点分析的多目标分离预测方法
US8212210B2 (en) * 2008-02-04 2012-07-03 Flir Systems Ab IR camera and method for presenting IR information
CN102378992B (zh) * 2009-12-28 2014-12-24 松下电器产业株式会社 关节状区域检测装置及其方法

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103189898A (zh) * 2011-03-22 2013-07-03 松下电器产业株式会社 移动体检测装置以及移动体检测方法
CN103189898B (zh) * 2011-03-22 2016-01-20 松下电器产业株式会社 移动体检测装置以及移动体检测方法
CN102821241A (zh) * 2011-06-10 2012-12-12 华晶科技股份有限公司 利用对象移动趋势驱动快门的装置及方法
CN102821241B (zh) * 2011-06-10 2015-06-03 华晶科技股份有限公司 利用对象移动趋势驱动快门的装置及方法
CN103019372A (zh) * 2011-10-21 2013-04-03 微软公司 利用计算设备计算代谢当量
CN103019372B (zh) * 2011-10-21 2015-11-25 微软技术许可有限责任公司 利用计算设备计算代谢当量
TWI673653B (zh) * 2018-11-16 2019-10-01 財團法人國家實驗研究院 移動物體偵測系統及方法
CN110135422A (zh) * 2019-05-20 2019-08-16 腾讯科技(深圳)有限公司 一种密集目标的检测方法和装置
CN110135422B (zh) * 2019-05-20 2022-12-13 腾讯科技(深圳)有限公司 一种密集目标的检测方法和装置
CN110132241A (zh) * 2019-05-31 2019-08-16 吉林化工学院 一种基于时间序列分析的高精度步态识别方法及装置
CN110458046A (zh) * 2019-07-23 2019-11-15 南京邮电大学 一种基于关节点提取的人体运动轨迹分析方法
CN110458046B (zh) * 2019-07-23 2020-11-24 南京邮电大学 一种基于关节点提取的人体运动轨迹分析方法
CN111582025A (zh) * 2020-03-31 2020-08-25 北京明略软件系统有限公司 一种移动物体的识别方法、装置、及存储介质
CN111582025B (zh) * 2020-03-31 2023-11-24 北京明略软件系统有限公司 一种移动物体的识别方法、装置、及存储介质
CN112288774A (zh) * 2020-10-22 2021-01-29 深圳市华宝电子科技有限公司 移动侦测方法、装置、电子设备及存储介质
CN112288774B (zh) * 2020-10-22 2024-01-30 深圳市华宝电子科技有限公司 移动侦测方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
EP2330557A4 (en) 2013-07-24
US20110228987A1 (en) 2011-09-22
WO2010050110A1 (ja) 2010-05-06
EP2330557A1 (en) 2011-06-08
JPWO2010050110A1 (ja) 2012-03-29
EP2330557B1 (en) 2018-11-07
JP4456181B1 (ja) 2010-04-28
CN101983389B (zh) 2012-11-21
US8340357B2 (en) 2012-12-25

Similar Documents

Publication Publication Date Title
CN101983389B (zh) 移动体检测方法以及移动体检测装置
Jiang et al. Seeing invisible poses: Estimating 3d body pose from egocentric video
US11521373B1 (en) System for estimating a three dimensional pose of one or more persons in a scene
US11348279B1 (en) System for estimating a three dimensional pose of one or more persons in a scene
CN113963445B (zh) 一种基于姿态估计的行人摔倒动作识别方法及设备
CA3041148A1 (en) Systems and methods for behaviour understanding from trajectories
US9342785B2 (en) Tracking player role using non-rigid formation priors
Figueroa et al. Tracking soccer players aiming their kinematical motion analysis
CN102227750B (zh) 移动体检测装置及移动体检测方法
Fan et al. Identifying first-person camera wearers in third-person videos
US20160042227A1 (en) System and method for determining view invariant spatial-temporal descriptors for motion detection and analysis
US11688139B1 (en) System for estimating a three dimensional pose of one or more persons in a scene
CN102741884A (zh) 移动体检测装置及移动体检测方法
CN109064484A (zh) 基于子群组划分与动量特征融合的人群运动行为识别方法
Tekin et al. Predicting people’s 3D poses from short sequences
Morais et al. A multiple camera methodology for automatic localization and tracking of futsal players
Avgerinakis et al. Activity detection and recognition of daily living events
Vo et al. Self-supervised multi-view person association and its applications
Min et al. Human fall detection using normalized shape aspect ratio
Ben Tamou et al. Automatic learning of articulated skeletons based on mean of 3D joints for efficient action recognition
Renò et al. Real-time tracking of a tennis ball by combining 3d data and domain knowledge
CN116958872A (zh) 一种羽毛球运动的智能化辅助训练方法及系统
Hayashi et al. Upper body pose estimation for team sports videos using a poselet-regressor of spine pose and body orientation classifiers conditioned by the spine angle prior
Almasi Human movement analysis from the egocentric camera view
JP2020086879A (ja) 座標変換行列推定方法及びコンピュータプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20121121

Termination date: 20190911

CF01 Termination of patent right due to non-payment of annual fee