CN102831615A - 对象监控方法和装置,以及监控系统操作方法 - Google Patents
对象监控方法和装置,以及监控系统操作方法 Download PDFInfo
- Publication number
- CN102831615A CN102831615A CN2011101668238A CN201110166823A CN102831615A CN 102831615 A CN102831615 A CN 102831615A CN 2011101668238 A CN2011101668238 A CN 2011101668238A CN 201110166823 A CN201110166823 A CN 201110166823A CN 102831615 A CN102831615 A CN 102831615A
- Authority
- CN
- China
- Prior art keywords
- camera head
- color
- obj
- captured image
- monitored
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/35—Determination of transform parameters for the alignment of images, i.e. image registration using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Abstract
公开了对通过N个摄像装置拍摄的图像中的对象进行监控的方法,包括:针对所述N个摄像装置中第i个摄像装置,根据预先构建的摄像装置之间的特征转换模型,得到第i个摄像装置所拍摄图像中的特定对象分别与第j个摄像装置所拍摄图像中一个或多个对象之间的各个第一匹配相似度;;以及,基于各个第一匹配相似度确定第j个摄像装置所拍摄图像中的、与特定对象相匹配的对象,以便对该特定对象进行监控。还公开了应用上述监控方法实现有关监控对象的交互操作的方法。通过本发明的实施例,改善了对象监控的效率和精确性,此外提升了监控系统的可交互操作性。
Description
技术领域
本发明一般地涉及图像处理的技术领域,更具体而言涉及对摄像装置拍摄的图像中的对象进行监控的方法和装置,以及监控系统的交互操作方法。
背景技术
目前视频监控系统已经被广泛的应用于各种公共场所(如宾馆、商场、车站、机场等)和非公共场所(如工厂、办公楼等),并且随着监控范围的不断扩大,监控系统的规模也在迅速扩大。较大型的监控系统往往需要管理成百甚至上千台监控设备(例如监控摄像装置),由于现有的监控设备无法同时显示所有监控设备的实时数据,大多数监控系统采用各个监控画面轮流显示或者按需要显示的方式,因此当某一监控设备发生报警事件时只能由后台运行,从而无法做到对监控事件的预警或者即时处理。此外,现有的监控系统通常独立显示各个监控设备的监控画面,用户无法获得对于监控环境全局的情况了解,且更容易产生疲劳感或者注意力下降。另一方面,现有监控系统无法提供某个监控目标在监控环境中的全局信息,比如在某些异常事件发生时,往往需要知道相关可疑人物在监控环境内的不同相机间移动和停留的信息,从而帮助监视员更迅速的检索相关信息。
申请号为200710064819.4,名称为“监控中多路视频信息融合处理与显示的方法和系统”的中国专利申请提出了一种多路视频的融合处理与显示的方法和系统,能够将多路视频以虚拟电子地图的方式显示,然而这项技术不具备多路监控摄像机的联动监视功能,各个监控终端之间仍然是独立监控的。
发明内容
鉴于上述现有技术的状况,本发明的实施例提供一种跨摄像装置的对 象监控技术。
具体而言,根据本发明的实施例,提供一种监控方法,用于对通过N个摄像装置拍摄的图像中的对象进行监控,改监控方法包括:
针对N个摄像装置中第i个摄像装置进行如下操作:
根据预先构建的摄像装置之间的特征转换模型,在该第i个摄像装置所拍摄图像中的对象的特征以及第j个摄像装置所拍摄图像中的对象的特征之间进行特征转换,并基于特征转换结果得到该第i个摄像装置所拍摄图像中的特定对象分别与第j个摄像装置所拍摄图像中一个或多个对象之间的各个第一匹配相似度,其中,N是大于等于2的整数,i是大于等于1且小于等于N的整数,j=1,2,......,N,j是整数,且i≠j;以及
基于各个第一匹配相似度,确定第j个摄像装置所拍摄图像中的、与该特定对象相匹配的对象,以便对该特定对象进行监控。
本发明实施例还提供一种监控装置,用于对通过N个摄像装置拍摄的图像中的对象进行监控,该监控装置包括:
相似度确定单元,其被配置成针对N个摄像装置中第i个摄像装置,根据预先构建的摄像装置之间的特征转换模型,在第i个摄像装置所拍摄图像中的对象的特征以及第j个摄像装置所拍摄图像中的对象的特征之间进行特征转换,并基于特征转换结果得到该第i个摄像装置所拍摄图像中的特定对象分别与第j个摄像装置所拍摄图像中一个或多个对象之间的各个第一匹配相似度,其中,N是大于等于2的整数,i是大于等于1且小于等于N的整数,j=1,2,......,N,j是整数,且i≠j;以及
监控单元,其被配置成基于上述各个第一匹配相似度,确定第j个摄像装置所拍摄图像中的、与特定对象相匹配的对象,以便对该特定对象进行监控。
本发明的实施例又提供一种具有如上所述根据本发明实施例的监控装置的摄像设备。
本发明的实施例再提供一种监控系统中的操作方法,包括:
通过上述根据本发明实施例的对象监控方法对监控系统中的对象进行监控,其中,该监控系统包括N个摄像装置;以及
基于监控结果对监控系统所监控的对象进行交互操作。
根据本发明实施例,还提供了一种存储有机器可读取的指令代码的程序产品,所述指令代码由机器读取并执行时,可执行上述的对通过N个摄像装置拍摄的图像中的对象进行监控的方法。
根据本发明实施例,还提供一种存储介质,其承载有机器可读取的指令代码,所述指令代码由机器读取并执行时,可执行上述的对通过N个摄像装置拍摄的图像中的对象进行监控的方法。
从以上可看出,根据本发明的监控技术能够实现监控环境下的跨摄像装置的对象跟踪功能。此外能够将监控环境中的监控信息在虚拟电子地图中实时显示并交互,能够在虚拟电子地图实时显示监视环境下被监视对象的全局路径,同时也能提供某一被监控对象在历史监控视频中的全局路径检索功能。这种监控技术除了高效率地实现上述各项监控功能以外,还可以提高对象监控的精确度。
附图说明
下面通过结合附图对本发明的各具体实施方式进行描述,以使得本发明的以上的和其它目的、特点和优点将变得清楚。在各附图中,相同或类似的附图标记表示相同或者类似的功能部件或步骤。在附图中:
图1是示出根据本发明实施例的对通过N个摄像装置拍摄的图像中的对象进行监控的方法的流程简图;
图2a-2c是示出了在根据本发明实施例的对通过N个摄像装置拍摄的图像中的对象进行监控的方法中使用的颜色转换模型的示意图;
图3是示出在根据本发明实施例的对通过N个摄像装置拍摄的图像中的对象进行监控的方法中所使用的时间/空间转换概率分布的示意图;
图4是示出图1中方法的一种具体实现方式的流程简图;
图5a示出了根据本发明实施例的对通过N个摄像装置拍摄的图像中的对象进行监控的装置的示例性配置的结构框图;
图5b示出了图5a所示对象监控装置的一种可替选方案的示例性配置的结构框图;
图6是示出图5中所示的相似度确定单元的一种具体实现方式的简化 结构框图;
图7是示出在图5所示的装置的一种可替选实现方式中还包括的颜色转换模型构建单元的简化结构框图;
图8是示出图6中所示的颜色值差异确定子单元的一种具体实现方式的结构简化框图;
图9是示出图5中所示的时间/空间转换概率分布确定单元的一种具体实现方式的结构简化框图;
图10是示出图5b所示装置的一种具体实现方式的结构简化框图;
图11是示出根据本发明实施例的监控系统中的操作方法的流程简图;
图12是通过利用图11所示操作方法实现的一种具体场景的示意图;
图13是通过利用图11所示操作方法实现的另一种具体场景的示意图;
图14是通过利用图11所示操作方法实现的又一种具体场景的示意图;以及
图15是作为本发明的各实施例中可采用的监控设备的个人计算机的示例性结构的框图。
具体实施方式
下面参照附图来说明本发明的实施例。应当注意,为了避免因不必要的细节而模糊了本发明,在附图中仅仅示出了与根据本发明的实施方案密切相关的设备结构和/或处理步骤,而省略了与本发明关系不大的其他细节。在各附图中相同或者相似的构成元素或部分利用相同或者类似的附图标记来表示。
图1是示出根据本发明实施例的对通过N个摄像装置拍摄的图像中的对象进行监控的方法100的流程简图。如图1所示,方法100开始于S110。在S120,针对这N个摄像装置中第i个摄像装置进行如下操作:根据预先构建的摄像装置之间的特征转换模型,在第i个摄像装置所拍摄图像中的对象的特征以及第j个摄像装置所拍摄图像中的对象的特征之间进行特征转换,并基于特征转换结果得到第i个摄像装置所拍摄图像中的特定对象分别与第j个摄像装置所拍摄图像中一个或多个对象之间的各个 第一匹配相似度。在此,N是大于等于2的整数,i是大于等于1且小于等于N的整数,j=1,2,......,N,j是整数,且i≠j。在S130,基于各个第一匹配相似度,确定第j个摄像装置所拍摄图像中的、与特定对象相匹配的对象,以便对该特定对象进行监控。
在根据本实施例的对象监控方法中,可以任意选择N个摄像装置中的第i个摄像装置,然后在该摄像装置与其他摄像装置,即,第j摄像装置(j=1,2,......,N,且i≠j)之间分别进行对象特征方面的相似度匹配。根据匹配结果,可以确定在第j摄像装置所拍摄图像中的哪个对象与第i摄像装置所拍摄图像中的特定对象相匹配。在此,第i摄像装置所拍摄图像中的特定对象是指预先确定的、需要对其进行监控的对象。容易理解,这个特定对象可以是一个也可以是多个。在系统处理能力和负荷允许的情况下,可以对第i摄像装置所拍摄图像中存在的所有对象分别进行上述的监控处理。此外,根据需要,也可以仅在监控系统的所有N个摄像装置的一部分中进行对象监控处理,在这种情况下,使得本实施例中的第i和第j摄像装置从该一部分摄像装置中选取即可。此外,当要监控的对象大于一个时,可对每一个对象都进行上述的匹配处理,以便实现对所有对象的监控。
关于是否找到与上述特定对象相匹配对象的判断标准,例如,可以设定如果所得到的第一匹配相似度大于或等于某个预先设置的阈值,则表明第j摄像装置所拍摄图像中的、同该第一匹配相似度对应的对象与该特定对象是相匹配的,即,属于被监控对象。这种阈值可以根据实际情况来设置,例如通过若干次试验得到或者根据经验值获得,细节在此不再赘述。
再者,上述的对象特征相似度匹配处理既可以在第i个摄像装置所拍摄图像中的特定对象与第j个摄像装置所拍摄图像中所有对象之间分别进行,也可以只在该特定对象与第j个摄像装置所拍摄图像中所有对象中的一部分对象之间进行。例如,在可以通过其他方式将第j个摄像装置所拍摄图像中所有对象之中明显不与上述特定对象匹配的对象滤除的情况下,可以只针对滤除后剩余的对象进行上述的对象特征相似度匹配处理,以便得到最终与该特定对象相匹配的对象。
在执行根据本实施例的监控方法时,例如可以首先针对第i摄像装置所拍摄的第一帧图像来分别进行与其他摄像装置所拍摄的第一帧图像中对象的匹配处理。通常,根据需要选取第i摄像装置拍摄的第一帧图像中 的某特定对象作为待监控对象,在找到其他摄像装置中与第i摄像装置所拍摄第一帧图像中该特定对象相匹配的对象之后,则可以依据在各个摄像装置内部的帧跟踪处理(这种处理在各个摄像装置内部是本来就存在的功能)来实现对该特定对象在各个摄像装置内部的监控,而无需再针对其他帧图像都来进行类似的匹配处理。当然,如果摄像装置内部不存在跟踪信息或者内部跟踪信息缺失,则可以对第i摄像装置中每一帧图像都进行上述的匹配处理,以便实现对特定对象的监控。
通过执行根据本实施例的对象监控方法,由于利用了不同摄像装置之间对象的特征匹配相似度来执行匹配,因此可以获得令人满意的对象监控精度。此外,由于这种匹配可以在所需要的任意摄像装置之间进行,故可以实现跨摄像装置的联合对象监控,提高了对象监控的效率和准确性。再者,因为不需要在监控系统中布设大量的摄像装置以重叠地覆盖对象可能经过的区域,降低了对象监控的实现成本。
在上述实施例的一种可替选方案中,在获取第i个摄像装置和第j摄像装置所拍摄图像中对象之间的第一匹配相似度的同时,还可以根据摄像装置之间的时间/空间转换概率模型,分别获取第i个摄像装置所拍摄图像中的特定对象与第j个摄像装置所拍摄图像中的一个或多个对象在第i个摄像装置和第j个摄像装置所处的位置之间的各个时间/空间转换概率分布。相应地,在后续的处理中,可以基于所获得的各个第一匹配相似度以及各个时间/空间转换概率分布两者,确定第j个摄像装置所拍摄图像中的、与特定对象相匹配的对象,以便对该特定对象进行监控。
同理,上述的获取各个时间/空间转换概率分布的处理可以在第i个摄像装置所拍摄图像中的特定对象与第j个摄像装置所拍摄图像中所有对象之间分别进行,但是,例如,在可以通过其他方式将第j个摄像装置所拍摄图像中所有对象之中明显不与该特定对象匹配的对象滤除的情况下,也可以只在该特定对象与第j个摄像装置所拍摄图像中滤除后剩余的对象执行这种处理。
通过使用根据本可替选实施例的方法,由于结合了不同摄像装置所拍摄图像中对象的特征匹配相似度以及时间/空间转换分布概率,使得可更精确地锁定在各个摄像装置中同一被监控对象,实现对被监控对象的跟踪,因而进一步改善了对象监控的精度,提高了监控效率。
在包括多个摄像装置的监控系统中利用各摄像装置拍摄的图像来对特定对象进行监控时,往往需要找到不同摄像装置拍摄的图像中同一个被监控对象。可以通过寻找各摄像装置拍摄的图像中匹配相似度高的特定对象来确定同一个被监控对象。容易理解,由于各个摄像装置的配置参数、构成部件的特性离散等等方面的原因,即使是拍摄同一个对象,所得到图像也可能存在差异。为此,根据本发明上述实施例的方法在确定摄像装置拍摄的对象之间的匹配相似度时通过使用特征转换模型来对这种特征方面的差异予以考虑。在一种具体实现方式中,这种特征转换模型例如可以是颜色转换模型。这种颜色转换模型可以表示不同摄像装置拍摄的图像中对象的颜色值之间的对应关系。进一步地,通过利用这种颜色转换模型进行颜色值转换处理可以得到对象的颜色值之间的差异,根据这种差异就可以确定第i摄像装置所拍摄的特定对象与第j摄像装置所拍摄图像中每一个对象在颜色值方面的第一匹配相似度。
如上所述,在根据本发明的一种可替选实施例中,在考虑不同摄像装置所拍摄图像中对象的特征值方面的差异的同时也考虑到对象在个摄像装置中出现的时间/空间转换概率分布情况,由此可以更加精确地确定出不同摄像装置中的同一被监控对象。可通过时间/空间转换概率模型来获得这种时间/空间转换概率分布情况。时间/空间转换概率模型描述的是被监控对象在实际监控环境中从一个监控摄像装置所处的地点以正常速度运动到另一个监控摄像装置所处地点所消耗的时间概率模型。在此,所谓“正常速度”,指的是同类别对象在监控环境中行进的典型速度,其例如可通过若干次实验得到或者凭经验得到。
在一种具体实现方式中,可以根据与特定对象同类别的对象在各个摄像装置之间的典型行进速度以及摄像装置之间的位置关系来确定这种时间/空间转换概率分布。通常,这种时间/空间转换概率分布呈现出正态分布。下文将会对此进行详细描述。
在此需要说明,上述实施例中所提及的获取第i个摄像装置与j个摄像装置所拍摄的视频图像中对象之间的第一匹配相似度以及获取对象在所述第i个摄像装置与所述第j个摄像装置所处的位置之间的时间/空间转换概率分布的处理是级联的关系,而且在执行的先后顺序上没有特别要求。容易理解,如果先求取第一匹配相似度,则可以根据特征转换关系而过滤掉一部分不可能与特定对象匹配的对象,然后再利用时间/空间转换概率 模型来对幸存的对象进行处理,以便得到最终的与特定对象最匹配的对象。如果先进行与时间/空间转换概率相关的处理,则同样也可以先过滤掉一部分不可能与特定对象匹配的对象,然后利用特征转换模型来针对幸存的对象求取第一匹配相似度,以便得到最终的与特定对象最匹配的对象。可以看到,无论那种处理模式,都同时考虑了对象在特征转换方面和时间/空间转换概率方面的匹配结果,这有助于进一步提升对象监控的精度。
下面结合图2对获取第一匹配相似度的处理的具体例子进行详细描述。
首先描述构建颜色转换模型的例子。
假设实际监控场景中监控摄像装置编号为CAMi,i∈{1,2,...,N},N为摄像装置数目,并且需要确定第i摄像装置CAMi和第j摄像装置CAMj拍摄的图像中对象的颜色转换模型。分别选取摄像装置CAMi和CAMj拍摄的预定数量的图像构成训练图像集,在本例子中,预定数量例如为1000。例如在RGB颜色空间中构建颜色转换模型。计算摄像装置CAMi的训练图像集中各图像的三个颜色通道的颜色直方图R_Hi(x),G_Hi(x),B_Hi(x),其中颜色直方图的取值范围为[0,255]。类似地计算摄像装置CAMj的训练图像集三个颜色通道的颜色直方图R_Hj(x),G_Hj(x),B_Hj(x),颜色直方图的取值范围为[0,255]。颜色直方图是本领域常用的概念,其用于描述不同色彩在整幅图像中所占的比例,而并不关心每种色彩所处的空间位置。直方图中的数值都是统计而来,描述了该图像中关于颜色的数量特征,可以反映颜色直方图图像颜色的统计分布和基本色调。有关颜色直方图的更为详细的信息可参见:Shapiro,LindaG.以及Stockman,George C.所著的“Computer Vision”Prentice Hall,2003 ISBN 0130307963;“Color Histogram”http://en.wikipedia.org/wiki/Color_histogram。
接下来,根据所获得的颜色直方图来建立摄像装置CAMi和CAMj之间颜色值的转换关系,或者说映射关系。在此以R通道直方图处理为例。从R_Hi中根据颜色值取值范围依次提取索引值,并在R_Hj中分别搜索与索引值最接近的颜色值,根据搜索到的对应的颜色值建立颜色转换曲线,即摄像装置CAMi与摄像装置CAMj的R通道的颜色值转换模型cfti,j可由如下的式(1)来表示:
公式中的参数x表示颜色直方图中的索引值,即颜色直方图中的颜色值。不同的摄像装置虽然由于配置参数不同可能引起拍摄同样的对象时在整体上存在一些差异,例如色调偏亮或者偏暗,但是,所拍摄图像的颜色直方图,即颜色分布情况应该是相同的。据此,在上面的式(1)的左边,在摄像装置CAMi拍摄图像的颜色直方图中索引值x所对应的是一个比例值R_Hi(x),即索引值x所表示的颜色值在整幅图像中所占的比例。在式(1)的右边,在摄像装置CAMj的颜色直方图的逆函数 中,将比例值R_Hi(x)代入,即得到在摄像装置CAMj拍摄图像的颜色直方图中与该比例值对应的颜色值。据此,就可以找在摄像装置CAMj所拍摄图像中的、与摄像装置CAMi拍摄图像中各颜色值最接近的颜色值。摄像装置CAMi和CAMj的G通道和B通道的颜色值转换关系如下:
这种转换关系就是通过训练得到的摄像装置CAMi和CAMj拍摄的图像中对象的颜色转换模型。图2a-2c分别示出了所得到的R,G,B三个颜色通道的颜色转换关系的示意图。在图2a-2c中,横坐标和纵坐标分别表示与待求取颜色转换模型的两个摄像装置CAMi和CAMj相关的颜色直方图中的颜色值。
容易理解,上述只是构建摄像装置之间颜色转换模型的一种具体例子,还可以利用各种其他的方法来构建颜色转换模型。下面给出另一个具体例子。
分别选取摄像装置CAMi和CAMj的一定数量的训练图像集,在本例子中,图像数量例如为1000。
计算摄像装置CAMi的训练图像集R,G,B三个颜色通道的颜色直方图R_Hi,G_Hi,B_Hi,颜色直方图的取值范围为[0,255]; 其中M1是直方图中Bin(容器)的数目,在本例 中M1=255。直方图中Bin的数目表示对颜色值进行统计时划分的颜色值取值范围,因而Bin与颜色直方图的分辨率,即稀疏程度相关。
以R通道的直方图为例,计算如下(式4)所示的颜色直方图R_Hi和R_Hj的协相关距离矩阵C,在该矩阵C中, 1≤m,n≤M1,表示两个直方图的Bin的距离,在本例中采用L1距离,即 然后,采用动态规划方法,计算满足 的最优路径,该最优路径的每一个节点即为颜色转换模型中每一个颜色值相应的转换关系。上述的协相关距离矩阵C,L1距离和动态规划方法都是属于本领域惯用的技术,其具体细节在此不再赘述。
其中, 1≤m,n≤M1。
在得到不同摄像装置拍摄的图像中对象的颜色转换模型之后,可以基于该颜色转换模型来求取该两个摄像装置拍摄的图像中对象之间的第一匹配相似度。下面给出求取这种第一匹配相似度的一个具体例子。
假设已经得到上述的摄像装置CAMi和CAMj拍摄的图像之间的颜色转换模型,则摄像装置CAMi和CAMj拍摄的图像中对象之间的匹配相似度计算的具体计算方式如下(以R通道为例):
●获取摄像装置CAMi所拍摄图像中与特定对象对应的区域,在此称为子图像区域Obji,以及获取摄像装置CAMj所拍摄图像中与任意一个对象对应的区域,在此称为子图像区域Objj。
●获取子图像区域Obji的颜色值并根据上述(式1)的摄像装置之间的颜色转换模型cfti,j计算转换后的颜色值,下面将与该转换后的颜色值相对应的图像区域称为子图像区域Obji′。
●将子图像区域Obji′和Objj分别分成num_w*num_h个子图像块,在每个子图像块中计算颜色直方图R_Hm,n(Obji′)和R_Hm,n(Objj),在此m=1,2,...,num_w,n=1,2,...,num_h,(m,n)表示子图像块的编号。在本例中,例如num_w=3,num_h=3。
●计算与两个摄像装置对应的子图像区域Obji′和Objj内对应子图像块的颜色直方图的巴氏距离:
其中,x是颜色直方图中的索引值,取值范围是[0,255]。
●计算子图像区域Obji和Objj的与R颜色通道相关的第一匹配相似度分量Sim(Obji,Objj):
针对摄像装置CAMi所拍摄图像中特定对象以及摄像装置CAMj所拍摄图像中一个或多个对象(根据需要确定是一个还是多个)进行上述处理,以便得到所述特定对象与CAMj所拍摄图像中一个或多个对象的每一个之间的各个第一匹配相似度。
可以类似地求取与其他颜色通道,即G,B颜色通道相关的第一匹配相似度分量,然后通过将与三个颜色通道相关的第一匹配相似度分量进行求平均值或者加权相加等方式来获得最终的第一匹配相似度。
在上述描述中提到的巴氏距离(Bhattacharyya distance)在统计学中用于测量两离散概率分布。它常在分类中测量类之间的可分离性。在同一定义域X中,概率分布p和q的巴氏距离定义如下:
DB(p,q)=-ln(BC(p,q)) (1)
0≤BC≤1 0≤DB≤∞
其中(1)表示离散概率分布,(2)表示连续概率分布,BC是巴氏系数(Bhattacharyya coefficient)。
有关巴氏距离的其他详细信息,例如可参考:Bhattacharyya,A.(1943).″On a measure of divergence between two statistical populations defined by their probability distributions″.Bulletin of the Calcutta Mathematical Society 35:99-109.MR0010358.;以及“Bhattacharyya distance”,http://en.wikipedia.org/wiki/Bhattacharyya_distance。
容易理解,上述的用巴氏距离表示不同摄像装置拍摄的图像中对象的颜色值之间的差异只是一种具体例子,还可以利用各种其他的方法来求取这种颜色值之间的差异。下面给出另外的具体例子。
例如,可采用如下(式8)的χ2距离来表征摄像装置CAMi和CAMj所拍摄图像的对象中颜色值之间的差异:
或者也可以采用如下(式9)的相关性距离来表征摄像装置CAMi和CAMj所拍摄图像的对象中颜色值之间的差异:
其中 W是颜色直方图中Bin的个数,x是颜色直方图中的索引值。
此外,上述描述仅以RGB颜色空间中R通道为例。其他通道的处理方式是类似的。而且,还可以通过采用其他色彩空间,例如HSV色彩空间来获取颜色转换模型,处理的方式与上述RGB空间的类似,在此不再逐一赘述。
而且,本领域技术人员理解,除了颜色特征以外,还可以利用其他各种能够表现出图像中对象之间差异的特征,例如纹理特征等来进行相似度匹配处理。应用纹理特征进行相似度匹配处理与应用颜色特征是类似的,具体细节不再赘述。
接下来描述构建不同摄像装置拍摄图像中对象的时间/空间转换概率模型的具体例子。
类似地,可以假设实际监控场景中监控摄像装置编号为CAMi,i∈{1,2,...,N},N为摄像装置数目。任意两个摄像装置CAMi和CAMj间的实际物理距离为Disti,j,i,j∈{1,2,...,N}。
该例子中时间/空间转换概率模型的构建步骤如下:
●记录包括上述N个摄像装置的监控场景中M个特定类比对象,例如人,的行进速度vsw,s=1,2,...,M,在本例中,M=50;
●计算人行走速度的平均值和方差:
平均值: (式10)
方差: (式11)
●接着,建立摄像装置CAMi和CAMj之间的时间/空间转换概率模型:
其中
根据上述时间/空间转换概率模型得到的摄像装置CAMi和CAMj之间的时间/空间转换概率分布图如图3所示。容易看出,这是一种正态分布。因此,也可以利用其他合适的能够体现正态分布的模型来描述摄像装置CAMi和CAMj之间对象的时间/空间转换概率分布。
在上述例子中,是以人作为被监控对象为例进行说明的。容易理解,如果被监控对象不是人类,则行进速度的确定需要根据监控场景中记录的与被监控对象同类的对象的速度来确定。
此外,这种时间/空间转换概率模型既可以预先构建;也可以在线地构建,然后用所构建的新的时间/空间转换概率模型来更新当前使用的时间/空间转换概率模型。
上面已经获得了不同摄像装置所拍摄图像中对象之间的第一匹配相似度以及时间/空间转换概率分布,通过这些参数,就可以确定对象之间的第二匹配相似度,并据此判断对象之间是否匹配。后面将会给出进行这种那个判断的具体例子。
下面结合图4给出通过对象监控处理获取特定对象在包括N个摄像装置的监控系统中任意K个摄像装置之间的路径的一种具体实现方式。
如图4所示,在S410,随机地选择K个摄像装置中第l个摄像装置,通过利用摄像装置间颜色转换模型480分别获取该第1个摄像装置拍摄的图像460中特定对象与第g个摄像装置拍摄的图像470中一个或多个对象之间的各个第一匹配相似度。在此,g=1,......,K,K为大于等于2且小于等于N的整数,g,l为大于等于1且小于等于K的整数,且l≠g。也就是说,第l摄像装置和第g摄像装置是属于上述K个摄像装置中的任意的摄像装置。例如,可以利用如上面结合图2a-2c具体描述的方法获取这种第一匹配相似度。
在S420,根据特定对象在第1个摄像装置中的离开时间以及第g个摄像装置中各个对象的进入时间,通过利用摄像装置间时间/空间转换概率模型490来获得该特定对象与第g摄像装置所拍摄图像中一个或多个各个对象在该两个摄像装置之间的时间/空间转换概率分布。例如,可以利用如上参照图3详细描述的方法获取这种时间/空间转换概率分布。在具体实现中,在上述(式12)中的时间参数t分别等于该特定对象离开第l摄 像装置的时间与第g摄像装置中各个对象进入的时间之差。于是,可以得到该特定对象与第g摄像装置拍摄图像中一个或多个对象的每一个在这两个摄像装置之间的各个时间/空间转换概率分布。
在S430,基于上面得到的各个第一匹配相似度以及时间/空间转换概率分布,确定第l个摄像装置拍摄的图像中的特定对象与第g个摄像装置拍摄的图像中一个或多个对象之间的各个第二匹配相似度。作为确定第二匹配相似度的具体例子,例如可以将相应的第一匹配相似度与时间/空间转换概率分布的乘积作为第二匹配相似度,或者,可以将相应的第一匹配相似度与时间/空间转换概率归一化之后相加的值或加权平均值作为第二匹配相似度。容易理解,第二匹配相似度综合考虑了对象之间通过颜色转换模型获得的第一匹配相似度以及对象之间在不同的摄像装置之间的时间/空间转换概率分布,因此能够更为有效和精确地体现出对象之间的匹配程度,以期更进一步地改善对象监控的精确度和效率。
在S440,确定所得到的第二匹配相似度最高的对象作为与上述特定对象(即,最初被确定为被监控对象的对象)相匹配的对象。在通过上述处理获得在K个摄像装置中每一个中的、与该特定对象相匹配的被监控对象之后,就可以获取该被监控对象在K个摄像装置中的出现时间以及K个摄像装置的位置,以便生成该被监控对象在K个摄像装置之间的路径。
在一种优选的实施方式中,只有得到的最高的第二匹配相似度大于预定阈值时才将与该第二匹配相似度相应的对象确定为是被监控对象,即,与特定对象匹配的对象。现实中可能产生这样的情况,如果针对某个对象的第二匹配相似度最高,但是该对象实际上又没有出现在相应的摄像装置中,则可能将该对象错误地认为是与特定对象匹配的对象,即,产生误匹配。通过设定上述的预定阈值,可以进一步降低误匹配率,确保不把没有出现在相应摄像装置中的对象判断为是与上述特定对象相匹配的被监控对象。该预定阈值可根据实际需要来调节或设定,例如通过若干次实验确定或者通过经验值得到。
此外,上述的对象监控处理还可以包括预测某个对象的未来的路径。即,通过该对象当前的运动方向来估计其将来可能的路径。这种对未来路径的预测可以进一步提高对象监控的效率。
在此需要说明,在图4中,虽然先执行获取第一匹配相似度的处理,然后再执行获取时间/空间转换概率分布的处理,但是,这只是一种例子,这两种处理的先后顺序也可以互相调换,而不影响对象监控的实现。
相应地,本发明的实施例还提供一种对通过N个摄像装置拍摄的图像中的对象进行监控的装置。图5a示出了这种装置的简化框图。如图5a所示,装置500包括相似度确定单元510,其被配置成针对N个摄像装置中第i个摄像装置,根据预先构建的摄像装置之间的特征转换模型,在该第i个摄像装置所拍摄图像中的对象的特征以及第j个摄像装置所拍摄图像中的对象的特征之间进行特征转换,并基于特征转换结果得到第i个摄像装置所拍摄图像中的特定对象分别与第j个摄像装置所拍摄图像中一个或多个对象之间的各个第一匹配相似度。在此,N是大于等于2的整数,i是大于等于1且小于等于N的整数,j=1,2,......,N,j是整数,且i≠j。装置500还包括监控单元530,其被配置成基于上述各个第一匹配相似度,确定第j个摄像装置所拍摄图像中的、与特定对象相匹配的对象,以便对该特定对象进行监控。
在图5b示出的装置500的一种可替选方案中,对象监控装置500’除了相似度确定单元510和监控单元530之外,还包括时间/空间转换概率分布确定单元520,其被配置成针对N个摄像装置中第i个摄像装置,根据摄像装置之间的时间/空间转换概率模型,分别获取第i个摄像装置所拍摄图像中的特定对象与第j个摄像装置所拍摄图像中的一个或者多个对象在第i个摄像装置和第j个摄像装置所处的位置之间的各个时间/空间转换概率分布。监控单元530于是根据由相似度单元510获取的各个第一匹配相似度以及由时间/空间转换概率分布确定单元520获取的各个时间/空间转换概率分布两者,确定第j个摄像装置所拍摄图像中的、与特定对象相匹配的对象。
在图5a-5b中装置500和/或500’的一种具体实现方式中,通过利用颜色转换模型来获取第一匹配相似度。相应地,在如图6示出的一种具体例子中,图5a-5b中所示的相似度确定单元510可以包括:子图像区域选择子单元610,其被配置成选择第i摄像装置所拍摄图像中对应于特定对象的子图像区域Obji以及第j摄像装置所拍摄图像中对应于任意一个对象的子图像区域Objj;颜色值差异确定子单元620,其被配置成根据第i摄像装置和第j摄像装置之间的颜色转换模型获得两个子图像区域的颜色值 之间的差异;以及,第一匹配相似度获取子单元630,其被配置成根据所获得的颜色值之间的差异求取上述的特定对象与任意一个对象之间的第一匹配相似度。
根据图5a-5b中装置500和/或500’的另一种具体实现方式,该装置还可以包括颜色转换模型构建单元。图7给出了这种颜色转换模型构建单元700的结构简化框图。如图所示,颜色转换模型构建单元700包括:训练图像集选择子单元710,其被配置成分别选取待建立颜色转换模型的第i摄像装置和第j摄像装置所拍摄的预定数量图像作为训练图像集;颜色直方图获取子单元720,其被配置成分别获取针对第i摄像装置的第一训练图像集的第一颜色直方图和针对第j摄像装置的第二训练图像集的第二颜色直方图;以及,颜色转换模型确定子单元730,其被配置成根据第一颜色直方图和第二颜色直方图确定第一摄像装置所拍摄图像中的对象与第二摄像装置所拍摄图像中的对象的颜色值之间的转换关系,作为第i摄像装置和第j摄像装置之间的颜色转换模型。
如前所述,颜色直方图获取子单元720可以获取针对第i摄像装置和第j摄像装置的R,G,B颜色通道的颜色直方图。而颜色转换模型确定子单元可730可以根据颜色直方图获取子单元720所获取的颜色直方图,例如,可利用上述结合式(1)-(3)描述的方法来计算第i摄像装置和第j摄像装置之间的颜色转换模型。具体处理细节可参见上面的相关描述,在此不再赘述。
在如图6中示出的颜色值差异确定子单元620的一种具体实施方式中,如图8所示,颜色值差异确定子单元620可以包括:颜色转换子图像区域获取部件810,其被配置成通过第i摄像装置和第j摄像装置之间的颜色转换模型,获得第i摄像装置中子图像区域Obji的颜色值的转换后的颜色值,所述转换后的颜色值对应于第i摄像装置的经过颜色转换后的子图像区域Obji′;颜色直方图计算部件820,其被配置成针对经过颜色值转换后的子图像区域Obji′以及第j摄像装置中子图像区域Obji,将每个子图像区域划分为num_w*num_h个子图像块,在每个子图像块中计算分别与R,G,B颜色通道对应的颜色直方图R_Hm,n(Obji′),G_Hm,n(Obji′),B_Hm,n(Obji′)以及R_Hm,n(Objj),G_Hm,n(Objj),B_Hm,n(Objj),其中,m=1,......,hum_w,n=1,......,hum_h,num_w和num_h是大于等于1的正整数;颜色值差异确定部件830,其被配置成确定子图像区域Obji′以及 Objj内相互对应的子图像块的分别与R,G,B颜色通道对应的颜色直方图的距离,例如巴氏距离、相关性距离等,作为子图像区域Obji和子图像区域Objj的颜色值之间的差异。该颜色值差异确定子单元620及其各构成部件例如可以被配置成执行如上述结合式(5)-(9)所描述的确定不同摄像装置之间颜色值差异的方法,具体细节可参见上述相关描述,在此不再赘述。
如图6所示,在颜色值差异确定子单元620获得了颜色值差异之后,第一匹配度获取子单元可以根据相应子图像块之间的距离,例如巴氏距离,获得子图像区域Obji和Objj的分别与R,G,B颜色通道对应的匹配相似度分量Sim,然后将与R,G,B颜色通道对应的匹配相似度分量Sim求平均值,作为第一匹配相似度。求取第一匹配相似度的具体方式例如可以参见上面结合式(6)-(7)的描述,具体细节在此不再赘述。
图9中示出了作为图5b所示装置500’的构成单元之一的时间/空间转换概率模型确定单元520的一种具体实现方式。如图所示,时间/空间转换概率模型确定单元520包括:速度参数确定子单元910,其被配置成基于与特定对象同类的M个对象在监控系统中的典型行进速度,求取该类别的对象的行走速度的平均值 和方差σ;以及,时间/空间转换模型确定子单元920,其被配置成根据求取的行走速度的平均值 和方差σ构建第i摄像装置和第j摄像装置之间的时间/空间转换概率模型P(t|CAMi,CAMj)。该单元520及其各个构成部件例如可以执行如上结合式(10)-(12)描述的处理。具体细节可参见上述相关描述,在此不再赘述。
图10示出了图5b中所示装置500’的一种具体实现方式,其中,监控单元530包括:第二匹配相似度确定子单元1010,其被配置成基于由相似度确定单元510确定的各个第一匹配相似度以及由时间/空间转换概率分布确定单元520确定的各个时间/空间转换概率分布,确定第i个摄像装置拍摄的图像中的特定对象与第j个摄像装置拍摄的图像中各个对象之间的各个第二匹配相似度;以及,路径生成子单元1020,其被配置成将第二匹配相似度最高的对象确定为与特定对象匹配的被监控对象,并根据匹配结果获取该被监控对象在N个摄像装置中任意K个摄像装置的出现时间以及K个摄像装置的位置,以便生成该监控对象在K个摄像装置之间的路径。
图5-10示出的装置及其各个组成部件例如可以被配置成执行上面参 照图1-4描述的根据本发明实施例的监控方法,并且可以获得相应的技术益处。具体细节可以参见上面的相关描述,在此不再逐一赘述。
除了作为独立的功能装置实现以外,根据本发明实施例的上述用于对通过N个摄像装置拍摄的图像中的对象进行监控的装置还可以被结合到现有的摄像设备,例如相机中,由此,这种摄像设备就可以对包括N个摄像装置的监控系统中的对象进行监控。这种具有跨相机监控功能的摄像装置因此也应被认为落入本发明的保护范围之内。
根据本发明的另外的实施例,还提供了一种监控系统中的操作方法。图11示出了这种操作方法1100的流程简图。如图所示,方法1100包括:在S1120,通过如上面结合图1-4描述的对通过N个摄像装置拍摄的图像中的对象进行监控的方法来对监控系统中的对象进行监控。其中,这里的监控系统包括上述N个摄像装置。并且在S1130,基于监控结果对该监控系统所监控的对象进行交互操作。
可以看出,根据本发明实施例的这种操作方法实际上是应用上面结合图1-4描述的对象监控方法的具体应用。
图12给出了利用这种操作方法实现的一种交互操作的具体场景。如图12所示,当检测到被监控对象(例如人)时,在电子地图中显示被监控对象的类型,位置和运动方向,等等。
在另一种交互操作的场景下(图中未示出),在监控系统检测到异常事件的发生的情况下,在与所述监控系统对应的虚拟电子地图中显示异常事件发生地点处的摄像装置的实时图像和/或声音,并且/或者根据需要回放显示与所述地点相关的历史监控视频的摘要信息。
图13给出了利用这种操作方法实现的又一种交互操作的具体场景。如图所示,在选择与监控系统对应的虚拟电子地图中的特定监控对象的情况下,在线地生成并且显示该特定监控对象在N个摄像装置之间的历史全局或者部分路径(例如,如图中粗点划线示出了被监控对象的路径),并且/或者根据需要回放显示该特定监控对象所经过的区域的历史监控视频。这种情况是在线检索。此外,在从监控系统的历史监控信息中检索特定的被监控对象时,生成并显示该特定的被监控对象的历史全局或者部分路径,并且/或者根据需要回放该特定的被监控对象经过区域所包含的摄像装置拍摄的历史监控信息。这种情况属于离线历史检索。
图14给出了利用这种操作方法实现的再一种交互操作的具体场景。如图所示,监控系统还包括与N个摄像装置相关的实时监控显示设备,例如电视墙(如图14右侧所示)。并且与监控系统对应的虚拟电子地图中包括与N个摄像装置对应的图标(如图14左侧所示)。在交互操作的过程中,当选择虚拟电子地图中特定的图标(例如由附图标记“1”标示出的图标)时,与该特定的图标所对应的摄像装置相关的实时监控显示设备实时地显示该摄像装置拍摄的图像。
从上面的描述可看出,通过本发明该实施例的在监控系统中的这种交互操作方法,可以使得监控者极为便利地获得所希望的被监控对象的当前的监控信息或者历史的监控信息,并且在发生紧急事项时可以及进行即时处理,提高对象监控的实用性。
最后,需要指出的是,根据本发明上述各实施例的装置、设备、系统的各构成部件以及方法的系列处理都可以通过硬件、软件和/或固件实现。在通过软件和/或固件实现的情况下,例如可以从存储介质或网络向具有专用硬件结构的计算机,例如图15所示的通用个人计算机1500安装构成该软件的程序,该计算机在安装有各种程序时,能够执行上述实施例中描述的各种功能和处理等等,因而构成能够实现根据本发明实施例的对象监控方法的信息处理设备例子。
在图15中,中央处理单元(CPU)1501根据只读存储器(ROM)1502中存储的程序或从存储部分1508加载到随机存取存储器(RAM)1503的程序执行各种处理。在RAM 1503中,也根据需要存储当CPU 1501执行各种处理等等时所需的数据。
CPU 1501、ROM 1502和RAM 1503经由总线1504彼此连接。输入/输出接口1505也连接到总线1504。
下述部件连接到输入/输出接口1505:输入部分1506,包括键盘、鼠标等等;输出部分1507,包括显示器,比如阴极射线管(CRT)、液晶显示器(LCD)等等,和扬声器等等;存储部分1508,包括硬盘等等;和通信部分1509,包括网络接口卡比如LAN卡、调制解调器等等。通信部分1509经由网络比如因特网执行通信处理。
根据需要,驱动器1510也连接到输入/输出接口1505。可拆卸介质1511比如磁盘、光盘、磁光盘、半导体存储器等等根据需要被安装在驱 动器1510上,使得从中读出的计算机程序根据需要被安装到存储部分1408中。
在通过软件实现上述系列处理的情况下,从网络例如因特网或存储介质例如可拆卸介质1511安装构成软件的程序。
本领域的技术人员应当理解,这种存储介质不局限于图15所示的其中存储有程序、与设备相分离地分发以向用户提供程序的可拆卸介质1511。可拆卸介质1511的例子包含磁盘(包含软盘(注册商标))、光盘(包含光盘只读存储器(CD-ROM)和数字通用盘(DVD))、磁光盘(包含迷你盘(MD)(注册商标))和半导体存储器。或者,存储介质可以是ROM 1502、存储部分1508中包含的硬盘等等,其中存有程序,并且与包含它们的设备一起被分发给用户。
可见,本发明实施例还公开了一种存储有机器可读取的指令代码的程序产品,这种指令代码由机器读取并执行时,可执行本发明前述实施例的用于对通过N个摄像装置拍摄的图像中的对象进行监控的方法或者监控系统中的操作方法。同时本发明实施例还公开了一种存储介质,其承载有机器可读取的指令代码,所述指令代码由机器读取并执行时,可执行本发明前述实施例的对象监控方法或者对象交互操作方法。
在上面对本发明具体实施例的描述中,针对一种实施方式描述和/或示出的特征可以以相同或类似的方式在一个或更多个其它实施方式中使用,与其它实施方式中的特征相组合,或替代其它实施方式中的特征。
应该强调,术语“包括/包含”在本文使用时指特征、要素、步骤或组件的存在,但并不排除一个或更多个其它特征、要素、步骤或组件的存在或附加。涉及序数的术语“第一”,“第二”等并不表示这些术语所限定的特征、要素、步骤或组件的实施顺序或者重要性程度,而仅仅是为了描述清楚起见而用于在这些特征、要素、步骤或组件之间进行标识。
此外,根据本发明的各实施例的方法和处理不限于按照说明书中描述的时间顺序来执行,也可以按照其他的时间顺序地、并行地或独立地执行。因此,本说明书中描述的各种方法和处理的执行顺序不对本发明的技术范围构成限制。再者,说明书中各个不同实施例或具体例子中所描述的功能或者部件配置可以根据需要相互之间进行任意组合。
尽管上面已经通过对本发明的具体实施例的描述对本发明进行了披 露,但是应该理解,上述的所有实施例和示例均是示例性的,而非限制性的。本领域的技术人员可在所附权利要求的精神和范围内设计对本发明的各种修改、改进或者等同物。这些修改、改进或者等同物也应当被认为包括在本发明的保护范围内。
Claims (22)
1.一种监控方法,用于对通过N个摄像装置拍摄的图像中的对象进行监控,所述监控方法包括:
针对所述N个摄像装置中第i个摄像装置进行如下操作:
根据预先构建的摄像装置之间的特征转换模型,在所述第i个摄像装置所拍摄图像中的对象的特征以及第j个摄像装置所拍摄图像中的对象的特征之间进行特征转换,并基于特征转换结果得到所述第i个摄像装置所拍摄图像中的特定对象分别与第j个摄像装置所拍摄图像中一个或多个对象之间的各个第一匹配相似度,其中,N是大于等于2的整数,i是大于等于1且小于等于N的整数,j=1,2,......,N,j是整数,且i≠j;以及
基于所述各个第一匹配相似度,确定所述第j个摄像装置所拍摄图像中的、与所述特定对象相匹配的对象,以便对所述特定对象进行监控。
2.如权利要求1所述的监控方法,还包括:
根据摄像装置之间的时间/空间转换概率模型,分别获取第i个摄像装置所拍摄图像中的特定对象与第j个摄像装置所拍摄图像中的一个或多个对象在所述第i个摄像装置和第j个摄像装置所处的位置之间的各个时间/空间转换概率分布;
所述的确定第j个摄像装置所拍摄图像中的、与所述特定对象相匹配的对象包括基于所述各个第一匹配相似度以及所述各个时间/空间转换概率分布来进行。
3.如权利要求1或2所述的监控方法,其中,所述的特征转换模型是颜色转换模型,第i个摄像装置和第j个摄像装置之间的颜色转换模型表示所述第i个摄像装置所拍摄图像中的对象的颜色值与所述第j个摄像装置所拍摄图像中的对象的颜色值之间的对应关系。
4.如权利要求3所述监控方法,其中,第i个摄像装置所拍摄图像中的特定对象与第j个摄像装置所拍摄图像中任意一个对象之间的第一匹配相似度通过如下方式获得:
选择第i摄像装置所拍摄图像中对应于特定对象的子图像区域Obji以及第j摄像装置所拍摄图像中对应于所述任意一个对象的子图像区域Objj;
根据所述第i摄像装置和第j摄像装置之间的颜色转换模型获得两个子图像区域的颜色值之间的差异;以及
根据所获得的颜色值之间的差异求取所述特定对象与所述任意一个对象之间的第一匹配相似度。
5.如权利要求2所述的监控方法,其中,第i个摄像装置和第j个摄像装置之间的时间/空间转换概率模型通过如下方式构建:
基于与所述特定对象同类的对象在包括所述N个摄像装置的监控系统中的典型行进速度以及所述第i个摄像装置和第j个摄像装置之间的位置关系,构建所述特定对象在所述第i个摄像装置与第j个摄像装置之间的、符合正态分布的时间/空间转换概率模型。
6.如权利要求3所述的监控方法,其中,所述摄像装置之间的颜色转换模型通过如下方式构建:
分别选取待建立颜色转换模型的第i摄像装置和第j摄像装置所拍摄的预定数量图像作为训练图像集;
分别获取针对第i摄像装置的第一训练图像集的第一颜色直方图和针对第j摄像装置的第二训练图像集的第二颜色直方图;
根据第一颜色直方图和第二颜色直方图确定第一摄像装置所拍摄图像中的对象与第二摄像装置所拍摄图像中的对象的颜色值之间的转换关系,作为所述第i摄像装置和第j摄像装置之间的颜色转换模型。
7.如权利要求6所述的监控方法,其中:
所述的分别获取第一颜色直方图和第二颜色直方图包括分别获取
第一训练图像集和第二训练图像集的三个颜色通道R、G、B的颜色直方图;
所述的确定第i摄像装置和第j摄像装置之间的颜色转换模型包括:
针对三个颜色通道R、G、B中的每一个,分别获得与第一颜色直方图中颜色值最接近的第二颜色直方图中的颜色值;以及
根据所获得的最接近颜色值之间的对应关系来确定第i摄像装置和第j摄像装置之间的颜色转换模型。
8.如权利要求7所述的监控方法,其中:
通过如下方式确定第i摄像装置和第j摄像装置之间的颜色转换模型:
其中,cfti,j表示第i摄像装置与第j摄像装置之间的颜色转换模型,R_Hi(x),G_Hi(x)和B_Hi(x)分别表示第i摄像装置R,G,B颜色通道的颜色直方图之值,R_Hj(x),G_Hj(x)和B_Hj(x)分别表示第j摄像装置R,G,B颜色通道的颜色直方图之值,x表示颜色直方图中的索引值,取值范围为[0,255]。
9.如权利要求8所述的监控方法,其中:
所述的根据第i摄像装置和第j摄像装置之间的颜色转换模型获得两个子图像区域的颜色值之间的差异包括:
通过所述第i摄像装置和第j摄像装置之间的颜色转换模型,获得第i摄像装置中所述子图像区域Obji的颜色值的转换后的颜色值,所述转换后的颜色值对应于所述第i摄像装置的经过颜色转换后的子图像区域Obji′;
针对所述经过颜色值转换后的子图像区域Obji′以及第j摄像装置中所述子图像区域Objj,将每个子图像区域划分为num_w*num_h个子图像块,在每个子图像块中计算分别与R,G,B颜色通道对应的颜色直方图R_Hm,n(Obji′),G_Hm,n(Obji′),B_Hm,n(Obji′)以及R_Hm,n(Objj),G_Hm,n(Objj),B_Hm,n(Objj),其中,m=1,......,num_w,n=1,......,num_h,num_w和num_h是大于等于1的正整数;
确定所述子图像区域Obji′以及Objj内相互对应的子图像块的分别与R,G,B颜色通道对应的颜色直方图的距离,作为所述子图像区域Obji和子图像区域Objj的颜色值之间的差异;以及
所述的根据所获得的颜色值之间的差异求取所述第一匹配相似度包括:
根据所述距离获得子图像区域Obji和Objj的分别与R,G,B颜色通道对应的匹配相似度分量Sim
其中Distm,n表示子图像区域Obji′以及Objj内相互对应的子图像块的分别与R,G,B颜色通道对应的颜色直方图的距离,以及,将与R,G,B颜色通道对应的匹配相似度分量Sim求平均值,作为所述第一匹配相似度。
10.如权利要求5所述的监控方法,其中,所述的构建特定对象在所述第i个摄像装置与第j个摄像装置之间的、符合正态分布的时间/空间转换概率模型包括:
其中,vs表示第s个所述类别的对象的行走速度,s=1,2,...,M;以及
其中
其中,CAMi,CAMj表示第i摄像装置和第j摄像装置,t表示特定对象从第i摄像装置离开到进入第j摄像装置之间所经历的时间,Disti,j表示第i摄像装置和第j摄像装置之间的距离。
11.如权利要求2所述的监控方法,其中,所述的基于各个第一匹配相似度以及各个时间/空间转换概率分布对所述特定对象进行监控包括:
基于所述各个第一匹配相似度以及各个时间/空间转换概率分布确定第i个摄像装置拍摄的图像中的特定对象与第j个摄像装置拍摄的图像中各个对象之间的各个第二匹配相似度;
确定第二匹配相似度最高的对象作为与所述特定对象匹配的被监控对象,并根据匹配结果获取所述被监控对象在所述N个摄像装置中任意K个摄像装置的出现时间以及K个摄像装置的位置,以便生成所述监控对象在K个摄像装置之间的路径,K是大于等于2且小于等于N的整数。
12.如权利要求11所述的监控方法,其中,确定第二匹配相似度最高、且该最高第二相似度大于预定阈值对象作为与所述特定对象匹配的被监控对象。
13.如权利要求11所述的监控方法,还包括:
根据所确定的被监控对象的运动方向,估计所述被监控对象未来可能的路径。
14.如权利要求11所述的监控方法,其中,所述基于各个第一匹配相似度以及各个时间/空间转换概率确定所述第二匹配相似度包括:
将与第j个摄像装置所拍摄图像中的任意一个对象相关的第一匹配相似度以及时间/空间转换概率分布的乘积或者归一化之后相加的值或者加权平均值作为与该任意一个对象相对应的第二匹配相似度。
15.一种监控装置,用于对通过N个摄像装置拍摄的图像中的对象进行监控,所述监控装置包括:
相似度确定单元,其被配置成针对所述N个摄像装置中第i个摄像装置,根据预先构建的摄像装置之间的特征转换模型,在所述第i个摄像装置所拍摄图像中的对象的特征以及第j个摄像装置所拍摄图像中的对象的特征之间进行特征转换,并基于特征转换结果得到所述第i个摄像装置所拍摄图像中的特定对象分别与第j个摄像装置所拍摄图像中一个或多个对象之间的各个第一匹配相似度,其中,N是大于等于2的整数,i是大于等于1且小于等于N的整数,j=1,2,......,N,j是整数,且i≠j;以及
监控单元,其被配置成基于所述各个第一匹配相似度,确定所述第j个摄像装置所拍摄图像中的、与所述特定对象相匹配的对象,以便对所述特定对象进行监控。
16.如权利要求15所述的监控装置,还包括:
时间/空间转换概率分布确定单元,其被配置成针对所述N个摄像装置中第i个摄像装置,根据摄像装置之间的时间/空间转换概率模型,分别获取第i个摄像装置所拍摄图像中的特定对象与第j个摄像装置所拍摄图像中的一个或多个对象在所述第i个摄像装置和第j个摄像装置所处的位置之间的各个时间/空间转换概率分布;以及
所述监控单元被配置成基于所述各个第一匹配相似度以及所述各个时间/空间转换概率分布来确定所述第j个摄像装置所拍摄图像中的、与所述特定对象相匹配的对象。
17.一种具有如权利要求15或16中所述的监控装置的摄像设备。
18.一种监控系统中的操作方法,包括:
通过如权利要求1-14中任一项所述的监控方法对监控系统中的对象进行监控,其中,所述监控系统包括所述N个摄像装置;以及
基于监控结果对所述监控系统所监控的对象进行交互操作。
19.如权利要求18所述的方法,其中所述的对监控系统所监控的对象进行交互操作包括:
在所述监控系统检测到异常事件的发生的情况下,在与所述监控系统对应的虚拟电子地图中显示异常事件发生地点处的摄像装置的实时图像和/或声音,并且/或者根据需要回放显示与所述地点相关的历史监控视频的摘要信息。
20.如权利要求18所述的方法,其中所述的对监控系统所监控的对象进行交互操作包括:
在选择与所述监控系统对应的虚拟电子地图中的特定监控对象的情况下,在线地生成并且显示该特定监控对象在N个摄像装置之间的历史全局路径,并且/或者根据需要回放显示该特定监控对象所经过的区域的历史监控视频。
21.如权利要求18所述的方法,其中所述的对监控系统所监控的对象进行交互操作包括:
在从监控系统的历史监控信息中检索特定的被监控对象时,生成并显示该特定的被监控对象的历史全局路径,并且/或者根据需要回放该特定的被监控对象经过区域所包含的摄像装置拍摄的历史监控信息。
22.如权利要求18所述的方法,其中所述监控系统还包括与所述N个摄像装置相关的实时监控显示设备,并且与所述监控系统对应的虚拟电子地图中包括与所述N个摄像装置对应的图标,以及,所述的对监控系统所监控的对象进行交互操作包括:
在选择所述虚拟电子地图中特定的图标时,与该特定的图标所对应的摄像装置相关的实时监控显示设备实时地显示该摄像装置拍摄的图像。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2011101668238A CN102831615A (zh) | 2011-06-13 | 2011-06-13 | 对象监控方法和装置,以及监控系统操作方法 |
US13/477,378 US20120314078A1 (en) | 2011-06-13 | 2012-05-22 | Object monitoring apparatus and method thereof, camera apparatus and monitoring system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2011101668238A CN102831615A (zh) | 2011-06-13 | 2011-06-13 | 对象监控方法和装置,以及监控系统操作方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102831615A true CN102831615A (zh) | 2012-12-19 |
Family
ID=47292868
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2011101668238A Pending CN102831615A (zh) | 2011-06-13 | 2011-06-13 | 对象监控方法和装置,以及监控系统操作方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20120314078A1 (zh) |
CN (1) | CN102831615A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106971142A (zh) * | 2017-02-07 | 2017-07-21 | 深圳云天励飞技术有限公司 | 一种图像处理方法及装置 |
CN107404633A (zh) * | 2017-08-14 | 2017-11-28 | 南京国电南自维美德自动化有限公司 | 视频监控系统及其视频压缩编码方法、联合告警追踪方法 |
CN108647557A (zh) * | 2017-03-06 | 2018-10-12 | 佳能株式会社 | 信息处理设备、信息处理方法和存储介质 |
CN109845247A (zh) * | 2017-09-28 | 2019-06-04 | 京瓷办公信息系统株式会社 | 监控终端和显示处理方法 |
CN110263830A (zh) * | 2019-06-06 | 2019-09-20 | 北京旷视科技有限公司 | 图像处理方法、装置和系统及存储介质 |
CN111160067A (zh) * | 2018-11-07 | 2020-05-15 | 北京奇虎科技有限公司 | 危险识别方法、装置、电子设备及计算机可读存储介质 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105721826B (zh) * | 2014-12-02 | 2018-06-12 | 四川浩特通信有限公司 | 一种智能实战系统 |
CN104506800B (zh) * | 2014-12-15 | 2018-11-13 | 浙江宇视科技有限公司 | 一种多方向电警摄像机场景合成及综合监控方法和装置 |
CN104660987B (zh) * | 2015-01-27 | 2019-04-05 | 武汉烽火众智数字技术有限责任公司 | 一种目标运动轨迹分析的方法和监控系统 |
CN104794429B (zh) * | 2015-03-23 | 2018-10-23 | 中国科学院软件研究所 | 一种面向监控视频的关联可视分析方法 |
JP6739200B2 (ja) * | 2016-03-24 | 2020-08-12 | キヤノン株式会社 | 映像処理装置、映像処理システムおよび制御方法 |
CN106599133B (zh) * | 2016-12-02 | 2020-04-17 | 中国科学院软件研究所 | 一种基于草图交互的监控视频可视分析方法 |
JP6933015B2 (ja) * | 2017-06-20 | 2021-09-08 | 富士通株式会社 | 情報処理方法、情報処理プログラム及び情報処理装置 |
CN107679475B (zh) * | 2017-09-25 | 2020-03-10 | 平安科技(深圳)有限公司 | 门店监控评价方法、装置及存储介质 |
US11093756B1 (en) * | 2019-04-26 | 2021-08-17 | Objectvideo Labs, Llc | Multi-query object matching based on inverse model frequency |
EP3783302B1 (de) * | 2019-08-20 | 2023-04-26 | Bizerba SE & Co. KG | Objektvermessungssystem für eine verpackungsmaschine zum ermitteln der abmessungen einer grundfläche und einer höhe einer zu umwickelnden verpackungsschale |
CN111885423B (zh) * | 2020-07-21 | 2022-05-31 | 上海智勘科技有限公司 | 联合uwb和utc时间戳同步的定位方法及定位系统 |
US11366983B2 (en) * | 2020-09-09 | 2022-06-21 | International Business Machines Corporation | Study-level multi-view processing system |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060028552A1 (en) * | 2004-07-28 | 2006-02-09 | Manoj Aggarwal | Method and apparatus for stereo, multi-camera tracking and RF and video track fusion |
CN1777281A (zh) * | 2004-11-17 | 2006-05-24 | 株式会社日立制作所 | 使用多个摄像机的监视系统 |
CN101563710A (zh) * | 2006-05-22 | 2009-10-21 | 安讯士有限公司 | 识别由视频监视摄像机检测到的对象的特性的方法及装置 |
CN102334142A (zh) * | 2009-02-24 | 2012-01-25 | 三菱电机株式会社 | 人物追踪装置以及人物追踪程序 |
CN102782734A (zh) * | 2010-02-19 | 2012-11-14 | 松下电器产业株式会社 | 视频监视系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7450735B1 (en) * | 2003-10-16 | 2008-11-11 | University Of Central Florida Research Foundation, Inc. | Tracking across multiple cameras with disjoint views |
US20060018516A1 (en) * | 2004-07-22 | 2006-01-26 | Masoud Osama T | Monitoring activity using video information |
WO2007026744A1 (ja) * | 2005-08-30 | 2007-03-08 | National University Corporation NARA Institute of Science and Technology | 広域分散カメラ間の連結関係推定法および連結関係推定プログラム |
JP4541316B2 (ja) * | 2006-04-06 | 2010-09-08 | 三菱電機株式会社 | 映像監視検索システム |
JP5230118B2 (ja) * | 2007-03-30 | 2013-07-10 | キヤノン株式会社 | 階調性評価装置および階調性評価方法 |
US20100208063A1 (en) * | 2009-02-19 | 2010-08-19 | Panasonic Corporation | System and methods for improving accuracy and robustness of abnormal behavior detection |
US8676493B2 (en) * | 2009-11-30 | 2014-03-18 | Honeywell International Inc. | Systems and methods for better alarm management |
US20110285851A1 (en) * | 2010-05-20 | 2011-11-24 | Honeywell International Inc. | Intruder situation awareness system |
-
2011
- 2011-06-13 CN CN2011101668238A patent/CN102831615A/zh active Pending
-
2012
- 2012-05-22 US US13/477,378 patent/US20120314078A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060028552A1 (en) * | 2004-07-28 | 2006-02-09 | Manoj Aggarwal | Method and apparatus for stereo, multi-camera tracking and RF and video track fusion |
CN1777281A (zh) * | 2004-11-17 | 2006-05-24 | 株式会社日立制作所 | 使用多个摄像机的监视系统 |
CN101563710A (zh) * | 2006-05-22 | 2009-10-21 | 安讯士有限公司 | 识别由视频监视摄像机检测到的对象的特性的方法及装置 |
CN102334142A (zh) * | 2009-02-24 | 2012-01-25 | 三菱电机株式会社 | 人物追踪装置以及人物追踪程序 |
CN102782734A (zh) * | 2010-02-19 | 2012-11-14 | 松下电器产业株式会社 | 视频监视系统 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106971142A (zh) * | 2017-02-07 | 2017-07-21 | 深圳云天励飞技术有限公司 | 一种图像处理方法及装置 |
CN106971142B (zh) * | 2017-02-07 | 2018-07-17 | 深圳云天励飞技术有限公司 | 一种图像处理方法及装置 |
CN108647557A (zh) * | 2017-03-06 | 2018-10-12 | 佳能株式会社 | 信息处理设备、信息处理方法和存储介质 |
CN107404633A (zh) * | 2017-08-14 | 2017-11-28 | 南京国电南自维美德自动化有限公司 | 视频监控系统及其视频压缩编码方法、联合告警追踪方法 |
CN109845247A (zh) * | 2017-09-28 | 2019-06-04 | 京瓷办公信息系统株式会社 | 监控终端和显示处理方法 |
CN111160067A (zh) * | 2018-11-07 | 2020-05-15 | 北京奇虎科技有限公司 | 危险识别方法、装置、电子设备及计算机可读存储介质 |
CN110263830A (zh) * | 2019-06-06 | 2019-09-20 | 北京旷视科技有限公司 | 图像处理方法、装置和系统及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US20120314078A1 (en) | 2012-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102831615A (zh) | 对象监控方法和装置,以及监控系统操作方法 | |
US7898576B2 (en) | Method and system for indexing and searching objects of interest across a plurality of video streams | |
CN101965576B (zh) | 用于追踪、索引及搜寻的物件匹配 | |
US7667596B2 (en) | Method and system for scoring surveillance system footage | |
CN101778260B (zh) | 一种基于结构化描述的视频监控管理方法及系统 | |
Baumann et al. | A review and comparison of measures for automatic video surveillance systems | |
TWI416068B (zh) | 跨感測器間之物體追蹤方法與系統 | |
US20100040296A1 (en) | Apparatus and method for efficient indexing and querying of images in security systems and other systems | |
CN104254873A (zh) | 视频监控系统中的警报量归一化 | |
CN110837582B (zh) | 数据关联方法、装置、电子设备和计算机可读存储介质 | |
US20070154088A1 (en) | Robust Perceptual Color Identification | |
US9489582B2 (en) | Video anomaly detection based upon a sparsity model | |
CN109117771B (zh) | 一种基于锚节点的图像中暴力事件检测系统及方法 | |
US11443513B2 (en) | Systems and methods for resource analysis, optimization, or visualization | |
CN115167530B (zh) | 基于多维传感的带电作业勘察数据处理方法及系统 | |
CN117035419B (zh) | 企业项目实施智能管理系统及方法 | |
Hu et al. | Building occupancy detection and localization using cctv camera and deep learning | |
CN102789645B (zh) | 一种用于周界防范的多目标快速跟踪方法 | |
CN101299276B (zh) | 分布式多目标跟踪的方法和系统 | |
Zhang et al. | A Multiple Instance Learning and Relevance Feedback Framework for Retrieving Abnormal Incidents in Surveillance Videos. | |
CN116993681A (zh) | 一种变电站巡检缺陷检测方法及系统 | |
CN114580482A (zh) | 基于边缘计算节点与数据中心的无线电信号特征采集方法 | |
Hommes et al. | Detection of abnormal behaviour in a surveillance environment using control charts | |
Prezioso et al. | Integrating Object Detection and Advanced Analytics for Smart City Crowd Management | |
CN117522454B (zh) | 一种工作人员识别方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20121219 |