CN102687174A - 确定对象的位置特性 - Google Patents
确定对象的位置特性 Download PDFInfo
- Publication number
- CN102687174A CN102687174A CN2011800059480A CN201180005948A CN102687174A CN 102687174 A CN102687174 A CN 102687174A CN 2011800059480 A CN2011800059480 A CN 2011800059480A CN 201180005948 A CN201180005948 A CN 201180005948A CN 102687174 A CN102687174 A CN 102687174A
- Authority
- CN
- China
- Prior art keywords
- recognition component
- image
- optics recognition
- video camera
- optics
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Geometry (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种用于确定房间内的对象的位置特性的系统,其包括用于放置在对应于房间的检测区域的背景表面上的光学可识别元件(103)。将摄影机(101)放置在检测区域对面离开光学可识别元件(103),并且摄影机(101)捕获包括检测区域和光学可识别元件(103)的图像。检测器(403)基于光学属性检测图像中的光学可识别元件(103)。遮挡处理器(405)响应于所述光学属性确定光学可识别元件(103)在图像中的遮挡的遮挡属性。位置处理器(407)响应于所述遮挡属性确定深度位置,其中所述深度位置表明对象沿着摄影机(101)的光轴的位置。本发明例如可以允许对于房间内的人的存在检测和粗略定位。
Description
技术领域
本发明涉及确定对象的位置特性,更具体来说(而非排他地)涉及确定生物在房间内的深度位置。
背景技术
确定对象并且特别是人类或宠物之类的生物的位置在许多应用中都越来越令人感兴趣。位置估计例如可以被用于防止和/或检测意外。举例来说,其可以被用来检测老年人摔倒或者检测儿童爬上桌子从而有掉下的风险。但是(特别)估计生物在房间内的位置可能是特别困难的,这是因为算法必须考虑到环境的许多参数和特性将随着时间而变化并且/或者将是未知的。举例来说,将要检测的对象的具体特性可能是未知的,并且存在于房间内的不同对象可能不仅会随着时间改变,而且可能对于算法也是未知的。
为了监测房间以便例如防止意外,可能理想的情况是获得并且分析正在房间内发生的情况的完整画面。这样的完整画面可以从捕获所期望区域的动态图像的一个或更多视频摄影机获得。但是对来自这样的摄影机的图像进行解释非常复杂,并且特别是非常难以可靠地识别出对应于感兴趣对象(比如人类)的各个图像节段。由于对象的特性(比如在房间内的位置)对于算法将是未知的,因此这可能特别困难。此外,不仅对应于感兴趣对象而且还对应于房间内的其他对象的图像对象往往将非常复杂,并且对这些对象的正确分析和评估往往将需要非常复杂的处理并且导致不可靠的结果。
在美国专利公开2009/0121017中给出了视频系统的一个例子。在所述系统中,库存项目被放置在具有可识别光学样式的墙壁前方。摄影机捕获图像,并且通过评估具有所述可识别光学样式的区域检测出所暴露出的墙壁表面的数量。随后使用所暴露出的表面的数量来确定存在或缺失的库存项目的数量。但是美国专利公开2009/0121017的系统仅仅提供了关于库存对象是否存在的监测,因此仅仅提供了非常少量的信息。
因此,一种用于确定对象在房间内的深度位置的改进系统将是有利的,特别是一种允许更高灵活性、或更高可靠性、或促进实施和/或操作、或改进对于动态变化的适应能力以及/或者改进性能的系统将是有利的。
发明内容
相应地,本发明试图优选地单独或者以任意组合缓解、减轻或消除前面提到的一个或更多缺陷。
根据本发明的一个方面,提供用于确定例如房间内(或者室外的沙田上、或者应用于人行横道或学校附近的房屋等等)的对象(生物、机器人或者其他机械玩具、球等等)的位置特性的系统,所述系统包括:用于通常放置在地面上或者至少靠近地平线的光学可识别元件,例如粘贴在对应于房间的检测区域的背景表面上,比如房间的墙壁或者房间内的长沙发或柜橱,所述光学可识别元件具有光学属性(例如特定颜色或者至少处于对象的部分区段之上的纹理,所述颜色和/或纹理可以具有复杂的关系以便区分所述光学可识别元件的各个空间区段);用于放置在检测区域的对面离开光学可识别元件的摄影机,所述摄影机被设置成捕获包括所述检测区域和所述光学可识别元件的图像;用于响应于所述光学属性检测图像中的光学可识别元件的检测器;用于响应于所述光学属性确定光学可识别元件在图像中的至少一处遮挡的遮挡属性的遮挡处理器;以及用于响应于所述遮挡属性确定深度位置的位置处理器,所述深度位置表明对象沿着摄影机的光轴的位置。
本发明可以提供改进和/或促进的对房间内的对象的深度位置的确定。具体来说,对象检测和/或表征可以得到改进,这是因为可以考虑到与沿着所述光轴到摄影机的距离有关的深度位置。本发明可以允许改进的对象表征/检测,同时允许降低复杂度。通过简单的设置实现了对于深度位置的可靠确定,并且/或者可以显著促进所需的信号和图像处理。具体来说,可以使用复杂度相对较低的遮挡确定、表征以及处理。
本发明例如可以允许改进的对于房间内的人的检测和/或表征,并且例如可以允许改进的意外检测、闯入者检测等等。
所述光学属性例如可以是特定颜色和/或样式。所述光学属性可以特别具有特定光谱分布并且可以对于人类是不可见的,也就是说可以具有能够由适当的摄影机检测到的紫外或红外光谱。
所述遮挡属性可以包括关于对应于光学可识别元件但是不具有与所述光学属性匹配的光学特性的一个或更多图像区域的指示。所述遮挡属性可以包括关于光学可识别元件在图像中被遮挡的一个或更多节段的指示。所述遮挡属性例如可以包括这样的被遮挡节段的位置和/或尺寸。所述位置和/或尺寸可以特别是图像位置和/或尺寸或者可以从其中导出。
深度位置可以特别表明沿着光轴的位置。具体来说,深度位置可以表明对象在垂直于图像的图像平面的方向上的位置。
根据本发明的光学特征,所述光学可识别元件是施加到墙壁上的细长元件,并且在空间上被限制到墙壁的一半高度以下(例如将被施加到墙壁的部分区段上的一定数目的10cm高的可贴细条带)。
这样可以在许多实施例中提供特别有利的和/或促进的实施和/或操作。举例来说,这样可以减少视觉影响,同时提供精确的对象检测,并且可以利用以下事实:大多数对象(其中包括人)可能从房间的地板延伸出来。
所述光学可识别元件例如可以是能够被施加或附着到墙壁上(特别是处于固定位置)的制品。
所述光学可识别元件例如可以是能够是施加到墙壁上的胶带、粘性条带或涂料。所述光学可识别元件可以是细长元件(其当然可以由一起形成所述光学可识别元件的几个较小的细长子元件构成,例如贴片),其宽度(或长度)显著高于所述高度(例如至少10倍高)。所述光学可识别元件例如可以是在一个方向上(通常基本上是垂直方向)延伸少于5-10cm并且在与之(通常基本上是垂直方向)垂直的方向上延伸超过1米的元件。所述光学可识别元件可以基本上是矩形的。
所述光学可识别元件可以被放置在邻近房间地板的墙壁上。举例来说,从地板到光学可识别元件的一部分的最大距离可以不超过50cm、20cm、10cm、5cm或者甚至1cm。这样可以提供改进的对于例如脚部的检测,这对于例如检测人的存在是特别相关的。其还可以减小光学可识别元件的视觉影响。在一些情形中,光学可识别元件可以从墙壁与房间地板的相交处向上延伸。
所述光学可识别元件可以包含校准样式以便促进位置校准。举例来说,红色荧光胶带可以沿着胶带长度的每1米包含1cm宽的黑色部分。如果我们假设墙壁是直的,则摄影机传感器可以检测到各个黑色部分,这是因为这些黑色部分形成了遮挡。摄影机传感器可以使用所述黑色部分来建立摄影机坐标与房间坐标之间的关系。黑色标记的宽度可以对绝对房间坐标进行编码。如果所述标记变得过宽,其可以被制成可拆卸的,并且可以在系统校准步骤之后被去除。此外,只有几个简单的标记可以驻留在光学可识别元件上以标示有意义的子区域的起始或末尾(围绕珍贵对象的区段,或者允许儿童在其可以利用光学可识别元件构造的虚拟房屋内建立新房间的标记等等)。应当提到的是,这些标记不需要是永久性的,其例如可以作为第二条带被粘贴及拆卸并且再次随意去除,或者甚至可以被投影,这对于动态可重新配置的游戏可能是有用的(比如映射到房间中的游戏棋盘,其可以在完成一关之后发生改变)。但是这些标记可以帮助校准,即识别出当前的系统与其光学可识别元件之间的关系以及所述系统驻留在其中的房间或空间的特别有意义的区段。
所述光学可识别元件不需要被附着到墙壁上。其也可以被放置在地面上而无需将其附着到墙壁上。此外,所述光学可识别元件可以发生形变,从而可以将其围绕人或家具放置。在这种形式下,光学可识别元件可以被附着或涂绘在绳子或者任何其他适当材料(木材、衣物等等)上。所述光学可识别元件甚至可以形成闭环。摄影机也可以被集成在光学可识别元件中。
根据本发明的一项可选特征,所述位置处理器被设置成:确定与光学可识别元件的被遮挡节段相关联的图像的图像对象;以及响应于所述图像对象的图像特性生成深度位置。
这样可以提供对于深度位置的特别高效、可靠和/或低复杂度的确定。
可以通过图像分段来确定所述图像对象(如果在应用中期望得到诸如脚部长度之类的简单特性,则所述分段算法可以较为简单,并且对于其他应用则可以更加复杂)。所述图像对象可以包括其数值满足关于与被遮挡节段对应的像素的像素值的匹配标准的像素。举例来说,所述图像对象可以被确定为包括图像区域内的像素,在所述图像区域内的颜色从被遮挡节段的颜色的变化小于给定数量。
所述图像特性可以特别是图像对象的维度。
根据本发明的一项可选特征,所述图像特性表明图像对象在远离光学可识别元件的图像方向上的延伸。
这样可以提供对于深度位置的特别高效、可靠和/或低复杂度的确定。
根据本发明的一项可选特征,所述位置处理器被设置成:检测对应于房间地板的另一个图像对象;确定所述图像对象与所述另一个图像对象之间的节段边界;以及响应于光学可识别元件与节段边界之间的图像距离确定深度位置。
这样可以提供对于深度位置的特别高效、可靠和/或低复杂度的确定。
根据本发明的一项可选特征,所述系统还包括:用于放置在检测区域的对面离开光学可识别元件的另一个摄影机,所述另一个摄影机捕获包括所述检测区域和所述光学可识别元件的另一幅图像;并且其中所述检测器还被设置成响应于所述光学属性检测所述另一幅图像中的光学可识别元件;所述遮挡处理器被设置成响应于所述光学属性确定光学可识别元件在所述另一幅图像中的至少一处遮挡的另一项遮挡属性;并且所述位置处理器被设置成响应于所述遮挡属性和所述另一项遮挡属性确定深度位置。
这样可以提供对于深度位置的特别高效、可靠和/或低复杂度的确定。在许多情形中,所述方法可以允许降低信号处理的复杂度以及/或者更加可靠的确定。
所述另一个摄影机和相关联的处理可以类似于第一摄影机。所述另一项遮挡属性可以例如包括光学可识别元件的被遮挡节段的位置和/或尺寸。所述位置和/或尺寸可以特别是图像位置和/或尺寸或者可以从中导出。所述遮挡属性和另一项遮挡属性可以特别包括相应的遮挡的位置和/或尺寸指示。这样的相应遮挡可以是源自相同的对象,并且特别是源自为之获得深度位置的对象。
根据本发明的一项可选特征,所述位置处理器被设置成响应于所述图像和另一幅图像中的被遮挡节段之间的相对图像位置的差异来确定深度位置。
这样可以提供对于深度位置的特别高效、可靠和/或低复杂度的确定。在许多情形中,所述方法可以允许降低信号处理的复杂度以及/或者更加可靠的确定。
所述深度位置可以特别响应于一个或更多相应的被遮挡节段在两幅图像中的位置偏移来确定。可以确定被估计对应于所述对象的被遮挡节段之间的位移,并且可以基于所述位移确定沿着光轴的位置。
根据本发明的一项可选特征,所述系统还包括尺寸处理器,其被设置成响应于深度位置和光学可识别元件的至少一个被遮挡图像节段的图像尺寸来确定对于对象的尺寸估计。
这样可以对于许多应用提供改进的操作。举例来说,其可以允许改进的关于人或动物是否存在的检测等等。所述方法特别可以不仅提供附加信息,而且还可以降低对于对象在房间内的实际位置的敏感度。举例来说,其可以允许在较为靠近摄影机的较小对象与较为远离摄影机的较大对象之间进行区分。作为另一个例子,所述方法可以被用来在儿童与成人之间进行区分,或者在站立或行走中的人与摔倒在地面上的人之间进行区分。
根据本发明的一项可选特征,所述对象是生物,并且所述系统还包括用于响应于遮挡属性来检测生物在检测区域内的存在的检测处理器。
本发明可以允许改进的对于房间内的人或动物的存在的检测。这样的检测通常非常复杂并且不可靠,这是因为具体的特性、位置和移动是未知的。所述系统可以允许利用低复杂度设置和简化的方法的改进的检测。举例来说,通过所述设置以及例如由深度位置提供的信息可以减少或补偿不确定性。
根据本发明的一项可选特征,所述检测处理器被设置成响应于图像中的光学可识别元件的遮挡的动态变化来检测所述存在。
本发明可以允许改进的对于房间内的人或动物的存在的检测。实际上,取代仅仅依赖于位于特定位置处的静态对象,所述方法可以允许对自由移动的生物的检测,并且可以实际上把遮挡属性的所得到的动态变化作为检测的基础。所述动态变化例如可以是遮挡节段的位置和/或遮挡的持续时间的变化。
在一些实施例中,所述动态变化可以包括光学可识别元件的被遮挡节段的位置变化。
在一些实施例中,所述动态变化可以包括对于具有满足一定标准的时间特性的遮挡的检测。举例来说,所述标准可以是所述遮挡具有少于给定时间的持续时间。根据本发明的一项可选特征,所述检测处理器还被设置成响应于所述动态变化确定生物和生物活动的至少其中一项的第一特性。
这样可以提供附加的信息并且/或者可以例如改进检测的可靠性。所述特性例如可以是生物的移动特性,比如速度、步法、尺寸指示(例如人的脚部的尺寸指示)等等。在更加复杂的实施例中,对于随着时间的确切遮挡形状变化的详细分析可以被用于例如通过分析移动来估计人或动物正在做什么,比如某人尝试站起来的典型模式或者正在抽搐的生病的动物。
根据本发明的一项可选特征,所述检测器被设置成响应于检测到具有与所述光学属性匹配的图像属性的图像区域来估计对应于光学可识别元件的图像的几何区域,并且所述遮挡处理器被设置成识别出所述几何区域的具有与所述光学属性不匹配的图像属性的被遮挡节段。
这样可以允许特别高效、可靠和/或低复杂度的操作。所述几何区域的其光学属性不同于光学可识别元件的光学属性的被遮挡节段可以特别包括不满足关于所述光学属性的匹配标准的像素区域。
根据本发明的一项可选特征,所述检测器被设置成通过将各个图像区域匹配到预定几何形状来确定所述几何区域。
这样可以允许特别高效、可靠和/或低复杂度的操作。
所述几何区域可以响应于所述光学属性以及对应于光学可识别元件的几何形状的预定几何形状来确定。举例来说,所述光学可识别元件可以是窄条带,其将对应于图像中的线(可以在对应于应用的沿着条带的最优高度下进行线性遮挡分析,例如接地水平,或者为了避免干扰例如来自产品传送带的地平线遮挡可以是更高水平)。所述预定几何形状可以相应地是线,并且所述几何区域可以被确定为包括其图像特性与所述光学属性匹配的像素的线图像对象。举例来说,可以施行对于其像素特性与所述光学属性匹配的像素或图像节段的线拟合。
根据本发明的一项可选特征,所述系统还被设置成确定房间内的光学可识别元件的标称被遮挡节段集合;并且其中所述位置处理器被设置成对于所述标称被遮挡节段补偿遮挡属性。
这样可以提供改进的操作,并且特别可以提供改进的灵活性。在许多情形中,所述方法例如可以允许将所述系统使用在其中其他对象可能会遮挡光学可识别元件的房间内。
标称被遮挡节段可以是被认为是静态的被遮挡节段和/或其遮挡不是由所述对象导致的被遮挡节段。其通常可以是由检测区域内的另一个对象导致的遮挡。
例如可以通过忽略对应于标称被遮挡节段的所有遮挡来施行所述补偿。
标称被遮挡节段例如可以被确定为校准图像中的光学可识别元件的被遮挡节段。所述校准图像可以是在没有对象存在的情况下捕获的图像。
根据本发明的一项可选特征,所述系统还被设置成在遮挡的持续时间超出阈值的情况下把光学可识别元件的被遮挡节段标示为标称被遮挡节段。
这样可以提供特别有利的实施例,并且可以特别允许所述系统自动适应房间的特性。举例来说,其可以自动对处理进行适配,以便补偿检测区域内的其他对象,这是因为这些其他对象在许多情形中可以被视为静态的,而感兴趣对象通常是非静态的(其在许多应用中例如将是人或动物)。
所述阈值可以是静态阈值。举例来说,在用于检测人的许多实施例中,其可能有利地处于从15秒到1分钟的间隔内。在一些实施例中,所述阈值可以取决于其他参数,并且可以是动态变化的阈值。
根据本发明的一个方面,提供一种确定房间内的对象的位置特性的方法,所述方法包括:将光学可识别元件放置在对应于房间的检测区域的背景表面上,所述光学可识别元件具有光学属性;把摄影机放置在检测区域的对面离开光学可识别元件,所述摄影机捕获包括所述检测区域和光学可识别元件的图像;响应于所述光学属性检测图像中的光学可识别元件;响应于所述光学属性确定光学可识别元件在图像中的遮挡的遮挡属性;以及响应于所述遮挡属性确定深度位置,所述深度位置表明对象沿着摄影机的光轴的位置。
参照下文中描述的(多个)实施例,本发明的上述和其他方面、特征和优点将变得显而易见并且将对其进行阐述。
附图说明
下面将仅仅通过举例的方式参照附图来描述本发明的实施例,其中:
图1是根据本发明的一些实施例的用于确定深度位置的系统的图示;
图2示出了与图1的设置相关联的几何结构的一个例子;
图3是由图1的系统的摄影机捕获的图像的一个例子的图示;
图4示出了根据本发明的一些实施例的用于确定深度位置的处理设备的一些元件的一个例子;
图5和6示出了对于图3的图像中的被遮挡节段的检测的一个例子;
图7是由图1的系统的摄影机捕获的图像的一个例子的图示;
图8示出了对于图7的图像中的被遮挡节段的检测的一个例子;
图9示出了与图1的设置相关联的几何结构的一个例子;
图10示出了由图1的系统的摄影机捕获的图像的一个示意性例子;
图11是根据本发明的一些实施例的用于确定深度位置的系统的图示;
图12示出了与图1的设置相关联但是采用两个摄影机的几何结构的一个例子;
图13示出了与图1的设置相关联的几何结构的一个例子;
图14示出了根据本发明的一些实施例的用于确定深度位置的处理设备的一些元件的一个例子;
图15是根据本发明的一些实施例的用于确定深度位置的系统的图示;以及
图16示意性地示出了可以利用实现本发明的逻辑依据的几个子组件建立的示例性游戏系统。
具体实施方式
下面的描述集中于适用于检测房间内是否有人存在的系统的本发明的实施例。但是应当认识到,本发明不限于这一应用,而是可以适用于许多其他应用和对象。
下面将描述一种被设置成基于由一个或更多视频摄影机捕获的图像来确定可以被放置在房间内的对象的特性的系统。具体来说,可以确定深度位置,所述深度位置包括对于房间内的潜在对象在垂直于摄影机的图像平面的方向上的位置的估计。因此,所述系统可以允许确定对于沿着摄影机的光轴的位置分量的位置估计。所述系统还可以确定对于对象在垂直于图像平面的方向上的一个或更多位置估计,并且可以特别确定三维位置估计。应当认识到,所确定的位置数值都不需要与光轴对准,但是至少一个深度位置将具有沿着该轴的非零长度的投影,也就是说所述深度位置将包括沿着光轴的估计位置的信息,并且不限于仅仅图像平面中的位置信息。摄影机将被安装成使得深度位置通常包括沿着与摄影机和光学可识别元件两者都相交的轴的位置分量。
所描述的系统特别可用于确定对其几乎不知道预定信息的对象的特性。举例来说,其可能特别适用于检测具有未知的位置、几何结构、尺寸等等的对象。其可能还特别适用于移动对象。具体来说,所述系统高度适于确定与可能进入房间并且在其中四处移动的生物(人类或动物)相关联的属性。所述系统可以实际上提供关于房间内的人的存在或活动的有利检测。
所述系统利用被放置在对应于房间的检测区域的背景表面上的光学可识别元件。把摄影机放置在光学可识别元件的对面,从而使其捕获包括图像的视频信号,所述图像包括所述检测区域和光学可识别元件。所述光学可识别元件具有光学属性,其允许在视频图像中相对容易并且精确地检测到该光学可识别元件。所述系统随后可以检测光学可识别元件的遮挡,这通常将是由于对象位于摄影机与光学可识别元件之间而造成的。因此,可以简单地从视频图像中的光学可识别元件的遮挡来检测对象的存在。出于简明起见,下面的描述将首先集中于其中可能遮挡光学可识别元件的唯一对象就是感兴趣对象的情况,也就是说在检测区域内没有其他对象。但是随后将描述所述系统如何可以补偿其他遮挡元素的存在。
因此,所述系统评估光学可识别元件的遮挡,并且基于该遮挡的属性确定关于沿着摄影机的光轴的位置分量的位置指示。具体来说,所述遮挡属性可以包括关于光学可识别元件的一个或更多被遮挡节段的位置和/或尺寸的指示,并且所述位置确定可以是基于这样的位置和尺寸。
图1示出了房间内的示例性设置。沿着房间的一面墙壁放置摄影机101。在该例中,摄影机101被放置成邻近房间的地板,并且特别被放置在地板上方不超过50cm,并且常常不超过20cm、5cm或甚至2cm。靠近地板的位置在许多实施例中会提供改进的操作和性能,并且特别可以改进对于房间内的人的属性的检测和估计。其实际上可以提供其中较大图像区域以低角度覆盖地板的图像,这可能特别适合于评估与房间内的人的脚部相关联的特性,或者其他低高度对象,比如球、玩具车、塑料人偶等等。不仅可以利用处于房间内的适当低位置处的这些摄影机监测智能的移动对象(比如机器人,例如机器人真空吸尘器),而且例如还可以使用来自这些静态摄影机的附加数据来帮助机器人控制,并且安装在所述机器人本身上的低处的摄影机也可以使用该系统,或者任何可移动摄影机(集合)。
在房间对面的墙壁上放置光学可识别元件103。与摄影机类似,光学可识别元件位于地板附近,并且其特别可以不超出墙壁高度的一半。实际上,在许多实施例中,光学可识别元件在最高点处于地板上方不超出50cm,并且常常不超出20cm、10cm或者甚至1cm。通过把摄影机101和光学可识别元件103靠近地板放置提供这样一种设置,其中光学可识别元件103在由摄影机101捕获的图像中的遮挡可以被假设是由接触地板的对象导致的,并且所述遮挡可以被视为对应于靠近与地板的接触点的对象的特性。具体来说,所述遮挡可以是由房间内的人的脚部导致的,并且因此所述设置可以得到与人的特定身体部分相关联的遮挡。
因此,摄影机101捕获房间的图像,其包括对面墙壁上的光学可识别元件103。摄影机101与光学可识别元件103之间的任何对象将导致光学可识别元件103的遮挡,并且这些遮挡可以被检测、表征以及使用来确定对象在房间内的位置。因此,摄影机101和光学可识别元件103定义了对应于房间的检测区域,这是在其中放置对象将导致光学可识别元件103在摄影机101的捕获图像中的遮挡的区域。
光学可识别元件103例如可以是附着到或者例如涂绘到墙壁上的窄条带。举例来说,可以沿着墙壁邻近地板放置反射胶带(例如明亮的红色、橙色或黄色)。在所述具体实例中,所述胶带被放置成在底部(墙壁/地面相交处)覆盖墙壁。所述胶带通常可以是2cm到5cm宽。在其他实施例中,可以使用在墙壁上或墙壁处提供光学可识别元件的其他措施。举例来说,可以使用紫外或红外反射胶带或涂料来提供光学可识别元件,其具有对于人眼不可见(并因此干扰性较低)但是可以由摄影机检测到的可检测光学属性。但是在其他实施例中,光学可识别元件可以由具有不同颜色的多个胶带的组合构成,所述多个胶带彼此平行地层叠从而形成一个新的胶带。这种具体设置对于其中人的鞋子的颜色非常类似于光学可识别元件的颜色从而可能导致假阴性的情况可能更加鲁棒。多色胶带将会降低这样的假阴性的几率。例如可以有沿着所述条带水平或垂直地重复层叠的彩虹彩色样式。
在图1的例子中,两个对象105、107处于房间内,并且可以特别是一个人的两只脚。从摄影机101看去时,每一个所述对象遮挡光学可识别元件103的一部分。因此在所捕获的图像中,所述光学可识别元件将在两个被遮挡节段109、111中被遮挡。
(应当认识到,与所述两个被遮挡节段被视为由两个对象导致的情况等效的是,其可以被视为源自一个对象的两个部分,也就是说两个对象105、107可以等效地被视为一个对象的两个不同部分。因此,一个对象可以导致多处遮挡)。
图2示出了图1的情形的侧视图的例子。在该例中,将坐标系放置成其中心与摄影机101重合。沿着摄影机的光轴的轴被标记为z轴(也就是说在该例中,z轴是垂直于两面墙壁和图像平面的方向)。侧向方向(沿着形成光学可识别元件的胶带)被标记为y轴,并且垂直轴(该例中的上/下方向)被标记为x轴。因此,x和y轴处于图像平面内,并且z轴与之垂直。摄影机在x方向上具有由两条线201表示的视角。
图3示出了可以由摄影机101捕获的图像的一个例子。(该图像也包括桌子和椅子腿的存在。后面将讨论如何对待这些对象,但是为了简明起见,在下面的初始描述中将其忽略)。所述图像包括光学可识别元件103和一个人的两只脚105、107,从而导致光学可识别元件103的遮挡109、111。还可以看到,所述图像从地板上方的较低高度覆盖地板的一大部分。
所述系统还包括处理设备113,其接收来自摄影机101的图像并且对这些图像进行处理,以便评估检测区域内的任何潜在对象的存在或特性。
具体来说,处理设备113分析所述图像,以便基于光学可识别元件103的已知光学属性对其进行检测。如果没有人(没有物体)存在,则光学可识别元件103不被接触地面的任何对象遮挡。但是一旦有人经过摄影机与胶带(光学可识别元件103)之间的空间,这个人的脚部将阻挡胶带的一部分。这一遮挡由处理设备113检测到并进行分析,其随后继续确定对于导致所述遮挡的对象的位置估计。
由于光学可识别元件的属性(明亮的颜色和/或反射率)是已知的并且通常被选择成不同于人的鞋子或袜子的颜色(例如对于男性居留者是深棕色或蓝色),可以很容易地通过发现图像中的预期具有光学可识别元件103的特性的像素不再具有这些属性而检测到人类脚部的存在。只穿有黑色或棕色鞋子的该示例性男性用户可以选择用红色条带覆盖其左侧墙壁,用绿色条带覆盖其右侧墙壁,用橙色条带覆盖沿着其长度的长沙发,并且用呈圆柱状缠绕桌子腿的(一个或更多放置在彼此之上的)黄色贴片覆盖桌子腿(或者甚至用与光学可识别元件被施加到的对象的颜色相匹配的颜色或者与其没有/较少视觉干扰的颜色)。还应当提到的是,在动态学习系统中,仅仅几个这样的光学可识别元件可以导致非常通用的系统。如果当前存在于房间内的用户例如遮挡了红色条带,则所述系统可以测量当前覆盖所述红色条带的黑色鞋子的光学属性(平均辉度、变化模式、可能的光谱属性等等)。其随后可以使用这些标识参数来应用相同的光学遮挡检测,以便跟踪甚至遮挡没有施加光学可识别元件的区段的事件,比如当用户行走经过当前覆盖对面墙壁上的绿色条带的蓝色猫篮时。具体来说,所述系统可以识别出图像中的对应于光学可识别元件103的一条线上的像素,但是所述像素不具有光学可识别元件的光学属性。由于房间的地板和墙壁可能具有与人的鞋子类似的颜色,因此通过使用光学可识别元件提供了更加可靠的检测,并且其位置确保至少检测到接触地面并且在高度上延伸到胶带高度以上的对象。当例如人类脚部的对象被放置在摄影机101与光学可识别元件103之间时,所述光学可识别元件在图像中的该特定位置处将变得不可见。由于摄影机101和光学可识别元件103都被放置成靠近地表面,并且光学可识别元件103是几cm的细条带,因此高度有限(例如5cm)的对象也已将遮挡住光学可识别元件103的整个高度。
图4示出了处理设备113的一些元件的一个例子。处理设备113包括接收器401,其将处理设备113接口到摄影机101,并且特别接收来自摄影机101的视频图像。
接收器401耦合到检测器403,其被设置成响应于所述光学属性检测图像中的光学可识别元件103。
检测器403特别被设置成确定图像中的对应于光学可识别元件103的几何区域。检测器403可以特别通过找到具有预定形状的匹配图像区域来确定所述几何区域。举例来说,在其中光学可识别元件103是窄条带(胶带)的例子中,所述几何区域将对应于图像中的线。因此,检测器403可以尝试在图像中找到一条线,其具有与光学可识别元件103相匹配的特性。应当认识到,在其他实施例中,可以使用其他几何形状。举例来说,如果光学可识别元件是正方形,则检测器403将把所述图像区域匹配到具有与光学可识别元件103的光学属性相匹配的光学特性的正方形。
在一些实施例中,所述预定几何形状可以考虑到光学可识别元件103可能在图像中发生的任何形变,这例如是由于摄影机101相对于光学可识别元件103的放置的结果,或者例如是由于摄影机101与光学可识别元件103之间的变化的距离。
检测器103可以特别在图像中搜索具有与光学可识别元件103的光学属性匹配的图像特性的图像区域。举例来说,如果光学可识别元件103是明亮红色,则检测器403将在图像中搜索明亮红色的适当形状的几何区域,也就是说其具有代表与明亮红色足够接近的颜色的像素值。因此,检测器403将基于与所述光学属性相对应的图像特性(特别是像素值)找到所述几何区域。
特别在其中已经存在对应于静态对象的遮挡的情况下,检测器403可以确定对应于光学可识别元件103的图像区域。举例来说,可以在没有人但是有遮蔽从摄影机101到光学可识别元件103的视线的椅子和桌子的情况下施行校准操作。
作为一个具体实例,可以考虑图1的设置。在该例中,摄影机101被安装在墙壁底部,并且在正z方向上具有平行于地表面的指向,从而看向对面墙壁上的反射胶带(光学可识别元件103)。由于胶带属性(明亮的颜色和/或反射率)是已知的,并且在大多数时间不同于人的鞋子或袜子的颜色(通常是深棕色或蓝色),因此通过找到对应于反射胶带的一条线上的不具有所述胶带的光学属性的像素可以很容易检测到人类脚部的存在。
在该例中,摄影机101被安装成使其光轴(z轴)垂直于墙壁并且平行于地板(假设地板与墙壁之间成90度角)。因此在理论上所述胶带在来自摄影机101的图像中表现为略低于图像中部的水平可见带条。但是由于摄影机安装在不同实现方式中可以不同,因此所述可见带条可能看起来略有垂直位移,并且还可能由于摄影机101的安装中的不经意倾斜而看起来有旋转。但是已经知道理想的透视摄影机会把真实世界中的直线投影成二维图像中的直线。利用这一知识,检测器403可以识别出属于反射胶带的像素,这是通过找到其属性与反射胶带的光学特性相匹配的具有适当宽度的带条或线的像素而实现的。
作为第一步,可以基于以下条件在所观测到的RGB彩色图像中识别出属于胶带的像素:
其中,S是像素所能取得的将其分类为“胶带像素”的RGB颜色矢量的数值集合。在其中使用饱和红色胶带的具体实例中,适当的数值例如可以是S={(119…225),(0…99),(0…99)}。因此,具有处于这些范围内的RGB数值的像素就被认为对应于反射胶带。对于S的选择当然取决于用在具体例子中的胶带的颜色。此外,所述集合S还可以取决于所使用的具体摄影机的设定。
在识别出对应于胶带的可能像素之后,对于这些像素施行线拟合。具体来说,例如利用公知的最小二乘拟合方法将一条直线拟合通过这些像素。其结果是,利用以下等式识别出图像中的直线:
其中,u是图像的垂直轴,v是图像的水平轴。在该例中,对应于反射胶带(即光学可识别元件103)的线可以被视为具有单个像素宽度,但是在其他实施例中也可以考虑多个像素的宽度。
因此,检测器403按照上述方式识别出所述图像的对应于光学可识别元件103的区域,因此其被认为在没有任何对象遮蔽从摄影机101到光学可识别元件103的视线的情况下具有对应于所述光学属性的像素值,例如简单地就是光学可识别元件103的颜色数值。但是如果有任何对象处于摄影机101与光学可识别元件103之间,则这些像素将把其数值改变到造成遮蔽的对象的数值。
检测器403耦合到遮挡处理器405,其被设置成响应于所述光学属性确定图像中的光学可识别元件103的至少一处遮挡的遮挡属性。具体来说,遮挡处理器405被设置成识别出对应于光学可识别元件103但是其光学特性不同于所述光学属性的所识别出的几何区域的被遮挡节段。
举例来说,遮挡处理器405可以对于与光学可识别元件103相对应的图像区域内的每一个像素确定其像素值是否满足相对于所述光学属性的匹配标准(例如所述匹配标准是其颜色与光学可识别元件103的颜色的偏差不超出给定数量)。遮挡处理器405随后继续将所述图像区域分段成被视为对应于光学可识别元件103的节段(即主要包含满足匹配标准的像素)以及不对应于光学可识别元件103的节段(即主要包含不满足匹配标准的像素)。
因此,遮挡处理器405可以被设置成识别出所述图像区域的应当具有反射胶带的颜色但是与该颜色不匹配的各个节段。这样的(多个)节段通常将具有不同的颜色,这是因为其已经被位于摄影机101与光学可识别元件103之间的对象所遮挡。遮挡处理器405例如可以生成遮挡属性以便包括关于所检测到的所有遮挡节段的尺寸和/或位置的指示。所述尺寸和位置数值可以特别以像素维度给出,并且可以用图像坐标来提供。对应于单个像素线的数值例如可以被给作中间位置和尺寸,或者被给作关于起始和停止坐标的指示。
作为一个具体例子,图5示出了对应于图1的情形的图3的图像中的所检测到的遮挡节段(假设桌子和椅子腿不存在)。图6以示意性的形式示出了相同的图像。在该例中,图像的水平方向由v轴表示,图像的垂直方向由u轴表示。如图所示,光学可识别元件103被识别为对应于图像中的线601,并且遮挡处理器405搜索过该线的各个像素以便识别出其颜色不同于光学可识别元件103的两个被遮挡节段109、111。
具体来说,遮挡处理器405可以顺序地评估起始于最小v坐标并且结束于最大v坐标的“胶带”线601中的所有像素。对于该线上的每一个像素(u,v),如果满足以下条件则开始新的被遮挡节段:
当满足以下条件时,被遮挡节段被视为结束:
因此,在该例中,确定了对应于每一个被遮挡节段的开始和结束位置(v start,v stop)。应当认识到,在许多实际实施例中,可以应用一定隐含的或显式的空间滤波效应,以便补偿图像噪声等等并且提供更好地定义的节段。
所述遮挡属性(并且特别是关于被遮挡节段的指示)被馈送到位置处理器407,其耦合到遮挡处理器405。位置处理器407被设置成响应于所述遮挡属性确定对象在检测区域内的深度位置。所述深度位置包括表明对象沿着从光学可识别元件103到摄影机101的轴(并从而是沿着光轴)的位置的至少一个位置分量。因此,所述深度位置包括不处于图像平面内(即x、y方向上)但是沿着摄影机的光轴(即z方向)的至少一个分量。因此,位置处理器407不(仅仅)估计图像中的位置,而且(或者相反地)估计垂直于图像的方向上的位置。该估计是基于图像中的信息生成的,并且特别是基于光学可识别元件103的遮挡生成的。
本发明的发明人特别认识到,光学可识别元件的遮挡不仅可以被用来确定对象在图像平面中的位置,而且还可以提供允许确定沿着摄影机101的光轴的位置的信息。正如下面将描述的那样,可以使用不同的算法来确定这样的位置估计。具体来说,可以使用被遮挡节段的标识,并且位置处理器407可以特别基于光学可识别元件103的被遮挡节段的位置和/或尺寸来确定所述方向上的位置估计。
作为一个简单的例子,所述位置可以是基于遮挡的估计尺寸连同对象的假设尺寸。举例来说,对于人的脚部可以假设一个平均尺寸,并且可以基于相应的遮挡节段的所测尺寸来确定沿着z轴的位置。因此,较大的遮挡节段可能是从靠近摄影机101的位置得到的,较小的遮挡节段可能是从更加远离摄影机101的位置得到的。
应当认识到,虽然这样的方法可能会在对于可能具有不同尺寸的对象(比如人类脚部)的估计位置中提供一定的不确定性,但是这在许多应用中都是可以接受的。此外,所述方法可能特别适用于其中对象往往具有相同尺寸的应用。
举例来说,图7示出了一个例子,其中三个塑料杯在与摄影机的不同距离下被放置在地板上。所述三个塑料杯在其遮挡反射胶带的点处具有基本上相同的尺寸。但是如图8中所示,由于其与摄影机101的邻近度不同,因此相应的遮挡节段的尺寸可能显著不同。相应地,被遮挡节段的尺寸可以直接被用作关于从摄影机101到杯子的距离的指示,即被用作关于沿着z轴的位置的指示。
但是在许多实例中,位置估计是在没有对于对象尺寸的任何假设的情况下确定的。实际上,在许多实施例中可以估计位置,并且随后将其用来估计对象尺寸。
下面提供确定沿着光轴的位置估计的一个例子。在该例中,所述估计是基于在图像中被检测为对应于被遮挡节段的图像对象而确定的。具体来说,位置处理器407可以施行图像分段,并且选择与所述被遮挡节段重叠或者包括所述被遮挡节段的一个或更多图像节段。对应于给定被遮挡节段的图像对象或节段例如可以被确定为包括其特性满足相对于被遮挡节段的像素的匹配标准的像素的区域。举例来说,可以使用具有基本上相同的颜色的像素区域。
位置处理器407随后基于所述图像节段的特性确定位置估计。该图像特性例如可以是所述图像节段的尺寸或维度。实际上,在该具体实例中,所述图像特性可以表明图像对象在远离光学可识别元件的图像方向上的延伸。所述图像方向例如可以对应于垂直图像方向和/或沿着房间地板的方向。
所述图像属性/特性可以表示图像对象在基本上垂直的图像方向上的延伸。因此,图像对象在向下的方向上的延伸可以被测量并且被用来确定对象沿着z轴的位置。如图7中所示,最靠近摄影机的纸杯在图像中比更加远离摄影机的纸杯向下延伸得更多。
作为一个具体实例,位置处理器407可以首先确定沿着胶带(光学可识别元件103)的方向上(即y方向上)的图像位置坐标。该方向对应于图像中的v坐标,并且可以简单地被确定为平均位置:
这样就提供了对象在图像中的位置,但是还没有提供在地板上的位置。为了计算对象在地板上的位置,位置处理器407首先计算z坐标,并且随后计算y坐标。
图9示出了将要解决的几何结构的图示。所述方法是基于假设对应于“针孔摄影机模型”的摄影机以及例如在D. A. Forsyth和J. Ponce的“Computer Vision: A Modern Approach”(2003,Pearson Education, Inc.,ISBN 0-13-191193-7)中给出的透视投影等式。
位置处理器407尝试确定对象接触地板的点的z坐标。为了确定该坐标,首先确定该点的垂直图像坐标(u坐标)。位置处理器407通过确定图像中的对所述对象进行映射的图像区段与没有对所述对象成像而是仍然对地板成像的图像区段之间的节段边界而实现这一点。
图10示出了其中在图像中仅仅存在两个对象的一个实例(其对应于图6的实例)。所述两个对象导致对应于被遮挡节段的两个图像对象或节段1001、1003(只考虑低于光学可识别元件103的部分)。这些图像对象1001、1003在对应于光学可识别元件103的线601下方延伸。
首先,评估线601下方的图像“条”,以便确定背景图像的哪一个部分由于对象的存在而发生了改变。该例的具体方法没有假设背景具有特定颜色,而是假设在对象与背景之间存在一定颜色对比度。由于已经基于光学可识别元件施行了对象检测,因此对象与背景之间的对比度数量只对位置估计有影响,对于所述位置检测步骤则没有影响。此外,光学可识别元件的存在使得位置估计更加鲁棒,这是因为其把位置估计从二维简化成一维搜索问题。由于对象的图像通常包含多个图像列(其在图像v方向中延伸),因此在评估与预先计算的背景图像的差异时可以应用求平均操作。这样就补偿了可能存在于对象的图像与背景图像之间的较小对比度。
因此,对于所述转变(边界)的所有可能位置确定上方条的平均误差减去下方条的平均误差之间的差异。随后将所述边界选择成对应于为之找到最大差异的位置。对应于两个平均误差之间的最大差异的u坐标相应地被选择为对象的u坐标。因此,所述u坐标代表对应于光学可识别元件103的线601与对应于遮挡109、111的节段1001、1003的节段边界之间的图像距离。
给定对象的u坐标之后,位置处理器407随后基于图9中示出的几何结构计算对象的z坐标,从而得到下面的等式:
其中,k是仅仅取决于摄影机参数的固定常数(关于背景参见D. A. Forsyth和J. Ponce的“Computer Vision: A Modern Approach”(2003,Pearson Education, Inc.,ISBN 0-13-191193-7)的标题为“Geometric Camera Models”的第2章),并且H是摄影机在地面上方的高度。所述等式是根据图9的几何结构自动得出的,这是因为其基本上对应于以下要求:从摄影机分别到u obj和z obj的三角形是相似的(除了尺寸之外具有相同的几何比例)。
可以从摄影机的规范获知与摄影机有关的参数k。但是可能不严格需要k的数值。实际上,从图9和前面的等式可以看出:
由于-kH是常数,因此u obj z obj相应地也是常数。
这就使得有可能在安装了摄影机和光学可识别元件之后校准所述系统。可以把对象放置在与摄影机101具有已知距离z ref(例如1m)的检测区内,并且可以测量相应的u坐标u ref。对于具有不同u坐标的不同对象,可以如下确定相应的z坐标:
其中,索引“ref”指代对于校准对象获得的数值。
下面将描述从光学可识别元件103的遮挡确定沿着z轴的位置的一个不同的例子。该具体实例使用第二摄影机1101,其如图11中所示也耦合到处理设备113。第二摄影机1101可以位于与第一摄影机101相同的相对高度处,但是可以在y方向上有位移。在许多实施例中可以使用摄影机101、1101之间的相对较短的距离,比如不超过50cm或者甚至20cm。
在该例中,检测器403被设置成对来自第二摄影机1101的图像施行与来自第一摄影机101的图像相同的处理。因此,具体来说,检测器403可以识别图像中的对应于光学可识别元件103的区域(具体来说是线)。类似地,遮挡处理器405施行相同的处理并且确定遮挡属性,所述遮挡属性举例来说可以识别出对应于光学可识别元件103的图像区域的被中间对象遮挡的各个部分。所识别出的被遮挡节段被馈送到位置处理器407。
由于摄影机101、1101的不同放置,放置在检测区域内的对象在光学可识别元件103上的相对位移将取决于该对象与摄影机101、1101有多靠近。在图11中示出了这一点,其中示出了两个对象点1103、1105(所述对象点例如可以被视为图1的对象105、107上的点,或者例如可以被视为对应于非常窄的对象)。由于摄影机101、1101的位移,对象1103、1105在图像中将有位移,并且将出现在图像中的不同位置处。此外,由于摄影机101、1101的位移,对象1103、1105将出现在相对于光学可识别元件103的不同位置处。此外,对象1103、1105在图像中以及相对于光学可识别元件103的实际位移取决于对象沿着z轴的距离。实际上,所述位移会随着从摄影机101、1101到对象的距离减小而增大。
因此,在该实施例中,位置处理器407被设置成识别出对应于同一对象的两幅图像中的被遮挡节段。这例如可以通过把彼此最靠近的被遮挡节段相匹配来实现,但是应当认识到,也可以使用更加复杂的算法,比如考虑所述设置的尺寸和/或几何结构。对于匹配的节段,可以确定一个点在两幅图像中的位移(或者是图像中的位移,或者是相对于光学可识别元件103的位移)。举例来说,可以确定所计算的平均位置的位置。该位移随后可以被用来计算z方向上的位置。因此,位置估计是基于两幅图像中的被遮挡节段之间的相对图像位置的差异来计算的。
举例来说,参照图12,可以利用下面的等式从所述位移计算z方向上的位置。假设第二摄影机在相对于第一摄影机的负y方向上被放置在沿着y轴的距离B处。利用针孔摄影机模型对于第一摄影机得到:
由于第二摄影机有位移,因此得到:
应当提到的是,y obj和z obj是在原始的第一摄影机坐标系中指定的。对于立体情况的深度估计根据前两个等式得到:
前面的等式假设分离B仅仅是沿着y轴。基线B通常是安装之前就知道的。但是也可以通过将对象放置在已知的z坐标处并且测量v坐标中的位移来对B进行校准。
在一些实施例中,位置处理器407还可以被设置成确定对象在地板上的二维位置。举例来说,在确定z坐标之后,位置处理器407可以确定y坐标。这可以基于图13中所示的几何结构来进行。
可以基于下面的等式计算y坐标:
也就是说基于假设y与z坐标之间的比值(即分别沿着y轴和z轴从摄影机101到对象的距离)和v坐标与摄影机因数k之间的比值相同。参见图13中的几何结构。在立体摄影机的情况中,假设关于参数k的知识从而可以使用前面的等式。
对于单个摄影机的情况,还可以进一步简化对应于y坐标的等式。不再需要参数k,并且根据对象的u坐标得到y坐标:
例如可以由用户测量摄影机的高度H并且将其人工输入到位置处理器407中。
在一些实施例中,如图14中所示,处理设备113还可以包括尺寸处理器1401,其被设置成响应于深度位置和光学可识别元件的至少一个被遮挡图像节段的图像尺寸来确定对于对象的尺寸估计。具体来说,可以使用z坐标来确定相应的对象的位置估计。
作为一个例子,可以将相应遮挡节段的z坐标和图像尺寸馈送到尺寸处理器1401。举例来说,可以把遮挡节段在光学可识别元件103上的起始和结束坐标提供给尺寸处理器1401。
作为一个具体实例,可以如下计算单个摄影机情况中的对象尺寸:
对于立体摄影机情况,可以从图像对象在第一摄影机中的起始和结束v坐标估计对象尺寸:
所述系统可以提供对于房间内的生物(比如宠物或人)的存在的特别有利的检测。实际上,所述系统可以特别有利于检测动态、移动的或者对其事先只知道很少信息的对象。在图14的例子中,处理设备113还包括检测处理器1403,其被设置成检测生物在检测区域内的存在。一旦粗略地检测出遮挡之后,就可以由遮挡分析单元1422对其进行更加详细地分析,例如其可以对于被遮挡区段或者对于造成遮挡的对象提取出颜色模型或纹理模型参数、几何参数等等。这样可以帮助确定遮挡在何处发生,造成遮挡的对象的属性如何(家中的父亲的黑色鞋子,他的妻子的红色高跟鞋,或者其所照看或与之玩游戏的邻居家女儿的粉色鞋子),其将如何随着照明而改变(通过把所提取的光谱乘以当前的照明)等等。
在该例中,检测处理器1403被设置成响应于光学可识别元件103在图像中的遮挡的动态变化来检测生物的存在。因此,所述检测不仅仅是基于遮挡的存在,而且还取决于遮挡的动态(随时间改变的)特性。
在一些实施例中,所述动态变化可以包括光学可识别元件103的被遮挡节段的位置变化。举例来说,如果新的遮挡节段被检测到则检测处理器1403可以检测到有生物进入了房间,其进一步移动从而使得位置(或尺寸)发生改变。这样将防止例如把置于检测区域内的椅子检测为进入房间的人。作为另一个例子,只有在遮挡节段是暂时性的情况下,也就是说如果其仅仅存在(而不发生移动)少于给定时间量,检测处理器1403才可以检测出人的存在。
因此,如果检测到具有满足一定标准的时间特性的遮挡,则检测处理器1403可以检测到有生物存在。
在图14的系统中,检测处理器1403还可以被设置成响应于一处或更多处遮挡的动态变化确定生物或者生物活动的特性。举例来说,可以响应于所述动态变化确定移动特性。可以利用该信息构造几种应用,例如舞蹈游戏可以测试玩家是否准确地再现了所提出的舞蹈。或者在虚拟足球游戏中,遮挡的时间模式(例如移动速度和方向)可以被使用来对虚拟球的射门路径进行物理建模。
举例来说,沿着光学可识别元件的遮挡的移动可以被确定为房间内的人的脚的移动速度,并且可以估计相关联的走动速度。
在一些实施例中,检测处理器1403可以被设置成把时间上分开的遮挡分组在一起,并且响应于所述遮挡的特性确定其特性。举例来说,可以将两个时间上分开的遮挡节段分组在一起,并且可以响应于所述遮挡的位置和定时的至少其中之一来确定其特性。
作为一个具体实例,第一时间遮挡节段可以被检测到并且被假设对应于一只脚。当所述时间遮挡节段消失时,检测处理器1403可以搜索在给定时间间隔内并且在给定位置间隔内出现的具有相当尺寸的新遮挡节段。如果检测到这样的第二遮挡节段,则检测处理器1403假设所述事件是由于走动中的人作为走出一步的一部分移动他的脚而发生的。随后可以使用所述遮挡之间的距离来确定走动中的人的步法,并且可以使用所述遮挡的定时来进一步计算这个人的走动速度。
应当认识到,可以将该实例扩展到确定多于两个时间上分开的遮挡节段。实际上,所述方法可以被用于多个摄影机,从而由不同的摄影机检测不同的遮挡。举例来说,可以沿着走廊的一面墙壁设置一系列摄影机,并且把反射条带放置在对面墙壁上。
在前面的例子中假设了在检测区域内没有出现其他对象。但是所描述的方法的一个特别的优点在于,其对于其中不知道哪些对象实际存在的环境非常有用。具体来说,所述系统可以很容易地被设置成自动或半自动地补偿其他对象的存在。
在一些实施例中,处理器设备113可以被设置成确定房间内的光学可识别元件的标称被遮挡节段集合。这样的标称被遮挡节段被视为对应于房间内的(半)静态对象,从而不对应于(多个)感兴趣对象。相应地,位置处理器407被设置成对于所述标称被遮挡节段补偿遮挡属性。作为一个简单的补偿实例,可以在进一步的处理中忽略任何标称被遮挡节段(并且例如所述节段可以被视为具有与光学可识别元件103相同的颜色)。
在一些实施例中,所述标称被遮挡节段集合可以被确定为校准图像中的光学可识别元件的被遮挡节段。所述校准图像可以是在检测区域内不存在将要检测或表征的对象时捕获的。举例来说,当已经设置了所述系统时,用户可以向处理设备113表明检测区域现在除了静态对象之外是清空的。处理设备113随后可以评估图像,并且检测光学可识别元件103的任何被遮挡节段。这些被遮挡节段随后被标示为标称被遮挡节段,并且在后续的检测/处理中被忽略。
在一些实施例中,施行对于标称被遮挡节段的更加动态并且自动化的标示。具体来说,如果遮挡的持续时间超出一定阈值,则可以把光学可识别元件的被遮挡节段标示为标称被遮挡节段。所述阈值例如可以是诸如20秒之类的固定阈值。这样将确保在遮挡处理中自动检测到并忽略(半)静态对象,从而把处理限制到新近被遮挡的节段。因此可以实现自动且连续的校准。
这在对家具(桌子、椅子)不感兴趣的情况下检测房间内的人的应用中例如可能是特别有利的。通常人会在房间内到处移动,并且例如比椅子更具动态。为了检测人的存在,例如可以修改针对属于被遮挡节段的每一个像素(u,v)的检测标准,从而还要求所述像素的遮挡必须短于给定时间间隔:
第二项条件意味着如果像素处于被视为代表光学可识别元件103的要求之外长于T max,则该像素被解释为静态对象的一部分,并且被从检测中排除,也就是说该像素被视为属于标称被遮挡节段。一旦像素再次属于S(即不再被遮挡),则把定时器τ重设到零。这意味着如果一把椅子被移动,则其可能首先被检测为人类,但是一旦其停止移动超出T max,则其再次在处理中被忽略。在实践中,在系统初始化时检测区域内可能已经有家具,前面的方法将确保在T max秒钟之后(通常加上一定的额外初始化时间),系统将被初始化。
在一些实施例中,还可以对系统进行动态更新,以便反映不同的照明条件。举例来说,由颜色r back、g back和b back构成的背景图像将在安装摄影机时被初始化。在一天的时间段内,照明条件将发生改变,并且可以相应地更新背景图像。这对于不使用具有已知光学特性的元件的系统可能是成问题的,因为“缺失的对象”将变为“假背景”。但是具有已知的可区分的光学属性的光学可识别元件103的存在使得有可能可靠地更新背景。
应当认识到,所描述的系统可以被用于许多不同的应用。
举例来说,所述系统可以很容易地被用于房间或走廊内的人类存在检测以及粗略的人类定位。可以对于人的每一只脚应用所描述的用于确定对象在地板上的二维位置的方法。在一些实施例中,可以对于与摄影机的距离确定并归一化被遮挡像素的数目(沿着对应于光学可识别元件的线的距离)。如果(归一化的)被遮挡像素的数目高于给定阈值(同时忽略属于标称被遮挡节段的所有被遮挡像素),则可以检测到人的存在。
另一种示例性应用是确定人的走动速度。举例来说,遮挡的存在的持续时间可以被用来确定走动速度。例如如图15中所示,可以沿着走廊安装多个摄影机,并且可以对于每一个摄影机使用脚部映射方法,以便估计人类脚部的位置。这随后可以被转换成对于这个人的走动速度估计。例如在房间内玩的游戏中还可以使用典型的走动模式(被遮挡形状如何改变,例如几个线性截面遮挡)来识别各个人。
另一个例子是估计人的尺寸。具体来说,可以从所估计的z坐标和相应的遮挡节段的尺寸来估计人脚的尺寸。
这样的特性例如可以被用来提供更加先进的检测。举例来说,所确定的特性可以被用来在不同的人之间进行区分。这例如可以被用来在儿童与成人之间进行区分,或者例如在认识的人与可能的闯入者之间进行区分。
所述系统例如可以被用作儿童保护或检测系统的一部分,其可以自动检测儿童是否处在儿童禁入的区域内或者正在接近该区域。举例来说,如果儿童接近危险区域,则可以触发警报。这样的检测可以是基于检测到接近与危险区域相关联的光学可识别元件103的区域的被遮挡节段。
作为另一个例子,所述系统可以被设置成响应于遮挡属性表明其尺寸超出一定阈值的被遮挡节段而检测到生物的摔倒。例如躺在地面上的人通常导致在场景中出现较大对象,从而导致较大的被遮挡节段。因此,例如可以通过在检测到大于给定阈值的对象的情况下发出摔倒警报而实现针对老年人的摔倒检测系统。当然,在这样的儿童或老年人监视系统中,本发明的系统可以构成总体的一部分,其还可以例如具有另外的摄影机或其他传感器以便研究在快速确定的感兴趣区段内究竟发生了什么(例如向监视单元发送画面,比如婴儿电话的父母单元显示器,或者专用的监测站,其例如具有公寓楼或老年公寓的监视器),可以分析例如哭声之类的音频等等。
作为另一个例子,所述系统可以被用于游戏应用,其中可以连续且动态地检测用户的脚部位置并且将其用来控制游戏。举例来说,可以实施一种舞蹈游戏,其中人可以在房间内到处自由移动并且允许把用户的脚映射到游戏中。作为另一个例子,可以检测接触到房间内的地板的球或其他游戏用具的移动并且合并到游戏中。
在足球游戏中,所述系统可以被链接到屏幕,其中显示球门、球和人的脚。所述屏幕可以是电视机、游戏玩家佩戴的眼镜以及/或者作为游戏的一部分包装的显示器的一部分。视觉反馈可以使用立体视觉(3D)显示方法。屏幕上的球可以在人击中虚拟球时对他或她的脚做出反应。球所取得的方向可以取决于人在以虚拟方式击中球之前他/或她的脚部移动。可以通过声光方式提供反馈以作为对于玩家的反馈。可以把用于此目的的电子设备建立在光学可识别元件和/或摄影机单元的内部。所述系统还可以被用来在房间内创建儿童玩乐区域,这例如是通过使用柔软的织物铺在地板上从而形成圆形、椭圆形或任何其他形状。还可以将这种柔软设置拿到室外并且放置在花园中的草坪上。可以发送儿童和/或玩具的位置以便显示在智能电话上。
作为另一个例子,所述系统可以被用作体育训练设备的一部分。举例来说,可以用光学可识别元件围绕网球场,并且可以记录网球运动员的脚部位置和指向以供后来检查。可以将这些位置数据与其他摄影机数据相组合以使得所述系统成为有用的训练工具。
作为另一个例子,所述系统可以被用来评估人在给定区域(比如走廊)内的移动。这例如可用于确定博物馆(其中所述系统可以被配置在减少误警报的温和方法模式下,并且还可以分析人如何接近展品,例如他是缓慢地来到与展品有一些过于靠近的位置还是停留在该处)或工厂内的移动模式。
在一些实施例中,检测区域内的其他对象的存在可能非常重要。在这样的实施例中,可能有利的是把另一个光学可识别元件放置在房间内的一个或更多对象上,其中所述另一个光学可识别元件具有另一项光学属性。举例来说,放置在墙壁上的原始光学可识别元件可以是明亮的红色,而放置在对象(例如桌子或椅子)上的元件则可以是明亮的黄色。
在这样的实施例中,检测器403可以响应于所述另一项光学属性来检测另一个光学可识别元件。遮挡处理器405可以响应于所述光学属性和另一个光学可识别元件将所述遮挡属性确定为对应于所述光学可识别元件和另一个光学可识别元件两者的遮挡属性。举例来说,可以把红色和黄色部分的遮挡组合成对应于同一对象的被遮挡节段。随后可以相应地确定坐标。
图16示出了如何能够在任意房间内或者例如在海滩上或市镇广场上创造(其例如可分开销售以便升级)一个虚拟世界,比如游戏棋盘。所述光学可识别元件可以作为软管1601分开销售,或者其甚至可以是围巾。可以使用所述光学可识别元件来划定一个区段,其可以对应于标识元件1610并且由其覆盖,例如包含该区段的标识信息的地毯元件或不可折叠的箔片(比如文字“监狱”或者例如人行横道之类的游戏街道的划定,或者例如绘制的树木之类的画面元素)。还可以购买摄影机包含单元1622,其例如可以是一个软袋网(从而允许将球投掷到其上)。其可以预先包括几个摄影机或双摄影机集合(例如对于每一个90度正交象限有一个摄影机)。在这里示出了固定连接到外部连接1624的第一摄影机1625和第二摄影机1626,但是其通常还可以通过埋设在袋网内部而受到保护。所述袋网还示出了至少一个插槽1630,其中可以放置至少一个摄影机包含设备1620(例如移动电话)。其通常可以是具有可压缩软缓冲垫的插槽,从而允许容纳几种电话形状。保护性软盖1632保护所述电话。狭缝1631允许摄影机观看到外部(其通常被上下颠倒地插入)。所述移动电话可以与其他所属电话进行通信(例如传送其所捕获的图像的数据),不管是邻近插槽中的另一个包含移动摄影机的设备,或者甚至是插入在另一个光学可识别元件1604插槽1605中的摄影机设备,或者是位于别处的另一个摄影机设备。通常这样的移动设备还可以运行编码游戏情形的应用,并且可以在其显示器(还可以通过翻开另一个保护盖1633而使其可见)上反馈数据。还可以销售用于这样的移动设备的夹套1660,其具有例如底座或吸盘之类的定位元件1661、1662以便放置或固定到地面上,以及例如搭扣之类的连接设备1663以便附着第二移动设备,其中第一移动设备被插入在所述夹套中(其同样可以由缓冲垫材料制成,并且第二移动设备也可以处在缓冲垫夹套中)。这样就可以很容易地布置来自用户的两个(或者甚至单个)移动电话的所需摄影机捕获硬件。1604和1602是带有连接装置1603的两个元件,其可以被用来划定区域(例如虚拟游戏棋盘的场地或者虚拟房间等等)。其中的一个或更多元件可能已经包含了一个或更多摄影机。于是如果所述区段被关闭,则其内部事件将不会被主摄影机包含单元1622看到(其可以被用来在射击游戏中隐藏玩家),但是可以由其自身的(多个)摄影机1606监测。应当提到的是,所述摄影机或光学可识别元件可以包括通信装置以便与例如个人计算机之类的其他设备进行通信。光学标识块1640和1642示出了可以被用来建立系统的组件的其他两个例子,其由硬材料构成,并且在该例中可以垂直层叠。其中一个硬块还包含显示器1646,其可用于反馈游戏信息,也可用于提供(潜在地可以随着时间修改的)光学可识别标记。例如当在所述块上显示鸭子图标时其可以充当水池,但是当其显示骷髅头时其中的水则有毒。玩家在“跳入池中”时可能没有注意到这一点,但是由于系统将注意到,因此玩家将会由于跳入毒药中而失去分数。此外还示出了示例性多色图案1644。鉴于所述贴片可以是黄色的,这些例如红色、绿色和蓝色的局部颜色可以帮助识别游戏情况,例如遮挡。应当理解的是,通过使用这样的组件,可以在操作中构造许多应用,不仅仅是对于游戏实用,而且还可以用于更加严肃的应用,比如区域监测、工业生产等等。
应当认识到,为了清楚起见,在前面的描述中参照不同的功能单元和处理器对本发明的各个实施例进行了描述。但是应当认识到,在不背离本发明的情况下,可以使用不同功能单元或处理器之间的任何适当的功能分布。举例来说,被图示为由单独的处理器或控制器施行的功能可以由相同的处理器或控制器施行。因此,在提到特定功能单元时仅仅应被看作提到用于提供所描述的功能的适当措施,而不表明严格的逻辑或物理结构或组织。
本发明可以按照任何适当形式来实施,其中包括硬件、软件、固件或其任意组合。本发明可以可选地被部分实施为运行在一个或更多数据处理器和/或数字信号处理器上的计算机软件。可以按照任何适当方式在物理、功能和逻辑方面实施本发明的一个实施例的各个元件和组件。实际上,所述功能可以被实施在单个单元中、实施在多个单元中或者实施为其他功能单元的一部分。因此,本发明可以被实施在单个单元中,或者可以在物理和功能方面分布在不同的单元和处理器之间。
虽然结合一些实施例描述了本发明,但是并不意图将其限制到这里所阐述的具体形式。相反,本发明的范围仅由所附权利要求书限定。此外,虽然某一项特征看起来是结合特定实施例描述的,但是本领域技术人员将认识到,所描述的实施例的各项特征可以根据本发明相组合。在权利要求书中,“包括”一词不排除其他元件或步骤的存在。
此外,虽然是单独列出的,但是可以例如由单个单元或处理器实施多个装置、元件或方法步骤。此外,虽然各项单独特征可能被包括在不同的权利要求中,但是也可能有利地组合这些特征,并且包括在不同的权利要求中并不意味着所述特征的组合不是可行的和/或有利的。此外,在一类权利要求中包括某项特征并不意味着限制到该类别,相反表明所述特征同样适用于其他适当的权利要求类别。此外,权利要求中的各项特征的顺序并不意味着各项特征必须按照任何具体顺序来工作,特别来说方法权利要求中的各个单独步骤的顺序并不意味着必须按照该顺序来施行各个步骤。相反,可以按照任何适当顺序来施行各个步骤。此外,在提到单数时并不排除复数。因此,在提到“一”、“一个”、“第一”、“第二”等时并不排除多个。权利要求中的附图标记仅仅是作为阐明性实例给出的,并且不应当被理解成以任何方式限制权利要求的范围。
Claims (19)
1.一种用于确定空间的检测区域内的对象的位置特性的系统,所述系统包括:
用于放置在检测区域的地面上或其附近的光学可识别元件(103),所述光学可识别元件(103)具有光学属性;
用于放置在检测区域对面离开光学可识别元件(103)的摄影机(101),所述摄影机(101)被设置成捕获包括检测区域和光学可识别元件(103)的图像;
用于响应于所述光学属性检测图像中的光学可识别元件(103)的检测器(403);
用于响应于所述光学属性确定光学可识别元件(103)在图像中的至少一处遮挡的遮挡属性的遮挡处理器(405);以及
用于响应于所述遮挡属性确定深度位置的位置处理器(407),所述深度位置表明对象沿着摄影机(101)的光轴的位置。
2.如权利要求1所述的用于确定对象的位置特性的系统,所述对象被设置在作为房间的空间内,所述系统包括:
用于放置在对应于房间的检测区域的背景表面上的光学可识别元件(103),所述光学可识别元件(103)具有光学属性;
用于放置在检测区域对面离开光学可识别元件(103)的摄影机(101),所述摄影机(101)被设置成捕获包括检测区域和光学可识别元件(103)的图像;
用于响应于所述光学属性检测图像中的光学可识别元件(103)的检测器(403);
用于响应于所述光学属性确定光学可识别元件(103)在图像中的至少一处遮挡的遮挡属性的遮挡处理器(405);以及
用于响应于所述遮挡属性确定深度位置的位置处理器(407),所述深度位置表明对象沿着摄影机(101)的光轴的位置。
3.权利要求1或2的系统,其中,所述光学可识别元件(103)是被施加到墙壁上或者被用来形成人为边界的细长元件,并且在空间上被限制到墙壁的一半高度以下。
4.权利要求1或2的系统,其中,所述位置处理器(407)被设置成:确定所述图像的与光学可识别元件的被遮挡节段相关联的图像对象;以及响应于所述图像对象的图像特性生成深度位置。
5.权利要求1或2的系统,其中,所述图像特性表明图像对象在远离光学可识别元件的图像方向上的延伸。
6.权利要求4的系统,其中,所述位置处理器(407)被设置成:
检测对应于房间地板的另一个图像对象;
确定所述图像对象与所述另一个图像对象之间的节段边界;以及
响应于光学可识别元件与节段边界之间的图像距离确定深度位置。
7.权利要求1或2的系统,其还包括:
用于放置在检测区域对面离开光学可识别元件的另一个摄影机(1101),所述另一个摄影机(1101)捕获包括检测区域和光学可识别元件(103)的另一幅图像;并且其中
所述检测器(403)还被设置成响应于所述光学属性检测所述另一幅图像中的光学可识别元件(103);
所述遮挡处理器(405)被设置成响应于所述光学属性确定光学可识别元件(103)在所述另一幅图像中的至少一处遮挡的另一项遮挡属性;并且
所述位置处理器(407)被设置成响应于所述遮挡属性和所述另一项遮挡属性确定深度位置。
8.权利要求7的系统,其中,所述位置处理器(407)被设置成响应于所述图像和所述另一幅图像中的被遮挡节段之间的相对图像位置的差异确定深度位置。
9.权利要求1或2的系统,其还包括尺寸处理器(1401),所述尺寸处理器(1401)被设置成响应于深度位置和光学可识别元件的至少一个被遮挡图像节段的图像尺寸来确定对于对象的尺寸估计。
10.权利要求1或2的系统,其中,所述对象是人类或非人类生物,并且所述系统还包括用于响应于所述遮挡属性检测生物在检测区域内的存在的检测处理器(1403)。
11.权利要求10的系统,其中,所述检测处理器(1403)被设置成响应于图像中的光学可识别元件(103)的遮挡的动态变化来检测所述存在。
12.权利要求11的系统,其中,所述检测处理器(1403)还被设置成响应于所述动态变化确定生物和生物活动的至少其中一项的第一特性。
13.权利要求1或2的系统,其中,所述检测器(403)被设置成响应于检测到具有与所述光学属性匹配的图像属性的图像区域来估计所述图像的对应于光学可识别元件(103)的几何区域,并且所述遮挡处理器(407)被设置成识别出具有与所述光学属性不匹配的图像属性的所述几何区域的被遮挡节段。
14.权利要求1或2的系统,其还被设置成确定房间内的光学可识别元件(103)的标称被遮挡节段集合;并且其中所述位置处理器(409)被设置成对于所述标称被遮挡节段补偿遮挡属性。
15.权利要求14的系统,其还被设置成在遮挡的持续时间超出阈值的情况下把光学可识别元件的被遮挡节段标示为标称被遮挡节段。
16.权利要求1的系统,其包括遮挡分析单元(1422),所述遮挡分析单元(1422)用于分析至少一幅所捕获图像中的至少一个空间区段的光学属性,其中该空间区段的所有像素对应于光学可识别元件和造成遮挡的对象的至少其中一项。
17.权利要求1的系统,其包括摄影机包含单元(1622,1660,1605),所述摄影机包含单元(1622,1660,1605)具有包含区段(1630),从而允许把至少一个便携式摄影机或者至少一个带有摄影机的便携式设备合并在其中。
18.权利要求1的系统,其包括至少两个带有摄影机的便携式设备以及用于在所述至少两个带有摄影机的便携式设备之间进行协调的软件,其中所述协调至少涉及将来自所述至少两个带有摄影机的便携式设备的所捕获图像进行比较。
19.一种确定空间内的对象的位置特性的方法,所述方法包括:
将光学可识别元件(103)放置在对应于房间的检测区域的地面上或其附近,所述光学可识别元件(103)具有光学属性;
将摄影机(101)放置在检测区域对面离开光学可识别元件(103),所述摄影机捕获包括检测区域和光学可识别元件(103)的图像;
响应于所述光学属性检测图像中的光学可识别元件(103);
响应于所述光学属性确定光学可识别元件(103)在图像中的遮挡的遮挡属性;以及
响应于所述遮挡属性确定深度位置,所述深度位置表明对象沿着摄影机(101)的光轴的位置。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP10150478.5 | 2010-01-12 | ||
EP10150478 | 2010-01-12 | ||
EP10157685.8 | 2010-03-25 | ||
EP10157685 | 2010-03-25 | ||
PCT/IB2011/050084 WO2011086484A1 (en) | 2010-01-12 | 2011-01-10 | Determination of a position characteristic for an object |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102687174A true CN102687174A (zh) | 2012-09-19 |
CN102687174B CN102687174B (zh) | 2017-02-15 |
Family
ID=43734302
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180005948.0A Expired - Fee Related CN102687174B (zh) | 2010-01-12 | 2011-01-10 | 确定对象的位置特性 |
Country Status (7)
Country | Link |
---|---|
US (1) | US9373169B2 (zh) |
EP (1) | EP2524352B1 (zh) |
JP (1) | JP5739910B2 (zh) |
KR (1) | KR101743771B1 (zh) |
CN (1) | CN102687174B (zh) |
TW (1) | TW201142753A (zh) |
WO (1) | WO2011086484A1 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110736426A (zh) * | 2019-10-24 | 2020-01-31 | 深圳市瑞源祥橡塑制品有限公司 | 物体尺寸获取方法、装置、计算机设备以及存储介质 |
CN110874101A (zh) * | 2019-11-29 | 2020-03-10 | 哈工大机器人(合肥)国际创新研究院 | 一种机器人清扫路径的生成方法及装置 |
CN111178128A (zh) * | 2019-11-22 | 2020-05-19 | 北京迈格威科技有限公司 | 图像识别方法、装置、计算机设备和存储介质 |
CN112157653A (zh) * | 2020-09-11 | 2021-01-01 | 北京如影智能科技有限公司 | 一种遮挡检测的方法及装置 |
US11899467B2 (en) * | 2019-03-07 | 2024-02-13 | Samsung Electronics Co., Ltd. | Electronic apparatus and control method thereof |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8532860B2 (en) * | 2011-02-25 | 2013-09-10 | Intellibot Robotics Llc | Methods and systems for automatically yielding to high-priority traffic |
US20130063556A1 (en) * | 2011-09-08 | 2013-03-14 | Prism Skylabs, Inc. | Extracting depth information from video from a single camera |
CN202422153U (zh) * | 2012-01-10 | 2012-09-05 | 冯振 | 一种视频检测人体数量和位置及其移动的装置 |
US9675226B2 (en) | 2012-10-26 | 2017-06-13 | Lg Electronics Inc. | Robot cleaner system and control method of the same |
US9036866B2 (en) | 2013-01-28 | 2015-05-19 | Alliance For Sustainable Energy, Llc | Image-based occupancy sensor |
US9517175B1 (en) * | 2013-03-14 | 2016-12-13 | Toyota Jidosha Kabushiki Kaisha | Tactile belt system for providing navigation guidance |
US9560103B2 (en) * | 2013-06-26 | 2017-01-31 | Echostar Technologies L.L.C. | Custom video content |
US10013614B2 (en) * | 2016-06-29 | 2018-07-03 | Google Llc | Using an image matching system to improve the quality of service of a video matching system |
US10552690B2 (en) * | 2016-11-04 | 2020-02-04 | X Development Llc | Intuitive occluded object indicator |
US10157532B2 (en) * | 2016-12-21 | 2018-12-18 | Walmart Apollo, Llc | Detection system for unsafe activity at a shelving unit |
US10558264B1 (en) | 2016-12-21 | 2020-02-11 | X Development Llc | Multi-view display with viewer detection |
CN109195106B (zh) * | 2018-09-17 | 2020-01-03 | 北京三快在线科技有限公司 | 列车内定位方法和装置 |
US10380440B1 (en) | 2018-10-23 | 2019-08-13 | Capital One Services, Llc | Method for determining correct scanning distance using augmented reality and machine learning models |
WO2020119924A1 (en) * | 2018-12-14 | 2020-06-18 | Xovis Ag | Method and arrangement for determining a group of persons to be considered |
TWI693559B (zh) * | 2019-06-03 | 2020-05-11 | 雷科股份有限公司 | 非同軸視覺系統應用於量測物品之上下重合度的方法 |
JP7438884B2 (ja) | 2020-08-06 | 2024-02-27 | 清水建設株式会社 | 目地寸法の計測方法 |
WO2023013879A1 (en) * | 2021-08-03 | 2023-02-09 | Samsung Electronics Co., Ltd. | A method and system for tracking at least one action of the user(s) for overcoming occlusion |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000115810A (ja) * | 1998-09-30 | 2000-04-21 | Matsushita Electric Ind Co Ltd | ステレオ画像処理方法および装置と侵入物体監視システム |
US6546356B1 (en) * | 2000-05-01 | 2003-04-08 | Genovation Inc. | Body part imaging method |
JP2005061894A (ja) * | 2003-08-08 | 2005-03-10 | Dentsu Tec Inc | 位置検出装置 |
US20070081695A1 (en) * | 2005-10-04 | 2007-04-12 | Eric Foxlin | Tracking objects with markers |
US20070122000A1 (en) * | 2005-11-29 | 2007-05-31 | Objectvideo, Inc. | Detection of stationary objects in video |
US20080056536A1 (en) * | 2000-10-03 | 2008-03-06 | Gesturetek, Inc. | Multiple Camera Control System |
US20090121017A1 (en) * | 2007-11-08 | 2009-05-14 | International Business Machines Corporation | Using Cameras to Monitor Actual Inventory |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4507654A (en) | 1981-10-30 | 1985-03-26 | A. R. F. Products | Security system with infrared optical position detector |
US4609909A (en) | 1985-03-04 | 1986-09-02 | Gte Government Systems Corporation | Multimode perimeter intrusion detection system |
US6411215B1 (en) | 1999-02-19 | 2002-06-25 | J. Mitchell Shnier | Optical methods for detecting the position or state of an object |
US6278373B1 (en) | 2000-02-18 | 2001-08-21 | Anthony L. Jaurigue | Laser intrusion system for detecting motion in a swimming pool |
TW561423B (en) | 2000-07-24 | 2003-11-11 | Jestertek Inc | Video-based image control system |
US7643024B2 (en) * | 2001-05-17 | 2010-01-05 | The Trustees Of Columbia University In The City Of New York | System and method for view management in three dimensional space |
DE102006019468B3 (de) | 2006-04-26 | 2007-08-30 | Siemens Ag | Optischer Sensor und Verfahren zur optischen Inspektion von Oberflächen |
US7868759B2 (en) | 2006-09-25 | 2011-01-11 | International Business Machines Corporation | Shopping cart bottom of the basket item detection |
WO2009037914A1 (ja) | 2007-09-21 | 2009-03-26 | National Institute Of Advanced Industrial Science And Technology | 構造体の欠陥を検知するための方法及びシステム |
-
2011
- 2011-01-10 EP EP11703029.6A patent/EP2524352B1/en not_active Not-in-force
- 2011-01-10 US US13/519,363 patent/US9373169B2/en active Active
- 2011-01-10 TW TW100100832A patent/TW201142753A/zh unknown
- 2011-01-10 KR KR1020127021029A patent/KR101743771B1/ko active IP Right Grant
- 2011-01-10 WO PCT/IB2011/050084 patent/WO2011086484A1/en active Application Filing
- 2011-01-10 JP JP2012547581A patent/JP5739910B2/ja not_active Expired - Fee Related
- 2011-01-10 CN CN201180005948.0A patent/CN102687174B/zh not_active Expired - Fee Related
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000115810A (ja) * | 1998-09-30 | 2000-04-21 | Matsushita Electric Ind Co Ltd | ステレオ画像処理方法および装置と侵入物体監視システム |
US6546356B1 (en) * | 2000-05-01 | 2003-04-08 | Genovation Inc. | Body part imaging method |
US20080056536A1 (en) * | 2000-10-03 | 2008-03-06 | Gesturetek, Inc. | Multiple Camera Control System |
JP2005061894A (ja) * | 2003-08-08 | 2005-03-10 | Dentsu Tec Inc | 位置検出装置 |
US20070081695A1 (en) * | 2005-10-04 | 2007-04-12 | Eric Foxlin | Tracking objects with markers |
US20070122000A1 (en) * | 2005-11-29 | 2007-05-31 | Objectvideo, Inc. | Detection of stationary objects in video |
US20090121017A1 (en) * | 2007-11-08 | 2009-05-14 | International Business Machines Corporation | Using Cameras to Monitor Actual Inventory |
Non-Patent Citations (3)
Title |
---|
ANTONIO TORRALBA ET AL: "Depth Estimation from Image Structure", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》 * |
RITA CUCCHIARA ET AL.: "A multi-camera vision system for fall detection and alarm generation", 《EXPERT SYSTEMS》 * |
ZIHENG ZHOU ET AL: "A Bayesian Framework for Extracting Human Gait Using Strong Prior Knowledge", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11899467B2 (en) * | 2019-03-07 | 2024-02-13 | Samsung Electronics Co., Ltd. | Electronic apparatus and control method thereof |
CN110736426A (zh) * | 2019-10-24 | 2020-01-31 | 深圳市瑞源祥橡塑制品有限公司 | 物体尺寸获取方法、装置、计算机设备以及存储介质 |
CN110736426B (zh) * | 2019-10-24 | 2021-05-25 | 深圳市瑞源祥橡塑制品有限公司 | 物体尺寸获取方法、装置、计算机设备以及存储介质 |
CN111178128A (zh) * | 2019-11-22 | 2020-05-19 | 北京迈格威科技有限公司 | 图像识别方法、装置、计算机设备和存储介质 |
CN111178128B (zh) * | 2019-11-22 | 2024-03-19 | 北京迈格威科技有限公司 | 图像识别方法、装置、计算机设备和存储介质 |
CN110874101A (zh) * | 2019-11-29 | 2020-03-10 | 哈工大机器人(合肥)国际创新研究院 | 一种机器人清扫路径的生成方法及装置 |
CN112157653A (zh) * | 2020-09-11 | 2021-01-01 | 北京如影智能科技有限公司 | 一种遮挡检测的方法及装置 |
CN112157653B (zh) * | 2020-09-11 | 2022-02-01 | 北京如影智能科技有限公司 | 一种遮挡检测的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2013517542A (ja) | 2013-05-16 |
TW201142753A (en) | 2011-12-01 |
KR20120115384A (ko) | 2012-10-17 |
WO2011086484A1 (en) | 2011-07-21 |
KR101743771B1 (ko) | 2017-06-20 |
EP2524352A1 (en) | 2012-11-21 |
EP2524352B1 (en) | 2017-11-29 |
US9373169B2 (en) | 2016-06-21 |
JP5739910B2 (ja) | 2015-06-24 |
CN102687174B (zh) | 2017-02-15 |
US20120287266A1 (en) | 2012-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102687174A (zh) | 确定对象的位置特性 | |
US11481024B2 (en) | Six degree of freedom tracking with scale recovery and obstacle avoidance | |
US10729985B2 (en) | Retro-reflective optical system for controlling amusement park devices based on a size of a person | |
US10275945B2 (en) | Measuring dimension of object through visual odometry | |
JP5832116B2 (ja) | 3次元場面の分析 | |
US20190294890A1 (en) | Method and apparatus for surveillance | |
US20070098250A1 (en) | Man-machine interface based on 3-D positions of the human body | |
George et al. | Humanoid robot indoor navigation based on 2D bar codes: Application to the NAO robot | |
US10579138B2 (en) | Head-mounted sensor system | |
WO2018119403A1 (en) | Head mounted sensor system | |
WO2013088517A1 (ja) | 停立人物の向き推定方法 | |
KR20220082567A (ko) | Cctv 영상의 객체 정보와 3차원 공간 좌표를 매칭한 상황인지 기반 실시간 공간 지능 정보안내 시스템 및 그 방법 | |
Akamatsu et al. | Development of a person counting system using a 3D laser scanner | |
JP2008040867A (ja) | 死角内物品報知システム、死角内物品報知方法、及び死角内物品報知プログラム | |
KR102507339B1 (ko) | 라이다센서 및 빅데이터를 이용한 체험형 축구 경기 운영시스템 | |
US11982759B2 (en) | System for determining the position of persons on a floor | |
Frese et al. | (A) Vision for 2050-Context-Based Image Understanding for a Human-Robot Soccer Match | |
Na | A study on detection of risk factors of a toddler’s fall injuries using visual dynamic motion cues | |
WO2016046690A1 (en) | Method of configuring a monitoring region |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170215 Termination date: 20210110 |
|
CF01 | Termination of patent right due to non-payment of annual fee |