CN104521230B - 用于实时重建3d轨迹的方法和系统 - Google Patents
用于实时重建3d轨迹的方法和系统 Download PDFInfo
- Publication number
- CN104521230B CN104521230B CN201380037611.7A CN201380037611A CN104521230B CN 104521230 B CN104521230 B CN 104521230B CN 201380037611 A CN201380037611 A CN 201380037611A CN 104521230 B CN104521230 B CN 104521230B
- Authority
- CN
- China
- Prior art keywords
- video camera
- owner
- video
- record
- visualizations
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000012800 visualization Methods 0.000 claims abstract description 31
- 238000012545 processing Methods 0.000 claims abstract description 27
- 230000003068 static effect Effects 0.000 claims abstract description 11
- 230000004044 response Effects 0.000 claims abstract description 10
- 230000003190 augmentative effect Effects 0.000 claims abstract description 6
- 230000000007 visual effect Effects 0.000 claims description 16
- 230000000694 effects Effects 0.000 claims description 8
- 230000002708 enhancing effect Effects 0.000 claims 1
- 230000000717 retained effect Effects 0.000 abstract description 4
- 230000006870 function Effects 0.000 description 16
- 238000012544 monitoring process Methods 0.000 description 9
- 230000014509 gene expression Effects 0.000 description 7
- 239000003550 marker Substances 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 230000004888 barrier function Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000002349 favourable effect Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000000571 coke Substances 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/292—Multi-camera tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
- G08B13/19608—Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30112—Baggage; Luggage; Suitcase
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Processing Or Creating Images (AREA)
- Alarm Systems (AREA)
Abstract
本发明涉及一种通过连接到一组摄像机并且访问这些摄像机的视频记录的处理服务器来重建一个场所中轨迹的方法,所述处理服务器基于3D动态表示数据库和所述场所的3D表示的静态模型来实施基于虚拟现实和增强现实的3D可视化应用。3D可视化应用配置为用于:在时刻T0时的3D可视化中,响应于来自用户的第一指令来确定被视为被物主遗留在该场所中的对象的位置;确定最佳定位以显示所述对象的至少一个摄像机;访问该摄像机的视频记录以显示在T0之前的时刻t时的记录,t是响应于与所述物主遗留所述对象的时刻相对应的第二指令来确定的;启动用于通过不同摄像机从时刻t到目前时刻的记录来追踪所述物主的方法,以确定所述物主的当前位置。
Description
本发明涉及用于重建人或移动对象在一个场所处的轨迹的方法和系统。特别地,本发明涉及敏感场所,例如机场、体育场、车站等的决策中心内的安全管理。
本发明有利地但不仅仅应用于搜索已经遗留行李件的人,该行李可能被视为是可疑的。
目前,例如在车站中发现有遗留的行李件的情况下,通过扬声器做出通知使得遗留其行李的人会过来并领取该行李。但是,如果该行李是被故意遗弃的,则行李的物主不会出现来收回其行李。此外,即使在行李被无意地遗弃的情况下,物主出现所需要的时间也可能非常长。只要在接近行李已经被遗弃的地方的活动由于预防措施中断直到确定该行李是无害的,这就是不利的。
已知文件US 2004/0240542描述了一种具有多个摄像机的监控系统,每个摄像机都与用于自动检测可疑对象的方法相关。在US 2004/0240542所描述的系统中,实时地自动分析来自摄像机的数据,以确定已经为其预定义参数的可疑对象。在警报的情况下,操作者回放记录以确定有问题的对象:实际上是机器检测然后触发警报,然后操作者必须确定对象。
还已知文件EP 1 975 752描述了一种使得能够确定最佳定位的摄像机的实时方法。但是,该实时方法需要最初确定对象,然后确定在摄像机朝向有问题的对象的定向方面最佳定位的摄像机。
本发明的一个目的是减少在包括视频监控系统的位置中搜索对象的物主的时间。
本发明的另一目的是提供一种易于使用的、有效的、统一的工具以确定物主。
上述目的中的至少一个利用一种用于通过连接到一组摄像机并且访问来自这些摄像机的视频记录的处理服务器来重建一个场所处轨迹的方法来实现。该处理服务器基于以下来实施基于虚拟现实和增强现实的3D可视化应用:
-场所的3D表示的静态模型,和
-动态3D表示数据库。
根据本发明,3D可视化应用配置为用于:
-在时刻T0时的3D可视化中,响应于来自用户的第一指令来确定被视为已经被物主遗留在该场所的对象的位置,
-确定用于显示该对象的最佳定位的至少一个摄像机,
-访问来自该摄像机的视频记录以显示在T0之前的时刻t时的记录,t响应于与物主遗留对象的时刻相对应的第二指令来确定,
-启动用于通过来自不同摄像机的从时刻t到目前时刻的记录来追踪物主的方法,以确定物主的当前位置。
利用根据本发明的方法,当由监控摄像机监测到对象被遗留在一个场所时,如今可以快速地发现被遗留的对象的物主。在敏感场所、例如机场处,这种方法使得能够快速拘押遗留的行李件的物主以核实这是真实的疏忽事件还是危险的行为。
对象的位置可以通过用户在显示场所的3D可视化的屏幕上的点击来确定。用户可以已经通过来自安保人员的呼叫接收关于对象状况的信息。还可以根据处理服务器中接收到的GPS(“全球定位系统”)坐标或来自建筑物内的定位系统的坐标来确定对象的位置。这些坐标会由安保人员具体地从便携式设备、例如移动电话或“智能手机”传输。优选地,摄像机形成包括其他传感器的视频监控系统的一部分。
根据本发明的方法提供3D可视化以及对实时多维决策的辅助。由此可以在几秒内而不是如之前的几分钟内检测事件、消除怀疑、控制威胁或采取行动。
处理服务器使用场所的3D表示的静态模型和动态3D表示数据库来确定最佳放置的摄像机。3D表示使得能够特别地考虑墙壁和其他障碍物。由此可以得知人是否位于摄像机的视场中。动态数据库可以包含关于以下的动态数据:
-摄像机的移动,
-用户做出的不同点击,
-正在监控的轨迹,
-坐标,
-时间线,
-等。
参照已知的现有技术,结合文件US 2004/0240542和EP 1 975 752不能实现本发明,这是因为在本发明中,操作者确定对象,确定最佳定位的摄像机,然后回放来自该相同摄像机的记录。在US 2004/0240542中,记录被回放,而不是由操作者来确定对象。
根据本发明,追踪方法允许在其中可以看到物主的视频的直接回放,在回放期间当物主离开视频(记录)的视场时从一个视频转到另一个视频。这种转换每次都发生,确定最佳定位的摄像机。
根据本发明的一个有利特征,可以如下所述地进行最佳定位的摄像机的选择:
-基于在显示正在查看的记录的2D监视器上做出的点击,确定物主与地面的作用点的三维坐标,
-基于3D可视化和2D监视器之间的双射函数来计算在3D可视化中物主与地面的作用点的三维坐标,并且基于该三维坐标来确定最佳定位的摄像机,然后显示来自最佳定位的摄像机的记录以继续追踪。
本发明特别地但并不仅仅值得注意的是,通过在与地面的作用点上的点击,实际上固定了沿着“z”轴的位置,该位置对应于地面。由此利用x、y、z坐标,本领域技术人员可以找到使得能够使3D可视化和监视器上的2D视频显示联系的双射函数。
作为非限制性实例,可以如下所述地定义描述双射函数的算法:
双射函数3D坐标<->2D摄像机坐标
f:摄像机参考标记->3D参考标记
f-1:3D参考标记->摄像机参考标记
(u,v)视频窗口中2D点的标准化坐标
(X,Y,Z)三维空间中3D点的坐标
f(u,v,摄像机参考标记,3D参考标记,3D静态模型,3D动态模型)->X,Y,Z
Calculate3Dposition(u,v,摄像机参考标记,3D参考标记)->U,V
CalculateIntersection(U,V,3D静态模型,3D动态模型)->X,Y,Zf-1(X,Y,Z,3D参考标记,摄像机参考标记,3D静态模型,3D动态模型)->U,V
If(X,Y,Z)在摄像机视场(摄像机参考标记)中ThenCalculatePosition2D(X,Y,Z,3D参考标记,摄像机参考标记,u,v)
End if
监视器上的点击使得在3D可视化中能够具有三维定位。转换到3D表示使得能够考虑障碍物并且有效地计算最佳定位的摄像机。
根据本发明的一个有利特征,通过计算每个摄像机的d/f比来确定最佳放置的摄像机,d为物主与地面的作用点的三维坐标和所考虑的摄像机之间的距离,f为摄像机的焦距。表述“最佳定位的摄像机”指的是物主在其视场中并且具有最小d/f比的摄像机。可以具有多个摄像机的排名,并且不仅显示最佳定位的摄像机,还显示最佳定位的那些摄像机中的多个摄像机。
根据一个实施方案,焦距和摄像机的位置可以随着时间的推移保持不变。由于固定了摄像机,所以这降低了摄像机的动态特性。但是,由于每个摄像机的焦距都能够预先确定并且保存在存储空间中,所以这使得能够简化d/f比的计算。例如,为了进一步简化计算,焦距可以是对于所有的摄像机都相同的。
根据另一实施方案,处理服务器还可以恢复与焦距的动态特性和摄像机的方位相关的数据以计算d/f比。在这种情况下,处理服务器永久地连接到摄像机并且连续接收来自每个摄像机的特征数据。
有利地,3D可视化和监视器可以集成在同一显示屏上。监视器可以是覆盖到在背景中具有3D可视化的屏幕上的视频窗口。用户在视频窗口之一中的点击使得能够在3D可视化中获得相应的三维位置。优选地,显示屏是触摸屏类型的。
根据本发明的一个有利特征,在追踪方法中,可以以大于正常记录速度的速度来读取记录。实际上,为了实现实时的视频显示并确定物主的当前位置,以大于正常速度的速度来读取视频记录。可以在允许“时移”管理的数字存储介质上作出这些记录。
此外,一旦确定了物主的当前位置,就将其坐标无线传输到远程移动终端。
根据本发明,第一指令可以是由光标产生的,所述光标可以由用户沿着在3D可视化中显示的时间线移动。该时间光标提供与定位所有记录相关的参考系。
根据本发明的另一方面,提出了一种用于通过处理服务器重建一个场所处的轨迹的系统,所述处理服务器连接到:
-一组摄像机并且访问来自这些摄像机的视频记录,
-场所的3D表示的静态模型,和
-动态3D表示数据库。
该处理服务器实施基于虚拟现实和增强现实的3D可视化应用,用于:
-在时刻T0时的3D可视化中,响应于来自用户的第一指令来确定被视为已经被物主遗留在该场所的对象的位置,
-确定用于显示该对象的最佳定位的至少一个摄像机,
-访问来自该摄像机的视频记录以显示在T0之前的时刻t时的记录,t响应于与物主遗留对象的时刻相对应的第二指令来确定,
-启动用于通过来自不同摄像机的从时刻t到目前时刻的记录来追踪物主的方法,以确定物主的当前位置。
通过查阅绝非限制性的实施方案的详细描述以及附图,本发明的其他优点和特征会变得明显,其中:
图1是根据本发明的识别系统的一般简图,
图2是根据本发明的融入两个视频监视器的3D可视化的简图,
图3是图示了摄像机的视场在地面上的投影的图,
图4是示出在实时追踪人的方法中所实施的步骤和动作的图,
图5是3D可视化中的事件的表示的简图,
图6是图示了显示视频记录的三个监视器和在下半部的3D可视化的简图,和
图7是图示了向远程设备发送信息的简化示意图。
虽然以下描述了用于识别在机场的一个位置处已经遗留行李件的人的轨迹的方法,但是本发明并不限制于此。本发明可以应用到用于识别在包括视频监控系统的场所处的轨迹的任何方法。
图1示出了具有使得能够实施3D可视化应用的硬件和软件组件的处理服务器1。硬件组件具体地包括称为RAM和ROM的存储组件、一个或更多个微处理器或微控制器、一个或更多个图形卡、一个或更多个网卡和输入/输出装置。该处理服务器与将机场区域的3D可视化作为背景显示的显示屏相关联。3D可视化应用基于机场的3D表示的静态模型3来执行,该模型保存在数据库中。该静态模型包括机场结构、墙壁、楼梯等的表示。还使用动态3D表示数据库4。该数据库包含与摄像机的移动、用户做出的不同的点击、正在被监视的轨迹、坐标以及时间线相关的数据。组合件因此使得能够准备3D表示,其一部分显示在屏幕2上。
处理服务器1还连接到机场的视频监控系统5。这可以是处理服务器已经连接到的现有的视频监控系统。通常可以提供其他系统,例如防入侵系统、访问控制、地理定位或通信系统。有利地,该视频监控系统包括在非常精确的位置中遍布整个机场的多个摄像机6、7和8。这些摄像机连接到包含来自这些摄像机的视频记录的数据库9。可以设想在滑动窗口上的记录,即仅保留例如24小时的视频使得不填满可用的存储空间。数据库9可以包含自动擦除超过24小时的任何记录的数字存储介质。来自每个摄像机的每个直接记录或视频都可以显示在监视器、即覆盖在显示屏2上的视频窗口上。
处理服务器1能够将指令发送到视频监控系统以恢复视频记录。
图2示出了显示屏2,其具有作为背景10的3D可视化,以及显示来自视频监控系统5的两个摄像机的视频的两个监视器11和12。
由处理服务器实施的3D可视化应用是增强现实类型的。这是在其中空间化并标准化所有安全信息的软件包,提供实时的决策支持和资源的有效操作管理。
监视器11和12显示其中将鼠标点击功能考虑在内的2D视频。3D可视化应用包含所显示的2D视频和背景3D可视化之间的双射函数。2D视频上的点击使得能够在3D可视化显示中确定相应的位置。
可以根据图3的投影来定义摄像机视场和3D参考标记之间的双射函数的一个实例:
f:摄像机参考标记->3D参考标记
实线矩形31表示摄像机视场在地面上的投影。
虚线32表示摄像机关于3D的可见锥:其由从摄像机移动到摄像机看到的中心点的方向矢量DC以及取决于焦距并对应于{u;v}={1;1}的两个坐标轴的两个角度α、β来限定。
方向33是相对于DC和{u.α,v.β}获得的。
在2D图像上点击的点34的坐标(x,y,z)通过方向33与表示地面的平面的交点来获得。
f-1:3D参考标记->摄像机参考标记
如果点(X,Y,Z)在摄像机的视场中,则坐标(u,v)通过将该点投影到摄像机的参考标记中来获得。
图2还示出了具有表示现在时间的第一光标14和表示过去时间的第二光标15的时间线13。优选地,监视器11和12显示与在第二光标的时间中的时刻相对于的视频记录。该第二光标可以由用户来移动以及时导航。根据本发明的方法对于安全保护的操作者来说是决策支持工具,这是因为该方法允许:
-来自摄像机和安全系统的信息的四维(空间-时间)分析和复原,
-来自不同种类的信息源的数据或来自第三方软件(地理定位和视频、防入侵和视频、具有空间-时间相关性的多重检测等)的数据的组合,
-根据动态3D模型(访问的开放-关闭)的撤离或干预路线的计算,和
-将安全保护程序并入到事件管理和警报公告发布中。
现在接着描述实施根据本发明的用于搜索已在机场内的区域中遗留行李件的物主的方法的一个实例。
下文中使用以下术语:
遗留行李:看起来不再处于其物主的监管下,并且已经是警报主题的包裹、行李件、小包、货物、袋子。从警报声明开始10分钟后,行李件视为已经被遗留。如果没有在这10分钟之内找到行李的物主,那么该行李处于遗弃行李的状态。
遗弃行李:当它们位于遗弃可能会导致官方处罚的区域中时被证明是不再处于其物主的监管下的包裹、行李件、小包、货物、袋子。安保部门对遗弃行李承担责任,并且其被安全边界包围。
可疑行李:其是一件遗弃行李,没有找到其物主,并且炸弹处理专家在分析后认为该行李是危险的。
物主:已经遗留或遗弃行李件的人。
遗留区:遗留行李所在的地方。
搜索区:3D建模的区域,其中操作者可以执行对遗弃行李的物主的搜索。
事件:事件是表现为3D定位于事件的位置周围的半球的情况。事件使得能够在3D场景中以符号表示遗弃行李并且对其进行定位。通过情况“遗留行李”来产生事件。事件是数据的结构化项,记录其所有状态变化。
视频标签:视频标签是由视频中的点击产生的空间-时间标签。为了重建轨迹,该标签以3D图形来表示。
3D可视化应用使用待保护的环境的3D表示。使两个区之间有所差别:遗留区和搜索区。行李的遗弃显著地影响遗留区。为了有利于搜索遗弃行李的物主,操作者具有比遗留区宽的区域的可用3D建模。该区包括:
·包含遗留区的0级(到达),
·1级(离开)
·-1级
·建筑物的直接外周边。
这3个级别的建模使得操作者能够在多个级别上追踪物主并且提高在例如10分钟的指定时间内找到他们的可能性。这通过示例进行公开,级别的数量是非限制性的。
特别地,考虑了观察到区的入口和区的出口的所有摄像机和级别(楼梯和自动扶梯)的变化。
搜索过程由图4中的图呈现。
图分为5部分:
·步骤(遗留行李、参照行李等)
·在两个步骤之间进行的活动
·操作者利用3D可视化应用进行的主要动作
·出现在该场所的人员接收到的信息
·指示指定时间限制的时间线。
如图4中的活动的图中所示,连续发生以搜索物主的三个活动为:
·确定物主
·确定物主的位置
·追踪物主
在步骤1中,确定遗留行李的位置。引起该步骤的情况是操作者通过警报系统或通过任何其他手段接收警报。操作者可以直接在3D场景中(例如声音警报)或者在智能手机上接收该警报。
操作者的活动是在3D可视化中标记行李的精确位置。为此,操作者基于包含在警报消息中的信息在3D场景中创建事件。该信息越精确,操作者可以定位遗弃行李的位置的精确度越高。
可以基于警报消息自动产生事件。实际上,如果警报消息被格式化,则可以自动将事件定位在消息中指示的位置处。
事件的创建是例如利用键盘快捷键执行的快速操作。图5中图示了3D建模中事件的表示的一个实例。示出事件泡16表示在两个柱子旁边的遗留区。还示出了物主的位置17。
事件以及其空间-时间和信息坐标记录在动态数据库中。事件的创建使得能够记录会用作用于确定关于搜索物主的10分钟的参照的时间(T0)。
在该步骤,确定事件的位置。操作者然后会显示来自查看事件位置的摄像机的视频流。该操作使得其一方面能够注意实际位置,另一方面能够确保他已经3D定位的事件确实对应于遗弃行李的准确位置。
3D可视化应用具有使得能够通过简单的点击来确定用于查看选定点的最佳定位的摄像机。考虑了已经3D建模的障碍物(柱子、墙壁、嵌板等)以确定对象是否真的对摄像机可见。
操作者将该功能应用于之前创建的事件。他获得摄像机的列表。他可以然后选择一个或更多个摄像机并且显示相应的视频流。根据视频子系统的开口程度,视频窗口显示在屏幕2上或者在另一屏幕上。
在对视频进行验证之后,操作者标记事件的精确位置。为此,如果合适的话,他移动事件泡然后描述事件:
·他通过描述遗弃行李来为事件命名;例如:红色手提箱。
·他添加注释:所参照的行李。
3D可视化应用将该信息作为记录在具有事件的空间-时间坐标的动态数据库中的情况进行处理。
参照遗留行李,操作者的活动然后包括确定物主。
该确定基于以下原则:知道可以看见遗弃行李的摄像机的列表的操作者可以检查与这些摄像机相关联的视频记录,找到行李被遗弃的精确时刻并找到物主。
为了确定物主,显示应用使与时间线13的显示对应的“时间线”功能对操作者是可用的。该功能使得操作者能够使用来自他之前已经选择的摄像机的视频记录。他可以及时复位视频记录并且利用视频历史获得物主的可用图像。
“时间线”功能使得能够同步地复位来自所选择的所有摄像机的记录。
操作者的活动然后包括:
·传递物主的图像
·重建物主的轨迹
·传递物主的轨迹
首先,操作者传递屏幕截图以将使得他们能够确定物主的第一信息提供给在场人员。
为了帮助重建轨迹,3D可视化应用使视频标签功能对操作者是可用的。当操作者在来自摄像机的视频记录中点击时,软件包执行以下行动:
·它使对应于视频中选定区域的点在3D中出现,
·该标签之后出现在来自可以看见该标签的摄像机的所有视图中(增强现实)。
图5是图示了视频标签的外观的示意图。
视频标签功能使得能够利用以下特征来帮助重建物主的轨迹:
·标签通过利用鼠标和触摸键的键盘快捷键进行应用,
·取得图像的时间与每个视频标签相关联,
·视频标签功能在3D可视化中关联两个连续的标签,这在使用视频记录时将轨迹提供给操作者。
当物主移动时,他最后离开摄像机的视场。在这种情况下,操作者通过点击物主的脚部来使用摄像机的直接选择功能以标记该脚部与地面的作用点:系统负责将摄像机的列表提供给操作者。他可以由此选择另一摄像机并继续重建轨迹。图6中的图提供该操作的图示:操作者然后通过在屏幕上可见的人的脚部上点击来使用来自摄像机中的一个、例如左边的摄像机1的视频记录上的视频标签,以继续重建轨迹。
该操作是迭代的。非常快速地,它可以提供会使得能够引导搜索的重要指示。指示的一个示例:物主已经乘坐位于门G处的自动扶梯下降到-1层;物主已经朝店铺“R”行进等。
一有足够的轨迹指示物,操作者就可以将它们传输到部署在南部终端中的安保人员。
轨迹重建的工作具有找到当前时刻的物主位置的目标。但是由操作者执行的工作可能使得不能定位物主,这是由于各种原因:
·物主已经离开搜索区,
·操作者已经不能重建轨迹。
在这种情况下,如果已经过去10分钟的时间限制,则遗留行李会变成一件遗弃行李并且这样对待。但是操作者会能够在这些第一个10分钟之外继续搜索。
如果确定了物主的位置,则这结束事件,由在事件窗口中添加注释的操作者手动执行操作。
现在接着描述从处理服务器到远程设备的警报过程。这些警报为操作者和部署在机场中的人员之间的信息交换。为了促进这些交换,3D可视化应用与在场的智能手机交互。
这些交换包括:
-发送关于物主的信息。一旦操作者已经确定了物主,他就传递由视频记录所产生的一个或更多个屏幕截图并且将其安全地发送到具有在系统上确认的智能手机的在场人员,以使得他们能够确定物主。
-智能手机定期发送使得能够地理定位人员的系统消息来以更好的方式引导他。
关于物主轨迹的信息在其重建时进行发送。这些传输会以包含简要注释的消息的形式进行。
图7示出将关于物主的信息从处理服务器传输到安保人员、特别是传输到边防警察的一个实例。在步骤1中,从监视器中提取照片并且操作者在步骤2中写下注释。照片和注释经由移动网络传输到出现在现场的多个安保人员的多媒体电话(“智能手机”)。该照片和注释以加密消息的形式传输到搜索物主的这些人员。注释可以包含关于位置或物主行进的轨迹的信息。照片加上了时间戳。
换言之,为了在3D可视化的人机界面中传输消息,操作者具有使得他能够进行以下行为的功能:
·由视频记录产生屏幕截图,
·在窗口中写注释,
·在发送按钮上点击以将“照片+注释”的组传输到具有专用智能手机的其他人。
还可以设想从处理服务器传输邮件。
通常,3D可视化应用基于以四维(空间和时间)记录与安全保护操作相关的状态的所有情况和变化的数据库来设计。
在具有遗弃行李的问题的情况下,以下的表格描述了会发生的情况的非详尽性实例。
当然,本发明并不限于刚才已经描述的实例,并且在不超出本发明的范围的情况下可以对这些实例做出许多调整。
Claims (11)
1.一种用于通过连接到一组摄像机并且访问来自这些摄像机的视频记录的处理服务器来重建一个场所处轨迹的方法,所述处理服务器基于以下来实施基于虚拟现实和增强现实的3D可视化应用:
-所述场所的3D表示的静态模型,和
-动态3D表示数据库,
所述3D可视化应用配置为用于:
-在时刻T0时的3D可视化中,响应于来自用户的第一指令来确定被视为已经被物主遗留在所述场所的对象的位置,
-确定用于显示所述对象的最佳定位的至少一个摄像机,
-访问来自该摄像机的视频记录以显示在T0之前的时刻t时的记录,t是响应于与所述物主遗留所述对象的时刻相对应的第二指令来确定的,
-启动用于通过来自不同摄像机的从时刻t到目前时刻的记录来追踪所述物主的方法,以确定所述物主的当前位置;每当物主离开摄像机的视场,就通过确定最佳定位的摄像机来进行用于追踪所述物主的方法,其中最佳定位的摄像机的确定如下所述地进行:
-基于在显示正在查看的记录的2D监视器上做出的点击,确定所述物主与地面的作用点的三维坐标,
-基于所述3D可视化和所述2D监视器之间的双射函数来计算在所述3D可视化中所述物主与地面的作用点的三维坐标,并且基于该三维坐标来确定最佳定位的摄像机,然后显示来自所述最佳定位的摄像机的记录以继续追踪。
2.根据权利要求1所述的方法,其特征在于,通过计算每个摄像机的d/f比来确定最佳放置的摄像机,d为所述物主与地面的作用点的三维坐标和所考虑的摄像机之间的距离,f为所考虑的摄像机的焦距。
3.根据权利要求2所述的方法,其特征在于,所述焦距和所述摄像机的位置随着时间的推移保持不变。
4.根据权利要求3所述的方法,其特征在于,所述焦距对于所有的摄像机都是相同的。
5.根据权利要求4所述的方法,其特征在于,所述处理服务器还恢复与所述焦距的动态特性和所述摄像机的方位相关的数据以计算所述d/f比。
6.根据权利要求1所述的方法,其特征在于,所述3D可视化和所述监视器集成在同一显示屏上。
7.根据权利要求6所述的方法,其特征在于,所述显示屏是触摸屏类型的。
8.根据权利要求1、6和7中任一项所述的方法,其特征在于,在追踪方法期间,以大于正常记录速度的速度读取所述记录。
9.根据权利要求1、6和7中任一项所述的方法,其特征在于,一旦确定所述物主的当前位置,就将其坐标无线传输到远程移动终端。
10.根据权利要求1、6和7中任一项所述的方法,其特征在于,所述第一指令是由光标产生的,所述光标能够由所述用户沿着在所述3D可视化中显示的时间线移动。
11.一种用于通过处理服务器重建一个场所处的轨迹的系统,所述处理服务器连接到:
-一组摄像机并且访问来自这些摄像机的视频记录,
-所述场所的3D表示的静态模型,和
-动态3D表示数据库,
所述处理服务器实施基于虚拟现实和增强现实的3D可视化应用,用于:
-在时刻T0时的3D可视化中,响应于来自用户的第一指令来确定被视为已经被物主遗留在所述场所的对象的位置,
-确定用于显示所述对象的最佳定位的至少一个摄像机,
-访问来自该摄像机的视频记录以显示在T0之前的时刻t时的记录,t是响应于与所述物主遗留所述对象的时刻相对应的第二指令来确定的,
-启动用于通过来自不同摄像机的从时刻t到目前时刻的记录来追踪所述物主的方法,以确定所述物主的当前位置;每当物主离开摄像机的视场,就通过确定最佳定位的摄像机来进行用于追踪所述物主的方法,其中最佳定位的摄像机的确定如下所述地进行:
-基于在显示正在查看的记录的2D监视器上做出的点击,确定所述物主与地面的作用点的三维坐标,
-基于所述3D可视化和所述2D监视器之间的双射函数来计算在所述3D可视化中所述物主与地面的作用点的三维坐标,并且基于该三维坐标来确定最佳定位的摄像机,然后显示来自所述最佳定位的摄像机的记录以继续追踪。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1256857 | 2012-07-16 | ||
FR1256857A FR2993385B1 (fr) | 2012-07-16 | 2012-07-16 | Procede et systeme de reconstruction de trajectoire 3d en temps reel |
PCT/EP2013/064541 WO2014012824A1 (fr) | 2012-07-16 | 2013-07-10 | Procede et systeme de reconstruction de trajectoire 3d en temps reel |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104521230A CN104521230A (zh) | 2015-04-15 |
CN104521230B true CN104521230B (zh) | 2018-10-02 |
Family
ID=47172804
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380037611.7A Expired - Fee Related CN104521230B (zh) | 2012-07-16 | 2013-07-10 | 用于实时重建3d轨迹的方法和系统 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9883165B2 (zh) |
EP (1) | EP2873238A1 (zh) |
CN (1) | CN104521230B (zh) |
FR (1) | FR2993385B1 (zh) |
WO (1) | WO2014012824A1 (zh) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2537296B (en) * | 2014-01-16 | 2018-12-26 | Bartco Traffic Equipment Pty Ltd | System and method for event reconstruction |
FR3018416B1 (fr) * | 2014-03-04 | 2017-06-23 | Thales Sa | Procede et systeme de supervision, notamment applique a la videosurveillance |
CN106683037A (zh) * | 2015-11-06 | 2017-05-17 | 阿里巴巴集团控股有限公司 | 三维可视化移动轨迹数据的方法和设备 |
US10178358B2 (en) * | 2016-01-14 | 2019-01-08 | Wipro Limited | Method for surveillance of an area of interest and a surveillance device thereof |
US10071306B2 (en) | 2016-03-25 | 2018-09-11 | Zero Latency PTY LTD | System and method for determining orientation using tracking cameras and inertial measurements |
US10486061B2 (en) | 2016-03-25 | 2019-11-26 | Zero Latency Pty Ltd. | Interference damping for continuous game play |
US10421012B2 (en) | 2016-03-25 | 2019-09-24 | Zero Latency PTY LTD | System and method for tracking using multiple slave servers and a master server |
US10717001B2 (en) | 2016-03-25 | 2020-07-21 | Zero Latency PTY LTD | System and method for saving tracked data in the game server for replay, review and training |
US9916496B2 (en) | 2016-03-25 | 2018-03-13 | Zero Latency PTY LTD | Systems and methods for operating a virtual reality environment using colored marker lights attached to game objects |
EP3253051A1 (de) * | 2016-05-30 | 2017-12-06 | Antony Pfoertzsch | Verfahren und system zum aufzeichnen von videodaten mit mindestens einem auf objekte ausrichtbaren fernsteuerbaren kamerasystem |
US10751609B2 (en) | 2016-08-12 | 2020-08-25 | Zero Latency PTY LTD | Mapping arena movements into a 3-D virtual world |
WO2018091112A1 (de) * | 2016-11-21 | 2018-05-24 | Robert Bosch Gmbh | Überwachungsvorrichtung zur überwachung eines überwachungsbereichs und überwachungsmodul für die überwachungsvorrichtung |
EP3622708B1 (en) * | 2017-05-26 | 2022-12-21 | Motorola Solutions, Inc. | Method to identify watchers of objects |
SG11202000466PA (en) | 2017-07-28 | 2020-02-27 | Nec Corp | Information processing apparatus, control method, and program |
US10546197B2 (en) | 2017-09-26 | 2020-01-28 | Ambient AI, Inc. | Systems and methods for intelligent and interpretive analysis of video image data using machine learning |
GB201720992D0 (en) * | 2017-12-15 | 2018-01-31 | Hooper Mark | A medical use |
CN108734022B (zh) * | 2018-04-03 | 2021-07-02 | 安徽师范大学 | 基于三维网格划分的隐私保护轨迹数据发布方法 |
US10628706B2 (en) * | 2018-05-11 | 2020-04-21 | Ambient AI, Inc. | Systems and methods for intelligent and interpretive analysis of sensor data and generating spatial intelligence using machine learning |
US11443515B2 (en) | 2018-12-21 | 2022-09-13 | Ambient AI, Inc. | Systems and methods for machine learning enhanced intelligent building access endpoint security monitoring and management |
US11195067B2 (en) | 2018-12-21 | 2021-12-07 | Ambient AI, Inc. | Systems and methods for machine learning-based site-specific threat modeling and threat detection |
CN111027644B (zh) * | 2019-12-26 | 2023-12-26 | 湖南大学 | 出行模式分类方法、装置、计算机设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003067360A2 (en) * | 2002-02-06 | 2003-08-14 | Nice Systems Ltd. | System and method for video content analysis-based detection, surveillance and alarm management |
CN101375599A (zh) * | 2004-06-01 | 2009-02-25 | L-3通信公司 | 用于执行视频监视的方法和系统 |
CN101681159A (zh) * | 2007-03-30 | 2010-03-24 | Abb研究有限公司 | 在工业过程中操作遥控相机的方法 |
WO2012067603A1 (en) * | 2010-11-15 | 2012-05-24 | Intergraph Technologies Company | System and method for camera control in a surveillance system |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8564661B2 (en) * | 2000-10-24 | 2013-10-22 | Objectvideo, Inc. | Video analytic rule detection system and method |
US7436887B2 (en) * | 2002-02-06 | 2008-10-14 | Playtex Products, Inc. | Method and apparatus for video frame sequence-based object tracking |
US20080192118A1 (en) * | 2006-09-22 | 2008-08-14 | Rimbold Robert K | Three-Dimensional Surveillance Toolkit |
US8922659B2 (en) * | 2008-06-03 | 2014-12-30 | Thales | Dynamically reconfigurable intelligent video surveillance system |
JP5203319B2 (ja) * | 2009-08-25 | 2013-06-05 | セコム株式会社 | 置き去り監視装置 |
US8786702B2 (en) * | 2009-08-31 | 2014-07-22 | Behavioral Recognition Systems, Inc. | Visualizing and updating long-term memory percepts in a video surveillance system |
US20110115909A1 (en) * | 2009-11-13 | 2011-05-19 | Sternberg Stanley R | Method for tracking an object through an environment across multiple cameras |
US8193909B1 (en) * | 2010-11-15 | 2012-06-05 | Intergraph Technologies Company | System and method for camera control in a surveillance system |
US9007432B2 (en) * | 2010-12-16 | 2015-04-14 | The Massachusetts Institute Of Technology | Imaging systems and methods for immersive surveillance |
-
2012
- 2012-07-16 FR FR1256857A patent/FR2993385B1/fr active Active
-
2013
- 2013-07-10 EP EP13742175.6A patent/EP2873238A1/fr not_active Withdrawn
- 2013-07-10 CN CN201380037611.7A patent/CN104521230B/zh not_active Expired - Fee Related
- 2013-07-10 US US14/415,366 patent/US9883165B2/en active Active
- 2013-07-10 WO PCT/EP2013/064541 patent/WO2014012824A1/fr active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003067360A2 (en) * | 2002-02-06 | 2003-08-14 | Nice Systems Ltd. | System and method for video content analysis-based detection, surveillance and alarm management |
CN101375599A (zh) * | 2004-06-01 | 2009-02-25 | L-3通信公司 | 用于执行视频监视的方法和系统 |
CN101681159A (zh) * | 2007-03-30 | 2010-03-24 | Abb研究有限公司 | 在工业过程中操作遥控相机的方法 |
WO2012067603A1 (en) * | 2010-11-15 | 2012-05-24 | Intergraph Technologies Company | System and method for camera control in a surveillance system |
Also Published As
Publication number | Publication date |
---|---|
EP2873238A1 (fr) | 2015-05-20 |
US9883165B2 (en) | 2018-01-30 |
FR2993385B1 (fr) | 2014-08-01 |
US20150208058A1 (en) | 2015-07-23 |
WO2014012824A1 (fr) | 2014-01-23 |
CN104521230A (zh) | 2015-04-15 |
FR2993385A1 (fr) | 2014-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104521230B (zh) | 用于实时重建3d轨迹的方法和系统 | |
EP2980767B1 (en) | Video search and playback interface for vehicle monitor | |
US10019877B2 (en) | Apparatus and methods for the semi-automatic tracking and examining of an object or an event in a monitored site | |
US8289390B2 (en) | Method and apparatus for total situational awareness and monitoring | |
Morse et al. | UAV video coverage quality maps and prioritized indexing for wilderness search and rescue | |
US20190037178A1 (en) | Autonomous video management system | |
US9241138B2 (en) | Image monitoring apparatus, image monitoring system, and image monitoring system configuration method | |
US11341830B2 (en) | Infrastructure construction digital integrated twin (ICDIT) | |
JP2010521831A (ja) | 状況に敏感なプライバシー保護及びパワー・レンズ・データ・マイニングを伴う効率的かつ柔軟な監視視覚化のための方法及び装置 | |
US11270562B2 (en) | Video surveillance system and video surveillance method | |
JP2008502228A (ja) | ビデオフラッシュライトを実行する方法およびシステム | |
CN101375599A (zh) | 用于执行视频监视的方法和系统 | |
JP2008537380A (ja) | インテリジェントなカメラ選択および対象追跡 | |
JP6013923B2 (ja) | ビデオエピソードの閲覧及び検索のためのシステム及び方法 | |
KR102499920B1 (ko) | 디지털트윈을 이용한 bim기반 건설현장 관제 시스템 | |
CN111222190A (zh) | 一种古建筑管理系统 | |
KR20160099931A (ko) | 재난 위험 및 관심 지역에 대한 재난 예방 및 관리방법 | |
US11651667B2 (en) | System and method for displaying moving objects on terrain map | |
CN112256818B (zh) | 一种电子沙盘的显示方法及装置、电子设备、存储介质 | |
WO2008060308A2 (en) | Data model for risk assessments | |
KR101709701B1 (ko) | 객체 추적 기반 통합 안전 서비스 시스템 및 방법 | |
Bouma et al. | Integrated roadmap for the rapid finding and tracking of people at large airports | |
JP2012084078A (ja) | 動体情報解析装置、動体情報解析システム、動体情報解析装置の制御方法、および動体情報解析装置の制御プログラム | |
US20230230379A1 (en) | Safety compliance system and method | |
Borstell et al. | Image-based situation assessment in public space |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20181002 Termination date: 20190710 |