CN107665326A - 乘客运输装置的监测系统、乘客运输装置及其监测方法 - Google Patents
乘客运输装置的监测系统、乘客运输装置及其监测方法 Download PDFInfo
- Publication number
- CN107665326A CN107665326A CN201610610026.7A CN201610610026A CN107665326A CN 107665326 A CN107665326 A CN 107665326A CN 201610610026 A CN201610610026 A CN 201610610026A CN 107665326 A CN107665326 A CN 107665326A
- Authority
- CN
- China
- Prior art keywords
- foreground object
- data frame
- foreground
- human body
- abnormality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 205
- 238000000034 method Methods 0.000 title claims description 107
- 230000002159 abnormal effect Effects 0.000 claims abstract description 111
- 238000000605 extraction Methods 0.000 claims abstract description 102
- 238000012545 processing Methods 0.000 claims abstract description 85
- 238000003384 imaging method Methods 0.000 claims abstract description 34
- 238000001514 detection method Methods 0.000 claims abstract description 23
- 230000005856 abnormality Effects 0.000 claims description 136
- 230000001133 acceleration Effects 0.000 claims description 87
- 230000009471 action Effects 0.000 claims description 67
- 238000005516 engineering process Methods 0.000 claims description 25
- 238000013528 artificial neural network Methods 0.000 claims description 15
- 230000008859 change Effects 0.000 claims description 15
- 239000000284 extract Substances 0.000 claims description 15
- 210000000988 bone and bone Anatomy 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 14
- 238000013135 deep learning Methods 0.000 claims description 12
- 238000013527 convolutional neural network Methods 0.000 claims description 8
- 230000000306 recurrent effect Effects 0.000 claims description 6
- 230000006870 function Effects 0.000 claims description 4
- 230000001960 triggered effect Effects 0.000 claims description 4
- 230000005484 gravity Effects 0.000 claims description 3
- 230000000877 morphologic effect Effects 0.000 claims description 2
- 238000002203 pretreatment Methods 0.000 claims description 2
- 238000000513 principal component analysis Methods 0.000 claims description 2
- 238000013459 approach Methods 0.000 claims 2
- 231100001261 hazardous Toxicity 0.000 claims 1
- 230000001537 neural effect Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 description 13
- 230000006399 behavior Effects 0.000 description 10
- 238000007634 remodeling Methods 0.000 description 10
- 241000282326 Felis catus Species 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 7
- 230000006872 improvement Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 230000000670 limiting effect Effects 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000009790 rate-determining step (RDS) Methods 0.000 description 4
- 238000001228 spectrum Methods 0.000 description 4
- 239000000203 mixture Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000003203 everyday effect Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000000116 mitigating effect Effects 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 230000002787 reinforcement Effects 0.000 description 2
- 208000007442 rickets Diseases 0.000 description 2
- 238000001429 visible spectrum Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000406668 Loxodonta cyclotis Species 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 241000287181 Sturnus vulgaris Species 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/53—Recognition of crowd images, e.g. recognition of crowd congestion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/778—Active pattern-learning, e.g. online learning of image or video features
- G06V10/7784—Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors
- G06V10/7788—Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors the supervisor being a human, e.g. interactive learning with a human teacher
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B21/00—Kinds or types of escalators or moving walkways
- B66B21/02—Escalators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B25/00—Control of escalators or moving walkways
- B66B25/003—Methods or algorithms therefor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B29/00—Safety devices of escalators or moving walkways
- B66B29/005—Applications of security monitors
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B29/00—Safety devices of escalators or moving walkways
- B66B29/08—Means to facilitate passenger entry or exit
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/40—Software arrangements specially adapted for pattern recognition, e.g. user interfaces or toolboxes therefor
- G06F18/41—Interactive pattern learning with a human teacher
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
Abstract
在此提供一种乘客运输装置的监测系统、检测方法及乘客运输装置。该监测系统包括:成像传感器和/或深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取数据帧;以及处理装置,用于对所述数据帧进行数据处理以监测所述监测区域是否异常,其被配置为包括:背景获取模块,用于基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;前景检测模块,用于将实时感测的数据帧与所述背景模型进行比对以获得前景对象;以及前景特征提取模块,用于从所述前景对象提取相应的前景对象标示特征;状态判断模块,用于至少基于所述前景对象标示特征判断所述前景对象是否属于异常群体,并在判断为“是”的情况下确定所述前景对象属于异常群体。
Description
技术领域
本发明涉及一种乘客运输装置领域,更具体而言,本发明涉及乘客运输装置的监测系统及其监测方法。
背景技术
作为改善乘客在楼层间的行走或缩短乘客步行距离的工具,乘客运输装置在日常生活中十分常见。作为示例,尤为常见的是通常用于商厦楼层间的自动扶梯以及通常用于大型机场的移动人行道。
对于此类工具,由于其具有极其广泛的适用范围及使用人群。因此,在使用过程中也不可避免地容易发生多种存在安全隐患的问题。作为其中一类情形,部分群体由于自身原因可能无法乘坐乘客运输装置,例如无人陪同的老年人、残疾人等等,再如无主的宠物或者携带了尺寸超出规格的物品的人群。作为其中另一类情形,一些能够乘坐乘客运输装置的群体在特定情形下可能会处于一些能够导致安全隐患的状态,例如突然在乘客运输装置上跌倒、在乘客运输装置上做出一些危险动作或者由于人流量较大而导致乘客运输装置上过于拥挤。如果能够对这些行为进行较好地检测,以消除安全隐患,则能够进一步改善乘客运输装置的应用。
另外,在判断出乘客运输装置上是否发生或即将发生存在安全隐患的特定事件的过程中,需要处理大量冗余的数据。如果在对这些数据进行分析判定前能够先筛除掉部分而不影响其判断准确度的话,也将更进一步地善乘客运输装置的应用。
再者,由于现在的人类通常都会随身携带一件或多件可穿戴设备,如果能够对这些设备加以合理的利用,使其也能够起到监测乘客运输装置的作用,则也能够进一步改善乘客运输装置的应用。
发明内容
本发明目的在于提供一些能够避免或及时制止各种形式的安全问题发生的用于乘客运输装置的监测系统。
本发明目的还在于提供一些能够避免或及时制止各种形式的安全问题发生的用于乘客运输装置的监测方法。
本发明目的还在于提供一种能够避免或及时制止各种形式的安全问题发生乘客运输装置。
根据本发明的一个方面,提供一种乘客运输装置的监测系统,其包括:成像传感器和/或深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取数据帧;以及处理装置,用于对所述数据帧进行数据处理以监测所述监测区域是否异常,其被配置为包括:背景获取模块,用于基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;前景检测模块,用于将实时感测的数据帧与所述背景模型进行比对以获得前景对象;以及前景特征提取模块,用于从所述前景对象提取相应的前景对象标示特征;状态判断模块,用于至少基于所述前景对象标示特征判断所述前景对象是否属于异常群体,并在判断为“是”的情况下确定所述前景对象属于异常群体。
根据本发明的另一个方面,还提供一种乘客运输装置的监测方法,其包括:S100,数据帧获取步骤:对所述乘客运输装置的监测区域进行感测以获取数据帧;S200,背景获取步骤:基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;S300,前景检测步骤:将实时感测的数据帧与所述背景模型进行比对以获得前景对象;S400,前景特征提取步骤,从所述前景对象提取相应的前景对象标示特征;以及S500,状态判断步骤:至少基于所述前景对象标示特征判断所述前景对象是否属于异常群体,并在判断为“是”的情况下确定所述前景对象属于异常群体。
根据本发明的又一个方面,还提供一种乘客运输装置的监测系统,其包括:成像传感器和/或深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取数据帧;以及处理装置,用于对所述数据帧进行数据处理以监测所述监测区域内是否异常,其被配置为包括:背景获取模块,用于基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;前景检测模块,用于将实时感测的数据帧与所述背景模型进行比对以获得前景对象;以及前景特征提取模块,用于从所述前景对象提取相应的前景对象状态特征;状态判断模块,用于至少基于所述前景对象状态特征判断所述前景对象是否处于异常状态,并在判断为“是”的情况下确定所述前景对象处于异常状态。
根据本发明的再一个方面,还提供一种乘客运输装置的监测方法,其包括:S100,数据帧获取步骤:对所述乘客运输装置的监测区域进行感测以获取数据帧;S200,背景获取步骤:基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;S300,前景检测步骤:将实时感测的数据帧与所述背景模型进行比对以获得前景对象;S400,前景特征提取步骤,从所述前景对象提取相应的前景对象状态特征;以及S500,状态判断步骤:至少基于所述前景对象状态特征判断所述前景对象是否处于异常状态,并在判断为“是”的情况下确定所述前景对象处于异常状态。
根据本发明的再一个方面,还提供一种乘客运输装置的监测系统,其包括:成像传感器和/或深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取第一数据帧;接收装置,其用于接收来自可穿戴设备的第二数据帧;所述第二数据帧由可穿戴设备的数据传感器对所述可穿戴设备及其携带者进行感测以获取;以及处理装置,用于对所述第一数据帧及第二数据帧进行分析处理以监测运行的所述乘客运输装置和/或所述可穿戴设备携带者是否处于正常状态。
根据本发明的再一个方面,还提供一种乘客运输装置的监测方法,其包括:S100,第一数据帧获取步骤:对所述乘客运输装置的监测区域进行感测以获取第一数据帧;S200,第二数据帧获取步骤:接收来自可穿戴设备的第二数据帧;所述第二数据帧由可穿戴设备的数据传感器对所述可穿戴设备及其携带者进行感测以获取;以及S300,处理步骤,对所述第一数据帧及第二数据帧进行分析处理以监测运行的所述乘客运输装置和/或所述可穿戴设备携带者是否处于正常状态。
根据本发明的再一个方面,还提供一种乘客运输装置的监测系统,其包括:深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取第一数据帧;辅助传感器组,用于对所述乘客运输装置的监测区域进行感测以获取第二数据帧组;以及预处理装置,用于对所述第二数据帧组中的数据帧进行发生特定事件的概率分布处理,获取经过预处理后的第二数据帧组;处理装置,用于对所述第一数据帧及经过预处理的第二数据帧组进行分析处理以监测运行的所述乘客运输装置是否发生特定事件。
根据本发明的再一个方面,还提供一种乘客运输装置的监测方法,其包括:S100,第一数据帧获取步骤,对所述乘客运输装置的监测区域进行感测以获取第一数据帧;S200,第二数据帧组获取步骤,对所述乘客运输装置的监测区域进行感测以获取第二数据帧组;S300,预处理步骤,对所述第二数据帧组中的数据帧进行发生特定事件的概率分布处理,获取经过预处理后的第二数据帧组;以及S400,状态判断步骤,用于对所述第一数据帧及经过预处理的第二数据帧组进行分析处理以监测运行的所述乘客运输装置是否发生特定事件。
根据本发明的再一个方面,还提供一种乘客运输装置,其包括如前所述的监测系统。
附图说明
图1是本发明的乘客运输装置及其监测系统的一个实施例的示意图。
图2是本发明的乘客运输装置及其监测系统的另一个实施例的示意图。
图3是本发明的乘客运输装置及其监测系统的又一个实施例的示意图。
图4是本发明的乘客运输装置及其监测系统的再一个实施例的示意图。
图5是本发明的乘客运输装置移动扶手的监测方法的一个实施例的控制步骤示意图。
图6是本发明的乘客运输装置移动扶手的监测方法的另一个实施例的控制步骤示意图。
图7是本发明的乘客运输装置移动扶手的监测方法的又一个实施例的控制步骤示意图。
图8是本发明的乘客运输装置移动扶手的监测方法的再一个实施例的控制步骤示意图。
具体实施方式
现在将参照附图更加完全地描述本发明,附图中示出了本发明的示例性实施例。但是,本发明可按照很多不同的形式实现,并且不应该被理解为限制于这里阐述的实施例。相反,提供这些实施例使得本公开变得彻底和完整,并将本发明的构思完全传递给本领域技术人员。附图中,相同的标号指代相同的元件或部件,因此,将省略对它们的描述。
附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或者在一个或多个硬件模块或集成电路中实现这些功能实体,或者在不同处理装置和/或微控制器装置中实现这些功能实体。
在本发明中,乘客运输装置包括自动扶梯(Escalator)和移动人行道(MovingWalk)。以下图示实施例中,以自动扶梯为示例对本发明实施例的乘客运输装置的监测系统和监测方法进行详细说明,但是,应当理解到,以下实施例的针对自动扶梯的监测系统和监测方法同样可以类推地应用到移动人行道中,其可能需要发生的例如适用性的改进是本领域技术人员在本发明实施例的教导下能够获知的。
本发明中多种数据帧的获取或多或少地依赖于成像传感器和/或深度感测传感器来实现,如下也将对所采用的两类传感器做出进一步的解释。
作为示例性的说明,成像传感器可以是各种类型的2D图像传感器,应当理解,任何能够拍摄获取包括像素亮度信息的图像帧的图像传感器都可以在此应用,当然,能够拍摄获取包括像素亮度信息和色彩信息(例如RGB信息)的图像帧的图像传感器也可以在此应用。
深度感测传感器可以是针对任何1D、2D、3D深度传感器或其组合。这种传感器可在能够产生具对应尺寸的深度图(还已知为点云或占据栅格)的光学、电磁或声谱下操作。各种深度感测传感器技术和装置包括但不限于结构光测量、相移测量、飞行时间测量、立体三角测量装置、光三角测量装置板、光场相机、编码孔径相机、计算成像技术、同时定位和地图构建(SLAM)、成像雷达、成像声纳、扫描LIDAR、闪光LIDAR、被动红外线(PIR)传感器和小型焦平面阵列(FPA)或包括前述中至少一个的组合。不同技术可包括主动(传输和接收信号)或被动(仅接收信号)且可在电磁或声谱(诸如视觉、红外线等)的带下操作。使用深度感测可具有超越常规2D成像的特定优点,使用红外线感测可具有超越可见光谱成像的特定益处,替代或此外,使得传感器可以是具有一个或多个像素空间分辨率的红外线传感器,例如被动红外线(PIR)传感器或小型IR焦平面阵列(FPA)。
应注意,2D成像传感器(例如常规安全相机)与1D、2D或3D深度感测传感器之间在深度感测提供许多优点的程度上会存在性质上和数量上的差异。在2D成像中,在从成像器的每个径向方向上的来自第一个对象的反射色彩(波长的混合物)被捕获。接着,2D图像可包括源照明和场景中对象的光谱反射系数的组合光谱。2D图像仅能大致地由人员解译成图片。在1D、2D或3D深度感测传感器中,不存在色彩(光谱)信息;更确切地说,在从传感器的径向方向(1D)或方向(2D、3D)上到第一反射对象的距离(深度、范围)被捕获。1D、2D和3D技术可具有固有最大可检测范围极限且可具有相对低于典型2D成像器的空间分辨率。在对环境照明问题的相对免疫方面,与常规2D成像比较,使用1D、2D或3D深度感测可有利地提供改进型操作、对遮蔽对象的较好分离和较好的私密保护。使用红外线感测可具有超过可见光谱成像的特定益处。举例来说,2D图像会无法被转变成深度图且深度图也无法具有被转变成2D图像(例如,至连续深度的人为分配连续色彩或灰度会使人略微类似于人员如何见到2D图像来粗略地解译深度图,其并非常规意义上的图像。)的能力。
参见附图1,其示出了一种乘客运输装置1100的监测系统1200。该监测系统1200包括:成像传感器和/或深度感测传感器1210,用于对乘客运输装置1100的监测区域进行感测以获取数据帧。至于其工作原理,在前文已详细说明,故不再赘述。此外,该监测系统1200还包括处理装置1220,其用于对数据帧进行数据处理以监测监测区域是否异常。从而能够实现对乘客运输装置1100的监测区域进行实施监测,以提供必要的警示或维护,进而消除因各种异常群体的存在而导致的安全隐患。
具体而言,该处理装置1220被配置为包括:背景获取模块1221、前景检测模块1222、前景特征提取模块1223以及状态判断模块1224。其中,背景获取模块1221用于基于在监测区域处于正常状态下感测的数据帧获取背景模型。前景检测模块1222用于将实时感测的数据帧与背景模型进行比对以获得前景对象。前景特征提取模块1223用于从前景对象提取相应的前景对象标示特征。状态判断模块1224用于至少基于前景对象标示特征判断前景对象是否属于异常群体,并在判断为“是”的情况下确定前景对象属于异常群体。在前述处理装置1220中,背景获取模块1221提供了背景模型作为比较的参照基准;并通过在前景检测模块1222中将实时感测的数据帧与背景模型处理后,进一步获取需要进行分析的前景对象;再经由前景特征提取模块1223从前景对象中提取能够协助做出最终判断的前景对象标示特征,并最后由状态判断模块1224至少基于该前景对象标示特征来判断前景对象是否属于异常群体。从而便于进行下一步的警示或其他操作,避免异常群体乘用乘客运输装置1100或避免提醒已开始使用乘客运输装置1100的异常群体加倍小心,进而消除异常群体可能带来的安全隐患。
如贯穿本文所使用到地,背景学习可通过如下方式来实现。例如,采用高斯混合模型(Gaussian Mixture Model)、码书模型(Codebook Model)、主成分分析法(PrincipleComponents Analysis)、鲁棒主成分分析(Robust PCA)等方式。前景对象检测可通过如下方式来实现。例如,帧间差分、形态学算子比如腐蚀(erosion)、膨胀(dilation)等,以及时间、空间或时空内核卷积(convolution)等方法来实现。。特征的提取可包括对时间、空间或时空梯度的估算;色彩、深度、任意这些参数的直方图、参数模型(例如人体或动物骨骼模型)等等。对某一组特征属于特定类别的判断可通过距离函数来实现。例如,该距离函数可为p-范(p-norm)距离(其包括盒子度量(box metric)以及欧几里得距离)、偏心皮尔森相关法等等。备选地,一组特征属于特定类别的判断可以以概率的方式给出结果,比如可以基于单独或联合贝叶斯推理(Bayesian inference)的方法。
前述实施例还具备若干改善或改型,如下将挑选其中一部分改型进行描述。
可选地,前景特征提取模块1223还包括异常人体模型生成子模块1223a,其用于基于骨骼图模型和/或二值图模型等人体非自学建模和/或人体自学建模来定义异常人体模型。其中,骨骼图模型与二值图模型均为较成熟的人体建模技术,在此可引用现有技术中公知的骨骼图模型与二值图模型来生成本实施例中所关注的异常人体模型。此外,人体自学建模则基于该套监测系统1200在使用过程的不断学习与完善,或者基于共享数据库的不断更新来实时或者定时更新异常人体模型。例如,作为实际应用的一类示例,异常人体模型可涵盖老年人、残障人士或者携带超规格物体的人士等等。
如贯穿本文使用到地,该模型能够可通过深度学习技术(deep learningtechniques)来从数据中学到,此类深度学习技术包括但不限于深度神经网络(deepneural networks)、卷积神经网络(convolutional neural networks)、递归神经网络(recursive neural networks)、字典学习(dictionary learning)、视觉词袋模型(Bag ofvisual words)技术等等。自主学习能力可通过增强学习(reinforcement learning)、逆向增强学习(inverse reinforcement learning)等来实现。此外,可应用非学习建模技术于参数模型(如骨骼模型)被预先定义为正常或异常及参数空间的区域(如肢体的不合适位置)被预先定义为正常或异常的情形。任何这些技术和模型都可为时间的、空间的或时空的。
可选地,前景特征提取模块1223提取的前景对象标示特征包括前景对象中人体的颜色、尺寸、形状及速度中的一个或多个,状态判断模块1224基于前景对象中的人体的颜色和/或尺寸和/或速度来判断前景对象是否属于异常群体。进一步地,在前景对象中人体的颜色和/或尺寸和/或速度落入异常人体模型中时,状态判断模块1224判断前景对象属于异常群体。本领域技术人员应当知道的是,在实际应用中,根据本文所公开实施例的教示,前景特征提取模块还可提取其他所实际需要的前景对象标示特征来实现本文公开内容中的目的。
例如,作为实际应用的一类示例,当前景对象中人体特定部位(例如头部)的颜色为灰色或白色时,则该前景对象中的人体可能属于异常人体模型中的老年人。又如,当前景对象中人体在垂直方向的尺寸(例如身高)过小时,则该前景对象中的人体可能属于异常人体模型中的佝偻的老年人或者腿部伤残的残障人士。再如,当前景对象中人体在垂直方向或水平方向的尺寸过大时,则该前景对象中的人体可能属于携带超规格物体的人士。再如,当前景对象中人体的速度过慢时,则该前景对象中的人体可能属于老年人、残障人士或者携带超规格物体的人士等等。可选地,将前景对象标示特征中的多种结合起来进行数据处理,将能够更进一步地提高识别的准确程度。
可选地,前景特征提取模块1223还包括异常物体模型生成子模块1223b,其用于基于物体非自学建模和/或物体自学建模来定义异常物体模型。其中,物体自学建模基于该套监测系统1200在使用过程的不断学习与完善,或者基于共享数据库的不断更新来实时或者定时更新异常物体模型。例如,作为实际应用的一类示例,异常物体模型可涵盖超过乘客运输装置1100所能承载规格或所能允许通行规格的物体等等。
可选地,前景特征提取模块1223提取的前景对象标示特征还包括前景对象中物体的尺寸和/或形状,工况判断模块基于前景对象中的物体的尺寸和/或形状来判断前景对象是否属于异常群体。进一步地,在前景对象中物体的尺寸和/或形状落入异常物体模型中时,状态判断模块1224判断前景对象属于异常群体。
例如,作为实际应用的一类示例,当前景对象中物体的尺寸过大或者过长时,则该前景对象中的物体可能落在异常物体模型的范围中。又如,当前景对象中物体的形状超过规格时,则该前景对象中的物体可能落在异常物体模型的范围中。可选地,将前景对象标示特征中的多种结合起来进行数据处理,将能够更进一步地提高识别的准确程度。
进一步地,在前景对象属于异常群体时,前景特征提取模块1223还用于从前景对象中提取异常群体周围相应的前景对象标示特征;状态判断模块1224还用于至少基于异常群体周围相应的前景对象标示特征判断前景对象处于异常状态,并在判断为“是”的情况下确定前景对象处于异常状态。在实际应用的一部分情形中,仅仅识别出异常群体还不足以触发警示行为。如,当老年人存在亲属陪同时,其在乘客运输装置1100上发生危险的可能性也比较小。因此,可进行进一步的分析,对其周围的前景对象标示特征进行识别,再做出该异常群体最终是否处于异常状态的判断。
例如,作为实际应用的一类示例,基于异常群体周围相应的前景对象标示特征识别在老年人或者残障人士是否存在亲属陪同,当不存在时,则该异常群体处于异常状态。
可选地,前景特征提取模块1223还包括宠物模型生成子模块1223c,其用于基于宠物非自学建模和/或宠物自学建模来定义宠物模型。其中,宠物自学建模基于该套监测系统1200在使用过程的不断学习与完善,或者基于共享数据库的不断更新来实时或者定时更新宠物模型。例如,作为一类示例,原本的宠物模型中已经包括猫、狗等常见的宠物。而在某段时间,市面上开始流行宠物猪,此时也可自动地将宠物猪通过宠物自学建模纳入宠物模型中。
可选地,前景特征提取模块1223提取的前景对象标示特征包括前景对象中宠物的形状和/或尺寸和/或颜色,状态判断模块1224基于前景对象中的宠物的形状和/或尺寸和/或颜色来判断前景对象是否属于异常群体。进一步地,在前景对象中宠物的尺寸和/或形状落入宠物模型中时,状态判断模块1224判断前景对象属于异常群体。
例如,作为实际应用的一类示例,当前景对象中物体的尺寸、形状及颜色均近似于某一宠物(例如,猫)时,则其将落入宠物模型中。
可选地,在某些状态下,通过单帧画面无法做出准确的判断。例如,可能需要单独对前景对象的运动趋势进行分析或者通过其他特征结合前景对象的运动趋势进行分析才能处理得出需要的信息。此时,可对处理装置1220做出进一步地改善。使得处理装置1220被配置为还包括轨迹生成模块1225,其用于根据前景特征提取模块1223分别在多幅连续的数据帧所对应的前景对象中提取的前景对象标示特征生成关于前景对象标示特征的变化轨迹。对应地,能够进行分析判断的状态判断模块1224还被配置为:基于前景对象标示特征的变化轨迹预判前景对象是否即将属于异常群体,并在判断为“是”的情况下确定前景对象即将属于异常群体。
如贯穿本文使用到地,轨迹生成可基于特征矢量采用贝叶斯估计技术(BayesianEstimation techniques)来实现。例如,具体可采用卡尔曼滤波法(Kalman Filter)、粒子滤波(Particle Filter)等方式。该特征矢量在特征矢量上其可包括预先定义的时间、空间或时空特征的一个或多个。
例如,作为实际应用的一类示例,当通过获取的前景对象标示特征已经识别出了在电梯出入口处存在宠物猫,但通过轨迹生成模块1225识别出该宠物猫的运动轨迹为远离该电梯的出入口。此时,结合宠物猫的变化轨迹可以判断出其并不存在走上电梯的风险,因此,也无需作出相应的警示。
此外,为从各个方面加强及改善前述实施例的各种效果,在此还提供基于前述实施例的若干改进与变型。
可选地,状态判断模块1224还被配置为,在至少连续两幅的数据帧的判断结果均为前景对象属于异常群体时,确定前景对象属于异常群体。如此设置,通过多次监测,在获取相同的判断结果后才将前景对象判定为属于异常群体。如此将进一步提高判断的准确性,降低误判率。
可选地,成像传感器和/或深度感测传感器1210每隔预定时段后感测获取在预定时段内的数据帧供处理装置1220进行数据处理。如此设置,通过间断性地判断也可以在一定程度上实现相近的监测效果。例如在晚间时段,由于使用乘客运输装置1100的用户相对更少。此时,采用较低频次的监测既节省了监测成本,又基本能达成相近的检测与安全防范效果。
可选地,由于成像传感器和/或深度感测传感器1210在一定的区域范围内具有更为准确的感测结果。因此,为提高检测的准确程度,成像传感器和/或深度感测传感器1210为多个,其被布置成能够覆盖乘客运输装置1100的入口和/或出口和/或整个长度方向。
可选地,监测系统1200还包括警报单元1230,状态判断模块1224在确定前景对象属于异常群体的情况下触发警报单元1230工作。相应地,处理装置1220还被配置为,在状态判断模块1224确定前景对象属于异常群体时触发输出信号至乘客运输装置1100和/或楼宇的电梯维护中心以实现预防安全事故发生。
参见图5,在此还提供一种乘客运输装置的监测方法,以配合前述实施例中记载的监测系统使用。该监测方法包括以下步骤:S100,数据帧获取步骤:对乘客运输装置的监测区域进行感测以获取数据帧;S200,背景获取步骤:基于在监测区域处于正常状态下感测的数据帧获取背景模型;S300,前景检测步骤:将实时感测的数据帧与背景模型进行比对以获得前景对象;S400,前景特征提取步骤,从前景对象提取相应的前景对象标示特征;以及S500,状态判断步骤:至少基于前景对象标示特征判断前景对象是否属于异常群体,并在判断为“是”的情况下确定前景对象属于异常群体。本方法可以准确及时地识别出是否存在异常群体正在使用或即将使用乘客运输装置,并将信息反馈至监测中心或维护人员,以便其能够及时做出响应,并根据实际情况做出警示、放缓装置速度甚至制动装置等操作。
此外,为提高前述实施例中的监测方法的实用性或准确性,还提供对其中各个步骤的若干改善或改型。
可选地,为便于识别异常人体,S400还包括S410,异常人体模型生成子步骤,用于基于骨骼图模型和/或二值图模型和/或人体自学建模来定义异常人体模型。作为实际应用的一类示例,异常人体模型可涵盖老年人、残障人士或者携带超规格物体的人士等等。此步骤主要在于为随后的比对与判断提供参照基准,便于相对简单地识别出哪些对象为关注的异常人体模型。
可选地,在S410中,提取的前景对象标示特征包括前景对象中人体的颜色和/或尺寸和/或速度;在S500中,基于前景对象中的人体的颜色和/或尺寸和/或速度来判断前景对象是否属于异常群体。可选地,在前景对象中人体的颜色和/或尺寸和/或速度落入异常人体模型中时,判断前景对象属于异常群体。在此提供了一种具体的判定方式,也即通过一些能够凸显出前景对象人体的前景对象标示特征来识别其是否属于异常群体,这些表示特征可以是颜色和/或尺寸和/或速度,或者其他的单个特征或组合特征。作为实际应用的一类示例,例如,当前景对象中人体特定部位(例如头部)的颜色为灰色或白色时,则该前景对象中的人体可能属于异常人体模型中的老年人。又如,当前景对象中人体在垂直方向的尺寸(例如身高)过小时,则该前景对象中的人体可能属于异常人体模型中的佝偻的老年人或者腿部伤残的残障人士。再如,当前景对象中人体在垂直方向或水平方向的尺寸过大时,则该前景对象中的人体可能属于携带超规格物体的人士。再如,当前景对象中人体的速度过慢时,则该前景对象中的人体可能属于老年人、残障人士或者携带超规格物体的人士等等。可选地,将前景对象标示特征中的多种结合起来进行数据处理,将能够更进一步地提高识别的准确程度。
可选地,为便于识别异常物体,S400还包括S420,异常物体模型生成子步骤:用于基于物体非自学建模和/或物体自学建模来定义异常物体模型。作为实际应用的一类示例,异常物体模型可涵盖超过乘客运输装置所能承载规格或所能允许通行规格的物体等等。此步骤主要在于为随后的比对与判断提供参照基准,便于相对简单地识别出哪些对象为关注的异常物体模型。
可选地,在S420中,提取的前景对象标示特征还包括前景对象中物体的尺寸和/或形状;在S500中,基于前景对象中的物体的尺寸和/或形状来判断前景对象是否属于异常群体。进一步地,在前景对象中物体的尺寸和/或形状落入异常物体模型中时,判断前景对象属于异常群体。在此提供了一种具体的判定方式,也即通过一些能够凸显出前景对象物体的前景对象标示特征来识别其是否属于异常群体,这些表示特征可以是尺寸和/或形状,或者其他的单个特征或组合特征。作为实际应用的一类示例,例如,当前景对象中物体的尺寸过大或者过长时,则该前景对象中的物体可能落在异常物体模型的范围中。又如,当前景对象中物体的形状超过规格时,则该前景对象中的物体可能落在异常物体模型的范围中。可选地,将前景对象标示特征中的多种结合起来进行数据处理,将能够更进一步地提高识别的准确程度。
进一步地,在前景对象属于异常群体时,在S400中,还从前景对象中提取异常群体周围相应的前景对象标示特征;相应地,在S500中,还至少基于异常群体周围相应的前景对象标示特征判断前景对象处于异常状态,并在判断为“是”的情况下确定前景对象处于异常状态。在实际应用的一部分情形中,仅仅识别出异常群体还不足以触发警示行为。如,当老年人存在亲属陪同时,其在乘客运输装置上发生危险的可能性也比较小。因此,可进行进一步的分析,对其周围的前景对象标示特征进行识别,再做出该异常群体最终是否处于异常状态的判断。
例如,作为实际应用的一类示例,基于异常群体周围相应的前景对象标示特征识别在老年人或者残障人士是否存在亲属陪同,当不存在时,则该异常群体处于异常状态。
可选地,S400还包括S430,宠物模型生成子步骤,基于宠物非自学建模和/或宠物自学建模来定义宠物模型。作为实际应用的一类示例,宠物模型可涵盖各种市面上常见的宠物等等。此步骤主要在于为随后的比对与判断提供参照基准,便于相对简单地识别出哪些对象为关注的宠物模型。
可选地,在S430中,提取的前景对象标示特征包括前景对象中宠物的形状和/或尺寸和/或颜色;在S500中,基于前景对象中的宠物的形状和/或尺寸和/或颜色来判断前景对象是否属于异常群体。进一步地,在前景对象中宠物的尺寸和/或形状落入宠物模型中时,判断前景对象属于异常群体。
例如,作为实际应用的一类示例,当前景对象中物体的尺寸、形状及颜色均近似于某一宠物(例如,猫)时,则其将落入宠物模型中。
可选地,在某些状态下,通过单帧画面无法做出准确的判断。例如,可能需要单独对前景对象的运动趋势进行分析或者通过其他特征结合前景对象的运动趋势进行分析才能处理得出需要的信息。此时,可对处理装置做出进一步地改善,使其包括轨迹生成模块。对应地,还应在监测方法中增加S600,轨迹生成步骤:根据S400中分别在多幅连续的数据帧所对应的前景对象中提取的前景对象标示特征生成关于前景对象标示特征的变化轨迹。对应地,在S500中,基于前景对象标示特征的变化轨迹预判前景对象是否即将属于异常群体,并在判断为“是”的情况下确定前景对象即将属于异常群体。
例如,作为实际应用的一类示例,当通过获取的前景对象标示特征已经识别出了在电梯出入口处存在宠物猫,但通过轨迹生成模块识别出该宠物猫的运动轨迹为远离该电梯的出入口。此时,结合宠物猫的变化轨迹可以判断出其并不存在走上电梯的风险,因此,也无需作出相应的警示。
此外,为从各个方面加强及改善前述实施例的各种效果,在此还提供基于前述实施例的若干改进与变型。
可选地,在S500中,在至少连续两幅的数据帧的判断结果均为前景对象属于异常群体时,确定前景对象属于异常群体。如此设置,通过多次监测,在获取相同的判断结果后才将前景对象判定为属于异常群体。如此将进一步提高判断的准确性,降低误判率。
可选地,每隔预定时段后感测获取在预定时段内的数据帧供处理装置进行数据处理。如此设置,通过间断性地判断也可以在一定程度上实现相近的监测效果。例如在晚间时段,由于使用乘客运输装置的用户相对更少。此时,采用较低频次的监测既节省了监测成本,又基本能达成相近的检测与安全防范效果。
可选地,还包括S700,警报步骤:在确定前景对象属于异常群体的情况下触发警报单元1230工作。以警示监控中心或维护人员做出响应来消除安全隐患。
参见附图2,其示出了一种乘客运输装置2100的监测系统2200,该监测系统2200包括:成像传感器和/或深度感测传感器2210,用于对乘客运输装置2100的监测区域进行感测以获取数据帧;以及处理装置2220,用于对数据帧进行数据处理以监测监测区域内是否异常。具体而言,该处理装置2220被配置为包括:背景获取模块2221,用于基于在监测区域处于正常状态下感测的数据帧获取背景模型;前景检测模块2222,用于将实时感测的数据帧与背景模型进行比对以获得前景对象;前景特征提取模块2223,用于从前景对象提取相应的前景对象状态特征;以及状态判断模块2224,用于至少基于前景对象状态特征判断前景对象是否处于异常状态,并在判断为“是”的情况下确定前景对象处于异常状态。在前述处理装置2220中,背景获取模块2221提供了背景模型作为比较的参照基准;并通过在前景检测模块2222中将实时感测的数据帧与背景模型处理后,进一步获取需要进行分析的前景对象;再经由前景特征提取模块2223从前景对象中提取能够协助做出最终判断的前景对象状态特征,并最后由状态判断模块2224至少基于该前景对象状态特征来判断前景对象是否处于异常状态。从而便于进行下一步的警示或其他操作,避免在乘客运输装置2100上发生导致安全隐患的异常状态或警示已处于异常状态的对象加倍小心,进而消除可能带来的安全隐患。
前述实施例还具备若干改善或改型,如下将挑选其中一部分改型进行描述。
可选地,前景特征提取模块2223包括场景模型生成子模块2223a,其用于基于在乘客运输装置2100的监测区域处于正常状态下感测的数据帧和/或场景自学模型来定义危险区域。作为示例,该危险区域可预先指定,比如由安装者或使用者在计算机上所呈现的区域中标识特定的物理区域。此危险区域即为在日常情况下可能发生危险的乘客运输装置2100上的特定区域,且可能根据实际情况发生变化。例如,在一个示例中,乘客运输装置2100入口可能被感测的数据帧和/或场景自学模型定义成危险区域,此时如果在该危险区域存在较高的人体密度,则预示着有可能会发生拥挤踩踏等问题。
可选地,前景特征提取模块2223提取的前景对象状态特征包括前景对象的速度、加速度、目标密集度及位置中的一个或多个,工况判断模块基于前景对象的速度、加速度、目标密集度及位置中的一个或多个来判断前景对象是否处于异常状态。本领域技术人员应当知道的是,在实际应用中,根据本文所公开实施例的教示,前景特征提取模块还可提取其他所实际需要的前景对象标示特征来实现本文公开内容中的目的。进一步地,在提取的前景对象状态特征中的前景对象的速度超出速度设定阈值时,工况判断模块判断前景对象处于异常状态;和/或在提取的前景对象状态特征中的前景对象的加速度超出加速度设定阈值时,工况判断模块判断前景对象处于异常状态;和/或在提取的前景对象状态特征中的前景对象的目标密集度超出目标密集度设定阈值时,工况判断模块判断前景对象处于异常状态。
例如,作为实际应用的一类示例,当前景对象在危险区域内的速度和/或加速度过大时,可能认为此时存在冲撞行为的发生,进而判断前景对象处于异常状态。又如,当前景对象在危险区域内的速度和/或加速度过小时,可能认为此时存在人群拥挤及滞留行为的发生,进而判断前景对象处于异常状态。再如,当前景对象在危险区域内的目标密集度过大时,可能认为此时存在人群拥挤及滞留行为的发生,进而判断前景对象处于异常状态。可选地,将前景对象标示特征中的多种结合起来进行数据处理,将能够更进一步地提高识别的准确程度。
可选地,前景特征提取模块2223还包括人体异常动作模型生成子模块2223b,其用于基于骨骼图模型和/或二值图模型和/或人体自学建模来定义人体异常动作模型。其中,骨骼图模型与二值图模型均为较成熟的人体建模技术,在此可引用现有技术中公知的骨骼图模型与二值图模型来生成本实施例中所关注的人体异常动作模型。此外,人体自学建模则基于该套监测系统2200在使用过程的不断学习与完善,或者基于共享数据库的不断更新来实时或者定时更新人体异常动作模型。例如,作为实际应用的一类示例,人体异常动作模型可涵盖卧倒、双脚腾空、腿朝上伸展等等。
如贯穿本文使用到地,人体动作模型可通过深度学习技术从数据中学到。此类深度学习技术包括但不限于深度神经网络(deep neural networks)、卷积神经网络(convolutional neural networks)、递归神经网络(recursive neural networks)、字典学习(dictionary learning)、视觉词袋模型(Bag of visual words)技术等等。该模型还可使用马尔可夫模型(Markov Model)技术、隐马尔可夫模型(Hidden Markov Models)、马尔可夫决策过程(Markov Decision Processes)、部分可观测马尔可夫决策过程(Partially Observable MDPs)、马尔可夫决策逻辑(Markov Decision Logic)以及概率编程(Probabilistic Programming)等等来构建。
可选地,前景特征提取模块2223提取的前景对象状态特征包括前景对象中人体的动作,工况判断模块基于前景对象中的人体的动作来判断前景对象是否处于异常状态。进一步地,在前景对象中人体的动作落入人体异常动作模型时,工况判断模块判断前景对象处于异常状态。
例如,作为实际应用的一类示例,当前景对象中的人体呈现出双脚腾空的动作时,该动作应当被认定为属于人体异常动作模型中的动作。再如,当前景对象中的人体呈现出卧倒的动作时,该动作也应当被认定为属于人体异常动作模型中的动作。
可选地,在某些情形下,并非在任何区域做出人体异常动作模型中的动作都会带来安全隐患。而还需要结合其所处于的实际场所来进行判断。在此种改型下,前景特征提取模块2223还包括场景模型生成子模块2223a,其用于基于在乘客运输装置2100的监测区域处于正常状态下感测的数据帧和/或场景自学模型来定义危险区域。此危险区域即为乘客做出在此做出异常动作可能会导致危险的乘客运输装置2100上的特定区域,且可能根据实际情况发生变化。例如,在一个示例中,当乘客在乘客运输装置2100的扶手侧将腿伸出扶手外时,该伸腿动作可被认定为是人体异常动作,而扶手侧可被认定为特定区域。
可选地,前景特征提取模块2223提取的前景对象状态特征包括前景对象中人体的位置及动作,工况判断模块基于前景对象中的人体的位置及人体的动作来判断前景对象是否处于异常状态。进一步地,在前景对象中人体的位置处于危险区域且前景对象中人体的动作落入人体异常动作模型时,工况判断模块判断前景对象处于异常状态。
作为实际应用的一类示例,当前景对象在危险区域内,且其具有落入人体异常动作模型的异常动作时,才认定其处于异常状态。例如,当前景对象在扶手侧伸腿时,扶手侧属于危险区域,且伸腿动作属于异常动作,进而判断此时前景对象处于异常状态。又如,当前景对象在梯级上摔倒时,梯级属于危险区域,且摔倒属于异常动作,进而判断此时前景对象处于异常状态。再如,当前景对象在梯级上逆向行走时,梯级属于危险区域,且逆向行走属于异常动作,进而判断此时前景对象处于异常状态。可选地,将前景对象标示特征中的多种结合起来进行数据处理,将能够更进一步地提高识别的准确程度。
可选地,在某些状态下,通过单帧数据无法做出准确的判断。例如,可能需要单独对前景对象的运动趋势进行分析或者通过其他特征结合前景对象的运动趋势进行分析才能处理得出需要的信息。此时,可对处理装置2220做出进一步地改善。处理装置2220被配置为还包括轨迹生成模块2225,用于根据前景特征提取模块2223分别在多幅连续的数据帧所对应的前景对象中提取的前景对象状态特征生成关于前景对象状态特征的变化轨迹。对应地,能够进行分析判断的状态判断模块2224还被配置为:基于前景对象状态特征的变化轨迹预判前景对象是否即将处于异常状态,并在判断为“是”的情况下确定前景对象即将处于异常状态。
更详细地,前景特征提取模块2223提取的前景对象状态特征包括前景对象的速度和/或加速度和/或目标密集度和/或位置,工况判断模块基于前景对象在危险区域的速度和/或加速度和/或目标密集度的变化轨迹来判断前景对象是否即将处于异常状态。具体而言,在前景对象的速度变化轨迹在预设时段内超出速度轨迹设定阈值时,工况判断模块判断前景对象即将处于异常状态;和/或在前景对象的加速度变化轨迹在预设时段内超出加速度轨迹设定阈值时,工况判断模块判断前景对象即将处于异常状态;和/或在前景对象的目标密集度变化轨迹在预设时段内超出密集度轨迹设定阈值时,工况判断模块判断前景对象即将处于异常状态。
例如,作为实际应用的一类示例,当在乘客运输装置2100入口处已经聚集了大量乘客,但根据其变化轨迹,发现乘客群正在逐渐散开,也即此处的目标密集度虽然超出密集度设定阈值,但目标密集度变化轨迹没有超出密集度轨迹设定阈值。这说明此处的拥堵情况可能已经得到较大的缓和,因此,无需再将其继续认定为处于异常状态。
可选地,前景特征提取模块2223提取的前景对象状态特征包括前景对象中人体的动作,工况判断模块基于前景对象中人体的动作的变化轨迹来判断前景对象是否即将处于异常状态。进一步地,在前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,工况判断模块判断前景对象即将处于异常状态。
例如,作为实际应用的一类示例,当前,当前景对象中的人体在已经摔倒后,自行爬起时,虽然该动作已被认定为属于人体异常动作模型中的动作,但其运动趋势表明其已经克服了该问题,并正在朝好的方向发展。因此,动作变化轨迹并不会超出动作轨迹设定阈值。此时无需再将其认定为处于异常状态。
可选地,在某些情形下,并非在任何区域做出人体异常动作模型中的动作都会带来安全隐患。而还需要结合其所处于的实际场所来进行判断。在此种改型下,前景特征提取模块2223提取的前景对象状态特征还包括前景对象中人体的位置,工况判断模块基于前景对象中人体的位置及人体的动作的变化轨迹来判断前景对象是否即将处于异常状态。具体而言,在前景对象中人体的位置变化轨迹在预设时段内逼近危险区域时,且在前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,工况判断模块判断前景对象即将处于异常状态。
可选地,状态判断模块2224还被配置为,在至少连续两幅的数据帧的判断结果均为前景对象处于异常状态时,确定前景对象处于异常状态。如此设置,通过多次监测,在获取相同的判断结果后才将前景对象判定为属于异常群体。如此将进一步提高判断的准确性,降低误判率。
可选地,成像传感器和/或深度感测传感器2210每隔预定时段后感测获取在预定时段内的数据帧供处理装置2220进行数据处理。如此设置,通过间断性地判断也可以在一定程度上实现相近的监测效果。例如在晚间时段,由于使用乘客运输装置2100的用户相对更少。此时,采用较低频次的监测既节省了监测成本,又基本能达成相近的检测与安全防范效果。
可选地,由于成像传感器和/或深度感测传感器2210在一定的区域范围内具有更为准确的感测结果。因此,为提高检测的准确程度,成像传感器和/或深度感测传感器2210为多个,其被布置成能够覆盖乘客运输装置2100的入口和/或出口和/或整个长度方向。
可选地,监测系统2200还包括警报单元2230,状态判断模块2224在确定前景对象处于异常状态的情况下触发警报单元2230工作。相应地,处理装置2220还被配置为,在状态判断模块2224确定前景对象处于异常状态时触发输出信号至乘客运输装置2100和/或楼宇的电梯维护中心以实现预防安全事故发生。
参见图6,在此还提供一种乘客运输装置的监测方法,以配合前述实施例中记载的监测系统使用。该监测方法包括以下步骤:S100,数据帧获取步骤:对乘客运输装置的监测区域进行感测以获取数据帧;S200,背景获取步骤:基于在监测区域处于正常状态下感测的数据帧获取背景模型;S300,前景检测步骤:将实时感测的数据帧与背景模型进行比对以获得前景对象;S400,前景特征提取步骤,从前景对象提取相应的前景对象状态特征;以及S500,状态判断步骤:至少基于前景对象状态特征判断前景对象是否处于异常状态,并在判断为“是”的情况下确定前景对象处于异常状态。本方法可以准确及时地识别出乘客运输装置中群体是否处于异常状态,并将信息反馈至监测中心或维护人员,以便其能够及时做出响应,并根据实际情况做出警示、放缓装置速度甚至制动装置等操作。
此外,为提高前述实施例中的监测方法的实用性或准确性,还提供对其中各个步骤的若干改善或改型。
可选地,S400还包括S410,场景模型生成子步骤:用于基于在乘客运输装置的监测区域处于正常状态下感测的数据帧和/或场景自学模型来定义危险区域。此危险区域即为在日常情况下可能发生危险的乘客运输装置上的特定区域,且可能根据实际情况发生变化。
可选地,在S410中,提取的前景对象状态特征包括前景对象的速度和/或加速度和/或目标密集度,在S500中,基于前景对象在危险区域的速度和/或加速度和/或目标密集度来判断前景对象是否处于异常状态。进一步地,在提取的前景对象状态特征中的前景对象的速度超出速度设定阈值时,判断前景对象处于异常状态;和/或在提取的前景对象状态特征中的前景对象的加速度超出加速度设定阈值时,判断前景对象处于异常状态;和/或在提取的前景对象状态特征中的前景对象的目标密集度超出目标密集度设定阈值时,判断前景对象处于异常状态。
例如,作为实际应用的一类示例,当前景对象在危险区域内的速度和/或加速度过大时,可能认为此时存在冲撞行为的发生,进而判断前景对象处于异常状态。又如,当前景对象在危险区域内的速度和/或加速度过小时,可能认为此时存在人群拥挤及滞留行为的发生,进而判断前景对象处于异常状态。再如,当前景对象在危险区域内的目标密集度过大时,可能认为此时存在人群拥挤及滞留行为的发生,进而判断前景对象处于异常状态。可选地,将前景对象标示特征中的多种结合起来进行数据处理,将能够更进一步地提高识别的准确程度。
可选地,S400还包括S420,人体异常动作模型生成子步骤:用于基于骨骼图模型和/或二值图模型和/或人体自学建模来定义人体异常动作模型。其中,骨骼图模型与二值图模型均为较成熟的人体建模技术,在此可引用现有技术中公知的骨骼图模型与二值图模型来生成本实施例中所关注的人体异常动作模型。此外,人体自学建模则基于该套监测系统在使用过程的不断学习与完善,或者基于共享数据库的不断更新来实时或者定时更新人体异常动作模型。例如,作为实际应用的一类示例,人体异常动作模型可涵盖卧倒、双脚腾空、腿朝上伸展等等。
可选地,在S420中,提取的前景对象状态特征包括前景对象中人体的动作;在S500中,基于前景对象中的人体的动作来判断前景对象是否处于异常状态。进一步地,在前景对象中人体的动作落入人体异常动作模型时,判断前景对象处于异常状态。
例如,作为实际应用的一类示例,当前景对象中的人体呈现出双脚腾空的动作时,该动作应当被认定为属于人体异常动作模型中的动作。再如,当前景对象中的人体呈现出卧倒的动作时,该动作也应当被认定为属于人体异常动作模型中的动作。
可选地,在某些情形下,并非在任何区域做出人体异常动作模型中的动作都会带来安全隐患。而还需要结合其所处于的实际场所来进行判断。在此种改型下,该监测方法中的S400还包括S430,场景模型生成子步骤:基于在乘客运输装置的监测区域处于正常状态下感测的数据帧和/或场景自学模型来定义危险区域。此危险区域即为乘客做出在此做出异常动作可能会导致危险的乘客运输装置上的特定区域,且可能根据实际情况发生变化。例如,在一个示例中,当乘客在乘客运输装置的扶手侧将腿伸出扶手外时,该伸腿动作可被认定为是人体异常动作,而扶手侧可被认定为危险区域。
可选地,在S430中,提取的前景对象状态特征包括前景对象中人体的位置及动作,在S500中,基于前景对象中的人体的位置及人体的动作来判断前景对象是否处于异常状态。进一步地,在前景对象中人体的位置处于危险区域且前景对象中人体的动作落入人体异常动作模型时,判断前景对象处于异常状态。
可选地,在某些状态下,通过单帧数据无法做出准确的判断。例如,可能需要单独对前景对象的运动趋势进行分析或者通过其他特征结合前景对象的运动趋势进行分析才能处理得出需要的信息。此时,可对处理装置做出进一步地改善。此时对应的监测方法还包括:S600,轨迹生成步骤:根据S400中分别在多幅连续的数据帧所对应的前景对象中提取的前景对象状态特征生成关于前景对象状态特征的变化轨迹。对应地,在S500中,基于前景对象状态特征的变化轨迹预判前景对象是否即将处于异常状态,并在判断为“是”的情况下确定前景对象即将处于异常状态。
更详细地,在S400中,提取的前景对象状态特征包括前景对象的速度和/或加速度和/或目标密集度;在S500中,基于前景对象在危险区域的速度和/或加速度和/或目标密集度的变化轨迹来判断前景对象是否即将处于异常状态。具体而言,在前景对象的速度变化轨迹在预设时段内超出速度轨迹设定阈值时,判断前景对象即将处于异常状态;和/或在前景对象的加速度变化轨迹在预设时段内超出加速度轨迹设定阈值时,判断前景对象即将处于异常状态;和/或在前景对象的目标密集度变化轨迹在预设时段内超出密集度轨迹设定阈值时,判断前景对象即将处于异常状态。
例如,作为实际应用的一类示例,当在乘客运输装置入口处已经聚集了大量乘客,但根据其变化轨迹,发现乘客群正在逐渐散开,也即此处的目标密集度虽然超出密集度设定阈值,但目标密集度变化轨迹没有超出密集度轨迹设定阈值。这说明此处的拥堵情况可能已经得到较大的缓和,因此,无需再将其继续认定为处于异常状态。
可选地,在S400中,前景特征提取模块提取的前景对象状态特征包括前景对象中人体的动作;在S500中,基于前景对象中人体的动作的变化轨迹来判断前景对象是否即将处于异常状态。进一步地,在前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,判断前景对象即将处于异常状态。
例如,作为实际应用的一类示例,当前,当前景对象中的人体在已经摔倒后,自行爬起时,虽然该动作已被认定为属于人体异常动作模型中的动作,但其运动趋势表明其已经克服了该问题,并正在朝好的方向发展。因此,动作变化轨迹并不会超出动作轨迹设定阈值。此时无需再将其认定为处于异常状态。
可选地,在某些情形下,并非在任何区域做出人体异常动作模型中的动作都会带来安全隐患。而还需要结合其所处于的实际场所来进行判断。在此种改型下,在S400中,前景特征提取模块提取的前景对象状态特征还包括前景对象中人体的位置;在S500中,基于前景对象中人体的位置及人体的动作的变化轨迹来判断前景对象是否即将处于异常状态。具体而言,在前景对象中人体的位置变化轨迹在预设时段内逼近危险区域时,且在前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,判断前景对象即将处于异常状态。
可选地,在S500中,在至少连续两幅的数据帧的判断结果均为前景对象处于异常状态时,确定前景对象处于异常状态。如此设置,通过多次监测,在获取相同的判断结果后才将前景对象判定为属于异常群体。如此将进一步提高判断的准确性,降低误判率。
可选地,每隔预定时段后感测获取在预定时段内的数据帧供处理装置进行数据处理。如此设置,通过间断性地判断也可以在一定程度上实现相近的监测效果。例如在晚间时段,由于使用乘客运输装置的用户相对更少。此时,采用较低频次的监测既节省了监测成本,又基本能达成相近的检测与安全防范效果。
可选地,还包括S700,警报步骤:在确定前景对象处于异常状态的情况下触发警报单元1230工作。从而实现预防安全事故发生。
参见附图3,还提供另一种乘客运输装置3100的监测系统3200的实施例。该监测系统3200包括:成像传感器和/或深度感测传感器3210,用于对乘客运输装置3100的监测区域进行感测以获取第一数据帧;接收装置3230,其用于接收来自可穿戴设备的第二数据帧;第二数据帧由可穿戴设备的数据传感器对可穿戴设备及其携带者进行感测以获取;以及处理装置3220,用于对第一数据帧及第二数据帧进行分析处理以监测运行的乘客运输装置3100和/或可穿戴设备携带者是否处于正常状态。在此实施例中,结合了当前较为流行的可穿戴设备一并提供对乘客运输装置3100的监测,更进一步地提供了监测的针对性及准确性。例如,以手机作为可穿戴设备的一个示例进行说明。当前的手机通常至少会具备重力传感器、位置传感器及摄像头等传感器。因此,通过手机也可以获取到手机携带者所处的一类情形,进而辅助判断是否存在异常。
可选地,第二数据帧包括:位置数据帧;以及当前状态数据帧和/或加速度数据;处理装置3220基于位置数据帧来判断可穿戴设备携带者是否处于乘客运输装置3100上;且处理装置3220基于当前状态数据帧来判断可穿戴设备携带者是否在凝视可穿戴设备;且/或处理装置3220基于加速度数据帧来判断可穿戴设备携带者的第二加速度是否超出第二加速度设定阈值。使用者正在凝视装置的判断可通过使用装置的摄像头以及对应算法来识别面部而实现。该算法可为 维奥拉-琼斯(Viola-Jones)算法接以基于在检测到的面部中的对称度进行头部姿态估计基于在检测到的面部中的对称度。当头部姿态低于非常小的阈值时,认为使用者正在看装置。如下将详细分析各类情形。
可选地,处理装置3220被配置成:在可穿戴设备携带者处于乘客运输装置3100上;且可穿戴设备携带者在凝视可穿戴设备时,判断可穿戴设备携带者处于异常状态。作为一个示例,此时认定手机携带者可能在电梯上玩手机,这是一件较为危险的行为。因此,认为其处于异常状态。
可选地,处理装置3220被配置成:在可穿戴设备携带者处于乘客运输装置3100上;且可穿戴设备携带者在凝视可穿戴设备超出预设时段时,判断可穿戴设备携带者处于异常状态。作为一个示例,如果手机携带者只是随意瞟一眼手机即发生异常警示显然是一件降低用户体验的事件。因此,在此进一步引入时间因素及位置因素,只要当其凝视手机超出预设时段时且相对远离扶梯3100的入口或出口时,才认定此手机携带者可能在电梯上的危险区域玩手机,进而认为其处于异常状态。随着运输装置靠近扶梯3100的入口或出口,由于事故发生的可能性增高,该时间因素也对应地减少。
可选地,处理装置3220被配置成:在可穿戴设备携带者处于乘客运输装置3100上;且可穿戴设备携带者的第二加速度超出第二加速度设定阈值时;进一步结合第一数据帧来判断乘客运输装置3100的第一加速度是否超出第一加速度设定阈值;在乘客运输装置3100的第一加速度超出第一加速度设定阈值时,判断乘客运输装置3100处于异常状态;和/或在乘客运输装置3100的第一加速度未超出第一加速度设定阈值时,判断可穿戴设备携带者处于异常状态。作为一个示例,当根据可穿戴设备提供第二加速度超出第二加速度设定阈值来判定可穿戴设备及其携带者当前可能处于加速状态。此时再进一步判断乘客运输装置3100的第一加速度是否超出第一加速度设定阈值,由此来判断该加速状态的来源到底是可穿戴设备及其携带者还是乘客运输装置3100。并随后得出可穿戴设备及其携带者是否处于异常状态。
可选地,接收装置3230用于接收来自多个可穿戴设备的第二数据帧组;第二数据帧组由多个可穿戴设备的多个数据传感器对多个可穿戴设备及其携带者进行感测以获取;以及处理装置3220,用于对第一数据帧及第二数据帧组进行分析处理以监测运行的乘客运输装置3100和/或多个可穿戴设备携带者是否处于正常状态。由于很多异常状态并非用单一数据传感器即可识别出。因此,通过多个数据传感器来获取第二数据帧组将能辅助提供更为准确地判断。
参见图7,为进一步提高前述实施例中的监测系统的技术效果,在此还提供一种乘客运输装置的监测方法,其包括:S100,第一数据帧获取步骤:对乘客运输装置的监测区域进行感测以获取第一数据帧;S200,第二数据帧获取步骤:接收来自可穿戴设备的第二数据帧;第二数据帧由可穿戴设备的数据传感器对可穿戴设备及其携带者进行感测以获取;以及S300,处理步骤,对第一数据帧及第二数据帧进行分析处理以监测运行的乘客运输装置和/或可穿戴设备携带者是否处于正常状态。
可选地,在S200中,第二数据帧包括:位置数据帧;以及当前状态数据帧和/或加速度数据;在S300中,基于位置数据帧来判断可穿戴设备携带者是否处于乘客运输装置上;且基于当前状态数据帧来判断可穿戴设备携带者是否在凝视可穿戴设备;且/或基于加速度数据帧来判断可穿戴设备携带者的第二加速度是否超出第二加速度设定阈值。
其中,值得注意的是,首先需基于位置数据帧来判断可穿戴设备携带者处于乘客运输装置上,随后才有必要进行其他判断。而基于当前状态数据帧及基于加速度数据帧所做出的判断可以择一进行,从而分别得到所关注的异常事件,也可以组合进行,从而得出更为广泛及准确的判断。
作为以上分析事实基础,以下提供若干判断示例以促进理解。
可选地,在S300中,在可穿戴设备携带者处于乘客运输装置上;且可穿戴设备携带者在凝视可穿戴设备时,判断可穿戴设备携带者处于异常状态。
可选地,在S300中,在可穿戴设备携带者处于乘客运输装置上;且可穿戴设备携带者在凝视可穿戴设备超出预设时段时,判断可穿戴设备携带者处于异常状态。
可选地,在S300中,在可穿戴设备携带者处于乘客运输装置上;且可穿戴设备携带者的第二加速度超出第二加速度设定阈值时;进一步结合第一数据帧来判断乘客运输装置的第一加速度是否超出第一加速度设定阈值;在乘客运输装置的第一加速度超出第一加速度设定阈值时,判断乘客运输装置处于异常状态;和/或在乘客运输装置的第一加速度未超出第一加速度设定阈值时,判断可穿戴设备携带者处于异常状态。
可选地,在S200中,接收来自多个可穿戴设备的第二数据帧组;第二数据帧组由多个可穿戴设备的多个数据传感器对多个可穿戴设备及其携带者进行感测以获取;以及在S300中,对第一数据帧及第二数据帧组进行分析处理以监测运行的乘客运输装置和/或多个可穿戴设备携带者是否处于正常状态。由于很多异常状态并非用单一数据传感器即可识别出。因此,通过多个数据传感器来获取第二数据帧组将能辅助提供更为准确地判断。
参见附图4,还提供另一种乘客运输装置4100的监测系统4200的实施例。该监测系统4200包括:深度感测传感器4210,用于对乘客运输装置4100的监测区域进行感测以获取第一数据帧;辅助传感器组4240,用于对乘客运输装置4100的监测区域进行感测以获取第二数据帧组;以及预处理装置42304220,用于对第二数据帧组中的数据帧进行发生特定事件的概率分布处理,获取经过预处理后的第二数据帧组;处理装置4220,用于对第一数据帧及经过预处理的第二数据帧组进行分析处理以监测运行的乘客运输装置4100是否发生特定事件。可选地,辅助传感器组4240包括成像传感器、音频传感器、压力传感器、重力传感器、加速度计、电容传感器、制动梁传感器等等。通常而言,所使用的各类型的传感器越多,自然而然会提高对事件判断的准确性。相应地,处理装置4220所需做出的计算处理也越多。本实施例的监测系统4200合理利用了辅助传感器组4240,通过对其获取到的第二数据帧组中的数据帧进行发生特定事件的概率分布处理,并挑选出其中发生概率分布较高的数据帧。随后,将这些经过预处理的第二数据帧组结合深度感测传感器4210自身所感测到的第一数据帧进行分析处理,一方面筛除了多种数据冗余量,降低了分析处理时间;另一方面,相对于仅使用深度感测传感器4210而言,也大大提高了判断的精确性。
具体而言,经过预处理后的第二数据帧组在发生特定事件的概率分布处理中所得到的概率大于特定事件发生概率阈值。此时,即可认定为这部分预处理后的第二数据帧组对于特定事件的发生具有较大的影响,应当将其纳入考虑范围。
参见图8,对应地,还提供一种乘客运输装置的监测方法的实施例,其包括:S100,第一数据帧获取步骤,对乘客运输装置的监测区域进行感测以获取第一数据帧;S200,第二数据帧组获取步骤,对乘客运输装置的监测区域进行感测以获取第二数据帧组;S300,预处理步骤,对第二数据帧组中的数据帧进行发生特定事件的概率分布处理,获取经过预处理后的第二数据帧组;以及S400,状态判断步骤,用于对第一数据帧及经过预处理的第二数据帧组进行分析处理以监测运行的乘客运输装置是否发生特定事件。本实施例的监测方法合理利用了辅助传感器组,通过对其获取到的第二数据帧组中的数据帧进行发生特定事件的概率分布处理,并挑选出其中发生概率分布较高的数据帧。随后,将这些经过预处理的第二数据帧组结合深度感测传感器自身所感测到的第一数据帧进行分析处理,一方面筛除了多种数据冗余量,降低了分析处理时间;另一方面,相对于仅使用深度感测传感器而言,也大大提高了判断的精确性。
可选地,在S300中,经过预处理后的第二数据帧组在发生特定事件的概率分布处理中所得到的概率大于特定事件发生概率阈值。此时,即可认定为这部分预处理后的第二数据帧组对于特定事件的发生具有较大的影响,应当将其纳入考虑范围。
此外,在此还提供一种乘客运输装置,其能够对前述各个实施例中监测系统择一应用或组合应用,并配套以相应的监测方法进行控制。由此能够消除各种各样可能存在的安全隐患,提高乘客对乘客运输装置的使用体验及信赖程度。
需要说明的是,本文公开和描绘的元件(包括附图中的流程图和方块图)意指元件之间的逻辑边界。然而,根据软件或硬件工程实践,描绘的元件及其功能可通过计算机可执行介质在机器上执行,计算机可执行介质具有能够执行存储在其上的程序指令的处理器,所述程序指令作为单片软件结构、作为独立软件模块或作为使用外部程序、代码、服务等的模块,或这些的任何组合,且全部这些执行方案可落入本公开的范围内。
虽然不同非限制性实施方案具有特定说明的组件,但本发明的实施方案不限于这些特定组合。可能使用来自任何非限制性实施方案的组件或特征中的一些与来自任何其它非限制性实施方案的特征或组件组合。
虽然示出、公开和要求了特定步骤顺序,但应了解步骤可以任何次序实施、分离或组合,除非另外指明,且仍将受益于本公开。
前述描述是示例性的而非定义成受限于其内。本文公开了各种非限制性实施方案,然而,本领域的一般技术人员将意识到根据上述教示,各种修改和变更将落入附属权利要求的范围内。因此,将了解在附属权利要求的范围内,可实行除了特定公开之外的公开内容。由于这个原因,应研读附属权利要求来确定真实范围和内容。
Claims (111)
1.一种乘客运输装置的监测系统,其特征在于,包括:
成像传感器和/或深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取数据帧;以及
处理装置,用于对所述数据帧进行数据处理以监测所述监测区域是否异常,其被配置为包括:
背景获取模块,用于基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;
前景检测模块,用于将实时感测的数据帧与所述背景模型进行比对以获得前景对象;以及
前景特征提取模块,用于从所述前景对象提取相应的前景对象标示特征;
状态判断模块,用于至少基于所述前景对象标示特征判断所述前景对象是否属于异常群体,并在判断为“是”的情况下确定所述前景对象属于异常群体。
2.如权利要求1所述的监测系统,其特征在于,
所述前景特征提取模块还包括异常人体模型生成子模块,其用于基于人体非自学建模和/或人体自学建模来定义异常人体模型。
3.如权利要求2所述的监测系统,其特征在于,所述人体自学建模通过深度学习技术来获得异常人体模型,所述深度学习技术包括深度神经网络、卷积神经网络、递归神经网络、字典学习或视觉词袋模型;且/或所述人体非自学建模包括:骨骼图模型和/或二值图模型。
4.如权利要求2所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象标示特征包括前景对象中人体的颜色、尺寸、形状及速度中的一个或多个,所述状态判断模块基于所述前景对象中的人体的颜色、尺寸、形状及速度中的一个或多个来判断所述前景对象是否属于异常群体。
5.如权利要求4所述的监测系统,其特征在于,在前景对象中人体的颜色、尺寸、形状及速度中的一个或多个落入所述异常人体模型中时,所述状态判断模块判断所述前景对象属于异常群体。
6.如权利要求2所述的监测系统,其特征在于,所述前景特征提取模块还包括异常物体模型生成子模块,其用于基于物体非自学建模和/或物体自学建模来定义异常物体模型。
7.如权利要求6所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象标示特征还包括前景对象中物体的尺寸和/或形状,所述工况判断模块基于所述前景对象中的物体的尺寸和/或形状来判断所述前景对象是否属于异常群体。
8.如权利要求7所述的监测系统,其特征在于,在前景对象中物体的尺寸和/或形状落入所述异常物体模型中时,所述状态判断模块判断所述前景对象属于异常群体。
9.如权利要求2至8任意一项所述的监测系统,其特征在于,在所述前景对象属于异常群体时,所述前景特征提取模块还用于从所述前景对象中提取异常群体周围相应的前景对象标示特征;所述状态判断模块还用于至少基于异常群体周围相应的前景对象标示特征判断所述前景对象处于异常状态,并在判断为“是”的情况下确定所述前景对象处于异常状态。
10.如权利要求1所述的监测系统,其特征在于,所述前景特征提取模块还包括宠物模型生成子模块,其用于基于宠物非自学建模和/或宠物自学建模来定义宠物模型。
11.如权利要求10所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象标示特征包括前景对象中宠物的形状、轮廓、尺寸及颜色中的一个或多个,所述状态判断模块基于所述前景对象中的宠物的形状、轮廓、尺寸及颜色中的一个或多个来判断所述前景对象是否属于异常群体。
12.如权利要求11所述的监测系统,其特征在于,在前景对象中宠物的尺寸和/或形状落入所述宠物模型中时,所述状态判断模块判断所述前景对象属于异常群体。
13.如权利要求1所述的监测系统,其特征在于,所述处理装置被配置为还包括:
轨迹生成模块,用于根据前景特征提取模块分别在多幅连续的所述数据帧所对应的前景对象中提取的前景对象标示特征生成关于前景对象标示特征的变化轨迹。
14.如权利要求13所述的监测系统,其特征在于,所述轨迹生成模块用于对前景对象标示特征的矢量应用贝叶斯估计技术来生成轨迹。
15.如权利要求13所述的监测系统,其特征在于,所述状态判断模块还被配置为:基于所述前景对象标示特征的变化轨迹预判前景对象是否即将属于异常群体,并在判断为“是”的情况下确定所述前景对象即将属于异常群体。
16.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述状态判断模块还被配置为,在至少连续两幅的所述数据帧的判断结果均为所述前景对象属于异常群体时,确定所述前景对象属于异常群体。
17.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述成像传感器和/或深度感测传感器每隔预定时段后感测获取在预定时段内的数据帧供所述处理装置进行数据处理。
18.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述成像传感器和/或深度感测传感器为多个,其被布置成能够覆盖所述乘客运输装置的入口和/或出口和/或整个长度方向。
19.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述监测系统还包括警报单元,所述状态判断模块在确定所述前景对象属于异常群体的情况下触发所述警报单元工作。
20.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述处理装置还被配置为,在所述状态判断模块确定所述前景对象属于异常群体时触发输出信号至所述乘客运输装置和/或楼宇的电梯维护中心以实现预防安全事故发生。
21.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述背景获取模块用于通过高斯混合模型、码书模型、主成分分析法或鲁棒主成分分析对感测的数据帧进行处理来获取背景模型。
22.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述前景检测模块用于通过帧间差分、形态学算子以及时间、空间或时空内核卷积来将实时感测的数据帧与所述背景模型进行比对以获得前景对象。
23.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述前景特征提取模块用于通过对时间、空间或时空梯度的估算;色彩、深度、任意这些参数的直方图及参数模型的估算来从所述前景对象提取相应的前景对象标示特征。
24.根据权利要求1至15任意一项所述的监测系统,其特征在于,所述状态判断模块用于基于距离函数来判断所述前景对象是否属于异常群体;或基于单独或联合贝叶斯推理来以概率的方式判断所述前景对象是否属于异常群体。
25.一种乘客运输装置的监测方法,其特征在于,包括:
S100,数据帧获取步骤:对所述乘客运输装置的监测区域进行感测以获取数据帧;
S200,背景获取步骤:基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;
S300,前景检测步骤:将实时感测的数据帧与所述背景模型进行比对以获得前景对象;
S400,前景特征提取步骤,从所述前景对象提取相应的前景对象标示特征;以及
S500,状态判断步骤:至少基于所述前景对象标示特征判断所述前景对象是否属于异常群体,并在判断为“是”的情况下确定所述前景对象属于异常群体。
26.如权利要求25所述的监测方法,其特征在于,所述S400还包括S410,异常人体模型生成子步骤,用于基于人体非自学建模和/或人体自学建模来定义异常人体模型。
27.如权利要求26所述的监测方法,其特征在于,所述人体自学建模通过深度学习技术来获得异常人体模型,所述深度学习技术包括深度神经网络、卷积神经网络、递归神经网络、字典学习或视觉词袋模型;且/或所述人体非自学建模包括:骨骼图模型和/或二值图模型。
28.如权利要求26所述的监测方法,其特征在于,在S410中,提取的前景对象标示特征包括前景对象中人体的颜色、形状、尺寸及速度中的一个或多个;在S500中,基于所述前景对象中的人体的颜色、形状、尺寸及速度中的一个或多个来判断所述前景对象是否属于异常群体。
29.如权利要求28所述的监测方法,其特征在于,在前景对象中人体的颜色、形状、尺寸及速度中的一个或多个落入所述异常人体模型中时,判断所述前景对象属于异常群体。
30.如权利要求26所述的监测方法,其特征在于,所述S400还包括S420,异常物体模型生成子步骤:用于基于物体非自学建模和/或物体自学建模来定义异常物体模型。
31.如权利要求30所述的监测方法,其特征在于,
在S420中,提取的前景对象标示特征还包括前景对象中物体的尺寸和/或形状;
在S500中,基于所述前景对象中的物体的尺寸和/或形状来判断所述前景对象是否属于异常群体。
32.如权利要求31所述的监测方法,其特征在于,在前景对象中物体的尺寸和/或形状落入所述异常物体模型中时,判断所述前景对象属于异常群体。
33.如权利要求26至32任意一项所述的监测方法,其特征在于,在所述前景对象属于异常群体时,在S400中,还从所述前景对象中提取异常群体周围相应的前景对象标示特征;在S500中,还至少基于异常群体周围相应的前景对象标示特征判断所述前景对象处于异常状态,并在判断为“是”的情况下确定所述前景对象处于异常状态。
34.如权利要求25所述的监测方法,其特征在于,所述S400还包括S430,宠物模型生成子步骤,基于宠物非自学建模和/或宠物自学建模来定义宠物模型。
35.如权利要求34所述的监测方法,其特征在于,在S430中,提取的前景对象标示特征包括前景对象中宠物的形状、轮廓、尺寸及颜色中的一个或多个;在S500中,基于所述前景对象中的宠物的形状、轮廓、尺寸及颜色中的一个或多个来判断所述前景对象是否属于异常群体。
36.如权利要求35所述的监测方法,其特征在于,在前景对象中宠物的尺寸和/或形状落入所述宠物模型中时,判断所述前景对象属于异常群体。
37.如权利要求25所述的监测方法,其特征在于,所述处理装置被配置为还包括:
S600,轨迹生成步骤:根据S400中分别在多幅连续的所述数据帧所对应的前景对象中提取的前景对象标示特征生成关于前景对象标示特征的变化轨迹。
38.如权利要求37所述的监测方法,其特征在于,通过对前景对象标示特征的矢量应用贝叶斯估计技术来生成轨迹。
39.如权利要求37所述的监测方法,其特征在于,在S500中,基于所述前景对象标示特征的变化轨迹预判前景对象是否即将属于异常群体,并在判断为“是”的情况下确定所述前景对象即将属于异常群体。
40.根据权利要求25至39任意一项所述的监测方法,其特征在于,在S500中,在至少连续两幅的所述数据帧的判断结果均为所述前景对象属于异常群体时,确定所述前景对象属于异常群体。
41.根据权利要求25至39任意一项所述的监测方法,其特征在于,每隔预定时段后感测获取在预定时段内的数据帧供所述处理装置进行数据处理。
42.根据权利要求25至39任意一项所述的监测方法,其特征在于,还包括S700,警报步骤:在确定所述前景对象属于异常群体的情况下触发警报单元工作。
43.一种乘客运输装置的监测系统,其特征在于,包括:
成像传感器和/或深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取数据帧;以及
处理装置,用于对所述数据帧进行数据处理以监测所述监测区域内是否异常,其被配置为包括:
背景获取模块,用于基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;
前景检测模块,用于将实时感测的数据帧与所述背景模型进行比对以获得前景对象;以及
前景特征提取模块,用于从所述前景对象提取相应的前景对象状态特征;
状态判断模块,用于至少基于所述前景对象状态特征判断所述前景对象是否处于异常状态,并在判断为“是”的情况下确定所述前景对象处于异常状态。
44.如权利要求43所述的监测系统,其特征在于,所述前景特征提取模块包括场景模型生成子模块,其用于基于在所述乘客运输装置的监测区域处于正常状态下感测的数据帧和/或场景自学模型和/或安装者或使用者在计算机上所呈现的区域中标识来定义危险区域。
45.如权利要求44所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象状态特征包括前景对象的速度、加速度、目标密集度及位置中的一个或多个,所述工况判断模块基于所述前景对象的速度、加速度、目标密集度及位置中的一个或多个来判断所述前景对象是否处于异常状态。
46.如权利要求45所述的监测系统,其特征在于,
在提取的前景对象状态特征中的前景对象的速度超出速度设定阈值时,所述工况判断模块判断所述前景对象处于异常状态;和/或
在提取的前景对象状态特征中的前景对象的加速度超出加速度设定阈值时,所述工况判断模块判断所述前景对象处于异常状态;和/或
在提取的前景对象状态特征中的前景对象的目标密集度超出目标密集度设定阈值时,所述工况判断模块判断所述前景对象处于异常状态。
47.如权利要求43所述的监测系统,其特征在于,所述前景特征提取模块还包括人体异常动作模型生成子模块,其用于基于人体非自学建模和/或人体自学建模来定义人体异常动作模型。
48.如权利要求47所述的监测系统,其特征在于,所述人体自学建模通过深度学习技术来获得人体异常动作模型,所述深度学习技术包括深度神经网络、卷积神经网络、递归神经网络、字典学习或视觉词袋模型;且/或所述人体非自学建模包括:骨骼图模型和/或二值图模型。
49.如权利要求47所述的监测系统,其特征在于,所述人体自学建模通过马尔可夫模型技术、隐马尔可夫模型、马尔可夫决策过程、部分可观测马尔可夫决策过程、马尔可夫决策逻辑或概率编程来获得人体异常动作模型。
50.如权利要求47所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象状态特征包括前景对象中人体的动作,所述工况判断模块基于所述前景对象中的人体的动作来判断所述前景对象是否处于异常状态。
51.如权利要求50所述的监测系统,其特征在于,在前景对象中人体的动作落入所述人体异常动作模型时,所述工况判断模块判断所述前景对象处于异常状态。
52.如权利要求51所述的监测系统,其特征在于,所述前景特征提取模块还包括场景模型生成子模块,其用于基于在所述乘客运输装置的监测区域处于正常状态下感测的数据帧和/或场景自学模型来定义危险区域。
53.如权利要求52所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象状态特征包括前景对象中人体的位置及动作,所述工况判断模块基于所述前景对象中的人体的位置及人体的动作来判断所述前景对象是否处于异常状态。
54.如权利要求53所述的监测系统,其特征在于,在前景对象中人体的位置处于所述危险区域且前景对象中人体的动作落入所述人体异常动作模型时,所述工况判断模块判断所述前景对象处于异常状态。
55.如权利要求43所述的监测系统,其特征在于,所述处理装置被配置为还包括:
轨迹生成模块,用于根据前景特征提取模块分别在多幅连续的所述数据帧所对应的前景对象中提取的前景对象状态特征生成关于前景对象状态特征的变化轨迹。
56.如权利要求55所述的监测系统,其特征在于,所述状态判断模块还被配置为:基于所述前景对象状态特征的变化轨迹预判前景对象是否即将处于异常状态,并在判断为“是”的情况下确定所述前景对象即将处于异常状态。
57.如权利要求56所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象状态特征包括前景对象的速度、加速度及目标密集度中的一个或多个,所述工况判断模块基于所述前景对象在所述危险区域的速度、加速度及目标密集度中的一个或多个的变化轨迹来判断所述前景对象是否即将处于异常状态。
58.如权利要求57所述的监测系统,其特征在于,
在所述前景对象的速度变化轨迹在预设时段内超出速度轨迹设定阈值时,所述工况判断模块判断所述前景对象即将处于异常状态;和/或
在所述前景对象的加速度变化轨迹在预设时段内超出加速度轨迹设定阈值时,所述工况判断模块判断所述前景对象即将处于异常状态;和/或
在所述前景对象的目标密集度变化轨迹在预设时段内超出密集度轨迹设定阈值时,所述工况判断模块判断所述前景对象即将处于异常状态。
59.如权利要求56所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象状态特征包括前景对象中人体的动作,所述工况判断模块基于所述前景对象中人体的动作的变化轨迹来判断所述前景对象是否即将处于异常状态。
60.如权利要求59所述的监测系统,其特征在于,在所述前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,所述工况判断模块判断所述前景对象即将处于异常状态。
61.如权利要求59所述的监测系统,其特征在于,所述前景特征提取模块提取的前景对象状态特征还包括前景对象中人体的位置,所述工况判断模块基于所述前景对象中人体的位置及人体的动作的变化轨迹来判断所述前景对象是否即将处于异常状态。
62.如权利要求61所述的监测系统,其特征在于,在所述前景对象中人体的位置变化轨迹在预设时段内逼近危险区域时,且在所述前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,所述工况判断模块判断所述前景对象即将处于异常状态。
63.根据权利要求43至62任意一项所述的监测系统,其特征在于,所述状态判断模块还被配置为,在至少连续两幅的所述数据帧的判断结果均为所述前景对象处于异常状态时,确定所述前景对象处于异常状态。
64.根据权利要求43至62任意一项所述的监测系统,其特征在于,所述成像传感器和/或深度感测传感器每隔预定时段后感测获取在预定时段内的数据帧供所述处理装置进行数据处理。
65.根据权利要求43至62任意一项所述的监测系统,其特征在于,所述成像传感器和/或深度感测传感器为多个,其被布置成能够覆盖所述乘客运输装置的入口和/或出口和/或整个长度方向。
66.根据权利要求43至62任意一项所述的监测系统,其特征在于,所述监测系统还包括警报单元,所述状态判断模块在确定所述前景对象处于异常状态的情况下触发所述警报单元工作。
67.根据权利要求43至62任意一项所述的监测系统,其特征在于,所述处理装置还被配置为,在所述状态判断模块确定所述前景对象处于异常状态时触发输出信号至所述乘客运输装置和/或楼宇的电梯维护中心以实现预防安全事故发生。
68.一种乘客运输装置的监测方法,其特征在于,包括:
S100,数据帧获取步骤:对所述乘客运输装置的监测区域进行感测以获取数据帧;
S200,背景获取步骤:基于在所述监测区域处于正常状态下感测的数据帧获取背景模型;
S300,前景检测步骤:将实时感测的数据帧与所述背景模型进行比对以获得前景对象;
S400,前景特征提取步骤,从所述前景对象提取相应的前景对象状态特征;以及
S500,状态判断步骤:至少基于所述前景对象状态特征判断所述前景对象是否处于异常状态,并在判断为“是”的情况下确定所述前景对象处于异常状态。
69.如权利要求68所述的监测方法,其特征在于,所述S400还包括S410,场景模型生成子步骤:用于基于在所述乘客运输装置的监测区域处于正常状态下感测的数据帧和/或场景自学模型和/或在计算机上所呈现的区域中标识来定义危险区域。
70.如权利要求69所述的监测方法,其特征在于,在S410中,提取的前景对象状态特征包括前景对象的速度、加速度、目标密集度及位置中的一个或多个,在S500中,基于所述前景对象在速度、加速度、目标密集度及位置中的一个或多个来判断所述前景对象是否处于异常状态。
71.如权利要求70所述的监测方法,其特征在于,
在提取的前景对象状态特征中的前景对象的速度超出速度设定阈值时,判断所述前景对象处于异常状态;和/或
在提取的前景对象状态特征中的前景对象的加速度超出加速度设定阈值时,判断所述前景对象处于异常状态;和/或
在提取的前景对象状态特征中的前景对象的目标密集度超出目标密集度设定阈值时,判断所述前景对象处于异常状态。
72.如权利要求68所述的监测方法,其特征在于,所述S400还包括S420,人体异常动作模型生成子步骤:用于基于人体非自学建模和/或人体自学建模来定义人体异常动作模型。
73.如权利要求72所述的监测方法,其特征在于,所述人体自学建模通过深度学习技术来获得人体异常动作模型,所述深度学习技术包括深度神经网络、卷积神经网络、递归神经网络、字典学习或视觉词袋模型;且/或所述人体非自学建模包括:骨骼图模型和/或二值图模型。
74.如权利要求72所述的监测方法,其特征在于,所述人体自学建模通过马尔可夫模型技术、隐马尔可夫模型、马尔可夫决策过程、部分可观测马尔可夫决策过程、马尔可夫决策逻辑或概率编程来获得人体异常动作模型。
75.如权利要求72所述的监测方法,其特征在于,
在S420中,提取的前景对象状态特征包括前景对象中人体的动作;
在S500中,基于所述前景对象中的人体的动作来判断所述前景对象是否处于异常状态。
76.如权利要求75所述的监测方法,其特征在于,在前景对象中人体的动作落入所述人体异常动作模型时,判断所述前景对象处于异常状态。
77.如权利要求76所述的监测方法,其特征在于,所述S400还包括S430,场景模型生成子步骤:基于在所述乘客运输装置的监测区域处于正常状态下感测的数据帧和/或场景自学模型来定义危险区域。
78.如权利要求77所述的监测方法,其特征在于,
在S430中,提取的前景对象状态特征包括前景对象中人体的位置及动作,
在S500中,基于所述前景对象中的人体的位置及人体的动作来判断所述前景对象是否处于异常状态。
79.如权利要求78所述的监测方法,其特征在于,在前景对象中人体的位置处于所述危险区域且前景对象中人体的动作落入所述人体异常动作模型时,判断所述前景对象处于异常状态。
80.如权利要求68所述的监测方法,其特征在于,所述处理装置被配置为还包括:
S600,轨迹生成步骤:根据S400中分别在多幅连续的所述数据帧所对应的前景对象中提取的前景对象状态特征生成关于前景对象状态特征的变化轨迹。
81.如权利要求80所述的监测方法,其特征在于,在S500中,基于所述前景对象状态特征的变化轨迹预判前景对象是否即将处于异常状态,并在判断为“是”的情况下确定所述前景对象即将处于异常状态。
82.如权利要求81所述的监测方法,其特征在于,
在S400中,提取的前景对象状态特征包括前景对象的速度、加速度及目标密集度中的一个或多个;
在S500中,基于所述前景对象的速度、加速度及目标密集度中的一个或多个的变化轨迹来判断所述前景对象是否即将处于异常状态。
83.如权利要求82所述的监测方法,其特征在于,
在所述前景对象的速度变化轨迹在预设时段内超出速度轨迹设定阈值时,判断所述前景对象即将处于异常状态;和/或
在所述前景对象的加速度变化轨迹在预设时段内超出加速度轨迹设定阈值时,判断所述前景对象即将处于异常状态;和/或
在所述前景对象的目标密集度变化轨迹在预设时段内超出密集度轨迹设定阈值时,判断所述前景对象即将处于异常状态。
84.如权利要求81所述的监测方法,其特征在于,
在S400中,所述前景特征提取模块提取的前景对象状态特征包括前景对象中人体的动作;
在S500中,基于所述前景对象中人体的动作的变化轨迹来判断所述前景对象是否即将处于异常状态。
85.如权利要求84所述的监测方法,其特征在于,在所述前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,判断所述前景对象即将处于异常状态。
86.如权利要求84所述的监测方法,其特征在于,
在S400中,所述前景特征提取模块提取的前景对象状态特征还包括前景对象中人体的位置;
在S500中,基于所述前景对象中人体的位置及人体的动作的变化轨迹来判断所述前景对象是否即将处于异常状态。
87.如权利要求86所述的监测方法,其特征在于,在所述前景对象中人体的位置变化轨迹在预设时段内逼近危险区域时,且在所述前景对象中人体的动作变化轨迹在预设时段内超出动作轨迹设定阈值时,判断所述前景对象即将处于异常状态。
88.根据权利要求68至86任意一项所述的监测方法,其特征在于,在S500中,在至少连续两幅的所述数据帧的判断结果均为所述前景对象处于异常状态时,确定所述前景对象处于异常状态。
89.根据权利要求68至86任意一项所述的监测方法,其特征在于,每隔预定时段后感测获取在预定时段内的数据帧供所述处理装置进行数据处理。
90.根据权利要求68至86任意一项所述的监测方法,其特征在于,还包括S700,警报步骤:在确定所述前景对象处于异常状态的情况下触发所述警报单元工作。
91.一种乘客运输装置的监测系统,其特征在于,包括:
成像传感器和/或深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取第一数据帧;
接收装置,其用于接收来自可穿戴设备的第二数据帧;所述第二数据帧由可穿戴设备的数据传感器对所述可穿戴设备及其携带者进行感测以获取;以及
处理装置,用于对所述第一数据帧及第二数据帧进行分析处理以监测运行的所述乘客运输装置和/或所述可穿戴设备携带者是否处于正常状态。
92.根据权利要求91所述的监测系统,其特征在于,
所述第二数据帧包括:位置数据帧;以及当前状态数据帧和/或加速度数据;
所述处理装置基于所述位置数据帧来判断所述可穿戴设备携带者是否处于乘客运输装置上;且
所述处理装置基于所述当前状态数据帧来判断所述可穿戴设备携带者是否在凝视所述可穿戴设备;且/或
所述处理装置基于所述加速度数据帧来判断所述可穿戴设备携带者的第二加速度是否超出所述第二加速度设定阈值。
93.根据权利要求92所述的监测系统,其特征在于,所述处理装置被配置成:在所述可穿戴设备携带者处于乘客运输装置上;且
所述可穿戴设备携带者在凝视所述可穿戴设备时,判断所述可穿戴设备携带者处于异常状态。
94.根据权利要求93所述的监测系统,其特征在于,所述处理装置基于维奥拉-琼斯算法接以基于在检测到的面部中的对称度所进行的头部姿态估计来判断所述可穿戴设备携带者是否在凝视可穿戴设备;并且在头部姿态低于特定阈值时,判断为“是”。
95.根据权利要求93所述的监测系统,其特征在于,所述处理装置被配置成:在所述可穿戴设备携带者处于乘客运输装置上;且所述可穿戴设备携带者在凝视所述可穿戴设备超出预设时段时;且/或所述可穿戴设备携带者在凝视所述可穿戴设备并处于危险区域内时,判断所述可穿戴设备携带者处于异常状态。
96.根据权利要求95所述的监测系统,其特征在于,所述处理装置被配置成:随着所述可穿戴设备携带者向危险区域的靠近,则设定的预设时段逐渐减短。
97.根据权利要求92所述的监测系统,其特征在于,所述处理装置被配置成:在所述可穿戴设备携带者处于乘客运输装置上;且所述可穿戴设备携带者的第二加速度超出第二加速度设定阈值时;进一步结合第一数据帧来判断所述乘客运输装置的第一加速度是否超出第一加速度设定阈值;在所述乘客运输装置的第一加速度超出第一加速度设定阈值时,判断所述所述乘客运输装置处于异常状态;和/或在所述乘客运输装置的第一加速度未超出第一加速度设定阈值时,判断可穿戴设备携带者处于异常状态。
98.根据权利要求92所述的监测系统,其特征在于,
所述接收装置用于接收来自多个可穿戴设备的第二数据帧组;所述第二数据帧组由多个可穿戴设备的多个数据传感器对多个所述可穿戴设备及其携带者进行感测以获取;以及
处理装置,用于对所述第一数据帧及第二数据帧组进行分析处理以监测运行的所述乘客运输装置和/或多个所述可穿戴设备携带者是否处于正常状态。
99.一种乘客运输装置的监测方法,其特征在于,包括:
S100,第一数据帧获取步骤:对所述乘客运输装置的监测区域进行感测以获取第一数据帧;
S200,第二数据帧获取步骤:接收来自可穿戴设备的第二数据帧;所述第二数据帧由可穿戴设备的数据传感器对所述可穿戴设备及其携带者进行感测以获取;以及
S300,处理步骤,对所述第一数据帧及第二数据帧进行分析处理以监测运行的所述乘客运输装置和/或所述可穿戴设备携带者是否处于正常状态。
100.根据权利要求99所述的监测方法,其特征在于,
在S200中,所述第二数据帧包括:位置数据帧;以及当前状态数据帧和/或加速度数据;
在S300中,基于所述位置数据帧来判断所述可穿戴设备携带者是否处于乘客运输装置上;且
基于所述当前状态数据帧来判断所述可穿戴设备携带者是否在凝视所述可穿戴设备;且/或
基于所述加速度数据帧来判断所述可穿戴设备携带者的第二加速度是否超出所述第二加速度设定阈值。
101.根据权利要求100所述的监测方法,其特征在于,在S300中,在所述可穿戴设备携带者处于乘客运输装置上;且所述可穿戴设备携带者在凝视所述可穿戴设备时,判断所述可穿戴设备携带者处于异常状态。
102.根据权利要求101所述的监测方法,其特征在于,在S300中,在所述可穿戴设备携带者处于乘客运输装置上;且所述可穿戴设备携带者在凝视所述可穿戴设备超出预设时段时;且/或所述可穿戴设备携带者在凝视所述可穿戴设备并处于危险区域内时,判断所述可穿戴设备携带者处于异常状态。
103.根据权利要求102所述的监测方法,其特征在于,基于维奥拉-琼斯算法接以基于在检测到的面部中的对称度所进行的头部姿态估计来判断所述可穿戴设备携带者是否在凝视可穿戴设备;并且在头部姿态低于特定阈值时,判断为“是”。
104.根据权利要求100所述的监测方法,其特征在于,在S300中,在所述可穿戴设备携带者处于乘客运输装置上;且所述可穿戴设备携带者的第二加速度超出第二加速度设定阈值时;进一步结合第一数据帧来判断所述乘客运输装置的第一加速度是否超出第一加速度设定阈值;在所述乘客运输装置的第一加速度超出第一加速度设定阈值时,判断所述所述乘客运输装置处于异常状态;和/或在所述乘客运输装置的第一加速度未超出第一加速度设定阈值时,判断可穿戴设备携带者处于异常状态。
105.根据权利要求100所述的监测方法,其特征在于,
在S200中,接收来自多个可穿戴设备的第二数据帧组;所述第二数据帧组由多个可穿戴设备的多个数据传感器对多个所述可穿戴设备及其携带者进行感测以获取;以及
在S300中,对所述第一数据帧及第二数据帧组进行分析处理以监测运行的所述乘客运输装置和/或多个所述可穿戴设备携带者是否处于正常状态。
106.一种乘客运输装置的监测系统,其特征在于,包括:
深度感测传感器,用于对所述乘客运输装置的监测区域进行感测以获取第一数据帧;
辅助传感器组,用于对所述乘客运输装置的监测区域进行感测以获取第二数据帧组;以及
预处理装置,用于对所述第二数据帧组中的数据帧进行发生特定事件的概率分布处理,获取经过预处理后的第二数据帧组;
处理装置,用于对所述第一数据帧及经过预处理的第二数据帧组进行分析处理以监测运行的所述乘客运输装置是否发生特定事件。
107.根据权利要求106所述的监测系统,其特征在于,所述辅助传感器组包括成像传感器和/或音频传感器和/或压力传感器和/或重力传感器和/或加速度计和/或电容传感器和/或制动梁传感器。
108.根据权利要求106所述的监测系统,其特征在于,所述经过预处理后的第二数据帧组在发生特定事件的概率分布处理中所得到的概率大于特定事件发生概率阈值。
109.一种乘客运输装置的监测方法,其特征在于,包括:
S100,第一数据帧获取步骤,对所述乘客运输装置的监测区域进行感测以获取第一数据帧;
S200,第二数据帧组获取步骤,对所述乘客运输装置的监测区域进行感测以获取第二数据帧组;
S300,预处理步骤,对所述第二数据帧组中的数据帧进行发生特定事件的概率分布处理,获取经过预处理后的第二数据帧组;以及
S400,状态判断步骤,用于对所述第一数据帧及经过预处理的第二数据帧组进行分析处理以监测运行的所述乘客运输装置是否发生特定事件。
110.根据权利要求109所述的监测方法,其特征在于,在S300中,所述经过预处理后的第二数据帧组在发生特定事件的概率分布处理中所得到的概率大于特定事件发生概率阈值。
111.一种乘客运输装置,其特征在于,包括如权利要求1至24或权利要求43至67或权利要求91至98或权利要求106至108中任意一项所述的监测系统。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410047817.8A CN117902441A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
CN201610610026.7A CN107665326B (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
CN202410047818.2A CN117864918A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
US15/660,194 US10059569B2 (en) | 2016-07-29 | 2017-07-26 | Monitoring system of a passenger conveyor, a passenger conveyor, and a monitoring method thereof |
EP17184116.6A EP3276535A1 (en) | 2016-07-29 | 2017-07-31 | A monitoring system of a passenger conveyor, and a monitoring method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610610026.7A CN107665326B (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
Related Child Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410047818.2A Division CN117864918A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
CN202410047817.8A Division CN117902441A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107665326A true CN107665326A (zh) | 2018-02-06 |
CN107665326B CN107665326B (zh) | 2024-02-09 |
Family
ID=59506125
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610610026.7A Active CN107665326B (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
CN202410047817.8A Pending CN117902441A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
CN202410047818.2A Pending CN117864918A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410047817.8A Pending CN117902441A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
CN202410047818.2A Pending CN117864918A (zh) | 2016-07-29 | 2016-07-29 | 乘客运输装置的监测系统、乘客运输装置及其监测方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10059569B2 (zh) |
EP (1) | EP3276535A1 (zh) |
CN (3) | CN107665326B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109919134A (zh) * | 2019-03-25 | 2019-06-21 | 王奕然 | 一种基于视觉的运营车辆人员异常行为检测方法 |
CN110549975A (zh) * | 2018-05-31 | 2019-12-10 | 南京华捷艾米软件科技有限公司 | 一种基于3D Sensor的汽车雷达系统及其控制方法 |
CN111126176A (zh) * | 2019-12-05 | 2020-05-08 | 山东浪潮人工智能研究院有限公司 | 一种用于特定环境的监控分析系统及方法 |
CN111325188A (zh) * | 2020-03-24 | 2020-06-23 | 通力电梯有限公司 | 监测自动扶梯的方法和监测自动扶梯的设备 |
CN112805759A (zh) * | 2018-09-10 | 2021-05-14 | 蒂森克虏伯电梯创新中心股份公司 | 用于乘客移动设施的风险检测系统 |
CN112926722A (zh) * | 2021-01-27 | 2021-06-08 | 上海兰宝传感科技股份有限公司 | 一种扶梯出入口区域人员计数方法 |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015121751A2 (en) * | 2014-02-16 | 2015-08-20 | Ghadamossoltani Amir Hussein | Intelligent escalator emergency stop system (ie2s2) |
EP3205618B1 (en) * | 2016-02-15 | 2024-04-03 | TK Escalator Norte, S.A. | Method for controlling a transport device, namely an escalator or a moving walkway |
EP3764281A1 (en) | 2016-02-22 | 2021-01-13 | Rapiscan Systems, Inc. | Methods of identifying firearms in radiographic images |
US20180118522A1 (en) * | 2016-10-28 | 2018-05-03 | Otis Elevator Company | Sensor on escalator landing plate |
CN108460864B (zh) * | 2017-02-22 | 2022-09-02 | 开利公司 | 人流量估测系统及用于其的故障处理方法 |
JP6502546B1 (ja) * | 2018-02-23 | 2019-04-17 | 東芝エレベータ株式会社 | 乗客コンベア |
WO2020062898A1 (zh) * | 2018-09-26 | 2020-04-02 | 惠州学院 | 一种视频前景目标提取方法及装置 |
CN109896405A (zh) * | 2018-12-20 | 2019-06-18 | 深圳市捷凌科技有限公司 | 用于电动扶梯的安全检测方法及其装置 |
CN110526054B (zh) * | 2019-09-17 | 2022-04-12 | 日立楼宇技术(广州)有限公司 | 电梯乘客检测方法、控制器、系统和存储介质 |
CN111259746A (zh) * | 2020-01-09 | 2020-06-09 | 浙江新再灵科技股份有限公司 | 一种直梯内宠物牵绳检测方法及系统 |
CN111178323B (zh) * | 2020-01-10 | 2023-08-29 | 北京百度网讯科技有限公司 | 基于视频的群体行为识别方法、装置、设备及存储介质 |
EP3878793A1 (en) * | 2020-03-09 | 2021-09-15 | Otis Elevator Company | Monitoring systems for passenger conveyors |
CN111498664A (zh) * | 2020-04-03 | 2020-08-07 | 通力电梯有限公司 | 控制多部乘客输送机的启动和停止的控制系统和控制方法 |
CN112794197B (zh) * | 2020-12-28 | 2022-03-15 | 广州地铁设计研究院股份有限公司 | 一种轨道交通自动扶梯控制系统及方法 |
CN113033300B (zh) * | 2021-02-07 | 2022-11-08 | 广东省科学院智能制造研究所 | 一种基于计算机视觉的扶梯安全自动监控方法及系统 |
CN113296087B (zh) * | 2021-05-25 | 2023-09-22 | 沈阳航空航天大学 | 一种基于数据增强的调频连续波雷达人体动作识别方法 |
WO2023194135A1 (de) | 2022-04-07 | 2023-10-12 | Inventio Ag | Verfahren und vorrichtung zur automatisierten überwachung des fahrbetriebes einer personenförderanlage |
CN116434145B (zh) * | 2023-04-21 | 2024-04-16 | 北京日立电梯工程有限公司 | 一种基于图像识别的电扶梯乘客危险行为分析监控系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101557506A (zh) * | 2009-05-19 | 2009-10-14 | 浙江工业大学 | 基于计算机视觉的电梯轿厢内暴力行为智能检测装置 |
CN101665210A (zh) * | 2008-09-03 | 2010-03-10 | 株式会社日立制作所 | 图像识别装置 |
US20110128374A1 (en) * | 2009-11-30 | 2011-06-02 | Canon Kabushiki Kaisha | Detection of abnormal behaviour in video objects |
US20130241730A1 (en) * | 2012-03-15 | 2013-09-19 | Behavioral Recognition Systems, Inc. | Alert volume normalization in a video surveillance system |
WO2015171774A1 (en) * | 2014-05-06 | 2015-11-12 | Otis Elevator Company | Object detector, and method for controlling a passenger conveyor system using the same |
CN105447458A (zh) * | 2015-11-17 | 2016-03-30 | 深圳市商汤科技有限公司 | 一种大规模人群视频分析系统和方法 |
CN105608479A (zh) * | 2016-03-01 | 2016-05-25 | 北京正安维视科技股份有限公司 | 结合深度数据的异常行为检测方法及系统 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1097898B1 (en) * | 1999-05-17 | 2005-10-05 | Mitsubishi Denki Kabushiki Kaisha | Controller of passenger conveyor and passenger sensor |
JP2002302373A (ja) | 2001-04-03 | 2002-10-18 | Hitachi Building Systems Co Ltd | 乗客コンベアの安全装置 |
JP3736463B2 (ja) | 2002-01-23 | 2006-01-18 | 石川島播磨重工業株式会社 | 歩行者感応信号制御方法 |
AU2003221893A1 (en) | 2002-04-08 | 2003-10-27 | Newton Security Inc. | Tailgating and reverse entry detection, alarm, recording and prevention using machine vision |
JP5048912B2 (ja) | 2002-11-06 | 2012-10-17 | インベンテイオ・アクテイエンゲゼルシヤフト | エスカレータ及び動く歩道のビデオカメラ監視 |
US7831087B2 (en) | 2003-10-31 | 2010-11-09 | Hewlett-Packard Development Company, L.P. | Method for visual-based recognition of an object |
DE102004018016A1 (de) | 2004-04-14 | 2005-11-10 | Sick Ag | Verfahren zur Überwachung eines Überwachungsbereichs |
JP5249529B2 (ja) | 2007-06-11 | 2013-07-31 | 株式会社日立製作所 | 乗客コンベアの安全装置および安全制御方法 |
JP5285919B2 (ja) | 2008-01-18 | 2013-09-11 | 株式会社日立製作所 | 乗客コンベアの安全装置 |
CN101607668B (zh) | 2008-06-17 | 2012-06-27 | 上海阿艾依智控系统有限公司 | 嵌入式计算机视觉自动扶梯人流监察警报装置 |
JP5559305B2 (ja) * | 2009-04-20 | 2014-07-23 | オーチス エレベータ カンパニー | 安全装置用パラメータの自動調節 |
CN101695983B (zh) | 2009-10-23 | 2011-12-21 | 浙江工业大学 | 基于全方位计算机视觉的自动扶梯节能与安全监控系统 |
JP2011195290A (ja) * | 2010-03-19 | 2011-10-06 | Toshiba Elevator Co Ltd | エスカレータ監視装置 |
JP2011195288A (ja) * | 2010-03-19 | 2011-10-06 | Toshiba Elevator Co Ltd | マンコンベア画像処理装置 |
CN102476774B (zh) | 2010-11-26 | 2015-04-15 | 三菱电机株式会社 | 跌倒检测装置及乘客输送机 |
JP5689089B2 (ja) | 2012-03-27 | 2015-03-25 | 三菱電機株式会社 | 倒れ検知装置及び乗客コンベア |
JP6027796B2 (ja) | 2012-07-06 | 2016-11-16 | 日本信号株式会社 | 転倒検出システム |
EP2708485B1 (de) | 2012-09-18 | 2014-09-03 | Cedes AG | Anfahrsensor mit Vorraumüberwachung für Fahrtreppen oder Fahrsteige |
DE102012220702A1 (de) | 2012-11-13 | 2014-05-15 | Ifm Electronic Gmbh | Überwachungssystem für eine Fahrtreppe oder einen Fahrsteig |
WO2015018435A1 (en) | 2013-08-05 | 2015-02-12 | Kone Corporation | Transportation/guide system |
WO2015121751A2 (en) | 2014-02-16 | 2015-08-20 | Ghadamossoltani Amir Hussein | Intelligent escalator emergency stop system (ie2s2) |
CN106256744B (zh) * | 2015-06-19 | 2019-12-10 | 奥的斯电梯公司 | 电梯乘坐用户管理方法及系统 |
-
2016
- 2016-07-29 CN CN201610610026.7A patent/CN107665326B/zh active Active
- 2016-07-29 CN CN202410047817.8A patent/CN117902441A/zh active Pending
- 2016-07-29 CN CN202410047818.2A patent/CN117864918A/zh active Pending
-
2017
- 2017-07-26 US US15/660,194 patent/US10059569B2/en active Active
- 2017-07-31 EP EP17184116.6A patent/EP3276535A1/en not_active Withdrawn
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101665210A (zh) * | 2008-09-03 | 2010-03-10 | 株式会社日立制作所 | 图像识别装置 |
CN101557506A (zh) * | 2009-05-19 | 2009-10-14 | 浙江工业大学 | 基于计算机视觉的电梯轿厢内暴力行为智能检测装置 |
US20110128374A1 (en) * | 2009-11-30 | 2011-06-02 | Canon Kabushiki Kaisha | Detection of abnormal behaviour in video objects |
US20130241730A1 (en) * | 2012-03-15 | 2013-09-19 | Behavioral Recognition Systems, Inc. | Alert volume normalization in a video surveillance system |
CN104254873A (zh) * | 2012-03-15 | 2014-12-31 | 行为识别系统公司 | 视频监控系统中的警报量归一化 |
WO2015171774A1 (en) * | 2014-05-06 | 2015-11-12 | Otis Elevator Company | Object detector, and method for controlling a passenger conveyor system using the same |
CN105447458A (zh) * | 2015-11-17 | 2016-03-30 | 深圳市商汤科技有限公司 | 一种大规模人群视频分析系统和方法 |
CN105608479A (zh) * | 2016-03-01 | 2016-05-25 | 北京正安维视科技股份有限公司 | 结合深度数据的异常行为检测方法及系统 |
Non-Patent Citations (4)
Title |
---|
何晔等: "安防和乘客异动在途监测系统设计", 《机车电传动》 * |
何晔等: "安防和乘客异动在途监测系统设计", 《机车电传动》, no. 04, 10 July 2013 (2013-07-10) * |
陈琼等: "基于手部轨迹识别的ATM智能视频监控系统", 《计算机工程》 * |
陈琼等: "基于手部轨迹识别的ATM智能视频监控系统", 《计算机工程》, no. 11, 5 June 2012 (2012-06-05) * |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110549975A (zh) * | 2018-05-31 | 2019-12-10 | 南京华捷艾米软件科技有限公司 | 一种基于3D Sensor的汽车雷达系统及其控制方法 |
CN112805759A (zh) * | 2018-09-10 | 2021-05-14 | 蒂森克虏伯电梯创新中心股份公司 | 用于乘客移动设施的风险检测系统 |
US11339030B2 (en) | 2018-09-10 | 2022-05-24 | Tk Escalator Norte S.A. | Risk-detection system for a passenger moving installation |
CN109919134A (zh) * | 2019-03-25 | 2019-06-21 | 王奕然 | 一种基于视觉的运营车辆人员异常行为检测方法 |
CN109919134B (zh) * | 2019-03-25 | 2023-04-18 | 王奕然 | 一种基于视觉的运营车辆人员异常行为检测方法 |
CN111126176A (zh) * | 2019-12-05 | 2020-05-08 | 山东浪潮人工智能研究院有限公司 | 一种用于特定环境的监控分析系统及方法 |
CN111325188A (zh) * | 2020-03-24 | 2020-06-23 | 通力电梯有限公司 | 监测自动扶梯的方法和监测自动扶梯的设备 |
WO2021190375A1 (zh) * | 2020-03-24 | 2021-09-30 | 通力股份公司 | 监测自动扶梯的方法和监测自动扶梯的设备 |
CN112926722A (zh) * | 2021-01-27 | 2021-06-08 | 上海兰宝传感科技股份有限公司 | 一种扶梯出入口区域人员计数方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117864918A (zh) | 2024-04-12 |
CN107665326B (zh) | 2024-02-09 |
EP3276535A1 (en) | 2018-01-31 |
CN117902441A (zh) | 2024-04-19 |
US10059569B2 (en) | 2018-08-28 |
US20180029838A1 (en) | 2018-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107665326A (zh) | 乘客运输装置的监测系统、乘客运输装置及其监测方法 | |
US10235565B2 (en) | System and methodologies for occupant monitoring utilizing digital neuromorphic (NM) data and fovea tracking | |
Foresti | A real-time system for video surveillance of unattended outdoor environments | |
EP3276550A1 (en) | Big data analyzing and processing system and method for passenger conveyor | |
CN107662872A (zh) | 乘客运输机的监测系统及其监测方法 | |
CN106006266B (zh) | 一种应用于电梯安全监控的机器视觉建立方法 | |
Lim et al. | iSurveillance: Intelligent framework for multiple events detection in surveillance videos | |
CN107662875A (zh) | 乘客运输机的梯级与梳齿板的啮合状态监检测 | |
CN110321780B (zh) | 基于时空运动特性的异常摔倒行为检测方法 | |
CN106241533A (zh) | 基于机器视觉的电梯乘员综合安全智能监控方法 | |
CN107662874A (zh) | 乘客运输机的扶手入口监测系统及其监测方法 | |
CN105913559A (zh) | 一种基于体感技术的银行atm机智能监控方法 | |
CN107662867A (zh) | 乘客运输机的梯级滚轮监测和维修操作人员监测 | |
CN106144816A (zh) | 基于深度传感器的乘客检测 | |
Sokolova et al. | A fuzzy model for human fall detection in infrared video | |
CN107662871A (zh) | 用于乘客运输装置的移动扶手监测系统、乘客运输装置及其监测方法 | |
CN106241534A (zh) | 多人乘梯异常活动智能监控方法 | |
CN107662868A (zh) | 乘客运输装置的监测系统、乘客运输装置及其监测方法 | |
KR102113489B1 (ko) | 카메라 입력 영상을 딥러닝 활용한 행동 감지 시스템 및 방법 | |
Sheikh et al. | Visual monitoring of railroad grade crossing | |
CN116052035A (zh) | 一种基于卷积神经网络的电厂人员周界入侵检测方法 | |
Khan et al. | Multiple moving vehicle speed estimation using Blob analysis | |
Khoudour et al. | Real-time pedestrian counting by active linear cameras | |
Teschioni et al. | A neural network approach for moving objects recognition in color image sequences for surveillance applications. | |
Fernández-Caballero et al. | Lateral inhibition in accumulative computation and fuzzy sets for human fall pattern recognition in colour and infrared imagery |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |