CN117274380A - 飞机廊桥靠接状态实时检测方法以及相关设备 - Google Patents
飞机廊桥靠接状态实时检测方法以及相关设备 Download PDFInfo
- Publication number
- CN117274380A CN117274380A CN202311214543.9A CN202311214543A CN117274380A CN 117274380 A CN117274380 A CN 117274380A CN 202311214543 A CN202311214543 A CN 202311214543A CN 117274380 A CN117274380 A CN 117274380A
- Authority
- CN
- China
- Prior art keywords
- bridge
- corridor
- corridor bridge
- target
- optical flow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 88
- 238000011897 real-time detection Methods 0.000 title claims description 37
- 230000003287 optical effect Effects 0.000 claims abstract description 156
- 238000001514 detection method Methods 0.000 claims abstract description 124
- 238000012544 monitoring process Methods 0.000 claims abstract description 119
- 238000004891 communication Methods 0.000 claims description 17
- 238000003860 storage Methods 0.000 claims description 8
- 230000007423 decrease Effects 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 11
- 238000012549 training Methods 0.000 description 10
- 238000004590 computer program Methods 0.000 description 5
- 238000007689 inspection Methods 0.000 description 5
- 238000012423 maintenance Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000011065 in-situ storage Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例涉及计算机数据处理技术领域，公开了一种飞机廊桥靠接状态实时检测方法，该方法包括：实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；监控图像序列包括多个图像帧；对监控图像序列进行角点检测，得到廊桥门区域内的多个特征点在图像帧内的位置信息；对各个特征点分别进行光流检测，得到各个特征点的光流信息；实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；确定廊桥门区域内的特征点的实时光流信息的变化信息；根据变化信息确定目标廊桥对于飞机的当前靠接状态。通过上述方式，本发明实施例实现了飞机廊桥靠接状态的精准检测。
Description
技术领域
本发明实施例涉及计算机数据处理技术领域，具体涉及一种飞机廊桥靠接状态实时检测方法以及相关设备。
背景技术
廊桥成功靠接到飞机上是飞机运行管理中的一个节点，因此，为了保证飞机的运行安全，对廊桥的靠接状态进行精确检测较为重要。
在实施现有技术的过程中，发明人发现：现有在进行廊桥靠接状态检测时，一般是人工监控或者对监控图像进行分类识别。其问题在于：基于人工巡检方式的成本较高、处理效率较低。而分类识别的方式一般是图像二分类，基于目标检测以及目标跟踪结果将图像标注为预设状态类型，如靠接中或靠接完成，但由于目标检测的检测对象的检测粒度较大，难以体现出廊桥靠接时的细微变化，因此，现有的监控图像在标注时数据边界不清晰，导致模型训练难以提取有效特征。综上，现有技术无法精确判断廊桥门是否完全闭合。
因此，需要一种精确度更高的飞机廊桥靠接状态检测方案。
发明内容
鉴于上述问题，本发明实施例提供了一种飞机廊桥靠接状态实时检测方法以及相关设备，用于解决现有技术中存在的飞机廊桥靠接状态检测的准确率较低的问题。
根据本发明实施例的一个方面，提供了一种飞机廊桥靠接状态实时检测方法，所述方法包括：
实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；
对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；
对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；
确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；
根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
在一种可选的方式中，所述变化信息包括所述廊桥门区域内当前存在光流输出的特征点的数量变化情况；所述方法还包括：
当确定当前存在光流输出的特征点的数量增大为大于第一预设阈值时，确定所述目标廊桥当前开始靠接飞机；
当确定所述当前存在光流输出的特征点的数量减小为小于所述第一预设阈值时，确定所述目标廊桥当前靠接飞机完成。
在一种可选的方式中，所述变化信息还包括所述廊桥门区域内当前存在光流输出的特征点的位置变化情况；所述方法还包括：
当确定当前存在光流输出的特征点的数量减小为小于第二预设阈值并且所述当前存在光流输出的特征点的位置位于所述廊桥门区域内的预设的可伸缩廊桥遮篷区域时，确定所述目标廊桥当前正在靠接飞机且存在部分已靠接完成；其中，所述第二预设阈值大于所述第一预设阈值。
在一种可选的方式中，所述方法还包括：
当确定所述当前存在光流输出的特征点的数量增多时，确定所述目标廊桥当前开始部分撤离；
在所述目标廊桥当前开始部分撤离后，当确定所述当前存在光流输出的特征点的数量的变化率在预设时长内小于预设变化率阈值时，确定所述目标廊桥的廊桥门当前完全收起；
当确定所述目标廊桥的廊桥门当前完全收起时，对所述目标廊桥的廊桥轮区域进行目标检测；
对所述廊桥轮区域内的检测到的特征点进行光流检测；
当确定所述廊桥轮区域内当前存在有光流输出的特征点时，确定所述目标廊桥当前开始整体撤离；
当确定所述廊桥轮区域内的所有特征点的当前光流输出值均小于第四预设阈值时，确定所述目标廊桥当前整体撤离完成。
在一种可选的方式中，所述方法还包括：
根据预设的飞机图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，确定飞机当前是否停入机位；
当确定飞机停入机位时，根据所述目标廊桥的廊桥轮的图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，判断所述廊桥轮当前是否位于预设的靠接时廊桥轮停放位置；
当确定所述廊桥轮当前位于所述靠接时廊桥轮停放位置时，根据所述目标廊桥的廊桥门的图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，得到所述监控图像序列。
在一种可选的方式中，所述方法还包括：
根据所述目标廊桥的廊桥轮的图像特征对所述机坪监控视频进行目标检测，得到廊桥轮区域内的特征点在所述机坪监控视频中的位置信息；
对所述廊桥轮区域内的特征点进行光流检测，根据所述廊桥轮区域内的特征点的光流检测结果判断所述廊桥轮当前是否位于所述靠接时廊桥轮停放位置。
在一种可选的方式中，所述方法还包括：
当确定所述廊桥轮区域内的特征点的光流输出值从小于第三预设阈值增大为大于所述第三预设阈值后又减小为小于所述第三预设阈值时，确定所述目标廊桥的廊桥轮位于所述靠接时廊桥轮停放位置。
根据本发明实施例的另一方面，提供了一种飞机廊桥靠接状态实时检测装置，包括：
提取模块，用于实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；
第一检测模块，用于对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在各个所述图像帧内的位置信息；
第二检测模块，用于对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；
第一确定模块，用于确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；
第二确定模块，用于根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
根据本发明实施例的另一方面，提供了一种飞机廊桥靠接状态实时检测设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如前述任意一项所述的飞机廊桥靠接状态实时检测方法的操作。
根据本发明实施例的又一方面，提供了一种计算机可读存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使飞机廊桥靠接状态实时检测设备执行如前述任意一项所述的飞机廊桥靠接状态实时检测方法的操作。
本发明实施例通过实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。考虑到现有技术中根据目标检测的结果，对较大尺寸的目标对象如廊桥门整体直接进行跟踪，根据廊桥门整体的跟踪情况对廊桥与飞机之间的靠接状态进行识别，其存在在廊桥靠接的特定阶段，如廊桥的可伸缩遮篷伸出时，廊桥图像变化较为细微，在大尺寸的廊桥整体作为被跟踪检测的对象时并无法很好体现，因此现有的廊桥靠接的训练数据的标注边界不清晰，飞机廊桥靠接状态识别的精确率较低。基于此，本发明实施例通过引入光流法对监控视频中的目标廊桥的廊桥门区域内的特征点进行更细粒度的实时跟踪，并且结合廊桥靠接时的运动规律，根据廊桥门区域的特征点的实时光流信息的变化情况，定位出廊桥的各个部位如可伸缩遮篷的像素点级别的运动，从而能够更精准地对廊桥的实时靠接状态进行识别，能够为机场的运维管理提供数据支持。
上述说明仅是本发明实施例技术方案的概述，为了能够更清楚了解本发明实施例的技术手段，而可依照说明书的内容予以实施，并且为了让本发明实施例的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
附图仅用于示出实施方式，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法的流程示意图；
图2示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法中的廊桥靠接过程的示意图；
图3示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法中的廊桥轮的光流检测结果示意图；
图4示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法中的廊桥轮以及廊桥门的目标检测结果示意图；
图5示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法中的飞机的客舱门的目标检测结果示意图；
图6示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法中的廊桥门区域的特征点的光流检测结果的变化示意图；
图7示出了本发明实施例提供的飞机廊桥靠接状态实时检测装置的结构示意图；
图8示出了本发明实施例提供的飞机廊桥靠接状态实时检测设备的结构示意图。
上述附图中：廊桥门：a1；廊桥轮：a2；客舱门：b1。
具体实施方式
下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。
相关名词解释：
目标检测对图像序列中的感兴趣目标对象进行检测，以进行提取、识别和跟踪，从而获取待跟踪目标对象的运动状态参数，例如位置，速度，加速度以及运动轨迹等。一般而言，目标对象是满足预设图像特征的一类物体，如人、车辆、猫狗等。
光流：即Optical Flow，是物体在三维空间中的运动在二维像平面上的投影。它是由物体和相机的相对速度产生的，反映了物体在极小时间内对应的图像像素的运动方向和速度。同一坐标位置上的时间灰度微分是空间灰度微分与该位置上相对于观测者的速度的乘积。光流是空间运动物体被观测面上的像素点运动产生的瞬时速度场，包含了物体表面结构和动态行为的重要信息。光流法针对每个像素进行检测其变化。
相邻帧差法：将前后两帧图像对应的像素值相减，在环境亮度变化不大的情况下，如果对应像素值相差值很小，可认为此处景物是静止的，反之，则是运动物体。
多目标追踪算法：即MOT(Multi-Object-Tracking)，指在一段视频中同时跟踪多个目标的任务。其核心思想是将目标检测和目标跟踪分离开来，首先使用目标检测算法对视频帧中的目标进行检测，然后将检测到的目标转化为特征向量，使用深度学习模型对目标特征进行学习，最后使用卡尔曼滤波器对目标进行跟踪，实现对目标的连续跟踪。多目标跟踪算法按照是否基于检测器来初始化目标可分为DBT(Detection-Based Tracking，基于检测器的跟踪)与DFT(Detection-Free Tracking，不基于检测器的跟踪)。其中，DBT：给定一个序列，在每帧中进行特定类型的目标检测或运动检测，得到目标假设，然后进行顺序或批量跟踪，将检测假设连接到轨迹中。DBT算法通常的工作流程：对每一帧图像进行检测，得到每个目标的边界框。对每个检测到的物体，计算不同的特征；相似度计算，计算前后帧两个对象属于同一目标的概率，最后关联分配每个对象ID。DFT：需要在第一帧手动初始化一定数量的目标，然后在后续帧定位这些物体。相对来说，DBT更受欢迎，因为它可以自动发现新目标、自动终止消失的目标。DFT无法处理新目标出现的情况，但它不需要提前训练目标探测器。
DeepSORT：SORT多目标跟踪算法的改进版本，其中，SORT(Simple OnlineRealtime Tracking，简单在线实时跟踪)的核心包括两个算法：卡尔曼滤波和匈牙利匹配。DeepSORT的主要特点：1、加入外观信息，借用了ReID领域模型来提取外观特征(即DeepAssociation Metric，深度关联矩阵)，减少了ID switch的次数。2、匹配机制从原来的基于IoU(Intersection overUnion，交并比)成本矩阵的匹配变成了级联匹配+IOU匹配DeepSORT的优点是实时性高、准确率高、鲁棒性强，可以应用于多种场景，如人脸识别、车辆跟踪等。同时，DeepSORT还具有可扩展性强的优点，可以根据不同的应用场景进行定制化的优化。
在进行本发明实施例的说明之前，对现有技术以及其存在的问题进行进一步说明：
现有的一般基于人工巡检或者基于视频监控自动巡检方式。其中，人工巡检依靠人工实地在机坪对廊桥靠接过程进行监控，从而输出当前的廊桥靠接状态。基于人工巡检方式在航班量大的情况下很难实现全场人工监控，并且无法有效实时采集和识别机坪的不安全操作行为。
而基于监控视频检测的方式大多是采用直接法进行检测或者通过图像进行二分类的方式，如在判断折叠遮篷状态问题上，使用AlexNet训练二分类模型，来对廊桥靠撤状态进行识别。
这种检测方式的问题在于：其所检测和跟踪的对象一般即是目标检测识别到的能表征特定类型的完整对象，如大尺寸的廊桥整体，其并无法检测到对象内部的更细微的局部变化，如在遮篷收放时的细微变化。与此同时，该局部部位的细微变化也难以被人工识别，由此会导致标注的训练数据边界不清晰、模型训练难以提取有效特征，进而导致廊桥靠接状态识别模型难以收敛或模型识别准确率较低的问题。
综上，现有的廊桥靠接识别方式存在准确率较低的问题。
图1示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法的流程图，该方法由计算机处理设备执行。该计算机处理设备可以包括手机、笔记本电脑等。如图1所示，该方法包括以下步骤：
步骤10：实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧。
其中，机坪监控视频包括对机坪区域的全方位的实时监控视频流。机坪区域内可以包括预设停机位以及与停机位对应的廊桥靠接位置。结合图2对廊桥的靠接过程进行说明，飞机停稳在停机位上后，廊桥轮带动廊桥主体运动到廊桥靠接位置后，廊桥的廊桥门非常接近飞机的客舱门，随后如图2中的(a)-(d)所示，廊桥门附有的可伸缩遮篷向飞机舱门方向伸出，直至如图2中(e)所示的可伸缩遮篷完全靠接到飞机表面，至此廊桥靠接飞机完成，旅客可以通过廊桥完成登机或下机。对应地，当旅客登机或下机完成后，廊桥的可伸缩遮篷缩回，廊桥门完全收起后，廊桥轮带动廊桥主体运动直至廊桥主体撤离出廊桥靠接位置。
因此，可以理解的是，廊桥门区域包括廊桥门的固定区域、可伸缩区域以及飞机客舱门等用于与廊桥对接的区域。具体地，根据廊桥以及飞机分别对应的图像特征对机坪监控视频进行目标检测以及目标跟踪，得到机坪监控视频中包括的廊桥门以及飞机区域，对该区域的视频数据进行实时截取，得到廊桥门区域对应的监控图像序列。可以理解的是，当在机坪监控视频中检测到多个目标廊桥时，分别针对各个目标廊桥从机坪监控视频提取出其廊桥门区域对应的监控图像序列。监控图像序列中包括至少两个图像帧，即当前时刻的监控图像帧和当前时刻之前的历史时刻的监控图像帧。
进一步地，考虑到对廊桥的靠接的检测的精度难点主要在于廊桥门上的可伸缩遮篷的运动状态的改变较为细微，难以通过对现有的大尺寸的目标检测的检测框进行跟踪所捕获，而结合前述对廊桥的靠接过程的说明，为了提高廊桥靠接状态识别的准确率，发明人想到首先对廊桥的可伸缩遮篷发生的前置过程进行检测，并在确定进入可伸缩遮篷开始向飞机客舱门靠接的阶段时，通过实时对机坪监控视频进行目标廊桥的廊桥门区域对应的监控图像序列的提取，从而将图像视野聚焦到廊桥门区域，从而便于对廊桥门上的可伸缩遮篷的区域的细节进行检测和跟踪。因此，在本发明的再一个实施例中，步骤10还包括：
步骤101：根据预设的飞机图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，确定飞机当前是否停入机位。
其中，飞机停入机位的过程包括飞机降落到机坪以后，由引导车引导进入机坪上的特定停机位并停稳。对应地，针对飞机当前是否停入机位的检测过程可以包括如下：从前端摄像机实时获取机坪监控视频，作为输入；针对机坪监控视频进行飞机检测以及飞机部件检测，其中，飞机部件包括飞机前轮、后轮中的至少一个。对检测到的飞机以及飞机部件进行运动跟踪，当确定机坪监控视频中飞机对应的检测框的位置不再发生变化时，进一步检测飞机前轮是否位于机位上预设的停止线上，当确定飞机前轮位于停止线上时，确定飞机已经停入机位。可选地，为了提高飞机入位检测的准确性，当确定飞机前轮位于停止线上后，还可以进一步检测飞机是否保持静止，仅当飞机前轮位于停止线上并且保持静止时，才确定飞机已经停入机位。其中，停止线是机位区域中预设的用于指示飞机停止的标记线。当飞机前轮位于停止线时，则表征飞机已经完全进入了停机位，可以理解的是，还可以通过对飞机后轮是否位于停机位的边界线上来判断飞机是否已经完全停入机位中。
具体地，飞机图像特征用于表征至少一个特定型号的飞机，其中，目标检测可以通过深度学习算法，如Yolov5算法实现，用于从机坪监控视频中检测出类型为飞机的对象，目标跟踪用于对机坪监控视频中的检测为飞机的对象进行运动跟踪，目标跟踪可以通过多目标跟踪算法实现，如基于检测器的多目标跟踪算法，如DeepSORT算法。需要说明的是，本发明实施例并不对针对飞机进行目标检测以及目标跟踪的算法进行限制。
步骤102：当确定飞机停入机位时，根据所述目标廊桥的廊桥轮的图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，判断所述廊桥轮当前是否位于预设的靠接时廊桥轮停放位置。
其中，廊桥轮用于在被驱动时带动廊桥的主体运动。靠接时廊桥轮停放位置用于表征廊桥在与飞机进行靠接时的廊桥轮停放的位置，一般而言，当廊桥轮停放在靠接时廊桥轮停放位置上时，廊桥门与对应的飞机的客舱门之间的距离非常接近。结合前述对廊桥的靠接工作过程的说明，当确定飞机停入机位时，廊桥即会启动靠接流程，因此，廊桥轮会开始运动，基于此，对机坪监控视频实时进行廊桥轮的检测以及跟踪，由此追踪到廊桥轮停稳即将进入廊桥门靠接的过程的时刻。
具体地，对机坪监控视频进行廊桥轮的检测以及跟踪的算法可以如前述对监控视频中的飞机进行检测以及跟踪的算法相同，本发明实施例对此不进行限制。进一步地，考虑到相对于飞机等尺寸较大的被检测对象，廊桥轮的尺寸较小，通过传统的对检测框进行运动跟踪的方式可能无法表现出廊桥轮的较为细微的运动以及变化，因此，为了进一步提高廊桥轮跟踪的准确率，从而为廊桥门的靠接状态的检测提供更为准确的前置支撑数据，在本发明的再一个实施例中，步骤102还包括：
步骤1021：根据所述目标廊桥的廊桥轮的图像特征对所述机坪监控视频进行目标检测，得到廊桥轮区域内的特征点在所述机坪监控视频中的位置信息。
其中，对所述机坪监控视频进行廊桥轮检测的算法可以采用深度学习算法，如Yolov5算法等。
步骤1022：对所述廊桥轮区域内的特征点进行光流检测，根据所述廊桥轮区域内的特征点的光流检测结果判断所述廊桥轮当前是否位于所述靠接时廊桥轮停放位置。
其中，考虑到现有的基于目标检测结果的目标跟踪所适用于的对象一般是检测框级别的，而检测框的粒度较粗，对检测框的跟踪可能无法表现出较小尺寸对象的变化幅度较小的运动，如廊桥轮这类尺寸较小的。与此同时，考虑到光流是二维矢量场，表示了一个点从第一帧到第二帧的位移，即表示的是相邻两帧图像中每个像素的运动速度和运动方向。也就是说考虑到光流法检测的运动针对的是的像素点级别的，通过光流检测对检测框中的特征点进行像素点级别的跟踪，能够更加精准地表现出廊桥轮的运动以及变化。具体地，结合廊桥靠接过程中，廊桥轮是从静止开始运动直到到达靠接时廊桥轮停放位置后停止，即廊桥轮静止到运动再到二次静止，因此可以根据廊桥轮区域内的特征点的光流输出的变化情况，当光流输出二次停止时，则确定廊桥轮当前位于所述靠接时廊桥轮停放位置。
因此，在本发明的再一个实施例中，步骤1022还包括：
步骤1023：当确定所述廊桥轮区域内的特征点的光流输出值从小于第三预设阈值增大为大于所述第三预设阈值后又减小为小于所述第三预设阈值时，确定所述目标廊桥的廊桥轮位于所述靠接时廊桥轮停放位置。
其中，考虑到廊桥轮在廊桥靠接过程中，会先从其所停放的初始位置开始运动，运动到靠接时停放位置后再次静止，即在廊桥从静止到靠接到飞机客舱门上的过程中，廊桥轮的运行状态是静止到运动再到静止，会存在两次静止的过程，因此，第三预设阈值可以设置为零，即通过第三预设阈值检测廊桥轮区域内的特征点中是否存在光流输出，当廊桥轮区域的特征点的光流输出值从小于第三预设阈值增大为大于所述第三预设阈值时，即表征廊桥轮从静止开始运动，而当廊桥轮区域的特征点的光流输出值从小于第三预设阈值增大为大于所述第三预设阈值时，则表征廊桥轮的状态从运动变化为静止。可选地，为了避免画面中其他可运动物体带来的噪声干扰，第三预设阈值可以设置为大于零，用于表征存在一定水平的光流输出。廊桥轮区域的光流检测结果可以如图3所示，图3中的白色区域即表征像素点运动所产生的光流场。
步骤103：当确定所述廊桥轮当前位于所述靠接时廊桥轮停放位置时，根据所述目标廊桥的廊桥门的图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，得到所述监控图像序列。
其中，结合廊桥靠接的工作过程，当确定所述廊桥轮当前位于所述靠接时廊桥轮停放位置时，即判定廊桥门开始向飞机的客舱门靠接，此时为了提高廊桥门靠接状态识别的精确率，可以集中对机坪监控视频中的廊桥门区域进行目标检测和目标跟踪，从而得到监控图像序列。需要说明的是，考虑到廊桥门是靠接到飞机客舱门上，飞机客舱门的变动会对廊桥门的运动检测造成影响，因此，为了提高廊桥靠接状态检测的准确率，在对机坪监控视频进行廊桥轮的目标检测以及跟踪的同时，还可以针对机坪监控视频进行飞机的客舱门区域的目标检测以及跟踪，以使得监控图像序列中同时包括目标廊桥的廊桥门以及目标廊桥所要靠接的飞机的客舱门区域。其中，针对目标廊桥的廊桥门区域的目标检测结果可以参考图4，如图4所示，a1即为监控视频图像中廊桥门对应的检测框，a2即为监控视频图像中廊桥轮对应的检测框。对应地，针对飞机的客舱门的目标检测结果可以参考图5，如图5所示，b1即为监控视频图像中客舱门对应的检测框。
步骤20：对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息。
其中，廊桥门区域内的特征点用于表征廊桥门的轮廓以及飞机的客舱的轮廓，通过获取廊桥门区域内的多个特征点的位置信息，实现对监控图像序列中的廊桥轮以及飞机客舱区域实现定位。可以理解的是，随着廊桥的靠接运动，廊桥门区域的特征点的数量以及位置可能出现变化，如当廊桥门上的可伸缩遮篷伸出时，廊桥门区域的特征点的数量会增多。
步骤30：对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向。
其中，考虑到对检测框的跟踪粒度较粗，无法跟踪到廊桥靠接过程中的较为细微的局部运动，而根据光流法可以对像素点的运动进行跟踪，从而能够更精准地跟踪廊桥的局部如廊桥门、如廊桥门上的可伸缩遮篷区域中的像素点的变化情况，从而根据局部区域中的像素点的光流场确定廊桥的部件，如可伸缩遮篷是否存在运动。实时光流信息用于表征廊桥门区域的各个特征点在当前时刻的图像帧与上一时刻的图像帧之间的光流场信息，可以理解的是，当像素点在上一时刻到当前时刻存在运动时，其运动会在当前时刻的图像帧与上一时刻的图像帧产生光流场，即存在光流输出，由此通过对监控图像序列中的廊桥门区域的特征点采用光流检测的方式进行运动跟踪。
步骤40：确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息。
结合目标廊桥在靠接过程中廊桥门的运动规律，即先静止到运动再到再次静止，通过检测廊桥门区域内的所述特征点的所述实时光流信息的变化信息，可以反映出廊桥门所处的阶段，从而据此判断目标廊桥的靠接状态。具体地，考虑到主要是针对廊桥门的运动进行检测，而是否存在运动可以通过是否存在光流输出表征，进一步地，廊桥的不同靠接状态下廊桥的运动部件的位置和数量也不同，因此，廊桥门区域内的所述特征点的所述实时光流信息的变化信息可以包括存在光流输出的特征点的位置信息以及数量信息。
步骤50：根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
其中，所述变化信息包括所述廊桥门区域内当前存在光流输出的特征点的数量变化情况。其中，特征点当前存在光流输出是指特征点在当前图像帧与上一图像帧之间存在光流场，即其在当前图像帧与上一图像帧之间的运行速度不为零。具体地，考虑到目标廊桥在靠接过程中廊桥门的运动规律，即先静止到运动再到再次静止，当存在光流输出的特征点的数量从零开始增大时，则认为目标廊桥从静止开始运动，即目标廊桥开始靠接，对应地，当存在光流输出的特征点的数量从一定值减小为零时，则认为目标廊桥的靠接结束。
在本发明的一个实施例中，步骤50还包括：
步骤501：当确定当前存在光流输出的特征点的数量增大为大于第一预设阈值时，确定所述目标廊桥当前开始靠接飞机。
结合图6进行说明，图6示出了本发明实施例提供的飞机廊桥靠接状态实时检测方法中的廊桥门区域的特征点的光流检测结果的变化示意图，图6中白色区域表征特征点对应的光流场。当目标廊桥当前开始靠接飞机，即出现廊桥门开始进一步靠接飞机的客舱门，并且廊桥门上的可伸缩遮篷开始向飞机客舱门方向伸出，此时廊桥门区域内的表征廊桥门以及其上的可伸缩遮篷的特征点会存在光流输出，如图6中的时刻t1到时刻t2所示。因此，第一预设阈值可以是零或较小的数值。可选地，第一预设阈值可以根据当前时刻廊桥门区域中的特征点的数量与预设的第一比例值的乘积确定，第一比例值可以较小，如可以是5％或10％，当确定廊桥门区域中存在5％或10％的特征点存在光流输出时，则确定所述目标廊桥当前开始靠接飞机。
步骤502：当确定所述当前存在光流输出的特征点的数量减小为小于所述第一预设阈值时，确定所述目标廊桥当前靠接飞机完成。
其中，若当前存在光流输出的特征点的数量减小为小于所述第一预设阈值时，表征廊桥门区域中基本上不存在运动，即可以判定廊桥门以及其上的可伸缩遮篷的运动已经停止，廊桥门区域内的表征廊桥门以及其上的可伸缩遮篷的特征点的光流输出已经停止，如图6中的时刻t5到时刻t6所示。因此，所述当前存在光流输出的特征点的数量是从大于第一预设阈值减小为小于所述第一预设阈值时，表征目标廊桥当前靠接飞机完成。
进一步地，考虑到目标廊桥从开始靠接到靠接完成会持续一段时间，其在靠接过程中，廊桥门的下部会先靠接到飞机表面，随后廊桥门上的可伸缩遮篷会向飞机客舱门伸出，直接可伸缩遮篷完全靠接到飞机表面上，因此，为了进一步提高廊桥靠接飞机状态检测的精确度，能够更细粒度地对廊桥靠接飞机的阶段进行跟踪，在本发明的再一个实施例中，所述变化信息还包括所述廊桥门区域内当前存在光流输出的特征点的位置变化情况。其中，位置变化信息用于表征当前存在光流输出的特征点在图像帧内的位置变化。
步骤50还包括：步骤503：当确定当前存在光流输出的特征点的数量减小为小于第二预设阈值并且所述当前存在光流输出的特征点的位置位于所述廊桥门区域内的预设的可伸缩廊桥遮篷区域时，确定所述目标廊桥当前正在靠接飞机且存在部分已靠接完成；其中，所述第二预设阈值大于所述第一预设阈值。
其中，第二预设阈值大于第一预设阈值，即表征廊桥门区域的存在光流输出的特征点的数量随着目标廊桥的靠接从第一预设阈值进一步增大到第二预设阈值，如图6中的时刻t2到时刻t3所示，随后随着目标廊桥的部分(如廊桥门的下部)靠接完成，廊桥门区域存在光流输出的特征点的数量会开始减少为小于第二预设阈值，如图6中的时刻t4到时刻t5所示。在此基础上，为了提高廊桥靠接状态识别的准确率，考虑到廊桥靠接时，先完成靠接停止运动的一般是廊桥门下部，而最后完成靠接停止运动的是目标廊桥的可伸缩遮篷，因此可以对当前存在光流输出的特征点的位置是否位于所述廊桥门区域内的预设的可伸缩廊桥遮篷区域进行进一步检测。具体地，可伸缩廊桥遮篷区域可以是位于廊桥门区域内的廊桥门的右上角。第二预设阈值可以根据当前时刻廊桥门区域中的特征点的数量与预设的第二比例值的乘积确定，第二比例值可以较小，如可以是5％或10％，当确定廊桥门区域中存在5％或10％的特征点存在光流输出时，则确定所述目标廊桥当前开始靠接飞机。
对应地，考虑到目标廊桥在靠接完成，如图6中的时刻t6所示，旅客通过廊桥完成上下机之后，目标廊桥会从飞机撤离，撤离过程与前述靠接过程对应，目标廊桥的廊桥门上的可伸缩遮篷先收起，收起完成后廊桥轮带动目标廊桥的整体撤离出靠接时停放位置。对应地，为了对廊桥靠接的全过程进行精准以及细粒度的跟踪，
在本发明的再一个实施例中，在步骤502之后还包括：
步骤5021：当确定所述当前存在光流输出的特征点的数量增多时，确定所述目标廊桥当前开始部分撤离。
其中，目标廊桥在靠接完成后会保持一定时长的静止，以便于旅客通过廊桥完成上下机，随后，目标廊桥的廊桥门上的可伸缩遮篷会开始收起，此时会检测到当前存在光流输出的特征点的数量增多，由此表征目标廊桥当前开始部分撤离。
步骤5022：在所述目标廊桥当前开始部分撤离后，当确定所述当前存在光流输出的特征点的数量的变化率在预设时长内小于预设变化率阈值时，确定所述目标廊桥的廊桥门当前完全收起。
其中，预设的变化率阈值可以设置得较小，当当前存在光流输出的特征点的数量的变化率在预设时长内小于预设变化率阈值时，即表征当前存在光流输出的特征点的数量在一定时长内持续不变，此时可以判定目标廊桥的廊桥门上的可伸缩遮篷已经完全收起，即目标廊桥的廊桥门当前完全收起。
步骤5023：当确定所述目标廊桥的廊桥门当前完全收起时，对所述目标廊桥的廊桥轮区域进行目标检测。
其中，结合目标廊桥的撤离过程，当廊桥门完全收起后，目标廊桥的廊桥轮开始运动，以带动目标廊桥离开机位附近，因此，对所述目标廊桥的廊桥轮区域进行目标检测，以集中对廊桥轮的运动进行跟踪。
步骤5024：对所述廊桥轮区域内的检测到的特征点进行光流检测。
其中，类似前述根据光流法对廊桥门区域的特征点进行跟踪，利用光流法是像素点级别的运行监测，通过对所述廊桥轮区域内的检测到的特征点进行光流检测，更加细粒度对廊桥轮这一局部区域进行运动跟踪。
步骤5025：当确定所述廊桥轮区域内当前存在有光流输出的特征点时，确定所述目标廊桥当前开始整体撤离。
其中，当确定所述廊桥轮区域内当前存在有光流输出的特征点时，表征廊桥轮存在运动，结合前述对目标廊桥的撤离过程的说明，可知，当廊桥轮存在运动时，表征目标廊桥当前开始整体撤离。
步骤5026：当确定所述廊桥轮区域内的所有特征点的当前光流输出值均小于第四预设阈值时，确定所述目标廊桥当前整体撤离完成。
其中，第四预设阈值与前述第一预设阈值可以相同，当所述廊桥轮区域内的所有特征点的当前光流输出值均小于第四预设阈值，则表征廊桥轮保持静止，因此，可以确定所述目标廊桥当前整体撤离完成。
本发明实施例提供的飞机廊桥靠接状态实时检测方法通过实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。考虑到现有技术中根据目标检测的结果，对较大尺寸的目标对象如廊桥门整体直接进行跟踪，根据廊桥门整体的跟踪情况对廊桥与飞机之间的靠接状态进行识别，其存在在廊桥靠接的特定阶段，如廊桥的可伸缩遮篷伸出时，廊桥图像变化较为细微，在大尺寸的廊桥整体作为被跟踪检测的对象时并无法很好体现，因此现有的廊桥靠接的训练数据的标注边界不清晰，飞机廊桥靠接状态识别的精确率较低。基于此，本发明实施例提供的飞机廊桥靠接状态实时检测方法通过引入光流法对监控视频中的目标廊桥的廊桥门区域内的特征点进行更细粒度的实时跟踪，并且结合廊桥靠接时的运动规律，根据廊桥门区域的特征点的实时光流信息的变化情况，定位出廊桥的各个部位如可伸缩遮篷的像素点级别的运动，从而能够更精准地对廊桥的实时靠接状态进行识别，能够为机场的运维管理提供数据支持。
图7示出了本发明实施例提供的飞机廊桥靠接状态实时检测装置的结构示意图。如图7所示，该装置60包括：提取模块601、第一检测模块602、第二检测模块603、第一确定模块604以及第二确定模块605。
提取模块601，用于实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；
第一检测模块602，用于对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在各个所述图像帧内的位置信息；
第二检测模块603，用于对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；
第一确定模块604，用于确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；
第二确定模块605，用于根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
本发明实施例提供的飞机廊桥靠接状态实时检测装置的操作过程与前述方法实施例的大致相同，不再赘述。
本发明实施例提供的飞机廊桥靠接状态实时检测装置通过实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。考虑到现有技术中根据目标检测的结果，对较大尺寸的目标对象如廊桥门整体直接进行跟踪，根据廊桥门整体的跟踪情况对廊桥与飞机之间的靠接状态进行识别，其存在在廊桥靠接的特定阶段，如廊桥的可伸缩遮篷伸出时，廊桥图像变化较为细微，在大尺寸的廊桥整体作为被跟踪检测的对象时并无法很好体现，因此现有的廊桥靠接的训练数据的标注边界不清晰，飞机廊桥靠接状态识别的精确率较低。基于此，本发明实施例提供的飞机廊桥靠接状态实时检测装置通过引入光流法对监控视频中的目标廊桥的廊桥门区域内的特征点进行更细粒度的实时跟踪，并且结合廊桥靠接时的运动规律，根据廊桥门区域的特征点的实时光流信息的变化情况，定位出廊桥的各个部位如可伸缩遮篷的像素点级别的运动，从而能够更精准地对廊桥的实时靠接状态进行识别，能够为机场的运维管理提供数据支持。
图8示出了本发明实施例提供的飞机廊桥靠接状态实时检测设备的结构示意图，本发明具体实施例并不对飞机廊桥靠接状态实时检测设备的具体实现做限定。
如图8所示，该飞机廊桥靠接状态实时检测设备可以包括：处理器(processor)702、通信接口(Communications Interface)704、存储器(memory)706、以及通信总线708。
其中：处理器702、通信接口704、以及存储器706通过通信总线708完成相互间的通信。通信接口704，用于与其它设备比如客户端或其它服务器等的网元通信。处理器702，用于执行程序710，具体可以执行上述用于飞机廊桥靠接状态实时检测方法实施例中的相关步骤。
具体地，程序710可以包括程序代码，该程序代码包括计算机可执行指令。
处理器702可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。飞机廊桥靠接状态实时检测设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。
存储器706，用于存放程序710。存储器706可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
程序710具体可以被处理器702调用使飞机廊桥靠接状态实时检测设备执行以下操作：
实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；
对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；
对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；
确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；
根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
本发明实施例提供的飞机廊桥靠接状态实时检测设备的操作过程与前述方法实施例的大致相同，不再赘述。
本发明实施例提供的飞机廊桥靠接状态实时检测设备通过实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。考虑到现有技术中根据目标检测的结果，对较大尺寸的目标对象如廊桥门整体直接进行跟踪，根据廊桥门整体的跟踪情况对廊桥与飞机之间的靠接状态进行识别，其存在在廊桥靠接的特定阶段，如廊桥的可伸缩遮篷伸出时，廊桥图像变化较为细微，在大尺寸的廊桥整体作为被跟踪检测的对象时并无法很好体现，因此现有的廊桥靠接的训练数据的标注边界不清晰，飞机廊桥靠接状态识别的精确率较低。基于此，本发明实施例提供的飞机廊桥靠接状态实时检测设备通过引入光流法对监控视频中的目标廊桥的廊桥门区域内的特征点进行更细粒度的实时跟踪，并且结合廊桥靠接时的运动规律，根据廊桥门区域的特征点的实时光流信息的变化情况，定位出廊桥的各个部位如可伸缩遮篷的像素点级别的运动，从而能够更精准地对廊桥的实时靠接状态进行识别，能够为机场的运维管理提供数据支持。
本发明实施例提供了一种计算机可读存储介质，所述存储介质存储有至少一可执行指令，该可执行指令在飞机廊桥靠接状态实时检测设备上运行时，使得所述飞机廊桥靠接状态实时检测设备执行上述任意方法实施例中的飞机廊桥靠接状态实时检测方法。
可执行指令具体可以用于使得飞机廊桥靠接状态实时检测设备执行以下操作：
实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；
对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；
对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；
确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；
根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
本发明实施例提供的飞机廊桥靠接状态实时检测设备的操作过程与前述方法实施例的大致相同，不再赘述。
本发明实施例提供的计算机存储介质存储的可执行指令通过实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。考虑到现有技术中根据目标检测的结果，对较大尺寸的目标对象如廊桥门整体直接进行跟踪，根据廊桥门整体的跟踪情况对廊桥与飞机之间的靠接状态进行识别，其存在在廊桥靠接的特定阶段，如廊桥的可伸缩遮篷伸出时，廊桥图像变化较为细微，在大尺寸的廊桥整体作为被跟踪检测的对象时并无法很好体现，因此现有的廊桥靠接的训练数据的标注边界不清晰，飞机廊桥靠接状态识别的精确率较低。基于此，本发明实施例提供的计算机存储介质存储的可执行指令通过引入光流法对监控视频中的目标廊桥的廊桥门区域内的特征点进行更细粒度的实时跟踪，并且结合廊桥靠接时的运动规律，根据廊桥门区域的特征点的实时光流信息的变化情况，定位出廊桥的各个部位如可伸缩遮篷的像素点级别的运动，从而能够更精准地对廊桥的实时靠接状态进行识别，能够为机场的运维管理提供数据支持。
本发明实施例提供一种飞机廊桥靠接状态实时检测装置，用于执行上述飞机廊桥靠接状态实时检测方法。
本发明实施例提供了一种计算机程序，所述计算机程序可被处理器调用使飞机廊桥靠接状态实时检测设备执行上述任意方法实施例中的飞机廊桥靠接状态实时检测方法。
本发明实施例提供了一种计算机程序产品，计算机程序产品包括存储在计算机可读存储介质上的计算机程序，计算机程序包括程序指令，当程序指令在计算机上运行时，使得所述计算机执行上述任意方法实施例中的飞机廊桥靠接状态实时检测方法。
在此提供的算法或显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明实施例也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。
本领域技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤，除有特殊说明外，不应理解为对执行顺序的限定。
Claims (10)
1.一种飞机廊桥靠接状态实时检测方法，其特征在于，所述方法包括：
实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；
对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在所述图像帧内的位置信息；
对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；
确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；
根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
2.根据权利要求1所述的方法，其特征在于，所述变化信息包括所述廊桥门区域内当前存在光流输出的特征点的数量变化情况；所述根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态，包括：
当确定当前存在光流输出的特征点的数量增大为大于第一预设阈值时，确定所述目标廊桥当前开始靠接飞机；
当确定所述当前存在光流输出的特征点的数量减小为小于所述第一预设阈值时，确定所述目标廊桥当前靠接飞机完成。
3.根据权利要求2所述的方法，其特征在于，所述变化信息还包括所述廊桥门区域内当前存在光流输出的特征点的位置变化情况；在所述当确定当前存在光流输出的特征点的数量增大为大于第一预设阈值时，确定所述目标廊桥当前开始靠接飞机之后，包括：
当确定当前存在光流输出的特征点的数量减小为小于第二预设阈值并且所述当前存在光流输出的特征点的位置位于所述廊桥门区域内的预设的可伸缩廊桥遮篷区域时，确定所述目标廊桥当前正在靠接飞机且存在部分已靠接完成；其中，所述第二预设阈值大于所述第一预设阈值。
4.根据权利要求2所述的方法，其特征在于，在所述当确定当前存在光流输出的特征点的数量减小为小于所述第一预设阈值时，确定所述目标廊桥当前靠接飞机完成之后，包括：
当确定所述当前存在光流输出的特征点的数量增多时，确定所述目标廊桥当前开始部分撤离；
在所述目标廊桥当前开始部分撤离后，当确定所述当前存在光流输出的特征点的数量的变化率在预设时长内小于预设变化率阈值时，确定所述目标廊桥的廊桥门当前完全收起；
当确定所述目标廊桥的廊桥门当前完全收起时，对所述目标廊桥的廊桥轮区域进行目标检测；
对所述廊桥轮区域内的检测到的特征点进行光流检测；
当确定所述廊桥轮区域内当前存在有光流输出的特征点时，确定所述目标廊桥当前开始整体撤离；
当确定所述廊桥轮区域内的所有特征点的当前光流输出值均小于第四预设阈值时，确定所述目标廊桥当前整体撤离完成。
5.根据权利要求1所述的方法，其特征在于，所述实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列，包括：
根据预设的飞机图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，确定飞机当前是否停入机位；
当确定飞机停入机位时，根据所述目标廊桥的廊桥轮的图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，判断所述廊桥轮当前是否位于预设的靠接时廊桥轮停放位置；
当确定所述廊桥轮当前位于所述靠接时廊桥轮停放位置时，根据所述目标廊桥的廊桥门的图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，得到所述监控图像序列。
6.根据权利要求5所述的方法，其特征在于，所述当确定飞机停入机位时，根据所述目标廊桥的廊桥轮的图像特征对所述机坪监控视频实时进行目标检测以及目标跟踪，判断所述廊桥轮是否位于预设的靠接时廊桥轮停放位置，包括：
根据所述目标廊桥的廊桥轮的图像特征对所述机坪监控视频进行目标检测，得到廊桥轮区域内的特征点在所述机坪监控视频中的位置信息；
对所述廊桥轮区域内的特征点进行光流检测，根据所述廊桥轮区域内的特征点的光流检测结果判断所述廊桥轮当前是否位于所述靠接时廊桥轮停放位置。
7.根据权利要求6所述的方法，其特征在于，所述对所述廊桥轮区域内的特征点进行光流检测，根据所述廊桥轮区域内的特征点的光流检测结果判断所述廊桥轮是否位于预设的靠接时廊桥轮停放位置，包括：
当确定所述廊桥轮区域内的特征点的光流输出值从小于第三预设阈值增大为大于所述第三预设阈值后又减小为小于所述第三预设阈值时，确定所述目标廊桥的廊桥轮位于所述靠接时廊桥轮停放位置。
8.一种飞机廊桥靠接状态实时检测装置，其特征在于，所述装置包括：
提取模块，用于实时从机坪监控视频中提取出目标廊桥的廊桥门区域对应的监控图像序列；所述监控图像序列包括多个图像帧；
第一检测模块，用于对所述监控图像序列进行角点检测，得到所述廊桥门区域内的多个特征点在各个所述图像帧内的位置信息；
第二检测模块，用于对各个所述特征点分别进行光流检测，得到各个所述特征点的实时光流信息；所述实时光流信息用于表征像素点在相邻两帧图像帧间的运动速度以及运动方向；
第一确定模块，用于确定所述廊桥门区域内的所述特征点的所述实时光流信息的变化信息；
第二确定模块，用于根据所述变化信息确定所述目标廊桥对于飞机的当前靠接状态。
9.一种飞机廊桥靠接状态实时检测设备，其特征在于，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7任意一项所述的飞机廊桥靠接状态实时检测方法的操作。
10.一种计算机可读存储介质，其特征在于，所述存储介质中存储有至少一可执行指令，所述可执行指令在飞机廊桥靠接状态实时检测设备上运行时，使得飞机廊桥靠接状态实时检测设备执行如权利要求1-7任意一项所述的飞机廊桥靠接状态实时检测方法的操作。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311214543.9A CN117274380A (zh) | 2023-09-20 | 2023-09-20 | 飞机廊桥靠接状态实时检测方法以及相关设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311214543.9A CN117274380A (zh) | 2023-09-20 | 2023-09-20 | 飞机廊桥靠接状态实时检测方法以及相关设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN117274380A true CN117274380A (zh) | 2023-12-22 |
Family
ID=89218992
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311214543.9A Pending CN117274380A (zh) | 2023-09-20 | 2023-09-20 | 飞机廊桥靠接状态实时检测方法以及相关设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117274380A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117853986A (zh) * | 2024-03-06 | 2024-04-09 | 西安众望能源科技有限公司 | 一种基于油井设备的视频监控系统及方法 |
-
2023
- 2023-09-20 CN CN202311214543.9A patent/CN117274380A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117853986A (zh) * | 2024-03-06 | 2024-04-09 | 西安众望能源科技有限公司 | 一种基于油井设备的视频监控系统及方法 |
| CN117853986B (zh) * | 2024-03-06 | 2024-05-28 | 西安众望能源科技有限公司 | 一种基于油井设备的视频监控系统及方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111091591B (zh) | 一种碰撞检测方法、装置、电子设备及存储介质 | |
| WO2020020472A1 (en) | A computer-implemented method and system for detecting small objects on an image using convolutional neural networks | |
| Martinez et al. | Towards autonomous detection and tracking of electric towers for aerial power line inspection | |
| CN106599832A (zh) | 一种基于卷积神经网络的多类障碍物检测与识别方法 | |
| EP2713308A2 (en) | Method and system for using fingerprints to track moving objects in video | |
| Novak et al. | YOLOv3 Algorithm with additional convolutional neural network trained for traffic sign recognition | |
| Wang et al. | A video-based traffic violation detection system | |
| CN117274380A (zh) | 飞机廊桥靠接状态实时检测方法以及相关设备 | |
| KR102105954B1 (ko) | 사고위험 감지시스템 및 감지방법 | |
| CN112784814B (zh) | 车辆倒车入库的姿态识别方法及输送车倒车入库引导系统 | |
| DE102012218870A1 (de) | Verbessertes Erkennen herrenloser Objekte unter Verwendung des Erfassens von Fussgängern | |
| CN106780560A (zh) | 一种基于特征融合粒子滤波的仿生机器鱼视觉跟踪方法 | |
| Yang et al. | Vision-based crane tracking for understanding construction activity | |
| DE102015207047A1 (de) | Verfahren und System automatisierten Sequenzieren von Fahrzeugen in nebeneinander angeordneten Durchfahrtskonfigurationen über eine bildbasierte Einstufung | |
| Arya et al. | Real-time vehicle detection and tracking | |
| CN111079621A (zh) | 检测对象的方法、装置、电子设备和存储介质 | |
| CN111914627A (zh) | 一种车辆识别与追踪方法及装置 | |
| CN109977844A (zh) | 一种基于图像识别机动车礼让行人控制系统及控制方法 | |
| CN103258433B (zh) | 一种交通视频监控中智能车牌清晰显示方法 | |
| CN113298044B (zh) | 基于定位补偿的障碍物检测方法、系统、设备及存储介质 | |
| Belloc et al. | Detection of people boarding/alighting a metropolitan train using computer vision | |
| CN113971789A (zh) | 用于检测的方法和计算系统 | |
| Diaz et al. | Guided Visual Inspection enabled by AI-based Detection Models | |
| Cheng et al. | Application of convolutional neural network technology in vehicle parking management | |
| DE102015207055A1 (de) | Verfahren und System zur Handhabung einer Teilverdeckung bei der Fahrzeugverfolgung mittels eines Modells für verformbare Teile |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |