CN112308032B - 一种视频检测的井下风门智能协同联动控制方法 - Google Patents
一种视频检测的井下风门智能协同联动控制方法 Download PDFInfo
- Publication number
- CN112308032B CN112308032B CN202011335295.XA CN202011335295A CN112308032B CN 112308032 B CN112308032 B CN 112308032B CN 202011335295 A CN202011335295 A CN 202011335295A CN 112308032 B CN112308032 B CN 112308032B
- Authority
- CN
- China
- Prior art keywords
- air door
- frame
- roi
- passing
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 73
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000012544 monitoring process Methods 0.000 claims abstract description 21
- 238000009826 distribution Methods 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 11
- 238000002372 labelling Methods 0.000 claims description 8
- 238000004458 analytical method Methods 0.000 claims description 5
- 241000287107 Passer Species 0.000 claims description 3
- 238000013480 data collection Methods 0.000 claims description 3
- 238000012549 training Methods 0.000 claims description 3
- 238000005259 measurement Methods 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 4
- 230000006870 function Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 8
- 239000007789 gas Substances 0.000 description 5
- 230000008569 process Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000012850 discrimination method Methods 0.000 description 2
- 238000003064 k means clustering Methods 0.000 description 2
- 239000001301 oxygen Substances 0.000 description 2
- 229910052760 oxygen Inorganic materials 0.000 description 2
- 238000009423 ventilation Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000003245 coal Substances 0.000 description 1
- 230000001351 cycling effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- GOLXNESZZPUPJE-UHFFFAOYSA-N spiromesifen Chemical compound CC1=CC(C)=CC(C)=C1C(C(O1)=O)=C(OC(=O)CC(C)(C)C)C11CCCC1 GOLXNESZZPUPJE-UHFFFAOYSA-N 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 231100000331 toxic Toxicity 0.000 description 1
- 230000002588 toxic effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/08—Detecting or categorising vehicles
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Human Computer Interaction (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种视频检测的井下风门智能协同联动控制方法,属智能监控技术领域,利用智能视频监控技术对风门区域进行实时目标类型的识别和位置的检测,确认其目标属性与当前通行需求(行人开小风门,车辆开大风门),进而实现两道风门的智能开闭和巷道的高效通行;同时设计两道风门开闭的逻辑闭锁,在软件功能上限制两道风门同时开闭的情况,从根本上消除人为因素造成的安全风险;除此之外,为了满足紧急情况下的人员疏散需求,设置手动风门闭锁解除按钮,最大化事故发生时的人员疏散效率。
Description
技术领域
本发明属于智能监控技术领域,涉及一种视频检测的井下风门智能协同联动控制方法。
背景技术
风门是煤矿井下的主要通风设施,常布置在巷道中,主要作用是确保工作面通风系统稳定,减少无效漏风;确保井下人员供给足够的新鲜空气,满足人员的氧气需求;冲淡井下有毒有害气体和粉尘,保证安全生产。井下风门若因各种因素发生违规开启,可能造成矿井风流紊乱,新风直接通过打开的风门进入回风巷,造成井下各用风点达不到配风计划,采掘工作面风量不足,导致污风被局扇吸入,使得风流中的瓦斯浓度升高,严重时会造成瓦斯异常涌出,引起瓦斯爆炸。井下一组风门一般不能少于两道,使其在不造成风流短路的情况下仍然能满足人员和设备的通行需求。
由于风门长期以来以来采用人工的方式进行开闭,存在人为失误造成两道风门同时开启的安全隐患。同时现有两道风门的闭锁模式大多未考虑到紧急情况下解除闭锁的必要性,在事故发生时则会降低井下人员的疏散效率。
除此之外,由于风门部署位置风压较大,同时风门需要通过矿车,通行面积较大,手动开闭时的阻力较大,风压大时开启操作不甚灵活。
为了解决这一问题,工程人员在大风门上设置一个小风门供人员通行,让风门的开闭更加灵活;并使用电控液压泵站取代人力进行风门开闭的操作,人员和车辆通过时需要按动对应的开关,即可由液压站对风门进行开闭。手动电控的方法使得风门的开闭更加简易高效,但仍未完全消除人员违规操作的风险。
发明内容
发明目的:为了解决现有技术存在的问题,本发明提供一种视频检测的井下风门智能协同联动控制方法。
技术方案:为了实现上述发明目的,本发明采用如下技术方案:
一种视频检测的井下风门智能协同联动控制方法,包括如下步骤:
1)首先使用荧光带对风门的待通行区域进行手动标记;
2)基于YOLO v3目标检测算法对摄像头采集视频进行行人和车辆的检测,得到检测结果的类别、检测框坐标信息;基于色彩特征提取算法对待识别区域进行ROI初始化标定,为后续的通行识别提供区域位置参考;
3)基于ROI信息和目标检测信息,从空间域和时间域两个维度对当前风门场景中的通行需求进行识别;
4)确定当前识别单元中的目标类型后,根据风门通行规则进行风门开启操作;
5)利用视频分析的方式对风门的开闭状态进行不间断监控:首先在风门上进行人工标记,随后基于色彩因子提取算法对彩色标记区域进行二值化,最后通过计算不同状态下二值化像素的分布距离进行风门状态的识别。
进一步地,步骤3)中具体为首先通过计算目标检测框与ROI区域的交并比来表示空间域通行需求;随后通过建立包含多帧图像的通行目标类型识别单元,并统计单个识别单元中两种目标类型所占比例,大于阈值的目标作为当前识别单元的目标类别属性。
进一步地,步骤4)中,所述的风门通行规则包括以下情况:
4.1)车辆通行开启车辆通行风门、人员通行开启人员通行风门,人员和车辆同时出现开启车辆通行风门;
4.2)当同一道风门同时产生双向通行需求时,根据检测到目标的前后顺序进行风门开启操作;
4.3)同时前后两道风门不能同时开启,每次进行风门开启操作前都要对两道风门的状态进行识别,只有确定两道风门都为关闭状态时才进行正常的开启操作。
进一步地,所述的步骤2)中,具体为:首先面向井下场景采集风门现场数据,针对通行人员和各类车辆进行数据采集及属性标定,利用标定数据对YOLO v3算法进行训练,最后将YOLO v3算法部署于边缘图像推理设备上,实现视频流的本地化推理;包括如下步骤:
2.1)基于K-means算法的先验信息建模:
首先将数据集中所有目标的检测框坐标提取出来,并获取其宽高数据;
初始化k个检测框的宽高数据,即通过在数据集所有检测框中随机选取k个值作为所求先验框的初始值;
分别计算每个标定框与k个先验框的交并比(Intersection over Union,IoU),即两个矩形框重叠的部分除以两个矩形框的并集部分,并以d=1-IoU表示两个矩形框之间的距离度量;
表示第n个标定框与第k个先验框之间的距离,以第i个标注框为例,通过比较其与每个先验框之间的距离/>将这个标注框分类给与其距离最近的那个先验框,随后循环对每个标注框进行分类,得到每个标注框的先验框属性;
对于每个先验框中的那些标注框,计算这些标注框的宽高数据的平均值,将其更新为该先验框新的尺寸;重复步骤4)到步骤5),直到在步骤4)中发现对于全部标注框,其所属的先验框与之前所属的先验框尺寸一致,此时表明所有标注框的分类已经不再更新,得到当前k个先验框的尺寸大小,算法结束;
2.2)ROI初始化标定,在算法初始化时基于色彩因子提取算法对监控画面中的待通行区域进行像素标定,确定其图像像素空间坐标;由于摄像头部署位置相对固定,因此ROI区域在初始化标定后便不再改变,得到的ROI像素坐标将能够对现场荧光带区域实现稳定表示;最后对ROI进行尺寸重构送入目标检测算法中进行特征推理;
2.3)目标检测算法对输入图片进行行人和车辆的检测,获取其检测框后计算其与ROI之间的IoU,A区域为ROI与目标检测框之间的重叠区域面积,B和C分别为ROI与目标检测框除去A剩下的区域面积,其IoU计算方式为:
设置空间判别阈值σ(0<σ<1),当IoU>σ时判断当前帧图像中目标的通行需求有效。
进一步地,所述的步骤5)中,具体为:
5.1)风门状态识别方法
通过对特定色彩因子进行像素提取,来识别每一帧图片中风门标定区域的结构,进而可以得到感兴趣像素点的二值分布,最后计算每一帧图片中的感兴趣像素点与风门关闭状态时感兴趣像素点之间的像素分布距离,当其分布距离大于阈值T时,判定此时风门的状态为开启状态,否则判定为关闭状态;
5.2)风门控制逻辑
当待ROI区域中的待通行目标为人员时,执行开启人员通行风门的操作;当待通行目标为车辆时,执行开启车辆通行风门操作;当ROI区域中同时出现人员和车辆两种通行目标时,执行开启车辆通行风门的操作;
同一道风门同时检测到不同方向的通行需求情况发生时,按检测到目标的先后顺序进行同行需求的判断,假设系统首先检测到人员目标,则首先进行ROI A区域的通行需求判断,待风门开启并关闭之后,再重新对ROI B内的目标进行检测,重新判断其通行需求;
5.3)风门闭锁逻辑
两道风门的协同闭锁功能基于对风门状态识别、通行需求识别以及风门关闭识别三个识别方法进行流程编排实现,闭锁功能通过综合两道风门的状态信息对风门开启与关闭操作进行协同控制:如果当前风门存在通行需求,则需要首先判断另一道风门的状态,只有确认另一道风门处于关闭状态时才能只能对当前风门的开启操作,否则只能循环对另一道风门进行关闭条件判断,及时对其进行关闭。
有益效果:与现有技术相比,本发明的一种视频检测的井下风门智能协同联动控制方法,利用智能视频监控技术对风门区域进行实时目标类型的识别和位置的检测,确认其目标属性与当前通行需求(行人开小风门,车辆开大风门),进而实现两道风门的智能开闭和巷道的高效通行;同时设计两道风门开闭的逻辑闭锁,在软件功能上限制两道风门同时开闭的情况,从根本上消除人为因素造成的安全风险;除此之外,为了满足紧急情况下的人员疏散需求,设置手动风门闭锁解除按钮,最大化事故发生时的人员疏散效率。
附图说明
图1为一种视频检测的井下风门智能协同联动控制方法示意图;
图2为风门监控部署及关闭判断图;
图3为风门智能协同联动控制方法流程示意图;
图4为YOLO v3算法流程示意图;
图5为ROI初始化标定流程示意图;
图6为空间域通行需求判别方法示意图;
图7为识别结果示意图;
图8为风门状态监控方法示意图;
图9为门开启规则及双向通行判别逻辑示意图;
图10为风门闭锁功能与开启优先级设定示意图。
具体实施方式
下面结合附图对本发明的结构及性能做进一步说明。
一种视频检测的井下风门智能协同联动控制方法,使用井下摄像头作为信息采集设备实现对风门区域的实时监控,获取的视频数据被送入边缘计算设备中进行推理,基于边缘推理设备的图形处理功能实现对视频内容进行识别,包括对目标属性的识别(人员识别和车辆识别)以及对风门状态的监控(开启或关闭),目标属性的识别结果与风门控制逻辑结合生成决策信号传入PLC控制器中,并对地面监控主机生成监控反馈,为管理人员提供可视化的监控信息。PLC控制器基于风门开闭状态的识别结果,为两道风门提供闭锁逻辑控制,在此基础上根据决策信号对电控液压泵进行控制。
如图1所示,一种视频检测的井下风门智能协同联动控制方法,包括如下步骤:
1)首先使用荧光带对风门的待通行区域进行手动标记;基于色彩特征提取算法对待识别区域进行ROI初始化标定,为后续的通行识别提供区域位置参考;
2)基于YOLO v3目标检测算法对摄像头采集视频进行行人和车辆的检测,得到检测结果的类别、检测框坐标等信息;
3)基于ROI信息和目标检测信息,从空间域和时间域两个维度对当前风门场景中的通行需求进行识别:首先通过计算目标检测框与ROI区域的交并比来表示空间域通行需求。随后通过建立包含多帧图像的通行目标类型识别单元,并统计单个识别单元中两种目标类型(人员和车辆)所占比例,大于一定阈值的目标作为当前识别单元的目标类别属性;
4)确定当前识别单元中的目标类型后,根据风门通行规则:①车辆通行开启大风门、人员通行开启小风门,人员和车辆同时出现开启大风门。②当同一道风门同时产生双向通行需求时,根据检测到目标的前后顺序进行风门开启操作。③同时前后两道风门不能同时开启,每次进行风门开启操作前都要对两道风门的状态进行识别,只有确定两道风门都为关闭状态时才进行正常的开启操作;
5)利用视频分析的方式对风门的开闭状态进行不间断监控:首先在风门上进行人工标记,随后基于色彩因子提取算法对彩色标记区域进行二值化,最后通过计算不同状态下二值化像素的分布距离进行风门状态的识别。
图像采集设备采用枪型高清监控摄像头,在每道风门内外两侧各安装摄像头2台,分别对风门的两侧区域进行监控,一组风门共布设4台摄像头,风门监控部署示意图如图2(a)所示:为了方便对待通行目标的监控和识别,风门前后都使用彩色荧光带在地面标识待识别区域,以一段时间内的区域内目标检测结果作为通行需求的判定依据,如图2(a)中阴影区域所示。当一段时间内摄像头未在风门两侧的识别区域内检测到目标时,则判定当前无通行需求,进行风门的关闭操作,如图2(b)所示。除此之外,为了避免两道风门同时开启的状况,基于视频分析技术对风门的开闭状态进行实时识别,当识别到有一道风门处于开启状态时,另外一道风门的通行检测功能暂时关闭,只有当识别到两道风门都处于关闭状态时,才同时对两道风门进行通行检测,如图2(c)所示。
如图3所示,本方法基于边缘计算技术在降低数据传输时延,提升现场决策相应速率上的优势,利用边缘图形推理设备对摄像头采集视频进行信息推理,并基于风门通行规则设计控制逻辑,结合推理结果和控制逻辑对风门开闭进行控制。
边缘图像推理算法
边缘图像推理算法基于边缘图形推理设备实现,包括目标检测、ROI(Region OfInterest)标定、通行识别以及风门状态识别。下面分别对其进行介绍:
目标检测
目标检测算法是针对图像中出现的目标进行定位和属性识别,在矿井场景中具有风门通行需求的有且只有两类目标:人员和车辆。随着数据集的扩充及硬件计算能力的提升,基于深度学习的目标检测算法逐渐突破了传统目标检测的瓶颈,成为当前主流的目标检测方法。
使用YOLO v3目标检测算法对人员和车辆进行识别,它有着较高的检测精度和极高的检测速度,能够在一块NVIDIA Titan X显卡上以51ms的速度达到57.9AP_50的性能,非常适合用于实时系统。首先面向井下场景采集风门现场数据,针对通行人员和各类车辆进行数据采集及属性标定,利用标定数据对YOLO v3算法进行训练,最后将YOLO v3算法部署于边缘图像推理设备上,实现视频流的本地化推理,降低信息传输与决策响应延时。
算法概述
基于K-means算法的先验信息建模:为给最后的目标检测框提供一定的先验信息,YOLO v3算法首先对候选区域进行了预定义:将图片划分成13*13,26*26,52*52三种不同尺度的候选区域,分别对应特征提取网络输出的13*13,26*26,52*52三种大小的特征图。通过使用K-means聚类算法对现场数据集中的目标标定框的大小进行聚类,得到9种不同尺度的先验框:(10*13),(16*30),(33*23),(30*61),(62*45),(59*119),(116*90),(156*198),(373*326)。分配上,根据感受野的大小对特征图的进行先验框匹配:最小的特征图13*13上(最大的感受野),应匹配较大的先验框(116*90),(156*198),(373*326),适合检测较大的目标;中等的特征图26*26上(中等大小感受野),应匹配中等大小的先验框(30*61),(62*45),(59*119),适合检测中等大小的的目标;而对于较大的特征图52*52上(较小的感受野),应匹配较小的先验框(10*13),(16*30),(33*23),适合检测较小的目标。
K-means算法流程如下所示:
首先将数据集中所有目标的检测框坐标提取出来,并获取其宽高数据;
初始化k个检测框的宽高数据,即通过在数据集所有检测框中随机选取k个值作为所求先验框的初始值;
分别计算每个标定框与k个先验框的交并比(Intersection over Union,IoU),即两个矩形框重叠的部分除以两个矩形框的并集部分,并以d=1-IoU表示两个矩形框之间的距离度量。
表示第n个标定框与第k个先验框之间的距离,以第i个标注框为例,通过比较其与每个先验框之间的距离/>将这个标注框分类给与其距离最近的那个先验框,随后循环对每个标注框进行分类,得到每个标注框的先验框属性。
对于每个先验框中的那些标注框,计算这些标注框的宽高数据的平均值,将其更新为该先验框新的尺寸。重复步骤4)到步骤5),直到在步骤4)中发现对于全部标注框,其所属的先验框与之前所属的先验框尺寸一致(小于某一阈值),此时表明所有标注框的分类已经不再更新,得到当前k个先验框的尺寸大小,算法结束。
如图4(b)所示,特征提取网络输出的三种尺度的特征图分别用于预测三种不同尺度大小的目标。表1为特征图大小与先验框尺寸之间的关系:小特征图(13*13)由于拥有较大感受野(特征图中每个特征点对应输入图片中的像素区域大小),所以将尺寸最大的三个先验框分配给它。同理,中等特征图和大特征图按照其感受野大小被分配相应大小的先验框。
表1特征图与先验框
图4以13*13的特征图为例说明三种不同尺度下的先验框预测方法。其中图4(a)为基于先验信息的候选框预测;图4(b)为YOLO v3网路结构。
从感受野的角度来看,N*N的特征图的每一个像素点都可以对应于原始图像中的每一个栅格,而每一个栅格都会产生一组预测信息,其中包括根据K-means聚类得到的先验框尺寸信息、预测框的位置信息以及目标的类别信息。
以尺度为13*13的特征图预测为例,每个目标的预测信息由其中心栅格的预测信息决定,其中虚线框表示此待检测目标的真实位置(标定框),白色框表示标定框的中心栅格。①、②、③号先验框代表前文中用于预测大尺寸目标的三种先验框信息:(373*326),(156*198),(116*90)。同理,26*26以及52*52的特征图也会预测各自的三种先验框,用于在不同尺度下对物体的大小进行预测。最后计算预测框和标定框(物体真实位置)的交并比,使用进行极大值抑制的方法筛选出匹配程度最高的预测框。
ROI初始化标定
如图5所示,为了提高待通行目标的检测准确率,使用荧光带对风门待通行区域进行人工标记,当目标进入此区域则表示当前存在通行请求。在算法初始化时基于色彩因子提取算法对监控画面中的待通行区域进行像素标定,确定其图像像素空间坐标。由于摄像头部署位置相对固定,因此ROI区域在初始化标定后便不再改变,得到的ROI像素坐标将能够对现场荧光带区域实现稳定表示。最后对ROI进行尺寸重构送入目标检测算法中进行特征推理。
通行需求识别方法
空间域判别方法
目标检测算法对输入图片进行行人和车辆的检测,获取其检测框后计算其与ROI之间的IoU,如图6所示:图中A区域为ROI与目标检测框之间的重叠区域面积,B和C分别为ROI与目标检测框除去A剩下的区域面积,其IoU计算方式为:
设置空间判别阈值σ(0<σ<1),当IoU>σ时判断当前帧图像中目标的通行需求有效。
时间域抽样检测方法
监控相机的帧速率为25FPS,但由于边缘计算设备的算力限制,YOLO v3在华为Atlas500平台上运行速度平均只能达到15FPS左右,难以与视频的帧速率相匹配。为了满足实时性的要求,本方法通过对每秒视频解码出的图片进行等间距采样,采样数量与边缘处理器的推理速度相一致,比如针对华为Atlas500平台,我们对原始视频进行每秒15帧的抽样,再将这15帧中的所有目标类型进行统计。除此之外,将三秒内的15*3张抽样结果作为一个判别单元,整合其区域检测结果,计算同行目标占比,判断当前同行需求,如图7所示:图中N代表边缘计算设备的推理速度,通过统计3*N张抽样图片的检测结果,最终的识别结果由各类识别结果占总目标个数的比例来决定,若识别结果中某一类目标占比大于85%,则该识别单元输出此类目标的识别结果。
风门状态识别方法
传统的通过红外传感器判断风门开闭状态的方法存在着布线困难、使用寿命低等缺点。本文提出一种基于视频分析的风门开闭识别方法,使用监控相机对粘贴在风门上的识别标志进行识别和分析,进而达到判断风门开闭状态的功能。
为了降低风门识别难度,本方法在风门上将3C反光条以矩形的形式粘贴,计算机通过捕捉特定颜色的区域便可以将风门位置和状态大体识别出来,如图8所示,图8(a)为风门的对角监控方法,其中数字1-4分别表示对应位置部署的监控相机;图8(b)为风门开闭识别方法;图8中大风门即为车辆通行风门,小风门即为人员通行风门;如图8所示,由A、B两个摄像头分别对进行状态识别:
通过对特定色彩因子进行像素提取,来识别每一帧图片中风门标定区域的结构,进而可以得到感兴趣像素点的二值分布,最后计算每一帧图片中的感兴趣像素点与风门关闭状态时感兴趣像素点之间的像素分布距离,当其分布距离大于阈值T时,判定此时风门的状态为开启状态,否则判定为关闭状态。
风门通行规则及控制逻辑
由于井下环境的特殊性,风门在实现其基础功能的同时必须满足井下作业的安全规范,其中最重要的安全规范之一是严禁同时打开两道风门,防止出现风流短路,造成工作面氧气真空,威胁工作人员生命安全。
风门控制逻辑
风门的开闭规则如图9所示,其中图9(a)为风门开启规则,图9(b)为双向通行判别逻辑。
当待ROI区域中的待通行目标为人员时,执行开启小风门的操作;当待通行目标为车辆时,执行开启大风门操作。当ROI区域中同时出现人员和车辆两种通行目标时,执行开启大风门的操作。
同一道风门同时检测到不同方向的通行需求情况发生时,按检测到目标的先后顺序进行同行需求的判断,如图9所示:假设系统首先检测到人员目标,则首先进行ROI A区域的通行需求判断,待风门开启并关闭之后,再重新对ROI B内的目标进行检测,重新判断其通行需求。
风门闭锁逻辑
两道风门的协同闭锁功能基于对风门状态识别、通行需求识别以及风门关闭识别三个识别方法进行流程编排实现,闭锁功能通过综合两道风门的状态信息对风门开启与关闭操作进行协同控制:如果当前风门存在通行需求,则需要首先判断另一道风门的状态,只有确认另一道风门处于关闭状态时才能只能对当前风门的开启操作,否则只能循环对另一道风门进行关闭条件判断,及时对其进行关闭,如图10所示,图10(a)为风门①协同闭锁功能流程;图10(b)为风门开启优先级设定;方法流程如下所示。
如图10(a),首先对风门①的状态进行识别,如果风门①处于开启状态,则进入风门①的关闭判断流程。如果风门①处于关闭状态,则进入风门①的通行需求识别流程;
进入风门关闭判断流程后,如果风门①此时不满足关闭条件,则循环对风门①进行关闭判断。如果风门①此时满足关闭条件,则对其进行关闭操作,并进入风门①的通行需求识别流程;
进入风门①的通行需求识别后,如果当前有通行需求,则进入针对风门②的状态识别流程。如果当前风门①不存在通行需求,则循环对风门①进行通行需求识别。
对风门②的状态识别,若风门②为关闭状态,则直接对风门①执行开启操作。若风门②为开启状态,则对风门②进行风门关闭判断,若此时不满足关闭条件则循环对风门②进行关闭判断,若此时满足关闭条件则对其进行关闭操作,随后执行风门①的开启操作。
当两道风门同时有开启需求时,若不设置其优先级,则容易造成两道风门同时打开,产生重大安全隐患。针对这种情况,我们对风门开启优先级进行了人为设定:当两扇风门的开启请求区ROI A以及ROI B同时检测到待通行目标时,优先进入风门①的协同闭锁功能流程(图10(a)),待风门①执行完毕通行任务后,进入风门②的协同闭锁流程,根据其需求进行风门②的协同控制,如图10(b)所示。
Claims (3)
1.一种视频检测的井下风门智能协同联动控制方法,其特征在于:包括如下步骤:
1)首先使用荧光带对风门的待通行区域进行标记;
2)基于YOLO v3目标检测算法对摄像头采集视频进行行人和车辆的检测,得到检测结果的类别、检测框坐标信息;基于色彩特征提取算法对待识别区域进行ROI初始化标定;
3)基于ROI信息和目标检测信息,从空间域和时间域两个维度对当前风门场景中的通行需求进行识别;
4)确定当前识别单元中的目标类型后,根据风门通行规则进行风门开启操作;
5)利用视频分析的方式对风门的开闭状态进行不间断监控:首先在风门上进行人工标记,随后基于色彩因子提取算法对彩色标记区域进行二值化,最后通过计算不同状态下二值化像素的分布距离进行风门状态的识别;
其中,步骤2)中,具体为:首先面向井下场景采集风门现场数据,针对通行人员和各类车辆进行数据采集及属性标定,利用标定数据对YOLO v3算法进行训练,最后将YOLO v3算法部署于边缘图像推理设备上,实现视频流的本地化推理;包括如下步骤:
2.1)基于K-means算法的先验信息建模:
首先将数据集中所有目标的检测框坐标提取出来,并获取其宽高数据;
初始化k个检测框的宽高数据,即通过在数据集所有检测框中随机选取k个值作为所求先验框的初始值;
分别计算每个标定框与k个先验框的交并比(Intersection over Union,IoU),即两个矩形框重叠的部分除以两个矩形框的并集部分,并以d=1-IoU表示两个矩形框之间的距离度量;
表示第n个标定框与第k个先验框之间的距离,以第i个标注框为例,通过比较其与每个先验框之间的距离/>将这个标注框分类给与其距离最近的那个先验框,随后循环对每个标注框进行分类,得到每个标注框的先验框属性;
对于每个先验框中的那些标注框,计算这些标注框的宽高数据的平均值,将其更新为该先验框新的尺寸;重复步骤4)到步骤5),直到在步骤4)中发现对于全部标注框,其所属的先验框与之前所属的先验框尺寸一致,此时表明所有标注框的分类已经不再更新,得到当前k个先验框的尺寸大小,算法结束;
2.2)ROI初始化标定,在算法初始化时基于色彩因子提取算法对监控画面中的待通行区域进行像素标定,确定其图像像素空间坐标;由于摄像头部署位置相对固定,因此ROI区域在初始化标定后便不再改变,得到的ROI像素坐标将能够对现场荧光带区域实现稳定表示;最后对ROI进行尺寸重构送入目标检测算法中进行特征推理;
2.3)目标检测算法对输入图片进行行人和车辆的检测,获取其检测框后计算其与ROI之间的IoU,A区域为ROI与目标检测框之间的重叠区域面积,B和C分别为ROI与目标检测框除去A剩下的区域面积,其IoU计算方式为:
设置空间判别阈值σ(0<σ<1),当IoU>σ时判断当前帧图像中目标的通行需求有效;
步骤3)中具体为首先通过计算目标检测框与ROI区域的交并比来表示空间域通行需求;随后通过建立包含多帧图像的通行目标类型识别单元,并统计单个识别单元中两种目标类型所占比例,大于阈值的目标作为当前识别单元的目标类别属性。
2.根据权利要求1所述的一种视频检测的井下风门智能协同联动控制方法,其特征在于:步骤4)中,所述的风门通行规则包括以下情况:
4.1)车辆通行开启车辆通行风门、人员通行开启人员通行风门,人员和车辆同时出现开启车辆通行风门;
4.2)当同一道风门同时产生双向通行需求时,根据检测到目标的前后顺序进行风门开启操作;
4.3)同时前后两道风门不能同时开启,每次进行风门开启操作前都要对两道风门的状态进行识别,只有确定两道风门都为关闭状态时才进行正常的开启操作。
3.根据权利要求1所述的一种视频检测的井下风门智能协同联动控制方法,其特征在于:所述的步骤5)中,具体包括:
5.1)风门状态识别方法
通过对特定色彩因子进行像素提取,来识别每一帧图片中风门标定区域的结构,进而可以得到感兴趣像素点的二值分布,最后计算每一帧图片中的感兴趣像素点与风门关闭状态时感兴趣像素点之间的像素分布距离,当其分布距离大于阈值T时,判定此时风门的状态为开启状态,否则判定为关闭状态;
5.2)风门控制逻辑
当待ROI区域中的待通行目标为人员时,执行开启人员通行风门的操作;当待通行目标为车辆时,执行开启车辆通行风门操作;当ROI区域中同时出现人员和车辆两种通行目标时,执行开启车辆通行风门的操作;
同一道风门同时检测到不同方向的通行需求情况发生时,按检测到目标的先后顺序进行同行需求的判断,假设系统首先检测到人员目标,则首先进行ROI A区域的通行需求判断,待风门开启并关闭之后,再重新对ROIB内的目标进行检测,重新判断其通行需求;
5.3)风门闭锁逻辑
两道风门的协同闭锁功能基于对风门状态识别、通行需求识别以及风门关闭识别三个识别方法进行流程编排实现,闭锁功能通过综合两道风门的状态信息对风门开启与关闭操作进行协同控制:如果当前风门存在通行需求,则需要首先判断另一道风门的状态,只有确认另一道风门处于关闭状态时才能只能对当前风门的开启操作,否则只能循环对另一道风门进行关闭条件判断,及时对其进行关闭。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011335295.XA CN112308032B (zh) | 2020-11-25 | 2020-11-25 | 一种视频检测的井下风门智能协同联动控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011335295.XA CN112308032B (zh) | 2020-11-25 | 2020-11-25 | 一种视频检测的井下风门智能协同联动控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112308032A CN112308032A (zh) | 2021-02-02 |
CN112308032B true CN112308032B (zh) | 2024-04-05 |
Family
ID=74335699
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011335295.XA Active CN112308032B (zh) | 2020-11-25 | 2020-11-25 | 一种视频检测的井下风门智能协同联动控制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112308032B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115278042B (zh) * | 2021-04-30 | 2023-11-28 | 西门子股份公司 | 图像处理中帧速率的设置方法、装置和计算机可读介质 |
CN113311777A (zh) * | 2021-05-12 | 2021-08-27 | 华洋通信科技股份有限公司 | 一种煤矿井下风门智能视频安全管理控制系统 |
CN113657210B (zh) * | 2021-07-30 | 2023-11-07 | 深圳市中金岭南有色金属股份有限公司凡口铅锌矿 | 矿井内风门控制方法、装置、设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108521981A (zh) * | 2017-12-22 | 2018-09-14 | 宁波大叶园林设备股份有限公司 | 用充电行走用电磁遥控阻风门的发动机作业的园林工作机 |
CN109733161A (zh) * | 2019-02-28 | 2019-05-10 | 广州小鹏汽车科技有限公司 | 一种汽车空调智能控制方法及车载系统 |
CN109882019A (zh) * | 2019-01-17 | 2019-06-14 | 同济大学 | 一种基于目标检测和动作识别的汽车电动尾门开启方法 |
CN110953011A (zh) * | 2019-12-18 | 2020-04-03 | 西安重装矿山电器设备有限公司 | 自动风门远程控制系统 |
CN111046778A (zh) * | 2019-12-06 | 2020-04-21 | 北京路通天元科技有限公司 | 一种c80车门状态智能识别及安全风险自动报警方法 |
CN111126325A (zh) * | 2019-12-30 | 2020-05-08 | 哈尔滨工程大学 | 一种基于视频的智能人员安防识别统计方法 |
CN111946384A (zh) * | 2020-08-21 | 2020-11-17 | 精英数智科技股份有限公司 | 一种风门控制方法、装置、设备及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111133447B (zh) * | 2018-02-18 | 2024-03-19 | 辉达公司 | 适于自主驾驶的对象检测和检测置信度的方法和系统 |
-
2020
- 2020-11-25 CN CN202011335295.XA patent/CN112308032B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108521981A (zh) * | 2017-12-22 | 2018-09-14 | 宁波大叶园林设备股份有限公司 | 用充电行走用电磁遥控阻风门的发动机作业的园林工作机 |
CN109882019A (zh) * | 2019-01-17 | 2019-06-14 | 同济大学 | 一种基于目标检测和动作识别的汽车电动尾门开启方法 |
CN109733161A (zh) * | 2019-02-28 | 2019-05-10 | 广州小鹏汽车科技有限公司 | 一种汽车空调智能控制方法及车载系统 |
CN111046778A (zh) * | 2019-12-06 | 2020-04-21 | 北京路通天元科技有限公司 | 一种c80车门状态智能识别及安全风险自动报警方法 |
CN110953011A (zh) * | 2019-12-18 | 2020-04-03 | 西安重装矿山电器设备有限公司 | 自动风门远程控制系统 |
CN111126325A (zh) * | 2019-12-30 | 2020-05-08 | 哈尔滨工程大学 | 一种基于视频的智能人员安防识别统计方法 |
CN111946384A (zh) * | 2020-08-21 | 2020-11-17 | 精英数智科技股份有限公司 | 一种风门控制方法、装置、设备及系统 |
Non-Patent Citations (3)
Title |
---|
Dynamic simulation of contaminant inleakage produced by human walking into control room;Le Chang 等;《ELSEVIER》;第113卷;1179-1188 * |
大红山铜矿矿井通风系统优化改造研究;冯兴隆;《中国优秀硕士学位论文全文数据库工程科技Ⅰ辑》(第10期);B021-31 * |
煤矿井下风门自动闭锁系统的研究与设计;王志军 等;《机电工程技术》;第49卷(第9期);134-136 * |
Also Published As
Publication number | Publication date |
---|---|
CN112308032A (zh) | 2021-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112308032B (zh) | 一种视频检测的井下风门智能协同联动控制方法 | |
CN109670404B (zh) | 一种基于混合模型的道路积水图像检测预警方法 | |
CN106874863B (zh) | 基于深度卷积神经网络的车辆违停逆行检测方法 | |
CN103069434B (zh) | 用于多模式视频事件索引的方法和系统 | |
CN103971380B (zh) | 基于rgb-d的行人尾随检测方法 | |
CN103914688B (zh) | 一种城市道路障碍物识别系统 | |
CN104751634B (zh) | 高速公路隧道行车图像采集信息的综合应用方法 | |
CN106373430B (zh) | 一种基于计算机视觉的交叉路口通行预警方法 | |
CN103279756B (zh) | 基于集成分类器的车辆检测分析系统及其检测分析方法 | |
EP0567059A1 (en) | Object recognition system and abnormality detection system using image processing | |
CN101783076A (zh) | 一种视频监控模式下的快速车型识别方法 | |
CN111339883A (zh) | 复杂场景下基于人工智能的变电站内异常行为识别与检测方法 | |
CN108269407B (zh) | 一种自动管理人流、物流的安防机器人 | |
CN113903081A (zh) | 一种水电厂图像视觉识别人工智能报警方法及装置 | |
CN111163294A (zh) | 一种人工智能目标识别的建筑安全通道监测系统和方法 | |
CN112287823A (zh) | 一种基于视频监控的面部口罩识别方法 | |
CN109086682A (zh) | 一种基于多特征融合的智能视频黑烟车检测方法 | |
CN111582084B (zh) | 基于弱监督学习的空基视角下的铁轨异物检测方法及系统 | |
CN113111771A (zh) | 一种发电厂工作人员不安全行为的识别方法 | |
CN115410114A (zh) | 一种基于多特征的城轨防汛预警方法及系统 | |
CN104268548A (zh) | 一种基于道路图像的积雪检测方法 | |
CN113095301B (zh) | 占道经营监测方法、系统与服务器 | |
Wang et al. | Video image vehicle detection system for signaled traffic intersection | |
CN109325426A (zh) | 一种基于三正交平面时空特征的黑烟车检测方法 | |
CN113191273A (zh) | 基于神经网络的油田井场视频目标检测与识别方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |