CN110602449A - 一种基于视觉的大场景下施工安全智能监控系统方法 - Google Patents

一种基于视觉的大场景下施工安全智能监控系统方法 Download PDF

Info

Publication number
CN110602449A
CN110602449A CN201910820415.6A CN201910820415A CN110602449A CN 110602449 A CN110602449 A CN 110602449A CN 201910820415 A CN201910820415 A CN 201910820415A CN 110602449 A CN110602449 A CN 110602449A
Authority
CN
China
Prior art keywords
target
construction
camera
tracking
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910820415.6A
Other languages
English (en)
Inventor
崔博
钟登华
曾拓程
任炳昱
关涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin University
Original Assignee
Tianjin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University filed Critical Tianjin University
Priority to CN201910820415.6A priority Critical patent/CN110602449A/zh
Publication of CN110602449A publication Critical patent/CN110602449A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开一种基于视觉的大场景下施工安全智能监控系统方法,主要包括如下步骤:通过在大场景下施工现场上方的四周架设若干摄像头,使得所有摄像头画面覆盖住施工现场全景且相邻摄像头存在部分重叠区域;建立并制作施工现场多类别,大小差异较大的各目标图像数据集;实施并采集施工现场每个摄像头的图像‑世界坐标转换数据集;借助机器学习模型,建立图像坐标与真实世界坐标关系模型;采用满足实时要求的目标检测和跟踪方法,并在所有监控画面识别的目标由坐标转换后进行目标匹配融合编号,持续跟踪;建立不同类别机械的不同行驶速度的安全运行预警规则,当出现危险时实时反馈预警信息给对应的司机和后台监控管理者。

Description

一种基于视觉的大场景下施工安全智能监控系统方法
技术领域
本发明属于计算机视觉与大场景施工现场安全监控分析交叉领域,涉及一种基于视觉的大场景下施工安全智能监控系统方法,具体涉及通过在大场景的施工现场上方架立多个摄像头实时采集全范围的施工现场视频,制作现场施工机械与人员的图像数据集,使用视觉检测,跟踪,图像-世界坐标转换,和安全规则制定方法来对坝面的施工机械和人员进行安全状态智能判断和预警的方法。
背景技术
在大坝等大场景施工范围的工程建设中,现场施工安全是首先需要保证的。这涉及到现场机械的行驶安全和人员的生命安全。这就要求对现场的各施工机械和人员有一个有效的感知手段,能够实时确定他们当前的位置,速度和行为。传统方法如GPS,RFID,UWB等都需要对需要监控的机械或人员安装相应的传感器,且通常经济成本较高,难以对大场景施工范围下的数量众多的监控对象进行有效的大规模感知。而视频监控的方式相比于以上感知方法能够有效克服以上不足,适合廉价且大规模地实时感知大场景下存在的监控对象。
如今,随着图像识别,机器视觉和计算机视觉等技术的发展,越来越多的视觉方法在不同条件下应用至施工现场的视频监控中。顾国华等(2015)公开了一种采用多台摄像机进行运动目标跟踪的方法,以粒子滤波器为核心算法,通过对多台摄像机多视角画面的采集分析处理克服了存在遮挡情况导致的跟踪失败问题。林跃欢等(2018)公开了一种视频监控实时监测违章作业的方法,通过收集制作施工人员现场施工图片,建立以Faster R-CNN为核心算法的违章行为检测识别模型,并将违章行为检测识别模型应用在施工现场摄像头并进行监测。Yang J等(2010)提出了使用摄像机跟踪建筑工地现场的多名工人,基于核协方差的机器学习方法,通过跟踪目标样本模板并学习可应用于具有相似几何形状的其他目标的通用模型。Brilakis I等(2011)提出了一种基于视觉的跟踪框架,使用一组两个或更多的静态相机在建筑工地上采集的视频图像,在每个摄像机视图中,通过模板匹配目标特征的方法识别区分目标,利用对极几何理论对不同视图的目标进行匹配,进而基于核的方法跟踪每个目标,获得2D坐标,通过两个摄像机的三角测量获得真实的3D坐标。Gong J等(2011)提出了利用Bag-of-Video-Feature-Words模型和贝叶斯模型识别检测视频片段中工人和挖掘机设备的行为。Park M W等(2012)提出了利用背景减法、HOG和HSV颜色直方图方法检测视频帧中的建筑工人用于初始化跟踪。Memarzadeh M等(2013)提出了基于滑动窗口的HOG+C特征提取方法和SVM分类器一起对视频流中的工人,卡车,挖掘机目标区域进行检测识别。Zhu Z等(2016)提出先借助多个摄像机由三角测量获得由视觉检测和跟踪得到各监控对象的真实坐标,然后应用新型的卡尔曼滤波器预测施工现场工人和移动设备的运动以防止其在未来位置上可能发生的碰撞。Yang J等(2016)提出了使用密集轨迹的视频描述方法对多种特征描述符进行比较,结合SVM实现工人行为活动的识别检测。Park M W等(2016)提出了混合视觉检测和跟踪的方法用于持续定位视频中的建筑工人,其中通过HOG+SVM和HSV+KNN方法实现人员的目标检测,通过粒子滤波方法实现跟踪。Golovina O等(2016)提出了使用GPS技术采集到的施工设备与人员的信息,定义了相应设备不同运行条件下的危险程度。Kim H等(2016)提出了基于数据驱动的标签传递方法识别和分割施工场景内的不同目标。Zhu Z等(2017)提出了施工现场设备和人员的检测与跟踪框架,通过HOG+SVM实现目标检测,基于粒子滤波实现目标跟踪,尚不能实时处理视频。Yu Y等(2017)提出了使用Kinect对一些建筑工人的不安全行为进行实时识别的实验研究。Fang Q等(2018a)提出通过深度学习的Faster R-CNN网络来从远景的监控视频中检测现场人员的安全帽佩戴情况。Fang Q等(2018b)提出了基于Faster R-CNN的目标检测方法和基于sort的多目标跟踪方法实现施工人员的人脸检测和跟踪,提取面部信息和人力资源的身份信息进行比对判断该工人是否在从事其职业工作。Fang Q等(2018c)提出了基于SSD的目标检测方法和基于sort的多目标跟踪方法实现在窗户边工作的人员安全帽,保护带,锚具等识别和跟踪,对处在高空工作的人员进行安全状态评估。Ding L等(2018)提出了基于深度学习CNN和LSTM网络的方法对4种攀爬梯子的不安全行为进行检测和分类。Fang W等(2018)提出了基于Faster R-CNN的施工现场挖掘机和工人的目标检测方法。Kolar Z等(2018)提出了基于vgg-16的卷积神经网络的安全护栏检测方法。Luo H等(2018)提出了基于RGB图像,光流图像,灰度图像的三流卷积神经网络实现工人行为活动的识别检测。
综上,目前对于大场景施工下的远距离视频监控图像内的各类施工机械和人员目标的识别检测与持续跟踪的方法,尚无相应的目标数据集、已有的目标的检测和跟踪需要包含更多类别和不同大小的目标对象,精度有待提高,同时无法做到视频中的实时检测和跟踪。进一步地,在通过检测和跟踪获得的二维图像中的目标位置和速度信息需要转换到真实世界坐标体系下,目前采用的对极几何和其他摄相机标定模型受限于相机与目标图像的远距离,产生的计算误差较大。最后,对施工现场各类机械不同行驶速度缺乏一个完善的安全预警规则和有效的实时反馈预警提醒机制。
发明内容
为了解决上述现有技术的不足,提出一种基于视觉的大场景下施工安全智能监控系统方法。
为实现以上发明目的,采用的技术方案是:一种基于视觉的大场景下施工安全智能监控系统方法,包括以下步骤:
a.通过在大场景下施工现场上方的四周架设若干摄像头(或工业相机),使得所有摄像头(相机)画面包含住施工现场全景且相邻摄像头存在部分重叠区域;
b.建立并制作施工现场多类别,大小差异较大的各目标图像数据集;
c.实施并采集施工现场每个摄像头的图像-世界坐标转换数据集;
d.借助机器学习技术,建立图像坐标与真实世界坐标关系模型;
e.采用满足实时要求的目标检测和跟踪方法,并在坐标转换后进行目标匹配融合、编号,持续跟踪;
f.建立不同类别机械的不同行驶速度的安全运行预警规则,当出现危险时实时反馈预警信息给对应的司机和后台监控管理者。
其中步骤b包括施工现场不同角度和焦距摄像头下采集的画面图像,包括不同尺度大小、角度、光照和遮挡关系的7个类别的目标对象(碾压机roller、挖掘机digger、装载机loader、推土机bulldozer、料车truck、汽车car、人person)的检测标签数据集。
其中步骤c包括以下步骤:
c.1正式监控之前,可以在一辆车上安装GPS设备,通过在施工场区内自由行驶,使得每个摄像头都能捕捉到当前画面内超过一定数量的该车的天线位置;
c.2提取每个时刻每个摄像头画面内的天线位置的图像坐标与相对应的GPS坐标,制作每个摄像头的图像-世界坐标转换数据集。
其中步骤d包括,选用合适的机器学习算法,如支持向量机,神经网络或者随机森林等,对步骤c制作的每个摄像头的图像-世界坐标的数据集训练一个回归器,建立从图像坐标到真实世界坐标的关系模型。
其中步骤e包括以下步骤:
e.1根据制作的目标检测数据集训练完成目标检测的深度神经网络。
e.2检测过程:输入测试样本(视频帧或图像);
e.3检测过程:通过YOLOv3网络对第一帧(图片)存在的目标进行检测;
e.4跟踪过程:对第一帧(图片)检测出来的每个目标初始化一个KCF跟踪器,KCF算法(Henriques J F,2015)入参选用HOG特征和固定窗口;
e.5跟踪过程:对当前帧的每个摄像头的跟踪目标图像坐标由坐标转换模型计算真实世界坐标,并对所有摄像头画面内的跟踪目标由真实世界坐标进行目标匹配融合编号,统一保存每个目标信息(目标编号信息,位置信息,速度信息等)至数据库;
e.6对第一帧之后每帧(图片)一方面重复检测过程,另一方面同步继续已存在目标的跟踪过程。
其中步骤e.1包括以下步骤:
e.1.1这里选用满足实时要求的YOLOv3(Redmon J,2018)作为目标检测的深度神经网络,使用预先在Imagenet数据集上训练好的权重文件(darknet53.conv.74)初始化网络特征提取层权重;
e.1.2使用在自己制作数据集上K-means聚类出来的候选框大小初始化网络9个bounding-box参数;
e.1.3根据入参迭代次数进行训练,观察loss函数变化,调整batch、学习率和迭代次数等入参取值,反复训练至网络具有较好的泛化性能。
其中步骤e.6包括以下步骤:
e.6.1当某摄像头画面内的跟踪器目标被遮挡或者出画时,此目标的跟踪由其他角度的摄像头来弥补;
e.6.2当某摄像头画面内的目标检测的个数增多时,初始化增加目标的KCF跟踪器;
e.6.3新初始化的跟踪器和当前时刻数据库的跟踪器位置进行比对,位置一致的使用相应的跟踪目标编号,反之则判断新增目标是新加入施工场景中的设备,对应增加此类别的目标编号。
与现有技术相比,本发明的有益效果是:
本发明通过采用多摄像头覆盖住施工现场全景,同时多角度观察现场施工机械与人员目标对象,可以克服单一摄像头对当前画面内被遮挡的目标无法观察到的问题,同时实现场景内所有目标的长时间跟踪,有效减小跟丢或跟错情况的影响。本发明所用的目标检测和目标跟踪方法可以对不同尺度大小,较多类别的目标做到较高精度的识别,并可以满足视频实时检测和跟踪要求。本发明实现了在远距离观察条件下的图像与真实世界坐标的较高精度的转换。本发明定义了施工现场不同类别机械不同行驶速度的安全预警范围,并实现了报警信息对司机和后台监控人员的准确、实时反馈。
本发明所提的施工现场智能安全监控方法可以为更多大场景工程下安全任务要求提供有效的功能扩展和支持。
附图说明
图1是本发明方法实现框架图。
图2是本发明中每个摄像头输出视频的处理流程图。
图3是本发明收集制作的目标检测数据集中的一个样本图(左边为标签图,右边为xml的标签文件)。
图4是各类目标检测效果图:a-白天施工机械与人员的检测效果图;b-夜间施工机械的检测效果图。
图5是目标检测网络YOLOv3中特征提取部分的Darknet-53网络结构图(Redmon J,Farhadi A.Yolov3:An incremental improvement[J].arXiv preprint arXiv:1804.02767,2018.)。
图6是本发明智能安全监控系统报警提示图。
具体实施方式
下面结合附图和具体实施例对本发明技术方案作进一步的描述,所描述的具体实施例仅对本发明进行解释说明,并不用以限制本发明。
本发明以大坝坝面施工场景为例,结合附图,对本发明作进一步的说明。
参见图1,首先在大坝两岸分别架设多个摄像头以保证多个左岸的摄像头和多个右岸的摄像头都分别可以显示整个施工现场,且相邻摄像头画面保证邻边一定区域重叠。左右岸的布置是为了消除由于单独一侧布置而在监控画面中产生不可避免的完全遮挡情况,从左岸观察被挡住的目标可以在右岸画面中观察到,同理右岸。相邻画面重叠是让同一目标在出入两个摄像头画面时刻可以被同时观测到。
考虑到大坝建设的特殊性,料车会频繁出入施工场景,在上坝路上增设摄像头,方便后续步骤通过识别料车车牌号给每辆料车编号。
其次,收集制作需要识别的目标的数据集和坐标转换的数据集。目标检测所用数据集参照VOC2007的格式制作,保存原始图片和xml文件,如图3所示,制作训练集和测试集,包括7类目标碾压机roller、挖掘机digger、装载机loader、推土机bulldozer、料车truck、汽车car、人person,训练并测试YOLOv3网络,这里先在制作好的数据集上K-means聚类出9种候选框大小,作为网络9种大小的bounding-box的初始参数;同时使用预先在Imagenet数据集上训练好的权重文件(darknet53.conv.74)初始化网络特征提取层权重,不断迭代训练,观察损失函数收敛情况,YOLOv3的网络结构如图5所示。坐标转换数据集针对每个摄像头分别制作,通过一辆外部安装有GPS设备车辆,在当前画面内的场景绕行几圈,采集每个点的真实GPS数据和对应摄像头采集图像上观测到的GPS接收天线设备的中心位置作为2维图像坐标数据,将以上数据作为输入,这里选用SVR-linear模型进行训练,建立图像坐标和真实世界坐标的转换模型。
再次,对每个摄像头监控视频画面,逐帧或跳帧使用训练好的YOLOv3网络进行目标检测和KCF方法目标跟踪。如图2所示,判断当前帧是第一帧的话,根据目标检测的结果(如图4所示),对每个目标初始化一个KCF跟踪器,这里使用HOG特征和固定窗口作为KCF算法入参,并持续跟踪;对所有摄像头画面的目标位置的图像坐标进行坐标转换计算到真实世界坐标下进行匹配融合,给融合后的每类目标依次编号,特别地,针对料车一类的目标匹配融合,根据所识别的车牌号进行融合编号。将每个目标跟踪器的编号,定位数据,速度数据(通过真实坐标和帧间间隔计算)等信息实时存入数据库。
若当前视频帧不是第一帧则继续记录每帧的目标跟踪器数据,持续跟踪。当某摄像头画面内的目标个数增加时,则该画面内增加初始化一个KCF跟踪器并转换至真实世界坐标,通过对比查找其他摄像头画面内的目标数据,若该目标已在其他摄像头画面出现,则赋予新增目标对应编号,继续记录该目标跟踪器数据;反之,则认为该目标第一次出现在施工场景中,给相应类别的机械设备增加编号。
最后,根据目标的机械类别和行驶速度范围划定安全感知区域,若该区域存在其他目标,则对相应两个目标进行安全预警反馈,包括在监控画面上显示警告提示和发送信息提醒司机。这里制定的大坝建设的施工机械行驶安全感知范围规则包括以每类机械目标中心为始边中点,向速度方向感知一矩形区域,其中矩形宽为该类机械设备的1.5倍宽度,长度根据行驶速度分为三个等级,具体速度区间可根据现场实际施工各机械运行速度情况划分,如可制定小于5km/h,5-10km/h,大于10km/h的速度区间确定每种区间内的不同机械类别的感知长度,可以留有一定富余。其中针对挖掘机,由于此机械的旋转施工的特殊性,增加感知其四周区域,根据其臂展确定感知半径,建立安全感知圆形区域。同时可以在此基础上增加机械运行时的盲区安全感知。
当机械目标的安全感知区域出现了其他目标(以其他目标中心是否出现在感知区域内进行判断),则对相应感知与被感知目标的识别框在视频中显示半透明红色以示警告,同时给出该目标安全运行预警提醒弹窗,如图6所示。
应当理解的是,这里所讨论的实施方案及实例只是为了说明,对本领域技术人员来说,可以加以改进或变换,而所有这些改进和变换都应属于本发明所附权利要求的保护范围。
[1]顾国华,刘琳,李娇,龚文彪,孔筱芳,徐富元.一种采用多台摄像机进行运动目标跟踪的方法[P].江苏:CN104899894A,2015-09-09.
[2]林跃欢,冯康恒,程天宇,秦立斌,卜启铭,潘维,万方涛,龙湘雯,李家淇,廖一键,曾振华,黎浩钧,陈健强,黄盛超.一种视频监控实时监测违章作业的方法[P].广东:CN107666594A,2018-02-06.
[3]Yang J,Arif O,Vela P A,et al.Tracking multiple workers onconstruction sites using video cameras[J].Advanced Engineering Informatics,2010,24(4):428-434.
[4]Brilakis I,Park M W,Jog G.Automated vision tracking of projectrelated entities[J].Advanced Engineering Informatics,2011,25(4):713-724.
[5]Gong J,Caldas C H,Gordon C.Learning and classifying actions ofconstruction workers and equipment using Bag-of-Video-Feature-Words andBayesian network models[J].Advanced Engineering Informatics,2011,25(4):771-782.
[6]Park M W,Brilakis I.Construction worker detection in video framesfor initializing vision trackers[J].Automation in Construction,2012,28(15):15-25.
[7]Memarzadeh M,Golparvar-Fard M,Niebles J C.Automated 2D detectionof construction equipment and workers from site video streams usinghistograms of oriented gradients and colors[J].Automation in Construction,2013,32(11):24-37.
[8]Zhu Z,Park M W,Koch C,et al.Predicting movements of onsite workersand mobile equipment for enhancing construction site safety[J].Automation inConstruction,2016,68:95-101.
[9]Yang J,Shi Z,Wu Z.Vision-based action recognition of constructionworkers using dense trajectories[J].Advanced Engineering Informatics,2016,30(3):327-336.
[10]Park M W,Brilakis I.Continuous localization of constructionworkers via integration of detection and tracking[J].Automation inConstruction,2016,72:129-142.
[11]Golovina O,Teizer J,Pradhananga N.Heat map generation forpredictive safety planning:Preventing struck-by and near miss interactionsbetween workers-on-foot and construction equipment[J].Automation inconstruction,2016,71:99-115.
[12]Kim H,Kim K,Kim H.Data-driven scene parsing method forrecognizing construction site objects in the whole image[J].Automation inConstruction,2016,71:271-282.
[13]Zhu Z,Ren X,Chen Z.Integrated detection and tracking of workforceand equipment from construction jobsite videos[J].Automation in Construction,2017,81:161-171.
[14]Yu Y,Guo H,Ding Q,et al.An experimental study of real-timeidentification of construction workers'unsafe behaviors[J].Automation inConstruction,2017,82:193-206.
[15]Fang Q,Li H,Luo X,et al.Detecting non-hardhat-use by a deeplearning method from far-field surveillance videos[J].Automation inConstruction,2018a,85:1-9.
[16]Fang Q,Li H,Luo X,et al.A deep learning-based method fordetecting non-certified work on construction sites[J].Advanced EngineeringInformatics,2018b,35:56-68.
[17]Fang Q,Li H,Luo X,et al.Computer vision aided inspection onfalling prevention measures for steeplejacks in an aerial environment[J].Automation in Construction,2018c,93:148-164.
[18]Ding L,Fang W,Luo H,et al.A deep hybrid learning model to detectunsafe behavior:integrating convolution neural networks and long short-termmemory[J].Automation in Construction,2018,86:118-124.
[19]Fang W,Ding L,Zhong B,et al.Automated detection of workers andheavy equipment on construction sites:A convolutional neural network approach[J].Advanced Engineering Informatics,2018,37:139-149.
[20]Kolar Z,Chen H,Luo X.Transfer learning and deep convolutionalneural networks for safety guardrail detection in 2D images[J].Automation inConstruction,2018,89:58-70.
[21]Luo H,Xiong C,Fang W,et al.Convolutional neural networks:Computervision-based workforce activity assessment in construction[J].Automation inConstruction,2018,94:282-289.
[22]Redmon J,Farhadi A.Yolov3:An incremental improvement[J].arXivpreprint arXiv:1804.02767,2018.
[23]Henriques J F,Caseiro R,Martins P,et al.High-speed tracking withkernelized correlation filters[J].IEEE Transactions on Pattern Analysis andMachine Intelligence,2015,37(3):583-596.

Claims (8)

1.一种基于视觉的大场景下施工安全智能监控系统方法,其特征在于,包括如下步骤:
(1)、通过在大场景下施工现场上方的四周架设若干摄像头(或工业相机),使得所有摄像头(或工业相机)画面覆盖住施工现场全景且相邻摄像头存在部分重叠区域;
(2)、建立并制作施工现场多类别,大小差异较大的各目标图像数据集;
(3)、实施并采集施工现场每个摄像头的图像-世界坐标转换数据集;
(4)、借助机器学习模型,建立图像坐标与真实世界坐标关系模型;
(5)、采用满足实时要求的目标检测和跟踪方法,并在所有监控画面识别的目标由坐标转换后进行目标匹配融合编号,持续跟踪;
(6)、建立不同类别机械的不同行驶速度的安全运行预警规则,当出现危险时实时反馈预警信息给对应的司机和后台监控管理者。
2.根据权利要求1所述的方法,其特征在于,所述步骤(1)具体为:
通过在大型施工场景上方四周布设的多个摄像头覆盖住施工现场全景,要保证施工机械目标在从一个摄像头画面出入另一个摄像头画面的阶段能够同时被这两个相邻的摄像头画面所观察到;同时保证某一目标在此画面内被其他目标遮挡时(未形成全角度遮挡情况下)可以由其他角度监控的摄像头画面所观测到。
3.根据权利要求1所述的方法,其特征在于,所述步骤(3)具体为:
(1)、正式监控之前,可以在一辆车上安装GPS设备,通过在施工场区内自由行驶,使得每个摄像头都能捕捉到当前画面内超过一定数量的该车的天线位置;
(2)、提取每个时刻每个摄像头画面内的天线位置的图像坐标与相对应的GPS坐标,制作每个摄像头的图像-世界坐标转换数据集。
4.根据权利要求1所述的方法,其特征在于,所述步骤(4)具体为:
由权利要求1所述的方法的步骤(3)制作的每个摄像头的图像-世界坐标的数据集分成训练集和测试集,通过训练集训练一个回归器。通过对比校核测试集的计算精度,从支持向量机,神经网络或者随机森林等模型中选用测试误差最小的机器学习算法构造回归器,建立从图像坐标到真实世界坐标的关系模型。
5.根据权利要求1所述的方法,其特征在于,所述步骤(5)具体为:
(1)由权利要求1所述的方法的步骤(2)制作的目标检测数据集训练好目标检测深度神经网络
(2)检测过程:输入测试样本(视频帧或图像);
(3)检测过程:通过YOLOv3网络对第一帧(图片)存在的目标进行检测;
(4)跟踪过程:对第一帧(图片)检测出来的每个目标初始化一个KCF跟踪器,KCF算法入参选用HOG特征和固定窗口;
(5)跟踪过程:对当前帧的每个摄像头的跟踪目标图像坐标由坐标转换模型计算真实世界坐标,并对所有摄像头画面内的跟踪目标由真实世界坐标进行目标匹配融合编号,统一保存每个目标信息(目标编号信息,位置信息,速度信息等)至数据库;
(6)对第一帧之后每帧(图片)一方面重复检测过程,另一方面同步继续已存在目标的跟踪过程。
6.根据权利要求5所述的方法,其特征在于,所述步骤(1)具体为:
(1)使用预先在Imagenet数据集上训练好的权重文件(darknet53.conv.74)初始化网络特征提取层权重;
(2)使用在自己制作数据集上K-means聚类出来的候选框大小初始化网络9个bounding-box参数;
(3)根据入参迭代次数进行训练,观察loss函数变化,调整batch、学习率和迭代次数等入参取值,反复训练至网络具有较好的泛化性能。
7.根据权利要求5所述的方法,其特征在于,所述步骤(6)具体为:
(1)当某摄像头画面内的跟踪器目标被遮挡或者出画时,此目标的跟踪由其他角度的摄像头来弥补;
(2)当某摄像头画面内的目标检测的个数增多时,初始化增加目标的KCF跟踪器;
(3)新初始化的跟踪器和当前时刻数据库的跟踪器位置进行比对,位置一致的使用相应的跟踪目标编号,反之则判断新增目标是新加入施工场景中的设备,对应增加此类别的目标编号。
8.根据权利要求1所述的方法,其特征在于,所述步骤(6)具体为:
根据目标的机械类别和行驶速度范围划定安全感知区域,若该区域存在其他目标,则对相应两个目标进行安全预警反馈,包括在监控画面上显示警告提示和发送信息提醒司机。
感知区域以每类机械目标中心为始边中点,向速度方向定义一矩形区域,其中矩形宽为该类机械设备的1.5倍宽度,长度根据行驶速度分为三个等级。其中针对挖掘机,由于此机械的旋转施工的特殊性,增加感知其四周区域,根据其臂展确定感知半径,建立安全感知圆形区域。
预警提醒通过判断其他目标中心是否出现在相应目标感知区域内,若存在则对感知与被感知到的目标的识别框在视频中显示半透明红色以示警告,同时弹窗该目标安全运行预警提醒,并将信息传至操作手(司机)。
CN201910820415.6A 2019-09-01 2019-09-01 一种基于视觉的大场景下施工安全智能监控系统方法 Pending CN110602449A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910820415.6A CN110602449A (zh) 2019-09-01 2019-09-01 一种基于视觉的大场景下施工安全智能监控系统方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910820415.6A CN110602449A (zh) 2019-09-01 2019-09-01 一种基于视觉的大场景下施工安全智能监控系统方法

Publications (1)

Publication Number Publication Date
CN110602449A true CN110602449A (zh) 2019-12-20

Family

ID=68856731

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910820415.6A Pending CN110602449A (zh) 2019-09-01 2019-09-01 一种基于视觉的大场景下施工安全智能监控系统方法

Country Status (1)

Country Link
CN (1) CN110602449A (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111242987A (zh) * 2020-01-08 2020-06-05 北京天正聚合科技有限公司 一种目标跟踪方法、装置、电子设备及存储介质
CN111259855A (zh) * 2020-02-09 2020-06-09 天津博宜特科技有限公司 基于深度学习的移动式安全帽佩戴检测方法
CN111444891A (zh) * 2020-04-30 2020-07-24 天津大学 一种基于机载视觉的无人碾压机作业场景感知系统及方法
CN111611897A (zh) * 2020-05-15 2020-09-01 航迅信息技术有限公司 一种基于相机网络的无人机侦测系统及方法
CN112200043A (zh) * 2020-09-30 2021-01-08 中邮通建设咨询有限公司 面向室外施工现场的危险源智能识别系统及方法
CN112282819A (zh) * 2020-09-14 2021-01-29 北京天地玛珂电液控制系统有限公司 基于视觉的综采工作面人员目标安全监控方法及系统
CN113052107A (zh) * 2021-04-01 2021-06-29 北京华夏启信科技有限公司 一种检测安全帽佩戴情况的方法、计算机设备及存储介质
CN113435429A (zh) * 2021-08-27 2021-09-24 广东电网有限责任公司中山供电局 一种基于现场作业监控视频的多目标检测和跟踪系统
CN114298139A (zh) * 2021-11-17 2022-04-08 天津大学 基于智能手机的大坝施工机械状态智能感知与监控方法
CN114333201A (zh) * 2021-12-29 2022-04-12 国网江苏省电力有限公司无锡供电分公司 安全监测设备、控制方法、信息处理方法及监测系统
CN114565852A (zh) * 2022-03-04 2022-05-31 上海应用技术大学 一种基于机器视觉工业机器人安全防护系统及安全防护方法
CN115035458A (zh) * 2022-07-06 2022-09-09 中国安全生产科学研究院 一种安全风险评价方法及系统
CN115082849A (zh) * 2022-05-23 2022-09-20 哈尔滨工业大学 基于深度学习的模板支架安全智能监测方法
CN117152258A (zh) * 2023-11-01 2023-12-01 中国电建集团山东电力管道工程有限公司 一种管道生产智慧车间的产品定位方法及系统

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110242326A1 (en) * 2010-03-30 2011-10-06 Disney Enterprises, Inc. System and Method for Utilizing Motion Fields to Predict Evolution in Dynamic Scenes
CN105160313A (zh) * 2014-09-15 2015-12-16 中国科学院重庆绿色智能技术研究院 视频监控中人群行为分析的方法及装置
CN106097322A (zh) * 2016-06-03 2016-11-09 江苏大学 一种基于神经网络的视觉系统标定方法
CN106777302A (zh) * 2016-12-30 2017-05-31 深圳市华傲数据技术有限公司 空间地理坐标的转换方法及装置
CN107862331A (zh) * 2017-10-31 2018-03-30 华中科技大学 一种基于时间序列及cnn的不安全行为识别方法及系统
CN108876821A (zh) * 2018-07-05 2018-11-23 北京云视万维科技有限公司 跨镜头多目标跟踪方法及系统
CN109344792A (zh) * 2018-10-18 2019-02-15 电子科技大学 一种目标自动识别跟踪方法
CN109657575A (zh) * 2018-12-05 2019-04-19 国网安徽省电力有限公司检修分公司 室外施工人员智能视频跟踪算法
CN109740463A (zh) * 2018-12-21 2019-05-10 沈阳建筑大学 一种车载环境下的目标检测方法
CN109803127A (zh) * 2019-03-08 2019-05-24 重庆启迪国信科技有限公司 基于大数据和物联网技术的城市安全工地监控系统和方法
CN109835251A (zh) * 2019-03-13 2019-06-04 重庆睿驰智能科技有限公司 车辆前向碰撞预警系统
US10347009B1 (en) * 2018-11-21 2019-07-09 Juan Ramon Terven Self callbrating camera system
CN110147757A (zh) * 2019-05-17 2019-08-20 国网山东省电力公司菏泽供电公司 基于卷积神经网络的输电通道工程车辆辨识方法及系统

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110242326A1 (en) * 2010-03-30 2011-10-06 Disney Enterprises, Inc. System and Method for Utilizing Motion Fields to Predict Evolution in Dynamic Scenes
CN105160313A (zh) * 2014-09-15 2015-12-16 中国科学院重庆绿色智能技术研究院 视频监控中人群行为分析的方法及装置
CN106097322A (zh) * 2016-06-03 2016-11-09 江苏大学 一种基于神经网络的视觉系统标定方法
CN106777302A (zh) * 2016-12-30 2017-05-31 深圳市华傲数据技术有限公司 空间地理坐标的转换方法及装置
CN107862331A (zh) * 2017-10-31 2018-03-30 华中科技大学 一种基于时间序列及cnn的不安全行为识别方法及系统
CN108876821A (zh) * 2018-07-05 2018-11-23 北京云视万维科技有限公司 跨镜头多目标跟踪方法及系统
CN109344792A (zh) * 2018-10-18 2019-02-15 电子科技大学 一种目标自动识别跟踪方法
US10347009B1 (en) * 2018-11-21 2019-07-09 Juan Ramon Terven Self callbrating camera system
CN109657575A (zh) * 2018-12-05 2019-04-19 国网安徽省电力有限公司检修分公司 室外施工人员智能视频跟踪算法
CN109740463A (zh) * 2018-12-21 2019-05-10 沈阳建筑大学 一种车载环境下的目标检测方法
CN109803127A (zh) * 2019-03-08 2019-05-24 重庆启迪国信科技有限公司 基于大数据和物联网技术的城市安全工地监控系统和方法
CN109835251A (zh) * 2019-03-13 2019-06-04 重庆睿驰智能科技有限公司 车辆前向碰撞预警系统
CN110147757A (zh) * 2019-05-17 2019-08-20 国网山东省电力公司菏泽供电公司 基于卷积神经网络的输电通道工程车辆辨识方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
于剑超: "监控环境下高效的多目标跟踪", 《中国优秀硕士学位论文全文数据库》 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111242987A (zh) * 2020-01-08 2020-06-05 北京天正聚合科技有限公司 一种目标跟踪方法、装置、电子设备及存储介质
CN111242987B (zh) * 2020-01-08 2024-02-06 北京天正聚合科技有限公司 一种目标跟踪方法、装置、电子设备及存储介质
CN111259855A (zh) * 2020-02-09 2020-06-09 天津博宜特科技有限公司 基于深度学习的移动式安全帽佩戴检测方法
CN111444891A (zh) * 2020-04-30 2020-07-24 天津大学 一种基于机载视觉的无人碾压机作业场景感知系统及方法
CN111611897A (zh) * 2020-05-15 2020-09-01 航迅信息技术有限公司 一种基于相机网络的无人机侦测系统及方法
CN112282819A (zh) * 2020-09-14 2021-01-29 北京天地玛珂电液控制系统有限公司 基于视觉的综采工作面人员目标安全监控方法及系统
CN112282819B (zh) * 2020-09-14 2024-01-09 北京天玛智控科技股份有限公司 基于视觉的综采工作面人员目标安全监控方法及系统
CN112200043A (zh) * 2020-09-30 2021-01-08 中邮通建设咨询有限公司 面向室外施工现场的危险源智能识别系统及方法
CN113052107A (zh) * 2021-04-01 2021-06-29 北京华夏启信科技有限公司 一种检测安全帽佩戴情况的方法、计算机设备及存储介质
CN113052107B (zh) * 2021-04-01 2023-10-24 北京华夏启信科技有限公司 一种检测安全帽佩戴情况的方法、计算机设备及存储介质
CN113435429A (zh) * 2021-08-27 2021-09-24 广东电网有限责任公司中山供电局 一种基于现场作业监控视频的多目标检测和跟踪系统
CN114298139A (zh) * 2021-11-17 2022-04-08 天津大学 基于智能手机的大坝施工机械状态智能感知与监控方法
CN114298139B (zh) * 2021-11-17 2024-09-06 天津大学 基于智能手机的大坝施工机械状态智能感知与监控方法
CN114333201A (zh) * 2021-12-29 2022-04-12 国网江苏省电力有限公司无锡供电分公司 安全监测设备、控制方法、信息处理方法及监测系统
CN114565852A (zh) * 2022-03-04 2022-05-31 上海应用技术大学 一种基于机器视觉工业机器人安全防护系统及安全防护方法
CN115082849A (zh) * 2022-05-23 2022-09-20 哈尔滨工业大学 基于深度学习的模板支架安全智能监测方法
CN115035458B (zh) * 2022-07-06 2023-02-03 中国安全生产科学研究院 一种安全风险评价方法及系统
CN115035458A (zh) * 2022-07-06 2022-09-09 中国安全生产科学研究院 一种安全风险评价方法及系统
CN117152258A (zh) * 2023-11-01 2023-12-01 中国电建集团山东电力管道工程有限公司 一种管道生产智慧车间的产品定位方法及系统
CN117152258B (zh) * 2023-11-01 2024-01-30 中国电建集团山东电力管道工程有限公司 一种管道生产智慧车间的产品定位方法及系统

Similar Documents

Publication Publication Date Title
CN110602449A (zh) 一种基于视觉的大场景下施工安全智能监控系统方法
Luo et al. Real-time smart video surveillance to manage safety: A case study of a transport mega-project
Xu et al. Computer vision techniques in construction: a critical review
CN104935879B (zh) 用于活动顺序验证的基于视觉的监视系统
Abughalieh et al. Predicting pedestrian intention to cross the road
CN104378582A (zh) 一种基于ptz摄像机巡航的智能视频分析系统及方法
Yu et al. Traffic danger recognition with surveillance cameras without training data
Ismail Application of computer vision techniques for automated road safety analysis and traffic data collection
Assadzadeh et al. Excavator 3D pose estimation using deep learning and hybrid datasets
Chian et al. Dynamic identification of crane load fall zone: A computer vision approach
CN112418096A (zh) 检测跌的方法、装置和机器人
Dinh et al. Development of a tracking-based system for automated traffic data collection for roundabouts
Patel et al. A framework for proactive safety evaluation of intersection using surrogate safety measures and non-compliance behavior
CN116740610A (zh) 一种高速公路施工安全管理ai算法系统
Li et al. Using Unmanned Aerial Systems (UAS) for Assessing and Monitoring Fall Hazard Prevention Systems in High-rise Building Projects
CN114581863A (zh) 车辆危险状态识别方法及系统
Malbog et al. PED-AI: pedestrian detection for autonomous vehicles using YOLOv5
Shrigandhi et al. Systematic Literature Review on Object Detection Methods at Construction Sites
Sekhar et al. Vehicle Tracking and Speed Estimation Using Deep Sort
Perez et al. Automatic safety video surveillance-tracking system to avoid vehicle-workers interaction for mining applications
CN104469328B (zh) 一种人车自动识别系统
Zhou et al. Construction Activity Analysis of Workers Based on Human Posture Estimation Information
CN117494029B (zh) 一种道路抛洒物事件识别方法及装置
Ciampi et al. Aimh lab: Smart cameras for public administration
Mohamed et al. Automated Traffic Safety Assessment Tool Utilizing Monocular 3D Convolutional Neural Network Based Detection Algorithm at Signalized Intersections

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20191220

WD01 Invention patent application deemed withdrawn after publication