CN113673459B - 基于视频的生产施工场所安全巡检方法、系统、设备 - Google Patents

基于视频的生产施工场所安全巡检方法、系统、设备 Download PDF

Info

Publication number
CN113673459B
CN113673459B CN202110987967.3A CN202110987967A CN113673459B CN 113673459 B CN113673459 B CN 113673459B CN 202110987967 A CN202110987967 A CN 202110987967A CN 113673459 B CN113673459 B CN 113673459B
Authority
CN
China
Prior art keywords
alarm
module
target
video
targets
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110987967.3A
Other languages
English (en)
Other versions
CN113673459A (zh
Inventor
黄凯奇
康运锋
张世渝
谢元涛
许伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Automation of Chinese Academy of Science
Original Assignee
Institute of Automation of Chinese Academy of Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Automation of Chinese Academy of Science filed Critical Institute of Automation of Chinese Academy of Science
Priority to CN202110987967.3A priority Critical patent/CN113673459B/zh
Publication of CN113673459A publication Critical patent/CN113673459A/zh
Application granted granted Critical
Publication of CN113673459B publication Critical patent/CN113673459B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B17/00Fire alarms; Alarms responsive to explosion
    • G08B17/12Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions
    • G08B17/125Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions by using a video camera to detect fire or smoke

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Alarm Systems (AREA)

Abstract

本发明属于安全生产监控技术领域,具体涉及一种基于视频的生产施工场所安全巡检方法、系统、设备,旨在解决生产施工场所的安全监控系统的容易出现误报、重复报警较多,导致安全巡检的准确性和高效性不足的问题。本方法包括对生产施工场所设定区域进行移动侦测;获取感兴趣的火灾报警候选目标;获取可能存在违规穿戴或违规行为的报警候选目标;获取非重复报警目标,并对非重复报警进行筛选,筛选后打包当前帧的报警信息,并进行存储和客户端上传;对接收的报警信息进行误报判断,并将误报的报警信息反馈到样本数据库,用于更新模型。本发明改进了生产施工场所的安全监控系统的容易出现误报、重复报警较多的问题,提高了安全巡检的准确性和高效性。

Description

基于视频的生产施工场所安全巡检方法、系统、设备
技术领域
本发明属于安全生产监控技术领域,具体涉及一种基于视频的生产施工场所安全巡检方法、系统、设备。
背景技术
近年来生产施工场所的安全事故频发,通过人工巡检的方式耗时耗力,难以及时发现生产施工环节中的安全隐患。随着人工智能和计算机硬件的发展,各类视频监控系统和安全监管系统日益增多,如:“一种未戴安全帽检测方法、系统、设备及存储介质.吕菲;刘辉;刘军;颜秀梅;周斯忠.中国专利:CN112101157A,2020-09-03”,该专利系统包括流媒体模块、安全帽未佩戴检测模块、人脸抓拍模块以及PC监控平台,检测方法为获取摄像头的视频流,对获取到的视频流进行解码;通过卷积神经网络对图像进行多层次的特征提取,对输出的特征采用特征金字塔模式进行特征融合,识别该图像中人物的头部位置以及安全帽佩戴类别标签;人脸抓拍模块对未佩戴安全帽的人进行脸部抓拍,进行脸部矫正;“一种安全生产的视频监控方法.刘鑫;张继勇;庄浩.中国专利:CN111325119A,2020-06-23”,该专利方法包括接收与安全生产有关的视频流图像。从视频流图像中,每间隔若干帧图像,选取一帧图像。将所选取的图像输入深度卷积神经网络模型,以识别以下至少一项或几项与安全生产有关的违规内容:待识别对象的违规外观信息、待识别对象的违规行为信息、车辆种类或车辆驶入的区域信息、生产设备的异常状态、烟火状态、遗留物信息;“一种面向复杂场景的安全帽检测系统.张笑钦;王涛;黄鹏程;赵丽;罗胜.中国专利:CN112381005A,2020-11-17”该专利系统包括:数据采集模块、安全帽检测模块和检测结果展示模块;数据采集模块用于将各种形式的数据传输到安全帽检测模块进行实时安全帽检测;所述安全帽检测模块用于检测数据采集模块传输的视频或图片,准确识别出在各种生产场景下的三种状态的安全帽,并将检测框坐标与置信度传到检测结果展示模块;所述检测结果展示模块利用安全帽检测模块传回的类别标签,检测框坐标与置信度,在输入图片和视频中进行实时地标注,以实现对复杂场景下安全帽的实时检测;“一种基于机器视觉的生产安全管控系统.李晓波.中国专利:CN111582149A,2020-08-25”,该专利系统包括视频监控系统、数据处理中心、安全预警系统和追溯管理系统,所述视频监控系统用于采集监控区域图像,并将所述监控区域图像发送至所述数据处理中心,所述数据处理中心对所述监控区域图像进行识别,并将识别结果发送至所述安全预警系统和追溯管理系统,所述安全预警系统根据识别结果发出预警,并将预警结果发送至所述追溯管理系统,所述追溯管理系统对所述识别结果和预警结果进行存储和查询。
但是当前系统的准确性和高效性依旧存在问题,主要在以下两个方面:
1)当前的安全生产监控方法容易受到复杂背景的干扰导致误报;
2)当前的安全监控方法忽略相同目标重复报警的情况,导致重复报警过多,会给审核人员带来工作负担。
基于此,本方案提出一种基于视频的生产施工场所安全巡检方法,旨在结合时空域的数据关联来提高生产施工场所安全巡检的准确性和计算效率。
发明内容
为了解决现有技术中的上述问题,即为了解决现有生产施工场所的安全监控系统存在容易出现误报、重复报警较多,导致安全巡检的准确性和高效性不足的问题,本发明第一方面,提出了一种基于视频的生产施工场所安全巡检方法,该方法包括:
步骤S100,获取生产施工场所连续的视频帧数据,并对生产施工场所设定区域进行移动侦测,若设定区域内检测到移动目标,则跳转步骤S200;
步骤S200,从视频帧数据中提取设定区域的图像数据;对所述图像数据进行人体目标的检测与跟踪,若人体目标的边界框的置信度大于等于设定第一阈值且边界框的分辨率大于等于设定第二阈值,则将该人体目标作为感兴趣的人体目标,跳转步骤S300;
对所述图像数据进行火灾目标检测,若火灾目标的边界框的置信度大于等于设定第三阈值且边界框的分辨率大于等于设定第四阈值,则将该火灾目标作为感兴趣的火灾报警候选目标,并跳转步骤S400;
步骤S300,对第一图像数据进行预处理,将预处理后的目标序列并行输入包含穿戴识别和行为识别的多任务分类网络,得到各感兴趣的人体目标的穿戴和行为的类别、置信度,进而将穿戴和行为的类别对应概率大于设定第五阈值的人体目标,作为可能存在违规穿戴或违规行为的报警候选目标;所述第一图像数据为感兴趣的人体目标在一段时序内对应的边界框内的图像数据序列;
步骤S400,提取所有报警候选目标的特征向量和类别,并利用预设的报警筛选方法进行筛选,获取非重复报警目标;若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,并进行存储和客户端上传;所述报警信息包括报警时间、报警摄像头信息、报警候选目标的边界框、类别以及对应的违规信息;
步骤S500,客户端根据接收的报警信息,判断是否存在误报,如果不存在误报,则进行报警处理;否则更新报警统计数据,并将误报的报警信息上传误报样本数据库;所述报警统计数据为按照设定条件对报警信息统计后的数据;所述设定条件还包括时间、空间、类型。
在一些优选的实施方式中,所述预设的报警筛选方法为:
根据报警候选目标的类别,查询数据库中对应类别的历史报警目标,并进行分组比对;
在每一组中,将当前组内所有报警候选目标的特征向量与报警候选目标对应的违规类别在距当前时刻设定时间间隔内的历史报警目标的特征向量进行依次比对;并将余弦相似度大于设定第七阈值的报警候选目标判断为重复报警目标;余弦相似度小于设定第七阈值的报警候选目标判断为非重复报警目标。
在一些优选的实施方式中,“对所述图像数据进行人体目标的检测与跟踪”,其方法为:利用多尺度的卷积神经网络对图像数据进行多个人体目标的检测,并基于每个人体目标的检测框进行目标跟踪,通过对人体目标的表观特征和运动特征进行建模,对下一帧该人体目标的包围框进行预测,将同一人体目标的包围框内图像数据按时序存储,作为该人体目标的图像序列。
在一些优选的实施方式中,所述预处理为将第一图像数据中的所有图像缩放至设定尺寸后,并进行归一化。
在一些优选的实施方式中,所述多任务分类网络中的穿戴识别网络通过利用在人体不同部位穿戴的先验知识,对人体关键区域的特征进行增强融合;基于增强融合后的特征,采用多标签分类器,输出不同穿戴类别的概率。
在一些优选的实施方式中,所述多任务分类网络中的行为识别网络由空间流和光流双路网络组成;
所述空间流网络与所述穿戴识别网络的特征提取部分共享网络参数;
所述光流网络输入多帧目标图像计算的光流图;
所述行为识别网络通过融合空间流和光流的特征,并采用多标签分类器,输出各行为类别的概率。
本发明的第二方面,提出了一种基于视频的生产施工场所安全巡检系统,基于上述的基于视频的生产施工场所安全巡检方法,该系统包括:任务配置模块、视频接入模块、视频分析模块、策略配置模块、报警筛选模块、数据存储模块、可视化模块、审核决策模块、更新模块;
所述任务配置模块,用于配置安全巡检任务,包括布防的摄像头、时间、区域;
所述视频接入模块,用于根据安全巡检任务,选取生产施工场所设定区域的摄像头范围,并对获取的实时视频帧数据进行解码,获取图像数据;
所述视频分析模块,用于结合获取的图像数据,进行人体目标和火灾目标的检测,得到报警候选目标;
所述策略配置模块,用于配置报警过滤参数;所述参数包括所述第六阈值、第七阈值、第八阈值;
所述报警筛选模块,配置为结合报警过滤参数,通过预设的报警筛选方法进行筛选,获取非重复报警目标;若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,并分别发送至数据存储模块和可视化模块;
所述数据存储模块,用于将接收到的报警信息进行分类存储;
所述可视化模块,用于将接收到的报警信息进行可视化显示和交互操作;
所述审核决策模块,用于判断接收到的报警信息是否存在误报,若存在误报,则将误报的报警信息发送至更新模块;
所述更新模块,用于将误报的报警信息反馈到报警信息库中进行报警候选目标的类别更新。
在一些优选的实施方式中,所述生产施工场所安全巡检系统还包括训练模块;
所述训练模块,配置为根据更新后的报警信息库和样本库,定时训练多任务分类网络,用于更新模型库中的模型参数。
本发明的第三方面,提出了一种电子设备,至少一个处理器;以及与至少一个所述处理器通信连接的存储器;其中,所述存储器存储有可被所述处理器执行的指令,所述指令用于被所述处理器执行以实现上述的基于视频的生产施工场所安全巡检方法。
本发明的第四方面,提出了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于被所述计算机执行以实现上述的基于视频的生产施工场所安全巡检方法。
本发明的有益效果:
本发明改进了现有生产施工场所的安全监控系统的容易出现误报、重复报警较多的问题,提高了安全巡检的准确性和高效性。
本发明通过移动侦测和区域配置,避免非关注区域的误报干扰和计算冗余。在检测识别环节,本发明采用多任务分类模型对人体目标的违规穿戴和违规行为进行识别,可以实现参数共享,提高计算效率。对识别出的报警候选目标,采用报警过滤策略,减少重复报警的传输和存储。在报警审核环节,通过误报反馈对报警记录的类别进行更新,以生成更多样本,以供后续训练更新模型参数。最终提高安全隐患预警的准确性和计算效率,提高生产施工场所的安全管理效能。
附图说明
通过阅读参照以下附图所做的对非限制性实施例所做的详细描述,本申请的其他特征、目的和优点将会变得更明显。
图1是本发明一种实施例的基于视频的生产施工场所安全巡检方法的流程示意图;
图2是本发明一种实施例的报警审核和误报反馈的流程示意图;
图3是本发明一种实施例的基于视频的生产施工场所安全巡检系统的结构示意图;
图4是本发明一种实施例的适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
本发明的一种基于视频的生产施工场所安全巡检方法,如图1所示,该方法包括:
步骤S100,获取生产施工场所连续的视频帧数据,并对生产施工场所设定区域进行移动侦测,若设定区域内检测到移动目标,则跳转步骤S200;
步骤S200,从视频帧数据中提取设定区域的图像数据;对所述图像数据进行人体目标的检测与跟踪,若人体目标的边界框的置信度大于等于设定第一阈值且边界框的分辨率大于等于设定第二阈值,则将该人体目标作为感兴趣的人体目标,跳转步骤S300;
对所述图像数据进行火灾目标检测,若火灾目标的边界框的置信度大于等于设定第三阈值且边界框的分辨率大于等于设定第四阈值,则将该火灾目标作为感兴趣的火灾报警候选目标,并跳转步骤S400;
步骤S300,对第一图像数据进行预处理,将预处理后的目标序列并行输入包含穿戴识别和行为识别的多任务分类网络,得到各感兴趣的人体目标的穿戴和行为的类别、置信度,进而将穿戴和行为的类别对应概率大于设定第五阈值的人体目标,作为可能存在违规穿戴或违规行为的报警候选目标;所述第一图像数据为感兴趣的人体目标在一段时序内对应的边界框内的图像数据序列;
步骤S400,提取所有报警候选目标的特征向量和类别,并利用预设的报警筛选方法进行筛选,获取非重复报警目标;若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,并进行存储和客户端上传;所述报警信息包括报警时间、报警摄像头信息、报警候选目标的边界框、类别以及对应的违规信息;
步骤S500,客户端根据接收的报警信息,判断是否存在误报,如果不存在误报,则进行报警处理;否则更新报警统计数据,并将误报的报警信息上传误报样本数据库。
为了更清晰地对本发明基于视频的生产施工场所安全巡检方法进行说明,下面结合附图1、2对本发明方法一种实施例中各步骤进行展开详述。
步骤S100,获取生产施工场所连续的视频帧数据,并对生产施工场所设定区域进行移动侦测,若设定区域内检测到移动目标,则跳转步骤S200;
在本实施例中,获取生产施工场所连续的视频帧数据,并根据预先设定的关注区域(简称为设定区域)进行移动侦测。预先设定关注区域是为了屏蔽大范围场景中无关区域、无关目标的干扰。如果设定区域内有移动目标(包括人、车、火、烟雾),则对该视频帧进一步处理。这一步可以减少不必要的计算量,节约计算资源。
步骤S200,从视频帧数据中提取设定区域的图像数据;对所述图像数据进行人体目标的检测与跟踪,若人体目标的边界框的置信度大于等于设定第一阈值且边界框的分辨率大于等于设定第二阈值,则将该人体目标作为感兴趣的人体目标,跳转步骤S300;
对所述图像数据进行火灾目标检测,若火灾目标的边界框的置信度大于等于设定第三阈值且边界框的分辨率大于等于设定第四阈值,则将该火灾目标作为感兴趣的火灾报警候选目标,并跳转步骤S400;
在本实施例中,从视频帧数据中提取设定区域内的图像数据,利用多尺度的卷积神经网络对设定区域内的图像数据进行目标检测与跟踪;其中,对所述图像数据进行人体目标的检测与跟踪,具体为:利用多尺度的卷积神经网络对图像数据进行多个人体目标的检测,并基于每个人体目标的检测框进行目标跟踪,通过对人体目标的表观特征和运动特征进行建模,对下一帧该人体目标的包围框进行预测,将同一人体目标的包围框内图像数据按时序存储,作为该人体目标的图像序列。
当人体目标边界框对应的置信度大于等于设定第一阈值,且人体目标边界框的分辨率大于等于设定第二阈值,则作为感兴趣的人体目标。
结合图像数据,对设定区域内的火灾目标(本发明中,火灾目标优选包括火焰、烟雾,在其他实施例中,可以根据实际情况进行设置)进行检测,如果有D个目标边界框对应的类别置信度大于等于设定第三阈值,且目标边界框的分辨率大于等于设定第四阈值,则这个D个火灾目标区域作为感兴趣的火灾报警候选目标。其中,D为自然数。
步骤S300,对第一图像数据进行预处理,将预处理后的目标序列并行输入包含穿戴识别和行为识别的多任务分类网络,得到各感兴趣的人体目标的穿戴和行为的类别、置信度,进而将穿戴和行为的类别对应概率大于设定第五阈值的人体目标,作为可能存在违规穿戴或违规行为的报警候选目标;所述第一图像数据为感兴趣的人体目标在一段时序内对应的边界框内的图像数据序列;
在本实施例中,将检测和跟踪获取的M个感兴趣的人体目标边界框内的图像数据或图像序列数据,经过预处理,并行输入穿戴识别和行为识别的多任务分类网络,获取各感兴趣的人体目标的穿戴和行为的类别、置信度。
其中,所述多任务分类网络中的穿戴识别网络通过利用在人体不同部位穿戴的先验知识,对人体关键区域的特征进行增强融合,提取有判别力的特征;基于增强融合后的特征,采用多标签分类器,输出不同穿戴类别的概率。所述多任务分类网络中的行为识别网络由空间流和光流双路网络组成;所述空间流网络与所述穿戴识别网络的特征提取部分共享网络参数;所述光流网络输入多帧目标图像计算的光流图;所述行为识别网络通过融合空间流和光流的特征,并采用多标签分类器,输出各行为类别的概率。
根据多任务分类网络输出的类别和置信度进行判断,M个感兴趣的人体图像数据或图像序列数据输入是否有违规穿戴或违规行为。违规穿戴如未戴安全帽/未穿工服/未戴安全带/未戴手套/未穿工鞋等。违规行为如吸烟/打手机等。
如果M个人体目标的图像数据或图像序列数据经过穿戴识别和行为识别的多任务分类网络的计算,有C个人体目标对应的违规类别输出概率大于设定第五阈值,则这C个人体目标作为可能存在违规穿戴或违规行为的报警候选目标。其中,C和M为自然数。
步骤S400,提取所有报警候选目标的特征向量和类别,并利用预设的报警筛选方法进行筛选,获取非重复报警目标;若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,并进行存储和客户端上传;所述报警信息包括报警时间、报警摄像头信息、报警候选目标的边界框、类别以及对应的违规信息;
在本实施例中,分别提取上述C个可能存在违规穿戴或违规行为的报警候选目标、D个感兴趣的火灾报警候选目标的特征向量和违规类型(即类别),利用预设的报警筛选方法进行筛选,获取非重复报警目标,若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,包括:报警时间、报警摄像头信息、报警候选目标的边界框、类别以及对应的违规信息,并将打包后的报警信息和报警图像文件进行存储/上传至客户端,并将打包好的报警信息和报警图像文件的存储地址发送到交互层进行后续应用。
其中,预设的报警筛选方法(或称为报警过滤策略),具体为:
根据报警候选目标的类别,查询数据库中对应类别的历史报警目标,并进行分组比对;其中,每个报警候选目标或历史报警目标的违规类别以二进制表示,每一位代表一种违规,假设当前安全巡检系统配置的任务是关注这7类安全隐患:未戴安全帽/未穿工服/未戴安全带/未戴手套/未穿工鞋/吸烟/打手机,则1001001表示该候选目标未戴安全帽、未戴手套、打手机。
在每一组中,将当前组内所有报警候选目标的特征向量与报警候选目标对应的违规类别在距当前时刻设定时间间隔内的历史报警目标的特征向量进行依次比对(即根据不同的违规类别会设定不同的时间间隔);并将余弦相似度大于设定第七阈值的报警候选目标判断为重复报警目标;余弦相似度小于设定第七阈值的报警候选目标判断为非重复报警目标(即新的报警目标)。
步骤S500,客户端根据接收的报警信息,判断是否存在误报,如果不存在误报,则进行报警处理;否则更新报警统计数据,并将误报的报警信息上传误报样本数据库。
在本实施例中,在交互界面上对接收到的报警信息进行可视化,审核员判断当前报警消息中是否有误报,如果有误报,选取误报目标的边界框和正确类别进行确认。反馈后的误报信息会更新相应报警统计数据,并上传到误报样本库,用于定期更新模型参数(即多任务分类网络模型的参数)。否则,进行报警设置,并更新报警统计数据。
本发明第二实施例的一种基于视频的生产施工场所安全巡检系统,基于上述的基于视频的生产施工场所安全巡检方法,如图3所示,该系统包括:任务配置模块、视频接入模块、视频分析模块、策略配置模块、报警筛选模块、数据存储模块、可视化模块、审核决策模块、更新模块;
所述任务配置模块,用于配置安全巡检任务,包括布防的摄像头、时间、区域;
所述视频接入模块,用于根据安全巡检任务,选取生产施工场所设定区域的摄像头范围,并对获取的实时视频帧数据进行解码,获取图像数据;
所述视频分析模块,用于结合获取的图像数据,进行人体目标和火灾目标的检测,得到报警候选目标;具体参考上述方法步骤S200-S400。
所述策略配置模块,用于配置报警过滤参数;所述参数包括所述第六阈值、第七阈值、第八阈值;
所述报警筛选模块,配置为结合报警过滤参数,通过预设的报警筛选方法进行筛选,获取非重复报警目标;若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,并分别发送至数据存储模块和可视化模块;
所述数据存储模块,用于将接收到的报警信息进行分类存储;
所述可视化模块,用于将接收到的报警信息进行可视化显示和交互操作;
所述审核决策模块,用于判断接收到的报警信息是否存在误报,若存在误报,则将误报的报警信息发送至更新模块;
所述更新模块,用于将误报的报警信息反馈到报警信息库中进行报警候选目标的类别更新。
另外,所述生产施工场所安全巡检系统还包括训练模块、统计查询模块;
所述训练模块,配置为根据更新后的报警信息库和样本库,所述样本库包括报警候选目标的图像数据和对应反馈的报警类别,定时训练模型多任务分类网络,用于更新模型库中的模型参数;
所述统计查询模块,用于根据报警信息库中存储的数据,报警信息库包括但不限于报警时间、报警摄像头、报警目标在图像中的坐标、报警类型、报警概率等,支持按照时间、空间、类型等条件查询报警记录,提取报警信息的统计信息。
所述技术领域的技术人员可以清楚的了解到,为描述的方便和简洁,上述描述的系统具体的工作过程及有关说明,可以参考前述方法实施例中的对应过程,在此不再赘述。
需要说明的是,上述实施例提供的基于视频的生产施工场所安全巡检系统,仅以上述各功能模块的划分进行举例说明,在实际应用中,可以根据需要而将上述功能分配由不同的功能模块来完成,即将本发明实施例中的模块或者步骤再分解或者组合,例如,上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块,以完成以上描述的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称,仅仅是为了区分各个模块或者步骤,不视为对本发明的不当限定。
本发明第三实施例的一种电子设备,至少一个处理器;以及与至少一个所述处理器通信连接的存储器;其中,所述存储器存储有可被所述处理器执行的指令,所述指令用于被所述处理器执行以实现上述的基于视频的生产施工场所安全巡检方法。
本发明第四实施例的一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于被所述计算机执行以实现上述的基于视频的生产施工场所安全巡检方法。
所述技术领域的技术人员可以清楚的了解到,未描述的方便和简洁,上述描述的设备、计算机可读存储介质的具体工作过程及有关说明,可以参考前述方法实例中的对应过程,在此不再赘述。
下面参考图4,其示出了适于用来实现本申请方法、系统、装置实施例的服务器的计算机系统的结构示意图。图4示出的服务器仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图4所示,计算机系统包括中央处理单元(CPU,Central Processing Unit)401,其可以根据存储在只读存储器(ROM,Read Only Memory)402中的程序或者从存储部分408加载到随机访问存储器(RAM,Random Access Memory)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有系统操作所需的各种程序和数据。CPU 401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O,Input/Output)接口405也连接至总线404。
以下部件连接至I/O接口405:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT,Cathode Ray Tube)、液晶显示器(LCD,Liquid Crystal Display)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN(局域网,Local AreaNetwork)卡、调制解调器等的网络接口卡的通讯部分409。通讯部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通讯部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本申请的方法中限定的上述功能。需要说明的是,本申请上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
术语“第一”、“第二”等是用于区别类似的对象,而不是用于描述或表示特定的顺序或先后次序。
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素,而且还包括没有明确列出的其它要素,或者还包括这些过程、方法、物品或者设备/装置所固有的要素。
至此,已经结合附图所示的优选实施方式描述了本发明的技术方案,但是,本领域技术人员容易理解的是,本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下,本领域技术人员可以对相关技术特征作出等同的更改或替换,这些更改或替换之后的技术方案都将落入本发明的保护范围之内。

Claims (8)

1.一种基于视频的生产施工场所安全巡检方法,其特征在于,该方法包括以下步骤:
步骤S100,获取生产施工场所连续的视频帧数据,并对生产施工场所设定区域进行移动侦测,若设定区域内检测到移动目标,则跳转步骤S200;
步骤S200,从视频帧数据中提取设定区域的图像数据;对所述图像数据进行人体目标的检测与跟踪,若人体目标的边界框的置信度大于等于设定第一阈值且边界框的分辨率大于等于设定第二阈值,则将该人体目标作为感兴趣的人体目标,跳转步骤S300;
对所述图像数据进行火灾目标检测,若火灾目标的边界框的置信度大于等于设定第三阈值且边界框的分辨率大于等于设定第四阈值,则将该火灾目标作为感兴趣的火灾报警候选目标,并跳转步骤S400;
步骤S300,对第一图像数据进行预处理,将预处理后的目标序列并行输入包含穿戴识别和行为识别的多任务分类网络,得到各感兴趣的人体目标的穿戴和行为的类别、置信度,进而将穿戴和行为的类别对应概率大于设定第五阈值的人体目标,作为可能存在违规穿戴或违规行为的报警候选目标;所述第一图像数据为感兴趣的人体目标在一段时序内对应的边界框内的图像数据序列;
所述多任务分类网络中的穿戴识别网络通过利用在人体不同部位穿戴的先验知识,对人体关键区域的特征进行增强融合;基于增强融合后的特征,采用多标签分类器,输出不同穿戴类别的概率;
所述多任务分类网络中的行为识别网络由空间流和光流双路网络组成;
所述空间流网络与所述穿戴识别网络的特征提取部分共享网络参数;
所述光流网络输入多帧目标图像计算的光流图;
所述行为识别网络通过融合空间流和光流的特征,并采用多标签分类器,输出各行为类别的概率;
步骤S400,提取所有报警候选目标的特征向量和类别,并利用预设的报警筛选方法进行筛选,获取非重复报警目标;若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,并进行存储和客户端上传;所述报警信息包括报警时间、报警摄像头信息、报警候选目标的边界框、类别以及对应的违规信息;
步骤S500,客户端根据接收的报警信息,判断是否存在误报,如果不存在误报,则进行报警处理;否则更新报警统计数据,并将误报的报警信息上传误报样本数据库;所述报警统计数据为按照设定条件对报警信息统计后的数据;所述设定条件还包括时间、空间、类型。
2.根据权利要求1所述的基于视频的生产施工场所安全巡检方法,其特征在于,所述预设的报警筛选方法为:
根据报警候选目标的类别,查询数据库中对应类别的历史报警目标,并进行分组比对;
在每一组中,将当前组内所有报警候选目标的特征向量与报警候选目标对应的违规类别在距当前时刻设定时间间隔内的历史报警目标的特征向量进行依次比对;并将余弦相似度大于设定第七阈值的报警候选目标判断为重复报警目标;余弦相似度小于设定第七阈值的报警候选目标判断为非重复报警目标。
3.根据权利要求1所述的基于视频的生产施工场所安全巡检方法,其特征在于,对所述图像数据进行人体目标的检测与跟踪的方法为:利用多尺度的卷积神经网络对图像数据进行多个人体目标的检测,并基于每个人体目标的检测框进行目标跟踪,通过对人体目标的表观特征和运动特征进行建模,对下一帧该人体目标的包围框进行预测,将同一人体目标的包围框内图像数据按时序存储,作为该人体目标的图像序列。
4.根据权利要求1所述的基于视频的生产施工场所安全巡检方法,其特征在于,所述预处理为:将第一图像数据中的所有图像缩放至设定尺寸后,并进行归一化。
5.一种基于视频的生产施工场所安全巡检系统,基于权利要求1-4任一项所述的基于视频的生产施工场所安全巡检方法,其特征在于,该系统包括:任务配置模块、视频接入模块、视频分析模块、策略配置模块、报警筛选模块、数据存储模块、可视化模块、审核决策模块、更新模块;
所述任务配置模块,用于配置安全巡检任务,包括布防的摄像头、时间、区域;
所述视频接入模块,用于根据安全巡检任务,选取生产施工场所设定区域的摄像头范围,并对获取的实时视频帧数据进行解码,获取图像数据;
所述视频分析模块,用于结合获取的图像数据,进行人体目标和火灾目标的检测,得到报警候选目标;
所述策略配置模块,用于配置报警过滤参数;所述参数包括第七阈值、第八阈值;
所述报警筛选模块,配置为结合报警过滤参数,通过预设的报警筛选方法进行筛选,获取非重复报警目标;若当前帧中的非重复报警目标数量大于0,且当前帧的报警时间与上一次发送报警的时间间隔不小于预设的第八阈值,则打包当前帧的报警信息,并分别发送至数据存储模块和可视化模块;
所述数据存储模块,用于将接收到的报警信息进行分类存储;
所述可视化模块,用于将接收到的报警信息进行可视化显示和交互操作;
所述审核决策模块,用于判断接收到的报警信息是否存在误报,若存在误报,则将误报的报警信息发送至更新模块;
所述更新模块,用于将误报的报警信息反馈到报警信息库中进行报警候选目标的类别更新。
6.根据权利要求5所述的基于视频的生产施工场所安全巡检系统,其特征在于,所述生产施工场所安全巡检系统还包括训练模块;
所述训练模块,配置为根据更新后的报警信息库和样本库,定时训练多任务分类网络,用于更新模型库中的模型参数。
7.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与至少一个所述处理器通信连接的存储器;其中,
所述存储器存储有可被所述处理器执行的指令,所述指令用于被所述处理器执行以实现权利要求1-4任一项所述的基于视频的生产施工场所安全巡检方法。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于被计算机执行以实现权利要求1-4任一项所述的基于视频的生产施工场所安全巡检方法。
CN202110987967.3A 2021-08-26 2021-08-26 基于视频的生产施工场所安全巡检方法、系统、设备 Active CN113673459B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110987967.3A CN113673459B (zh) 2021-08-26 2021-08-26 基于视频的生产施工场所安全巡检方法、系统、设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110987967.3A CN113673459B (zh) 2021-08-26 2021-08-26 基于视频的生产施工场所安全巡检方法、系统、设备

Publications (2)

Publication Number Publication Date
CN113673459A CN113673459A (zh) 2021-11-19
CN113673459B true CN113673459B (zh) 2024-05-14

Family

ID=78546581

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110987967.3A Active CN113673459B (zh) 2021-08-26 2021-08-26 基于视频的生产施工场所安全巡检方法、系统、设备

Country Status (1)

Country Link
CN (1) CN113673459B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114783188A (zh) * 2022-05-17 2022-07-22 阿波罗智联(北京)科技有限公司 巡检方法和装置
CN114937343B (zh) * 2022-05-30 2024-02-09 歌尔股份有限公司 工件坐标系数值报警方法、装置、电子设备及存储介质
CN115037636A (zh) * 2022-06-06 2022-09-09 阿里云计算有限公司 服务质量的感知方法、装置、电子设备和存储介质
CN114814877B (zh) * 2022-06-21 2022-09-06 山东金宇信息科技集团有限公司 一种基于巡检机器人的隧道数据采集方法、设备及介质
CN115082834B (zh) * 2022-07-20 2023-03-17 成都考拉悠然科技有限公司 一种基于深度学习工程车冒黑烟监测方法及系统
CN115457457B (zh) * 2022-08-23 2023-09-26 中国航空油料集团有限公司 航油油库周界区域安全检测方法、装置及安全运维系统
CN116129350B (zh) * 2022-12-26 2024-01-16 广东高士德电子科技有限公司 数据中心安全作业的智能监控方法、装置、设备及介质
CN116579609B (zh) * 2023-05-15 2023-11-14 三峡科技有限责任公司 一种基于巡检过程中的违规操作分析方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103268495A (zh) * 2013-05-31 2013-08-28 公安部第三研究所 计算机系统中基于先验知识聚类的人体行为建模识别方法
CN110502965A (zh) * 2019-06-26 2019-11-26 哈尔滨工业大学 一种基于计算机视觉人体姿态估计的施工安全帽佩戴监测方法
CN111462183A (zh) * 2020-03-31 2020-07-28 山东大学 一种基于注意力机制双流网络的行为识别方法及系统
CN112418135A (zh) * 2020-12-01 2021-02-26 深圳市优必选科技股份有限公司 人体行为识别方法、装置、计算机设备及可读存储介质
CN112528898A (zh) * 2020-12-17 2021-03-19 长扬科技(北京)有限公司 一种基于监控视频多目标检测的告警事件聚合方法和装置
CN112861673A (zh) * 2021-01-27 2021-05-28 长扬科技(北京)有限公司 一种用于监控视频多目标检测的去误报预警方法和系统
CN113139521A (zh) * 2021-05-17 2021-07-20 中国大唐集团科学技术研究院有限公司中南电力试验研究院 一种用于电力监控的行人越界标监测方法
CN113205060A (zh) * 2020-12-28 2021-08-03 武汉纺织大学 采用循环神经网络依据骨骼形态判断的人体动作检测方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111259751B (zh) * 2020-01-10 2023-08-29 北京百度网讯科技有限公司 基于视频的人体行为识别方法、装置、设备及存储介质
US11132780B2 (en) * 2020-02-14 2021-09-28 Huawei Technologies Co., Ltd. Target detection method, training method, electronic device, and computer-readable medium

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103268495A (zh) * 2013-05-31 2013-08-28 公安部第三研究所 计算机系统中基于先验知识聚类的人体行为建模识别方法
CN110502965A (zh) * 2019-06-26 2019-11-26 哈尔滨工业大学 一种基于计算机视觉人体姿态估计的施工安全帽佩戴监测方法
CN111462183A (zh) * 2020-03-31 2020-07-28 山东大学 一种基于注意力机制双流网络的行为识别方法及系统
CN112418135A (zh) * 2020-12-01 2021-02-26 深圳市优必选科技股份有限公司 人体行为识别方法、装置、计算机设备及可读存储介质
CN112528898A (zh) * 2020-12-17 2021-03-19 长扬科技(北京)有限公司 一种基于监控视频多目标检测的告警事件聚合方法和装置
CN113205060A (zh) * 2020-12-28 2021-08-03 武汉纺织大学 采用循环神经网络依据骨骼形态判断的人体动作检测方法
CN112861673A (zh) * 2021-01-27 2021-05-28 长扬科技(北京)有限公司 一种用于监控视频多目标检测的去误报预警方法和系统
CN113139521A (zh) * 2021-05-17 2021-07-20 中国大唐集团科学技术研究院有限公司中南电力试验研究院 一种用于电力监控的行人越界标监测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于时空双分支网络的人体动作识别研究;宫法明;马玉辉;;计算机技术与发展(09);全文 *
基于深度学习算法的叉车危险操作行为检测;李千登;王廷春;崔靖文;穆波;;中国安全生产科学技术(05);全文 *

Also Published As

Publication number Publication date
CN113673459A (zh) 2021-11-19

Similar Documents

Publication Publication Date Title
CN113673459B (zh) 基于视频的生产施工场所安全巡检方法、系统、设备
Franklin et al. Anomaly detection in videos for video surveillance applications using neural networks
US8660368B2 (en) Anomalous pattern discovery
CN111126153B (zh) 基于深度学习的安全监测方法、系统、服务器及存储介质
Zin et al. Unattended object intelligent analyzer for consumer video surveillance
CN102254394A (zh) 一种基于视频差异分析的输电线路杆塔防盗监控方法
Chriki et al. Uav-based surveillance system: an anomaly detection approach
CN111353436A (zh) 基于图像深度学习算法的超门店经营分析方法和装置
US20230186634A1 (en) Vision-based monitoring of site safety compliance based on worker re-identification and personal protective equipment classification
CN115294528A (zh) 一种行人安全监控方法及装置
CN114218992A (zh) 异常对象的检测方法及相关装置
CN115691034A (zh) 一种智能家居异常情况告警方法、系统及存储介质
CN116310922A (zh) 石化厂区监控视频风险识别方法、系统、电子设备及存储介质
CN115083229B (zh) 基于ai视觉识别的飞行训练设备智能识别与警示系统
CN117423157A (zh) 一种结合迁移学习、区域入侵的矿井下异常视频动作理解方法
CN116419059A (zh) 基于行为标签的自动监控方法、装置、设备及介质
CN117172984A (zh) 基于设备检修数字孪生场景的安全风险识别方法及系统
CN111191498A (zh) 行为识别方法和相关产品
CN116723295A (zh) 基于gpgpu芯片的多摄像头监控管理系统
CN115953815A (zh) 基建现场的监测方法及装置
Pitafi et al. Revolutionizing Perimeter Intrusion Detection: A Machine Learning-Driven Approach with Curated Dataset Generation for Enhanced Security
CN114445751A (zh) 视频关键帧图像轮廓特征的提取方法和装置
CN113128414A (zh) 人员跟踪方法、装置、计算机可读存储介质及电子设备
Berkovskyi et al. CREATION OF INTELLIGENT SYSTEMS FOR ANALYZING SUPERMARKET VISITORS TO IDENTIFY CRIMINAL ELEMENTS
CN111860070A (zh) 识别发生改变的对象的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant