CN110611877B - 一种基于无人机的暴力异常行为监测系统及方法 - Google Patents
一种基于无人机的暴力异常行为监测系统及方法 Download PDFInfo
- Publication number
- CN110611877B CN110611877B CN201910333006.3A CN201910333006A CN110611877B CN 110611877 B CN110611877 B CN 110611877B CN 201910333006 A CN201910333006 A CN 201910333006A CN 110611877 B CN110611877 B CN 110611877B
- Authority
- CN
- China
- Prior art keywords
- monitoring
- heat map
- module
- unmanned aerial
- aerial vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C39/00—Aircraft not otherwise provided for
- B64C39/02—Aircraft not otherwise provided for characterised by special use
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
- G08B13/1963—Arrangements allowing camera rotation to change view, e.g. pivoting camera, pan-tilt and zoom [PTZ]
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19654—Details concerning communication with a camera
- G08B13/1966—Wireless systems, other than telephone systems, used to communicate with a camera
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
- G08B25/01—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
- G08B25/10—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium using wireless transmission systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/02—Services making use of location information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/12—Messaging; Mailboxes; Announcements
- H04W4/14—Short messaging services, e.g. short message services [SMS] or unstructured supplementary service data [USSD]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/90—Services for handling of emergency or hazardous situations, e.g. earthquake and tsunami warning systems [ETWS]
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Emergency Management (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Environmental & Geological Engineering (AREA)
- Public Health (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Alarm Systems (AREA)
Abstract
本发明公开了一种基于无人机的暴力异常行为监测系统及方法,所述监测系统包括监控前端、移动小车、基站、移动终端和监控中心,监控前端包括多个监控无人机,监控前端通过GPRS网络和基站通信连接,基站通过4G网络分别与移动终端和监控中心通信连接,监控前端和移动小车通过无线图传进行数据传输,移动小车和基站无线通信连接。本发明实现了对打架异常行为的半自动监控,具有对暴力异常行为实时监测、报警、数据存储和历史数据查询以及打印等功能,实现了对暴力异常行为及时和精确的监测,提高了安防效率,降低了人力成本,具有良好的实用性。
Description
技术领域
本发明属于无人机监测技术领域,具体涉及一种基于无人机的暴力异常行为监测系统及方法的设计。
背景技术
近年来,个人的犯罪活动和恐怖主义团体等暴力行为的威胁率一直在上升,对被害人的身心健康和生命财产安全造成极大的损害,直接危及人的生命、健康与自由,给社会带来了巨大的财产损失和人员伤亡。相关执法机构一直致力于使用视频监控系统来监控和遏制这些威胁,使用视频监控系统实现暴力异常行为监测具有重要的意义。现有固定监控系统由于摄像机视野受限,可以监视的区域受到限制,且无相应的监测算法,需要大量人力消耗。
无人机体积小、质量轻、成本低、易实现悬停与超低空飞行等特点受到广泛关注,大量投入军事和民用领域。在军事侦察、目标搜索、地区反恐、信息搜集、核生化信息检测、抢险救灾、安全防护等应用领域有着重要的意义。随着图像处理、视频分析、机器学习等领域的相关技术的发展,应用计算机视觉相关技术来进行视频监测使视频监测更加智能,成为目前非常热门的研究方向。相关执法机构一直致力于使用图像处理检测算法并利用无人机实现空中监视,以便安防人员能够及时有效地采取应对措施。因此,研究一种基于无人机的暴力异常行为监测系统及方法显得十分必要。
发明内容
本发明的目的是为了解决目前人工暴力异常行为监测方法人力消耗大以及监测效率低的问题,将无人机监控技术、图像处理技术和远程监控技术应用于人群监测领域,提出了一种基于无人机的暴力异常行为监测系统及方法,提升暴力异常行为监测的质量和效率,能够及时发现暴力异常行为,保障人们的人身及财产安全。
本发明的技术方案为:一种基于无人机的暴力异常行为监测系统,包括监控前端、移动小车、基站、移动终端和监控中心,监控前端包括多个监控无人机,监控前端通过GPRS网络和基站通信连接,基站通过4G网络分别与移动终端和监控中心通信连接,监控前端和移动小车通过无线图传进行数据传输,移动小车和基站无线通信连接。
本发明的有益效果是:本发明提供了一种基于无人机的暴力异常行为监测系统,能够实现对暴力异常行为进行实时监测并及时进行报警,实现了对暴力异常行为及时和精确的监测,提高了安防效率,降低了人力成本,具有良好的实用性。
进一步地,监控无人机为四旋翼无人机,每个监控无人机结构相同,均包括无人机机体、控制模块、电源模块、动力模块、声光报警模块、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块、云台、摄像头、视频采集卡、图像处理模块以及第一无线图传模块。电源模块包括蓄电池、太阳能电池板以及锂电池,无人机机体的四个螺旋桨上分别安装有一个蓄电池和一个太阳能电池板,每个蓄电池和对应的太阳能电池板电连接,锂电池安装在无人机机体内,蓄电池和锂电池均与监控无人机的其余模块电连接,用于为各个模块提供适配的电源。无人机机体正下方设置有云台与摄像头,摄像头固定设置在云台上,无人机机体正上方固定设置有双层平台,图像处理模块固定设置于双层平台的第一层,声光报警模块固定设置于双层平台的第二层,声光报警模块包括蜂鸣器与LED灯。控制模块、动力模块、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块以及视频采集卡均设置于无人机机体内,控制模块分别与动力模块、声光报警模块、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块、云台、摄像头以及图像处理模块通信连接。摄像头通过HDMI线与视频采集卡连接,视频采集卡通过USB接口与图像处理模块连接,第一无线图传模块设置于图像处理模块上,并与图像处理模块通信连接。
上述进一步方案的有益效果是:(1)本发明中的监控无人机可以实时监控监测区域的视频情况,当监测区域发生暴力异常行为时可以及时的将相关视频以及暴力异常行为发生的具体位置信息发送给监控中心,提高了安防效率。
(2)本发明中的监控无人机上搭载有声光报警模块,当监测到暴力异常行为时可通过声光报警模块进行报警,对附近的人员进行警示,能够有效保障人们的人身及财产安全。
(3)本发明中监控无人机的四个螺旋桨上各安装有一个太阳能电池板和一个蓄电池,当监控无人机的锂电池电量耗尽时可提供备用电能,具有良好的实用性。
进一步地,云台包括水平旋转关节和竖直旋转关节,竖直旋转关节通过转轴连接于水平旋转关节上,摄像头固定连接于竖直旋转关节上。
上述进一步方案的有益效果是:本发明的云台包含两个可旋转关节,可进行相关平面360°旋转,且结构简单,保证摄像头的监控视野更广。
进一步地,移动小车内搭载有主机服务器、第二无线图传模块和第二无线通信模块,主机服务器外接显示器,并通过USB接口与第二无线图传模块连接,第一无线图传模块和第二无线图传模块通过无线图传进行数据传输,主机服务器还通过第二无线通信模块与第一无线通信模块通信连接。
上述进一步方案的有益效果是:本发明中的移动小车和监控无人机通过无线通信模块进行命令传输,通过无线图传模块进行视频传输,移动小车再把视频通过基站传回监控中心,保证监控前端进入特殊或者无网地带,移动小车仍然可以接收数据,将数据传回监控中心。
进一步地,监控中心包括报警装置、打印装置和视频监控装置,视频监控装置为计算机,报警装置包括控制器和报警器,控制器通过串口分别与计算机以及报警器连接,报警器由多个蜂鸣器组成,计算机与打印装置连接,且计算机上安装有打印驱动软件。计算机监控监控前端传回的视频信息,当异常行为发生时,便把异常信息发送给控制器,控制器控制蜂鸣器鸣叫报警。
上述进一步方案的有益效果是:本发明中的监控中心具有暴力异常行为的实时监测、数据存储、历史数据查询与打印等功能;同时当接收到暴力异常信息时,可在本地进行报警,通知本地监控用户,有效提升了暴力异常行为监测的质量和效率。
本发明还提供了一种基于无人机的暴力异常行为监测方法,包括以下步骤:
S1、训练得到暴力异常行为监测网络。
S2、通过移动小车上的主机服务器设定监控前端的监测区域,同时设置监控前端每个监控无人机的监测高度和摄像头角度。
S3、根据设定的监测区域、监测高度和摄像头角度,控制各个监控无人机到达指定的监控位置进行监控,并将监控视频实时传输至移动小车和监控中心进行显示。
S4、通过暴力异常行为监测网络对监控视频进行监测,判断是否监测到暴力异常行为,若是则进入步骤S5,否则重复步骤S4。
S5、判断暴力异常行为的等级,并将暴力异常行为等级在移动小车和监控中心进行显示。
S6、控制监控无人机上的声光报警模块进行报警。
S7、通过监控无人机将暴力异常行为的视频信息和发生位置信息发送至监控中心,并通过短信形式发送至移动终端。
S8、启动监控中心的报警装置进行报警。
S9、对时间阈值内未查看短信的移动终端进行铃声提示。
本发明的有益效果是:(1)本发明提供了一种基于无人机的暴力异常行为监测方法,实现了对暴力异常行为的半自动监控,能够对暴力异常行为进行及时和精确的监测,提高了安防效率,降低了人力成本,具有良好的实用性
(2)本发明提供了一套全面的报警机制,可通过监控前端的声光报警模块进行报警,通知附近的人员;监控中心接收到暴力异常信息,也可在本地进行报警,通知本地监控用户;当本地监控人员外出,还可通过监控前端发送暴力异常信息给移动终端,对移动终端进行呼叫,具有良好的实用性。
进一步地,步骤S1包括以下分步骤:
S11、定义暴力异常行为。
S12、根据定义的暴力异常行为,采集暴力异常行为图片。
S13、将采集到的暴力异常行为图片作为训练集输入热度图提取网络,得到关键点热度图S和肢体热度图L。
S14、对关键点热度图S和肢体热度图L进行解析,得到特征角度集合θ。
S15、将特征角度集合输入SVM分类器进行分类训练,直到训练集中所有图片训练结束,得到训练好的暴力异常行为监测网络。
步骤S13包括以下分步骤:
S131、将采集到的暴力异常行为图片作为训练集输入mobilenet网络进行特征提取,得到图像特征F。
S132、将热度图提取网络分为两个分支,并将图像特征F分别输入到热度图提取网络的两个分支中。
S133、在热度图提取网络的第一分支中对输入进行卷积操作M1,并结合损失函数fS1得到第一阶段的关键点热度图S1,在热度图提取网络的第二分支中对输入进行卷积操作N1,并结合损失函数得到第一阶段的肢体热度图L1。
S134、将图像特征F、第t-1阶段的关键点热度图St-1和肢体热度图Lt-1分别输入到热度图提取网络的两个分支中,在热度图提取网络的第一分支中对输入进行卷积操作Mt,并结合损失函数得到第t阶段的关键点热度图St,在热度图提取网络的第二分支中对输入进行卷积操作Nt,并结合损失函数得到第t阶段的肢体热度图Lt,t≥2。
S135、当t=6时,将第t阶段的关键点热度图St和肢体热度图Lt作为最终提取的关键点热度图S和肢体热度图L。
卷积操作M1和卷积操作N1具体为:采用大小3×3的卷积核连续进行三次卷积,再用大小1×1的卷积核连续进行二次卷积。
卷积操作Mt和卷积操作Nt具体为:采用大小7×7的卷积核连续进行五次卷积,再用大小1×1的卷积核连续进行二次卷积。
其中W(p)表示图像位置p处缺少注释时的二元掩模,表示第n阶段第j个关键点的关键点热度图,n=1,2,3,4,5,6;j=1,2,...,J,J为关键点总数,表示第j个关键点的真实热度图,||·||2表示L2范数。
步骤S14包括以下分步骤:
S141、将关键点热度图S中高于设定关节点阈值的像素位置作为关节点位置。
S142、随机选取肢体热度图L中第c个肢体。
S143、随机选择先验相关的两个关节位置dj1和dj2作为候选关节位置。
S144、计算候选关节位置dj1和dj2的关联可能性值E,计算公式为:
其中Lc表示肢体热度图L中第c个肢体的部分亲和域,p(u)为沿着候选关节位置dj1和dj2的位置采样值,且p(u)=(1-u)·dj1+u·dj2,u为0到1之间的常数。
S145、重复步骤S143~S144,得到所有先验相关的两个关节位置的关联可能性值E。
S146、选取关联可能性值E最大的两个关节位置并连接,得到肢体热度图L中第c个肢体的肢体向量。
S147、重复步骤S142~S146,得到肢体热度图L中所有肢体的肢体向量。
S148、计算每两个肢体向量之间的夹角,将所有夹角构成特征角度集合θ。
上述进一步方案的有益效果是:本发明中采用热度图提取网络、解析和SVM分类3个阶段对暴力异常行为监测网络进行训练,能够得到识别精确度较高的暴力异常行为监测网络,进而实现对暴力异常行为及时和精确的监测;此外在热度图提取网络中用mobilenet网络模型进行特征提取,使得到热度图的速度更快。
进一步地,步骤S5中判断暴力异常行为的等级的具体方法为:
通过YOLO 9000网络检测监控视频中是否有暴力工具,若有则将暴力异常行为判定为重级,若没有则将暴力异常行为判定为轻级。
上述进一步方案的有益效果是:YOLO 9000网络能够精确识别出监控视频中的枪、匕首和刀具等危险物品,进而对暴力异常行为进行分级,为相关安保及执法人员的决策提供数据基础。
附图说明
图1所示为本发明实施例一提供的一种基于无人机的暴力异常行为监测系统结构框图。
图2所示为本发明实施例一提供的监控无人机结构框图。
图3所示为本发明实施例一提供的监控无人机结构示意图。
图4所示为本发明实施例一提供的云台和摄像头结构示意图。
图5所示为本发明实施例一提供的移动小车结构框图。
图6所示为本发明实施例一提供的监控中心结构框图。
图7所示为本发明实施例二提供的一种基于无人机的暴力异常行为监测方法流程图。
图8所示为本发明实施例二提供的暴力异常行为监测网络训练示意图。
附图标记说明:
1-蓄电池、2-太阳能电池板、3-图像处理模块、4-声光报警模块、5-双层平台、6-云台、61-水平旋转关节、62-竖直旋转关节、7-摄像头。
具体实施方式
现在将参考附图来详细描述本发明的示例性实施方式。应当理解,附图中示出和描述的实施方式仅仅是示例性的,意在阐释本发明的原理和精神,而并非限制本发明的范围。
实施例一:
本发明实施例提供了一种基于无人机的暴力异常行为监测系统,如图1所示,包括监控前端、移动小车、基站、移动终端和监控中心,监控前端包括多个监控无人机,监控前端通过GPRS网络和基站通信连接,基站通过4G网络分别与移动终端和监控中心通信连接,监控前端和移动小车通过无线图传进行数据传输,移动小车和基站无线通信连接。本发明实施例中,监控前端包括3个监控无人机。
如图2和图3共同所示,本发明实施例中,监控无人机为四旋翼无人机,每个监控无人机结构相同,均包括无人机机体、控制模块、电源模块、动力模块、声光报警模块4、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块、云台6、摄像头7、视频采集卡、图像处理模块3以及第一无线图传模块。
电源模块包括蓄电池1、太阳能电池板2以及锂电池,无人机机体的四个螺旋桨上分别安装有一个蓄电池1和一个太阳能电池板2,每个蓄电池1和对应的太阳能电池板2电连接,锂电池安装在无人机机体内,蓄电池1和锂电池均与监控无人机的其余模块电连接,用于为各个模块提供适配的电源。太阳能电池板2聚集太阳光并将太阳能转换成电能,送往蓄电池1进行储存,当无人机锂电池电量耗尽时,由蓄电池1进行供电。
无人机机体正下方设置有云台6与摄像头7,摄像头7固定设置在云台6上,无人机机体正上方固定设置有双层平台5,图像处理模块3固定设置于双层平台5的第一层,声光报警模块4固定设置于双层平台5的第二层,声光报警模块4包括蜂鸣器与LED灯,用于当监测到暴力异常行为时进行报警。
控制模块、动力模块、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块以及视频采集卡均设置于无人机机体内,控制模块分别与动力模块、声光报警模块4、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块、云台6、摄像头7以及图像处理模块3通信连接。摄像头7通过HDMI线与视频采集卡连接,视频采集卡通过USB接口与图像处理模块3连接,第一无线图传模块设置于图像处理模块3上,并与图像处理模块3通信连接。
本发明实施例中,控制模块采用主控芯片STM32F103RCT6和其余各个模块连接并控制各个模块。为保证监控无人机稳定飞行,采用GPS定位模块获取无人机当前位置,采用姿态测算模块得到无人机的姿态信息,如水平、竖直和偏航角等。动力模块包括电机以及控制电机的调速计,动力模块根据姿态测算单元和GPS定位模块得到的信息对电子调速计进行调节,从而电机控制螺旋桨进行旋转,保证无人机的稳定飞行。GPRS模块用于与基站进行通信,当发现暴力异常行为会通过GPRS传输网络发送位置信息和异常信息给基站,进而转发给移动终端和监控中心。云台6、摄像头7和视频采集卡用于进行视频图像采集,图像处理模块3用于进行暴力异常行为的检测,本发明实施例中,控制模块通过串口发送控制命令给云台6和摄像头7,控制云台6旋转和摄像头7的方向;图像处理模块3采用Jetson TX2,Jetson TX2通过串口和控制模块相连,接受控制命令。
如图4所示,云台6包括水平旋转关节61和竖直旋转关节62,竖直旋转关节62通过转轴连接于水平旋转关节61上,摄像头7固定连接于竖直旋转关节62上。云台6包含两个可旋转关节,可进行相关平面360°旋转,且结构简单,保证摄像头的监控视野更广。
如图5所示,移动小车内搭载有主机服务器、第二无线图传模块和第二无线通信模块,主机服务器外接显示器,并通过USB接口与第二无线图传模块连接,第一无线图传模块和第二无线图传模块通过无线图传进行数据传输,主机服务器还通过第二无线通信模块与第一无线通信模块通信连接。
移动小车和监控无人机通过无线通信模块(第一无线通信模块和第二无线通信模块)进行命令传输,通过无线图传模块(第一无线图传模块和第二无线图传模块)进行视频传输,移动小车再把视频通过基站传回监控中心,保证监控前端进入特殊或者无网地带,移动小车仍然可以接收数据,将数据传回监控中心。本发明实施例中,第一无线通信模块和第二无线通信模块的型号均为NRF24L01,第一无线图传模块和第二无线图传模块均为5.8G图传模块,5.8G图传模块分为两个标准802.11a或802.11n,速率高达54Mbps,配合平板天线,传输距离达5-7km以上。
如图6所示,监控中心包括报警装置、打印装置和视频监控装置,视频监控装置为计算机,接收并显示暴力异常视频信息;报警装置包括控制器和报警器,本发明实施例中,控制器的主控芯片型号为STM32F103ZET6,通过串口分别与计算机以及报警器连接,报警器由多个蜂鸣器组成,计算机与打印装置连接,且计算机上安装有打印驱动软件。当控制器接收到暴力异常信息,主控芯片对连接报警器的端口进行报警命令输出,启动报警器,进行鸣叫报警。
实施例二:
本发明实施例提供了一种基于无人机的暴力异常行为监测方法,如图7所示,包括以下步骤S1~S9:
S1、训练得到暴力异常行为监测网络。
S2、通过移动小车上的主机服务器设定监控前端的监测区域,同时设置监控前端每个监控无人机的监测高度和摄像头角度。
S3、根据设定的监测区域、监测高度和摄像头角度,控制各个监控无人机到达指定的监控位置进行监控,并将监控视频实时传输至移动小车和监控中心进行显示。
本发明实施例中,监测高度设定为10m,摄像头角度设置为与垂直方向夹角α=45°。
S4、通过暴力异常行为监测网络对监控视频进行监测,判断是否监测到暴力异常行为,若是则进入步骤S5,否则重复步骤S4。
S5、判断暴力异常行为的等级,并将暴力异常行为等级在移动小车和监控中心进行显示。
本发明实施例中,判断暴力异常行为的等级的具体方法为:通过YOLO 9000网络检测监控视频中是否有暴力工具(例如枪支、刀具等),若有则将暴力异常行为判定为重级,若没有则将暴力异常行为判定为轻级。
S6、控制监控无人机上的声光报警模块进行报警。
S7、通过监控无人机将暴力异常行为的视频信息和发生位置信息发送至监控中心,并通过短信形式发送至移动终端。
S8、启动监控中心的报警装置进行报警。
S9、对时间阈值内未查看短信的移动终端进行铃声提示。
本发明实施例中,时间阈值设置为5分钟。短信、铃声和异常信息等级可由GPRS通信链路进行传输,也可由移动小车中转链路进行传输,GPRS通信链路的优先级大于移动小车中转链路,GPRS通信链路通信受到干扰时,由移动小车中转链路传输,本发明实现了双网络传输。
如图8所示,本发明实施例中,训练暴力异常行为监测网络包括热度图提取网络、解析和SVM分类3个阶段,具体而言,步骤S1包括以下分步骤S11~S15:
S11、定义暴力异常行为。
S12、根据定义的暴力异常行为,采集暴力异常行为图片。
本发明实施例中,暴力异常行为包括(1)冲刺,(2)刺伤,(3)射击,(4)踢以及(5)扼杀。
S13、将采集到的暴力异常行为图片作为训练集输入热度图提取网络,得到关键点热度图S和肢体热度图L。
步骤S13包括以下分步骤:
S131、将采集到的暴力异常行为图片作为训练集输入mobilenet网络进行特征提取,得到图像特征F。
S132、将热度图提取网络分为两个分支,并将图像特征F分别输入到热度图提取网络的两个分支中。
S133、在热度图提取网络的第一分支中对输入进行卷积操作M1,并结合损失函数得到第一阶段的关键点热度图S1,在热度图提取网络的第二分支中对输入进行卷积操作N1,并结合损失函数得到第一阶段的肢体热度图L1。
本发明实施例中,卷积操作M1和卷积操作N1具体为:采用大小3×3的卷积核连续进行三次卷积,再用大小1×1的卷积核连续进行二次卷积。
S134、将图像特征F、第t-1阶段的关键点热度图St-1和肢体热度图Lt-1分别输入到热度图提取网络的两个分支中,在热度图提取网络的第一分支中对输入进行卷积操作Mt,并结合损失函数得到第t阶段的关键点热度图St,在热度图提取网络的第二分支中对输入进行卷积操作Nt,并结合损失函数得到第t阶段的肢体热度图Lt,t≥2。
本发明实施例中,卷积操作Mt和卷积操作Nt具体为:采用大小7×7的卷积核连续进行五次卷积,再用大小1×1的卷积核连续进行二次卷积。
S135、当t=6时,将第t阶段的关键点热度图St和肢体热度图Lt作为最终提取的关键点热度图S和肢体热度图L。
其中W(p)表示图像位置p处缺少注释时的二元掩模,表示第n阶段第j个关键点的关键点热度图,n=1,2,3,4,5,6;j=1,2,...,J,J为关键点总数,表示第j个关键点的真实热度图,||·||2表示L2范数。
热度图提取网络阶段的总体目标为每一层循环网络的损失函数之和小于设定阈值,即函数f小于设定阈值,函数f具体为:
训练时损失函数参与网络预测,使f小于设定阈值,网络的权重和偏置就最优,检测时,损失函数不参与网络预测,彩色图片输入训练模型,即可得到关键点热度图S和肢体热度图L。
S14、对关键点热度图S和肢体热度图L进行解析,得到特征角度集合θ。
步骤S14包括以下分步骤:
S141、将关键点热度图S中高于设定关节点阈值的像素位置作为关节点位置。
S142、随机选取肢体热度图L中第c个肢体。
S143、随机选择先验相关的两个关节位置dj1和dj2作为候选关节位置(比如手腕关节和手肘关节是先验相关的,则将手腕关节位置dj1和手肘关节位置dj2作为候选关节位置)。
S144、计算候选关节位置dj1和dj2的关联可能性值E,计算公式为:
其中Lc表示肢体热度图L中第c个肢体的部分亲和域,p(u)为沿着候选关节位置dj1和dj2的位置采样值,且p(u)=(1-u)·dj1+u·dj2,u为0到1之间的常数。
S145、重复步骤S143~S144,得到所有先验相关的两个关节位置的关联可能性值E。
S146、选取关联可能性值E最大的两个关节位置并连接,得到肢体热度图L中第c个肢体的肢体向量。
S147、重复步骤S142~S146,得到肢体热度图L中所有肢体的肢体向量。
S148、计算每两个肢体向量之间的夹角,将所有夹角构成特征角度集合θ。
S15、将特征角度集合输入SVM分类器进行分类训练,直到训练集中所有图片训练结束,得到训练好的暴力异常行为监测网络。
SVM即为支持向量机,在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法,在引入了核方法之后SVM也可以用来解决非线性问题。
本领域的普通技术人员将会意识到,这里所述的实施例是为了帮助读者理解本发明的原理,应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合,这些变形和组合仍然在本发明的保护范围内。
Claims (5)
1.一种基于无人机的暴力异常行为监测方法,其特征在于,包括以下步骤:
S1、训练得到暴力异常行为监测网络;
S2、通过移动小车上的主机服务器设定监控前端的监测区域,同时设置监控前端每个监控无人机的监测高度和摄像头角度;
S3、根据设定的监测区域、监测高度和摄像头角度,控制各个监控无人机到达指定的监控位置进行监控,并将监控视频实时传输至移动小车和监控中心进行显示;
S4、通过暴力异常行为监测网络对监控视频进行监测,判断是否监测到暴力异常行为,若是则进入步骤S5,否则重复步骤S4;
S5、判断暴力异常行为的等级,并将暴力异常行为等级在移动小车和监控中心进行显示;
S6、控制监控无人机上的声光报警模块进行报警;
S7、通过监控无人机将暴力异常行为的视频信息和发生位置信息发送至监控中心,并通过短信形式发送至移动终端;
S8、启动监控中心的报警装置进行报警;
S9、对时间阈值内未查看短信的移动终端进行铃声提示;
所述步骤S1包括以下分步骤:
S11、定义暴力异常行为;
S12、根据定义的暴力异常行为,采集暴力异常行为图片;
S13、将采集到的暴力异常行为图片作为训练集输入热度图提取网络,得到关键点热度图S和肢体热度图L;
S14、对关键点热度图S和肢体热度图L进行解析,得到特征角度集合θ;
S15、将特征角度集合输入SVM分类器进行分类训练,直到训练集中所有图片训练结束,得到训练好的暴力异常行为监测网络;
所述步骤S13包括以下分步骤:
S131、将采集到的暴力异常行为图片作为训练集输入mobilenet网络进行特征提取,得到图像特征F;
S132、将热度图提取网络分为两个分支,并将图像特征F分别输入到热度图提取网络的两个分支中;
S133、在热度图提取网络的第一分支中对输入进行卷积操作M1,并结合损失函数得到第一阶段的关键点热度图S1,在热度图提取网络的第二分支中对输入进行卷积操作N1,并结合损失函数得到第一阶段的肢体热度图L1;
S134、将图像特征F、第t-1阶段的关键点热度图St-1和肢体热度图Lt-1分别输入到热度图提取网络的两个分支中,在热度图提取网络的第一分支中对输入进行卷积操作Mt,并结合损失函数得到第t阶段的关键点热度图St,在热度图提取网络的第二分支中对输入进行卷积操作Nt,并结合损失函数得到第t阶段的肢体热度图Lt,t≥2;
S135、当t=6时,将第t阶段的关键点热度图St和肢体热度图Lt作为最终提取的关键点热度图S和肢体热度图L。
2.根据权利要求1所述的暴力异常行为监测方法,其特征在于,所述卷积操作M1和卷积操作N1具体为:采用大小3×3的卷积核连续进行三次卷积,再用大小1×1的卷积核连续进行二次卷积;
所述卷积操作Mt和卷积操作Nt具体为:采用大小7×7的卷积核连续进行五次卷积,再用大小1×1的卷积核连续进行二次卷积;
其中W(p)表示图像位置p处缺少注释时的二元掩模,表示第n阶段第j个关键点的关键点热度图,n=1,2,3,4,5,6;j=1,2,...,J,J为关键点总数,表示第j个关键点的真实热度图,||·||2表示L2范数;
3.根据权利要求1所述的暴力异常行为监测方法,其特征在于,所述步骤S14包括以下分步骤:
S141、将关键点热度图S中高于设定关节点阈值的像素位置作为关节点位置;
S142、随机选取肢体热度图L中第c个肢体;
S143、随机选择先验相关的两个关节位置dj1和dj2作为候选关节位置;
S144、计算候选关节位置dj1和dj2的关联可能性值E,计算公式为:
其中Lc表示肢体热度图L中第c个肢体的部分亲和域,p(u)为沿着候选关节位置dj1和dj2的位置采样值,且p(u)=(1-u)·dj1+u·dj2,u为0到1之间的常数;
S145、重复步骤S143~S144,得到所有先验相关的两个关节位置的关联可能性值E;
S146、选取关联可能性值E最大的两个关节位置并连接,得到肢体热度图L中第c个肢体的肢体向量;
S147、重复步骤S142~S146,得到肢体热度图L中所有肢体的肢体向量;
S148、计算每两个肢体向量之间的夹角,将所有夹角构成特征角度集合θ。
4.根据权利要求1所述的暴力异常行为监测方法,其特征在于,所述步骤S5中判断暴力异常行为的等级的具体方法为:
通过YOLO 9000网络检测监控视频中是否有暴力工具,若有则将暴力异常行为判定为重级,若没有则将暴力异常行为判定为轻级。
5.一种基于无人机的暴力异常行为监测系统,其特征在于,所述基于无人机的暴力异常行为监测系统用于执行如权利要求1-4任一所述的基于无人机的暴力异常行为监测方法,所述基于无人机的暴力异常行为监测系统包括监控前端、移动小车、基站、移动终端和监控中心,所述监控前端包括多个监控无人机,所述监控前端通过GPRS网络和基站通信连接,所述基站通过4G网络分别与移动终端和监控中心通信连接,所述监控前端和移动小车通过无线图传进行数据传输,所述移动小车和基站无线通信连接;
所述监控无人机为四旋翼无人机,每个所述监控无人机结构相同,均包括无人机机体、控制模块、电源模块、动力模块、声光报警模块(4)、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块、云台(6)、摄像头(7)、视频采集卡、图像处理模块(3)以及第一无线图传模块;
所述电源模块包括蓄电池(1)、太阳能电池板(2)以及锂电池,所述无人机机体的四个螺旋桨上分别安装有一个蓄电池(1)和一个太阳能电池板(2),每个所述蓄电池(1)和对应的太阳能电池板(2)电连接,所述锂电池安装在无人机机体内,所述蓄电池(1)和锂电池均与监控无人机的其余模块电连接,用于为各个模块提供适配的电源;
所述无人机机体正下方设置有云台(6)与摄像头(7),所述摄像头(7)固定设置在云台(6)上,所述无人机机体正上方固定设置有双层平台(5),所述图像处理模块(3)固定设置于双层平台(5)的第一层,所述声光报警模块(4)固定设置于双层平台(5)的第二层,所述声光报警模块(4)包括蜂鸣器与LED灯;
所述控制模块、动力模块、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块以及视频采集卡均设置于无人机机体内,所述控制模块分别与动力模块、声光报警模块(4)、第一无线通信模块、姿态测算模块、GPS定位模块、GPRS模块、云台(6)、摄像头(7)以及图像处理模块(3)通信连接;
所述摄像头(7)通过HDMI线与视频采集卡连接,所述视频采集卡通过USB接口与图像处理模块(3)连接,所述第一无线图传模块设置于图像处理模块(3)上,并与图像处理模块(3)通信连接;
所述云台(6)包括水平旋转关节(61)和竖直旋转关节(62),所述竖直旋转关节(62)通过转轴连接于水平旋转关节(61)上,所述摄像头(7)固定连接于竖直旋转关节(62)上;
所述移动小车内搭载有主机服务器、第二无线图传模块和第二无线通信模块,所述主机服务器外接显示器,并通过USB接口与第二无线图传模块连接,所述第一无线图传模块和第二无线图传模块通过无线图传进行数据传输,所述主机服务器还通过第二无线通信模块与第一无线通信模块通信连接;
所述监控中心包括报警装置、打印装置和视频监控装置,所述视频监控装置为计算机,所述报警装置包括控制器和报警器,所述控制器通过串口分别与计算机以及报警器连接,所述报警器由多个蜂鸣器组成,所述计算机与打印装置连接,且所述计算机上安装有打印驱动软件。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910333006.3A CN110611877B (zh) | 2019-04-24 | 2019-04-24 | 一种基于无人机的暴力异常行为监测系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910333006.3A CN110611877B (zh) | 2019-04-24 | 2019-04-24 | 一种基于无人机的暴力异常行为监测系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110611877A CN110611877A (zh) | 2019-12-24 |
CN110611877B true CN110611877B (zh) | 2020-09-29 |
Family
ID=68889672
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910333006.3A Active CN110611877B (zh) | 2019-04-24 | 2019-04-24 | 一种基于无人机的暴力异常行为监测系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110611877B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111783579B (zh) * | 2020-06-19 | 2022-05-06 | 江苏濠汉信息技术有限公司 | 基于无人机视觉分析的施工人员跨越围栏检测系统 |
CN113963444A (zh) * | 2021-11-09 | 2022-01-21 | 福州大学 | 一种用于排球技术动作的规范纠正方法 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104460474A (zh) * | 2014-10-26 | 2015-03-25 | 吉林医药学院 | 无人机通用地面监控系统 |
CN105120230A (zh) * | 2015-09-15 | 2015-12-02 | 成都时代星光科技有限公司 | 无人机图像监控和传输系统 |
CN205450708U (zh) * | 2016-01-05 | 2016-08-10 | 西南科技大学 | 可吸附系留式核环境监测系统 |
CN106375713A (zh) * | 2016-08-30 | 2017-02-01 | 黄爱国 | 一种视频监控智能化天网系统及其工作方法 |
CN107077140A (zh) * | 2016-03-28 | 2017-08-18 | 深圳市大疆创新科技有限公司 | 无人飞行器的悬停控制方法、控制系统和无人飞行器 |
CN107161350A (zh) * | 2017-04-11 | 2017-09-15 | 西南科技大学 | 事故处置飞行器自主续航方法及其系统 |
CN107291100A (zh) * | 2017-07-07 | 2017-10-24 | 深圳市华琥技术有限公司 | 一种基于无人机的监控方法 |
CN108320441A (zh) * | 2018-02-02 | 2018-07-24 | 安徽中天保安服务集团有限公司 | 一种基于无线通信网络的无人机巡查监测预警系统 |
CN108346254A (zh) * | 2018-04-19 | 2018-07-31 | 贵州大学 | 一种基于无人机的森林火灾监测系统 |
CN108572397A (zh) * | 2018-03-27 | 2018-09-25 | 西南科技大学 | 一种基于异构机器人的放射物搜寻系统及方法 |
CN108848348A (zh) * | 2018-07-12 | 2018-11-20 | 西南科技大学 | 一种基于无人机的人群异常行为监测装置及方法 |
CN109614882A (zh) * | 2018-11-19 | 2019-04-12 | 浙江大学 | 一种基于人体姿态估计的暴力行为检测系统及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109270954A (zh) * | 2018-10-30 | 2019-01-25 | 西南科技大学 | 一种基于姿态识别的无人机交互系统及其控制方法 |
-
2019
- 2019-04-24 CN CN201910333006.3A patent/CN110611877B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104460474A (zh) * | 2014-10-26 | 2015-03-25 | 吉林医药学院 | 无人机通用地面监控系统 |
CN105120230A (zh) * | 2015-09-15 | 2015-12-02 | 成都时代星光科技有限公司 | 无人机图像监控和传输系统 |
CN205450708U (zh) * | 2016-01-05 | 2016-08-10 | 西南科技大学 | 可吸附系留式核环境监测系统 |
CN107077140A (zh) * | 2016-03-28 | 2017-08-18 | 深圳市大疆创新科技有限公司 | 无人飞行器的悬停控制方法、控制系统和无人飞行器 |
CN106375713A (zh) * | 2016-08-30 | 2017-02-01 | 黄爱国 | 一种视频监控智能化天网系统及其工作方法 |
CN107161350A (zh) * | 2017-04-11 | 2017-09-15 | 西南科技大学 | 事故处置飞行器自主续航方法及其系统 |
CN107291100A (zh) * | 2017-07-07 | 2017-10-24 | 深圳市华琥技术有限公司 | 一种基于无人机的监控方法 |
CN108320441A (zh) * | 2018-02-02 | 2018-07-24 | 安徽中天保安服务集团有限公司 | 一种基于无线通信网络的无人机巡查监测预警系统 |
CN108572397A (zh) * | 2018-03-27 | 2018-09-25 | 西南科技大学 | 一种基于异构机器人的放射物搜寻系统及方法 |
CN108346254A (zh) * | 2018-04-19 | 2018-07-31 | 贵州大学 | 一种基于无人机的森林火灾监测系统 |
CN108848348A (zh) * | 2018-07-12 | 2018-11-20 | 西南科技大学 | 一种基于无人机的人群异常行为监测装置及方法 |
CN109614882A (zh) * | 2018-11-19 | 2019-04-12 | 浙江大学 | 一种基于人体姿态估计的暴力行为检测系统及方法 |
Non-Patent Citations (3)
Title |
---|
Using Multi-Scale Infrared Optical Flow-based Crowd motion estimation for Autonomous Monitoring UAV;Yanhua Shao等;《IEEE》;20190124;全文 * |
基于多传感器融合的飞行器室内自主导航设计;张樱凡;《工业控制计算机》;20180131;全文 * |
基于红外视觉的野外搜救无人机的设计与实现;邵延华等;《传感器与微系》;20190131;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110611877A (zh) | 2019-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111932588B (zh) | 一种基于深度学习的机载无人机多目标跟踪系统的跟踪方法 | |
KR102095555B1 (ko) | 필드양식장 불법행위감시가 가능한 무인비행체 및 인공지능 딥러닝을 이용한 불법행위 분석과 인식에 따른 감시 방법 | |
CN109063532B (zh) | 一种基于无人机的野外失联人员搜寻方法 | |
CN108647630A (zh) | 一种基于视频识别的危险驾驶行为监督方法与装置 | |
CN110611877B (zh) | 一种基于无人机的暴力异常行为监测系统及方法 | |
CN110619276B (zh) | 基于无人机移动监控的异常及暴力检测系统和方法 | |
CN110781798B (zh) | 一种基于树莓派和人脸识别的车载嫌疑犯锁定系统 | |
CN111824406A (zh) | 一种基于机器视觉的公共安全自主巡查四旋翼无人机 | |
CN103455822A (zh) | 复杂工业环境中的巡检机器人系统及多人脸动态跟踪方法 | |
US11373398B2 (en) | Methods and systems for operating a moving platform to determine data associated with a target person or object | |
CN108527382A (zh) | 一种巡检机器人 | |
CN114115296B (zh) | 一种重点区域智能巡检与预警系统及方法 | |
CN104765307A (zh) | 一种无人机航拍系统 | |
CN105809770A (zh) | 具有驾驶员身份识别功能的汽车行驶记录仪 | |
CN207895699U (zh) | 一种具有驾驶员危险驾驶行为预警装置 | |
Saha et al. | Face recognition drone | |
CN118196624A (zh) | 一种建筑工地的安全帽智能识别系统及方法 | |
CN115454138B (zh) | 一种基于无人机图像识别技术的施工违章判定方法和系统 | |
CN204669532U (zh) | 一种基于多旋翼无人机的监狱智能化安防装置 | |
US20220335725A1 (en) | Monitoring presence or absence of an object using local region matching | |
CN108981794A (zh) | 一种海上侦察系统 | |
CN206039557U (zh) | 一种行车状态监测系统 | |
CN114200961A (zh) | 一种基于无人机与智能穿戴装备的空地协同系统 | |
CN111586354A (zh) | 侦查系统 | |
CN112906538A (zh) | 一种基于无人值守平台的舰船目标图像识别系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |