CN109919009A - 目标对象的监控方法、装置及系统 - Google Patents
目标对象的监控方法、装置及系统 Download PDFInfo
- Publication number
- CN109919009A CN109919009A CN201910068774.0A CN201910068774A CN109919009A CN 109919009 A CN109919009 A CN 109919009A CN 201910068774 A CN201910068774 A CN 201910068774A CN 109919009 A CN109919009 A CN 109919009A
- Authority
- CN
- China
- Prior art keywords
- target
- video
- image
- server
- video frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 181
- 238000000034 method Methods 0.000 title claims abstract description 102
- 230000033001 locomotion Effects 0.000 claims description 168
- 239000013598 vector Substances 0.000 claims description 151
- 238000012806 monitoring device Methods 0.000 claims description 45
- 238000013528 artificial neural network Methods 0.000 claims description 40
- 230000006870 function Effects 0.000 claims description 33
- 230000004913 activation Effects 0.000 claims description 32
- 238000003062 neural network model Methods 0.000 claims description 30
- 238000000605 extraction Methods 0.000 claims description 29
- 238000010586 diagram Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 18
- 238000005070 sampling Methods 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 17
- 230000004044 response Effects 0.000 claims description 7
- 230000000694 effects Effects 0.000 abstract description 14
- 238000005516 engineering process Methods 0.000 abstract description 4
- 238000001514 detection method Methods 0.000 description 60
- 241000699666 Mus <mouse, genus> Species 0.000 description 59
- 238000004422 calculation algorithm Methods 0.000 description 27
- 241000607479 Yersinia pestis Species 0.000 description 22
- 241000699670 Mus sp. Species 0.000 description 19
- 230000005540 biological transmission Effects 0.000 description 18
- 230000003287 optical effect Effects 0.000 description 17
- 230000004297 night vision Effects 0.000 description 15
- 241000700159 Rattus Species 0.000 description 11
- 241001674044 Blattodea Species 0.000 description 8
- 241000238631 Hexapoda Species 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 7
- 230000006855 networking Effects 0.000 description 6
- 230000002265 prevention Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000007781 pre-processing Methods 0.000 description 5
- 241000255925 Diptera Species 0.000 description 3
- 238000007405 data analysis Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000000877 morphologic effect Effects 0.000 description 3
- WUKWITHWXAAZEY-UHFFFAOYSA-L calcium difluoride Chemical compound [F-].[F-].[Ca+2] WUKWITHWXAAZEY-UHFFFAOYSA-L 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 239000010436 fluorite Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 241000283984 Rodentia Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000009545 invasion Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Closed-Circuit Television Systems (AREA)
- Alarm Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种目标对象的监控方法、装置及系统,该方法包括:第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,图像是从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的图像;第一服务器根据图像确定对象是否为目标对象。通过本发明,解决了相关技术中对目标对象进行监控的效率较低的问题,进而达到了提高对目标对象进行监控的效率的效果。
Description
技术领域
本发明涉及计算机领域,具体而言,涉及一种目标对象的监控方法、装置及系统。
背景技术
目前对目标对象进行监控的方法通常是在拍摄的视频中识别目标对象,但是这种方式往往效率较低。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种目标对象的监控方法、装置及系统,以至少解决相关技术中对目标对象进行监控的效率较低的问题。
根据本发明的一个实施例,提供了一种目标对象的监控方法,包括:第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,所述图像是从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取的图像;所述第一服务器根据所述图像确定所述对象是否为目标对象。
可选地,在所述第一服务器根据所述图像确定所述对象是否为目标对象之后,所述方法还包括:在确定出所述对象为所述目标对象的情况下,所述第一服务器获取所述目标视频。
可选地,所述第一服务器获取所述目标视频包括:所述第一服务器从所述视频监控设备获取所述目标视频;或者,所述第一服务器从第二服务器获取所述目标视频,其中,所述目标视频是由所述视频监控设备在检测到目标区域中出现了移动的对象的情况下发送至所述第二服务器的。
可选地,在所述第一服务器根据所述图像确定所述对象是否为目标对象之后,所述方法还包括:在确定出所述对象不为所述目标对象的情况下,所述第一服务器向所述第二服务器发送指示信息,其中,所述指示信息用于指示所述第二服务器删除所述目标视频。
可选地,在所述第一服务器获取所述目标视频之后,所述方法还包括:所述第一服务器在所述目标视频中确定出所述目标对象在所述目标区域中的移动轨迹。
可选地,在所述第一服务器在所述目标视频中确定出所述目标对象在所述目标区域中的移动轨迹之后,所述方法还包括:所述第一服务器根据所述移动轨迹生成提示信息,其中,所述提示信息用于提示消除所述目标对象的方式。
可选地,在所述第一服务器根据所述移动轨迹生成提示信息之后,所述方法还包括:所述第一服务器生成所述目标对象对应的告警信息,其中,所述告警信息用于指示在所述目标区域出现了所述目标对象,所述告警信息中包括以下至少之一:所述目标视频、所述移动轨迹、所述提示信息;所述第一服务器将所述告警信息发送至客户端。
可选地,在第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像之前,所述方法还包括:所述视频监控设备在检测到目标区域中出现了移动的对象的情况下,从所述目标区域中出现了所述对象开始每隔预定时间从所述视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至所述对象不再出现在所述目标区域中,所述图像包括所述视频图像;所述视频监控设备将截取的所述视频图像实时发送至所述第一服务器;或者,所述视频监控设备获取包括截取到的全部视频图像的图像集,并将所述图像集发送至所述第一服务器。
可选地,所述第一服务器根据所述图像确定所述对象是否为目标对象包括:所述第一服务器识别接收到的每一张所述视频图像中的所述对象是否为所述目标对象,得到每一张所述视频图像对应的识别结果;所述第一服务器将接收到的全部所述视频图像对应的识别结果融合为目标结果;所述第一服务器根据所述目标结果确定所述对象是否为目标对象。
可选地,所述第一服务器识别接收到的每一张所述视频图像中的所述对象是否为所述目标对象包括:所述第一服务器确定接收到的每一张所述视频图像中是否出现了所述对象;所述第一服务器识别出现了所述对象的所述视频图像中的所述对象是否为所述目标对象。
可选地,所述第一服务器根据所述图像确定所述对象是否为目标对象包括:
所述第一服务器对每个目标视频帧图像进行目标对象的检测,得到每个所述目标视频帧图像的图像特征,其中,所述图像包括从所述目标视频上获取的多个目标视频帧图像,每个所述目标视频帧图像用于指示在所述目标区域中的所述对象,所述图像特征用于表示在所述对象中,与所述目标对象之间的相似度大于第一阈值的对象所在的目标图像区域;
所述第一服务器根据每个所述目标视频帧图像的图像特征确定出运动特征,其中,所述运动特征用于表示所述多个目标视频帧图像中所述对象的运动速度和运动方向;
所述第一服务器根据所述运动特征和每个所述目标视频帧图像的图像特征,确定所述多个目标视频帧图像中是否出现有所述目标对象。
可选地,所述第一服务器根据每个所述目标视频帧图像的图像特征确定出运动特征包括:
获取与每个所述目标视频帧图像的图像特征所表示的目标图像区域对应的目标矢量,得到多个目标矢量,其中,每个所述目标矢量用于表示对应的一个所述目标视频帧图像中所述对象在经过所述目标图像区域时的运动速度和运动方向;将所述多个目标矢量按照每个所述目标视频帧图像在所述视频文件中的时间顺序组成第一目标向量,其中,所述运动特征包括所述第一目标向量;或者
获取与每个所述目标视频帧图像的图像特征所表示的目标图像区域对应的二维光流图,得到多个二维光流图,其中,每个所述二维光流图包括对应的一个所述目标视频帧图像中所述对象在经过所述目标图像区域时的运动速度和运动方向;将所述多个二维光流图按照每个所述目标视频帧图像在所述视频文件中的时间顺序组成三维第二目标向量,其中,所述运动特征包括所述三维第二目标向量。
可选地,所述第一服务器根据所述运动特征和每个所述目标视频帧图像的图像特征,确定所述多个目标视频帧图像中是否出现有所述目标对象包括:
将所述运动特征和每个所述目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果,其中,所述对象识别结果用于表示所述多个目标视频帧图像中是否出现有所述目标对象。
可选地,将所述运动特征和每个所述目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果包括:
将每个所述图像特征经过包括卷积层、正则化层和激活函数层的神经网络层结构,得到多个第一特征向量;将所述多个第一特征向量与所述运动特征进行融合,得到第二特征向量;将所述第二特征向量输入到全连接层进行分类,得到第一分类结果,其中,所述神经网络模型包括所述神经网络层结构和所述全连接层,所述对象识别结果包括所述第一分类结果,所述第一分类结果用于表示所述多个目标视频帧图像中是否出现有所述目标对象;或者
将每个所述图像特征经过包括卷积层、正则化层和激活函数层的第一神经网络层结构,得到多个第一特征向量;将所述运动特征经过包括卷积层、正则化层、激活函数层的第二神经网络层结构,得到第二特征向量;将所述多个第一特征向量与所述第二特征向量进行融合,得到第三特征向量;将所述第三特征向量输入到全连接层进行分类,得到第二分类结果,其中,所述神经网络模型包括所述第一神经网络层结构、所述第二神经网络层结构和所述全连接层,所述对象识别结果包括所述第二分类结果,所述第二分类结果用于表示所述多个目标视频帧图像中是否出现有所述目标对象。
可选地,所述第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像包括:
所述第一服务器接收视频监控设备发送的所述多个目标视频帧图像,其中,所述多个目标视频帧图像是通过所述视频监控设备对所述目标视频进行抽帧采样,得到一组视频帧图像,并根据所述一组视频帧图像中的像素点的像素值在所述一组视频帧图像中确定的;或者,
所述第一服务器接收视频监控设备发送的一组视频帧图像,其中,所述一组视频帧图像是通过所述视频监控设备对所述目标视频进行抽帧采样得到的;所述第一服务器根据所述一组视频帧图像中的像素点的像素值在所述一组视频帧图像中确定出所述多个目标视频帧图像。
可选地,所述第一服务器包括:第一云服务器。
可选地,所述第二服务器包括:第二云服务器。
根据本发明的另一个实施例,提供了一种目标对象的监控方法,包括:视频监控设备在检测到目标区域中出现了移动的对象的情况下,从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像;所述视频监控设备将所述图像发送至第一服务器,其中,所述图像用于指示所述第一服务器根据所述图像确定所述对象是否为目标对象。
可选地,在检测到目标区域中出现了移动的对象的情况下,所述方法还包括:所述视频监控设备将所述目标视频发送至第二服务器,其中,所述第二服务器用于在接收到所述第一服务器发送的第一请求的情况下,响应所述第一请求将所述目标视频发送至所述第一服务器。
可选地,在所述视频监控设备将所述图像发送至第一服务器之后,所述方法还包括:所述视频监控设备接收所述第一服务器发送的第二请求;所述视频监控设备响应所述第二请求将所述目标视频发送至所述第一服务器。
可选地,从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像包括:所述视频监控设备在检测到目标区域中出现了移动的对象的情况下,从所述目标区域中出现了所述对象开始每隔预定时间从所述视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至所述对象不再出现在所述目标区域中,所述图像包括所述视频图像;所述视频监控设备将所述图像发送至第一服务器包括:所述视频监控设备将截取的所述视频图像实时发送至所述第一服务器;或者,所述视频监控设备获取包括截取到的全部视频图像的图像集,并将所述图像集发送至所述第一服务器。
可选地,在检测到目标区域中出现了移动的对象的情况下,所述方法还包括:所述视频监控设备从对所述目标区域进行拍摄得到的视频中获取从所述目标区域中出现所述对象开始直至所述目标区域中不再出现所述对象为止的第一视频;所述视频监控设备获取所述目标区域中出现所述对象之前的第一目标时间段的第二视频以及所述目标区域中不再出现所述对象之后的第二目标时间段的第三视频;所述视频监控设备将所述第二视频,所述第一视频和所述第三视频确定为所述目标视频。
根据本发明的另一个实施例,提供了一种目标对象的监控系统,包括:视频监控设备和第一服务器,其中,所述视频监控设备与所述第一服务器连接;所述视频监控设备用于在检测到目标区域中出现了移动的对象的情况下,从对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像,并将所述图像发送至所述第一服务器;所述第一服务器用于根据所述图像确定所述对象是否为目标对象。
可选地,所述视频监控设备用于:在检测到目标区域中出现了移动的对象的情况下,从所述目标区域中出现了所述对象开始每隔预定时间从所述视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至所述对象不再出现在所述目标区域中,所述图像包括所述视频图像;将截取的所述视频图像实时发送至所述第一服务器;或者,获取包括截取到的全部视频图像的图像集,并将所述图像集发送至所述第一服务器。
可选地,所述第一服务器用于:识别接收到的每一张所述视频图像中的所述对象是否为所述目标对象,得到每一张所述视频图像对应的识别结果;将接收到的全部所述视频图像对应的识别结果融合为目标结果;根据所述目标结果确定所述对象是否为目标对象。
可选地,所述第一服务器还用于:在确定出所述对象为所述目标对象的情况下,获取所述目标视频;在所述目标视频中确定出所述目标对象在所述目标区域中的移动轨迹;根据所述移动轨迹生成提示信息,其中,所述提示信息用于提示消除所述目标对象的方式;生成所述目标对象对应的告警信息,其中,所述告警信息用于指示在所述目标区域出现了所述目标对象,所述告警信息中包括以下至少之一:所述目标视频、所述移动轨迹、所述提示信息。
可选地,所述系统还包括:客户端,其中,所述第一服务器与所述客户端连接;所述第一服务器用于将所述告警信息发送至所述客户端;所述客户端用于在显示界面上显示所述告警信息。
可选地,所述系统还包括:第二服务器,其中,所述第二服务器与所述视频监控设备和所述第一服务器连接;所述视频监控设备还用于将所述视频发送至所述第二服务器;所述第二服务器用于存储所述目标视频;所述第一服务器用于从所述第二服务器获取所述目标视频。
可选地,所述第一服务器还用于:在确定所述对象不为所述目标对象的情况下,向所述第二服务器发送指示信息;所述第二服务器用于:响应所述指示信息删除所述目标视频。
可选地,所述视频监控设备还用于:从对所述目标区域进行拍摄得到的视频中获取从所述目标区域中出现所述对象开始直至所述目标区域中不再出现所述对象为止的第一视频;获取所述目标区域中出现所述对象之前的第一目标时间段的第二视频以及所述目标区域中不再出现所述对象之后的第二目标时间段的第三视频;将所述第二视频,所述第一视频和所述第三视频确定为所述目标视频。
根据本发明的另一个实施例,提供了一种目标对象的监控装置,应用于第一服务器,包括:接收模块,用于接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,所述图像是从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取的图像;确定模块,用于根据所述图像确定所述对象是否为目标对象。
根据本发明的另一个实施例,提供了一种目标对象的监控装置,应用于视频监控设备,包括:获取模块,用于在检测到目标区域中出现了移动的对象的情况下,从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像;发送模块,用于将所述图像发送至第一服务器,其中,所述图像用于指示所述第一服务器根据所述图像确定所述对象是否为目标对象。
根据本发明的又一个实施例,还提供了一种存储介质,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
根据本发明的又一个实施例,还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。
通过本发明,通过第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,图像是从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的图像;第一服务器根据图像确定对象是否为目标对象的方式,第一服务器根据从视频监控设备获取的图像确定目标区域中出现的对象是否为目标对象,该图像是视频监控设备在检测到目标区域中出现了移动的对象的情况下,从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的,由此视频监控设备只需在检测到目标区域中出现了移动的对象的情况下向第一服务器发送可能存在对象的图像,第一服务器即可根据接收到的图像确定目标区域出现的对象是否为目标对象,可见相对于根据视频监控目标对象的方式,能够大大减少传输数据的数据量,从而提高传输速度,减少传输时间,提高监控效率。因此,可以解决相关技术中对目标对象进行监控的效率较低的问题,达到提高对目标对象进行监控的效率的效果。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是本发明实施例的一种目标对象的监控方法的移动终端的硬件结构框图;
图2是根据本发明实施例的目标对象的监控方法的流程图一;
图3是根据本发明实施例的一种各模块数据连接的示意图;
图4是根据本发明实施例的一种鼠患检测系统的原理示意图;
图5是本发明实施例的一种Faster-RCNN网络模型的示意图;
图6是根据本发明实施例的目标对象的监控方法的流程图二;
图7是根据本发明实施例的目标对象的监控装置的结构框图一;
图8是根据本发明实施例的目标对象的监控装置的结构框图二;
图9是根据本发明实施例的目标对象的监控系统的结构框图;
图10是根据本发明可选实施例的目标对象的监控架构的示意图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例,图1是本发明实施例的一种目标对象的监控方法的移动终端的硬件结构框图。如图1所示,移动终端10可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104,可选地,上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述移动终端的结构造成限定。例如,移动终端10还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
存储器104可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本发明实施例中的目标对象的监控方法对应的计算机程序,处理器102通过运行存储在存储器104内的计算机程序,从而执行各种功能应用以及数据处理,即实现上述的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至移动终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端10的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种目标对象的监控方法,图2是根据本发明实施例的目标对象的监控方法的流程图一,如图2所示,该流程包括如下步骤:
步骤S202,第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,图像是从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的图像;
步骤S204,第一服务器根据图像确定对象是否为目标对象。
可选地,在本实施例中,目标对象可以但不限于包括:老鼠,害虫等等有害生物。
可选地,在本实施例中,目标区域可以但不限于包括:厨房、仓库、厂房等等。
可选地,在本实施例中,视频监控设备可以但不限于包括:摄像头、监控器等等。
可选地,上述摄像头可以包括但不限于:带有红外照明功能的摄像头,例如,红外微光夜视摄像头。进一步,该摄像头还可以包括但不限于:移动侦测功能、存储功能、联网功能(如wifi联网)及高清晰度(如大于1080p)配置。
可选地,在本实施例中,视频监控设备可以但不限于包括一个或者多个视频监控设备。
可选地,在本实施例中,第一服务器可以但不限于包括:第一云服务器。例如:自有云。
通过上述步骤,第一服务器根据从视频监控设备获取的图像确定目标区域中出现的对象是否为目标对象,该图像是视频监控设备在检测到目标区域中出现了移动的对象的情况下,从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的,由此视频监控设备只需在检测到目标区域中出现了移动的对象的情况下向第一服务器发送可能存在对象的图像,第一服务器即可根据接收到的图像确定目标区域出现的对象是否为目标对象,可见相对于根据视频监控目标对象的方式,能够大大减少传输数据的数据量,从而提高传输速度,减少传输时间,提高监控效率。因此,可以解决相关技术中对目标对象进行监控的效率较低的问题,达到提高对目标对象进行监控的效率的效果。
可选地,第一服务器可以在确定了目标区域中出现的对象为目标对象的情况下,再获取目标视频,如果目标区域中出现的对象不为目标对象,则不再获取目标视频,从而节省资源。例如:在上述步骤S204之后,在确定出对象为目标对象的情况下,第一服务器获取目标视频。
可选地,目标视频的存储位置可以但不限于包括视频监控设备或者第二服务器。例如:第一服务器可以但不限于通过以下方式之一获取目标视频:
方式一,第一服务器从视频监控设备获取目标视频。
方式二,第一服务器从第二服务器获取目标视频,其中,目标视频是由视频监控设备在检测到目标区域中出现了移动的对象的情况下发送至第二服务器的。
可选地,在本实施例中,第二服务器可以但不限于包括:第二云服务器。例如:萤石云。
可选地,视频监控设备可以将目标视频发送给第二服务器,如果第一服务器根据图像确定目标区域出现的对象不为目标对象,则可以发送指示信息给第二服务器,以指示第二服务器将目标视频删除,从而节省存储空间。例如:在上述步骤S204之后,在确定出对象不为目标对象的情况下,第一服务器向第二服务器发送指示信息,其中,指示信息用于指示第二服务器删除目标视频。
可选地,第一服务器获取到目标视频之后,可以从目标视频中分析出目标对象在目标区域中的移动轨迹。例如:在第一服务器获取目标视频之后,第一服务器在目标视频中确定出目标对象在目标区域中的移动轨迹。
可选地,第一服务器可以根据分析出的目标对象的移动轨迹生成消除目标对象的建议,提供给用户。例如:在第一服务器在目标视频中确定出目标对象在目标区域中的移动轨迹之后,第一服务器根据移动轨迹生成提示信息,其中,提示信息用于提示消除目标对象的方式。
可选地,第一服务器可以向客户端发送携带有目标视频、移动轨迹、提示信息的告警信息,来向用户提供目标对象的告警,并将目标对象的移动轨迹,如何消除目标对象的方式,以及目标对象移动过程的回放提供给用户,供其参考。例如:在第一服务器根据移动轨迹生成提示信息之后,第一服务器生成目标对象对应的告警信息,其中,告警信息用于指示在目标区域出现了目标对象,告警信息中包括以下至少之一:目标视频、移动轨迹、提示信息;第一服务器将告警信息发送至客户端。
可选地,在上述步骤S202之前,视频监控设备可以但不限于通过以下方式获取发送给第一服务器的图像:视频监控设备在检测到目标区域中出现了移动的对象的情况下,从目标区域中出现了对象开始每隔预定时间从视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至对象不再出现在目标区域中,图像包括视频图像;视频监控设备将截取的视频图像实时发送至第一服务器;或者,视频监控设备获取包括截取到的全部视频图像的图像集,并将图像集发送至第一服务器。
可选地,视频监控设备发送给第一服务器的图像可以为多张图像,第一服务器可以对每一张图像进行识别,得到识别结果,再融合这些识别结果,得到最终的目标结果。例如:在上述步骤S204中,第一服务器识别接收到的每一张视频图像中的对象是否为目标对象,得到每一张视频图像对应的识别结果;第一服务器将接收到的全部视频图像对应的识别结果融合为目标结果;第一服务器根据目标结果确定对象是否为目标对象。
可选地,第一服务器可以但不限于通过以下方式识别视频图像中的对象是否为目标对象:
第一服务器确定接收到的每一张视频图像中是否出现了对象;
第一服务器识别出现了对象的视频图像中的对象是否为目标对象。
可选地,在上述步骤S204中,可以但不限于通过以下方式识别目标对象:
第一服务器对每个目标视频帧图像进行目标对象的检测,得到每个目标视频帧图像的图像特征,其中,图像包括从目标视频上获取的多个目标视频帧图像,每个目标视频帧图像用于指示在目标区域中的对象,图像特征用于表示在移动的对象中,与目标对象之间的相似度大于第一阈值的对象所在的目标图像区域;
第一服务器根据每个目标视频帧图像的图像特征确定出运动特征,其中,运动特征用于表示多个目标视频帧图像中对象的运动速度和运动方向;
第一服务器根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象。
可选地,在本实施例中,还提供了一种目标对象的确定方法。假设视频监控设备为摄像设备,获取到的图像是从目标视频中提取出的图像帧。上述方法包括以下步骤:
步骤S1,获取摄像设备对目标区域拍摄得到的视频文件。
在本申请上述步骤S1提供的技术方案中,摄像设备可以为监控摄像头,比如,该摄像设备为红外微光夜视摄像头,用于对目标区域进行拍摄监控,得到视频文件。其中,目标区域为目标建筑内被检测的空间区域,也即,用于检测是否有目标对象出现的区域,该目标对象可以为体型较大的需要进行防治的病媒生物,比如,该目标对象为老鼠。
该实施例的视频文件包括对目标区域进行拍摄得到的原始视频数据,可以包括目标区域的监控视频序列,该监控视频序列也即图像视频序列。
可选地,该实施例在视频数据采集层通过ARM板获取目标区域的原始视频数据,以生成上述视频文件,从而实现了对目标区域的视频进行采集的目的。
步骤S2,对视频文件进行抽帧采样,得到一组视频帧图像。
在本申请上述步骤S2提供的技术方案中,在获取摄像设备对目标区域拍摄得到的视频文件之后,对视频文件进行预处理,可以在视频数据处理层对视频文件进行抽帧采样,得到一组视频帧图像。
在该实施例中,可以对视频文件进行等间隔的抽帧采样,从而得到视频文件的一组视频帧图像,比如,视频文件包括100个视频帧序列,在进行抽帧采样之后,得到10个视频帧序列,则将这10个视频帧序列作为上述一组视频帧图像,从而减少对目标对象进行确定的算法的运算量。
步骤S3,根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像。
在本申请上述步骤S3提供的技术方案中,在对视频文件进行抽帧采样,得到一组视频帧图像之后,根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像,其中,每个目标视频帧图像用于指示在对应的目标区域中移动的对象。
在该实施例中,对视频文件进行预处理,还包括对视频文件进行动态检测,从一组视频帧图像中确定用于指示在目标区域中移动的对象的目标视频帧图像,也即,在该目标视频帧图像中移动的对象,该目标视频帧图像可以为移动的对象的视频片段,其中,移动的对象可能是目标对象,也可能不是。该实施例可以通过动态检测算法确定目标视频帧图像,根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像,进而执行步骤S4。
可选地,在一组视频帧图像中,除多个目标视频帧图像之外的视频帧图像未指示出在对应的目标区域中有运动的图像,可以不进行后续的检测。
步骤S4,对每个目标视频帧图像进行目标对象检测,得到每个目标视频帧图像的图像特征。
在本申请上述步骤S4提供的技术方案中,在根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像之后,对每个目标视频帧图像进行目标对象检测,得到每个目标视频帧图像的图像特征,其中,图像特征针对每个目标视频帧图像而言,用于表示在移动的对象中,与目标对象之间的相似度大于第一阈值的对象所在的目标图像区域。
在该实施例中,对每个目标视频帧图像进行目标对象检测,也即,对目标视频帧图像中存在的运动对象进行检测,可以通过目标检测系统采用动态目标检测方法和基于神经网络的目标检测方法对目标视频帧图像中存在的运动对象进行检测,得到每个目标视频帧图像的图像特征,其中,动态目标检测方法的运算速度快、对机器配置要求较低,而基于神经网络的目标检测方法的准确性和鲁棒性更好,图像特征可以为矩形框中的视觉信息,用于表示目标图像区域,该矩形框可以为检测框,用于表示在移动的对象中,与所要识别的目标对象之间的相似度大于第一阈值的对象所在的目标图像区域。也就是说,上述图像特征用于指示粗筛确认出的目标对象可能出现的位置。
步骤S5,根据每个目标视频帧图像的图像特征确定出运动特征。
在本申请上述步骤S5,提供的技术方案中,在对每个目标视频帧图像进行目标对象检测,得到每个目标视频帧图像的图像特征之后,根据每个目标视频帧图像的图像特征确定出运动特征,其中,运动特征用于表示多个目标视频帧图像中移动的对象的运动速度和运动方向。
在该实施例中,在对每个目标视频帧图像进行目标对象检测,得到每个目标视频帧图像的图像特征之后,可以将每个目标视频帧图像的图像特征输入至运动特征提取模块,该运动特征提取模块根据每个目标视频帧图像的图像特征确定出运动特征,该运动特征针对多个目标视频帧图像而言,用于表示多个目标视频帧图像中移动的对象的运动速度和运动方向,同时进一步过滤掉非目标对象的移动所造成的干扰图像,比如,删除掉蚊虫的移动等干扰信息。
可选地,在该实施例中,由于每个目标视频帧图像中移动的对象的运动是连续的,运动特征提取模块的运动特征提取算法可以先根据每个目标视频帧图像的图像特征检测多个目标视频帧图像之间的图像特征的相关性,可以将相关性大的图像特征对应的对象确定为同一对象,对每一目标视频帧图像的图像特征进行匹配,得到对象的一系列运动图片,最后可以使用3D的特征提取网络提取运动序列的特征,从而得到运动特征,比如,根据每个目标视频帧图像的检测框,计算多个目标视频帧图像之间检测框的相关性,可以将相关性大的检测框对应的对象确定为同一对象,对每个目标视频帧图像的检测框进行匹配,得到对象的一系列运动图片,最后使用3D的特征提取网络提取运动序列的特征,得到运动特征,进而确定多个目标视频帧图像中移动的对象的运动速度和运动方向。
可选地,该实施例也可以将多个目标视频帧图像的图像特征进行融合和且进行特征提取,从而防止单帧的目标检测器出现误判的情况,进而实现对目标视频帧图像进行精筛以准确确定出是否出现目标对象。
步骤S6,根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象。
在本申请上述步骤S6提供的技术方案中,在根据每个目标视频帧图像的图像特征确定出运动特征之后,可以将运动特征和每个目标视频帧图像的图像特征进行融合,输入至预先训练好的分类网络中,该分类网络为预先设计好的用于确定多个目标视频帧图像中是否出现有目标对象的分类网络模型,进而根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象,比如,确定多个目标视频帧图像中是否出现有老鼠。
可选地,该实施例可以将多个目标视频帧图像中有目标对象的图像中的图像特征输入至前端显示界面,该前端显示界面可以进而显示出目标对象的检测框和移动轨迹。
可选地,该实施例的分类网络模型可以用于过滤非目标对象的图片序列,而保留目标对象的图片序列,从而降低虚警率,保证目标对象提示信息的准确性。
通过上述步骤S1至步骤S6,通过获取摄像设备对目标区域拍摄得到的视频文件;对视频文件进行抽帧采样,得到一组视频帧图像;根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像,其中,每个目标视频帧图像用于指示在目标区域中移动的对象;对每个目标视频帧图像进行目标对象检测,得到每个目标视频帧图像的图像特征,其中,图像特征用于表示在移动的对象中,与目标对象之间的相似度大于第一阈值的对象所在的目标图像区域;根据每个目标视频帧图像的图像特征确定出运动特征,其中,运动特征用于表示多个目标视频帧图像中移动的对象的运动速度和运动方向;根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象。也就是说,对目标区域的视频文件进行抽帧采样,得到一组视频帧图像,根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出用于指示在目标区域中移动的对象的多个目标视频帧图像,再根据每个目标视频帧图像的图像特征确定出运动特征,进而根据运动特征和每个目标视频帧图像的图像特征,达到自动确定多个目标视频帧图像中是否出现有目标对象的目的,不仅大大减少了确定目标对象的人力成本,而且提高了确定目标对象的准确率,解决了对目标对象进行确定的效率低的问题,进而达到了提高鼠患检测准确度的效果。
作为一种可选的实施方式,步骤S3,根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像包括:获取一组视频帧图像中的每个像素点的平均像素值;获取一组视频帧图像中的每个视频帧图像中的每个像素点的像素值与对应的平均像素值之间的差值;将一组视频帧图像中差值满足预定条件的视频帧图像确定为目标视频帧图像。
在该实施例中,在根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像时,可以获取一组视频帧图像中的每个像素点的像素值,根据每个像素点的像素值计算出平均像素值,再获取一组视频帧图像中的每个像素点的像素值与对应的平均像素值之间的差值。
可选地,该实施例还可以获取一组视频帧图像中的每个视频帧图像中的每个像素点的像素值与背景或者每个视频帧图像的前一帧之间的差值。
在获取上述差值之后,判断差值是否满足预定条件,将一组视频帧图像中差值满足预定条件的视频帧图像确定为目标视频帧图像,从而得到一组视频帧图像中的多个目标视频帧图像。
作为一种可选的实施方式,获取一组视频帧图像中的每个视频帧图像中的每个像素点的像素值与对应的平均像素值之间的差值包括:对于一组视频帧图像中的每个视频帧图像中的每个像素点执行以下操作,其中,在执行以下操作时每个视频帧图像被视为当前视频帧图像,每个像素点被视为当前像素点:D(x,y)=|f(x,y)-b(x,y)|,其中,(x,y)为当前像素点在当前视频帧图像中的坐标,f(x,y)表示当前像素点的像素值,b(x,y)表示当前像素点的平均像素值,D(x,y)表示当前像素点的像素值与对应的平均像素值之间的差值。
在该实施例中,在获取一组视频帧图像中的每个视频帧图像中的每个像素点的像素值与对应的平均像素值之间的差值时,每个视频帧图像被视为当前视频帧图像,每个像素点被视为当前像素点,可以通过(x,y)表示当前像素点在当前视频帧图像中的坐标,比如,为以当前视频帧图像左上角为原点,宽方向为X轴,高方向为Y轴建立的坐标系中像素点的坐标,通过f(x,y)表示当前像素点的像素值,通过b(x,y)表示当前像素点的平均像素值,通过D(x,y)表示当前像素点的像素值与对应的平均像素值之间的差值,按照公式D(x,y)=|f(x,y)-b(x,y)|计算出当前像素点的像素值与对应的平均像素值之间的差值,从而通过上述方法达到获取一组视频帧图像中的每个视频帧图像中的每个像素点的像素值与对应的平均像素值之间的差值的目的。
作为一种可选的实施方式,将一组视频帧图像中差值满足预定条件的视频帧图像确定为目标视频帧图像包括:对于一组视频帧图像中的每个视频帧图像中的每个像素点执行以下操作,其中,在执行以下操作时每个视频帧图像被视为当前视频帧图像,每个像素点被视为当前像素点:其中,D(x,y)表示为当前像素点的像素值与对应的平均像素值之间的差值,T为第一预设阈值;其中,预定条件包括:目标视频帧图像中M(x,y)=1的像素点的个数超过第二预设阈值。
在该实施例中,在将一组视频帧图像中差值满足预定条件的视频帧图像确定为目标视频帧图像时,每个视频帧图像被视为当前视频帧图像,每个像素点被视为当前像素点,通过M(x,y)表示当前视频帧图像,D(x,y)表示当前像素点的像素值与对应的平均像素值之间的差值,通过T表示第一预设阈值,如果当前视频帧中M(x,y)=1的像素点的个数超过第二预设阈值,则将当前视频帧图像确定为目标视频帧图像,也即,则当前视频帧图像中移动的对象,为目标视频帧图像,否则,当前视频帧图像中不移动的对象。
该实施例的一组视频帧图像中多个目标视频帧图像组成了运动目标视频帧图像,可以经过形态学运算合并像素点可得出所有运动的对象,作为输出结果。
可选地,该实施例对目标视频帧图像中移动的对象的检测为基于神经网络的目标检测,可以将一组视频帧图像输入预先训练好的网络模型,得出所有移动的对象和其置信度,将大于某个置信度阈值的图像特征作为该网络模块的输出。使用的网络模型可以包含但不限于单次多目标检测器(Single Shot MultiBox Detector,简称为SSD)、区域卷积网络(Faster Region-CNN,简称为Faster-RCNN)、特征金字塔网络(Feature PyramidNetwork,简称为FPN)等,此处不做任何限制。
作为一种可选的实施方式,步骤S5,根据每个目标视频帧图像的图像特征确定出运动特征包括:获取与每个目标视频帧图像的图像特征所表示的目标图像区域对应的目标矢量,得到多个目标矢量,其中,每个目标矢量用于表示对应的一个目标视频帧图像中移动的对象在经过目标图像区域时的运动速度和运动方向;将多个目标矢量按照每个目标视频帧图像在视频文件中的时间顺序组成第一目标向量,其中,运动特征包括第一目标向量;或者获取与每个目标视频帧图像的图像特征所表示的目标图像区域对应的二维光流图,得到多个二维光流图,其中,每个二维光流图包括对应的一个目标视频帧图像中移动的对象在经过目标图像区域时的运动速度和运动方向;将多个二维光流图按照每个目标视频帧图像在视频文件中的时间顺序组成三维第二目标向量,其中,运动特征包括三维第二目标向量。
在该实施例中,每个目标视频帧图像的图像特征可以用于表示与目标图像区域对应的目标矢量,从而得到与多个目标视频帧一一对应的多个目标矢量,其中的每个目标矢量用于表示对应的一个目标视频帧图像中移动的对象在经过目标图像区域时的运动速度和运动方向,也即,可以将每个目标视频帧图像中移动的对象在经过目标图像区域时的运动速度和运动方向,作为每个目标视频帧图像的图像特征。在得到多个目标矢量之后,将多个目标矢量按照每个目标视频帧图像在视频文件中的时间顺序组成第一目标向量,其中,每个目标视频帧图像在视频文件中的时间顺序可以通过时间轴表示,进而可以将多个目标矢量沿着时间轴做拼接,得到第一目标向量,该第一目标向量为一维向量,将该一维向量作为运动特征进行输出。
可选地,每个目标视频帧图像的图像特征用于表示目标图像区域,可以计算每个目标图像区域的光流(Optical flow or optic flow),得到与该目标图像区域对应的二维光流图,进而得到与多个目标视频帧图像一一对应的多个二维光流图,其中,光流用于描述相对于观察者的运动所造成的观测目标、表面或边缘的运动。该实施例的每个二维光流图包括对应的一个目标视频帧图像中移动的对象在经过目标图像区域时的运动速度和运动方向,也即,目标视频帧图像中移动的对象在经过目标图像区域时的运动速度和运动方向可以通过二维光流图来表示。在得到多个二维光流图之后,将多个二维光流图按照每个目标视频帧图像在视频文件中的时间顺序组成三维第二目标向量,其中,每个目标视频帧图像在视频文件中的时间顺序可以通过时间轴表示,可以将多个二维光流图沿着时间轴做拼接,得到第二目标向量,该第二目标向量为三维向量,将该三维向量作为运动特征进行输出。
该实施例通过用于表示对应的一个目标视频帧图像中移动的对象在经过目标图像区域时的运动速度和运动方向的目标矢量,或者与每个目标视频帧图像的图像特征所表示的目标图像区域对应的二维光流图来确定出运动特征,该运动特征可以为一维向量或者为三维向量,从而实现了根据每个目标视频帧图像的图像特征确定出运动特征的目的,进而根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象,达到自动确定多个目标视频帧图像中是否出现有目标对象的目的,提高了确定目标对象的准确率。
作为一种可选的示例,通过融合了对上述移动的对象的检测(目标检测)和运动特征提取的网络输出特征图,该特征图融合了包括视觉和运动特征的四维向量,其中,该四维向量可以包括但不限于时间维度、通道维度、长维度、高维度。
作为一种可选的实施方式,步骤S6,根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象包括:将运动特征和每个目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果,其中,对象识别结果用于表示多个目标视频帧图像中是否出现有目标对象。
在该实施例中,在根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象时,可以将运动特征和每个目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果,该神经网络模型也即分类网络模型,可以根据存在有运动的目标对象的图像特征样本、运动特征样本和用于指示目标对象的数据对初始神经网络模型进行训练,且用于确定视频帧图像中是否出现有目标对象的模型。对象识别结果也即分类结果、判别结果,用于表示多个目标视频帧图像中是否出现有目标对象。
作为一种可选的实施方式,将运动特征和每个目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果包括:将每个图像特征经过包括卷积层、正则化层和激活函数层的神经网络层结构,得到多个第一特征向量;将多个第一特征向量与运动特征进行融合,得到第二特征向量;将第二特征向量输入到全连接层进行分类,得到第一分类结果,其中,神经网络模型包括神经网络层结构和全连接层,对象识别结果包括第一分类结果,第一分类结果用于表示多个目标视频帧图像中是否出现有目标对象;或者将每个图像特征经过包括卷积层、正则化层和激活函数层的第一神经网络层结构,得到多个第一特征向量;将运动特征经过包括卷积层、正则化层、激活函数层的第二神经网络层结构,得到第二特征向量;将多个第一特征向量与第二特征向量进行融合,得到第三特征向量;将第三特征向量输入到全连接层进行分类,得到第二分类结果,其中,神经网络模型包括第一神经网络层结构、第二神经网络层结构和全连接层,对象识别结果包括第二分类结果,第二分类结果用于表示多个目标视频帧图像中是否出现有目标对象。
在该实施例中,神经网络模型的总体结构可以分为卷积层、正则化层、激活函数层、全连接层,其中,卷积层由若干卷积单元组成,每个卷积单元的参数都是通过反向传播算法最佳化得到的;正则化层可以用于防止神经网络模型训练的过拟合,激活函数层可以将非线性引入网络,全连接层在整个卷积神经网络中起到分类器的作用。
在该实施例中,在将运动特征和每个目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果时,可以将每个图像特征经过包括卷积层、正则化层和激活函数层的神经网络层结构,得到多个第一特征向量,将该多个第一特征向量与上述运动特征进行融合,从而得到第二特征向量,其中,运动特征为一维运动特征。
作为一种可选的融合方式,可以将多个第一特征向量与运动特征进行拼接(或称为组合),得到第二特征向量。
在得到第二特征向量之后,将第二特征向量输入到全连接层进行分类,也即,通全连接层对第二特征向量进行分类,从而得到第一分类结果,其中,该实施例的神经网络模型包括上述神经网络层结构和上述全连接层,第一分类结果用于表示多个目标视频帧图像中是否出现有目标对象的对象识别结果,比如,为多个目标视频帧图像中是否出现有老鼠的分类结果。
可选地,上述将每个图像特征经过包括卷积层、正则化层和激活函数层的神经网络层结构,得到多个第一特征向量,将多个第一特征向量与运动特征进行融合,得到第二特征向量,将第二特征向量输入到全连接层进行分类,得到第一分类结果的方法,可以在获取与每个目标视频帧图像的图像特征所表示的目标图像区域对应的目标矢量,得到多个目标矢量,将多个目标矢量按照每个目标视频帧图像在视频文件中的时间顺序组成第一目标向量之后执行。
可选地,在将运动特征和每个目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果时,将每个图像特征经过包括卷积层、正则化层和激活函数层的第一神经网络层结构,得到多个第一特征向量;将上述运动特征经过包括卷积层、正则化层、激活函数层的第二神经网络层结构,得到第二特征向量。在得到第一特征向量和得到第二特征向量之后,将多个第一特征向量与第二特征向量进行融合,得到第三特征向量。
作为一种可选的融合方式,可以将多个第一特征向量与第二特征向量进行拼接(或称为组合),得到第三特征向量。
在得到第三特征向量之后,将第三特征向量输入到全连接层进行分类,从而得到第二分类结果,其中,该实施例的神经网络模型包括第一神经网络层结构、第二神经网络层结构和全连接层,对象识别结果包括第二分类结果,该第二分类结果用于表示多个目标视频帧图像中是否出现有目标对象,比如,为多个目标视频帧图像中是否出现有老鼠的分类结果。
可选地,上述将每个图像特征经过包括卷积层、正则化层和激活函数层的第一神经网络层结构,得到多个第一特征向量,将运动特征经过包括卷积层、正则化层、激活函数层的第二神经网络层结构,得到第二特征向量,将多个第一特征向量与第二特征向量进行融合,得到第三特征向量,将第三特征向量输入到全连接层进行分类,得到第二分类结果的方法,可以在获取与每个目标视频帧图像的图像特征所表示的目标图像区域对应的二维光流图,得到多个二维光流图,将多个二维光流图按照每个目标视频帧图像在视频文件中的时间顺序组成三维第二目标向量之后执行。
作为另一种可选的示例,将运动特征和每个目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果包括:将每个图像特征依次经过多个块,得到多个第一特征向量,其中,在每个块中会对块的输入依次执行卷积层上的卷积操作、正则化层上的正则化操作、激活函数层上的激活操作;将多个第一特征向量与运动特征进行拼接,得到第二特征向量;将第二特征向量输入到全连接层,通过全连接层输出得到第一分类结果,其中,神经网络模型包括多个块和全连接层,对象识别结果包括第一分类结果,第一分类结果用于表示多个目标视频帧图像中是否出现有目标对象;或者将每个图像特征依次经过多个第一块,得到多个第一特征向量,其中,在每个第一块中会对第一块的输入依次执行卷积层上的卷积操作、正则化层上的正则化操作、激活函数层上的激活操作;将运动特征依次经过多个第二块,得到第二特征向量,其中,在每个第二块中会对第二块的输入依次执行卷积层上的卷积操作、正则化层上的正则化操作、激活函数层上的激活操作;将多个第一特征向量与第二特征向量进行拼接,得到第三特征向量;将第三特征向量输入到全连接层,通过全连接层输出得到第二分类结果,其中,神经网络模型包括多个第一块、多个第二块和全连接层,对象识别结果包括第二分类结果,第二分类结果用于表示多个目标视频帧图像中是否出现有目标对象。
在该实施例中,还可以通过块对每个图像特征进行处理。可以将每个图像特征依次经过多个块,得到多个第一特征向量,在每个块中会对块的输入依次执行在卷积层上的卷积操作、在正则化层上的正则化操作以及在激活函数层上的激活操作。在得到多个第一特征向量之后,将多个第一特征向量与运动特征进行拼接,从而得到第二特征向量。在得到第二特征向量之后,将第二特征向量输入到全连接层进行分类,通过全连接层输出得到第一分类结果,其中,该实施例的神经网络模型包括多个块和全连接层,对象识别结果包括第一分类结果,该第一分类结果用于表示多个目标视频帧图像中是否出现有目标对象,比如,为多个目标视频帧图像中是否出现有老鼠的分类结果。
可选地,该实施例通过第一块对每个图像特征进行处理,将每个图像特征依次经过多个第一块,得到多个第一特征向量,在每个第一块中会对第一块的输入依次执行在卷积层上的卷积操作、在正则化层上的正则化操作以及在激活函数层上的激活操作。该实施例还可以通过第二块对运动特征进行处理,将运动特征依次经过多个第二块,得到第二特征向量,在每个第二块中会对第二块的输入依次执行在卷积层上的卷积操作、在正则化层上的正则化操作以及在激活函数层上的激活操作。在得到多个第一特征向量和第二特征向量之后,将多个第一特征向量与第二特征向量进行拼接,得到第三特征向量,最后将第三特征向量输入到全连接层进行分类,通过全连接层输出得到第二分类结果,其中,该实施例的神经网络模型包括多个第一块、多个第二块和全连接层,对象识别结果包括第二分类结果,该第二分类结果用于表示多个目标视频帧图像中是否出现有目标对象,比如,为多个目标视频帧图像中是否出现有老鼠的分类结果。
作为一种可选的实施方式,对视频文件进行抽帧采样,得到一组视频帧图像包括:对视频文件中的视频序列进行等间隔的抽帧采样,得到一组视频帧图像。
在该实施例中,视频文件包括视频序列,可以在对视频文件进行抽帧采样,得到一组视频帧图像时,对视频文件中的视频序列进行等间隔的抽帧采样,得到一组视频帧图像,从而减少对目标对象进行确定的算法的运算量,进而快速多个目标视频帧中是否出现有目标对象,提高了对目标对象进行确定的效率。
作为一种可选的实施方式,获取摄像设备对目标区域拍摄得到的视频文件包括:获取的视频文件包括:获取红外微光夜视摄像头对目标区域拍摄得到的视频文件,其中,视频文件中的视频帧图像为通过红外微光夜视摄像头拍摄到的图像。
在该实施例中,摄像设备可以为摄像头,比如,为红外微光夜视摄像头,该红外微光夜视摄像头带有红外照明功能。通过红外微光夜视摄像头对目标区域进行拍摄,得到视频文件,该视频文件中的视频帧图像为通过红外微光夜视摄像头拍摄到的图像。
可选地,该实施例的摄像设备还包括但不限于:移动侦测功能、联网功能(如wifi联网)及高清晰度(如大于1080p)配置。
作为一种可选的实施方式,在确定多个目标视频帧图像中是否出现有目标对象之后,该方法还包括:在确定出多个目标视频帧图像中出现有目标对象的情况下,确定目标对象在多个目标视频帧图像中的位置;将位置显示在多个目标视频帧图像中。
在该实施例中,在确定多个目标视频帧图像中是否出现有目标对象之后,在确定出多个目标视频帧图像中出现有目标对象的情况下,可以进一步确定目标对象在多个目标视频帧图像中的位置,比如,确定老鼠在多个目标视频帧图像中的位置,进而将位置显示在多个目标视频帧图像中,比如,将用于指示位置的图标、文本等信息显示在多个目标视频帧图像中。
可选地,该实施例还可以获取目标对象出现的时间、在目标区域中的活动区域等信息,将目标对象的位置、时间、在目标区域中的具体活动区域、在目标区域的活动频率、移动轨迹等信息输出至前端,该前端也即显示部件,目标对象出现的时间、活动区域等信息可以在显示界面中进行显示,从而避免了人工确定目标对象导致对目标对象进行确定的效率低下的为问题。
可选地,在确定出多个目标视频帧图像中出现有目标对象的情况下,可以发送报警信息至前端,该报警信息用于指示目标区域中出现有目标对象,以使相关防治人员采取防治措施,从而提高对目标对象进行防治的效率。
作为一种可选的实施方式,目标对象的确定方法由设置在本地的服务器执行。
该实施例的目标对象的确定方法可以由设置在本地的服务器执行,无需连接云服务器,内部即可实现上述的运算和可视化,避免了运算端在云服务器上,会有计算资源上、传输上的问题,导致整个框架效率较为低下的问题,从而提高了对目标对象进行确定的效率。
该实施例旨在应用图像识别的技术,融合图像特征和运动特征,自动检测监控视频中是否有目标对象,对目标对象做定位和跟踪,可以生成目标对象的移动轨迹和在各目标区域的活动频率,整个过程全为算法实现,无需额外的人力成本;另外,该实施例无需通过放置目标捕捉装置来确定目标区域中的目标对象,也无需花费人力进行观测,不仅大大减少了监测目标对象的人力成本,提高了对目标对象进行确定的效率,进而方便了进一步对目标对象进行防治的工作。
进一步,下面结合优选的实施例对本发明实施例的技术方案进行举例说明。具体以目标对象为老鼠进行举例说明。
根据本发明实施例的另一种目标对象的确定方法。该方法还包括:
步骤S1,获取红外微光夜视摄像头拍摄到的视频文件。
步骤S2,判断视频文件中是否存在运动物体。
步骤S3,如果存在运动物体,则提取存在运动物体的视频片段。
步骤S4,对存在运动物体的视频片段进行图像特征和动态特征提取。
步骤S5,根据提取到的图像特征和动态特征判断运动物体是否为老鼠。
步骤S6,如果判断结果为是,则发出提示信息。
该实施例采用获取红外微光夜视摄像头拍摄到的视频文件;判断视频文件中是否存在运动物体;如果存在运动物体,则提取存在运动物体的视频片段;对存在运动物体的视频片段进行图像特征和动态特征提取;根据提取到的图像特征和动态特征判断运动物体是否为老鼠;如果判断结果为是,则发出提示信息,从而解决了对目标对象进行确定的效率低的问题,进而达到了提高鼠患检测准确度的效果。
本发明实施例的技术方案可以作为一种融合视觉特征和轨迹特征的鼠患视频监测方法,可以应用在多种场景中用于检测拍摄到的视频中是否存在老鼠,通过红外微光夜视摄像头拍摄当前环境的视频文件,然后判断是否存在运动物体,如果存在运动物体,则通过提取运动物体的视频片段进行特征识别,进一步判断提取运动物体是否为老鼠,如果判断出是老鼠,则发出提示信息,提示信息可以是在屏幕上显示文字,也可以是发出声音提示信息,也可以是亮灯或闪烁等多种类型的提示信息。
需要说明的是,本发明实施例的技术方案中,监控摄像头采用的是红外微光夜视摄像头,另外,其判断、提取等处理过程是在本地服务器中进行的,无需将数据发送到远程服务器来处理,可以减少数据传输量,提高监测效率。
可选地,在发出提示信息之后,确定运动物体在视频文件中每帧图片中的位置;将预设标记叠加在每帧图片对应的位置处显示在前端界面上。
在发出有老鼠的提示后,确定老鼠在视频文件中每帧图片中的位置,然后将预设的标记叠加在每帧图片对应的位置处显示,预设标记可以是绿色或者红色的矩形框,把每帧图片中老鼠的位置用矩形框标记出,以方便用户可以及时查看到老鼠的位置和经常出没区域。
可选地,判断视频文件中是否存在运动物体包括:对视频文件中的视频序列进行等间隔的抽帧采样,得到采样视频帧;通过动态目标检测算法或者基于神经网络的目标检测算法判断采样视频帧图像中是否有运动物体。
在判断视频文件中是否存在运动物体时,可以对视频序列进行等间隔的抽帧采样,以减少算法的运算量,然后判断采样视频帧中是否有运动物体,判断时可以采用动态目标检测算法或者基于神经网络的目标检测算法中的任意一种,在一些情况下,也可以两者混合使用。
可选地,通过动态目标检测算法判断采样视频帧图像中是否有运动物体包括:通过Dk(x,y)=丨fk(x,y)-bk(x,y)丨计算当前帧和背景或前一帧的差值;通过判断是否存在运动物体,其中,(x,y)为以图像左上角为原点,宽方向为X轴,高方向为Y轴建立的坐标系中像素点的坐标,k为当前帧的索引,f表示当前帧,b表示背景或者上一帧,M(x,y)为运动图像,T为阈值。
若M(x,y)为1表示有运动目标,所有X(x,y)的像素组成了运动目标视频帧图像,经过形态学运算合并像素点可得出所有运动的目标。
可选地,根据提取到的图像特征和动态特征判断运动物体是否为老鼠包括:将提取到的图像特征和动态特征输入到预先训练好的神经网络模型中,进行模型判别,得到模型输出结果;根据模型输出结果判断运动物体是否为老鼠。
可以通过预先训练好的神经网络模型对提取到的图像特征和动态特征进行模型判别,模型是预先根据大量的样本训练得到的,大量的样本包括图片和该图片中是否有老鼠的标签,在一些情况下,还可以包括该图片中的老鼠数量的标签,这样可以使模型更加精确。
本发明实施例的技术方案可以应用在厨房、餐厅等需要监测是否有鼠害的应用场景中,也可以使用于酒店业学校、实验室、医院等室内外对于环境卫生有要求的场所,对在鼠害防治工作中,应用本发明实施例的图像识别技术进行老鼠检测和跟踪,使用独立的一个装置,通过监控摄像头在本地完成鼠患的监控,无需放置鼠夹鼠笼,也无需花费人力进行观测,将监测鼠害变为高效全自动的流程工作,不仅大大减少了监测鼠害的人力成本,同时准确率高,方便对鼠害卫生的监管,并且提供了轨迹信息,方便了进一步的灭鼠工作。
本发明实施例的技术方案还提供了一种优选实施方式,下面结合该优选实施方式对本发明实施例的技术方案进行说明。
本发明实施例旨在应用图像识别的技术,融合视觉和图像序列特征,自动检测监控视频中是否有老鼠,对老鼠做定位和跟踪,并且生成老鼠的运动轨迹路线和各区域的活动频率,整个过程全为算法实现,无需额外的人力成本,并且是一个独立的装置,无需连接云服务器,内部可实现所有的运算和可视化。
根据本发明实施例的一种鼠患视频监测装置可以包括分为几个部件:红外微光夜视摄像头、数据处理模块和前端显示部件,上述装置工作时原理如下:红外微光夜视摄像头负责采集场景视频序列,数据处理模块接收视频序列并且检测视频中有无老鼠,若检测到老鼠,将老鼠的位置等一系列信息输出至前端显示界面,前端显示界面显示老鼠的位置、出现时间、活动区域并且可以即时进行鼠患的报警。
上述数据处理模块可以分为视频采集模块302、视频处理模块304和存储模块306。图3是根据本发明实施例的一种各模块数据连接的示意图,如图3所示,视频采集模块302通过ARM板3022采集视频数据,并通过视频预处理模块3024进行预处理,视频处理模块304读入已训练好的模型在嵌入式GPU处理器3042中根据深度学习算法进行视频处理,若深度学习网络模型检测到某一个片段时间有老鼠,则将该片段以及相应的检测结果存储至存储模块306,存储模块306将这一系列信息输出至前端。
图4是根据本发明实施例的一种鼠患检测系统的原理示意图。如图4所示,该算法包括以下几个模块:预处理、目标检测,运动特征提取和分类网络,系统的输入为原始视频序列,预处理包含两个步骤:抽帧和动态检测,先是对原始视频序列进行等间隔的抽帧采样,减少算法的运算量,然后利用目标检测算法进行目标检测,判断图像中是否有运动物体,若无运动物体,则不进行后续的检测,若有运动物体,则将有运动物体的视频片段输入后续模块。在目标检测过程中,对预处理后的视频序列的每一帧进行检测,在可能存在老鼠的位置获取图像特征(如该位置对应的检测框内的视觉信息),并通过运动特征提取模块,将各个视频图像帧之间的信息进行融合和特征提取,防止单帧的目标检测器出现误判的情况,随后将提取的运动特征和与图像特征输入分类网络,由分类网络判别是否是老鼠,若是老鼠,则将老鼠在每一帧所在位置的矩形检测框传给前端显示界面。
需要说明的是,在本实施例中,上述目标检测过程是根据具体的机器计算资源分配了两种算法:动态目标检测算法和基于神经网络的目标检测算法,前者运算速度快、对机器配置要求低,后者准确性和鲁棒性。
1)动态目标检测算法包含背景差和帧差法,利用下述公式(1),计算当前帧和背景或者前一帧的差值:
Dk(x,y)=丨fk(x,y)-bk(x,y)丨 (1)
上式中,(x,y)为以图像左上角为原点,宽方向为X轴,高方向为Y轴建立的坐标系中像素点的坐标,k为当前帧的索引,f代表当前帧,b代表背景或者上一帧。利用公式(2)判断是否存在运动目标:
M(x,y)为运动图像,T为阈值,若M(x,y)为1表示有运动目标,所有X(x,y)的像素组成了运动目标视频帧图像,经过形态学运算合并像素点可得出所有运动的目标,作为该模块的输出。
2)基于神经网络的目标检测算法将图片输入预先训练好的网络模型,得出所有可能的目标和其置信度,大于某个置信度阈值的检测框作为该模块的输出。使用的网络模型包含但不限于SSD、Faster-RCNN、FPN等。图5是本发明实施例的一种Faster-RCNN网络模型的示意图。如图5所示,其中conv是卷积层,由卷积核(是一个矩阵)在输入上进行划窗,对每个输入的划窗位置都和矩阵根据公式(3)相点乘,结果F作为该划窗位置的特征输出。
F=∑0≤i,j≤nk(i,j)*I(i,j) (3)
RPN为区域提出网络,会提出一系列的候选框,ROI pooling池化层将卷积层提到的特征图在RPN输出的坐标下的区域映射成大小(w,h)固定的矩形框,输入由全连接层构成的分类器和边框回归器,边框回归输出老鼠的可能坐标位置,分类器输出是该位置老鼠的置信度。
上述运动特征提取:因为物体的运动是连续的,运动特征提取算法先根据每一帧得到的检测框,计算帧与帧之间检测框的相关性,相关性大的检测框认为是同一物体,对每一帧的检测框进行匹配,得到物体的一系列运动图片,最后使用3D的特征提取网络提取运动序列的特征。
上述分类网络:将目标检测框中的视觉信息和运动特征融合,输入设计好的分类的网络模型,用于筛除非老鼠的图片序列,降低虚警率,将结果输入前端显示界面,显示老鼠的检测框和轨迹。
在本发明实施例中,对于整体的框架,还可以但不限于通过目标检测和分类网络来达到检测识别的目的,以节省框架布局成本。
本发明实施例提出了利用图像识别算法,自动识别监控视频中的老鼠,无需放置鼠夹鼠笼,也无需花费人力进行观测,将监测鼠害变为高效全自动的流程工作,不仅大大减少了监测鼠害的人力成本,同时准确率高,方便对后厨鼠害卫生的监管,同时,还可以提供老鼠活动的轨迹,便于人员选择灭鼠工具放置位置,方便了进一步的除害工作。
在本实施例中还提供了另一种目标对象的监控方法,图6是根据本发明实施例的目标对象的监控方法的流程图二,如图6所示,该流程包括如下步骤:
步骤S602,视频监控设备在检测到目标区域中出现了移动的对象的情况下,从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取图像;
步骤S604,视频监控设备将图像发送至第一服务器,其中,图像用于指示第一服务器根据图像确定对象是否为目标对象。
可选地,在本实施例中,目标对象可以但不限于包括:老鼠,害虫等等有害生物。
可选地,在本实施例中,目标区域可以但不限于包括:厨房、仓库、厂房等等。
可选地,在本实施例中,视频监控设备可以但不限于包括:摄像头、监控器等等。
可选地,在本实施例中,视频监控设备可以但不限于包括一个或者多个视频监控设备。
可选地,在本实施例中,第一服务器可以但不限于包括:第一云服务器。例如:自有云。
通过上述步骤,第一服务器根据从视频监控设备获取的图像确定目标区域中出现的对象是否为目标对象,该图像是视频监控设备在检测到目标区域中出现了移动的对象的情况下,从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的,由此视频监控设备只需在检测到目标区域中出现了移动的对象的情况下向第一服务器发送可能存在对象的图像,第一服务器即可根据接收到的图像确定目标区域出现的对象是否为目标对象,可见相对于根据视频监控目标对象的方式,能够大大减少传输数据的数据量,从而提高传输速度,减少传输时间,提高监控效率。因此,可以解决相关技术中对目标对象进行监控的效率较低的问题,达到提高对目标对象进行监控的效率的效果。
可选地,在检测到目标区域中出现了移动的对象的情况下,视频监控设备将目标视频发送至第二服务器,其中,第二服务器用于在接收到第一服务器发送的第一请求的情况下,响应第一请求将目标视频发送至第一服务器。
可选地,在上述步骤S604之后,视频监控设备接收第一服务器发送的第二请求,视频监控设备响应第二请求将目标视频发送至第一服务器。
可选地,在上述步骤S602中,视频监控设备在检测到目标区域中出现了移动的对象的情况下,从目标区域中出现了对象开始每隔预定时间从视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至对象不再出现在目标区域中,图像包括视频图像。视频监控设备将图像发送至第一服务器包括:视频监控设备将截取的视频图像实时发送至第一服务器;或者,视频监控设备获取包括截取到的全部视频图像的图像集,并将图像集发送至第一服务器。
可选地,在检测到目标区域中出现了移动的对象的情况下,视频监控设备从对目标区域进行拍摄得到的视频中获取从目标区域中出现对象开始直至目标区域中不再出现对象为止的第一视频;视频监控设备获取目标区域中出现对象之前的第一目标时间段的第二视频以及目标区域中不再出现对象之后的第二目标时间段的第三视频;视频监控设备将第二视频,第一视频和第三视频确定为目标视频。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例的方法。
在本实施例中还提供了一种目标对象的监控装置,应用于第一服务器,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
图7是根据本发明实施例的目标对象的监控装置的结构框图一,如图7所示,该装置包括:
接收模块72,用于接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,图像是从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的图像;
确定模块74,用于根据图像确定对象是否为目标对象。
可选地,在本实施例中,目标对象可以但不限于包括:老鼠,害虫等等有害生物。
可选地,在本实施例中,目标区域可以但不限于包括:厨房、仓库、厂房等等。
可选地,在本实施例中,视频监控设备可以但不限于包括:摄像头、监控器等等。
可选地,上述摄像头可以包括但不限于:带有红外照明功能的摄像头,例如,红外微光夜视摄像头。进一步,该摄像头还可以包括但不限于:移动侦测功能、存储功能、联网功能(如wifi联网)及高清晰度(如大于1080p)配置。
可选地,在本实施例中,视频监控设备可以但不限于包括一个或者多个视频监控设备。
可选地,在本实施例中,第一服务器可以但不限于包括:第一云服务器。例如:自有云。
可选地,上述装置还用于:在确定出对象为目标对象的情况下,获取目标视频。
可选地,上述装置还用于:从视频监控设备获取目标视频;或者,从第二服务器获取目标视频,其中,目标视频是由视频监控设备在检测到目标区域中出现了移动的对象的情况下发送至第二服务器的。
可选地,上述装置还用于:在确定出对象不为目标对象的情况下,向第二服务器发送指示信息,其中,指示信息用于指示第二服务器删除目标视频。
可选地,上述装置还用于:在目标视频中确定出目标对象在目标区域中的移动轨迹。
可选地,上述装置还用于:根据移动轨迹生成提示信息,其中,提示信息用于提示消除目标对象的方式。
可选地,上述装置还用于:生成目标对象对应的告警信息,其中,告警信息用于指示在目标区域出现了目标对象,告警信息中包括以下至少之一:目标视频、移动轨迹、提示信息;将告警信息发送至客户端。
可选地,确定模块用于:识别接收到的每一张视频图像中的对象是否为目标对象,得到每一张视频图像对应的识别结果;将接收到的全部视频图像对应的识别结果融合为目标结果;根据目标结果确定对象是否为目标对象。
可选地,确定模块还用于:确定接收到的每一张视频图像中是否出现了对象;识别出现了对象的视频图像中的对象是否为目标对象。
可选地,确定模块用于:对每个目标视频帧图像进行目标对象的检测,得到每个目标视频帧图像的图像特征,其中,图像包括从目标视频上获取的多个目标视频帧图像,每个目标视频帧图像用于指示在目标区域中的对象,图像特征用于表示在对象中,与目标对象之间的相似度大于第一阈值的对象所在的目标图像区域;根据每个目标视频帧图像的图像特征确定出运动特征,其中,运动特征用于表示多个目标视频帧图像中对象的运动速度和运动方向;根据运动特征和每个目标视频帧图像的图像特征,确定多个目标视频帧图像中是否出现有目标对象。
可选地,确定模块用于:获取与每个目标视频帧图像的图像特征所表示的目标图像区域对应的目标矢量,得到多个目标矢量,其中,每个目标矢量用于表示对应的一个目标视频帧图像中对象在经过目标图像区域时的运动速度和运动方向;将多个目标矢量按照每个目标视频帧图像在视频文件中的时间顺序组成第一目标向量,其中,运动特征包括第一目标向量;或者,获取与每个目标视频帧图像的图像特征所表示的目标图像区域对应的二维光流图,得到多个二维光流图,其中,每个二维光流图包括对应的一个目标视频帧图像中对象在经过目标图像区域时的运动速度和运动方向;将多个二维光流图按照每个目标视频帧图像在视频文件中的时间顺序组成三维第二目标向量,其中,运动特征包括三维第二目标向量。
可选地,确定模块用于:将运动特征和每个目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果,其中,对象识别结果用于表示多个目标视频帧图像中是否出现有目标对象。
可选地,确定模块用于:将每个图像特征经过包括卷积层、正则化层和激活函数层的神经网络层结构,得到多个第一特征向量;将多个第一特征向量与运动特征进行融合,得到第二特征向量;将第二特征向量输入到全连接层进行分类,得到第一分类结果,其中,神经网络模型包括神经网络层结构和全连接层,对象识别结果包括第一分类结果,第一分类结果用于表示多个目标视频帧图像中是否出现有目标对象;或者,将每个图像特征经过包括卷积层、正则化层和激活函数层的第一神经网络层结构,得到多个第一特征向量;将运动特征经过包括卷积层、正则化层、激活函数层的第二神经网络层结构,得到第二特征向量;将多个第一特征向量与第二特征向量进行融合,得到第三特征向量;将第三特征向量输入到全连接层进行分类,得到第二分类结果,其中,神经网络模型包括第一神经网络层结构、第二神经网络层结构和全连接层,对象识别结果包括第二分类结果,第二分类结果用于表示多个目标视频帧图像中是否出现有目标对象。
可选地,接收模块用于:接收视频监控设备发送的多个目标视频帧图像,其中,多个目标视频帧图像是通过视频监控设备对目标视频进行抽帧采样,得到一组视频帧图像,并根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定的;或者,
接收视频监控设备发送的一组视频帧图像,其中,一组视频帧图像是通过视频监控设备对目标视频进行抽帧采样得到的;根据一组视频帧图像中的像素点的像素值在一组视频帧图像中确定出多个目标视频帧图像。
在本实施例中还提供了另一种目标对象的监控装置,应用于视频监控设备,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
图8是根据本发明实施例的目标对象的监控装置的结构框图二,如图8所示,该装置包括:
获取模块82,用于在检测到目标区域中出现了移动的对象的情况下,从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取图像;
发送模块84,用于将图像发送至第一服务器,其中,图像用于指示第一服务器根据图像确定对象是否为目标对象。
可选地,上述装置还用于:在检测到目标区域中出现了移动的对象的情况下,将目标视频发送至第二服务器,其中,第二服务器用于在接收到第一服务器发送的第一请求的情况下,响应第一请求将目标视频发送至第一服务器。
可选地,上述装置还用于:接收第一服务器发送的第二请求;响应第二请求将目标视频发送至第一服务器。
可选地,获取模块用于:视频监控设备在检测到目标区域中出现了移动的对象的情况下,从目标区域中出现了对象开始每隔预定时间从视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至对象不再出现在目标区域中,图像包括视频图像;
发送模块用于:视频监控设备将截取的视频图像实时发送至第一服务器;或者,视频监控设备获取包括截取到的全部视频图像的图像集,并将图像集发送至第一服务器。
可选地,上述装置还用于:在检测到目标区域中出现了移动的对象的情况下,从对目标区域进行拍摄得到的视频中获取从目标区域中出现对象开始直至目标区域中不再出现对象为止的第一视频;获取目标区域中出现对象之前的第一目标时间段的第二视频以及目标区域中不再出现对象之后的第二目标时间段的第三视频;将第二视频,第一视频和第三视频确定为目标视频。
需要说明的是,上述各个模块是可以通过软件或硬件来实现的,对于后者,可以通过以下方式实现,但不限于此:上述模块均位于同一处理器中;或者,上述各个模块以任意组合的形式分别位于不同的处理器中。
在本实施例中还提供了一种目标对象的监控系统,图9是根据本发明实施例的目标对象的监控系统的结构框图,如图9所示,该系统包括:视频监控设备92和第一服务器94,其中,
视频监控设备92与第一服务器94连接;
视频监控设备92用于在检测到目标区域中出现了移动的对象的情况下,从对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取图像,并将图像发送至第一服务器94;
第一服务器94用于根据图像确定对象是否为目标对象。
可选地,视频监控设备用于:在检测到目标区域中出现了移动的对象的情况下,从目标区域中出现了对象开始每隔预定时间从视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至对象不再出现在目标区域中,图像包括视频图像;将截取的视频图像实时发送至第一服务器;或者,获取包括截取到的全部视频图像的图像集,并将图像集发送至第一服务器。
可选地,第一服务器用于:识别接收到的每一张视频图像中的对象是否为目标对象,得到每一张视频图像对应的识别结果;将接收到的全部视频图像对应的识别结果融合为目标结果;根据目标结果确定对象是否为目标对象。
可选地,第一服务器还用于:在确定出对象为目标对象的情况下,获取目标视频;在目标视频中确定出目标对象在目标区域中的移动轨迹;根据移动轨迹生成提示信息,其中,提示信息用于提示消除目标对象的方式;生成目标对象对应的告警信息,其中,告警信息用于指示在目标区域出现了目标对象,告警信息中包括以下至少之一:目标视频、移动轨迹、提示信息。
可选地,上述系统还包括:客户端,其中,第一服务器与客户端连接;第一服务器用于将告警信息发送至客户端;客户端用于在显示界面上显示告警信息。
可选地,上述系统还包括:第二服务器,其中,第二服务器与视频监控设备和第一服务器连接;视频监控设备还用于将视频发送至第二服务器;第二服务器用于存储目标视频;第一服务器用于从第二服务器获取目标视频。
可选地,第一服务器还用于:在确定对象不为目标对象的情况下,向第二服务器发送指示信息;第二服务器用于:响应指示信息删除目标视频。
可选地,视频监控设备还用于:从对目标区域进行拍摄得到的视频中获取从目标区域中出现对象开始直至目标区域中不再出现对象为止的第一视频;获取目标区域中出现对象之前的第一目标时间段的第二视频以及目标区域中不再出现对象之后的第二目标时间段的第三视频;将第二视频,第一视频和第三视频确定为目标视频。
下面结合本发明可选实施例进行详细说明。
本发明可选实施例提供了一种目标对象的监控架构,图10是根据本发明可选实施例的目标对象的监控架构的示意图,如图10所示,提出了一种系统架构,监控内外部环境及有害生物活动信息。该系统具有可快速部署的特征,无需在客户现场部署服务器,只需要视频监控设备采集数据,以及部署无线网络环境用于数据上传,所有后续的计算分析都在云端完成,大幅节省了系统的硬件成本、系统部署的复杂度,同时也能出色地完成虫鼠害的实时报警、视频回放、路径分析、灭鼠控虫建议等功能。本系统还结合了虫鼠害监测与虫鼠害防治,形成良性的闭环,为实际的虫鼠害防治工作起到全局性地协助作用。
该系统包括以下部分:数据采集部分,数据分析部分,即时告警部分,视频回放部分,路径分析部分和APP显示部分。
数据采集部分用于采集视频和图片集,在后厨等场所,选择合适的视野较好的位置,部署视频监控设备,获得后厨关键设施的视频数据,用以观察虫类、鼠类出没情况。一个室内环境可视实际情况,部署多组监控设备。考虑到老鼠在夜间出没的特点,视频监控设备需有红外夜视功能。
视频监控设备使用移动侦测的方式,当所摄制的画面内容发生任何的变化时(比如有老鼠出现、蟑螂出现,或是异物飞入时),将该周期内的视频写入SD卡(一般会对视频预录和延时5秒钟,使得视频能够录制完整的一段动作),将视频数据即时上传至视频云服务器(即萤石云,也可以是其他公有云)。视频监控设备拥有断线续传功能,在网络环境不稳定时,也能够保证视频稍后完整上传至视频云服务器。视频云服务器用于暂时地保存视频数据,后期在经过对图片的图像识别分析,确认确有虫鼠害存在的情况下,供调取回放,以及进一步地分析。
当所摄制的画面内容发生任何的变化,视频监控设备保存并上传视频的同时,每隔500ms保存一张图片,将图片实时的上传至自有的云服务器,用于图像识别。
自有云服务器在收到图片后,即时地完成对图片的图像识别,使用AI技术,判断图像中是否有目标有害生物,例如老鼠、蟑螂等,或是只是异物飞入等非虫害侵袭场景。即进入数据分析部分。
数据分析部分通过自有云进行图像识别,对视频监控设备所回传的图像应用图像识别算法,进行老鼠、蟑螂等虫鼠害的识别。当识别为真,则认为该时刻发现了鼠害、虫害,向视频云服务器发送请求,调取并下载该时间段的虫鼠害出没的视频数据以供进一步的分析(当服务器收到连续图片集接收完毕,且判断为有虫害入侵,实时请求整个时间段的视频);当识别为假,则认为该时刻的动态识别与虫鼠害无关,不作进一步处理。
可选的,为了提高判别准确率,引入人工复核,以确认每次被检出的都确实是有老鼠、蟑螂等出没,增加对虫鼠害判别的准确率。
即时告警部分可以用于紧急灭鼠,当通过对图片集的识别,检测到老鼠出没时,云服务端向用户终端发送报警信息,指示餐厅运营人员、虫害防治人员采取措施。并提供图像回放,标示出老鼠、蟑螂等被识别出的有害生物,便于操作人员初步判断其出现的位置与危害,并采取及时的控制措施。
紧急灭鼠场景适合机房、医院等不容许有鼠患发生的场所的监控,有人值守。在发现鼠情后立即指示相关人员采取措施,系统负责及时提供图片以及视频回放,供灭鼠参考。
可选的,报警信息也可以通过短信、推送信息等方式发送。
视频回放部分当视频云服务器返回了所请求的视频数据,并下载到自有云后,用户终端可以访问视频回放数据。视频下载的速度视网络通畅与否来确定,比实时的图片展示稍慢,一般能在鼠情发生后的几分钟内获取到视频回放数据。
路径分析部分通过对视频数据的进一步分析,提取出老鼠、蟑螂等有害生物的移动路径,标记出老鼠出没时的入侵点、藏匿点、行进路线、活动时长、皮肤颜色等信息,供制定控鼠、控虫的进一步的方案,在用户终端予以显示。
老鼠路径显示可采用标点表示,以一串从小到大的数字表示在线段上,以表示老鼠或蟑螂的进行方向。
APP显示部分可以显示灭鼠、灭虫建议,用于常规虫鼠害防治,汇总各个接触点收集的虫鼠害信息,视虫鼠害出没的历史路径,结合所在场所适合部署粘鼠板、蟑螂屋等器械的位置,给出放置的位置建议。
通过APP呈现给餐厅运营人员以及虫害防治人员,自动按天出具报告,通过微信公众号、短信等可选的方式,推送给餐厅运营或相关人员。
用以展示的数据维度还可以包括前一天/当天晚上的虫鼠害活跃时长、虫害种类、捕获数量等。
本发明的实施例还提供了一种存储介质,该存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
可选地,在本实施例中,上述存储介质可以被设置为存储用于执行以下步骤的计算机程序:
S1,第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,图像是从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的图像;
S2,第一服务器根据图像确定对象是否为目标对象。
可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本发明的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
可选地,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
可选地,在本实施例中,上述处理器可以被设置为通过计算机程序执行以下步骤:
S1,第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,图像是从视频监控设备对目标区域进行拍摄得到的视频中出现了对象的目标视频上获取的图像;
S2,第一服务器根据图像确定对象是否为目标对象。
可选地,本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例,本实施例在此不再赘述。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (34)
1.一种目标对象的监控方法,其特征在于,包括:
第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,所述图像是从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取的图像;
所述第一服务器根据所述图像确定所述对象是否为目标对象。
2.根据权利要求1所述的方法,其特征在于,在所述第一服务器根据所述图像确定所述对象是否为目标对象之后,所述方法还包括:
在确定出所述对象为所述目标对象的情况下,所述第一服务器获取所述目标视频。
3.根据权利要求2所述的方法,其特征在于,所述第一服务器获取所述目标视频包括:
所述第一服务器从所述视频监控设备获取所述目标视频;或者,
所述第一服务器从第二服务器获取所述目标视频,其中,所述目标视频是由所述视频监控设备在检测到目标区域中出现了移动的对象的情况下发送至所述第二服务器的。
4.根据权利要求3所述的方法,其特征在于,在所述第一服务器根据所述图像确定所述对象是否为目标对象之后,所述方法还包括:
在确定出所述对象不为所述目标对象的情况下,所述第一服务器向所述第二服务器发送指示信息,其中,所述指示信息用于指示所述第二服务器删除所述目标视频。
5.根据权利要求2所述的方法,其特征在于,在所述第一服务器获取所述目标视频之后,所述方法还包括:
所述第一服务器在所述目标视频中确定出所述目标对象在所述目标区域中的移动轨迹。
6.根据权利要求5所述的方法,其特征在于,在所述第一服务器在所述目标视频中确定出所述目标对象在所述目标区域中的移动轨迹之后,所述方法还包括:
所述第一服务器根据所述移动轨迹生成提示信息,其中,所述提示信息用于提示消除所述目标对象的方式。
7.根据权利要求6所述的方法,其特征在于,在所述第一服务器根据所述移动轨迹生成提示信息之后,所述方法还包括:
所述第一服务器生成所述目标对象对应的告警信息,其中,所述告警信息用于指示在所述目标区域出现了所述目标对象,所述告警信息中包括以下至少之一:所述目标视频、所述移动轨迹、所述提示信息;
所述第一服务器将所述告警信息发送至客户端。
8.根据权利要求1所述的方法,其特征在于,在第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像之前,所述方法还包括:
所述视频监控设备在检测到目标区域中出现了移动的对象的情况下,从所述目标区域中出现了所述对象开始每隔预定时间从所述视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至所述对象不再出现在所述目标区域中,所述图像包括所述视频图像;
所述视频监控设备将截取的所述视频图像实时发送至所述第一服务器;或者,所述视频监控设备获取包括截取到的全部视频图像的图像集,并将所述图像集发送至所述第一服务器。
9.根据权利要求8所述的方法,其特征在于,所述第一服务器根据所述图像确定所述对象是否为目标对象包括:
所述第一服务器识别接收到的每一张所述视频图像中的所述对象是否为所述目标对象,得到每一张所述视频图像对应的识别结果;
所述第一服务器将接收到的全部所述视频图像对应的识别结果融合为目标结果;
所述第一服务器根据所述目标结果确定所述对象是否为目标对象。
10.根据权利要求9所述的方法,其特征在于,所述第一服务器识别接收到的每一张所述视频图像中的所述对象是否为所述目标对象包括:
所述第一服务器确定接收到的每一张所述视频图像中是否出现了所述对象;
所述第一服务器识别出现了所述对象的所述视频图像中的所述对象是否为所述目标对象。
11.根据权利要求1所述的方法,其特征在于,所述第一服务器根据所述图像确定所述对象是否为目标对象包括:
所述第一服务器对每个目标视频帧图像进行目标对象的检测,得到每个所述目标视频帧图像的图像特征,其中,所述图像包括从所述目标视频上获取的多个目标视频帧图像,每个所述目标视频帧图像用于指示在所述目标区域中的所述对象,所述图像特征用于表示在所述对象中,与所述目标对象之间的相似度大于第一阈值的对象所在的目标图像区域;
所述第一服务器根据每个所述目标视频帧图像的图像特征确定出运动特征,其中,所述运动特征用于表示所述多个目标视频帧图像中所述对象的运动速度和运动方向;
所述第一服务器根据所述运动特征和每个所述目标视频帧图像的图像特征,确定所述多个目标视频帧图像中是否出现有所述目标对象。
12.根据权利要求11所述的方法,其特征在于,所述第一服务器根据每个所述目标视频帧图像的图像特征确定出运动特征包括:
获取与每个所述目标视频帧图像的图像特征所表示的目标图像区域对应的目标矢量,得到多个目标矢量,其中,每个所述目标矢量用于表示对应的一个所述目标视频帧图像中所述对象在经过所述目标图像区域时的运动速度和运动方向;将所述多个目标矢量按照每个所述目标视频帧图像在所述视频文件中的时间顺序组成第一目标向量,其中,所述运动特征包括所述第一目标向量;或者
获取与每个所述目标视频帧图像的图像特征所表示的目标图像区域对应的二维光流图,得到多个二维光流图,其中,每个所述二维光流图包括对应的一个所述目标视频帧图像中所述对象在经过所述目标图像区域时的运动速度和运动方向;将所述多个二维光流图按照每个所述目标视频帧图像在所述视频文件中的时间顺序组成三维第二目标向量,其中,所述运动特征包括所述三维第二目标向量。
13.根据权利要求11所述的方法,其特征在于,所述第一服务器根据所述运动特征和每个所述目标视频帧图像的图像特征,确定所述多个目标视频帧图像中是否出现有所述目标对象包括:
将所述运动特征和每个所述目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果,其中,所述对象识别结果用于表示所述多个目标视频帧图像中是否出现有所述目标对象。
14.根据权利要求13所述的方法,其特征在于,将所述运动特征和每个所述目标视频帧图像的图像特征输入到预先训练好的神经网络模型中,得到对象识别结果包括:
将每个所述图像特征经过包括卷积层、正则化层和激活函数层的神经网络层结构,得到多个第一特征向量;将所述多个第一特征向量与所述运动特征进行融合,得到第二特征向量;将所述第二特征向量输入到全连接层进行分类,得到第一分类结果,其中,所述神经网络模型包括所述神经网络层结构和所述全连接层,所述对象识别结果包括所述第一分类结果,所述第一分类结果用于表示所述多个目标视频帧图像中是否出现有所述目标对象;或者
将每个所述图像特征经过包括卷积层、正则化层和激活函数层的第一神经网络层结构,得到多个第一特征向量;将所述运动特征经过包括卷积层、正则化层、激活函数层的第二神经网络层结构,得到第二特征向量;将所述多个第一特征向量与所述第二特征向量进行融合,得到第三特征向量;将所述第三特征向量输入到全连接层进行分类,得到第二分类结果,其中,所述神经网络模型包括所述第一神经网络层结构、所述第二神经网络层结构和所述全连接层,所述对象识别结果包括所述第二分类结果,所述第二分类结果用于表示所述多个目标视频帧图像中是否出现有所述目标对象。
15.根据权利要求11所述的方法,其特征在于,所述第一服务器接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像包括:
所述第一服务器接收视频监控设备发送的所述多个目标视频帧图像,其中,所述多个目标视频帧图像是通过所述视频监控设备对所述目标视频进行抽帧采样,得到一组视频帧图像,并根据所述一组视频帧图像中的像素点的像素值在所述一组视频帧图像中确定的;或者,
所述第一服务器接收视频监控设备发送的一组视频帧图像,其中,所述一组视频帧图像是通过所述视频监控设备对所述目标视频进行抽帧采样得到的;所述第一服务器根据所述一组视频帧图像中的像素点的像素值在所述一组视频帧图像中确定出所述多个目标视频帧图像。
16.根据权利要求1至15中任一项所述的方法,其特征在于,所述第一服务器包括:第一云服务器。
17.根据权利要求3所述的方法,其特征在于,所述第二服务器包括:第二云服务器。
18.一种目标对象的监控方法,其特征在于,包括:
视频监控设备在检测到目标区域中出现了移动的对象的情况下,从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像;
所述视频监控设备将所述图像发送至第一服务器,其中,所述图像用于指示所述第一服务器根据所述图像确定所述对象是否为目标对象。
19.根据权利要求18所述的方法,其特征在于,在检测到目标区域中出现了移动的对象的情况下,所述方法还包括:
所述视频监控设备将所述目标视频发送至第二服务器,其中,所述第二服务器用于在接收到所述第一服务器发送的第一请求的情况下,响应所述第一请求将所述目标视频发送至所述第一服务器。
20.根据权利要求18所述的方法,其特征在于,在所述视频监控设备将所述图像发送至第一服务器之后,所述方法还包括:
所述视频监控设备接收所述第一服务器发送的第二请求;
所述视频监控设备响应所述第二请求将所述目标视频发送至所述第一服务器。
21.根据权利要求18所述的方法,其特征在于,
从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像包括:所述视频监控设备在检测到目标区域中出现了移动的对象的情况下,从所述目标区域中出现了所述对象开始每隔预定时间从所述视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至所述对象不再出现在所述目标区域中,所述图像包括所述视频图像;
所述视频监控设备将所述图像发送至第一服务器包括:所述视频监控设备将截取的所述视频图像实时发送至所述第一服务器;或者,所述视频监控设备获取包括截取到的全部视频图像的图像集,并将所述图像集发送至所述第一服务器。
22.根据权利要求18所述的方法,其特征在于,在检测到目标区域中出现了移动的对象的情况下,所述方法还包括:
所述视频监控设备从对所述目标区域进行拍摄得到的视频中获取从所述目标区域中出现所述对象开始直至所述目标区域中不再出现所述对象为止的第一视频;
所述视频监控设备获取所述目标区域中出现所述对象之前的第一目标时间段的第二视频以及所述目标区域中不再出现所述对象之后的第二目标时间段的第三视频;
所述视频监控设备将所述第二视频,所述第一视频和所述第三视频确定为所述目标视频。
23.一种目标对象的监控系统,其特征在于,包括:视频监控设备和第一服务器,其中,
所述视频监控设备与所述第一服务器连接;
所述视频监控设备用于在检测到目标区域中出现了移动的对象的情况下,从对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像,并将所述图像发送至所述第一服务器;
所述第一服务器用于根据所述图像确定所述对象是否为目标对象。
24.根据权利要求23所述的系统,其特征在于,所述视频监控设备用于:
在检测到目标区域中出现了移动的对象的情况下,从所述目标区域中出现了所述对象开始每隔预定时间从所述视频监控设备对目标区域进行拍摄得到的视频中截取视频图像,直至所述对象不再出现在所述目标区域中,所述图像包括所述视频图像;
将截取的所述视频图像实时发送至所述第一服务器;或者,获取包括截取到的全部视频图像的图像集,并将所述图像集发送至所述第一服务器。
25.根据权利要求24所述的系统,其特征在于,所述第一服务器用于:
识别接收到的每一张所述视频图像中的所述对象是否为所述目标对象,得到每一张所述视频图像对应的识别结果;
将接收到的全部所述视频图像对应的识别结果融合为目标结果;
根据所述目标结果确定所述对象是否为目标对象。
26.根据权利要求23所述的系统,其特征在于,所述第一服务器还用于:
在确定出所述对象为所述目标对象的情况下,获取所述目标视频;
在所述目标视频中确定出所述目标对象在所述目标区域中的移动轨迹;
根据所述移动轨迹生成提示信息,其中,所述提示信息用于提示消除所述目标对象的方式;
生成所述目标对象对应的告警信息,其中,所述告警信息用于指示在所述目标区域出现了所述目标对象,所述告警信息中包括以下至少之一:所述目标视频、所述移动轨迹、所述提示信息。
27.根据权利要求26所述的系统,其特征在于,所述系统还包括:客户端,其中,
所述第一服务器与所述客户端连接;
所述第一服务器用于将所述告警信息发送至所述客户端;
所述客户端用于在显示界面上显示所述告警信息。
28.根据权利要求26所述的系统,其特征在于,所述系统还包括:第二服务器,其中,
所述第二服务器与所述视频监控设备和所述第一服务器连接;
所述视频监控设备还用于将所述视频发送至所述第二服务器;
所述第二服务器用于存储所述目标视频;
所述第一服务器用于从所述第二服务器获取所述目标视频。
29.根据权利要求28所述的系统,其特征在于,
所述第一服务器还用于:在确定所述对象不为所述目标对象的情况下,向所述第二服务器发送指示信息;
所述第二服务器用于:响应所述指示信息删除所述目标视频。
30.根据权利要求26所述的系统,其特征在于,所述视频监控设备还用于:
从对所述目标区域进行拍摄得到的视频中获取从所述目标区域中出现所述对象开始直至所述目标区域中不再出现所述对象为止的第一视频;
获取所述目标区域中出现所述对象之前的第一目标时间段的第二视频以及所述目标区域中不再出现所述对象之后的第二目标时间段的第三视频;
将所述第二视频,所述第一视频和所述第三视频确定为所述目标视频。
31.一种目标对象的监控装置,应用于第一服务器,其特征在于,包括:
接收模块,用于接收视频监控设备在检测到目标区域中出现了移动的对象的情况下发送的图像,其中,所述图像是从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取的图像;
确定模块,用于根据所述图像确定所述对象是否为目标对象。
32.一种目标对象的监控装置,应用于视频监控设备,其特征在于,包括:
获取模块,用于在检测到目标区域中出现了移动的对象的情况下,从所述视频监控设备对目标区域进行拍摄得到的视频中出现了所述对象的目标视频上获取图像;
发送模块,用于将所述图像发送至第一服务器,其中,所述图像用于指示所述第一服务器根据所述图像确定所述对象是否为目标对象。
33.一种存储介质,其特征在于,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行所述权利要求1至22任一项中所述的方法。
34.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行所述权利要求1至22任一项中所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910068774.0A CN109919009A (zh) | 2019-01-24 | 2019-01-24 | 目标对象的监控方法、装置及系统 |
PCT/CN2019/080747 WO2020151084A1 (zh) | 2019-01-24 | 2019-04-01 | 目标对象的监控方法、装置及系统 |
JP2019570566A JP7018462B2 (ja) | 2019-01-24 | 2019-04-01 | 目標対象物の監視方法、装置及びシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910068774.0A CN109919009A (zh) | 2019-01-24 | 2019-01-24 | 目标对象的监控方法、装置及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109919009A true CN109919009A (zh) | 2019-06-21 |
Family
ID=66960691
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910068774.0A Pending CN109919009A (zh) | 2019-01-24 | 2019-01-24 | 目标对象的监控方法、装置及系统 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP7018462B2 (zh) |
CN (1) | CN109919009A (zh) |
WO (1) | WO2020151084A1 (zh) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110472492A (zh) * | 2019-07-05 | 2019-11-19 | 平安国际智慧城市科技股份有限公司 | 目标生物检测方法、装置、计算机设备和存储介质 |
CN110516535A (zh) * | 2019-07-12 | 2019-11-29 | 杭州电子科技大学 | 一种基于深度学习的老鼠活跃度检测方法和系统、及卫生评估方法 |
CN110674793A (zh) * | 2019-10-22 | 2020-01-10 | 上海秒针网络科技有限公司 | 调味品容器加盖监测方法及系统 |
CN111126317A (zh) * | 2019-12-26 | 2020-05-08 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、服务器及存储介质 |
CN111553238A (zh) * | 2020-04-23 | 2020-08-18 | 北京大学深圳研究生院 | 一种用于动作的时间轴定位的回归分类模块和方法 |
CN111611938A (zh) * | 2020-05-22 | 2020-09-01 | 浙江大华技术股份有限公司 | 一种逆行方向确定方法及装置 |
CN111898581A (zh) * | 2020-08-12 | 2020-11-06 | 成都佳华物链云科技有限公司 | 动物检测方法、装置、电子设备及可读存储介质 |
CN112001457A (zh) * | 2020-07-14 | 2020-11-27 | 浙江大华技术股份有限公司 | 图像预处理方法、装置、系统和计算机可读存储介质 |
WO2021023106A1 (zh) * | 2019-08-02 | 2021-02-11 | 杭州海康威视数字技术股份有限公司 | 目标识别方法、装置及摄像机 |
CN112861826A (zh) * | 2021-04-08 | 2021-05-28 | 重庆工程职业技术学院 | 基于视频图像的煤矿监管方法、系统、设备及存储介质 |
CN113055654A (zh) * | 2021-03-26 | 2021-06-29 | 太原师范学院 | 边缘设备中的视频流有损压缩方法 |
CN113487821A (zh) * | 2021-07-30 | 2021-10-08 | 重庆予胜远升网络科技有限公司 | 基于机器视觉的电力设备异物入侵识别系统及方法 |
CN113935395A (zh) * | 2020-06-25 | 2022-01-14 | 安讯士有限公司 | 对象识别神经网络的训练 |
CN114051124A (zh) * | 2022-01-17 | 2022-02-15 | 深圳市华付信息技术有限公司 | 支持多区域监控的视频监控方法、装置、设备及存储介质 |
CN114283282A (zh) * | 2021-12-23 | 2022-04-05 | 江西中科智鹏物联科技有限公司 | 一种特征层敏感的二阶段邻居非极大值抑制方法 |
WO2022100162A1 (zh) * | 2020-11-13 | 2022-05-19 | 深圳市前海手绘科技文化有限公司 | 一种短视频中动态镜头制作的方法和装置 |
CN115091472A (zh) * | 2022-08-26 | 2022-09-23 | 珠海市南特金属科技股份有限公司 | 基于人工智能的目标定位方法及装夹机械手控制系统 |
US20230169771A1 (en) * | 2021-12-01 | 2023-06-01 | Fotonation Limited | Image processing system |
TWI826129B (zh) * | 2022-11-18 | 2023-12-11 | 英業達股份有限公司 | 週期時間偵測及修正系統與方法 |
CN117221391A (zh) * | 2023-11-09 | 2023-12-12 | 天津华来科技股份有限公司 | 基于视觉语义大模型的智能摄像机推送方法、装置及设备 |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112101344B (zh) * | 2020-08-25 | 2022-09-06 | 腾讯科技(深圳)有限公司 | 一种视频文本跟踪方法及装置 |
CN112199993B (zh) * | 2020-09-01 | 2022-08-09 | 广西大学 | 基于人工智能识别任意方向变电站绝缘子红外图像检测模型的方法 |
CN112437274B (zh) * | 2020-11-17 | 2022-08-30 | 浙江大华技术股份有限公司 | 一种抓拍图片的传输方法及抓拍机 |
CN112565863B (zh) * | 2020-11-26 | 2024-07-05 | 深圳Tcl新技术有限公司 | 视频播放方法、装置、终端设备及计算机可读存储介质 |
CN112633131B (zh) * | 2020-12-18 | 2022-09-13 | 宁波长壁流体动力科技有限公司 | 一种基于深度学习视频识别的井下自动跟机方法 |
CN114765693B (zh) * | 2021-01-14 | 2024-09-10 | 腾讯科技(深圳)有限公司 | 直播流内容处理方法和装置、存储介质及电子设备 |
CN112784738B (zh) * | 2021-01-21 | 2023-09-19 | 上海云从汇临人工智能科技有限公司 | 运动目标检测告警方法、装置以及计算机可读存储介质 |
CN112836089B (zh) * | 2021-01-28 | 2023-08-22 | 浙江大华技术股份有限公司 | 运动轨迹的确认方法及装置、存储介质、电子装置 |
CN113221800A (zh) * | 2021-05-24 | 2021-08-06 | 珠海大横琴科技发展有限公司 | 一种待检测目标的监控判断方法及系统 |
CN113435368B (zh) * | 2021-06-30 | 2024-03-22 | 青岛海尔科技有限公司 | 监控数据的识别方法和装置、存储介质及电子装置 |
CN113609317B (zh) * | 2021-09-16 | 2024-04-02 | 杭州海康威视数字技术股份有限公司 | 一种图像库构建方法、装置及电子设备 |
CN114241420A (zh) * | 2021-12-20 | 2022-03-25 | 国能(泉州)热电有限公司 | 一种动火作业检测方法及装置 |
CN114403047B (zh) * | 2022-02-09 | 2023-01-06 | 上海依蕴宠物用品有限公司 | 一种基于图像分析技术的老龄动物健康干预方法及系统 |
CN115150371B (zh) * | 2022-08-31 | 2022-12-20 | 深圳市万佳安物联科技股份有限公司 | 基于云平台的业务处理方法、系统及储存介质 |
CN115187916B (zh) * | 2022-09-13 | 2023-02-17 | 太极计算机股份有限公司 | 基于时空关联的建筑内疫情防控方法、装置、设备和介质 |
CN115457447B (zh) * | 2022-11-07 | 2023-03-28 | 浙江莲荷科技有限公司 | 运动物体识别的方法、装置、系统及电子设备、存储介质 |
CN116684626B (zh) * | 2023-08-04 | 2023-11-24 | 广东星云开物科技股份有限公司 | 视频压缩方法和共享售卖柜 |
CN117392596B (zh) * | 2023-09-07 | 2024-04-30 | 中关村科学城城市大脑股份有限公司 | 数据处理方法、电子设备和计算机可读介质 |
CN116890668B (zh) * | 2023-09-07 | 2023-11-28 | 国网浙江省电力有限公司杭州供电公司 | 信息同步互联的安全充电方法及充电装置 |
CN117671597B (zh) * | 2023-12-25 | 2024-07-16 | 北京大学长沙计算与数字经济研究院 | 一种老鼠检测模型的构建方法和老鼠检测方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060078047A1 (en) * | 2004-10-12 | 2006-04-13 | International Business Machines Corporation | Video analysis, archiving and alerting methods and apparatus for a distributed, modular and extensible video surveillance system |
CN101854516A (zh) * | 2009-04-02 | 2010-10-06 | 北京中星微电子有限公司 | 视频监控系统、视频监控服务器及视频监控方法 |
CN108259830A (zh) * | 2018-01-25 | 2018-07-06 | 深圳冠思大数据服务有限公司 | 基于云服务器的鼠患智能监控系统和方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004266735A (ja) | 2003-03-04 | 2004-09-24 | Ecore Kk | ねずみの監視システム |
JP2011197365A (ja) | 2010-03-19 | 2011-10-06 | Panasonic Corp | 映像表示装置および映像表示方法 |
US9554063B2 (en) * | 2015-06-12 | 2017-01-24 | Google Inc. | Using infrared images of a monitored scene to identify windows |
CN106559645B (zh) * | 2015-09-25 | 2020-01-17 | 杭州海康威视数字技术股份有限公司 | 基于摄像机的监控方法、系统和装置 |
CN106878666B (zh) * | 2015-12-10 | 2020-04-28 | 杭州海康威视数字技术股份有限公司 | 基于监控摄像机来查找目标对象的方法、装置和系统 |
WO2017208356A1 (ja) | 2016-05-31 | 2017-12-07 | 株式会社オプティム | IoT制御システム、IoT制御方法及びプログラム |
CN107358160A (zh) * | 2017-06-08 | 2017-11-17 | 小草数语(北京)科技有限公司 | 终端监控视频处理方法、监控终端以及服务器 |
JP6388093B1 (ja) | 2017-08-31 | 2018-09-12 | 三菱電機株式会社 | データ伝送装置、データ処理システムおよびデータ伝送方法 |
-
2019
- 2019-01-24 CN CN201910068774.0A patent/CN109919009A/zh active Pending
- 2019-04-01 WO PCT/CN2019/080747 patent/WO2020151084A1/zh active Application Filing
- 2019-04-01 JP JP2019570566A patent/JP7018462B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060078047A1 (en) * | 2004-10-12 | 2006-04-13 | International Business Machines Corporation | Video analysis, archiving and alerting methods and apparatus for a distributed, modular and extensible video surveillance system |
CN101854516A (zh) * | 2009-04-02 | 2010-10-06 | 北京中星微电子有限公司 | 视频监控系统、视频监控服务器及视频监控方法 |
CN108259830A (zh) * | 2018-01-25 | 2018-07-06 | 深圳冠思大数据服务有限公司 | 基于云服务器的鼠患智能监控系统和方法 |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110472492A (zh) * | 2019-07-05 | 2019-11-19 | 平安国际智慧城市科技股份有限公司 | 目标生物检测方法、装置、计算机设备和存储介质 |
CN110516535A (zh) * | 2019-07-12 | 2019-11-29 | 杭州电子科技大学 | 一种基于深度学习的老鼠活跃度检测方法和系统、及卫生评估方法 |
WO2021023106A1 (zh) * | 2019-08-02 | 2021-02-11 | 杭州海康威视数字技术股份有限公司 | 目标识别方法、装置及摄像机 |
CN110674793A (zh) * | 2019-10-22 | 2020-01-10 | 上海秒针网络科技有限公司 | 调味品容器加盖监测方法及系统 |
CN111126317A (zh) * | 2019-12-26 | 2020-05-08 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、服务器及存储介质 |
CN111553238A (zh) * | 2020-04-23 | 2020-08-18 | 北京大学深圳研究生院 | 一种用于动作的时间轴定位的回归分类模块和方法 |
CN111611938B (zh) * | 2020-05-22 | 2023-08-29 | 浙江大华技术股份有限公司 | 一种逆行方向确定方法及装置 |
CN111611938A (zh) * | 2020-05-22 | 2020-09-01 | 浙江大华技术股份有限公司 | 一种逆行方向确定方法及装置 |
CN113935395A (zh) * | 2020-06-25 | 2022-01-14 | 安讯士有限公司 | 对象识别神经网络的训练 |
CN112001457A (zh) * | 2020-07-14 | 2020-11-27 | 浙江大华技术股份有限公司 | 图像预处理方法、装置、系统和计算机可读存储介质 |
CN111898581A (zh) * | 2020-08-12 | 2020-11-06 | 成都佳华物链云科技有限公司 | 动物检测方法、装置、电子设备及可读存储介质 |
CN111898581B (zh) * | 2020-08-12 | 2024-05-17 | 成都佳华物链云科技有限公司 | 动物检测方法、装置、电子设备及可读存储介质 |
WO2022100162A1 (zh) * | 2020-11-13 | 2022-05-19 | 深圳市前海手绘科技文化有限公司 | 一种短视频中动态镜头制作的方法和装置 |
CN113055654A (zh) * | 2021-03-26 | 2021-06-29 | 太原师范学院 | 边缘设备中的视频流有损压缩方法 |
CN112861826B (zh) * | 2021-04-08 | 2021-12-14 | 重庆工程职业技术学院 | 基于视频图像的煤矿监管方法、系统、设备及存储介质 |
CN112861826A (zh) * | 2021-04-08 | 2021-05-28 | 重庆工程职业技术学院 | 基于视频图像的煤矿监管方法、系统、设备及存储介质 |
CN113487821A (zh) * | 2021-07-30 | 2021-10-08 | 重庆予胜远升网络科技有限公司 | 基于机器视觉的电力设备异物入侵识别系统及方法 |
US20230169771A1 (en) * | 2021-12-01 | 2023-06-01 | Fotonation Limited | Image processing system |
CN114283282A (zh) * | 2021-12-23 | 2022-04-05 | 江西中科智鹏物联科技有限公司 | 一种特征层敏感的二阶段邻居非极大值抑制方法 |
CN114051124A (zh) * | 2022-01-17 | 2022-02-15 | 深圳市华付信息技术有限公司 | 支持多区域监控的视频监控方法、装置、设备及存储介质 |
CN114051124B (zh) * | 2022-01-17 | 2022-05-20 | 深圳市华付信息技术有限公司 | 支持多区域监控的视频监控方法、装置、设备及存储介质 |
CN115091472A (zh) * | 2022-08-26 | 2022-09-23 | 珠海市南特金属科技股份有限公司 | 基于人工智能的目标定位方法及装夹机械手控制系统 |
TWI826129B (zh) * | 2022-11-18 | 2023-12-11 | 英業達股份有限公司 | 週期時間偵測及修正系統與方法 |
CN117221391A (zh) * | 2023-11-09 | 2023-12-12 | 天津华来科技股份有限公司 | 基于视觉语义大模型的智能摄像机推送方法、装置及设备 |
CN117221391B (zh) * | 2023-11-09 | 2024-02-23 | 天津华来科技股份有限公司 | 基于视觉语义大模型的智能摄像机推送方法、装置及设备 |
Also Published As
Publication number | Publication date |
---|---|
JP2021514548A (ja) | 2021-06-10 |
JP7018462B2 (ja) | 2022-02-10 |
WO2020151084A1 (zh) | 2020-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109922310B (zh) | 目标对象的监控方法、装置及系统 | |
CN109919009A (zh) | 目标对象的监控方法、装置及系统 | |
CN109886130B (zh) | 目标对象的确定方法、装置、存储介质和处理器 | |
JP6949988B2 (ja) | 領域特定方法、装置、記憶媒体及びプロセッサ | |
CN109886999B (zh) | 位置确定方法、装置、存储介质和处理器 | |
US10812761B2 (en) | Complex hardware-based system for video surveillance tracking | |
CN109886129B (zh) | 提示信息生成方法和装置,存储介质及电子装置 | |
CN110428522A (zh) | 一种智慧新城的智能安防系统 | |
CN102306304B (zh) | 人脸遮挡物识别方法及其装置 | |
CN109241933A (zh) | 视频联动监控方法、监控服务器、视频联动监控系统 | |
AU2012340862A1 (en) | Geographic map based control | |
KR20080054368A (ko) | 화염 검출 방법 및 장치 | |
US20140168427A1 (en) | Notify associates of cleanup jobs | |
CN109886555A (zh) | 食品安全的监测方法及装置 | |
CN112733690A (zh) | 一种高空抛物检测方法、装置及电子设备 | |
CN110728810B (zh) | 一种分布式目标监测系统和方法 | |
KR101204259B1 (ko) | 화재 검출 방법 | |
KR100822476B1 (ko) | 원격 응급상황 모니터링 시스템 및 방법 | |
KR20150034023A (ko) | 노인 관리용 무선 카메라 장치 및 이를 통한 노인 관리 시스템 | |
CN109684494A (zh) | 一种景区寻人方法、系统及云端服务器 | |
CN109831634A (zh) | 目标对象的密度信息确定方法及装置 | |
CN108288017A (zh) | 获取对象密度的方法及装置 | |
CN109255360A (zh) | 一种目标分类方法、装置及系统 | |
CN114067396A (zh) | 基于视觉学习的居配工程现场试验数字化管理系统及方法 | |
CN110505438A (zh) | 一种排队数据的获取方法和摄像机 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190621 |