CN116844115A - 对高空抛物进行溯源监测的方法及计算设备 - Google Patents
对高空抛物进行溯源监测的方法及计算设备 Download PDFInfo
- Publication number
- CN116844115A CN116844115A CN202311092704.1A CN202311092704A CN116844115A CN 116844115 A CN116844115 A CN 116844115A CN 202311092704 A CN202311092704 A CN 202311092704A CN 116844115 A CN116844115 A CN 116844115A
- Authority
- CN
- China
- Prior art keywords
- parabolic
- area
- suspected
- detection
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000012544 monitoring process Methods 0.000 title claims abstract description 37
- 238000001514 detection method Methods 0.000 claims abstract description 122
- 230000008859 change Effects 0.000 claims abstract description 51
- 230000033001 locomotion Effects 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 5
- 238000003062 neural network model Methods 0.000 claims description 3
- 230000006870 function Effects 0.000 description 11
- 238000013528 artificial neural network Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 230000002452 interceptive effect Effects 0.000 description 6
- 230000006399 behavior Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 238000003709 image segmentation Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 239000000047 product Substances 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000006378 damage Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012946 outsourcing Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/176—Urban or other man-made structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请提供一种对高空抛物进行溯源监测的方法及计算设备。所述方法包括:获取来自摄像装置的实时视频流的帧图像,所述实时视频流是对建筑物进行固定监测获得的;通过图像变化检测从所述帧图像中检测疑似抛出物区域;对所述疑似抛出物区域进行运动轨迹跟踪;根据轨迹跟踪结果确认所述疑似抛出物区域是否对应抛出物;如果判断疑似抛出物区域对应抛出物,则进行抛出物报警。本申请的技术方案能够实现对高空抛物进行溯源监测,并能够在提高高空抛物报警的准确性的情况下,降低使用成本。
Description
技术领域
本发明涉及图像处理技术领域,具体涉及一种对高空抛物进行溯源监测的方法及计算设备。
背景技术
随着城市的不断发展,高层建筑物林立,随之而来的是高空抛物事件的频频发生。高空抛出物可能会对行人、车辆、建筑物等造成严重伤害或损害。因此,对于高空抛物行为的监管和检测显得尤为重要。
随着人工智能技术的发展、监控设备的普及,图片数据资源的重要性也日益凸显。并且近几年计算机深度学习技术的飞速发展,使得图像数据处理的应用领域非常广泛。
现有的检测技术大多是利用图像分析技术,使用多个摄像机对高空抛物进行监测识别。这种方式需要采用多个摄像机,设置复杂,成本较高。
为此,需要一种技术方案,能够在保持对高空抛物报警的准确性的情况下,降低成本。
发明内容
本申请旨在提供用于高空抛物溯源监测的方法及计算设备,能够对高空抛出物进行检测。
根据本申请的一方面,提供一种高空抛物溯源监测的方法,包括:
获取来自摄像装置的实时视频流的帧图像,所述实时视频流是对建筑物进行固定监测获得的;
通过图像变化检测从所述帧图像中检测疑似抛出物区域;
对所述疑似抛出物区域进行运动轨迹跟踪;
根据轨迹跟踪结果确认所述疑似抛出物区域是否对应抛出物;
如果判断疑似抛出物区域对应抛出物,则进行抛出物报警。
根据一些实施例,检测疑似抛出物区域,包括:
对所述帧图像按照单个抛出区域进行分割,得到多个单独检测区域;
通过图像变化检测识别各个所述单独检测区域的变化区域,所述变化区域即为所述疑似抛出物区域。
根据一些实施例,所述对所述疑似抛出物区域进行运动轨迹跟踪,包括:
对各个单独检测区域中的疑似抛出物区域,基于特征匹配进行多目标轨迹跟踪。
根据一些实施例,所述方法还包括:
检测所述帧图像的关注区,所述关注区对应所述建筑物;
将所述关注区以外的图像区域填充为任何一种颜色或者使用所述关注区以外的区域的所有像素点的像素平均值、最大值、最小值、众数、或中位数进行填充,从而对所述帧图像设置算法识别区域。
根据一些示例实施例,获取来自摄像装置的实时视频流的帧图像之后,还包括:
利用神经网络模型对所述帧图像进行超分处理,从而提高所述帧图像的分辨率。
根据一些实施例,所述摄像装置的安装,应固定它的焦距、位置和拍摄角度。
根据一些示例实施例,在通过图像变化检测识别各个单独检测区域的疑似抛出物区域之后,还包括;
对各个单独检测区域进行干扰物检测,确定干扰物区域。如果所述干扰物区域与所述疑似抛出物区域的交并比大于预设干扰阈值,则确定所述疑似抛出物区域不对应抛出物。
根据一些示例实施例,根据轨迹跟踪结果判断所述疑似抛出物区域是否对应抛出物,包括:
累计目标在各个单独监测区域的运动轨迹长度,判断所述轨迹长度总和是否大于预设轨迹阈值,如果判断结果为是,则判断所述疑似抛出物区域对应抛出物。
或判断所述目标运动轨迹途经单独检测区域的个数是否大于预设轨迹路径阈值,如果判断结果为是,则判断所述疑似抛出物区域对应抛出物。
根据一些实施例,所述所述摄像装置包括单一摄像头。
根据本申请的另一方面,提供一种计算设备,包括:
处理器;以及
存储器,存储有计算机程序,当所述计算机程序被所述处理器执行时,使得所述处理器执行如上任一项所述的方法。
根据本申请的另一方面,提供一种非瞬时性计算机可读存储介质,其上存储有计算机可读指令,当所述指令被处理器执行时,使得所述处理器执行如上任一项所述的方法。
根据本申请的实施例,所述变化区域检测广泛适用于任意物体,且针对单独检测区域进行的变化检测提高了检测精度,对检测出的疑似抛出物区域进行轨迹跟踪结果的二次判断,使判断结果更具可靠性。因此该高空抛物方法不仅应用场景广泛,而且识别精度和可靠性高,可以为监管高空抛物行为提供重要的技术支撑,能够有效地溯源高空抛物的位置。
根据一些实施例,通过变化区域疑似抛出物区域检测识别高空抛物,适用于任何物体。因此,本高空抛物监测方案应用场景广泛,可以为监管高空抛物行为提供重要的技术支撑,能够有效地溯源高空抛物的位置。此外,结合轨迹检测,可进一步提高识别准确度,避免误判。
根据一些实施例,通过对原始图片进行图像超分,提高图像的分辨率,有利于后续的分割窗户或者阳台、变化检测和干扰物检测的效果,同时可以降低摄像头的成本。
根据一些实施例,结合干扰物检测,将得到的干扰物与疑似抛出物区域,计算交并比IoU,可以过滤掉疑似抛出物区域中是干扰物的物体,进一步提高高空抛物检测的准确度,避免误判。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本申请。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍。
图1示出根据本申请示例实施例的对高空抛物进行溯源检测的方法流程图。
图2A示出根据本申请另一示例实施例的对高空抛物进行溯源检测的方法示意图。
图2B示出根据本申请示例实施例的建筑图像分割示意图。
图3示出根据示例性实施例用于高空抛物溯源检测方法的变化检测方法流程图。
图4示出根据示例性实施例用于高空抛物溯源检测方法的高空抛出物判断识别图。
图 5 示出根据示例性实施例的对高空抛物进行溯源检测的方案示意图。
图6示出本申请示例实施例的高空抛物溯源检测方法中的计算机设备的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本申请将全面和完整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本申请的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
应理解,虽然本文中可能使用术语第一、第二、第三等来描述各种组件,但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此,下文论述的第一组件可称为第二组件而不偏离本申请概念的教示。如本文中所使用,术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。
本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准,并提供有相应的操作入口,供用户选择授权或者拒绝。
本领域技术人员可以理解,附图只是示例实施例的示意图,附图中的模块或流程并不一定是实施本申请所必须的,因此不能用于限制本申请的保护范围。
现有的高空抛物检测技术大多是利用图像分析技术,使用多个摄像机对高空抛物进行监测识别。这种方式需要采用多个摄像机,设置复杂,成本较高。另外,现有对高空抛物进行监测的方案中,一般是采用对特定抛出物进行识别的方式。这种对特定抛出物进行识别的检测方式,对已知抛出物以外的对象无法识别,会导致漏判的问题。而且,对特定抛出物进行分类识别的方式准确度不高,容易导致误判和漏判的问题。
为此,本申请提出一种高空抛物溯源检测方法,可通过单一摄像头对楼宇实时监控监测,通过疑似抛出物区域检测和轨迹判断,实现对高空抛出物进行溯源监测。以防止高空抛物事件产生的危险。根据本申请的技术方案成本低,并可解决现有高空抛物检测方法存在的误判和漏判问题。
下面将参照附图,将根据本申请实施例用高空抛物溯源检测的方法进行详细说明。
图1示出根据本申请示例实施例的对高空抛物进行溯源检测的方法流程图。
参见图1,在S101,获取来自摄像装置的实时视频流,所述实时视频流用于对建筑物进行固定监测。
根据实施例,为了对建筑物进行固定监测,摄像装置在焦距、位置及拍摄角度固定的情况下获取实时视频流。
在S103,通过图像变化检测从所述帧图像中检测疑似抛出物区域。
对所述疑似抛出物的检测,包括:对所述帧图像按照单个抛出区域进行分割,得到多个单独检测区域。通过图像变化检测识别各个单独检测区域的变化区域。所述变化区域即为疑似抛出物区域。
根据一些实施例,所述变化检测是针对分割后的单独检测区域进行变化检测及干扰物检测,得到排除干扰物的疑似抛出物区域。
根据一些示例实施例,所述目标疑似抛出物区域可以通过变化检测神经网络获取。现有的技术中有多种检测方式。用户可根据实际操作从优选择。
在S105,对所述疑似抛出物区域进行运动轨迹跟踪。
根据一些实施例,对单个或多个疑似抛出物区域的运动轨迹跟踪,可通过多目标跟踪算法实现。
在S107,根据轨迹跟踪结果确认所述疑似抛出物区域是否对应抛出物。
根据一些实施例,对单个或多个单独检测区域进行变化检测,经过干扰物过滤,然后将剩余的变化检测框,映射到整个图像的位置,当掉落物体到达下面的窗户或者阳台的时候,算法会基于特征匹配进行多目标跟踪,由于各检测区域单独检测,所以目标物的跟踪轨迹是不连续的,将标号窗户中的各段跟踪线的端点连在一起就能得到完整的轨迹线。累计目标在各个单独监测区域的运动轨迹长度,判断所述轨迹长度总和是否大于预设轨迹阈值,如果判断结果为是,则判断所述疑似抛出物区域对应抛出物。根据另一些实施例,可根据多目标跟踪到的物体运动轨迹途经单独检测区域个数判断是否发生高空抛物事件。
在S109,如果判断疑似抛出物区域对应抛出物,则进行抛出物报警.
根据一些示例实施例,所述疑似抛出物区域经目标跟踪判断,确认为高空抛出物后,触发程序中的警报系统,可按照用户要求设置为现场报警音警示或计算机端报警提示,并输出相应区域标号或窗口号等具体抛出物起始点位置信息,用于后续溯源追责。
图2A示出根据本申请示例实施例的高空抛物溯源检测方法流程图。
参见图2A,在S201,获取来自摄像装置的实时视频流,所述实时视频流用于对建筑物进行固定监测。
根据示例实施例,可采用红外摄像头或星光级摄像头进行监测拍摄。为了对建筑物进行固定监测,根据实施例,摄像装置在焦距、位置及拍摄角度固定的情况下获取实时视频流。
在一个具体的实施场景中,高空抛物的事件的发生时间是随机的,可以是一天之中的任何时间,因此需要24小时不间断的对大楼进行监控,单目红外摄像头一直处于拍摄视频的状态,获取拍摄获取的当前视频流。在本实施场景中,采用单目红外摄像头进行检测,不受天气、光线等因素的干扰,在固定位置的情况下进行检测,能够提高高空抛物的检测准确率。该单目红外摄像头的拍摄焦距、拍摄位置和拍摄角度固定且已知。
在S203,对所述帧图像按照单个抛出区域进行分割,得到多个单独检测区域。
根据示例实施例,通过图像识别技术识别出当前帧图像中的窗户或阳台区域,并按其对图像进行分割,从而针对单独检测区域进行变化检测,与对整个帧图像进行变化区域检测相比,可提高识别精度和可靠性。
另外,可对单独检测区域进行标号,方便后续对高空抛物进行追责以及多目标跟踪中轨迹判断和途经检测区域数量的统计。单独监测区域的标号可以按照预设的标号规则进行标号,例如第x行、第y列的窗户或者阳台的编号即用(x,y)表示。对关注区域分割、分区域监控检测,便于对高空抛出事件准确追责,配合后续多目标跟踪两者配合,提高高空抛物检测的精准度。
在S205,通过图像变化检测识别各个单独检测区域的疑似抛出物区域。
根据实施例,可将当前各个单独检测区域与所对应模板区域进行比对,获取当前单独检测区域与对应模版区域的不同之处,将该不同之处作为目标疑似抛出物区域。所述单独检测区域的对应模板图像区域是动态更新的,每隔一定的时间或者帧数更新一次模板图像区域。如果连续N张图像帧中相应单独检测区域保持基本不变,则可更新作为此单独检测区域的模板图像区域。
根据一些示例实施例,所述目标变化区域可以通过变化检测神经网络获取。现有的技术中有多种检测方式。例如,可采用预训练过的ChangNet算法实现变化区域识别。
在S207,对所述疑似抛出物区域进行运动轨迹跟踪,根据轨迹跟踪结果判断所述疑似抛出物区域是否对应抛出物。
根据一些实施例,对单个或多个疑似抛出物区域的运动轨迹跟踪,可通过多目标跟踪算法实现。本示例所述的多目标跟踪方式可采用deepsort算法。
根据一些示例实施例,对单个或多个单独检测区域进行变化检测,经过干扰物过滤,然后将剩余的变化检测框,映射到整个图像的位置,当掉落物体到达下面的窗户或者阳台的时候,deepsort算法会基于特征匹配进行多目标跟踪,由于各检测区域单独检测,所以目标物的跟踪轨迹是不连续的,将标号窗户中的各段跟踪线的端点连在一起就能得到完整的轨迹线。这样,可确定相应单独检测区域为抛出区域,从而实现对所述抛出物的抛出溯源。相比目前比较普遍的sort等多目标跟踪算法,deepsort算法多了特征匹配环节,保证跟踪的准确性,提高了高空抛物检测的精准度。
根据一些实施例,所述摄像装置用于视频流的获取。基于摄像装置采集楼宇外阳台、窗户的实时视频流,并基于有线或无线网络将所述实时视频流发送至本发明的高空抛物溯源检测终端。作为获取视频流的摄像工具可用选择很多,基于成本以及适用性考量,本示例实施例中的摄像头可选单目红外摄像头,以利于夜间监控。
图2B示申请示例实施例的建筑图像分割示意图。
参见图2B,根据示例实施例,在获取来自摄像装置的实时视频流的帧图像之后,对所述帧图像按照单个抛出区域进行分割,并对所分割出的各个单独检测区进行编号。例如,可将帧图像按照每个窗户和/或阳台的区域进行图像分割,并对每个分割区域进行编号。
根据示例实施例,可通过语义分割网络分割并识别出当前图像中的窗户和/或阳台区域。基于分割结果,可以得到每个窗户、阳台的区域,作为单个抛出区域,并可确定每个窗户、阳台的编号。例如,用(x,y)表示第x行和第y列的窗户或者阳台的编号,方便后续对高空抛物进行追责。可以按照预设的标号规则进行标号,例如第x行、第y列的窗户或者阳台的编号即用(x,y)表示。
根据一些实施例,用于图像分割神经网络的损失函数可为;
其中,
,
,
,
系数是一种用于评估两个样本相似性的度量函数,其值越大意味着这两个样本越相似。在语义分割问题中,/>表示真实分割图像的像素标签,/>表示模型预测分割图像的像素类别,/>近似为预测图像的像素与真实标签图像的像素之间的点乘,并将点乘结果相加,/>和/>分别近似为它们各自对应图像中的像素相加。
是一个超参数,用于平衡交叉熵损失和Dice损失。
表示样本属于第/>类的概率,/>是样本的one-hot标签,当样本属于第i类时,/>,否则,/>。
图3示出根据示例性实施例用于高空抛物溯源检测方法的变化检测方法流程图
参见图3,在S301,获取来自摄像装置的实时视频流的帧图像。关于视频流的可参见前面的描述。
在S303,更新模版图像区域。
模板图像区域用于图像变化检测。所述单独检测区域的对应模板图像区域是动态更新的,每隔一定的时间或者帧数更新一次模板图像区域。例如,如果连续N张图像帧中相应单独检测区域保持基本不变,则可更新作为此单独检测区域的模板图像区域。由于大楼的各个窗户或阳台的状态不是一成不变的,如果采用固定的图像作为模板图像,可能会导致需要判断是否发生高空抛物的次数过于频繁,对资源进行无意义的消耗。此外,相较于采用帧差法(相邻两帧图像,前者作为后者的模板图像),本发明避免了一些可能的拖影干扰等情况,提高了检测的准确性和可靠性。
在S305,识别实时视频流的帧图像中各个单独检测区域的变化区域。
将当前单独检测区域与相应模板图像区域进行比对,获取所述两图像对应的单独检测区域中的不同之处,将该不同之处对应的区域作为目标变化区域。
根据一些实施例,所述目标变化区域可以通过变化检测神经网络识别。例如,可采用ChangNet实现变化区域识别。
ChangNet是一个基于深度学习的变化检测网络,应用孪生神经网络(Siamesenetwork)和FCN,并用SOFTMAX进行分类,最终输出变化区域。
在变化检测中,无变化像素的数量往往远超变化像素的数量。为了削弱正负样本不平衡的影像,使用混合损失函数(加权交叉熵和重叠度结合)混合损失函数可具体如下:
加权交叉熵(WCE)损失函数如下:
其中变化图可视为点的集合:/>,/>和/>表示变化图/>的高和宽,/>表示/>中的点,每个/>只有m个结果,这里m为2,只有不变化和变化两类。是类预测结果,/>是one-hot编码的目标类别向量。为对预测变化图中每个类别的权重;/>。
变化图通过Softmax计算重叠度损失,/>为真实值。
重叠度损失函数如下:
图4示出本申请示例实施例利用干扰物检测确定抛出物的方法流程。
为了排除干扰物对高空抛物时间的判断,可对帧图像的各个单独检测区域进行干扰物检测,干扰物范围包括鸟、树叶、树枝等常见已知物体。
参见图4,在S401,识别实时视频流帧图像的各个单独检测取的变化区域。参见前面的描述,此处不再赘述。
在S403,对于所述单独检测区域进行干扰物检测,确定干扰物区域。
根据一些实施例,所述干扰物检测可通过预训练的YOLOv7神经网络模型实现。
当干扰物检测神经网络检测到当前图像中存在干扰物时,会将干扰物所在的位置用干扰物检测框进行标记。在其他实施场景中,还可以使用一些图像处理算法,如边缘检测、形态学处理等,来检测图像中的干扰物,并将其标记为干扰物检测框。
根据一些实施例,干扰物检测神经网络的损失函数为:
其中,是位置回归损失函数,根据以下公式获取:
是物体置信度损失函数,根据以下公式获取:
是分类损失函数,根据以下公式获取:
表示网格序号,B表示当前网格的第B个框,在本实施场景中,每个网格有3个框。
表示当前网格是否存在物体,有物体=1,没物体=0。
表示当前网格是否存在物体,与/>刚好相反,有物体=0,没物体=1。
表示所有网格里,所有框有物体的累加。
表示参数因子。
分别表示预测框和真实框的中心点距离,以及外包矩形的斜边长。
表示预测框和真实框的交并比。
表示预测框的宽和高。
表示真实框的宽和高。
表示第/>个网格的第/>个框置信度,/>表示第/>个网格的第/>个框的预测框的置信度。
表示第/>个网格的第j个框为类别C的概率值,/>表示第/>个网格的第j个预测框为类别C的概率值。
在S405,判断干扰物区域与疑似抛出物区域的交并比是否大于预设干扰阈值。
如果所述干扰物区域与所述疑似抛出物区域的交并比大于预设干扰阈值,则确定所述疑似抛出物区域为干扰物,而不是抛出物。否则,可确定该疑似抛出物区域不是干扰物,后续将进行目标跟踪检测,如前面所描述的。
例如,将干扰物检测的目标框的位置与变化检测的疑似抛出物区域计算交并比IoU(Intersection over Union)。如果IoU大于预设干扰阈值,那么该疑似抛出物区域为干扰物。否则,该疑似抛出物区域为疑似有危险的高空抛出物。这样,可以做到对高空抛物事件的准确检测,避免误报,例如将飞鸟误报为高空抛物。
根据实施例,通过干扰物检测排除掉预定种类干扰物,可以提高高空抛物监测的可靠性和准确性,避免产生误报。
图5示出本申请示例实施例的对高空抛物进行溯源监测的方案示意图。
参见图5,准备一个单目红外摄像设备或星光级摄像设备,它的焦距、位置和角度固定。
对所述摄像设备进行内参标定,得到内参矩阵和畸变系数。内参标定的具体方法有线性标定、非线性优化标定法、两步标定法。本实施例采用两步标定法中的张正友内参标定法,但本申请的方案不限于此。将得到的数据参数存储到配置文件。作为帧图像处理的基本数据,留待后续使用。
获取实时视频流的帧图像。利用之前存储在配置文件中的内参矩阵与畸变系数,对获取的帧图像进行畸变校正。将所述畸变校正后的帧图像进行去噪处理。
现实中的数字图像在数字化和传输过程中常受到成像设备与外部环境的噪声干扰影响,这些噪声可能在传输中产生也可能在量化等处理中产生,且后续图像超分处理中,可能放大噪声。
根据一些实例,增加图像去噪处理环节。现行的处理方式有多种,如均值滤波器、自适应维纳滤波器中值滤波器等等,可按照具体的实施监测环境自行选择,达到处理目的即可。
将所述去噪后的帧图像,进行超分处理,即将低分辨率的图像恢复为高分辨率图像。超分处理使本申请方法本身对摄像装置的分辨率要求降低,能够对建筑物或建筑小区本身摄像装置的加以利用,降低本发明方法的额外应用成本。例如,从1080P(分辨率为1920*1080)变为4K(分辨率为3840*2160),有利于后续的分析任务。
根据一些实施例,超分可应用深度卷积神经网络来构建,这些方法使用不同的采样结构,对应不同的插值算法进而补充像素,使图像分辨率提高。这里可以自行选择方法,不影响后续判断。
对超分后的图片检测关注区,识别图像中的建筑物区域为关注区,作为算法识别区域。对关注以外的区域,使用任意一种颜色填充或者使用算法识别区域以外的区域的所有像素点的像素的平均值、最大值、最小值、众数、中位数等进行填充。这样做可以提升后续判断的准确性和可靠性。
根据一些实施例,关注区可以由人通过算法参数配置界面设置,也可以是通过图像识别,自动识别出大楼所在的区域,将天空、草坪等背景作为其余区域。用任何一种颜色除关注区域以外的其余区域,也可以获取关注区域以外的其余区域的所有像素点的像素值的均值、最大值、最小值、众数、中位数等对应的目标像素值,用目标像素值填充除关注区域以外的其余区域。这样,后续的处理均针对目标区域内的内容进行,不会考虑其余区域避免发生误判。
根据一些实施例,设置好所述关注区之后,将关注区域分割成多个单独检测区域,对单独检测区域进行变化检测、干扰物检测,对排除干扰物的疑似抛出物区域进行基于特征匹配的多目标跟踪,根据多目标跟踪到的物体运动轨迹或轨迹途经单独检测区域个数判断是否发生高空抛物事件。具体步骤的实施方式与细节已在前文中做出详述,此处不在多做赘述。
通过对示例实施例的描述,本领域技术人员易于理解,根据本申请实施例的技术方案至少具有以下优点中的一个或多个。
根据实施例,通过疑似抛出物区域检测识别高空抛物,适用于任何物体。因此,本高空抛物监测方案应用场景广泛,可以为监管高空抛物行为提供重要的技术支撑,能够有效地溯源高空抛物的位置。结合轨迹检测,可进一步提高识别准确度,避免误判,提高高空抛物的判断精度。
根据实施例,通过对原始图片进行图像超分,提高图像的分辨率,有利于后续的分割窗户或者阳台、变化检测和干扰物检测的效果,同时可以降低摄像头的成本。
根据实施例,通过分割窗户或者阳台,结合变化检测得到的变化区域,可以得到高空抛物的窗户或者阳台的编号,即高空抛物的位置,有效地溯源高空抛物的位置。
根据实施例,使用干扰物检测,将得到的干扰物与变化区域,计算交并比IoU,可以过滤掉变化区域中是干扰物的物体,进一步提高高空抛物检测的准确度,避免误判。
根据一些实施例,对检测出的疑似抛出物区域进行轨迹跟踪结果的二次判断,使判断结果更具可靠性。对所述帧图像进行分区检测标号,能够有效地溯源高空抛物的位置。
图6示出申请示例实施例的高空抛物溯源检测方法中的计算设备的框图。
如图6所示,计算设备30包括处理器12和存储器14。计算设备30还可以包括总线22、网络接口16以及I/O接口18。处理器12、存储器14、网络接口16以及I/O接口18可以通过总线22相互通信。
处理器12可以包括一个或多个通用CPU(Central Processing Unit,处理器)、微处理器、或专用集成电路等,用于执行相关程序指令。根据一些实施例,计算设备30还可包括为处理器12进行加速的高性能显示适配器(GPU)20。
存储器14可以包括易失性存储器形式的机器系统可读介质,例如随机存取存储器(RAM)、只读存储器(ROM)和/或高速缓存存储器。存储器14用于存储包含指令的一个或多个程序以及数据。处理器12可读取存储在存储器14中的指令以执行上述根据本申请实施例的方法。
计算设备30也可以通过网络接口16与一个或者多个网络通信。该网络接口16可以是无线网络接口。
总线22可以为包括地址总线、数据总线、控制总线等。总线22提供了各组件之间交换信息的通路。
需要说明的是,在具体实施过程中,计算设备30还可以包括实现正常运行所必需的其他组件。此外,本领域的技术人员可以理解的是,上述设备中也可以仅包含实现本说明书实施例方案所必需的组件,而不必包含图中所示的全部组件。
本申请还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述方法的步骤。计算机可读存储介质可以包括但不限于任何类型的盘,包括软盘、光盘、DVD、CD-ROM、微型驱动器以及磁光盘、ROM、RAM、EPROM、EEPROM、DRAM、VRAM、闪速存储器设备、磁卡或光卡、纳米系统(包括分子存储器IC)、网络存储设备、云存储设备,或适合于存储指令和/或数据的任何类型的媒介或设备。
本申请实施例还提供一种计算机程序产品,该计算机程序产品包括存储计算机程序的非瞬时性计算机可读存储介质,该计算机程序可操作来使计算机执行如上述方法实施例中记载的任何一种方法的部分或全部步骤。
本领域的技术人员可以清楚地了解到本申请的技术方案可借助软件和/或硬件来实现。本说明书中的“单元”和“模块”是指能够独立完成或与其他部件配合完成特定功能的软件和/或硬件,其中硬件例如可以是现场可编程门阵列、集成电路等。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置,可通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些服务接口,装置或单元的间接耦合或通信连接,可以是电性或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储器中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
以上具体地展示和描述了本申请的示例性实施例。应可理解的是,本申请不限于这里描述的详细结构、设置方式或实现方法;相反,本申请意图涵盖包含在所附条款的精神和范围内的各种修改和等效设置。
Claims (10)
1.一种对高空抛物进行溯源监测的方法,其特征在于,包括:
获取来自摄像装置的实时视频流的帧图像,所述实时视频流是对建筑物进行固定监测获得的;
通过图像变化检测从所述帧图像中检测疑似抛出物区域;
对所述疑似抛出物区域进行运动轨迹跟踪;
根据轨迹跟踪结果确认所述疑似抛出物区域是否对应抛出物;
如果判断所述疑似抛出物区域对应抛出物,则进行抛出物报警。
2.根据权利要求1所述的方法,其特征在于,检测疑似抛出物区域,包括:
对所述帧图像按照单个抛出区域进行分割,得到多个单独检测区域;
通过图像变化检测识别各个所述单独检测区域的变化区域,所述变化区域即为所述疑似抛出物区域。
3.根据权利要求2所述的方法,其特征在于,所述对所述疑似抛出物区域进行运动轨迹跟踪,包括:
对各个单独检测区域中的疑似抛出物区域,基于特征匹配进行多目标轨迹跟踪。
4.根据权利要求1所述的方法,其特征在于,还包括:
检测所述帧图像的关注区,所述关注区对应所述建筑物;
将所述关注区以外的图像区域填充为任何一种颜色或者使用所述关注区以外的区域的所有像素点的像素平均值、最大值、最小值、众数、或中位数进行填充,从而对所述帧图像设置算法识别区域。
5.根据权利要求1所述的方法,其特征在于,获取来自摄像装置的实时视频流的帧图像之后,还包括:
利用神经网络模型对所述帧图像进行超分处理。
6.根据权利要求1所述的方法,其特征在于,所述摄像装置在焦距、位置及拍摄角度固定的情况下获取所述实时视频流。
7.根据权利要求3所述的方法,其特征在于,根据轨迹跟踪结果确认所述疑似抛出物区域是否对应抛出物,包括:
累计目标在各个单独监测区域的运动轨迹长度,判断所述轨迹长度总和是否大于预设轨迹阈值,如果判断结果为是,则判断所述疑似抛出物区域对应抛出物。
8.根据权利要求3所述的方法,其特征在于,根据轨迹跟踪结果确认所述疑似抛出物区域是否对应抛出物,包括:
判断所述目标运动轨迹途经单独检测区域的个数是否大于预设轨迹路径阈值,如果判断结果为是,则判断所述疑似抛出物区域对应抛出物。
9.根据权利要求3所述的方法,其特征在于,所述摄像装置包括单一摄像头。
10.一种计算设备,其特征在于,包括:
处理器;以及
存储器,存储有计算机程序,当所述计算机程序被所述处理器执行时,实现如权利要求1-9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311092704.1A CN116844115A (zh) | 2023-08-29 | 2023-08-29 | 对高空抛物进行溯源监测的方法及计算设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311092704.1A CN116844115A (zh) | 2023-08-29 | 2023-08-29 | 对高空抛物进行溯源监测的方法及计算设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116844115A true CN116844115A (zh) | 2023-10-03 |
Family
ID=88165496
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311092704.1A Pending CN116844115A (zh) | 2023-08-29 | 2023-08-29 | 对高空抛物进行溯源监测的方法及计算设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116844115A (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113705525A (zh) * | 2021-09-07 | 2021-11-26 | 深圳天海宸光科技有限公司 | 一种高空抛物精准定位溯源方法 |
CN114488337A (zh) * | 2021-02-11 | 2022-05-13 | 苏州飞易智能系统有限公司 | 一种高空抛物检测方法及装置 |
-
2023
- 2023-08-29 CN CN202311092704.1A patent/CN116844115A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114488337A (zh) * | 2021-02-11 | 2022-05-13 | 苏州飞易智能系统有限公司 | 一种高空抛物检测方法及装置 |
CN113705525A (zh) * | 2021-09-07 | 2021-11-26 | 深圳天海宸光科技有限公司 | 一种高空抛物精准定位溯源方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108447091B (zh) | 目标定位方法、装置、电子设备及存储介质 | |
WO2019101220A1 (zh) | 基于深度学习网络和均值漂移的船只自动跟踪方法及系统 | |
US20180268556A1 (en) | Method for detecting moving objects in a video having non-stationary background | |
CN111210399B (zh) | 一种成像质量评价方法、装置及设备 | |
CN109670383B (zh) | 视频遮蔽区域选取方法、装置、电子设备及系统 | |
CN110781853B (zh) | 人群异常检测方法以及相关装置 | |
CN110659391A (zh) | 一种视频侦查方法及装置 | |
CN111507235B (zh) | 基于视频的铁路周界异物入侵检测方法 | |
EP3282387A1 (en) | Fire detection method, fire detection apparatus and electronic equipment | |
CN114639075B (zh) | 一种高空抛物坠物的识别方法、系统及计算机可读介质 | |
CN116402852A (zh) | 基于事件相机的动态高速目标追踪方法及装置 | |
CN116681724A (zh) | 基于YOLOv5-Deepsort算法的矿井人员目标视频跟踪方法及存储介质 | |
CN111881984A (zh) | 一种基于深度学习的目标检测方法和装置 | |
CN113409360A (zh) | 高空抛物检测方法和装置、设备及计算机存储介质 | |
CN113505643A (zh) | 违章目标物检测方法及相关装置 | |
CN115984780B (zh) | 工业固体废物出入库判别方法、装置、电子设备及介质 | |
CN117152949A (zh) | 一种基于无人机的交通事件识别方法及系统 | |
CN110334703B (zh) | 一种昼夜图像中的船舶检测和识别方法 | |
CN116994201B (zh) | 对高空抛物进行溯源监测的方法及计算设备 | |
CN116844115A (zh) | 对高空抛物进行溯源监测的方法及计算设备 | |
CN109859200B (zh) | 一种基于背景分析的低空慢速无人机快速检测方法 | |
CN114419489A (zh) | 特征提取网络的训练方法、装置、终端设备和介质 | |
CN113947744A (zh) | 基于视频的火灾图像检测方法、系统、设备及存储介质 | |
CN113297949A (zh) | 高空抛物检测方法、装置、计算机设备和存储介质 | |
CN110581979B (zh) | 一种图像采集系统、方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |