CN111369753B - 非机动车监测方法及相关产品 - Google Patents

非机动车监测方法及相关产品 Download PDF

Info

Publication number
CN111369753B
CN111369753B CN202010127503.0A CN202010127503A CN111369753B CN 111369753 B CN111369753 B CN 111369753B CN 202010127503 A CN202010127503 A CN 202010127503A CN 111369753 B CN111369753 B CN 111369753B
Authority
CN
China
Prior art keywords
image
processed
motor vehicle
area
feature data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010127503.0A
Other languages
English (en)
Other versions
CN111369753A (zh
Inventor
李江涛
马文渊
钱能胜
陈高岭
薛志强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Sensetime Technology Co Ltd
Original Assignee
Shenzhen Sensetime Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Sensetime Technology Co Ltd filed Critical Shenzhen Sensetime Technology Co Ltd
Priority to CN202010127503.0A priority Critical patent/CN111369753B/zh
Publication of CN111369753A publication Critical patent/CN111369753A/zh
Application granted granted Critical
Publication of CN111369753B publication Critical patent/CN111369753B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

本申请公开了一种非机动车监测方法及相关产品。该方法包括:获取至少一张第一待处理图像;对所述至少一张第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置;依据所述第一位置,确定所述非机动车的非法入侵监测结果。还公开了相应的产品。以监测公路上的非机动车的非法入侵。

Description

非机动车监测方法及相关产品
技术领域
本申请涉及安防技术领域,尤其涉及一种非机动车监测方法及相关产品。
背景技术
公路上通常包括机动车车道、非机动车道、人行道。在非机动车处于机动车道内,或非机动车处于人行道内的情况下,非机动车为非法入侵,在非机动车处于非机动车道的情况下,非机动车未非法入侵。非机动车非法入侵易导致交通事故的发生,因此如何有效的监测公路上的非机动车非法入侵具有非常重要的意义。
发明内容
本申请提供一种非机动车监测方法及相关产品。
第一方面,提供了一种非机动车监测方法,所述方法包括:
获取至少一张第一待处理图像;
对所述至少一张第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置;
依据所述第一位置,确定所述非机动车的非法入侵监测结果。
在该方面,通过对至少一张第一待处理图像进行处理得到至少一张待处理图像中的非机动车的第一位置,并依据第一位置确定非机动车是否非法入侵,以达到基于公路上的监控摄像头采集到的图像,实现监测公路上的非机动车非法入侵的效果,从而在不增加监测成本的前提下,提高监测效率和监测准确率。
结合本申请任一实施方式,所述对所述第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置,包括:
对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据;
依据所述至少一个第一特征数据,得到所述第一位置。
在该实施方式中,通过对第一待处理图像进行特征提取处理,以提取第一待处理图像中的语义信息,得到第一特征数据,进而可依据第一特征数据得到第一待处理图像中的非机动车的位置。
结合本申请任一实施方式,在所述对所述第一待处理图像进行特征提取处理,得到第一特征数据之前,所述方法还包括:
对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第二特征数据;
在基于所述至少一个第二特征数据确定所述至少一张第一待处理图像中包含非机动车的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
在该实施方式中,在基于第二特征数据确定第一待处理图像中包含非机动车的情况下,对第一待处理图像进行特征提取处理,得到第一特征数据,可减少数据处理量,提高处理速度。
结合本申请任一实施方式,所述至少一张第一待处理图像的数量大于或等于2;所述至少一张第一待处理图像包括第二待处理图像和第三待处理图像;所述至少一个第二特征数据包括第三特征数据和第四特征数据;所述第三特征数据通过对所述第二待处理图像进行特征提取处理得到,所述第四特征数据通过对所述第三待处理图像进行特征提取处理得到;
所述在基于所述至少一个第二特征数据确定所述至少一张第一待处理图像中包含非机动车的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤,包括:
在依据所述第三特征数据确定所述第二待处理图像中包含待确认非机动车,且依据所述第四特征数据确定所述第三待处理图像中包含所述待确认非机动车的情况下,依据所述第二待处理图像和所述第三待处理图像,得到所述待确认非机动车的速度;
在所述速度小于速度阈值的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
在该实施方式中,依据至少两张包含待确认非机动车的第一待处理图像,得到待确认非机动车的速度。以待确认非机动车的速度和速度阈值为依据,确定待确认非机动车是否为非机动车,从而提高确定第一待处理图像中是否包含非机动车的准确率,进而提高确定第一待处理图像中的非机动车是否非法入侵的准确率。
结合本申请任一实施方式,所述依据所述第一位置,确定所述非机动车的非法入侵监测结果,包括:
在依据所述第一位置确定所述非机动车位于非法入侵区域内的情况下,确定所述非机动车非法入侵。
在该实施方式中,依据第一位置确定非机动车是否处于非法入侵区域内,可确定非机动车是否处于非法入侵区域内,进而确定非机动车是否非法入侵。
结合本申请任一实施方式,所述在依据所述第一位置确定所述非机动车位于非法入侵区域内的情况下,确定所述非机动车非法入侵,包括:
依据所述第一位置和所述非法入侵区域,得到所述非机动车覆盖的区域与所述非法入侵区域的面积重合度;
在所述面积重合度大于或等于面积重合度阈值的情况下,确定所述非机动车非法入侵。
在该实施方式中,以面积重合度为依据,确定非机动车是否处于非法入侵区域内,以提高确定非机动车是否处于非法入侵区域内的准确率,进而提高确定非机动车是否非法入侵的准确率。
结合本申请任一实施方式,所述获取至少一张第一待处理图像,包括:
获取待处理视频流;
对所述待处理视频流进行解码处理,得到所述至少一张第一待处理图像。
在该实施方式中,基于公路上的监控摄像头采集到的视频流,得到至少一张第一待处理图像。由于监控摄像头均为公路上已有的设备,使用本申请实施例提供的技术方案对至少一张第一待处理图像进行处理,可在不增加成本的前提下,实现对公路上的非机动车非法入侵的实时监测。
结合本申请任一实施方式,所述对所述待处理视频流进行解码处理,得到所述至少一张第一待处理图像,包括:
对所述待处理视频流进行解码处理,得到至少一张第四待处理图像;
依据图像质量评价指标,得到所述至少一张第四待处理图像的质量分数;所述图像质量评价指标包括以下至少一个:图像的分辨率的高低、图像的信噪比的大小、图像的清晰程度;
确定质量分数大于或等于质量分数阈值的第四待处理图像,作为所述至少一张第一待处理图像。
在该实施方式中,以图像质量评价指标为依据,确定第四待处理图像的质量分数。将质量分数大于或等于质量分数阈值的第四待处理图像,作为第一待处理图像,可提高第一待处理图像的图像质量,从而提高后续基于第一待处理图像得到的第一位置的准确率,进而提高确定第一待处理图像中的非机动车是否非法入侵的准确率。
结合本申请任一实施方式,所述方法还包括:
在所述监测结果包括所述非机动车非法入侵的情况下,获取采集所述至少一张第一待处理图像的摄像头的至少一个位置,作为至少一个第二位置;
向终端发送包含所述至少一个第二位置的告警指令;所述告警指令用于指示所述终端输出告警信息。
在该实施方式中,通过向终端发送包含摄像头的位置的告警指令,使终端在接收到告警指令后,输出相应的告警信息,以提示相关执法人员及时到达非机动车非法入侵的位置,以引导非机动车驶出非法入侵区域。
第二方面,提供了一种非机动车监测装置,所述装置包括:
第一获取单元,用于获取至少一张第一待处理图像;
第一处理单元,用于对所述至少一张第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置;
第二处理单元,用于依据所述第一位置,确定所述非机动车的非法入侵监测结果。
结合本申请任一实施方式,所述第一处理单元,用于:
对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据;
依据所述至少一个第一特征数据,得到所述第一位置。
结合本申请任一实施方式,所述装置还包括:
特征提取处理单元,用于在所述对所述第一待处理图像进行特征提取处理,得到第一特征数据之前,对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第二特征数据;
所述第一处理单元,用于在基于所述至少一个第二特征数据确定所述至少一张第一待处理图像中包含非机动车的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
结合本申请任一实施方式,所述至少一张第一待处理图像的数量大于或等于2;所述至少一张第一待处理图像包括第二待处理图像和第三待处理图像;所述至少一个第二特征数据包括第三特征数据和第四特征数据;所述第三特征数据通过对所述第二待处理图像进行特征提取处理得到,所述第四特征数据通过对所述第三待处理图像进行特征提取处理得到;
所述第一处理单元,用于:
在依据所述第三特征数据确定所述第二待处理图像中包含待确认非机动车,且依据所述第四特征数据确定所述第三待处理图像中包含所述待确认非机动车的情况下,依据所述第二待处理图像和所述第三待处理图像,得到所述待确认非机动车的速度;
在所述速度小于速度阈值的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
结合本申请任一实施方式,所述第二处理单元,用于:
在依据所述第一位置确定所述非机动车位于非法入侵区域内的情况下,确定所述非机动车非法入侵。
结合本申请任一实施方式,所述第二处理单元,用于:
依据所述第一位置和所述非法入侵区域,得到所述非机动车覆盖的区域与所述非法入侵区域的面积重合度;
在所述面积重合度大于或等于面积重合度阈值的情况下,确定所述非机动车非法入侵。
结合本申请任一实施方式,所述第一获取单元,用于:
获取待处理视频流;
对所述待处理视频流进行解码处理,得到所述至少一张第一待处理图像。
结合本申请任一实施方式,所述第一获取单元,用于:
对所述待处理视频流进行解码处理,得到至少一张第四待处理图像;
依据图像质量评价指标,得到所述至少一张第四待处理图像的质量分数;所述图像质量评价指标包括以下至少一个:图像的分辨率的高低、图像的信噪比的大小、图像的清晰程度;
确定质量分数大于或等于质量分数阈值的第四待处理图像,作为所述至少一张第一待处理图像。
结合本申请任一实施方式,所述装置还包括:
第二获取单元,用于在所述监测结果包括所述非机动车非法入侵的情况下,获取采集所述至少一张第一待处理图像的摄像头的至少一个位置,作为至少一个第二位置;
发送单元,用于向终端发送包含所述至少一个第二位置的告警指令;所述告警指令用于指示所述终端输出告警信息。
第三方面,提供了一种处理器,所述处理器用于执行如上述第一方面及其任意一种可能实现的方式的方法。
第四方面,提供了一种电子设备,包括:处理器、发送装置、输入装置、输出装置和存储器,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,在所述处理器执行所述计算机指令的情况下,所述电子设备执行如上述第一方面及其任意一种可能实现的方式的方法。
第五方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序包括程序指令,在所述程序指令被处理器执行的情况下,使所述处理器执行如上述第一方面及其任意一种可能实现的方式的方法。
第六方面,提供了一种计算机程序产品,所述计算机程序产品包括计算机程序或指令,在所述计算机程序或指令在计算机上运行的情况下,使得所述计算机执行上述第一方面及其任一种可能的实现方式的方法。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本申请。
附图说明
为了更清楚地说明本申请实施例或背景技术中的技术方案,下面将对本申请实施例或背景技术中所需要使用的附图进行说明。
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本申请的实施例,并与说明书一起用于说明本申请的技术方案。
图1为本申请实施例提供的一种像素坐标系的示意图;
图2为本申请实施例提供的一种非机动车监测方法的流程示意图;
图3为本申请实施例提供的一种车辆框的示意图;
图4为本申请实施例提供的另一种非机动车监测方法的流程示意图;
图5为本申请实施例提供的一种同名点的示意图;
图6为本申请实施例提供的另一种非机动车监测方法的流程示意图;
图7为本申请实施例提供的另一种非机动车监测方法的流程示意图;
图8为本申请实施例提供的一种非机动车监测装置的结构示意图;
图9为本申请实施例提供的一种非机动车监测装置的硬件结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本申请实施例的执行主体为非机动车监测装置,非机动车监测装置可以是以下中的一种:手机、计算机、服务器、平板电脑。
在进行接下来的阐述之前,首先对本申请实施例中的像素坐标系进行定义。如图1所示,以图像A的右下角为像素坐标系的原点o、平行于图像A的行的方向为x轴的方向、平行于图像A的列的方向为y轴的方向,构建像素坐标系xoy。在像素坐标系下,横坐标用于表示图像A中的像素在图像A中的列数,纵坐标用于表示图像A中的像素在图像A中的行数,横坐标和纵坐标的单位均可以是像素。例如,假设图1中的像素a的坐标为(30,25),即像素a的横坐标为30个像素,像素a的纵坐标为25个像素,像素a为图像A中的第30列第25行的像素。
下面结合本申请实施例中的附图对本申请实施例进行描述。
请参阅图2,图2是本申请实施例提供的一种非机动车监测方法的流程示意图。
201、获取至少一张第一待处理图像。
本申请实施例中,第一待处理图像的数量大于或等于1。第一待处理图像可以包含任意内容。例如,第一待处理图像可以包括公路。又例如,第一待处理图像可以包括公路和车辆(本申请实施例中,车辆包括机动车和非机动车)。再例如,第一待处理图像可以包括人。再例如,第一待处理图像可以包括物体。本申请对第一待处理图像中的内容不做限定。
在一种获取至少一张第一待处理图像的实现方式中,非机动车监测装置接收用户通过输入组件输入的至少一张第一待处理图像。上述输入组件包括:键盘、鼠标、触控屏、触控板和音频输入器等。
在另一种获取至少一张第一待处理图像的实现方式中,非机动车监测装置接收数据终端发送的至少一张第一待处理图像。上述数据终端可以是以下任意一种:手机、计算机、平板电脑、服务器。
在又一种获取至少一张第一待处理图像的实现方式中,非机动车监测装置接收监控摄像头发送的至少一张第一待处理图像。可选的,该监控摄像头部署于公路(包括:高速公路、快速公路、城市公路)。
在又一种获取至少一张第一待处理图像的实现方式中,非机动车监测装置接收监控摄像头发送的视频流,将视频流中的至少一张图像作为至少一张第一待处理图像。可选的,该监控摄像头部署于公路(包括:高速公路、快速公路、城市公路)。
202、对上述至少一张第一待处理图像进行非机动车检测处理,得到上述至少一张第一待处理图像中非机动车的位置,作为第一位置。
本申请实施例中,通过对第一待处理图像进行非机动车检测处理,可确定第一待处理图像中是否包含非机动车。在第一待处理图像中包含非机动车的情况下,还可得到非机动车在第一待处理图像中的位置。上述位置可以是包含非机动车的车辆框的任意一对对角在像素坐标系下的坐标,例如,在图3中,第一待处理图像A包含非机动车B。包含非机动车B的车辆框为a(x1,y1)b(x2,y2)c(x3,y3)d(x4,y4),则非机动车B在第一待处理图像A中的位置可以是:a(x1,y1)和c(x3,y3),非机动车B在第一待处理图像A中的位置也可以是:b(x2,y2)和d(x4,y4)。需要理解的是,图3中的车辆框abcd是为了方便理解而画的,在得到非机动车B在第一待处理图像A中的位置的过程中,第一待处理图像A内不存在矩形框abcd,而是直接给出点a的坐标和点c的坐标,或点b的坐标和点d的坐标。
在一种可能实现的方式中,对第一待处理图像进行非机动车检测处理可通过卷积神经网络实现。通过将多张带有标注信息的图像作为训练数据,对卷积神经网络进行训练,使训练后的卷积神经网络可完成对图像的非机动车检测处理。训练数据中的图像的标注信息为非机动车以及非机动车的位置。在使用训练数据对卷积神经网络进行训练的过程中,卷积神经网络从图像中提取出图像的特征数据,并依据特征数据确定图像中是否有非机动车,在图像中有非机动车的情况下,依据图像的特征数据得到非机动车的位置。以标注信息为监督信息监督卷积神经网络在训练过程中得到的结果,并更新卷积神经网络的参数,完成对卷积神经网络的训练。这样,可使用训练后的卷积神经网络对第一待处理图像进行处理,以得到第一待处理图像中的非机动车的位置。
在另一种可能实现的方式中,非机动车检测处理可通过非机动车检测算法实现,其中,非机动车检测算法可以是以下中的一种:只需一眼算法(you only look once,YOLO)、目标检测算法(deformable part model,DMP)、单张图像多目标检测算法(singleshot multiBox detector,SSD)、Faster-RCNN算法等等,本申请对实现非机动车检测处理的非机动车检测算法不做具体限定。
在第一待处理图像的数量大于或等于2的情况下,分别对每一张第一待处理图像进行非机动车检测处理,得到每一张第一待处理图像中非机动车的位置。将同一辆非机动车在所有第一待处理图像中的位置作为第一位置。例如(例1),至少一张第一待处理图像包括:第一待处理图像A和第一待处理图像B。对第一待处理图像A进行非机动车检测处理,得到非机动车a的位置(下文将称为位置1)。对第一待处理图像B进行非机动车检测处理,得到非机动车a的位置(下文将称为位置2)和非机动车b的位置(下文将称为位置3)。此时,非机动车a的第一位置包括:位置1和位置2,非机动车b的第一位置包括:位置3。
203、依据上述第一位置,确定上述非机动车的非法入侵监测结果。
本申请实施例中,非机动车的非法入侵监测结果包括非机动车非法入侵,或包括非机动车未非法入侵。
在一种可能实现的方式中,至少一张第一待处理图像由公路上的监控摄像头采集。由于公路上的监控摄像头的监控区域固定,可在监控摄像头的监控区域内,确定与公路上的非机动非法入侵区域对应的区域,作为非法入侵区域,例如,在监控摄像头部署于高速公路上的情况下,可将监控区域内的高速公路区域作为非法入侵区域。这样,可在每一张第一待处理图像中确定非法入侵区域的范围。依据第一位置和非法入侵区域的范围,确定非机动车是否处于非法入侵区域内。在确定非机动车处于非法入侵区域内的情况下,确定非机动车非法入侵。举例来说,第一待处理图像a通过快速公路上的摄像头采集得到。在第一待处理图像a中,快速公路所覆盖的区域为非法入侵区域。基于步骤201对第一待处理图像a进行处理,得到第一待处理图像a中的非机动车A的第一位置。在依据非机动车A的第一位置确定非机动车A处于非法入侵区域内的情况下,确定非机动车A非法入侵。在依据非机动车A的第一位置确定非机动车A未处于非法入侵区域内的情况下,确定非机动车A非法入侵。
依据一张第一待处理图像中的非机动车的位置与非法入侵区域的范围,确定非机动车是否处于非法入侵区域内,可得到一个判断结果。在第一位置中包含至少2个非机动车的位置的情况下,可分别依据每一个非机动车的位置与非法入侵区域的范围,确定非机动车是否处于非法入侵区域内,得到至少2个判断结果。在至少2个判断结果中不存在判断结果为非机动处于非法入侵区域内的情况下,确定非机动车未非法入侵。在至少2个判断结果中存在判断结果为非机动处于非法入侵区域内的情况下,确定非机动车非法入侵。接着例1继续举例,依据位置1和非法入侵区域的范围,得到的判断结果为非机动车a处于非法入侵区域内。依据位置2和非法入侵区域的范围,得到的判断结果为非机动车a不在非法入侵区域内。由于依据非机动车a的第一位置得到的2个判断结果中,有一个判断结果为非机动车a处于非法入侵区域内,确定非机动车a非法入侵。
可选的,在第一位置中包含至少2个非机动车的位置的情况下,依据每个非机动车的位置,确定每个非机动车的车辆框的中心点,得到中心点集合。依据每个非机动车的位置,得到每个非机动车的车辆框的长,得到长集合。依据每个非机动车的位置,得到每个非机动车的车辆框的宽,得到宽集合。确定中心点集合中中心点的坐标的均值,得到目标中心点。确定长集合中长的均值,得到目标长。确定宽集合中长的均值,得到目标宽。依据目标中心点、目标长和目标宽,得到非机动车的目标位置。依据目标位置和非法入侵区域的范围,确定非机动车是否处于非法入侵区域内。在确定非机动车处于非法入侵区域内的情况下,确定非机动车非法入侵。接着例1继续举例,假设:依据位置1得到以下信息:车辆框的第中心点(下文将称为第一中心点)的坐标为(3,6)、车辆框的长(下文将称为第一长)为5、车辆框的宽(下文将称为第一宽)为3,依据位置2得到以下信息:车辆框的中心点(下文将称为第二中心点)的坐标为(3,5)、车辆框的长(下文将称为第二长)为4、车辆框的宽(下文将称为第二宽)为3。中心点集合包括:第一中心点和第二中心点,长集合包括:第一长和第二长,宽集合包括:第一宽和第二宽。确定第一中心点的坐标和第二中心点的坐标的均值:((3+3)/2,(6+5)/2))=(3,5.5),即为目标中心点的坐标。确定第一长和第二长的均值:(5+4)/2=4.5,即为目标长。确定第一宽和第二宽的均值:(3+3)/2=2,即为目标宽。将目标中心点的坐标作为非机动车的车辆框的两条对角线的交点的坐标,将目标长作为非机动车的车辆框的长。将目标宽作为非机动车的车辆框的宽,即可确定非机动车的车辆框,进而可得到非机动车的位置,进而可依据非机动车的位置与非法入侵区域的范围,确定非机动车是否非法入侵。在非机动车的位置处于非法入侵区域内的情况下,确定非机动车非法入侵。在非机动车的位置未处于非法入侵区域内的情况下,确定非机动车未非法入侵。
在另一种可能实现的方式中,实现步骤202的卷积神经网络还包括softmax层。将卷积层得到的第一位置输入至softmax层。通过softmax层内置的softmax函数,将第一位置映射成0至1之间的值,作为目标概率,其中,目标概率用于表征与第一位置对应的非机动车非法入侵的概率。在目标概率大于或等于概率阈值的情况下,确定非机动车非法入侵。在目标概率小于概率阈值的情况下,确定非机动车未非法入侵。
本实施通过对至少一张第一待处理图像进行处理得到至少一张待处理图像中的非机动车的第一位置,并依据第一位置确定非机动车是否非法入侵,以达到基于公路上的监控摄像头采集到的图像,实现监测公路上的非机动车非法入侵的效果,从而在不增加监测成本的前提下,提高监测效率和监测准确率。
请参阅图4,图4是本申请实施例提供的步骤202的一种实现方式的流程示意图。
401、对上述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据。
本实施中,特征提取处理可通过已训练的卷积神经网络实现,也可通过特征提取模型实现,本申请对此不作限定。
通过对每一张第一待处理图像分别进行特征提取处理,可提取出每一张第一待处理图像中的内容及语义信息,得到的第一特征数据。在一种可能实现的方式中,通过至少两层卷积层对第一待处理图像逐层进行卷积处理,完成对第一待处理图像的特征提取处理。至少两层卷积层中的卷积层依次串联,即上一层卷一层的输出为下一层卷积层的输入,每层卷积层提取出的内容及语义信息均不一样,具体表现为,特征提取处理一步步地将第一待处理图像的特征抽象出来,同时也将逐步丢弃相对次要的特征数据,其中,相对次要的特征信息指除非机动车的特征信息之外的特征信息。因此,越到后面提取出的特征数据的尺寸越小,但内容及语义信息更浓缩。通过多层卷积层逐级对第一待处理图像进行卷积处理,可在获得第一待处理图像中的内容信息及语义信息的同时,将第一待处理图像的尺寸缩小,减小非机动车监测装置的数据处理量,提高非机动车监测装置的运算速度。
在一种可能实现的方式中,卷积处理的实现过程如下:通过使卷积核在第一待处理图像上滑动,并将第一待处理图像上与卷积核的中心像素对应的像素称为目标像素。将第一待处理图像上的像素值与卷积核上对应的数值相乘,然后将所有相乘后的值相加得到卷积处理后的像素值。将卷积处理后的像素值作为目标像素的像素值。最终滑动处理完第一待处理图像,更新第一待处理图像中所有像素的像素值,完成对第一待处理图像的卷积处理,得到第一特征数据。示例性的,上述至少两层卷积层中的卷积核的尺寸均为3*3,卷积处理的步长为2。
402、依据上述至少一个第一特征数据,得到上述第一位置。
依据第一特征数据包含的信息,可确定第一待处理图像中非机动车的位置。
在一种可能实现的方式中,依据第一特征数据包含的信息,确定第一待处理图像中的非机动车,进而得到非机动车在第一待处理图像中的位置。
在另一种可能实现的方式中,依据第一特征数据包含的信息,确定包含第一待处理图像中非机动车的车辆框,并依据车辆框在第一待处理图像中的位置,得到非机动车在第一待处理图像中的位置。
可选的,步骤402也可通过已训练的神经网络实现。
本申请实施例通过对第一待处理图像进行特征提取处理,得到第一特征数据。依据第一特征数据,得到第一待处理图像中的非机动车的位置,可减小数据处理量,提高得到的非机动车的位置的准确率。
由于本申请实施例提供的技术方案用于确定第一待处理图像中的非机动车是否非法入侵,在进行后续处理前,需确定每一张第一待处理图像中是否包含非机动车。作为一种可选的实施方式,在执行步骤401之前,可执行以下步骤:
41、对上述至少一张第一待处理图像进行特征提取处理,得到至少一个第二特征数据。
通过对第一待处理图像进行特征提取处理,得到一个第二特征数据。可选的,分别对每一张第一待处理图像进行特征提取处理,可得到至少一个第二特征数据。
对至少一张第一待处理图像进行特征提取处理得到至少一个第二特征数据的实现过程,可参见对至少一张第一待处理图像进行特征提取处理得到至少一个第一特征数据的实现过程,其中,第二特征数据与第一特征数据对应。需要理解的是,得到第一特征数据的卷积神经网络的结构与得到第二特征数据的卷积神经网络的结构可以相同,但得到第一特征数据的卷积神经网络的权重与得到第二特征数据的卷积神经网络的权重不同。
42、在基于上述至少一个第二特征数据确定上述至少一张第一待处理图像中包含非机动车的情况下,执行步骤401。
在确定第一待处理图像中包含非机动车的情况下,对第一待处理图像进行特征提取处理,得到第一特征数据。对于不包含非机动车的第一待处理图像,将不再对其执行步骤401。这样,可减少数据处理量,提高处理速度。
作为一种可选的实施方式,在将本申请实施例提供的技术方案用于检测高快速上的非机动车非法入侵的情况下,步骤42具体包括以下步骤:
1、在依据上述第三特征数据确定上述第二待处理图像中包含待确认非机动车,且依据上述第四特征数据确定上述第三待处理图像中包含上述待确认非机动车的情况下,依据上述第二待处理图像和上述第三待处理图像,得到上述待确认非机动车的速度。
在本步骤中,至少一张第一待处理图像的数量大于或等于2,即第一待处理图像的数量至少为2。采集至少两张第一待处理图像的摄像头部署于限速公路。限速公路指对机动车的行驶速度的最小值有限制的公路,例如,公路A对机动车的行驶速度的限制为:50km/h至100km/h,则公路A为限速公路。本申请实施例中,km/h表示千米每小时,为速度的单位。可选的,限速公路包括:高速公路和快速公路。
至少两张第一待处理图像可为摄像头采集的视频流中的两帧图像,例如,通过高速公路上的摄像头采集的视频流包括3帧图像,分别为:图像a、图像b、图像c。至少两张第一待处理图像可包括:图像a和图像b,至少两张第一待处理图像也可包括:图像a和图像c,至少两张第一待处理图像也可包括:图像b和图像c,至少两张第一待处理图像也可包括:图像a、图像b、图像c。
在本步骤中,至少一张第一待处理图像包括第二待处理图像和第三待处理图像,其中第二待处理图像和第三待处理图像为两张不同的图像。至少一个第二特征数据包括第三特征数据和第四特征数据,其中,第三特征数据为对第二待处理图像进行特征提取处理得到的特征数据,第四特征数据为对第三待处理图像进行特征提取处理得到的特征数据。
在依据第二特征数据确定第一待处理图像中是否包含非机动车的过程中,通过利用第二特征数据包含的信息确定第一待处理图像中是否包含具有非机动车的外形的物体,进而确定第一待处理图像是否包含非机动车。由于部分非机动车的外形与部分机动车的外形的相似度高,这将导致依据第二特征数据确定第一待处理图像中是否包含非机动车的准确率低。举例来说,行驶速度在50km/h以上的电动摩托车为机动车,自行车为非机动车。由于电动摩托车的外形和自行车的外形的相似度高,在依据第二特征数据确定第一待处理图像中是否包含非机动车的过程中,可能将电动摩托车确定为非机动车,将自行车确定为机动车。
考虑到非机动车的行驶速度通常小于机动车的行驶速度,且限速公路对机动车的行驶速度有限制,本申请实施例将依据第二特征数据确定的第一待处理图像中的非机动车,作为待确认非机动车,并以待确认非机动车的行驶速度为依据,确定待确认非机动车是否为非机动车,以提高确定第一待处理图像中是否包含非机动车的准确率。
由于在后续确定待确认非机动车的速度的处理过程中,需要通过至少两张包含待确认非机动车的图像实现。例如,假设:图像a包含待确认非机动车A,图像b包含待确认非机动车B。依据图像a和图像b,无法得到待确认非机动车A的速度或待确认非机动车B的速度。又例如,假设:图像a包含待确认非机动车A和待确认非机动车B,图像b包含待确认非机动车B。依据图像a和图像b,无法得到待确认非机动车A的速度,但可依据图像a和图像b,得到待确认非机动车B的速度。也就是说,在包含待确认非机动车的图像的数量大于或等于2的情况下,才能确定该待确认非机动车的速度。
因此,在确定第二待处理图像和第三待处理图像均包含待确认非机动车的情况下,依据第三特征数据和第四特征数据,确定第二待处理图像中包含的车辆与第三待处理图像中包含的待确认非机动车是否相同。在第二待处理图像中包含的车辆与第三待处理图像中包含的待确认非机动车相同的情况下,依据第二待处理图像和第三待处理图像,得到待确认非机动车的速度。
在一种得到待确认非机动车的速度的实现的方式中,将待确认非机动车在第二待处理图像中所覆盖的像素区域称为第一像素区域,将待确认非机动车在第三待处理图像中所覆盖的像素区域称为第二像素区域。通过对第二待处理图像和第三待处理图像进行特征匹配处理,得到第一像素区域与第二像素区域中的同名点。本申请实施例中,同一个物理点在不同图像中的像素互为同名点。如图5所示,像素A与像素C互为同名点,像素B与像素D互为同名点。依据第一像素区域和第二像素区域中的同名点之间的像素位移,得到待确认非机动车的像素位移。获取采集第二待处理图像和第三待处理图像的摄像头的外部参数,其中,外部参数包括:摄像头的像素坐标系与世界坐标系之间的旋转矩阵、以及摄像头的像素坐标系与世界坐标系之间平移量。依据像素位移和外部参数,得到待确认非机动车的实际位移。获取采集第二待处理图像的时间,作为第一时间,获取采集第三待处理图像的时间,作为第二时间。依据第一时间和第二时间,得到待确认非机动车的行驶时间。依据行驶时间和实际位移,得到待确认非机动车的速度。上述特征匹配处理可通过暴风算法(bruteforce)、k最近邻算法(k-nearest neighbor,KNN)、快速最近邻搜索算法(fast libraryfor approximate nearest neighbors,FLANN)中的任意一种算法实现,本申请对此不作限定。
举例来说,通过对第二待处理图像和第三待处理图像进行特征匹配处理,得到2对同名点,分别为同名点1和同名点2。同名点1包括第一像素区域中的像素a和第二像素区域中的像素b。同名点2包括第一像素区域中的像素c和第二像素区域中的像素d。依据像素a的坐标和像素b的坐标,确定像素a和像素b之间的像素位移为d1。依据像素c的坐标和像素d的坐标,确定像素c和像素d之间的像素位移为d2。通过以下任意一种方式可确定待确认非机动车的像素位移:将d1作为待确认非机动车的像素位移、将d2作为待确认非机动车的像素位移、确定d1和d2的均值,作为待确认非机动车的像素位移。获取采集第二待处理图像和第三待处理图像的摄像头的外部参数。依据外部参数,将像素位移转换为世界坐标系下的位移,作为实际位移。获取采集第二待处理图像的时间t1和采集第二待处理图像的时间t2。依据t1和t2,确定待确认非机动车的行驶时间。依据行驶时间和实际位移,得到待确认非机动车的速度。
在另一种得到待确认非机动车的速度的实现的方式中,通过将标注信息为车辆的实际位移的图像对作为训练数据,对车辆位移模型进行训练,其中,图像对包括至少两张图像,且至少两张图像中的每张图像均包含参考车辆。使训练后的非车辆位移模型,可依据第二待处理图像和第三待处理图像,得到待确认非机动车的实际位移。举例来说,图像a和图像b均包含车辆A。将图像a和图像作为图像对,其中,车辆A为参考车辆。假设:采集图像a的时间为t1,采集图像b的时间为t2,将车辆A在t1至t2内的位移(此处的位移为车辆A在世界坐标系下的位移)作为图像对的标注信息。将图像对作为训练数据,对车辆位移模型进行训练,得到训练后的车辆位移模型。使用训练后的车辆位移模型对第二待处理图像和第三待处理图像进行处理,得到待确认非机动车的实际位移。
获取采集第二待处理图像的时间,作为第一时间,获取采集第三待处理图像的时间,作为第二时间。依据第一时间和第二时间,得到待确认非机动车的行驶时间。依据行驶时间和实际位移,得到待确认非机动车的速度。
2、在上述速度小于速度阈值的情况下,执行步骤401。
本申请实施中,速度阈值为限速公路上机动车的行驶速度的最小值,具体大小可依据用户的需求进行调整。可选的,速度阈值为50km/h。
由于限速公路上的机动车的行驶速度均大于或等于待确认非机动车的速度小于速度阈值,表征待确认非机动车不是机动车,从而可确定待确认非机动车为非机动车,并执行步骤401。
本申请实施依据至少两张包含待确认非机动车的第一待处理图像,得到待确认非机动车的速度。以待确认非机动车的速度和速度阈值为依据,确定待确认非机动车是否为非机动车,进而提高确定第一待处理图像中是否包含非机动车的准确率。
公路上通常包括机动车车道、非机动车道、人行道。在非机动车处于机动车道内,或非机动车处于人行道内的情况下,非机动车为非法入侵,在非机动车处于非机动车道的情况下,非机动车未非法入侵。
基于此,在确定非机动车是否非法入侵的过程中,可将公路分为非法入侵区域和未非法入侵区域,其中,非法入侵区域包括机动车道区域和人行道区域,未非法入侵区域包括非机动车道区域。在确定非机动车的第一位置后,可依据非机动车的第一位置,确定非机动车是否处于非法入侵区域内,从而确定非机动车是否非法入侵。
作为一种可选的实施方式,步骤203具体包括以下步骤:
21、在依据上述第一位置确定上述非机动车位于非法入侵区域内的情况下,确定上述非机动车非法入侵。
本申请实施例中,非法入侵区域包括上述非法入侵区域在第一待处理图像中的像素区域,且非法入侵区域可根据用户的使用情况进行调整。在一种可能实现的方式中,用户可在摄像头的监控区域内依次选取多个预设点,并将多个预设点依次连接,得到一个包含多个预设点的封闭的多边形,并将该多边形包含的区域作为非法入侵区域。例如,在将本申请实施例提供的技术方案,应用于监测高速公路上的非机动车是否非法入侵的情况下,非法入侵区域可为高速公路覆盖像素区域。又例如,在将本申请实施例提供的技术方案,应用于监测快速公路上的非机动车是否非法入侵的情况下,非法入侵区域可为快速公路覆盖的像素区域。
依据非机动车的第一位置和非法入侵区域的所覆盖的范围,可确定非机动车是否处于非法入侵区域内。在非机动车处于非法入侵区域内的情况下,确定非机动车非法入侵。在非机动车未处于非法入侵区域内的情况下,确定非机动车未非法入侵。
在一种可能实现的方式中(下文将成为第一种可能实现的方式),将与第一位置对应的车辆框,作为目标车辆框。在目标车辆框的四个顶点均在非法入侵区域内的情况下,确定非机动车处于非法入侵区域内,进而确定非机动车非法入侵。在目标车辆框的四个顶点中至少有一个顶点未处于非法入侵区域内的情况下,确定非机动车未处于非法入侵区域内,进而确定非机动车未非法入侵。
在另一种可能实现的方式中(下文将成为第二种可能实现的方式),将与第一位置对应的车辆框,作为目标车辆框。在目标车辆框包围的区域全部处于非法入侵区域内的情况下,确定非机动车处于非法入侵区域内,进而确定非机动车非法入侵。在目标车辆框包围的区域内存在特殊区域的区域情况下,确定非机动车处于非法入侵区域内,进而确定非机动车非法入侵,其中,特殊区域为未处于非法入侵区域内的区域。
作为一种可选的实施方式,步骤21具体包括以下步骤:
i、依据上述第一位置和上述非法入侵区域,得到上述非机动车覆盖的区域与上述非法入侵区域的面积重合度。
由于特殊因素的存在,非机动车的位置存在误差,其中,特殊因素包括:第一待处理图像的分辨率低、非机动车检测算法的精度低或非机动车检测模型的精度低。在非机动车的位置存在误差的情况下,无论是依据第一种可能实现的方式确定非机动车是否处于非法入侵区域内,还是依据第二种可能实现的方式确定非机动车是否处于非法入侵区域内,均易出现误差,进而导致确定非机动车是否非法入侵的准确率低。基于此,本步骤以非机动车覆盖的区域与非法入侵区域的面积重合度为依据,确定非机动车是否处于非法入侵区域内,以降低特殊因素的影响,从而提高确定非机动车是否处于非法入侵区域内的准确率,进而提高确定非机动车是否非法入侵的准确率。
将与第一位置对应的车辆框,作为目标车辆框。确定目标车辆框包围的区域与非法入侵区域的重合区域。假设重合区域的面积为:s1,非法入侵区域的面积为:s2,面积重合度为:U。在一种确定面积重合度的实现方式中,s1、s2、U满足下式:
Figure GDA0003162379540000161
其中,k为正数。可选的,k=1。
在另一种确定面积重合度的实现方式中,s1、s2、U满足下式:
Figure GDA0003162379540000162
其中,k为正数,c为实数。可选的,k=1,c=0。
在又一种确定面积重合度的实现方式中,s1、s2、U满足下式:
Figure GDA0003162379540000163
其中,k为正数。可选的,k=1。
ii、在上述面积重合度大于或等于面积重合度阈值的情况下,确定上述非机动车非法入侵。
面积重合度大于或等于面积重合度阈值,表征非机动车处于非法入侵区域内的概率高,在面积重合度大于或等于面积重合度阈值的情况下,确定非机动车处于非法入侵区域内,可降低特殊因素的影响,从而提高确定非机动车是否处于非法入侵区域内的准确率。
本申请实施例以面积重合度为依据,确定非机动车是否处于非法入侵区域内,以降低特殊因素的影响,从而提高确定非机动车是否处于非法入侵区域内的准确率,进而提高确定非机动车是否非法入侵的准确率。
为获取公路上的实时交通状况,公路上均部署有大量监控摄像头。使用本申请实施例提供的技术方案对监控摄像头采集的视频流进行处理,可实现对公路上的非机动车非法入侵的实时监测。
请参阅图6,图6为本申请实施例提供另一种非机动车监测方法的流程示意图。
601、获取待处理视频流。
本申请实施例中,非机动车监测装置与至少一个监控摄像头之间具有通讯连接。非机动车监测装置可从每个监控摄像头,获取监控摄像头实时采集的视频流,作为待处理视频流。
需要理解的是,与非机动车监测装置具有通讯连接的监控摄像头的数量并不是固定的,将监控摄像头的网络地址输入至非机动车监测装置,即可通过非机动车监测装置从监控摄像头获取监控摄像头实时采集的视频流。
举例来说(例2),相关执法人员希望使用本申请实施例提供的技术方案监测高速公路A上的非机动车非法入侵。相关执法人员可将高速公路A上的监控摄像头的网络地址输入至非机动车监测装置,即可通过非机动车监测装置获取高速公路A的监控摄像头实时采集的视频流。
602、对上述待处理视频流进行解码处理,得到上述至少一张第一待处理图像。
待处理视频流包含至少一帧图像,非机动车监测装置在对待处理视频流进行后续处理之前,可对待处理视频流进行解码处理,得到至少一帧图像,作为上述至少一张第一待处理图像。
举例来说,待处理视频流包括:图像a、图像b、图像c、图像d。对待处理视频流进行解码处理,得到4张第一待处理图像,分别为:图像a、图像b、图像c、图像d。
在通过步骤602得到至少一张第一待处理图像后,可基于本申请实施例提供的技术方案对至少一张第一待处理图像进行处理,确定至少一张第一待处理图像中是否包含非机动车,并在确定至少一张第一待处理图像中包含非机动车的情况下,确定非机动车是否非法入侵。以此,实现对公路上的非机动车非法入侵的实时监测。
以例2为例,通过对待处理视频进行解码处理,得到至少一张第一待处理图像。使用本申请实施例提供的技术方案对至少一张第一待处理图像进行处理,可确定高速公路A上是否有非机动车是否非法入侵。
第一待处理图像的图像质量越高,后续基于第一待处理图像,得到的第一位置的准确率就越高,确定第一待处理图像中的非机动车是否非法入侵的准确率也就越高。为进一步提高确定第一待处理图像中的非机动车是否非法入侵的准确率,作为一种可选的实施方式,步骤602具体包括以下步骤:
61、对上述待处理视频流进行解码处理,得到至少一张第四待处理图像。
本步骤的实现方式可参见步骤602,本步骤中的至少一张第四待处理图像与步骤602中的至少一张第一待处理图像对应。也就是说,在本步骤中,并不将对待处理视频流进行解码处理得到的图像,作为第一待处理图像,而是作为第四待处理图像。
62、依据图像质量评价指标,得到上述至少一张第四待处理图像的质量分数。
本申请实施例中,上述图像质量评价指标用于评价图像的质量。图像质量评价指标包括以下至少一个:图像的分辨率的高低、图像的信噪比的大小、图像的清晰程度,其中,图像的分辨率与图像质量呈正相关,图像的信噪比与图像质量呈正相关,图像的清晰程度与图像质量呈正相关。依据图像质量评价指标,可得到每一张第四待处理图像的质量分数。
举例来说,在第四待处理图像的分辨率大于或等于50每英寸的像素数(pixelsper inch,PPI)且小于或等于100PPI的情况下,评分增加1分。在第四待处理图像的分辨率大于100PPI且小于或等于150PPI的情况下,评分增加2分。在第四待处理图像的信噪比大于150PPI且小于或等于200PPI的情况下,评分增加3分。在第四待处理图像的分辨率大于250PPI且小于或等于300PPI的情况下,评分增加4分。在第四待处理图像的分辨率大于300PPI的情况下,评分增加5分。在第四待处理图像的信噪比大于20分贝且小于或等于30分贝的情况下,评分增加1分。在第四待处理图像的信噪比大于30分贝且小于或等于40分贝的情况下,评分增加2分。在第四待处理图像的信噪比大于40分贝且小于或等于50分贝的情况下,评分增加3分。在第四待处理图像的信噪比大于50分贝且小于或等于60分贝的情况下,评分增加4分。在第四待处理图像的信噪比大于60分贝的情况下,评分增加5分。此外,还可依据第四待处理图像的清晰度从1~5分中获得相应的分数,第四待处理图像的清晰度可通过一下一种算法得到:灰度方差函数、灰度方差乘积函数、能量梯度函数。最后将图像质量评价指标中的各项指标对应的分数相加,得到第四待处理图像的质量分数。
63、确定质量分数大于或等于质量分数阈值的第四待处理图像,作为上述至少一张第一待处理图像。
若第四待处理图像的质量分数小于质量分数阈值,表征第四待处理图像的图像质量差,对第四待处理图像进行处理,得到第一位置的准确率低,从而导致确定第一待处理图像中的非机动车是否非法入侵的准确率低。因此,将质量分数大于或等于质量分数阈值的第四待处理图像,作为第一待处理图像,可提高确定第一待处理图像中的非机动车是否非法入侵的准确率。
本实施基于公路上的监控摄像头采集到的视频流,得到至少一张第一待处理图像。由于监控摄像头均为公路上已有的设备,使用本申请实施例提供的技术方案对至少一张第一待处理图像进行处理,可在不增加成本的前提下,实现对公路上的非机动车非法入侵的实时监测。
为使相关执法人员在最短的时间内引导非机动车驶出非法入侵区域,作为一种可选的实施方式,在确定非机动车非法入侵的情况下(即在监测结果包括非机动车非法入侵的情况下),可执行与图7所示的流程示意图对应的方法:
701、获取采集上述至少一张第一待处理图像的摄像头的至少一个位置,作为至少一个第二位置。
本申请实施例中,摄像头的位置包括摄像头的经度信息和纬度信息。依据采集包含非机动车的第一待处理图像的摄像头的位置,可确定非机动车的位置,进而可引导相关执法人员到达非机动车非法入侵的地点。
将采集包含非机动车的至少一张第一待处理图像的摄像头的位置,作为至少一个第二位置。可选的,依据至少一个第二位置,得到非法入侵的非机动车的行驶轨迹,有利于相关执法人员追踪非法入侵的非机动车。
702、向终端发送包含所上述至少一个第二位置的告警指令。
本申请实施例中,终端可以是以下中的一种:手机、计算机、平板电脑、服务器。
上述告警指令可以是语音提示信息,如:“非法入侵的非机动车出现在北纬23度3分,东经115度16分”。上述告警指令也可以是文字提示信息,如:在终端的显示界面上弹出包含至少一个第二位置的提示窗口,提示窗口内包含提示文字,如:“非法入侵的非机动车出现在北纬23度3分,东经115度16分”。本申请对此不做限定。
本申请实施例中,告警指令用于指示终端输出告警信息。终端在接收到告警指令后,输出相应的告警信息,以提示相关执法人员及时到达非机动车非法入侵的位置,以引导非机动车驶出非法入侵区域。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
上述详细阐述了本申请实施例的方法,下面提供了本申请实施例的装置。
请参阅图8,图8为本申请实施例提供的一种非机动车监测装置的结构示意图,该装置1包括:第一获取单元11、第一处理单元12、第二处理单元13、特征提取处理单元14、第二获取单元15以及发送单元16,其中:
第一获取单元11,用于获取至少一张第一待处理图像;
第一处理单元12,用于对所述至少一张第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置;
第二处理单元13,用于依据所述第一位置,确定所述非机动车的非法入侵监测结果。
结合本申请任一实施方式,所述第一处理单元12,用于:
对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据;
依据所述至少一个第一特征数据,得到所述第一位置。
结合本申请任一实施方式,所述装置1还包括:
特征提取处理单元14,用于在所述对所述第一待处理图像进行特征提取处理,得到第一特征数据之前,对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第二特征数据;
所述第一处理单元12,用于在基于所述至少一个第二特征数据确定所述至少一张第一待处理图像中包含非机动车的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
结合本申请任一实施方式,所述至少一张第一待处理图像的数量大于或等于2;所述至少一张第一待处理图像包括第二待处理图像和第三待处理图像;所述至少一个第二特征数据包括第三特征数据和第四特征数据;所述第三特征数据通过对所述第二待处理图像进行特征提取处理得到,所述第四特征数据通过对所述第三待处理图像进行特征提取处理得到;
所述第一处理单元12,用于:
在依据所述第三特征数据确定所述第二待处理图像中包含待确认非机动车,且依据所述第四特征数据确定所述第三待处理图像中包含所述待确认非机动车的情况下,依据所述第二待处理图像和所述第三待处理图像,得到所述待确认非机动车的速度;
在所述速度小于速度阈值的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
结合本申请任一实施方式,所述第二处理单元13,用于:
在依据所述第一位置确定所述非机动车位于非法入侵区域内的情况下,确定所述非机动车非法入侵。
结合本申请任一实施方式,所述第二处理单元13,用于:
依据所述第一位置和所述非法入侵区域,得到所述非机动车覆盖的区域与所述非法入侵区域的面积重合度;
在所述面积重合度大于或等于面积重合度阈值的情况下,确定所述非机动车非法入侵。
结合本申请任一实施方式,所述第一获取单元11,用于:
获取待处理视频流;
对所述待处理视频流进行解码处理,得到所述至少一张第一待处理图像。
结合本申请任一实施方式,所述第一获取单元11,用于:
对所述待处理视频流进行解码处理,得到至少一张第四待处理图像;
依据图像质量评价指标,得到所述至少一张第四待处理图像的质量分数;所述图像质量评价指标包括以下至少一个:图像的分辨率的高低、图像的信噪比的大小、图像的清晰程度;
确定质量分数大于或等于质量分数阈值的第四待处理图像,作为所述至少一张第一待处理图像。
结合本申请任一实施方式,所述装置1还包括:
第二获取单元15,用于在所述监测结果包括所述非机动车非法入侵的情况下,获取采集所述至少一张第一待处理图像的摄像头的至少一个位置,作为至少一个第二位置;
发送单元16,用于向终端发送包含所述至少一个第二位置的告警指令;所述告警指令用于指示所述终端输出告警信息。
本实施通过对至少一张第一待处理图像进行处理得到至少一张待处理图像中的非机动车的第一位置,并依据第一位置确定非机动车是否非法入侵,以达到基于公路上的监控摄像头采集到的图像,实现监测公路上的非机动车非法入侵的效果,从而在不增加监测成本的前提下,提高监测效率和监测准确率。
在一些实施例中,本申请实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
图9为本申请实施例提供的一种非机动车监测装置的硬件结构示意图。该非机动车监测装置2包括处理器21,存储器22,输入装置23,输出装置24。该处理器21、存储器22、输入装置23和输出装置24通过连接器相耦合,该连接器包括各类接口、传输线或总线等等,本申请实施例对此不作限定。应当理解,本申请的各个实施例中,耦合是指通过特定方式的相互联系,包括直接相连或者通过其他设备间接相连,例如可以通过各类接口、传输线、总线等相连。
处理器21可以是一个或多个图形处理器(graphics processing unit,GPU),在处理器21是一个GPU的情况下,该GPU可以是单核GPU,也可以是多核GPU。可选的,处理器21可以是多个GPU构成的处理器组,多个处理器之间通过一个或多个总线彼此耦合。可选的,该处理器还可以为其他类型的处理器等等,本申请实施例不作限定。
存储器22可用于存储计算机程序指令,以及用于执行本申请方案的程序代码在内的各类计算机程序代码。可选地,存储器包括但不限于是随机存储记忆体(random accessmemory,RAM)、只读存储器(read-only memory,ROM)、可擦除可编程只读存储器(erasableprogrammable read only memory,EPROM)、或便携式只读存储器(compact disc read-only memory,CD-ROM),该存储器用于相关指令及数据。
输入装置23用于输入数据和/或信号,以及输出装置24用于输出数据和/或信号。输入装置23和输出装置24可以是独立的器件,也可以是一个整体的器件。
可理解,本申请实施例中,存储器22不仅可用于存储相关指令,还可用于存储相关数据,如该存储器22可用于存储通过输入装置23获取的第一待处理图像,又或者该存储器22还可用于存储通过处理器21得到的第一位置等等,本申请实施例对于该存储器中具体所存储的数据不作限定。
可以理解的是,图9仅仅示出了一种非机动车监测装置的简化设计。在实际应用中,非机动车监测装置还可以分别包含必要的其他元件,包含但不限于任意数量的输入/输出装置、处理器、存储器等,而所有可以实现本申请实施例的非机动车监测装置都在本申请的保护范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。所属领域的技术人员还可以清楚地了解到,本申请各个实施例描述各有侧重,为描述的方便和简洁,相同或类似的部分在不同实施例中可能没有赘述,因此,在某一实施例未描述或未详细描述的部分可以参见其他实施例的记载。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者通过所述计算机可读存储介质进行传输。所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriberline,DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,数字通用光盘(digital versatiledisc,DVD))、或者半导体介质(例如固态硬盘(solid state disk,SSD))等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:只读存储器(read-only memory,ROM)或随机存储存储器(random access memory,RAM)、磁碟或者光盘等各种可存储程序代码的介质。

Claims (11)

1.一种非机动车监测方法,其特征在于,所述方法包括:
获取至少一张第一待处理图像;
对所述至少一张第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置;
将与第一位置对应的车辆框,作为目标车辆框;
在所述目标车辆框的四个顶点均在非法入侵区域内的情况下,确定所述非机动车非法入侵;
在所述目标车辆框的四个顶点中至少有一个顶点未处于所述非法入侵区域内的情况下,确定所述非机动车未非法入侵。
2.根据权利要求1所述的方法,其特征在于,所述对所述第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置,包括:
对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据;
依据所述至少一个第一特征数据,得到所述第一位置。
3.根据权利要求2所述的方法,其特征在于,在所述对所述第一待处理图像进行特征提取处理,得到第一特征数据之前,所述方法还包括:
对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第二特征数据;
在基于所述至少一个第二特征数据确定所述至少一张第一待处理图像中包含非机动车的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
4.根据权利要求3所述的方法,其特征在于,所述至少一张第一待处理图像的数量大于或等于2;所述至少一张第一待处理图像包括第二待处理图像和第三待处理图像;所述至少一个第二特征数据包括第三特征数据和第四特征数据;所述第三特征数据通过对所述第二待处理图像进行特征提取处理得到,所述第四特征数据通过对所述第三待处理图像进行特征提取处理得到;
所述在基于所述至少一个第二特征数据确定所述至少一张第一待处理图像中包含非机动车的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤,包括:
在依据所述第三特征数据确定所述第二待处理图像中包含待确认非机动车,且依据所述第四特征数据确定所述第三待处理图像中包含所述待确认非机动车的情况下,依据所述第二待处理图像和所述第三待处理图像,得到所述待确认非机动车的速度;
在所述速度小于速度阈值的情况下,执行所述对所述至少一张第一待处理图像进行特征提取处理,得到至少一个第一特征数据的步骤。
5.根据权利要求1所述的方法,其特征在于,所述获取至少一张第一待处理图像,包括:
获取待处理视频流;
对所述待处理视频流进行解码处理,得到所述至少一张第一待处理图像。
6.根据权利要求5所述的方法,其特征在于,所述对所述待处理视频流进行解码处理,得到所述至少一张第一待处理图像,包括:
对所述待处理视频流进行解码处理,得到至少一张第四待处理图像;
依据图像质量评价指标,得到所述至少一张第四待处理图像的质量分数;所述图像质量评价指标包括以下至少一个:图像的分辨率的高低、图像的信噪比的大小、图像的清晰程度;
确定质量分数大于或等于质量分数阈值的第四待处理图像,作为所述至少一张第一待处理图像。
7.根据权利要求1至6中任意一项所述的方法,其特征在于,所述方法还包括:
在所述非机动车非法入侵的情况下,获取采集所述至少一张第一待处理图像的摄像头的至少一个位置,作为至少一个第二位置;
向终端发送包含所述至少一个第二位置的告警指令;所述告警指令用于指示所述终端输出告警信息。
8.一种非机动车监测装置,其特征在于,所述装置包括:
第一获取单元,用于获取至少一张第一待处理图像;
第一处理单元,用于对所述至少一张第一待处理图像进行非机动车检测处理,得到所述至少一张第一待处理图像中非机动车的位置,作为第一位置;
第二处理单元,用于将与第一位置对应的车辆框,作为目标车辆框;
在所述目标车辆框的四个顶点均在非法入侵区域内的情况下,确定所述非机动车非法入侵;
在所述目标车辆框的四个顶点中至少有一个顶点未处于所述非法入侵区域内的情况下,确定所述非机动车未非法入侵。
9.一种处理器,其特征在于,所述处理器用于执行如权利要求1至7中任意一项所述的方法。
10.一种电子设备,其特征在于,包括:处理器、发送装置、输入装置、输出装置和存储器,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,在所述处理器执行所述计算机指令的情况下,所述电子设备执行如权利要求1至7中任一项所述的方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,所述计算机程序包括程序指令,在所述程序指令被处理器执行的情况下,使所述处理器执行权利要求1至7中任意一项所述的方法。
CN202010127503.0A 2020-02-28 2020-02-28 非机动车监测方法及相关产品 Active CN111369753B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010127503.0A CN111369753B (zh) 2020-02-28 2020-02-28 非机动车监测方法及相关产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010127503.0A CN111369753B (zh) 2020-02-28 2020-02-28 非机动车监测方法及相关产品

Publications (2)

Publication Number Publication Date
CN111369753A CN111369753A (zh) 2020-07-03
CN111369753B true CN111369753B (zh) 2022-01-28

Family

ID=71206423

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010127503.0A Active CN111369753B (zh) 2020-02-28 2020-02-28 非机动车监测方法及相关产品

Country Status (1)

Country Link
CN (1) CN111369753B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114220284B (zh) * 2021-12-13 2023-08-08 四川路桥建设集团交通工程有限公司 一种高速公路监控方法、系统、计算机设备及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105657372A (zh) * 2016-02-04 2016-06-08 韩贵杰 实现执勤哨位视频智能侦测预警的方法及系统
WO2017143260A1 (en) * 2016-02-19 2017-08-24 Reach Consulting Group, Llc Community security system
CN110119456A (zh) * 2019-05-14 2019-08-13 深圳市商汤科技有限公司 检索图像的方法及装置
CN110491135A (zh) * 2019-08-20 2019-11-22 深圳市商汤科技有限公司 检测违章停车的方法及相关装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100665957B1 (ko) * 2006-03-16 2007-01-10 장병화 불법 침입 감지 시스템 및 그 방법
CN110097108B (zh) * 2019-04-24 2021-03-02 佳都新太科技股份有限公司 非机动车的识别方法、装置、设备及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105657372A (zh) * 2016-02-04 2016-06-08 韩贵杰 实现执勤哨位视频智能侦测预警的方法及系统
WO2017143260A1 (en) * 2016-02-19 2017-08-24 Reach Consulting Group, Llc Community security system
CN110119456A (zh) * 2019-05-14 2019-08-13 深圳市商汤科技有限公司 检索图像的方法及装置
CN110491135A (zh) * 2019-08-20 2019-11-22 深圳市商汤科技有限公司 检测违章停车的方法及相关装置

Also Published As

Publication number Publication date
CN111369753A (zh) 2020-07-03

Similar Documents

Publication Publication Date Title
CN111626208B (zh) 用于检测小目标的方法和装置
WO2020173056A1 (zh) 交通图像识别方法、装置、计算机设备和介质
CN112949633B (zh) 一种基于改进YOLOv3的红外目标检测方法
US11210570B2 (en) Methods, systems and media for joint manifold learning based heterogenous sensor data fusion
KR20210078530A (ko) 차선 속성 검출방법, 장치, 전자장치 및 가독 저장 매체
CN111325171A (zh) 异常停车监测方法及相关产品
KR20210137213A (ko) 이미지 처리 방법 및 장치, 프로세서, 전자 기기, 저장 매체
Yu et al. SAR ship detection based on improved YOLOv5 and BiFPN
Park et al. Real-time signal light detection
CN112949579A (zh) 一种基于密集卷积块神经网络的目标融合检测系统及方法
CN115565044A (zh) 一种目标检测方法及系统
CN111369753B (zh) 非机动车监测方法及相关产品
CN111368688A (zh) 行人监测方法及相关产品
CN116935361A (zh) 一种基于深度学习的驾驶员分心行为检测方法
CN114220063B (zh) 目标检测方法及装置
CN117218622A (zh) 路况检测方法、电子设备及存储介质
CN113297939B (zh) 障碍物检测方法、系统、终端设备及存储介质
Guo et al. A domain‐adaptive method with cycle perceptual consistency adversarial networks for vehicle target detection in foggy weather
CN111967332B (zh) 用于自动驾驶的能见度信息生成方法和装置
CN116823884A (zh) 多目标跟踪方法、系统、计算机设备及存储介质
CN115690665A (zh) 一种基于交叉U-Net网络的视频异常检测方法及装置
CN104899548A (zh) 一种方向盘上操作手数目视频检测方法
CN114895274A (zh) 一种护栏识别方法
CN115060184A (zh) 一种基于递归图的光纤周界入侵检测方法及系统
CN111339226B (zh) 一种基于分类检测网络构建地图方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant