CN112071084A - 一种利用深度学习判断违章停车的方法和系统 - Google Patents

一种利用深度学习判断违章停车的方法和系统 Download PDF

Info

Publication number
CN112071084A
CN112071084A CN202010984362.4A CN202010984362A CN112071084A CN 112071084 A CN112071084 A CN 112071084A CN 202010984362 A CN202010984362 A CN 202010984362A CN 112071084 A CN112071084 A CN 112071084A
Authority
CN
China
Prior art keywords
vehicle
illegal parking
monitoring
human body
deep learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010984362.4A
Other languages
English (en)
Inventor
郁强
王国梁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CCI China Co Ltd
Original Assignee
CCI China Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CCI China Co Ltd filed Critical CCI China Co Ltd
Priority to CN202010984362.4A priority Critical patent/CN112071084A/zh
Publication of CN112071084A publication Critical patent/CN112071084A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/017Detecting movement of traffic to be counted or controlled identifying vehicles
    • G08G1/0175Detecting movement of traffic to be counted or controlled identifying vehicles by photographing vehicles, e.g. when violating traffic rules
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G06V20/42Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles

Abstract

本发明提供一种利用深度学习判断违章停车的方法和系统,包括以下步骤:获取预设区域的监控视频流,其中预设区域至少包括违停区域;当监控视频流中存在不小于预设时间段内停留在违停区域内的监控车辆,且判断该监控车辆中的人员在该预设时间段内是否出现下车姿态,若是,则判断该监控车辆为违停车辆,技术改进了以往判定违停车辆规则中可能存在的误报问题,并增加了驾驶人的姿态动作估计,以满足并更加符合判定规则,提高了违停车辆的判定准确度。

Description

一种利用深度学习判断违章停车的方法和系统
技术领域
本发明涉及交通管理领域,特别涉及一种利用深度学习判断违章停车的方法和系统。
背景技术
根据城市交通管理过程中的实际管理要求,一些城市道路和区域会被划分为禁止停车或者禁止临时停车路段。如果机动车辆在此路段/区域内停留的时间过长,则需要按照相关法律规定和涉及的地方法律法规对机动车的违法停车进行处罚。根据各地管理职责划分会由公安交通管理单位或者地方城市管理部门具体执行机动车违停法律法规条例处罚工作。
然而,目前执法部门基本是采用人工巡查的方法进行现场判定或采用道路监控摄像头的方法进行非现场判断。现场判定的方式需要派遣相关的执法人员驻守在现场对车辆进行人工的筛查,这无疑加大了执法部门的执法工作量也提高了执法的成本,另外,人工巡查的方式难免会存在由于工作人员工作懈怠或工作疲劳等原因导致的遗漏情况。采用道路监控摄像头进行非现场判断违章停车的方法又包括人工判定和机器判定,其中人工判定违章停车的方法需要人为地逐个摄像头查看监控内容是否存在违法停车行为,基本无法做到全天候监控,而利用机器判定违章停车的方法违停车辆判定算法来实现,目前的违停车辆判定算法判定违停车辆的算法过于简单,容易出现误判的情况。比如申请公告号为CN109615868A公开了一种借助简单的IOU算法跟踪车辆目标,并判断跟踪车辆是否为违停车辆的方案,但是该方案判定违停车辆的算法过于简单,一旦摄像头出现遮挡或摄像头拍摄角度受限的情况就很容易将其他车辆判定为违停车辆,也就是说目前存在的违停车辆判定算法的检测精度不高,容易出现误判的情况。
另外,目前的违停车辆判断算法无法检测驾驶人员是否下车或者有下车意向,在一些违停车辆的判定情况中,如果驾驶员没有下车,则不能直接判定此车辆存在违停现象。
发明内容
本发明的目的在于提供一种利用深度学习判断违章停车的方法和系统,该利用深度学习判断违章停车的方法融合多种算法综合判定车辆的违停状态,减少在摄像头监控判断违章停车过程中的人工检查工作,技术改进了以往判定违停车辆规则中可能存在的误报问题,并增加了驾驶人的姿态动作估计,以满足并更加符合判定规则,提高了违停车辆的判定准确度。
第一方面,提供一种利用深度学习判断违章停车的方法,包括以下步骤:获取预设区域的监控视频流,其中预设区域至少包括违停区域;当监控视频流中存在不小于预设时间段内停留在违停区域内的监控车辆,且判断该监控车辆中的人员在该预设时间段内是否出现下车姿态,若是,则判断该监控车辆为违停车辆。
第二方面,提供一种深度学习判断违章停车的系统,包括:数据采集模块,用于采集预设区域的监控视频流,其中预设区域至少包括违停区域;检测模块,用于检测图像帧中的监控车辆和人体关键点;跟踪模块,用于跟踪不同图像帧中的监控车辆以及人体关键点,得到跟踪信息;判断模块,基于跟踪信息判断监控车辆在违停阈值时间内是否停留在违停区域,以及,在该时间段内是否出现人员下车姿态,若同时满足则判断该监控车辆为违章车辆。
第三方面,一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现以上任一所述提到的利用深度学习判断违章停车的方法。
第四方方面,一种计算机可读存储介质,其特征在于,其上存储有计算机程序,所述计算机程序被处理器执行时实现以上任一所述提到的利用深度学习判断违章停车的方法。
相较现有技术,本技术方案具有以下的特点和有益效果:本方案结合车辆目标检测算法和对象跟踪算法精确地获取监控视频中的车辆信息,并定位相同车辆实现车辆的跟踪,区别于现有方案的IOU算法可以更准确地跟踪车辆,即本方案采用多种算法结合的方式提高了车辆识别的准确度,在车辆定位端就减少了违停车辆的误判;另,本方案结合姿态检测算法检测驾驶人的位置,判断驾驶员是否有下车动作,若车辆在设定的位置内停留超过阈值时间并且出现了驾驶员下车的动作,则判定车辆处于违法停车的状态,即,更加符合违停车辆判定的判定规则。
附图说明
图1是根据本发明的一实施例的利用深度学习判断违章停车的方法的流程示意图。
图2是根据本发明的一实施例的利用深度学习判断违章停车的系统的框图示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
本方案提供一种利用深度学习判断违章停车的方法,该方法融合多项深度学习算法进行违章停车的判断,区别于目前市面上的违章停车方法可极大程度地提高车辆的判定精度,且融合了驾驶人员的姿态判断,使得违章停车方法的判定规则更加符合实际需求。
具体的,该利用深度学习判断违章停车的方法采用目标检测技术解决了人工查看违停车辆造成的疲劳问题,利用多目标跟踪技术解决车辆目标跟踪技术精度不高的问题,利用姿态判断技术判断驾驶人员是否有下车动作解决了以往技术无法判断驾驶人员是否在车上的问题。且通过本方案实现两个违停条件的同时监管,若车辆同时满足①在违停区域停车时间超过阈值;②在违停期间出现了下车动作两个条件,则判断该车辆为违章停车方法。
具体的,该利用深度学习判断违章停车的方法包括以下步骤:
采集监控数据:获取预设区域的监控视频流,其中预设区域至少包括违停区域。
在监控数据的采集步骤中,监控视频流内包括预设时间段内连续的图像帧,当然用户可间隔时间段截取预设时间段内监控的视频流,此时,该监控视频流包括该预设时间段内连续的图像帧。
另外,本方案的监控视频流来自于监控违停区域的摄像记录设备,摄像记录设备可以是摄像头也可以是摄像头接入的监控平台。在实际过程中,可以是在人为标记违停区域后,在监控区域中调取对应该违停区域的视频流作为监控视频流;也可以是获取监控区域的视频流后再在该监控区域中标记违停区域,后续通过目标检测算法检测违停区域内的车辆。
此外,视频流的类型可以是类似rtsp的流媒体,也可以是经过媒体网关转发的rtmp/hls媒体流,具体的类型并无太多的限制。视频流中包括多个图像帧,读取图像帧的方法可以采用opencv的api接口或者使用ffmpeg直接将视频帧转为图像。
示例性的,在本方案中采集监控数据进一步包括步骤:人工标记违停区域,并从摄像头或摄像头接入的监控平台获取预设区域的视频流,并读取该视频流中的每一图像帧的内容,其中预设区域至少包括违停区域。
违停车辆判断:当监控视频流中存在不小于预设时间段内停留在违停区域内的监控车辆,且判断该监控车辆中的人员在该预设时间段内是否出现下车姿态,若是,则判断该监控车辆为违停车辆。
对应的,违停车辆判断的过程需要至少包括获取监控车辆并且跟踪监控车辆的步骤;以及跟踪监控车辆内的人体姿态的步骤。
其中获取监控车辆并且跟踪监控车辆的步骤包括:获取第一时刻的第一图像帧中出现在违停区域内的监控车辆,跟踪第一时刻后预设时间段内的连续多帧图像帧中的监控车辆。
在本方案中,监控视频流包括多帧图像帧,定义第一时刻对应的图像帧为第一图像帧。值得一提的是,此处的第一时刻并无特殊含义,仅代表获取第一图像帧时的时间点。
其中,在该步骤中通过目标检测算法获取第一图像帧中的监控车辆,其中监控车辆即被指定为需要被监控的车辆,在本方案中监控车辆指的是出现在违停区域的车辆。其中目标检测算法包括不限于:Yolo系列、EfficientDet系列、FasterRCNN等。
具体的,利用目标检测算法训练深度学习的车辆检测框架,采用机动车作为训练样本训练得到车辆检测模型,利用车辆检测模型获取车辆信息,其中车辆信息至少包括车辆位置信息,随后通过车辆位置信息和违停区域位置信息进行比对,若车辆的位置信息和违停区域的位置信息重合或者交叉,则认为该车辆出现在违停区域,后续可能会违停在该违停区域,选择该车辆作为监控车辆。在本方案中,车辆检测模型获取车辆的矩阵信息作为车辆位置信息,通过比对车辆的矩阵信息和违停区域的区域信息则可判断车辆是否为监控车辆。
示例性的,获取监控车辆在第一图像帧中的bbox1-bbox2两个位置。
当然,在实际过程中若包括多个违停区域,或者违停区域较大,则第一图像帧中可能会出现多个监控车辆,此时针对每辆监控车辆作对应的后续跟踪和判断动作。
在跟踪监控车辆步骤中,若预设时间段以第二时刻为第二节点,则该步骤就是跟踪第一时刻和第二时刻之间的图像帧中的监控车辆,其中预设时间段不小于违停阈值时间。在获取监控车辆步骤中获取的监控车辆在第一时刻已经出现在违停区域,若在预设时间段内该监控车辆在违停区域内,则可初步判断该监控车辆有违停的可能性。
具体的,在本方案中采用对象跟踪算法对监控车辆进行跟踪。获取第一图像帧的后续图像帧中的检测车辆,采用对象跟踪算法关联检测车辆和监控车辆,以在后续图像帧中跟踪到监控车辆。值得一提的是,优选地,此处的后续图像帧连续获取,示例性的,若第一图像帧为P1,则首先在第一图像帧P1的后一帧“第二图像帧P2”中完成车辆的跟踪,随后在第二图像帧P2的后一帧“第二图像帧P3”中完成车辆的跟踪。
其中对象跟踪算法可以采用类似开尔曼滤波、DeepSort等机器学习或者深度学习算法进行:若采用DeepSort这类深度学习算法,则需要对搭载DeepSort算法的深度学习模型进行车辆特征数据的训练,以便其能识别车辆特征,此时需要获取第一图像帧中的监控车辆的车辆特征数据。
若采用开尔曼滤波算法,则基于前一图像帧通过卡尔曼滤波算法获取监控车辆在后一图像帧中的预测车辆;通过目标检测算法获取后一图像帧中的检测车辆;通过匈牙利算法对预测车辆和检测车辆进行数据关联,获得所述预测车辆和所述检测车辆的最佳匹配;基于后一图像帧重复上述步骤直到处理所有连续多帧图像帧,以获得监控车辆在连续多帧图像帧中的轨迹。
示例性的,通过开尔曼滤波算法推测第一时刻的监控车辆的两个位置bbox1-bbox2在预测时刻对应的位置bbox1’-bbox2’,同时采用车辆目标检测方法获取在预测时刻的图像帧中的检测车辆有bboxI和bboxK,现在需要将bbox1’-bbox2’和bboxI-bboxK关联起来,也就是说需要判断在第一时刻bbox1-bbox2的车辆在预测时刻中的bboxI和bboxK中的哪一个。
另外,在本方案中可通过结合IOU过滤方法,过滤车辆检测过程中和车辆预测过程中外观形状大小不同的车辆,另外通过深度学习算法,可以通过车辆特征值比较计算得到哪两个车辆时最相似,最后需要通过匈牙利算法,选择最能满足要求的两两匹配,这样就能将检测到的车辆和预测的车辆关联起来,也就是监控车辆。
另外,值得一提的是,由于本方案提供的利用深度学习判断违章停车的方法是动态持续进行的,因此在跟踪监控车辆的过程中出现新的监控车辆,则对于新的监控车辆依旧采用上述方法进行跟踪。
跟踪监控车辆的过程中依旧会获取监控车辆和违停区域之间的位置关系,若监控车辆在跟踪过程中离开违停区域,则停止对该监控车辆的跟踪。即,若监控车辆在第一时刻和第二时刻之间的第三时刻离开违停区域,则停止对该监控车辆的跟踪,监控车辆的车辆位置和违停区域的位置判断可参考获取监控车辆步骤中的描述。
不仅如此,通过跟踪监控车辆还可获取车辆是否离开监控区域的信息以及离开监控区域的具体时间信息。此时,若监控车辆在第一时刻和第二时刻之间的第四时刻离开监控区域,且在第四时刻后的预设时间内均未重新出现,则表示该监控车辆离开监控区域。
跟踪监控车辆内的人体姿态:
跟踪第一时刻预设时间段内的连续多帧图像帧的关键点数据集。具体的,获取图像帧中的监控车辆所处的位置区域内的人体关键点,跟踪人体关键点得到连续多帧图像帧的关键点数据集。
具体的,在本方案中采用人体关键点检测算法检测第一时刻和第二时刻之间的图像帧中的人体关键点,并比对人体关键点和监控车辆所处的位置区域的位置关系,若在监控车辆所处的位置区域内检测到人体关键点,则获取后续图像帧中的人体关键点,并连续判断人体姿态。
其中监控车辆所处的位置区域包括监控车辆内以及监控车辆车门附近的区域,且在跟踪监控车辆中已利用对象跟踪算法跟踪到监控车辆,因此也可获取第一时刻和第二时刻之间的图像帧中的监控车辆所处的位置区域。
在本方案中,人体关键点检测算法包括但不限于OpenPose、DeepPose、DensePose等自底而上的深度学习算法,此类深度学习算法用于检测人体骨架位置包括眼睛、鼻子、额头、耳朵、嘴、肩部、手肘、手腕、手掌、手指、胸部、臀部、膝盖、脚腕、脚掌、脚趾中的至少一种人体部位(关键点)。且搭载人体关键点检测算法的模型也可获取人体关键点在图像帧中的位置,比对人体关键点的位置和监控车辆所处的位置区域,判断人体关键点是否出现在监控车辆的车辆位置信息对应的区域范围内,若人体关键点出现在监控车辆的车辆位置信息对应的区域范围内,则触发进行人体姿态判断。
判断监控车辆是否为违章车辆:
若监控车辆在预设时间段内未超出违停区域,且,出现人员下车姿态,判定监控车辆为违章停车。
具体的,判定监控车辆是否在违停阈值时间内均停留在违停区域的方法:在跟踪监控车辆步骤,若自第一时刻起在违停阈值时间内被跟踪的监控车辆的车辆位置未超出违停区域的位置,则判定该监控车辆在违停阈值时间内均停留在违停区域。
判定在该时间段内是否出现人员下车姿态的方法:获取连续多帧图像帧的关键点数据集,建立人体姿态关键点数据的向量模型,并和事先采集好的下车动作姿态模型做相似性判断,可以获得该动作是否为下车动作的判断,这类动作行为估计算法包括但不限于SVM支持向量机、逻辑回归分类器、softmax分类器等等。
示例性地,在图像1中获取到人体关键点显示人的脚在车内,图像2中获取的人体关键点显示人的脚在车外,则可判断人体至少作出移动脚步至车外的姿态。
当然在实际情况中,若判定该车为违章车辆,则可获取该违章车辆的车辆信息并对其进行后续的车辆管理活动。
第二方面,本方案提供一种利用深度学习判断违章停车的系统,该系统至少包括:
数据采集模块,用于采集预设区域的监控视频流,其中预设区域至少包括违停区域;
检测模块,用于检测图像帧中的监控车辆和人体关键点;
跟踪模块,用于跟踪不同图像帧中的监控车辆以及人体关键点,得到跟踪信息;
判断模块,基于跟踪信息判断监控车辆在预设时间段(不小于违停阈值时间)内是否停留在违停区域,以及,在该时间段内是否出现人员下车姿态,若同时满足则判断该监控车辆为违章车辆。
具体的,数据采集模块包括图像帧读取模块,其中图像帧读取模块读取监控视频流的每一图像帧的图像信息,图像帧读取模块读取图像帧的方法可以采用opencv的api接口或者使用ffmpeg直接将视频帧转为图像。其他关于监控视频流的格式和选择等内容参见其上采集监控数据部分内容。
检测模块进一步包括车辆目标检测模块以及人体关键点检测模块。
其中车辆目标检测模块内置目标检测算法对图像帧中的车辆进行检测,其中目标检测算法包括但不限于Yolo系列、EfficientDet系列、FasterRCNN等。另外,本方案的车辆目标检测模块采用利用目标检测算法训练过的车辆检测模型以获取车辆的位置信息,基于车辆的位置信息和违停区域的位置信息,得到监控车辆。
其中人体关键点检测模块内置人体关键点检测算法对图像帧中的人体关键点进行检测,其中人体关键点检测算法包括但不限于OpenPose、DeepPose、DensePose等自底而上的深度学习算法。同上,本方案的人体关键点检测模块采用利用人体关键点检测算法训练过的人体关键点检测模块以获取人体关键点的位置信息,基于人体关键点的位置信息和监控车辆所处的位置区域,得到需求的人体关键点,并且基于满足人体关键点置于监控车辆所处的位置区域内的人体关键点,触发跟踪模块对人体关键点进行跟踪。
其中跟踪模块包括监控车辆跟踪模块以及人体关键点跟踪模块,其中监控车辆跟踪模块采用对象跟踪算法对监控车辆进行跟踪,具体的跟踪方法和内容参见其上“跟踪监控车辆”步骤所述;其中人体关键点跟踪模块需要被人体关键点检测模块触发,跟踪获取图像帧中的人体关键点,并组合形成人体关键点数据集。
其中判断模块依据其上“判断监控车辆是否为违章车辆”步骤所述,在此不再累赘说明。
用于实现本方案提及的利用深度学习判断违章停车方法的服务器的计算机系统包括中央处理单元CPU),其可以根据存储在只读存储器(ROM)中的程序或者从存储部分加载到随机访问存储器(RAM)中的程序而执行各种适当的动作和处理。在RAM中,还存储有系统操作所需的各种程序和数据。CPU、ROM以及RAM通过总线彼此相连。输入/输出(I/O)接口也连接至总线。
以下部件连接至I/O接口:包括键盘、鼠标等的输入部分;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分;包括硬盘等的存储部分;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分。通信部分经由诸如因特网的网络执行通信处理。驱动器也根据需要连接至I/O接口。可拆卸介质,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器上,以便于从其上读出的计算机程序根据需要被安装入存储部分。
特别地,根据本发明公开的实施例,上文参考流程图描述的利用深度学习判断违章停车方法的程序可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的利用深度学习判断违章停车方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分从网络上被下载和安装,和/或从可拆卸介质被安装。在该计算机程序被中央处理单元(CPU)执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的利用深度学习判断违章停车系统、利用深度学习判断违章停车方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的模块也可以设置在处理器中。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述利用深度学习判断违章停车方法中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备执行以下方法所对应过的流程步骤。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (12)

1.一种利用深度学习判断违章停车的方法,其特征在于,包括以下步骤:
获取预设区域的监控视频流,其中预设区域至少包括违停区域;
当监控视频流中存在不小于预设时间段内停留在违停区域内的监控车辆,且判断该监控车辆中的人员在该预设时间段内是否出现下车姿态,若是,则判断该监控车辆为违停车辆。
2.根据权利要求1所述的利用深度学习判断违章停车的方法,其特征在于,获取第一时刻的第一图像帧中出现在违停区域内的监控车辆,跟踪第一时刻后预设时间段内的连续多帧图像帧中的监控车辆。
3.根据权利要求2所述的深度学习判断违章停车的方法,其特征在于,基于前一图像帧通过卡尔曼滤波算法获取监控车辆在后一图像帧中的预测车辆;通过目标检测算法获取后一图像帧中的检测车辆;通过匈牙利算法对预测车辆和检测车辆进行数据关联,获得所述预测车辆和所述检测车辆的最佳匹配;基于后一图像帧重复上述步骤直到处理所有连续多帧图像帧,以获得监控车辆在连续多帧图像帧中的轨迹。
4.根据权利要求1所述的深度学习判断违章停车的方法,其特征在于,跟踪第一时刻后预设时间段内的连续多帧图像帧的关键点数据集,基于关键点数据集判断该监控车辆中的人员在该预设时间段内是否出现下车姿态。
5.根据权利要求4所述的深度学习判断违章停车的方法,其特征在于,利用人体关键点检测算法获取图像帧中的人体关键点,比对人体关键点和监控车辆所处位置区域的位置关系,若人体关键点位于监控车辆所处位置区域,触发获取后续连续多帧图像帧的人体关键点。
6.根据权利要求5所述的深度学习判断违章停车的方法,其特征在于,监控车辆所处位置区域包括监控车辆内部以及监控车辆车门附近区域。
7.根据权利要求4所述的深度学习判断违章停车的方法,其特征在于,获取连续多帧图像帧的关键点数据集,建立人体姿态关键点数据的向量模型,并和下车动作姿态模型做相似性判断,判断是否出现人员下车姿态。
8.一种深度学习判断违章停车的系统,其特征在于,包括:
数据采集模块,用于采集预设区域的监控视频流,其中预设区域至少包括违停区域;
检测模块,用于检测图像帧中的监控车辆和人体关键点;
跟踪模块,用于跟踪不同图像帧中的监控车辆以及人体关键点,得到跟踪信息;
判断模块,基于跟踪信息判断监控车辆在违停阈值时间内是否停留在违停区域,以及,在该时间段内是否出现人员下车姿态,若同时满足则判断该监控车辆为违章车辆。
9.根据权利要求8所述的深度学习判断违章停车的系统,其特征在于,检测模块进一步包括车辆目标检测模块以及人体关键点检测模块,车辆目标检测模块内置目标检测算法对图像帧中的车辆进行检测,人体关键点检测模块内置人体关键点检测算法对图像帧中的人体关键点进行检测。
10.根据权利要求8所述的深度学习判断违章停车的系统,其特征在于,跟踪模块包括监控车辆跟踪模块以及人体关键点跟踪模块,其中监控车辆跟踪模块采用对象跟踪算法对监控车辆进行跟踪,其中人体关键点跟踪模块被人体关键点检测模块触发,跟踪获取图像帧中的人体关键点,并组合形成人体关键点数据集。
11.一种电子设备,其特征在于,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现以上权利要求1到7任一所述提到的利用深度学习判断违章停车的方法。
12.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,所述计算机程序被处理器执行时实现以上权利要求1到7任一所述提到的利用深度学习判断违章停车的方法。
CN202010984362.4A 2020-09-18 2020-09-18 一种利用深度学习判断违章停车的方法和系统 Pending CN112071084A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010984362.4A CN112071084A (zh) 2020-09-18 2020-09-18 一种利用深度学习判断违章停车的方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010984362.4A CN112071084A (zh) 2020-09-18 2020-09-18 一种利用深度学习判断违章停车的方法和系统

Publications (1)

Publication Number Publication Date
CN112071084A true CN112071084A (zh) 2020-12-11

Family

ID=73681205

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010984362.4A Pending CN112071084A (zh) 2020-09-18 2020-09-18 一种利用深度学习判断违章停车的方法和系统

Country Status (1)

Country Link
CN (1) CN112071084A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112966563A (zh) * 2021-02-04 2021-06-15 同济大学 一种基于人体骨骼检测和跟踪算法的行为识别方法
CN113380047A (zh) * 2021-06-22 2021-09-10 重庆盛海科技发展有限公司 一种基于传统摄像机的违规停车检测方法
CN113473077A (zh) * 2021-05-31 2021-10-01 超级视线科技有限公司 一种基于多维度的路侧逆向停车的判断方法及系统
CN113570871A (zh) * 2021-07-09 2021-10-29 超级视线科技有限公司 一种基于多维度的车辆人员上下车判断方法及系统
CN113792700A (zh) * 2021-09-24 2021-12-14 成都新潮传媒集团有限公司 一种电瓶车入箱检测方法、装置、计算机设备及存储介质
CN114842650A (zh) * 2022-03-28 2022-08-02 北京华录高诚科技有限公司 一种车辆超时违停判断方法及装置、图像采集设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012095867A2 (en) * 2011-01-12 2012-07-19 Videonetics Technology Private Limited An integrated intelligent server based system and method/systems adapted to facilitate fail-safe integration and /or optimized utilization of various sensory inputs
CN104157143A (zh) * 2014-08-15 2014-11-19 青岛比特信息技术有限公司 违章停车检测系统及其检测方法
CN105046966A (zh) * 2015-05-08 2015-11-11 天津大学 即停即离区域的违章停车行为自动检测系统和方法
CN109326124A (zh) * 2018-10-17 2019-02-12 江西洪都航空工业集团有限责任公司 一种基于机器视觉的城市环境停放车辆行为识别系统
CN110674785A (zh) * 2019-10-08 2020-01-10 中兴飞流信息科技有限公司 一种基于人体关键点跟踪的多人姿态分析方法
CN111339994A (zh) * 2019-12-31 2020-06-26 智慧互通科技有限公司 一种判断临时违章停车的方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012095867A2 (en) * 2011-01-12 2012-07-19 Videonetics Technology Private Limited An integrated intelligent server based system and method/systems adapted to facilitate fail-safe integration and /or optimized utilization of various sensory inputs
CN104157143A (zh) * 2014-08-15 2014-11-19 青岛比特信息技术有限公司 违章停车检测系统及其检测方法
CN105046966A (zh) * 2015-05-08 2015-11-11 天津大学 即停即离区域的违章停车行为自动检测系统和方法
CN109326124A (zh) * 2018-10-17 2019-02-12 江西洪都航空工业集团有限责任公司 一种基于机器视觉的城市环境停放车辆行为识别系统
CN110674785A (zh) * 2019-10-08 2020-01-10 中兴飞流信息科技有限公司 一种基于人体关键点跟踪的多人姿态分析方法
CN111339994A (zh) * 2019-12-31 2020-06-26 智慧互通科技有限公司 一种判断临时违章停车的方法及装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112966563A (zh) * 2021-02-04 2021-06-15 同济大学 一种基于人体骨骼检测和跟踪算法的行为识别方法
CN112966563B (zh) * 2021-02-04 2022-09-20 同济大学 一种基于人体骨骼检测和跟踪算法的行为识别方法
CN113473077A (zh) * 2021-05-31 2021-10-01 超级视线科技有限公司 一种基于多维度的路侧逆向停车的判断方法及系统
CN113380047A (zh) * 2021-06-22 2021-09-10 重庆盛海科技发展有限公司 一种基于传统摄像机的违规停车检测方法
CN113570871A (zh) * 2021-07-09 2021-10-29 超级视线科技有限公司 一种基于多维度的车辆人员上下车判断方法及系统
CN113792700A (zh) * 2021-09-24 2021-12-14 成都新潮传媒集团有限公司 一种电瓶车入箱检测方法、装置、计算机设备及存储介质
CN113792700B (zh) * 2021-09-24 2024-02-27 成都新潮传媒集团有限公司 一种电瓶车入箱检测方法、装置、计算机设备及存储介质
CN114842650A (zh) * 2022-03-28 2022-08-02 北京华录高诚科技有限公司 一种车辆超时违停判断方法及装置、图像采集设备

Similar Documents

Publication Publication Date Title
CN112071084A (zh) 一种利用深度学习判断违章停车的方法和系统
US9317752B2 (en) Method for detecting large size and passenger vehicles from fixed cameras
Sina et al. Vehicle counting and speed measurement using headlight detection
WO2019223655A1 (zh) 非机动车载人的检测
US9704201B2 (en) Method and system for detecting uninsured motor vehicles
KR102122859B1 (ko) 교통 영상감시시스템의 멀티 표적 추적 방법
JP2007128513A (ja) シーン解析
CN109360362A (zh) 一种铁路视频监控识别方法、系统和计算机可读介质
CN112016528B (zh) 行为识别方法、装置、电子设备及可读存储介质
CN111126153B (zh) 基于深度学习的安全监测方法、系统、服务器及存储介质
KR102282800B1 (ko) 라이다와 영상카메라를 이용한 멀티 표적 추적 방법
CN110838230B (zh) 一种移动视频监控方法、监控中心及系统
Kumtepe et al. Driver aggressiveness detection via multisensory data fusion
CN111008574A (zh) 一种基于形体识别技术的重点人员轨迹分析方法
CN111079621A (zh) 检测对象的方法、装置、电子设备和存储介质
CN111881754A (zh) 行为检测的方法、系统、设备和计算机设备
Lumentut et al. Evaluation of recursive background subtraction algorithms for real-time passenger counting at bus rapid transit system
Jiang et al. A deep learning framework for detecting and localizing abnormal pedestrian behaviors at grade crossings
Zhang Multi-object trajectory extraction based on YOLOv3-DeepSort for pedestrian-vehicle interaction behavior analysis at non-signalized intersections
Gupta et al. Computer vision based animal collision avoidance framework for autonomous vehicles
Dinh et al. Development of a tracking-based system for automated traffic data collection for roundabouts
KR20150002040A (ko) 호그 연속기법에 기반한 칼만 필터와 클러스터링 알고리즘을 이용하여 실시간으로 보행자를 인식하고 추적하는 방법
CN114693722B (zh) 一种车辆行驶行为检测方法、检测装置及检测设备
KR101407394B1 (ko) 방치물 및 도난물 탐지 시스템
Skladchykov et al. Application of YOLOX deep learning model for automated object detection on thermograms

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20201211