CN112507757A - 车辆行为检测方法、装置和计算机可读介质 - Google Patents
车辆行为检测方法、装置和计算机可读介质 Download PDFInfo
- Publication number
- CN112507757A CN112507757A CN201910794864.8A CN201910794864A CN112507757A CN 112507757 A CN112507757 A CN 112507757A CN 201910794864 A CN201910794864 A CN 201910794864A CN 112507757 A CN112507757 A CN 112507757A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- picture
- door
- optical flow
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 30
- 230000003287 optical effect Effects 0.000 claims abstract description 136
- 238000000034 method Methods 0.000 claims abstract description 29
- 238000012544 monitoring process Methods 0.000 claims abstract description 16
- 230000006399 behavior Effects 0.000 claims description 36
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000033001 locomotion Effects 0.000 description 12
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000009471 action Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 238000013459 approach Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及车辆监控技术领域,尤其涉及一种车辆行为检测方法、装置和计算机可读介质。一种车辆行为检测方法,包括:当检测到一个监控区域中有一个车辆停靠后,重复执行如下操作,直至确定所述车辆的车门被打开:拍摄所述车辆的第一图片;根据所述第一图片,确定所述车辆的车门附近的复数个第一光流;根据所述复数个第一光流判断所述车辆的车门是否被打开。
Description
技术领域
本公开涉及车辆监控技术领域,尤其涉及一种车辆行为检测方法、装置和计算机可读介质。
背景技术
城市内车辆违章停车的现象比较常见,违章停车会影响其他车辆、甚至行人的正常通行,也会导致交通事故的增加。各个国家、地区、城市纷纷出台响应的交通管理规定来制止违章停车的行为。比如:在香港的某些区域规定,车辆在路边停靠的时间不得超过五分钟;但同时也规定,在路边装货和卸货是合法的。如图1所示,图片左侧101所指示的区域为人行道,而图片右侧102所指示的区域为机动车道。图片中示出了三辆路边停靠的车辆,其中,实线框中的两个车辆的停车被视为违法的,而虚线框中的车辆因为正在路边装卸货,因此被视为合法的。
违章停车的有效管制依赖于违章停车行为的实时监控,因此,如何实现有效监控路边停车行为,准确区分违章停车和合法停车行为变得至关重要。
发明内容
为了实现有效监控路边停车行为,本公开提出了一种车辆行为检测方案。在该方案中,通过检测门边的光流轨迹以确定车门是否被打开。判断结果可用于确定车辆在路边停靠时是否存在装货或卸货的行为,从而可自动、准确地区分违章停车和合法停车,具有实时监控,判断准确等优点。
第一方面,提供一种车辆行为检测方法。该方法中,当检测到一个监控区域中有一个车辆停靠后,重复执行如下操作,直至确定所述车辆的车门被打开:拍摄所述车辆的第一图片;根据所述第一图片,确定所述车辆的车门附近的复数个第一光流轨迹;根据所述复数个第一光流轨迹判断所述车辆的车门是否被打开。
第二方面,提供一种车辆行为检测装置。该装置可包括:一个存储器,被配置为存储计算机可读代码;一个处理器,被配置为调用所述计算机可读代码执行如下操作:
当检测到一个监控区域中有一个车辆停靠后,重复执行如下操作,直至确定所述车辆的车门被打开:拍摄所述车辆的第一图片;根据所述第一图片,确定所述车辆的车门附近的复数个第一光流轨迹;根据所述复数个第一光流轨迹判断所述车辆的车门是否被打开。
第三方面,提供一种计算机可读介质,其上存储计算机可读代码,当所述计算机可读代码被处理器调用时,执行第一方面所提供的方法。
其中,通过检测车门附近的光流轨迹来判断车门是否被打开,利用了光流轨迹具有方向性的特点,通过图片中像素的变化来确定被拍摄的物体的运动趋势,可有效判断车门是否正在被打开。方案具有准确实时的效果,此外,通过判断车门是否被打开,抓住了车辆装卸货过程中的最显著的特点,因而可以辅助判断车辆停靠后是否存在装卸货的行为。
可选地,在根据获取的图片,确定所述车辆的车门附近的第一光流轨迹时,可根据获取的图片,从所述复数个第一光流轨迹中确定出在所述车辆的车门打开方向上的预设第一数量复数个最长的第二光流轨迹;从而在根据所述复数个第一光流轨迹确定所述车辆的车门是否被打开时,具体地,若每一个所述第二光流轨迹的起点到终点的长度均超过预设的第一阈值,则确定所述车辆的车门被打开。
其中,根据车门打开方向的光流轨迹来判断车门是否被打开,从而避免了沿着车身方向上的光流轨迹的干扰,避免误判。并且,考虑到车门形状的不规则性,这里选取最长的若干个光流轨迹来判断,从而能够快速准确地得到判断结果。此外,通过设置第一阈值,只要光流轨迹长度超过该阈值,即可确定车门被打开,而无需等待车门被全部打开,可快速地得到判断结果。最后,选取第一数量复数个最长的光流轨迹,避免了仅依赖于一个最长的光流轨迹,而该光流轨迹可能是飞过的小鸟等造成的干扰,使得判断结果不准确的问题。
可选地,在车门打开方向上的光流轨迹与所述车辆的车辆主轴之间的夹角大于预设的第二阈值。这样可避免沿着车辆附近延车身方向的运动,比如:行人的经过造成的干扰,减小了数据处理量。
可选地,在拍摄所述车辆的第一图片之后,还可从所述第一图片中确定一个包围所述车辆的包围盒;若所述包围盒与所述车辆的车身之间的距离与所述车辆的车门的宽度之间的比值小于预设的第三阈值,则扩大所述包围盒,以使得扩大后的所述包围盒与所述车辆的车身之间的距离与所述车辆的车门的宽度之间的比值不小于所述第三阈值;而在根据所述第一图片,确定所述车辆的车门附近的复数个第一光流轨迹时,可根据所述第一图片中所述包围盒所包围的区域,确定所述车辆的车门附近的复数个第一光流轨迹。
使用包围盒可进行目标物体的识别,即从图片中圈出要进行判断的车辆。并且由于仅需要分析包围盒内的图片,因为减少了数据处理量。这里,由于要检测车门打开的情况,如果包围盒离车身过近,则可能从包围盒内的图片无法有效判断车门是否被打开,因此可适当扩大包围盒。
可选地,在确定所述车辆的车门被打开之后,还可判断车门是否被关闭。
第一种可选方案中,重复执行如下操作,直至确定所述车辆的车门被关闭:拍摄所述车辆的第二图片;在所述第二图片中,确定所述车辆的车门附近的复数个第三光流轨迹;从所述复数个第三光流轨迹中确定出与每一条所述第二光流轨迹连接且在车门关闭方向上的第四光流轨迹;若每一个所述第四光流轨迹的终点和与该第四光流轨迹连接的所述第二光流轨迹的起点之间的距离均小于预设的第四阈值,则确定所述车辆的车门被关闭,其中,所述第四阈值与所述第一阈值相等或不等。
通常车辆在装卸货时,会有司机或其他人员上下车的行为,而这些行为中必然包括开门和关门。通过判断车门关闭可以结合车门打开的动作,两者结合验证从而提高识别的准确度。其中,之所以选择与每一条第二光流轨迹连接的第四光流轨迹,是想取得轨迹像素点数最多的前几条,并且只有前后连接起来,才能保证进行判定的轨迹是我们需要的发生在车门附近的运动轨迹而不是意外干扰。如果割裂开,轨迹最长的就不一定是车门打开之后又关闭的动作。
可选地,在车门关闭方向上的光流轨迹与所述车辆的车辆主轴之间的夹角大于预设的第五阈值。这样可避免沿着车辆附近延车身方向的运动,比如:行人的经过造成的干扰,减小了数据处理量。
由于车门内侧物体的质地,关门时可跟踪到的光流轨迹往往要少于开门时可跟踪到的光流轨迹。因此可能难以找到可选方案一中所描述的与开门时的光流轨迹连接的关门时的光流轨迹,因此在可选方案二中,可在最长的所述第二光流轨迹的终点或延长部分的一点截取所述车辆的车门被判断打开时所拍摄的所述第一图片中的第一部分图片,其中,所述第一部分图片中包括所述车辆的车门的一部分;在已获取的复数个所述第一图片中确定获取时间与检测到所述车辆停靠的时间间隔小于预设的第六阈值的一个第三图片;按照所述第一部分图片与所在的所述第一图片中所述车辆之间的位置关系,从所述第三图片中截取与所述第一部分图片形状和面积相同的第二部分图片;重复执行如下操作,直至确定所述车辆的车门被关闭:拍摄所述车辆的第四图片;按照所述第一部分图片与所在的所述第一图片中所述车辆之间的位置关系,从所述第四图片中获取与所述第一部分图片形状和面积相同的第三部分图片;比较所述第三部分图片与所述第二部分图片;若所述第三部分图片与所述第二部分图片之间的差别小于预设的第七阈值,则确定所述车辆的车门被关闭。
其中,第一部分图片是在车门被打开过程中检测到的最长光流轨迹的终点或延长线上的一点处截取的,该第一部分图片中包括了车身。而在车门尚未打开以及车门已被关闭的情况下,该第一部分图片所在位置处应该为地面,因此,通过比较第二部分图片和第三部分图片,能够确定这两部分图片基本相同时,即可确定车门已被关闭。可选方案二不受光流轨迹检测的影响。
附图说明
图1为路边停车的示意图,其中示出了违章停车和合法停车两种情形。
图2为本公开中车辆行为检测装置进行车辆行为检测的示意图。
图3为本公开所提供的车辆行为检测方法的流程图。
图4为本公开中进行车辆识别的示意图。
图5为本公开中检测车门开门时光流轨迹的示意图。
图6为本公开中检测车门关门时光流轨迹的示意图。
图7为本公开中检测车辆关门的另一方案的示意图。
图8为本公开中车辆检测装置的结构示意图。
附图标记列表:
101:人行道
102:机动车道
20:车辆
30:摄像头
40:监控区域
50:车辆行为检测装置
300:车辆行为检测方法
S301~S322:方法步骤
501:存储器
502:处理器
具体实施方式
如前所述,路边违法停车带来了交通隐患。本公开提供的方案能够自动准确地判断车门的动作,辅助识别车辆上货卸货,能够有效帮助确定车辆停车是否违法。
下面,对本公开中涉及的一些算法加以说明:
1、YOLO(You only look once)
YOLO用于进行实时的物体检测,下面是对YOLO算法的一个简单描述(参见https://pjreddie.com/darknet/yolo/)):
先前的检测系统重新利用分类器或定位器执行检测,将模型应用于多个位置以及具有不同尺寸的图像。图像的高评分区域被视为检测到物体。YOLO是一个完全不同的算法,其将一个神经网络应用于整个图像,将图像划分为多个区域,并预测每个区域的边界框(bounding box)和概率。这些边界框由预测的概率加权。与基于分类器的方式相比,YOLO算法具有诸多优点。其在测试时查看整个图像,因此其预测由图像中的全局上下文通知。它还通过单一的网络评估进行预测,而不像R-CNN(Region-Convolutional Neural Networks)这样的算法需要数千张图像,这使得其运算速度非常快,比R-CNN快1000倍以上,比快速R-CNN(fast R-CNN)快100倍以上。
2、光流(optical flow)和光流轨迹(velocity trajectory):
光流可以定义为图像中亮度图案移动的显著速度的分布,通常指连续拍摄的多帧图片中前后两者之间亮度图案移动的分布。而待识别目标物体的一个动作过程中拍摄的多帧图片所产生的光流之间连接起来,则成为了光流轨迹。本公开的实施例中,利用光流轨迹来判断车辆的车门打开和关闭。
3、Lucas-Kanade光流:
Lucas-Kanade光流是一种光流估计的差分方法。
下面,结合附图对本公开的一些实施例加以说明。
图2为本公开中车辆行为检测装置进行车辆行为检测的示意图。
其中,线框40所示为一个监控区域。车辆行为检测装置50被配置为对该监控区域40中停靠的车辆的行为进行检测。其中车辆行为检测装置50控制所连接的摄像头30对监控区域40进行时实时监控,在检测到有车辆停靠时,控制摄像头30拍照。
这里监控区域40可为位于路边的机动车道的一部分,为摄像头30可进行图像采集的区域。车辆行为检测装置50可内置摄像头30,摄像头30可视为车辆行为检测装置50的一部分。车辆行为检测装置50也可外接摄像头30,控制摄像头30拍照等。车辆行为检测装置50可为一台或多台计算机、服务器或者一个或多个处理器,或者处理器与诸如DSP(DigitalSignal Processing,DSP)等运算单元的结合,其可进行图像处理,物体识别以及逻辑判断等。
图3为本公开所提供的车辆行为检测方法的流程图。其中,步骤S301~S302中,车辆行为检测装置50检测监控区域40中是否有车辆停靠。步骤S303~S308中,车辆行为检测装置50检测车辆20的车门是否被打开。若车门被打开,则就进一步地,采用步骤S309~S314或者S316~S322来检车车辆20的车门在打开后是否又被关闭。下面,分别对每一个步骤详细说明。
S301:车辆检测。
在该步骤中,可使用物体识别的方法来检测在监控区域40中是否有车辆。比如:可采用YOLO算法来进行车辆跟踪。如图4所示,在图4右侧的图片中,包围盒中所包括的图片中包括YOLO算法跟踪到车辆20。
S302:判断车辆是否停靠。若停靠则执行步骤S303,即开始检测车辆20的车门是否被打开。
在该步骤中,可根据车辆20在监控区域40中停靠的时间来判断车辆20是否停靠。比如:车辆20在监控区域40保持静止2分钟,则确定车辆20在监控区域40中停靠。而在判断车辆20是否静止时,可通过对所拍摄的图片进行分析后确定。以图4中所示为例,图4右侧的图片中框中区域若在连续拍摄的N帧图片中相对位置变化小于预设阈值,则确定车辆20保持静止。比如可比较各个图片中包围盒的中心点位置的变化,若位置变化小于预设阈值,则确定车辆20保持静止。
S303:拍摄车辆20的第一图片。
在该步骤中,将拍摄的图片称为“第一图片”,以区分于在判断车辆20的车门在打开后是否被关闭的过程中所拍摄的图片。其中,步骤S303~S308是重复执行的,直至确定车辆20的车门已被打开。
步骤S304~S307中,根据步骤S303中拍摄的第一图片,确定车辆20的车门附近的若干个光流轨迹。其中,可将当前循环过程中拍摄的第一图片以及以往循环中拍摄的第一图片进行比较,以确定车门附近的光流轨迹。确定的光流轨迹通常包括多条。
通过实验发现,当人上车或者下车时,车辆的形变主要发生在车门附近,大部分的速度轨迹(velocity trajectory)会在车门附近被检测到,因此,当检测到多条较长的光流轨迹时,通常可确定这些光流轨迹位于车门附近。
具体地,在步骤S304中,可从第一图片中确定一个包围所述车辆20的包围盒,如图5中右侧图片中的方框所示。比如:采用YOLO算法来识别图片中的车辆,同时YOLO算法还可以辅助判断车型。
S305:判断包围盒与车身之间的距离与车辆20的车门宽度之间的比值是否小于预设的第三阈值,若小于第三阈值,则执行步骤S306,否则执行步骤S307。
S306:扩大包围盒。
在该步骤中,扩大包围盒以使得扩大后的包围盒与车辆20的车身之间的距离与车辆20的车门的宽度之间的比值不小于第三阈值。扩大包围盒的目的是为了避免包围盒与车身距离太近,而导致车门打开后,仅分析包围盒内的图片无法判断车门是否被打开。并且,考虑到如果包围盒扩得过大,可能会引入新的干扰,比如行人走过等的干扰,因此可限定了扩大后的包围盒与车身之间的距离等车门的一半。
S307:确定车门附近的光流轨迹。
在该步骤中,根据第一图片中包围盒所包围的区域,确定所述车辆20的车门附近的第一光流轨迹,并从确定的第一光流轨迹中确定出在车辆20的车门打开方向上的预设第一数量个最长的第二光流轨迹;这里“第一光流轨迹”以及“第二光流轨迹”的表述用于区分判断车门关闭的过程中确定的第三光流轨迹和第四光流轨迹。其中,可预先设置第二阈值,并根据第二阈值对车门附近的光流轨迹进行筛选,选择出光流轨迹与车辆20的车辆主轴之间的夹角大于预设的第二阈值的光流轨迹,以待进一步分析,而滤除掉与车辆20的车辆主轴之间的夹角小于或等于预设的第二阈值的光流轨迹。通过设置该第二阈值并据此进行光流轨迹的筛选,可有效滤出车身方向上的光流轨迹,避免其干扰而造成误判。具体地,可滤除与车辆主轴之间的角度小于45度的速度轨迹。这些速度轨迹可能是偶然经过车辆的行人产生的。这里考虑在车门打开方向上的预设第一数量个最长的第二光流轨迹,比如三条最长的光流轨迹,是考虑到这些最长的光流轨迹相对于噪声的干扰是最鲁棒的。
S308:判断车门是否被打开。若车门被打开,可选地,可执行步骤S309或步骤S316,来判断车门在被打开后是否被关闭。具体采用步骤S309~S314,还是采用步骤S316~S322的方式,或者同时执行以互相补充验证,可根据具体情况而定。
在该步骤中,若每一个所述第二光流轨迹的起点到终点的长度均超过预设的第一阈值,则确定车辆20的车门被打开。随着车门被打开的过程,光流轨迹的长度会逐渐增大,直至预设的第一数量个最长的第二光流轨迹长度均达到该第一阈值,则确定车门已被打开。需要说明的是,在确定车门已被打开之后,车门可能还要再进一步被打开,但只要满足上述条件,即可确定车门已被打开,以达到快速判断,节省计算资源的目的。
。对于每一帧图片计算前一帧与当前帧光流并尝试更新轨迹,这里可只更新符合条件的轨迹(即当前光流角度与车辆主轴大于前述的第二阈值,比如:成45~135度夹角,且起点和终点之间距离大于某一阈值)。这样对于车辆周围行人平行走过可通过角度过滤,车辆周围某些静止的特征点由于异常扰动产生的光流轨迹可通过阈值过滤。根据光流轨迹的像素点数从高到底排序,排名靠前的被确定是发生在车门附近的运动导致的。由于包围盒近乎紧贴着车头车尾,所以从车头或车尾垂直经过的路人光流可忽略,因此可近似的认为这些排名靠前的光流轨迹就是发生上下车行为时车门附近的运动。上述过程中,我们先通过光流轨迹的像素点数来确定是否是车门附近的运动导致的,若像素点数超过预设的一个阈值,则进而从这些满足条件的光流轨迹中确定起点和终点之间的直线距离最大的若干条,再判断这些光流轨迹的起点和终点之间的直线距离是否大于第一阈值。
上述步骤S303~S308每一次循环执行需要的时间大约10ms~15ms,每秒钟处理大约15帧图片。
接下来,可通过步骤S309~S314或者步骤S316~S322来判断车门在打开之后是否被关闭。当人们上车或下车后通常都会关门。
理想情况下,光流轨迹会从车门开到最大的位置向车身方向延伸。如图6所示,虚线的光流轨迹代表车门正在关闭。因此,我们可以跟踪这些光流轨迹。若这些光流轨迹向车身方向靠近到一定程度,就可确定车门被关闭。与判断车门被打开类似,这里无需等待光流轨迹终止到车身上,只要光流轨迹的终点接近车身到一定程度,即可判定车门被关闭,以达到快速判断,节省计算资源的目的。
但是,实验结果表明,在车门关闭过程中的光流轨迹难以跟踪。从图6也可看出,虚线所代表的光流轨迹明显少于实线所代表的光流轨迹。即开门过程与关门过程相比更容易跟踪到光流轨迹。这可能是由于车门内侧材质的同质性决定的。
对应于上述两种情况,可分别采用步骤S309~S314或者步骤S316~S322的流程来判断车门是否被关闭。下面具体介绍这两个流程。其中,步骤S309~S314是循环执行的,直至步骤S314中确定车辆20的车门被关闭。而步骤S319~S322也是循环执行的,直至步骤S322中确定车辆20的车门被关闭。
S309:拍摄车辆20的第二图片。
S310:从第二图片中确定一个包围所述车辆20的包围盒,如图6中右侧图片中的方框所示。
S311:判断包围盒与车身之间的距离与车辆20的车门宽度之间的比值是否小于预设的第三阈值,若小于第三阈值,则执行步骤S312,否则执行步骤S313。
S312:扩大包围盒。
与判断车门打开的流程类型,在该步骤中,扩大包围盒以使得扩大后的包围盒与车辆20的车身之间的距离与车辆20的车门的宽度之间的比值不小于第三阈值。
S313:在包围盒所包围的区域中,确定车辆20的车门附近的若干个第三光流轨迹,并从若干个第三光流轨迹中确定出与每一条第二光流轨迹连接且在车门关闭方向上的第四光流轨迹。该步骤中,这里车门附近的定义可同前述的确定开门时流程中的定义。其中,在车门关闭方向上的光流轨迹与车辆20的车辆主轴之间的夹角大于预设的第五阈值。其中,第五阈值可与前述的第二阈值相等,比如与车辆的主轴成45~135度角,近似认为与车辆的运动方向垂直。
S314:判断每一个第四光流轨迹的终点和与该第四光流轨迹连接的第二光流轨迹的起点之间的距离是否均小于预设的第四阈值,若是,则执行步骤S315,否则返回步骤S309。其中,第四阈值与第一阈值相等或不等。
S315:确定车辆20的车门被关闭。
下面,介绍步骤S316~S322的流程。
S316:在最长的第二光流轨迹的终点或延长部分的一点截取车辆20的车门被判断打开时所拍摄的第一图片中的第一部分图片,其中,第一部分图片中包括车辆20的车门的一部分。
在该步骤中,第二光流轨迹的终点或延长部分的一点可位于获取的最长的第二光流轨迹时所拍摄的图片的包围盒上,第一部分图片如图7右侧图片中包围盒右侧边缘上的小长方形内的图片,比如:9*15大小的图片。
S317:在已获取的复数个第一图片中确定获取时间与检测到车辆20停靠的时间间隔小于预设的第六阈值的一个第三图片。
比如,可获取刚刚检测到车辆停靠时拍摄的第一张图片作为第三图片。
S318:按照第一部分图片与所在的第一图片中车辆20之间的位置关系,从第三图片中截取与第一部分图片形状和面积相同的第二部分图片。如图7左侧的包围盒右侧边缘上的小长方形。车辆20在停靠时在图片中的相对位置基本不变,因此,包围盒与车身之间的相对位置也基本不变,也因此,可才参照第一部分图片在右侧图片中包围盒上的位置来确定左侧图片中包围盒上同样位置的面积、形状相同的图片为第二部分图片。
循环执行步骤S319~S322,直至确定车辆20的车门已被关闭。
步骤S319~S322的过程用于判断车门在被打开的情况下是否进一步又被关闭。由于在前述的判断车门被打开时,判断最长的若干条光流轨迹长度是否达到阈值,达到阈值即确定车门被打开。但实际过程中,可能车门还会被进一步打开到最大,之后再关闭。下面的流程用于实时地判断车门是否被进一步关闭。其依据是,如果车门被关闭,那么在包围盒上的第一部分图片的位置处,再拍摄的图片应该不是车门,而是与车辆20刚刚停靠时的图片基本相同。
具体过程如下:
S319:拍摄车辆20的第四图片。
S320:按照第一部分图片与所在的第一图片中车辆20之间的位置关系,从第四图片中获取与第一部分图片形状和面积相同的第三部分图片。
S321:比较第三部分图片与第二部分图片。
S322:若第三部分图片与第二部分图片之间的差别小于预设的第七阈值,则执行步骤S315确定车辆20的车门被关闭,否则返回步骤S319。
上述流程中,通过检测车门附近的光流轨迹来判断车门是否被打开和/或关闭,利用了光流轨迹具有方向性的特点,通过图片中像素的变化来确定被拍摄的物体的运动趋势,可有效判断车门的运动。上述方案可结合车型的判断,来确定车辆是否有装卸货的行为。比如:可采用诸如YOLO算法等目标识别的方法来判断图片中的车辆是否为卡车,若为卡车且有车门打开关闭的事件发生,则可确定有可能有装卸货的行为。
图8为本公开中车辆检测装置的结构示意图。如图8所示,车辆行为检测装置50可包括一个存储器501,被配置为存储计算机可读代码;一个处理器502,被配置为调用计算机可读代码执行前述的车辆行为检测方法。
此外,本公开还提供一种计算机可读介质,该计算机可读介质存储有计算机可读代码,计算机可读代码在由处理器执行时,执行前述的车辆行为检测方法。计算机可读介质的实施例包括软盘、硬盘、磁光盘、光盘(如CD-ROM、CD-R、CD-RW、DVD-ROM、DVD-RAM、DVD-RW、DVD+RW)、磁带、非易失性存储卡和ROM。可选地,可以由通信网络从服务器计算机上或云上下载计算机可读指令。
综上,本公开提供一种车辆行为检测方法、装置和计算机可读介质。其中,通过分析待检测的车辆图片的光流来确定车门的打开和关闭,与以往深度学习算法相比,具有占用的处理资源和存储资源少的优点,且需要的处理时间更短。
需要说明的是,上述各流程和各系统结构图中不是所有的步骤和模块都是必须的,可以根据实际的需要忽略某些步骤或模块。各步骤的执行顺序不是固定的,可以根据需要进行调整。上述各实施例中描述的系统结构可以是物理结构,也可以是逻辑结构,即,有些模块可能由同一物理实体实现,或者,有些模块可能分由至少两个物理实体实现,或者,可以由至少两个独立设备中的某些部件共同实现。
以上各实施例中,硬件单元可以通过机械方式或电气方式实现。例如,一个硬件单元可以包括永久性专用的电路或逻辑(如专门的处理器,现场可编程门阵列(Field-Programmable Gate Array,FPGA)或专用集成电路(Application Specific IntegratedCircuits,ASIC)等)来完成相应操作。硬件单元还可以包括可编程逻辑或电路(如通用处理器或其它可编程处理器),可以由软件进行临时的设置以完成相应操作。具体的实现方式(机械方式、或专用的永久性电路、或者临时设置的电路)可以基于成本和时间上的考虑来确定。
上文通过附图和优选实施例对本发明实施例进行了详细展示和说明,然而本发明实施例不限于这些已揭示的实施例,基于上述实施例本领域技术人员可以知晓,可以组合上述不同实施例中的代码审核手段得到本发明更多的实施例,这些实施例也在本发明实施例的保护范围之内。
Claims (15)
1.车辆行为检测方法,其特征在于,包括:当检测到一个监控区域(10)中有一个车辆(20)停靠后,重复执行如下操作,直至确定所述车辆(20)的车门被打开:
拍摄所述车辆(20)的第一图片;
根据所述第一图片,确定所述车辆(20)的车门附近的复数个第一光流轨迹;
根据所述复数个第一光流轨迹判断所述车辆(20)的车门是否被打开。
2.如权利要求1所述的方法,其特征在于,根据获取的图片,确定所述车辆(20)的车门附近的第一光流轨迹,包括:
根据获取的图片,从所述复数个第一光流轨迹中确定出在所述车辆(20)的车门打开方向上的预设第一数量复数个最长的第二光流轨迹;
根据所述复数个第一光流轨迹确定所述车辆(20)的车门是否被打开,包括:若每一个所述第二光流轨迹的起点到终点的长度均超过预设的第一阈值,则确定所述车辆(20)的车门被打开。
3.如权利要求2所述的方法,其特征在于,在车门打开方向上的光流轨迹与所述车辆(20)的车辆主轴之间的夹角大于预设的第二阈值。
4.如权利要求1~3任一项所述的方法,其特征在于,
在拍摄所述车辆(20)的第一图片之后,还包括:从所述第一图片中确定一个包围所述车辆(20)的包围盒;
若所述包围盒与所述车辆(20)的车身之间的距离与所述车辆(20)的车门的宽度之间的比值小于预设的第三阈值,则扩大所述包围盒,以使得扩大后的所述包围盒与所述车辆(20)的车身之间的距离与所述车辆(20)的车门的宽度之间的比值不小于所述第三阈值;
所述根据所述第一图片,确定所述车辆(20)的车门附近的复数个第一光流轨迹,包括:根据所述第一图片中所述包围盒所包围的区域,确定所述车辆(20)的车门附近的复数个第一光流轨迹。
5.如权利要求2所述的方法,其特征在于,在确定所述车辆(20)的车门被打开之后,还包括:重复执行如下操作,直至确定所述车辆(20)的车门被关闭:
拍摄所述车辆(20)的第二图片;
在所述第二图片中,确定所述车辆(20)的车门附近的复数个第三光流轨迹;
从所述复数个第三光流轨迹中确定出与每一条所述第二光流轨迹连接且在车门关闭方向上的第四光流轨迹;
若每一个所述第四光流轨迹的终点和与该第四光流轨迹连接的所述第二光流轨迹的起点之间的距离均小于预设的第四阈值,则确定所述车辆(20)的车门被关闭,其中,所述第四阈值与所述第一阈值相等或不等。
6.如权利要求5所述的方法,其特征在于,在车门关闭方向上的光流轨迹与所述车辆(20)的车辆主轴之间的夹角大于预设的第五阈值。
7.如权利要求2所述的方法,其特征在于,还包括:
在最长的所述第二光流轨迹的终点或延长部分的一点截取所述车辆(20)的车门被判断打开时所拍摄的所述第一图片中的第一部分图片,其中,所述第一部分图片中包括所述车辆(20)的车门的一部分;
在已获取的复数个所述第一图片中确定获取时间与检测到所述车辆(20)停靠的时间间隔小于预设的第六阈值的一个第三图片;
按照所述第一部分图片与所在的所述第一图片中所述车辆(20)之间的位置关系,从所述第三图片中截取与所述第一部分图片形状和面积相同的第二部分图片;
重复执行如下操作,直至确定所述车辆(20)的车门被关闭:
拍摄所述车辆(20)的第四图片;
按照所述第一部分图片与所在的所述第一图片中所述车辆(20)之间的位置关系,从所述第四图片中获取与所述第一部分图片形状和面积相同的第三部分图片;
比较所述第三部分图片与所述第二部分图片;
若所述第三部分图片与所述第二部分图片之间的差别小于预设的第七阈值,则确定所述车辆(20)的车门被关闭。
8.车辆行为检测装置,其特征在于,包括:一个存储器(501),被配置为存储计算机可读代码;一个处理器(502),被配置为调用所述计算机可读代码执行如下操作:
当检测到一个监控区域(10)中有一个车辆(20)停靠后,重复执行如下操作,直至确定所述车辆(20)的车门被打开:
拍摄所述车辆(20)的第一图片;
根据所述第一图片,确定所述车辆(20)的车门附近的复数个第一光流轨迹;
根据所述复数个第一光流轨迹判断所述车辆(20)的车门是否被打开。
9.如权利要求8所述的装置,其特征在于,所述处理器(502)在调用所述计算机可读代码以根据获取的图片,确定所述车辆(20)的车门附近的第一光流轨迹时,具体被配置为:
根据获取的图片,从所述复数个第一光流轨迹中确定出在所述车辆(20)的车门打开方向上的预设第一数量复数个最长的第二光流轨迹;
根据所述复数个第一光流轨迹确定所述车辆(20)的车门是否被打开,包括:若每一个所述第二光流轨迹的起点到终点的长度均超过预设的第一阈值,则确定所述车辆(20)的车门被打开。
10.如权利要求9所述的装置,其特征在于,在车门打开方向上的光流轨迹与所述车辆(20)的车辆主轴之间的夹角大于预设的第二阈值。
11.如权利要求8~10任一项所述的装置,其特征在于,所述处理器(502)还被配置为调用所述计算机可读代码,在拍摄所述车辆(20)的第一图片之后,执行如下操作:
从所述第一图片中确定一个包围所述车辆(20)的包围盒;
若所述包围盒与所述车辆(20)的车身之间的距离与所述车辆(20)的车门的宽度之间的比值小于预设的第三阈值,则扩大所述包围盒,以使得扩大后的所述包围盒与所述车辆(20)的车身之间的距离与所述车辆(20)的车门的宽度之间的比值不小于所述第三阈值;
所述所述根据所述第一图片,确定所述车辆(20)的车门附近的复数个第一光流轨迹,包括:根据所述第一图片中所述包围盒所包围的区域,确定所述车辆(20)的车门附近的复数个第一光流轨迹。
12.如权利要求9所述的装置,其特征在于,所述处理器(502)还被配置为调用所述计算机可读代码,在确定所述车辆(20)的车门被打开之后,重复执行如下操作,直至确定所述车辆(20)的车门被关闭:
拍摄所述车辆(20)的第二图片;
在所述第二图片中,确定所述车辆(20)的车门附近的复数个第三光流轨迹;
从所述复数个第三光流轨迹中确定出与每一条所述第二光流轨迹连接且在车门关闭方向上的第四光流轨迹;
若每一个所述第四光流轨迹的终点和与该第四光流轨迹连接的所述第二光流轨迹的起点之间的距离均小于预设的第四阈值,则确定所述车辆(20)的车门被关闭,其中,所述第四阈值与所述第一阈值相等或不等。
13.如权利要求12所述的装置,其特征在于,在车门关闭方向上的光流轨迹与所述车辆(20)的车辆主轴之间的夹角大于预设的第五阈值。
14.如权利要求9所述的装置,其特征在于,所述处理器(502)还被配置为调用所述计算机可读代码,执行如下操作:
在最长的所述第二光流轨迹的终点或延长部分的一点截取所述车辆(20)的车门被判断打开时所拍摄的所述第一图片中的第一部分图片,其中,所述第一部分图片中包括所述车辆(20)的车门的一部分;
在已获取的复数个所述第一图片中确定获取时间与检测到所述车辆(20)停靠的时间间隔小于预设的第六阈值的一个第三图片;
按照所述第一部分图片与所在的所述第一图片中所述车辆(20)之间的位置关系,从所述第三图片中截取与所述第一部分图片形状和面积相同的第二部分图片;
重复执行如下操作,直至确定所述车辆(20)的车门被关闭:
拍摄所述车辆(20)的第四图片;
按照所述第一部分图片与所在的所述第一图片中所述车辆(20)之间的位置关系,从所述第四图片中获取与所述第一部分图片形状和面积相同的第三部分图片;
比较所述第三部分图片与所述第二部分图片;
若所述第三部分图片与所述第二部分图片之间的差别小于预设的第七阈值,则确定所述车辆(20)的车门被关闭。
15.一种计算机可读介质,其上存储计算机可读代码,当所述计算机可读代码被处理器调用时,执行如权利要求1~7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910794864.8A CN112507757A (zh) | 2019-08-26 | 2019-08-26 | 车辆行为检测方法、装置和计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910794864.8A CN112507757A (zh) | 2019-08-26 | 2019-08-26 | 车辆行为检测方法、装置和计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112507757A true CN112507757A (zh) | 2021-03-16 |
Family
ID=74923620
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910794864.8A Pending CN112507757A (zh) | 2019-08-26 | 2019-08-26 | 车辆行为检测方法、装置和计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112507757A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112818954A (zh) * | 2021-03-17 | 2021-05-18 | 重庆紫光华山智安科技有限公司 | 车辆状态识别方法、装置、设备及介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06333199A (ja) * | 1993-05-25 | 1994-12-02 | Sumitomo Electric Ind Ltd | 駐車車両即時検出方法 |
JPH07160848A (ja) * | 1993-12-07 | 1995-06-23 | Mitsubishi Electric Corp | 違法駐車抑止装置および閾値決定装置 |
CN101216996A (zh) * | 2007-12-28 | 2008-07-09 | 云南澜博科技有限公司 | 用视频监测车辆违法行为的方法 |
CN102334142A (zh) * | 2009-02-24 | 2012-01-25 | 三菱电机株式会社 | 人物追踪装置以及人物追踪程序 |
CN103987577A (zh) * | 2011-12-06 | 2014-08-13 | 罗伯特·博世有限公司 | 用于监视和信号化车辆的周围环境中的交通情况的方法 |
US20150332097A1 (en) * | 2014-05-15 | 2015-11-19 | Xerox Corporation | Short-time stopping detection from red light camera videos |
WO2017000466A1 (zh) * | 2015-07-01 | 2017-01-05 | 中国矿业大学 | 一种基于光流法的运动目标跟踪方法及系统 |
CN109472219A (zh) * | 2018-10-22 | 2019-03-15 | 中南大学 | 一种站点客流量的统计方法、装置及计算机存储介质 |
-
2019
- 2019-08-26 CN CN201910794864.8A patent/CN112507757A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06333199A (ja) * | 1993-05-25 | 1994-12-02 | Sumitomo Electric Ind Ltd | 駐車車両即時検出方法 |
JPH07160848A (ja) * | 1993-12-07 | 1995-06-23 | Mitsubishi Electric Corp | 違法駐車抑止装置および閾値決定装置 |
CN101216996A (zh) * | 2007-12-28 | 2008-07-09 | 云南澜博科技有限公司 | 用视频监测车辆违法行为的方法 |
CN102334142A (zh) * | 2009-02-24 | 2012-01-25 | 三菱电机株式会社 | 人物追踪装置以及人物追踪程序 |
CN103987577A (zh) * | 2011-12-06 | 2014-08-13 | 罗伯特·博世有限公司 | 用于监视和信号化车辆的周围环境中的交通情况的方法 |
US20150332097A1 (en) * | 2014-05-15 | 2015-11-19 | Xerox Corporation | Short-time stopping detection from red light camera videos |
WO2017000466A1 (zh) * | 2015-07-01 | 2017-01-05 | 中国矿业大学 | 一种基于光流法的运动目标跟踪方法及系统 |
CN109472219A (zh) * | 2018-10-22 | 2019-03-15 | 中南大学 | 一种站点客流量的统计方法、装置及计算机存储介质 |
Non-Patent Citations (2)
Title |
---|
宋杰;张青松;王平平;谢得禄;佘江平;: "城轨车辆车门检测设备的设计实现及应用", 国外电子测量技术, no. 09 * |
张媛;李岩;安婷婷;华志超;臧坤;李双全;: "基于监控视频信号的电梯门运动轨迹识别算法", 机械设计与制造工程, no. 02 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112818954A (zh) * | 2021-03-17 | 2021-05-18 | 重庆紫光华山智安科技有限公司 | 车辆状态识别方法、装置、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Barcellos et al. | A novel video based system for detecting and counting vehicles at user-defined virtual loops | |
JP6180482B2 (ja) | マルチキュー・オブジェクトの検出および分析のための方法、システム、製品、およびコンピュータ・プログラム(マルチキュー・オブジェクトの検出および分析) | |
CN106652465B (zh) | 一种道路异常驾驶行为的识别方法及系统 | |
US10212397B2 (en) | Abandoned object detection apparatus and method and system | |
Pless et al. | Evaluation of local models of dynamic backgrounds | |
Cheng et al. | Intelligent highway traffic surveillance with self-diagnosis abilities | |
CN109643488B (zh) | 交通异常事件检测装置及方法 | |
CN109766867B (zh) | 车辆运行状态确定方法、装置、计算机设备和存储介质 | |
CN111079621B (zh) | 检测对象的方法、装置、电子设备和存储介质 | |
CN111428644A (zh) | 基于深度神经网络的斑马线区域监测方法、系统及介质 | |
CN108280445A (zh) | 一种车辆周围运动物体和凸起障碍物的检测方法 | |
JP2994170B2 (ja) | 車両周辺監視装置 | |
CN112633151B (zh) | 一种确定监控图像中斑马线的方法、装置、设备及介质 | |
CN112507757A (zh) | 车辆行为检测方法、装置和计算机可读介质 | |
CN111401135B (zh) | 开门防撞方法、装置、计算机设备和存储介质 | |
US20200394802A1 (en) | Real-time object detection method for multiple camera images using frame segmentation and intelligent detection pool | |
Płaczek | A real time vehicle detection algorithm for vision-based sensors | |
CN113361299A (zh) | 一种异常停车的检测方法、装置、存储介质及电子设备 | |
CN114373155A (zh) | 交通行为识别方法、装置、电子设备及存储介质 | |
Sri Jamiya et al. | A survey on vehicle detection and tracking algorithms in real time video surveillance | |
Mutsuddy et al. | Illegally parked vehicle detection based on haar-cascade classifier | |
Chen et al. | Real-time license plate identification by perceptual shape grouping and tracking | |
Wu et al. | Real-time overtaking vehicle detection based on optical flow and convolutional neural network | |
Karagiannis | Distance estimation between vehicles based on fixed dimensions licence plates | |
Alkhawaji et al. | Video analysis for yellow box junction violation: Requirements, challenges and solutions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |