CN111699519A - 用于检测地理位置中的异常交通事件的系统、设备和方法 - Google Patents

用于检测地理位置中的异常交通事件的系统、设备和方法 Download PDF

Info

Publication number
CN111699519A
CN111699519A CN201880087498.6A CN201880087498A CN111699519A CN 111699519 A CN111699519 A CN 111699519A CN 201880087498 A CN201880087498 A CN 201880087498A CN 111699519 A CN111699519 A CN 111699519A
Authority
CN
China
Prior art keywords
traffic
abnormal
event
objects
geographic location
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201880087498.6A
Other languages
English (en)
Inventor
V·拉文德兰
V·苏哈卡兰
A·索拉吉普斯
C·耶施万斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yunnix Co ltd
Original Assignee
Siemens Mobility GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Mobility GmbH filed Critical Siemens Mobility GmbH
Publication of CN111699519A publication Critical patent/CN111699519A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0116Measuring and analyzing of parameters relative to traffic conditions based on the source of data from roadside infrastructure, e.g. beacons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133Distances to prototypes
    • G06F18/24143Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/54Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • G08G1/0129Traffic data processing for creating historical data or processing based on historical data
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • G08G1/0133Traffic data processing for classifying traffic situation
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/164Centralised systems, e.g. external to vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/20Monitoring the location of vehicles belonging to a group, e.g. fleet of vehicles, countable or determined number of vehicles
    • G08G1/205Indicating the location of the monitored vehicles as destination, e.g. accidents, stolen, rental
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/04Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/052Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed
    • G08G1/054Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed photographing overspeeding vehicles

Abstract

公开了一种用于检测地理位置中的异常交通事件的方法(525)。该方法包括基于地理位置中的交通环境来实时确定交通对象。交通环境包括车辆交通和行人交通。该方法还包括通过跟踪地理位置中的交通对象来确定交通活动。交通活动包括与交通对象实时相关联的多个对象轨迹,所述多个对象轨迹包括位置、定位和对象边界。该方法进一步包括通过确定交通活动中的一个或多个异常对象轨迹来检测地理位置中的异常交通事件(525)。

Description

用于检测地理位置中的异常交通事件的系统、设备和方法
背景技术
随着车辆数量中的增加,针对异常(诸如,事故和交通违规(violation))来监测道路已经成为一项艰巨的任务。在混乱的交通场景中,标识异常可能是具有挑战性的,这是因为它需要准确地将异常分类为事故或违规或仅仅是正常的混乱交通流。
使用集中式交通控制系统来存储和处理大量交通数据。这种集中式交通控制系统依赖于人类干预。
此外,如在US 20160284214中公开的,可以在个体车辆上执行异常交通事件检测。该文档描述了一种用于报告异常行驶事件的行驶报告器系统。行驶报告器系统包括电子数据传感器,该电子数据传感器安装在车辆上并且被配置成获得关于位于车辆的预定距离内的对象的实时数据。这种决策支持系统被限制于车辆的附近。为了确定异常交通事件,地理位置可能是繁琐且昂贵的,这是因为必须向地理位置中的车辆提供该决策支持系统。
鉴于上述情况,存在对于准确地标识并减轻地理位置中的异常交通事件的影响的需要。因此,本发明的目的是提供一种用于有效地检测实时交通流中的异常交通事件的方法、设备和系统。
发明内容
根据本发明的方法、设备和系统通过跟踪地理位置的交通环境中的交通对象来确定交通活动从而实现上述目的。因此,通过确定交通活动中的异常对象轨迹来检测地理位置中的异常交通事件。
如本文中所使用的,“交通环境”指示针对要在其中管理交通流的地理位置的车辆交通和行人交通。因此,交通环境包括地理位置的坐标、以及与针对地理位置的天气、空气质量、时间、日期、经调度事件和未调度事件相关联的数据。术语“地理位置”包括多个交叉路口,并且因此交通环境还包括与每个交叉路口相关联的信息,诸如车道封闭或道路维护。
此外,“交叉路口”意指具有有人操纵(manned)或无人操纵(unmanned)的交通信号杆(traffic signal-post)的交通交叉路口点,该交通信号杆用于管理交叉路口处的交通流。每个交叉路口还包括一个或多个车道,其交通流由交通标志杆(traffic sign-post)来管理。
根据本发明,提供了一种用于检测地理位置中的异常交通事件的计算机实现的方法。该方法包括:基于地理位置中的交通环境来实时确定交通对象。在实时捕获到交通环境之后,确定交通环境中的交通对象。如本文中所使用的,“交通对象”包括车辆类型、车辆占用(occupancy)和行人类型。例如,交通对象包括但不限于:汽车、自行车、踏板车、三轮车、公共汽车、公共运输车辆、救护车、用于残障人士的车辆。此外,交通对象包括行人类型,诸如老年人行人、肢体伤残的行人、视力障碍的行人、儿童行人和动物。
根据本发明的一方面,由捕获设备(诸如,相机、接近传感器、空气质量传感器等)在多个捕获节点处捕获交通对象。捕获设备可以被放置在捕获节点处,该捕获节点诸如车道、路灯、无人驾驶飞机(drone)、交叉路口处的交通标志杆、街道广告牌(hoarding)。
根据本发明的另一方面,捕获与交通环境相关联的交通图像。对交通图像进行处理以基于预定的标识模型、通过卷积层、池化层和激活层的组合来标识交通图像中的特征。
如本文中所使用的,“特征”指代交通对象的特征,诸如车轮数量、交通对象的大小等。对交通图像的特征标识分析被用于确定与交通图像中的交通对象相关联的特征。
此外,“预定的标识模型”指代在预定的交通对象集合上使用神经网络而生成的训练模型。利用新类型的交通对象来更新预定的标识模型。由于交通对象标识是通过首先标识交通对象的特征来完成的。因此,该方法是有利的,这是因为交通对象标识基于所标识的特征,并且独立于交通环境中的车辆位置、相对车辆接近度和行人位置。
在一实施例中,预定的标识模型是使用生成式对抗网络(GAN)或深度卷积生成式对抗网络(DCGAN)而生成的未经训练的模型。GAN/DCGAN尝试同时学习交通图像和交通对象的联合概率。GAN/DCGAN模型是有利的,这是因为即使在没有标识参数时,也会映射交通图像的基础结构。当在交叉路口处捕获新的车辆类型时,这是合期望的。
在另一个实施例中,该方法包括:使交通图像通过神经网络的多个层,其中该多个层包括卷积层和池化层。在一实施例中,交通图像被表示为3维像素阵列,该像素阵列具有针对每个参数(诸如颜色、高度、宽度)的强度。使用max函数通过卷积层和池化层来对该3维阵列进行变换。max函数用于汇总针对跨卷积层的空间区域的最大值。
该方法包括:通过跟踪地理位置中的交通对象来确定交通活动,其中交通活动包括多个对象轨迹,该多个对象轨迹包括与交通对象实时相关联的位置、定位和对象边界。如本文中所使用的,“交通活动”指代交通对象的交通对象轨迹,诸如与交通对象实时相关联的位置、定位和边界。
通过确定交通对象轨迹来执行对交通活动的确定。因此,本发明的一方面包括:通过在交通图像中检测与交通对象相关联的对象坐标来确定对象轨迹。该方法包括从对象坐标确定对象边界。此外,通过基于对象边界跟踪地理位置中的交通对象来确定对象轨迹和交通活动。
根据本发明的另一方面,通过维持跟踪列表来确定交通活动。在交通图像中检测交通对象以及与交通对象相关联的交通对象坐标。对交通对象坐标进行插值,并且以预定间隔来跟踪交通对象。此外,更新具有交通对象和对象轨迹的跟踪列表。
根据本发明的又一方面,通过根据交通对象对像素进行标记来生成针对交通图像中的像素的像素标记。例如,可以将像素标记为汽车引擎盖或两轮车的车轮。基于经插值的交通对象坐标和像素标记中的一个来将对象边界确定为交通对象边界。维持具有异常交通对象和异常交通对象轨迹的跟踪列表。
该方法进一步包括:通过确定交通活动中的异常对象轨迹来检测地理位置中的异常交通事件。因此,该方法包括实时标识异常交通对象和异常对象轨迹。如本文中所使用的,“异常对象”或“异常交通对象”指代有可能引起异常交通事件的交通对象。术语“异常交通事件”指代如根据交通法规和历史交通环境的对于交通环境不正常的事件。例如,异常交通事件包括事故或违规。如本文中所使用的,基于异常交通对象的历史坐标和当前坐标来检测“异常交通对象”轨迹。
在一实施例中,以与检测对象轨迹的方式类似的方式来检测异常对象轨迹,即,基于像素标记的边界之间的相互作用、以及交通对象的对象边界框的边界之间的相互作用来检测异常对象轨迹。
在另一个实施例中,通过分析来自历史交通环境的非异常对象轨迹来确定异常交通对象。此外,确定交通环境中的对象轨迹的重构(reconstruction)误差。在一实施例中,在非事故轨迹上训练自动编码器网络。在操作期间,自动编码器网络用于通过观察重构误差来进行异常现象检测。如本文中所使用的,“自动编码器网络”指代用于以无监督方式来学习数据表示的神经网络。自动编码器网络由输入层、编码器网络、解码器网络和输出层组成。利用反向传播对自动编码器网络进行训练,以最小化重构误差,重构误差是输出(即,实时对象轨迹)与输入(即,非异常对象轨迹)之间的差异。重构误差用于实时检测异常对象轨迹。
当对象轨迹中的重构误差超过预定阈值时,则异常对象轨迹被标识,并且由此异常交通对象被确定。使用基于奖励的优化模型(诸如,强化学习模型)来从历史交通环境自主地学习预定阈值。如本文中所使用的,“强化学习”指代一种机器学习技术,其中该算法在环境中采取行动以便最大化对异常对象轨迹的准确检测。
根据本发明的一方面,对异常交通事件进行分析以确定事件的类型。异常交通事件可以被分类为交通违规、交通事故和/或两者。
根据本发明的另一方面,对异常交通事件进行分析,以基于预先训练的严重性模型来确定伤亡(casualty)和伤亡的严重性。通过确定事件交通对象的数量、交通对象的类型等来确定伤亡的严重性。因此,预先训练的严重性模型基于事件对象的数量、与事件对象相关联的事件轨迹、以及事件对象的类型。如本文中所使用的,“事件交通对象”包括与异常交通事件相关联的交通对象,该交通对象包括异常交通对象。此外,术语“事件轨迹”包括事件交通对象的历史交通对象轨迹。
基于伤亡和伤亡的严重性,计算设备启动与缓解机构(mitigation agency)的通信。如本文中所使用的,“缓解机构”指代能够减少由异常交通事件引起的影响的私人或政府机构。例如,交通警察将是针对交通违规的缓解机构,而医院和交通警察将是事故情况下的缓解机构。
根据本发明,还公开了一种用于检测地理位置中的异常交通事件的计算设备。该计算设备包括一个或多个处理器、耦合到处理器的存储器、通信单元和数据库。存储器被配置成存储由模块(例如,交通密度估计器、交通预测模块、简档确定模块等)定义的计算机程序指令。每个处理器被配置成执行存储器中的指令。存储器可以是易失性存储器,诸如随机存取存储器(RAM)、静态RAM(SRAM)、动态RAM(DRAM)、或处理器可访问的任何其他存储器。存储器可以作为用于处理器的路由表、寄存器、虚拟存储器和/或交换空间来操作。此外,存储模块可以表示任何已知的或以后开发的非易失性存储设备,诸如但不限于硬盘驱动器、固态驱动器(SSD)、闪存ROM(只读存储器)或光学驱动器。
在一实施例中,该计算设备包括边缘设备和通信地耦合到边缘设备的捕获部件。边缘设备是紧凑的计算设备,其在计算能力方面具有资源约束。
该计算设备包括处理器、存储器、通信单元、显示器和冷却风扇。存储器可以包括堆叠式封装(PoP)堆叠的2千兆字节随机存取存储器(RAM)以及闪速存储装置。
该计算设备的存储器被提供有以计算机可读指令的形式存储的模块。处理器被配置成执行该模块中所定义的计算机程序指令。此外,处理器被配置成同时执行存储器中的指令。
该系统中的计算设备的操作被解释如下。相机对交叉路口处的交通环境的实时数据进行中继(relay)。交通环境由交通对象标识模块来处理,以基于地理位置中的交通环境来实时确定交通对象。
交通对象标识模块包括特征标识模块。特征标识模块基于预定的标识模型、通过卷积层、池化层和激活层的组合来标识交通环境的交通图像中的特征。
预定的标识模型是由交通模型生成器在预定的交通对象集合上使用神经网络而生成的训练模型。特征标识模块分析交通图像以确定与交通图像中的交通对象相关联的特征。利用新类型的交通对象来更新预定的标识模型。由于交通对象标识是通过首先标识交通对象的特征来完成的,因此交通对象标识模块能够基于所标识的特征独立于交通环境中的车辆位置、相对车辆接近度和行人位置来确定交通对象。
此后,交通跟踪模块通过跟踪地理位置中的交通对象来确定交通活动。交通跟踪模块包括交通对象模块、插值模块、分割模块、交通对象边界模块和跟踪列表模块。交通对象模块在交通环境的交通图像中检测与交通对象相关联的交通对象坐标。插值模块对交通对象坐标进行插值并且以预定间隔来跟踪交通对象。分割模块针对与交通环境相关联的交通图像中的像素来生成像素标记。像素标记是通过根据交通对象来对像素进行标记而生成的。例如,分割模块将像素标记为汽车引擎盖或两轮车的车轮。交通对象边界模块能够基于经插值的交通对象坐标和像素标记中的一个来确定交通对象边界。跟踪列表模块能够更新具有异常交通对象和异常交通对象轨迹的跟踪列表,其中跟踪列表包括地理位置中的交通对象的交通活动。
在由交通跟踪模块跟踪交通对象之后,交通事件模块通过从交通活动确定至少一个异常交通对象轨迹来检测地理位置中的异常交通事件。交通跟踪模块包括异常活动检测模块,该异常活动检测模块能够实时标识一个或多个异常交通对象。如本文中所使用的,“异常交通对象”潜在地引起异常交通事件。通过确定与异常交通对象相关联的一个或多个异常交通对象轨迹来检测异常交通对象。如本文中所使用的,基于异常交通对象的历史坐标和当前坐标来检测异常交通对象轨迹。因此,异常活动检测模块基于异常交通对象轨迹来检测地理位置中的异常交通事件。
交通事件模块进一步包括唯一标识模块,用以检测跨一个或多个捕获节点的异常交通对象的唯一标识。如本文中所使用的,异常交通对象的“唯一标识”指代异常交通对象的特征,该特征使得该交通对象是唯一的。例如,车辆的车牌可以用作车辆的唯一标识。在一实施例中,通过匹配与跨捕获节点的异常交通对象相关联的一个或多个标识特征来确定唯一标识。
交通事件模块还包括事件分类模块和伤亡估计模块。事件分类模块通过将异常交通事件分类为交通违规、交通事故之一和其两者来确定事件的类型。此外,伤亡估计模块基于预先训练的严重性估计模型来确定异常交通事件的伤亡的严重性。预先训练的严重性估计模型基于事件交通对象的数量、与事件交通对象相关联的事件轨迹、以及事件交通对象的类型。因此,该计算设备检测地理位置中的异常交通事件和事件交通对象。在检测到异常交通事件和事件交通对象之后,该计算设备经由通信单元将异常交通事件传送给至少一个缓解机构,以用于缓解异常交通事件的影响。
本发明还提供了一种用于检测地理位置中的异常交通事件的系统。该系统包括服务器、网络、数据库、相机和计算设备。服务器通信地耦合到数据库。该数据库例如是结构化查询语言(SQL)数据存储、或不仅仅是SQL(NoSQL)数据存储。
在一实施例中,数据库可以是服务器可直接访问的文件系统上的位置。在另一个实施例中,服务器和数据库可以被配置为在云计算环境中实现的基于云的数据库,其中计算资源作为服务通过网络而被递送。
如本文中所使用的,“云计算环境”指代包括可配置的计算物理和逻辑资源(例如,网络、服务器、存储装置、应用、服务等)以及分布在网络(例如,互联网)上的数据的处理环境。云计算环境提供了对可配置的计算物理和逻辑资源的共享池的按需网络访问。该网络例如是有线网络、无线网络、通信网络、或由这些网络的任何组合形成的网络。
服务器包括如本文中之前所指示的计算设备。该计算设备通信地耦合到网络。存储器被配置成存储由模块(例如,交通训练模型和交通模型生成器)定义的计算机程序指令。
附图说明
现在将参考本发明的附图来解决本发明的上述和其他特征。所图示的实施例旨在说明而非限制本发明。
在下文中,参考附图中示出的所图示的实施例来进一步描述本发明,在附图中:
图1是用于检测地理位置中的异常交通事件的系统的框图;
图2是用于检测地理位置中的异常交通事件的边缘设备的框图;
图3图示了图2中的边缘设备的操作方法;
图4A、4B和4C图示了由图2的边缘设备对包括异常交通对象的交通对象的跟踪;
图5图示了由边缘设备对伤亡和伤亡严重性的估计;
图6图示了由边缘设备对交通违规的确定;以及
图7图示了用于管理地理位置中的交通流的方法。
参考附图描述了各种实施例,其中相似的附图标记始终用于指代相似的元件。此外,阐述了许多具体细节以便提供对本发明的一个或多个实施例的透彻理解。不能认为这些示例将本发明的应用限制于各图中公开的配置。可以显而易见的是,可以在没有这些具体细节的情况下实践这种实施例。
具体实施方式
图1是用于检测地理位置中的异常交通事件的系统100的框图。地理位置指代区域或交叉路口130。如图1中所示,交叉路口130处的交通包括车辆交通和行人交通。交叉路口130连接到车道132、134、136和138。交叉路口130包括交通标志杆140,用以指示车道132、134、136和138处的交通是应当停止(红色)、谨慎行进(黄色)还是行进(绿色)。此外,交叉路口130被提供有相机120,用以捕获与交叉路口130相关联的交通环境。
系统100包括服务器102、网络108、数据库110、相机120和计算设备150。如图1中所示,服务器102通信地耦合到数据库110。数据库110例如是结构化查询语言(SQL)数据存储、或不仅仅是SQL(NoSQL)数据存储。在一实施例中,数据库110可以是服务器102可直接访问的文件系统上的位置。在另一个实施例中,服务器102和数据库110可以被配置为在云计算环境中实现的基于云的数据库,其中计算资源作为服务通过网络108而被递送。
如本文中所使用的,“云计算环境”指代包括可配置的计算物理和逻辑资源(例如,网络、服务器、存储装置、应用、服务等)以及分布在网络108(例如,互联网)上的数据的处理环境。云计算环境提供了对可配置的计算物理和逻辑资源的共享池的按需网络访问。网络108例如是有线网络、无线网络、通信网络、或由这些网络的任何组合形成的网络。
服务器102包括控制器104和存储器106。服务器102通信地耦合到网络108。存储器106被配置成存储由模块(例如,交通训练模型112和交通模型生成器114)定义的计算机程序指令。
此外,图1示出了计算设备150包括异常活动检测模块162、事件分类模块164和伤亡估计模块166。
异常活动检测模块162能够实时标识一个或多个异常交通对象。如本文中所使用的,“异常活动”包括可能导致事故、交通违规或其两者的活动。异常交通对象是潜在地引起异常交通事件的交通对象。例如,违反了(jumping)在交通标志杆140上指示的交通信号的车辆135是异常交通对象。
异常活动检测模块162还检测与异常交通对象相关联的一个或多个异常交通对象轨迹。基于异常交通对象的历史坐标和当前坐标来检测异常交通对象轨迹。考虑上面的示例,车辆135在预定时间间隔内的速度、车轮角度和位置被称为异常交通对象轨迹。针对地理位置中的所有异常交通对象来确定这种异常交通对象轨迹。一旦检测到异常活动,事件分类模块164就将异常交通事件分类为交通违规或事故或其两者。
伤亡估计模块166确定异常交通事件的伤亡和伤亡的严重性。基于与事件交通对象相关联的事件轨迹以及预先训练的严重性模型来确定伤亡。如本文中所使用的,“事件交通对象”包括与异常交通事件相关联的交通对象,该交通对象包括异常交通对象(例如,车辆135)。此外,术语“事件轨迹”包括事件交通对象的历史交通对象轨迹。还通过估计事件交通对象的数量、交通对象的类型等来确定伤亡的严重性。
基于伤亡和伤亡的严重性,该计算设备启动与缓解机构182、184和186的通信。如本文中所使用的,“缓解机构”指代能够减少由异常交通事件引起的影响的私人或政府机构。例如,交通警察182将是针对交通违规的缓解机构,而医院184、186和交通警察182将是事故情况下的缓解机构。如图2中详细描述的那样,计算设备150包括其他组件,诸如处理器、存储器和通信单元。
图2是检测地理位置中的异常交通事件的边缘设备200的框图。可以使用边缘设备200来代替计算设备150。边缘设备200具有能够与网络108连接的小形状因子。边缘设备200包括处理器202、存储器204、通信单元208、显示器206和冷却风扇(该图中未示出)。存储器204可以包括堆叠式封装(PoP)堆叠的2千兆字节随机存取存储器(RAM)以及闪速存储装置。
边缘设备200的存储器204被提供有以计算机可读指令的形式存储的模块,例如210、212、220、230、240等。处理器202被配置成执行这些模块中所定义的计算机程序指令。此外,处理器202被配置成同时执行存储器204中的指令。
系统100中的边缘设备200的操作被解释如下。相机120对交叉路口130处的交通环境的实时数据进行转发。交通环境由交通对象标识模块210来处理,以基于地理位置中的交通环境来实时确定交通对象。
交通对象标识模块210包括特征标识模块212。特征标识模块212基于预定的标识模型、通过卷积层、池化层和激活层的组合来标识交通环境的交通图像中的特征。如本文中所使用的,“特征”指代交通对象的特征,例如车轮数量、交通对象的大小等。
预定的标识模型是由交通模型生成器114在预定的交通对象集合上使用神经网络而生成的训练模型。特征标识模块212分析交通图像以确定与交通图像中的交通对象相关联的特征。利用新类型的交通对象来更新预定的标识模型。由于交通对象标识是通过首先标识交通对象的特征来完成的,因此交通对象标识模块能够基于所标识的特征独立于交通环境中的车辆位置、相对车辆接近度和行人位置来确定交通对象。
此后,交通跟踪模块220通过跟踪地理位置中的交通对象来确定交通活动。如本文中所使用的,“交通活动”指代交通对象的交通对象轨迹,诸如与交通对象实时相关联的位置、定位和边界。
交通跟踪模块220包括交通对象模块222、插值模块224、分割模块226、交通对象边界模块228和跟踪列表模块230。交通对象模块222在交通环境的交通图像中检测与交通对象相关联的交通对象坐标。插值模块224对交通对象坐标进行插值并且以预定间隔来跟踪交通对象。分割模块226针对与交通环境相关联的交通图像中的像素来生成像素标记。像素标记是通过根据交通对象来对像素进行标记而生成的。例如,分割模块226将像素标记为汽车引擎盖或两轮车的车轮。交通对象边界模块228能够基于经插值的交通对象坐标和像素标记中的一个来确定交通对象边界。跟踪列表模块能够更新具有异常交通对象和异常交通对象轨迹的跟踪列表,其中跟踪列表包括地理位置中的交通对象的交通活动。在图4A-4C中进一步解释了由交通跟踪模块220确定交通对象的过程。
在由交通跟踪模块220跟踪交通对象之后,交通事件模块240通过从交通活动确定至少一个异常交通对象轨迹来检测地理位置中的异常交通事件。交通跟踪模块220包括异常活动检测模块242,该异常活动检测模块242能够实时标识一个或多个异常交通对象。如本文中所使用的,“异常交通对象”潜在地引起异常交通事件。通过确定与异常交通对象相关联的一个或多个异常交通对象轨迹来检测异常交通对象。如本文中所使用的,基于异常交通对象的历史坐标和当前坐标来检测异常交通对象轨迹。因此,异常活动检测模块242基于异常交通对象轨迹来检测地理位置中的异常交通事件。
交通事件模块240进一步包括唯一标识模块244,用以检测跨一个或多个捕获节点的异常交通对象的唯一标识。如本文中所使用的,异常交通对象的“唯一标识”指代异常交通对象的特征,该特征使得该交通对象是唯一的。例如,车辆的车牌可以用作车辆的唯一标识。在一实施例中,通过匹配与跨捕获节点的异常交通对象相关联的一个或多个标识特征来确定唯一标识。如图4C中所指示,该唯一标识还被交通跟踪模块220用于跟踪交通对象。
交通事件模块240还包括事件分类模块246和伤亡估计模块248。事件分类模块246通过将异常交通事件分类为交通违规、交通事故之一和其两者来确定事件的类型。此外,伤亡估计模块248基于预先训练的严重性估计模型来确定异常交通事件的伤亡的严重性。预先训练的严重性估计模型基于事件交通对象的数量、与事件交通对象相关联的事件轨迹、以及事件交通对象的类型。如本文中所使用的,“事件交通对象”指代与异常交通事件相关联的交通对象。此外,“事件轨迹”指代事件交通对象的历史交通对象轨迹。因此,事件交通对象包括异常交通对象以及已经被异常交通事件所影响的受影响交通对象。因此,边缘设备200检测地理位置中的异常交通事件和事件交通对象。在检测到异常交通事件和事件交通对象之后,边缘设备200经由通信单元208将异常交通事件传送给至少一个缓解机构,以用于缓解异常交通事件的影响。
图3图示了图2中的边缘设备的操作方法。如该图中所示,该方法开始于:在多个捕获节点处捕获由捕获设备302指示的地理位置中的交通环境。捕获设备302可以被放置在路灯、无人驾驶飞机、交叉路口处的交通标志杆、街道广告牌上。在一实施例中,捕获设备302包括被放置在车道(诸如图1中的132)上的传感器。传感器包括空气质量传感器,该空气质量传感器能够确定从车辆的排气管排出的空气的质量。
通过使捕获设备302沿交叉路口的车道而分布,可以针对所有参数均匀地跨交叉路口的车道来捕获交通环境。这使得能够精确确定交叉路口处的交通环境。如本文中所使用的,捕获设备可以是被提供有图像传感器、运动传感器、全球定位系统(GPS)设备的有人操纵的设备或无人操纵的设备。例如,捕获设备可以是位于交通标志杆、路灯、无人驾驶飞机等上的相机。在另一个示例中,捕获设备可以是具有GPS传感器的移动计算设备,该移动计算设备能够对一位置处由于严重交通阻塞而导致的等待时间的细节进行中继。
根据又一个实施例,该方法包括捕获媒体数据,该媒体数据包括与交叉路口相对应的社交媒体。例如,媒体和社交媒体站点提供各种地理位置处的交通的实时信息。服务器解析媒体数据以检测是否存在与交叉路口相关的交通异常现象。该信息从服务器被传送到位于交叉路口处的计算设备,该计算设备选择针对该交叉路口的交通信号简档。
此外,该方法包括生成交通环境的交通图像。在一实施例中,针对交通图像中的像素来生成像素标记。在步骤304处,通过根据交通对象对像素进行标记来生成像素标记。通过对像素进行标记,可以在步骤308中跟踪交通对象。
在另一个实施例中,在步骤306处,基于预定的标识模型、通过卷积层、池化层和激活层的组合来标识交通图像中的特征。基于所标识的特征,独立于车辆位置、相对车辆接近度和行人位置、基于所标识的特征来检测交通对象。因此,对从捕获设备捕获的交通环境进行处理,以跟踪进入捕获位置的所有交通对象,直到它们从捕获位置离开。如本文中所使用的,“捕获位置”指代能够被捕获设备捕获的区域或位置。在一实施例中,用于感测、跟踪和检测的步骤在连接到捕获设备302的边缘设备200上执行。
在步骤308处,跟踪交通对象以确定交通对象的交通活动。在步骤308中,使用多种交通对象跟踪技术来跟踪视频中的多于一个交通对象。通过确定所捕获的交通环境中的第一外观实例(first instance of appearance)中的交通对象的初始位置来执行跟踪。使用该初始位置以及所捕获的交通环境的连续帧的图像,同一交通对象的位置被预测出。
在一实施例中,定义交通对象的交通对象边界框以跟踪交通对象。生成形式为(x,y,宽度,高度)的交通对象边界框,其中(x,y)是交通对象边界框的左上角的坐标。除了简单的交通对象检测之外,还需要进行跟踪,这是因为检测视频的每一帧中的交通对象可能在计算上过于昂贵(prohibitive)。通过每N个帧地执行检测并且使用跟踪方法在这些帧之间对检测到的边界框进行插值,减少了计算。跟踪也是有用的,这是因为检测可能会由于遮挡(即,一个交通对象被另一个交通对象覆盖)或照明中的改变而失败。在这些情况下,跟踪方法使用其对交通对象的外观和移动(包括速度和方向)的内部表示来预测所跟踪的交通对象的可能未来位置。跟踪还保留了交通对象的标识。因此,跨视频帧来跟踪交通对象是可能的。
在跟踪交通对象之后,在步骤310、320和330处执行对异常交通事件的检测。可以串行地、并行地或以随机次序序列来执行步骤310、320和330。
在步骤310处,检测到的异常交通事件被分类为事故。步骤310包括子步骤312和316。在步骤312处,从通过跟踪交通对象而生成的交通活动来检测事故。然后,在步骤316中提取事故的细节。事故的细节包括:所涉及的交通对象的数量、事故的位置、事故的严重性、所涉及的伤亡等。在步骤342处,向交通警察和医疗服务(诸如,附近的医院和救护车)通报关于事故的细节。
还执行步骤320以识别事故中涉及的交通对象。步骤320包括子步骤322和326。在322处,提取交通对象的细节。例如,交通对象的类型(诸如,车辆或行人)、车辆的类型、车辆中的乘客、车辆中的乘客类型等。在步骤326处,确定交通对象的唯一标识。例如,唯一标识包括但不限于:车辆(交通对象)的登记号、交通对象的特性颜色和形状等。因此,在步骤326处,执行自动一次性校准,以检测交叉路口或道路段的特征。例如,车道标记物、行人穿越(pedestrian crossing)区、车辆移动的允许方向和区域、交通标志牌等。
步骤330涉及违规检测,并且包括子步骤332和336。在步骤332处,检测交通环境中的违规。如本文中所使用的,违规指代对交通规则的违规。违规可能由运动中或静止的交通对象而完成。例如,移动违规包括超速、在停止标志或红灯的情况下行驶、行人穿越违规/越界(overstepping)、以及酒后驾驶。非移动违规包括不正确的停放或有故障的设备。
通过确定交通对象轨迹来检测违规,连续地记录违规(在步骤340处),并且通过诸如长短期记忆(LSTM)之类的学习模型或诸如隐马尔可夫模型(HMM)之类的其他时间序列模型来分析违规。这些模型输出交通对象轨迹输入的介于0与1之间的概率。在一实施例中,通过执行步骤320,具有高违规概率的交通对象轨迹经受进一步的后处理。
在一实施例中,基于规则的模型与学习模型被一起应用。当不同种类的交通违规示出非常少的相似性并且对于学习模型而言很可能无法根据一小组轨迹来捕获违规模式时,这是有利的。
在步骤336处,针对违规来生成交通票(ticket)。在步骤344处,在导致事故和伤亡的违规的情况下,关于该违规向交通警察和最近的医院进行通报。在步骤340处,将关于异常交通环境(即,事故和违规)的细节记录在数据库中。在步骤310、320和330的每个子步骤处连续地执行步骤340。
图4A、4B和4C图示了由图2的边缘设备对包括异常交通对象的交通对象的跟踪。
图4A涉及使用安装在交叉路口410处的相机402来跟踪交通对象404、426(即,车辆)。使用相机402并且通过维持被标记为“跟踪器列表”405的列表来跟踪进入交叉路口的所有交通对象404、426。当交通对象426首次出现在路口410中时,将其添加到跟踪器列表405。保存在跟踪器列表405中的细节包括具有对应时间数据的轨迹。
图4B涉及跟踪跨交叉路口410和420的交通对象415。如图4B中所示,存在两个交叉路口410和420,其中交通对象404b、415在交叉路口410处并且交通对象424和415在交叉路口420处。如该图中所示,交叉路口410和交叉路口420彼此连续。在另一个实施例中,交叉路口410和420可能跨若干个中间交叉路口而散布。此外,在每个交叉路口410、420处,分别存在捕获设备402和422。除捕获设备402和422之外,在交叉路口410与420之间还存在捕获设备418。此外,图4B图示了在交叉路口410和420处被执行以便跟踪交通对象415的步骤412、414和416。
在步骤412处,在交叉路口410处检测到违反交通信号的违规。然而,在步骤412处可能无法检测到交通对象415的唯一标识,诸如车辆登记号。因此,与车辆415相关联的交通环境图像被传输到交叉路口420,使得可以捕获车辆415的唯一标识。
在步骤414处,在交叉路口420处捕获交通环境。此外,根据来自交叉路口410的交通环境图像来标识车辆415的特征。将车辆415的特征与在交叉路口420处捕获的交通环境进行比较。当特征匹配时,捕获车辆415的唯一标识。在步骤416处,将车辆415的唯一标识映射到检测到的违规,并且生成交通票。
图4C涉及跟踪和确定跨交叉路口430和440的交通对象434的超速。交通对象434由相机432和442来跟踪。在步骤450处,估计交通对象434的速度,并且标识登记号。相机432和442利用时间戳来跟踪交通对象434。在步骤460处,使用登记号、时间戳、以及在这之间所经过的距离435来确定交通对象434是否超速。
图5图示了由边缘设备550针对交叉路口510处的交通环境的伤亡和伤亡严重性的估计。交叉路口510包括车道512、514、516和518。交通环境包括多个交通对象,该多个交通对象包括在异常交通事件525中涉及的交通对象。在图5中,异常交通对象是车辆535a和事件交通对象535b-535d。包括异常交通事件525的交通环境被相机520捕获为交通图像530。
边缘设备550接收交通图像530并且确定交通环境中的交通对象。因此,边缘设备550确定交通对象特定的信息,诸如位置、对象轨迹。
边缘设备550执行步骤545-565以估计异常交通事件525的伤亡的严重性。可以并行地或以任何次序顺序地执行步骤545-565。边缘设备550使用神经网络来执行这些步骤。在一实施例中,神经网络包括递归神经网络(RNN)。RNN用于捕获交通环境中的时间和空间关系。RNN具有历史交通环境的记忆。在一实施例中,使用诸如长短期记忆(LSTM)之类的RNN类型。LSTM具有类似于RNN的架构,该架构具有权重矩阵,该权重矩阵允许LSTM网络选择性地记住和忘记随时间接收到的交通环境的部分。
因此,RNN仅对交通环境的序列(诸如,时间序列、文本和平坦化图像)进行操作。边缘设备550还在交通环境上使用长期递归卷积网络。这是有利的,因为交通环境是以空间和时间方式两者(诸如视频)而被捕获的。LRCN由如下各项组成:若干个卷积和池化层,接着是RNN网络。卷积层将交通图像映射到特征向量。此外,RNN网络从交通图像取得多个特征作为输入,以确定异常交通事件525。
所描述的方法用于检测和定位交通环境中的异常交通事件525。一旦检测到异常交通事件525,就在步骤555处确定关于异常交通事件的信息。该信息包括所涉及的事件对象535a-535b的类型——包括车辆(诸如,轿车、SUV、卡车、摩托车)的数量和类型。
此外,在步骤545处确定异常交通事件525的严重性。相应地,在步骤545处,确定所涉及的事件对象535a-535d的对象轨迹。附加地,事件对象535a被标识为异常交通对象535a。基于事件对象535b-535d和异常对象535a的类型,确定了异常交通事件525的严重性。例如,在步骤565处,计算异常交通事件525中涉及的人员的数量、伤势和伤亡。
基于所估计的伤势和伤亡的严重性,将异常交通事件525归类为轻微(minor)事故540a、重要(major)事故540b和危急(critical)事故540c。当轻微事故540a被确定时,则在步骤542处通报警察控制室。在重要和危急事故的情况下,除了通报警察控制室之外,还在步骤544和546处标识、通报本地医院。
另外,边缘设备550能够基于先前检测到的异常交通事件来估计所需的紧急服务,诸如救护车570。此外,还在步骤545处估计所需紧急服务的种类,诸如消防车、警察和救护车。
图6图示了由边缘设备650对交叉路口610处的交通环境的交通违规的确定。交叉路口610包括车道612、614、616和618。交通环境包括多个交通对象,该多个交通对象包括异常交通事件625a和625b中涉及的交通对象。包括异常交通事件625a和625b的交通环境被捕获设备622和628捕获为交通图像。
在图6中,异常交通对象包括由边缘设备650确定的车辆635a和635b。边缘设备650接收所捕获的交通环境并且执行步骤645-665以标识车辆635a和635b。
在步骤645处,检测违规并且对违规进行分类。例如,违规类型包括但不限于:闯红灯(red light jumping)、车道违纪(indiscipline)、行人穿越违规/越界、不戴头盔骑行、非法停放、在禁止掉头时进行掉头(U-turn)、违反单向交通而驾驶、在人行小道/人行道上驾驶、在禁止区域内停立/停放、以及超速。在本实施例中,车辆635a和635b的对象轨迹被检测为违规。车辆635a的违规被分类为车道违纪,而车辆635b的违规被分类为闯红灯。在步骤655处,检测车辆635a和635b的登记号。在步骤665处,将车辆635a和635b的细节经由云基础设施608发送到手持式设备680。手持式设备680可由接近于该违规的警察人员来操作。
图7图示了用于管理地理位置中的交通流的方法。该方法通过在地理位置中的多个捕获节点处实时捕获交通环境而开始于步骤702。交通环境包括车辆交通和行人交通。
在步骤704处,基于地理位置中的交通环境来实时确定交通对象。交通对象包括道路、道路类型、道路状况、车辆类型、车辆占用和行人类型。在一实施例中,通过捕获与交通环境相关联的交通图像来确定交通对象。基于预定的标识模型、通过卷积层、池化层和激活层的组合来标识交通图像中的特征。基于所标识的特征、独立于车辆位置、相对车辆接近度和行人位置来识别交通对象。
在步骤706处,检测对象坐标。对象坐标与交通环境的交通图像中的交通对象相关联。从对象坐标来确定对象边界。此外,在步骤708处,利用与交通图像中的交通对象的对象坐标、宽度和高度相关联的对象边界框来训练预定的标识模型。
在步骤712处,通过跟踪地理位置中的交通对象来确定交通活动。交通活动包括多个对象轨迹,该多个对象轨迹包括基于对象边界与交通对象实时相关联的位置、定位和边界。
在一实施例中,通过经由对象边界跟踪交通对象来确定交通活动。因此,在步骤714处,对对象坐标进行插值以便以预定间隔来跟踪交通对象。此外,针对与交通环境相关联的交通图像中的像素来生成像素标记。像素标记是通过根据交通对象来对像素进行标记而生成的。基于经插值的对象坐标和像素标记中的一个来确定对象边界。
在步骤716处,实时标识异常交通对象。异常交通对象潜在地引起异常交通事件。另外,检测异常对象轨迹。基于异常交通对象的历史坐标和当前坐标来检测异常对象轨迹。
在一实施例中,以与检测对象轨迹的方式类似的方式来检测异常对象轨迹,即,基于像素标记的边界之间的相互作用、以及交通对象的对象边界框的边界之间的相互作用来检测异常对象轨迹。在另一个实施例中,通过分析来自历史交通环境的非异常对象轨迹来确定异常交通对象。此外,确定交通环境中的对象轨迹的重构误差。在一实施例中,在非事故轨迹上训练自动编码器网络。在操作期间,自动编码器网络用于通过观察重构误差来进行异常现象检测。如本文中所使用的,“自动编码器网络”指代用于以无监督方式来学习数据表示的神经网络。自动编码器网络由输入层、编码器网络、解码器网络和输出层组成。利用反向传播对自动编码器网络进行训练,以最小化重构误差,重构误差是输出(即,实时对象轨迹)与输入(即,非异常对象轨迹)之间的差异。重构误差用于实时检测异常对象轨迹。
当对象轨迹中的重构误差超过预定阈值时,则异常对象轨迹被标识,并且由此异常交通对象被确定。使用基于奖励的优化模型(诸如,强化学习)来从历史交通环境自主地学习预定阈值。可以使用的强化学习算法包括但不限于:神经拟合Q迭代、深度Q学习、双深度Q学习、异步优势行为者-评判者(Actor-Critic)(A3C)、以及基于模型的强化学习方法(诸如,递归控制神经网络)。
异常交通对象和异常对象轨迹用于确定异常交通事件。在步骤718处,通过确定一个或多个异常对象轨迹来在地理位置中检测异常交通事件。此外,在步骤722处,基于预先训练的严重性估计模型来确定异常交通事件的伤亡的严重性。预先训练的严重性模型基于事件对象的数量、与事件对象相关联的事件轨迹、以及事件对象的类型。事件对象包括与异常交通事件相关联的交通对象,该交通对象包括异常交通对象。事件轨迹包括事件对象的历史对象轨迹。
在步骤724处,通过将异常交通事件分类为交通违规、交通事故和其两者来确定事件的类型。基于伤亡的严重性和事件的类型,与缓解机构进行通信。因此,在步骤726处,启动与至少一个缓解机构的通信。缓解机构指代能够减少由异常交通事件引起的影响的私人或政府机构。例如,交通警察将是针对交通违规的缓解机构,而医院和交通警察将是事故情况下的缓解机构。
上面公开的方法、设备和系统可以经由具有超出上面阐述的特定组件和/或电路之外的不同的或完全不同的组件的实现方式来实现。关于与本发明相关联或体现本发明的这种其他组件(例如,电路、计算/处理组件等)和/或计算机可读介质,例如,本文中的本发明的各方面可以与众多通用或专用计算系统或配置一致地实现。可以适合于与所公开的主题一起使用的各种示例性计算系统、环境和/或配置可以包括但不限于:各种与时钟相关的电路,诸如个人计算机、服务器或服务器计算设备内的与时钟相关的电路,该个人计算机、服务器或服务器计算设备诸如路由/连接组件、手持式或膝上型计算机设备、多处理器系统、基于微处理器的系统、机顶盒、智能电话、消费电子设备、网络PC、其他现有计算机平台、包括上述系统或设备中的一个或多个的分布式计算环境等。
在一些实例中,例如,本文中的本发明的各方面可以经由与电路相关联地执行的包括程序模块的逻辑和/或逻辑指令来实现。通常,程序模块可以包括执行特定任务或实现特定控制、延迟或指令的例程、程序、对象、组件、数据结构等。本发明还可以在分布式电路设置的上下文中被实践,其中电路经由通信总线、电路或链路而连接。在分布式设置中,控制/指令可以从本地和远程计算机存储介质两者(包括存储器存储设备)而发生。
该系统和计算设备、连同本文中的其组件还可以包括和/或利用一个或多个类型的计算机可读介质。计算机可读介质可以是驻留在这种电路和/或计算组件上、与这种电路和/或计算组件相关联、或者可以被这种电路和/或计算组件访问的任何可用介质。作为示例而非限制,计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据之类的信息的任何方法或技术来实现的易失性和非易失性、可移动和不可移动的介质。计算机存储介质包括但不限于:RAM、ROM、EEPROM、闪速存储器或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光学存储装置、磁带、磁盘存储装置或其他磁存储设备、或可用于存储期望信息并且可由计算组件访问的任何其他介质。通信介质可以包括体现本文中的功能的计算机可读指令、数据结构、程序模块或其他数据。此外,通信介质可以包括有线介质(诸如,有线网络或直接有线连接)和无线介质(诸如,声学、RF、红外、4G和5G蜂窝网络以及其他无线介质)。以上各项中的任一个的组合也被包括在计算机可读介质的范围内。
在本说明书中,术语组件、模块、设备等可以指代可以以各种方式实现的任何类型的逻辑或功能电路、块和/或过程。例如,各种电路和/或块的功能可以彼此组合成任何其他数量的模块。每个模块甚至可以被实现为存储在有形存储器(例如,随机存取存储器、只读存储器,CD-ROM存储器、硬盘驱动器)上的软件程序,以便由中央处理单元来读取以实现本文中的本发明的功能。或者,这些模块可以包括经由传输载波而传输到通用计算机或处理/图形硬件的编程指令。而且,这些模块可以被实现为实现了本文中的本发明所涵盖的功能的硬件逻辑电路。最后,这些模块可以使用专用指令(SIMD指令)、现场可编程逻辑阵列、或提供期望水平性能和成本的其任何混合来实现。
如本文中所公开的,可以通过计算机硬件、软件和/或固件来实现与本发明一致的实现方式和特征。例如,本文中公开的系统和方法可以以各种形式来体现,包括例如数据处理器,诸如还包括数据库、数字电子电路、固件、软件或其组合的计算机。此外,尽管所公开的实现方式中的一些描述了诸如软件之类的组件,但是可以利用硬件、软件和/或固件的任何组合来实现与本文中的本发明一致的系统和方法。此外,本文中的本发明的上述特征以及其他方面和原理可以在各种环境中实现。这种环境和相关应用可以被特别地构造成用于执行根据本发明的各种过程和操作,或者它们可以包括通用计算机或计算平台,该通用计算机或计算平台由代码选择性地激活或重新配置以提供必要的功能。本文中公开的过程并非固有地与任何特定计算机、网络、架构、环境或其他装置相关,并且可以由硬件、软件和/或固件的合适组合来实现。例如,各种通用机器可以与根据本文中的本发明的教导而编写的程序一起使用,或者构造专用的装置或系统来执行所需的方法和技术可能更方便。
本文中描述的方法和系统的各方面(诸如逻辑)可以被实现为被编程到各种电路中的任一个中的功能,该电路包括诸如现场可编程门阵列(“FPGA”)之类的可编程逻辑设备(“PLD”)、可编程阵列逻辑(“PAL”)设备、电可编程逻辑和存储器设备、和基于标准单元的设备、以及专用集成电路。用于实现各方面的其他一些可能性包括:存储器设备、具有存储器的微控制器(例如EEPROM)、嵌入式微处理器、固件、软件等。此外,各方面可以体现在微处理器中,该微处理器具有基于软件的电路仿真、离散逻辑(顺序和组合)、定制设备、模糊(神经)逻辑、量子设备、以及上述设备类型中的任一个的混合。可以以各种组件类型来提供基础设备技术,例如金属氧化物半导体场效应晶体管(“MOSFET”)技术(如互补金属氧化物半导体(“CMOS”))、双极技术(如发射极耦合逻辑(“ECL”))、聚合物技术(例如,硅共轭聚合物和金属共轭聚合物-金属结构)、混合的模拟和数字等等。
还应当注意的是,本文中公开的各种逻辑和/或功能就其行为、寄存器传输、逻辑组件和/或其他特性而言可以使用硬件、固件的任何数量的组合来实现,和/或作为体现在各种机器可读或计算机可读介质中的数据和/或指令来实现。其中可以体现这种格式化数据和/或指令的计算机可读介质包括但不限于:采用各种形式的非易失性存储介质(例如,光学、磁性或半导体存储介质)、以及可以用于通过无线、光学或有线信令介质或其任何组合来传输这种格式化数据和/或指令的载波。通过载波对这种格式化数据和/或指令的传输的示例包括但不限于:经由一个或多个数据传输协议(例如,超文本传输协议(HTTP)、文件传输协议(FTP)、简单邮件传输协议(SMTP)等等)通过互联网和/或其他计算机网络的传输(上传、下载、电子邮件等)。
除非上下文另行清楚地要求,否则遍及本说明书和权利要求书,词语“包括”、“包含”等等应被理解为包含性含义,而不是排他性或穷举性含义;也就是说,采用“包括但不限于”的含义。使用单数或复数数量的词语也分别包括复数或单数数量。附加地,词语“本文中”、“下文中”、“上面”、“下面”以及类似意义的词语指代作为整体的本申请,而不是指代本申请的任何特定部分。
尽管本文中已经具体描述了本发明的某些当前优选的实现方式,但是对于本发明所属领域的技术人员将显而易见的是,可以在不脱离本文中的本发明的范围的情况下做出对本文中所示出和描述的各种实现方式的变化和修改。因此,所意图的是,本发明仅限于所附权利要求和适用法律规则所要求的程度。

Claims (18)

1.一种用于检测地理位置中的异常交通事件(525)的方法,所述方法包括:
基于地理位置中的交通环境来实时确定交通对象,其中交通环境包括车辆交通和行人交通;
通过跟踪地理位置中的交通对象来确定交通活动,其中交通活动包括多个对象轨迹,所述多个对象轨迹包括与交通对象实时相关联的位置、定位和对象边界;以及
通过确定交通活动中的一个或多个异常对象轨迹来检测地理位置中的异常交通事件(525)。
2.根据权利要求1所述的方法,进一步包括:
在地理位置中的多个捕获节点处实时捕获交通环境;以及
确定交通环境中的交通对象,其中交通对象包括道路、道路类型、道路状况、车辆类型、车辆占用和行人类型。
3.根据权利要求2所述的方法,其中确定交通环境中的交通对象包括:
捕获与交通环境相关联的交通图像(530);
基于预定的标识模型、通过卷积层、池化层和激活层的组合来标识交通图像(530)中的特征;以及
基于所标识的特征、独立于车辆位置、相对车辆接近度和行人位置来识别交通对象。
4.根据权利要求3所述的方法,进一步包括:
利用与交通图像中的交通对象的对象坐标、宽度和高度相关联的对象边界框来训练预定的标识模型。
5.根据权利要求1所述的方法,其中通过跟踪地理位置中的交通对象来确定交通活动包括:
在交通环境的交通图像中检测与交通对象相关联的对象坐标;
从对象坐标来确定对象边界;以及
通过基于对象边界跟踪地理位置中的交通对象来确定交通活动。
6.根据权利要求5所述的方法,其中从对象坐标来确定对象边界包括:
对对象坐标进行插值以便以预定间隔来跟踪交通对象;
针对与交通环境相关联的交通图像(530)中的像素来生成像素标记,其中像素标记是通过根据交通对象来对像素进行标记而生成的;以及
基于经插值的对象坐标和像素标记中的一个来确定对象边界。
7.根据权利要求1所述的方法,其中通过从交通活动确定一个或多个异常对象轨迹来检测地理位置中的异常交通事件(525)包括:
实时标识一个或多个异常交通对象(535a),其中异常交通对象(535a)潜在地引起异常交通事件;
检测与异常交通对象相关联的一个或多个异常对象轨迹,其中基于异常交通对象的历史坐标和当前坐标来检测异常对象轨迹;以及
基于异常对象轨迹来检测地理位置中的异常交通事件(525)。
8.根据权利要求7所述的方法,进一步包括:
更新具有异常交通对象(535a)和异常对象轨迹的跟踪列表,其中跟踪列表包括地理位置中的交通对象的交通活动,
其中更新具有异常交通对象(535a)和异常对象轨迹的跟踪列表包括:
检测跨一个或多个捕获节点的异常交通对象(535a)的唯一标识;其中通过匹配与跨捕获节点的异常交通对象(535a)相关联的一个或多个标识特征来确定异常交通对象(535a)的唯一标识。
9.根据权利要求7所述的方法,其中实时检测与一个或多个异常交通对象(535a)相关联的一个或多个异常对象轨迹包括:
基于与交通环境相关联的交通图像(530)中的像素的像素标记的边界之间的相互作用来检测异常对象轨迹,其中像素标记是通过根据交通对象对来像素进行标记而生成的;以及
基于交通对象的对象边界框的边界之间的相互作用来检测异常对象轨迹,其中对象边界框由交通对象的对象坐标、宽度和高度来表示。
10.根据权利要求7所述的方法,其中实时检测与一个或多个异常交通对象(535a)相关联的一个或多个异常对象轨迹包括:
从历史交通环境来生成一个或多个非异常对象轨迹;
确定交通环境中的对象轨迹中的重构误差;以及
当对象轨迹中的重构误差超过预定阈值时,实时检测与异常交通对象(535a)相关联的异常对象轨迹,其中使用基于奖励的优化模型从历史交通环境来自主地学习预定阈值。
11.根据权利要求1所述的方法,包括:
通过将异常交通事件分类为交通违规、交通事故和其两者来确定事件的类型;
基于预先训练的严重性估计模型来确定异常交通事件的伤亡的严重性,
其中预先训练的严重性模型基于事件对象的数量、与事件对象相关联的事件轨迹、以及事件对象的类型,
其中事件对象包括与异常交通事件相关联的交通对象,所述交通对象包括一个或多个异常交通对象,其中事件轨迹包括事件对象的历史对象轨迹;以及
基于事件的类型和伤亡的严重性来启动与至少一个缓解机构的通信。
12.一种用于检测地理位置中的异常交通事件(525)的计算设备(200、550),所述计算设备(200、550)包括:
至少一个处理器(202);以及
耦合到至少一个处理器的存储器(204),所述存储器包括:
交通对象标识模块(210),其能够基于地理位置中的交通环境来实时确定交通对象,其中交通环境包括车辆交通和行人交通;
交通跟踪模块(220),其能够通过跟踪地理位置中的交通对象来确定交通活动,其中交通活动包括多个对象轨迹,所述多个对象轨迹包括与交通对象实时相关联的位置、定位和边界;
交通事件模块(240),其能够通过从交通活动确定至少一个异常对象轨迹来检测地理位置中的异常交通事件(525);以及
通信单元(208),其能够将异常交通事件(525)传送到至少一个缓解机构,以用于减轻地理位置中的异常交通事件(525)的影响。
13.根据权利要求12所述的计算设备(200、550),其中交通对象标识模块进一步包括:
特征标识模块(212),其能够基于预定的标识模型、通过卷积层、池化层和激活层的组合来标识交通图像(530)中的特征,
其中交通对象标识模块能够基于所标识的特征、独立于交通环境中的车辆位置、相对车辆接近度和行人位置来确定交通对象,以及
其中交通对象包括道路、道路类型、道路状况、车辆类型、车辆占用和行人类型。
14.根据权利要求12所述的计算设备(200、550),其中交通跟踪模块进一步包括:
对象模块(222),用以在交通环境的交通图像中检测与交通对象相关联的对象坐标;
插值模块(224),用以对对象坐标进行插值并且以预定间隔来跟踪交通对象;
分割模块(226),用以针对与交通环境相关联的交通图像(530)中的像素来生成像素标记,其中像素标记是通过根据交通对象来对像素进行标记而生成的;
对象边界模块(228),其能够基于经插值的对象坐标和像素标记中的一个来确定对象边界;
跟踪列表模块(230),其能够更新具有异常交通对象(535a)和异常对象轨迹的跟踪列表,其中跟踪列表包括地理位置中的交通对象的交通活动。
15.根据权利要求12所述的计算设备(200、550),其中交通事件模块(240)包括:
异常活动检测模块(242),其能够:
实时标识一个或多个异常交通对象(535a),其中异常交通对象(535a)潜在地引起异常交通事件,
检测与异常交通对象相关联的一个或多个异常对象轨迹,其中基于异常交通对象的历史坐标和当前坐标来检测异常对象轨迹,以及
基于异常对象轨迹来检测地理位置中的异常交通事件(525);
唯一标识模块(244),用以检测跨一个或多个捕获节点的异常交通对象(535a)的唯一标识;其中通过匹配与跨捕获节点的异常交通对象(535a)相关联的一个或多个标识特征来确定异常交通对象(535a)的唯一标识;
事件分类模块(246),用以通过将异常交通事件分类为交通违规、交通事故之一和其两者来确定事件的类型;以及
伤亡估计模块(248),用以基于预先训练的严重性估计模型来确定异常交通事件的伤亡的严重性,
其中预先训练的严重性估计模型基于事件对象的数量、与事件对象相关联的事件轨迹、以及事件对象的类型,
其中事件对象包括与异常交通事件相关联的交通对象,所述交通对象包括一个或多个异常交通对象,其中事件轨迹包括事件对象的历史对象轨迹。
16.一种用于检测地理位置中的异常交通事件的系统(100),所述系统包括:
服务器(102);
网络(108),其通信地耦合到服务器;以及
根据权利要求12所述的一个或多个计算设备(150),其经由网络通信地耦合到服务器,并且其中在地理位置中的一个或多个捕获节点处提供所述一个或多个计算设备。
17.根据权利要求16所述的系统,进一步包括:
经由网络通信地耦合到服务器的、在捕获节点处提供的多个捕获设备(120),所述多个捕获设备是有人操纵的设备和无人操纵的设备中的一个,所述设备被选择为包括图像传感器、运动传感器、GPS设备和通信设备。
18.根据权利要求16所述的系统,其中服务器包括:
数据库(110),其包括与交通环境相关联的数据,其中交通环境包括跟踪列表,跟踪列表包括一个或多个异常交通对象(535a)以及与异常交通对象相关联的异常对象轨迹;
交通训练模块(112),其能够利用与交通图像中的交通对象的坐标、宽度和高度相关联的对象边界框来训练预定的标识模型;以及
交通模型生成器(114),其能够基于交通环境来生成预定的标识模型。
CN201880087498.6A 2018-01-23 2018-01-23 用于检测地理位置中的异常交通事件的系统、设备和方法 Pending CN111699519A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/EP2018/051573 WO2019145018A1 (en) 2018-01-23 2018-01-23 System, device and method for detecting abnormal traffic events in a geographical location

Publications (1)

Publication Number Publication Date
CN111699519A true CN111699519A (zh) 2020-09-22

Family

ID=61198794

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880087498.6A Pending CN111699519A (zh) 2018-01-23 2018-01-23 用于检测地理位置中的异常交通事件的系统、设备和方法

Country Status (3)

Country Link
EP (1) EP3729397A1 (zh)
CN (1) CN111699519A (zh)
WO (1) WO2019145018A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117765737A (zh) * 2024-02-21 2024-03-26 天津大学 交通异常检测方法、装置、设备、介质及程序产品

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112308104A (zh) * 2019-08-02 2021-02-02 杭州海康威视数字技术股份有限公司 异常识别方法、装置及计算机存储介质
CN110619747A (zh) * 2019-09-27 2019-12-27 山东奥邦交通设施工程有限公司 一种高速公路道路智能监控方法及系统
CN110738366B (zh) * 2019-10-11 2023-01-17 中国科学院软件研究所 一种室外盲区行为预测方法
CN111126144B (zh) * 2019-11-20 2021-10-12 浙江工业大学 一种基于机器学习的车辆轨迹异常检测方法
FR3103434A1 (fr) * 2019-11-21 2021-05-28 Psa Automobiles Sa Procédé de détection du comportement erratique d’un véhicule automobile circulant sur une route
FR3103435A1 (fr) * 2019-11-21 2021-05-28 Psa Automobiles Sa Procédé de détection du comportement erratique d’un véhicule automobile circulant sur une route
CN110929676A (zh) * 2019-12-04 2020-03-27 浙江工业大学 一种基于深度学习的违章掉头实时检测方法
CN111210634B (zh) * 2020-02-27 2020-11-17 深圳市智慧城市科技发展集团有限公司 智能交通信息处理方法、装置、智能交通系统及服务器
CN111462200B (zh) * 2020-04-03 2023-09-19 中国科学院深圳先进技术研究院 一种跨视频行人定位追踪方法、系统及设备
FR3109662B1 (fr) * 2020-04-22 2022-07-22 Xavier Chevalier Procédé et système informatique de suivi de trafic routier
CN111859291B (zh) * 2020-06-23 2022-02-25 北京百度网讯科技有限公司 交通事故识别方法、装置、设备和计算机存储介质
CN111723997A (zh) * 2020-06-23 2020-09-29 上海电科智能系统股份有限公司 一种基于gan的城市重大交通事故数据样本自动生成方法
CN112927504B (zh) * 2021-01-26 2022-04-26 广东紫云平台数据服务有限公司 一种基于大数据的交通违章确认方法及系统
CN112907979B (zh) * 2021-03-08 2023-05-12 河海大学 一种基于多摄像头的机动车违法行驶轨迹跟踪系统及方法
CN113052048A (zh) * 2021-03-18 2021-06-29 北京百度网讯科技有限公司 交通事件检测方法、装置、路侧设备以及云控平台
CN114664092B (zh) * 2022-05-18 2022-10-04 阿里巴巴达摩院(杭州)科技有限公司 交通事件检测系统、事件检测方法以及装置
CN115797883B (zh) * 2023-02-06 2023-04-28 以萨技术股份有限公司 一种确定异常事件的数据处理系统
CN116913098B (zh) * 2023-09-14 2023-12-22 华东交通大学 一种融合空气质量与车流量数据的短时交通流预测方法

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101159098A (zh) * 2007-11-20 2008-04-09 东南大学 城市交通意外事件的自动检测确认方法
US20120134532A1 (en) * 2010-06-08 2012-05-31 Gorilla Technology Inc. Abnormal behavior detection system and method using automatic classification of multiple features
CN102855638A (zh) * 2012-08-13 2013-01-02 苏州大学 基于谱聚类的车辆异常行为检测方法
CN103150901A (zh) * 2013-02-05 2013-06-12 长安大学 一种基于车辆运动矢量场分析的异常交通状况检测方法
CN103235933A (zh) * 2013-04-15 2013-08-07 东南大学 一种基于隐马尔科夫模型的车辆异常行为检测方法
CN103325258A (zh) * 2013-06-24 2013-09-25 武汉烽火众智数字技术有限责任公司 基于视频处理的闯红灯检测装置及其方法
US20130286208A1 (en) * 2012-04-30 2013-10-31 Xerox Corporation Method and system for automatically detecting multi-object anomalies utilizing joint sparse reconstruction model
CN103761877A (zh) * 2014-01-23 2014-04-30 山东鼎讯智能交通科技有限公司 基于雷达触发的闯红灯自动记录系统及方法
CN103971521A (zh) * 2014-05-19 2014-08-06 清华大学 道路交通异常事件实时检测方法及装置
CN104134068A (zh) * 2014-08-12 2014-11-05 江苏理工学院 基于稀疏编码的监控车辆特征表示及分类方法
CN104657746A (zh) * 2015-01-29 2015-05-27 电子科技大学 一种基于车辆轨迹相似性的异常检测方法
US20150332097A1 (en) * 2014-05-15 2015-11-19 Xerox Corporation Short-time stopping detection from red light camera videos
US9533688B1 (en) * 2015-12-29 2017-01-03 Thunder Power Hong Kong Ltd. Platform for acquiring driver behavior data

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9472098B2 (en) 2015-01-15 2016-10-18 International Business Machines Corporation Vehicle-based abnormal travel event detecting and reporting

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101159098A (zh) * 2007-11-20 2008-04-09 东南大学 城市交通意外事件的自动检测确认方法
US20120134532A1 (en) * 2010-06-08 2012-05-31 Gorilla Technology Inc. Abnormal behavior detection system and method using automatic classification of multiple features
US20130286208A1 (en) * 2012-04-30 2013-10-31 Xerox Corporation Method and system for automatically detecting multi-object anomalies utilizing joint sparse reconstruction model
CN102855638A (zh) * 2012-08-13 2013-01-02 苏州大学 基于谱聚类的车辆异常行为检测方法
CN103150901A (zh) * 2013-02-05 2013-06-12 长安大学 一种基于车辆运动矢量场分析的异常交通状况检测方法
CN103235933A (zh) * 2013-04-15 2013-08-07 东南大学 一种基于隐马尔科夫模型的车辆异常行为检测方法
CN103325258A (zh) * 2013-06-24 2013-09-25 武汉烽火众智数字技术有限责任公司 基于视频处理的闯红灯检测装置及其方法
CN103761877A (zh) * 2014-01-23 2014-04-30 山东鼎讯智能交通科技有限公司 基于雷达触发的闯红灯自动记录系统及方法
US20150332097A1 (en) * 2014-05-15 2015-11-19 Xerox Corporation Short-time stopping detection from red light camera videos
CN103971521A (zh) * 2014-05-19 2014-08-06 清华大学 道路交通异常事件实时检测方法及装置
CN104134068A (zh) * 2014-08-12 2014-11-05 江苏理工学院 基于稀疏编码的监控车辆特征表示及分类方法
CN104657746A (zh) * 2015-01-29 2015-05-27 电子科技大学 一种基于车辆轨迹相似性的异常检测方法
US9533688B1 (en) * 2015-12-29 2017-01-03 Thunder Power Hong Kong Ltd. Platform for acquiring driver behavior data
EP3188150A2 (en) * 2015-12-29 2017-07-05 Thunder Power New Energy Vehicle Development Company Limited Platform for acquiring driver behavior data

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117765737A (zh) * 2024-02-21 2024-03-26 天津大学 交通异常检测方法、装置、设备、介质及程序产品

Also Published As

Publication number Publication date
EP3729397A1 (en) 2020-10-28
WO2019145018A1 (en) 2019-08-01

Similar Documents

Publication Publication Date Title
CN111699519A (zh) 用于检测地理位置中的异常交通事件的系统、设备和方法
US11074813B2 (en) Driver behavior monitoring
US11380105B2 (en) Identification and classification of traffic conflicts
WO2018141403A1 (en) System, device and method for managing traffic in a geographical location
CN107368890A (zh) 一种以视觉为中心的基于深度学习的路况分析方法及系统
WO2017123665A1 (en) Driver behavior monitoring
WO2021014464A1 (en) System, multi-utility device and method to monitor vehicles for road saftey
EP3751480A1 (en) System and method for detecting on-street parking violations
Llorca et al. Traffic data collection for floating car data enhancement in V2I networks
KR102246706B1 (ko) 자율 주행 장치 및 이상 도로 상황에서 자율 주행 장치 운용 방법
CN113223317A (zh) 一种更新地图的方法、装置和设备
Patil Applications of deep learning in traffic management: A review
US20230033672A1 (en) Determining traffic violation hotspots
Thevendran et al. Deep Learning & Computer Vision for IoT based Intelligent Driver Assistant System
EP4145398A1 (en) Systems and methods for vehicle camera obstruction detection
WO2023017317A1 (en) Environmentally aware prediction of human behaviors
JP6812337B2 (ja) 移動対象物における所定事象の発生傾向を推定するプログラム、装置及び方法
CN106448163A (zh) 道路监控方法及道路监控装置
CN114333339A (zh) 深度神经网络功能模块去重复的方法
Gokasar et al. Real-time prediction of traffic density with deep learning using computer vision and traffic event information
Adhithya et al. Frame by frame analysis for counting of vehicles from aerial video
Ramzi et al. Road obstacle detection
EP4137845A1 (en) Methods and systems for predicting properties of a plurality of objects in a vicinity of a vehicle
Begum et al. Real-Time Image Recognition and Video Analysis Using Deep Learning for Aurangabad Smart City
Khan et al. Real-Time Vehicle fitness detection using YOLOv5

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220218

Address after: Munich, Germany

Applicant after: Yunnix Co.,Ltd.

Address before: Munich, Germany

Applicant before: Siemens Transportation Co.,Ltd.

RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20200922