CN116597397B - 预测车辆轨迹的模型训练方法和装置及存储介质 - Google Patents
预测车辆轨迹的模型训练方法和装置及存储介质 Download PDFInfo
- Publication number
- CN116597397B CN116597397B CN202310874969.0A CN202310874969A CN116597397B CN 116597397 B CN116597397 B CN 116597397B CN 202310874969 A CN202310874969 A CN 202310874969A CN 116597397 B CN116597397 B CN 116597397B
- Authority
- CN
- China
- Prior art keywords
- track
- vehicle
- tracks
- frame
- inter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 106
- 238000000034 method Methods 0.000 title claims abstract description 89
- 238000012795 verification Methods 0.000 claims description 40
- 238000012545 processing Methods 0.000 claims description 34
- 238000012216 screening Methods 0.000 claims description 25
- 230000015654 memory Effects 0.000 claims description 22
- 238000006243 chemical reaction Methods 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 19
- 230000004927 fusion Effects 0.000 claims description 7
- 230000001960 triggered effect Effects 0.000 claims description 5
- 230000000694 effects Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000009499 grossing Methods 0.000 description 8
- 238000005065 mining Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 238000006073 displacement reaction Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000007774 longterm Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000009412 basement excavation Methods 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012876 topography Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/54—Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请公开了一种预测车辆轨迹的模型训练方法和装置及存储介质。其中,该方法包括:获取多个历史车辆轨迹,其中,历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,帧间抖动信息用于度量多帧车辆行驶图像中各个帧间间隔发生的抖动;对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;利用多个目标车辆轨迹训练轨迹预测模型。本申请解决了车辆轨迹的预测准确性较低的技术问题。
Description
技术领域
本申请涉及计算机领域,具体而言,涉及一种预测车辆轨迹的模型训练方法、装置和存储介质及电子设备。
背景技术
在车辆轨迹的预测场景中,使用模型的方式进行轨迹预测,但低质量的样本训练出的模型是无法保证轨迹预测准确性的,且车辆轨迹这一场景,更容易出现低质量样本,进而导致车辆轨迹的预测准确性较低的问题出现。因此,存在车辆轨迹的预测准确性较低的问题。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种预测车辆轨迹的模型训练方法、装置和存储介质及电子设备,以至少解决车辆轨迹的预测准确性较低的技术问题。
根据本申请实施例的一个方面,提供了一种预测车辆轨迹的模型训练方法,包括:获取多个历史车辆轨迹,其中,上述历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;获取上述多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,上述帧间抖动信息用于度量上述多帧车辆行驶图像中各个帧间间隔发生的抖动;对上述多个历史车辆轨迹中上述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,上述轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;利用上述多个目标车辆轨迹训练轨迹预测模型,并使用训练好的上述轨迹预测模型进行车辆轨迹的预测。
根据本申请实施例的另一方面,还提供了一种预测车辆轨迹的模型训练装置,包括:第一获取单元,用于获取多个历史车辆轨迹,其中,上述历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;第二获取单元,用于获取上述多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,上述帧间抖动信息用于度量上述多帧车辆行驶图像中各个帧间间隔发生的抖动;补偿单元,用于对上述多个历史车辆轨迹中上述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,上述轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;训练单元,用于利用上述多个目标车辆轨迹训练轨迹预测模型,并使用训练好的上述轨迹预测模型进行车辆轨迹的预测。
作为一种可选的方案,上述装置还包括:第三获取单元,用于在上述对上述多个历史车辆轨迹中上述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,获取上述各个历史车辆轨迹中的各对相邻车辆行驶图像帧;第四获取单元,用于在上述对上述多个历史车辆轨迹中上述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,获取上述各对相邻车辆行驶图像帧之间的帧间间隔时长;确定单元,用于在上述对上述多个历史车辆轨迹中上述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,在上述帧间间隔时长小于或等于预设时长阈值的情况下,确定上述帧间抖动信息满足上述轨迹稳定条件。
作为一种可选的方案,上述补偿单元,包括:第一获取模块,用于获取满足上述轨迹稳定条件的候选车辆轨迹;第二获取模块,用于获取上述候选车辆轨迹中的、上述帧间间隔时长大于或等于补偿时长阈值的备选车辆轨迹,其中,上述补偿时长阈值小于上述预设时长阈值;补偿模块,用于利用线性插值补偿算法,对上述备选车辆轨迹中的、上述帧间间隔时长大于或等于上述补偿时长阈值的至少一对相邻车辆行驶图像帧进行补偿,得到上述目标车辆轨迹。
作为一种可选的方案,上述训练单元,包括:第三获取模块,用于获取上述多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆距离,其中,上述帧间车辆距离用于度量上述多帧车辆行驶图像中相邻帧内第一目标车辆之间的位置差;筛选模块,用于从上述多个目标车辆轨迹中筛选出上述帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹;训练模块,用于利用上述至少一个第一车辆轨迹训练上述轨迹预测模型。
作为一种可选的方案,上述装置还包括:第四获取模块,用于在上述从上述多个目标车辆轨迹中筛选出上述帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,获取上述各个目标车辆轨迹中的各对相邻车辆行驶图像帧;第五获取模块,用于在上述从上述多个目标车辆轨迹中筛选出上述帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,获取上述各对相邻车辆行驶图像帧内上述第一目标车辆之间的横向距离差和纵向距离差;第一确定模块,用于在上述从上述多个目标车辆轨迹中筛选出上述帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,在上述横向距离差小于或等于第一预设阈值、且上述纵向距离差小于或等于第二预设阈值的情况下,确定上述帧间车辆距离满足上述第一轨迹校验条件,其中,上述第一预设阈值与上述第一目标车辆的横向车速呈正相关关系,上述第二预设阈值与上述第一目标车辆的纵向车速呈正相关关系。
根据本申请实施例的另一方面,还提供了一种车辆轨迹的预测装置,包括:预测单元,用于利用上述所述预测车辆轨迹的模型训练装置训练轨迹预测模型,使用训练好的上述轨迹预测模型进行车辆轨迹的预测。
作为一种可选的方案,上述预测单元,包括:第六获取模块,用于获取上述多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆角度,其中,上述帧间车辆航向角用于度量上述多帧车辆行驶图像中相邻帧内第二目标车辆的转向角度;第二确定模块,用于从上述多个目标车辆轨迹中筛选出上述帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹;训练模块,用于利用上述至少一个第二车辆轨迹训练上述轨迹预测模型。
作为一种可选的方案,上述装置还包括:第七获取模块,用于在上述从上述多个目标车辆轨迹中筛选出上述帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,获取上述各个目标车辆轨迹中的各对相邻车辆行驶图像帧;第八获取模块,用于在上述从上述多个目标车辆轨迹中筛选出上述帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,获取上述各对相邻车辆行驶图像帧内上述第二目标车辆对应的航向角之差;第三确定模块,用于在上述从上述多个目标车辆轨迹中筛选出上述帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,在上述航向角之差小于或等于第三预设阈值的情况下,确定上述帧间车辆角度满足上述第二轨迹校验条件,其中,上述第三预设阈值与上述目标车辆的限制车速呈负相关关系。
作为一种可选的方案,上述预测单元,包括:第九获取模块,用于响应于对第三目标车辆触发的轨迹预测请求,获取上述第三目标车辆关联的历史行驶轨迹,其中,上述历史行驶轨迹为上述第三目标车辆在历史时间段内在目标区域内行驶过的车辆轨迹;输入模块,用于将上述历史行驶轨迹,以及上述第三目标车辆在上述目标区域内关联的区域信息输入训练好的上述轨迹预测模型,其中,上述区域信息为上述第三目标车辆在上述历史时间段内途径上述目标区域内各个区域的位置和属性;第十获取模块,用于获取上述轨迹预测模型输出的、上述第三目标车辆对应的车辆预测轨迹。
作为一种可选的方案,上述输入模块,包括:第一输入子模块,用于将上述历史行驶轨迹输入上述轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将上述区域信息输入上述轨迹预测模型中的第二特征转换结构,得到区域关联特征;上述装置还包括:第二输入子模块,用于在上述将上述历史行驶轨迹输入上述轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将上述区域信息输入上述轨迹预测模型中的第二特征转换结构,得到区域关联特征之后,将上述车辆位置特征和上述区域关联特征输入上述轨迹预测模型中的特征融合结构,得到车辆区域特征;第三输入子模块,用于在上述将上述历史行驶轨迹输入上述轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将上述区域信息输入上述轨迹预测模型中的第二特征转换结构,得到区域关联特征之后,将上述车辆区域特征输入上述轨迹预测模型中的特征处理结构,得到上述第三目标车辆对应的车辆预测轨迹。
作为一种可选的方案,上述预测单元,包括:执行模块,用于使用训练好的上述轨迹预测模型得到N个初始预测轨迹,并执行以下步骤,直至得到N个目标预测轨迹,其中,N为正整数;从上述N个初始预测轨迹中确定出当前初始预测轨迹;在上述当前初始预测轨迹为第一个或最后一个初始预测轨迹的情况下,将上述当前初始预测轨迹确定为上述目标预测轨迹;在上述当前初始预测轨迹非上述第一个或最后一个初始预测轨迹的情况下,获取上述当前初始预测轨迹的前一个或多个初始预测轨迹和后一个或多个初始预测轨迹,并对上述当前初始预测轨迹、上述前一个或多个初始预测轨迹、和上述后一个或多个初始预测轨迹进行平均求和处理,得到当前处理结果;将上述当前处理结果确定为上述当前初始预测轨迹对应的上述目标预测轨迹。
根据本申请实施例的又一个方面,提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行如以上预测车辆轨迹的模型训练方法。
根据本申请实施例的又一方面,还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,上述处理器通过计算机程序执行上述的预测车辆轨迹的模型训练方法。
在本申请实施例中,获取多个历史车辆轨迹,其中,上述历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;获取上述多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,上述帧间抖动信息用于度量上述多帧车辆行驶图像中各个帧间间隔发生的抖动;对上述多个历史车辆轨迹中上述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,上述轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;利用上述多个目标车辆轨迹训练轨迹预测模型,并使用训练好的上述轨迹预测模型进行车辆轨迹的预测。通过各个历史车辆轨迹对应的帧间抖动信息,从多个历史车辆轨迹中筛选出满足轨迹稳定条件的历史车辆轨迹,再对筛选出来的历史车辆轨迹缺失的轨迹部分进行补偿,以保证训练轨迹预测模型时所用样本的数量和质量,进而达到了提高轨迹预测模型的训练质量的目的,从而实现了提高车辆轨迹的预测准确性的技术效果,进而解决了车辆轨迹的预测准确性较低的技术问题。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据本申请实施例的一种可选的预测车辆轨迹的模型训练方法的应用环境的示意图;
图2是根据本申请实施例的一种可选的预测车辆轨迹的模型训练方法的流程的示意图;
图3是根据本申请实施例的一种可选的预测车辆轨迹的模型训练方法的示意图;
图4是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图5是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图6是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图7是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图8是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图9是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图10是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图11是根据本申请实施例的另一种可选的预测车辆轨迹的模型训练方法的示意图;
图12是根据本申请实施例的一种可选的预测车辆轨迹的模型训练装置的示意图;
图13是根据本申请实施例的一种可选的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
为方便理解,对下述名词进行解释:
高精地图:包含道路形状、道路标记(车道线)、交通标志和障碍物等地图元素,地图精度可以到厘米级别。
感知车辆:指在高速路口上挂载的传感器设备(如相机、激光雷达、毫米波雷达等)通过特定的算法,实时检测到的车辆目标。
轨迹挖掘: 采用轨迹挖掘算法对传感器算法输出的感知车辆轨迹进行挖掘,挖掘出高质量的平滑轨迹作为轨迹预测模型的训练真值。
轨迹预测: 通过观测一定时常的车辆历史轨迹,来预测未来一定时常的车辆轨迹。如观测车辆历史1s轨迹,预测未来车辆1s轨迹。
根据本申请实施例的一个方面,提供了一种预测车辆轨迹的模型训练方法,可选地,作为一种可选的实施方式,上述预测车辆轨迹的模型训练方法可以但不限于应用于如图1所示的环境中。其中,可以但不限于包括用户设备102以及服务器112,该用户设备102上可以但不限于包括显示器104、处理器106及存储器108,该服务器112包括数据库114以及处理引擎116。
具体过程可如下步骤:
步骤S102,用户设备102获取多个历史车辆轨迹;
步骤S104-S106,通过网络110将多个历史车辆轨迹发送至服务器112;
步骤S108-S112,服务器112通过处理引擎116从多个历史车辆轨迹中获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,并进一步对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹;利用多个目标车辆轨迹训练轨迹预测模型;
步骤S114-S116,通过网络110将训练好的轨迹预测模型发送至用户设备102,用户设备102通过处理器106将训练好的轨迹预测模型显示在显示器104,并将上述训练好的轨迹预测模型存储在存储器108。
除图1示出的示例之外,上述步骤可以由用户设备或服务器独立完成,或由用户设备和服务器共同协作完成,如由用户设备102执行上述S108-S112等步骤,从而减轻服务器112的处理压力。该用户设备102包括但不限于手持设备(如手机)、笔记本电脑、平板电脑、台式电脑、车载设备、智能电视等,本申请并不限制用户设备102的具体实现方式。服务器112可以是单个的服务器或者是多个服务器组成的服务器集群,也可以是云服务器。
可选地,作为一种可选的实施方式,如图2所示,预测车辆轨迹的模型训练方法可以由电子设备执行,如图1所示的用户设备或服务器,具体步骤包括:
S202,获取多个历史车辆轨迹,其中,历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;
S204,获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,帧间抖动信息用于度量多帧车辆行驶图像中各个帧间间隔发生的抖动;
S206,对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;
S208,利用多个目标车辆轨迹训练轨迹预测模型。
可选地,在本实施例中,上述预测车辆轨迹的模型训练方法可以但不限于应用在自动驾驶场景中,带有自动驾驶功能的目标车辆会对周围环境进行图像采集,并对采集到的图像进行分析,其中,分析过程包括对分析周围车辆的行驶轨迹,以及时避障,或规划出更符合当前环境的行驶路线。但如果当前采集到的图像中被遮挡,或并不完全,进而就需要基于采集到的图像,分析周围车辆的历史行驶轨迹,再基于该历史行驶轨迹预测出周围车辆在未来可能呈现的行驶轨迹,如此即便当前采集到的图像中被遮挡,或并不完全,带有自动驾驶功能的目标车辆也能基于采集到的图像预测出周围车辆的行驶轨迹,以及时避障,或规划出更符合当前环境的行驶路线。
可选地,在本实施例中,历史车辆轨迹由连续采集到的多帧车辆行驶图像组成,如图3所示,对车辆A进行连续采集得到多帧车辆行驶图像302(如图像1、图像2、图像3、图像n等),各帧车辆行驶图像302各自对应一个车辆轨迹点,再由多个车辆轨迹点组成整个历史车辆轨迹304,或者说历史车辆轨迹304用于表示车辆A在连续采集到的多帧车辆行驶图像302中的位置分布。
可选地,在本实施例中,各个历史车辆轨迹对应的帧间抖动信息,其中,帧间抖动信息用于度量多帧车辆行驶图像中各个帧间间隔发生的抖动,而多帧车辆行驶图像中各个帧间间隔发生的抖动可以但不限理解为,在采集多帧车辆行驶图像的过程中,采集设备(如传感器)会因为外界或自身的不稳定因素(如风吹动传感器发生位移、信号不稳定、网络不稳定、电流影响等)而导致抖动产生,在很多情况下帧间间隔会在100ms附近抖动,因此需要对每帧的帧间间隔进行校验。
此外,在本实施例中,对于多个历史车辆轨迹中帧间抖动信息是否满足轨迹稳定条件的历史车辆轨迹的判断,可以但不限通过相邻帧的图像变化参考判断,或通过相邻帧之间的间隔时长参考判断等,具体的判断方式可结合实际使用进行选择,在本实施例中不做限定。
可选地,在本实施例中,由于存在盲区、传感器不稳定、感知算法不稳定等问题,会使感知出的每辆车的车流轨迹不连续、抖动、断裂、漂移等问题,进而对每帧的帧间间隔进行校验,不满足轨迹稳定条件的历史车辆轨迹视为抖动已超过可接受的范围,而满足轨迹稳定条件的历史车辆轨迹则视为抖动位于可接收的范围内,并对帧间间隔在可接收的范围内抖动的帧进行轨迹补偿,以补偿历史车辆轨迹缺失的轨迹部分。
进一步举例说明,可选地例如如图4所示,显示有历史车辆轨迹402和历史车辆轨迹404,通过帧间间隔检验,将历史车辆轨迹404剔除,保留通过帧间间隔检验的历史车辆轨迹402,并对历史车辆轨迹402进行轨迹补偿,得到历史车辆轨迹406,其中,历史车辆轨迹406相比于历史车辆轨迹402拥有更完整的车辆轨迹信息,而通过帧间间隔检验,又保证了轨迹补偿的信息基础,降低轨迹补偿对原始车辆轨迹信息的破坏。
可选地,在本实施例中,由于已成功将原本缺失轨迹部分的、低质量样本修复为高质量样本,而修复得到的高质量样本可提高训练轨迹预测模型时所用到的高质量样本的样本量,而较高样本量和高质量的样本是高质量轨迹预测模型的训练基础,本实施例相当于提供了上述高质量轨迹预测模型的训练基础。
需要说明的是,通过各个历史车辆轨迹对应的帧间抖动信息,从多个历史车辆轨迹中筛选出满足轨迹稳定条件的历史车辆轨迹,再对筛选出来的历史车辆轨迹缺失的轨迹部分进行补偿,以保证训练轨迹预测模型时所用样本的数量和质量,进而提高了轨迹预测模型的训练质量,而通过训练得到更高质量的轨迹预测模型,在使用轨迹预测模型进行车辆轨迹的预测过程中,也可提高车辆轨迹的预测准确性。
进一步举例说明,可选的例如图5所示,获取多个目标车辆(如车辆A、车辆B、车辆C、车辆D等)的历史车辆轨迹,其中,历史车辆轨迹由(传感器502)连续采集到的多帧车辆行驶图像504组成;获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息506,其中,帧间抖动信息506用于度量多帧车辆行驶图像504中各个帧间间隔发生的抖动,如帧间抖动信息1用于度量历史车辆轨迹1对应的多帧车辆行驶图像中相邻帧间间隔发生的抖动;对多个历史车辆轨迹中帧间抖动信息506满足轨迹稳定条件的历史车辆轨迹(如历史车辆轨迹1、历史车辆轨迹3、历史车辆轨迹5)进行轨迹补偿,得到多个目标车辆轨迹508,其中,轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;利用多个目标车辆轨迹508训练轨迹预测模型510,并使用训练好的轨迹预测模型510进行车辆轨迹的预测。
通过本申请提供的实施例,获取多个历史车辆轨迹,其中,历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,帧间抖动信息用于度量多帧车辆行驶图像中各个帧间间隔发生的抖动;对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;利用多个目标车辆轨迹训练轨迹预测模型。通过各个历史车辆轨迹对应的帧间抖动信息,从多个历史车辆轨迹中筛选出满足轨迹稳定条件的历史车辆轨迹,再对筛选出来的历史车辆轨迹缺失的轨迹部分进行补偿,以保证训练轨迹预测模型时所用样本的数量和质量,进而达到了提高轨迹预测模型的训练质量的目的,从而实现了提高车辆轨迹的预测准确性的技术效果。
作为一种可选的方案,在对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,方法还包括:
S1-1,获取各个历史车辆轨迹中的各对相邻车辆行驶图像帧;
S1-2,获取各对相邻车辆行驶图像帧之间的帧间间隔时长;
S1-3,在帧间间隔时长小于或等于预设时长阈值的情况下,确定帧间抖动信息满足轨迹稳定条件。
需要说明的是,为提高轨迹稳定条件的判断准确性,保证历史车辆轨迹的校验准确性,利用各对相邻车辆行驶图像帧之间的帧间间隔时长是否长小于或等于预设时长阈值,进行帧间抖动信息是否满足轨迹稳定条件的判断。
通过本申请提供的实施例,获取各个历史车辆轨迹中的各对相邻车辆行驶图像帧;获取各对相邻车辆行驶图像帧之间的帧间间隔时长;在帧间间隔时长小于或等于预设时长阈值的情况下,确定帧间抖动信息满足轨迹稳定条件,进而达到了提高轨迹稳定条件的判断准确性的目的,从而实现了保证历史车辆轨迹的校验准确性的技术效果。
作为一种可选的方案,对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,包括:
S2-1,获取满足轨迹稳定条件的候选车辆轨迹;
S2-2,获取候选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的备选车辆轨迹,其中,补偿时长阈值小于预设时长阈值;
S2-3,利用线性插值补偿算法,对备选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的至少一对相邻车辆行驶图像帧进行补偿,得到目标车辆轨迹。
可选地,在本实施例中,线性插值补偿算法可以但不限是指使用连接两个已知量的直线来确定在这两个已知量之间的一个未知量的值的方法,通过线性插值补偿算法对帧间间隔时长大于或等于补偿时长阈值的各对相邻车辆行驶图像帧之间缺少的部分。
需要说明的是,为提高车辆轨迹的补偿效率,并不是对所有满足轨迹稳定条件的候选车辆轨迹都进行轨迹补偿,而是先获取候选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的备选车辆轨迹,再以帧间间隔时长为依据,利用线性插值补偿算法,对备选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的至少一对相邻车辆行驶图像帧进行补偿。
通过本申请提供的实施例,获取满足轨迹稳定条件的候选车辆轨迹;获取候选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的备选车辆轨迹,其中,补偿时长阈值小于预设时长阈值;利用线性插值补偿算法,对备选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的至少一对相邻车辆行驶图像帧进行补偿,得到目标车辆轨迹,进而实现了提高车辆轨迹的补偿效率的技术效果。
作为一种可选的方案,利用多个目标车辆轨迹训练轨迹预测模型,包括:
S3-1,获取多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆距离,其中,帧间车辆距离用于度量多帧车辆行驶图像中相邻帧内第一目标车辆之间的位置差;
S3-2,从多个目标车辆轨迹中筛选出帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹;
S3-3,利用至少一个第一车辆轨迹训练轨迹预测模型。
需要说明的是,考虑到多帧车辆行驶图像中相邻帧内相同车辆之间的位置差在一定程度上可表示车辆是否发生位移,但车辆发生位移的距离是有限的,进而上述位置差也就应该是有限的,而超出有限范畴的位置差,则可以但不限视为车辆轨迹为异常轨迹,或者为低质量轨迹,而低质量轨迹会降低轨迹预测模型的训练质量,进而将低质量轨迹剔除,而保留有限范畴内的位置差所对应的车辆轨迹,用于轨迹预测模型的训练。
通过本申请提供的实施例,获取多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆距离,其中,帧间车辆距离用于度量多帧车辆行驶图像中相邻帧内第一目标车辆之间的位置差;从多个目标车辆轨迹中筛选出帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹;利用至少一个第一车辆轨迹训练轨迹预测模型,进而达到了将低质量轨迹剔除,而保留有限范畴内的位置差所对应的车辆轨迹,用于轨迹预测模型的训练的目的,从而实现了提高轨迹预测模型的训练质量的技术效果。
作为一种可选的方案,在从多个目标车辆轨迹中筛选出帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,方法还包括:
S4-1,获取各个目标车辆轨迹中的各对相邻车辆行驶图像帧;
S4-2,获取各对相邻车辆行驶图像帧内第一目标车辆之间的横向距离差和纵向距离差;
S4-3,在横向距离差小于或等于第一预设阈值、且纵向距离差小于或等于第二预设阈值的情况下,确定帧间车辆距离满足第一轨迹校验条件,其中,第一预设阈值与第一目标车辆的横向车速呈正相关关系,第二预设阈值与第一目标车辆的纵向车速呈正相关关系。
需要说明的是,为提高距离差校验轨迹质量的准确性,结合横向距离差和纵向距离差,并在横向距离差小于或等于第一预设阈值、且纵向距离差小于或等于第二预设阈值的情况下,确定帧间车辆距离满足第一轨迹校验条件,其中,第一预设阈值与第一目标车辆的横向车速呈正相关关系,第二预设阈值与第一目标车辆的纵向车速呈正相关关系,或者说车辆车速越高,可能发生的位移量越大,进而允许的距离差越大。
进一步举例说明,可选的例如图6所示,获取一对相邻的车辆行驶图像帧,如车辆行驶图像帧602和车辆行驶图像帧604;获取车辆行驶图像帧602和车辆行驶图像帧604内第一目标车辆之间的横向距离差和纵向距离差;在横向距离差小于或等于第一预设阈值、且纵向距离差小于或等于第二预设阈值的情况下,确定帧间车辆距离满足第一轨迹校验条件。
通过本申请提供的实施例,获取各个目标车辆轨迹中的各对相邻车辆行驶图像帧;获取各对相邻车辆行驶图像帧内第一目标车辆之间的横向距离差和纵向距离差;在横向距离差小于或等于第一预设阈值、且纵向距离差小于或等于第二预设阈值的情况下,确定帧间车辆距离满足第一轨迹校验条件,其中,第一预设阈值与第一目标车辆的横向车速呈正相关关系,第二预设阈值与第一目标车辆的纵向车速呈正相关关系,进而达到了结合横向距离差和纵向距离差的目的,从而实现了提高距离差校验轨迹质量的准确性的技术效果。
作为一种可选的方案,利用多个目标车辆轨迹训练轨迹预测模型,包括:
S5-1,获取多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆角度,其中,帧间车辆航向角用于度量多帧车辆行驶图像中相邻帧内第二目标车辆的转向角度;
S5-2,从多个目标车辆轨迹中筛选出帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹;
S5-3,利用至少一个第二车辆轨迹训练轨迹预测模型。
需要说明的是,考虑到多帧车辆行驶图像中相邻帧内相同车辆之间的转向角度差在一定程度上可表示车辆是否发生转向,但车辆发生转向是有限的,进而上述转向角度差也就应该是有限的,而超出有限范畴的位置差,则可以但不限视为车辆轨迹为异常轨迹,或者为低质量轨迹,而低质量轨迹会降低轨迹预测模型的训练质量,进而将低质量轨迹剔除,而保留有限范畴内的位置差所对应的车辆轨迹,用于轨迹预测模型的训练。
通过本申请提供的实施例,获取多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆角度,其中,帧间车辆航向角用于度量多帧车辆行驶图像中相邻帧内第二目标车辆的转向角度;从多个目标车辆轨迹中筛选出帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹;利用至少一个第二车辆轨迹训练轨迹预测模型,进而达到了将低质量轨迹剔除,而保留有限范畴内的位置差所对应的车辆轨迹,用于轨迹预测模型的训练的目的,从而实现了提高轨迹预测模型的训练质量的技术效果。
作为一种可选的方案,在从多个目标车辆轨迹中筛选出帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,方法还包括:
S6-1,获取各个目标车辆轨迹中的各对相邻车辆行驶图像帧;
S6-2,获取各对相邻车辆行驶图像帧内第二目标车辆对应的航向角之差;
S6-3,在航向角之差小于或等于第三预设阈值的情况下,确定帧间车辆角度满足第二轨迹校验条件,其中,第三预设阈值与目标车辆的限制车速呈负相关关系。
需要说明的是,为提高转向角差校验轨迹质量的准确性,利用航向角参与轨迹校验,且在航向角之差小于或等于第三预设阈值的情况下,确定帧间车辆角度满足第二轨迹校验条件,其中,所第三预设阈值与目标车辆的限制车速呈负相关关系,或者说车辆的限制车速越高,可能发生转向的概率越小,进而允许的航向角之差越小。
进一步举例说明,可选的例如图7所示,获获取一对相邻的车辆行驶图像帧,如车辆行驶图像帧702和车辆行驶图像帧704;获取车辆行驶图像帧702和车辆行驶图像帧704内第二目标车辆对应的航向角之差;在航向角之差小于或等于第三预设阈值的情况下,确定帧间车辆角度满足第二轨迹校验条件。
通过本申请提供的实施例,获取各个目标车辆轨迹中的各对相邻车辆行驶图像帧;获取各对相邻车辆行驶图像帧内第二目标车辆对应的航向角之差;在航向角之差小于或等于第三预设阈值的情况下,确定帧间车辆角度满足第二轨迹校验条件,其中,第三预设阈值与目标车辆的限制车速呈负相关关系,进而达到了利用航向角参与轨迹校验的目的,从而实现了提高距离差校验轨迹质量的准确性的技术效果。
可选地,作为一种可选的实施方式,车辆轨迹的预测方法可以由电子设备执行,如图1所示的用户设备或服务器,具体步骤包括:利用上述预测车辆轨迹的模型训练方法训练轨迹预测模型,使用训练好的轨迹预测模型进行车辆轨迹的预测。
作为一种可选的方案,使用训练好的轨迹预测模型进行车辆轨迹的预测,包括:
S7-1,响应于对第三目标车辆触发的轨迹预测请求,获取第三目标车辆关联的历史行驶轨迹,其中,历史行驶轨迹为第三目标车辆在历史时间段内在目标区域内行驶过的车辆轨迹;
S7-2,将历史行驶轨迹,以及第三目标车辆在目标区域内关联的区域信息输入训练好的轨迹预测模型,其中,区域信息为第三目标车辆在历史时间段内途径目标区域内各个区域的位置和属性;
S7-3,获取轨迹预测模型输出的、第三目标车辆对应的车辆预测轨迹。
可选地,在本实施例中,区域信息为第三目标车辆在历史时间段内途径目标区域内各个区域的位置和属性,如第三目标车辆途径的各个区域位置,以及各个区域对应的不同属性(地形、交规、岔口等)。
需要说明的是,为提高车辆预测轨迹的准确性,将历史行驶轨迹和区域信息和同作为轨迹预测模型的输入,将区域信息作为历史行驶轨迹的预测参考,协助轨迹预测模型进行更好的预测。
通过本申请提供的实施例,响应于对第三目标车辆触发的轨迹预测请求,获取第三目标车辆关联的历史行驶轨迹,其中,历史行驶轨迹为第三目标车辆在历史时间段内在目标区域内行驶过的车辆轨迹;将历史行驶轨迹,以及第三目标车辆在目标区域内关联的区域信息输入训练好的轨迹预测模型,其中,区域信息为第三目标车辆在历史时间段内途径目标区域内各个区域的位置和属性;获取轨迹预测模型输出的、第三目标车辆对应的车辆预测轨迹,进而达到了将区域信息作为历史行驶轨迹的预测参考,协助轨迹预测模型进行更好的预测的目的,从而实现了提高车辆预测轨迹的准确性的技术效果。
作为一种可选的方案,将历史行驶轨迹,以及第三目标车辆在目标区域内关联的区域信息输入训练好的轨迹预测模型,包括:将历史行驶轨迹输入轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将区域信息输入轨迹预测模型中的第二特征转换结构,得到区域关联特征;
在将历史行驶轨迹输入轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将区域信息输入轨迹预测模型中的第二特征转换结构,得到区域关联特征之后,方法还包括:
S8-1,将车辆位置特征和区域关联特征输入轨迹预测模型中的特征融合结构,得到车辆区域特征;
S8-2,将车辆区域特征输入轨迹预测模型中的特征处理结构,得到第三目标车辆对应的车辆预测轨迹。
可选地,在本实施例中,第一特征转换结构,第二特征转换结构可以但不限理解为编码器结构的一种,将输入的信息或数据转化为轨迹预测模型可处理的特征形式。而特征融合结构可以但不限通过拼接、整合等方式将输入的特征进行融合,然后送入后续的特征处理结构进行预测输出,其中,特征处理结构可以但不限包括输出层结构,还可以但不限于包括生成器、判别、解码器等可对特征进行处理的相关结构。
作为一种可选的方案,使用训练好的轨迹预测模型进行车辆轨迹的预测,包括:
使用训练好的轨迹预测模型得到N个初始预测轨迹,并执行以下步骤,直至得到N个目标预测轨迹,其中,N为正整数;
S9-1,从N个初始预测轨迹中确定出当前初始预测轨迹;
S9-2,在当前初始预测轨迹为第一个或最后一个初始预测轨迹的情况下,将当前初始预测轨迹确定为目标预测轨迹;
S9-3,在当前初始预测轨迹非第一个或最后一个初始预测轨迹的情况下,获取当前初始预测轨迹的前一个或多个初始预测轨迹和后一个或多个初始预测轨迹,并对当前初始预测轨迹、前一个或多个初始预测轨迹、和后一个或多个初始预测轨迹进行平均求和处理,得到当前处理结果;
S9-4,将当前处理结果确定为当前初始预测轨迹对应的目标预测轨迹。
需要说明的是,为提高目标预测轨迹的平滑度,将基于滑动平均值的平滑算法来对使用训练好的轨迹预测模型得到N个初始预测轨迹进行平滑处理。
进一步举例说明,可选的例如假设使用训练好的轨迹预测模型得到N个初始预测轨迹为y1,y2,y3,… yn,平滑后的目标预测轨迹则为Y1,Y2,Y3,…,Yn,具体的平滑处理方式如下:
Y1 = y1
Y2= (y1 + y2 + y3) / 3
Y3 = (y1 + y2 + y3 + y4 + y5) / 5
Y4 = (y2 + y3 + y4 + y5 + y6) / 5
…
Yn = yn。
通过本申请提供的实施例,使用训练好的轨迹预测模型得到N个初始预测轨迹,并执行以下步骤,直至得到N个目标预测轨迹,其中,N为正整数;从N个初始预测轨迹中确定出当前初始预测轨迹;在当前初始预测轨迹为第一个或最后一个初始预测轨迹的情况下,将当前初始预测轨迹确定为目标预测轨迹;在当前初始预测轨迹非第一个或最后一个初始预测轨迹的情况下,获取当前初始预测轨迹的前一个或多个初始预测轨迹和后一个或多个初始预测轨迹,并对当前初始预测轨迹、前一个或多个初始预测轨迹、和后一个或多个初始预测轨迹进行平均求和处理,得到当前处理结果;将当前处理结果确定为当前初始预测轨迹对应的目标预测轨迹,进而达到了基于滑动平均值的平滑算法来对使用训练好的轨迹预测模型得到N个初始预测轨迹进行平滑处理的目的,从而实现了提高目标预测轨迹的平滑度的技术效果。
作为一种可选的方案,为方便理解,将上述预测车辆轨迹的模型训练方法应用在高速场景下的传感器感知车辆轨迹预测场景下,随着人工智能技术的发展,对高速场景进行实时智能状态检测来提升安全性已经成为可能。其中具有代表性的产品为“雷视一体机”,通过在高速场景架设一定的感知设备(相机、激光雷达、毫米波雷达等)以及特定的传感器感知算法来实现对高速场景的全天候实时智能检测。轨迹预测一般分为短期预测和长期预测。短期预测一般根据运动学模型,基于当前的目标状态信息预测未来一段时间的轨迹,短期预测一般预测未来小于1s的轨迹,如果时间过长,那目标仅与运动学相关的假设就不成立了。长期预测是当前业界主要在做的。这种预测仅基于运动模型无法取得较高的精度,一般需要做意图预测,并结合一些上下文信息(地图、目标间交互信息)才能得到不错的结果。此时业界有很多不同的输出形式,比如输出轨迹的概率分布、输出多条预测轨迹、输出一条可能性最大的预测轨迹。
而相关技术如果是采用运动学模型的预测,那么往往只能预测短期小于1s的轨迹。如果是基于深度学习的模型预测,虽然能够预测长期轨迹,但是模型通常都是在比较干净的轨迹数据集上训练、测试(即数据集经过清洗、预处理、平滑,比较理想型的轨迹数据),这种情况下在测试集上的轨迹预测精度往往会很高,而当实际部署时,面对传感器感知算法输出的一些不稳定的观测轨迹(比如由于传感器抖动、算法不稳定导致的不稳定),往往会产生错误的预测,即模型泛化性比较差。
可选地,本实施例针对这个痛点,提出一种基于高精地图的高速感知车辆轨迹预测技术。通过采用轨迹挖掘算法对高速场景下行驶车辆的轨迹进行挖掘,得到多条高质量的平滑轨迹来作为预测模型训练真值,然后通过构建一个结合高精地图的深度学习预测模型网络来对训练数据进行拟合,最后通过轨迹平滑算法对预测出的轨迹进行进一步后处理,能够实现对感知车辆的高精度轨迹预测。
需要说明的是,本实施例主要针对于智慧高速场景下的雷视一体机,旨在对高速交通参与者进行实时状态检测,来管理交通参与者出现的各种交通事件。同时,本实施例还可应用于自动驾驶中的车辆轨迹预测。
进一步举例说明,可选的例如图8所示,首先通过传感器感知算法感知车流轨迹,但由于存在盲区、传感器不稳定、感知算法不稳定等问题,会使感知出的每辆车的车流轨迹不连续、抖动、断裂、漂移等问题。因此无法直接用原始的车流轨迹用于预测模型训练,进而就需要使用本实施例中的轨迹挖掘算法进行轨迹挖掘,得到高质量车流轨迹,并基于高精地图和得到的高质量车辆轨迹对轨迹预测模型进行训练,再使用轨迹平滑算法使模型输出的预测轨迹更加平滑,其中,轨迹挖掘即从大量的传感器感知的车辆历史轨迹中,挖掘出高质量的车流轨迹来作为模型的训练数据。这里的高质量的轨迹是指符合真实世界的车辆行驶规律,即满足车辆动力学的轨迹。
具体地,在本实施例中传感器感知算法的感知频率为10HZ为例(即算法每隔100ms,会输出当前时刻的所有车辆目标位置),且考虑挖掘一段长为2s的轨迹序列,进而算法的感知频率为10HZ,即理想情况下的帧间间隔为100ms,但是由于传感器时间的抖动以及不稳定,在很多情况下帧间间隔会在100ms附近抖动,因此需要对每帧的帧间间隔进行校验,对帧间间隔在一定范围内抖动的帧进行位置补偿。
进一步假设t1,t2,…t20,为传感器感知算法输出的2s的车辆轨迹时间戳,ti,ti-1为相邻两帧对应的时间戳。遍历该条轨迹所有时刻,如果任意ti-ti-1 > 140(即抖动大于40ms的帧轨迹),则将该条轨迹定义为差轨迹,直接忽略。如果该条轨迹所有时刻都满足该时间戳约束,则对该条轨迹进行位置补偿,位置补偿采用线性插值算法,具体如下述公式(1)所示:
(1)
其中,Fold(x,y)为传感器输出的ti时刻的车辆位置,Fnew(x,y)是利用线性插值补偿算法对时间戳进行补偿后得到的新的ti时刻的车辆位置。
可选地,在本实施例中,假设p1,p2,…p20,为传感器感知算法输出的2s的车辆轨迹位置,pi,pi-1为相邻两帧对应的车辆位置。遍历该条轨迹所有时刻的车辆横向以及纵向位置,如果任意pi-pi-1 > 5(即在高速场景下,考虑车速一般最大可达50m/s,0.1s内最大可移动距离为5m,所以超过5m的帧间位移则为异常轨迹),则将该条轨迹定义为差轨迹,直接忽略。
可选地,在本实施例中,假设y1,y2,…y20,为传感器感知算法输出的2s的车辆航向角,yi,yi-1为相邻两帧对应的车辆航向角。遍历该条轨迹所有时刻的车辆航向角,如果任意pi-pi-1 > 10(即在高速场景下,在0.1s内限制车辆最大转向角度为10度),则将该条轨迹定义为差轨迹,直接忽略。
而结合上述通过抖动、帧间位移、车辆航向角的轨迹校验方式,可如图9所示,挖掘出高质量的轨迹A,而过滤掉低质量的轨迹B。
可选地,在本实施例中,为了提高长时轨迹预测的能力,本实施例还设计了一个基于高精地图的轨迹时序预测技术网络框架,该网络框架接受高精地图以及车辆历史轨迹序列作为输入,通过lstm网络预测未来一段时间的轨迹。具体的,上述轨迹时序预测技术网络框架如图10所示,整个网络框架包括生成器、判别器、多个编码器、解码器,网络基于生成对抗网络的思想进行对抗训练,即生成器对未来轨迹进行预测,然后判别器来判断生成器生成的轨迹的质量。
进一步举例说明,可选地例如编码器包括MLP和HD Map Encoder模块,其中,MLP和HD Map Encoder模块用来编码位置以及高精地图特征,即输入位置特征x,y,yaw(航向角)会被编码为长度为64的特征向量,输入高精地图特征经度、纬度、高度也会被编码为长度为64的特征向量。MLP以及HD Map Encoder模块如图11所示,为多层感知机神经网络。
而由于高精地图的经纬度信息,小数点后6位数字才可精确到厘米级别,如果直接将经纬度信息输入到网络中进行训练,则难以取得较好的结果。因此设计了一个高精地图归一化层来对经纬度进行归一化,归一化后的高精地图信息则能很好的有助于网络学习地图先验知识。具体来说对于经度、纬度、高度三个特征,经过该归一化层后,会被归一化为维度为9的特征向量。
进一步举例说明,可选地假设车辆的经纬高度为157.65417248,108.123608615,48.12875128。归一化层会将三个经纬度特征分别离散化为整数位、小数点后三位数值,小数点后6位数值。即:
157.65417248 -> 0.157,0.654,0.172
108.123608615-> 0.108,0.123,0.608
48.12875128 -> 0.048,0.128,0.751
可选地,在本实施例中,设计特征融合层,用于融合车辆位置编码特征以及高精地图特征,假设f1为位置特征,f2为高精地图特征,f为融合后的特征,则如下述公式(2)所示:
f = concat(f1,f2) (2)
即该特征融合层会把车辆位置编码特征和高精地图特征进行拼接,然后送入lstm网络。
可选地,在本实施例中,生成器损失函数由L2 loss构成,具体如下述公式(3)所示。
(3)
其中,n为要预测的轨迹序列长度,yi为为ti时刻的真实位置,f(xi)为ti时刻的预测位置。
可选地,在本实施例中,判别器的损失函数由二元交叉熵构成,具体如下述公式(4)所示:
(4)
其中,log为对数函数,p(x)为网络对生成器生成的轨迹预测出的置信度,y为该条轨迹的真实标签,取0或者1,1为该条轨迹为真轨迹,0为该条轨迹为假轨迹。
可选地,在本实施例中,为了保证模型预测出的轨迹足够平滑,对深度学习网络输出的预测轨迹序列进一步采用轨迹平滑算法进行平滑,可以但不限采用基于滑动平均值的平滑算法来对输出轨迹进行平滑,平滑后的预测轨迹可作为最终的预测轨迹序列。
通过本申请提供的实施例,解决了在高速场景下的传感器感知车辆轨迹预测问题,通过采用轨迹挖掘对传感器感知算法输出的车辆的轨迹进行轨迹挖掘得到多条高质量轨迹,然后采用基于高精地图的轨迹预测网络对车辆未来一段时间内的轨迹进行预测,最后通过基于五点滑动平均的轨迹策略来对轨迹进行平滑,最终得到高精度的预测轨迹,在一定程度上解决了传感器感知车辆的抖动、遮挡问题,提高了目标追随的性能。
可以理解的是,在本申请的具体实施方式中,涉及到用户信息等相关的数据,当本申请以上实施例运用到具体产品或技术中时,需要获得用户许可或者同意,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
根据本申请实施例的另一个方面,还提供了一种用于实施上述预测车辆轨迹的模型训练方法的预测车辆轨迹的模型训练装置。如图12所示,该装置包括:
第一获取单元1202,用于获取多个历史车辆轨迹,其中,历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;
第二获取单元1204,用于获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,帧间抖动信息用于度量多帧车辆行驶图像中各个帧间间隔发生的抖动;
补偿单元1206,用于对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;
训练单元1208,用于利用多个目标车辆轨迹训练轨迹预测模型。
具体实施例可以参考上述预测车辆轨迹的模型训练装置中所示示例,本示例中在此不再赘述。
作为一种可选的方案,装置还包括:
第三获取单元,用于在对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,获取各个历史车辆轨迹中的各对相邻车辆行驶图像帧;
第四获取单元,用于在对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,获取各对相邻车辆行驶图像帧之间的帧间间隔时长;
确定单元,用于在对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,在帧间间隔时长小于或等于预设时长阈值的情况下,确定帧间抖动信息满足轨迹稳定条件。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,补偿单元1206,包括:
第一获取模块,用于获取满足轨迹稳定条件的候选车辆轨迹;
第二获取模块,用于获取候选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的备选车辆轨迹,其中,补偿时长阈值小于预设时长阈值;
补偿模块,用于利用线性插值补偿算法,对备选车辆轨迹中的、帧间间隔时长大于或等于补偿时长阈值的至少一对相邻车辆行驶图像帧进行补偿,得到目标车辆轨迹。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,训练单元1208,包括:
第三获取模块,用于获取多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆距离,其中,帧间车辆距离用于度量多帧车辆行驶图像中相邻帧内第一目标车辆之间的位置差;
筛选模块,用于从多个目标车辆轨迹中筛选出帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹;
训练模块,用于利用至少一个第一车辆轨迹训练轨迹预测模型。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,装置还包括:
第四获取模块,用于在从多个目标车辆轨迹中筛选出帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,获取各个目标车辆轨迹中的各对相邻车辆行驶图像帧;
第五获取模块,用于在从多个目标车辆轨迹中筛选出帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,获取各对相邻车辆行驶图像帧内第一目标车辆之间的横向距离差和纵向距离差;
第一确定模块,用于在从多个目标车辆轨迹中筛选出帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,在横向距离差小于或等于第一预设阈值、且纵向距离差小于或等于第二预设阈值的情况下,确定帧间车辆距离满足第一轨迹校验条件,其中,第一预设阈值与第一目标车辆的横向车速呈正相关关系,第二预设阈值与第一目标车辆的纵向车速呈正相关关系。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
根据本申请实施例的另一方面,还提供了一种车辆轨迹的预测装置,包括:预测单元,用于利用上述预测车辆轨迹的模型训练装置训练轨迹预测模型,使用训练好的上述轨迹预测模型进行车辆轨迹的预测。
作为一种可选的方案,预测单元,包括:
第六获取模块,用于获取多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆角度,其中,帧间车辆航向角用于度量多帧车辆行驶图像中相邻帧内第二目标车辆的转向角度;
第二确定模块,用于从多个目标车辆轨迹中筛选出帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹;
训练模块,用于利用至少一个第二车辆轨迹训练轨迹预测模型。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,装置还包括:
第七获取模块,用于在从多个目标车辆轨迹中筛选出帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,获取各个目标车辆轨迹中的各对相邻车辆行驶图像帧;
第八获取模块,用于在从多个目标车辆轨迹中筛选出帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,获取各对相邻车辆行驶图像帧内第二目标车辆对应的航向角之差;
第三确定模块,用于在从多个目标车辆轨迹中筛选出帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,在航向角之差小于或等于第三预设阈值的情况下,确定帧间车辆角度满足第二轨迹校验条件,其中,第三预设阈值与目标车辆的限制车速呈负相关关系。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,预测单元,包括:
第九获取模块,用于响应于对第三目标车辆触发的轨迹预测请求,获取第三目标车辆关联的历史行驶轨迹,其中,历史行驶轨迹为第三目标车辆在历史时间段内在目标区域内行驶过的车辆轨迹;
输入模块,用于将历史行驶轨迹,以及第三目标车辆在目标区域内关联的区域信息输入训练好的轨迹预测模型,其中,区域信息为第三目标车辆在历史时间段内途径目标区域内各个区域的位置和属性;
第十获取模块,用于获取轨迹预测模型输出的、第三目标车辆对应的车辆预测轨迹。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,输入模块,包括:第一输入子模块,用于将历史行驶轨迹输入轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将区域信息输入轨迹预测模型中的第二特征转换结构,得到区域关联特征;
装置还包括:
第二输入子模块,用于在将历史行驶轨迹输入轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将区域信息输入轨迹预测模型中的第二特征转换结构,得到区域关联特征之后,将车辆位置特征和区域关联特征输入轨迹预测模型中的特征融合结构,得到车辆区域特征;
第三输入子模块,用于在将历史行驶轨迹输入轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将区域信息输入轨迹预测模型中的第二特征转换结构,得到区域关联特征之后,将车辆区域特征输入轨迹预测模型中的特征处理结构,得到第三目标车辆对应的车辆预测轨迹。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,预测单元,包括:
执行模块,用于使用训练好的轨迹预测模型得到N个初始预测轨迹,并执行以下步骤,直至得到N个目标预测轨迹,其中,N为正整数;
从N个初始预测轨迹中确定出当前初始预测轨迹;
在当前初始预测轨迹为第一个或最后一个初始预测轨迹的情况下,将当前初始预测轨迹确定为目标预测轨迹;
在当前初始预测轨迹非第一个或最后一个初始预测轨迹的情况下,获取当前初始预测轨迹的前一个或多个初始预测轨迹和后一个或多个初始预测轨迹,并对当前初始预测轨迹、前一个或多个初始预测轨迹、和后一个或多个初始预测轨迹进行平均求和处理,得到当前处理结果;
将当前处理结果确定为当前初始预测轨迹对应的目标预测轨迹。
具体实施例可以参考上述预测车辆轨迹的模型训练方法中所示示例,本示例中在此不再赘述。
根据本申请实施例的又一个方面,还提供了一种用于实施上述预测车辆轨迹的模型训练方法的电子设备,该电子设备可以但不限于为图1中所示的用户设备102或服务器112,本实施例以电子设备为用户设备102为例说明,进一步如图13所示,该电子设备包括存储器1302和处理器1304,该存储器1302中存储有计算机程序,该处理器1304被设置为通过计算机程序执行上述任一项方法实施例中的步骤。
可选地,在本实施例中,上述电子设备可以位于计算机网络的多个网络设备中的至少一个网络设备。
可选地,在本实施例中,上述处理器可以被设置为通过计算机程序执行以下步骤:
S1,获取多个历史车辆轨迹,其中,历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;
S2,获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,帧间抖动信息用于度量多帧车辆行驶图像中各个帧间间隔发生的抖动;
S3,对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;
S4,利用多个目标车辆轨迹训练轨迹预测模型。
可选地,本领域普通技术人员可以理解,图13所示的结构仅为示意,图13其并不对上述电子设备的结构造成限定。例如,电子设备还可包括比图13中所示更多或者更少的组件(如网络接口等),或者具有与图13所示不同的配置。
其中,存储器1302可用于存储软件程序以及模块,如本申请实施例中的预测车辆轨迹的模型训练方法、车辆轨迹的预测方法和装置对应的程序指令/模块,处理器1304通过运行存储在存储器1302内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的预测车辆轨迹的模型训练方法/车辆轨迹的预测方法。存储器1302可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器1302可进一步包括相对于处理器1304远程设置的存储器,这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。其中,存储器1302具体可以但不限于用于存储历史车辆轨迹、帧间抖动信息以及目标车辆轨迹等信息。作为一种示例,如图13所示,上述存储器1302中可以但不限于包括上述预测车辆轨迹的模型训练装置中的第一获取单元1202、第二获取单元1204、补偿单元1206及训练单元1208,或上述车辆轨迹的预测装置中的预测单元。此外,还可以包括但不限于上述预测车辆轨迹的模型训练装置/车辆轨迹的预测装置中的其他模块单元,本示例中不再赘述。
可选地,上述的传输装置1306用于经由一个网络接收或者发送数据。上述的网络具体实例可包括有线网络及无线网络。在一个实例中,传输装置1306包括一个网络适配器(Network Interface Controller,NIC),其可通过网线与其他网络设备与路由器相连从而可与互联网或局域网进行通讯。在一个实例中,传输装置1306为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。
此外,上述电子设备还包括:显示器1308,用于显示上述历史车辆轨迹、帧间抖动信息以及目标车辆轨迹等信息;和连接总线1310,用于连接上述电子设备中的各个模块部件。
在其他实施例中,上述用户设备或者服务器可以是一个分布式系统中的一个节点,其中,该分布式系统可以为区块链系统,该区块链系统可以是由该多个节点通过网络通信的形式连接形成的分布式系统。其中,节点之间可以组成点对点(Peer To Peer,简称P2P)网络,任意形式的计算设备,比如服务器、用户设备等电子设备都可以通过加入该点对点网络而成为该区块链系统中的一个节点。
根据本申请的一个方面,提供了一种计算机程序产品,该计算机程序产品包括计算机程序/指令,该计算机程序/指令包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分从网络上被下载和安装,和/或从可拆卸介质被安装。在该计算机程序被中央处理器执行时,执行本申请实施例提供的各种功能。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,电子设备的计算机系统仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
计算机系统包括中央处理器(Central Processing Unit,CPU),其可以根据存储在只读存储器(Read-Only Memory,ROM)中的程序或者从存储部分加载到随机访问存储器(Random Access Memory,RAM)中的程序而执行各种适当的动作和处理。在随机访问存储器中,还存储有系统操作所需的各种程序和数据。中央处理器、在只读存储器以及随机访问存储器通过总线彼此相连。输入/输出接口(Input /Output接口,即I/O接口)也连接至总线。
以下部件连接至输入/输出接口:包括键盘、鼠标等的输入部分;包括诸如阴极射线管(Cathode Ray Tube,CRT)、液晶显示器(Liquid Crystal Display,LCD)等以及扬声器等的输出部分;包括硬盘等的存储部分;以及包括诸如局域网卡、调制解调器等的网络接口卡的通信部分。通信部分经由诸如因特网的网络执行通信处理。驱动器也根据需要连接至输入/输出接口。可拆卸介质,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器上,以便于从其上读出的计算机程序根据需要被安装入存储部分。
特别地,根据本申请的实施例,各个方法流程图中所描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分从网络上被下载和安装,和/或从可拆卸介质被安装。在该计算机程序被中央处理器执行时,执行本申请的系统中限定的各种功能。
根据本申请的一个方面,提供了一种计算机可读存储介质,计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各种可选实现方式中提供的方法。
可选地,在本实施例中,上述计算机可读的存储介质可以被设置为存储用于执行以下步骤的计算机程序:
S1,获取多个历史车辆轨迹,其中,历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;
S2,获取多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,帧间抖动信息用于度量多帧车辆行驶图像中各个帧间间隔发生的抖动;
S3,对多个历史车辆轨迹中帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;
S4,利用多个目标车辆轨迹训练轨迹预测模型。
可选地,在本实施例中,本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令电子设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(Random Access Memory,RAM)、磁盘或光盘等。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在上述计算机可读取的存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在存储介质中,包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的用户设备,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上所述仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (13)
1.一种预测车辆轨迹的模型训练方法,其特征在于,包括:
获取多个历史车辆轨迹,其中,所述历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;
获取所述多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,所述帧间抖动信息用于度量所述多帧车辆行驶图像中各个帧间间隔发生的抖动;
对所述多个历史车辆轨迹中所述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,所述轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;
利用所述多个目标车辆轨迹训练轨迹预测模型;
所述利用所述多个目标车辆轨迹训练轨迹预测模型,包括:
获取所述多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆角度,其中,所述帧间车辆角度用于度量所述多帧车辆行驶图像中相邻帧内第二目标车辆的转向角度;
从所述多个目标车辆轨迹中筛选出所述帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹;
利用所述至少一个第二车辆轨迹训练所述轨迹预测模型。
2.根据权利要求1所述的方法,其特征在于,在所述对所述多个历史车辆轨迹中所述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹之前,所述方法还包括:
获取所述各个历史车辆轨迹中的各对相邻车辆行驶图像帧;
获取所述各对相邻车辆行驶图像帧之间的帧间间隔时长;
在所述帧间间隔时长小于或等于预设时长阈值的情况下,确定所述帧间抖动信息满足所述轨迹稳定条件。
3.根据权利要求2所述的方法,其特征在于,所述对所述多个历史车辆轨迹中所述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,包括:
获取满足所述轨迹稳定条件的候选车辆轨迹;
获取所述候选车辆轨迹中的、所述帧间间隔时长大于或等于补偿时长阈值的备选车辆轨迹,其中,所述补偿时长阈值小于所述预设时长阈值;
利用线性插值补偿算法,对所述备选车辆轨迹中的、所述帧间间隔时长大于或等于所述补偿时长阈值的至少一对相邻车辆行驶图像帧进行补偿,得到所述目标车辆轨迹。
4.根据权利要求1所述的方法,其特征在于,所述利用所述多个目标车辆轨迹训练轨迹预测模型,包括:
获取所述多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆距离,其中,所述帧间车辆距离用于度量所述多帧车辆行驶图像中相邻帧内第一目标车辆之间的位置差;
从所述多个目标车辆轨迹中筛选出所述帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹;
利用所述至少一个第一车辆轨迹训练所述轨迹预测模型。
5.根据权利要求4所述的方法,其特征在于,在所述从所述多个目标车辆轨迹中筛选出所述帧间车辆距离满足第一轨迹校验条件的至少一个第一车辆轨迹之前,所述方法还包括:
获取所述各个目标车辆轨迹中的各对相邻车辆行驶图像帧;
获取所述各对相邻车辆行驶图像帧内所述第一目标车辆之间的横向距离差和纵向距离差;
在所述横向距离差小于或等于第一预设阈值、且所述纵向距离差小于或等于第二预设阈值的情况下,确定所述帧间车辆距离满足所述第一轨迹校验条件,其中,所述第一预设阈值与所述第一目标车辆的横向车速呈正相关关系,所述第二预设阈值与所述第一目标车辆的纵向车速呈正相关关系。
6.根据权利要求1所述的方法,其特征在于,在所述从所述多个目标车辆轨迹中筛选出所述帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹之前,所述方法还包括:
获取所述各个目标车辆轨迹中的各对相邻车辆行驶图像帧;
获取所述各对相邻车辆行驶图像帧内所述第二目标车辆对应的航向角之差;
在所述航向角之差小于或等于第三预设阈值的情况下,确定所述帧间车辆角度满足所述第二轨迹校验条件,其中,所述第三预设阈值与所述目标车辆的限制车速呈负相关关系。
7.一种车辆轨迹的预测方法,其特征在于,利用权利要求1至6中任一项中所述方法训练轨迹预测模型,使用训练好的所述轨迹预测模型进行车辆轨迹的预测。
8.根据权利要求7所述的方法,其特征在于,所述使用训练好的所述轨迹预测模型进行车辆轨迹的预测,包括:
响应于对第三目标车辆触发的轨迹预测请求,获取所述第三目标车辆关联的历史行驶轨迹,其中,所述历史行驶轨迹为所述第三目标车辆在历史时间段内在目标区域内行驶过的车辆轨迹;
将所述历史行驶轨迹,以及所述第三目标车辆在所述目标区域内关联的区域信息输入训练好的所述轨迹预测模型,其中,所述区域信息为所述第三目标车辆在所述历史时间段内途径所述目标区域内各个区域的位置和属性;
获取所述轨迹预测模型输出的、所述第三目标车辆对应的车辆预测轨迹。
9.根据权利要求8所述的方法,其特征在于,
所述将所述历史行驶轨迹,以及所述第三目标车辆在所述目标区域内关联的区域信息输入训练好的所述轨迹预测模型,包括:将所述历史行驶轨迹输入所述轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将所述区域信息输入所述轨迹预测模型中的第二特征转换结构,得到区域关联特征;
在所述将所述历史行驶轨迹输入所述轨迹预测模型中的第一特征转换结构,得到车辆位置特征,以及将所述区域信息输入所述轨迹预测模型中的第二特征转换结构,得到区域关联特征之后,所述方法还包括:
将所述车辆位置特征和所述区域关联特征输入所述轨迹预测模型中的特征融合结构,得到车辆区域特征;
将所述车辆区域特征输入所述轨迹预测模型中的特征处理结构,得到所述第三目标车辆对应的车辆预测轨迹。
10.根据权利要求7至9中任一项所述的方法,其特征在于,所述使用训练好的所述轨迹预测模型进行车辆轨迹的预测,包括:
使用训练好的所述轨迹预测模型得到N个初始预测轨迹,并执行以下步骤,直至得到N个目标预测轨迹,其中,N为正整数;
从所述N个初始预测轨迹中确定出当前初始预测轨迹;
在所述当前初始预测轨迹为第一个或最后一个初始预测轨迹的情况下,将所述当前初始预测轨迹确定为所述目标预测轨迹;
在所述当前初始预测轨迹非所述第一个或最后一个初始预测轨迹的情况下,获取所述当前初始预测轨迹的前一个或多个初始预测轨迹和后一个或多个初始预测轨迹,并对所述当前初始预测轨迹、所述前一个或多个初始预测轨迹、和所述后一个或多个初始预测轨迹进行平均求和处理,得到当前处理结果;
将所述当前处理结果确定为所述当前初始预测轨迹对应的所述目标预测轨迹。
11.一种预测车辆轨迹的模型训练装置,其特征在于,包括:
第一获取单元,用于获取多个历史车辆轨迹,其中,所述历史车辆轨迹由连续采集到的多帧车辆行驶图像组成;
第二获取单元,用于获取所述多个历史车辆轨迹中各个历史车辆轨迹对应的帧间抖动信息,其中,所述帧间抖动信息用于度量所述多帧车辆行驶图像中各个帧间间隔发生的抖动;
补偿单元,用于对所述多个历史车辆轨迹中所述帧间抖动信息满足轨迹稳定条件的历史车辆轨迹进行轨迹补偿,得到多个目标车辆轨迹,其中,所述轨迹补偿用于补偿历史车辆轨迹缺失的轨迹部分;
训练单元,用于利用所述多个目标车辆轨迹训练轨迹预测模型;
所述训练单元,包括:
第三获取模块,用于获取所述多个目标车辆轨迹中各个目标车辆轨迹对应的帧间车辆角度,其中,所述帧间车辆角度用于度量所述多帧车辆行驶图像中相邻帧内第二目标车辆的转向角度;
筛选模块,用于从所述多个目标车辆轨迹中筛选出所述帧间车辆角度满足第二轨迹校验条件的至少一个第二车辆轨迹;
训练模块,用于利用所述至少一个第二车辆轨迹训练所述轨迹预测模型。
12.一种计算机可读的存储介质,其特征在于,所述计算机可读的存储介质包括存储的程序,其中,所述程序被电子设备运行时执行所述权利要求1至6或7至10任一项中所述的方法。
13.一种电子设备,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为通过所述计算机程序执行所述权利要求1至6或7至10任一项中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310874969.0A CN116597397B (zh) | 2023-07-17 | 2023-07-17 | 预测车辆轨迹的模型训练方法和装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310874969.0A CN116597397B (zh) | 2023-07-17 | 2023-07-17 | 预测车辆轨迹的模型训练方法和装置及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116597397A CN116597397A (zh) | 2023-08-15 |
CN116597397B true CN116597397B (zh) | 2023-10-24 |
Family
ID=87601292
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310874969.0A Active CN116597397B (zh) | 2023-07-17 | 2023-07-17 | 预测车辆轨迹的模型训练方法和装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116597397B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110351651A (zh) * | 2019-05-22 | 2019-10-18 | 安徽中科美络信息技术有限公司 | 一种车辆轨迹缺失识别及补偿方法 |
CN113239719A (zh) * | 2021-03-29 | 2021-08-10 | 深圳元戎启行科技有限公司 | 基于异常信息识别的轨迹预测方法、装置和计算机设备 |
CN114518573A (zh) * | 2022-04-21 | 2022-05-20 | 山东科技大学 | 一种用于多雷达的车辆跟踪方法、设备及介质 |
CN114987546A (zh) * | 2022-06-10 | 2022-09-02 | 中国第一汽车股份有限公司 | 轨迹预测模型的训练方法、装置、设备及存储介质 |
US11468551B1 (en) * | 2020-07-24 | 2022-10-11 | Norfolk Southern Corporation | Machine-learning framework for detecting defects or conditions of railcar systems |
CN115311854A (zh) * | 2022-07-22 | 2022-11-08 | 东南大学 | 一种基于数据融合的车辆时空轨迹重构方法 |
CN115482511A (zh) * | 2022-09-02 | 2022-12-16 | 智慧互通科技股份有限公司 | 一种基于平滑车辆运动数据的车辆轨迹生成方法及系统 |
CN115743101A (zh) * | 2022-12-13 | 2023-03-07 | 中国重汽集团济南动力有限公司 | 车辆轨迹预测方法、轨迹预测模型训练方法和装置 |
CN116012677A (zh) * | 2023-02-14 | 2023-04-25 | 北京地平线信息技术有限公司 | 用于轨迹预测的训练数据增强方法、装置、介质和设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220188667A1 (en) * | 2020-12-15 | 2022-06-16 | Woven Planet North America, Inc. | Vehicle prediction module evaluation and training |
-
2023
- 2023-07-17 CN CN202310874969.0A patent/CN116597397B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110351651A (zh) * | 2019-05-22 | 2019-10-18 | 安徽中科美络信息技术有限公司 | 一种车辆轨迹缺失识别及补偿方法 |
US11468551B1 (en) * | 2020-07-24 | 2022-10-11 | Norfolk Southern Corporation | Machine-learning framework for detecting defects or conditions of railcar systems |
CN113239719A (zh) * | 2021-03-29 | 2021-08-10 | 深圳元戎启行科技有限公司 | 基于异常信息识别的轨迹预测方法、装置和计算机设备 |
CN114518573A (zh) * | 2022-04-21 | 2022-05-20 | 山东科技大学 | 一种用于多雷达的车辆跟踪方法、设备及介质 |
CN114987546A (zh) * | 2022-06-10 | 2022-09-02 | 中国第一汽车股份有限公司 | 轨迹预测模型的训练方法、装置、设备及存储介质 |
CN115311854A (zh) * | 2022-07-22 | 2022-11-08 | 东南大学 | 一种基于数据融合的车辆时空轨迹重构方法 |
CN115482511A (zh) * | 2022-09-02 | 2022-12-16 | 智慧互通科技股份有限公司 | 一种基于平滑车辆运动数据的车辆轨迹生成方法及系统 |
CN115743101A (zh) * | 2022-12-13 | 2023-03-07 | 中国重汽集团济南动力有限公司 | 车辆轨迹预测方法、轨迹预测模型训练方法和装置 |
CN116012677A (zh) * | 2023-02-14 | 2023-04-25 | 北京地平线信息技术有限公司 | 用于轨迹预测的训练数据增强方法、装置、介质和设备 |
Non-Patent Citations (1)
Title |
---|
基于视频的多目标车辆跟踪及轨迹优化;李俊彦等;计算机工程与应用(05);第198-203页 * |
Also Published As
Publication number | Publication date |
---|---|
CN116597397A (zh) | 2023-08-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Shen et al. | Parallel sensing in metaverses: Virtual-real interactive smart systems for “6S” sensing | |
CN113221677B (zh) | 一种轨迹异常检测方法、装置、路侧设备和云控平台 | |
CN114970321A (zh) | 一种基于动态轨迹流的场景流数字孪生方法及系统 | |
CN113291321A (zh) | 一种车辆轨迹预测方法、装置、设备及存储介质 | |
Wang et al. | Realtime wide-area vehicle trajectory tracking using millimeter-wave radar sensors and the open TJRD TS dataset | |
CN113887376A (zh) | 目标检测方法、装置、介质及设备 | |
Li et al. | Lane marking quality assessment for autonomous driving | |
Gloudemans et al. | Interstate-24 motion: Closing the loop on smart mobility | |
CN111695627A (zh) | 路况检测方法、装置、电子设备及可读存储介质 | |
Namazi et al. | Geolocation estimation of target vehicles using image processing and geometric computation | |
Toyungyernsub et al. | Dynamics-aware spatiotemporal occupancy prediction in urban environments | |
CN114758502A (zh) | 双车联合轨迹预测方法及装置、电子设备和自动驾驶车辆 | |
CN114463932A (zh) | 非接触式施工安全距离主动动态识别预警系统及方法 | |
CN116597397B (zh) | 预测车辆轨迹的模型训练方法和装置及存储介质 | |
Ouyang et al. | Semantic slam for mobile robot with human-in-the-loop | |
CN116880462A (zh) | 自动驾驶模型、训练方法和自动驾驶方法和车辆 | |
CN116776151A (zh) | 可与车外人员进行自主交互的自动驾驶模型和训练方法 | |
Sharma et al. | Deep Learning-Based Object Detection and Classification for Autonomous Vehicles in Different Weather Scenarios of Quebec, Canada | |
CN116629106A (zh) | 移动机器人运行场景的准数字孪生方法、系统、设备及介质 | |
CN116958763A (zh) | 特征-结果级融合的车路协同感知方法、介质及电子设备 | |
CN114596706B (zh) | 路侧感知系统的检测方法及装置、电子设备和路侧设备 | |
Shanshan et al. | An evaluation system based on user big data management and artificial intelligence for automatic vehicles | |
Rezaei et al. | A Deep Learning-Based Approach for Vehicle Motion Prediction in Autonomous Driving | |
Zhang et al. | A spatiotemporal distribution identification method of vehicle weights on bridges by integrating traffic video and toll station data | |
Flores-Fuentes et al. | A structural health monitoring method proposal based on optical scanning and computational models |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40092597 Country of ref document: HK |