CN114880842A - 轨迹预测模型的自动化迭代方法、电子设备和存储介质 - Google Patents

轨迹预测模型的自动化迭代方法、电子设备和存储介质 Download PDF

Info

Publication number
CN114880842A
CN114880842A CN202210425710.3A CN202210425710A CN114880842A CN 114880842 A CN114880842 A CN 114880842A CN 202210425710 A CN202210425710 A CN 202210425710A CN 114880842 A CN114880842 A CN 114880842A
Authority
CN
China
Prior art keywords
data
scene
mobile device
prediction model
cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210425710.3A
Other languages
English (en)
Inventor
徐成
其他发明人请求不公开姓名
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Idriverplus Technologies Co Ltd
Original Assignee
Beijing Idriverplus Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Idriverplus Technologies Co Ltd filed Critical Beijing Idriverplus Technologies Co Ltd
Priority to CN202210425710.3A priority Critical patent/CN114880842A/zh
Publication of CN114880842A publication Critical patent/CN114880842A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/02Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明实施例提供一种轨迹预测模型的自动化迭代方法。该方法包括:接收移动装置的轨迹预测模型确定的预测场景数据;将预测场景数据存储至云端场景库中,并对云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;分别对正常场景数据和异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;基于带有标记的轨迹预测训练样本,在云端训练轨迹预测模型;将训练后的轨迹预测模型的参数下发至移动装置进行移动装置的轨迹预测模型的更新迭代本发明实施例采用车端推理云端训练的模式,有针对性地自动采集有价值数据,并自动化完成数据标注,提高了自动驾驶车端轨迹预测模型迭代的效率。

Description

轨迹预测模型的自动化迭代方法、电子设备和存储介质
技术领域
本发明涉及自动驾驶领域,尤其涉及一种轨迹预测模型的自动化迭代方法、电子设备和存储介质。
背景技术
随着人工智能和机器学习技术的不断发展,深度学习技术已经越来越多地被用于无人驾驶领域,特别是在汽车自主驾驶、环境感知技术和轨迹预测技术。基于深度学习的轨迹预测技术是数据驱动型技术,属于监督学习,其要求预先建立一个离线的模型,其性能取决于数据的多样性和精确度。为了保证在实际的行驶情况下,轨迹预测模型(属于深度学习模型)的精确性和鲁棒性,需要使训练数据所覆盖的自动驾驶场景尽量大,并在自动驾驶场景中进行模型的迭代验证。
自动驾驶场景按行驶风险来分的话,可以概括为普通场景和异常场景,异常场景又被称作“长尾”,是指突发、低频、不可预知的场景,例如红绿灯故障的路口、施工的道路、掉到地上的物体等,这些场景都会引发交通事故。如何处理这种复杂而罕见的长尾问题,是自动驾驶行业的一个难题,已逐渐成为制约自动驾驶发展的关键,要解决这些问题,自动驾驶系统需要积累大量的数据,对轨迹预测等深度学习模型进行持续的迭代验证。
根据数据显示,全世界拥有十亿多辆汽车,但是平均30秒钟就会有一起事故,这表明,说明交通事故属于低频出现的事件。要想让无人驾驶汽车落地,让无人驾驶汽车的安全性得到保障,就要解决这些低频发生的问题,至少要做到现有人类驾驶员的安全驾驶水平,甚至全面超越人类驾驶员。
从上述数据可以看出,要全面测试汽车的安全性、舒适性等性能,至少要进行数十亿公里的路面试验,也就是说,成千上万甚至几十万辆汽车,24小时不停地运转数百天,而在检测过程中,生成有效(有价值)的问题数据,却是一件非常困难的事情。
为了解决上述问题,传统的轨迹预测等深度学习模型迭代验证采用功能测试驱动模型迭代的方法,通过需求和问题驱动数据采集,人工分析标注数据并设计优化方案,在测试端人工搭建场景或实车随机测试,最终形成标注、开发、测试的串行迭代流程,这种方法对于软件功能开发是有效的,有限的人力解决有限的问题,实现特定范围的功能。
在实现本发明过程中,发明人发现相关技术中至少存在如下问题:
传统的轨迹预测等深度学习模型迭代验证方式难以让自动驾驶真正落地,使整个自动驾驶系统做到全时段全工况的安全运行,其缺陷具体体现在以下三个方面:
(1)传统的问题驱动方式主要依靠串行开发模式优化模型,开发与测试周期长,不能并行进行;
(2)人工标注数据耗时较长,标注效率较低,无法自动触发式筛选出有价值的问题数据;
(3)大多数测试都是通过人工搭建典型场景或者随机测试来验证模型,然而在实际运行场景中覆盖率较低。
以上三点说明了现有方式已经无法满足实际行驶场景中大量的问题,无法实现大部分问题的自动化解决,也无法有效地实现自动驾驶的落地目标。
发明内容
为了至少解决现有技术中无法自动的获取实际场景数据,获取的数据难以解决模型自动化迭代的问题。第一方面,本发明实施例提供一种轨迹预测模型的自动化迭代方法,应用于云端,包括:
接收移动装置的轨迹预测模型确定的预测场景数据;
将所述预测场景数据存储至云端场景库中,并对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;
分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;
基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;
将训练后的轨迹预测模型的参数下发至所述移动装置进行所述移动装置的轨迹预测模型的更新迭代。
第二方面,本发明实施例提供一种轨迹预测模型的自动化迭代方法,应用于移动装置,包括:
当满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的;
根据所述训练目的,采集传感器数据输入至轨迹预测模型,得到轨迹预测结果;
基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据;
将所述预测场景数据发送至云端,待接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
第三方面,提供一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例的轨迹预测模型的自动化迭代方法的步骤。
第四方面,本发明实施例提供一种移动装置,包括本体和所述本体上安装的本发明任一实施例所述的电子设备。
第五方面,本发明实施例提供一种存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现本发明任一实施例的轨迹预测模型的自动化迭代方法的步骤。
第六方面,本发明实施例还提供一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行本发明实施例中任意一项所述的轨迹预测模型的自动化迭代方法。
本发明实施例的有益效果在于:移动装置和云端的训练迭代,云端利用其强大的计算能力和数据存储能力,实时地、自动地完成标注数据集生成、模型训练、模型迭代等一系列操作,准确的从移动装置采集的有异常倾向的数据中进一步提取出数据中对性能提升有价值的数据;这种移动装置和云端训练的模式充分发挥了云端的资源优势,提高了自动驾驶车端轨迹预测模型迭代的效率。移动装置部署多任务、轻量级的轨迹预测模型,利用场景标志位对轨迹预测结果进行初始的标注,这扩大了异常场景的采集的范围,这使得移动装置可以基于训练目的,自动地、有针对性地采集对车端轨迹预测模型的性能提升有价值的数据,然而,这只代表其有异常倾向,并不代表其就是异常的,而云端可以从这些有异常倾向数据中进一步提取出数据中对性能提升有价值的数据。这种移动装置和云端训练的模式充分发挥了云端的资源优势,提高了自动驾驶车端轨迹预测模型迭代的效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的流程图;
图2是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的轨迹预测模型自动化迭代方法系统架构图;
图3是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的流程图;
图4是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的基于地图的轨迹预测模型输出的轨迹预测结果示意图;
图5是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的流程图;
图6是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的轨迹预测模型自动化迭代流程图;
图7是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的移动装置数据采集模块采集对轨迹预测模型性能提升有价值的示例图;
图8是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的场景所包含要素的类型示例图;
图9是本发明另一实施例提供的一种轨迹预测模型的自动化迭代方法的移动装置数据采集模块采集对轨迹预测模型性能提升有价值的示例图;
图10是本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的轨迹预测模型的推理结果及其期望值的示意图;
图11是本发明一实施例提供的车辆计算系统的一种结构示意图;
图12是本发明一实施例提供的一种自动驾驶车辆和车载执行设备的示例;
图13是本发明一实施例提供的一种云端执行设备结构示意图;
图14是本发明一实施例提供的一种云端执行设备的结构示意图;
图15是本发明一实施例提供的一种移动装置端执行设备的结构示意图;
图16为本发明一实施例提供的一种轨迹预测模型的自动化迭代的电子设备的实施例的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本领域技术人员知道,本申请的实施方式可以实现为一种系统、装置、设备、方法或计算机程序产品。因此,本公开可以具体实现为以下形式,即:完全的硬件、完全的软件(包括固件、驻留软件、微代码等),或者硬件和软件结合的形式。
为了便于理解,以下对本申请涉及的技术术语进行解释:
本申请所称的“移动装置”可以是任何具备移动能力的设备,包括但不限于汽车、轮船、潜艇、飞机、飞行器等设备,其中汽车包括国际自动机工程师学会(Society ofAutomotive Engineers International,SAE International)或中国国家标准《汽车驾驶自动化分级》制定的L0-L5共六个自动驾驶技术等级的车辆,以下简称自动驾驶车辆ADV(Auto-Driving Vehicle)。
本申请所称的“自动驾驶车辆ADV”可以是具有如下各种功能的车辆设备或机器人设备:
(1)载人功能,如家用轿车、公共汽车等;
(2)载货功能,如普通货车、厢式货车、甩挂车、封闭货车、罐式货车、平板货车、集装厢车、自卸货车、特殊结构货车等;
(3)工具功能,如物流配送车、自动导引运输车AGV、巡逻车、起重机、吊车、挖掘机、推土机、铲车、压路机、装载机、越野工程车、装甲工程车、污水处理车、环卫车、吸尘车、洗地车、洒水车、扫地机器人、送餐机器人、导购机器人、割草机、高尔夫球车等;
(4)娱乐功能,如娱乐车、游乐场自动驾驶装置、平衡车等;
(5)特殊救援功能,如消防车、救护车、电力抢修车、工程抢险车等。
如图1所示为本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的流程图,包括如下步骤:
S11:接收移动装置的轨迹预测模型确定的预测场景数据;
S12:将所述预测场景数据存储至云端场景库中,并对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;
S13:分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;
S14:基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;
S15:将训练后的轨迹预测模型的参数下发至所述移动装置进行所述移动装置的轨迹预测模型的更新迭代。
在本实施方式中,从两个方面(云端和移动装置)来进行轨迹预测模型的自动迭代,来有效解决模型迭代周期长、验证效率低等现实问题。
对于云端的执行设备,该设备包括云端数据采集模块、轨迹样本自动标注模块、轨迹预测模型训练模块、轨迹预测模型迭代模型,具体结构如图2(上半部分的云端)所示。其中,云端执行设备可由云服务器实现。云端的执行设备与移动装置之间通过通信接口实现数据传输,该通信接口可以采用车用无线通信技术V2X、车载以太网、3G/4G/5G移动通信技术等通信,在此不做限制。
对于步骤S11,移动装置在行驶过程中,会不断的通过传感器采集到环境信息,从而构建出此时移动装置所处的预测场景数据。
作为一种实施方式,所述预测场景数据由轨迹预测模型输出的带有场景标志位的轨迹预测结果确定;在本实施方式中,移动装置将带有标注场景标志位的预测场景数据发送至云端中(其中场景标志位是移动装置中的异常触发模块进行标记的)。云端中的云端数据采集模块采集到移动装置发送的这些对于轨迹预测模型训练可能有价值的数据(也就是移动装置扩大异常场景的采集范围,但移动装置计算能力有限,只能从驾驶过程中采集到有异常倾向的数据,后续进一步的操作,还需要具有强大计算能力的云端进行处理)。
具体的,云端数据采集模块具有数据采集功能,并将采集的数据发送给云端数据库,通过不断地采集,云端数据库会更加丰富,在后续步骤中进行上位机进行分析、处理。云端数据采集模块与移动装置的数据采集模块之间具有数据传输关系,云端数据采集模块根据需求从车端采集模块获取这些可能有价值的数据。
在云端数据采集模块中,可以通过USB、PXI、PCI、PCI Express、火线(1394)、PCMCIA、ISA、Compact Flash、485、232、以太网、各种无线网络等总线采集和发送数据。
对于步骤S12,对不断扩充的云端数据库中的数据进行分流,分为来自异常场景的数据和来自正常场景的数据,
作为一种实施方式,所述对所述云端场景库中的所有场景数据进行数据分流包括:
利用所述场景标志位对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据。
在本实施方式中,利用场景标志位可以简便的划分正常/异常场景数据,进一步精简了计算过程。对于异常数据在后续步骤中采取多个数据驱动模型校正,同时采取更严格的轨迹筛选方案,并在后续的轨迹预测模型训练模块中采取不同训练目的的数据增强策略。
对于步骤S13,采用多个数据驱动模型对上一步骤中的正常场景数据和异常场景数据进行感知标注的校正,这一步在云端可以称为数据驱动子模块。
作为一种实施方式,所述感知标注方式包括:融合感知和/或多目标跟踪和/或检测跟踪一体化和/或预训练模型调优。
在本实施方式中,以融合感知为例,利用数据驱动模型对数据分流子模块输出的场景数据进行融合感知(用于生成障碍物在整个生命周期的轨迹信息),即在确定有异常倾向的场景数据中,基于云端强有力的计算能力中确定出真实的轨迹预测数据,并为其标注异常标记。相比于移动装置计算资源要在有限算力的基础上快速推理得出检测结果的特点,云端计算资源不仅算力强大,而且对实时性的要求也较低,因此针对相同的目标,在云端利用数据驱动模型进行融合感知,可以得到更加精准的结果,这一结果就可以当作达到训练要求的标注数据拿去训练车端轨迹预测模型,达到训练模型、提升模型推理能力(使推理的轨迹预测结果更加准确)的目的。
具体的,融合感知结果为障碍物数量、时间戳,以及每个障碍物目标的帧序号(例如障碍物有静态环境中的周围景观、交通设施等,对于每一个障碍物分别标记不同的序号)、例如,周围景观为#2、交通设施#3的跟踪序号、类别(例如静态环境的类别有障碍物、周围景观、交通设施、道路;交通参与者的类别有(例如车辆、行人、动物),类别可进一步细化,如机动车辆:乘用车、公交车、卡车等,弱势道路使用者:行人、骑行者等)、置信度([0,1]之间的数)、横纵竖向三维坐标(单位:米)、长宽高(单位:米)和航向角(单位:弧度),形成障碍物在整个生命周期的轨迹信息。
以多目标跟踪和/或检测跟踪一体化和/或预训练模型调优为例。数据驱动模型是深度学习模型,可以采用基于检测的多目标跟踪方法YOLO+Deep Sort(基于深度学习的目标跟踪)、基于关键点的多目标跟踪方法CenterTrack(其通过在一个图像对上执行检测,并结合先前帧的目标检测结果来估计当前帧的目标运动情况),检测跟踪一体化方法、SimTrack(将目标关联、dead object清除、new-born object检测集成在了一起,降低了跟踪系统的复杂程度)等任意一种深度学习方法,在此不再赘述。
对于数据分流子模块中的异常场景数据,采用更加严格的感知标准,对基于不同算法逻辑的融合感知结果进行一致性检验,所有感知结果都是一致的(如跟踪序列在一定时间内保持不变,融合后形成的轨迹运动模式),只有当轨迹偏差小于一定阈值(例如1米)时,才能将结果送入下一步的数据优化子模块中进行处理。
对于步骤S14,对上一步感知标注生成的轨迹信息进行优化过滤,这一步的处理可以称为数据优化子模块。
作为一种实施方式,所述对所述异常标记的轨迹预测数据进行优化,输出平滑的轨迹预测数据以用于作为所述轨迹预测模型的多个训练样本包括:
基于曲线拟合过滤和/或基于速度过滤和/或基于行为过滤和/或基于高阶导数过滤,对所述异常标记的轨迹预测数据进行优化,输出平滑的轨迹预测数据。
在本实施方式中,优化过滤可以对同一障碍物轨迹进行过滤,丢弃融合感知错误或者不准确突兀的结果,输出平滑的高质量轨迹数据。具体的过滤包括:基于曲线拟合过滤和/或基于速度过滤和/或基于行为过滤和/或基于高阶导数过滤。
基于曲线拟合的过滤方法:首先利用多项式曲线拟合(二次多项式曲线,二阶或三阶贝赛尔曲线,可由单一或多种组合)拟合各个障碍物轨迹上的所有位置路点,生成平滑曲线,然后计算出真实路点与拟合曲线对应路点的平均位置偏移误差,最后利用误差阈值筛选出高质量轨迹样本。
基于速度过滤的方法:基于曲线拟合过滤,进一步根据对应概率对不同速度障碍物目标进行随机筛选。由于障碍物目标速度较慢,被丢弃的概率较高,因此优先使用字典类型实现速度obj_speed和丢弃概率obj_p的“键值对”对应关系{obj_speed:obj_p},多组速度和丢弃概率之间的关系是{obj_speed1:obj_p1、obj_speed2:obj_p2,...,obj_speedi:obj_pi},将0-1随机数生成的模拟概率与丢弃概率进行比较,最终决定是否丢弃样本。具体地说,如果某障碍物目标的速度低于某阈值obj_speedi,同时满足0至1随机数生成的模拟概率random_p大于丢弃速度障碍物概率obj_i_p的条件,则丢弃该障碍物目标的轨迹样本。
基于行为过滤的方法:在速度过滤基础上,根据对应概率对车道保持中的障碍物目标进行随机筛选,实现方法是通过搜索轨迹起点与终点车道的一致性判断驾驶行为,然后利用0-1随机数生成模拟概率,确定是否丢弃轨迹样本。具体地说,首先通过轨迹起点的横向纵向位置和航向角以及地图文件元素标记的车道边界来判断轨迹起点所在车道序号,同样,判断轨迹终点所在车道序号,然后判断轨迹起点和轨迹终点所在车道序号是否一致,若不一致,则保留对应的轨迹样本,否则对比0~1随机数生成的模拟概率和车道保持丢弃概率,决定是否丢弃轨迹样本。若模拟概率小于车道保持丢弃概率,则保留轨迹样本,否则丢弃。
基于高阶导数过滤:在基于行为过滤的基础上,通过轨迹点(横向纵向位置)的高阶导数过滤掉与真实物理意义不符的轨迹,保证了轨迹数据的质量。具体来说,首先来自异常场景数据轨迹样本,根据未来轨迹高阶导数评估轨迹质量,微分轨迹样本的路径点,判断轨迹起点和终点轨迹的加速度(轨迹位置点二阶导数)、加速度变化率(轨迹位置点三阶导数)以及角度变化率(纵向和横向位置的正切值)是否存在异常,若某个异常物理量的统计值大于某一阈值时,将相应轨迹样本丢弃,以便进一步筛选轨迹样本;然后根据障碍物目标历史运动状态横向角变化率(横向角一阶导数)和加速度具有物理意义的值,丢弃异常值,完成对障碍物轨迹样本级联判断。
对于步骤S15,由于有针对性地采集对移动装置轨迹预测模型性能提升有价值的数据,通过上述步骤中分流、感知标注、优化一层层的递进优化,逐步筛选出对于训练目的有价值的数据从而快速、有效地达到训练目标。将使用这些有价值的数据训练的轨迹预测模型的参数下发至移动装置进行模型的更新迭代。
作为一种实施方式,所述将训练后的轨迹预测模型的参数下发至所述移动装置进行轨迹预测模型的更新迭代包括:
对训练后的轨迹预测模型进行测试,若测试结果达到训练目的的迭代要求时,将所述训练后的轨迹预测模型的参数下发至所述移动装置进行迭代。
在本实施方式中,在对训练后的轨迹预测模型进行测试,当测试结果达到迭代要求(表明训练后的车端轨迹预测模型的推理能力明显优于正在使用的车端轨迹预测模型)时,才会将模型参数下发给车端计算模块,完成车端轨迹预测模型迭代操作。如果测试结果达不到迭代要求时,将模型的参数发给移动装置反而可能达到反效果。这样进一步确保了迭代的准确性。
同时,由于经过训练,还可以进一步的对数据驱动模型进行测试,当测试结果达到迭代要求(表明训练后的数据驱动模型的推理能力明显优于正在使用的数据驱动模型)时,才会将模型参数下发给自动标注模块,完成数据驱动模型迭代操作。
通过该实施方式可以看出,移动装置和云端的训练迭代,云端利用其强大的计算能力和数据存储能力,实时地、自动地完成标注数据集生成、模型训练、模型迭代等一系列操作,准确的从移动装置采集的有异常倾向的数据中进一步提取出数据中对性能提升有价值的数据;这种移动装置和云端训练的模式充分发挥了云端的资源优势,提高了自动驾驶车端轨迹预测模型迭代的效率。
如图3所示为本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的流程图,包括如下步骤:
S21:当满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的;
S22:根据所述训练目的,采集传感器数据输入至轨迹预测模型,得到轨迹预测结果;
S23:基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据;
S24:将所述预测场景数据发送至云端,待接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
在本实施方式中,从两个方面(云端和移动装置)来进行轨迹预测模型的自动迭代,来有效解决模型迭代周期长、验证效率低等现实问题。
对于移动装置的执行设备,该设备用于移动装置数据采集和移动装置模型推理。包括:移动装置数据采集模块、异常触发模块和移动装置计算模块。其中的移动装置计算模块中配置有车端轨迹预测模型。例如,移动装置都以车辆为例,如图2所示(下半部分的车端)所示。
对于步骤S21,由于本方法为了使模型越来越好,但模型的优化分为不同的方向,也就是训练目的不同,简单的说包括:补充丰富轨迹预测模型涵盖的场景、令车端轨迹预测模型涵盖长尾场景、提升轨迹预测模型在应对推理效果未达到预定要求的场景、保持轨迹预测模型在应对推理效果达到预定要求的场景的推理能力。
作为一种实施方式,所述异常触发条件包括以下一种或多种:
移动装置识别到行驶过程中采集的地图中包含预定场景时触发;
移动装置检测到行驶过程中的状态为预定状态数据时触发;
移动装置基于采集的地图数据预测到障碍物属于预定情况时触发。所述预定场景包括:路口、环道、多发事故地中的一种或多种;
所述预定状态数据包括:急加速、急刹车、急转弯中的一种或多种;
所述障碍物属于预定情况包括:障碍物的预测轨迹超出不可通行区域。
在本实施方式中,异常触发模块用于在移动装置自动触发,简单的说,在行驶过程中采集到地图中可能存在危险的区域,又或者移动装置在行驶过程中突然的加速度、急刹车等状态也是可能存在隐含的危险,又或者预测障碍物的轨迹出现在不可通行区域时,这都会对驾驶带来一定的危险。这些存在安全隐患,可能会引发危险的异常场景数据对于本方法来说都是需要采集的。采集异常场景数据。具体的,在已知的感知融合(自动驾驶系统:感知融合->轨迹预测->决策规划)运行正常的情况下,至少在以下几种情况会导致异常触发:
(1)移动装置行驶场景触发:道路路口、环道、多发事故地(具体可根据移动装置数据采集模块采集的地图数据中获取信息,例如根据地图的历史相关信息,某一路口由于道路狭窄或者交通中转等核心区域出现交通事故的频率相对较高,此时,对于这种场景的数据都进行采集);
(2)移动装置状态数据触发:急加速、急刹车、急转弯(可根据移动装置数据采集模块采集的车辆状态数据中获取信息,移动装置在行驶过程中,通常不会出现猛地急刹车,或者急转弯,通常出现这种情况,可以联想到前方突然出现行人,驾驶员为了躲避行人会进行急刹车或者急转弯,对于这种类型的数据也要进行采集);
(3)模型推理轨迹触发:障碍物的预测轨迹超出不可通行区域(可根据移动装置数据采集模块采集的地图数据中获取信息,如隔离带,通常来说布设在交通道路中的各种障碍物,都是会摆放在特定的区域,不会直接影响移动装置的行驶。但这些障碍物若出现在不该出现的地方,那么也会有可能会带来安全隐患,因此对于这类型的数据同样要进行采集),这可能会引发碰撞。
加入自动驾驶场景标志位scene_flag(默认为0),区分异常场景(scene_flag=1)和正常场景(scene_flag=0)。总的来说这些触发条件与训练目的相对应。
对于步骤S22,移动装置通常会搭载各种传感器,通过这些传感器获得移动装置所处的环境信息,称为移动装置数据采集模块。
作为一种实施方式,所述传感器包括:
毫米波雷达、红外雷达、激光雷达、多普勒雷达、光量传感器、雨量传感器、单目摄像头、双目摄像头、全景摄像头、鱼眼摄像头、行车记录仪、车姿传感器、速度传感器、全球定位系统GNSS、惯性测量单元IMU。通过这些传感器,可以获得激光、点云、图像等各种环境数据。
移动装置数据采集模块具有数据采集功能,例如以车辆为例,自动驾驶车辆装配传感器采集到的数据,通过上位机进行分析和处理。具体地说,可以用来采集自动驾驶车辆设置的各种传感器感知周围环境的模拟信号或数字信号,还可以采集车辆端计算模型通过车端轨迹预测模型进行推理,还可以采集车辆状态数据、地图数据和驾驶员操作数据。移动装置采集模块内置数据采集卡(即实现数据采集功能的计算机扩展卡),可以通过USB、PXI、PCI、PCI Express、火线(1394)、PCMCIA、ISA、Compact Flash、485、232、以太网、各种无线网络等总线采集和发送数据。
进一步地,移动装置数据采集模块还具有数据处理功能,具体表现为与云端数据采集模块相配合,从采集的数据中提取对车端轨迹预测模型性能提升有价值的数据。这些信息与轨迹预测结果结合在一起,能够全面地反映自动驾驶车辆所处的场景,对于训练轨迹预测模型也更有意义。
在环境信息采集后,将环境信息输入至轨迹预测模型,得到轨迹预测结果,这些可以在移动装置计算模块进行处理。
作为一种实施方式,所述将移动装置搭载的传感器采集的数据,输入至轨迹预测模型,得到轨迹预测结果包括:
预测移动装置每种行为模态下的行为模式;
通过所述行为模式中整个预测时长内每个预测时间点的轨迹横纵向位点确定多条预测轨迹的概率分布;
将最大概率分布的预测轨迹确定为轨迹预测结果。
在本实施方式中,移动装置计算模块可用于为自动驾驶的移动装置实现融合感知、轨迹预测、决策规划等功能。移动装置轨迹预测模型具有推理功能,可用于自动驾驶移动装置实现轨迹预测功能。作为一种实施方式,移动装置模型可以是深度学习模型或非深度学习模型,下面以移动装置模型为深度学习模型为例。本申请实施例所称的“移动装置轨迹预测模型”即为实现轨迹功能的移动装置模型。本申请实施例所称的“轨迹预测结果”即为移动装置轨迹预测模型推理的结果。
其中,轨迹预测的结果示意如图4所示,其中,左边幅图绿色(G)直行概率最大;中间图洋红(M)左转概率最大;右边幅图黑色(B)右转概率最大。
每种行为模态下的目标轨迹对应每种行为模式(m1,m2,...,mi,...,mH)下,整个预测时长T内每个预测时间点(1,2,...,i,...,T)的轨迹横纵向位置点(pre-xi,pre_yi),记为((pre_x1,pre_y1),(pre_x2,pre_y2),...,(pre_xT,pre_yT))mi,对应图中目标车的多条预测轨迹(表示的红色(r)、绿色(G)、蓝色(b)、洋红(M)和黑色(B)轨迹线)的一条,这里的模态H=5。其中的每种行为模态下的轨迹概率对应图例表示的每个0~1的概率值,五种模态对应图例表示的概率值的五种颜色:红色、绿色、蓝色、玫瑰红和黄色。多模态预测输出为多个模态的混合概率分布,整体思路与MDN(Mixture Density Network,混合密度模型)一致。
对多模态意图及轨迹预测问题而言,优化目标为最小化轨迹及分布误差。单模态计算预测时段内轨迹点位置相对真值位置的均方误差,多模态计算误差时需要同时考虑轨迹位置和位置分布(多任务学习)。期望最大化真实位置在混合概率密度中的概率,将概率联合分布的最大似然函数作为损失函数。多模态的划分可以根据模型的多任务损失函数隐式学习,或根据轨迹终点的横纵向偏移和转向半径来显示定义(横向偏移超过一定阈值为转弯,转向半径大于一定阈值为转大弯,横向偏移超过一定阈值为加速/减速)。
以图4作为参考,在预测过程中的行为模态、轨迹表示和颜色编码方案如下:
行为模态 加速直行 正常直行 减速直行 转小弯 转大弯
轨迹表示 红色 绿色 蓝色 洋红 黑色
颜色编码 [0,0,255] [0,255,0] [255,0,0] [255,0,255] [255,255,255]
由于每种行为模态下的目标轨迹的维度为2×T和每种行为模态下的轨迹概率维度为1,因此目标轨迹预测结果的输出维度为(H×2×T)+(H×1)。从而得到对应的轨迹预测结果。
对于步骤S23,除了轨迹预测结果,还需要得到对应的时空同步信息。
作为一种实施方式,所述时空同步信息包括:
与所述轨迹预测结果在时间和空间存在同步关系的环境数据、地图数据、移动装置状态数据、驾驶员操作数据,其中,所述环境数据包括:静态环境,动态环境、通信环境、交通参与者、气象环境,传感器采集的环境数据。
所述地图数据包括:地图、交通管制信息、导航信息;
所述移动装置状态数据包括:移动装置基础属性、移动装置位置、移动装置运动状态、人机交互任务。
具体的,静态环境包括:固定障碍物、建筑设施、交通设施、道路;
动态环境包括:动态交通信号灯、交通警察;
通信环境包括:信号强度、信号延迟时间、电磁干扰强度;
交通参与者包括:行人、机动车辆、非机动车辆、动物;
气象环境包括:温度、湿度、光照条件、天气情况;
移动装置基础属性包括:车身重量、几何尺寸、基本性能;
移动装置位置包括:坐标、车道位置;
运动状态包括:横向运动状态、纵向运动状态;
人机交互任务包括:娱乐、驾驶任务。
将上述举例的车辆状态数据、地图数据、驾驶员操作数据等,作为车端计算模块的输入数据进行推理,实现自动驾驶车辆的融合感知、轨迹预测、决策规划等功能,在模拟场景中的预测轨迹得到预测场景数据。
考虑到移动装置计算资源具有成本高、算力有限、推理速度快等特点,移动装置轨迹预测模型可采用具有多任务、轻量级等特征的网络结构。其中,多任务是指网络结构具有共享参数、共享任务的特点,轻量级是指网络结构具有在有限存储空间和功耗限制的情况下满足计算效率和能力的特点。
多任务是指可以复用感知融合结果和地图的特征信息(作为已知输入),通过一次模型推理得到多种任务所需的结果,例如同时预测多个障碍物(multi-agent)的行为类别、未来行驶轨迹和未来速度变化趋势等;轻量级可以适配移动装置有限的算力,并满足移动装置推理效率。移动装置轨迹预测模型还可以采用具有多维度特点的网络结构,多维度的网络结构可有助于挖掘多目标之间的(例如交互信息)内在联系。
对于步骤S24,将上述步骤确定的预测场景数据发送至云端,待接收到云端反馈的轨迹预测模型的参数进行自动迭代。也就是将移动装置计算资源正在使用的轨迹预测模型迭代为训练后的轨迹预测模型。
通过该实施方式可以看出,移动装置和云端的训练迭代,移动装置部署多任务、轻量级的轨迹预测模型,基于融合感知结果和轨迹预测结果自动地、有针对性地采集对车端轨迹预测模型的性能提升有价值的数据。
如图5所示为本发明一实施例提供的一种轨迹预测模型的自动化迭代方法的流程图,包括如下步骤:
S31:当移动装置满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的,根据所述训练目的,采集传感器数据输入至轨迹预测模型,得到轨迹预测结果;
S32:基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据;
S33:将所述预测场景数据发送至云端;
S34:云端接收所述移动装置的轨迹预测模型确定的预测场景数据;
S35:云端将所述预测场景数据存储至云端场景库中,并对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;
S36:云端分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;
S37:云端基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;
S38:云端将训练后的轨迹预测模型的参数下发至所述移动装置;
S39:移动装置接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
在本实施方式中,为云端和移动装置的结合使用,移动装置以车端为例,整体结构如图2所示。
移动装置针对性地采集对轨迹预测模型性能提升有价值的数据(数据来源于移动装置数据采集模块和异常触发模块),再利用云端这些对轨迹模型性能提升有价值的数据进行优化处理,再对轨迹预测模型进行训练和迭代,这种方式可根据训练目的有针对性地提取有价值数据,从而快速、有效地达到训练的目的,轨迹预测模型自动迭代流程如图6所示。
对于训练的目的,作为一种实施方式,所述训练的目的包括:补充丰富轨迹预测模型涵盖的场景、令车端轨迹预测模型涵盖长尾场景、提升轨迹预测模型在应对推理效果未达到预定要求的场景、保持轨迹预测模型在应对推理效果达到预定要求的场景的推理能力。
1、当所述训练目的为补充丰富轨迹预测模型涵盖的场景时,所述方法包括:
移动装置的移动装置采集模块采集各场景类型的数据,将利用所述各场景类型的数据生成的预测场景数据发送至云端的云端数据采集模块;
当所述云端数据采集模块确定所述云端场景库中缺少所述预测场景数据对应的类别,或所述云端场景库中所述预测场景数据对应类别下的数据量未达到预设阈值时,云端数据采集模块接收所述移动装置采集模块发送的预测场景数据,确定为用于补充丰富轨迹预测模型涵盖的场景的数据进行采集。
在本实施方式中,推理范围优先的目的是让轨迹预测模型涵盖(适应)尽可能多的场景。如图7所示,移动装置采集模块利用轨迹预测模型推理的结果及其时空同步信息构建场景,并上传给云端,云端采集模块确定已有场景库中缺少移动装置数据采集模块上传的场景时,将轨迹预测结果及其时空同步信息作为对车端轨迹预测模型性能提升有价值的数据进行采集。
所述预测场景数据中的场景包括:移动装置自身要素和环境要素;
所述移动装置自身要素的类别包括:包含重量、几何信息、性能信息的基础属性,包含坐标信息、道路位置的位置信息,包含横向、纵向的运动状态信息,包含感知识别、路径规划、人机交互、联网通信的驾驶任务信息。
所述环境要素的类别包括:包含障碍物、环境景观、交通设施、道路的静态环境,包含动态指示设施、通信环境信息的动态环境,包含其他移动装置、行人、动物的交通参与者,包含温度、湿度、光照条件、天气情况的气象信息。
在本实施方式中,在自动驾驶测试领域,场景指的是自动驾驶的移动装置在一定时间和空间范围内,与其他车辆、道路、交通设施、气象条件等因素的综合交互过程的动态描述,图8示出了场景中的元素类型的实施例。
云端数据库中存储有场景库,其中包含有移动装置轨迹预测模型涵盖的各种场景,若云端数据采集模块将移动装置数据采集模块上传的场景与场景库中已有的场景进行比对后发现场景库中没有该场景,则说明移动装置轨迹预测模型还不能涵盖(适应)这一场景,需要将这一场景加入到场景库中去,此时,云端采集模块下发命令,移动装置数据采集模块收到命令后,即将这一场景对应的轨迹预测结果及其时空同步信息作为对车端轨迹预测模型性能提升有价值的数据进行采集。
具体的,云端的数据采集模块将移动装置数据采集模块上传的场景与场景库进行比对时,如果有如下两种情况出现,均可以算作场景库中缺少该场景:
1、云端的场景库中缺少该场景对应的类别:
这种情况直接表明场景库还没涵盖该场景对应的类别,例如,场景库中道路类型下涵盖城市道路、高速公路、园区道路三个类别,而车端数据采集模块上传的场景类别为农村道路,此时,就可以确定场景库中缺少该场景;
2、云端的场景库中存在该场景对应的类别,但已有场景库中该类别下数据量未达到预定数量:
这种情况表明虽然场景库中已经涵盖了该场景,但是该场景对应的数据量还较少,而模型训练需要足够多的数据量,这时仍然需要认为场景库中缺少该场景,需要将场景对应的轨迹预测结果及其时空同步信息作为对车端轨迹预测模型性能提升有价值的数据上传给云端采集模块。
作为另一种实施方式,对于移动装置,移动装置的移动装置采集模块采集各场景类型的数据,将利用所述各场景类型的数据生成的预测场景数据的编码发送至云端的云端数据采集模块;
所述移动装置采集模块接收到云端数据采集模块下发的采集命令之后,将所述预测场景数据发送至云端数据采集模块。
对于云端,云端的云端数据采集模块接收到所述移动装置的移动装置采集模块发送的预测场景数据的编码;
利用云端场景库中对应的场景编码库,判断是否存储有所述预测场景数据的编码;
若所述场景编码库没有存储所述编码时,所述云端数据采集模块向所述移动装置采集模块下发采集命令,接收移动装置采集模块基于所述采集命令上传的预测场景数据。
在本实施方式中,考虑到场景包含的信息量很大,完整地上传场景不仅浪费了通信资源,还影响了采集效率,但实际上并不是所有场景都有提升移动装置轨迹预测模型性能的价值(场景库中可能已经包含了场景库),在这种情况下,移动装置数据采集模块可以对场景进行编码,并上传到云端,以节省通信资源、加快数据采集效率。
除了场景库之外,云端数据库中还存储了场景库对应的编码库(场景库中包含了场景库中的场景编码)。云端数据采集模块将移动装置采集模块上面下载的场景编码与编码库进行比对,在确定该场景编码库中没有场景编码时,可判定移动装置轨迹预测模型无法覆盖(适应)该场景,因此需要在场景库中添加该场景。
此时,云端数据采集模块发出指令,移动装置采集模块接收指令后,将对应的轨迹预测结果及其时空同步信息作为提高移动装置轨迹预测模型性能的重要数据。
具体的,车端数据采集模块应按照预定的编码规则对场景进行编码,预定的编码规则可以是按照场景要素编码。
例如,针对图8所示的场景,对场景要素按照在父节点要素中的排序进行编码,对于每个具体的要素,#后面的数字表示当前要素在其父节点要素中的排序:
若场景包含行人,则按照从左往右,外部环境要素对应的编码为2,交通参与者对应的编码为3,行人对应的编码为2,则场景编码相应的包含数字232;
若场景包含横向运动状态,则按照从左往右,车辆自身要素对应的编码为1,运动状态对应的编码为3,横向运动状态对应的编码为1,则场景编码相应的包含数字131;
若场景同时包含行人、横向运动状态,则场景编码相应的包含数据组(232、131)。
通过该实施方式可以看出,对场景的判断确保云端的场景库有效的扩充,同时考虑到通信资源的占用,利用编码进行比对,确保了场景的采集效率。要说明的是,预测场景数据是由轨迹预测结果与所述轨迹预测结果相关的时空同步信息构建的,因此轨迹预测结果中也存储有对应的时空同步信息,在判断时,也可以单独判断对应的时空同步信息,下述多个训练目的都可以判断对应的时空同步信息,在此不再赘述。
2、当训练的目的为令车端轨迹预测模型涵盖长尾场景时,移动装置和云端共同进行实施处理。
对于云端,云端数据采集模块接收所述移动装置采集模块发送的用于长尾场景训练的不属于预设常规场景的轨迹预测结果。
对于移动装置,移动装置采集模块将监测到的不属于预设常规场景的轨迹预测结果确定为用于涵盖长尾场景的数据,将所述不属于预设常规场景的轨迹预测结果发送至云端数据采集模块。
在本实施方式中,令车端轨迹预测模型涵盖长尾场景的目的是让车端轨迹预测模型涵盖(适应)罕见、突发、异常等长尾场景。如图9所示,移动装置数据采集模块监测到轨迹预测结果和/或时空同步信息不属于常规场景时,将轨迹预测结果及其时空同步信息作为对车端轨迹预测模型性能提升有价值的数据进行采集。
上述的常规场景是指物理世界中普遍存在的、常见的交通场景,例如车辆在道路上正常行驶,道路中出现交通信号灯、交通指示牌、车道线、路肩等常规交通设施。与之相反的是长尾场景,即鲜少或几乎不可能在物理世界中出现的、罕见、突发、异常的交通场景,例如移动装置以车辆为例,车辆在天空\花坛\建筑物上行驶,道路中突然出现野兽\建筑物\大型漂浮物(例如气球)等。长尾场景对于自动驾驶车辆来说,常常意味着危险系数高、操作处理复杂,要想应对长尾场景,就需要提升车端轨迹预测模型面对长尾场景时的推理能力,相应的,长尾场景对应的各种信息就属于对车端轨迹预测模型性能提升有价值的数据。
当监测到轨迹预测结果和/或时空同步信息不属于常规场景时,说明自动驾驶车辆处于罕见的、或者突发的、或者异常的长尾场景中,需要将此时的推理结果及其时空同步信息作为对车端轨迹预测模型性能提升有价值的数据进行采集。
3、当所述训练目的为提升轨迹预测模型在应对推理效果未达到预定要求的场景时,利用移动装置采集模块对轨迹预测模型进行推理能力检验,包括:
判断所述轨迹预测模型的轨迹预测结果是否达到预设期望;
对所述轨迹预测结果进行一致性检验。
在本实施方式中,推理能力优先的目的是为了让轨迹预测模型在自身推理效果不够好的场景中具备更好的推理能力。
具体的,如图10所示,如下两种情况均表明轨迹预测模型的推理效果不够好,需要提升轨迹预测模型面对相应场景时的推理能力:
(1)判断所述轨迹预测模型的轨迹预测结果是否达到预设期望包括:
基于传感器获得所述移动装置在后的真实轨迹;
判断所述在后的真实轨迹与在先的轨迹预测结果是否匹配;
当不匹配时,通过所述移动装置将所述轨迹预测结果和/或对应的时空同步信息,确定为用于推理能力训练的数据进行采集。
在本实施方式中,轨迹预测模型对地图上某段距离进行推理,轨迹预测模型对目标在未来某一时间段的预测轨迹为图中虚线,而当该时间段经过后,基于多传感器(视觉传感器、激光雷达、毫米波雷达等)的融合结果显示目标的真实轨迹是图中的实线,将图中的实线作为期望值,根据图9可知,轨迹预测模型的推理结果与期望值不够匹配(实线与虚线的重叠度较低),这种情况表明轨迹预测模型的推理结果出现异常,有可能是轨迹预测模型对过去一段时间内目标行为的学习效果(推理)不够好,还需要训练车端轨迹预测模型对这些目标行为的适应能力,因此需要将此时的推理结果及其时空同步信息作为对模型性能提升有价值的数据进行采集,用于后续的模型训练。
(2)对所述轨迹预测结果进行一致性检验包括:
利用基于图像和/或激光点云和/或毫米波点云的轨迹预测模型的多个推理结果,与所述轨迹预测结果进行一致性检验;
若一致性检验不通过,通过所述移动装置将所述轨迹预测结果和/或对应的时空同步信息,确定为用于推理能力训练的数据进行采集。
在本实施方式中,对基于不同算法逻辑得到的轨迹预测结果进行一致性检验,检验结果未达到预定的一致性下限。
基于地图进行的轨迹预测结果显示障碍物未来轨迹为左转轨迹,而基于图像、激光点云和毫米波点云进行的轨迹预测结果均显示障碍物未来轨迹为右转轨迹(或静止或直行轨迹),对这四种算法逻辑得到的结果进行一致性检验,检验结果为四者的一致性并不好(基于地图的是左转轨迹,基于图像、激光点云和毫米波雷达的是其他行为模式的轨迹),没有达到预定的一致性下限(例如要求四者必须完全一致),这种情况有可能是基于地图的轨迹预测模型的推理结果不够准确,也可能是基于图像和/或激光点云和/或毫米波点云的轨迹预测模型的推理结果不够准确,这说明这四类算法逻辑的轨迹预测模型中,至少有一种轨迹预测模型对当前场景的推理效果不够好,需要提升该轨迹预测模型在当前场景中的推理能力,因此需要将此时的推理结果及其时空同步信息作为对车端轨迹预测模型性能提升有价值的数据进行采集,用于后续的模型训练。
4、当训练的目的为保持轨迹预测模型在应对推理效果达到预定要求的场景时的推理能力时,利用移动装置采集模块对轨迹预测结果进行稳定性测验,包括:
判断所述轨迹预测模型的轨迹预测结果是否达到预设期望;
对所述轨迹预测结果进行一致性检验。
在本实施方式中,模型稳定性优先的目的是为了让轨迹预测模型在自身推理效果非常好的场景中持续优良表现
具体的,以下两种情况下,均表明车端轨迹预测模型的推理效果非常好,需要继续保持这种推理能力:
(1)判断所述轨迹预测模型的轨迹预测结果是否达到预设期望包括:
基于传感器获得所述移动装置在后的真实轨迹;
判断所述在后的真实轨迹与在先的轨迹预测结果是否匹配;
当匹配时,通过所述移动装置将所述轨迹预测结果和/或对应的时空同步信息,确定为用于推理能力训练的数据进行采集。
在本实施方式中,轨迹预测结果与期望值相匹配,且匹配度达到预定的匹配阈值。这种情况需要令场景库中涵盖更多模型推理效果非常好的场景,例如,轨迹预测模型对具有地图信息的某路口场景进行推理,其轨迹预测结果为所有障碍物右转且轨迹线沿着左右车道的中心线,而根据高精地图的记载,该路口为右转车道,若将高精地图的记载作为期望值,则轨迹预测模型的推理结果与期望值的匹配度达到了较好的水平(例如达到了预定的匹配阈值),这说明轨迹预测模型对当前场景的推理结果非常好,需要轨迹预测模型继续保持这种良好的推理能力,因此也需要将此时的轨迹预测结果及其时空同步信息作为对车端轨迹预测模型性能提升有价值的数据进行采集,用于后续的模型训练。
(2)对所述轨迹预测结果进行一致性检验包括:
利用基于图像和/或激光点云和/或毫米波点云的轨迹预测模型的多个推理结果,与所述轨迹预测结果进行一致性检验;
若一致性检验通过,通过所述移动装置将所述轨迹预测结果和/或对应的时空同步信息,确定为用于推理能力训练的数据进行采集。
在本实施方式中,对基于不同算法逻辑得到的轨迹预测结果进行一致性检验,检验结果达到预定的一致性上限。基于地图(例如,高精度地图)进行的轨迹预测结果、基于图像进行的轨迹预测结果、基于激光点云进行的轨迹预测结果、基于毫米波点云进行的轨迹预测结果均显示障碍物未来轨迹为左转轨迹,对这四种算法逻辑得到的结果进行一致性检验,轨迹预测显示四者完全一致(左转轨迹),达到了预定的一致性上限,这种情况就表明基于这四类算法逻辑的轨迹预测模型的推理效果很好,需要轨迹预测继续保持这种良好的推理能力,因此也需要将此时的推理结果及其时空同步信息作为对轨迹预测模型性能提升有价值的数据进行采集,用于后续的模型训练。
总的来说,云端利用其强大的计算能力和数据存储能力,实时地、自动地完成标注数据集生成、模型训练、模型迭代等一系列操作,准确的提取出数据中对性能提升有价值的数据;这种移动装置和云端训练的模式充分发挥了云端的资源优势,提高了自动驾驶车端轨迹预测模型迭代的效率。同时针对不同的训练目的,可以有针对性的对模型训练到对应的效果,使训练效果可控。
图11为本申请实施例提供的一种车辆计算系统V-150的结构示意图。
如图11所示,车辆计算系统V-150包括处理器E-100,处理器E-100和系统总线E-000耦合。处理器E-100可以是任何传统处理器,包括精简指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器或上述的组合。可选的,处理器E-100可以是诸如专用集成电路(ASIC)的专用装置。处理器E-100可以是一个或者多个处理器,其中,每个处理器都可以包括一个或多个处理器核。
系统内存E-900和系统总线E-000耦合。运行在系统内存E-900的数据可以包括车辆计算系统V-150的操作系统E-901和应用程序E-904。
操作系统E-901包括壳(Shell)E-902和内核(kernel)E-903。壳E-902是介于用户和操作系统之内核E-903间的一种接口,是操作系统最外面的一层。壳E-902管理用户与操作系统之间的交互,等待用户的输入,向操作系统解释使用者的输入,并且处理各种各样的操作系统的输出结果。
内核E-903由操作系统E-901中用于管理存储器、文件、外设和系统资源的那些部分组成。直接与硬件交互,操作系统内核通常运行进程,并提供进程间的通信,提供CPU时间片管理、中断、内存管理、I/O管理等等。
应用程序E-904包括自动驾驶相关程序E-905,例如管理自动驾驶车辆100和路上障碍物交互的程序,控制自动驾驶装置的行车路线或者速度的程序,控制自动驾驶车辆100和路上其他自动驾驶装置交互的程序。应用程序E-904也存在于软件部署服务器的系统上。当需要执行应用程序E-904时,车辆计算系统V-150可以从软件部署服务器下载应用程序E-904。
系统总线E-000通过总线桥E-200和I/O总线E-300耦合。I/O总线E-300与I/O接口E-400耦合。I/O接口E-400连接有USB接口E-500和多种I/O设备进行通信,这些I/O设备例如是输入设备、媒体盘、收发器、摄像头、传感器等。其中,输入设备例如是键盘、鼠标、触摸屏等;媒体盘例如是CD-ROM、多媒体接口等;收发器用于发送和/或接收无线电通信信号;摄像头用于捕捉静态和动态数字视频图像;传感器用于探测车辆计算系统V-150周围的环境,并将所感测的信息提供给车辆计算系统V-150。
硬盘驱动器E-800通过硬盘驱动器接口和系统总线E-000耦合。
显示适配器E-700与系统总线E-000耦合,用以驱动显示器。
车辆计算系统V-150可以通过网络接口E-600和软件部署服务器通信。网络接口E-600是硬件网络接口,例如网卡。网络可以是外部网络,例如因特网,也可以是内部网络,例如以太网或者虚拟私人网络(VPN),还可以是无线网络,例如Wi-Fi网络,蜂窝网络等。
车辆计算系统V-150可以包括车载执行设备,该车载执行设备可以包括一个或多个第一处理器、一个或多个第一存储器、以及存储在第一存储器上并可在第一处理器上运行的计算机指令。当第一处理器在运行第一存储器中的计算机指令时,执行本申请提供的各种实施例中车载执行设备对应的功能。其中,第一处理器可以被配置为处理器V-151中的一个或多个通用处理器(例如CPU、GPU),一个或多个专用处理器(例如ASIC),一个或多个现场可编程门阵列(FPGA),一个或多个数字信号处理器(DSP),一个或多个集成电路,和/或,一个或多个微控制器等。第一存储器可以被配置为数据存储装置V-152中的一个或多个只读存储器(ROM),一个或多个随机存取存储器(RAM),一个或多个闪速存储器,一个或多个电可编程存储器(EPROM),一个或多个电可编程和可擦除存储器(EEPROM),一个或多个嵌入式多媒体卡(eMMC),和/或,一个或多个硬盘驱动器等。车载执行设备对应的功能可以实现为一种计算机程序产品,当该计算机程序产品在计算机上运行时,实现车载执行设备对应的功能。
图12所示为自动驾驶车辆(移动装置以车辆为例)和车载执行设备的一种可能的示例,如图12所示,该自动驾驶车辆中配置有车载执行设备,该车载执行设备包括第一处理器,第一存储器,以及存储在第一存储器上并可在第一处理器上运行的计算机指令。当第一处理器在运行第一存储器中的计算机指令时,执行如下步骤对应的方法:S121,通过车端轨迹预测模型推理得到轨迹预测结果;S122,根据轨迹预测结果,采集对车端轨迹预测模型性能提升有价值的数据;S123,将正在使用的车端轨迹预测模型迭代为训练后的车端轨迹预测模块。
基于相同的发明思想,本申请实施例还提供一种云端执行设备,图13所示,云端执行设备可以包括一个或多个第二处理器、一个或多个第二存储器、以及存储在第二存储器上并可在第二处理器上运行的计算机指令。当第二处理器在运行第二存储器中的计算机指令时,执行本申请提供的各种实施例中云端执行设备对应的功能。其中,第二处理器可以被配置为一个或多个通用处理器(例如CPU、GPU),一个或多个专用处理器(例如ASIC),一个或多个现场可编程门阵列(FPGA),一个或多个数字信号处理器(DSP),一个或多个集成电路,和/或,一个或多个微控制器等。第二存储器可以被配置为一个或多个只读存储器(ROM),一个或多个随机存取存储器(RAM),一个或多个闪速存储器,一个或多个电可编程存储器(EPROM),一个或多个电可编程和可擦除存储器(EEPROM),一个或多个嵌入式多媒体卡(eMMC),和/或,一个或多个硬盘驱动器等。云端执行设备对应的功能可以实现为一种计算机程序产品,当该计算机程序产品在计算机上运行时,实现云端执行设备对应的功能。
图13所示为云端执行设备的一种可能的示例,包括第二处理器,第二存储器,以及存储在第二存储器上并可在第二处理器上运行的计算机指令。当第二处理器在运行第二存储器中的计算机指令时,执行如下步骤对应的方法:S131,采集对车端模型(也就是轨迹预测模型)性能提升有价值的数据;S132,对所述对车端模型性能提升有价值的数据进行优化,并利用优化结果训练车端模型;S133,将车载执行设备正在使用的车端模型迭代为训练后的车端模型。通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
如图14所示为本发明一实施例提供的一种云端执行设备的结构示意图,该系统可执行上述任意实施例所述的轨迹预测模型的自动化迭代方法,并配置在终端中。
本实施例提供的一种云端执行设备10包括:云端数据采集模块11,轨迹样本自动标注模块12、轨迹预测模型训练模块13和轨迹预测模型迭代模块14。其中,云端数据采集模块11用于接收移动装置的轨迹预测模型确定的预测场景数据,将所述预测场景数据存储至云端场景库中;轨迹样本自动标注模块12包括数据分流层、数据驱动层、数据优化层,其中,所述数据分流层用于:对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;所述数据驱动层用于:分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;所述数据优化层用于:对所述带有标记的轨迹预测训练样本进行过滤,得到平滑的轨迹预测训练样本;轨迹预测模型训练模块13用于基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;轨迹预测模型迭代模块14用于将训练后的轨迹预测模型的参数下发至所述移动装置进行所述移动装置的轨迹预测模型的更新迭代。
本发明实施例还提供了一种非易失性计算机存储介质,计算机存储介质存储有计算机可执行指令,该计算机可执行指令可执行上述任意方法实施例中的轨迹预测模型的自动化迭代方法;
作为一种实施方式,本发明的非易失性计算机存储介质存储有计算机可执行指令,计算机可执行指令设置为:
接收移动装置的轨迹预测模型确定的预测场景数据;
将所述预测场景数据存储至云端场景库中,并对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;
分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;
基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;
将训练后的轨迹预测模型的参数下发至所述移动装置进行所述移动装置的轨迹预测模型的更新迭代。
如图15所示为本发明一实施例提供的一种移动装置端执行设备的结构示意图,该系统可执行上述任意实施例所述的轨迹预测模型的自动化迭代方法,并配置在终端中。
本实施例提供的一种移动装置端执行设备20包括:异常触发模块21,移动装置采集模块22和移动装置计算模块23。
其中,异常触发模块21用于当满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的;移动装置采集模块22用于根据所述训练目的,采集传感器数据;移动装置计算模块23用于将采集传感器数据输入至轨迹预测模型,得到轨迹预测结果,基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据,将所述预测场景数据发送至云端,待接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
本发明实施例还提供了一种非易失性计算机存储介质,计算机存储介质存储有计算机可执行指令,该计算机可执行指令可执行上述任意方法实施例中的轨迹预测模型的自动化迭代方法;
作为一种实施方式,本发明的非易失性计算机存储介质存储有计算机可执行指令,计算机可执行指令设置为:
当满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的;
根据所述训练目的,采集传感器数据输入至轨迹预测模型,得到轨迹预测结果;
基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据;
将所述预测场景数据发送至云端,待接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本发明实施例中的方法对应的程序指令/模块。一个或者多个程序指令存储在非易失性计算机可读存储介质中,当被处理器执行时,执行上述任意方法实施例中的轨迹预测模型的自动化迭代方法。
本发明实施例还提供一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行应用于移动装置的轨迹预测模型的自动化迭代方法。
在一些实施例中,本发明实施例还提供一种移动装置,包括本体和所述本体上安装的根据前述任一实施例所述的电子设备。其中,移动装置可以是无人驾驶车辆,例如无人驾驶清扫车、无人驾驶洗地车、无人驾驶物流车、无人驾驶乘用车、无人驾驶环卫车、无人驾驶小巴车/大巴车、卡车、矿车等,还可以是机器人等。
在一些实施例中,本发明实施例还提供一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行本发明实施例中任意一项所述的应用于移动装置的轨迹预测模型的自动化迭代方法。
图16是本申请另一实施例提供的轨迹预测模型的自动化迭代方法的电子设备的硬件结构示意图,如图16所示,该设备包括:
一个或多个处理器1610以及存储器1620,图16中以一个处理器1610为例。轨迹预测模型的自动化迭代方法的设备还可以包括:输入装置1630和输出装置1640。
处理器1610、存储器1620、输入装置1630和输出装置1640可以通过总线或者其他方式连接,图16中以通过总线连接为例。
存储器1620作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本申请实施例中的轨迹预测模型的自动化迭代方法对应的程序指令/模块。处理器1610通过运行存储在存储器1620中的非易失性软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例轨迹预测模型的自动化迭代方法。
存储器1620可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储数据等。此外,存储器1620可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器1620可选包括相对于处理器1610远程设置的存储器,这些远程存储器可以通过网络连接至移动装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置1630可接收输入的数字或字符信息。输出装置1640可包括显示屏等显示设备。
所述一个或者多个模块存储在所述存储器1620中,当被所述一个或者多个处理器1610执行时,执行上述任意方法实施例中的轨迹预测模型的自动化迭代方法。
上述产品可执行本申请实施例所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本申请实施例所提供的方法。
非易失性计算机可读存储介质可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据装置的使用所创建的数据等。此外,非易失性计算机可读存储介质可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,非易失性计算机可读存储介质可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本发明实施例还提供一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例的轨迹预测模型的自动化迭代方法的步骤。
本申请实施例的电子设备以多种形式存在,包括但不限于:
(1)移动通信设备:这类设备的特点是具备移动通信功能,并且以提供话音、数据通信为主要目标。这类终端包括:智能手机、多媒体手机、功能性手机,以及低端手机等。
(2)超移动个人计算机设备:这类设备属于个人计算机的范畴,有计算和处理功能,一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等,例如平板电脑。
(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器,掌上游戏机,电子书,以及智能玩具和便携式车载导航设备。
(4)其他具有数据处理功能的移动装置。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”,不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (33)

1.一种轨迹预测模型的自动化迭代方法,应用于云端,包括:
接收移动装置的轨迹预测模型确定的预测场景数据;
将所述预测场景数据存储至云端场景库中,并对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;
分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;
基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;
将训练后的轨迹预测模型的参数下发至所述移动装置进行所述移动装置的轨迹预测模型的更新迭代。
2.根据权利要求1所述的方法,其特征在于,所述预测场景数据由轨迹预测模型输出的带有场景标志位的轨迹预测结果确定;
所述对所述云端场景库中的所有场景数据进行数据分流包括:
利用所述场景标志位对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据。
3.根据权利要求1所述的方法,其特征在于,所述感知标注方式包括:融合感知、多目标跟踪、检测跟踪一体化、预训练模型调优,以利用所述感知标注方式中的任一种进行感知标注。
4.根据权利要求1所述的方法,其特征在于,所述基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型包括:
对所述带有标记的轨迹预测训练样本进行过滤,得到平滑的轨迹预测训练样本,以进行所述轨迹预测模型的训练。
5.根据权利要求4所述的方法,其特征在于,所述过滤的方式包括:曲线拟合过滤和/或速度过滤和/或行为过滤和/或高阶导数过滤。
6.根据权利要求2所述的方法,其特征在于,所述将所述预测场景数据存储至云端场景库中包括:
将所述预测场景数据的类别与所述云端场景库进行比对,当所述云端场景库中缺少所述类别时,或所述云端场景库中所述类别下的数据量未达到预设阈值时,将所述预测场景数据存储至所述云端场景库中。
7.根据权利要求1所述的方法,其特征在于,所述将训练后的轨迹预测模型的参数下发至所述移动装置进行所述移动装置的轨迹预测模型的更新迭代包括:
对训练后的轨迹预测模型进行测试,若测试结果达到训练目的的迭代要求时,将所述训练后的轨迹预测模型的参数下发至移动装置进行迭代。
8.根据权利要求1所述的方法,其特征在于,所述接收移动装置的轨迹预测模型确定的预测场景数据包括:
云端的云端数据采集模块接收到所述移动装置的移动装置采集模块发送的预测场景数据的编码;
利用云端场景库中对应的场景编码库,判断是否存储有所述预测场景数据的编码;
若所述场景编码库没有存储所述编码时,所述云端数据采集模块向所述移动装置采集模块下发采集命令,接收移动装置采集模块基于所述采集命令上传的预测场景数据。
9.根据权利要求1所述的方法,其特征在于,所述接收移动装置的轨迹预测模型确定的预测场景数据包括:
云端数据采集模块接收所述移动装置采集模块发送的用于长尾场景训练的不属于预设常规场景的轨迹预测结果。
10.一种轨迹预测模型的自动化迭代方法,应用于移动装置,包括:
当满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的;
根据所述训练目的,采集传感器数据输入至轨迹预测模型,得到轨迹预测结果;
基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据;
将所述预测场景数据发送至云端,待接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
11.根据权利要求10所述的方法,其特征在于,当所述训练目的为补充丰富轨迹预测模型涵盖的场景时,所述方法包括:
移动装置的移动装置采集模块采集各场景类型的数据,将利用所述各场景类型的数据生成的预测场景数据发送至云端的云端数据采集模块;
当所述云端数据采集模块确定所述云端场景库中缺少所述预测场景数据对应的类别,或所述云端场景库中所述预测场景数据对应类别下的数据量未达到预设阈值时,云端数据采集模块接收所述移动装置采集模块发送的预测场景数据,确定为用于补充丰富轨迹预测模型涵盖的场景的数据进行采集。
12.根据权利要求11所述的方法,其特征在于,所述预测场景数据中的场景包括:移动装置自身要素和环境要素;
所述移动装置自身要素的类别包括:包含重量、几何信息、性能信息的基础属性,包含坐标信息、道路位置的位置信息,包含横向、纵向的运动状态信息,包含感知识别、路径规划、人机交互、联网通信的驾驶任务信息;
所述环境要素的类别包括:包含障碍物、环境景观、交通设施、道路的静态环境,包含动态指示设施、通信环境信息的动态环境,包含其他移动装置、行人、动物的交通参与者,包含温度、湿度、光照条件、天气情况的气象信息。
13.根据权利要求11所述的方法,其特征在于,当所述训练目的为补充丰富轨迹预测模型涵盖的场景时,所述方法还包括:
移动装置的移动装置采集模块采集各场景类型的数据,将利用所述各场景类型的数据生成的预测场景数据的编码发送至云端的云端数据采集模块;
所述移动装置采集模块接收到云端数据采集模块下发的采集命令之后,将所述预测场景数据发送至云端数据采集模块。
14.根据权利要求10所述的方法,其特征在于,当所述训练目的为令车端轨迹预测模型涵盖长尾场景时,所述方法包括:
移动装置采集模块将监测到的不属于预设常规场景的轨迹预测结果确定为用于涵盖长尾场景的数据,将所述不属于预设常规场景的轨迹预测结果发送至云端数据采集模块。
15.根据权利要求10所述的方法,其特征在于,当所述训练目的为提升轨迹预测模型在应对推理效果未达到预定要求的场景时的推理能力时,利用移动装置采集模块对轨迹预测模型进行推理能力检验,包括:
判断所述轨迹预测模型的轨迹预测结果是否达到预设期望;
对所述轨迹预测结果进行一致性检验。
16.根据权利要求15所述的方法,其特征在于,所述判断所述轨迹预测模型的轨迹预测结果是否达到预设期望包括:
基于移动装置搭载的传感器获得所述移动装置在后时刻的真实轨迹;
判断所述在后时刻的真实轨迹与在先时刻的轨迹预测结果是否匹配;
当不匹配时,移动装置采集模块将所述在先时刻的轨迹预测结果确定为用于推理能力的训练数据发送至云端数据采集模块。
17.根据权利要求15所述的方法,其特征在于,所述对所述轨迹预测结果进行一致性检验包括:
利用基于图像和/或激光点云和/或毫米波点云的轨迹预测模型的多个推理结果,与所述轨迹预测结果进行一致性检验;
若一致性检验不通过,移动装置采集模块将所述轨迹预测结果确定为用于推理能力的训练数据发送至云端数据采集模块。
18.根据权利要求10所述的方法,其特征在于,当训练的目的为保持轨迹预测模型在应对推理效果达到预定要求的场景时的推理能力时,利用移动装置采集模块对对轨迹预测结果进行稳定性测验,包括:
判断所述轨迹预测模型的轨迹预测结果是否达到预设期望;
对所述轨迹预测结果进行一致性检验。
19.根据权利要求18所述的方法,其特征在于,所述判断所述轨迹预测模型的轨迹预测结果是否达到预设期望包括:
基于移动装置搭载的传感器获得所述移动装置在后时刻的真实轨迹;
判断所述在后时刻的真实轨迹与在先时刻的轨迹预测结果是否匹配;
当匹配时,移动装置采集模块将所述在先时刻的轨迹预测结果确定为用于推理能力的数据发送至云端数据采集模块。
20.根据权利要求18所述的方法,其特征在于,所述对所述轨迹预测结果进行一致性检验包括:
利用基于图像和/或激光点云和/或毫米波点云的轨迹预测模型的多个推理结果,与所述轨迹预测结果进行一致性检验;
若一致性检验通过,移动装置采集模块将所述轨迹预测结果确定为用于推理能力的数据发送至云端数据采集模块。
21.根据权利要求10所述的方法,其特征在于,所述根据所述训练目的,采集传感器数据输入至轨迹预测模型,得到轨迹预测结果包括:
预测移动装置每种行为模态下的行为模式;
通过所述行为模式中整个预测时长内每个预测时间点的轨迹横纵向位点确定多条预测轨迹的概率分布;
将最大概率分布的预测轨迹确定为轨迹预测结果。
22.根据权利要求10所述的方法,其特征在于,所述异常触发条件包括以下一种或多种:
移动装置识别到行驶过程中采集的地图中包含预定场景时触发;
移动装置检测到行驶过程中的状态为预定状态数据时触发;
移动装置基于采集的地图数据预测到障碍物属于预定情况时触发。
23.根据权利要求22所述的方法,其特征在于,
所述预定场景包括:路口、环道、多发事故地中的一种或多种;
所述预定状态数据包括:急加速、急刹车、急转弯中的一种或多种;
所述障碍物属于预定情况包括:障碍物的预测轨迹超出不可通行区域。
24.根据权利要求10所述的方法,其特征在于,所述时空同步信息包括以下一种或多种:与所述轨迹预测结果在时间和空间存在同步关系的环境数据、地图数据、移动装置状态数据、驾驶员操作数据。
25.一种轨迹预测模型的自动化迭代方法,包括:
当移动装置满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的,根据所述训练目的,采集传感器数据输入至轨迹预测模型,得到轨迹预测结果;
基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据;
将所述预测场景数据发送至云端;
云端接收所述移动装置的轨迹预测模型确定的预测场景数据;
云端将所述预测场景数据存储至云端场景库中,并对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;
云端分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;
云端基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;
云端将训练后的轨迹预测模型的参数下发至所述移动装置;
移动装置接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
26.一种云端执行设备,包括:
云端数据采集模块,用于接收移动装置的轨迹预测模型确定的预测场景数据,将所述预测场景数据存储至云端场景库中;
轨迹样本自动标注模块,包括数据分流层、数据驱动层、数据优化层,其中,所述数据分流层用于:对所述云端场景库中的所有场景数据进行数据分流,区分正常场景数据和异常场景数据;
所述数据驱动层用于:分别对所述正常场景数据和所述异常场景数据进行感知标注,得到带有标记的轨迹预测训练样本;
所述数据优化层用于:对所述带有标记的轨迹预测训练样本进行过滤,得到平滑的轨迹预测训练样本;
轨迹预测模型训练模块,用于基于所述带有标记的轨迹预测训练样本,在云端训练所述轨迹预测模型;
轨迹预测模型迭代模块,用于将训练后的轨迹预测模型的参数下发至所述移动装置进行所述移动装置的轨迹预测模型的更新迭代。
27.一种移动装置执行设备,包括:
异常触发模块,用于当满足预设异常触发条件时,确定移动装置的轨迹预测模型所需的训练目的;
移动装置采集模块,用于根据所述训练目的,采集传感器数据;
移动装置计算模块,用于将采集传感器数据输入至轨迹预测模型,得到轨迹预测结果,基于所述轨迹预测结果与所述轨迹预测结果相关的时空同步信息,构建反映所述移动装置所处的预测场景数据,将所述预测场景数据发送至云端,待接收到所述云端反馈的轨迹预测模型的参数后进行轨迹预测模型的更新迭代。
28.一种电子设备,包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-9中任一项所述方法的步骤。
29.一种移动装置,包括本体以及安装在所述本体上的根据权利要求26所述的电子设备。
30.一种存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-9中任一项所述方法的步骤。
31.一种电子设备,包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求10-24中任一项所述方法的步骤。
32.一种移动装置,包括本体以及安装在所述本体上的根据权利要求31所述的电子设备。
33.一种存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求10-24中任一项所述方法的步骤。
CN202210425710.3A 2022-04-21 2022-04-21 轨迹预测模型的自动化迭代方法、电子设备和存储介质 Pending CN114880842A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210425710.3A CN114880842A (zh) 2022-04-21 2022-04-21 轨迹预测模型的自动化迭代方法、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210425710.3A CN114880842A (zh) 2022-04-21 2022-04-21 轨迹预测模型的自动化迭代方法、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN114880842A true CN114880842A (zh) 2022-08-09

Family

ID=82672554

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210425710.3A Pending CN114880842A (zh) 2022-04-21 2022-04-21 轨迹预测模型的自动化迭代方法、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN114880842A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115170840A (zh) * 2022-09-08 2022-10-11 阿里巴巴(中国)有限公司 数据处理系统、方法和电子设备
CN115601393A (zh) * 2022-09-29 2023-01-13 清华大学(Cn) 轨迹生成方法、装置、设备和存储介质
CN116560377A (zh) * 2023-05-31 2023-08-08 北京百度网讯科技有限公司 用于预测位置轨迹的自动驾驶模型及其训练方法
CN116665025A (zh) * 2023-07-31 2023-08-29 福思(杭州)智能科技有限公司 数据闭环方法和系统
CN117592787A (zh) * 2024-01-16 2024-02-23 交通运输部水运科学研究所 海上船舶安全风险预测方法、电子设备
CN117994427A (zh) * 2024-01-24 2024-05-07 武汉博润通文化科技股份有限公司 一种图像数据处理方法及系统

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115170840A (zh) * 2022-09-08 2022-10-11 阿里巴巴(中国)有限公司 数据处理系统、方法和电子设备
CN115170840B (zh) * 2022-09-08 2022-12-23 阿里巴巴(中国)有限公司 数据处理系统、方法和电子设备
CN115601393A (zh) * 2022-09-29 2023-01-13 清华大学(Cn) 轨迹生成方法、装置、设备和存储介质
CN115601393B (zh) * 2022-09-29 2024-05-07 清华大学 轨迹生成方法、装置、设备和存储介质
CN116560377A (zh) * 2023-05-31 2023-08-08 北京百度网讯科技有限公司 用于预测位置轨迹的自动驾驶模型及其训练方法
CN116665025A (zh) * 2023-07-31 2023-08-29 福思(杭州)智能科技有限公司 数据闭环方法和系统
CN116665025B (zh) * 2023-07-31 2023-11-14 福思(杭州)智能科技有限公司 数据闭环方法和系统
CN117592787A (zh) * 2024-01-16 2024-02-23 交通运输部水运科学研究所 海上船舶安全风险预测方法、电子设备
CN117592787B (zh) * 2024-01-16 2024-04-02 交通运输部水运科学研究所 海上船舶安全风险预测方法、电子设备
CN117994427A (zh) * 2024-01-24 2024-05-07 武汉博润通文化科技股份有限公司 一种图像数据处理方法及系统

Similar Documents

Publication Publication Date Title
CN114880842A (zh) 轨迹预测模型的自动化迭代方法、电子设备和存储介质
US11554785B2 (en) Driving scenario machine learning network and driving environment simulation
CN112789619B (zh) 一种仿真场景的构建方法、仿真方法以及设备
CN113962141A (zh) 一种目标检测模型自动化迭代方法、设备及存储介质
CN113168708B (zh) 车道线跟踪方法和装置
CN113792566B (zh) 一种激光点云的处理方法及相关设备
WO2023045936A1 (zh) 一种模型自动化迭代方法、设备及存储介质
CN113128303A (zh) 一种自动驾驶方法、相关设备及计算机可读存储介质
CN112106124A (zh) 用于使用v2x和传感器数据的系统和方法
US20220198107A1 (en) Simulations for evaluating driving behaviors of autonomous vehicles
WO2022087751A1 (en) Method and system for graph neural network based pedestrian action prediction in autonomous driving systems
CN115031981A (zh) 一种车辆、传感器的仿真方法及装置
US20220197280A1 (en) Systems and Methods for Error Sourcing in Autonomous Vehicle Simulation
US11975742B2 (en) Trajectory consistency measurement for autonomous vehicle operation
US11645832B1 (en) Sensor fusion for precipitation detection and control of vehicles
US20230056589A1 (en) Systems and methods for generating multilevel occupancy and occlusion grids for controlling navigation of vehicles
CN117836184A (zh) 用于自主车辆的互补控制系统
CN112912810A (zh) 控制方法和装置
CN115635961A (zh) 样本数据生成方法及应用其的轨迹预测方法、装置
CN116901875A (zh) 感知融合系统、车辆及控制方法
CN109308806A (zh) 一种交通工具的行驶检测方法及服务器
CN114813157A (zh) 一种测试场景构建方法及装置
US11886202B2 (en) Method and system for switching between local and remote guidance instructions for autonomous vehicles
US20230256994A1 (en) Assessing relative autonomous vehicle performance via evaluation of other road users
CN117730289A (zh) 测试方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Room 101-901, 8th Floor, Building 4, Zone 3, No. 22, Jinghai 4th Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing 100176 (Yizhuang Cluster, High end Industrial Zone, Beijing Pilot Free Trade Zone)

Applicant after: Beijing Idriverplus Technology Co.,Ltd.

Address before: 100176 room 2602, 22 / F, building 4, yard 8, Wenhua Park West Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant before: Beijing Idriverplus Technology Co.,Ltd.