CN114194213A - 一种目标物轨迹预测方法、装置、存储介质及电子设备 - Google Patents
一种目标物轨迹预测方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN114194213A CN114194213A CN202111633483.5A CN202111633483A CN114194213A CN 114194213 A CN114194213 A CN 114194213A CN 202111633483 A CN202111633483 A CN 202111633483A CN 114194213 A CN114194213 A CN 114194213A
- Authority
- CN
- China
- Prior art keywords
- obstacle
- target object
- node
- target
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000003860 storage Methods 0.000 title claims abstract description 21
- 238000013528 artificial neural network Methods 0.000 claims abstract description 58
- 238000012545 processing Methods 0.000 claims abstract description 35
- 230000007613 environmental effect Effects 0.000 claims description 34
- 238000004590 computer program Methods 0.000 claims description 16
- 230000004888 barrier function Effects 0.000 claims description 15
- 230000004931 aggregating effect Effects 0.000 claims description 14
- 238000012549 training Methods 0.000 claims description 12
- 238000003062 neural network model Methods 0.000 claims description 8
- 230000002776 aggregation Effects 0.000 claims description 3
- 238000004220 aggregation Methods 0.000 claims description 3
- 230000001902 propagating effect Effects 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 16
- 230000033001 locomotion Effects 0.000 abstract description 11
- 239000013598 vector Substances 0.000 description 21
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 10
- 230000003993 interaction Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 230000006872 improvement Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000644 propagated effect Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000002457 bidirectional effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000012163 sequencing technique Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0011—Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
- B60W60/00274—Planning or execution of driving tasks using trajectory prediction for other traffic participants considering possible movement changes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
- B60W60/00276—Planning or execution of driving tasks using trajectory prediction for other traffic participants for two or more other traffic participants
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W2050/0001—Details of the control system
- B60W2050/0019—Control system elements or transfer functions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/40—Dynamic objects, e.g. animals, windblown objects
- B60W2554/404—Characteristics
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
Abstract
本说明书公开了一种目标物轨迹预测方法、装置、存储介质及电子设备,确定需要预测轨迹的目标物以及各障碍物,根据目标物与各障碍物的历史动态信息,确定目标物特征以及各障碍物特征,并将目标物特征以及各障碍物特征输入图神经网络中的有向图的各节点中,通过各节点之间的权重,对各节点的特征进行聚合,将聚合后的目标节点输入图神经网络的处理层,得到目标物的未来轨迹。本方法使用包含有向图的图神经网络对目标物的未来轨迹进行预测,在使用图神经网络的过程中,通过图神经网络中的有向图对目标物的特征以及各障碍物的特征进行聚合,即考虑了目标物自身的历史运动信息,还考虑到了各障碍物的历史运动信息,提高了预测目标物未来轨迹的准确性。
Description
技术领域
本说明书涉及无人驾驶技术领域,尤其涉及一种目标物轨迹预测方法、装置、存储介质及电子设备。
背景技术
随着科技的发展,无人驾驶技术逐渐兴起。在无人驾驶设备行驶的过程中,为了保证无人驾驶设备的安全,搭载在无人驾驶设备上的无人驾驶系统会实时感知无人驾驶设备周围的障碍物,并控制无人驾驶设备躲避障碍物。
无人驾驶设备所行驶的路径中通常包含路口场景,路口场景中既包含静态障碍物,例如,交通标志牌,还包含动态障碍物,例如,机动车、非机动车、行人。由于路口的交通状况较为复杂,为了提高无人驾驶设备在行驶时的安全性,在现有技术中,针对每个动态障碍物,无人驾驶系统会根据该动态障碍物的历史轨迹,预测该动态障碍物的未来轨迹。
但是,处于路口中的动态障碍物的运动轨迹具有与其他动态障碍物的运动轨迹频繁交互的特点,各态障碍物的未来轨迹均会受到其他动态障碍物的影响,尤其是行人和非机动车,与严格按照车道线行驶的机动车相比,行人与非机动车可运动的轨迹更加多元化,且其运动轨迹更容易受到其他动态障碍物的影响,因此,仅根据动态障碍物自身的历史轨迹预测该动态障碍物的未来轨迹是不准确的。
发明内容
本说明书提供一种目标物轨迹预测方法及装置,以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供了一种目标物轨迹预测方法,包括:
确定目标物以及各障碍物;
获取在预设时长内的所述目标物的历史动态信息以及各障碍物的历史动态信息;
根据所述目标物的历史动态信息,确定目标物特征;并,针对每个障碍物,根据该障碍物的历史动态信息,确定该障碍物特征;
以所述目标物作为目标节点,将所述目标物特征作为所述目标节点对应的特征;并,针对每个障碍物,以该障碍物作为障碍物节点,将该障碍物特征作为该障碍物节点对应的特征;
将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合;
将聚合后的目标节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的未来轨迹。
可选地,将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中之前,所述方法还包括:
获取所述目标物周围的环境信息,并根据所述环境信息,确定环境特征;
以所述环境作为所述有向图中的环境节点,将所述环境特征作为所述环境节点对应的特征;
将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,具体包括:
将所述目标物特征输入至预先训练的图神经网络所包含的有向图中的目标节点;并,将各障碍物特征输入至所述有向图中的各障碍物节点;并,将所述环境特征输入至所述有向图中的环境节点。
可选地,确定目标物以及各障碍物,具体包括:
确定所述目标物,并根据各障碍物与所述目标物之间的距离,确定指定数量的障碍物;
将各障碍物特征输入至所述有向图中的各障碍物节点,具体包括:
针对每个障碍物,根据该障碍物与所述目标物之间的距离以及预设规则,将该障碍物特征输入至障碍物节点。
可选地,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合,具体包括:
针对每个障碍物节点,根据在所述有向图中该障碍物节点与所述目标节点之间的权重,将该障碍物特征传播至所述目标节点;
将所述目标物特征以及通过传播所获得的各障碍物特征进行聚合,得到聚合后的所述目标节点对应的特征。
可选地,预先训练图神经网络模型,具体包括:
预先确定样本目标物以及各样本障碍物;
获取所述样本目标物的真实轨迹,并将所述样本目标物的真实轨迹在所述预设时长内的轨迹,作为所述样本目标物的初始轨迹,将在所述初始轨迹之后的所述样本目标物的真实轨迹所包含的至少部分轨迹,作为标注轨迹,并针对每个样本障碍物,获取该样本障碍物的真实轨迹;
根据所述样本目标物的初始轨迹,确定所述样本目标物的特征信息,作为目标特征样本;并针对每个样本障碍物,根据该样本障碍物的真实轨迹,确定该样本障碍物的特征信息,作为障碍物特征样本;
以所述样本目标物作为目标节点,将所述目标物特征样本作为所述目标节点对应的特征;并,针对每个样本障碍物,以该样本障碍物作为障碍物节点,将该障碍物特征样本作为该障碍物节点对应的特征;并,根据任意两个节点之间的关联关系建立包含有向图的图神经网络;
基于所述有向图中的各节点之间的权重,将各节点对应的特征进行聚合;
将聚合后的目标物节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的预测轨迹,以所述预测轨迹与所述标注轨迹之间的差异最小为训练目标,调整所述图神经网络中的模型参数,所述模型参数至少包括所述有向图中各节点之间的权重。
可选地,根据任意两个节点之间的关联关系建立包含有向图的图神经网络之前,所述方法还包括:
获取所述目标物周围的历史环境,并根据所述历史环境所包含的环境信息,确定环境特征,作为环境特征样本;
以所述环境作为环境节点,以所述环境特征样本作为所述环境节点对应的特征
将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,具体包括:
将所述环境特征样本输入至所述有向图中的所述环境节点。可选地,所述目标物包括:非机动车。
本说明书提供了一种目标物轨迹预测装置,包括:
特征获取模块,用于确定目标物以及各障碍物;获取在预设时长内的所述目标物的历史动态信息以及各障碍物的历史动态信息;根据所述目标物的历史动态信息,确定目标物特征;并,针对每个障碍物,根据该障碍物的历史动态信息,确定该障碍物特征;
轨迹预测模块,用于以所述目标物作为目标节点,将所述目标物特征作为所述目标节点对应的特征;并,针对每个障碍物,以该障碍物作为障碍物节点,将该障碍物特征作为该障碍物节点对应的特征;将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合;将聚合后的目标节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的未来轨迹。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述目标物轨迹预测方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述目标物轨迹预测方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
在本说明书提供的目标物轨迹预测方法中,确定需要预测轨迹的目标物,以及目标物周围的各障碍物,根据目标物与各障碍物的历史动态信息,确定目标物特征以及各障碍物特征,并将目标物特征以及各障碍物特征输入预先训练的图神经网络中的有向图的各节点中,通过有向图中的各节点之间的权重,对各节点的特征进行聚合,将聚合后的目标节点输入图神经网络的处理层,得到处理层输出的目标物的未来轨迹。
从上述方法中可以看出,本方法使用包含有向图的图神经网络对目标物的未来轨迹进行预测,在使用图神经网络的过程中,通过图神经网络中的有向图对目标物的特征以及各障碍物的特征进行聚合,不仅考虑了目标物自身的历史运动信息,还考虑到了目标物周围的各障碍物的历史运动信息,并且图神经网络是对聚合后的特征进行解码,聚合后的特征能够体现出目标物与各障碍物之间的交互关系,即关联关系,进一步提高了预测目标物未来轨迹的准确性。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书中一种目标物轨迹预测方法的流程示意图;
图2为本说明书提供的图神经网络的结构示意图;
图3为本说明书提供的目标物与各障碍物的位置示意图;
图4为本说明书提供的一种目标物轨迹预测装置的示意图;
图5为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
为了保障无人驾驶设备在行驶时的安全性,无人驾驶系统需要控制无人驾驶设备及时躲避道路上的障碍物,尤其是动态障碍物,例如,机动车、非机动车以及行人。当无人驾驶设备处于路口时,由于交通环境复杂,为了进一步保障无人驾驶设备的安全性,在现有技术中,无人驾驶系统会预测障碍物的未来轨迹,再根据障碍物的未来轨迹规划无人驾驶设备自身的轨迹,以此提高无人驾驶设备的安全性。其中,在现有技术中,对于预测某个动态障碍物的未来轨迹,无人驾驶系统采用的方法是根据该动态障碍物的历史轨迹,预测该动态障碍物的未来轨迹,并且预测出的未来轨迹平行于车道线。但是,对于非机动车、行人来说,这两种类型的动态障碍物,其轨迹更加多元化,并且其轨迹具有与其他动态障碍物的轨迹频繁交互的特点,因此,通过上述方法预测出的动态障碍物未来轨迹并不准确。
在本说明书实施例中,除了根据所要预测的动态障碍物(目标物)的历史信息,提取了目标物的特征,还提取该动态障碍物附近的其他障碍物的特征,并基于图神经网络所包含的有向图,将各个特征进行聚合,最终得到了图神经网络输出的目标物的未来轨迹。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书中一种目标物轨迹预测方法的流程示意图,具体包括以下步骤:
S100:确定目标物以及各障碍物。
本说明书所提供的目标物预测轨迹方法的执行主体可以是搭载在无人驾驶设备上的无人驾驶系统,也可以是能够与搭载在无人驾驶设备上的无人驾驶系统进行信息传输的服务器或可对无人驾驶设备进行控制的终端设备,例如,电脑等,本说明书对此不作限制。本说明书中提到的无人驾驶设备可以是指无人车、机器人、自动配送设备等能够实现自动驾驶的设备。基于此,应用本说明书提供的目标物轨迹预测的方法的无人驾驶设备可以用于执行配送领域的配送任务,如,使用无人驾驶设备进行快递、物流、外卖等配送的业务场景。以下仅以搭载在无人驾驶设备上的无人驾驶系统为执行主体为例。
由上述说明可知,为了使搭载在无人驾驶设备上的无人驾驶系统能够更好的为无人驾驶设备规划出一条避障路径,无人驾驶系统需要对无人驾驶设备周围的动态障碍物的未来轨迹进行预测,因此,无人驾驶系统可确定无人驾驶设备周围的任意一个动态障碍物为目标物,则对于目标物来说,其他物体均为目标物的障碍物。
由上述说明可知,非机动车这种动态障碍物的行驶轨迹较为多元化,因此,本说明书中目标物主要是指非机动车,但目标物也可以是行人或者机动车,本说明书对此不作限制。障碍物包括机动车、非机动车、行人,也可以包括静态障碍物,本说明书对此不作限制。
S102:获取在预设时长内的所述目标物的历史动态信息以及各障碍物的历史动态信息。
在确定了目标物以及各障碍物后,无人驾驶系统可获取目标物以及各障碍物在预设时长内的历史动态信息。其中,历史动态信息包括历史轨迹以及历史轨迹所包含的各个历史位置对应的历史运动信息,无人驾驶系统可从服务器中获取目标物以及各障碍物的历史动态信息,也可根据无人驾驶系统上的传感器在历史上所感知到的障碍物信息中,确定出目标物以及各障碍物的历史动态信息。其中,历史动态信息至少包括历史轨迹,以及历史轨迹所包含的每个历史位置上的历史运动信息,历史运动信息至少包括历史速度以及历史加速度。
具体的,无人驾驶设备上安装有图像采集设备,例如,摄像机。在无人驾驶设备行驶的过程中,安装在无人驾驶设备上的摄像机实时对无人驾驶设备周围的环境进行记录并记录下的环境录像存储至无人驾驶设备中的存储模块,同时,无人驾驶系统也可将环境录像上传至服务器中。之后,无人驾驶系统在环境录像中识别出目标物以及各障碍物,并通过环境录像获取预设时长内的目标物的历史动态信息以及各障碍物的历史动态信息。例如,通过环境录像,获取目标物以及各障碍物当前时刻之前的5秒内的历史动态信息。
除上述通过安装在无人驾驶设备上的传感器所获取到的感知信息中,获取目标物以及各障碍物的历史动态信息之外,还可以采用以下获取方法:无人驾驶设备在确定目标物以及各障碍物之后,可向服务器发送用于获取历史动态信息的获取请求,服务器在接收到所述获取请求,可确定无人驾驶设备当前位置,并调取当前位置附近的监控录像,从监控录像中获取目标物以及各障碍物的历史动态信息。
除上述两种获取目标物以及各障碍物的历史动态信息的方法之外,还可以采用其他方法获取目标物以及各障碍物的历史动态信息,本说明书对此不作限制。
S104:根据所述目标物的历史动态信息,确定目标物特征;并,针对每个障碍物,根据该障碍物的历史动态信息,确定该障碍物特征。
具体的,无人驾驶系统可在目标物的历史动态信息中,确定出目标物的历史轨迹,针对目标物的历史轨迹所包含的每个历史位置,确定目标物在该历史位置上的速度、加速度,无人驾驶系统可将目标物的历史轨迹、目标物在历史轨迹上的速度集合、加速度集合,以及目标物的类型,作为目标物特征,其中,目标物的类型包括非机动车、行人。同理,针对每个障碍物,无人驾驶设备可在该障碍物的历史动态信息中,确定出该障碍物的历史轨迹,并针对该障碍物的历史轨迹所包含的每个历史位置,确定该目标物在该历史位置上的速度、加速度,无人驾驶设备可将该障碍物的历史轨迹、该障碍物在历史轨迹上的速度集合、加速度集合,以及该障碍物的类型,作为该障碍物对应的障碍物特征,其中,障碍物的类型包括非机动车、行人以及机动车。
S106:以所述目标物作为目标节点,将所述目标物特征作为所述目标节点对应的特征;并,针对每个障碍物,以该障碍物作为障碍物节点,将该障碍物特征作为该障碍物节点对应的特征。
在本说明书实施例中,无人驾驶系统使用预先训练好的图神经网络对目标物的未来轨迹进行预测,其中,图神经网络的输入层可视作一个有向图,该有向图包括目标物对应的目标节点以及各障碍物节点,因此,在使用图神经网络时,也需要建立有向图。
具体的,无人驾驶系统可以目标物作为目标节点,上述确定出的目标物特征作为目标节点对应的特征,同理,针对每个障碍物,将该障碍物作为一个障碍物节点,该障碍物特征作为该障碍物节点对应的特征。
S108:将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合。
具体的,无人驾驶系统可将目标物特征输入图2所示的预先训练好的用于预测目标物轨迹的图神经网络模型所包含的有向图的目标节点中,将各障碍物特征输入有向图中的各障碍物节点中。
其中,在将特征输入各节点之前,需要对目标物特征以及各障碍物特征进行编码,得到目标物特征对应的特征向量以及各障碍物特征对应的特征向量。
各障碍物特征向量以及目标物特征向量通过有向图基于各障碍物节点与目标节点之间的权重,按照有向图中各障碍物节点与目标节点之间的传播方向,将各障碍物节点对应的特征向量传播至目标节点。经过指定轮次的传播过程后,目标节点对应的特征既包括目标物特征向量,还包括通过传播获取的各障碍物特征向量。目标节点可将当前自身对应的所有特征向量进行聚合。
例如,目标节点对应的目标物特征为Z1、Z2、Z3,障碍物1的障碍物特征为A1、A2、A3,障碍物2的障碍物特征为B1、B2、B3。图神经网络会将各节点对应的特征按照有向图中边的方向进行传播,其中,障碍物节点1与目标节点之间的权重为Q1,障碍物节点2与目标节点之间的权重为Q2,障碍物节点1与障碍物节点2之间的权重为Q3。将目标特征输入目标节点,障碍物1的特征输入障碍物节点1,障碍物2的特征输入障碍物节点2,与训练图神经网络模型时的传播轮次相同,将各节点对应的特征传播两次。
经过第一次传播,目标节点对应的特征为:
Z1+Q1×A1+Q2×B1,Z2+Q1×A2+Q2×B2,Z3+Q1×A3+Q2×B3。
障碍物节点1对应的特征为:
A1+Q1×Z1+Q3×B1,A2+Q1×Z2+Q3×B2,A3+Q1×Z3+Q3×B3。
障碍物节点2对应的特征为:
B1+Q2×Z1+Q3×A1,B2+Q2×Z2+Q3×A2,B3+Q2×Z3+Q3×A3。
经过第二次传播,目标节点对应的特征为:
(Z1+Q1×A1+Q2×B1)+Q1×(A1+Q1×Z1+Q3×B1)+Q2×(B1+Q2×Z1+Q3×A1),
(Z2+Q1×A2+Q2×B2)+Q1×(A2+Q1×Z2+Q3×B2)+Q2×(B2+Q2×Z2+Q3×A2),
(Z3+Q1×A3+Q2×B3)+Q1×(A3+Q1×Z3+Q3×B3)+Q2×(B3+Q2×Z3+Q3×A3)。
传播结束,可对目标节点对应的特征进行聚合。
S110:将聚合后的目标节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的未来轨迹。
目标节点可将聚合后的自身所对应的特征向量输入图神经网络中的处理层,处理层可对应输入的特征向量进行解码,处理层输出的解码后的目标节点的特征即为目标物的未来轨迹。
从图1所示的目标物轨迹测试方法中可以看出,除了根据所要预测的动态障碍物(目标物)的历史信息,提取了目标物的特征,还提取该动态障碍物附近的其他障碍物的特征,并基于图神经网络所包含的有向图,将各个特征进行聚合,最终得到了图神经网络输出的目标物的未来轨迹。
值得注意的是,与目标物距离较近的障碍物通常会对目标物产生一定的影响,与目标物距离较远的障碍物往往不会对目标物产生影响,因此,在预测目标物的未来轨迹时,可仅参考与目标物距离较近的障碍物。具体的,在确定各障碍物时,可获取目标物周围的所有障碍物,按照与目标物之间的距离由近到远的顺序对所有障碍物进行排序,根据排序结果,确定出指定数量的障碍物。
在将各障碍物特征输入各障碍物节点时,针对确定出的每个障碍物,无人驾驶系统可根据上述排序结果,确定该障碍物与有向图中的障碍物节点的对应关系,再将该障碍物的障碍物特征输入与该障碍物对应的障碍物节点中。
例如,如图2所示,在训练好的图神经网络模型中,按照各障碍物节点对应的障碍物与目标节点对应的目标物之间的距离由近到远的排序顺序为障碍物节点1、障碍物节点2、障碍物节点3、障碍物节点4。无人驾驶系统需要对图3中的目标物的未来轨迹进行预测,由图3可知,按照目标物与各障碍物之间的距离由近至远的顺序对各障碍物进行排序,排序结果为:障碍物A、障碍物B、障碍物C、障碍物D,其中,障碍物E与目标物之间的距离较远,通常不会对目标物产生影响,因此,在预测目标物未来轨迹时,无需参考障碍物E的状态。在使用图神经网络模型预测的过程中,将障碍物A的障碍物特征输入障碍物节点1,将障碍物B的障碍物特征输入障碍物节点2,将障碍物C的障碍物特征输入障碍物节点3,将障碍物D的障碍物特征输入障碍物节点4。
另外,在获取目标物特征时,无人驾驶系统可以在获取到的目标物的历史动态信息中,确定出当前时刻之前的预设时长内的历史轨迹,并确定目标物的历史轨迹所包含的每个历史位置的横坐标与纵坐标,并确定每个历史位置对应的横向速度与纵向速度。其中,在实际操作时,无人驾驶系统可确定在当前时刻的前20帧的环境录像,通针对获取的环境录像的每一帧,确定目标物在该帧坐标信息以及速度信息。最终,无人驾驶系统可获取目标物40维的历史位置特征(20帧的横坐标对应的20维历史位置特征以及20帧的纵坐标对应的20维)以及40维的历史速度特征(20帧的横向速度对应的20维历史速度特征以及20帧的纵向速度对应的20维历史速度特征),另外,无人驾驶系统可确定目标物的类型。综上所述,目标物对应了81维特征。采用上述方法确定障碍物的特征,针对每个障碍物,无人驾驶系统可获取到该障碍物的81维特征,即40维历史位置特征、40维历史速度特征以及该障碍物的类型特征,该障碍物同样对应了81维特征。
值得注意的是,目标物的行动轨迹虽然较为多元化,但也需要按照交通规则进行行驶,因此,目标物所处的环境也会对目标物的未来轨迹产生影响。在本说明书中,无人驾驶系统还可获取目标物周围的环境,针对每个预设的环境类型,确定该环境类型对应的环境信息,以各环境类型对应的环境信息作为该环境对应的环境特征。在预测目标物的未来轨迹时,在确定节点的过程中,以环境为环境节点,以环境对应的环境特征,作为环境节点对应的特征,在将各特征输入有向图的过程中,将环境特征输入有向图中的环境节点中。其中,环境类型至少包括目标物所在的道路信息,目标物所在的道路位置,所述环境所包含的路口面积中的一种,还可以包括其他环境类型,本说明书对此不作限制。
进一步的,在确定环境类型时,无人驾驶系统可以目标物为原点,将目标物周围环境平均划分成指定数量的环境扇区,通常目标物所处环境为路口。针对每个环境扇区,该环境扇区包含指定数量的车道,即出口。该无人驾驶系统可根据无人驾驶设备上的传感器所感知到的环境信息,确定该环境扇区所包含的每个出口所对应的类型、位置、面积等特征,作为该环境扇区的特征。在实际操作中,通常将目标物所处环境平均划分12个环境扇区,设置每个环境扇区包括3个出口,每个出口包含了10个环境特征,即每个环境扇区对应的环境特征数量为30维特征,则目标物所处环境总共对应了360维环境特征。
基于上述说明,用于预测目标物轨迹的图神经网络模型的结构,如图2所示。由上述说明可知,目标物与各障碍物之间具有频繁交互的特点,其中,交互是指目标物与各障碍物之间会相互产生影响,例如,对于正常直行的非机动车,若此时一个行人向该非机动车迎面走来,非机动车为了避免与行人发生碰撞,非机动车会降低行驶速度,或改变直行轨迹,以使自身避让行人,此时,虽然非机动车的轨迹与行人的轨迹并非发生相交,但行人已经对非机动车产生了影响,因此,行人与非机动车之间是存在交互关系的。若要准确的预测目标物的未来轨迹,不但要参考目标物自身,还需要参考可能与目标物存在交互关系的障碍物,即对目标物产生影响的障碍物。因此,本说明书采用训练好的包含有向图的图神经网络对目标物轨迹进行预测,将目标物与各障碍物作为有向图的节点,以有向图的边表示目标物与各障碍物之间的交互关系,即关联关系。由此可知,在本说明书中,目标物与各障碍物之间的关联关系就是指目标物与各障碍物之间的交互关系,即目标物与各障碍物之间的相互影响。
在本说明书中,将目标物特征以及各障碍物特征输入各节点中,各节点按照有向图的权重以及边的传播方向将自身对应的特征进行聚合,得到了目标物与各障碍物的交互特征,即目标节点对应的聚合后的特征,再通过图神经网络的处理层对聚合后的目标节点对应的特征进行解码,最终得到了处理层输出的目标物的未来轨迹。其中,目标节点对应的交互特征就可体现各障碍物对目标物的影响。
基于上述思路,图神经网络模型的训练过程为:确定样本目标物以及样本障碍物,从服务器中获取样本目标物在历史上的真实轨迹,并将预设时长内的轨迹,作为样本目标物的初始轨迹,并将初始轨迹对应的预设时长的结束时刻之后下一时刻及之后时刻所对应的样本目标物的真实轨迹所包含的至少部分轨迹,作为标注轨迹。同理,针对每个障碍物,从服务器中获取该障碍物在历史上的真实轨迹。其中,在确定样本障碍物时,可获取样本目标物周围的所有障碍物,按照与样本目标物之间的距离由近到远的顺序对所有障碍物进行排序,根据排序结果,确定出指定数量的障碍物,作为样本障碍物。
之后,针对样本目标物的初始轨迹所包含的每个历史位置,确定样本目标物在该历史位置上的速度、加速度,将样本目标物的初始轨迹、样本目标物在初始轨迹上的速度集合、加速度集合以及样本目标物的类型,作为样本目标物的特征信息,即目标物样本信息;针对每个样本障碍物,针对该样本障碍物的真实轨迹所包含的每个历史位置,确定该样本障碍物在该历史位置上的速度、加速度,将该样本障碍物的真实轨迹、该样本障碍物在真实轨迹上的速度集合、加速度集合以及该样本障碍物的类型,作为该样本障碍物的特征信息,即障碍物特征样本。其中,样本目标物对应了40维历史位置特征样本、40维历史速度特征样本以及1维样本目标物类型特征样本,同理,针对每个样本障碍物,该样本障碍物对应了40维历史特征样本、40维历史速度特征样本以及1为该样本障碍物特征样本。
之后,可根据样本目标物的特征信息以及各样本障碍物的特征信息建立有向图。具体的,以样本目标物为目标节点,以目标物特征样本为目标节点对应的特征,针对每个样本障碍物,以该样本障碍物为障碍物节点,以该障碍物特征样本为该障碍物节点对应的特征,根据任意两个节点之间的关联关系(即交互关系)建立有向图。其中,由于目标物与各障碍物会相互影响对方状态,因此,目标节点与各障碍物之间的关联关系体现在有向图中就为双向连接。各障碍物之间也会相互影响对方的轨迹,各障碍物之间的关联关系在有向图中也体现为双向连接。
针对每个障碍物,该障碍物与目标物之间的距离越近,该障碍物对目标物的影响越大,因此,在最初设置有向图的边的权重时,可将与样本目标物之间的距离最近的样本障碍物对应的障碍物节点与目标节点之间的权重设置为最高,将与样本目标物之间的距离第二近的样本障碍物对应的障碍物节点与目标节点之间的权重设置为第二高,以此类推。在最初设置各障碍物节点与目标节点之间的权重时,样本障碍物与样本目标物之间的距离,与障碍物节点与目标节点之间的权重呈负相关。
在建立了有向图之后,需要将各个样本的特征输入有向图对应的节点中。具体的,将样本目标物特征进行编码,得到用于表征样本目标物特征的目标物特征向量,将目标物特征向量输入有向图中的目标节点。同理,针对每个样本障碍物特征,对该样本障碍物的障碍物特征进行编码,得到用于表征该样本障碍物特征的障碍物特征向量,将该障碍物特征向量输入有向图中的障碍物节点。
各节点可按照有向图中各节点之间边的传播方向将自身节点对应的特征向量传播至其他节点。由于本说明书中的图神经网络是用于预测目标物未来轨迹的,因此,针对每个障碍物节点,该障碍物节点可按照自身与目标节点之间的传播方向以及该障碍物节点与目标节点之间的权重,将该障碍物节点对应的特征传播至目标节点。
通过指定轮次的传播,目标节点对应的特征不但包括最初输入的目标物特征样本对应的特征向量,还包括通过传播获得的各障碍物节点对应的特征向量,即各障碍物特征样本对应的特征向量。目标节点可将当前自身所对应的所有特征向量进行聚合,得到聚合后的特征向量。
例如,为了避免各节点对应的特征传播的轮次过多导致的过度平滑问题(各节点对应的特征相同),仅需将各个节点对应的特征进行2次传播。具体的,目标物特征样本为O1、O2、O3,样本障碍物1对应的障碍物特征样本为:X1、X2、X3,样本障碍2对应的障碍物特征样本为:Y1、Y2、Y3。设置目标节点与样本障碍物对应的障碍物节点1之间的权重为Q’1,目标节点与样本障碍物2对应的障碍物节点2之间的权重为Q’2,障碍物节点1与障碍物节点2之间的权重为Q’3。
经过第一轮次传播,目标节点对应的特征为:
O1+Q’1×X1+Q’2×Y1,O2+Q’1×X2+Q’2×Y2,O3+Q’1×X3+Q’2×Y3;
障碍物节点1对应的特征为:
X1+Q’1×O1+Q’3×Y1,X2+Q’1×O2+Q’3×Y2,X3+Q’1×O3+Q’3×Y3;
障碍物节点2对应的特征为:
Y1+Q’2×O1+Q’3×X1,Y2+Q’2×O2+Q’3×X2,Y3+Q’2×O3+Q’3×X3。
经过第二轮次传播,目标物节点对应的特征为:
(O1+Q’1×X1+Q’2×Y1)+Q’1×(X1+Q’1×O1+Q’3×Y1)+Q’2×(Y1+Q’2×O1+Q’3×X1)。
之后,将聚合后的目标节点对应的特征向量输入图神经网络中的处理层,处理层将输入的特征向量进行解码,最终得到处理层输出的目标物的预测轨迹。
以目标物的预测轨迹与标注轨迹之间的差异最小作为训练目标,调整图神经网络中的模型参数,其中,模型参数至少包括有向图中的各节点之间的权重。
另外,由上述说明可知,目标物以及各障碍物需要按照交通规则行驶或运动,目标物以及各障碍物所处的环境信息也会对其轨迹产生影响,因此,在本说明书中,还可获取目标物周围的环境信息,其中,目标物所处环境主要包括路口,例如,十字路口、丁字路口等环境。
获取环境信息以及确定环境特征的具体步骤如下面所述:以目标物为原点,将目标物周围的环境等分为指定数量的环境扇区,每个环境扇区包含了指定数量的环境类型。针对每个环境扇区,将该环境扇区所包含的各环境类型对应的环境信息,作为该环境扇区对应的环境特征。其中,环境特征可包括道路行驶方向、道路位置、道路面积,本说明书对此不作限制。
基于上述说明,有向图中所包含的节点除了目标节点以及各障碍物节点之外,还可包括各环境节点。具体的,针对每个样本环境扇区,将该样本环境扇区作为环境节点,该样本环境扇区对应的环境特征样本作为该环境节点对应的特征。由于环境可影响目标物以及各障碍物的轨迹,而目标物与各障碍物的轨迹并不会对环境造成影响,因此,在有向图中,针对每个环境节点,该环境节点与目标节点之间的关联关系为由该环境节点向目标节点单向传播,该环境节点与各障碍物节点之间的关联关系同样为由该环境节点向障碍物节点单向传播。另外,在确定环境特征时,针对每个样本环境扇区,可采用上述方法,确定出该样本环境扇区对应的30维特征。
以上为本说明书的一个或多个实施例提供的目标物轨迹预测方法,基于同样的思路,本说明书还提供了相应的目标物轨迹预测装置,如图4所示。
图4为本说明书提供的一种目标物轨迹预测装置示意图,具体包括:
特征获取模块401、轨迹预测模块402,其中:
特征获取模块401,用于确定目标物以及各障碍物;获取在预设时长内的所述目标物的历史动态信息以及各障碍物的历史动态信息;根据所述目标物的历史动态信息,确定目标物特征;并,针对每个障碍物,根据该障碍物的历史动态信息,确定该障碍物特征;
轨迹预测模块402,用于以所述目标物作为目标节点,将所述目标物特征作为所述目标节点对应的特征;并,针对每个障碍物,以该障碍物作为障碍物节点,将该障碍物特征作为该障碍物节点对应的特征;将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合;将聚合后的目标节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的未来轨迹。
可选地,所述特征获取模块401还用于,获取所述目标物周围的环境信息,并根据所述环境信息,确定环境特征;以所述环境作为所述有向图中的环境节点,将所述环境特征作为所述环境节点对应的特征;所述特征获取模块401具体用于,将所述目标物特征输入至预先训练的图神经网络所包含的有向图中的目标节点;并,将各障碍物特征输入至所述有向图中的各障碍物节点;并,将所述环境特征输入至所述有向图中的环境节点。
可选地,所述特征获取模块401具体用于,确定所述目标物,并根据各障碍物与所述目标物之间的距离,确定指定数量的障碍物;所述轨迹预测模块402具体用于,针对每个障碍物,根据该障碍物与所述目标物之间的距离以及预设规则,将该障碍物特征输入至障碍物节点。
可选地,所述轨迹预测模块402具体用于,针对每个障碍物节点,根据在所述有向图中该障碍物节点与所述目标节点之间的权重,将该障碍物特征传播至所述目标节点;将所述目标物特征以及通过传播所获得的各障碍物特征进行聚合,得到聚合后的所述目标节点对应的特征。
所述目标物轨迹预测装置还包括:训练模块403:
可选地,所述训练模块403具体用于,预先确定样本目标物以及各样本障碍物;获取所述样本目标物的真实轨迹,并将所述样本目标物的真实轨迹在所述预设时长内的轨迹,作为所述样本目标物的初始轨迹,在所述初始轨迹之后的所述样本目标物的真实轨迹所包含的至少部分轨迹,作为标注轨迹,并针对每个样本障碍物,获取该样本障碍物的真实轨迹;根据所述样本目标物的初始轨迹,确定所述样本目标物的特征信息,作为目标特征样本;并针对每个样本障碍物,根据该样本障碍物的真实轨迹,确定该样本障碍物的特征信息,作为障碍物特征样本;以所述样本目标物作为目标节点,将所述目标物特征样本作为所述目标节点对应的特征;并,针对每个样本障碍物,以该样本障碍物作为障碍物节点,将该障碍物特征样本作为该障碍物节点对应的特征;并,根据任意两个节点之间的关联关系建立包含有向图的图神经网络;基于所述有向图中的各节点之间的权重,将各节点对应的特征进行聚合;将聚合后的目标物节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的预测轨迹,以所述预测轨迹与所述标注轨迹之间的差异最小为训练目标,调整所述图神经网络中的模型参数,所述模型参数至少包括所述有向图中各节点之间的权重。
可选地,所述训练模块403还用于,获取所述目标物周围的历史环境,并根据所述历史环境所包含的环境信息,确定环境特征,作为环境特征样本;以所述环境作为环境节点,以所述环境特征样本作为所述环境节点对应的特征;所述训练模块403具体用于,将所述环境特征样本输入至所述有向图中的所述环境节点。
可选地,所述目标物包括:非机动车。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的目标物轨迹预测方法。
本说明书还提供了图5所示的电子设备的示意结构图。如图5所述,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所述的目标物轨迹预测方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种目标物轨迹预测方法,其特征在于,包括:
确定目标物以及各障碍物;
获取在预设时长内的所述目标物的历史动态信息以及各障碍物的历史动态信息;
根据所述目标物的历史动态信息,确定目标物特征;并,针对每个障碍物,根据该障碍物的历史动态信息,确定该障碍物特征;
以所述目标物作为目标节点,将所述目标物特征作为所述目标节点对应的特征;并,针对每个障碍物,以该障碍物作为障碍物节点,将该障碍物特征作为该障碍物节点对应的特征;
将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合;
将聚合后的目标节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的未来轨迹。
2.如权利要求1所述的方法,其特征在于,将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中之前,所述方法还包括:
获取所述目标物周围的环境信息,并根据所述环境信息,确定环境特征;
以所述环境作为所述有向图中的环境节点,将所述环境特征作为所述环境节点对应的特征;
将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,具体包括:
将所述目标物特征输入至预先训练的图神经网络所包含的有向图中的目标节点;并,将各障碍物特征输入至所述有向图中的各障碍物节点;并,将所述环境特征输入至所述有向图中的环境节点。
3.如权利要求2所述的方法,其特征在于,确定目标物以及各障碍物,具体包括:
确定所述目标物,并根据各障碍物与所述目标物之间的距离,确定指定数量的障碍物;
将各障碍物特征输入至所述有向图中的各障碍物节点,具体包括:
针对每个障碍物,根据该障碍物与所述目标物之间的距离以及预设规则,将该障碍物特征输入至障碍物节点。
4.如权利要求1所述的方法,其特征在于,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合,具体包括:
针对每个障碍物节点,根据在所述有向图中该障碍物节点与所述目标节点之间的权重,将该障碍物特征传播至所述目标节点;
将所述目标物特征以及通过传播所获得的各障碍物特征进行聚合,得到聚合后的所述目标节点对应的特征。
5.如权利要求1所述的方法,其特征在于,预先训练图神经网络模型,具体包括:
预先确定样本目标物以及各样本障碍物;
获取所述样本目标物的真实轨迹,并将所述样本目标物的真实轨迹在所述预设时长内的轨迹,作为所述样本目标物的初始轨迹,将在所述初始轨迹之后的所述样本目标物的真实轨迹所包含的至少部分轨迹,作为标注轨迹,并针对每个样本障碍物,获取该样本障碍物的真实轨迹;
根据所述样本目标物的初始轨迹,确定所述样本目标物的特征信息,作为目标特征样本;并针对每个样本障碍物,根据该样本障碍物的真实轨迹,确定该样本障碍物的特征信息,作为障碍物特征样本;
以所述样本目标物作为目标节点,将所述目标物特征样本作为所述目标节点对应的特征;并,针对每个样本障碍物,以该样本障碍物作为障碍物节点,将该障碍物特征样本作为该障碍物节点对应的特征;并,根据任意两个节点之间的关联关系建立包含有向图的图神经网络;
基于所述有向图中的各节点之间的权重,将各节点对应的特征进行聚合;
将聚合后的目标物节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的预测轨迹,以所述预测轨迹与所述标注轨迹之间的差异最小为训练目标,调整所述图神经网络中的模型参数,所述模型参数至少包括所述有向图中各节点之间的权重。
6.如权利要求5所述的方法,其特征在于,根据任意两个节点之间的关联关系建立包含有向图的图神经网络之前,所述方法还包括:
获取所述目标物周围的历史环境,并根据所述历史环境所包含的环境信息,确定环境特征,作为环境特征样本;
以所述环境作为环境节点,以所述环境特征样本作为所述环境节点对应的特征;
将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,具体包括:
将所述环境特征样本输入至所述有向图中的所述环境节点。
7.如权利要求1所述的方法,其特征在于,所述目标物包括:非机动车。
8.一种目标物轨迹预测装置,其特征在于,包括:
特征获取模块,用于确定目标物以及各障碍物;获取在预设时长内的所述目标物的历史动态信息以及各障碍物的历史动态信息;根据所述目标物的历史动态信息,确定目标物特征;并,针对每个障碍物,根据该障碍物的历史动态信息,确定该障碍物特征;
轨迹预测模块,用于以所述目标物作为目标节点,将所述目标物特征作为所述目标节点对应的特征;并,针对每个障碍物,以该障碍物作为障碍物节点,将该障碍物特征作为该障碍物节点对应的特征;将各节点对应的特征输入至预先训练的图神经网络所包含的有向图中,以通过所述有向图基于各障碍物节点与所述目标节点之间的权重,将各节点对应的特征进行聚合;将聚合后的目标节点对应的特征输入至所述图神经网络的处理层,得到所述处理层输出的所述目标物的未来轨迹。
9.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~7任一项所述的方法。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1~7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111633483.5A CN114194213A (zh) | 2021-12-29 | 2021-12-29 | 一种目标物轨迹预测方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111633483.5A CN114194213A (zh) | 2021-12-29 | 2021-12-29 | 一种目标物轨迹预测方法、装置、存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114194213A true CN114194213A (zh) | 2022-03-18 |
Family
ID=80657211
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111633483.5A Withdrawn CN114194213A (zh) | 2021-12-29 | 2021-12-29 | 一种目标物轨迹预测方法、装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114194213A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115534939A (zh) * | 2022-12-06 | 2022-12-30 | 广汽埃安新能源汽车股份有限公司 | 车辆控制方法、装置、电子设备和计算机可读介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110304075A (zh) * | 2019-07-04 | 2019-10-08 | 清华大学 | 基于混合动态贝叶斯网络和高斯过程的车辆轨迹预测方法 |
CN111316286A (zh) * | 2019-03-27 | 2020-06-19 | 深圳市大疆创新科技有限公司 | 轨迹预测方法及装置、存储介质、驾驶系统与车辆 |
CN113128381A (zh) * | 2021-04-06 | 2021-07-16 | 浙江吉利控股集团有限公司 | 障碍物轨迹预测方法、系统及计算机存储介质 |
CN113139696A (zh) * | 2021-05-11 | 2021-07-20 | 深圳大学 | 一种轨迹预测模型构建方法及轨迹预测方法、装置 |
CN113240086A (zh) * | 2021-05-13 | 2021-08-10 | 宿州学院 | 一种复杂网络链接预测方法及系统 |
US20210261167A1 (en) * | 2020-02-24 | 2021-08-26 | Korea Advanced Institute Of Science And Technology | Electronic device for integrating and predicting future trajectories of unspecified number of surrounding vehicles and operating method thereof |
CN113362368A (zh) * | 2021-07-26 | 2021-09-07 | 北京邮电大学 | 一种基于多层次时空图神经网络的人群轨迹预测方法 |
US20210370990A1 (en) * | 2020-05-26 | 2021-12-02 | Toyota Research Institute, Inc. | Systems and methods for hybrid prediction framework with inductive bias |
-
2021
- 2021-12-29 CN CN202111633483.5A patent/CN114194213A/zh not_active Withdrawn
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111316286A (zh) * | 2019-03-27 | 2020-06-19 | 深圳市大疆创新科技有限公司 | 轨迹预测方法及装置、存储介质、驾驶系统与车辆 |
CN110304075A (zh) * | 2019-07-04 | 2019-10-08 | 清华大学 | 基于混合动态贝叶斯网络和高斯过程的车辆轨迹预测方法 |
US20210261167A1 (en) * | 2020-02-24 | 2021-08-26 | Korea Advanced Institute Of Science And Technology | Electronic device for integrating and predicting future trajectories of unspecified number of surrounding vehicles and operating method thereof |
US20210370990A1 (en) * | 2020-05-26 | 2021-12-02 | Toyota Research Institute, Inc. | Systems and methods for hybrid prediction framework with inductive bias |
CN113128381A (zh) * | 2021-04-06 | 2021-07-16 | 浙江吉利控股集团有限公司 | 障碍物轨迹预测方法、系统及计算机存储介质 |
CN113139696A (zh) * | 2021-05-11 | 2021-07-20 | 深圳大学 | 一种轨迹预测模型构建方法及轨迹预测方法、装置 |
CN113240086A (zh) * | 2021-05-13 | 2021-08-10 | 宿州学院 | 一种复杂网络链接预测方法及系统 |
CN113362368A (zh) * | 2021-07-26 | 2021-09-07 | 北京邮电大学 | 一种基于多层次时空图神经网络的人群轨迹预测方法 |
Non-Patent Citations (1)
Title |
---|
XIAOYU MO ET AL.: "《Graph and Recurrent Neural Network-based Vehicle Trajectory Prediction For Highway Driving》", 2021 IEEE INTELLIGENT TRANSPORTATION SYSTEMS CONFERENCE》, pages 1934 - 1939 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115534939A (zh) * | 2022-12-06 | 2022-12-30 | 广汽埃安新能源汽车股份有限公司 | 车辆控制方法、装置、电子设备和计算机可读介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111190427B (zh) | 一种轨迹规划的方法及装置 | |
CN112766468B (zh) | 一种轨迹预测方法、装置、存储介质及电子设备 | |
CN112015847B (zh) | 一种障碍物的轨迹预测方法、装置、存储介质及电子设备 | |
CN111208838B (zh) | 一种无人驾驶设备的控制方法及装置 | |
CN111912423B (zh) | 一种预测障碍物轨迹以及模型训练的方法及装置 | |
CN111076739B (zh) | 一种路径规划的方法及装置 | |
CN110488821B (zh) | 一种确定无人车运动策略的方法及装置 | |
CN111007858B (zh) | 车辆行驶决策模型的训练方法、行驶决策确定方法及装置 | |
CN112990375B (zh) | 一种模型训练方法、装置、存储介质及电子设备 | |
CN112348293A (zh) | 一种障碍物的轨迹预测方法及装置 | |
CN110942181A (zh) | 一种障碍物轨迹预测的方法及装置 | |
CN113296541B (zh) | 一种基于未来碰撞风险的无人设备控制方法及装置 | |
CN113968243B (zh) | 一种障碍物轨迹预测方法、装置、设备及存储介质 | |
CN111062372B (zh) | 一种预测障碍物轨迹的方法及装置 | |
CN111238523A (zh) | 一种运动轨迹的预测方法及装置 | |
CN112677993A (zh) | 一种模型训练的方法及装置 | |
CN112947495B (zh) | 模型训练的方法、无人驾驶设备的控制方法以及装置 | |
CN111126362A (zh) | 一种预测障碍物轨迹的方法及装置 | |
CN112327864A (zh) | 一种无人驾驶设备的控制方法及控制装置 | |
CN113343425A (zh) | 一种仿真测试的方法及装置 | |
CN114194213A (zh) | 一种目标物轨迹预测方法、装置、存储介质及电子设备 | |
CN113033527A (zh) | 一种场景识别方法、装置、存储介质及无人设备 | |
CN110895406B (zh) | 一种基于干扰物轨迹规划的无人设备的测试方法及装置 | |
CN111123957B (zh) | 一种轨迹规划的方法及装置 | |
CN112883871A (zh) | 一种模型训练以及确定无人车运动策略方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20220318 |
|
WW01 | Invention patent application withdrawn after publication |