CN116665250A - 一种行人轨迹的预测方法、装置、电子设备及存储介质 - Google Patents

一种行人轨迹的预测方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN116665250A
CN116665250A CN202310644686.7A CN202310644686A CN116665250A CN 116665250 A CN116665250 A CN 116665250A CN 202310644686 A CN202310644686 A CN 202310644686A CN 116665250 A CN116665250 A CN 116665250A
Authority
CN
China
Prior art keywords
pedestrian
predicted
motion
movement
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310644686.7A
Other languages
English (en)
Inventor
王宁
李荣华
陈红丽
李曙光
卢丽婧
卢少然
修杰
赵兰钰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faw Nanjing Technology Development Co ltd
FAW Group Corp
Original Assignee
Faw Nanjing Technology Development Co ltd
FAW Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Faw Nanjing Technology Development Co ltd, FAW Group Corp filed Critical Faw Nanjing Technology Development Co ltd
Priority to CN202310644686.7A priority Critical patent/CN116665250A/zh
Publication of CN116665250A publication Critical patent/CN116665250A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G06Q50/40—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/62—Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Abstract

本发明公开了一种行人轨迹的预测方法、装置、设备及介质。该方法包括：获取行为预测模型的输入数据；其中，所述输入数据包括待预测行人数据以及环境数据；根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角；根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。本技术方案解决了行人轨迹预测准确率低、可靠性差等问题，可以在提高行人轨迹预测准确性的同时，增强行人轨迹生成的可解释性，保证行人以及自动驾驶车辆的安全性。

Description

一种行人轨迹的预测方法、装置、电子设备及存储介质
技术领域
本发明涉及自动驾驶技术领域，尤其涉及一种行人轨迹的预测方法、装置、设备及介质。
背景技术
在自动驾驶领域，准确预测驾驶环境中行人运动对自动驾驶车辆的影响具有十分重要的意义。行人轨迹预测的核心任务是通过轨迹预测模型，对行人历史周期的运动轨迹进行特征提取，从而根据提取到的运动轨迹特征，预测行人未来周期的运动轨迹。行人轨迹预测存在诸多挑战：(1)行人与机动车等障碍物相比，其运动更主观随意，不受道路车道线的限制。(2)行人的运动不仅和其自身的历史轨迹相关，也和周围行人或者车辆的状态相关。(3)行人的运动也受周围物理环境的约束，在行人轨迹预测的时候需要考虑到周围建筑物等的阻挡作用。
现有技术解决行人轨迹预测问题主要是将轨迹预测定义成序列生成问题，即如何根据历史的位置信息去预测未来的位置信息。现有技术解决行人轨迹预测问题的方式更加依赖行人的历史位置感知信息，而忽略行人行为信息，例如行人的朝向、姿态等。因此，亟需设计一种关注行人行为信息的行人轨迹预测方案，以提高行人轨迹预测的可靠性和准确性。
发明内容
本发明提供了一种行人轨迹的预测方法、装置、设备及介质，以解决行人轨迹预测准确率低、可靠性差等问题，可以在提高行人轨迹预测准确性的同时，增强行人轨迹生成的可解释性，保证行人以及自动驾驶车辆的安全性。
根据本发明的一方面，提供了一种行人轨迹的预测方法，所述方法包括：
获取行为预测模型的输入数据；其中，所述输入数据包括待预测行人数据以及环境数据；
根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角；
根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。
根据本发明的另一方面，提供了一种行人轨迹的预测装置，该装置包括：
输入数据获取模块，用于获取行为预测模型的输入数据；其中，所述输入数据包括待预测行人数据以及环境数据；
意图和朝向角确定模块，用于根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角；
轨迹预测结果确定模块，用于根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。
根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的行人轨迹的预测方法。
根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的行人轨迹的预测方法。
本发明实施例的技术方案，通过获取行为预测模型的输入数据，根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角。再根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。该方案解决了行人轨迹预测准确率低、可靠性差等问题，可以在提高行人轨迹预测准确性的同时，增强行人轨迹生成的可解释性，保证行人以及自动驾驶车辆的安全性。
应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1A是根据本发明实施例一提供的一种行人轨迹的预测方法的流程图；
图1B是根据本发明实施例一提供的当前时刻待预测行人的位置示意图；
图1C是根据本发明实施例一提供的待预测行人的历史轨迹示意图；
图1D是根据本发明实施例一提供的障碍物的位置示意图；
图1E是根据本发明实施例一提供的道路形态示意图；
图1F是根据本发明实施例一提供的道路通行权限示意图；
图2是根据本发明实施例二提供的一种行人轨迹的预测方法的流程图；
图3是根据本发明实施例三提供的一种行人轨迹的预测装置的结构示意图；
图4是实现本发明实施例的行人轨迹的预测方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、设备、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请技术方案中对数据的获取、存储、使用、处理等均符合国家法律法规的相关规定。
实施例一
图1A为本发明实施例一提供了一种行人轨迹的预测方法的流程图，本实施例可适用于自动驾驶场景中的行人轨迹预测情况，该方法可以由行人轨迹的预测装置来执行，该装置可以采用硬件和/或软件的形式实现，该装置可配置于电子设备中。如图1A所示，该方法包括：
S110、获取行为预测模型的输入数据。
本方案可以由自动驾驶车辆执行，自动驾驶车辆可以通过雷达、摄像头等传感设备获取行为预测模型的输入数据。其中，所述输入数据可以包括待预测行人数据以及环境数据。待预测行人数据可以包括待预测行人当前的位置、运动方向、速度以及加速度等数据。环境数据可以包括待预测行人关联的道路、道路通行状态以及障碍物等数据。
自动驾驶车辆可以按照预设周期进行行人轨迹预测，根据当前周期获取的行为预测模型的输入数据，对下一周期行人的运动轨迹进行预测。
本方案中，可选的，所述待预测行人数据包括当前时刻待预测行人的位置数据，以及当前周期内待预测行人的至少两个时刻的位置数据；所述环境数据包括当前周期预设范围内障碍物至少两个时刻的位置数据，以及当前周期内待预测行人关联的道路数据；其中，所述位置数据是基于目标时刻驾驶环境图像的目标检测结果确定的；所述道路数据包括道路类型、道路参考线以及至少两个时刻的道路通行权限。
为了保证交通场景的精细刻画，位置数据和道路数据可以是图像数据。自动驾驶车辆可以将当前时刻待预测行人的位置在图像中进行标记。图1B是根据本发明实施例一提供的当前时刻待预测行人的位置示意图，如图1B所示，白色矩形表示待预测行人，待预测行人的位置数据可以是根据当前时刻驾驶环境图像中行人检测结果确定的。根据当前周期内待预测行人的至少两个历史时刻的位置数据，自动驾驶车辆可以确定待预测行人的历史轨迹。图1C是根据本发明实施例一提供的待预测行人的历史轨迹示意图，如图1C所示，待预测行人的历史轨迹可以是根据当前周期内至少两个历史时刻待预测行人的位置连线得到的。
自动驾驶车辆可以根据待预测行人的位置，确定当前周期预设范围内障碍物在至少两个时刻的位置，并在驾驶环境图像中进行标记。图1D是根据本发明实施例一提供的障碍物的位置示意图，如图1D所示，每个时刻对应一幅障碍物的位置示意图。障碍物的位置数据可以是基于该时刻驾驶环境图像中障碍物检测结果确定的。自动驾驶车辆可以获取当前周期待预测行人关联的道路数据，例如可以是待预测行人当前周期可能经过的路径的道路数据。图1E是根据本发明实施例一提供的道路形态示意图，如图1E所示，自动驾驶车辆可以获取道路边沿以及参考线的位置数据，生成道路形态图像，用于表征道路类型以及车道划分。图1F是根据本发明实施例一提供的道路通行权限示意图，如图1F所示，每个时刻可以对应一幅道路通行权限示意图，自动驾驶车辆可以通过曲线、箭头以及颜色等标记表示该时刻的道路通行权限。
本方案可以从多个维度生成待预测行人数据以及环境数据，有利于实现行人轨迹的准确预测，保证行人轨迹预测的可靠性和稳定性。
S120、根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角。
自动驾驶车辆可以将输入数据输入至预先训练的行为预测模型，得到待预测行人的运动意图和运动朝向角。所述行为预测模型可以是基于深度学习算法构建的。在一个具体的例子中，输入数据可以包括如图1B-图1F所示的图像数据，行为预测模型可以是基于卷积神经网络构建的，行为预测模型可以包括五个网络输入分支、特征融合结构以及两个网络输出分支，其中，五个网络输入分支分别用于提取如图1B-图1F所示的五类图像的特征。两个网络输出分支分别用于输出待预测行人的运动意图和运动朝向角。特征融合结构可以将五类图像的特征进行特征融合，传递至两个网络输出分支进行运动意图和运动朝向角的预测。
在上述方案的基础上，所述根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角，包括：
将输入数据输入至预先训练的行为预测模型，确定待预测行人当前时刻匹配的运动意图以及运动朝向角；其中，所述运动意图包括直行、左转、右转、后退以及停止。
相比于单纯的关注待预测行人的历史轨迹，依据待预测行人数据和环境数据，确定待预测行人的运动意图和运动运动朝向角，可以更加准确的预测行人的运动轨迹，以保证行人的人身安全以及自动驾驶车辆的驾驶安全。运动意图可以包括直行、左转、右转、后退以及停止等运动状态，有利于实现精细化的运动意图划分，进而提高行人轨迹预测精度。
在一个可行的方案中，所述行为预测模型包括编码器和解码器；其中，所述编码器是基于注意力机制结构构建的；所述解码器包括运动意图预测分支以及运动朝向角预测分支。
可以理解的，编码器可以将待预测行人数据以及环境数据进行特征提取，并基于注意力机制将多种类型的特征进行特征融合，得到融合特征。解码器的运动意图预测分支可以根据融合特征，确定待预测行人的运动意图。运动朝向角预测分支可以根据融合特征，确定待预测行人的运动朝向角。需要说明的是，运动意图预测分支以及运动朝向角预测分支的网络结构、网络参数等属性可以相同也可以不同。例如运动意图预测分支可以使用分类损失函数对解码器输出的运动意图进行评估，运动朝向角预测分支可以在回归损失中选择符合场景要求的损失函数对解码器输出的运动朝向角进行评估。
S130、根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。
可以理解的，待预测行人的运动速度可以通过自动驾驶车辆的速度传感器获取，也可以根据当前周期内待预测行人的至少两个时刻的位置数据，计算待预测行人的运动速度。根据待预测行人当前时刻匹配的运动意图以及运动朝向角，自动驾驶车辆可以确定待预测行人的运动方向。根据运动方向以及运动速度，自动驾驶车辆可以生成待预测行人的运动轨迹，进而得到待预测行人的轨迹预测结果。
本方案中，可选的，所述根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果，包括：
根据预先确定的待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于运动模型，确定待预测行人当前周期的轨迹预测结果。
在本方案中，所述运动模型可以包括动态窗口模型(Dynamic Window Approach，DWA)、曲率速度模型(Curvature Velocity Method，CVM)、概率路图模型(ProbabilisticRoad Map，PRM)以及快速扩展随机树模型(Rapidly-explorring Random Tree，RRT)等模型。自动驾驶车辆可以根据待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于运动模型，计算待预测行人当前周期的轨迹预测结果。
本技术方案通过获取行为预测模型的输入数据，根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角。再根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。该方案解决了行人轨迹预测准确率低、可靠性差等问题，可以在提高行人轨迹预测准确性的同时，增强行人轨迹生成的可解释性，保证行人以及自动驾驶车辆的安全性。
实施例二
图2为本发明实施例二提供了一种行人轨迹的预测方法的流程图，本实施例以上述实施例为基础，对待预测行人当前周期的轨迹预测结果的确定过程进行细化。如图2所示，该方法包括：
S210、获取行为预测模型的输入数据。
S220、将输入数据输入至预先训练的行为预测模型，确定待预测行人当前时刻匹配的运动意图以及运动朝向角。
S230、根据当前周期内待预测行人的至少两个时刻的位置数据，确定待预测行人的运动速度。
自动驾驶车辆可以获取当前周期内已确定的至少两个时刻的位置数据，利用位移除以时间，计算待预测行人的运动速度。例如自动驾驶车辆可以根据待预测行人在当前时刻的位置数据以及前一时刻的位置数据，计算待预测行人的位移，并计算当前时刻与前一时刻的时间差。根据位移以及时间差，确定待预测行人的运动速度。
S240、根据待预测行人的运动速度、待预测行人当前时刻的位置数据、待预测行人当前时刻匹配的运动意图以及运动朝向角，确定下一时刻的待预测行人的位置数据。
可以理解的，在当前时刻待预测行人的位置数据的基础上，根据待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，自动驾驶车辆可以确定下一时刻待预测行人的位置数据。
S250、若下一时刻在当前周期内，则将下一时刻确定为当前时刻，返回执行获取行为预测模型的输入数据，直到下一时刻不在当前周期，输出待预测行人当前周期的轨迹预测结果。
在本方案中每个周期可以包括多个时刻，各时刻之间的时间间隔可以相同也可以不同。一个周期的轨迹预测结果可以根据该周期内各时刻待预测行人的位置数据生成的。如果下一时刻不在当前周期内，则说明下一时刻为当前周期的下一周期的时刻，待预测行人在当前周期完整的运动轨迹已经生成，根据当前周期各时刻待预测行人的位置数据，可以得到当前周期的轨迹预测结果。如果下一时刻在当前周期内，则可以将下一时刻待预测行人的位置数据添加至当前周期已确定的运动轨迹中，并将下一时刻作为当前时刻，继续确定当前时刻的下一时刻待预测行人的位置数据，直到下一时刻超出当前周期，输出待预测行人当前周期的轨迹预测结果。
在一个可行的方案中，行人轨迹预测方案步骤如下：
步骤1：确定运动意图和运动朝向角。
步骤1.1：对于输入数据中的位置数据利用卷积结构和特征金字塔结构(Feature Pyramid Networks，FPN)进行特征提取，得到featureobs，如下公式所示：
其中，T表示一个预测周期，包括一个周期内待预测行人的位置数据以及预设范围内的障碍物的位置数据。
步骤1.2：对于输入数据中的道路数据IT，利用卷积结构提取特征，得到featuremap，特征提取过程可以表示为：featuremap＝CNN(IT)。
步骤1.3：基于融合网络将道路数据的特征featuremap融合到位置数据的特征featureobs中，得到融合特征featurefus，特征融合的过程可以表示为：featurefus＝FusionNet(featureobs,featuremap)。
具体的，特征融合的细化过程可以包括：
步骤1.3.1：基于注意力机制，融合featureobs到featuremap中，表示为：
其中，i表示道路数据的特征索引，j表示位置数据的特征索引，W0、W1以及W2分别为特征以及匹配的权重，Δi,j＝MLP(vi,vj)，vi表示第一节点位置，第一节点位置是在道路数据中按照预设规则筛选出来的道路位置，vj表示第二节点位置，第二节点位置是在待预测行人和障碍物的位置数据中按照预设规则筛选出来的目标位置，MLP(Multi-Layer Perceptron)表示多层感知器。
步骤1.3.2：基于扩展卷积结构，融合各计算过程表示为：
步骤1.3.3：利用注意力机制，将道路数据的特征featuremap融合到位置数据的特征featureobs中，融合过程可以表示为：
其中，i表示道路数据的特征索引，j表示位置数据的特征索引，W3、W4以及W5分别为特征以及匹配的权重，Δi,j＝MLP(vi,vj)，vi表示第一节点位置，第一节点位置是在道路数据中按照预设规则筛选出来的道路位置，vj表示第二节点位置，第二节点位置是在待预测行人和障碍物的位置数据中按照预设规则筛选出来的目标位置，MLP(Multi-Layer Perceptron)表示多层感知器。
步骤1.3.4：基于注意力机制，将各进行融合，即：
其中，j、k均表示位置数据的特征索引，Δk,j＝MLP(vk,vj)，vk,vj均表示第二节点位置，第二节点位置是在待预测行人和障碍物的位置数据中按照预设规则筛选出来的目标位置，MLP表示多层感知器；W6、W7以及W8分别为特征以及匹配的权重。
步骤1.3.5：确定运动意图和运动朝向角，激活函数为RELU函数，如所示：
其中，intent表示运动意图，θ表示运动朝向角。
需要说明的是，在行为预测模型训练过程中，根据smooth-L1损失，如下公式所示，计算运动朝向角的回归误差。根据交叉熵损失，计算运动意图的分类误差。smooth-L1损失表示为：
其中，θpre表示运动朝向角，θgt表示的朝向角标签。交叉熵损失L表示为：L＝-[ylogy0+(1-y)log(1-y0)；其中，y0表示运动意图，y表示意图标签。
步骤2：确定轨迹预测结果。
步骤2.1：根据当前周期内待预测行人的至少两个时刻的位置数据，计算障碍物的运动速度vagent，计算公式表示为：
其中，表示待预测行人当前时刻的位置坐标；/>表示待预测行人上一时刻的位置坐标；/>表示当前时刻与上一时刻待预测行人的位移；可以表示为/>可以表示为的计算公式可以表示为：
步骤2.2：根据待预测行人的运动速度vagent、运动朝向角θ以及运动意图intent，计算下一时刻tf的位置坐标并保存轨迹点到当前周期已确定的运动轨迹traj中。/>和/>的计算公式分别为：
步骤2.3：判断tf是否在预测周期T中，若tf在T中，则转步骤2.2，否则转步骤3。
步骤3：输出轨迹预测结果traj。
该方案将行人预测问题拆分成意图预测和轨迹生成两个部分，使轨迹生成过程更具有可解释性。同时，将基于学习的方法和基于运动的方法结合起来，克服了基于学习的轨迹预测方法不能很好的符合运动学规律的特点。在预测行人意图时，使用周围环境信息和行人运动信息，并使用多尺度卷积操作提取多种类型的特征，提高了行人意图预测的准确性，为行人运动轨迹生成提供了良好的参照作用。
本技术方案通过获取行为预测模型的输入数据，根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角。再根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。该方案解决了行人轨迹预测准确率低、可靠性差等问题，可以在提高行人轨迹预测准确性的同时，增强行人轨迹生成的可解释性，保证行人以及自动驾驶车辆的安全性。
实施例三
图3为本发明实施例三提供的一种行人轨迹的预测装置的结构示意图。如图3所示，该装置包括：
输入数据获取模块310，用于获取行为预测模型的输入数据；其中，所述输入数据包括待预测行人数据以及环境数据；
意图和朝向角确定模块320，用于根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角；
轨迹预测结果确定模块330，用于根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。
本方案中，可选的，所述待预测行人数据包括当前时刻待预测行人的位置数据，以及当前周期内待预测行人的至少两个时刻的位置数据；所述环境数据包括当前周期预设范围内障碍物至少两个时刻的位置数据，以及当前周期内待预测行人关联的道路数据；其中，所述位置数据是基于目标时刻驾驶环境图像的目标检测结果确定的；所述道路数据包括道路类型、道路参考线以及至少两个时刻的道路通行权限。
在上述方案的基础上，可选的，所述意图和朝向角确定模块320，具体用于：
将输入数据输入至预先训练的行为预测模型，确定待预测行人当前时刻匹配的运动意图以及运动朝向角；其中，所述运动意图包括直行、左转、右转、后退以及停止。
在一个可行的方案中，所述行为预测模型包括编码器和解码器；其中，所述编码器是基于注意力机制结构构建的；所述解码器包括运动意图预测分支以及运动朝向角预测分支。
本实施例中，可选的，所述轨迹预测结果确定模块330，具体用于：
根据预先确定的待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于运动模型，确定待预测行人当前周期的轨迹预测结果。
在上述方案的基础上，可选的，所述装置还包括运动速度确定模块，用于根据当前周期内待预测行人的至少两个时刻的位置数据，确定待预测行人的运动速度；
所述轨迹预测结果确定模块330，具体用于：
根据预先确定的待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于曲率速度模型，确定待预测行人当前周期的轨迹预测结果。
在一个优选的方案中，所述轨迹预测结果确定模块330，具体用于：
根据待预测行人的运动速度、待预测行人当前时刻的位置数据、待预测行人当前时刻匹配的运动意图以及运动朝向角，确定下一时刻的待预测行人的位置数据；
若下一时刻在当前周期内，则将下一时刻确定为当前时刻，返回执行获取行为预测模型的输入数据，直到下一时刻不在当前周期，输出待预测行人当前周期的轨迹预测结果。
本发明实施例所提供的行人轨迹的预测装置可执行本发明任意实施例所提供的行人轨迹的预测方法，具备执行方法相应的功能模块和有益效果。
实施例四
图4示出了可以用来实施本发明的实施例的电子设备410的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图4所示，电子设备410包括至少一个处理器411，以及与至少一个处理器411通信连接的存储器，如只读存储器(ROM)412、随机访问存储器(RAM)413等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器411可以根据存储在只读存储器(ROM)412中的计算机程序或者从存储单元418加载到随机访问存储器(RAM)413中的计算机程序，来执行各种适当的动作和处理。在RAM 413中，还可存储电子设备410操作所需的各种程序和数据。处理器411、ROM 412以及RAM 413通过总线414彼此相连。输入/输出(I/O)接口415也连接至总线414。
电子设备410中的多个部件连接至I/O接口415，包括：输入单元416，例如键盘、鼠标等；输出单元417，例如各种类型的显示器、扬声器等；存储单元418，例如磁盘、光盘等；以及通信单元419，例如网卡、调制解调器、无线通信收发机等。通信单元419允许电子设备410通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器411可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器411的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器411执行上文所描述的各个方法和处理，例如行人轨迹的预测方法。
在一些实施例中，行人轨迹的预测方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元418。在一些实施例中，计算机程序的部分或者全部可以经由ROM 412和/或通信单元419而被载入和/或安装到电子设备410上。当计算机程序加载到RAM 413并由处理器411执行时，可以执行上文描述的行人轨迹的预测方法的一个或多个步骤。备选地，在其他实施例中，处理器411可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行行人轨迹的预测方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种行人轨迹的预测方法，其特征在于，所述方法包括：
获取行为预测模型的输入数据；其中，所述输入数据包括待预测行人数据以及环境数据；
根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角；
根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。
2.根据权利要求1所述的方法，其特征在于，所述待预测行人数据包括当前时刻待预测行人的位置数据，以及当前周期内待预测行人的至少两个时刻的位置数据；所述环境数据包括当前周期预设范围内障碍物至少两个时刻的位置数据，以及当前周期内待预测行人关联的道路数据；其中，所述位置数据是基于目标时刻驾驶环境图像的目标检测结果确定的；所述道路数据包括道路类型、道路参考线以及至少两个时刻的道路通行权限。
3.根据权利要求2所述的方法，其特征在于，所述根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角，包括：
将输入数据输入至预先训练的行为预测模型，确定待预测行人当前时刻匹配的运动意图以及运动朝向角；其中，所述运动意图包括直行、左转、右转、后退以及停止。
4.根据权利要求3所述的方法，其特征在于，所述行为预测模型包括编码器和解码器；其中，所述编码器是基于注意力机制结构构建的；所述解码器包括运动意图预测分支以及运动朝向角预测分支。
5.根据权利要求3所述的方法，其特征在于，所述根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果，包括：
根据预先确定的待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于运动模型，确定待预测行人当前周期的轨迹预测结果。
6.根据权利要求5所述的方法，其特征在于，在获取行为预测模型的输入数据之后，所述方法还包括：
根据当前周期内待预测行人的至少两个时刻的位置数据，确定待预测行人的运动速度；
所述根据预先确定的待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于运动模型，确定待预测行人当前周期的轨迹预测结果，包括：
根据预先确定的待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于曲率速度模型，确定待预测行人当前周期的轨迹预测结果。
7.根据权利要求6所述的方法，其特征在于，所述根据预先确定的待预测行人的运动速度、待预测行人当前时刻匹配的运动意图以及运动朝向角，基于曲率速度模型，确定待预测行人当前周期的轨迹预测结果，包括：
根据待预测行人的运动速度、待预测行人当前时刻的位置数据、待预测行人当前时刻匹配的运动意图以及运动朝向角，确定下一时刻的待预测行人的位置数据；
若下一时刻在当前周期内，则将下一时刻确定为当前时刻，返回执行获取行为预测模型的输入数据，直到下一时刻不在当前周期，输出待预测行人当前周期的轨迹预测结果。
8.一种行人轨迹的预测装置，其特征在于，所述装置包括：
输入数据获取模块，用于获取行为预测模型的输入数据；其中，所述输入数据包括待预测行人数据以及环境数据；
意图和朝向角确定模块，用于根据输入数据以及预先训练的行为预测模型，确定待预测行人的运动意图以及运动朝向角；
轨迹预测结果确定模块，用于根据运动意图、运动朝向角以及预先确定的待预测行人的运动速度，确定待预测行人的轨迹预测结果。
9.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的行人轨迹的预测方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的行人轨迹的预测方法。
CN202310644686.7A 2023-06-01 2023-06-01 一种行人轨迹的预测方法、装置、电子设备及存储介质 Pending CN116665250A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310644686.7A CN116665250A (zh) 2023-06-01 2023-06-01 一种行人轨迹的预测方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310644686.7A CN116665250A (zh) 2023-06-01 2023-06-01 一种行人轨迹的预测方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN116665250A true CN116665250A (zh) 2023-08-29

Family

ID=87720269

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310644686.7A Pending CN116665250A (zh) 2023-06-01 2023-06-01 一种行人轨迹的预测方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN116665250A (zh)

Similar Documents

Publication Publication Date Title
CN112419722B (zh) 交通异常事件检测方法、交通管控方法、设备和介质
CN113221677A (zh) 一种轨迹异常检测方法、装置、路侧设备和云控平台
CN112200830A (zh) 一种目标跟踪方法及设备
CN115909749B (zh) 车辆运行道路风险预警方法、装置、设备及存储介质
CN113378693B (zh) 生成目标检测系统和检测目标的方法及装置
CN113887400B (zh) 障碍物检测方法、模型训练方法、装置及自动驾驶车辆
CN116499487B (zh) 一种车辆的路径规划方法、装置、设备及介质
CN117168488A (zh) 一种车辆的路径规划方法、装置、设备及介质
CN116358584A (zh) 一种自动驾驶车辆路径规划方法、装置、设备及介质
CN115147809B (zh) 一种障碍物检测方法、装置、设备以及存储介质
CN116749996A (zh) 轨迹预测方法、装置、电子设备及存储介质
CN116295496A (zh) 一种自动驾驶车辆路径规划方法、装置、设备及介质
CN116665250A (zh) 一种行人轨迹的预测方法、装置、电子设备及存储介质
CN114030483A (zh) 车辆控制方法、装置、电子设备和介质
CN112907949B (zh) 交通异常的检测方法、模型的训练方法及装置
CN116295495A (zh) 一种自动驾驶车辆路径规划方法、装置、设备及介质
US20240062386A1 (en) High throughput point cloud processing
Adarsh Real-Time Speed Bump Detection Using Image Segmentation for Autonomous Vehicles
CN117710459A (zh) 三维信息的确定方法、装置及计算机程序产品
CN118004215A (zh) 基于改进DenseTnt模型的自动驾驶轨迹预测方法
CN117928577A (zh) 一种路径规划方法、装置、电子设备及存储介质
CN116853295A (zh) 一种障碍物轨迹预测方法、装置、设备和介质
CN116811883A (zh) 障碍物运动轨迹生成方法、装置、设备以及自动驾驶车辆
CN117746386A (zh) 目标对象的位置感知方法、装置及计算机程序产品
CN116311142A (zh) 多传感器障碍物类别融合的方法、设备及自动驾驶车辆

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination