CN116245183B - 基于图神经网络的交通场景泛化理解方法及装置 - Google Patents
基于图神经网络的交通场景泛化理解方法及装置 Download PDFInfo
- Publication number
- CN116245183B CN116245183B CN202310184279.2A CN202310184279A CN116245183B CN 116245183 B CN116245183 B CN 116245183B CN 202310184279 A CN202310184279 A CN 202310184279A CN 116245183 B CN116245183 B CN 116245183B
- Authority
- CN
- China
- Prior art keywords
- scene
- node
- graph
- traffic
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 56
- 239000013598 vector Substances 0.000 claims abstract description 89
- 239000003795 chemical substances by application Substances 0.000 claims abstract description 73
- 230000003993 interaction Effects 0.000 claims abstract description 40
- 238000012549 training Methods 0.000 claims abstract description 9
- 230000001133 acceleration Effects 0.000 claims description 25
- 238000011176 pooling Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 7
- 238000003860 storage Methods 0.000 claims description 6
- 230000002452 interceptive effect Effects 0.000 claims description 4
- 238000010276 construction Methods 0.000 claims description 3
- 238000011156 evaluation Methods 0.000 abstract description 17
- 238000009826 distribution Methods 0.000 abstract description 10
- 238000013461 design Methods 0.000 abstract description 8
- 238000005516 engineering process Methods 0.000 abstract description 7
- 238000007619 statistical method Methods 0.000 abstract description 7
- 239000011159 matrix material Substances 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012502 risk assessment Methods 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000005381 potential energy Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Abstract
本申请涉及一种基于图神经网络的交通场景泛化理解方法及装置，其中，方法包括：获取原始交通场景智能体信息；基于原始交通场景智能体信息，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量；利用经过编码的节点特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，以体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图。由此，解决了相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性等问题。
Description
技术领域
本申请涉及自动驾驶交通场景理解技术领域，特别涉及一种基于图神经网络的交通场景泛化理解方法及装置。
背景技术
智能网联汽车(ICV)的场景理解与评估是自动驾驶的关键技术之一。在接受到周围交通环境的实时以及历史信息后，为了做出决策、控制等自动驾驶指令，需要对原始的物理信息进行进一步提炼，实现对复杂交通场景的语义化理解与评估。
相关技术中，交通场景理解方法大致可以分为三类：一类为基于物理规则指标的方法，基于TTC(预期碰撞时间)、THW(预期车头时距)等单一物理规则，对智能车辆周围的智能体进行一一计算；第二类为基于大数据分布的统计法，设定几类统计指标(例如事故发生率等)，通过对历史一段时间的统计，对当前交通事件形成评估；第三类为基于交互物理模型的方法，例如将交通场景中的智能体抽象为弹簧-阻尼模型、基于态势场的能量模型等。
然而，相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性，亟待改善。
发明内容
本申请提供一种基于图神经网络的交通场景泛化理解方法及装置，以解决相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性等问题。
本申请第一方面实施例提供一种基于图神经网络的交通场景泛化理解方法，包括以下步骤：获取原始交通场景智能体信息；基于所述原始交通场景智能体信息，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量；以及利用所述经过编码的节点特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，以体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图。
可选地，在本申请的一个实施例中，所述构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量，包括：按照自车节点、他车节点、行人节点、骑车人节点、车道线节点、时间戳节点及预设的其他节点分别进行节点建模，并在所述特征向量中考虑物理属性场景特征、交互属性场景特征和交通规则场景特征。
可选地，在本申请的一个实施例中，所述物理属性场景特征包含自车以及周围智能体的位置、速度、加速度与类型，所述交互属性场景特征包含行车安全场区域池化能量与路权冲突，所述交通规则场景特征包含路线禁止以及车速限制。
可选地，在本申请的一个实施例中，所述构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量，还包括：利用预设编码结构将每个特征向量的数据结构进行对齐，并使用两层线性全连接层构成的多层感知机神经网络进行编码。
可选地，在本申请的一个实施例中，所述原始交通场景智能体信息包括场景中包含的智能体的先前预设时长内的位置、速度、加速度、类型和局部地图信息。
本申请第二方面实施例提供一种基于图神经网络的交通场景泛化理解装置，包括：获取模块，用于获取原始交通场景智能体信息；生成模块，用于基于所述原始交通场景智能体信息，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量；以及体现模块，用于利用所述经过编码的节点特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，以体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图。
可选地，在本申请的一个实施例中，所述生成模块包括：建模单元，用于按照自车节点、他车节点、行人节点、骑车人节点、车道线节点、时间戳节点及预设的其他节点分别进行节点建模，并在所述特征向量中考虑物理属性场景特征、交互属性场景特征和交通规则场景特征。
可选地，在本申请的一个实施例中，所述物理属性场景特征包含自车以及周围智能体的位置、速度、加速度与类型，所述交互属性场景特征包含行车安全场区域池化能量与路权冲突，所述交通规则场景特征包含路线禁止以及车速限制。
可选地，在本申请的一个实施例中，所述生成模块还包括：编码单元，用于利用预设编码结构将每个特征向量的数据结构进行对齐，并使用两层线性全连接层构成的多层感知机神经网络进行编码。
可选地，在本申请的一个实施例中，所述原始交通场景智能体信息包括场景中包含的智能体的先前预设时长内的位置、速度、加速度、类型和局部地图信息。
本申请第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的基于图神经网络的交通场景泛化理解方法。
本申请第四方面实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储计算机程序，该程序被处理器执行时实现如上的基于图神经网络的交通场景泛化理解方法。
本申请实施例可以基于图数据结构，将交通场景要素分为五类子节点，并基于多种交通场景特征定义节点特征向量，通过图神经网络形成场景理解图数据结构，实现可泛化、语义化的复杂交通场景推理与理解，支撑多类下游决策与控制任务，提升算法泛化性，保证较高性能。由此，解决了相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性等问题。
本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为根据本申请实施例提供的一种基于图神经网络的交通场景泛化理解方法的流程图；
图2为根据本申请一个实施例的基于图神经网络的交通场景泛化理解方法的原理示意图；
图3为根据本申请一个实施例的基于图神经网络的交通场景泛化理解方法的自车周边扩展区域示意图；
图4为根据本申请一个实施例的基于图神经网络的交通场景泛化理解方法的行车安全场示意图；
图5为根据本申请一个实施例的基于图神经网络的交通场景泛化理解方法的行车安全场区域池化能量原理示意图；
图6为根据本申请一个实施例的基于图神经网络的交通场景泛化理解方法的路权冲突示意图；
图7为根据本申请一个实施例的基于图神经网络的交通场景泛化理解方法的轨迹预测解码器结构原理示意图；
图8为根据本申请一个实施例的基于图神经网络的交通场景泛化理解方法的轨迹预测实例原理示意图；
图9为根据本申请实施例提供的一种基于图神经网络的交通场景泛化理解装置的结构示意图；
图10为根据本申请实施例提供的电子设备的结构示意图。
具体实施方式
下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。
下面参考附图描述本申请实施例的基于图神经网络的交通场景泛化理解方法及装置。针对上述背景技术中心提到的相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性的问题，本申请提供了一种基于图神经网络的交通场景泛化理解方法，在该方法中，可以基于图数据结构，将交通场景要素分为五类子节点，并基于多种交通场景特征定义节点特征向量，通过图神经网络形成场景理解图数据结构，实现可泛化、语义化的复杂交通场景推理与理解，支撑多类下游决策与控制任务，提升算法泛化性，保证较高性能。由此，解决了相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性等问题。
具体而言，图1为本申请实施例所提供的一种基于图神经网络的交通场景泛化理解方法的流程示意图。
如图1所示，该基于图神经网络的交通场景泛化理解方法包括以下步骤：
在步骤S101中，获取原始交通场景智能体信息。
在实际执行过程中，本申请实施例可以获取原始交通场景智能体信息，从而为后续构建语义理解动态有向图提供依据，进而实现可泛化、语义化的复杂交通场景推理与理解，保证可以支撑例如轨迹预测、风险评估等自动驾驶下游决策与控制任务。
可选地，在本申请的一个实施例中，原始交通场景智能体信息包括场景中包含的智能体的先前预设时长内的位置、速度、加速度、类型和局部地图信息。
在实际执行过程中，本申请实施例可以收集原始交通场景智能体信息，包括但不限于：场景中包含的智能体的先前10秒内的位置、加速度、类型(包括但不限于行人、骑车人、车辆和其他物体等)和局部高精度地图信息，局部高精度地图包括基础道路路网拓扑、交通信号灯实时相位等基础信息，通过收集交通场景智能体信息，进一步实现可泛化、语义化的复杂交通场景推理与理解。
需要说明的是，预设时长可以由本领域技术人员根据实际情况进行设置，在此不作具体限制。
在步骤S102中，基于原始交通场景智能体信息，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量。
一些实施例中，可以根据获取的原始交通场景智能体信息，构建子图节点和原始交通场景智能体信息相对应的特征向量进行编码，如通过创建图节点类进行节点建模、创建物理属性和创建交互属性特征，生成经过编码的节点特征向量，实现对复杂交通场景的泛化理解与语义化抽象，提升算法泛化性并保证较高性能。
可选地，在本申请的一个实施例中，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量，包括：按照自车节点、他车节点、行人节点、骑车人节点、车道线节点、时间戳节点及预设的其他节点分别进行节点建模，并在特征向量中考虑物理属性场景特征、交互属性场景特征和交通规则场景特征。
另一些实施例中，可以创建图节点类，按照自车节点、他车节点、行人节点、骑车人节点、车道线节点、时间戳节点及预设的其他节点等七类分别进行节点建模，对于每个节点，定义初始属性PNode如下：
PNode＝[xytype]
其中，x为该节点所对应实体相对自车的相对横向偏移量，y为该节点所对应实体相对自车的相对纵向偏移量，type为该节点所属于的类型。
本申请实施例可以当不存在实体时，x和y均赋值为0，type为该节点所属于的类型，若为自车则为0，若为他车则为1，若为行人则为2，若为骑车人则为3，若为其他则为4，若为车道线则为5，若为时间戳则为6。
进一步地，本申请实施例可以创建节点特征向量，在特征向量中考虑物理属性场景特征、交互属性场景特征和交通规则场景特征，从而进一步提升算法泛化性并保证较高性能。
可选地，在本申请的一个实施例中，物理属性场景特征包含自车以及周围智能体的位置、速度、加速度与类型，交互属性场景特征包含行车安全场区域池化能量与路权冲突，交通规则场景特征包含路线禁止以及车速限制。
在实际执行过程中，本申请实施例可以创建物理属性，其中，物理属性包括但不限于：自车历史轨迹、自车速度、自车加速度、周围智能体位置、周围智能体速度、周围智能体加速度和周围智能体属性等7类数据，其中，自车历史轨迹：以当前自车行驶方向为x轴，当前行驶方向正左侧为y轴，将自车的历史轨迹相对x、y轴坐标按照时间顺序由近至远排列成向量；自车速度：构建相同坐标系，将自车当前时刻的速度拆解为横向速度以及纵向速度，并排列为2维向量；自车加速度：构建相同坐标系，将自车当前时刻的加速度拆解为横向加速度以及纵向加速度，并排列为2维向量；周围智能体位置：首先，基于自车坐标，向四周扩展11个识别区域，如图3所示，分别命名为+1、+2、+3、1、2、3、4、5、6、7、8区域，每个区域长10米，宽3.5米；其次，对于每个区域，判断其中是否有其他智能体，若是则记录其具体坐标(含x、y轴坐标)，若否则记[0，0]；最后，将结果整理为与周边区域相同形状与位置的4×3的位置矩阵，其中矩阵中的每个元素为二维向量，含x轴以及y轴分量。
本申请实施例中的周围智能体速度：与周围智能体位置中定义类似，若对应区域中存在智能体，则在矩阵对应位置记录其x、y轴上的速度分量，若不存在则记为[0，0]；周围智能体加速度：与周围智能体位置中定义类似，若对应区域中存在智能体，则在矩阵对应位置记录其x、y轴上的加速度分量，若不存在则记为[0，0]；周围智能体属性：与周围智能体位置中定义类似，若对应区域中存在智能体，则在矩阵对应位置记录其智能体类型，若为他车则为1，若为行人则为2，若为骑车人则为3，若为其他则为4。
进一步地，本申请实施例可以创建交互属性特征，其中，交互属性场景特征包含行车安全场区域池化能量与路权冲突2类数据，行车安全场区域池化能量矩阵：首先，基于行车安全场建立当前场景的全局态势能量，如图4所示，随后，根据图3中的周边扩展区域定义，对于与自车平行或自车前方的区域(即+1、+2、+3、1、2、3、4、5区域)分别求得该区域内的态势能量均值，如图5所示，并整理为3×3的池化能量矩阵，行车安全场区域池化能量可以综合量化地评估其他车辆对于自车的风险，由于自车倾向于向自车周围风险较小的区域行驶，因此，通过比较各个区域之间的相对风险大小，可以对于自车未来决策进行参考，得到初始的运动趋势；本申请实施例中的路权冲突矩阵：首先，基于图3中的自车周边扩展区域，判断各个区域中是否有智能体，若无则标记0，若有则判断该智能体是否与自车产生冲突，如图6所示，具体判断方法基于常速度模型，假设自车以及该智能体速度不变，计算得到未来自车以及智能体的位置坐标，若两者间距小于半车长，则判定为有可能发生冲突，记1，若无则记0；最后，将冲突结果整理为4×3的矩阵。
接下来，本申请实施例可以创建交通规则特征，其中，交通规则场景特征包含路线禁止向量车速限制向量2类数据，路线禁止向量：路线禁止向量LaneProhib定义如下，其中，left指代当前自车所在路段左侧路段是否可通行，若是则为1，若否则为0；success指代当前自车所在路段的后继路段(即正前方同车道)是否可通行，若是则为1，若否则为0；right指代当前自车所在路段右侧路段是否可通行，若是则为1，若否则为0，
本申请实施例中的车速限制向量：车速限制向量SperdLimit如下，其中vmax为当前车道最高限速，vmin为当前车道最低限速，
SpeedLimit＝[vmaxvmin]
至此，所有节点特征向量元素构建完毕，将所有11类特征整理为向量，作为节点整体的特征向量，基于图数据结构，将交通场景要素分为5类子节点，并基于3类11种交通场景特征定义节点特征向量，实现可泛化、语义化的场景交通场景推理与理解。
可选地，在本申请的一个实施例中，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量，还包括：利用预设编码结构将每个特征向量的数据结构进行对齐，并使用两层线性全连接层构成的多层感知机神经网络进行编码。
在实际执行过程中，本申请实施例可以对图节点特征向量进行编码，由于11类特征向量的数据尺寸并不相同，因此，需要使用编码结构将11类特征向量对齐，以便输入至后续的全局场景理解图，本申请实施例可以使用两层线性全连接层构成的多层感知机神经网络进行编码，将11类节点特征编码为15维的向量，从而进一步地实现可泛化、语义化的场景交通场景推理与理解。
在步骤S103中，利用经过编码的节点特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，以体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图。
可以理解的是，本申请实施例中的图是一种特定的数据结构，在若干节点之间，通过边进行连通，动态有向图是一种特殊的图数据结构，其边具有方向性，且边带有量化权重，同时图的节点数量以及边的数量可以随时间动态变化，图数据结构不依赖于空间分布，能够表达智能体之间的交互性，是一种较好的交通场景理解介质，而图神经网络是一种基于图数据结构产生语义化理解的方法。
作为一种可能实现的方式，本申请实施例可以构建全局场景理解图，利用经过编码的节点特征向量作为输入，构建动态有向图，图神经网络结构采用现有的两层图卷积层叠加交叉注意力层，通过图卷积神经网络训练得到节点之间边的参数向量，体现交通场景中各智能体以及环境之间的相互作用，形成可以表达当前交通场景的语义化场景理解图，从而实现可泛化、语义化的场景交通场景推理与理解，支撑多类下游自动驾驶任务，例如行为层决策、轨迹预测、风险评估等。
具体地，结合图2、图7和图8所示，以一个具体实施例对本申请实施例的基于图神经网络的交通场景泛化理解方法的工作原理进行详细阐述。
如图2所示，本申请实施例可以包括原始场景、子图节点、节点特征向量和场景理解图，其中，原始交通场景智能体信息，包括位置、速度、加速度、类别等；构建子图节点以及其特征向量并编码，按照自车、他车、行人、车道线、时间戳、其他等七类分别进行节点建模，并在节点特征向量中考虑物理属性、交互属性、交通规则三类场景特征，其中，物理属性包含自车以及周围智能体的位置、速度、加速度与类型，交互属性包含行车安全场区域池化能量和路权冲突，交通规则包含路线禁止和车速限制；基于定义节点和对应的特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图。
如图7所示，本申请实施例可以进行测试，以轨迹预测下游任务为例，与现有国内外先进方法进行比较，基于开源数据集Argoverse数据进行节点特征提取以及全局场景理解图数据构建，并设计解码模块，将动态有向图转化为实际的预测轨迹。
如图8所示，本申请实施例中的圆点表示自车和其他智能体，三条不同线段表示他车实时轨迹、自车预测结果和实际运动轨迹，本申请实施例可以有效完成对于复杂场景的语义理解，并支撑下游轨迹预测任务，预测精度良好，时间准确。
本申请实施例所衍生的方法与国际现有方法的预测性能对比，minADE为预测路线平均误差，minFDE为预测终点平均误差，由实验数据可得本方法两类误差均相较于现有方法更低，而更好的预测精度反映了对于复杂交通场景的语义化全面理解，表1为预测性能对比表，其中，如表1所示：
表1
| Model | minADE(m) | minFDE(m) |
| LSTM | 1.66 | 3.74 |
| Transformer | 1.54 | 3.45 |
| VectorNet | 1.66 | 3.67 |
| 本申请 | 1.40 | 3.06 |
根据本申请实施例提出的基于图神经网络的交通场景泛化理解方法，可以基于图数据结构，将交通场景要素分为五类子节点，并基于多种交通场景特征定义节点特征向量，通过图神经网络形成场景理解图数据结构，实现可泛化、语义化的复杂交通场景推理与理解，支撑多类下游决策与控制任务，提升算法泛化性，保证较高性能。由此，解决了相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性的问题。
其次参照附图描述根据本申请实施例提出的基于图神经网络的交通场景泛化理解装置。
图9是本申请实施例的基于图神经网络的交通场景泛化理解装置的结构示意图。
如图9所示，该基于图神经网络的交通场景泛化理解装置10包括：获取模块100、生成模块200和体现模块300。
具体地，获取模块100，用于获取原始交通场景智能体信息。
生成模块200，用于基于原始交通场景智能体信息，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量。
体现模块300，用于利用经过编码的节点特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，以体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图。
可选地，在本申请的一个实施例中，生成模块200包括：建模单元。
其中，建模单元，用于按照自车节点、他车节点、行人节点、骑车人节点、车道线节点、时间戳节点及预设的其他节点分别进行节点建模，并在特征向量中考虑物理属性场景特征、交互属性场景特征和交通规则场景特征。
可选地，在本申请的一个实施例中，物理属性场景特征包含自车以及周围智能体的位置、速度、加速度与类型，交互属性场景特征包含行车安全场区域池化能量与路权冲突，交通规则场景特征包含路线禁止以及车速限制。
可选地，在本申请的一个实施例中，生成模块200还包括：编码单元。
其中，编码单元，用于利用预设编码结构将每个特征向量的数据结构进行对齐，并使用两层线性全连接层构成的多层感知机神经网络进行编码。
可选地，在本申请的一个实施例中，原始交通场景智能体信息包括场景中包含的智能体的先前预设时长内的位置、速度、加速度、类型和局部地图信息。
需要说明的是，前述对基于图神经网络的交通场景泛化理解方法实施例的解释说明也适用于该实施例的基于图神经网络的交通场景泛化理解装置，此处不再赘述。
根据本申请实施例提出的基于图神经网络的交通场景泛化理解装置，可以基于图数据结构，将交通场景要素分为五类子节点，并基于多种交通场景特征定义节点特征向量，通过图神经网络形成场景理解图数据结构，实现可泛化、语义化的复杂交通场景推理与理解，支撑多类下游决策与控制任务，提升算法泛化性，保证较高性能。由此，解决了相关技术中，基于物理规则指标的方法评价标准过于单一，无法处理复杂交互场景，基于大数据分布的统计方法时效性差，应对突发的交通事件无法做出实时评估，基于交互物理模型的方法需要针对特定场景进行参数调优与设计，不具备场景泛化性的问题。
图10为本申请实施例提供的电子设备的结构示意图。该电子设备可以包括：
存储器1001、处理器1002及存储在存储器1001上并可在处理器1002上运行的计算机程序。
处理器1002执行程序时实现上述实施例中提供的基于图神经网络的交通场景泛化理解方法。
进一步地，电子设备还包括：
通信接口1003，用于存储器1001和处理器1002之间的通信。
存储器1001，用于存放可在处理器1002上运行的计算机程序。
存储器1001可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
如果存储器1001、处理器1002和通信接口1003独立实现，则通信接口1003、存储器1001和处理器1002可以通过总线相互连接并完成相互间的通信。总线可以是工业标准体系结构(Industry Standard Architecture，简称为ISA)总线、外部设备互连(PeripheralComponent，简称为PCI)总线或扩展工业标准体系结构(Extended Industry StandardArchitecture，简称为EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图10中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
可选地，在具体实现上，如果存储器1001、处理器1002及通信接口1003，集成在一块芯片上实现，则存储器1001、处理器1002及通信接口1003可以通过内部接口完成相互间的通信。
处理器1002可能是一个中央处理器(Central Processing Unit，简称为CPU)，或者是特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者是被配置成实施本申请实施例的一个或多个集成电路。
本实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的基于图神经网络的交通场景泛化理解方法。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“N个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或N个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (8)
1.一种基于图神经网络的交通场景泛化理解方法，其特征在于，包括以下步骤：
获取原始交通场景智能体信息；所述原始交通场景智能体信息包括场景中包含的智能体的先前预设时长内的位置、速度、加速度、类型和局部地图信息；
基于所述原始交通场景智能体信息，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量；以及
利用所述经过编码的节点特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，以体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图；
所述构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量，还包括：
利用预设编码结构将每个特征向量的数据结构进行对齐，并使用两层线性全连接层构成的多层感知机神经网络进行编码。
2.根据权利要求1所述的方法，其特征在于，所述构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量，包括：
按照自车节点、他车节点、行人节点、骑车人节点、车道线节点、时间戳节点及预设的其他节点分别进行节点建模，并在所述特征向量中考虑物理属性场景特征、交互属性场景特征和交通规则场景特征。
3.根据权利要求2所述的方法，其特征在于，所述物理属性场景特征包含自车以及周围智能体的位置、速度、加速度与类型，所述交互属性场景特征包含行车安全场区域池化能量与路权冲突，所述交通规则场景特征包含路线禁止以及车速限制。
4.一种基于图神经网络的交通场景泛化理解装置，其特征在于，包括：
获取模块，用于获取原始交通场景智能体信息；所述原始交通场景智能体信息包括场景中包含的智能体的先前预设时长内的位置、速度、加速度、类型和局部地图信息；
生成模块，用于基于所述原始交通场景智能体信息，构建子图节点和对应的特征向量并编码，生成经过编码的节点特征向量；以及
体现模块，用于利用所述经过编码的节点特征向量，构建动态有向图，并通过图卷积神经网络训练得到节点之间边的参数向量，以体现交通场景中各智能体以及环境之间的相互作用，形成场景理解图；
所述生成模块还包括：
编码单元，用于利用预设编码结构将每个特征向量的数据结构进行对齐，并使用两层线性全连接层构成的多层感知机神经网络进行编码。
5.根据权利要求4所述的装置，其特征在于，所述生成模块包括：
建模单元，用于按照自车节点、他车节点、行人节点、骑车人节点、车道线节点、时间戳节点及预设的其他节点分别进行节点建模，并在所述特征向量中考虑物理属性场景特征、交互属性场景特征和交通规则场景特征。
6.根据权利要求5所述的装置，其特征在于，所述物理属性场景特征包含自车以及周围智能体的位置、速度、加速度与类型，所述交互属性场景特征包含行车安全场区域池化能量与路权冲突，所述交通规则场景特征包含路线禁止以及车速限制。
7.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如权利要求1-3任一项所述的基于图神经网络的交通场景泛化理解方法。
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行，以用于实现如权利要求1-3任一项所述的基于图神经网络的交通场景泛化理解方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310184279.2A CN116245183B (zh) | 2023-02-28 | 2023-02-28 | 基于图神经网络的交通场景泛化理解方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310184279.2A CN116245183B (zh) | 2023-02-28 | 2023-02-28 | 基于图神经网络的交通场景泛化理解方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116245183A CN116245183A (zh) | 2023-06-09 |
| CN116245183B true CN116245183B (zh) | 2023-11-07 |
Family
ID=86623877
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310184279.2A Active CN116245183B (zh) | 2023-02-28 | 2023-02-28 | 基于图神经网络的交通场景泛化理解方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116245183B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117349388B (zh) * | 2023-12-05 | 2024-02-20 | 南京智绘星图信息科技有限公司 | 数据时效性确定方法、电子设备 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111931905A (zh) * | 2020-07-13 | 2020-11-13 | 江苏大学 | 一种图卷积神经网络模型、及利用该模型的车辆轨迹预测方法 |
| CN112382082A (zh) * | 2020-09-30 | 2021-02-19 | 银江股份有限公司 | 一种拥堵区域交通运行状态预测方法及系统 |
| CN113689052A (zh) * | 2021-09-06 | 2021-11-23 | 北京航空航天大学 | 一种基于张量积神经网络的出行需求预测方法 |
| CN114548674A (zh) * | 2022-01-17 | 2022-05-27 | 清华大学 | 面向多智能体对抗场景的威胁态势评估方法、装置及设备 |
| CN114655247A (zh) * | 2022-02-08 | 2022-06-24 | 江苏大学 | 基于matt-gnn的周边车辆轨迹预测方法及系统 |
| CN115071762A (zh) * | 2022-08-22 | 2022-09-20 | 北京理工大学前沿技术研究院 | 面向城市场景下行人轨迹预测方法、模型及存储介质 |
| WO2022203593A1 (en) * | 2021-03-23 | 2022-09-29 | Grabtaxi Holdings Pte. Ltd | System and method for predicting road traffic speed |
| CN115273029A (zh) * | 2022-07-25 | 2022-11-01 | 上海人工智能创新中心 | 一种基于异构图卷积网络的智能体运动预测方法 |
| CN115331460A (zh) * | 2022-07-25 | 2022-11-11 | 武汉理工大学 | 一种基于深度强化学习的大规模交通信号控制方法及装置 |
-
2023
- 2023-02-28 CN CN202310184279.2A patent/CN116245183B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111931905A (zh) * | 2020-07-13 | 2020-11-13 | 江苏大学 | 一种图卷积神经网络模型、及利用该模型的车辆轨迹预测方法 |
| CN112382082A (zh) * | 2020-09-30 | 2021-02-19 | 银江股份有限公司 | 一种拥堵区域交通运行状态预测方法及系统 |
| WO2022203593A1 (en) * | 2021-03-23 | 2022-09-29 | Grabtaxi Holdings Pte. Ltd | System and method for predicting road traffic speed |
| CN113689052A (zh) * | 2021-09-06 | 2021-11-23 | 北京航空航天大学 | 一种基于张量积神经网络的出行需求预测方法 |
| CN114548674A (zh) * | 2022-01-17 | 2022-05-27 | 清华大学 | 面向多智能体对抗场景的威胁态势评估方法、装置及设备 |
| CN114655247A (zh) * | 2022-02-08 | 2022-06-24 | 江苏大学 | 基于matt-gnn的周边车辆轨迹预测方法及系统 |
| CN115273029A (zh) * | 2022-07-25 | 2022-11-01 | 上海人工智能创新中心 | 一种基于异构图卷积网络的智能体运动预测方法 |
| CN115331460A (zh) * | 2022-07-25 | 2022-11-11 | 武汉理工大学 | 一种基于深度强化学习的大规模交通信号控制方法及装置 |
| CN115071762A (zh) * | 2022-08-22 | 2022-09-20 | 北京理工大学前沿技术研究院 | 面向城市场景下行人轨迹预测方法、模型及存储介质 |
Non-Patent Citations (3)
| Title |
|---|
| A Graph Convolution Network with Temporal Convolution for Long-term Traffic Flow Forecasting;Linyun Sun 等;《2021 IEEE 4th International Conference on Electronics and Communication Engineering》;301-305 * |
| 基于广义时空图卷积网络的交通群体运动态势预测;曲栩 等;《交通运输工程学报》;第22卷(第3期);79-88 * |
| 智能网联汽车架构、功能与应用关键技术;崔明阳 等;《清华大学学报（自然科学版）》;第62卷(第3期);493-508 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116245183A (zh) | 2023-06-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Mozaffari et al. | Deep learning-based vehicle behavior prediction for autonomous driving applications: A review | |
| US20230124864A1 (en) | Graph Representation Querying of Machine Learning Models for Traffic or Safety Rules | |
| CN107229973B (zh) | 一种用于车辆自动驾驶的策略网络模型的生成方法及装置 | |
| US11537134B1 (en) | Generating environmental input encoding for training neural networks | |
| Yoon et al. | Predictive cruise control using radial basis function network-based vehicle motion prediction and chance constrained model predictive control | |
| Chai et al. | Fuzzy cellular automata model for signalized intersections | |
| Vasconcelos et al. | Smartphone-based outlier detection: a complex event processing approach for driving behavior detection | |
| CN116245183B (zh) | 基于图神经网络的交通场景泛化理解方法及装置 | |
| CN114360239A (zh) | 一种多层时空交通知识图谱重建的交通预测方法及系统 | |
| EP4083959A1 (en) | Traffic flow machine-learning modeling system and method applied to vehicles | |
| CN115795808A (zh) | 一种自动驾驶决策危险场景生成方法、系统、设备及介质 | |
| US11100372B2 (en) | Training deep neural networks with synthetic images | |
| US20230339502A1 (en) | Safety measurement of autonomous vehicle driving | |
| CN115635961A (zh) | 样本数据生成方法及应用其的轨迹预测方法、装置 | |
| CN115909239A (zh) | 车辆意图识别方法、装置、计算机设备和存储介质 | |
| CN113867367B (zh) | 测试场景的处理方法、装置及计算机程序产品 | |
| CN113793520B (zh) | 车辆轨迹预测方法、装置及电子设备 | |
| Tang et al. | Trajectory prediction for autonomous driving based on multiscale spatial‐temporal graph | |
| Koenig et al. | Bridging the gap between open loop tests and statistical validation for highly automated driving | |
| Gao et al. | Discretionary cut-in driving behavior risk assessment based on naturalistic driving data | |
| Azam et al. | Driving behaviour modelling in the context of heterogeneous traffic and poor lane discipline conditions: the state of the art and beyond | |
| Otto et al. | Long-term trajectory classification and prediction of commercial vehicles for the application in advanced driver assistance systems | |
| Shu et al. | Test scenarios construction based on combinatorial testing strategy for automated vehicles | |
| CN114492544B (zh) | 模型训练方法及装置、交通事件发生概率评估方法及装置 | |
| CN113276860B (zh) | 车辆控制方法、装置、电子设备以及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |