CN118135542B - 一种障碍物动静态判定方法及其相关设备 - Google Patents
一种障碍物动静态判定方法及其相关设备 Download PDFInfo
- Publication number
- CN118135542B CN118135542B CN202410543894.2A CN202410543894A CN118135542B CN 118135542 B CN118135542 B CN 118135542B CN 202410543894 A CN202410543894 A CN 202410543894A CN 118135542 B CN118135542 B CN 118135542B
- Authority
- CN
- China
- Prior art keywords
- obstacle
- target
- frame
- image
- dynamic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003068 static effect Effects 0.000 title claims abstract description 64
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000009499 grossing Methods 0.000 claims abstract description 12
- 230000004888 barrier function Effects 0.000 claims description 48
- 238000000354 decomposition reaction Methods 0.000 claims description 27
- 238000004590 computer program Methods 0.000 claims description 13
- 238000001514 detection method Methods 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 abstract description 10
- 230000000694 effects Effects 0.000 abstract description 7
- 238000012545 processing Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 230000008878 coupling Effects 0.000 description 6
- 238000010168 coupling process Methods 0.000 description 6
- 238000005859 coupling reaction Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000010813 municipal solid waste Substances 0.000 description 3
- 238000000638 solvent extraction Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种障碍物动静态判定方法及其相关设备,判定方法包括:获取过去预设时间段内目标车辆前方的障碍物图像序列,依据障碍物图像序列计算障碍物图像序列中每一个目标障碍物的障碍物运动信息,获取目标车辆的自车运行信息,依据障碍物运动信息和自车运行信息计算每一个目标障碍物的障碍物特征值序列,将障碍物特征值序列输入动静态判定模型,对应得到目标障碍物的状态序列,对状态序列平滑处理得到当前时刻目标障碍物的状态结果。本发明通过获取过去时间段内障碍物和自车运行情况来确定当前时刻障碍物的动静态属性,以替代现有技术中仅采用速度大小来判定障碍物动静态的方式,达到了提高状态判定的稳定性和提高计算速度的技术效果。
Description
技术领域
本发明属于障碍物检测技术领域,特别涉及一种障碍物动静态判定方法及其相关设备。
背景技术
障碍物动静态判定是自动驾驶技术中的重要任务之一,它不仅影响着下游路径规划的稳定性,也关乎行车的稳定性和安全性。
自动驾驶技术包含激光雷达驾驶方案和纯视觉驾驶方案这两种不同的环境感知方法,其中激光雷达驾驶方案是通过发射激光脉冲并测量反射回来的光线来创建物体和环境的三维地图,该方案精度高但成本较高,且需要处理大量的点云数据,对计算资源要求较高;而纯视觉驾驶方案是依赖摄像头捕捉周围环境的图像并通过计算机视觉技术来识别和理解这些图像,该技术日益成熟且成本相对较低。因此,在园区或驾校等低速场景的自动驾驶中,一般采用纯视觉的自动驾驶方案,而由于相机测距容易受到诸多因素的影响,从而导致相机对障碍物的速度估计存在较大的波动和误差。
因此,针对低速驾驶场景,如何提供一种障碍物动静态判定方法,以替代现有技术中仅采用速度大小来判定障碍物动静态的方式,以达到提高状态判定的稳定性和提高计算速度地技术效果是本领域技术人员亟需解决的问题。
发明内容
本发明实施例提供了一种障碍物动静态判定方法及其相关设备,以解决上述至少一种技术问题。
第一方面,本发明提供了一种障碍物动静态判定方法,所述判定方法包括:
获取过去预设时间段内目标车辆前方的障碍物图像序列;
依据所述障碍物图像序列计算所述障碍物图像序列中每一个目标障碍物的障碍物运动信息,所述障碍物图像序列包括M帧障碍物图像,所述目标障碍物处于每一帧所述障碍物图像中;
获取所述目标车辆与M帧所述障碍物图像相对应的自车运行信息;
依据所述障碍物运动信息和所述自车运行信息计算每一个所述目标障碍物的障碍物特征值序列;
将所述障碍物特征值序列输入动静态判定模型,对应得到所述目标障碍物的状态序列,所述状态序列包括M个状态值;
对所述状态序列平滑处理,得到当前时刻所述目标障碍物的状态结果,所述状态结果包括动态结果或静态结果。
优选地,所述依据所述障碍物图像序列计算所述障碍物图像序列中每一个目标障碍物的障碍物运动信息,包括:
识别M帧所述障碍物图像中的所有目标障碍物;
将每一帧所述障碍物图像中的每一个所述目标障碍物通过一个最小检测框标记,所述最小检测框是将所述目标障碍物包围在内的最小矩形框;
计算每一帧所述障碍物图像中每一个所述目标障碍物的障碍物信息队列,
M个所述障碍物信息队列形成所述障碍物运动信息。
优选地,所述计算每一帧所述障碍物图像中每一个所述目标障碍物的障碍物信息队列,包括:
计算第i帧所述障碍物图像中任意一个所述目标障碍物的障碍物信息队列,所述,所述为所述目标障碍物的类型,所述为所述目标障碍物的第i帧速度,所述为所述沿预设坐标系的X轴方向分解的分解速度,所述为所述沿预设坐标系的Y轴方向分解的分解速度,所述为第i帧中所述目标障碍物对应的所述最小识别框的左上顶点的横像素坐标与所述障碍物图像的像素宽度的比值,所述为第i帧中所述目标障碍物对应的所述最小识别框的左上顶点的纵像素坐标与所述障碍物图像的像素高度的比值,所述为第i帧中所述目标障碍物对应的所述最小识别框的右下顶点的横像素坐标与所述障碍物图像的像素宽度的比值,所述为所述目标障碍物对应的所述最小识别框的右下顶点的纵像素坐标与所述障碍物图像的像素高度的比值;
其中所述i为大于等于1且小于等于M的正整数。
优选地,所述获取所述目标车辆与M帧所述障碍物图像相对应的自车运行信息,包括:
获取所述目标车辆与每一帧所述障碍物图像相对应的自车信息队列,
M个所述自车队列信息形成所述自车运行信息。
优选地,所述获取所述目标车辆与每一帧所述障碍物图像相对应的自车信息队列,包括:
获取与第i帧所述障碍物图像对应的所述自车信息队列,所述,所述为第i帧时所述目标车辆的速度,所述为所述沿预设坐标系X方向分解的速度,所述为所述沿预设坐标系Y方向分解的分解速度,所述为第i帧时所述目标车辆在预设坐标系下的车辆朝向角度,所述的取值范围为。
优选地,所述依据所述障碍物运动信息和所述自车运行信息计算每一个所述目标障碍物的障碍物特征值序列,包括:
计算与每一帧所述障碍物图像相对应的特征信息队列;
M个所述特征信息队列形成所述特征值序列。
优选地,所述计算与每一帧所述障碍物图像相对应的特征信息队列,包括:
计算与第i帧所述障碍物图像相对应的特征信息队列,所述包括、、、、、、、、、、、、、、、;
所述;所述;所述;所述;所述;所述;所述;所述,;所述,;所述,;所述;所述;所述;所述;所述;所述;
其中,k为预设参数,T为目标障碍物的类型总个数。
优选地,所述对所述状态序列平滑处理,得到当前时刻所述目标障碍物的状态结果,包括:
从所述状态序列中获取当前时刻最近的N个状态值;
判断所述N个状态值是否相同;
若所述N个状态值相同,则依据所述N个状态值确定当前时刻所述目标障碍物的状态结果;
若所述N个状态值不相同,则确定上一时刻的状态结果为当前时刻所述目标障碍物的状态结果;
其中,所述N为大于1小于M的正整数,所述上一时刻与所述当前时刻的时间间隔为所述预设时间段。
第二方面,本申请还提供一种电子设备,包括:存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序,所述处理器用于执行存储器中存储的计算机程序时实现如第一方面中任一项障碍物动静态判定方法。
第三方面,本申请还提供一种计算机可读存储介质,其上存储有计算机程序:所述计算机程序被处理器执行时实现如第一方面中任一项障碍物动静态判定方法。
有益效果:
本发明提出了一种障碍物动静态判定方法,通过获取过去预设时间段内目标车辆前方的障碍物图像序列,依据障碍物图像序列计算障碍物图像序列中每一个目标障碍物的障碍物运动信息,其中该障碍物图像序列包括M帧障碍物图像,目标障碍物处于每一帧障碍物图像中;然后获取目标车辆与M帧障碍物图像相对应的自车运行信息,并依据障碍物运动信息和自车运行信息计算每一个目标障碍物的障碍物特征值序列;然后将该障碍物特征值序列输入动静态判定模型,对应得到目标障碍物的状态序列,状态序列包括M个状态值;对状态序列进行平滑处理得到当前时刻目标障碍物的状态结果,状态结果包括动态结果或静态结果。本发明通过获取过去时间段内障碍物和自车运行情况来确定当前时刻障碍物的动静态属性,以替代现有技术中仅采用速度大小来判定障碍物动静态的方式,首先通过计算障碍物图像序列中每一帧障碍物图像中每一个目标障碍物的障碍物运动信息和对应的自车运行信息,以提高对低速障碍物状态判定的准确性,然后通过将这些障碍物和自车运行情况输入深度学习网络,以利用其强大的非线性拟合能力,达到区分动静态属性的目的,最后通过平滑处理以形成稳定的状态结果输出,使得障碍物的状态在短时间内不会来回切换,达到了提高状态判定的稳定性和提高计算速度的技术效果。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中障碍物动静态判定方法的流程示意图;
图2为本发明实施例中的电子设备的一种结构示意图;
图3为本发明实施例中的计算机可读存储介质的一种结构示意图;
图4为本发明实施例中的RNN网络图;
图5为本发明实施例中的障碍物动静态判定结果的显示界面示意图;
图6为本发明实施例中的障碍物图像及最小检测框在像素坐标下的像素分布图。
具体实施方式
本申请提供了一种障碍物动静态判定方法及其相关设备,能够实现特定场景下低速障碍物的动静态判定,达到了提高状态判定的稳定性和提高计算速度地技术效果。
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或模块的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或模块,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或模块。在本申请中出现的对步骤进行的命名或者编号,并不意味着必须按照命名或者编号所指示的时间/逻辑先后顺序执行方法流程中的步骤,已经命名或者编号的流程步骤可以根据要实现的技术目的变更执行次序,只要能达到相同或者相类似的技术效果即可。
本申请中所出现的模块的划分,是一种逻辑上的划分,实际应用中实现时可以有另外的划分方式,例如多个模块可以结合成或集成在另一个系统中,或一些特征可以忽略,或不执行,另外,所显示的或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,模块之间的间接耦合或通信连接可以是电性或其他类似的形式,本申请中均不作限定。并且,作为分离部件说明的模块或子模块可以是也可以不是物理上的分离,可以是也可以不是物理模块,或者可以分布到多个电路模块中,可以根据实际的需要选择其中的部分或全部模块来实现本申请方案的目的。
在介绍本申请提供的障碍物动静态判定方法之前,首先介绍本申请所涉及的背景内容。
本申请提供的障碍物动静态判定方法,可应用于处理设备,用于通过获取过去预设时间段内目标车辆前方的障碍物图像序列,并依据障碍物图像序列计算每一个目标障碍物的特征值序列,以达到提高低速障碍物状态判定的稳定性和提高计算速度地技术效果。
本申请提及的障碍物动静态判定方法,其执行主体可以为障碍物动静态的判定装置,或者集成了该障碍物动静态判定装置的网络节点、服务器、物理主机或者用户设备(User Equipment,UE)等不同类型的处理设备。其中,备用公交路径预约装置可以采用硬件或者软件的方式实现,UE具体可以为智能手机、平板电脑、笔记本电脑、台式电脑或者个人数字助理(Personal Digital Assistant,PDA)等终端设备,处理设备可以通过设备集群的方式设置。
可以理解的是,本申请如果涉及网关产品,其既可以是以软件服务的形式配置的应用服务,需要在网络架构中搭载到相应的设备上才能作为实际意义上的网关节点,或者,也可以是直接为在网络架构中以设备形式存在的网关节点,这是随灵活的部署需求/应用需求来灵活调整的。
如此,执行本申请所提供的障碍物动静态判定的处理设备,具体可以为网络节点、服务器、物理主机或者UE等不同类型的设备,随实际需要进行灵活配置即可,本申请并不做具体限定。
如图1所示,本实施例一提供了一种障碍物动静态判定方法,该方法应用于纯视觉自动驾驶方案中,用于对园区或驾校等场景中的低速障碍物的动静态进行判定,所述判定方法具体包括以下步骤S110至步骤S160:
步骤S110、获取过去预设时间段内目标车辆前方的障碍物图像序列;
其中,过去预设时间段是紧邻当前时刻的过去时间段,具体可以为过去1秒内,可以理解,过去1秒内表示当前时刻的前1秒。在本申请的实施例中,可以获取当前时刻前1秒内目标车辆前方的障碍物图像序列。
该障碍物图像序列包括M帧障碍物图像。由于过短的图像序列长度(如8帧)将无法反应障碍物的变换情况而导致动静状态判断不准确,且过长的序列长度(如32帧)将导致障碍物状态获取延时太久,使得障碍物被感知到需等待一段较长时间(超过1s)才能确定其运动状态,因此作为一种较优的实现方式,本申请实施例中将障碍物图像序列确定为16帧,即取M为16。
其中,低速障碍物是指目标车辆前方行驶速度小于10km/h的障碍物。该障碍物可以是前方行驶的其他车辆、行人、路边的垃圾桶等类型。
步骤S120、依据所述障碍物图像序列计算所述障碍物图像序列中每一个目标障碍物的障碍物运动信息,所述障碍物图像序列包括M帧障碍物图像,所述目标障碍物处于每一帧所述障碍物图像中;所述M为大于等于1的正整数;
本领域技术人员可以理解,目标车辆前方的障碍物图像序列中的每一张障碍物图像中均可能涉及多个障碍物,也可能存在该障碍物仅出现在部分图像中的情况,而本申请实施例中所涉及的目标障碍物是存在于该障碍物图像序列的每一张障碍物图像中。且由于本申请是针对纯视觉的自动驾驶方案中的低速障碍物的动静态判定,因此通过计算障碍物图像序列中每一帧障碍物图像中每一个目标障碍物的障碍物运动信息,可以达到提高对低速障碍物状态判定的准确性。
作为一种可实现的方式,上述步骤S120中依据所述障碍物图像序列计算所述障碍物图像序列中每一个目标障碍物的障碍物运动信息,具体包括:
识别M帧所述障碍物图像中的所有目标障碍物;
将每一帧所述障碍物图像中的每一个所述目标障碍物通过一个最小检测框标记,所述最小检测框是将所述目标障碍物包围在内的最小矩形框;
计算每一帧所述障碍物图像中每一个所述目标障碍物的障碍物信息队列,
M个所述障碍物信息队列形成所述障碍物运动信息。
作为一种可实现的方式,如图5所示,不同类型的目标障碍物采用不同颜色的最小检测框标记,一对不同类型的障碍物进行区分。如障碍物车辆可以采用红色的外边框、行人可以采用蓝色的外边框、垃圾桶可以采用绿色的外边框。在具体的画面显示中,可以在最小检测框的左上角显示障碍物的动静态信息,如若障碍物为车辆,则该障碍物车辆的最小检测框的左上角可以显示“CAR-0-MOV”,其中CAR 表示类别;0表示跟踪id;MOV为运动状态,STA为静止状态。
作为一种可实现的方式,上述步骤计算每一帧所述障碍物图像中每一个所述目标障碍物的障碍物信息队列,具体包括以下计算内容:
计算第i帧所述障碍物图像中任意一个所述目标障碍物的障碍物信息队列,所述,所述为所述目标障碍物的类型,所述为所述目标障碍物的第i帧速度,所述为所述沿预设坐标系的X轴方向分解的分解速度,所述为所述沿预设坐标系的Y轴方向分解的分解速度,所述为第i帧中所述目标障碍物对应的所述最小识别框的左上顶点的横像素坐标与所述障碍物图像的像素宽度的比值,所述为第i帧中所述目标障碍物对应的所述最小识别框的左上顶点的纵像素坐标与所述障碍物图像的像素高度的比值,所述为第i帧中所述目标障碍物对应的所述最小识别框的右下顶点的横像素坐标与所述障碍物图像的像素宽度的比值,所述为所述目标障碍物对应的所述最小识别框的右下顶点的纵像素坐标与所述障碍物图像的像素高度的比值;
其中所述i为大于等于1且小于等于M的正整数。
由于第i帧所述障碍物图像中任意一个所述目标障碍物的障碍物信息队列为,则M个所述障碍物信息队列形成所述障碍物运动信息为。
其中,一般选取世界坐标系为预设坐标系。计算像素坐标时,是以障碍物图像的像素坐标系为基准计算的,而如图6所示,像素坐标系是以障碍物图像的左上角的顶点为原点建立的坐标系,且在计算之前需要对障碍物图像的像素宽度和像素高度进行统一,使得每一帧障碍物图像的像素宽度和像素高度保持相同,以便于得到归一化处理后的像素坐标。因此为第i帧中的一个目标障碍物对应的最小识别框的左上角顶点的横像素坐标与障碍物图像的像素宽度的比值,为第i帧中的一个目标障碍物对应的所述最小识别框的左上角顶点的纵像素坐标与障碍物图像的像素高度的比值,为第i帧中的一个目标障碍物对应的所述最小识别框的右下角顶点的横像素坐标与障碍物图像的像素宽度的比值,为第i帧中的一个目标障碍物对应的所述最小识别框的右下角顶点的纵像素坐标与障碍物图像的像素高度的比值。因此,、、、的取值范围均为[0,1)。
步骤S130、获取所述目标车辆与M帧所述障碍物图像相对应的自车运行信息;
作为一种可实现的方式,上述步骤S130中获取所述目标车辆与M帧所述障碍物图像相对应的自车运行信息,具体包括:
获取所述目标车辆与每一帧所述障碍物图像相对应的自车信息队列;
M个所述自车队列信息形成所述自车运行信息。
作为一种可实现的方式,上述步骤获取所述目标车辆与每一帧所述障碍物图像相对应的自车信息队列,包括:
获取与第i帧所述障碍物图像对应的所述自车信息队列,所述,所述为第i帧时所述目标车辆的速度,所述为所述沿预设坐标系X方向分解的速度,所述为所述沿预设坐标系Y方向分解的速度,所述为第i帧时所述目标车辆在预设坐标系下的车辆朝向角度,所述的取值范围为。
由于与第i帧所述障碍物图像对应的所述自车信息队列为,则M个所述自车队列信息形成所述自车运行信息为。
步骤S140、依据所述障碍物运动信息和所述自车运行信息计算每一个所述目标障碍物的障碍物特征值序列;
作为一种可实现的方式,上述步骤S140中依据所述障碍物运动信息和所述自车运行信息计算每一个所述目标障碍物的障碍物特征值序列,具体包括:
计算与每一帧所述障碍物图像相对应的特征信息队列;
M个所述特征信息队列形成所述特征值序列。
作为一种可实现的方式,上述步骤计算与每一帧所述障碍物图像相对应的特征信息队列,具体包括以下计算内容:
计算与第i帧所述障碍物图像相对应的特征信息队列,所述包括、、、、、、、、、、、、、、、;
所述;所述;所述;所述;所述;所述;所述;所述,;所述,;所述,;所述;所述;所述;所述;所述,;所述;
其中,k为预设的经验参数,k一般取值为10.0,T为目标障碍物的类型总个数。
具体的,目标障碍物的类型可以采用大于等于1的正整数表示,当检测到的目标障碍物包括障碍物车辆、行人、垃圾桶这三种类型,则T取值为3。表示目标障碍物的当前帧速度在预设坐标系下沿X轴方向的分解速度大小;表示目标障碍物的当前帧速度在预设坐标系下沿Y轴方向的分解速度大小;表示目标障碍物的当前帧速度大小;表示目标障碍物从第一帧到第i帧沿X轴方向的累计平均分解速度大小;表示目标障碍物从第一帧到第i帧沿Y轴方向的累计平均分解速度大小;表示目标障碍物第i帧的速度大小和第1帧速度大小之差;表示目标障碍物从第一帧到第i帧的累计平均最小识别框的左上角顶点的横像素坐标的变换量大小;表示目标障碍物从第一帧到第i帧的累计平均最小识别框的左上角顶点的纵像素坐标的变换量大小;表示目标障碍物从第一帧到第i帧的累计平均最小识别框的右下角顶点的横像素坐标的变换量大小;表示目标障碍物从第一帧到第i帧的累计平均最小识别框的右下角顶点的纵像素坐标的变换量大小;表示第i帧目标车辆沿预设坐标系的X轴方向的分解速度;表示第i帧目标车辆沿预设坐标系的Y轴方向的分解速度;表示第i帧目标车辆沿预设坐标系的X轴方向的分解速度和目标障碍物沿预设坐标系的X轴方向的分解速度的差值;表示第i帧目标车辆沿预设坐标系的Y轴方向的分解速度和目标障碍物沿预设坐标系的Y轴方向的分解速度的差值;表示第i帧自车朝向的变换量;表示归一化后目标障碍物的类型。
步骤S150、将所述障碍物特征值序列输入动静态判定模型,对应得到所述目标障碍物的状态序列,所述状态序列包括M个状态值;
如图4所示,本申请实施例中的动静态判定模型可以选择对轻量型的LSTM网络进行训练得到,以利用该网络的快速计算和非线性拟合能力来实现分类任务。LSTM网络属于RNN网络的一种,RNN网络擅长处理时序数据,RNN之所以在时序数据上有着优异的表现是因为RNN在 t时刻时会将 t-1时刻的隐节点作为当前时间的输入,而传统的神经网络(如MLP)隐节点的输出只取决于当前时刻的输入特征。
步骤S160、对所述状态序列平滑处理,得到当前时刻所述目标障碍物的状态结果,所述状态结果包括动态结果或静态结果。
作为一种可实现的方式,上述步骤S160中对所述状态序列平滑处理,得到当前时刻所述目标障碍物的状态结果,具体包括:
从所述状态序列中获取当前时刻最近的N个状态值;
判断所述N个状态值是否相同;
若所述N个状态值相同,则依据所述N个状态值确定当前时刻所述目标障碍物的状态结果;
若所述N个状态值不相同,则确定上一时刻的状态结果为当前时刻所述目标障碍物的状态结果;
其中,所述N为大于1小于M的正整数,所述上一时刻与所述当前时刻的时间间隔为所述预设时间段。
具体的,对网络输出的障碍物状态进行后处理平滑,该步骤的目的是稳定网络输出,使得障碍物的状态会在短时间内保持不变,不会来回切换。具体步骤可以为,首先输入lstm网络后输出状态s, s为运动或者静止,如1表示运动,0表示静止;然后将状态s存入队列A,即A队列中保存每一帧网络输出的状态;取A队列中最近的N个状态。通常N设置成3帧。即如果当前时刻为t, 则取A中靠近t时刻的3个状态;判定N个状态是否都相同,如果都相同,则将当前的状态s存入队列B中,B队列存放的是平滑后的状态,如果不是都相同(即有2个不一样的状态),则取队列B中最近的一个状态,即B中t-1时刻的状态,再将该状态存入B中的t时刻;最后输出B队列当前时刻(t时刻)的状态。
本发明实施例提出了一种障碍物动静态判定方法,通过获取过去预设时间段内目标车辆前方的障碍物图像序列,依据障碍物图像序列计算障碍物图像序列中每一个目标障碍物的障碍物运动信息,其中该障碍物图像序列包括M帧障碍物图像,目标障碍物处于每一帧障碍物图像中;然后获取目标车辆与M帧障碍物图像相对应的自车运行信息,并依据障碍物运动信息和自车运行信息计算每一个目标障碍物的障碍物特征值序列;然后将该障碍物特征值序列输入动静态判定模型,对应得到目标障碍物的状态序列,状态序列包括M个状态值;对状态序列进行平滑处理得到当前时刻目标障碍物的状态结果,状态结果包括动态结果或静态结果。本发明实施例通过获取过去时间段内障碍物和自车运行情况来确定当前时刻障碍物的动静态属性,以替代现有技术中仅采用速度大小来判定障碍物动静态的方式,首先通过计算障碍物图像序列中每一帧障碍物图像中每一个目标障碍物的障碍物运动信息和对应的自车运行信息,以提高对低速障碍物状态判定的准确性,然后通过将这些障碍物和自车运行情况输入深度学习网络,以利用其强大的非线性拟合能力,达到区分动静态属性的目的,最后通过平滑处理以形成稳定的状态结果输出,使得障碍物的状态在短时间内不会来回切换,达到了提高状态判定的稳定性和提高计算速度的技术效果。
实施例二
请参阅图2,图2为本发明实施例中电子设备的一个实施例示意图,包括:
存储器201、处理器202以及存储在所述存储器中并可在所述处理器上运行的计算机程序203,其中,处理器执行存储器中存储的计算机程序203时实现上述障碍物动静态判定方法。
为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参照本发明实施例障碍物动静态判定方法的部分。存储器201可用于存储计算机程序203,上述计算机程序包括软件程序、模块和数据,处理器202通过运行执行存储在存储器201的计算机程序203,从而执行电子设备的各种功能应用以及数据处理。
实施例三
本发明实施例还提供一种计算机可读存储介质,请参阅图3,图3为本发明实施例中计算机可读存储介质的一个实施例示意图,其中,该计算机可读存储介质可存储有计算机程序,该程序执行时包括上述方法实施例中记载的障碍物动静态判定方法的部分或全部步骤。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置、电子设备和计算机可读存储介质的具体工作过程,可以参考前述方法实施例中障碍物动静态判定方法的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统和方法,可以通过其它的方式实现。例如,以上所描述的系统实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,系统或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例障碍物动静态判定方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种障碍物动静态判定方法,其特征在于,所述判定方法包括:
获取过去预设时间段内目标车辆前方的障碍物图像序列;
依据所述障碍物图像序列计算所述障碍物图像序列中每一个目标障碍物的障碍物运动信息,所述障碍物图像序列包括M帧障碍物图像,所述目标障碍物处于每一帧所述障碍物图像中;
获取所述目标车辆与M帧所述障碍物图像相对应的自车运行信息;
依据所述障碍物运动信息和所述自车运行信息计算每一个所述目标障碍物的障碍物特征值序列;
将所述障碍物特征值序列输入动静态判定模型,对应得到所述目标障碍物的状态序列,所述状态序列包括M个状态值;
对所述状态序列平滑处理,得到当前时刻所述目标障碍物的状态结果,所述状态结果包括动态结果或静态结果。
2.根据权利要求1所述的障碍物动静态判定方法,其特征在于,所述依据所述障碍物图像序列计算所述障碍物图像序列中每一个目标障碍物的障碍物运动信息,包括:
识别M帧所述障碍物图像中的所有目标障碍物;
将每一帧所述障碍物图像中的每一个所述目标障碍物通过一个最小检测框标记,所述最小检测框是将所述目标障碍物包围在内的最小矩形框;
计算每一帧所述障碍物图像中每一个所述目标障碍物的障碍物信息队列,
M个所述障碍物信息队列形成所述障碍物运动信息,M个所述障碍物信息队列为M帧所述障碍物图像中同一个所述目标障碍物对应形成的。
3.根据权利要求2所述的障碍物动静态判定方法,其特征在于,所述计算每一帧所述障碍物图像中每一个所述目标障碍物的障碍物信息队列,包括:
计算第i帧所述障碍物图像中任意一个所述目标障碍物的障碍物信息队列Fobs(i),所述Fobs(i)={typei、vsi、vxi、vyi、x1i、y1i、x2i、y2i},所述typei为所述目标障碍物的类型,所述vsi为所述目标障碍物的第i帧速度,所述vxi为所述vsi沿预设坐标系的X轴方向分解的分解速度,所述vyi为所述vsi沿预设坐标系的Y轴方向分解的分解速度,所述x1i为第i帧中所述目标障碍物对应的最小识别框的左上顶点的横像素坐标与所述障碍物图像的像素宽度的比值,所述y1i为第i帧中所述目标障碍物对应的所述最小识别框的左上顶点的纵像素坐标与所述障碍物图像的像素高度的比值,所述x2i为第i帧中所述目标障碍物对应的所述最小识别框的右下顶点的横像素坐标与所述障碍物图像的像素宽度的比值,所述y2i为所述目标障碍物对应的所述最小识别框的右下顶点的纵像素坐标与所述障碍物图像的像素高度的比值;
其中所述i为大于等于1且小于等于M的正整数。
4.根据权利要求3所述的障碍物动静态判定方法,其特征在于,所述获取所述目标车辆与M帧所述障碍物图像相对应的自车运行信息,包括:
获取所述目标车辆与每一帧所述障碍物图像相对应的自车信息队列,
M个所述自车信息队列形成所述自车运行信息。
5.根据权利要求4所述的障碍物动静态判定方法,其特征在于,所述获取所述目标车辆与每一帧所述障碍物图像相对应的自车信息队列,包括:
获取与第i帧所述障碍物图像对应的所述自车信息队列Fobj(i),所述Fobj(i)={uxi,uyi,usi,headingi},所述usi为第i帧时所述目标车辆的速度,所述uxi为所述usi沿预设坐标系X方向分解的分解速度,所述uyi为所述usi沿预设坐标系Y方向分解的分解速度,所述headingi为第i帧时所述目标车辆在预设坐标系下的车辆朝向角度,所述headingi的取值范围为(-π,π]。
6.根据权利要求5所述的障碍物动静态判定方法,其特征在于,所述依据所述障碍物运动信息和所述自车运行信息计算每一个所述目标障碍物的障碍物特征值序列,包括:
依据所述障碍物运动信息和所述自车运行信息计算与每一帧所述障碍物图像相对应的特征信息队列;
M个所述特征信息队列形成所述障碍物特征值序列。
7.根据权利要求6所述的障碍物动静态判定方法,其特征在于,所述计算与每一帧所述障碍物图像相对应的特征信息队列,包括:
计算与第i帧所述障碍物图像相对应的特征信息队列Vi,所述Vi包括Vi1、Vi2、Vi3、Vi4、Vi5、Vi6、Vi7、Vi8、Vi9、Vi10、Vi11、Vi12、Vi13、Vi14、Vi15、Vi16;
所述Vi1=vxi;所述Vi2=vyi;所述Vi3=vsi;所述所述 所述Vi6=vsi-vs0;所述V17=0;所述 V18=0;所述V19=0;所述 V110=0;所述Vi11=uxi;所述Vi12=uyi;所述Vi13=uxi-vxi;所述Vi14=uyi-vyi;所述Vi15=headingi-heading(i-1);所述Vi16=typei/T;
其中,k为预设参数,T为目标障碍物的类型总个数。
8.根据权利要求7所述的障碍物动静态判定方法,其特征在于,所述对所述状态序列平滑处理,得到当前时刻所述目标障碍物的状态结果,包括:
从所述状态序列中获取当前时刻最近的N个状态值;
判断所述N个状态值是否相同;
若所述N个状态值相同,则依据所述N个状态值确定当前时刻所述目标障碍物的状态结果;
若所述N个状态值不相同,则确定上一时刻的状态结果为当前时刻所述目标障碍物的状态结果;
其中,所述N为大于1小于M的正整数,所述上一时刻与所述当前时刻的时间间隔为所述预设时间段。
9.一种电子设备,包括:存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1~8中任一项所述的障碍物动静态判定方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1~8中任一项所述的障碍物动静态判定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410543894.2A CN118135542B (zh) | 2024-05-06 | 2024-05-06 | 一种障碍物动静态判定方法及其相关设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410543894.2A CN118135542B (zh) | 2024-05-06 | 2024-05-06 | 一种障碍物动静态判定方法及其相关设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN118135542A CN118135542A (zh) | 2024-06-04 |
CN118135542B true CN118135542B (zh) | 2024-08-09 |
Family
ID=91236212
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410543894.2A Active CN118135542B (zh) | 2024-05-06 | 2024-05-06 | 一种障碍物动静态判定方法及其相关设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118135542B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113721637A (zh) * | 2021-11-02 | 2021-11-30 | 武汉理工大学 | 智能车动态避障路径连续规划方法、系统及存储介质 |
CN115909268A (zh) * | 2022-11-08 | 2023-04-04 | 清驰(济南)智能科技有限公司 | 一种动态障碍物检测方法及装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4558758B2 (ja) * | 2007-05-07 | 2010-10-06 | 三菱電機株式会社 | 車両用障害物認識装置 |
CN110550029B (zh) * | 2019-08-12 | 2021-02-09 | 华为技术有限公司 | 障碍物避让方法及装置 |
DE102019123778A1 (de) * | 2019-09-05 | 2021-03-11 | Valeo Schalter Und Sensoren Gmbh | Darstellen einer Fahrzeugumgebung zum Bewegen des Fahrzeugs zu einer Zielposition |
CN113771867B (zh) * | 2020-06-10 | 2023-03-03 | 华为技术有限公司 | 一种行驶状态的预测方法、装置和终端设备 |
JP7315101B2 (ja) * | 2020-06-23 | 2023-07-26 | 株式会社デンソー | 障害物情報管理装置、障害物情報管理方法、車両用装置 |
CN112417967B (zh) * | 2020-10-22 | 2021-12-14 | 腾讯科技(深圳)有限公司 | 障碍物检测方法、装置、计算机设备和存储介质 |
CN114537474A (zh) * | 2020-11-26 | 2022-05-27 | 银河水滴科技(北京)有限公司 | 一种列车行驶安全的防护方法及装置 |
CN114529882A (zh) * | 2021-12-31 | 2022-05-24 | 广州文远知行科技有限公司 | 识别静态障碍物检测错误的方法、装置、设备和存储介质 |
CN115416651A (zh) * | 2022-09-21 | 2022-12-02 | 展讯通信(天津)有限公司 | 行车过程障碍物监控方法、装置和电子设备 |
CN116343085A (zh) * | 2023-02-28 | 2023-06-27 | 北京千方科技股份有限公司 | 一种公路上的障碍物检测方法、系统、存储介质及终端 |
CN116611603B (zh) * | 2023-07-20 | 2023-11-28 | 青岛迪迪车联信息技术有限公司 | 一种车辆路径调度方法、装置、计算机及存储介质 |
-
2024
- 2024-05-06 CN CN202410543894.2A patent/CN118135542B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113721637A (zh) * | 2021-11-02 | 2021-11-30 | 武汉理工大学 | 智能车动态避障路径连续规划方法、系统及存储介质 |
CN115909268A (zh) * | 2022-11-08 | 2023-04-04 | 清驰(济南)智能科技有限公司 | 一种动态障碍物检测方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN118135542A (zh) | 2024-06-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11643076B2 (en) | Forward collision control method and apparatus, electronic device, program, and medium | |
CN109635685B (zh) | 目标对象3d检测方法、装置、介质及设备 | |
KR102407664B1 (ko) | 물체 검출을 위한 방법, 장치 및 기기 | |
US20200293797A1 (en) | Lane line-based intelligent driving control method and apparatus, and electronic device | |
US10733482B1 (en) | Object height estimation from monocular images | |
WO2020029758A1 (zh) | 对象三维检测及智能驾驶控制的方法、装置、介质及设备 | |
US20200026936A1 (en) | Vehicle lamp detection methods and apparatuses, methods and apparatuses for implementing intelligent driving, media and devices | |
CN113286194A (zh) | 视频处理方法、装置、电子设备及可读存储介质 | |
CN109784290B (zh) | 一种目标检测方法、装置、设备及可读存储介质 | |
WO2023024516A1 (zh) | 一种碰撞预警的方法、装置、电子设备及存储介质 | |
US10878259B2 (en) | Vehicle detecting method, nighttime vehicle detecting method based on dynamic light intensity and system thereof | |
CN111986472B (zh) | 车辆速度确定方法及车辆 | |
CN112097732A (zh) | 一种基于双目相机的三维测距方法、系统、设备及可读存储介质 | |
CN112184799B (zh) | 车道线空间坐标确定方法、装置、存储介质和电子设备 | |
KR101921071B1 (ko) | 다중 프레임에서의 센서 융합을 통한 3차원 객체의 포즈 추정 방법 및 이를 구비한 장치 | |
CN114170826B (zh) | 自动驾驶控制方法和装置、电子设备和存储介质 | |
CN113096151B (zh) | 对目标的运动信息进行检测的方法和装置、设备和介质 | |
CN114111568A (zh) | 动态目标外观尺寸的确定方法及装置、介质及电子设备 | |
CN115147809B (zh) | 一种障碍物检测方法、装置、设备以及存储介质 | |
CN114091515A (zh) | 障碍物检测方法、装置、电子设备和存储介质 | |
WO2020238073A1 (zh) | 确定目标对象朝向方法、智能驾驶控制方法和装置及设备 | |
CN110850974A (zh) | 用于侦测意图兴趣点的方法及其系统 | |
CN117636307A (zh) | 基于语义信息的目标检测方法、设备及自动驾驶车辆 | |
CN117710921A (zh) | 目标检测模型的训练方法、检测方法及相关装置 | |
CN118135542B (zh) | 一种障碍物动静态判定方法及其相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |