CN115861975A - 障碍物车辆位姿估计方法及设备 - Google Patents
障碍物车辆位姿估计方法及设备 Download PDFInfo
- Publication number
- CN115861975A CN115861975A CN202310175359.1A CN202310175359A CN115861975A CN 115861975 A CN115861975 A CN 115861975A CN 202310175359 A CN202310175359 A CN 202310175359A CN 115861975 A CN115861975 A CN 115861975A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- boundary
- estimation
- head
- tail
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 230000008859 change Effects 0.000 claims description 16
- 238000012937 correction Methods 0.000 claims description 14
- 238000005259 measurement Methods 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 22
- 230000008569 process Effects 0.000 description 17
- 238000001914 filtration Methods 0.000 description 12
- 238000001514 detection method Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种障碍物车辆位姿估计方法及设备,该方法包括:识别自车环境图像中目标障碍物车辆的各当前边界框,其中,当前边界框为整车边界框、头尾边界框或者车轮边界框;基于各当前边界框确定估计场景;根据估计场景和各当前边界框确定目标障碍物车辆在自车环境图像中的测距点,以估计相对位置;根据估计场景从各当前边界框中选取目标边界框,并基于目标边界框确定朝向。本申请加入车轮边界框,再结合整车边界框、头尾边界框,区分出不同的估计场景,在不同的估计场景下选取针对性的方式以完成障碍物车辆位姿估计。相比于常规技术方案,提高了位姿估计的准确性,从而提高自动泊车的成功率。
Description
技术领域
本申请涉及自动驾驶领域,尤其涉及一种障碍物车辆位姿估计方法及设备。
背景技术
自主泊车是智能驾驶中一项重要任务。车辆泊车系统多搭载360度全景环视相机系统,由多个广角鱼眼相机组成,来达到消除视野盲区的目的。在自动泊车过程中需依据自车周边行人、车辆(主要目标)、锥筒等障碍物的位置来进行路径规划。因此,环视相机下的障碍物位姿估算是实现自主泊车功能要解决的关键问题。其中,泊车过程中常见的障碍物为其他车辆。目前自动泊车系统会使用轻量级深度学习框架来识别目标障碍物车辆,轻量级深度学习框架消耗资源少便于实施,但同时也由于受到车辆硬件以及深度学习方法的限制,现有方案识别目标障碍物车辆位姿的精度较低,从而影响到自动泊车的成功率。
上述内容仅用于辅助理解本申请的技术方案,并不代表承认上述内容是现有技术。
发明内容
本申请的主要目的在于提供一种障碍物车辆位姿估计方法及设备,旨在解决当前自动泊车系统识别目标障碍物车辆位姿的精度较低的技术问题。
为实现上述目的,本申请提供一种障碍物车辆位姿估计方法,所述位姿包括目标障碍物车辆相对于自车的相对位置和目标障碍物车辆的朝向,所述障碍物车辆位姿估计方法包括以下步骤:
识别自车环境图像中目标障碍物车辆的各当前边界框,其中,所述当前边界框为整车边界框、头尾边界框或者车轮边界框;
基于各所述当前边界框确定估计场景;
根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点,以估计所述相对位置;
根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向
进一步的,所述基于各所述当前边界框确定估计场景的步骤包括:
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述整车边界框和所述头尾边界框大小相同,则判定所述估计场景为预设第一估计场景;
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度小于预设第一阈值或者无所述头尾边界框的类型信息,则判定所述估计场景为预设第二估计场景;
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度大于或等于所述第一阈值,且所述头尾边界框和所述整车边界框大小不同,则判定所述估计场景为预设第三估计场景;
若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为1,则判定所述估计场景为预设第四估计场景;
若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为2,则判定所述估计场景为预设第五估计场景。
进一步的,所述根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点的步骤包括:
若所述估计场景为所述预设第一估计场景、所述预设第三估计场景或者所述预设第四估计场景,则将所述头尾边界框中底边的中点作为所述测距点,其中,所述底边为边界框中靠近地面一侧的边;
若所述估计场景为所述预设第二估计场景,则将所述整车边界框中底边的中点作为所述测距点;
若所述估计场景为所述预设第五估计场景,则将两所述车轮边界框中底边的中点连线的中点作为所述测距点。
进一步的,所述自车存储有所述目标障碍物车辆的先验信息,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤包括:
若所述估计场景为所述预设第一估计场景,则所述目标边界框为所述头尾边界框;
根据所述头尾边界框确定所述目标障碍物车辆的观测宽度;
将所述观测宽度与所述先验信息中的实际宽度比较;
若所述观测宽度与所述实际宽度之间的差值小于第二预设阈值,则判定所述目标障碍物车辆的头部或者尾部与自车对齐,并基于所述头尾边界框的类型确定所述朝向,其中,所述头尾边界框的类型包括车头框和车尾框。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第二估计场景,则所述目标边界框为所述整车边界框;
根据所述整车边界框确定所述目标障碍物车辆的观测长度;
将所述观测长度与所述先验信息中的实际长度进行比较;
若所述观测长度与所述实际长度差值小于第三预设阈值,则判定所述目标障碍物车辆的侧面与自车对齐,并在存在有所述头尾边界框的类型时,基于所述头尾边界框的类型确定所述朝向。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第三估计场景,则所述目标边界框为所述头尾边界框,或所述头尾边界框和所述整车边界框;
则根据所先验信息中所述目标障碍物车辆的观测尺寸与所述目标障碍物车辆的实际尺寸比计算得到观测角,其中,所述观测尺寸为根据所述头尾边界框确定,或根据所述头尾边界框和所述整车边界框确定;
根据所述观测点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述相对角度和所述观测角之和为所述朝向的朝向角。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第四估计场景,则所述目标边界框为所述车轮边界框:
根据所述车轮边界框的宽长比计算所述观测角;
根据所述障碍物车辆的接地点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述接地点为所述车轮边界框的底边中点,所述相对角度、所述观测角和预设修正角之和为所述朝向角。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第五估计场景,则所述目标边界框为两所述车轮边界框;
基于两所述车轮边界框中底边的中点的连线以及所述头尾边界框的类型确定所述朝向。
进一步的,所述识别自车环境图像中目标障碍物车辆的各当前边界框的步骤包括:
根据所述目标障碍物车辆的历史边界框数据提取各所述当前边界框的变化趋势;
根据所述变化趋势修正对所述目标障碍物车辆追踪的实时结果得到各所述当前边界框。
进一步的,所述当前边界框还包括侧框,所述侧框为所述整车边界框去除与所述头尾边界框重叠区域的结果,在所述根据所述变化趋势修正对所述目标障碍物车辆实时追踪的结果得到各所述当前边界框的步骤之后,所述方法包括:
计算所述侧框与所述车轮边界框的重叠面积;
判断所述重叠面积与所述车轮边界框的面积的比值是否大于预设第四阈值;
若所述比值大于所述预设第四阈值,则判定所述车轮边界框属于所述目标障碍物车辆。
此外,为实现上述目的,本申请还提供一种目标障碍物车辆位姿估计设备,所述目标障碍物车辆位姿估计设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的目标障碍物车辆位姿估计程序,所述目标障碍物车辆位姿估计程序被所述处理器执行时实现如上述的障碍物车辆位姿估计方法的步骤。
此外,为实现上述目的,本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有目标障碍物车辆位姿估计程序,所述目标障碍物车辆位姿估计程序被处理器执行时实现如上述的障碍物车辆位姿估计方法的步骤。
本申请实施例提出的一种障碍物车辆位姿估计方法及设备,在本申请中,自车将识别自车环境图像中目标障碍物车辆的各当前边界框,其中,所述当前边界框为整车边界框、头尾边界框或者车轮边界框;基于各所述当前边界框确定估计场景;根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点,以估计所述相对位置;根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向。即本申请在估计障碍物车辆的位姿时,将加入车轮边界框作为新的识别特征,再结合整车边界框、头尾边界框,区分出不同的位姿估计场景,在不同的位姿估计场景下选取不同的测距点估计障碍无车辆的相对位置,选取不同的目标边界框估计障碍物车辆的朝向,以完成障碍物车辆的位姿估计。相比于常规方案,本申请划分了估计场景,在对应场景下使用了更针对的方式对位姿进行估计,提高了位姿估计的准确性,从而提高自动泊车的成功率。
附图说明
图1是本申请实施例方案涉及的硬件运行环境的设备结构示意图;
图2为本申请障碍物车辆位姿估计方法的第一实施例的流程示意图;
图3为本申请障碍物车辆位姿估计方法的第二实施例的流程示意图;
图4为本申请障碍物车辆位姿估计方法中第一障碍物车辆边界框场景示意图;
图5为本申请障碍物车辆位姿估计方法中第一障碍物车辆测距点示意图;
图6为本申请障碍物车辆位姿估计方法中第二障碍物车辆测距点示意图;
图7为本申请障碍物车辆位姿估计方法中预设第一估计场景示意图;
图8为本申请障碍物车辆位姿估计方法中预设第二估计场景示意图;
图9为本申请障碍物车辆位姿估计方法中预设第三估计场景俯视示意图;
图10为本申请障碍物车辆位姿估计方法中预设第五估计场景示意图;
图11为本申请障碍物车辆位姿估计方法中头尾边界框二次修正场景示意图;
图12为本申请障碍物车辆位姿估计方法中车轮边界框关联场景示意图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
如图1所示,图1是本申请实施例方案涉及的硬件运行环境的设备结构示意图。
本申请实施例设备可以是车辆,也可以是服务器、智能手机、PC、平板电脑、便携计算机等其他数据接收、数据处理和数据发送功能的电子终端设备。
如图1所示,该设备可以包括:处理器1001,例如CPU,网络接口1004,用户接口1003,存储器1005,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatilememory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
可选地,设备还可以包括摄像头、RF(Radio Frequency,射频)电路,传感器、音频电路、WiFi模块等等。其中,传感器比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示屏的亮度,接近传感器可在移动终端移动到耳边时,关闭显示屏和/或背光。作为运动传感器的一种,重力加速度传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别移动终端姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;当然,移动终端还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
本领域技术人员可以理解,图1中示出的设备结构并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及目标障碍物车辆位姿估计程序。
在图1所示的设备中,网络接口1004主要用于连接后台服务器,与后台服务器进行数据通信;用户接口1003主要用于连接客户端(用户端),与客户端进行数据通信;而处理器1001可以用于调用存储器1005中存储的目标障碍物车辆位姿估计程序,并执行以下操作:
所述位姿包括目标障碍物车辆相对于自车的相对位置和目标障碍物车辆的朝向,所述障碍物车辆位姿估计方法包括以下步骤:
识别自车环境图像中目标障碍物车辆的各当前边界框,其中,所述当前边界框为整车边界框、头尾边界框或者车轮边界框;
基于各所述当前边界框确定估计场景;
根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点,以估计所述相对位置;
根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述整车边界框和所述头尾边界框大小相同,则判定所述估计场景为预设第一估计场景;
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度小于预设第一阈值或者无所述头尾边界框的类型信息,则判定所述估计场景为预设第二估计场景;
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度大于或等于所述第一阈值,且所述头尾边界框和所述整车边界框大小不同,则判定所述估计场景为预设第三估计场景;
若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为1,则判定所述估计场景为预设第四估计场景;
若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为2,则判定所述估计场景为预设第五估计场景。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点的步骤包括:
若所述估计场景为所述预设第一估计场景、所述预设第三估计场景或者所述预设第四估计场景,则将所述头尾边界框中底边的中点作为所述测距点,其中,所述底边为边界框中靠近地面一侧的边;
若所述估计场景为所述预设第二估计场景,则将所述整车边界框中底边的中点作为所述测距点;
若所述估计场景为所述预设第五估计场景,则将两所述车轮边界框中底边的中点连线的中点作为所述测距点。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述自车存储有所述目标障碍物车辆的先验信息,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤包括:
若所述估计场景为所述预设第一估计场景,则所述目标边界框为所述头尾边界框;
根据所述头尾边界框确定所述目标障碍物车辆的观测宽度;
将所述观测宽度与所述先验信息中的实际宽度比较;
若所述观测宽度与所述实际宽度之间的差值小于第二预设阈值,则判定所述目标障碍物车辆的头部或者尾部与自车对齐,并基于所述头尾边界框的类型确定所述朝向,其中,所述头尾边界框的类型包括车头框和车尾框。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第二估计场景,则所述目标边界框为所述整车边界框;
根据所述整车边界框确定所述目标障碍物车辆的观测长度;
将所述观测长度与所述先验信息中的实际长度进行比较;
若所述观测长度与所述实际长度差值小于第三预设阈值,则判定所述目标障碍物车辆的侧面与自车对齐,并在存在有所述头尾边界框的类型时,基于所述头尾边界框的类型确定所述朝向。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第三估计场景,则所述目标边界框为所述头尾边界框,或所述头尾边界框和所述整车边界框;
则根据所先验信息中所述目标障碍物车辆的观测尺寸与所述目标障碍物车辆的实际尺寸比计算得到观测角,其中,所述观测尺寸为根据所述头尾边界框确定,或根据所述头尾边界框和所述整车边界框确定;
根据所述观测点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述相对角度和所述观测角之和为所述朝向的朝向角。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第四估计场景,则所述目标边界框为所述车轮边界框:
根据所述车轮边界框的宽长比计算所述观测角;
根据所述障碍物车辆的接地点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述接地点为所述车轮边界框的底边中点,所述相对角度、所述观测角和预设修正角之和为所述朝向角。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第五估计场景,则所述目标边界框为两所述车轮边界框;
基于两所述车轮边界框中底边的中点的连线以及所述头尾边界框的类型确定所述朝向。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述识别自车环境图像中目标障碍物车辆的各当前边界框的步骤包括:
根据所述目标障碍物车辆的历史边界框数据提取各所述当前边界框的变化趋势;
根据所述变化趋势修正对所述目标障碍物车辆追踪的实时结果得到各所述当前边界框。
进一步地,处理器1001可以调用存储器1005中存储的目标障碍物车辆位姿估计程序,还执行以下操作:
所述当前边界框还包括侧框,所述侧框为所述整车边界框去除与所述头尾边界框重叠区域的结果,在所述根据所述变化趋势修正对所述目标障碍物车辆实时追踪的结果得到各所述当前边界框的步骤之后,所述方法包括:
计算所述侧框与所述车轮边界框的重叠面积;
判断所述重叠面积与所述车轮边界框的面积的比值是否大于预设第四阈值;
若所述比值大于所述预设第四阈值,则判定所述车轮边界框属于所述目标障碍物车辆。
参照图2,本申请障碍物车辆位姿估计方法的第一实施例,所述障碍物车辆位姿估计方法包括:
步骤S10,识别自车环境图像中目标障碍物车辆的各当前边界框,其中,所述当前边界框为整车边界框、头尾边界框或者车轮边界框;
具体的,在本实施例中,车辆自动泊车过程时通常会通过车载摄像头采集泊车过程中目标障碍物车辆的图像数据即自车环境图像,再通过图像识别技术识别出目标障碍物车辆的各当前边界框,当前边界框通常为矩形,边界框的类型可包括整车边界框、头尾边界框以及车轮边界框,需要说明的是,每次识别到的当前边界框并不一定包括每种类型的边界框(但通常情况下至少会识别到整车边界框),整车边界框用于表示车辆的整体范围,头尾边界框用于表示车辆头部范围或者车辆尾部范围,车轮边界框用于表示车轮范围。此外,上述图像识别技术可采用现有轻量级的目标外界框检测AI模型,具体的AI模型此处不再赘述。需要说明的是,在现有方案中虽然也会识别目标障碍物车辆的边界框,但是未包括车轮边界框,即现有方案中通常是识别整车边界框和头尾边界框,再基于整车边界框和头尾边界框判断目标障碍物车辆的位姿。如参照图4,图4为第一障碍物车辆边界框场景示意图,识别到的当前边界框有整车边界框和头尾边界框,其中,头尾边界框为图中黑框,整车边界框为图中的白框,需要说明的是,整车边界框用于表示车辆的整体范围,故图中部分整车边界框被头尾边界框遮挡。相比于常规方案在本实施例中,增加了特征车轮边界框用于目标障碍物车辆位姿估计。其中,估计的位姿包括目标障碍物车辆相对于自车的相对位置和目标障碍物车辆的朝向,而目标障碍物车辆的朝向通常是指相对于自车目标障碍物车辆车头的方向。
步骤S20,基于各所述当前边界框确定估计场景;
具体的,在本实施例中,将根据识别出的不同当前边界框来确定不同的估计场景。再根据不同估计场景估计障碍车辆的位姿。
进一步的,所述基于各所述当前边界框确定估计场景的步骤包括:
步骤S210,若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述整车边界框和所述头尾边界框大小相同,则判定所述估计场景为预设第一估计场景;
步骤S220,若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度小于预设第一阈值或者无所述头尾边界框的类型信息,则判定所述估计场景为预设第二估计场景;
步骤S230,若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度大于或等于所述第一阈值,且所述头尾边界框和所述整车边界框大小不同,则判定所述估计场景为预设第三估计场景;
步骤S240,若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为1,则判定所述估计场景为预设第四估计场景;
步骤S250,若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为2,则判定所述估计场景为预设第五估计场景。
具体的,目标障碍物车辆在不同的位姿下,以及目标障碍物车辆被遮挡的情况不同时,自身车辆上搭载的AI模型可识别到的当前边界框种类、大小或者数量将不同。在本实例中,将根据识别到的当前边界框种类、大小或者数量,判断当前估计场景。
如若识别到的当前边界框中有整车边界框和头尾边界框,而且整车边界框和头尾边界框大小相同,从识别结果图像上来看为整车边界框和头尾边界框完全重合,且没有车轮边界框,则判定车辆为预设第一估计场景。需要说明的是,在后续的步骤中,所述当前边界框还可以有侧框,侧框为所述整车边界框去除所述头尾边界框的结果,故在各当前边界框中存在头尾边界框,且不存在有侧框的情况,同样可判定当前估计场景为预设第一估计场景。此场景下通常为目标障碍物车辆的车头或者车位正对着自车,如假设该自车环境图像来自与自车尾部的摄像头,则目标障碍物车辆正对着自车尾部。
若识别到的各当前边界框中有整车边界框和头尾边界框,且没有车轮边界框,其中,头尾边界框的宽度小于预设阈值或者无所述头尾边界框的类型信息(即识别到的头尾边界框范围较小可忽略不计,其中,具体的预设阈值可由技术人员根据实际情况设置,无头尾边界框的类型是指未确定头尾边界框是头部边界框是尾部边界框),且不存在车轮边界框,则判定估计场景为预设第二估计场景。此场景下,通常为目标障碍物车辆的侧面正对自车。
若识别到的各当前边界框中有整车边界框和头尾边界框,但是没有车轮边界框,其中,头尾边界框的宽度大于或等于第一阈值,且头尾边界框和整车边界框大小不同,则判定估计场景为预设第三估计场景。此场景通常为,目标障碍物车辆存在有遮挡且与自车成一定角度。
若识别到的各当前边界框中有车轮边界框,且车轮边界框的数量为1,则判定估计场景为预设第四估计场景。
若识别到的各当前边界框中有车轮边界框,且车轮边界框的数量为2,则判定估计场景为预设第五估计场景。
步骤S30,根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点,以估计所述相对位置;
具体的,在本实施例中,将根据不同的估计场景,并基于对应当前边界框确定所述目标障碍物车辆的测距点,其中,测距点可以代表在自车环境图像中目标障碍物车辆的位置。需要说明的是,自车环境图像可通过深度相机拍摄得到,在已经搭建好的深度相机模型并配置好相关的先关参数的情况下,即可确定自车环境图像上任意一像素点与拍摄图像相机之间的相对位置关系,可以理解的是,在进一步已知拍摄相机与自车之间位置关系情况下,则可以确定自车环境图像上任意一像素点与自车之间的关系,此处过程可理解为从将像素点的坐标从相机坐标系下转换为世界坐标系(或自车坐标系,通常自车坐标系以车辆后轴中心为原点,指向车头方向为X轴方向,垂直地面指向天空为Z轴方向,右手定则确定Y轴方向),具体转换过程可参考现有方案,此处不再赘述。而测距点实际为自车环境图像上的像素点,故确定测距点后,即可确定目标障碍物车辆相对于自车的相对位置。在现有方案中,通常会简单选择整车边框底边(靠近地面一侧的边)的中点作为测距点,但这在一些场景下会导致测距点的确定不准确。例如,目前在自动泊车的场景下,为获取更广的视野图像会采用视场更大的鱼眼相机(hFOV(horizontal field of view,水平视场角)-190度、vFOV(VerticalField of View,垂直视场角)-150度),但随着视场角的增大,相机所产生的畸变也就越大,而图像的畸变将会影响位姿估计的精度。如参照图5,为第一障碍物车辆测距点示意图,图中边界框所覆盖的范围和图中目标障碍物车辆的范围匹契合不是很高,即边界框范围是远大于目标障碍物车辆的范围,此外,图中包括预期测距点和实际测距点,预期测距点为我们所期待的较优的测距位置,而实际测距点为基于现有方案实际选择得到的测距位置。由此可见,两测距点相差较远,而低精度测距点位置的又将导致低精度位姿估计结果,从而影响到最终的自动泊车过程。
进一步的,所述根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点的步骤包括:
步骤S310,若所述估计场景为所述预设第一估计场景、所述预设第三估计场景或者所述预设第四估计场景,则将所述头尾边界框中底边的中点作为所述测距点,其中,所述底边为边界框中靠近一侧的边;
步骤S320,若所述估计场景为所述预设第二估计场景,则将所述整车边界框中底边的中点作为所述测距点;
步骤S330,若所述估计场景为所述预设第五估计场景,则将两所述车轮边界框中底边的中点连线的中点作为所述测距点。
具体的,若确定的估计场景为预设第一估计场景、预设第三估计场景或者所述预设第四估计场景,则将头尾边界框中底边的中点作为所述测距点,其中,底边为靠近边界框中靠近地面一侧的边。若估计场景为预设第二估计场景,则将整车边界框中底边的中点作为所述测距点。若估计场景为预设第五估计场景,则将两车轮边界框中底边的中点连线的中点作为测距点。可以理解的是,在本实施例中,针对不同的估计场景,选择不同的方式确定测距点,从而保证测距点的准确性。
为清楚的说明本申请测距点选择的优势,以场景5的测距点选择为例进行说明。参照图6,图6为第二障碍物车辆测距点示意图,图中测距点包括第一实际测距点和第二实际测距点,其中,第一实际测距点为现有方案中,通过整车边界框选择的测距点,第二测距点为本实施例中,通过两车轮边界框选择的测距点(即将两车轮边界框底边中点连线的中点作为测距点),显然第二实际测距点相较于第一实际测距点距离预期测距点更近。故本实施例中通过分场景,以及在不同场景下选择不同的方式确定测距点,可使得得到的测距点更加准确,更加利于车辆位姿的估计。
步骤S40,根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向。
进一步的,所述自车存储有所述目标障碍物车辆的先验信息,所述头尾边界框的类型包括车头框和车尾框,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤包括:
步骤S411,若所述估计场景为所述预设第一估计场景,则所述目标边界框为所述头尾边界框;
步骤S412,根据所述头尾边界框确定所述目标障碍物车辆的观测宽度;
步骤S413,将所述观测宽度与所述先验信息中的实际宽度比较;
步骤S414,若所述观测宽度与所述实际宽度之间的差值小于第二预设阈值,则判定所述目标障碍物车辆的头部或者尾部与自车对齐,并基于所述头尾边界框的类型确定所述朝向,其中,所述头尾边界框的类型包括车头框和车尾框。
具体的,在本实施例中,为提高位姿估计结果的准确性,将加入目标障碍物车辆的先验信息,所述先验信息为不同车型的尺寸信息,尺寸信息可以包括车辆实际长度、车辆实际宽度等。同样的可通过预设的AI模型识别自车环境图像中目标障碍物车辆的车型,如小型轿车、SUV(sport/suburban utility vehicle,运动型多用途汽车)、货车、卡车、小客车、大客车、面包车等,具体的先验信息可由技术人员根据实际车型进行设置,此处不在赘述。可以理解的,在本实施例中,仅需识别出车辆的简单车型,故通过现有轻量级AI模型也同样可以实现,无需配置过多的计算资源。通过识别出的目标障碍物车辆的车型,可确定目标障碍物车辆的先验信息,即目标障碍物车辆的实际尺寸。
若确定的估计场景为预设第一估计场景,则对应目标边界框为头尾边界框,将头尾边界框中的底边或者顶边作为目标障碍物车辆的观测宽度,如参照图7,为预设第一估计位场景示意图,图中黑框为头尾边界框,A点与B点的连线为头尾边界框的底边,将A点与B点的连线作为目标障碍物车辆的观测宽度(A点与B点的连线长度可通过将A点和B点在相机坐标系下坐标数据转换到世界坐标系下后计算得到)。可以理解的是,在上述内容中描述到第一估计场景通常是障碍物车头或者车尾正对自车的场景,因此,车辆头尾边界框的底边长度基本与目标障碍物车辆实际的宽度是相同的(可能存在有一定误差,但一般误差不会太大)。将观测宽度和先验信息中实际宽度进行比较,观测宽度与实际宽度之间的差值小于第二预设阈值(即预设的误差值),则判定目标障碍物车辆的头部或者尾部与自车对齐,并基于所述头尾边界框的类型确定所述朝向。其中,头尾边界框的类型包括车头框和车尾框,若是车头框则可以确定目标障碍物车辆的车头正对自车,若是车尾框则可以确定目标障碍物车辆的车尾正对自车。通常情况下自车环境图像由设置在自车尾部中间的摄像头获取到,因此,若头尾边界框是车头框,则目标障碍物车辆自车朝向相同。在本实施例中,朝向可分为朝向角和车头方向,若定义朝向角为目标障碍物车辆车头中点和车尾中点连线与自车坐标系中坐标轴(自车车头中点和车尾中点连线)之间的夹角,则此时朝向角为0°或者180°,而车头方向根据头尾边界框的类型判断即可,若头尾边界框为车头,则车头方向位于头尾边界框的一侧,若头尾边界框为车尾,则侧头位于头尾框反方向一侧。当目标障碍物车辆的朝向以及目标障碍物车辆相对自车的相对位置均确定后,目标障碍物车辆的位姿即估计完成。反之,若观测宽度与实际宽度之间的差值大于或者等于第二预设阈值,则判定目标障碍物车辆与自车垂直,即障碍物车辆的朝向角为90°,同样的,目标障碍物车辆的车头方向可根据头尾框类型确定。可以理解的是,将观测宽度与实际宽度进行比较,可对AI模型的识别结果进行检验,即如果观测宽度和实际宽度接近,则表示识别到的头尾边界框是正确的,反之,若观测宽度和实际宽度相差较大,则认为AI模型的识别的结果可能有误,如,障碍物车辆可能是侧对自车,但有部分区域被遮挡,从而被AI模型误判成车辆的头部或者尾部,从而识别为头尾边界框。故正对该情况,本实施例在观测宽度和实际宽度相差较大的情况下,直接判定目标障碍物车辆与自车垂直,或者目标障碍物车辆侧对自车。以确保位姿估计结果的准确性。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
步骤S421,若所述估计场景为所述预设第二估计场景,则所述目标边界框为所述整车边界框;
步骤S422,根据所述整车边界框确定所述目标障碍物车辆的观测长度;
步骤S423,将所述观测长度与所述先验信息中的实际长度进行比较;
步骤S424,若所述观测长度与所述实际长度差值小于第三预设阈值,则判定所述目标障碍物车辆的侧面与自车对齐,并在存在有所述头尾边界框的类型时,基于所述头尾边界框的类型确定所述朝向。
具体的,若确定的估计场景为预设第二估计场景,则目标边界框为对应的整车边界框。同样可将整车边界框中底边或者顶边作为目标障碍物车辆的观测长度。可参照图8,图8为预设第二估计场景示意图,图中白框为整车边界框,A点与B点之间的连线为整车边界框的底边,A点与B点连线的长度即为观测长度,此场景通常为目标障碍物车辆侧面与自车对齐的情况,因此,观测长度基本与目标障碍物车辆的实际长度相同。故将观测长度与先验信息中的实际长度进行比较,若观测长度与实际长度差值小于第二预设阈值,则可判定目标障碍物车辆的侧面与自车对齐(或者目标障碍物车辆与自车垂直),对应的,可以确定朝向角为90°。而目标障碍物车辆的车头方向根据头尾边界框的类型确定即可,若无法确定头尾边界框的类型,则按默认车头方向处理即可。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
步骤S431,若所述估计场景为所述预设第三估计场景,则所述目标边界框为所述头尾边界框,或所述头尾边界框和所述整车边界框;
步骤S432,则根据所先验信息中所述目标障碍物车辆的观测尺寸与所述目标障碍物车辆的实际尺寸比计算得到观测角,其中,所述观测尺寸为根据所述头尾边界框确定,或根据所述头尾边界框和所述整车边界框确定;
步骤S433,根据所述观测点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述相对角度和所述观测角之和为所述朝向的朝向角。
具体的,若确定的估计场景为预第三估计场景,则目标边界框为头尾边界框,或头尾边界框和整车边界框。需要说明的是,此场景下目标障碍物车辆的通常会与所述自车环境图像的拍摄方向成一定角度,因此,通过在自车环境图像上识别出的边界框得到的目标障碍物车辆的观测尺寸会小于目标障碍物车辆的实际尺寸,即观测宽度会小于实际宽度,观测长度会小于车辆的实际长度。其中,观测宽度可以是头尾边界框的底边或顶边,观测长度可以是整车边界框底边与头尾边界框的底边之差,或者整车边界框顶边与头尾边界框的顶边之差。但是根据实际的第三估计场景而言,车头或则车尾在拍摄的画面中会更加完整,故优选将观测宽度作为观测尺寸计算观测角。故计算过程中,以观测宽度为例进行说明。将头尾边界框底边长度作为观测宽度,对应的,车辆实际尺寸选用实际宽度(通过先验信息获取)。观测角θ的计算公式如下:
θ=arccos(观测宽度/实际宽度)
实际上观测角θ可认为是障碍物车辆相对于自车环境图像所在平面的角度。在此基础上,进一步计算观测点与自车之间的相对角度,观测点可表示障碍物车辆与自车之间的位置关系,而该位置关系可以通过观测点在自车的自车坐标系中坐标数据表示,假设观测点P的坐标为(x,y),对应在,相对角度α计算公式如下:
α=arctan(Px/Py)
式中,Px为观测点在自车坐标系下x轴坐标,Py为观测点在自车坐标系下y轴坐标。进一步将观测角θ与相对角度α之和作为朝向角,再结合头尾边界框的类型即可准确确定障碍物车辆的朝向。可参照图9,预设第三估计场景俯视示意图,需要说明的是,在实际应用过程中自车环境图像并非是俯视图。图中包括障碍物车辆的实际宽度Wr以及观测宽度Wm,基于Wm和Wr进行反三角函数求解即可得到观测角θ,图中还包括观测点P,同样基于观测点P在自车坐标系中的坐标数据进行反三角函数求解即可得到相对角度α,观测角θ与相对角度α之和即为朝向角。
可以理解的是,在本领域技术人员在知晓观测角θ、相对角α以及头尾框的类型的情况下,就已经可以判断障碍物车辆的准确朝向,而由于自车环境图像数据的来源可能存在不同(如图像可能来源车辆前方,也可能来源于车辆后方)或者自车坐标系构建方式可能不同,故本实施例中对障碍物车辆朝向的定义方式并不进行限制,可由技术人员根据实际情况进行定义。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
步骤S441,若所述估计场景为所述预设第四估计场景,则所述目标边界框为所述车轮边界框:
步骤S442,根据所述车轮边界框的宽长比计算所述观测角;
步骤S443,根据所述障碍物车辆的接地点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述接地点为所述车轮边界框的底边中点,所述相对角度、所述观测角和预设修正角之和为所述朝向角。
具体的,若估计场景为预设第四估计场景,则目标边界框为车轮边界框。需要说明的是,若障碍物车辆的车轮侧面与自车环境图像所在平面平行,那么识别的到的车轮边界框应当是正方型,若障碍物车辆与自车环境图像所在平面成一定角度,则识别出的车轮边界框为长方形,而此时车轮边界框的长与宽之间的关系实际对应着障碍物车辆与自车环境图像所在平面成现的角度。故在第四估计场景下,采用车轮边界框的长宽比计算所述观测角,即观测角θ=arccos(宽/长),式中,宽为车轮边界框宽,长为车轮边界框的长。与预设第三估计场景不同的是,在计算相对角度过程中,将测距点替换为接地点,而接地点的定义为车轮边界框的底边中点,对应的,相对角度α=arctan(Qx/Qy),式中,Px为接地点在自车坐标系下x轴坐标,Py为接地点在自车坐标系下y轴坐标,同样的,在预设第四估计场景中是基于车轮边界框进行计算的,可以理解的是,通常识别出现车轮边界框的场景,采集自车环境图像的采集视野会接近于自车侧面,因此,通过上述公式计算得到的θ实际是障碍物车轮(或车辆)与自车车头方向垂直平面的夹角,故将观测角θ和相对角度α之和再加上预设修正角(90°)的和作为所述障碍物车辆的朝向角。可以理解的是,预设第四估计场景和预设第三估计场景类似,仅计算观测角和相对角度所选用的参数不同。
进一步的,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
步骤S451,若所述估计场景为所述预设第五估计场景,则所述目标边界框为两所述车轮边界框;
步骤S452,基于两所述车轮边界框中底边的中点的连线以及所述头尾边界框的类型确定所述朝向。
具体的,若述估计场景为第五估计场景,在第五估计场景中,包括了两个车轮边界框,而两个车轮边界框中底边中点的连线段与障碍物车辆的侧面是平行(或者近似平行),故若在自车坐标系中,将该线段作为向量(向量的方向为根据头尾边界框类型确定的车头方向),而该向量与自车坐标系中坐标轴(如x轴)之间的夹角即为朝向角,至此即可确定障碍物车辆的朝向。可以参照图10,图10为预设第五估计场景示意图,图中两车轮边界框的底边中点分别为C1和C2,将C1和C2连线在自车坐标系中所组成的向量与自车坐标系中坐标轴的夹角作为朝向角,而根据朝向角即可确定障碍物的朝向。
在本实施例中,自车将识别自车环境图像中目标障碍物车辆的各当前边界框,其中,所述当前边界框为整车边界框、头尾边界框或者车轮边界框;基于各所述当前边界框确定估计场景;根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点,以估计所述相对位置;根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向。即本申请,在估计障碍物车辆的位姿时,将加入车轮边界框作为新的识别特征,再结合整车边界框、头尾边界框,区分出不同的位姿估计场景,在不同的位姿估计场景下选取不同的测距点估计障碍无车辆的相对位置,选取不同的目标边界框估计障碍物车辆的朝向,以完成障碍物车辆位姿估计。相比于现有方案,本申划分了估计场景,在对应场景下使用了更针对的方式对位姿进行估计,提高了位姿估计的准确性,从而提高自动泊车的成功率。
进一步的,参照图3,基于本申请障碍物车辆位姿估计方法的第一实施例提出本申请障碍物车辆位姿估计方法的第二实施例,本实施例中与上述实施例相同部分可参考上文内容,此处不再赘述。所述识别自车环境图像中目标障碍物车辆的各当前边界框的步骤包括:
步骤A10,根据所述目标障碍物车辆的历史边界框数据提取各所述当前边界框的变化趋势;
步骤A20,根据所述变化趋势修正对所述目标障碍物车辆追踪的实时结果得到各所述当前边界框。
具体的,在本实施例中,对于识别目标障碍物车辆各当前边界框可沿用现有检测目标边界框的AI模型框架,需要说明的是,各当前边界框也是将目标障碍物车辆作为目标进行实时追踪所生成的结果(目标追踪可使用卡尔曼滤波和匈牙利匹配相结合的追踪算法,此方法为目标追踪的通用方法,在此不再赘述),但是由于受鱼眼摄像头造成的图像畸变的影响(即越靠近视野边缘,图像中的畸变则越大),这会造成边界框结果输出的稳定性差,甚至出现异常值。为了改善此问题,本实施例中增加了直接对检测框的位置及大小进行滤波的步骤。即基于对目标检测框运动状态的判断,对其进行动态的帧间滤波。此滤波结果具有时实行。在鱼眼图像中,我们难以观测到目标车辆实际的运动状态(相对于自车的运动),也就是说图像中检测框的运动与该目标实际运动状态没有对应关系,此处我们所说的目标检测框的运动状态为伪运动状态,仅作滤波运算判断条件使用。这也是为什么通过常用的卡尔曼滤波,我们难以获得预期的平滑效果的原因。滤波计算过程主要包含缓存历史信息;对整框及头尾框位置及尺寸滤波,详解如下:
缓存障碍物车俩历史图像帧中各边界框的信息。以整车边界框为例,缓存整车边界框的历史位置和历史大小,根据历史位置和历史大小可提取出整车边界框的变化趋势,变化趋势可包括位置变化趋势和大小变化趋势,再根据变化趋势和变化趋势对追踪目标障碍物车辆的结果进行滤波修正。
具体的所述根据所述变化趋势修正对所述目标障碍物车辆追踪的实时结果得到各所述当前边界框的步骤包括,若未提取出所述变化趋势,且实时结果与初期结果偏差小于预设第五阈值,其中,所述实时结果为当前识别得到的边界框,所述初期结果为初次追踪到目标障碍物车辆时初期识别得到的边界框,或者,若未提取出所述变化趋势,且历史边界框的变化幅度小于预设第六阈值,则判定边界框的变化为波动,则将实时结果与上一帧自车环境图像的边界框之间的变化幅度限制在所述预设第六阈值之下得到所述当前边界框。若提取出所述变化趋势,则将实时结果与上一帧自车环境图像的边界框之间的变化幅度限制在所述变化趋势对应的变化率之下得到所述当前边界框。
为清楚的说明本实施例中的滤波修正过程,以整车边界框左上角点的位置X为例。若缓存的历史图像边界框中X的帧间变化趋势不一致(即提取不到变化趋势),且当前帧的X(即实时结果中边界框的X)与缓存最早帧X(即初期结果中边界框的X)差值较小,或缓存中X帧间变化值均小于阈值,则认为X的变化趋势为波动,那么,当前X较上一帧X(即缓存的最新帧X)的差值也应小于第四预设阈值,即将其变化幅度限制在预设第六阈值之下;若当前帧X及缓存中的X帧间变化趋势一致,则认为X的变化趋势为持续增长或持续衰减,那么,当前帧X较上一帧X的变化也应对应为增长或衰减,其变化率增长应小于阈值。可以理解的是,在理论上X不应发生跳变(因为目标障碍物车辆在自车环境图像中的运动轨迹应当是连续的平滑的),所以当前X较上一帧之间的变化幅度也不应该过大。因此,可依据上述滤波修正过程对当前帧下分别对各边界框的左上角点X、右上角Y、宽度、长度进行滤波修正处理,通过滤波修正处理可以有效过滤边界框属性的跳变,从而使得边界框的“运动”变得平滑,一方面也补偿了AI模型的检测误差,另一方面也提高边界框输出的稳定性,从而确保位姿估计结果的稳定性。
进一步的,在所述根据所述变化趋势修正对所述目标障碍物车辆追踪的实时结果得到各所述当前边界框的步骤之后,所述方法还包括:
根据所述头尾边界框相对所述整车边界框的位置趋势,对所述车轮边界框进行二次修正。若所述头尾边界框位于所述整车边界框的左侧,则将头尾边界框的左侧边框与整车边界框的左侧边框对齐,若所述头尾边界框位于所述整车边界框的右侧,则将所述头尾边界框的右侧边框与所述整车边界框的右侧边框对齐。
具体的,根据车辆结构的连续性特点,识别得到目标障碍物车辆的头尾边界框与整车边界框之间的相对位置应当有以下两种情况:
头尾边界框位于整车边界框的右侧,而头尾边界框右上角点与整车边界框右上角点重合,头尾边界框右下角点与整边界框右下角点重合;头尾边界框位于整车边界框左侧,头尾边界框左上角点与整车边界框左上角点重合,头尾边界框左下角点与整车边界框左下角点重合,头尾边界框和整车边界框的高度都是示意目标障碍物车辆的高度,故头尾边界框和整车边界框的高度应当保持一致。故根据以上属性,可基于滤波修正后的整车边界框对头尾边界框进行二次调整。如参照图11,图11为头尾边界框二次修正场景示意图。图中,实线框为整车边界框,虚线框为头尾边界框。图中场景一为头尾边界框靠近整车边界框的左侧,对应的修正为将头尾边界框移动至头尾边界框的左边框与整车边界框的左边框对齐,图中场景二为头尾边界框靠近整车边界框的右侧,则将头尾边界框移动至头尾边界框的右边框与整车边界框的右边框对齐。此调整可以在平滑车辆检边界框“运动”的基础上纠正头尾边界框与整车边界框相对位置的偏差。在本实施例中,可提高识别得到的边界框的准确度,从而保证位姿估算结果准确性。
进一步的,所述当前边界框还包括侧框,所述侧框为所述整车边界框去除与所述头尾边界框重叠区域的结果,在所述根据所述变化趋势修正对所述目标障碍物车辆实时追踪的结果得到各所述当前边界框的步骤之后,所述方法包括:
步骤A30,计算所述侧框与所述车轮边界框的重叠面积;
步骤A40,判断所述重叠面积与所述车轮边界框的面积的比值是否大于预设第四阈值;
步骤A50,若所述比值大于所述预设第四阈值,则判定所述车轮边界框属于所述目标障碍物车辆。
需要说明的是,在本实施例中,目标障碍物车辆的边界框还包括有侧框,而侧框则是整车边界框去除与头尾边界框重叠区域的结果。此外,在本申请中相比于现有方案还增加了车轮特征参与到车辆位姿的估计中,但在实际边界框的识别过程中,存在有车辆画面重叠的场景,从而导致识别到的车轮边界框与目标障碍物车辆关联出错的情况,即进行位姿估计所使用的整车边界框和车轮边界框并非是同一个目标障碍物车辆的。针对该情况,本申请还将针对车轮边界框的归属进行判断。
具体的,当识别到的当前边界框中包括有车轮边界框时,计算车轮边界框与侧框之间的重叠区域的面积。计算公式如下:
侧框位于整车边界框的左侧,Xvs=Xvw;
侧框位于整车边界框的右侧,Xvs=Xvw+Wvht;
Yvs=Yvw;
Wvs=Wvw-Wvht;
Hvs=Hvw;
col=min(Xt+Wt,Xvs+Wvs)-max(Xt,Xvs);
row=min(Yt+Ht,Yvs+Hvs)-max(Yt,Yvs);
重叠区域的面积=col×row;
式中,Xvs为侧框左上角点x轴的坐标,Xvw为整车边界框左上角点x轴的坐标,Wvht为头尾边界框的宽,Yvs为侧框左上角点y轴的坐标,Yvw为整车边界框左上角点y轴的坐标,Wvs为侧框的宽,Wvw为整车边界框的宽,Hvs侧框的高,col为重叠区域的宽,Xt为车轮边界框左上角点的x轴坐标,Wt为车轮边界框的宽,Xvs为侧框左上角点的x轴坐标,Wvs为侧框的宽,row为重叠区域的高,Yt为车轮边界框左上角点的y轴坐标,Ht为车轮边界框的高,Yvs为侧框左上角点的y轴坐标,Hvs为侧框的宽。
计算述重叠面积与车轮边界框的面积的比值的公式如下:
iou=(col×row)/(Wt×Yt)
式中,iou为重叠面积与车轮边界框面积的比值。
若iou大于预设第四阈值,则判定识别到的车轮边界框属于目标障碍物车辆。从而确保估计目标障碍物车辆位姿时所使用的车轮边界框是属于目标障碍物车辆的,保证位姿估计结果的准确性。如参照图12,图12为车轮边界框关联场景示意图,图中包括了侧框、头尾边界框、车轮边界框以及重叠区域。本申请中通过重叠区域面积与车轮边界框面积的比值来确定车轮边界框与目标障碍物车轮的关联情况。
此外,为实现上述目的,本申请还提供一种障碍物车辆位姿估计方法设备,所述障碍物车辆位姿估计方法设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的目标障碍物车辆位姿估计程序,所述目标障碍物车辆位姿估计程序被所述处理器执行时实现如上述的障碍物车辆位姿估计方法的步骤。
本申请障碍物车辆位姿估计方法设备的具体实施方式与上述障碍物车辆位姿估计方法各实施例基本相同,在此不再赘述。
此外,为实现上述目的,本申请还提供一种计算机介质,所述计算机介质上存储有目标障碍物车辆位姿估计程序,所述目标障碍物车辆位姿估计程序被处理器执行时实现如上述的障碍物车辆位姿估计方法的步骤。
本申请计算机介质具体实施方式与上述障碍物车辆位姿估计方法各实施例基本相同,在此不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,车辆,或者网络设备等)执行本申请各个实施例所述的方法。
以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (12)
1.一种障碍物车辆位姿估计方法,其特征在于,所述位姿包括目标障碍物车辆相对于自车的相对位置和目标障碍物车辆的朝向,所述障碍物车辆位姿估计方法包括以下步骤:
识别自车环境图像中目标障碍物车辆的各当前边界框,其中,所述当前边界框为整车边界框、头尾边界框或者车轮边界框;
基于各所述当前边界框确定估计场景;
根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点,以估计所述相对位置;
根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向。
2.如权利要求1所述的障碍物车辆位姿估计方法,其特征在于,所述基于各所述当前边界框确定估计场景的步骤包括:
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述整车边界框和所述头尾边界框大小相同,则判定所述估计场景为预设第一估计场景;
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度小于预设第一阈值或者无所述头尾边界框的类型信息,则判定所述估计场景为预设第二估计场景;
若各所述当前边界框中存在所述整车边界框和所述头尾边界框,且不存在所述车轮边界框,其中,所述头尾边界框的宽度大于或等于所述第一阈值,且所述头尾边界框和所述整车边界框大小不同,则判定所述估计场景为预设第三估计场景;
若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为1,则判定所述估计场景为预设第四估计场景;
若各所述当前边界框中存在所述车轮边界框,且所述车轮边界框的数量为2,则判定所述估计场景为预设第五估计场景。
3.如权利要求2所述的障碍物车辆位姿估计方法,其特征在于,所述根据所述估计场景和各所述当前边界框确定所述目标障碍物车辆在所述自车环境图像中的测距点的步骤包括:
若所述估计场景为所述预设第一估计场景、所述预设第三估计场景或者所述预设第四估计场景,则将所述头尾边界框中底边的中点作为所述测距点,其中,所述底边为边界框中靠近地面一侧的边;
若所述估计场景为所述预设第二估计场景,则将所述整车边界框中底边的中点作为所述测距点;
若所述估计场景为所述预设第五估计场景,则将两所述车轮边界框中底边的中点连线的中点作为所述测距点。
4.如权利要求3所述的障碍物车辆位姿估计方法,其特征在于,所述自车存储有所述目标障碍物车辆的先验信息,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤包括:
若所述估计场景为所述预设第一估计场景,则所述目标边界框为所述头尾边界框;
根据所述头尾边界框确定所述目标障碍物车辆的观测宽度;
将所述观测宽度与所述先验信息中的实际宽度比较;
若所述观测宽度与所述实际宽度之间的差值小于第二预设阈值,则判定所述目标障碍物车辆的头部或者尾部与自车对齐,并基于所述头尾边界框的类型确定所述朝向,其中,所述头尾边界框的类型包括车头框和车尾框。
5.如权利要求4所述的障碍物车辆位姿估计方法,其特征在于,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第二估计场景,则所述目标边界框为所述整车边界框;
根据所述整车边界框确定所述目标障碍物车辆的观测长度;
将所述观测长度与所述先验信息中的实际长度进行比较;
若所述观测长度与所述实际长度差值小于第三预设阈值,则判定所述目标障碍物车辆的侧面与自车对齐,并在存在有所述头尾边界框的类型时,基于所述头尾边界框的类型确定所述朝向。
6.如权利要求5所述的障碍物车辆位姿估计方法,其特征在于,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第三估计场景,则所述目标边界框为所述头尾边界框,或所述头尾边界框和所述整车边界框;
则根据所先验信息中所述目标障碍物车辆的观测尺寸与所述目标障碍物车辆的实际尺寸比计算得到观测角,其中,所述观测尺寸为根据所述头尾边界框确定,或根据所述头尾边界框和所述整车边界框确定;
根据所述观测点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述相对角度和所述观测角之和为所述朝向的朝向角。
7.如权利要求6所述的障碍物车辆位姿估计方法,其特征在于,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第四估计场景,则所述目标边界框为所述车轮边界框:
根据所述车轮边界框的宽长比计算所述观测角;
根据所述障碍物车辆的接地点与自车之间的相对角度、所述观测角以及所述头尾边界框的类型确定所述朝向,其中,所述接地点为所述车轮边界框的底边中点,所述相对角度、所述观测角和预设修正角之和为所述朝向角。
8.如权利要求4所述的障碍物车辆位姿估计方法,其特征在于,所述根据所述估计场景从各所述当前边界框中选取目标边界框,并基于所述目标边界框确定所述朝向的步骤还包括:
若所述估计场景为所述预设第五估计场景,则所述目标边界框为两所述车轮边界框;
基于两所述车轮边界框中底边的中点的连线以及所述头尾边界框的类型确定所述朝向。
9.如权利要求1所述的障碍物车辆位姿估计方法,其特征在于,所述识别自车环境图像中目标障碍物车辆的各当前边界框的步骤包括:
根据所述目标障碍物车辆的历史边界框数据提取各所述当前边界框的变化趋势;
根据所述变化趋势修正对所述目标障碍物车辆追踪的实时结果得到各所述当前边界框。
10.如权利要求9所述的障碍物车辆位姿估计方法,其特征在于,所述当前边界框还包括侧框,所述侧框为所述整车边界框去除与所述头尾边界框重叠区域的结果,在所述根据所述变化趋势修正对所述目标障碍物车辆实时追踪的结果得到各所述当前边界框的步骤之后,所述方法包括:
计算所述侧框与所述车轮边界框的重叠面积;
判断所述重叠面积与所述车轮边界框的面积的比值是否大于预设第四阈值;
若所述比值大于所述预设第四阈值,则判定所述车轮边界框属于所述目标障碍物车辆。
11.一种障碍物车辆位姿估计设备,其特征在于,所述障碍物车辆位姿估计设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的目标障碍物车辆位姿估计程序,所述目标障碍物车辆位姿估计程序被所述处理器执行时实现如权利要求1至10中任一项所述的障碍物车辆位姿估计方法的步骤。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有目标障碍物车辆位姿估计程序,所述目标障碍物车辆位姿估计程序被处理器执行时实现如权利要求1至10中任一项所述的障碍物车辆位姿估计方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310175359.1A CN115861975B (zh) | 2023-02-28 | 2023-02-28 | 障碍物车辆位姿估计方法及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310175359.1A CN115861975B (zh) | 2023-02-28 | 2023-02-28 | 障碍物车辆位姿估计方法及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115861975A true CN115861975A (zh) | 2023-03-28 |
CN115861975B CN115861975B (zh) | 2023-05-12 |
Family
ID=85659334
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310175359.1A Active CN115861975B (zh) | 2023-02-28 | 2023-02-28 | 障碍物车辆位姿估计方法及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115861975B (zh) |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE3740028A1 (de) * | 1987-11-26 | 1989-06-08 | Theodor Gabler | Strassenfahrzeug |
JP2006160087A (ja) * | 2004-12-07 | 2006-06-22 | Mitsubishi Heavy Ind Ltd | 車両 |
US20180022405A1 (en) * | 2015-03-31 | 2018-01-25 | Next Future Transportation Inc. | Selectively combinable independent driving vehicles |
CN110745140A (zh) * | 2019-10-28 | 2020-02-04 | 清华大学 | 一种基于连续图像约束位姿估计的车辆换道预警方法 |
CN111024040A (zh) * | 2018-10-10 | 2020-04-17 | 三星电子株式会社 | 距离估计方法和设备 |
WO2021093418A1 (zh) * | 2019-11-12 | 2021-05-20 | 深圳创维数字技术有限公司 | 地面障碍物检测方法、设备及计算机可读存储介质 |
JP2021144677A (ja) * | 2020-03-11 | 2021-09-24 | ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド | 障害物検出方法、装置、電子機器、記憶媒体及びコンピュータプログラム |
CN114022866A (zh) * | 2021-11-10 | 2022-02-08 | 北京经纬恒润科技股份有限公司 | 一种障碍物位姿及速度的估计方法及装置 |
CN114549645A (zh) * | 2022-02-27 | 2022-05-27 | 重庆长安汽车股份有限公司 | 一种基于视觉信息计算目标车辆航向角的方法和装置 |
CN114879659A (zh) * | 2022-03-31 | 2022-08-09 | 广州文远知行科技有限公司 | 逆行障碍物识别方法、装置、设备及存储介质 |
CN115116012A (zh) * | 2022-07-20 | 2022-09-27 | 广州英码信息科技有限公司 | 基于目标检测算法的车辆停车位停车状态检测方法及系统 |
CN115170660A (zh) * | 2022-07-01 | 2022-10-11 | 上海宏景智驾信息科技有限公司 | 一种车辆朝向信息的获取方法、装置和存储介质 |
WO2023016271A1 (zh) * | 2021-08-13 | 2023-02-16 | 北京迈格威科技有限公司 | 位姿确定方法、电子设备及可读存储介质 |
-
2023
- 2023-02-28 CN CN202310175359.1A patent/CN115861975B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE3740028A1 (de) * | 1987-11-26 | 1989-06-08 | Theodor Gabler | Strassenfahrzeug |
JP2006160087A (ja) * | 2004-12-07 | 2006-06-22 | Mitsubishi Heavy Ind Ltd | 車両 |
US20180022405A1 (en) * | 2015-03-31 | 2018-01-25 | Next Future Transportation Inc. | Selectively combinable independent driving vehicles |
CN111024040A (zh) * | 2018-10-10 | 2020-04-17 | 三星电子株式会社 | 距离估计方法和设备 |
CN110745140A (zh) * | 2019-10-28 | 2020-02-04 | 清华大学 | 一种基于连续图像约束位姿估计的车辆换道预警方法 |
WO2021093418A1 (zh) * | 2019-11-12 | 2021-05-20 | 深圳创维数字技术有限公司 | 地面障碍物检测方法、设备及计算机可读存储介质 |
JP2021144677A (ja) * | 2020-03-11 | 2021-09-24 | ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド | 障害物検出方法、装置、電子機器、記憶媒体及びコンピュータプログラム |
WO2023016271A1 (zh) * | 2021-08-13 | 2023-02-16 | 北京迈格威科技有限公司 | 位姿确定方法、电子设备及可读存储介质 |
CN114022866A (zh) * | 2021-11-10 | 2022-02-08 | 北京经纬恒润科技股份有限公司 | 一种障碍物位姿及速度的估计方法及装置 |
CN114549645A (zh) * | 2022-02-27 | 2022-05-27 | 重庆长安汽车股份有限公司 | 一种基于视觉信息计算目标车辆航向角的方法和装置 |
CN114879659A (zh) * | 2022-03-31 | 2022-08-09 | 广州文远知行科技有限公司 | 逆行障碍物识别方法、装置、设备及存储介质 |
CN115170660A (zh) * | 2022-07-01 | 2022-10-11 | 上海宏景智驾信息科技有限公司 | 一种车辆朝向信息的获取方法、装置和存储介质 |
CN115116012A (zh) * | 2022-07-20 | 2022-09-27 | 广州英码信息科技有限公司 | 基于目标检测算法的车辆停车位停车状态检测方法及系统 |
Non-Patent Citations (2)
Title |
---|
LI MAOYUE 等: "Parallel Parking Path Planning and Tracking Control Based on Adaptive Algorithms" * |
江绍康: "基于环视系统的停车位智能识别与泊车路径跟踪控制研究" * |
Also Published As
Publication number | Publication date |
---|---|
CN115861975B (zh) | 2023-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10417503B2 (en) | Image processing apparatus and image processing method | |
US8005266B2 (en) | Vehicle surroundings monitoring apparatus | |
US20180114067A1 (en) | Apparatus and method for extracting objects in view point of moving vehicle | |
US20190362501A1 (en) | Moving object detection apparatus, moving object detection method and program | |
CN109829933B (zh) | 影像目标追踪方法及装置 | |
US11263758B2 (en) | Image processing method and apparatus | |
JP2008186246A (ja) | 移動物体認識装置 | |
CN112598922B (zh) | 车位检测方法、装置、设备及存储介质 | |
KR20150067680A (ko) | 차량용 제스처 인식 시스템 및 그 방법 | |
US11880993B2 (en) | Image processing device, driving assistance system, image processing method, and program | |
CN111213153A (zh) | 目标物体运动状态检测方法、设备及存储介质 | |
CN113052907B (zh) | 一种动态环境移动机器人的定位方法 | |
CN113301320B (zh) | 图像信息处理方法、装置和电子设备 | |
JP2009288885A (ja) | 車線検出装置、車線検出方法、及び車線検出プログラム | |
WO2024017003A1 (zh) | 基于算法融合的车辆汇入检测方法、装置及设备 | |
CN108376384B (zh) | 视差图的矫正方法、装置及存储介质 | |
US20110267430A1 (en) | Detection Device of Planar Area and Stereo Camera System | |
CN106651903A (zh) | 一种运动物体检测方法 | |
CN115861975B (zh) | 障碍物车辆位姿估计方法及设备 | |
JP7019431B2 (ja) | カメラキャリブレーション装置、カメラキャリブレーション方法、およびプログラム | |
CN116245730A (zh) | 图像拼接的方法、装置、设备以及存储介质 | |
CN113011212B (zh) | 图像识别方法、装置及车辆 | |
JP3951734B2 (ja) | 車両用外界認識装置 | |
WO2020121757A1 (ja) | 画像処理装置 | |
CN112784671A (zh) | 障碍物检测装置及障碍物检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |