CN111428651A - 一种车辆的障碍信息获取方法、系统及车辆 - Google Patents
一种车辆的障碍信息获取方法、系统及车辆 Download PDFInfo
- Publication number
- CN111428651A CN111428651A CN202010226466.9A CN202010226466A CN111428651A CN 111428651 A CN111428651 A CN 111428651A CN 202010226466 A CN202010226466 A CN 202010226466A CN 111428651 A CN111428651 A CN 111428651A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- frame image
- target frame
- points
- feature points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种车辆的障碍信息获取方法、系统及车辆,应用于车辆驾驶技术领域。包括:获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息,m为大于或等于1的整数;采集第二目标帧图像,获取第二目标帧图像所对应的第二车辆位姿信息;根据第一车辆位姿信息、第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在第二目标帧图像中确定n个第二像素点,并计算n个第二像素点所对应的n个第一特征点的深度和深度方差,n为小于或等于m的整数;从n个第一特征点中确定深度方差小于第一阈值的x个第二特征点;根据x个第二特征点的深度,确定车辆的障碍信息。
Description
技术领域
本发明实施例涉及车辆驾驶技术领域,尤其涉及一种车辆的障碍信息获取方法、系统及车辆。
背景技术
自动驾驶过程中,障碍的识别是安全保障的重要部分,在没有激光雷达配备的自动驾驶车辆中,超声波一般作为主要的障碍识别手段。然而超声波的量程十分有限(0.5m~3.5m),也容易受到噪声,同频干扰等影响,而且对较小的障碍物识别的效果较差。
发明内容
本发明实施例提供一种车辆的障碍信息获取方法、系统及车辆,用以解决现有技术中采用超声波获取障碍信息时,对较小的障碍物识别效果较差的问题。
为了解决上述技术问题,本发明实施例是这样实现的:
第一方面,提供一种车辆的障碍信息获取方法,包括:获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息,m为大于或等于1的整数;
采集第二目标帧图像,获取所述第二目标帧图像所对应的第二车辆位姿信息;
根据所述第一车辆位姿信息、所述第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第二目标帧图像中确定n个第二像素点,并计算所述n个第二像素点所对应的n个第一特征点的深度和深度方差,n为小于或等于m的整数;
从所述n个第一特征点中确定深度方差小于所述第一阈值的x个第二特征点;
根据所述x个第二特征点的深度,确定所述车辆的障碍信息。
作为一种可选的实施方式,在本发明实施例的第一方面中,将所述n个第一特征点的深度和深度方差与所述第二目标帧图像对应保存。
作为一种可选的实施方式,在本发明实施例第一方面中,所述根据所述x个第二特征点的深度,确定障碍信息,包括:
根据所述x个第二特征点的深度,确定所述x个第二特征点与车辆之间的相对位置;
从所述x个成熟点中确定出处于车辆行驶高度之内的s个第二特征点;
根据所述s个第二特征点的深度,确定所述车辆的障碍信息,s为小于或等于x的整数。
作为一种可选的实施方式,在本发明实施例第一方面中,所述采集第二目标帧图像,包括:
在采集所述第一目标帧图像后,所述车辆行驶的距离超过预设距离,采集所述第二目标帧图像;
或者,
在采集第一目标帧图像后,所述车辆行驶的航位角的变化量超过预设角度,采集所述第二目标帧图像。
作为一种可选的实施方式,在本发明实施例第一方面中,所述从所述n个第一特征点中确定深度方差小于所述第一阈值的x个第二特征点之后,所述方法还包括:
将所述x个第二特征点重投影至所述第二目标帧图像中确定x个第二像素点,从所述第二目标帧图像中距离所述x个第二像素点预设距离以外的区域中提取y个第三像素点,所述y个第三像素点为与相邻像素点之间的灰阶值的差值大于或等于第二阈值的像素点,y为大于或等于1的整数;
采集第三目标帧图像,获取与所述第三目标帧图像对应的第三车辆位姿信息;
根据第二车辆位姿信息、第三车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第三目标帧图像中确定z个第四像素点,并计算所述z个第四像素点所对应的z个第三特征点的深度和深度方差,z为小于或等于y的整数;
将所述z个第三特征点的深度和深度方差与所述第三目标帧图像对应保存。
第二方面,提供一种车辆的障碍信息获取系统,包括:获取模块,用于获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息,m为大于或等于1的整数;采集第二目标帧图像,获取所述第二目标帧图像所对应的第二车辆位姿信息;
确定模块,用于根据所述第一车辆位姿信息、所述第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第二目标帧图像中确定n个第二像素点,并计算所述n个第二像素点所对应的n个第一特征点的深度和深度方差,n为小于或等于m的整数;从所述n个第一特征点中确定深度方差小于所述第一阈值的x个第二特征点;根据所述x个第二特征点的深度,确定所述车辆的障碍信息。
作为一种可选的实施方式,在本发明实施例第二方面中,所述系统还包括:
保存模块,用于将所述n个第一特征点的深度和深度方差与所述第二目标帧图像对应保存。
作为一种可选的实施方式,在本发明实施例第二方面中,所述确定模块,具体用于根据所述x个第二特征点的深度,确定所述x个第二特征点与车辆之间的相对位置;
从所述x个成熟点中确定出处于车辆行驶高度之内的s个第二特征点;
根据所述s个第二特征点的深度,确定所述车辆的障碍信息,s为小于或等于x的整数。
作为一种可选的实施方式,在本发明实施例第二方面中,所述获取模块,具体用于
在采集所述第一目标帧图像后,所述车辆的行驶距离超过预设距离,采集所述第二目标帧图像;
或者,
在采集所述第一目标帧图像后,所述车辆的航位角的变化量超过预设角度,采集所述第二目标帧图像。
作为一种可选的实施方式,在本发明实施例第二方面中,所述系统还包括:
提取模块,用于将所述x个第二特征点重投影至所述第二目标帧图像中确定x个第二像素点,从所述第二目标帧图像中距离所述x个第二像素点预设距离以外的区域中提取y个第三像素点,所述y个第三像素点为与相邻像素点之间的灰阶值的差值大于或等于第二阈值的像素点,y为大于或等于1的整数;
所述获取模块,还用于采集第三目标帧图像,获取与所述第三目标帧图像对应的第三车辆位姿信息;
所述确定模块,还用于根据第二车辆位姿信息、第三车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第三目标帧图像中确定z个第四像素点,并计算所述z个第四像素点所对应的z个第三特征点的深度和深度方差,z为小于或等于y的整数;
将所述z个第三特征点的深度和深度方差与所述第三目标帧图像对应保存。
第三方面,提供一种车辆的障碍信息获取系统,包括:处理器、存储器及存储在该存储器上并可在该处理器上运行的计算机程序,该计算机程序被该处理器执行时实现如第一方面所述的车辆的障碍信息获取方法的步骤。
第四方面,提供一种车辆,所述车辆包括:如第二方面或其可选的实现方式中所述的车辆的障碍信息获取系统。
第五方面,提供一种计算机可读存储介质,该计算机可读存储介质上存储计算机程序,该计算机程序被处理器执行时实现如第一方面或其可选的实现方式所述的车辆的障碍信息获取方法的步骤
第六方面,提供一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行如第一方面或去可选的实现方式所述的车辆的障碍信息获取方法的步骤
第七方面,提供一种应用发布平台,所述应用发布平台用于发布计算机程序产品,其中,当所述计算机程序产品在计算机上运行时,使得所述计算机执行如第一方面或其可选的实现方式所述的车辆的障碍信息获取方法的部分或全部步骤。
与现有技术相比,本发明实施例具有以下有益效果:
本发明实施例中,获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息,m为大于或等于1的整数;采集第二目标帧图像,获取第二目标帧图像所对应的第二车辆位姿信息;根据第一车辆位姿信息、第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在第二目标帧图像中确定n个第二像素点,并计算n个第二像素点所对应的n个第一特征点的深度和深度方差,n为小于或等于m的整数;从n个第一特征点中确定深度方差小于第一阈值的x个第二特征点;根据x个第二特征点的深度,确定车辆的障碍信息。该方案中,结合了单目摄像头在不同时刻拍摄的图像和在不同时刻车辆的位置信息,通过极线搜索和块匹配的方法估计梯度较大的点的深度,对较小的障碍物识别的效果较好。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例公开的一种车辆的障碍信息获取方法的流程示意图一;
图2是本发明实施例公开的一种极线搜索和块匹配算法应用场景的示意图一;
图3是本发明实施例公开的一种极线搜索和块匹配算法应用场景的示意图二;
图4是本发明实施例公开的一种车辆的障碍信息获取方法的流程示意图二;
图5是本发明实施例公开的一种车辆的障碍信息获取方法的流程示意图三;
图6是本发明实施例公开的一种车辆的障碍信息获取系统的结构示意图一;
图7是本发明实施例公开的一种车辆的障碍信息获取系统的结构示意图二。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书中的术语“第一”和“第二”等是用于区别不同的对象,而不是用于描述对象的特定顺序。例如,第一目标帧图像和第二目标帧图像等是用于区别不同帧图像,而不是用于描述图像的特定顺序。
本发明实施例的术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
需要说明的是,本发明实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本发明实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
本发明实施例提供的车辆的障碍信息获取方法、系统及车辆在识别较小的障碍物时效果好,该方法可以与传统的超声波识别方法相结合,在弥补超声波识别较小物体时识别效果较差的缺陷。
本发明实施例中提供的方法、系统及车辆可以使用与涉及车辆获取障碍信息(即识别障碍物)的场景中。例如,适用于车辆避障,自动泊车等场景中。
下面的实施例以本发明实施例提供的车辆的障碍信息获取方法的执行主体可以是车辆,也可以是车辆中的部分功能模块或者功能实体,下面结合附图对本发明实施例提供的车辆的障碍信息获取方法进行示例性的说明。
实施例一
如图1所示,本发明实施例提供一种车辆的障碍信息获取方法,在车辆行驶过程中,车辆可以执行下述步骤,以获取障碍信息。
101、获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息。
其中,m为大于或等于1的整数。
可选的,本发明实施例中,可以预先保存有m个第一像素点所在的第一目标帧图像。
上述第一目标帧图像,可以为车辆上的摄像头拍摄的任意一帧图像。
可选的,上述摄像头可以为单目摄像头。
其中,上述第一目标帧图像对应的第一车辆位姿信息可以为在拍摄第一目标帧图像的时刻的车辆位姿信息。
102、采集第二目标帧图像,获取第二目标帧图像所对应的第二车辆位姿信息。
其中,第二目标帧图像对应的第二车辆位姿信息可以为在拍摄第二目标帧图像的时刻的车辆位姿信息。
可选的,上述102可以通过以下102a或者102b实现。
102a、在采集第一目标帧图像后,车辆行驶的距离超过预设距离,采集第二目标帧图像。
102b、在采集第一目标帧图像后,车辆行驶的航位角的变化量超过预设角度,采集第二目标帧图像。
其中,上述预设距离可以是1米、2米或者3米等,还可以为其他距离的具体数值,本发明实施例中不作限定。
需要说明的是,上述预设距离的设置可以考虑车辆的车速,车辆的车速越高,可以将该预设距离设置的越大;车辆的车速越低,可以将该预设距离设置的越小。
其中,上述预设角度可以设置为10度,20度或者45度,还可以为其他角度数值,本发明实施例不作限定。
本发明实施例中,在采集第一目标帧图像之后,在车辆行驶一段距离或者航位角变化一定角度之后,再采集第二目标帧图像可以使得两次采集到的图像会存在一定的差异,这样相比于采集相邻两帧的图像来执行本发明实施例提供的车辆的障碍信息获取方法,可以减少计算量,提高获取障碍信息的效率。
103、根据第一车辆位姿信息、第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在第二目标帧图像中确定n个第二像素点,并计算n个第二像素点所对应的n个第一特征点的深度和深度方差。
其中,n为小于或等于m的整数。
本发明实施例中,根据第一车辆位姿信息、第二车辆位姿信息以及图像采集装置相对于车身的位置信息,可以确定采集第一目标帧图像与采集第二目标帧图像这两个时刻,车辆上图像采集装置的相对位置变化。
其中,上述图像采集装置可以为单目摄像头。
本发明实施例中,所涉及的特征点可以理解为实际空间中的三维点。例如,上述n个第一特征点为实际空间中的n个三维点。
下面结合图2和图3,对通过极线搜索和块匹配的算法在图像中确定像素点,以及计算像素点对应的特征点的深度和深度方差的方法进行说明。
示例性的,如图2所示,位于O1点的车辆上的单目摄像头观测到了第1图像(可以为上述第一目标帧图像)上某个像素点p1,由于是单目相机,所以无法获知该p1点对应的特征点(即p1点对应的实际点)的深度d,其深度d可能在(dmin,+∞),假设其深度在A点与B点之间。假设车辆行驶一段时间之后,车辆上的单目摄像头由O1点移动到了O2点,此时可以根据单目摄像头的相对位置变化,确定线段AB在第2图像(可以为上述第二目标帧图像)上的投影,这条线段即为极线(即为图2中的线段ab)。
进一步的,需要在图像2中极线上确定哪个点是图像1中对应的p1点,我们需要沿着第2图像中的极线的某一头到另一头(例如从a点到b点)逐个比较极线上的每个像素点与p1的相似程度,知道找到与p1点匹配的像素点p2。
进一步的,由于比较单个像素的亮度值并不一定稳定可靠,因此我们可以在p1周围取一个大小为w*w的小块,然后在极线上也取很多同样大小的小块进行比较,就可以在一定程度上提高区分性。这就是所谓的块匹配。(假设在不同图像间整个小块的灰度值不变,这种比较才有意义)。
现在我们取了p1周围的小块,并且在极线上也取了很多个小块。可以把p1周围的小块记成A∈Rw*w,把极线上的n个小块记成Bi,i=1...n。
根据以下三种公式计算小块与小块间的差异。
公式一:取两个小块的差的绝对值之和(sum of sbsolutedifference,SAD)。
公式二、距离平方和(sum of squared distance,SSD)
公式三、归一化互相关(normalized cross correlation,NCC)这种方式比前两种要复杂一些,他计算的是两个小块的相关性:
公式三中计算的是相关性,所以S(A,B)NCC越接近0表示越不相似,而公式一中S(A,B)SAD的和公式二中的S(A,B)SSD,则是越接近0表示越相似。
上述三种计算方式往往存在精度和效率之间的矛盾。精度好的方法往往需要复杂的计算,而简单的快速算法又往往计算效率比较低,这需要在实际工程中进行取舍,因此本发明实施例不限定使用上述三种公式中的哪种公式进行计算。
进一步的,假设使用了上述公式三在极线上计算了A与每一个Bi的相似性度量。那么我们得到一个沿着极线的NCC分布,在搜索距离较长的情况下通常会得到一个非凸函数,这个非凸函数的分布存在着很多峰值,然而真实的对应点只有一个。在这种情况下,可以使用概率分布来描述深度,而非用某个单一的数值来描述深度。然后可以在不断对不同图像进行极线搜索时更新估计的深度分布直到得到可信的深度,这就是所谓的深度滤波器。
其中,计算的标准差如公式四:σobs=aσmatch+bσgeo,其中,a和b是系数,a和b的取值可以通过多次实验验证的结果来设置,本发明实施例不作限定。
σmatch=1-S(A,B)SAD其中,σmatch为匹配标准差
如图3所示,我们找到了p1对应的p2点,从而观测到了p1的深度值,认为p1对应的三维点为P,该三维点的深度为‖P‖,若在极限上存在一个像素点的误差则该三位点的深度为‖P′‖。其中,上述t为O1点与O2点之间的距离。r与β′在图3中均有示出。
进一步的,在不断对不同图像进行极线搜索时更新估计的深度分布直到得到可信的深度,这就是所谓的深度滤波器。
示例性的,假设一个特征点(未成熟点)的深度为μ,深度方差为σ2
在新的一帧图像中的观测值为:(μobs,σobs 2)
104、从n个第一特征点中确定深度方差小于第一阈值的x个第二特征点。
本发明实施例中,可以将深度方差小于第一阈值的特征点称为未成熟点,将深度方差大于或等于第一阈值的点称为成熟点,上述x个第二特征点即为x个未成熟点。
可选的,本发明实施例中,可以将上述成熟点,以及成熟点的深度和深度方差对应保存至成熟点列表。
可选的,可以将上述未成熟点,以及未成熟点的深度和深度方差对应保存至未成熟点列表。
105、根据x个第二特征点的深度,确定车辆的障碍信息。
可选的,上述105可以替换为下述105a、105b和105c。
105a、根据x个第二特征点的深度,确定x个第二特征点与车辆之间的相对位置。
可选的,可以根据车辆的位姿信息和图像采集装置相对于车身的位置信息,确定图像采集装置的位置,然后结合x个第二特征点的深度,可以确定出每个第二特征点相对于图像采集装置的位置,然后可以进一步确定出每个第二特征点相对于车辆的位置。
可选的,可以确定出每个第二特征点距离车身有多少米远,可以将距离较近的特征点,确定为障碍物,从而可以对确定出的特征点进行筛选,确定出更加有效的信息。
105b、从x个第二特征点中确定出处于车辆行驶高度之内的s个第二特征点。
105c、根据s个第二特征点的深度,确定车辆的障碍信息。
进一步的,还可以判断一下这x个第二特征点的位置是否高于车身行驶高度,例如,车身行驶高度在距离当地的海平面高度5米之内,则可以将距离海平面高度大于5米的特征点丢弃,将距离海平面高度小于或等于5米的特征点,确定为障碍物。
本发明实施例中,通过车辆行驶高度对特征点进行筛选,可以确定出更加有效的信息。
可选的,结合图1,如图4所示,上述104之后,还包括以下步骤:
106、将x个第二特征点重投影至第二目标帧图像中确定x个第二像素点,从第二目标帧图像中距离x个第二像素点预设距离以外的区域中提取y个第三像素点。
其中,上述y个第三像素点为与相邻像素点之间的灰阶值的差值大于或等于第二阈值的像素点,y为大于或等于1的整数。
107、采集第三目标帧图像,获取与第三目标帧图像对应的第三车辆位姿信息。
108、根据第二车辆位姿信息、第三车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在第三目标帧图像中确定z个第四像素点,并计算z个第四像素点所对应的z个第三特征点的深度和深度方差。
其中,z为小于或等于y的整数。
108中通过极线搜索和块匹配的算法在第三目标帧图像中确定z个第四像素点,并计算z个第四像素点所对应的z个第三特征点的深度和深度方差的方法,与上述103中通过极线搜索和块匹配的算法在第二目标帧图像中确定n个第二像素点,并计算n个第二像素点所对应的n个第一特征点的深度和深度方差的方法类似,此处不再赘述。
109、将z个第三特征点的深度和深度方差与第三目标帧图像对应保存。
其中,这z个第三特征点的深度和深度方差可以作为初始的深度和深度方差。
进一步的,可以在保存的第三目标帧图像与z个第三特征点的深度和深度方差的基础上从下一次采集的图像中确定特征点,并计算确定出的特征点的深度和深度方差。
需要说明的是,本发明实施例提供的车辆的障碍信息获取方法可以是一个循环的过程,即可以针对车辆采集的两帧不同图像一直循环执行本发明实施例图1或图4所示的方法,以持续的获取车辆的障碍信息。
下面结合图5所示,本发明实施例提供的车辆的障碍信息获取方法主要包括初始化过程和常规循环过程,以下结合附图进行详细的说明。
1、初始化过程
a、启动本发明实施例提供的车辆的障碍信息获取方法时,将任一帧图像作为初始图像,从该初始图像中提取其中梯度较大的像素点,将这些像素点所对应的实际点作为特征点。
b、判断特征点是否足够。
如果提取的数量少于一定阈值,则不断重复此过程直至能提取出足够的点。
若提取的特征点的数量足够(如超过一定阈值),定义该帧为初始帧,并继续执行下述c。
若提取的特征点的数量不足(如,小于或等于一定阈值)重新选择初始帧,即返回执行上述a。
c、根据里程计数据,当车辆运动超过一定距离或是旋转超过一定角度(通过里程计判断)时,取第二张图像为当前帧。
d、然后根据里程计提供的两帧相对位姿信息和摄像头的外参(摄像头相对车身的位置),通过极线搜索和块匹配的方法寻找匹配的特征点(这个过程又叫跟踪)。
e、判断是否跟踪到足够多的特征点。
若未跟踪到足够多的特征点,则返回执行上述a。
f、若跟踪到足够多的特征点,则满足初始化的条件,根据的匹配的情况计算这些特征点的深度和方差(主要由梯度和极线的夹角计算)。
g、把初始帧和当前帧放入滑动窗口(Sliding Window)列表,特征点放入未成熟点(Immature Point)列表,完成初始化。
2、常规循环过程
完成初始化后,进入了一个循环过程,循环输入图像和里程计数据,输出点云数据。具体步骤如下:
h、根据里程计,当车辆运动超过一定距离或是旋转超过一定角度的时候,取图像作为当前帧。
i、未成熟点列表中的点根据未成熟点所在帧和当前帧的相对位姿关系进行极线搜索匹配,根据新的搜索结果计算新的深度和方差,并用其对之前的深度和方差进行更新。所有未成熟点更新完毕后,把深度方差小于一定阈值的定义为成熟点(mature point),检查该点是否在车辆的行驶高度范围内,在车辆行驶高度范围内的点加入避障地图(obstacle map),不在车辆行驶高度范围内的点则丢弃。
j、把成熟点重投影至当前帧,在当前帧离成熟点一定距离以上的区域中提取特征点,并与下一帧图像(即,下一次采集的一帧图像)的位姿信息计算初始的深度和方差(提取特征点和深度计算的过程与初始化中的相应过程相同)。
k、当前帧放入滑动窗口,新提取的特征点,放入未成熟点列表。
l、遍历滑动窗口,移除滑动窗口中与当前车辆超过一定距离的帧和这些帧所对应的地图点。
不断进行以上过程就可以得到在车辆行驶周围,且在车辆行驶高度之内的障碍点,这些障碍点可以为自动驾驶的车辆的规划和避障提供信息。
m、避障地图中的点可视为障碍物,可以从该避障地图中获取避障信息,进行车辆的行驶规划。
本发明实施例提供的车辆的障碍信息获取方法,利用了单目摄像头获取的图像,结合里程计数据,适用于适合识别纹理丰富或是较小的物体(如,栏杆),无法识别没有梯度或者梯度很小的区域(如,单一颜色区域,或,大面积墙面),而超声波对于大面积物体感知良好,因此可以将本发明实施例提供的车辆的障碍信息获取方法与传统的超声波识别车辆的障碍信息的方法进行互补。
需要说明的是,本发明实施例中,上述各个附图所示的车辆的障碍信息获取方法均是以结合本发明实施例中的一个附图为例示例性的说明的。具体实现时,上述各个附图所示的车辆的障碍信息获取方法还可以结合上述实施例中示意的其他可以结合的任意附图实现,此处不再赘述。
如图6所示,本发明实施例提供一种车辆的障碍信息获取系统,包括:
获取模块201,用于获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息,m为大于或等于1的整数;采集第二目标帧图像,获取第二目标帧图像所对应的第二车辆位姿信息;
确定模块202,用于根据第一车辆位姿信息、第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在第二目标帧图像中确定n个第二像素点,并计算n个第二像素点所对应的n个第一特征点的深度和深度方差,n为小于或等于m的整数;从n个第一特征点中确定深度方差小于第一阈值的x个第二特征点;根据x个第二特征点的深度,确定车辆的障碍信息。
可选的,系统还包括:
保存模块203,用于将n个第一特征点的深度和深度方差与第二目标帧图像对应保存。
可选的,确定模块202,具体用于根据x个第二特征点的深度,确定x个第二特征点与车辆之间的相对位置;
从x个第二特征点中确定出处于车辆行驶高度之内的s个第二特征点;
根据s个第二特征点的深度,确定车辆的障碍信息,s为小于或等于x的整数。
可选的,获取模块201,具体用于在采集第一目标帧图像后,车辆的行驶距离超过预设距离,采集第二目标帧图像;
或者,
在采集第一目标帧图像后,车辆的航位角的变化量超过预设角度,采集第二目标帧图像。
可选的,系统还包括:
提取模块204,用于将x个第二特征点重投影至第二目标帧图像中确定x个第二像素点,从第二目标帧图像中距离x个第二像素点预设距离以外的区域中提取y个第三像素点,y个第三像素点为与相邻像素点之间的灰阶值的差值大于或等于第二阈值的像素点,y为大于或等于1的整数;
获取模块201,还用于采集第三目标帧图像,获取与第三目标帧图像对应的第三车辆位姿信息;
确定模块202,还用于根据第二车辆位姿信息、第三车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在第三目标帧图像中确定z个第四像素点,并计算z个第四像素点所对应的z个第三特征点的深度和深度方差,z为小于或等于y的整数;
将z个第三特征点的深度和深度方差与第三目标帧图像对应保存。
如图7所示,本发明实施例提供一种车辆的障碍信息获取系统,包括:处理器301、存储器302以及存储在存储器302上并可在该处理器301上运行的计算机程序,该计算机程序被该处理器301执行是实现上述方法实施例中的车辆的障碍信息获取方法的步骤。
本发明实施例提供的车辆的障碍信息获取系统能够实现上述方法实施例中所示的各个过程,为避免重复,此处不再赘述。
可选的,本发明实施例提供一种车辆,其特征在于,该车辆包括:上述实施例中涉及的车辆的障碍信息获取系统。
本发明实施例提供一种计算机可读存储介质,该计算机可读存储介质上存储计算机程序,该计算机程序被处理器执行时实现上述方法实施例中的各个过程。
本发明实施例提供一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行上述方法实施例中的各个过程。
本发明实施例提供一种应用发布平台,所述应用发布平台用于发布计算机程序产品,其中,当所述计算机程序产品在计算机上运行时,使得所述计算机执行上述方法实施例中的各个过程。
在本发明的各种实施例中,应理解,上述各过程的序号的大小并不意味着执行顺序的必然先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物单元,即可位于一个地方,或者也可以分布到多个网络单元上。可根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
上述集成的单元若以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可获取的存储器中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或者部分,可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干请求用以使得一台计算机设备(可以为个人计算机、服务器或者网络设备等,具体可以是计算机设备中的处理器)执行本发明的各个实施例上述方法的部分或全部步骤。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、一次可编程只读存储器(One-time Programmable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
Claims (10)
1.一种车辆的障碍信息获取方法,其特征在于,包括:
获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息,m为大于或等于1的整数;
采集第二目标帧图像,获取所述第二目标帧图像所对应的第二车辆位姿信息;
根据所述第一车辆位姿信息、所述第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第二目标帧图像中确定n个第二像素点,并计算所述n个第二像素点所对应的n个第一特征点的深度和深度方差,n为小于或等于m的整数;
从所述n个第一特征点中确定深度方差小于所述第一阈值的x个第二特征点;
根据所述x个第二特征点的深度,确定所述车辆的障碍信息。
2.根据权利要求1所述的方法,其特征在于,所述根据所述x个第二特征点的深度,确定障碍信息,包括:
根据所述x个第二特征点的深度,确定所述x个第二特征点与车辆之间的相对位置;
从所述x个第二特征点中确定出处于车辆行驶高度之内的s个第二特征点;
根据所述s个第二特征点的深度,确定所述车辆的障碍信息,s为小于或等于x的整数。
3.根据权利要求1所述的方法,其特征在于,所述采集第二目标帧图像,包括:
在采集所述第一目标帧图像后,所述车辆行驶的距离超过预设距离,采集所述第二目标帧图像;
或者,
在采集第一目标帧图像后,所述车辆行驶的航位角的变化量超过预设角度,采集所述第二目标帧图像。
4.根据权利要求1至3任一项所述的方法,其特征在于,所述从所述n个第一特征点中确定深度方差小于所述第一阈值的x个第二特征点之后,所述方法还包括:
将所述x个第二特征点重投影至所述第二目标帧图像中确定x个第二像素点,从所述第二目标帧图像中距离所述x个第二像素点预设距离以外的区域中提取y个第三像素点,所述y个第三像素点为与相邻像素点之间的灰阶值的差值大于或等于第二阈值的像素点,y为大于或等于1的整数;
采集第三目标帧图像,获取与所述第三目标帧图像对应的第三车辆位姿信息;
根据第二车辆位姿信息、第三车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第三目标帧图像中确定z个第四像素点,并计算所述z个第四像素点所对应的z个第三特征点的深度和深度方差,z为小于或等于y的整数;
将所述z个第三特征点的深度和深度方差与所述第三目标帧图像对应保存。
5.一种车辆的障碍信息获取系统,其特征在于,包括:
获取模块,用于获取保存的m个第一像素点所在的第一目标帧图像对应的第一车辆位姿信息,m为大于或等于1的整数;采集第二目标帧图像,获取所述第二目标帧图像所对应的第二车辆位姿信息;
确定模块,用于根据所述第一车辆位姿信息、所述第二车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第二目标帧图像中确定n个第二像素点,并计算所述n个第二像素点所对应的n个第一特征点的深度和深度方差,n为小于或等于m的整数;从所述n个第一特征点中确定深度方差小于所述第一阈值的x个第二特征点;根据所述x个第二特征点的深度,确定所述车辆的障碍信息。
6.根据权利要求5所述的系统,其特征在于,所述确定模块,具体用于根据所述x个第二特征点的深度,确定所述x个第二特征点与车辆之间的相对位置;
从所述x个第二特征点中确定出处于车辆行驶高度之内的s个第二特征点;
根据所述s个第二特征点的深度,确定所述车辆的障碍信息,s为小于或等于x的整数。
7.根据权利要求6所述的系统,其特征在于,所述获取模块,具体用于
在采集所述第一目标帧图像后,所述车辆的行驶距离超过预设距离,采集所述第二目标帧图像;
或者,
在采集所述第一目标帧图像后,所述车辆的航位角的变化量超过预设角度,采集所述第二目标帧图像。
8.根据权利要求5至7任一项所述的系统,其特征在于,所述系统还包括:
提取模块,用于将所述x个第二特征点重投影至所述第二目标帧图像中确定x个第二像素点,从所述第二目标帧图像中距离所述x个第二像素点预设距离以外的区域中提取y个第三像素点,所述y个第三像素点为与相邻像素点之间的灰阶值的差值大于或等于第二阈值的像素点,y为大于或等于1的整数;
所述获取模块,还用于采集第三目标帧图像,获取与所述第三目标帧图像对应的第三车辆位姿信息;
所述确定模块,还用于根据第二车辆位姿信息、第三车辆位姿信息以及图像采集装置相对于车身的位置信息,通过极线搜索和块匹配的算法在所述第三目标帧图像中确定z个第四像素点,并计算所述z个第四像素点所对应的z个第三特征点的深度和深度方差,z为小于或等于y的整数;
将所述z个第三特征点的深度和深度方差与所述第三目标帧图像对应保存。
9.一种车辆,其特征在于,所述车辆包括如权利要求5至8任一项所述的车辆的障碍信息获取系统。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至4任一项所述的车辆的障碍信息获取方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010226466.9A CN111428651B (zh) | 2020-03-26 | 2020-03-26 | 一种车辆的障碍信息获取方法、系统及车辆 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010226466.9A CN111428651B (zh) | 2020-03-26 | 2020-03-26 | 一种车辆的障碍信息获取方法、系统及车辆 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111428651A true CN111428651A (zh) | 2020-07-17 |
CN111428651B CN111428651B (zh) | 2023-05-16 |
Family
ID=71555522
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010226466.9A Active CN111428651B (zh) | 2020-03-26 | 2020-03-26 | 一种车辆的障碍信息获取方法、系统及车辆 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111428651B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112257666A (zh) * | 2020-11-12 | 2021-01-22 | 腾讯科技(深圳)有限公司 | 目标图像内容的聚合方法、装置、设备及可读存储介质 |
CN112528728A (zh) * | 2020-10-16 | 2021-03-19 | 深圳市银星智能科技股份有限公司 | 一种用于视觉导航的图像处理方法、装置和移动机器人 |
WO2022193976A1 (zh) * | 2021-03-16 | 2022-09-22 | 华为技术有限公司 | 一种图像深度预测方法及电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106681353A (zh) * | 2016-11-29 | 2017-05-17 | 南京航空航天大学 | 基于双目视觉与光流融合的无人机避障方法及系统 |
CN107169468A (zh) * | 2017-05-31 | 2017-09-15 | 北京京东尚科信息技术有限公司 | 用于控制车辆的方法和装置 |
CN109801309A (zh) * | 2019-01-07 | 2019-05-24 | 华南理工大学 | 一种基于rgb-d相机的障碍物感知方法 |
CN110084133A (zh) * | 2019-04-03 | 2019-08-02 | 百度在线网络技术(北京)有限公司 | 障碍物检测方法、装置、车辆、计算机设备和存储介质 |
-
2020
- 2020-03-26 CN CN202010226466.9A patent/CN111428651B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106681353A (zh) * | 2016-11-29 | 2017-05-17 | 南京航空航天大学 | 基于双目视觉与光流融合的无人机避障方法及系统 |
CN107169468A (zh) * | 2017-05-31 | 2017-09-15 | 北京京东尚科信息技术有限公司 | 用于控制车辆的方法和装置 |
CN109801309A (zh) * | 2019-01-07 | 2019-05-24 | 华南理工大学 | 一种基于rgb-d相机的障碍物感知方法 |
CN110084133A (zh) * | 2019-04-03 | 2019-08-02 | 百度在线网络技术(北京)有限公司 | 障碍物检测方法、装置、车辆、计算机设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
唐东林: "爬壁机器人双目视觉障碍检测系统" * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112528728A (zh) * | 2020-10-16 | 2021-03-19 | 深圳市银星智能科技股份有限公司 | 一种用于视觉导航的图像处理方法、装置和移动机器人 |
CN112528728B (zh) * | 2020-10-16 | 2024-03-29 | 深圳银星智能集团股份有限公司 | 一种用于视觉导航的图像处理方法、装置和移动机器人 |
CN112257666A (zh) * | 2020-11-12 | 2021-01-22 | 腾讯科技(深圳)有限公司 | 目标图像内容的聚合方法、装置、设备及可读存储介质 |
CN112257666B (zh) * | 2020-11-12 | 2022-10-04 | 腾讯科技(深圳)有限公司 | 目标图像内容的聚合方法、装置、设备及可读存储介质 |
WO2022193976A1 (zh) * | 2021-03-16 | 2022-09-22 | 华为技术有限公司 | 一种图像深度预测方法及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN111428651B (zh) | 2023-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6095018B2 (ja) | 移動オブジェクトの検出及び追跡 | |
CN111428651B (zh) | 一种车辆的障碍信息获取方法、系统及车辆 | |
US8199977B2 (en) | System and method for extraction of features from a 3-D point cloud | |
JP5178875B2 (ja) | 対応点探索のための画像処理方法 | |
WO2016210227A1 (en) | Aligning 3d point clouds using loop closures | |
KR102458242B1 (ko) | 스테레오 카메라로부터 획득된 이미지 페어를 처리하는 장치 및 방법 | |
CN111209770A (zh) | 一种车道线识别方法及装置 | |
US10055674B2 (en) | Confidence estimation for optical flow | |
CN115248447B (zh) | 一种基于激光点云的路沿识别方法及系统 | |
CN107590444B (zh) | 静态障碍物的检测方法、装置及存储介质 | |
US8989481B2 (en) | Stereo matching device and method for determining concave block and convex block | |
CN111047634B (zh) | 场景深度的确定方法、装置、设备及存储介质 | |
CN112101195B (zh) | 人群密度预估方法、装置、计算机设备和存储介质 | |
WO2019097422A2 (en) | Method and system for enhanced sensing capabilities for vehicles | |
CN107392898B (zh) | 应用于双目立体视觉中的像素点视差值计算方法及装置 | |
CN110751722A (zh) | 同时定位建图方法及装置 | |
CN112270748B (zh) | 基于图像的三维重建方法及装置 | |
CN116630442B (zh) | 一种视觉slam位姿估计精度评估方法及装置 | |
CN109115232B (zh) | 导航的方法和装置 | |
JP2013069045A (ja) | 画像認識装置、画像認識方法および画像認識プログラム | |
CN111967484A (zh) | 点云聚类方法、装置、计算机设备和存储介质 | |
EP3147820B1 (en) | Object tracking method, device, and system as well as relevant program and non-transitory computer-readable medium | |
CN107808160B (zh) | 三维建筑物提取方法和装置 | |
CN112132960B (zh) | 一种三维重建方法、装置和电子设备 | |
CN115222789A (zh) | 实例深度估计模型的训练方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |