CN114782927B - 障碍物检测方法、装置、电子设备及存储介质 - Google Patents
障碍物检测方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114782927B CN114782927B CN202210701440.4A CN202210701440A CN114782927B CN 114782927 B CN114782927 B CN 114782927B CN 202210701440 A CN202210701440 A CN 202210701440A CN 114782927 B CN114782927 B CN 114782927B
- Authority
- CN
- China
- Prior art keywords
- image
- detected
- optical flow
- obstacle detection
- matching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种障碍物检测方法、装置、电子设备及存储介质,其中,所述方法包括:获取待检测图像中的有效区域,所述有效区域仅包括可行使区域;检测第一待检测图像的有效区域中的关键点;采用光流法,从第二待检测图像的有效区域中获取与所述关键点匹配的光流匹配点;所述第二待检测图像为所述第一待检测图像后一帧的待检测图像;计算得到每一所述关键点在所述第二待检测图像中的平流匹配点;计算所述关键点的光流场与平流场之间的欧拉距离;基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物。本发明提供的技术方案,能够提高障碍物检测的精度和可靠性。
Description
技术领域
本发明涉及智能检测技术领域,具体涉及一种障碍物检测方法、装置、电子设备及存储介质。
背景技术
障碍物检测技术广泛应用在自动驾驶、以及车辆辅助驾驶等领域中,使得车辆及驾驶员能提前感知到前方障碍物,从而提前做出有效避障动作,保证行车安全。传统上有多种方法可以感知障碍物,比如雷达,超声等非视觉类感知方法,另一类主要是基于摄像头的视觉类感知方法。非视觉类感知方法使用的传感器等硬件价格昂贵,而且由于物理限制导致其易受天气等各种状况影响,因此目前基于摄像头的视觉感知检测障碍物的技术受到极大重视,发展快,极大推动了自动驾驶的发展。
对于基于摄像头的视觉感知检测障碍物的技术,近年来随着深度神经网络的发展,出现了很多基于深度网络的障碍物感知检测方法,这类方法往往需要标注大量的目标类,且在应用过程中,如果不是训练中定义好的类别的障碍物或者形状常见的障碍物,很大可能会漏检测,导致发生碰撞事故,这极大地威胁到驾驶员的安全。
发明内容
有鉴于此,本发明实施例提供了一种障碍物检测方法、装置、电子设备及存储介质,以解决目前的基于视觉感知的障碍物检测方法精度不够、可靠性低的问题。
根据第一方面,本发明实施例提供了一种障碍物检测方法,所述方法包括:
获取待检测图像中的有效区域,所述有效区域仅包括可行使区域;
检测第一待检测图像的有效区域中的关键点;
采用光流法,从第二待检测图像的有效区域中获取与所述关键点匹配的光流匹配点;所述第二待检测图像为所述第一待检测图像后一帧的待检测图像;
计算得到每一所述关键点在所述第二待检测图像中的平流匹配点;
计算所述关键点的光流场与平流场之间的欧拉距离;
基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物。
可选的,所述获取待检测图像中的有效区域,包括:
利用深度网络从所述待检测图像中检测第一障碍物;
从所述待检测图像中去除所述第一障碍物所在的图像区域,得到第一图像;
从所述第一图像中提取所述有效区域。
可选的,所述计算得到每一所述关键点在所述第二待检测图像中的平流匹配点,包括:
利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵;
利用所述单应矩阵,获取每一所述关键点在所述第二待检测图像中的平流匹配点。
可选的,所述利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵,包括:
选取多组关键点匹配对,所述关键点匹配对为匹配的所述关键点和所述光流匹配点,每一组所述关键点匹配对中均包括随机挑选的三对所述关键点匹配对;
针对每一组所述关键点匹配对,计算得到一个第一单应矩阵;
利用所述第一单应矩阵,获取每一所述关键点在所述第二待检测图像中的第一平流匹配点;
计算每一所述关键点的光流场与平流场之间的第一欧拉距离,并求和得到第一和值;所述第一欧拉距离是基于所述关键点的所述光流匹配点与所述第一平流匹配点计算得到;
从多组所述关键点匹配对中,筛选出所述第一和值最小的一组所述关键点匹配对;
确定所述第一和值最小的一组所述关键点匹配对对应的所述第一单应矩阵作为所述单应矩阵。
可选的,所述基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物,包括:
若所述关键点对应的所述欧拉距离大于或等于第一预设阈值,则确定所述关键点对应的所述光流匹配点为第一光流匹配点;
对所述第一光流匹配点进行聚类,得到候选障碍物检测框;
基于所述候选障碍物检测框确定所述障碍物。
可选的,所述基于所述候选障碍物检测框确定所述障碍物,包括:
若所述候选障碍物检测框满足以下条件中的至少之一,则确定所述候选障碍物检测框是所述障碍物:
所述候选障碍物检测框对应的置信度均值大于第二预设阈值,所述候选障碍物检测框对应的置信度均值为所述候选障碍物检测框内的所述第一光流匹配点对应的置信度的均值,所述第一光流匹配点对应的置信度根据所述第一光流匹配点对应的所述欧拉距离确定;
所述候选障碍物检测框的直方图与对比区域的直方图之间的差异大于第三预设阈值,所述对比区域为从所述第一待检测图像的有效区域中提取的、除所有的所述候选障碍物检测框以外的区域;
预先训练的SVM分类器判断所述候选障碍物检测框是所述障碍物。
可选的,所述基于所述候选障碍物检测框确定所述障碍物,包括:
针对每一所述候选障碍物检测框,根据所述候选障碍物检测框内的每一所述第一光流匹配点对应的所述欧拉距离,确定所述第一光流匹配点的置信度,并计算所述第一光流匹配点的置信度均值,若所述第一光流匹配点的置信度均值大于第二预设阈值,则确定所述候选障碍物检测框为所述障碍物;
对于尚未确定为所述障碍物的每一所述候选障碍物检测框,从所述第一待检测图像的有效区域中提取对比区域,计算所述对比区域的直方图,将所述对比区域的直方图与所述候选障碍物检测框的直方图进行对比,若差异大于第三预设阈值,则确定所述候选障碍物检测框为所述障碍物,所述对比区域为除所述候选障碍物检测框以外的区域;
对于尚未确定为所述障碍物的每一所述候选障碍物检测框,利用预先训练的SVM分类器判断所述候选障碍物检测框是否是所述障碍物。
根据第二方面,本发明实施例提供了一种障碍物检测装置,包括:
获取模块,用于获取待检测图像中的有效区域,所述有效区域仅包括可行使区域;
检测模块,用于检测第一待检测图像的有效区域中的关键点;
匹配模块,用于采用光流法,从第二待检测图像的有效区域中获取与所述关键点匹配的光流匹配点;所述第二待检测图像为所述第一待检测图像后一帧的待检测图像;
第一计算模块,用于计算得到每一所述关键点在所述第二待检测图像中的平流匹配点;
第二计算模块,用于计算所述关键点的光流场与平流场之间的欧拉距离;
确定模块,用于基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物。
根据第三方面,本发明实施例提供了一种电子设备,包括:
存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器用于存储计算机程序,所述计算机程序被所述处理器执行时,实现上述第一方面所述的任一种障碍物检测方法。
根据第四方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质用于存储计算机程序,所述计算机程序被处理器执行时,实现上述第一方面所述的任一种障碍物检测方法。
本发明实施例提供的障碍物检测方法、装置、电子设备及存储介质,在仅包括可行使区域的有效区域中,如果前后两帧匹配的关键点和光流匹配点是属于路面的,那么关键点的平流场是趋于光流场的,因此可通过光流场与平流场之间的欧拉距离来区分关键点及其光流匹配点是否属于障碍物,提高了障碍物检测的精度和可靠性。
附图说明
通过参考附图会更加清楚的理解本发明的特征和优点,附图是示意性的而不应理解为对本发明进行任何限制,在附图中:
图1为本发明实施例提供的一种障碍物检测方法的流程示意图;
图2为本发明实施例提供的一种障碍物检测装置的结构示意图;
图3为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。此外,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。在以下各实施例的描述中,“多个”的含义是两个以上,除非另有明确具体的限定。
请参阅图1,本发明实施例提供了一种障碍物检测方法,所述方法包括:
S101:获取待检测图像中的有效区域,所述有效区域仅包括可行使区域(freespace);
S102:检测第一待检测图像的有效区域中的关键点;其中,第一待检测图像为其中的一个待检测图像;
具体的,可以用常规的角点提取方法来提取第一待检测图像的有效区域中的关键点,也可以采用superpoint网络来提取,superpoint网络提取关键点的效果更好。如果前面已经针对整个第一待检测图像提取了关键点,那么这里可以直接从整个第一待检测图像的关键点中筛选出有效区域的关键点即可。
S103:采用光流法,从第二待检测图像的有效区域中获取与所述关键点匹配的光流匹配点;所述第二待检测图像为所述第一待检测图像后一帧的待检测图像;
第二待检测图像可以是当前帧图像,第一待检测图像可以是前一帧图像,也即本步骤是采用光流法获取与前一帧图像中的关键点匹配的当前帧帧图像的光流匹配点(也可以称为光流特征点),且前一帧图像中的关键点和当前帧帧图像中的光流匹配点均是有效区域内的。
S104:计算得到每一所述关键点在所述第二待检测图像中的平流匹配点(也可以称为平流特征点);其中,所述平流匹配点是指利用所述第一待检测图像和所述第二待检测图像之间的单应矩阵计算得到的、所述第二待检测图像中与所述关键点对应的点。
S105:计算所述关键点的光流场与平流场之间的欧拉距离;所述平流场是指所述
第二待检测图像中的平流匹配点与其在第一待检测图像中对应的关键点之间的坐标差值;
所述光流场是指所述第二待检测图像中的光流匹配点与其在第一待检测图像中对应的关
键点之间的坐标差值;举例来说,假定前一帧(即第一待检测图像)中的一个关键点为xi,第
二待检测图像中与该关键点对应的光流匹配点为xf、平流匹配点(是依据单应矩阵计算得
到的)为xh,那么关键点xi的光流场为xf-xi,设为(,),平流场为xh-xi,设为(,);
S106:基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物。
本发明实施例中,在仅包括可行使区域的有效区域中,如果前后两帧匹配的关键点和光流匹配点是属于路面的,那么关键点的平流场是趋于光流场的,因此可通过光流场与平流场之间的欧拉距离来区分关键点及其光流匹配点是否属于障碍物,提高了障碍物检测的精度和可靠性。
一些具体的实施方式中,所述获取待检测图像中的有效区域,包括:
利用深度网络从所述待检测图像中检测第一障碍物;
从所述待检测图像中去除所述第一障碍物所在的图像区域,得到第一图像;
从所述第一图像中提取所述有效区域。
本发明实施例中,先使用深度网络将其能够识别到的障碍物检测出来,但是由于深度网络具有一定的局限性,具体来说,其精度受训练样本的类别和数量等影响,因此除了训练过程中涉及到的一些类别的障碍物或者形状常规的障碍物,其它的障碍物很容易发生漏检,因此本发明实施例再对深度网络检测出来的障碍物以外的剩余可行驶区域做进一步的障碍物识别,以提高障碍物识别精度。
在从所述第一图像中提取所述有效区域时,可以将第一图像中的背景等区域去掉,得到可行驶区域,例如将马路两侧的人行道、隔离带等图像区域去掉,只得到马路的图像区域。另外,考虑到需要在离障碍物稍远的地方就能检测出障碍物,太近意义不大,因此,可将上述可行驶区域中靠近车辆的图像区域裁切(crop)掉,以进一步减少有效区域,加快检测速度。
在其它的可选具体实施方式中,也可以使用其它方式从所述待检测图像提取仅包括可行使区域的有效区域。例如,利用所述深度网络或者所述深度网络和其他网络的组合网络直接输出可行使区域(freespace)分割图,然后再基于该可行使区域(freespace)分割图得到所述有效区域,例如裁切掉中靠近车辆的区域。
一些具体的实施方式中,所述计算得到每一所述关键点在所述第二待检测图像中的平流匹配点,包括:
利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵;
利用所述单应矩阵,获取每一所述关键点在所述第二待检测图像中的平流匹配点。
其中一些具体的实施方式中,所述利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵,包括:
选取多组关键点匹配对,所述关键点匹配对为匹配的所述关键点和所述光流匹配点,每一组所述关键点匹配对中均包括随机挑选的三对所述关键点匹配对;
针对每一组所述关键点匹配对,计算得到一个第一单应矩阵;
利用所述第一单应矩阵,获取每一所述关键点在所述第二待检测图像中的第一平流匹配点;
计算每一所述关键点的光流场与平流场之间的第一欧拉距离,并求和得到第一和值;所述第一欧拉距离是基于所述关键点的所述光流匹配点与所述第一平流匹配点计算得到;
从多组所述关键点匹配对中,筛选出所述第一和值最小的一组所述关键点匹配对;
确定所述第一和值最小的一组所述关键点匹配对对应的所述第一单应矩阵作为所述单应矩阵。
具体来说,由于在图像配准里三个点就可以确定图像间的单应矩阵,因此,本发明
实施例中可以从前后帧图像(即第一待检测图像和第二待检测图像)的关键点匹配对中随
机挑选3个关键点匹配对就可以计算得到一个单应矩阵,由单应矩阵可求得前一帧每个关
键点的平流匹配点,假定前一帧一个关键点为xi,光流场对应匹配点,即光流匹配点为xf,
依据单应矩阵的平流匹配点为xh,那么关键点xi的光流场为xf-xi,设为(,),平流
场为xh-xi,设为(,),计算每个关键点xi的光流场和平流场的欧拉距离并求和u。
欧拉距离的计算公式为:。
另外,由于计算单应矩阵的前提是同一平面,而随机挑选的三对所述关键点匹配对不一定是属于路面的,但是所述第一和值最小的一组所述关键点匹配对应该是最靠近路面的点,因此利用该组关键点匹配对计算得到的单应矩阵计算获取每一所述关键点在所述第二待检测图像中的平流匹配点。
一些具体的实施方式中,所述基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物,包括:
若所述关键点对应的所述欧拉距离大于或等于第一预设阈值,则确定所述关键点对应的所述光流匹配点为第一光流匹配点;
对所述第一光流匹配点进行聚类,得到候选障碍物边界(bbox)框;
基于所述候选障碍物检测框确定所述障碍物。
本发明实施例中,若所述关键点对应的所述欧拉距离大于或等于第一预设阈值,则认为这个关键点是属于障碍物的点,即这个关键点对应的所述光流匹配点为障碍物点。在获取光流匹配点的属性(即是属于障碍物的,还是属于路面的)之后,对属于障碍物的光流匹配点(即第一光流匹配点)进行聚类,例如可以使用均值偏移(meanshift)方法,从而获取候选障碍物检测框。
由于基于上述方法获取的候选障碍物检测框可能存在误判,因此还需要对其作进一步的确认。
一些具体的实施方式中,所述基于所述候选障碍物检测框确定所述障碍物,包括:
若所述候选障碍物检测框满足以下条件中的至少之一,则确定所述候选障碍物检测框是所述障碍物:
所述候选障碍物检测框对应的置信度均值大于第二预设阈值,所述候选障碍物检测框对应的置信度均值为所述候选障碍物检测框内的所述第一光流匹配点对应的置信度的均值,所述第一光流匹配点对应的置信度根据所述第一光流匹配点对应的所述欧拉距离确定;具体的,第一光流匹配点对应的欧拉距离越大,其为障碍物的置信度越高;
所述候选障碍物检测框的直方图与对比区域的直方图之间的差异大于第三预设阈值,所述对比区域为从所述第一待检测图像的有效区域中提取的、除所有的所述候选障碍物检测框以外的区域;这里的对比区域认为其为路面区域;
预先训练的支持向量机(support vector machines, SVM)分类器判断所述候选障碍物检测框是所述障碍物。
另一些具体的实施方式中,所述基于所述候选障碍物检测框确定所述障碍物,包括:
针对每一所述候选障碍物检测框,根据所述候选障碍物检测框内的每一所述第一光流匹配点对应的所述欧拉距离,确定所述第一光流匹配点的置信度,并计算所述第一光流匹配点的置信度均值,若所述第一光流匹配点的置信度均值大于第二预设阈值,则确定所述候选障碍物检测框为所述障碍物;
对于尚未确定为所述障碍物的每一所述候选障碍物检测框,从所述第一待检测图像的有效区域中提取对比区域,计算所述对比区域的直方图,将所述对比区域的直方图与所述候选障碍物检测框的直方图进行对比,若差异大于第三预设阈值,则确定所述候选障碍物检测框为所述障碍物,所述对比区域为除所述候选障碍物检测框以外的区域;
对于尚未确定为所述障碍物的每一所述候选障碍物检测框,利用预先训练的SVM分类器判断所述候选障碍物检测框是否是所述障碍物。具体来说,对于经过前两步筛选剩下的尚未确定为障碍物的候选障碍物检测框,其置信度均值比较低,且与路面区域直方图差别不大,比如某些障碍物颜色与周边路面颜色很接近,则可能导致这种情况,因此需要训练一个分类器对这种情况进行分类,提高准确度,这里可直接提取候选障碍物检测框中的图像区域进行分类判断。该SVM分类器可采用各种障碍物图片作为正样本、各种路面图片作为负样本进行训练,这些图片可以通过裁切得到。
本发明实施例使用三步法逐步对候选障碍物检测框进行判断,不仅可以防止漏检还可以防止误检,从而可以提高障碍物检测精度。
综上所述,本发明实施例先通过深度网络检测一般障碍物如车辆、行人等,且分割出车辆的可行驶区域即freespace,然后根据freespace提取有效区域,然后在有效区域内提取关键点,再设法区分这些关键点是否属于障碍物点,再聚类那些障碍物点,形成候选障碍物检测框,然后再多阶段判别这些候选障碍物检测框是否为障碍物。该方法鲁棒性好,精度高,可靠性高,且只使用了视觉传感器,实现简易低廉。
相应地,请参考图2,本发明实施例提供一种障碍物检测装置,该装置包括:
获取模块201,用于获取待检测图像中的有效区域,所述有效区域仅包括可行使区域;
检测模块202,用于检测第一待检测图像的有效区域中的关键点;
匹配模块203,用于采用光流法,从第二待检测图像的有效区域中获取与所述关键点匹配的光流匹配点;所述第二待检测图像为所述第一待检测图像后一帧的待检测图像;
第一计算模块204,用于计算得到每一所述关键点在所述第二待检测图像中的平流匹配点;
第二计算模块205,用于计算所述关键点的光流场与平流场之间的欧拉距离;
确定模块206,用于基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物。
本发明实施例提供的障碍物检测装置,在仅包括可行使区域的有效区域中,如果前后两帧匹配的关键点和光流匹配点是属于路面的,那么关键点的平流场是趋于光流场的,因此可通过光流场与平流场之间的欧拉距离来区分关键点及其光流匹配点是否属于障碍物,提高了障碍物检测的精度和可靠性。
一些具体的实施方式中,所述获取模块201包括:
深度网络检测单元,用于利用深度网络从所述待检测图像中检测第一障碍物;
去除单元,用于从所述待检测图像中去除所述第一障碍物所在的图像区域,得到第一图像;
提取单元,用于从所述第一图像中提取所述有效区域。
一些具体的实施方式中,所述第一计算模块204包括:
单应矩阵计算单元,用于利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵;
平流匹配点获取单元,用于利用所述单应矩阵,获取每一所述关键点在所述第二待检测图像中的平流匹配点。
一些具体的实施方式中,所述单应矩阵计算单元包括:
选取子单元,用于选取多组关键点匹配对,所述关键点匹配对为匹配的所述关键点和所述光流匹配点,每一组所述关键点匹配对中均包括随机挑选的三对所述关键点匹配对;
第一单应矩阵计算子单元,用于针对每一组所述关键点匹配对,计算得到一个第一单应矩阵;
第一平流匹配点获取子单元,用于利用所述第一单应矩阵,获取每一所述关键点在所述第二待检测图像中的第一平流匹配点;
第一欧拉距离计算子单元,用于计算每一所述关键点的光流场与平流场之间的第一欧拉距离,并求和得到第一和值;所述第一欧拉距离是基于所述关键点的所述光流匹配点与所述第一平流匹配点计算得到;
筛选子单元,用于从多组所述关键点匹配对中,筛选出所述第一和值最小的一组所述关键点匹配对;
单应矩阵确定子单元,用于确定所述第一和值最小的一组所述关键点匹配对对应的所述第一单应矩阵作为所述单应矩阵。
一些具体的实施方式中,所述确定模块206包括:
障碍物点确定单元,用于在所述关键点对应的所述欧拉距离大于或等于第一预设阈值的情况下,确定所述关键点对应的所述光流匹配点为第一光流匹配点;
聚类单元,用于对所述第一光流匹配点进行聚类,得到候选障碍物检测框;
障碍物确定单元,用于基于所述候选障碍物检测框确定所述障碍物。
一些具体的实施方式中,所述障碍物确定单元用于在所述候选障碍物检测框满足以下条件中的至少之一的情况下,确定所述候选障碍物检测框是所述障碍物:
所述候选障碍物检测框对应的置信度均值大于第二预设阈值,所述候选障碍物检测框对应的置信度均值为所述候选障碍物检测框内的所述第一光流匹配点对应的置信度的均值,所述第一光流匹配点对应的置信度根据所述第一光流匹配点对应的所述欧拉距离确定;
所述候选障碍物检测框的直方图与对比区域的直方图之间的差异大于第三预设阈值,所述对比区域为从所述第一待检测图像的有效区域中提取的、除所有的所述候选障碍物检测框以外的区域;
预先训练的SVM分类器判断所述候选障碍物检测框是所述障碍物。
一些具体的实施方式中,所述障碍物确定单元包括:
第一确定子单元,用于针对每一所述候选障碍物检测框,根据所述候选障碍物检测框内的每一所述第一光流匹配点对应的所述欧拉距离,确定所述第一光流匹配点的置信度,并计算所述第一光流匹配点的置信度均值,若所述第一光流匹配点的置信度均值大于第二预设阈值,则确定所述候选障碍物检测框为所述障碍物;
第二确定子单元,用于对于尚未确定为所述障碍物的每一所述候选障碍物检测框,从所述第一待检测图像的有效区域中提取对比区域,计算所述对比区域的直方图,将所述对比区域的直方图与所述候选障碍物检测框的直方图进行对比,若差异大于第三预设阈值,则确定所述候选障碍物检测框为所述障碍物,所述对比区域为除所述候选障碍物检测框以外的区域;
第三确定子单元,用于对于尚未确定为所述障碍物的每一所述候选障碍物检测框,利用预先训练的SVM分类器判断所述候选障碍物检测框是否是所述障碍物。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本发明实施例是与上述方法实施例基于相同的发明构思的装置实施例,因此具体的技术细节和对应的技术效果请参阅上述方法实施例,此处不再赘述。
本发明实施例还提供了一种电子设备,如图3所示,该电子设备可以包括处理器31和存储器32,其中处理器31和存储器32可以通过总线或者其他方式互相通信连接,图3中以通过总线连接为例。
处理器31可以为中央处理器(Central Processing Unit,CPU)。处理器31还可以为其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等芯片,或者上述各类芯片的组合。
存储器32作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序、非暂态计算机可执行程序以及模块,如本发明实施例中的障碍物检测方法对应的程序指令/模块(例如,图2所示的获取模块201、检测模块202、匹配模块203、第一计算模块204、第二计算模块205和确定模块206)。处理器31通过运行存储在存储器32中的非暂态软件程序、指令以及模块,从而执行处理器的各种功能应用以及数据处理,即实现上述方法实施例中的障碍物检测方法。
存储器32可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储处理器31所创建的数据等。此外,存储器32可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施例中,存储器32可选包括相对于处理器31远程设置的存储器,这些远程存储器可以通过网络连接至处理器31。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
所述一个或者多个模块存储在所述存储器32中,当被所述处理器31执行时,执行上述方法实施例中的任一种方法。
上述电子设备具体细节可以对应参阅上述方法实施例中对应的相关描述和效果进行理解,此处不再赘述。
相应地,本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质用于存储计算机程序,所述计算机程序被处理器执行时,实现上述障碍物检测方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (9)
1.一种障碍物检测方法,其特征在于,所述方法包括:
获取待检测图像中的有效区域,所述有效区域仅包括可行使区域;
检测第一待检测图像的有效区域中的关键点;
采用光流法,从第二待检测图像的有效区域中获取与所述关键点匹配的光流匹配点;所述第二待检测图像为所述第一待检测图像后一帧的待检测图像;
计算得到每一所述关键点在所述第二待检测图像中的平流匹配点;
计算所述关键点的光流场与平流场之间的欧拉距离;其中,所述平流场是指所述第二待检测图像中的平流匹配点与其在第一待检测图像中对应的关键点之间的坐标差值;所述光流场是指所述第二待检测图像中的光流匹配点与其在第一待检测图像中对应的关键点之间的坐标差值;
基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物;
其中,所述计算得到每一所述关键点在所述第二待检测图像中的平流匹配点,包括:
利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵;
利用所述单应矩阵,获取每一所述关键点在所述第二待检测图像中的平流匹配点。
2.根据权利要求1所述的方法,其特征在于,所述获取待检测图像中的有效区域,包括:
利用深度网络从所述待检测图像中检测第一障碍物;
从所述待检测图像中去除所述第一障碍物所在的图像区域,得到第一图像;
从所述第一图像中提取所述有效区域。
3.根据权利要求1所述的方法,其特征在于,所述利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵,包括:
选取多组关键点匹配对,所述关键点匹配对为匹配的所述关键点和所述光流匹配点,每一组所述关键点匹配对中均包括随机挑选的三对所述关键点匹配对;
针对每一组所述关键点匹配对,计算得到一个第一单应矩阵;
利用所述第一单应矩阵,获取每一所述关键点在所述第二待检测图像中的第一平流匹配点;
计算每一所述关键点的光流场与平流场之间的第一欧拉距离,并求和得到第一和值;所述第一欧拉距离是基于所述关键点的所述光流匹配点与所述第一平流匹配点计算得到;
从多组所述关键点匹配对中,筛选出所述第一和值最小的一组所述关键点匹配对;
确定所述第一和值最小的一组所述关键点匹配对对应的所述第一单应矩阵作为所述单应矩阵。
4.根据权利要求1所述的方法,其特征在于,所述基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物,包括:
若所述关键点对应的所述欧拉距离大于或等于第一预设阈值,则确定所述关键点对应的所述光流匹配点为第一光流匹配点;
对所述第一光流匹配点进行聚类,得到候选障碍物检测框;
基于所述候选障碍物检测框确定所述障碍物。
5.根据权利要求4所述的方法,其特征在于,所述基于所述候选障碍物检测框确定所述障碍物,包括:
若所述候选障碍物检测框满足以下条件中的至少之一,则确定所述候选障碍物检测框是所述障碍物:
所述候选障碍物检测框对应的置信度均值大于第二预设阈值,所述候选障碍物检测框对应的置信度均值为所述候选障碍物检测框内的所述第一光流匹配点对应的置信度的均值,所述第一光流匹配点对应的置信度根据所述第一光流匹配点对应的所述欧拉距离确定;
所述候选障碍物检测框的直方图与对比区域的直方图之间的差异大于第三预设阈值,所述对比区域为从所述第一待检测图像的有效区域中提取的、除所有的所述候选障碍物检测框以外的区域;
预先训练的SVM分类器判断所述候选障碍物检测框是所述障碍物。
6.根据权利要求4所述的方法,其特征在于,所述基于所述候选障碍物检测框确定所述障碍物,包括:
针对每一所述候选障碍物检测框,根据所述候选障碍物检测框内的每一所述第一光流匹配点对应的所述欧拉距离,确定所述第一光流匹配点的置信度,并计算所述第一光流匹配点的置信度均值,若所述第一光流匹配点的置信度均值大于第二预设阈值,则确定所述候选障碍物检测框为所述障碍物;
对于尚未确定为所述障碍物的每一所述候选障碍物检测框,从所述第一待检测图像的有效区域中提取对比区域,计算所述对比区域的直方图,将所述对比区域的直方图与所述候选障碍物检测框的直方图进行对比,若差异大于第三预设阈值,则确定所述候选障碍物检测框为所述障碍物,所述对比区域为除所述候选障碍物检测框以外的区域;
对于尚未确定为所述障碍物的每一所述候选障碍物检测框,利用预先训练的SVM分类器判断所述候选障碍物检测框是否是所述障碍物。
7.一种障碍物检测装置,其特征在于,包括:
获取模块,用于获取待检测图像中的有效区域,所述有效区域仅包括可行使区域;
检测模块,用于检测第一待检测图像的有效区域中的关键点;
匹配模块,用于采用光流法,从第二待检测图像的有效区域中获取与所述关键点匹配的光流匹配点;所述第二待检测图像为所述第一待检测图像后一帧的待检测图像;
第一计算模块,用于计算得到每一所述关键点在所述第二待检测图像中的平流匹配点;
第二计算模块,用于计算所述关键点的光流场与平流场之间的欧拉距离;其中,所述平流场是指所述第二待检测图像中的平流匹配点与其在第一待检测图像中对应的关键点之间的坐标差值;所述光流场是指所述第二待检测图像中的光流匹配点与其在第一待检测图像中对应的关键点之间的坐标差值;
确定模块,用于基于每一所述关键点对应的所述欧拉距离在所述第二待检测图像中确定障碍物;
其中,所述第一计算模块包括:
单应矩阵计算单元,用于利用所述关键点及其对应的所述光流匹配点,计算所述第一待检测图像和所述第二待检测图像之间的单应矩阵;
平流匹配点获取单元,用于利用所述单应矩阵,获取每一所述关键点在所述第二待检测图像中的平流匹配点。
8.一种电子设备,其特征在于,包括:
存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器用于存储计算机程序,所述计算机程序被所述处理器执行时,实现权利要求1至6中任一项所述的障碍物检测方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质用于存储计算机程序,所述计算机程序被处理器执行时,实现权利要求1至6中任一项所述的障碍物检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210701440.4A CN114782927B (zh) | 2022-06-21 | 2022-06-21 | 障碍物检测方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210701440.4A CN114782927B (zh) | 2022-06-21 | 2022-06-21 | 障碍物检测方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114782927A CN114782927A (zh) | 2022-07-22 |
CN114782927B true CN114782927B (zh) | 2022-09-27 |
Family
ID=82420710
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210701440.4A Active CN114782927B (zh) | 2022-06-21 | 2022-06-21 | 障碍物检测方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114782927B (zh) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111090282B (zh) * | 2019-12-19 | 2023-10-31 | 安克创新科技股份有限公司 | 机器人的避障方法、机器人以及装置 |
CN111368883B (zh) * | 2020-02-21 | 2024-01-19 | 浙江大华技术股份有限公司 | 基于单目摄像头的避障方法、计算装置及存储装置 |
CN111814602B (zh) * | 2020-06-23 | 2022-06-17 | 成都信息工程大学 | 一种基于视觉的智能车环境动态目标检测的方法 |
FR3112215B1 (fr) * | 2020-07-01 | 2023-03-24 | Renault Sas | Système et procédé de détection d’un obstacle dans un environnement d’un véhicule |
-
2022
- 2022-06-21 CN CN202210701440.4A patent/CN114782927B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN114782927A (zh) | 2022-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111487641B (zh) | 一种利用激光雷达检测物体的方法、装置、电子设备及存储介质 | |
US20180018528A1 (en) | Detecting method and device of obstacles based on disparity map and automobile driving assistance system | |
Huang et al. | Vehicle detection and inter-vehicle distance estimation using single-lens video camera on urban/suburb roads | |
EP2779025B1 (en) | Method and system for detecting road edge | |
JP5223675B2 (ja) | 車両検知装置,車両検知方法並びに車両検知プログラム | |
US20150324658A1 (en) | Sensor fusion using detector confidence boosting | |
Arenado et al. | Monovision‐based vehicle detection, distance and relative speed measurement in urban traffic | |
JP2011150633A (ja) | 対象物検出装置及びプログラム | |
KR20150112656A (ko) | 카메라 캘리브레이션 방법 및 그 장치 | |
JP2014146326A (ja) | 多車線の検出方法と検出システム | |
EP2813973B1 (en) | Method and system for processing video image | |
CN111652230B (zh) | 车牌识别方法、电子设备及存储介质 | |
US20210350705A1 (en) | Deep-learning-based driving assistance system and method thereof | |
CN111898491A (zh) | 一种车辆逆向行驶的识别方法、装置及电子设备 | |
Liu et al. | Vehicle detection and ranging using two different focal length cameras | |
CN103065144A (zh) | 车标识别方法及装置 | |
JP2016122320A (ja) | 走行区画線認識装置 | |
Tanaka et al. | Vehicle Detection Based on Perspective Transformation Using Rear‐View Camera | |
CN112699711B (zh) | 车道线检测方法、装置、存储介质及电子设备 | |
CN115327572A (zh) | 一种车辆前方障碍物检测方法 | |
CN115493612A (zh) | 一种基于视觉slam的车辆定位方法及装置 | |
KR101620425B1 (ko) | 주변 환경 정보를 이용한 차선 인식 시스템 및 그 방법 | |
CN111881752B (zh) | 一种护栏检测分类方法、装置、电子设备及存储介质 | |
CN114782927B (zh) | 障碍物检测方法、装置、电子设备及存储介质 | |
CN112863242A (zh) | 一种车位检测的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |