CN113409268B - 基于单目相机的可通行区域检测方法、装置及存储介质 - Google Patents

基于单目相机的可通行区域检测方法、装置及存储介质 Download PDF

Info

Publication number
CN113409268B
CN113409268B CN202110676537.XA CN202110676537A CN113409268B CN 113409268 B CN113409268 B CN 113409268B CN 202110676537 A CN202110676537 A CN 202110676537A CN 113409268 B CN113409268 B CN 113409268B
Authority
CN
China
Prior art keywords
distance
point set
cost
sub
monocular camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110676537.XA
Other languages
English (en)
Other versions
CN113409268A (zh
Inventor
曾碧
郭植星
刘建圻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong University of Technology
Original Assignee
Guangdong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong University of Technology filed Critical Guangdong University of Technology
Priority to CN202110676537.XA priority Critical patent/CN113409268B/zh
Publication of CN113409268A publication Critical patent/CN113409268A/zh
Application granted granted Critical
Publication of CN113409268B publication Critical patent/CN113409268B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于单目相机的可通行区域检测方法、装置及存储介质;该方法利用单目SLAM特征点法计算得到三维特征点集,在相机视野范围内使用障碍物距离求解器计算当前位置与邻近特征点集的最小距离,将得到的最近障碍物距离放入代价求解器中计算得到对应代价值,最后视觉代价地图经过重投影变换获得可通行方向;同时为了解决单目SLAM中的尺度不一致问题,对相机高度和旋转平面进行了一定约束,计算得到尺度因子,通过该尺度因子对可通行区域的尺度进行更正;本发明实施例仅需要低成本的单目相机便可实现可通行区域的检测任务,可方便地移植到轻量级的移动设备。本发明可广泛应用于图像处理技术领域。

Description

基于单目相机的可通行区域检测方法、装置及存储介质
技术领域
本发明涉及图像处理技术领域,尤其是一种基于单目相机的可通行区域检测方法、装置及存储介质。
背景技术
自主机器人要进行作业首先要满足避障导航规划的能力。目前基于不同的传感器,如激光扫描仪、惯性传感器、声纳和视觉等,已经有多种解决方案。基于激光的导航避障方法总存在激光雷达信息少、维度单一等问题,特别是救援场景等其他需要对语义分析的场景中,纯激光SLAM很难完成任务。多传感器组合的方案在机器人导航避障方面逐渐兴起,虽然组合不同类型的传感器,如超声波、视觉和红外、激光和视觉等,可以获得更加详尽的信息和准确的决策,但也增加了成本并提高了算法的复杂性。
对于小型汽车,由于其所能携带的有效载荷有限,在飞行过程中进行避障难度很大。由于电池容量有限,只能携带重量轻的传感器,如单目摄像头,这样不会对电池寿命和重量限制造成影响。对于自主机器人运动,移动机器人能够判断其相对于潜在障碍的位置是至关重要的。
目前单目视觉避障的方案及其对应的缺陷如下:
1.使用深度学习实现单目深度估计障碍物位置并进行避障,该方案中,深度估计需要预先获取数据集并进行大量训练才能得到一个好的效果,在特定场景中会发挥不错的效果,但在不同环境下效果难有保障,鲁棒性不够强;
2.利用强化学习帮助机器人进行避障决策。该方案中,强化学习利用单目RGB图像可以有效地学习如何在模拟器中躲避障碍物,而且在虚拟环境中训练的模型可以直接转移到真实机器人上,能够很好地适用于各种新的环境;但可移植性不够强,在与虚拟环境相差较大的真实环境中效果难有保障;
3.利用场景或障碍的先验知识来进行障碍物检测。例如,在预先创建用颜色区分的结构化环境,颜色提示用于分割障碍物和非障碍物。但该方法实际意义不大,只能应用于自己预先搭建的特定场景中;
4.约束摄像机在机器人平台上的位置和限定相机只能水平旋转进行地平面检测,然后利用特征点信息推导地平面的单应性约束条件来区分地面点和非地面点。该方案中,小车的颠簸或者相机的移动和特征点精准程度都会影响最终的避障效果。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此,本发明提出一种基于单目相机的可通行区域检测方法、装置及存储介质。
本发明所采取的技术方案是:
一方面,本发明实施例包括一种基于单目相机的可通行区域检测方法,包括:
获取单目相机采集的图像;
利用单目SLAM特征点法对所述图像进行特征提取和特征匹配,得到三维特征点集;
确定目标区域,所述目标区域为所述图像上的任意一个区域;
对所述目标区域进行分割,得到多个子区域;
利用KD-Tree获取每个所述子区域的邻近特征点集;
通过计算所述邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个所述子区域的最近障碍物距离;
根据所述每个所述子区域的最近障碍物距离,通过代价求解器求得代价值和视觉代价地图;
根据所述代价值和视觉代价地图,结合预先设定的代价阈值得到可通行区域;
利用随机采样一致算法对所述可通行区域的特征点进行过滤,得到地面点集;
根据所述地面点集,利用尺度因子求解器获取尺度因子;
根据所述尺度因子更正所述可通行区域的尺度,将所述视觉代价地图进行投影变换获得可通行方向。
进一步地,通过计算所述邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个所述子区域的最近障碍物距离这一步骤,包括:
计算所述邻近特征点集中每个邻近特征点到达相应子区域的距离;
根据所述所述邻近特征点集中每个邻近特征点到达相应子区域的距离,计算得到平均距离;
根据所述所述邻近特征点集中每个邻近特征点的概率分布密度函数,通过高斯核密度估计计算得到第一距离;
根据所述平均距离和所述第一距离,计算得到每个所述子区域的最近障碍物距离。
进一步地,所述平均距离通过以下公式计算得到:
Figure BDA0003120751950000031
式中,dave表示平均距离,n表示邻近特征点数量,di表示邻近特征点集中第i个邻近特征点到达相应子区域的距离。
进一步地,所述第一距离通过以下公式计算得到:
Figure BDA0003120751950000032
式中,dkde表示第一距离,peaki(fh(d))表示邻近特征点的分布密度函数fh(d)对应的密度分布图像中的第i个波峰值;
其中,
Figure BDA0003120751950000033
式中,fh(d)表示邻近特征点的分布密度函数,n表示邻近特征点数量,di表示邻近特征点集中第i个邻近特征点到达相应子区域的距离,h表示带宽,d表示待计算的距离值;
其中,
Figure BDA0003120751950000034
式中,K(x)表示高斯核函数,
Figure BDA0003120751950000035
进一步地,所述根据所述平均距离和所述第一距离,计算得到每个所述子区域的最近障碍物距离是通过以下公式执行:
d=α·dkde+(1-α)·dave
式中,d表示最近障碍物距离,dkde表示第一距离,dave表示平均距离,α表示权重因子。
进一步地,所述根据所述每个所述子区域的最近障碍物距离,通过代价求解器求得代价值和视觉代价地图是通过以下公式执行:
Figure BDA0003120751950000036
式中,C表示子区域的代价值,d表示最近障碍物距离,d*表示影响半径,n表示邻近特征点数量,n*表示邻近特征点数量边界值,η表示代价尺度因子。
进一步地,所述根据所述地面点集,利用尺度因子求解器获取尺度因子这一步骤,包括:
根据所述地面点集,计算归一化尺度下的地面高度;
根据所述地面高度和预设单目相机高度,计算得到尺度因子。
进一步地,所述根据所述地面高度和预设单目相机高度,计算得到尺度因子是通过以下公式执行:
Figure BDA0003120751950000041
式中,fscale表示尺度因子,h表示预设单目相机高度,h′表示地面高度。
另一方面,本发明实施例还包括一种基于单目相机的可通行区域检测装置,包括:
至少一个处理器;
至少一个存储器,用于存储至少一个程序;
当所述至少一个程序被所述至少一个处理器执行,使得所述至少一个处理器实现所述的基于单目相机的可通行区域检测方法。
另一方面,本发明实施例还包括计算机可读存储介质,其上存储有处理器可执行的程序,所述处理器可执行的程序在被处理器执行时用于实现所述的基于单目相机的可通行区域检测方法。
本发明的有益效果是:
本发明通过利用单目SLAM特征点法对单目相机采集的图像进行特征提取和特征匹配,得到三维特征点集;确定目标区域,并对目标区域进行分割,得到多个子区域;然后利用KD-Tree获取每个子区域的邻近特征点集;通过计算每个邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个子区域的最近障碍物距离;然后通过代价求解器求得代价值和视觉代价地图,并结合预先设定的代价阈值得到可通行区域;利用随机采样一致算法对可通行区域的特征点进行过滤,得到地面点集,并利用尺度因子求解器获取尺度因子;最后根据尺度因子更正可通行区域的尺度,并将视觉代价地图进行投影变换获得可通行方向。本发明通过计算得到最近障碍物距离,通过代价求解器得到可通行区域,即仅需要低成本的单目相机便可实现可通行区域的检测任务,而且同时计算得到了可通行区域中的代价值,更加方便后续小车的路径规划模块;计算得到的尺度因子对可通行区域的尺度进行更正,能够解决单目SLAM中的尺度不一致问题。
本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解,其中:
图1为本发明实施例所述基于单目相机的可通行区域检测方法的步骤流程图;
图2为本发明实施例所述基于单目相机的可通行区域检测方法的整体流程框图;
图3为本发明实施例所述距离计算示意图;
图4为本发明实施例所述通过不同方式计算得到的障碍物距离的示意图;
图5为本发明实施例所述代价传播示意图;
图6为本发明实施例所述尺度因子求解示意图;
图7为本发明实施例所述基于单目相机的可通行区域检测装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
在本发明的描述中,需要理解的是,涉及到方位描述,例如上、下、前、后、左、右等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
在本发明的描述中,若干的含义是一个或者多个,多个的含义是两个以上,大于、小于、超过等理解为不包括本数,以上、以下、以内等理解为包括本数。如果有描述到第一、第二只是用于区分技术特征为目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
本发明的描述中,除非另有明确的限定,设置、安装、连接等词语应做广义理解,所属技术领域技术人员可以结合技术方案的具体内容合理确定上述词语在本发明中的具体含义。
下面结合附图,对本申请实施例作进一步阐述。
参照图1,本发明实施例提供一种基于单目相机的可通行区域检测方法,包括但不限于以下步骤:
S100.获取单目相机采集的图像;
S200.利用单目SLAM特征点法对图像进行特征提取和特征匹配,得到三维特征点集;
S300.确定目标区域,目标区域为图像上的任意一个区域;
S400.对目标区域进行分割,得到多个子区域;
S500.利用KD-Tree获取每个子区域的邻近特征点集;
S600.通过计算每个邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个子区域的最近障碍物距离;
S700.根据每个子区域的最近障碍物距离,通过代价求解器求得代价值和视觉代价地图;
S800.根据代价值和视觉代价地图,结合预先设定的代价阈值得到可通行区域;
S900.利用随机采样一致算法对可通行区域的特征点进行过滤,得到地面点集;
S1000.根据地面点集,利用尺度因子求解器获取尺度因子;
S1100.根据尺度因子更正可通行区域的尺度,将视觉代价地图进行投影变换获得可通行方向。
本实施例中,为了稳定、鲁棒地实现纯视觉传感器小车的可通行区域检测,提出了一种基于单目SLAM特征点地图的区域划分算法。利用单目SLAM特征点法计算得到三维特征点集,在相机视野范围内使用障碍物距离求解器计算当前位置与邻近特征点集的最小距离,将得到的最近障碍物距离放入代价求解器中计算得到对应代价值,最后视觉代价地图经过重投影变换获得可通行方向;同时为了解决单目SLAM中的尺度不一致问题,对相机高度和旋转平面进行了一定约束,计算得到尺度因子,通过该尺度因子对可通行区域的尺度进行更正;本发明实施例仅需要低成本的单目相机便可实现可通行区域的检测任务,可方便地移植到轻量级的移动设备。而且,不同于往常的基于深度学习或者点云分割的区域检测算法,本发明实施例计算得到了可通行区域中的代价值,更加方便后续小车进行路径规划任务。
参照图2,本实施例中,关于步骤S200,在获取单目相机采集的图像之后,利用单目SLAM特征点法对图像进行特征提取和特征匹配,得到三维特征点集
Figure BDA0003120751950000061
具体地,对单目相机进行标定以获取该单目相机的内参矩阵和畸变参数,依时序对图像提取ORB特征点并获取ORB描述子,然后对图像进行特征点匹配,得到图像特征点,最后根据对极点约束求解相机在图像之间的运动,利用三角化测量来计算图像特征点的三维坐标,以此得到三维特征点集
Figure BDA0003120751950000062
关于步骤S300和步骤S400,本实施例中,可以当前图像中的前方区域空间S为目标区域,然后对前方区域空间S进行均匀分割成多个细小的子区域(s1,s2,...,sm,)。分割完成后,执行步骤S500,也就是利用KD-Tree查找每个子区域
Figure BDA0003120751950000063
附近K个邻近特征点集
Figure BDA0003120751950000064
Figure BDA0003120751950000065
例如,对目标区域进行均匀分割后得到n个正方体小块,其中一个正方体小块代表一个子区域,通过KD-Tree查找第一个正方体小块附件所有的邻近特征点,将这些所有邻近特征点的集合记为第一邻近特征点集;同样地,通过KD-Tree查找第二个正方体小块附件所有的邻近特征点,将这些所有邻近特征点的集合记为第二邻近特征点集;通过KD-Tree查找第三个正方体小块附件所有的邻近特征点,将这些所有邻近特征点的集合记为第三邻近特征点集。其中,假设第一邻近特征点集中包含有a个邻近特征点,第二邻近特征点集中包含有b个邻近特征点,第三邻近特征点集中包含有c个邻近特征点。遍历每一个正方体小块(子区域),通过KD-Tree查找得到每一个正方体小块的邻近特征点集。
本实施例中,通过KD-Tree获取每个子区域的邻近特征点集之后,进一步执行步骤S600,也就是通过计算每个邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个子区域的最近障碍物距离这一步骤,具体地,该步骤包括以下子步骤:
S601.计算每个邻近特征点集中每个邻近特征点到达相应子区域的距离;
S602.根据每个邻近特征点集中每个邻近特征点到达相应子区域的距离,计算得到平均距离;
S603.根据每个邻近特征点集中每个邻近特征点的概率分布密度函数,通过高斯核密度估计计算得到第一距离;
S604.根据平均距离和第一距离,计算得到每个子区域的最近障碍物距离。
具体地,平均距离通过以下公式计算得到:
Figure BDA0003120751950000071
式中,dave表示平均距离,n表示邻近特征点数量,di表示邻近特征点集中第i个邻近特征点到达相应子区域的距离。
第一距离通过以下公式计算得到:
Figure BDA0003120751950000072
式中,dkde表示第一距离,peaki(fh(d))表示邻近特征点的分布密度函数fh(d)对应的密度分布图像中的第i个波峰值;
其中,
Figure BDA0003120751950000073
式中,fh(d)表示邻近特征点的分布密度函数,n表示邻近特征点数量,di表示邻近特征点集中第i个邻近特征点到达相应子区域的距离,h表示带宽,d表示待计算的距离值;
其中,
Figure BDA0003120751950000081
式中,K(x)表示高斯核函数,
Figure BDA0003120751950000082
最近障碍物距离通过以下公式执行:
d=α·dkde+(1-α)·dave
式中,d表示最近障碍物距离,dkde表示第一距离,dave表示平均距离,α表示权重因子。
本实施例中,考虑到如果直接使用平均距离进行计算不能很好表示不同位置之间的差异,从而并不能获取准确的最近障碍物距离。而核密度估计一般求解随机变量的分布密度问题,因此,本实施例采用高斯核密度估计来获取子区域附近邻近特征点的分布情况,并结合平均距离进行最近障碍物距离求解。同样以目标区域中的第一个正方体小块(子区域)为例,假设通过KD-Tree查找第一个正方体小块附件所有的邻近特征点,将这些所有邻近特征点的集合记为第一邻近特征点集;同样地,通过KD-Tree查找第二个正方体小块附件所有的邻近特征点,将这些所有邻近特征点的集合记为第二邻近特征点集;通过KD-Tree查找第三个正方体小块附件所有的邻近特征点,将这些所有邻近特征点的集合记为第三邻近特征点集。其中,假设第一邻近特征点集中包含有a个邻近特征点,第二邻近特征点集中包含有b个邻近特征点,第三邻近特征点集中包含有c个邻近特征点。计算第一邻近特征点集中a个邻近特征点到达第一个正方体小块的距离,可得到a个距离,通过公式
Figure BDA0003120751950000083
对这a个距离求平均,可得到第一邻近特征点集中a个邻近特征点到达第一个正方体小块的平均距离。然后采用高斯核密度估计来获取第一邻近特征点集中a个邻近特征点的分布情况,根据该分布情况,通过公式
Figure BDA0003120751950000084
可得到第一距离,即首峰距离;也就是通过高斯核密度估计计算得到的第一邻近特征点集中a个邻近特征点到达第一个正方体小块的最短距离。得到这两个距离之后,通过公式d=α·dkde+(1-α)·dave计算得到第一个正方体小块(第一子区域)的最近障碍物距离。同样地,计算第二邻近特征点集中b个邻近特征点到达第二个正方体小块的距离,可得到b个距离,通过公式
Figure BDA0003120751950000085
对这b个距离求平均,可得到第二邻近特征点集中b个邻近特征点到达第二个正方体小块的平均距离。然后采用高斯核密度估计来获取第二邻近特征点集中b个邻近特征点的分布情况,根据该分布情况,通过公式
Figure BDA0003120751950000086
可得到第一距离,也就是通过高斯核密度估计计算得到的第二邻近特征点集中b个邻近特征点到达第二个正方体小块的最短距离。得到这两个距离之后,通过公式d=α·dkde+(1-α)·dave计算得到第二个正方体小块(第二子区域)的最近障碍物距离。同样地,计算第三邻近特征点集中c个邻近特征点到达第三个正方体小块的距离,可得到c个距离,通过公式
Figure BDA0003120751950000091
对这c个距离求平均,可得到第三邻近特征点集中c个邻近特征点到达第三个正方体小块的平均距离。然后采用高斯核密度估计来获取第三邻近特征点集中c个邻近特征点的分布情况,根据该分布情况,通过公式
Figure BDA0003120751950000092
可得到第一距离,也就是通过高斯核密度估计计算得到的第三邻近特征点集中c个邻近特征点到达第三个正方体小块的最短距离;得到这两个距离之后,通过公式d=α·dkde+(1-α)·dave计算得到第三个正方体小块(第三子区域)的最近障碍物距离。对目标区域中的每一子区域都按照这种计算方式进行计算,便可得到每个子区域的最近障碍物距离。
具体地,参照图3,图3中(a)表示当前计算子区域s邻近特征点的距离值情况,图3中(b)表示使用高斯核密度估计得到的分布情况。
由图3(b)可以看出,该当前计算子区域s附近有两个特征点簇x1,x2,分别表示两个障碍物O1,O2,为了得到离当前计算子区域s最近的障碍物距离信息,取第一个坡峰f(x1)的距离x1作为当前计算子区域s的最近障碍物距离ds,此做法可以实现简单的聚类功能,实现了对不同位置障碍物的区分处理。本实施例在图3(b)中选取x1=0.3作为当前场景下的最近障碍物距离值。
参照图4,图4(a)表示使用公式
Figure BDA0003120751950000093
计算得到的障碍物距离值,图4(b)表示使用公式d=α·dkde+(1-α)·dave计算得到的障碍物距离值,图4(c)表示使用公式
Figure BDA0003120751950000094
计算得到的障碍物平均距离,图4(d)表示距离标准差。
如图4(a)和(d)所示,道路中间(水平偏移量为0处)数据方差小,数值较接近,直接取第一个坡峰数据作为距离量会有较大波动和误差,直接使用dkde或dave均不能很好地满足道路中间障碍物距离小,道路两侧障碍物距离大的原则,本实施例将dkde和dave相结合,当方差较小时增大dave的权重,最终求得d如图4(b)所示,很好地解决了这个问题。
本实施例中,计算得到每个子区域的最近障碍物距离之后,也就是得到了各个位置的最近障碍物距离信息之后,为了降低机器人撞击障碍物的概率和方便后续机器人进行路径规划,距障碍物较近区域代价值应当远高于距障碍物较远区域代价值。为此,本实施例借鉴路径规划中一种常见的避障技术(人工势场法),对人工势场法中的代价函数进行了一定修改。另外,由于基于特征点进行代价求解还有两个问题,一是障碍物背部的特征点信息缺失,如果直接进行代价计算,该算法会将障碍物背部视为空闲区域,针对该问题,本实施例引入了代价传播机制;二是空闲区域中心位置附近特征点数量较少,此时计算得到的距离信息可能会有较大误差,如果不加以修正,会出现中心空闲区域代价值更高的情况,这是不合逻辑的,尽管该问题可以通过增大KD-Tree搜索范围解决,但此举会增加时间复杂度,降低实时性。为保证实时性和避免少数邻近特征点带来过大误差,本实施例倾向于引入一个数量临界值,若邻近特征点数量过小,表示当前区域距离障碍物过远,应当适当减小代价值。
具体地,经过测试,代价求解器公式如下:
Figure BDA0003120751950000101
式中,C表示子区域的代价值,d表示最近障碍物距离,d*表示影响半径,n表示邻近特征点数量,n*表示邻近特征点数量边界值,η表示代价尺度因子。本实施例中,将影响半径d*设置为1.0,邻近特征点数量边界值n*设置为100,代价尺度因子η设置为0.1。
参照图5,本实施例中,为了避免因障碍物背面检测不到特征点而导致可通行区域计算出现错误的情况,本实施例增加一个代价传播步骤,如图5所示,由相机位置(原点)向障碍物潜在区域(代价值较大区域)发射射线,将障碍物代价值向后方区域传播。
本实施例中,将障碍物距离信息ds,s∈S代入代价求解器可求得代价值和视觉代价地图,然后结合预先设定好的代价阈值对空间进行划分得到可通行区域。本实施例考虑到单目SLAM中存在尺度不一致问题,因此需要进一步获取尺度因子对得到的可通行区域的尺度进行更正。具体地,利用随机采样一致算法对所述可通行区域的特征点进行过滤,得到地面点集。然后根据地面点集,利用尺度因子求解器获取尺度因子。其中,步骤S1000,也就是根据地面点集,利用尺度因子求解器获取尺度因子这一步骤,具体包括:
S1001.根据地面点集,计算归一化尺度下的地面高度;
S1002.根据地面高度和预设单目相机高度,计算得到尺度因子。
具体地,本实施例中,根据地面高度和预设单目相机高度,计算得到尺度因子是通过以下公式执行:
Figure BDA0003120751950000111
式中,fscale表示尺度因子,h表示预设单目相机高度,h′表示地面高度。
参照图6,本实施例假定单目相机高度一定并且单目相机只进行水平面旋转。首先使用得到的可通行区域和随机采样一致算法(RANSAC)对特征点进行过滤,得到地面点集。然后算出归一化尺度下的地面高度,即图6中的h′,然后利用预设相机高度h计算尺度因子
Figure BDA0003120751950000112
最后利用尺度因子fscale进行障碍物深度估计和特征点真实尺寸恢复;即对可通行区域的尺度进行更正。最后,将视觉代价地图进行投影变换获得可通行区域的可通行方向。
本发明实施例一种基于单目相机的可通行区域检测方法具有以下技术效果:
本发明实施例通过利用单目SLAM特征点法对单目相机采集的图像进行特征提取和特征匹配,得到三维特征点集;确定目标区域,并对目标区域进行分割,得到多个子区域;然后利用KD-Tree获取每个子区域的邻近特征点集;通过计算每个邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个子区域的最近障碍物距离;然后通过代价求解器求得代价值和视觉代价地图,并结合预先设定的代价阈值得到可通行区域;利用随机采样一致算法对可通行区域的特征点进行过滤,得到地面点集,并利用尺度因子求解器获取尺度因子;最后根据尺度因子更正可通行区域的尺度,并将视觉代价地图进行投影变换获得可通行方向。本发明通过计算得到最近障碍物距离,通过代价求解器得到可通行区域,即仅需要低成本的单目相机便可实现可通行区域的检测任务,而且同时计算得到了可通行区域中的代价值,更加方便后续小车的路径规划模块;计算得到的尺度因子对可通行区域的尺度进行更正,能够解决单目SLAM中的尺度不一致问题。
参照图7,本发明实施例还提供了一种基于单目相机的可通行区域检测装置200,具体包括:
至少一个处理器210;
至少一个存储器220,用于存储至少一个程序;
当至少一个程序被至少一个处理器210执行,使得至少一个处理器210实现如图1所示的方法。
其中,存储器220作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。存储器220可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器220可选包括相对于处理器210远程设置的远程存储器,这些远程存储器可以通过网络连接至处理器210。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
可以理解到,图7中示出的装置结构并不构成对装置200的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图7所示的装置200中,处理器210可以调取存储器220中储存的程序,并执行但不限于图1所示实施例的步骤。
以上所描述的装置200实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现实施例的目的。
本发明实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有处理器可执行的程序,处理器可执行的程序在被处理器执行时用于实现如图1所示的方法。
本申请实施例还公开了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存介质中。计算机设备的处理器可以从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行图1所示的方法。
可以理解的是,上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
上面结合附图对本发明实施例作了详细说明,但是本发明不限于上述实施例,在技术领域普通技术人员所具备的知识范围内,还可以在不脱离本发明宗旨的前提下作出各种变化。

Claims (9)

1.一种基于单目相机的可通行区域检测方法,其特征在于,包括:
获取单目相机采集的图像;
利用单目SLAM特征点法对所述图像进行特征提取和特征匹配,得到三维特征点集;
确定目标区域,所述目标区域为所述图像上的任意一个区域;
对所述目标区域进行分割,得到多个子区域;
利用KD-Tree获取每个所述子区域的邻近特征点集;
通过计算所述邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个所述子区域的最近障碍物距离;
根据所述每个所述子区域的最近障碍物距离,通过代价求解器求得代价值和视觉代价地图;
根据所述代价值和视觉代价地图,结合预先设定的代价阈值得到可通行区域;
利用随机采样一致算法对所述可通行区域的特征点进行过滤,得到地面点集;
根据所述地面点集,利用尺度因子求解器获取尺度因子;
根据所述尺度因子更正所述可通行区域的尺度,将所述视觉代价地图进行投影变换获得可通行方向;
通过计算所述邻近特征点集中每个邻近特征点到达相应子区域的距离,获取每个所述子区域的最近障碍物距离这一步骤,包括:
计算所述邻近特征点集中每个邻近特征点到达相应子区域的距离;
根据所述邻近特征点集中每个邻近特征点到达相应子区域的距离,计算得到平均距离;
根据所述邻近特征点集中每个邻近特征点的概率分布密度函数,通过高斯核密度估计计算得到第一距离;
根据所述平均距离和所述第一距离,计算得到每个所述子区域的最近障碍物距离。
2.根据权利要求1所述的一种基于单目相机的可通行区域检测方法,其特征在于,所述平均距离通过以下公式计算得到:
Figure FDA0004003529350000011
式中,dave表示平均距离,n表示邻近特征点数量,di表示邻近特征点集中第i个邻近特征点到达相应子区域的距离。
3.根据权利要求1所述的一种基于单目相机的可通行区域检测方法,其特征在于,所述第一距离通过以下公式计算得到:
Figure FDA0004003529350000021
式中,dkde表示第一距离,
Figure FDA0004003529350000022
表示邻近特征点的分布密度函数
Figure FDA0004003529350000023
对应的密度分布图像中的第i个波峰值;
其中,
Figure FDA0004003529350000024
式中,
Figure FDA0004003529350000025
表示邻近特征点的分布密度函数,n表示邻近特征点数量,di表示邻近特征点集中第i个邻近特征点到达相应子区域的距离,h1表示带宽,d1表示待计算的距离值;
其中,
Figure FDA0004003529350000026
式中,K(x)表示高斯核函数,
Figure FDA0004003529350000027
4.根据权利要求1所述的一种基于单目相机的可通行区域检测方法,其特征在于,所述根据所述平均距离和所述第一距离,计算得到每个所述子区域的最近障碍物距离是通过以下公式执行:
d2=α·dkde+(1-α)·dave
式中,d2表示最近障碍物距离,dkde表示第一距离,dave表示平均距离,α表示权重因子。
5.根据权利要求1所述的一种基于单目相机的可通行区域检测方法,其特征在于,所述根据所述每个所述子区域的最近障碍物距离,通过代价求解器求得代价值和视觉代价地图是通过以下公式执行:
Figure FDA0004003529350000028
式中,C表示子区域的代价值,d2表示最近障碍物距离,d*表示影响半径,n表示邻近特征点数量,n*表示邻近特征点数量边界值,η表示代价尺度因子。
6.根据权利要求1所述的一种基于单目相机的可通行区域检测方法,其特征在于,所述根据所述地面点集,利用尺度因子求解器获取尺度因子这一步骤,包括:
根据所述地面点集,计算归一化尺度下的地面高度;
根据所述地面高度和预设单目相机高度,计算得到尺度因子。
7.根据权利要求6所述的一种基于单目相机的可通行区域检测方法,其特征在于,所述根据所述地面高度和预设单目相机高度,计算得到尺度因子是通过以下公式执行:
Figure FDA0004003529350000031
式中,fscale表示尺度因子,h2表示预设单目相机高度,h′表示地面高度。
8.一种基于单目相机的可通行区域检测装置,其特征在于,包括:
至少一个处理器;
至少一个存储器,用于存储至少一个程序;
当所述至少一个程序被所述至少一个处理器执行,使得所述至少一个处理器实现如权利要求1-7任一项所述的方法。
9.计算机可读存储介质,其特征在于,其上存储有处理器可执行的程序,所述处理器可执行的程序在被处理器执行时用于实现如权利要求1-7任一项所述的方法。
CN202110676537.XA 2021-06-18 2021-06-18 基于单目相机的可通行区域检测方法、装置及存储介质 Active CN113409268B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110676537.XA CN113409268B (zh) 2021-06-18 2021-06-18 基于单目相机的可通行区域检测方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110676537.XA CN113409268B (zh) 2021-06-18 2021-06-18 基于单目相机的可通行区域检测方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN113409268A CN113409268A (zh) 2021-09-17
CN113409268B true CN113409268B (zh) 2023-04-18

Family

ID=77685022

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110676537.XA Active CN113409268B (zh) 2021-06-18 2021-06-18 基于单目相机的可通行区域检测方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN113409268B (zh)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104282009A (zh) * 2013-07-02 2015-01-14 上海联影医疗科技有限公司 一种冠脉的提取方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110244321B (zh) * 2019-04-22 2023-09-26 武汉理工大学 一种基于三维激光雷达的道路可通行区域检测方法
CN110673632A (zh) * 2019-09-27 2020-01-10 中国船舶重工集团公司第七0九研究所 一种基于视觉slam的无人机自主避障方法及装置
CN111366917B (zh) * 2020-03-13 2022-07-15 北京百度网讯科技有限公司 可行驶区域检测方法、装置、设备及计算机可读存储介质
CN112116644B (zh) * 2020-08-28 2023-05-23 辽宁石油化工大学 一种基于视觉的障碍物检测方法和装置、障碍物距离计算方法和装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104282009A (zh) * 2013-07-02 2015-01-14 上海联影医疗科技有限公司 一种冠脉的提取方法

Also Published As

Publication number Publication date
CN113409268A (zh) 2021-09-17

Similar Documents

Publication Publication Date Title
CN110988912B (zh) 自动驾驶车辆的道路目标与距离检测方法、系统、装置
CN105667518B (zh) 车道检测的方法及装置
JP6760114B2 (ja) 情報処理装置、データ管理装置、データ管理システム、方法、及びプログラム
CN111060946B (zh) 用于估计位置的方法和装置
CN112419374B (zh) 一种基于图像配准的无人机定位方法
Levinson Automatic laser calibration, mapping, and localization for autonomous vehicles
CN111611853A (zh) 一种传感信息融合方法、装置及存储介质
Zou et al. Real-time full-stack traffic scene perception for autonomous driving with roadside cameras
CN111738032B (zh) 一种车辆行驶信息确定方法及装置、车载终端
CN110992424B (zh) 基于双目视觉的定位方法和系统
JP2018077162A (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
CN117593650B (zh) 基于4d毫米波雷达与sam图像分割的动点滤除视觉slam方法
CN111739099B (zh) 预防跌落方法、装置及电子设备
CN111738033A (zh) 基于平面分割的车辆行驶信息确定方法及装置、车载终端
CN115077519A (zh) 基于模板匹配与激光惯导松耦合的定位建图方法和装置
CN115451948A (zh) 一种基于多传感器融合的农业无人车定位里程计方法及系统
CN113011285A (zh) 车道线检测方法、装置、自动驾驶车辆及可读存储介质
CN117215316B (zh) 基于协同控制与深度学习的驾驶环境感知的方法和系统
CN111598911B (zh) 一种机器人平台的自主巡线方法、装置及存储介质
CN111553342B (zh) 一种视觉定位方法、装置、计算机设备和存储介质
CN110864670B (zh) 目标障碍物位置的获取方法和系统
CN113409268B (zh) 基于单目相机的可通行区域检测方法、装置及存储介质
CN118279770B (zh) 一种基于slam算法的无人机跟拍方法
CN115597592B (zh) 一种应用于无人机巡检的综合定位方法
CN112020722A (zh) 基于三维传感器数据识别路肩

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant