CN107194350A - 障碍物检测方法、装置及机器人 - Google Patents

障碍物检测方法、装置及机器人 Download PDF

Info

Publication number
CN107194350A
CN107194350A CN201710359228.3A CN201710359228A CN107194350A CN 107194350 A CN107194350 A CN 107194350A CN 201710359228 A CN201710359228 A CN 201710359228A CN 107194350 A CN107194350 A CN 107194350A
Authority
CN
China
Prior art keywords
characteristic point
point
matching
image
right image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710359228.3A
Other languages
English (en)
Inventor
王玉亮
薛林
唐义华
王巍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Science And Technology Ltd Of Evolution Person Robot
Original Assignee
Beijing Science And Technology Ltd Of Evolution Person Robot
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Science And Technology Ltd Of Evolution Person Robot filed Critical Beijing Science And Technology Ltd Of Evolution Person Robot
Priority to CN201710359228.3A priority Critical patent/CN107194350A/zh
Publication of CN107194350A publication Critical patent/CN107194350A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G06V20/47Detecting features for summarising video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757Matching configurations of points or features

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种障碍物检测方法、装置及机器人,应用于设置有双目传感器的机器人,其中方法包括:获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像;分别以左图像和右图像为基准,对左图像中的特征点和右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合;根据第一匹配点对集合和第二匹配点对集合中重合的特征点对,确定左图像和右图像的匹配特征点对;根据双目传感器的测距参数和机器人的安全运动范围,判断匹配特征点对对应的实际位置点是否为障碍物。通过本发明,能够解决相关技术中应用于机器人的障碍物检测方法难以在障碍物检测的准确性和性价比之间获得平衡的问题。

Description

障碍物检测方法、装置及机器人
技术领域
本发明涉及图像视觉技术领域,具体而言,涉及一种障碍物检测方法、装置及机器人。
背景技术
近年来,机器人技术作为高新科技,得到了不断地发展,机器人也已经越来越贴近并进入我们的生活。对于机器人,自主导航通常是必要的功能,而障碍物检测能力对机器人的自主导航具有极其重要的意义。
相关技术中,机器人常用的障碍物检测传感器有超声波传感器和激光雷达。基于超声波传感器的障碍物检测方法检测障碍物时误差率高,无法进行精准定位;基于激光雷达的障碍物检测方法虽然对障碍物定位精准,但其性价比低,难以在机器人上推广应用。
可见,相关技术中应用于机器人的障碍物检测方法,难以在障碍物检测的准确性和性价比之间获得平衡。
发明内容
有鉴于此,本发明的目的在于提供一种障碍物检测方法、装置及机器人,以解决相关技术中应用于机器人的障碍物检测方法,难以在障碍物检测的准确性和性价比之间获得平衡的问题。
第一方面,本发明实施例提供了一种障碍物检测方法,所述方法应用于设置有双目传感器的机器人,包括以下步骤:获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像,并获取所述左图像中的特征点和所述右图像中的特征点;对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合,其中,所述第一匹配点对集合包括所述左图像中的特征点,以及所述右图像中与所述左图像中的特征点相匹配的第一特征点,所述第二匹配点对集合包括所述右图像中的特征点,以及所述左图像中与所述右图像中的特征点相匹配的第二特征点;根据所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定所述左图像和所述右图像的匹配特征点对;根据所述双目传感器的测距参数和所述机器人的安全运动范围,判断所述匹配特征点对对应的实际位置点是否为障碍物。
结合第一方面,本发明实施例提供了第一方面第一种可能的实施方式,其中,所述获取所述左图像中的特征点和所述右图像中的特征点,包括:分别提取所述左图像中的特征点和所述右图像中的特征点;根据所述双目传感器的极线校正参数,分别对提取到的所述左图像中的特征点和所述右图像中的特征点进行极线校正;获取极线校正后的所述左图像中的特征点和极线校正后的所述右图像中的特征点。
结合第一方面,本发明实施例提供了第一方面第二种可能的实施方式,其中,对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第一匹配点对集合,包括:针对所述左图像中的每个特征点,将所述右图像中纵坐标满足以下公式的特征点,确定为该特征点的疑似匹配特征点;vr∈[vl-Tv,vl+Tv];其中,vr为该特征点的疑似匹配特征点的纵坐标,vl为该特征点的纵坐标,Tv为极线校正误差阈值;计算该特征点与其每个所述疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的所述疑似匹配特征点,确定为所述右图像中与该特征点相匹配的第一特征点;将所述左图像中的特征点及其匹配的第一特征点,组合为第一匹配点对,将所有所述第一匹配点对组合为所述第一匹配点对集合。
结合第一方面,本发明实施例提供了第一方面第三种可能的实施方式,其中,对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第二匹配点对集合,包括:针对所述右图像中的每个特征点,将所述左图像中纵坐标符合以下公式的特征点,确定为该特征点的疑似匹配特征点;vl∈[vr-Tv,vr+Tv];其中,vl为该特征点的疑似匹配特征点的纵坐标,vr为该特征点的纵坐标,Tv为极线校正误差阈值;计算该特征点与其每个所述疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的所述疑似匹配特征点,确定为所述左图像中与该特征点相匹配的第二特征点;将所述右图像中的特征点及其匹配的第二特征点,组合为第二匹配点对,将所有所述第二匹配点对组合为所述第二匹配点对集合。
结合第一方面,本发明实施例提供了第一方面第四种可能的实施方式,其中,所述根据所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定所述左图像和所述右图像的匹配特征点对,包括:将所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定为所述左图像和所述右图像的匹配特征点对;或者,去除所述重合的特征点对中对应孤立平面点的特征点对,将去除后的特征点对作为所述左图像和所述右图像的匹配特征点对。
结合第一方面,本发明实施例提供了第一方面第五种可能的实施方式,其中,所述根据所述双目传感器的测距参数和所述机器人的安全运动范围,判断所述匹配特征点对对应的实际位置点是否为障碍物,包括:根据所述双目传感器的测距参数,计算所述匹配特征点对对应的实际位置点相对于所述双目传感器的空间位置;根据所述实际位置点相对于所述双目传感器的空间位置,判断所述实际位置点是否在所述机器人的安全运动范围内;若在,则确定所述实际位置点为障碍物,否则,确定所述实际位置点不为障碍物。
结合第一方面上述的实施方式,本发明实施例提供了第一方面第六种可能的实施方式,其中,在所述获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像之前,还包括:获取所述双目传感器的测距参数。
第二方面,本发明实施例提供了一种障碍物检测装置,所述装置应用于设置有双目传感器的机器人,包括以下模块:数据获取模块,用于获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像,并获取所述左图像中的特征点和所述右图像中的特征点;特征点匹配模块,用于对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合,其中,所述第一匹配点对集合包括所述左图像中的特征点,以及所述右图像中与所述左图像中的特征点相匹配的第一特征点,所述第二匹配点对集合包括所述右图像中的特征点,以及所述左图像中与所述右图像中的特征点相匹配的第二特征点;匹配点对确定模块,用于根据所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定所述左图像和所述右图像的匹配特征点对;障碍判断模块,用于根据所述双目传感器的测距参数和所述机器人的安全运动范围,判断所述匹配特征点对对应的实际位置点是否为障碍物。
结合第二方面,本发明实施例提供了第二方面第一种可能的实施方式,其中,所述数据获取模块包括:特征点提取单元,用于分别提取所述左图像中的特征点和所述右图像中的特征点;特征点校正单元,用于根据所述双目传感器的极线校正参数,分别对提取到的所述左图像中的特征点和所述右图像中的特征点进行极线校正;特征点获取单元,用于获取极线校正后的所述左图像中的特征点和极线校正后的所述右图像中的特征点。
第三方面,本发明实施例提供了一种机器人,包括双目传感器和处理器,所述双目传感器的拍摄方向朝向所述机器人的外部;所述双目传感器,用于对机器人的外部进行拍摄;所述处理器,用于执行上述第一方面所述的方法,以检测所述机器人的外部是否存在障碍物。
本发明实施例中的障碍物检测方法、装置及机器人,通过双目传感器获取机器人外部的左右图像,对左右图像进行特征匹配,若匹配得到的特征点对对应的实际位置点在机器人的安全运动范围内,则确定该实际位置点为障碍物,否则,确定该实际位置点不为障碍物。通过本发明实施例中的障碍物检测方法、装置及机器人,能够利用双目传感器进行障碍物检测,对光照适应性强,且双目传感器的成本低、性价比高,能够在机器人上推广应用,基于图像匹配的方式进行障碍物检测,检测效果准确,可以有效地提高障碍物检测方法的有效性,能够在障碍物检测的准确性和性价比之间获得平衡。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明实施例提供的障碍物检测方法的第一种流程示意图;
图2为本发明实施例提供的障碍物检测方法的第二种流程示意图;
图3为本发明实施例提供的障碍物检测装置的第一种模块组成示意图;
图4为本发明实施例提供的障碍物检测装置的第二种模块组成示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种障碍物检测方法,该方法应用于设置有双目传感器的机器人,可以是服务机器人,也可以是工业机器人,图1为本发明实施例提供的障碍物检测方法的第一种流程示意图,如图1所示,本发明实施例中的障碍物检测方法包括以下步骤:
步骤S102,获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像,并获取左图像中的特征点和右图像中的特征点。
利用设置在机器人上的双目传感器对机器人的外部进行拍摄,能够理解,双目传感器每次拍摄时,获取到一个左图像和一个右图像。本实施例中,机器人上设置一个或多个双目传感器,由于对每个双目传感器获取到的左图像和右图像进行处理的过程均相同,因此下面以一个双目传感器为例,详细介绍图像处理以及障碍物检测过程。
在获取到一个双目传感器对机器人的外部拍摄的左图像和右图像后,采用以下方式获取左图像中的特征点和右图像中的特征点:
(a1)分别提取左图像中的特征点和右图像中的特征点,其中,特征点又叫做角点;
(a2)根据双目传感器的极线校正参数,分别对提取到的左图像中的特征点和右图像中的特征点进行极线校正;
(a3)获取极线校正后的左图像中的特征点和极线校正后的右图像中的特征点。
本实施例中,在步骤S102之前,还获取双目传感器的极线校正参数,该极线校正参数是对双目传感器进行极线校正得到的,极线校正参数能够使同一目标点在双目传感器的两个镜头中,具有相同的图像纵坐标。在获取到极线校正参数后,还能够根据极线校正参数建立二维坐标映射表,该二维坐标映射表表示原特征点与极线校正后的特征点之间的对应关系。
动作(a1)中,采用特征点提取算法,如Moravec特征点检测算法、FAST特征点检测算法、SIFT特征点检测算法或ORB特征点检测算法,从双目传感器获取的左图像和右图像中提取特征点,得到左图像的特征点集合PL={PL1,PL2,PL3,...,PLn}和右图像的特征点集合PR={PR1,PR2,PR3,...,PRn},并采用特征描述方法,如Brief特征描述方法、SIFT特征描述方法、DAISY特征描述方法或ORB角点描述方法对特征点集合PL和PR中的每一个特征点进行描述。
动作(a2)中,根据双目传感器的极线校正参数,分别对特征点集合PL和PR中的每一个特征点进行极线校正,得到校正后的特征点集合PL'={P'L1,P'L2,P'L3,...,P'Ln}和P'R={P'R1,P'R2,P'R3,...,P'Rn}。若建立有上述的二维坐标映射表,则本动作中,还可以将特征点集合PL和PR中的每一个特征点按二维坐标映射表进行索引,得到校正后的特征点集合PL'={P'L1,P'L2,P'L3,...,P'Ln}和P'R={P'R1,P'R2,P'R3,...,P'Rn}。
动作(a3)中,将极线校正后的左图像中的特征点和极线校正后的右图像中的特征点,作为最终获取到的左图像中的特征点和右图像中的特征点。
步骤S104,对上述获取到的左图像中的特征点和右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合。
其中,第一匹配点对集合包括左图像中的特征点,以及右图像中与左图像中的特征点相匹配的第一特征点,第二匹配点对集合包括右图像中的特征点,以及左图像中与右图像中的特征点相匹配的第二特征点。
本步骤中,进行两次特征点匹配,第一次特征点匹配是以左图像中的特征点为基准,在右图像中确定与左图像中的特征点相匹配的特征点,即第一特征点,将左图像中的特征点和与其匹配的第一特征点组合为第一匹配点对,由于左图像中有多个特征点,因此有多个第一匹配点对,将所有第一匹配点对组合起来作为第一匹配点对集合。
相应地,第二次特征点匹配是以右图像中的特征点为基准,在左图像中确定与右图像中的特征点相匹配的特征点,即第二特征点,将右图像中的特征点和与其匹配的第二特征点组合为第二匹配点对,由于右图像中有多个特征点,因此有多个第二匹配点对,将所有第二匹配点对组合起来作为第二匹配点对集合。
步骤S106,根据第一匹配点对集合和第二匹配点对集合中重合的特征点对,确定左图像和右图像的匹配特征点对。
由于以左图像中的特征点为基准进行左右图像的匹配时得到的第一匹配点对集合,和,以右图像中的特征点为基准进行左右图像的匹配时得到的第二匹配点对集合,可能存在部分不重叠,因此本步骤中,根据唯一性约束,将第一匹配点对集合和第二匹配点对集合中重合的特征点对,确定为左图像和右图像的匹配特征点对。由于通过这种方式确定的匹配特征点对既存在于第一匹配点对集合中,又存在于第二匹配点对集合中,因此该匹配特征点对一定能够表示左右图像中相互匹配的特征点。
考虑到第一匹配点对集合和第二匹配点对集合中重合的特征点对中,可能存在孤立平面点的情况,为了排除孤立平面点,本步骤中,还可以去除第一匹配点对集合和第二匹配点对集合中重合的特征点对中,对应孤立平面点的特征点对,将去除后的特征点对作为左图像和右图像的匹配特征点对。具体地,采用随机一致性算法对该重合的特征点对进行校验,去除对应孤立平面点的特征点对,将去除后的特征点对作为上述的匹配特征点对。
步骤S108,根据双目传感器的测距参数和机器人的安全运动范围,判断匹配特征点对对应的实际位置点是否为障碍物。
本实施例中,在步骤S102之前,还获取双目传感器的测距参数,该测距参数是通过对双目传感器进行立体标定得到的。
本步骤的具体过程为:
(b1)根据双目传感器的测距参数,计算上述匹配特征点对对应的实际位置点相对于双目传感器的空间位置;
(b2)根据该实际位置点相对于双目传感器的空间位置,判断该实际位置点是否在机器人的安全运动范围内;
(b3)若在,则确定该实际位置点为障碍物,否则,确定该实际位置点不为障碍物。
由于匹配特征点对为多个,且判断每个匹配特征点对对应的实际位置点是否为障碍物均为相同的过程,因此本实施例中以判断一个匹配特征点对对应的实际位置点是否为障碍物为例进行具体说明。
对于任一个匹配特征点对,根据测距参数计算该匹配特征点对对应的实际位置点相对于双目传感器的空间位置,空间位置以XYZ三维坐标形式表示,表示实际位置点与双目传感器之间相对的距离、高度和长度。在获取空间位置后,根据该空间位置,判断该实际位置点是否在机器人的安全运动范围内,若在,则确定该实际位置点为障碍物,若不在,则确定该实际位置点不为障碍物。
本发明实施例中,通过双目传感器获取机器人外部的左右图像,对左右图像进行特征匹配,若匹配得到的特征点对对应的实际位置点在机器人的安全运动范围内,则确定该实际位置点为障碍物,否则,确定该实际位置点不为障碍物。通过本发明实施例中的障碍物检测方法,能够利用双目传感器进行障碍物检测,对光照适应性强,且双目传感器的成本低、性价比高,能够在机器人上推广应用,基于图像匹配的方式进行障碍物检测,检测效果准确,可以有效地提高障碍物检测方法的有效性,能够在障碍物检测的准确性和性价比之间获得平衡。
在其他实施方式中,上述方法中的特征点也可以替换为竖线特征或者面特征,通过竖线特征或者面特征实现左右图像的匹配。
上述步骤S104中,对左图像中的特征点和右图像中的特征点进行匹配,得到第一匹配点对集合,具体实现为:
(c1)针对左图像中的每个特征点,将右图像中纵坐标满足以下公式的特征点,确定为该特征点的疑似匹配特征点;
vr∈[vl-Tv,vl+Tv];
其中,vr为该特征点的疑似匹配特征点的纵坐标,vl为该特征点的纵坐标,Tv为极线校正误差阈值,该极线校正误差阈值可以根据需要设定;
(c2)计算该特征点与其每个疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的疑似匹配特征点,确定为右图像中与该特征点相匹配的第一特征点;
(c3)将左图像中的特征点及其匹配的第一特征点,组合为第一匹配点对,将所有第一匹配点对组合为第一匹配点对集合。
延续上述PL'={P'L1,P'L2,P'L3,...,P'Ln}和P'R={P'R1,P'R2,P'R3,...,P'Rn}的例子,动作(c1)中,对于PL'={P'L1,P'L2,P'L3,...,P'Ln}中的每个特征点,将右图像中纵坐标满足vr∈[vl-Tv,vl+Tv]的特征点,确定为该特征点的疑似匹配特征点,对于每个特征点,能够确定多个疑似匹配特征点。动作(c2)中,采用brute-force匹配算法计算左图像中的特征点P'Li和其所有疑似匹配特征点的匹配度,将其中匹配度最大且符合预设的匹配度要求(如匹配度大于预设匹配度阈值)的疑似匹配特征点P'Rj作为与P'Li匹配的第一特征点。需要说明的是,由于匹配度最大且符合预设的匹配度要求的疑似匹配特征点才是第一特征点,因此左图像中的部分特征点可能没有对应的第一特征点(比如匹配度最大的疑似匹配特征点不符合预设的匹配度要求)。动作(c3)中,将左图像中的特征点及其匹配的第一特征点,组合为第一匹配点对,记为(P'Li,P'Rj),将所有第一匹配点对组合为第一匹配点对集合,第一匹配点集合可以表示为GML={(P'L1,P'Rj1),(P'L2,P'Rj2),(P'L3,P'Rj3)......(P'Ln,P'Rjn)}。
与上述过程类似,步骤S104中,对左图像中的特征点和右图像中的特征点进行匹配,得到第二匹配点对集合,具体实现为:
(d1)针对右图像中的每个特征点,将左图像中纵坐标符合以下公式的特征点,确定为该特征点的疑似匹配特征点;
vl∈[vr-Tv,vr+Tv];
其中,vl为该特征点的疑似匹配特征点的纵坐标,vr为该特征点的纵坐标,Tv为极线校正误差阈值,该极线校正误差阈值可以根据需要设定;
(d2)计算该特征点与其每个疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的疑似匹配特征点,确定为左图像中与该特征点相匹配的第二特征点;
(d3)将右图像中的特征点及其匹配的第二特征点,组合为第二匹配点对,将所有第二匹配点对组合为第二匹配点对集合。
延续上述PL'={P'L1,P'L2,P'L3,...,P'Ln}和P'R={P'R1,P'R2,P'R3,...,P'Rn}的例子,动作(d1)中,对于PR'={P'R1,P'R2,P'R3,...,P'Rn}中的每个特征点,将左图像中纵坐标满足vr∈[vl-Tv,vl+Tv]的特征点,确定为该特征点的疑似匹配特征点,对于每个特征点,能够确定多个疑似匹配特征点。动作(d2)中,采用brute-force匹配算法计算右图像中的特征点P'Ri和其所有疑似匹配特征点的匹配度,将其中匹配度最大且符合预设的匹配度要求(如匹配度大于预设匹配度阈值)的疑似匹配特征点P'Lj作为与P'Ri匹配的第二特征点。需要说明的是,由于匹配度最大且符合预设的匹配度要求的疑似匹配特征点才是第二特征点,因此右图像中的部分特征点可能没有对应的第二特征点(比如匹配度最大的疑似匹配特征点不符合预设的匹配度要求)。动作(d3)中,将右图像中的特征点及其匹配的第二特征点,组合为第二匹配点对,记为(P'Ri,P'Lj),将所有第二匹配点对组合为第二匹配点对集合,第二匹配点集合可以表示为GMR={(P'R1,P'Lj1),(P'R2,P'Lj2),(P'R3,P'Lj3)......(P'Rn,P'Ljn)}。
本实施例中,在进行左右图像的匹配时,匹配算法融合图像的几何约束,可以提高特征匹配效率,降低误匹配率。采用特征点描述障碍物,简化计算过程,提高运算效率,避免了稠密型的深度图建立,可以实现实时的对视野内的障碍物的检测,适用于多种场景类型,并且有效地提高障碍物检测方法的有效性,降低了漏检率,有效克服相关技术中障碍物检测通用性不强、漏检率高的缺陷。
图2为本发明实施例提供的障碍物检测方法的第二种流程示意图,如图2所示,该流程包括:
步骤S201,获取机器人上的双目传感器的测距参数和极线校正参数。
测距参数是通过对机器人上的双目传感器进行立体标定得到的,极线校正参数是通过对机器人上的双目传感器进行极线校正得到的,极线校正参数能够使同一目标点在双目传感器的两个镜头中,具有相同的图像纵坐标。
步骤S202,获取该双目传感器对机器人的外部拍摄的左图像和右图像,并获取左图像中的特征点和右图像中的特征点。
该步骤同图1中的步骤S102一致,这里不再赘述。
步骤S203,对左图像中的特征点和右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合。
该步骤同图1中的步骤S104一致,这里不再赘述。
步骤S204,根据第一匹配点对集合和第二匹配点对集合中重合的特征点对,确定左图像和右图像的匹配特征点对。
该步骤同图1中的步骤S106一致,这里不再赘述。
步骤S205,根据双目传感器的测距参数和机器人的安全运动范围,判断匹配特征点对对应的实际位置点是否为障碍物。
该步骤同图1中的步骤S108一致,这里不再赘述。
图2中的障碍物检测方法具有与图1中的障碍物检测方法相同的有益效果,具体可以参考前面的描述,这里不再赘述。
对应上述的障碍物检测方法,本发明实施例还提供了一种障碍物检测装置,该障碍物检测装置应用于设置有双目传感器的机器人,图3为本发明实施例提供的障碍物检测装置的第一种模块组成示意图,如图3所示,该障碍物检测装置包括:
数据获取模块31,用于获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像,并获取左图像中的特征点和右图像中的特征点;
特征点匹配模块32,用于对左图像中的特征点和右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合,其中,第一匹配点对集合包括左图像中的特征点,以及右图像中与左图像中的特征点相匹配的第一特征点,第二匹配点对集合包括右图像中的特征点,以及左图像中与右图像中的特征点相匹配的第二特征点;
匹配点对确定模块33,用于根据第一匹配点对集合和第二匹配点对集合中重合的特征点对,确定左图像和右图像的匹配特征点对;
障碍判断模块34,用于根据双目传感器的测距参数和机器人的安全运动范围,判断匹配特征点对对应的实际位置点是否为障碍物。
其中,数据获取模块31包括:特征点提取单元,用于分别提取左图像中的特征点和右图像中的特征点;特征点校正单元,用于根据双目传感器的极线校正参数,分别对提取到的左图像中的特征点和右图像中的特征点进行极线校正;特征点获取单元,用于获取极线校正后的左图像中的特征点和极线校正后的右图像中的特征点。
当以左图像为匹配基准时,特征点匹配模块32包括:第一确定单元,用于针对左图像中的每个特征点,将右图像中纵坐标满足以下公式的特征点,确定为该特征点的疑似匹配特征点;vr∈[vl-Tv,vl+Tv];其中,vr为该特征点的疑似匹配特征点的纵坐标,vl为该特征点的纵坐标,Tv为极线校正误差阈值;第一计算单元,用于计算该特征点与其每个疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的疑似匹配特征点,确定为右图像中与该特征点相匹配的第一特征点;第一组合单元,用于将左图像中的特征点及其匹配的第一特征点,组合为第一匹配点对,将所有第一匹配点对组合为第一匹配点对集合。
当以右图像为匹配基准时,特征点匹配模块32包括:第二确定单元,用于针对右图像中的每个特征点,将左图像中纵坐标符合以下公式的特征点,确定为该特征点的疑似匹配特征点;vl∈[vr-Tv,vr+Tv];其中,vl为该特征点的疑似匹配特征点的纵坐标,vr为该特征点的纵坐标,Tv为极线校正误差阈值;第二计算单元,用于计算该特征点与其每个疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的疑似匹配特征点,确定为左图像中与该特征点相匹配的第二特征点;第二组合单元,用于将右图像中的特征点及其匹配的第二特征点,组合为第二匹配点对,将所有第二匹配点对组合为第二匹配点对集合。
其中,匹配点对确定模块33具体用于:将第一匹配点对集合和第二匹配点对集合中重合的特征点对,确定为左图像和右图像的匹配特征点对;或者,具体用于,去除上述重合的特征点对中对应孤立平面点的特征点对,将去除后的特征点对作为左图像和右图像的匹配特征点对。
其中,障碍判断模块34包括:位置计算单元,用于根据双目传感器的测距参数,计算匹配特征点对对应的实际位置点相对于双目传感器的空间位置;位置判断单元,用于根据实际位置点相对于双目传感器的空间位置,判断实际位置点是否在机器人的安全运动范围内;结果确定单元,用于若在,则确定实际位置点为障碍物,否则,确定实际位置点不为障碍物。
本发明实施例中,通过双目传感器获取机器人外部的左右图像,对左右图像进行特征匹配,若匹配得到的特征点对对应的实际位置点在机器人的安全运动范围内,则确定该实际位置点为障碍物,否则,确定该实际位置点不为障碍物。通过本发明实施例中的障碍物检测装置,能够利用双目传感器进行障碍物检测,对光照适应性强,且双目传感器的成本低、性价比高,能够在机器人上推广应用,基于图像匹配的方式进行障碍物检测,检测效果准确,可以有效地提高障碍物检测方法的有效性,能够在障碍物检测的准确性和性价比之间获得平衡。
图4为本发明实施例提供的障碍物检测装置的第二种模块组成示意图,如图4所示,该障碍物检测装置还包括:参数获取模块41,用于获取双目传感器的测距参数。
对应上述的障碍物检测方法及装置,本发明实施例还提供了一种机器人,该机器人可以是服务机器人,也可以是工业机器人,该机器人包括双目传感器和处理器,双目传感器的拍摄方向朝向机器人的外部;
双目传感器,用于对机器人的外部进行拍摄;
处理器,用于执行上述的障碍物检测方法,以检测机器人的外部是否存在障碍物。
通过本发明实施例中的机器人,能够利用双目传感器进行障碍物检测,对光照适应性强,且双目传感器的成本低、性价比高,能够在机器人上推广应用,基于图像匹配的方式进行障碍物检测,检测效果准确,可以有效地提高障碍物检测方法的有效性,能够在障碍物检测的准确性和性价比之间获得平衡。
本发明实施例所提供的障碍物检测装置可以为设备上的特定硬件或者安装于设备上的软件或固件等。本发明实施例所提供的装置,其实现原理及产生的技术效果和前述方法实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,前述描述的系统、装置和单元的具体工作过程,均可以参考上述方法实施例中的对应过程,在此不再赘述。
在本发明所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明提供的实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释,此外,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种障碍物检测方法,其特征在于,所述方法应用于设置有双目传感器的机器人,包括以下步骤:
获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像,并获取所述左图像中的特征点和所述右图像中的特征点;
对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合,其中,所述第一匹配点对集合包括所述左图像中的特征点,以及所述右图像中与所述左图像中的特征点相匹配的第一特征点,所述第二匹配点对集合包括所述右图像中的特征点,以及所述左图像中与所述右图像中的特征点相匹配的第二特征点;
根据所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定所述左图像和所述右图像的匹配特征点对;
根据所述双目传感器的测距参数和所述机器人的安全运动范围,判断所述匹配特征点对对应的实际位置点是否为障碍物。
2.根据权利要求1所述的方法,其特征在于,所述获取所述左图像中的特征点和所述右图像中的特征点,包括:
分别提取所述左图像中的特征点和所述右图像中的特征点;
根据所述双目传感器的极线校正参数,分别对提取到的所述左图像中的特征点和所述右图像中的特征点进行极线校正;
获取极线校正后的所述左图像中的特征点和极线校正后的所述右图像中的特征点。
3.根据权利要求1所述的方法,其特征在于,对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第一匹配点对集合,包括:
针对所述左图像中的每个特征点,将所述右图像中纵坐标满足以下公式的特征点,确定为该特征点的疑似匹配特征点;
vr∈[vl-Tv,vl+Tv];
其中,vr为该特征点的疑似匹配特征点的纵坐标,vl为该特征点的纵坐标,Tv为极线校正误差阈值;
计算该特征点与其每个所述疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的所述疑似匹配特征点,确定为所述右图像中与该特征点相匹配的第一特征点;
将所述左图像中的特征点及其匹配的第一特征点,组合为第一匹配点对,将所有所述第一匹配点对组合为所述第一匹配点对集合。
4.根据权利要求1所述的方法,其特征在于,对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第二匹配点对集合,包括:
针对所述右图像中的每个特征点,将所述左图像中纵坐标符合以下公式的特征点,确定为该特征点的疑似匹配特征点;
vl∈[vr-Tv,vr+Tv];
其中,vl为该特征点的疑似匹配特征点的纵坐标,vr为该特征点的纵坐标,Tv为极线校正误差阈值;
计算该特征点与其每个所述疑似匹配特征点之间的匹配度,将匹配度最大且符合预设的匹配度要求的所述疑似匹配特征点,确定为所述左图像中与该特征点相匹配的第二特征点;
将所述右图像中的特征点及其匹配的第二特征点,组合为第二匹配点对,将所有所述第二匹配点对组合为所述第二匹配点对集合。
5.根据权利要求1所述的方法,其特征在于,所述根据所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定所述左图像和所述右图像的匹配特征点对,包括:
将所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定为所述左图像和所述右图像的匹配特征点对;或者,
去除所述重合的特征点对中对应孤立平面点的特征点对,将去除后的特征点对作为所述左图像和所述右图像的匹配特征点对。
6.根据权利要求1所述方法,其特征在于,所述根据所述双目传感器的测距参数和所述机器人的安全运动范围,判断所述匹配特征点对对应的实际位置点是否为障碍物,包括:
根据所述双目传感器的测距参数,计算所述匹配特征点对对应的实际位置点相对于所述双目传感器的空间位置;
根据所述实际位置点相对于所述双目传感器的空间位置,判断所述实际位置点是否在所述机器人的安全运动范围内;
若在,则确定所述实际位置点为障碍物,否则,确定所述实际位置点不为障碍物。
7.根据权利要求1至6任一项所述方法,其特征在于,在所述获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像之前,还包括:
获取所述双目传感器的测距参数。
8.一种障碍物检测装置,其特征在于,所述装置应用于设置有双目传感器的机器人,包括以下模块:
数据获取模块,用于获取机器人上设置的双目传感器对机器人的外部拍摄的左图像和右图像,并获取所述左图像中的特征点和所述右图像中的特征点;
特征点匹配模块,用于对所述左图像中的特征点和所述右图像中的特征点进行匹配,得到第一匹配点对集合和第二匹配点对集合,其中,所述第一匹配点对集合包括所述左图像中的特征点,以及所述右图像中与所述左图像中的特征点相匹配的第一特征点,所述第二匹配点对集合包括所述右图像中的特征点,以及所述左图像中与所述右图像中的特征点相匹配的第二特征点;
匹配点对确定模块,用于根据所述第一匹配点对集合和所述第二匹配点对集合中重合的特征点对,确定所述左图像和所述右图像的匹配特征点对;
障碍判断模块,用于根据所述双目传感器的测距参数和所述机器人的安全运动范围,判断所述匹配特征点对对应的实际位置点是否为障碍物。
9.根据权利要求8所述的装置,其特征在于,所述数据获取模块包括:
特征点提取单元,用于分别提取所述左图像中的特征点和所述右图像中的特征点;
特征点校正单元,用于根据所述双目传感器的极线校正参数,分别对提取到的所述左图像中的特征点和所述右图像中的特征点进行极线校正;
特征点获取单元,用于获取极线校正后的所述左图像中的特征点和极线校正后的所述右图像中的特征点。
10.一种机器人,其特征在于,包括双目传感器和处理器,所述双目传感器的拍摄方向朝向所述机器人的外部;
所述双目传感器,用于对机器人的外部进行拍摄;
所述处理器,用于执行如权利要求1至7任一项所述的方法,以检测所述机器人的外部是否存在障碍物。
CN201710359228.3A 2017-05-19 2017-05-19 障碍物检测方法、装置及机器人 Pending CN107194350A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710359228.3A CN107194350A (zh) 2017-05-19 2017-05-19 障碍物检测方法、装置及机器人

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710359228.3A CN107194350A (zh) 2017-05-19 2017-05-19 障碍物检测方法、装置及机器人

Publications (1)

Publication Number Publication Date
CN107194350A true CN107194350A (zh) 2017-09-22

Family

ID=59875288

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710359228.3A Pending CN107194350A (zh) 2017-05-19 2017-05-19 障碍物检测方法、装置及机器人

Country Status (1)

Country Link
CN (1) CN107194350A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108109176A (zh) * 2017-12-29 2018-06-01 北京进化者机器人科技有限公司 物品检测定位方法、装置及机器人
CN108615025A (zh) * 2018-05-02 2018-10-02 北京进化者机器人科技有限公司 家居环境下门识别定位方法、系统以及机器人
CN108958243A (zh) * 2018-06-27 2018-12-07 芜湖市越泽机器人科技有限公司 一种机器人躲避障碍物控制方法
CN109753858A (zh) * 2017-11-07 2019-05-14 北京中科慧眼科技有限公司 一种基于双目视觉的道路障碍物检测方法与装置
GB2583774A (en) * 2019-05-10 2020-11-11 Robok Ltd Stereo image processing

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101996399A (zh) * 2009-08-18 2011-03-30 三星电子株式会社 在左图像与右图像之间估计视差的设备和方法
CN103231708A (zh) * 2013-04-12 2013-08-07 安徽工业大学 一种基于双目视觉的智能车辆避障方法
CN105411490A (zh) * 2015-10-26 2016-03-23 曾彦平 移动机器人的实时定位方法及移动机器人
CN105718853A (zh) * 2014-12-22 2016-06-29 现代摩比斯株式会社 障碍物探测装置和障碍物探测方法
CN105928493A (zh) * 2016-04-05 2016-09-07 王建立 基于无人机的双目视觉三维测绘系统和方法
CN106527426A (zh) * 2016-10-17 2017-03-22 江苏大学 一种室内多目轨迹规划系统及其方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101996399A (zh) * 2009-08-18 2011-03-30 三星电子株式会社 在左图像与右图像之间估计视差的设备和方法
CN103231708A (zh) * 2013-04-12 2013-08-07 安徽工业大学 一种基于双目视觉的智能车辆避障方法
CN105718853A (zh) * 2014-12-22 2016-06-29 现代摩比斯株式会社 障碍物探测装置和障碍物探测方法
CN105411490A (zh) * 2015-10-26 2016-03-23 曾彦平 移动机器人的实时定位方法及移动机器人
CN105928493A (zh) * 2016-04-05 2016-09-07 王建立 基于无人机的双目视觉三维测绘系统和方法
CN106527426A (zh) * 2016-10-17 2017-03-22 江苏大学 一种室内多目轨迹规划系统及其方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109753858A (zh) * 2017-11-07 2019-05-14 北京中科慧眼科技有限公司 一种基于双目视觉的道路障碍物检测方法与装置
CN108109176A (zh) * 2017-12-29 2018-06-01 北京进化者机器人科技有限公司 物品检测定位方法、装置及机器人
CN108615025A (zh) * 2018-05-02 2018-10-02 北京进化者机器人科技有限公司 家居环境下门识别定位方法、系统以及机器人
CN108958243A (zh) * 2018-06-27 2018-12-07 芜湖市越泽机器人科技有限公司 一种机器人躲避障碍物控制方法
GB2583774A (en) * 2019-05-10 2020-11-11 Robok Ltd Stereo image processing
GB2583774B (en) * 2019-05-10 2022-05-11 Robok Ltd Stereo image processing

Similar Documents

Publication Publication Date Title
CN107194350A (zh) 障碍物检测方法、装置及机器人
CN109631855B (zh) 基于orb-slam的高精度车辆定位方法
CN107111880B (zh) 针对计算机视觉的遮挡处置
CN105184778B (zh) 一种检测方法及装置
CN107077744A (zh) 使用边缘的三维模型生成
CN108648230A (zh) 一种包裹尺寸测量方法、系统、储存介质及移动终端
CN107980138A (zh) 一种虚警障碍物检测方法及装置
CN107657644B (zh) 一种移动环境下稀疏场景流检测方法和装置
CN107146200B (zh) 一种基于图像拼接质量评价的无人机遥感图像拼接方法
CN108109176A (zh) 物品检测定位方法、装置及机器人
CN104781849A (zh) 单眼视觉同时定位与建图(slam)的快速初始化
CN110349212B (zh) 即时定位与地图构建的优化方法及装置、介质和电子设备
CN112509044A (zh) 一种基于点线特征融合的双目视觉slam方法
CN110648363A (zh) 相机姿态确定方法、装置、存储介质及电子设备
CN106327558A (zh) 点云立面提取方法和装置
CN113012224B (zh) 定位初始化方法和相关装置、设备、存储介质
CN108052909A (zh) 一种基于心血管oct影像的薄纤维帽斑块自动检测方法和装置
CN110505398A (zh) 一种图像处理方法、装置、电子设备及存储介质
CN109447902A (zh) 一种图像拼接方法、装置、储存介质及设备
CN116402978A (zh) 一种基于双目视觉结构特性的稠密三维重建方法
CN105354816A (zh) 一种电子元件定位方法及装置
CN110517314A (zh) 基于tof相机的栈板位姿确定方法、装置及计算机可读存储介质
CN112565615B (zh) 飞拍拍摄触发点的确定方法和装置
CN110080326A (zh) 一种卸料方法、控制器、挖掘机、电子设备及存储介质
CN110084858A (zh) 一种牙齿热压模型的牙龈线坐标测量方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170922

RJ01 Rejection of invention patent application after publication