CN111784769B - 基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质 - Google Patents

基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质 Download PDF

Info

Publication number
CN111784769B
CN111784769B CN201910270180.8A CN201910270180A CN111784769B CN 111784769 B CN111784769 B CN 111784769B CN 201910270180 A CN201910270180 A CN 201910270180A CN 111784769 B CN111784769 B CN 111784769B
Authority
CN
China
Prior art keywords
template
image
frame image
acquiring
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910270180.8A
Other languages
English (en)
Other versions
CN111784769A (zh
Inventor
王城特
张本好
倪志刚
胡增新
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sunny Optical Zhejiang Research Institute Co Ltd
Original Assignee
Sunny Optical Zhejiang Research Institute Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sunny Optical Zhejiang Research Institute Co Ltd filed Critical Sunny Optical Zhejiang Research Institute Co Ltd
Priority to CN201910270180.8A priority Critical patent/CN111784769B/zh
Publication of CN111784769A publication Critical patent/CN111784769A/zh
Application granted granted Critical
Publication of CN111784769B publication Critical patent/CN111784769B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

一种基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质,其中所述空间定位方法依据前一帧的检测结果在原始图像中采取截图,降采样等方式对图像进行预处理,预处理后的图像再进行模板的检测以及空间定位测算;在模板检测后,位姿的计算设计了两种不同的方式进行,可依据特征点的数量进行选择;将相机内参根据不同的图像预处理方式按照不同的方式进行转换然后进行位姿计算;对于未检测到模板的情况下,进行全分辨率图像以及降采样图像按一定频率交替的方式进行空间位姿计算;在检测到模板后对模版所在的区域进行自适应阈值求取,作为下一帧该模板的二值化阈值。这样,可以显著降低空间定位的计算量。

Description

基于模板的空间定位方法、空间定位装置,电子设备及计算机 可读存储介质
技术领域
本申请涉及机器视觉领域,尤其涉及一种基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质。
背景技术
空间定位是机器视觉领域中一个重要的研究方向,是自动驾驶,智能机器人,增强现实等技术的基础。基于模板的空间定位技术是一种利用已知的模板特征点在图像采集设备所获取的图像中的位置,来计算模板与图像采集设备之间的相对位姿关系的一种环境感知技术。由于基于模板的空间定位技术具有定位准确、计算速度快和成本较低等优点,被广泛的应用于自动驾驶、智能机器人和增强现实等领域。
然而,现有的基于模板的空间定位技术需要在场景中放置模板,而模板的大小会被场景空间所限制。例如,当图像采集设备与模板距离较远,而模板尺寸较小时,将会导致采集的图像不够清晰。这将限制了模板的有效测试距离。如果通过提升图像采集设备的分辨率来补偿模板的有效距离,将大幅度增加计算设备的计算量,同时也会大幅度增加成本。同时,要检测模板在不同场景环境中的位姿,现有的空间定位技术还需要增加一个局部自适应阈值模块,用于获取不同场景空间中图像的自适应阈值。所述自适应阈值的计算量十分大,难以满足空间定位的实时性需求。因此,当下亟需一种能够节约计算资源成本,同时又能在保证模板图像清晰度的情况下具有实时性的空间定位方法。
发明内容
本申请的一个目的在于提供一种基于模板的空间定位方法、空间定位装置,电子设备及计算机可读储存介质,其中,所述基于模板的空间定位方法通过对采集的模板的图像先进行截图和降采样的预处理,再进行位姿计算,以大幅度降低空间定位计算的计算量。
本申请的另一个目的在于提供一种基于模板的空间定位方法、空间定位装置,电子设备及计算机可读储存介质,其中,所述基于模板的空间定位方法具有较小的空间定位计算的计算量,和较快的空间定位速度,以满足于空间定位的实时性需求。
本申请的另一个目的在于提供一种基于模板的空间定位方法、空间定位装置,电子设备及计算机可读储存介质,其中,所述基于模板的空间定位方法在对采集的模板的图像预处理之后,通过坐标变换或者内参变换的方式进行位姿计算,以矫正预处理产生的位姿偏移,从而在保证定位准确性的基础上降低计算量。
本申请的另一个目的在于提供一种基于模板的空间定位方法、空间定位装置,电子设备及计算机可读储存介质,其中,所述基于模板的空间定位方法在采集的图像未检测到模板时,采用全分辨率图像和降采样图像以一定频率交替的方式进行位姿计算,以在未检测到模板时满足空间定位的实时性需求,同时也改善空间定位受模板有效测试距离限制的缺陷。
本申请的另一个目的在于提供一种基于模板的空间定位方法、空间定位装置,电子设备及计算机可读储存介质,其中,所述基于模板的空间定位方法通过获取场景空间中的自适应阈值,提升了不同场景空间中位姿计算的有效性和准确性。
为了实现上述至少一发明目的,本申请提供了一种基于模板的空间定位方法,包括:
通过一图像采集设备获取一场景中一模板的第一连续预设帧图像,其中,所述模板具有一组特征点;
对所述第一连续预设帧图像的第一帧图像进行预处理,获取所述第一帧图像的局部自适应阈值;
基于获取的所述模板的所述第一帧图像的局部自适应阈值,将获取所述第一帧图像中的特征点与所述模板的特征点进行匹配;
获取并输出所述图像采集设备与所述模板之间的相对位姿;
响应于未输出基于所述连续预设帧图像的最后一帧图像获取的所述图像采集设备与所述模板之间的相对位姿,获取所述模板所在区域的自适应阈值,作为下一帧图像的二值化阈值,并重复步骤:
对所述下一帧图像进行预处理,获取所述下一帧图像的局部自适应阈值;
基于获取的所述模板的下一帧图像的局部自适应阈值,将获取所述下一帧图像中的特征点与所述模板的特征点进行匹配;
获取并输出所述图像采集设备与所述模板之间的相对位姿;以及
响应于输出基于所述连续预设帧图像的最后一帧图像获取的所述图像采集设备与所述模板之间的相对位姿,结束对所述第一连续预设帧图像的处理。
根据本申请的一个实施例,其中,所述预处理步骤包括:
响应于所述模板的第一连续帧图像未采用局部自适应阈值,获取所述模板的第一帧图像的局部自适应阈值;
响应于所述模板的第一连续帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点匹配,获取所述模板与所述图像采集设备之间的距离;
响应于所述模板的连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点未匹配,获取所述模板的第二连续预设帧图像的特征点的分辨率,并判断所述第二连续预设帧图像是否被降采样处理;
响应于获取的所述模板与所述图像采集设备之间的距离小于或等于一距离阈值,或者所述模板的第二连续预设帧图像未被降采样处理,对所述模板的图像进行降采样处理;以及
响应于获取的所述模板与所述图像采集设备之间的距离大于所述距离阈值,获取所述图像的一图像截图,其中,所述图像截图的中心坐标与所述模板中心在上一帧图像中的坐标重合。
根据本申请的一个实施例,其中,对所述模板的图像进行降采样处理步骤包括:
获取所述模板的图像的降采样参数;以及
基于所述降采样参数和一降采样算法,对所述模板的图像进行降采样处理。
根据本申请的一个实施例,其中,获取并输出所述图像采集设备与所述模板之间的相对位姿步骤包括:
将处理后的图像中的所述特征点的坐标变换至处理前的所述图像中的所述特征点的坐标;
基于变换后的所述特征点的坐标,获取所述图像采集设备与所述模板之间的相对位姿;以及
输出所述相对位姿。
根据本申请的一个实施例,其中,获取并输出所述图像采集设备与所述模板之间的相对位置步骤包括:
将所述图像采集设备的内参变换为降采样处理后的内参;
基于变换后的所述图像采集设备的内参,获取所述图像采集设备与所述模板之间的相对位姿;以及
输出所述相对位姿。
根据本申请的一个实施例,其中,所述距离阈值基于所述图像采集设备的分辨率和所述模板的尺寸被设定,其中,所述图像截图的尺寸基于所述图像采集设备的在场景中的移动速度被设定。
依本申请的另一个方面,本申请进一步提供一种空间定位装置,包括:
一图像采集模块,用于基于一图像采集指令,获取一场景中一模板的第一连续预设帧图像,其中,所述模板具有一组特征点,每一所述特征点具有一坐标;
一预处理模块,用于接收并预处理所述模板的图像,和用于获取所述第一连续预设帧图像的局部自适应阈值;
一计算模块,用于基于获取的所述模板的第一连续预设帧图像的局部自适应阈值,获取所述模板的特征点在图像中的坐标,和获取所述图像采集设备与所述模板之间的相对位姿,和基于一继续检测指令,获取所述模板所在区域的自适应阈值,作为下一帧图像的二值化阈值;以及
一输出模块,用于输出所述图像采集设备与所述模板之间的相对位姿。
根据本申请的一个实施例,其中,其中,所述预处理模块还用于:
响应于所述模板的第一连续帧图像未采用局部自适应阈值,获取所述模板的第一帧图像的局部自适应阈值;
响应于所述模板的第一连续帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点匹配,获取所述模板与所述图像采集设备之间的距离;
响应于所述模板的连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点未匹配,获取所述模板的第二连续预设帧图像的特征点的分辨率,并判断所述第二连续预设帧图像是否被降采样处理;
响应于获取的所述模板与所述图像采集设备之间的距离小于或等于一距离阈值,或者所述模板的第二连续预设帧图像未被降采样处理,对所述模板的图像进行降采样处理;以及
响应于获取的所述模板与所述图像采集设备之间的距离大于所述距离阈值,获取所述图像的一图像截图,其中,所述图像截图的中心坐标与所述模板中心在上一帧图像中的坐标重合。
依本申请的另一个方面,本申请进一步提供一种电子设备,其特征在于,包括:
处理器;以及
用于存储处理器可执行指令的存储器,其中,所述处理器被配置用于执行如上所述的基于模板的空间定位方法。
依本申请的另一个方面,本申请进一步提供一种计算机可读存储介质,用于存储计算机程序指令,其特征在于,所述计算机程序指令被处理执行时实现如上所述的基于模板的空间定位方法。
通过对随后的描述和附图的理解,本申请进一步的目的和优势将得以充分体现。
本申请的这些和其它目的、特点和优势,通过下述的详细说明,附图和权利要求得以充分体现。
附图说明
图1是根据本申请的一个较佳实施例的基于模板的空间定位方法的框图示意图。
图2是根据本申请的一个较佳实施例的基于模板的空间定位方法的框图示意图。
图3A是根据本申请一个较佳实施例的基于模板的空间定位方法的位姿计算方式的框图示意图。
图3B是根据本申请另一个较佳实施例的基于模板的空间定位方法的位姿计算方式的框图示意图。
图4是根据本申请的一个较佳实施例的基于模板的空间定位方法的流程图。
图5是根据本申请的一个较佳实施例的空间定位装置的框图示意图。
图6是根据本申请的一个较佳实施例的电子设备的框图示意图。
具体实施方式
以下描述用于揭露本申请以使本领域技术人员能够实现本申请。以下描述中的优选实施例只作为举例,本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本申请的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本申请的精神和范围的其他技术方案。
本领域技术人员应理解的是,在本申请的揭露中,术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系是基于附图所示的方位或位置关系,其仅是为了便于描述本申请和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此上述术语不能理解为对本申请的限制。
可以理解的是,术语“一”应理解为“至少一”或“一个或多个”,即在一个实施例中,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个,术语“一”不能理解为对数量的限制。
在本申请中,权利要求和说明书中术语“一”应理解为“一个或多个”,即在一个实施例,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个。除非在本申请的揭露中明确示意该元件的数量只有一个,否则术语“一”并不能理解为唯一或单一,术语“一”不能理解为对数量的限制。
在本申请的描述中,需要理解的是,属于“第一”、“第二”等仅用于描述目的,而不能理解为指示或者暗示相对重要性。本申请的描述中,需要说明的是,除非另有明确的规定和限定,属于“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接或者一体地连接;可以是机械连接,也可以是电连接;可以是直接连接,也可以是通过媒介间接连结。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本申请中的具体含义。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述,非必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
如上所述,现有的基于模板的空间定位方法计算量大,实时性差主要体现在以下两个方面:首先,在场景空间中的放置的模板具有有效检测距离,当图像采集设备与模板之间距离较远时,现有的空间定位方法会提升图像采集设备的分辨率,以补偿模板有效的检测距离,然而,提升图像采集设备的分辨率将会大幅度提升空间定位的计算量,从而不利于空间定位的计算成本把控;其次,为了获取不同场景空间中的模板的相对位姿,现有的空间定位方法还需要一个局部自适应阈值模块,用于获取图像的自适应阈值,然而,增加局部自适应阈值模块会进一步增加计算量和空间定位的计算成本,以及难以满足实时性需求。
本申请提出的一种基于模板的空间定位方法,可以根据场景空间的变换,对图像先进行降采样和截图的预处理,再进行位姿计算,这样既可以适应不同亮度的环境,同时也有效地降低了位姿计算的计算量,以及满足于空间定位的实时性需求。
更具体地,所述基于模板的空间定位方法在对采集的模板的图像预处理之后,通过坐标变换或者内参变换的方式进行位姿计算,以矫正预处理产生的位姿偏移,从而在保证定位准确性的基础上降低计算量。当所述基于模板的空间定位方法在采集的图像未检测到模板时,采用全分辨率图像和降采样图像以一定频率交替的方式进行位姿计算,以在未检测到模板时满足空间定位的实时性需求,同时也改善空间定位受模板有效测试距离限制的缺陷。
如图1所示,根据本申请的一个较佳实施例的基于模板的空间定位方法的框图示意图得以被阐明。所述基于模板的空间定位方法100包括步骤:
S110:通过一图像采集设备获取一场景中一模板的第一连续预设帧图像,其中,所述模板具有一组特征点;
S120:对所述第一连续预设帧图像的第一帧图像进行预处理,获取所述第一帧图像的局部自适应阈值;
S130:基于获取的所述模板的所述第一帧图像的局部自适应阈值,将获取所述第一帧图像中的特征点与所述模板的特征点进行匹配;
S140:获取并输出所述图像采集设备与所述模板之间的相对位姿;
S150:响应于未输出基于所述连续预设帧图像的最后一帧图像获取的所述图像采集设备与所述模板之间的相对位姿,获取所述模板所在区域的自适应阈值,作为下一帧图像的二值化阈值,并重复步骤:
S120:对所述下一帧图像进行预处理,获取所述下一帧图像的局部自适应阈值;
S130:基于获取的所述模板的下一帧图像的局部自适应阈值,将获取所述下一帧图像中的特征点与所述模板的特征点进行匹配;
S140:获取并输出所述图像采集设备与所述模板之间的相对位姿;
S160:响应于输出基于所述连续预设帧图像的最后一帧图像获取的所述图像采集设备与所述模板之间的相对位姿,结束对所述第一连续预设帧图像的处理。
更具体地,通过所述图像采集设备获取所述模板的所述第一连续预设帧图像,再对所述第一帧图像进行预处理,并获取所述第一帧图像的局部自适应阈值。基于所述第一帧图像的局部自适应阈值,可以所述第一帧图像进行模板检测,也就是将所述第一帧图像中的特征点与所述模板中的所述特征点进行匹配,以通过特征点匹配获取所述图像采集设备与模板之间的相对位姿,最后输出基于所述第一帧图像获取的所述相对位姿,再对下一帧图像重复上述预处理步骤、模板检测步骤和获取相对位姿步骤,直到检测到当前帧图像是所述连续预设帧图像的最后一帧图像。
较佳地,在处理每一帧图像后,都会输出一个相对位姿,并且,通过对每一帧图像的预处理,可以大幅度减小获取所述局部自适应阈值的计算量,以在降低计算成本的同时,满足了空间定位的实时性需求。本领域技术人员可以理解,所述第一连续预设帧图像的帧数可以根据计算设备的运算能力和所述图像采集设备的分辨率等因素被决定,这在图像处理领域已经发展成熟,本申请在此不再赘述。
如图2所示,根据本申请的一个较佳实施例的基于模板的空间定位方法得以被阐明。S120:对所述第一连续预设帧图像的第一帧图像进行预处理,获取所述第一帧图像的局部自适应阈值,进一步包括步骤:
S121:响应于所述模板的第一连续帧图像未采用局部自适应阈值,获取所述模板的第一帧图像的局部自适应阈值;
S122:响应于所述模板的第一连续帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点匹配,获取所述模板与所述图像采集设备之间的距离;
S123:响应于所述模板的连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点未匹配,获取所述模板的第二连续预设帧图像的特征点的分辨率,并判断所述第二连续预设帧图像是否被降采样处理;
S124:响应于获取的所述模板与所述图像采集设备之间的距离小于或等于一距离阈值,或者所述模板的第二连续预设帧图像未被降采样处理,对所述模板的图像进行降采样处理;
S125:响应于获取的所述模板与所述图像采集设备之间的距离大于所述距离阈值,获取所述图像的一图像截图,其中,所述图像截图的中心坐标与所述模板中心在上一帧图像中的坐标重合。
更具体地,对每一帧图像的预处理步骤包括降采样处理和截图处理,以降低后期位姿计算的计算量。当上一帧图像中对模板检测失败时,即,上一帧图像中的特征点与所述模板中的特征点匹配失败时,检测第二连续预设帧图像是否被进行降采样处理,如果检测到所述第二连续预设帧图像被进行降采样处理,则检测所述模板与所述图像采集设备之间的距离。如果所述模板与所述图像采集设备之间的距离大于所述距离阈值,则对图像进行截图处理,若所述模板与所述图像采集设备之间的距离小于或等于所述距离阈值,或者未检测到所述第二连续预设帧图像采取降采样处理则对图像进行降采样处理,则对图像进行降采样处理。所述图像截图的中心的坐标与上一帧图像中所述模板中心的坐标重合。
在本申请的一种可能的实现方式中,所述步骤S124:响应于获取的所述模板与所述图像采集设备之间的距离小于或等于一距离阈值,或者所述模板的第二连续预设帧图像未被降采样处理,对所述模板的图像进行降采样处理,进一步包括步骤:
S1241:获取所述模板的图像的降采样参数;
S1242:基于所述降采样参数和一降采样算法,对所述模板的图像进行降采样处理。
本领域技术人员可以理解,所述降采样算法与降采样率的获取方法已经在图像处理领域发展成熟,本申请在此不再赘述。
如图3A所示,根据本申请一个较佳实施例的基于模板的空间定位方法的位姿计算方式得以被阐明,其中,所述步骤S140:获取并输出所述图像采集设备与所述模板之间的相对位姿,进一步包括步骤:
S141A:将处理后的图像中的所述特征点的坐标变换至处理前的所述图像中的所述特征点的坐标;
S142A:基于变换后的所述特征点的坐标,获取所述图像采集设备与所述模板之间的相对位姿;
S143A:输出所述相对位姿。
更具体地,假设降采样率是K,截图处理的起始点坐标是(us,vs),则降采样处理后的坐标(u1,v1)被变换为降采样前的坐标(u0,v0),其中,变换式是:u0=u1*K,v0=v1*K(K是降采样率)。裁剪后的坐标(u2,v2)变换为降采样前的坐标(u0,v0),其中,变换式是:u0=u2+us,v0=v2+vs。较佳地,当所述模板的特征点数量较小时可以采用上述坐标变换的方式获取相对位姿,例如,当特征点数量小于十个时。
如图3B所示,根据本申请另一个较佳实施例的基于模板的空间定位方法的位姿计算方式得以被阐明。在本申请的另一个较佳实施例中,所述步骤S140:获取并输出所述图像采集设备与所述模板之间的相对位姿,进一步包括步骤:
S141B:将所述图像采集设备的内参变换为降采样处理后的内参;
S142B:基于变换后的所述图像采集设备的内参,获取所述图像采集设备与所述模板之间的相对位姿;
S143B:输出所述相对位姿。
更具体地,假设所述图像采集设备的内参是fx0,fy0,cx0,cy0,被变换为降采样处理后的内参fx1,fy1,cx1,cy1,变换式是:fx1=fx0/K,fy1=fy0/K,cx1=cx0*K,cy1=cy0*K。将所述图像采集设备的内参变换为截图处理后的内参:fx2,fy2,cx2,cy2,其中,变换式是:fx2=fx0,fy2=fy0,cx2=cx0-us,cy2=cy0-vs。
较佳地,当所述模板的特征点数量较多时可以采用内参变换的方式获取相对位姿,例如当特征点数量大于或等于十个时。
更进一步地,在使用坐标变换或者内参变换之后,对于模板特征点q,已知在模板与相机没有位姿偏移的情况下所述图像采集设备的坐标为(xq,yq,zq),所述图像采集设备与所述模板之间的相对位姿为RT,所述图像采集设备的内参为M,所述特征点q的图像坐标为(uq,vq),则有s[uq,vq,1]T=M[RT][xq,yq,zq,1]T。假设所述模板共有Q个特征点,当Q>3时,即可算出相机与标板之间的相对位姿RT。
本领域技术人员可以理解,上述两种变换方式和位姿计算方式仅为举例,对于获取相对位姿的方法可以是但不限于上述两种变换方式和位姿计算方式,同时,两种变换方式可以根据实际需求被选取,本申请在此不作限制。
值得一提的是,通过两种不同方式来计算所述模板与所述图形采集设备之间的相对位置关系,可以矫正由预处理带来的位姿偏移,以在保证定位准确性的情况下,进一步降低位姿定位的计算量。对于自适应阈值的求取,可以确保在不同场景空间中,空间定位方法100的准确性。对于未检测到模板的情况下,采用全分辨率图像和降采样图像按照一定频率交替的方式进行处理,可以保证未检测到模板情况下的实时性和所述模板的有效测试距离。
如图4所示,根据本申请的一个较佳实施例的基于模板的空间定位方法的流程图得以被阐明。如图1至图4所示,先通过所述图像采集设备先获取所述第一连续预设帧图像,再检测所述连续第二预设帧图像是否采用局部自适应阈值,如果是则获取局部自适应阈值,若不是,则检测上一帧图像中的所述模板。若上一帧图像检测成功,则判断上一帧图像中所述图像采集设备与所述模板之间的距离是否大于所述距离阈值,若上一帧图像检测失败,则判断所述连续第二预设帧图像是否被降采样处理。若上一帧图像中所述图像采集设备与所述模板之间的距离小于或等于所述距离阈值,或者所述连续第二预设帧图像未被降采样处理,则对图像进行降采样处理;若上一帧图像中所述图像采集设备与所述模板之间的距离大于所述距离阈值,则对所述图像进行截图处理。对降采样处理、或截图处理或计算局部自适应阈值之后的图像进行模板检测。对模板检测后的图像进行坐标变换处理或者内参变换处理,再计算并输出相对位姿。如果当前帧图像是所述第一预设帧图像的最后一帧,则结束流程,如果当前帧图像不是所述第一预设帧图像的最后一帧,获取所述模板所在区域的自适应阈值,作为下一帧图像的二值化阈值,并重复上述预处理步骤至模板检测步骤。
如图5所示,依据本申请的另一个方面,本申请提供一种空间定位装置200,包括:一图像采集模块201,用于基于一图像采集指令,获取一场景中一模板的第一连续预设帧图像,其中,所述模板具有一组特征点,每一所述特征点具有一坐标;一预处理模块202,用于接收并预处理所述模板的图像,和用于获取所述第一连续预设帧图像的局部自适应阈值;一计算模块203,用于基于获取的所述模板的第一连续预设帧图像的局部自适应阈值,获取所述模板的特征点在图像中的坐标,和获取所述图像采集设备与所述模板之间的相对位姿,和基于一继续检测指令,获取所述模板所在区域的自适应阈值,作为下一帧图像的二值化阈值;以及,一输出模块204,用于输出所述图像采集设备与所述模板之间的相对位姿。
在本实施例的一种可能的实现方式中,所述预处理模块202进一步用于:响应于所述模板的第一连续帧图像未采用局部自适应阈值,获取所述模板的第一帧图像的局部自适应阈值;响应于所述模板的第一连续帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点匹配,获取所述模板与所述图像采集设备之间的距离;响应于所述模板的连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点未匹配,获取所述模板的第二连续预设帧图像的特征点的分辨率,并判断所述第二连续预设帧图像是否被降采样处理;响应于获取的所述模板与所述图像采集设备之间的距离小于或等于一距离阈值,或者所述模板的第二连续预设帧图像未被降采样处理,对所述模板的图像进行降采样处理;以及响应于获取的所述模板与所述图像采集设备之间的距离大于所述距离阈值,获取所述图像的一图像截图,其中,所述图像截图的中心坐标与所述模板中心在上一帧图像中的坐标重合。
如图6所示,依据本申请的另一个方面,提供一种电子设备300,包括:处理器301;以及,用于存储处理器可执行指令的存储器302,其中,所述处理器301被配置用于执行如上所述的基于模板的空间定位方法100。所述电子设备300可以被设置为终端、服务器或其他形态的设备。例如,所述电子设备300可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备或者个人数字助理等终端。
所述处理器301可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备300中的其他组件以执行期望的功能。
所述存储器302可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器301可以运行所述程序指令,以实现上文所述的本申请的各个实施例的用于基于模板的空间定位方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如特征点坐标,相对位姿等各种内容。
在一个示例中,电子设备300还可以包括:输入装置303和输出装置304,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,所述输入装置303可以是例如键盘、鼠标等等。所述输出装置304可以向外部输出各种信息,包括位姿计算结果等。该输出设备304可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图6中仅示出了该电子设备300中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备300还可以包括任何其他适当的组件。
除了上述方法和装置以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书所述基于模板的空间定位方法100中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书所述的基于模板的空间定位方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
本领域的技术人员应理解,上述描述及附图中所示的本申请的实施例只作为举例而并不限制本申请。本申请的目的已经完整并有效地实现。本申请的功能及结构原理已在实施例中展示和说明,在没有背离所述原理下,本申请的实施方式可以有任何变形或修改。

Claims (8)

1.一种基于模板的空间定位方法,其特征在于,包括:
通过一图像采集设备获取一场景中一模板的第一连续预设帧图像,其中,所述模板具有一组特征点;
对所述第一连续预设帧图像的第一帧图像进行预处理,获取所述第一帧图像的局部自适应阈值;
基于获取的所述模板的所述第一帧图像的局部自适应阈值,将获取所述第一帧图像中的特征点与所述模板的特征点进行匹配;
获取并输出所述图像采集设备与所述模板之间的相对位姿;
响应于未输出基于所述第一连续预设帧图像的最后一帧图像获取的所述图像采集设备与所述模板之间的相对位姿,获取所述模板所在区域的自适应阈值,作为下一帧图像的二值化阈值,并重复步骤:
对所述下一帧图像进行预处理,获取所述下一帧图像的局部自适应阈值;
基于获取的所述模板的下一帧图像的局部自适应阈值,将获取所述下一帧图像中的特征点与所述模板的特征点进行匹配;
获取并输出所述图像采集设备与所述模板之间的相对位姿;以及
响应于输出基于所述第一连续预设帧图像的最后一帧图像获取的所述图像采集设备与所述模板之间的相对位姿,结束对所述第一连续预设帧图像的处理;
其中,所述预处理步骤包括:
响应于所述模板的第一连续预设帧图像未采用局部自适应阈值,获取所述模板的第一帧图像的局部自适应阈值;
响应于所述模板的第一连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点匹配,获取所述模板与所述图像采集设备之间的距离;
响应于所述模板的第一连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点未匹配,获取所述模板的第二连续预设帧图像的特征点的分辨率,并判断所述第二连续预设帧图像是否被降采样处理;
响应于获取的所述模板与所述图像采集设备之间的距离小于或等于一距离阈值,或者所述模板的第二连续预设帧图像未被降采样处理,对所述模板的图像进行降采样处理;以及
响应于获取的所述模板与所述图像采集设备之间的距离大于所述距离阈值,获取所述图像的一图像截图,其中,所述图像截图的中心坐标与所述模板中心在上一帧图像中的坐标重合。
2.根据权利要求1所述的空间定位方法,其中,对所述模板的图像进行降采样处理步骤包括:
获取所述模板的图像的降采样参数;以及
基于所述降采样参数和一降采样算法,对所述模板的图像进行降采样处理。
3.根据权利要求2所述的空间定位方法,其中,获取并输出所述图像采集设备与所述模板之间的相对位姿步骤包括:
将处理后的图像中的所述特征点的坐标变换至处理前的所述图像中的所述特征点的坐标;
基于变换后的所述特征点的坐标,获取所述图像采集设备与所述模板之间的相对位姿;以及
输出所述相对位姿。
4.根据权利要求2所述的空间定位方法,其中,获取并输出所述图像采集设备与所述模板之间的相对位置步骤包括:
将所述图像采集设备的内参变换为降采样处理后的内参;
基于变换后的所述图像采集设备的内参,获取所述图像采集设备与所述模板之间的相对位姿;以及
输出所述相对位姿。
5.根据权利要求3或4所述的空间定位方法,其中,所述距离阈值基于所述图像采集设备的分辨率和所述模板的尺寸被设定,其中,所述图像截图的尺寸基于所述图像采集设备的在场景中的移动速度被设定。
6.一种空间定位装置,其特征在于,包括:
一图像采集模块,用于基于一图像采集指令,获取一场景中一模板的第一连续预设帧图像,其中,所述模板具有一组特征点,每一所述特征点具有一坐标;
一预处理模块,用于接收并预处理所述模板的图像,和用于获取所述第一连续预设帧图像的局部自适应阈值;
一计算模块,用于基于获取的所述模板的第一连续预设帧图像的局部自适应阈值,获取所述模板的特征点在图像中的坐标,和获取所述图像采集设备与所述模板之间的相对位姿,和基于一继续检测指令,获取所述模板所在区域的自适应阈值,作为下一帧图像的二值化阈值;以及
一输出模块,用于输出所述图像采集设备与所述模板之间的相对位姿;
其中,所述预处理模块还用于:
响应于所述模板的第一连续预设帧图像未采用局部自适应阈值,获取所述模板的第一帧图像的局部自适应阈值;
响应于所述模板的第一连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点匹配,获取所述模板与所述图像采集设备之间的距离;
响应于所述模板的第一连续预设帧图像采用局部自适应阈值,和获取的前一帧图像中特征点与模板中的特征点未匹配,获取所述模板的第二连续预设帧图像的特征点的分辨率,并判断所述第二连续预设帧图像是否被降采样处理;
响应于获取的所述模板与所述图像采集设备之间的距离小于或等于一距离阈值,或者所述模板的第二连续预设帧图像未被降采样处理,对所述模板的图像进行降采样处理;以及
响应于获取的所述模板与所述图像采集设备之间的距离大于所述距离阈值,获取所述图像的一图像截图,其中,所述图像截图的中心坐标与所述模板中心在上一帧图像中的坐标重合。
7.一种电子设备,其特征在于,包括:
处理器;以及
用于存储处理器可执行指令的存储器,其中,所述处理器被配置用于执行权利要求1-5任一所述的基于模板的空间定位方法。
8.一种计算机可读存储介质,用于存储计算机程序指令,其特征在于,所述计算机程序指令被处理执行时实现权利要求1-5任一所述的基于模板的空间定位方法。
CN201910270180.8A 2019-04-04 2019-04-04 基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质 Active CN111784769B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910270180.8A CN111784769B (zh) 2019-04-04 2019-04-04 基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910270180.8A CN111784769B (zh) 2019-04-04 2019-04-04 基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN111784769A CN111784769A (zh) 2020-10-16
CN111784769B true CN111784769B (zh) 2023-07-04

Family

ID=72755209

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910270180.8A Active CN111784769B (zh) 2019-04-04 2019-04-04 基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN111784769B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011107878A (ja) * 2009-11-16 2011-06-02 Seiko Epson Corp 位置検出装置、位置検出方法
CN106780554A (zh) * 2016-12-02 2017-05-31 南京理工大学 一种融合模板匹配和灰预测的目标跟踪方法
CN107403442A (zh) * 2016-05-19 2017-11-28 视辰信息科技(上海)有限公司 增强现实系统的跟踪方法和终端设备
CN108227920A (zh) * 2017-12-26 2018-06-29 中国人民解放军陆军航空兵学院 运动封闭空间追踪方法及追踪系统
CN108510525A (zh) * 2018-03-30 2018-09-07 百度在线网络技术(北京)有限公司 模板追踪方法、装置、增强现实系统及存储介质
CN108537845A (zh) * 2018-04-27 2018-09-14 腾讯科技(深圳)有限公司 位姿确定方法、装置及存储介质
CN108805917A (zh) * 2018-05-25 2018-11-13 网易(杭州)网络有限公司 空间定位的方法、介质、装置和计算设备

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4550110B2 (ja) * 2005-03-03 2010-09-22 パイオニア株式会社 テンプレートマッチング処理装置及び方法、ホログラム再生装置及び方法、並びにコンピュータプログラム
US8098889B2 (en) * 2007-01-18 2012-01-17 Siemens Corporation System and method for vehicle detection and tracking
EP3323109B1 (en) * 2015-07-16 2022-03-23 Google LLC Camera pose estimation for mobile devices
TW201730813A (zh) * 2016-02-26 2017-09-01 國立交通大學 具有深度資訊之影像處理方法及其電腦程式產品

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011107878A (ja) * 2009-11-16 2011-06-02 Seiko Epson Corp 位置検出装置、位置検出方法
CN107403442A (zh) * 2016-05-19 2017-11-28 视辰信息科技(上海)有限公司 增强现实系统的跟踪方法和终端设备
CN106780554A (zh) * 2016-12-02 2017-05-31 南京理工大学 一种融合模板匹配和灰预测的目标跟踪方法
CN108227920A (zh) * 2017-12-26 2018-06-29 中国人民解放军陆军航空兵学院 运动封闭空间追踪方法及追踪系统
CN108510525A (zh) * 2018-03-30 2018-09-07 百度在线网络技术(北京)有限公司 模板追踪方法、装置、增强现实系统及存储介质
CN108537845A (zh) * 2018-04-27 2018-09-14 腾讯科技(深圳)有限公司 位姿确定方法、装置及存储介质
CN108805917A (zh) * 2018-05-25 2018-11-13 网易(杭州)网络有限公司 空间定位的方法、介质、装置和计算设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
分层分区域管理的实时图像跟踪算法;孙延奎;苗菁华;;计算机辅助设计与图形学学报(04);全文 *
快速定位图像尺度和区域的3维跟踪算法;赵奇可;孙延奎;;中国图象图形学报(01);全文 *

Also Published As

Publication number Publication date
CN111784769A (zh) 2020-10-16

Similar Documents

Publication Publication Date Title
CN108960163B (zh) 手势识别方法、装置、设备和存储介质
US11423700B2 (en) Method, apparatus, device and computer readable storage medium for recognizing aerial handwriting
US8442269B2 (en) Method and apparatus for tracking target object
KR101534742B1 (ko) 차량용 제스처 인식 시스템 및 그 방법
EP2620907B1 (en) Pupil detection device and pupil detection method
KR102223478B1 (ko) 눈 상태 검출에 딥러닝 모델을 이용하는 눈 상태 검출 시스템 및 그 작동 방법
CN108875456B (zh) 目标检测方法、目标检测装置和计算机可读存储介质
CN109543534B (zh) 一种目标跟踪中目标丢失重检的方法及装置
CN111273772A (zh) 基于slam测绘方法的增强现实交互方法、装置
US11132586B2 (en) Rolling shutter rectification in images/videos using convolutional neural networks with applications to SFM/SLAM with rolling shutter images/videos
CN111784769B (zh) 基于模板的空间定位方法、空间定位装置,电子设备及计算机可读存储介质
CN103841340A (zh) 图像传感器及其运作方法
CN112766023B (zh) 目标对象的姿态确定方法、装置、介质及设备
CN103369127B (zh) 电子装置和图像撷取方法
CN113642493B (zh) 一种手势识别方法、装置、设备及介质
JP2015106307A (ja) 物体検出装置
CN114049473A (zh) 图像处理方法及装置
CN107562050B (zh) 一种机器人识别环境的方法及系统
CN112183271A (zh) 一种图像处理的方法及装置
US9697419B2 (en) Information processing apparatus, non-transitory storage medium encoded with computer readable information processing program, information processing system, and information processing method
CN107728908B (zh) 移动终端鼠标实现方法、移动终端以及可读存储介质
TWI581174B (zh) 系統資訊的顯示方法與系統
CN112541418B (zh) 用于图像处理的方法、装置、设备、介质和程序产品
CN113706429B (zh) 图像处理方法、装置、电子设备和存储介质
WO2023223704A1 (ja) 情報処理装置、情報処理方法、およびプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant